人工智能、机器人的安全性：一个愈发难以忽视的问题

2019 年 1 月 19 日起，EmTech China 2019 全球新兴科技峰会于北京国贸大酒店正式举办，来自世界各地的约70位顶尖科学家和科技公司领袖，分享了他们对于科技趋势的独家见解。曾被《时代》杂志评为 100 名最伟大的科学家之一的“万维网之父”，拥有超过 120 年历史的美国超级企业领导人，全球最“性感”数据科学社区创始人等等也莅临现场。

1 月 20 日上午的 “未来工作” 板块的圆桌讨论中，在现场主持人《麻省理工科技评论》人工智能领域（AI）资深主编 Will Knight 主持下，戴尔易安信研究员 Radia Perlman、卡耐基梅隆大学机器人学院教授 Katia Sycara 就目前人工智能环境、区块链等议题，发表了自己的看法。

图丨《麻省理工科技评论》人工智能领域（AI）资深主编 Will Knight 、戴尔易安信研究员 Radia Perlman、卡耐基梅隆大学机器人学院教授 Katia Sycara（来源：DeepTech）

以下为会议现场嘉宾发言讨论内容（略有删减）：

问：我们都知道，有个技术会改变各个产业，改变各种各样的工作，它就是区块链，你可不可以给我们说一下，什么是区块链？

Radia Perlman：我们都知道比特币背后的这项技术，很多人都在讨论区块链技术，但是，我们要在实际应用中将区块链演化成各种各样新的技术，区块链可以为我们带来非常强有力的加密算法，以及很好的储存技术，所以对区块链的定义会越来越模式化。

对于区块链业务，一直都有很多宣传，因为我们知道，通过比特币有很多人盈利了，通过区块链、比特币这样的技术赚到了很多钱，但是也有很多人被迫开始使用这样的技术，因为他们需要进行管理，而我们认为，这项技术就是未来。

（图片来源：DeepTech）

问：我们想知道，机器人会如何改变我们的人类生活，包括人工智能？现实生活是什么样子呢？人机协同有很大的潜力，所以你觉得机器人是否会取代人类呢？

Katia Sycara：机器人肯定会取代人类，尤其是一些手动的重复性工作领域，比如说在工厂、供应链方向等。

但是另一方面，当我们说到机器人和人互动的时候，这个是很难的。首先机器人很难理解人们的行为，这是因为人的行为具有一定的社交性，其中会有很多复杂的情况。这个时候，如果机器人的行为会以人为导向，很难进行建模，只能建立一个专门的数据库，来应对各种各样不同的环境和场景。

问：其实我们现在会有一些像 Google Home这样的智能设备，他们也被应用到了我们的社交生活当中，你认为，未来，这些产品与机器人相比会有优势吗？

答：智能设备只有单向互动，而机器人的行为需要学习人类，拥有双向互动。现在会有一些像 Google Home 这样的智能设备，被应用到我们的社交生活当中，而这些社交过程，是需要双向互动的，机器人是符合这一条件的。机器人拥有自主性，会自动的理解内容，并且参与决策，自主学习，最终有希望会形成自己的想法。

问：可能从无人驾驶领域来看，如果有 5G 的话，可能发展的会更好，而且很多公司也在争相进入这个市场。你们认为，未来整个无人驾驶的世界会是什么样的？

Radia Perlman：如果驾驶无人汽车出了事故，可能人们会放大它，有很多负面评价。但实际上，我们可能需要去考虑无人驾驶带来的未来关系与发展。

比如说，在高速公路上，行驶的无人驾驶汽车想要去并道，或者是其他的交通情况，它会自主的去做决策，背后的算法识别可能考虑的没有那么健全，这个时候就需要我们设计物体的识别。

Katia Sycara：如果人坐在一个无人驾驶的汽车上，只看书，不路况，这个时候警报响了，那么人类如何在了解当时发生的情况下，毫秒之间做出下一步反应与决策？这个可能是非常困难的。在无人驾驶过程中，人类把这个驾驶权交给了汽车，在危机的情况下，如何处理这种权利的交接？这可能是需要人们考虑与无人驾驶之间的关系与影响。

Radia Perlman：其实我觉得人和人之间是相通的，但是可能有些人胆大，有些人胆小，甚至可能还有酒驾的问题，或者是人们开车的时候喜欢发短信，所以，可能的确有很多不同的情况。我觉得如果真的无人驾驶和有人驾驶结合在一起，共同发展的话，情况会变的更加复杂。

问：我在想，你们二位对于机器学习还有安全性的问题，是如何看待的？比如说机器学习它的确带来了很多的复杂性，算法的能力也在不断的发展，可能会为我们带来很大的变化，对于网络安全性来说，你们怎么看？

Radia Perlman：其实我有一点担心，比如说对于这种入侵式的识别，可能这个机器人它不会觉得说周围的环境会有危险的，除非有一些以外发生，或者是奇怪的事情发生。人其实了解机器运作的模式，这种情况下，对于整个交通环境来说是好的，但如果突发意外，有紧急的情况发生，这个时候我们应该怎么响应，这可能是我们需要考虑的课题。

Katia Sycara：深度学习其实和单纯的图像理解是不一样的，比如说有的是持续性的，有的是次序性的，会有一些不同点。如果我们去训练这种深度学习，或者是深度强化学习，是需要过程的，需要让他逐渐的去了解更困难的挑战。而且我们需要去解决非常复杂的问题。

所以说，机器人的行为是很难预测的，因为不知道最后会获得什么样的反应与回答。对于次序性的模型，我们在实际生活中训练的时候，可能需要考虑它最后的后果。目前，我们可以把整个学习进行集成、强化，不断地优化过程，需要相互支持与合作。