导语：机器人和人工智能技术的发展会对人类社会造成怎样的影响，机器人真的有可能获得类人甚至超越人类的智慧吗？ 如果真到那时，它们会不会异军突起统治世界，消灭人类种族或把我们当作低等的被奴役者呢？ 相信很多人都思考过这个问题，也有不少人会对这种可能的未来感到恐惧。作者就公众普遍较为关心或担忧的几个典型问题采访了三位不同领域的专家，来听听他们的看法吧。
关键词：机器人 人工智能 未来
机器宇航员比起人类更适合在太空中大展拳脚。
机器人可以为我们做很多事情：大到太空探索，小到修剪我们的脚指甲。但是机器人技术和人工智能的发展进步能藏得住背后那些潜在的威胁吗？下面，三位相关领域内的顶尖科学家就一些涉及人类与机器人关系的问题做出了各自的解答。
机器人该不该被用来殖民其他星球？
Martin Rees: 到本世纪末，整个太阳系－包括所有行星，卫星和小行星都将被人类探索到，并由微型机器人飞船组成的舰队进行测绘。下一步就是对小行星的开采，这样无需从地球上搬运所有原材料就能确保大型空间设施的建设。 所以在外太空进行大型人造设备的开发就会成为可能，包括零重力下安装的配有薄如蝉翼镜片的巨型望远镜，太阳能收集器，等等。我认为相比于所谓的“外星地球化”（指人为改造其他行星的大气环境以满足人类需求），这种方案更具可行性也更加友好，而外星大气环境是应该被维持在现有状况的，就像地球上的南极洲一样（至少在我们确定那个星球上没有任何形式的生命存在之前）。
Kathleen Richardson：我并不喜欢随意使用“殖民”这个词，不论是对人类还是机器人而言。欧洲人曾对其他民族的土地进行殖民的行径在历史上留下了一系列无法磨灭的印记：奴役，社会问题，疾病，还有很多人的受难历程。我认为不论在地球或是火星，我们做任何事都应该始终秉持真正为“外种族人”考虑的精神，本着去遇见“外种族人”的态度，不能生硬地把我们的特定模式强加上去。机器人可以帮助我们到达那些人类（受到自身物理条件限制）去不了的地方，但它们却并不能为我们解释所看到的东西。
Daniel Wolpert: 我并不觉得殖民其他星球是我们目前的迫切需要，除非能把外星资源带回到地球上。现在地球上还有很大一部分区域是我们无法到达的，利用机器人去收集那些离家更近的资源貌似是个更好的主意。
机器智能多快就能超越人类智慧了？
Martin Rees: 到目前为止，机器人技术领域的发展状况始终是碎片化的。
经过了至少30年的发展，我们现在能够花几英镑买到一台计算速度超过人类大脑的机器。但早在1990，IBM造出的“深蓝”就已经能击败世界象棋冠军－Kasparov。就在不久之前，一台名为“华生”的计算机在一个电视口头猜谜节目中拔得头筹。但是机器人仍旧受到它们感知周边环境能力的限制：它们辨识和移动一块真正棋盘上棋子的灵巧程度还不如人类幼童。不过到本世纪后期，它们那些更先进更发达的继承者们也许能像人类一样熟练地与环境（同样也与人类）进行交互。这就引发了一些道德问题。为了所有人类同胞，还包括某些动物种族，能够实现他们“与生俱来”的潜能，我们接受了自己应尽的社会和法律义务。那么我们对于高端精密机器人的义务又该如何划定呢？我们是否应该为压榨它们而感到惭愧呢？如果它们面临就业不足的问题，抑或感到沮丧和无聊时，我们应该为此而焦虑吗？
Kathleen Richardson：作为一个人类学家，我对这种将人类智能“物化”的观点表示质疑。正因为有了对于什么是智能的一种文化衡量标准，才会产生机器可能超越“人类智能”的认识。而何时机器会超越人类智慧，则取决于我们确定的智力衡量标准。这些标准即人类是什么，人类属性的独特性是什么；而对此每一代人都会重新做一次定义。因此当一种满足条件的机器出现时，人们就会悲观的感叹我们的种族已走到灭绝的边缘。这种对于机器（人）的恐惧并非源自机器本身，而是我们在制造机器人时使用的拟态模型（复制和展现方式）造成的。这可以被看作是泛灵论（又称：万物有灵论）的现代版本。泛灵论是把自然人格化，但我认为它同样也适用于机器。人类会把任何东西都人格化：我们既然能从云朵中看到人脸，从巫师配药用的大坩锅里看到神秘的预兆，自然也会把机器人看作一个具备自我意识的威胁。惧怕机器和机器人的那些人说得更多的是人类相互之间的恐惧，并没有涉及到太多机器人技术的问题。然而，思考这个问题可能会造成的后果之一却与机器人本身相关：如果我们的整个人类文化都倾向于认为机器人比它们本身更为强大和发达，那么它们最终就真的会发展成这样。
Daniel Wolpert: 狭义的来讲，在某些方面它已经做到了。机器的导航能力，对于条目的记忆和搜索能力早已是人类无法企及的了。但是，现在却没有一台机器对可视对象和语音的识别能达到人类那样可靠且灵活的识别。这些能力是获得任何真正智能的先决条件，没有这些能力是不可能做到创造性地理性思考，也不可能发现新问题。指望机器能在50年之内获得接近人类的创造性智慧是不大现实的。
我们是否该惧怕人工智能的发展？
Martin Rees：应该对此感到担心的是那些相信“奇点理论”的未来学家们。所谓“奇点”就是机器人掌控世界并且还能创造出更加高等的后代的时间点。还有一种观点是出于我们对互联网日益增长的依赖的担心。如果出现了一种具备独立意识的“机器大脑”，而它又可能会对人类怀有敌意的话就会引发可怕的后果。我认为我们应该确保机器人停留在“低能天才”的水平上，这样就不会有哄骗人类的能力，不过即便如此他们的计算和信息处理能力还是可能会远远超过我们。
Kathleen Richardson:我们需要问问自己为何惧怕人工智能和机器人的存在；它们实际上并没有真的揭竿而起，挑战人类的霸主地位。要想理解这些恐惧背后的动因，我们需要明白科学和技术有着一种特定的排他性的拟态模式。所谓拟态就是我们进行复制和模仿的方式。创造人工智能机器实际上就是复制和模仿人类的过程。其中一部分的复制源与制造者的精神世界直接相关，剩下的部分就是当前时期的文化精神（即科学，科技和生活）所催生的思想，技术方法以及实践经验。所有这些元素都融合在一起，经过锻造和提炼产生出了人工智能和机器人。因此我们真正要问的是：这种模仿为什么会让人如此害怕？当然并不是所有人都害怕机器人崛起；相当一部分人对机器智能（的发展）是持有积极接受态度的，并且把它看作是创造全新生活的大好机会。那么为了搞清楚为何会出现这种有人害怕有人接纳的情况，你就必须要知道机器人制造运用了什么样拟态模型。
Daniel Wolpert: 我们已经目睹过最简单的自我复制型人工智能模式所产生的破坏性后果了－它就是电脑病毒。但在这件事中，真正具有智慧的是病毒背后的恶意开发者。从严格意义上讲，电脑带来的益处和正面作用超过了电脑病毒带来的破坏。与之类似，即便不久以后有可能出现滥用机器人的状况，所产生的负面影响应该也不足以超过人工智能带来的好处。我认为人们有理由对机器智能可能超越人类的时代到来以及它们有能力开发出比它们自身更先进的机器人感到担心。
有关机器人，科幻小说又能告诉我们什么？
Martin Rees:我有时会建议学生们与其读二流科学作品还不如去读读一流的科幻作品，因为后者会更能激起读者的科学热情，说不定准确性也不会更差。即使是那些不相信本世纪中叶会出现奇点的人也会认为生物科技，纳米技术和信息科技领域就算不会经历飞跃式的革新，也会持续不断的产生创新成果。我的观点是几世纪之内肯定会出现智慧超越人类的机器人实体。后人类智能（不论是以有机体还是以可自我进化的非自然形式存在）开发出的超高级计算机将会具备足以模拟生物体乃至整个世界的计算能力。也许更高级的生命形态可以利用超高级计算机以同等的精密和复杂程度模拟出我们所感知到的世界，而那些电影和游戏中现有的最佳“特效”只能望其项背。而也许宇宙中某个角落早已存在这种超级智能了。
Kathleen Richardson:小说和科幻小说对我们的日常生活是非常重要的。在西方文化中我们倾向于认为小说和虚构作品与脱离现实的。并不是所有的种族文化中都存在这种分离现象，然而科学家和科技工作者们为了圈出自己领域会故意做出这种绝对化的区分。在此过程中他们刻意地贬低了很多有价值的知识，比如神秘学和隐喻学。这些知识对于发展出一个更丰富的文化模式可能非常重要。但实际上它们又不是完全泾渭分明的，这就是为什么不同领域会时不时发生相互碰撞的原因。在某些情况下我们需要把不同领域的知识和思想融合在一起，以得到一副完整全面的图景。也许到那时，我们就不会觉得我们制造出的那些人类的复刻品会有威胁性，也不会对它们感到如此害怕了吧。
Daniel Wolpert: 科幻作品经常在对未来的预言方面表现出色－从Arthur C Clarke提出的卫星通讯到星际迷航中的通讯徽章，不过与现代移动电话相比它们看起来好像已经过时了。科幻小说为可能的未来描绘出了很多生动鲜活的图景。从萌萌的机器人助手（星球大战）到反乌托邦的机器人社会（我，机器人）。有趣的是，几乎没有一部科幻作品会设想出一个没有机器人存在的未来。
1. Martin Rees 是剑桥大学宇宙论和天体物理学名誉教授
2. Daniel Wolpert是剑桥大学教授
3. Kathleen Richardson是伦敦大学学院人类学院助理研究员
（翻译：乔虹 审校：傅斓 ）
原文链接[科学美国人博客]：
https://theconversation.com/ask-the-experts-will-robots-take-over-the-world-16791
留言