著名物理学家斯蒂芬·霍金去世了，享年76岁。

　　至少有3个关键词，是提到霍金总避不开的：黑洞、外星人、人工智能。

　　人们对霍金的钦佩，始于他的主要研究领域——宇宙与黑洞。而霍金更为公众所知也更超前的，是他对寻找外星人的创新性观点，以及对人工智能的独特态度。

　　2017年腾讯we大会上，霍金在演讲中说，人类要想长久且持续地发展，必须加快探索外星的步伐，他还充分展示了他的“突破摄星”计划，希望该计划可以让人类早日实现星际航行。

　　2017年4月在北京举办的全球移动互联网大会上，霍金说，人类需要警惕人工智能发展带来的威胁。下面是霍金此次演讲的译文。言犹在耳，斯人已逝。他在演讲末尾祝福我们，现在，我们也祝福他一路走好。

　　人工智能可能终结人类文明

　　——物理学家史蒂芬·霍金的演讲

　　我的一生中，我见证了许多深刻的社会变化。其中最深刻、对人类影响与日俱增的变化就是人工智能的崛起。简单地说，我认为人工智能的崛起，要么是人类历史上最好的事，要么是最糟的事。是好是坏，我们依然不能确定。但是，我们应该竭尽全力确保其未来发展对我们的后代和环境有利。我们别无选择。我认为人工智能的发展，本身是一种存在着问题的趋势，而这些问题必须在现在和将来得到解决。

　　探讨人工智能的崛起

　　人工智能的研究与开发正在迅速推进。也许科学家应该暂停片刻，把研究重点从提升人工智能的能力转移到增强人工智能的社会效益。基于这样的考虑，美国人工智能协会于2008—2009年成立了人工智能长期未来总筹论坛。人工智能系统必须要按照我们的意志工作。那么跨学科研究也许是一条可行的道路：涉及经济、法律、哲学，以及计算机安全、形式化方法，当然还有人工智能本身的各个分支。

　　文明产生的一切都是人类智能的产物，我相信总有一天，生物大脑会达到计算机达到的程度，且没有本质区别。因此，这遵循了“计算机在理论上可以模仿人类智能，然后超越”这一原则。但是，我们无法知道我们将得到人工智能的帮助，还是被藐视、被边缘化，或者很可能被它毁灭。的确，我们担心聪明的机器能够代替人类从事工作，并迅速消灭数以百万计的工作岗位。

　　人工智能不断发展，并被证明非常有用。同时，我也在担忧这样的结果：创造出等同或超越人类的人工智能，一旦其脱离束缚并以不断加速的状态重新自我设计时，人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代。未来，人工智能可能发展出自我意志——与我们冲突的意志。　

　　调研人工智能的影响

　　2015年1月份，我和科技企业家埃隆·马斯克，以及其他一些人工智能专家签署了一份关于人工智能的公开信，目的是倡导针对人工智能对社会所造成的影响进行认真的调研。

　　过去20年里，人工智能一直专注于建设智能代理（即在特定环境下可以感知并行动的各种系统）所产生的问题。智能是一个与统计学和经济学相关的理性概念，通俗地讲，是一种能做出好的决定、计划和推论的能力。基于这些工作，大量的整合和交叉孕育被应用在人工智能、机器学习、统计学、控制论、神经科学以及其他领域。共享理论框架的建立，结合数据的供应和处理能力，在各种细分的领域取得了显著的成功，例如语音识别、图像分类、自动驾驶、机器翻译、步态运动和问答系统。

　　随着这些领域的发展，从实验室研究到有经济价值的技术，形成了良性循环。哪怕很小的性能改进，都会带来巨大的经济效益，进而鼓励更长期、更伟大的投入和研究。目前人们广泛认同：人工智能的研究正在稳步发展，而它对社会的影响很可能还在扩大。

　　潜在的好处是巨大的，但我们无法预测我们会取得什么成果。正如我说的，根除疾病和贫穷并不是完全不可能，由于人工智能的巨大潜力，研究如何（从人工智能中）获益并规避风险是非常重要的。

　　短、长期看待人工智能

　　目前，关于人工智能的研究正在迅速发展，这一研究可以从短期和长期来讨论。

　　短期担忧

　　无人驾驶方面，从民用无人机到无人驾驶汽车，紧急情况下，一辆无人驾驶汽车不得不在小风险的大事故和大概率的小事故之间进行选择。致命性智能自主武器方面，它们是否该被禁止？如果是，那么“自主”该如何精确定义？如果不是，任何使用不当和故障的过失应该如何被问责？其他方面，由于人工智能逐渐可以解读大量监控数据，可能造成隐私方面的担忧。另外的担忧是如何管理因人工智能取代工作岗位带来的经济影响。

　　长期担忧

　　长期担忧主要是人工智能失控的潜在风险。随着不遵循人类意愿行事的超级智能的崛起，强大的系统可能威胁到人类。这种错位是否会发生？如果会，这些情况是如何出现的？我们应该投入什么样的研究，才能更好地理解和解决危险的超级智能的崛起或智能爆发的出现？

　　当前控制人工智能技术的工具，例如强化学习，简单实用的功能还不足以解决这系统失控的问题。因此，我们需要进一步研究，找到和确认一个可靠的解决办法来掌控这一问题。

　　近来的里程碑，比如之前提到的无人驾驶汽车，以及人工智能赢得围棋比赛，都是未来趋势的迹象。我们目前所取得的成就，和未来几十年后可能取得的成就相比必然相形见绌，而且我们远不能预测我们能取得什么成就。也许在这种新技术革命的辅助下，我们可以解决一些工业化对自然界造成的损害。关乎我们生活的各个方面都即将被改变。简而言之，人工智能的成功有可能是人类文明史上最大的事件。

　　但是，人工智能也有可能是人类文明史的终结，除非我们学会如何避免危险。我曾经说过，人工智能的全方位发展可能招致人类的灭亡，比如最大化使用智能性自主武器。目前，9个核大国可以控制大约14000个核武器，这些核武器失去控制后可能将城市夷为平地，放射性废物会大面积污染农田，最可怕的危害是诱发核冬天，火和烟雾会导致全球的小冰河期。这一结果使全球粮食体系崩塌，末日般动荡，很可能导致大部分人死亡。作为科学家，我们对核武器承担着特殊的责任。正是科学家发明了核武器，并发现它们的影响比最初预想的更加可怕。

　　我对人工智能的灾难探讨可能惊吓到了各位，很抱歉。但是作为今天的与会者，重要的是，在影响当前技术的未来研发中，你们要清楚自己所处的位置。

　　我相信我们团结在一起，来呼吁国际条约的支持或者签署呈交给各国政府的公开信，科技领袖和科学家正极尽所能避免不可控的人工智能的崛起。我们对潜在危险有所意识，我内心仍秉持乐观态度，我相信创造智能的潜在收益是巨大的。也许借助这项新技术革命的工具，我们将可以削减工业化对自然界造成的伤害。

　　人工智能的未来进展

　　欧洲议会呼吁起草一系列法规，以管理机器人和人工智能的创新。令人惊讶的是，这里涉及一种形式的电子人格，以确保最有能力和最先进的人工智能尽到其应尽的权利和责任。

　　欧洲议会发言人评论说，随着日常生活中越来越多的领域日益受到机器人的影响，我们需要确保机器人无论现在还是将来，都为人类服务。

　　向欧洲议会议员提交的报告，明确认为世界正处于新的工业机器人革命的前沿。报告中分析了是否应该给机器人提供作为电子人的权利。报告强调，任何时候，研究和设计人员都应确保每一个机器人设计都包含有终止开关。报告承认在几十年的时间内，人工智能可能会超越人类智力范围，进而挑战人机关系。报告最后呼吁成立欧洲机器人和人工智能机构，以提供技术、伦理和监管方面的专业知识。

　　人工智能发展进程中，我们还应该扮演一个角色，确保下一代不仅有机会还要有决心。我们需要跳出“事情应该如何”这样的理论探讨，并且采取行动，以确保他们有机会参与进来。

　　我们站在一个美丽新世界的入口。这是一个令人兴奋的、同时充满了不确定性的世界，而你们是先行者。我祝福你们。

本文来自《科学画报》