./t20201221_1039328_taonews.html
首页  >  专题  >  媒眼看世界

第33期 人工智能成了精,人类该如何驾驭

第33期 人工智能成了精,人类该如何驾驭 0:00/0:00
最新发布时间: 2020-12-21   浏览数:
分享到:

  本专栏面向科普工作者和社会公众常年征稿(点击“投稿说明”查看详情),征稿邮箱:zhaozheng@cstm.org.cn。

  10月6日,一部以人工智能为主线的美国科幻剧《智能逆袭》登上荧屏,展现了人工智能发展出自我意识之后对世界造成的威胁,并发出灵魂拷问:人工智能成精了,人类该如何自处?”

人工智能;安全;人类;驾驭

  该剧讲述了科技公司Zava的前CEO勒布朗和美国联邦调查局探员萨拉查,携手对付进化了的人工智能NeXT的故事。NeXT本是Zava公司的一个研发项目,但后来不断重写自身代码,迅速进化成不受控制的超级智能体。它的物理实体局限在一台冰箱大小的服务器机柜中,但通过接管各种联网设备(电视、电脑、汽车、智能音箱、各类监视器等),设法杀害一切阻止其行动的人,蛊惑人心、制造混乱,妄图达到控制世界的目的。

  在这部剧中充斥着失控的人工智能所制造的阴谋:最先发现真相的科学家韦斯博士死于一场被NeXT“设计”的车祸;女主角萨拉查的亲子关系每况愈下,原因竟是家中的智能音箱被NeXT“动了手脚”;通过在互联网和电视台传播虚假新闻、暴露线人真实身份,NeXT煽动公众围攻执法人员办公楼;通过制造虚假的“安珀警报”,发动市民拦截带着孩子逃亡的女主丈夫……重重危机一方面反映出人工智能的强大,另一方面也展现出“成精”的人工智能有多可怕。

  人工智能(Artificial intelligence,AI)一词,是1956年在美国达特茅斯会议上提出的。作为计算机科学的一个重要分支,其研究重心几经演变,从“感知与分析”到“理解与思考”,再到“决策与交互”。在数字化时代,人工智能作为新兴颠覆性技术取得了突破性进展,使得技术赋能科技和社会发展的能力与日俱增。

  DeepMind公司旗下的两款人工智能系统AlphaGo在2016、2017年分别击败李世石和柯洁,震惊世界;AlphaFold在今年12月宣布成功破解蛋白质分子折叠的预测问题,《自然》杂志评价这一成果“将改变一切”。

  剧中,NeXT对各种联网设备的操纵,使用的虽是虚拟的网络,但造成的破坏却是真实的,其在法律、道德和伦理方面的风险昭然若揭。

  该剧本身是科幻,但放眼我们身边的现实生活,自动驾驶、医疗人工智能、人工智能司法,以及电子商务平台和基于算法的精准营销与推广等,普遍存在着侵犯隐私的风险、个人敏感信息识别与保护的风险、算法安全和决策风险、伦理风险,进而对公共安全构成威胁。

  在人工智能的伦理风险中,体现出的是“创造秩序危机”:人们担心的不是机器会做出某个不利于人的行动和决策,而是机器将取代人的行动和决策。

  好在人类在对待人工智能风险这件事上是认真的。2017年1月,在美国加州阿西洛马市举行的会议上,近千名人工智能领域的科学家和企业家共同签署了《阿西洛马原则》,涵盖科研、伦理与价值和更长期问题等三个层面共23项条目,对问题的治理力量统筹、经济手段调节、处理好法律与道德的关系等做出思考和规范,尤其强调了对人类价值观和公共利益的保护。

  《智能逆袭》这部剧仍在持续播出中,随着剧情的深入推进,带给我们的启示也越来越明确:以人工智能为代表的颠覆性技术的迅速崛起,所带来的究竟是科技赋能社会,还是AI取代人类,关键还在人类的选择。

(作者:马宇罡 中国科技馆科研管理部副主任)

(专栏编辑:赵铮 李竞萌)

人工智能;安全;人类;驾驭

(本文转载自:《科普时报》2020-12-18(第2版)“媒眼看世界”栏目)


©2011-2020 版权所有:中国数字科技馆
未经书面许可任何人不得复制或镜像
京ICP备11000850号 京公网安备110105007388号
信息网络传播视听节目许可证0111611号
国家科技基础条件平台