人工智能正在改变人类生活的众多领域,人工智能和数据分析技术的快速发展,给经济、社会、治理等带来了深远影响。在此背景下,对“一切数字化”的政策、法律和伦理后果进行思考至关重要。6月12日,美国智库布鲁金斯学会召开第九届A. 阿尔弗雷德·陶布曼(A. Alfred Taubman)年度公共政策论坛“一个新时代的曙光:人工智能的机遇与挑战”。来自美国学术界、企业界、政界的专家学者,就人工智能进步展现的希望、风险,以及如何安全地从中获益展开讨论。

　　网络和现实安全的挑战

　　布鲁金斯学会主席约翰·R. 艾伦(John R. Allen)首先向与会专家提出一个问题:无论是在概念上还是在组织结构中,人工智能有能力给国家安全的几乎各个方面带来剧变;那么,人工智能对我们关于国家安全的思考最大改变是什么?

　　美国国土安全部高级研究项目局网络安全部副主任斯科特·图斯利(Scott Tousley)表示,人工智能无疑将给国家安全的方方面面带来巨大影响,尽管我们尚不知具体会如何发生。过去10年里,已有许多案例表明,人工智能可以同时促进网络攻击技术和网络防御技术的发展,它像其他许多新技术一样是一把“双刃剑”。人工智能或许是当前全球化世界中最具突破性的领域,美国、德国、韩国、俄罗斯、中国等都投入了大量资金,用于人工智能技术研发及相关的政策、法律问题的研究;各国不仅在技术层面上,也在社会层面上对人工智能技术进行“实验”或尝试。

　　人工智能给现实世界带来的安全挑战不容忽视,布鲁金斯学会研究员苏珊·汉尼斯(Susan Hennessey)认为,它将催生全新形式的“脆弱性”。例如,机器学习中使用的人工神经网络,在无人驾驶领域得到了广泛应用,尤其是用于图像识别,但原本无害的神经网络可能在遭受对抗样本(adversarial example)攻击后变成“杀人凶手”。关于对抗样本的一个常用举例,来自美国谷歌公司计算机科学家伊恩·J. 古德费洛(Ian J. Goodfellow)等人的一项研究:某个神经网络以57.7%的置信度将一张图片中的熊猫判断为“熊猫”,且“熊猫”类别是所有类别中置信度最高的,因此该网络得出“图片中的物体是一只熊猫”的结论。但在少量添加精心构造的噪声后,该神经网络就会以99.3%的置信度将图片中的熊猫判断为“长臂猿”,即使在人类看来图中物体依然是熊猫。此类例子表明,怀有不良意图者可通过欺骗人工智能,给世界造成巨大安全威胁。

　　及早设计制定治理框架

　　对于现在就建立针对人工智能的法律和政策框架,是否为时过早?来自马里兰州第6选区的美国众议院议员约翰·德拉尼(John Delaney)表示,美国政府的一大问题是不善于管理变化,由私人部门驱动的变化发生了,技术创新显然极大地改善了人们生活的各个方面,但也给特定的个人、教育系统、劳动力市场带来许多挑战,而政策制定者的职责是观察世界如何变化,然后更新基本的社会制度以便智慧地应对变化。2017年5月,德拉尼在众议院内部发起了人工智能党团会议(AI Caucus),目的是将政府内部、学术界和私人部门的专家聚在一起,探讨人工智能技术进步带来的机遇与挑战。同年12月,德拉尼和参议院、众议院的其他几位议员共同提出了《人工智能的未来法案》,其宗旨是为人工智能技术持续发展创造一个支持环境,并指定美国商务部设立一个联邦顾问委员会,评估新兴人工智能技术带来的经济机遇,以及对美国人生活各方面产生的影响。