全面监管人工智能 欧盟达成“历史性AI立法”

直新闻是深圳卫视全媒体新闻品牌

由《直播港澳台》团队出品

更多分析请下载直新闻APP

参与评论请在新浪微博@直新闻

据法新社消息，布鲁塞尔当地时间12月8日，经过三十几个小时“马拉松”式的激烈论辩，欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》终于达成一致协议。这一法案将成为全球首部人工智能领域的全面监管法规，意在保护人类基本权利和不阻碍人工智能行业发展之间寻求平衡。法案的技术细节内容还在讨论中，最终文本没有对外公布。

该法案草案仍需得到欧盟成员国和议会的正式批准。据路透社报道称，这项法案最早将于明年初生效。欧盟内部市场专员蒂埃里·布雷东坦言，这份协议将有助于欧洲“在全球人工智能竞赛中领跑”。

协议达成后，欧洲议会官网上9日更新了页面，公布了关于监管AI的重点内容，包括就通用人工智能达成保障措施、执法部门使用生物识别系统的限制、禁止使用人工智能进行“社会评分”等内容。此外，若有违规，罚款可高达750万欧元或营业额的1.5%到3500万欧元或全球营业额的7%之间。

首先，协议强调禁止人工智能对个人敏感特征、隐私的自主生成和学习的应用。例如通过种族、宗教、政治、性取向进行生物识别分类。协议也禁止从互联网或监控中无目的地抓取面部图像创建人脸识别数据库，或者是工作场所和教育机构中的情绪识别。禁止利用人们由于年龄、经济状况、身体缺陷等“弱点”对人类意志和行为进行操纵等。

彭博社报道称，该协议标志着欧盟在人工智能监管方面迈出关键一步。在美国没有采取任何行动的情况下，这一法案或将为发达国家对生成式人工智能工具的监管定下基调。

美国《纽约时报》报道称，该法规的许多细节预计在未来两年内都难以敲定，这为人工智能的发展留足了时间。直到谈判的最后一分钟，立法者和欧盟各国仍在为“如何在促进创新与防范可能的伤害间取得平衡”这一问题辩论。

人工智能将被限制？

各国相继携手出台措施

在达成协议之前，欧盟各成员国和欧洲议会议员已就应如何管控人工智能进行了多年的讨论。2021年，欧盟委员会就曾提议通过《人工智能法案》。在去年ChatGPT发布后，监管人工智能变得紧迫起来，包括中国、美国、英国在内的国家，都在快速地推进关于人工智能治理的规则建设。

10月30日，美国就人工智能出台了“关于安全、可靠和可信地开发和使用人工智能”的行政命令，提出AI安全新标准。该行政命令提出依据八项指导原则和优先事项推进人工智能的开发和使用，包括：为人工智能制定新的安全标准；保护美国人隐私；促进公平和公民权利；维护消费者、病人及学生权益；支持工人；促进创新和竞争；提升美国在海外的领导力；确保政府负责任且有效地使用人工智能。

有法律专家认为，一方面“行政命令”是强化对于产业链、供应链的管控话语权；另一方面，通过信息披露、情报共享，实现安全和风险的溯源管制。

今年7月，中国国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》，自8月15日起施行。10月18日，中央网信办又发布《全球人工智能治理倡议》。该倡议从发展、安全和治理三个维度出发，提出了11项倡议。其中提到，支持以人工智能技术防范人工智能风险，人工智能需辩证看待，它可能会产生“深远的影响”，同时也带来“不可预测的风险和复杂的挑战”。

值得注意的是，在11月中美元首旧金山会晤后双方达成的二十多项共识里，有一项专门关于人工智能作出阐述——中美双方同意建立人工智能政府间对话机制。

同月，在首届全球人工智能安全峰会上，中国和其他 27 个国家和欧盟也签署了一项关于人工智能的重要协议，即《布莱切利宣言》，该协议促进“对前沿人工智能带来的机遇和风险的共同理解，以及各国政府共同努力应对最重大挑战的必要性”。

中方当时就指出，人工智能治理攸关全人类命运，是世界各国面临的共同课题。发展人工智能，应当积极倡导以人为本，智能向善，加强技术风险管控，并在相互尊重、平等互利的原则基础上，鼓励各方协同共治，增强发展中国家在人工智能全球治理中的代表性和发言权，不断弥合智能鸿沟和治理能力差距。中方愿与各方一道就人工智能安全治理加强沟通交流，为推动形成普遍参与的国际机制和具有广泛共识的治理框架积极贡献智慧，切实落实全球发展倡议、全球安全倡议和全球文明倡议，促进人工智能技术更好造福人类，共同构建人类命运共同体。

辩证看待人工智能：

限制性措施不等于不发展

科幻爱情电影《她》剧照，2014年第86届奥斯卡最佳原创剧本奖 图源：豆瓣

10年前，当人工智能还存在于科幻影片中、未大范围应用到人类生活时，在上海取景的奥斯卡金像奖影片《她》，已经预演了当AI有学习模仿能力和自主意识后的悲剧性场面。我们要警惕高度科技文明带来的异化，但在人类文明进程中，人工智能已经是绕不开的节点，在人工智能国际竞争日益激烈的背景下，也许“不发展就是最大的不安全”更加突出。

尽管各国都相继出台限制性措施，但对外经济贸易大学数字经济与法律创新研究中心执行主任张欣认为：“一系列治理文件恰是在全球人工智能治理新秩序形成过程中的必然阶段。”近期出现的一系列技术及其应用使人类正以前所未有的速度逼近通用人工智能。

专注于安全软件评测的媒体机构Solutions Review对2024年人工智能行业进行了预测，多位业内企业家表达了对人工智能发展的考量。前谷歌支付业务负责人凯撒·森古普塔说道，“面对企业数字化转型，就不可能绕开人工智能。”人工智能在社会面的发展重点还是在于对技术本身的监管和使用，目前来看，人工智能成功将网络的安全问题、技术伦理道德带入到公共议题中。

诺贝尔经济学奖得主迈克尔·斯宾塞认为，要为AI发展创建一个“平衡议程”，人类不光需要遏制AI发展带来的负面结果和风险，还需要确保AI发展的积极结果能够在经济中充分地分散和传播。

来源|欧洲议会官网、美国白宫官网、环球网、21世纪经济报道、美国CNBC电视台、英国BBC

作者|王思婳，深圳卫视直新闻编辑

编辑|俞哲旻，深圳卫视直新闻主编

排版|聂倩玉，深圳卫视直新闻编辑

推荐阅读

更多精彩内容 搜索微博“直新闻”