马斯克后悔干的事，全球都紧张了

直新闻是深圳卫视全媒体新闻品牌

由《直播港澳台》团队出品

更多分析请下载直新闻APP

参与评论请在新浪微博@直新闻

ChatGPT创造者呼吁美政府

加强对AI的监管

山姆·阿尔特曼出席参议院司法委员会的听证会，图源：《联合早报》

当地时间5月16日，开发ChatGPT的美国人工智能公司OpenAI的首席执行官山姆·阿尔特曼在参议院一场听证会上，呼吁美国政府加强对快速发展的人工智能领域的监管。

据外媒报道，阿尔特曼在参议院司法委员会下属的隐私、技术和法律委员会举办的听证会上就人工智能监管表示，他支持成立一个联邦机构，对具有某些“关键能力”的人工智能模型设立许可证制度。如果模型不符合政府制定的安全准则，则可以撤销其许可。他也认为，像OpenAI这样的公司应该接受独立审计。

他还建议，政府应为高性能人工智能模型制定安全标准，并制定模型必须通过的特定功能测试。

阿尔特曼虽未明确说明监管门槛的标准，但他表明，“政府监管、干预对于降低人工智能工具所带来的风险至关重要”。

阿尔特曼说，人工智能的潜力可能和当初印刷业技术刚刚出现时一样巨大，但他也承认人工智能有潜在的危险。他还承认人工智能可能对经济产生的影响，包括人工智能技术可能取代一些工作岗位，导致某些领域裁员，“这将冲击就业机会。我们尽可能非常明白地坦承这一点”。

阿尔特曼也对人工智能对民主的潜在影响，以及在选举期间可能被用来发送有针对性的错误信息，表示担忧。

出席当天听证会的两党参议员明显都支持成立一个新机构来监管AI聊天机器人这一新兴行业。美国共和党参议员霍利说，AI聊天机器人可能具有革命性，但这项新技术也像原子弹的发明。民主党参议员布卢门撒尔说，由AI聊天机器人主导的未来“不一定是我们想要的未来”。他警告说：“我们需要最大限度地利用它的好处而不是它的坏处。国会现在可以做出一个选择。我们在社交媒体面世时也面对了选择。我们已错过一次机会。”

为何人工智能创造者主动要求监管？

OpenAI 2022年发布了火爆全球的聊天机器人程序ChatGPT。ChatGPT能够通过理解和学习人类语言来进行对话，甚至撰写文案等。ChatGPT发布后立刻引发各界关注。有教育工作者担心ChatGPT会导致学生在完成作业时作弊，也有专家担忧ChatGPT会误导公众、违反版权保护法规等。

在OpenAI开发ChatGPT后的短短几个月内，市场上就出现了好几款这类AI模型，包括谷歌在内的多家大公司也都纷纷推出了自己的AI程序。

新加坡《联合早报》的报道称，ChatGPT和其他类似的AI程序可以创建极度像人类的答案，但它们在回答问题时，也可能提供大错特错的答案。

今年3月，美国推特公司CEO马斯克和人工智能领域顶尖专家本吉奥等千人联名签署了一封公开信，主张在开发强大的AI系统之前，应先确认其带来影响是积极的、风险是可控的，并呼吁暂停开发比GPT-4更强大的AI系统至少6个月，称其“对社会和人类构成潜在风险”。

马斯克4月曾接受福克斯新闻台采访

特斯拉CEO马斯克在美国福克斯新闻台4月17日播出的采访中还提出，AI可能演化为人类无法控制的“数字上帝”，人工智能“有破坏文明的潜力。”马斯克说：“如果我们只是在可怕的事情发生后才对人工智能实施监管，那么实施监管可能为时已晚，那时人工智能可能已经取得控制。”

马斯克透露，他与前总统奥巴马唯一的一次会面，不是推销自己的特斯拉和太空探索火箭发射项目，而是鼓励他推动制定对AI的监管政策。

ChatGPT的研发机构OpenAI实验室正是马斯克投资创立的。但马斯克在此次采访中表示，对合作创办OpenAI感到后悔，批评OpenAI脱离初衷，从非盈利的立场转向了盈利目的。

值得注意的是，OpenAI主要股东微软公司的竞争对手、谷歌公司CEO桑达尔·皮查伊也公开呼吁政府对AI发展进行规范。美国哥伦比亚广播公司4月16日播出的《60分钟》新闻节目中，皮查伊说：“我们正在不断开发更好的算法来检测垃圾邮件。我们需要对深度伪造、音频和视频做同样的事情。久而久之，必须有监管。制作对社会造成伤害的深度伪造视频必须面临后果。”

有美媒认为，科技界领袖呼吁政府监管并不意味着他们自愿给自身发展带上镣铐。美国布鲁金斯学会人工智能和新兴科技倡议项目政策总监杰西卡·布兰特接受媒体采访时说：“商界领袖明白，监管机构将密切关注这一领域，如何影响监管者将采用的方法关乎他们的利益。”

全球AI标准成下一个新的竞争领地？

日媒：人工智能是G7峰会重要话题

随着ChatGPT等人工智能应用快速发展，多国国政府机构开始重视该应用并对其加强监管。

5月初，美国副总统哈里斯会见了微软、谷歌和另外两家开发人工智能的公司的负责人，讨论人工智能的潜在风险。拜登政府明确向这些企业高层表示，他们必须在推出产品之前确保其安全性。

3月31日，意大利个人数据保护局宣布即日起暂时禁止使用ChatGPT，欧盟的多个国家也开始跟进，在整个欧盟层面也开始酝酿具体监管措施。

欧盟正在试图通过的《人工智能法案》备受外界关注，该法案希望建立全球首个全面的人工智能监管计划，旨在确保推行到市场的AI应用安全、可信任，并试图将欧盟标准推向全球。

英国政府也在通过英国标准学会、国家物理实验室与阿兰·图灵研究所的合作，期望领导制定全球AI技术标准，同时表示将通过国际合作，“以确保技术标准的发展由广泛的人工智能专家根据共同价值观来制定”。

3月29日，英国政府发布《支持创新的人工智能监管方式》。图片来源：英国政府官网

4月11日，中国网信办发布有关生成式人工智能服务管理的规定草案，

提出利用生成式人工智能产品向公众提供服务前，应当按照规定向国家网信部门申报安全评估，并按规定履行算法备案和变更、注销备案手续。同时，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

日本总务大臣松本刚明与日本数字大臣河野太郎出席G7数字与技术部长会议

在即将举行的日本广岛G7峰会上，人工智能监管预计也将成为热点话题。《日本时报》网站16日发表了以《在繁忙的G7议程中，生成式AI仍然很重要》为题的报道称，G7领导人预计将谈及ChatGPT等人工智能应用的兴起，以及更多国家如何监管跨境数据流动。

4月下旬，七国集团数字与技术部长会议为广岛峰会奠定了基础，部长们同意在这一领域加强协调。主持与人工智能相关讨论的日本总务大臣松本刚明表示，几乎所有部长都强调需要进行更多的G7级别会谈以加快协调。

他们还同意人工智能技术应该“以人为中心”的观点，同时表示反对使用会“破坏民主价值观”的人工智能。

松本上周表示，人工智能将成为广岛峰会的主要议程项目之一，但目前尚不确定G7领导人将讨论这个话题的深度以及他们打算达成什么共识。

日本首相岸田文雄15日在接受当地媒体采访时表示，日本希望发起一项名为“广岛人工智能进程”的倡议，以创建一个起草人工智能规则的国际框架。

预计不同国家和地区将对生成人工智能应用采取自己的立场，但七国集团技术部长一致认为需要一定程度的标准化。

在全球数字经济快速发展的背景下，越来越多的国家纷纷出台监管数据流动的法规，以促进国家安全、保护数据隐私和国内产业。

BBC报道指出，世界大国在AI技术方面竞争的同时，如何树立可以推行全球的AI标准俨然成为一个新的竞争领地，但AI标准、特别是道德定义和对权利的保护标准能否放之四海皆准尚无定论。此外，技术发展日新月异，立法者对于新机构能否赶得上先进技术的发展仍心存疑问。

来源|中新网、联合早报、BBC、《日本时报》

作者|俞哲旻，深圳卫视直新闻主笔

编辑|赵楠，深圳卫视直新闻主编

排版|丘慧，深圳卫视直新闻编辑

推荐阅读

更多精彩内容 搜索微博“直新闻”