近日,科技巨头OpenAI再度上演“内斗”大戏,前员工公开批评其安全问题和缺乏透明度。同时,美国政府对AI领域的监管也在升级,微软、OpenAI和英伟达面临反垄断调查。在AI技术迅猛发展的背后,如何平衡创新与监管,确保科技健康发展,成为摆在全球面前的重大课题。首先,让我们先看看OpenAI的内部危机。
前OpenAI员工阿申布伦纳的解雇事件,揭开了这家公司内部的一系列问题。据Transformer报道,阿申布伦纳因向董事会成员分享了一份关于OpenAI安全问题的备忘录而遭到解雇。
紧接着,13位来自OpenAI和Google DeepMind的前员工与现员工联合发布了一封公开信,直指AI公司在开发和推广技术时常常忽视安全问题,并呼吁建立更透明和更负责任的监管机制。这封公开信得到了包括加州大学伯克利分校计算机科学教授等多位知名AI学者的支持。
公开信中,这些员工和学者们表达了对AI技术可能带来的严重风险的担忧,包括加剧现有的不平等、操纵和误导信息、以及失控的自主AI系统可能导致人类灭绝。
他们强调,AI公司有强烈的财务动机避免有效的监督。像OpenAI最初是一个非营利研究实验室,其使命是“确保通用人工智能(AGI)造福人类”。然而,随着公司的转型和发展,其重点逐渐转向了利润和增长。公开信中的一位签署人表示:“公司对构建AGI感到十分兴奋,正在与其他公司进行鲁莽的竞争,力求成为第一家实现AGI的公司。”
而广泛的保密协议阻止了员工表达自己的担忧。他们呼吁AI公司不应继续签订或执行任何不诋毁条款、支持公开批评的文化,并保证不会对批评者进行任何报复。
除了内部矛盾,在外部,美国政府也正准备加码监管,AI巨头面临前所未有的挑战。
据纽约时报报道,美国联邦监管机构已达成协议,将针对微软、OpenAI 和英伟达在人工智能领域的主导地位展开反垄断调查。报道称,美国司法部和联邦贸易委员会在过去一周达成了这项协议,预计将在未来几天内完成。根据协议,司法部将牵头调查全球最大的人工智能芯片制造商英伟达的行为是否违反反垄断法。联邦贸易委员会则将重点审查生成式人工智能鼻祖OpenAI和与其深度合作的微软。
随着生成式人工智能不断进化,美国监管机构对这些巨头公司的监管不断严格。1 月份,联邦贸易委员会还启动了一项针对科技巨头与人工智能初创公司战略合作的广泛调查,其中包括微软对OpenAI 的投资,以及谷歌和亚马逊对另一家年轻的人工智能公司Anthropic的投资。2月份,联邦贸易委员会主席Lina Khan在一次采访中表示,在人工智能领域,该机构正试图在问题萌芽阶段就加以发现,而不是等到问题根深蒂固、难以纠正时才出手。上个月,华盛顿的一群参议员发布了关于人工智能的立法建议,呼吁每年拨款 320 亿美元以推动美国在该技术领域的领导地位,但并未要求制定具体的新法规。
总的来说,无论是13位AI专家联名呼吁行业透明监管,还是美国政府对OpenAI、微软和英伟达展开的反垄断调查,都显示出大众对AI技术快速发展的担忧,揭示了AI行业在追求技术突破与确保伦理安全之间的矛盾。
一楼大平层