人们到底在害怕Sora什么？ | 科技观察

什么是真？什么是假？在人工智能的时代，显然区分真假将更加困难。

上周，人工智能公司Open AI发布了能够根据文本生成超现实视频的工具Sora，在业界一片叫好，认为其将改变诸多行业的生态，让人人都能有机会使用更简单的方式进行视频创作。该工具目前正在测试和评估潜在的安全风险，尚未确定公开发布的日期。

但是，事情永远也不会那么简单。还不到一周时间，已经有专家提出警告，Sora等新的人工智能工具很可能会带来假视频的泛滥，而人们也会越来越难以分辨这些视频的真假。

Sora生成的视频

Sora的能力让人“害怕”

2023年10月，美国总统拜登在一次采访中提到，他看过网上一个关于他的视频。看完之后他说：“我什么时候说过这样的话？”这个小小的笑料之外，让拜登陷入了思考，一段只有3秒钟、AI生成的影像，足以冒充本人，甚至可以欺骗受害者的家人。那么，诈骗犯们很容易就可以使用这段视频来欺骗受害者的家人。

而Sora的出现，似乎就像是一个对于未来的预言。

OpenAI 在其网站上解释说：“Sora能够生成具有多个角色、特定类型的运动以及主题和背景的准确细节的复杂场景。”“该模型不仅了解用户在提示中提出的要求，还了解这些东西在物理世界中的存在方式。”

这意味着，Sora不仅能够从物理的角度，比如说重力下落，人类在咀嚼时肌肉的运动，海浪随着潮汐运动对于海岸的拍击……更重要的一点是，作为人工智能，Sora还能够在未来的学习中让这些场面变得更加逼真。那么，这很可能意味着，未来人们在看到一段视频的话，很难分辨它是真还是假。

因此，有专家甚至称Sora“让人害怕”。

身份验证公司 iProov 的首席科学官纽维尔博士表示，Sora能让“恶意行为者更容易生成高质量的假视频。”

Sora生成的视频

人工智能恐影响大选

专家们说这样的话，有一个重要的背景，2024年是美国的大选之年，人工智能技术在政治领域可能被滥用。如前文拜登所说，他在看到AI生成的自己视频时，都会有所迟疑，那么对于普通民众来说，分辨这是否是参选人所说的话，就更加困难。

专家警告说，新的人工智能工具可能导致美国总统大选之前虚假视频的增加。

TruMedia创始人埃齐奥尼不无担忧地表示，生成式人工智能工具发展得如此之快，而在社交网络时代是致命的，而且这一切发生的时机再糟糕不过。过去一年，人工智能生成的图像、音频和视频的质量迅速提高，OpenAI、Google、Meta 等公司竞相开发更先进、更易于使用的工具。

尽管给出的示例都是一些“真善美”，但是专家们却警告，这项新技术可能会引发新一波的恶意伪造事件。

2024年1月，全球顶流女歌手泰勒·斯威夫特宣布了和美国NFL橄榄球运动员Travis Kelce的恋情。几乎就在一夜之间，泰勒·斯威夫特在球场的露骨照片就传遍了网络，而这些照片流传度之广，甚至惊动了白宫。白宫发言人被问及此事时表示，“我们对此类图像流传感到担忧，更确切地说，是虚假图像，这令人担忧。”

实际上，在这些照片疯狂传播的2周前，网络上还传出过一个泰勒·斯威夫特送名牌锅的视频。而视频被泰勒·斯威夫特和品牌双方否认，这又是一则由人工智能生成的视频。

问题来了，视频有人生成，但有人管吗？谁能够为这些虚假的视频负责？

上周五，亚马逊、谷歌、Meta和OpenAI等科技公司签署了一项协议，采取“合理的预防措施”，防止人工智能工具被用来扰乱世界各地的大选。

Meta全球事务总裁尼克·克莱格表示：“每个人都认识到，没有一家科技公司、没有一个政府、没有一个民间社会组织能够独自应对这项技术的出现及其可能的恶意使用”。

影视行业恐怕将被覆灭

很多人担忧的是未来影视行业的前景。

电影导演兼视觉效果专家迈克尔·格雷西表示：“看看我们在图像生成的一年里取得了什么进展。 一年后我们会在哪里？”

实际上，在2023年，好莱坞就曾经进行了长达半年的罢工，其导火索跟人工智能有关。

2023年5月2日，好莱坞编剧协会罢工一部分原因是“争取流媒体播放与重播分成”，另外一个原因就是巨头们有意使用人工智能取代一部分编剧的工作。7月14日，美国演员工会也加入了罢工的行列，16万成员全部响应，包括演员、特技师、配音演员、动捕演员等，整个罢工一直持续到11月9日才结束。

在罢工时，曾经有报道提出过，有人希望能够把群演们全身扫描一遍，只给一天的工资。之后，这些制片公司拥有扫描文件、群演的图像和肖像。在未来任何影视项目中，公司想用就用，无需群演同意，也无需给额外的钱。

尽管到最后，这个想法并没有成立，但在未来，巨头们肯定不会放弃这个低成本的演员使用方案。因此，人们才担心，未来影视行业的前景。

或许，就在不久的将来，人们在荧幕上将很难看到活生生的演员了。