试听180秒12. AI犯罪能赢过人类吗？

【音频文字稿】

喜马拉雅的朋友，你好，我是吴霁虹，欢迎来到我的人工智能赋能课。上节课我给你讲了人工智能有可能几种未来，有好的、有不好的。从技术上说，AI没有价值观，如果犯错，也是人干的。因此，只要有好人和坏人，世界就有AI赋能人类与AI犯罪并行。今天，我要讲的课题与每一个普通人的生活和工作都相关,那就是 “AI犯罪”问题。

我带你先看这样一个你可能碰到的场景：

超级人类罪犯场景

当你的朋友通过社交软件给你发送一则新消息时，你的手机会发出铃声。这是信息时代两个亲密朋友的典型沟通方式了。与这则消息同步，还有一个命名为“难以置信的猫”的视频附件，你的朋友让你点击看看。几秒钟后，你的电话铃响了，电话那头，这位朋友问你，“你看到那个超级好玩视频了吗？看完再电话我哈”。这时你点击视频，发现确实是一个非常可爱而好玩的小猫视频，忍不住又转发给其他朋友。

但是，当你电话你的朋友时，这位朋友说，今早我没有给你发任何消息啊，也没有给你打过任何电话！原来，这一切都是由AI驱动的恶意软件完成的，目的就是要你下载那个“视频”文件，好让AI黑客获得关于你的很多信息，而AI犯罪拥有了以下这些能力：

•可以下载、访问和修改你手机或电脑上的任何文件；

•可以记录你的点击数据，可以使用其他应用账号的密码，以及你所做的其他操作；

•可以控制你的网络摄像头；

•可以使用你的手机或计算机，生成僵尸账户帮助发起网络攻击战；

•可以将你的手机或计算机当做代理服务器，操作隐藏的犯罪活动；

•可以创建一个“勒索攻击软件”，让你只能在付款他们或删除电脑之间做选择；

•可以控制你所有的社交媒体账户，并以你的名义发帖；

•可以用USB感染器传播恶意软件；

•可以创建一个“密码”应用程序，让大多数反病毒软件无法感知到恶意软件

•还有更多……

这就是一个典型的超级AI犯罪的场景，不超过一分钟，它就能破坏你财务、人际关系以及你作为诚实公民的声誉。

今天，全球有成千上万的受害者。这些人中，已经有超过10，000普通人为这种AI罪犯平均支付了40美元。

《未来的犯罪》一书的作者马克·古德曼总结说，“人们还没有看懂的是，网络犯罪正在变得智能化，并正在呈指数级增长。”如果你是一名罪犯，那肯定很高兴了，而对我们其他人来说是再坏不过的消息了。

想想看，世界一流AI系统，包括Amazon Echo、Tesla Roadster、IBM Watson、Goldman Sachs Quant Ai和Google Alpha Zero。如果这些AI利器掌握在一个犯罪组织手中，哪一个AI系统能被用来进行隐蔽而几乎没有风险的犯罪呢？答案是，几乎所有犯罪都可能做。

早在2014年，黑客罪犯就证明他们可以入侵这些东西：

•一款新的SUV，黑客就能启动和驾驶车辆，也能关闭发动机、拦截通信或禁用刹车。

•一种叫做起搏器的心脏辅助设备，黑客就能加速、减速或停止心跳。

•一个糖尿病患者的胰岛素泵，黑客就能提供致命的过量药或根本没有药量。

•一个Hello芭比娃娃，黑客就能拦截和生成各种信息。

•一个智能冰箱，黑客就能窃取用户的财务支付信息。

•一个婴儿监护仪，黑客就能接入婴儿的音频和视频。

事实上，《连线》杂志展示了黑客是如何控制狙击手的AI瞄准系统的，世界上几乎所有WiFi系统都在几秒钟内被黑客入侵。

也许，你能够躲过AI网络犯罪的唯一原因，就是潜在受害者太多了，你根本没有那么幸运啊。这就像狼袭击中的一只羊一样，罪犯不可能同时攻击所有人。

在互联网早期，安全性也是非常低的。那时，人们认为信息链接几乎没有什么不安全。因为，你收到的邮件通常是列在信息目录中。但这一切在1979年改变了，当一个名叫凯文·米尼克的罪犯，入侵数字设备公司的服务器时，这一事件被称为世界上第一个网络攻击事件。从那时起，防御者就开始一直在不断筑墙、填补Bugs，而攻击者也一直在设计不可抗拒的入侵解决方案。

这种攻击与防御的平行赛跑情景，开始了，而且可能永远都不会改变。

因此，人类进入智能时代，也意味着进入一个“人类美好集团”与“人类犯罪集团”的无休止技术升级竞赛。

例如，以下这三种场景，今天AI赋能人类与AI犯罪伤害人类，都是同步的。

1）大公司和创新机构用人工智能赋能商业，让他们更了解客户、更高效经营。那么，这种强大的人工智能会被罪犯用来读懂手机或PC用户，以便发起攻击？当然能，它已经这么做了。

2）有责任的公司用AI能检测IT系统漏洞、Bugs、以及危险过时的软件。而这样超能的AI，能被罪犯和间谍使用吗？当然可以，也有这么做了。

3）好的媒体公司用AI来创造新闻信息，让普通人轻而易举可以阅读，你感受不到是出自AI之手。那么，罪犯能用AI立刻生成数百万条“假新闻”的文章吗？它能，它也做过了。

未来一切在变，而有一个不变的大趋势将会是：在商业和工业领域，攻击者和防御者，都将越来越多、越来越深入地使用人工智能。

这个问题，就好比阿尔法狗被认为能在任何输赢游戏中，击败世界上任何人类玩家。而它学习一个新游戏的时间大约只需要4个小时。那么，如果“游戏”是一种防御/攻击的全球金融系统，你告诉我，有人能打败“阿尔法狗”吗？我也不敢说。

还有今天，进入物联网时代，当物理对象和设备都嵌入了计算机通信沟通能力，我们的冰箱、空调、家庭安全系统等等都与网络相连，我们的穿戴设备都连接了移动网络，我们的汽车也进入联网，还有我们的医疗设备也联网了。我想说的是，这些万物联网的设备，事实上，很少是安全的。

更糟的是，今天，AI技术的众多功效之一，就能让传统的人类犯罪人变得过时，取而代之的是高级犯罪，几乎可以做任何坏事。而且AI犯罪的门槛已经降低到几乎为零，可以被坏人用来威胁小到个人的日常生活，大到一个国家的安全。而且AI比传统罪犯做得更好、风险更低、效率更高。

公司组织如何防范，我以后的课程会专门讲解决方案。今天，主要是作为一个普通公民的你，能做什么来保护自己免遭AI犯罪呢？

我给你总结出至少有8项自我信息管理的规则：

1）尽力不要使用WiFi，除非你有非常专业质量的安全措施。

2）不要让你的设备全天候连接，只有在你使用时才连接。

3）尽力保持关键的金融交易是面对面的

4）每月使用随机字母、数字和符号更改密码

5）永远不要点击不明信息，尽力自己搜索查找信息文件

6）保持你所有系统和应用软件的更新

7）不要理所当然假设信息是来自于你认识的人，如果真的是，你也要自己亲自验证

8）最重要的是，要确保负责保护你财务、声誉等重要资产的组织和机构，他们都使用了最先进的AI系统守护。

以上是我今天分享的内容，重点讲了2个要点，我再帮你总结一下：

1、人工智能拥有超级能力，正在被坏人用来进行高智商的犯罪。如果不小心，你的个人信息、信誉、财务资产等就会受损失，你就会被伤害。因此，个人至少要遵循信息管理的8项规则。

2、进入智能时代，我们会看到AI赋能人类与AI犯罪的现象背后，是好人与坏人的竞争。从某种角度说，这个世界的价值取向走向何方，也取决于你和创造AI的人类的选择。

今天的课程就讲到这里，你有什么好的问题，也可以给我留言，或分享给你的朋友，我们下次课程见。