10分钟被AI换脸诈骗430万，防止被骗真的有方法吗？《人工智能伦理》

人工智能时代，为你推荐一个科技书单，带你轻松入门，精准闭坑>>

原文 

近日，包头市警方发布了一起AI诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。诈骗速度之快、金额之大令人咋舌。这起AI诈骗究竟是怎么回事呢？

据报道，4月20日中午，郭先生的好友突然通过微信视频联系他，说自己的朋友在外地竞标，需要430万保证金，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话，才知道被骗。原来，骗子通过AI换脸和拟声技术，佯装好友对他实施了诈骗。目前，AI诈骗正在全国爆发。骗子首先分析公众发布在网上的各类信息，根据所要实施的骗术，通过AI技术筛选目标人群。在视频通话中利用AI换脸，骗取信任。

近十年，AI技术取得了快速而显著的发展，大大提高了生产效益，成为了新一轮科技革命和产业变革的重要驱动力量，我们生活的方方面面都受到了人工智能的深刻影响。然而，在人工智能应用广度和深度不断拓展的过程中，也不断暴露出许多风险隐患，引发重大伦理关切。今天，我们就通过北京大学应用数学博士于江生的著作《人工智能伦理》来共同思考人工智能的伦理难题和可能的破解之法。

首先我们先来聊一聊，AI带来了哪些伦理难题？

毫无疑问，AI主要服务于个人与社会，而它也在个人和社会两个层面造成了伦理问题。

就个人而言，最显著的问题首先是隐私保护。当你用购物APP时，大数据会推荐给你可能想要的商品；当你打开社交软件时，它会给你推荐感兴趣的文章、视频。这些服务让我们的生活更轻松便捷，但与此同时，我们的私人数据也在被人工智能系统读取。可以说，在这个大数据时代，高度依赖互联网的我们几乎是透明的，AI或许比我们自己还要了解我们。其次，人工智能还给个人安全带来了一定风险，比如自动驾驶汽车、智能机器人造成了种种安全事故。第三，AI还会给人的自主权和尊严带来挑战。当基于人工智能的决策在我们的日常生活中被广泛采用时，就存在限制我们自主权的巨大危险，致命的自主武器系统也违反了人类尊严原则。

从社会层面看，人工智能取代了大量人类劳动，让劳动向着碎片化、个体化方向发展，劳动者处于弱势地位，面临着“机器换人”的挑战。不仅简单重复劳动被机器取代，就连我们原先认为不可替代性最强的创意性职业，也同样经受着AI带来的巨大冲击。随着ChatGPT横空出世，并一跃成为人工智能界的“顶流”，越来越多的岗位正在被人工智能取代。

前段时间，国内某广告公司宣布，将无限期停止创意设计、方案撰写、文案撰写、短期雇员四类支出，改用生成式AI完成工作。高盛发布的报告显示，全球将有3亿个岗位被人工智能取代，大约占到全球人力的四分之一。AI技术的应用与推广造成了巨大的失业焦虑。不唯如此，人工智能系统中嵌入的偏见和歧视也可能会增加社会差距并对某些社会群体造成伤害，冲击社会的公平正义。例如，在美国刑事司法系统中，用于评估犯罪风险的人工智能算法已被注意到表现出种族偏见。

这些问题不可谓不令人忧虑，反映出人工智能伦理尚不完善亟待规范发展的现状。两种极端的做法都不可取：一是忽视它；二是因噎废食，以伦理为由阻碍AI发展。那接下来就让我们继续探讨，解决之道是什么？可以从哪些层面采取哪些措施？

在国家层面，应加快制定完善相关法律法规。欧盟是人工智能伦理立法的先驱。2019年4月，欧盟就发布了《可信赖人工智能的伦理准则》，提出可信赖AI需满足3个基本条件：合法、合伦理与稳健。中国也于同年六月发布了《新一代人工智能治理原则——发展负责任的人工智能》，要求人工智能发展应尊重和保护个人隐私，充分保障个人的知情权和选择权。

随着AI服务产品的增多，立法的诉求也随之变强，我们面临许多需要研究的新问题。比如，自动驾驶汽车、聊天机器人、智能助理等涉及生命、生理心理健康、财产等重要方面的AI服务，要遵循怎样的原则？对于无自我意识的民用AI来说，至少应该做到诚实无害、守法透明、功能可验。再比如，人工智能技术中的核心算法是最有含金量的部分，作为一类特殊商品，如何给它定价？如何保证交易顺利进行？法律对基于区块链记账等新技术提供的证据如何采信？有太多的AI伦理问题值得研究，需要法律专家、社会学家、人工智能科学家的深度合作，才能构建出合理可行的规范体系。

在规避人工智能可能产生的伦理风险上，人工智能相关领域的科研机构、企业和从业人员更容易在相关实践中获得第一手信息，也更应该承担起构建安全人工智能技术的主要责任。AI研究人员和伦理学家需要明确定义道德行为，尝试将伦理价值表述为可量化的参数。他们需要为机器提供明确的答案和决策规则，以应对可能遇到的任何潜在的道德困境。

这将要求人类在任何给定情况下就最道德的行动方针达成共识，这是一项具有挑战性但并非不可能的任务。例如，德国自动驾驶和互联驾驶道德委员会提出：建议将道德价值观编程到自动驾驶汽车中，以优先保护人类生命为重中之重。在不可避免的致命撞车事故发生时，汽车不应基于年龄，性别、身体或心理构造等个人特征来选择是否要杀死一个人。科研企业要增强责任意识，在人工智能全生命周期各环节自省自律。

近年来，尽管已经提出了许多原则和标准，但标准与实践之间的差距仍然很大。只有一些大型企业，如IBM和微软等，已经实施了自己的行业标准、框架和指南来建立人工智能文化。但对于资源较少的小企业来说，实践与原则之间的差距仍然很大。因此，仍然需要许多努力。

最后我们再来谈谈，面对AI带来的风险与挑战，我们每个人可以怎样做？又该如何防范通过AI实施的新型诈骗呢？

大多数人第一焦虑的是机器换人带来的失业问题。我们觉得AI可怕，但更可怕的是会用AI的人。面对新技术，我们总会出现对未来的担忧。比如当年计算机开始普及的时候，有人说计算机会代替很多工作，但本质上是会用计算机的人替代了过去不会用计算机的人，这个背后是人；当记账软件开始普及的时候，有人说记账软件会代替很多会计工作，但也同样，会用记账软件的人淘汰了不会用记账软件的会计。所以，如果你的行业正在遭到AI的冲击，一定要学习AI的语言，学习它，接受它，让AI成为你的助理，而不是让它把你“裁掉”。如果你的行业目前和AI暂时没有什么关系，也一定要了解目前的AI进度。闲暇的时候多看看关于AI的前沿趋势，发展自己的第二曲线。

其次是个人隐私保护的问题。一是要了解隐私政策。在使用各种 AI 产品和服务时，一定要认真阅读服务协议和隐私政策，了解自己的数据将如何被使用和保护，明确是否有隐私被侵犯的风险。二是注意清除记录。在使用搜索引擎和浏览器等工具时，要及时清理浏览记录和缓存，以减少个人信息的泄露风险。三是要学会利用隐私保护工具，例如匿名浏览器、加密通信软件等，以保障自己在互联网上的匿名性。

面对AI换脸诈骗，“看眼睛”是识别假脸的方法之一。多数假脸都是使用睁眼照片合成，假脸极少甚至不会眨眼，缺少眨眼是判断一个视频真假的好方法，还可以注意语音和嘴唇运动的同步状况、情绪不符合、模糊的痕迹、画面停顿或变色。要提高警惕，多重验证，确认身份，尽量询问一些涉及共同经历的机器难以回答的问题。对于不明平台发来的广告、中奖、交友等链接多加防范，不随意填写个人信息，以免被骗子“精准围猎”。还要做好家中老人的宣传防范工作。提醒老年人在接到电话、短信时，要放下电话，再次拨打家人电话确认，不要贸然转账。

人工智能的风险以及由此带来的焦虑，是完全可以理解的。但我们无法返回一个没有人工智能的世界，人工智能已然深度介入人类社会，试图遏制人工智能的推进只能是螳臂当车。我们只能以更快的速度全面了解它，知己知彼百战百胜。喜马拉雅站内上线了著名企业家李开复的有声书《AI未来进行式》，让大家通过10个生动有趣的故事了解人工智能带给大家的机遇和挑战。同时我们也为大家整理好了一份“避坑”书单，帮助大家更好的了解人工智能，让AI技术能够为我所用而不是为其所害，感兴趣的听友可以点击文稿头部链接，或者评论区第一条链接，收听这三本书的内容。

好了，《人工智能伦理》这本书就为你解读到这里，文稿在音频的下方。欢迎您关注“热点讲书”，我们与你一起收获新知，通过热点，了解一本经典书籍。