2018回顾 | 未来我们都是“透明人”

任何新技术新应用都具有两面性，人工智能技术及其应用为人们生产生活提供便利的同时，也带来了安全隐患。如何让人工智能最终走向乐观变得尤为重要。

人工智能面临安全隐忧

中国科学院院士何积丰教授在“2018世界人工智能大会·人工智能安全高端对话”会上指出，在工业安全领域，人工智能既可以进行安全防范，包括攻防对抗、内容分析、代码混淆、异常检测等，也存在开发工具漏洞和算法具有不确定性等问题。针对安全问题，需建立主动防御的智能体系。

以自动驾驶汽车为例，其毫米波雷达、激光雷达、摄像头等感知设备都可以被干扰，而且自动驾驶系统本身可能存在的漏洞，都会导致信息安全问题。腾讯科恩实验室总监吕一平表示，汽车行业目前处于网联阶段，通往自动驾驶阶段还需一定时间，除了技术达标以外，更重要的是法律法规的问题。

未来人都是“透明人”

人工智能的快速发展，可能加剧个人信息泄露，威胁个人隐私安全。对此，华东政法大学人工智能与大数据指数研究院院长高奇琦在去年大会上用了“透明人”概念，认为“未来人是‘透明人’，这恐怕是一个无法阻挡的趋势。”

为研发人工智能而大量使用数据过程中，如果数据被滥用，也会触及隐私安全。此前，美国百万人使用的社交app——Ever通过“周末与爷爷”、“最佳时刻”等温情的主题，诱导用户上传照片，未经授权使用人们照片进行面部识别技术进一步开发，并将这项技术出售给私营公司、执法部门和军方，以此来大大提升其财务状况。无独有偶，社交网络巨头Facebook在过去两年被爆出多起侵犯个人隐私的丑闻。

人工智能与安全需要平衡发展

人工智能既可能使网络空间安全威胁全面泛化，也可以成为网络安全的“救世主”。如何平衡好人工智能与安全的关系，利用人工智能思想和技术应对各类安全威胁，是国内外产业界共同努力的方向。

为应对网络安全，腾讯基于其黑产对抗经验技术和反欺诈AI 模型建造能力，打造出“宾果反诈骗防控系统”，自投入使用以来，全国重点诈骗区域诈骗号码大幅下降接近70%，有效遏制了诈骗态势蔓延。

阿里巴巴开发出云盾内容安全系统，基于深度学习技术，提供文字、图片、视频等多媒体的内容风险智能识别服务，有效减少涉及恐怖、暴力、色情等违法违规信息。

百度的人工智能安全平台目前已有近百家合作伙伴，覆盖超过1亿部智能设备。可帮助厂商有效应对智能终端、智能车机面临的各类安全风险，确保云、内外部通信、操作系统、应用、硬件、数据和手机终端安全。

眼神科技创始人兼CEO周军介绍了人工智能在金融安全领域的应用，用人脸、指纹、虹膜等多模态生物识别技术识别技术帮助金融机构降本增效，增强安全认证。

信息安全挑战的应对之道

联合国人工智能和机器人中心主任伊莱克利•伯利兹建议对现阶段人工智能的发展充分评估，并建立起各方参与的协同合作模式；中国移动研究院首席科学家冯俊兰女士指出，5G网络服务众多垂直工业，数据挖掘技术更易保护用户隐私信息，并提出了“通信改变社会”的愿景，强调电信运营商应当加强与垂直行业的互信和协作；在碁震KEEN公司创始人兼CE王琦看来，最重要的是法律保障，用法律的手段让人工智能行业的从业者加强自律，保持敬畏之心；上海优刻得信息科技公司CEO季昕华则表示，还需要技术手段对人工智能进行约束，“让AI可以分析数据，但是不获取数据，这应该是技术层面努力的方向”。

人工智能的安全问题与人工智能的快速发展相伴相随，只有妥善解决安全问题，才能实现人工智能的长期可持续发展，而这个过程不仅是一个技术问题，更是一个社会问题、伦理问题。

期待2019世界人工智能大会上，业界权威们为人工智能安全防护提供创新性的解决思路。