中关村对话|齐向东：要增强“人工智能+安全”的鉴伪能力

4月26日，奇安信集团董事长齐向东在2024年中关村论坛现场接受了新京报贝壳财经记者的采访，回答了如何看待深度伪造和AIGC等人工智能相关技术在带来便利的同时，也间接成为了辅助网络诈骗、生成网络谣言的工具这一问题。

齐向东表示，用深伪技术辅助诈骗，生成谣言，是一个世界性问题。去年5月，一张五角大楼遭到袭击的AI生成图片，在推特上广泛传播，导致美股大跌。还有人因为受到AI电信诈骗，10分钟被骗走430万元。随着人工智能大模型的普及，“眼见未必为实”已经成为常态。这些问题严重影响人民群众的用网获得感、幸福感、安全感，有些虚假信息甚至会引发社会认知混乱，危害金融安全、国家安全。我认为，解决这些问题，要从技术和监管两方面入手。

他告诉贝壳财经记者，技术上，要增强“人工智能+安全”的鉴伪能力，遏制AI生成虚假信息的泛滥。奇安信作为网络安全龙头企业和国家队，在遏制虚假信息方面跑在前头，“我们在‘人工智能+安全’领域深入布局，拥有国内一流的人才团队和研发能力。目前，奇安信人工智能研究院，已经在6大方向形成100多种AI能力，申请了网络安全相关发明专利187项。我们的研究院基于自身积累的海量知识和大数据，在深度伪造、深度鉴伪等技术方面取得了重大突破，已经能够准确识别多种前沿AI伪造技术生成的虚假图片视频，是防止生成式人工智能生成虚假信息的有力武器。”

而在监管上，齐向东表示，要进一步强化安全“红线”，规范生成式人工智能的发展和应用，打造良好的“人工智能+”新生态。去年7月，国家网信办等7部门联合发布《生成式人工智能服务管理暂行办法》，其中明确提出不得生成虚假有害信息，为生成式人工智能划定了“红线”。针对当前虚假信息泛滥的情况，企业和个人应该提高安全意识，自觉抵制滥用人工智能制作虚假信息的行为，确保个人行为不偏离正轨。监管上，也亟须从有法可依，走向有法必依，执法必严，对于随意生成虚假信息，造成社会危害的给予严惩。