两会面对面|专访全国政协委员齐向东:不能陷入“技术决定论”,AI的本质是辅助人

两会面对面|专访全国政协委员齐向东:不能陷入“技术决定论”,AI的本质是辅助人

00:00
13:49

全国政协委员、全国工商联副主席、奇安信集团董事长齐向东

履职一年的全国政协委员齐向东,再一次接受红星新闻采访时,在同一话题上有了更深的感触。

作为全国工商联副主席、奇安信集团董事长,齐向东表示,网络安全、科技创新、民营经济是他履职工作的三个支点。3月1日,全国两会召开前夕,就科技创新中最热门的人工智能技术,以及受到关注的民营经济话题,红星新闻专访了齐向东。

人工智能的“火”从去年烧到今年,从ChatGPT到Sora,齐向东带来了他关于人工智能对安全、对人力资源影响的洞见;而对于民营经济发展,齐向东也给予了思考得更为深入的建议。

“AI带来的安全问题,只能用AI解决”

红星新闻:最近Sora再次引发人们关于人工智能的热议,包括其对信息安全威胁的担忧。人工智能技术会带来哪些新的安全威胁?你认为我们可以应对吗?

齐向东:Sora的问世,刷新了我们对人工智能大模型成长速度的认知,为千行百业提高生产力提供了一个更强大的工具。同时,这也加剧了我们对于网络和数据安全隐患的担忧。

Sora是一个比ChatGPT更加强大的人工智能大模型。当前,利用人工智能技术进行网络攻击的事件已经不在少数。Sora的出现进一步加深了网络和数据安全威胁,未来利用人工智能发动网络攻击的活动会更频繁,“深伪”诈骗、换脸变声等引发的网络犯罪会更不断出现。

一是AI加剧安全威胁,如数据泄露、欺诈攻击、社会治理安全等。以ChatGPT 、Sora为代表的生成式AI技术可以快速生成钓鱼邮件、编写恶意软件与代码,导致攻击数量爆发式增长,AI欺诈事件频繁发生。数据显示,ChatGPT等生成式AI导致网络钓鱼邮件攻击增长135%。不法分子可以通过“深度伪造”技术换脸变声、伪造视频,“眼见未必为实”,网络诈骗大增,甚至引发认知混乱。生成式AI还带来了数据非法获取、数据泄露及恶意滥用等数据安全问题,如ChatGPT在对话交互过程中能获取用户数据或输出训练数据,可能涉及到个人隐私数据、业务数据等敏感信息,加剧数据泄露风险。

二是AI加剧攻防失衡,利用和针对AI的攻击层出不穷,网络安全“易攻难守”。在AI恶意利用方面,人工智能大幅降低了网络攻击门槛,“AI写代码可以让不懂网络技术的人变成黑客,让低水平的黑客变成高级黑客”,专业化的黑客组织可以利用人工智能工具对网络攻击进行改造和升级;在针对AI算法攻击方面,机器视觉攻击、数据源污染等攻击频发,攻击者通过对抗样本、数据投毒、模型窃取等多种方式对AI算法进行攻击,使其产生错误的判断,同时由于算法黑箱和算法漏洞的存在,这些攻击往往难以检测和防范。

三是AI武器化趋势显现。从世界范围内看,一方面,人工智能可被用在“机器人杀手”等致命性自主武器上,通过自主识别攻击目标、远程自动化操作等,隐藏攻击者来源、建立对抗优势;另一方面,人工智能可以将网络、决策者和操作者相连接,让军事行动针对性更强、目标更明确、打击范围更广。一些国家开始探索人工智能在军事领域的应用。

AI带来的安全问题,只能用AI来解决。我们要大力推进“AI+安全”的科技创新能力,鼓励各个行业的龙头公司和网络安全公司合作,把AI安全技术融入到数字化场景当中,进行有效的安全防护。鼓励企业和高校把最新的AI科研成果和网络安全攻防技术相融合。借助AI能力,加速网络安全技术创新、安全防护体系创新,这样就能比AI技术跑得更快。我们要跟数据投毒者、数据篡改者、数据窃取者进行赛跑,借助大模型的开发、应用和创新,把他们远远甩在后面。

“人工智能不会取代网络安全专家”

红星新闻:人工智能取得突破后,很多人担心它会取代人的工作。在网络安全领域,人工智能会取代网络安全专家吗?

齐向东:不会。人工智能可让网络安全专家拥有更多的能力,在网络安全领域掀起一场生产力革命。

网络攻击中攻击者往往会特意制造“饱和攻击”,产生海量告警。一些机构由于配备的人手往往不足,很容易忽略这些告警,即便有心处理,也会陷入无力应付的状态,黑客则趁虚而入。人工智能作为新一轮科技革命的核心技术,在提高效率、解放安全生产力方面有很强大的作用,可以很有效地应对这种饱和攻击。

人工智能本质上是辅助人的,很多人的工作质量和数量都会有较大的提升,而拒绝人工智能的帮助可能使自己落后。一位安全专家一年可以处理12万条告警,我们创新推出的Q-GPT安全机器人,告警处理的效率是人工的70倍,使安全运营结构发生重大变化。安全机器人可以帮助安全专家平均节省80%的“盯屏”时间,跳出告警疲劳的困境,节省下来的时间安全专家可以用来做高价值任务,指挥机器人处理更多复杂的安全事件。总之,在安全机器人的帮助下,安全运营生产效率大大提升,告警处理能力数倍增长,能发现解决更多安全问题。

一句话,我们不能盲目陷入“技术决定论”。人工智能和网络安全专家将是协同合作的关系,它能帮助专家从日常繁重的工作中解放出来,做更有价值、更有难度的安全工作。

“民企要解决融资、准入、人才问题”

红星新闻:过去一年履职过程中,你发现我国民营企业发展面临哪些挑战?当前国家大力支持民营经济发展,政策如何更好落地见效?

齐向东:过去一年,我跟随全国政协、全国工商联去各地调研,发现当前民营企业在实现高质量发展上还面临一些挑战。比如,部分民营企业在调整结构、改变增长方式、加大科技创新投入上存在困难,制约了企业高质量发展的进程。一些企业在发展上过于依赖单一业务,其他业务发展明显滞后,比重偏低,在发展上遇到了转型难题;还有些企业,过于注重短期利益,在技术创新方面投入少,反而造成了核心竞争力的缺失。

当前国家大力支持民营经济发展,推出了一揽子好政策,尤其是产业政策,解决企业发展过程中遇到的难点、堵点问题。去年7月发布的《中共中央 国务院关于促进民营经济发展壮大的意见》,围绕民营经济高质量发展,提出了31条针对性的举措,这些好政策、好措施要真正落地见效,就我看来,还要在以下方面有所加强,针对性解决企业高质量发展的难题。

一是突破企业融资难的难题。民营企业抗风险能力较弱、信息了解不对称,在金融市场中相对弱势。尤其是初创企业创新投资大、风险高、周期长,面临的风控监管较为严格,容易导致资金流断裂。二是化解市场准入壁垒。在重大科技创新任务上,不少民营企业仍然处在“看得见、进不去”的阶段,很多好政策难以真正落地,近年来“显性壁垒”少了,但“隐性壁垒”依然存在。三是培养高水平人才。随着数字化、智能化不断加深,我国多个产业面临人才数量不足、质量不高的问题,亟需加快建设创新能力突出的人才队伍。

红星新闻:你对营商环境的变化有何体会?有哪些进一步的建议?

齐向东:这几年,从中央到地方,陆续出台相关政策加大对市场主体的纾困帮扶力度,为民营经济发展提供了良好的营商环境,打消了民营企业家对政策不确定性的担忧,提升了市场信心。

这些年,“吃拿卡要”“脸难看、事难办”等办事方面的问题逐渐消失,大数据、电子政务的发展也发挥了很大作用,能做到一个窗口能办所有的事。另一方面,民营企业还面临着我上面讲到的一些深层次的问题、市场的问题。我认为要增强信任,把广大民营经济人士看作“自己人”,真诚关心、一视同仁,激发企业投资兴业的积极性。建议制定《关于促进民营经济发展壮大的意见》的实施细则,将落实情况列入巡视督察内容和政府考核指标;全面排查、系统清理各类显性和隐性壁垒,在数据、电力、电信、金融服务等重点领域放开竞争性业务,持续完善市场准入负面清单。

各级政府还要优服务,积极转变职能,持续深化放管服改革,打通服务企业的“最后一公里”。建议通过建立高效的服务体系,为企业提供法律、财税、政策解读等专业服务,针对性地为企业排忧解难;通过扩大服务包覆盖范围,实现政策精准灌溉,对科创企业、高新技术企业进行“一对一”针对性帮扶。

“建议提高资本市场对创新的包容度”

红星新闻:激发技术创新尤其是原始创新,民营企业是重要生力军。对此你有哪些建议?

齐向东:科技自立自强,一方面是在现行技术路线上自立,解决“卡脖子”难题,实现自主可控;另一方面是在未来新技术路线上自强,走自己的技术路线,创新引领前行。要想实现这两点,只靠少数精英企业、高端科研院所是做不到的,需要进一步激发民营企业的创新活力。对此,我有两点建议:

一是提高民营企业投资科技创新的积极性。我国民营企业数量多、成果多、基础好,具备科技创新的有利优势。建议加大对民营科技企业的扶持力度,比如延长贷款还本时间,推出5年期或更长期贷款,银行每年评估偿还能力,激发企业创新活力。

二是提高资本市场对创新的包容度,如研发费用资本化。在会计准则方面,建议学习钻探行业,只要是省级以上政府确定的“卡脖子”项目,研发费用就可以资本化,让企业在研发当年和研发过程期间,不影响利润,研发成功后在寿命年限内,在毛利润中扣减摊销项目成本,让股东能看到项目既不在研发期减少当期利润,又能在投产期增加利润,自然就支持经营层攻克“卡脖子”难题了。

以上内容来自专辑
用户评论

    还没有评论,快来发表第一个评论!