奇安信入局大模型 发布大模型卫士防护GPT“泄密”风险

奇安信入局大模型 发布大模型卫士防护GPT“泄密”风险

00:00
06:12

奇安信终于入局大模型了,值得注意的是,作为安全企业,奇安信还推出了能够适配主流大模型应用的安全防护产品。

8月25日,奇安信集团在京发布了Q-GPT安全机器人和大模型卫士。Q-GPT安全机器人是基于奇安信大模型的“虚拟安全专家”,可以全天候工作,一台机器人等于60多位安全专家,可产生约2000万元的运营效益,提升生产力。大模型卫士集安全风险发现、大模型访问控制、数据泄露管控、违法违规行为溯源、大模型应用分析等为一体,帮助企业更安全地向大模型要生产力。

“从我们开始训练自己的GPT安全大模型开始,就制定了明确的目标:一定要让客户在使用奇安信的GPT产品时就像是雇佣了一个高级安全专家队伍,把产品领回去就能变成自己的力量。所以这个产品的形态一定不会是一个问答对话框,而是一个聪明的机器人,它能帮助或者替代安全专家执行复杂任务,能全天候工作,成为真正的生产力。”奇安信集团董事长齐向东表示。

实时自动研判“全部告警” 安全机器人承担专家角色

“大模型是不是聪明,要取决于知识数据的质量。比如,GPT写代码,生成代码质量最高的并不是OpenAI、谷歌、Meta等巨头,而是GitHub推出的Copilot,因为GitHub有全球9400万的开发者为其贡献高质量代码和注释;同样,大模型做安全分析师,分析质量最高的也不是巨头们的GPT,而是奇安信本次推出的Q-GPT,因为奇安信拥有业内最大规模的安全专家团队、海量的安全知识数据,以及在历年实战攻防演习中锤炼出来的最强攻击能力、防守能力,而且在预训练数据层面,奇安信具有百万亿级的安全日志、文档、知识库、情报类数据,存储体量达数百PB。”奇安信科技集团股份有限公司副总裁左文建表示。

在现场演示中,奇安信安全机器人展现了强大的智能分析和自动研判能力。某客户安全分析平台收到了海量告警,但安全专家的极限,只能对其中1%的重要告警进行分析研判,99%的告警被无奈抛弃,导致大量隐蔽攻击被忽视掉,增加了系统安全风险。通过安全机器人,可以实时、自动为客户研判“全部告警”,将需要响应处置的告警过滤出来,解决日常分析安全工程师的“告警疲劳”、“研判疲劳”问题,避免“漏报”和“误报”。

安全大模型是机器人的核心基础,Q-GPT基于奇安信多项业内领先的自研技术,例如预训练阶段tokenizer采用QPiece算法,以高效支持中英文和各种编程语言;在模型中使用分组注意力机制代替传统多头注意力机制,以获取更好的训练和解码速度。同时,在推理阶段,也使用了高效加速框架,加速比达6.5倍。

据了解,一个3000人的数字化企业每天平均大约有10亿条日志, 产生约10 万条告警。一个安全分析专家一天最多能处理480条,要想把10万条全部处理完,需要200多个专家,按每人每年30万成本计算,需要6000多万元,这对于绝大多数企业显然难以承受。但如果选择奇安信安全机器人,每台机器人效率相当于60多位专家,可以产生约2000万元的运营效益。

适配主流大模型 解决“想用不敢用”难题

“ChatGPT等大模型,会泄露企业的商业秘密,已经引起广泛关注。据统计,在使用ChatGPT的员工中大多数会泄露数据,其中11%的数据为企业敏感数据。而越来越多的办公产品如Microsoft 365 Copilot、WPS AI、通义听悟等都集成了大模型,就意味着将有更多的员工使用大模型,这会加剧企业敏感数据的泄露风险。解决大模型数据泄露难题,迫在眉捷。”奇安信集团副总裁张卓表示。

此次发布会,奇安信正式推出业内首款大模型卫士产品,解决广大企业客户对于大模型“想用不敢用”的顾虑,让他们能够用好大模型提升核心竞争力。

张卓认为,数据泄露带来的直接结果,就是企业核心竞争力的逐步丧失。以某行业龙头企业A为例,该企业拥有大量核心技术专利,形成了强大的技术壁垒,然而,由于员工大量使用大模型应用处理日常工作,且缺乏监管,最终数据投喂过程中公司敏感技术信息不断泄露,时而久之,这些重要技术信息变成GPT知识库的一部分,又通过GPT传授给同行对手企业,导致企业的核心竞争力逐步丧失。

针对这些情形,奇安信发布了大模型卫士,为企业在使用大模型过程中提供四重防护,包括防止数据投喂造成的敏感数据泄露,建立身份识别与溯源机制,避免触发数据跨境安全监管红线,对企业内部大模型应用状况全面分析。

目前,大模型卫士能够适配主流大模型应用,并在终端侧和网络侧,通过检测审计平台、安全代理网关等工具,对GPT实现精准管控,全面降低数据安全风险。

“针对汹涌而来的大模型浪潮,促进发展和防范风险需要两者并重。”奇安信科技集团股份有限公司副总裁张卓表示,大模型卫士能帮助企业发现大模型使用过程中的安全风险、实时管控大模型访问和数据投喂过程、提升企业的大模型应用能力、溯源违法违规行为,最终让企业更放心地使用大模型技术,更安全地提升生产力,为大模型健康发展保驾护航。

以上内容来自专辑
用户评论

    还没有评论,快来发表第一个评论!