2024年,是大模型落地应用落地元年,也是如今在大模型领域大放异彩的商汤科技成立的第10年。
7月5日,商汤发布日日新5.5大模型体系,其能力全方位升级,混合模态能力大幅提升,流式多模态交互能力对标GPT-4o。
同时商汤大模型与行业结合,推出面向不同行业场景的大模型应用。目前,商汤日日新大模型体系的已有超过3000家企业用户,广泛覆盖互联网、医疗、金融、编程等众多垂直行业。
端侧模型每台设备9.9包年 让每人都能用得起大模型
“要推动人工智能超级时刻的到来,大模型需要具备更卓越的思维能力、更自然的交互能力以及更可控的生成能力。同时,唯有不断深入垂直行业,大模型才能创造出全新应用格局,最终助力‘人工智能+’步入黄金时代。”7月4日,商汤科技董事长兼CEO徐立在2024世界人工智能大会现场如是说。
一天后,商汤发布了日日新5.5大模型体系。具体来看,日日新5.5大模型体系包括6000亿参数基础模型日日新5.5,性能提升30%;流式多模态交互模型日日新5o,是国内首个所见即所得模型,可进行实时多模态交互和问答;日日新5.5Lite也在端侧模型进行了升级。
在他看来,要让每个人都能用得起大模型离不开端侧突破,“因为终端上的计算是分布式的,而不是集中化的”,徐立表示,如果所有的资源都聚焦在云端,会带来推理成本的大幅度增长,推理效率的下降,势必会带来服务的不流畅。用好端和云两部分的计算机资源,才能成为一种全自然的交互模式。
对此,“日日新5.5”突破的一个重心是在端侧上加大了模型的优化,提升了10%的性能精度,除此之外,速度大规模的提升,成本大幅度的下降。首包延迟下降40%,推理效率提升了15%。“
值得注意的是,更新升级后的商汤商量端侧大模型,每台使用成本最低仅为每年9.9元。此外还推出端侧模型矩阵,包括商量Mini写作助手、总结助手和百科助手等特化模型。
通过积极推动端侧大模型研发,商汤已支持在智能手机、平板电脑、VR一体机、车载电脑、智能台灯等多种IoT设备部署应用,以极致性价比、高可用性、超低门槛,加速大模型在端侧的规模化落地,目前已有超过150位客户启动商业对接。
“只有做真正让大家用得起人工智能的大模型,AI才会进入它的超级时刻。”徐立说。
客户3000+ 商汤日日新都覆盖了哪些场景?
目前,商汤的AI能力已经覆盖到了从个人到B端、G端;从语言到绘图、视频;从办公场景到金融医疗乃至城市级别的全场景,客户超过了3000家。
其中,商汤的小浣熊家族是根据“日日新SenseNova”大模型打造的AI Native生产力系列工具,覆盖软件开发、数据分析、编程教育等多个场景,旨在通过先进的人工智能技术优化和提升工作效率。家族现已推出代码小浣熊和办公小浣熊两位成员,为十余万用户提供数亿次智能辅助服务。
日日新5.5大模型发布后,商汤小浣熊家族迎来多项更新,代码小浣熊·个人升级版面世,响应速度提升5倍,代码精度提升10%,具备更强悍的模型能力、更丰富的插件功能和更完善的数据看板;“办公小浣熊”全新发布网页个人版&小程序版,让用户可以在小程序中直接插入并分析处理微信聊天中的文件,更高效、更便捷。
对于代码小浣熊,徐立表示模型的优化升级仅仅是第一步,还在产品端进行了细致入微的打磨与调整,“鉴于用户频繁使用网页版代码工具的习惯,我们迅速响应,在网页版中及时上线了相应功能,并允许用户挂载私有化的知识库,以满足个人、团队及企业多样化的需求。提升个人效率固然重要,但团队的协同效率更是我们关注的焦点。”
而商汤商量拟人大模型Pro版本自发布上线后,各行业客户运营数据耀眼,日均使用时长130分钟,用户次日留存率高达50%,人均对话轮数达90次,Pro版本可实现行业领先的角色对话、人设及剧情推动能力,让智能体更像栩栩如生的人。
从垂直行业来看,商汤大模型已经落地到金融、农业、文旅、医疗、自动驾驶等垂直行业的具体场景中,让大家体会了AI对生产生活方方面面的帮助。
其中,商汤对于金融场景推出金融智脑Agent全面赋能营销获客、财富管理、合规风控等工作,可实现对客户需求的实时识别和实时响应,同时大幅减低员工培训时长,综合提升效率超过100%,运营成本节省80%。
在农业场景,可助力农情分析效率提高5倍以上,农资使用量降低20%,作物单产增加15%;在文旅场景,可将旅行规划效率提升8倍,票务预定效率提升4.5倍,数据分析效率提升千倍。
在医疗场景,商汤医疗大模型“大医”利用超300亿token的高质量医学知识数据训练而成,具备领先的医疗问答能力,可帮助患者在院内实现全流程高效就医,并在院外化身患者的“随身AI智慧健康管家”,实现全周期个人健康管理。
当患者感到身体不适时,可咨询“大医”输入主诉症状,通过多轮智能问答获取初步分析结果后,再使用智能导诊功能快速找到就诊医院的推荐就诊科室,实现快速精准就医。到院后,患者可以利用排队等候时间完成线上预问诊,借助“大医”的智能问答能力实现患者信息的高效采集,并生成预问诊报告,帮助医生快速、精准地了解患者病史,大幅提升问诊效率。患者在就诊期间往往需要开展各类检验检查,在获取报告后,患者只需上传至“大医”,即可获得详细的指标临床意义解读,并提示各类健康风险,同时给出智能随访、复查建议,帮助用户远离潜在风险。
在自动驾驶场景,绝影自动驾驶小巴是作为此次世界人工智能大会唯一承担接驳任务的自动驾驶巴士亮相本次展会。实际上,商汤绝影投入测试以及实际运营的自动驾驶小巴,累计行驶总里程已超3百万公里,累计行驶里程稳居行业头部阵营。
基于商汤科技多传感器融合感知平台、高精度定位技术、高可靠性的决策规划控制方案、车载交互方案以及车路协同方案等核心能力,商汤绝影自动驾驶小巴支持较广的设计行驶区域,可自然舒适的执行跟随、变道、超车、无保护左转等操作,可适应于雨雾天气等复杂环境。
最后,对于城市级别的AI应用,商汤的能力也进行了全面升级。商汤方舟多模态新智平台,基于传统的城市级AI视觉应用,引入商汤领先的多模态大模型,在商汤方舟平台的基础上实现了三“需求即指令”、“对话即检索”、“提示即提优”三方面的全面升级。
目前,商汤助力国内某一线城市12345工单的分类分拨速度提升到10倍以上,并且统一分类标准,1个月就完成超30万次诉求分拨,平均一天一万余次。方舟新智平台可将单分拨员的1个月任务量缩短至1天完成,并且经过二次复核准确率可以达到90%以上,真正实现让智能分拨的应用实操有效,减轻政务工作压力,提高效率。
十年磨一剑,商汤前瞻技术发展趋势,以云、边、端全面覆盖的全栈大模型产品体系,源源不断输出AI“新质生产力”,并持续拓展日日新行业生态,为千行赋能,让百业“向新”。
还没有评论,快来发表第一个评论!