AI平台和大模型技术在制造业中的最大突破点是什么?WAIC2024|访谈鼎捷软件李腾飞

AI平台和大模型技术在制造业中的最大突破点是什么?WAIC2024|访谈鼎捷软件李腾飞

00:00
15:08

人物及公司背景介绍:

李腾飞:鼎捷软件产品总监。在企业知识管理管理领域拥有15年以上丰富从业经验的知识专家,曾为如上汽、博世华域等多家大型制造巨头提供过专业的数智转型服务。


鼎捷软件股份有限公司:致力于为数智驱动企业运行提供方案服务,从提升企业内部运作效率到创新产品、服务及商业模式,助力企业数智化转型升级。近年来,鼎捷软件多次被评为“中国工业软件上市公司30强”、“中国智能制造年度领军企业”、“上海软件和信息 技术服务业百强”等荣誉称号。


访谈内容:

李腾飞先生,您能简要介绍一下鼎捷AI平台的核心优势吗?这些优势如何帮助制造业企业实现数智化转型?


鼎捷AI平台的核心优势主要体现两方面。

一是,它拥有强大的计算能力、完备的模型开发工具链和多层次的应用架构上。鼎捷AI平台在IaaS层整合了很多国内外的顶尖算力资源,包括华为、群联和NVIDIA等,这些资源共同构建了鼎捷的算力底座,为用户提供了高并发的大模型训练和推理的能力。

MaaS层上,鼎捷提供了两套模型训练平台,即小模型训练平台Model Builder模型开发工具链,各行业大模型训练平台LLMOps工具链。

小模型训练平台能够支持自然语言处理、图像视觉处理等多模态模型的开发和部署。可以按客户场景完成意图识别,文本抽取,文本分类,回归预测、目标检测等多种神经网络模型的训练和应用。

大模型训练平台,能够管理从数据整理、模型训练、模型部署到prompt工程等大模型的全生命周期。通过这个工具,企业可以融入自己的私域数据,训练定制只属于企业自己的行业大模型。

同时,为了连接用户需求与大模型能力,鼎捷在MAAS层还构建了AI-Agent工具:IndepthAI,它可以按用户的想法与创意,快速低成本的生成各类AI场景应用,帮忙企业快速落地AI应用。

在SaaS层,鼎捷AI平台提供了丰富的AI类产品矩阵,包括ChatFile、生成式搜索引擎、娜娜助手、智驱工作台和智体平台等。这些产品能够满足企业在不同场景下的对智能化需求。例如,ChatFile可以实现非结构化文档的智能搜索和问答,按不同的场景生成不同的场景小助手,如设备小助手,法务小助手等。

第二个优势,是在其丰富的制造行业数据上。

我们都知道大模型想要真正落地到客户,有三个必要的条件:算法,算力,与数据。刚我刚刚讲了算法与算力,而鼎捷最大的优势则在行业数据上。鼎捷从82年成立开始就专注于制造行业的信息化,它拥有42年的历史经验,同时拥有5万多家的客户,鼎捷将这42年对行业经验的积累与理解,都封装成数据与知识融入到大模型中,这是现在市场上的大模型都不具备的优势,比如鼎捷的汽车行业大模型,已落地多家主机厂及T1供应商。

而这两个优势,可以实现企业能够快速落地大模型,并将AI能力融入到业务场景中,加速智能化转型。


鼎捷AI平台如何通过大模型应用和服务超级工厂的模式,推动制造业的智能化和数字化发展?您可以分享一些具体的应用案例吗?


我们上面有讲到鼎捷提供了连接用户需求与大模型能力的AI场景设计工具-IndepthAI,它是鼎捷AI超级工场的主要组成部分,它可以按客户的想法与创意,快速低成本的生成多个AI智能体,服务于企业各业务场景。每个智能体都是一个实现自感知、自规划、自执行的AI生命体,这些智能体可以单个运行,也可以按业务场景多个组合运行,快速覆盖企业的各业务环节。而这种模式,也使企业通过IndepthAI平台实现批量产生AI场景应用。

以上汽为例,我们通过IndepthAI平台,为其构建了汽车售后智能在线问答平台,将上汽的历史经验数据和企业积累的文档统一采集处理。通过知识建模、知识聚合等多种方式进行知识加工,构建上汽售后知识工程体系。在此基础上,我们通过小模型组件结合鼎捷大模型的方式,构建了ChatFile应用。针对上汽的售后场景中的非结构化知识,实现自然语言与知识之间的交互,确保知识获取的准确性、合规性和安全性。用户可以通过自然语言查询,从不同类型的文档中快速准确地获取所需信息,极大提高了知识利用效率,为上汽构建出一个“更懂车的GPT”。


鼎捷软件在行业模型共创和生态合作方面有哪些成功经验吗?

鼎捷行业大模型目前已有30+ISV伙伴,其中不乏一些行业龙头企业,如刚讲的上汽,再如博世华域等,在与这些ISV共创的过程中,鼎捷大模型不仅助力ISV快速实现AI场景落地(如销售预测,智能问答等),同时鼎捷也不断完善模型能力,及积累行业大模型经验。

比如在博世华域项目中,我们与客户共创了汽配行业垂直领域问答大模型,用户提供专业的行业数据和行业经验,鼎捷通过大小模型训练平台,不断打磨博世华域垂直问答大模型,将大模型打造为更懂博世华域的领域专家,帮助博世华域处理研发、设计、生产等实际工作问题,提升员工工作效率,真正实现构建博世华域自己的企业大模型。

同时在生态段,我们拓展了非制造业的伙伴,如医药行业,政府企业等,通过一个个的AI场景落地,实现与ISV共创生态。比如在中国信息通信院项目中,我们通过引入AI技术,与客户一起完善其数据资源公共服务平台,实现知识自动打标,AI生成式搜索问答,文本自动生成等多场景AI能力,与ISV共同探寻大模型的场景应用,与ISV共同成长。


您能分享一下鼎捷AI平台如何帮助制造企业将传统系统(如MES、ERP)与智能化解决方案相结合,实现业务流程的优化和创新?

好的,传统的业务系统是很少AI能力的,这些系统之间,每一个又是相互独立的,就像一个个独立烟囱,形成了一个个信息孤岛。系统之间的数据是隔离的,不要谈智能应用,能找到完整的数据都是一件不容易的事情。比如我们要查一份设备履历,我们就要贯穿多个系统,合同信息要到CRM中查找,生产信息要到MES中查找,财务信息要到ERP中查找,维修信息要到售后系统中查找等,不仅我们要有这此系统的权限,而且耗时耗力不一定能查找到完整正确的信息。

鼎捷AI平台,则是架构在企业在传统的业务系统之后,它可以采集各系统的数据,做统一管理,构建企业知识工程体系。并通过鼎捷大模型赋能,实现知识自学习自总结。再有任何问题时,用户只需要以自然语言的方式通过大模型与各业务数据进行交互,大模型会对这些数据进行智能化处理,最后给出最完整最正确的答案。

同时在鼎捷大模型上架构的应用,也可以以API的方式发布,这些API可以被传统的业务系统调用,最终融合到业务系统各环节上,让原本没有AI能力的系统,增加了AI能力。比如上汽,第一期我们是与其共创了智能售后问答平台,第二期,我们将大模型的能力逐一抽离出来,以API的形式提供以上汽,融入到他们自己的业务系统中,让他们在传统系统中,能使用大模型AI的能力,目前已完成了9个系统的集成。

可以说,鼎捷AI平台不仅在为企业做AI+的部分,同时也在助力传统的业务系统在做+AI的部分,让企业都插上AI的翅膀,更快的向智能化企业迈进。


您认为未来五年内,鼎捷AI平台和大模型技术在制造业中的最大突破点会是什么?


引入AI Agent的概念将是未来五年内鼎捷AI平台和大模型技术在制造业中的一个重大突破点。通过上面的交流,我们知道AI Agent是一种能够自主学习和执行特定任务的智能代理,通过鼎捷AI平台,企业可以创建无数AI原生应用,以满足不同场景下的业务需求。

那它和传统的业务模型有什么区别呢?我们知道传统的业务系统是以流程为驱动,业务流转前,管理员要人为固化好各业务流程,系统按流程僵化的流转,而agent最终实现以生成式AI驱动来实现企业业务的流转,我们将其称为agenttic workflow,这将会颠覆企业应用模式,让企业以更简洁更智能的方式来处理业务。

例如,在问题管理方面,通过创建AI Agent,企业可以实现问题处理路径的智能优化。AI Agent可以实时对问题进行根因分析,通过AI驱动,调整问题处理路径,提升问题处理效率与准确率。

在智能库存管理方面,通过AI Agent,企业可以实现库存需求的智能预测和自动补货。AI Agent可以对销售数据和市场需求进行实时分析,动态调整库存水平,减少库存积压和缺货风险,提高库存管理的效率和准确性。

同时,通过AI Agent,鼎捷AI平台能够实现智能化业务应用的快速开发和部署,极大地提升了企业的业务创新能力。未来五年内,随着AI Agent技术的不断发展和应用,制造企业将能够更加灵活和高效地应对市场需求的变化,实现业务流程的优化和创新。


6、鼎捷软件在推动这些突破方面有哪些规划和准备?


为了保证鼎捷在制造行业的AI的领先者地位,我们将在四方面持续发力。算力的持续投入,我们将进一步优化和增强IAAS层的算力资源,整合更多高性能和算力,寻找更多的算力合作伙伴作为我们的算力底座,增强鼎捷的算力中心能力。我们将继续完善MaaS层的模型开发工具链,提升模型开发和部署的效率和准确性。通过不断的技术创新,我们将确保鼎捷AI平台能够满足制造企业在不同场景下的智能化需求。我们将大力推动AI Agent的开发和应用,形成鼎捷的聚客平台。鼎捷自身,ISV伙伴,智客及终端用户都聚集有这个平台上开发和订阅自己需要的AI原生应用。鼎捷将扮演组织者与技术支持者的角色,加强与生态伙伴的合作,共同推动AI共创。我们将持续与高校机构合作(如浙江大学,复旦大学,东海大学等),共同推动大模型前沿技术的研究和应用,确保我们的技术始终处于行业领先地位。同时我们也将持续拓展行业大模型覆盖范围,如政务大模型,医药大模型,园区大模型等,以这些领域大模型为底座,与各行业伙伴共创AI应用,实现共同成长。

以上内容来自专辑
用户评论

    还没有评论,快来发表第一个评论!