兼容国产算力助力AI落地 蚂蚁数科推出大模型服务平台

兼容国产算力助力AI落地 蚂蚁数科推出大模型服务平台

00:00
01:47

6月28日,伴随大模型落地从通用技术进步逐步迈向行业可用,蚂蚁数科旗下多云PaaS平台SOFAStack正式发布大模型服务平台AI Max。该平台兼容适配主流开源大模型、国产算力,向企业提供进行模型训练、部署、评估、优化等一站式模型工作台,并实现可视化研发、管理多种具备行业知识库的Agent应用,助力企业跑完企业AI应用业务落地的最后一公里。

中国信息通信研究院云大所副所长栗蔚表示,大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键,“云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。”

“对企业来说,大模型训练耗时耗力耗资源,AI Max不仅支持主流开源大模型的一键微调训练,还提供三步即完成的零代码模型开发环境,把原先耗费至少3天的训练缩短至1小时。蚂蚁自研的预训练模型与先进的多模态算法,仅需小量数据即可进行训练,进一步提升数据的利用率和模型训练的效率。”蚂蚁数科云原生产品资深总监马振雄说。

以上内容来自专辑
用户评论

    还没有评论,快来发表第一个评论!