服贸会观察:大模型遇数据瓶颈、算力不足,电信运营商如何应对

服贸会观察:大模型遇数据瓶颈、算力不足,电信运营商如何应对

00:00
07:14

在Scaling Law推动下,国内电信运营商亮出打造算力、数据两张网络的野心。

Scaling Law解释了模型性能与计算量、模型参数量和数据大小三者之间的关系,尽管业界对它有所质疑,但不可否认,当前它仍指引着人工智能产业链的商业发展方向。

其中,在计算规模上,IDC曾预计,到2027年,中国智能算力规模将达1117.4 EFLOPS。数据量方面,根据艾瑞咨询推算,2023年,中国AI基础数据服务市场规模为45亿元,预计2028年将达170亿元。

庞大的市场需求催生电信运营商建设算力、数据网络的野心。9月13日,在2024年中国国际服务贸易交易会的企业数字化转型论坛及大模型应用创新论坛上,与会嘉宾共同讨论了数字技术如何赋能企业数字化转型、国内大模型应用现状与制约。其中,中国电信、中国移动、中国联通等电信运营商代表展现了各自的算力、数据布局。

国产大模型数量超200个,国内电信运营商积极部署万卡集群

“百模大战”后,国内大模型落地开始加速。但工业和信息化部原党组成员、总工程师田玉龙在大模型应用创新论坛致辞中指出,大模型应用滞后于其技术发展,应用创新也面临诸多挑战。“主要受制于大模型的训练,需要海量的数据和强大的计算能力支持,数据瓶颈和算力不足仍然存在。”

据不完全统计,国产大模型数量目前已超过200个。国家互联网信息办公室最新公布数据显示,截至今年3月,我国共有117个生成式人工智能服务完成备案。

2023年12月,国家发展改革委等五部门曾联合发文要求加快构建全国一体化算力网,电信运营商顺势提出建设“算力网络”——打通数据中心之间的网络链接,让算力像电力和网络一样统一调度资源。

“算力网络是一种新型基础设施。”在企业数字化转型论坛上,中国联合网络通信集团有限公司大数据首席科学家范济安说道。具体来看,算力网络要在云端、边端按需分配计算、存储、网络这三种资源。范济安表示,在云计算时期,这三种资源仍然独立、分系统进行调度,没有一体化标准。“如何一体化灵活调度这三种资源,是算力网络建设的主要挑战。”另外,在“东数西算”工程要求下,如何保证确定时延,也是挑战之一。

目前,大模型的算力需求主要集中在训练层,随着应用深入,在重要节点或边缘侧、应用侧的推理也对分布式算力提出调度要求。

对此,中国联通、中国移动、中国电信等国内电信运营商搭建起通算、智算、超算等一体化算力平台。其中,中国电信“息壤”平台的各类智算能力合计22EFLOPS;中国移动“百川”平台算力超3.3EFLOPS;中国联通“星罗”可调动近500个算力资源池。

另外,电信运营商还积极加入万卡建设“大军”。中国移动今年将商用哈尔滨、呼和浩特、贵阳三个万卡集群;中国联通建设上海临港、呼和浩特等万卡智算中心;中国电信天翼云上海临港国产万卡算力池已正式启用。

根据上述三家电信运营商2024年中期报告,中国移动通用算力规模达8.2EFLOPS,智能算力规模达19.6EFLOPS;中国电信推理池的智能算力累计21EFLOPS;中国联通全网智算算力达10EFLOPS。

打造数据网络有望解决数据集质量问题

高质量数据集的获取与标注掣肘人工智能发展。在中国电信集团科技创新部副总经理陈靖翔看来,将依靠人工处理的数据集放到数据智能中台上,通过工具处理能够大幅提高数据运营效率。

中国移动通信集团信息技术中心、大数据BG总经理王翼彬表示,通过数据网络平台,能够让数据供需双方发现彼此,进行数据共享、共同建模。他也希望,数据网络能够解决高质量数据和人工智能模型训练之间的传输问题。

王翼彬认为,数据网络能够帮助国内数据交易中心盈利。据他透露,中国移动的数联网,已经与郑州数据交易中心、贵阳数据交易所等4家数据交易所合作,每月交付量大约在1亿条以上。

打通数据网络是为了推动数据共享,如何建立数据共享新模式?

范济安认为,可以遵循业务逻辑,“数据互联往往是同一条产业链的上下游企业”。他还提出,可以通过跨界融合的方式共享数据,这“可能出现‘1+1>2’的商机”。另外,还可以通过设立碳排放、绿色金融、ESG等监管类政策要求企业跨行业融合、加工、处理和应用数据。

业界尚未形成数据共享的统一标准或技术路线。范济安认为,区块链技术是较为可行的办法,它能够在增强数据安全、保护隐私的同时,做到去中心化的数据流通、共享。

王翼彬则提出隐私计算的方式。他以金融领域为例说明,隐私计算能够做到数据不出域,同时让模型挖掘数据价值。但他也强调,隐私计算还未形成一套标准体系。“预计未来会出现,否则很难形成集约化发展。”

近年来,中国移动、中国电信、中国联通数字化相关业务保持快速增长。今年上半年,中国电信产业数字化服务收入737亿元,同比增长7.2%。中国移动数字化转型收入达1471亿元,同比增长11%。中国联通算网数智业务收入435亿元,同比增长6.6%。

其中,天翼云收入达552亿元,同比增长20.4%;移动云收入504亿元,同比增长19.3%;联通云收入317亿元,同比增长24.3%。

以上内容来自专辑
用户评论

    还没有评论,快来发表第一个评论!