高通钱堃：将AI工作负载转移到边缘计算设备将解决电力消耗难题

11月21日，2024年世界互联网大会乌镇峰会数字化绿色化协同转型发展论坛于浙江乌镇举行。高通公司全球高级副总裁钱堃表示，面对气候变化带来的挑战，前沿技术在提高效率、降低计算功耗等方面都将起到积极的重要作用。

钱堃表示，随着生成式AI应用的激增，数据中心的电力消耗也随之增加，尤其是使用生成式AI进行搜索推理的电力消耗是传统网络搜索的十倍。为了解决这一问题，除了在数据中心部署节能芯片外，将AI工作负载转移到边缘计算设备上也是一个有效的策略。采用混合AI架构可以灵活地结合云和边缘计算的优势，“边缘侧终端设备，如智能手机、PC以及车辆等，完全有能力使用较小的模型来处理相应的工作负载，而无需依赖云端资源。”

“将更多的AI工作负载转移到边缘，并实现云端与边缘侧终端的协同处理，这将比以往任何时候都更加需要可靠、低时延且端到云的连接。”钱堃称，“高通携手合作伙伴积极推动5G技术向5G Advanced演进。5G Advanced重点关注面向终端和网络的专属节能特性，并持续探索端到端的节能技术机遇，助力构建更加绿色节能的网络。”