趋势预判03 | 我们距离算⼒⾃由还有多远?【新华三徐润安】

趋势预判03 | 我们距离算⼒⾃由还有多远?【新华三徐润安】

00:00
08:27

本期课题 

作为大模型必备三要素,算力、算法、数据三者之间的关系是什么?我们目前距离算力自由大概还有多远呢?


本期嘉宾

新华三集团副总裁徐润安


什么是算力和算法

徐润安:我们所谓的算力就像基础设施,它需要有能力去把这些数据的价值通过算法挖掘出来,把数据背后的价值挖掘出来。这就需要很大的算力,它需要各种各样的指令集去做这个计算,然后输出大家希望的结果。所以这个算力就像能源、像电力一样,对于整个的数字基础设施来说是非常重要的部分


我们讲完算力,还有一个算法,算法其实相当于各种各样的指令集,根据这样的逻辑去执行一系列的命令,那就需要有算法,算法需要靠算力才能去执行,然后输出相应的结果。有了算力之后,最关键的是数据数字化,所有的东西最后都是数据,这些价值都隐藏在所有的数据里,如果没有高质量的数据,或者没有真实的数据,有算力和算法也没有用,所以这三者是相辅相成的,在整个的数字基础设施里面非常重要。


大模型需要多少算力

新小知:那请问现在做一个大模型,需要投入多少算力呢?


徐润安:这个问题没有一个终极的答案。网上也能看到很多的报道,比如 OpenAI 有1万个 GPU 去做 GPT 3一个模型的运算,比如我算一个GPT 3规模可能要 15 天到 20 天,才能做一次完整的训练等等。因为现在包括人工智能的AI神经网络的计算等等,对于算力的需求是源源不断的。


我觉得头部的公司,类似对标海外的GoogleAMI、亚马逊、OpenAI、微软一定是不惜血本地投入,我相信这都是集群的规模,都是大几百台的集群规模,而且可能不止一个集群。打个比方,一个OpenAI 算力基本上要7- 8 500P单位,大概有 500P 数据中心来做支撑。像我们国内头部的厂商基本上,至少有上千,去专门做大模型。这个领域是非常specific


一个大模型的一个集群可能就是几百台,一般我觉得大概是在 500 台左右。可能一个集群并不够,那就再做一个集群,又是 500 台,它就叫训练。在一个集群上做一遍训练可能不够,那就要在其他地方继续不断地做叠加训练,可能一个基金不够就要两个甚至三个,这个规模是会不断延伸的。


我觉得当前的阶段属于非常热的投入的阶段,还没有到仔细精算所谓的投资回报的阶段,但我相信过一段时间以后,随着上面业务的产生等等,你会看到更多的数据会越来越准确,会知道到底要多少算力才是更经济、更有效。


我们离算力自由还有多远

新小知:那我们目前距离算力自由大概还有多远呢?


徐润安:我觉得这跟外部环境有相关,也可能不相关,首先是社会整个发展到现在的阶段,它对算力有更多的需求。这是一个事实。


那接下来就是,产能在满足这样一个需求的情况下,有两个策略:

一是把后台的产能不断的跟上,包括国内国外的各种各样的技术产能,能够让算力匹配上这个需求。


二是优化效率,我怎么通过技术的手段,通过算法,这算法也是其中之一,就各种各样的技术手段去提升我现有可用算力的效率。


我们怎么去把效率的进一步的提升,我一直说这一定是一个螺旋型上升的一个过程,算力够了,可能是算法不够,或者是效率不高,把效率提升了又觉得算力又可以爆发一段,又发现算力不够了再补。那这永远是这样的一个过程。然后再放到时间维度上去看,多长时间都不够,可能 1- 2 年,对于我们现在看到的算力是比较吃紧的,我们也看到国家部署了东数西算,我们部署了好多节点要多少机关。但我们坦率说现在看到的一定是,如果有这么大的需求的话,其实供应跟不上,但是迟早有一天,我们相信算力和供需会达到一定的平衡,到那个时候可能大家研究的是效率怎么进一步的提升,能够畅想这样的一个时代。


其实大家看现在有很多的科幻片,描绘的场景其实就是算力自由的场景,在任何的地方点两下我就能看到一个数,然后你的助手就能告诉你天气怎么样,你应该去哪,有什么事发生等等,是最终的算力自由的场景。


但我们要到达描绘的算力的场景可能还需要一段时间,就像微软,前两天刚刚看了微软的纪录片,比尔盖茨刚上来说我要让家里的每个人桌上都有一台电脑,那个时候没有人能够想象最后会是那个样子,那我们现在可以完全畅想的是有一天一定会达到算力自由,也就是我们看到的科幻片里的数字化的场景会发生在我们身边,一定会有那么一天。那我们就是身处在这个时代当中的每一个弄潮儿,我们对这个进程做出自己的努力,然后不断的去适应这样的一个时代,我觉得就好了。


本期观点总结

大模型的三要素是算力、算法和数据,三者相辅相成缺一不可。其中大模型对算力的需求是源源不断的,而我们在科幻片中看到的场景就是未来算力自由的样子。


互动

你脑海中算力自由的场景是什么样子的呢?欢迎大家留言告诉我。

我是能和你聊天、但不智障的机器人新小知。我们下期见。

以上内容来自专辑
用户评论
  • 听友413236947

    算力自由早点来到吧,好想快点实现科幻片里的场景啊!