【王煜全 要闻评论】粉丝群已经开通
欢迎加入前哨粉丝群,在这里你可以和科技投资人、创业者、各行业专业人士互动沟通,分享心得体会,也可以第一时间了解到前哨相关活动动态,结交志同道合的小伙伴。
入群方式:
微信扫码下方二维码即可入群
如果您想洽谈合作,请添加创新地图的微信:innovationmap ,并附上简介。
你好,我是王煜全,这里是王煜全要闻评论。
这两天,微软的AI搜索功能已经上线测试,趁着chatGPT的热度,2009年就已经推出的Bing APP重新焕发光彩,下载量一度暴涨了5倍。
大家自然不能放过这个新玩具,各种测评、分析都已跟进,讨论得挺热烈,一会儿能听到有人说技术颠覆出现,谷歌地位不保;一会儿又有人告诉你AI不过如此,错误百出没啥实际用处,谷歌市场占有率依旧坚挺。
过去一周,我和大家一起分析了AI产业的未来格局。今天我想还是要站在当下看未来,和大家一起聊聊,如何看待今天的这些争论,如何理性看待通往未来的道路。
首先,我还是要提醒大家,今天只是AI变革刚开始,产业终局并不会立刻到来。
根据我们的理论框架,新技术改变人类社会要经历「行为改变-习惯改变-文化改变」的过程,今天Bing上线AI搜索只不过是新一代AI应用诞生的小标志,我们如何使用AI,AI的功能该用到哪些地方,这些都还需要探索,现在只是行为改变的开始。
正因如此,在这个阶段各种观念、各种看法会不断交锋,充满了各式各样嘈杂的声音,我们会听到更多“技术颠覆”的呼声,也会听到更多“不过如此”的批评。
这正是新科技融入社会,新变革开始的一大特征,直到各种争论平息,新的AI应用成为我们的日常使用习惯,人们都觉得技术似乎没有什么新鲜的,技术的颠覆才真正完成。
这就好比互联网刚出来的时候,各种颠覆的概念最多,但真正颠覆了人类社会的传统习惯,其实是每个人成为网民的时候。
今天才上线了一个AI搜索,但不少人已经发现chatGPT在翻译、文案、辅助决策上的潜力,更不用谈和AI绘画、游戏、笔记等已有应用结合的各种可能性了。
随着AI技术融入到越多行业中,关于使用习惯、数据所有权的争论也会越来越多,我们既要认识到缺陷与不足,更要明白新技术一旦铺开,必然势不可挡,唯一的区别就是你今天使用,还是明天使用。
其次,AI技术本身也仍然在变革之中,今天chatGPT的惊人表现,用特训营的说法是:又一批AI技术阶段性成熟,孕育出的“low-hanging fruits”—低垂的果实。
去年2月,我在特训营里和大家总结了AI技术70年的发展史,分享了现阶段人工智能大模型技术成熟的各种标志,分析了技术成熟后产业爆发、硬件迭代以及数据业务的新变革。
那次课程有一个基本的结论,就是AI技术要再进一步成熟还需要时间,其中提到了Yann LeCun的「小世界模型」,一种模仿人脑优化AI的设想,很有潜力。
当然真正的技术一线研究人员做得更为具体,比如一直比较热门的「稀疏专家模型(Sparse Expert Models)」。
打个不太准确的比方,现在的AI大模型在整个神经网络中没有任何分工,所有的数据都得AI大脑一起处理,不但数据需求量大,训练成本高,训练优化也需要很多人工调试才行。
成本高是一个方面,数据需求量大其实才是关键问题。2022年有研究做过估算,全世界可用于AI大模型训练的高质量文本数据,用AI训练的单位看就在4.6万亿token到17.2万亿token之间,由于数据标注大小不同,换算成文字单位的话,在3.2万亿单词到4.2万亿单词左右(注:论文名《Will we run out of data? An analysis of the limits of scaling datasets in Machine Learning》)。
今天人工智能大模型训练,最多的已经用到了1.4 万亿token,数据瓶颈已经摆在面前,要解决这个问题,要么就得雇更多的人做数据标注,要么就要探索新的AI算法框架。
「稀疏专家模型」就是后一种探索,通过把整个神经网络分成一堆「小专家网络」,每个专家负责某个特定领域,让AI训练的能耗、计算量大幅减少,性能表现还能有所改进。
比如,谷歌开发的GLaM稀疏专家模型,参数规模比 GPT-3 大了7倍,但根据他们测算,训练耗能降低了三分之二,计算量减少了一半,在一些通用表现上还比GPT-3要好些。
当然,这只是前沿案例中的一个,各种尝试都还在进行中,就连chatGPT本身也在进步,OpenAI一直在使用数据并行、流水并行以及「专家网络混合」等新的技术优化方案。
任何新科技在刚推出的时候都是不完善的,随着技术的进步,很多眼下的问题都会得到改进。但不可否认的是,今天我们已经驶入了AI变革的弯道,新的未来正在逐渐露面,大家既要认识到技术变革的趋势不可逆转,也要明白技术融入社会还需要时间。
希望大家都能怀着「早期使用者」的心态,对未来抱有信心,对当下保持理性,这样才能在一片嘈杂中找到属于你的机会。如果你有这方面的心得,也欢迎在留言区与我们分享。
以上是今天的内容,更多详细的产业分析和底层逻辑,我会在科技特训营里分享。欢迎关注全球⻛口微信号,报名加入!
王煜全要闻评论,我们明天见!
国内如何使用?你告知一下吗?