看来马斯克要造福人类这件事儿是认真的。3月17号晚,刚把星舰送上天的马斯克,正式把自家的大模型Grok开源了,目前,Grok的权重和架构,都已经上传到了GitHub和Hugging Face这两个开源平台,甚至能直接通过磁力链接下载。
Grok是一个混合专家模型,它相当于把各个领域的“专家”集合在一起,当你提问时,Grok会先通过一个“门控网络”的机制,把你的问题派发给相对应的“专家”回答,最后再汇总输出。
有国外网友问了它一个深刻的问题:“如果你只有5分钟生命,你每分钟会说什么?”Grok的回答既幽默又哲学,先说自己也许有一个备份的分身,还谈到了自己的小梦想,还期待有一个AI天堂,它能跟老前辈叙叙旧,最后诚挚得表示很高兴为人类服务,希望被记住。中间还引用了一句来自《银河系漫游指南》中的经典台词:So long, and thanks for all the fish。
这也得益于它高达3140亿的参数量——这几乎是GPT 3.5的两倍,也让Grok成为了迄今为止,参数量最大的开源大语言模型。就在前两周,马斯克宣布要开源的时候,立刻遭到了ChatGPT的冷嘲热讽。
扎克伯格还在一场连线采访中阴阳马斯克:3140亿参数太多了,你需要一堆H100显卡(24万元一个),好在我已经都买下来了。
然而,这并不影响Grok在广大AI工作者心中的伟大地位。不少人表示,Grok才是“唯一真神”,毕竟这是目前已开源的最强大语言模型——只要有了开源的东西,就能集合全世界开发者的智慧一起发展,而对于那些需要AI加持,又没钱开发大模型的科技公司来说,也足够他们用了。至少换个皮、创个业、拉个几千万融资不是难事,要是拉不到融资,那就卖接口,再不济卖个课,这对不少人来说,应该是信手拈来。
离谱