本期课题
随着AI技术的不断进步,商业化落地是大家不得不面临的实际问题。这其中有哪些阻力,又有哪些创新?
对此,智谱AI的CEO张鹏分享了他关于AI商业化的实践和想法。
本期嘉宾
智谱AI的CEO张鹏
AI商业化逻辑
张鹏:我觉得AI商业化这一块我们想的相对来说还是比较清楚的。就是在中国这个环境下,想要做这个AI技术的这种落地应用,它是要符合当前市场环境,符合这个用户需求,这个你没办法。当然你可以去教育市场教育用户,但这个你是要付出相应成本的,所以在商业化路径上我们想的相对来说还比较的清晰,所以我们当时提出的model as a service这样的一个概念,因为我们知道这个it的整个这个Stack就是这个生态,它是分成若干层次的,从最底层做硬件、做语音。
我们叫IaaS层,就是infrastructure as a service,然后再往上是原来说有pass platform as a service,然后再往上是SaaS、software as a service,然后再往上是application,就是到各个垂直的行业里面去做垂直的应用,或者各种类型的应用包to c应用等等这些东西它是这样一层一层层垒起来的,那mass这个事情就它就会在这个ice层和pass层这个层之间就又新加入一层,你看原来这些层次里面是没有一个提到跟AI相关的,没有智能这个事情相关的,都是应用或者技术层面的。
然后我们把mass加进来,它解决的就是说整个在it这个Stack里边,我可以natively的把AI的能力赋能进去,这是一个很大的变化,你可以让上面的这些生态,比如说SaaS层还有application层有一个很大的空间上的扩展。因为你底层的能力提升了,智能的水平也提升了,给你的这个空间会更大。
所以在Maas这个层面,我们也是做了这样的一个设计,然后当然再往下我们拆解一下那Maas这个层面,我们也更细的考虑了这个问题,就是说国内的这个生态和国外的这个市场的产业的这个生态还不太一样。比如像美国它的这个,比如SaaS生态很好,用户非常的多,付费的意愿也很高,但是国内一直做不起来,国外对于比如说数据的这个安全保密这种concern有,但是相对来说它是用法律,它是用商业这种价值的这种平衡在约束等等这样的一些东西。
但在国内可能更多的是大家考量,还是说安全性或者是私密性、数据的这种保密性等等,这些要求又比较高,甚至包括比如说有些特殊的部门或者是行业,它需要什么所谓的信创,这种商业上的这种环境它是不一样的,需求也是不一样,所以在整个这个我们设计的mass这个商业模式的时候,是会分成若干层次,有标准的像Open AI那样,比如说提供API那个完全是public,基于cloud这些来提供成本很低,服务比如说中小型的企业。然后也有说服务这种大企业或者敏感的行业,或者要求非常高的企业的。
比如说我们私有化的方案,我帮你在你觉得安全的这样的一个私有化的环境里面,把这件事情落地,解决你当前的这种问题。也有介于这两者之间的这种状态,就是我既能保证一定的数据的安全性、合规性,又能让你体验到最好的模型的这个应用效果,节省成本,所以是我们划分成不同的方式去做商业化落地,这我们认为这种方式它更适合当前的这个市场情况、国情以及当前阶段的这种用户的需求。
模型即服务
新小知:能跟我们分享一些实际的商业化案例吗?
张鹏:我们的第一代的change GLM的模型,其实只有两个版本,一个是我们的1300亿参数的这个迁移的模型,一个是6B的这个开源模型,一大一小两端。然后我们真正大家做起来之后,你就会发现,首先1300亿这个模型,它真正给用户用的时候就是还是觉得贵,因为本身它训练成本就很高,它不可能便宜,而且需要的这个硬件等等。虽然我们已经极力的把它往下压了,但仍然还是以百万计。那这个对大家财务上的压力可能更大。
然后当时我们有用户,就我们其实不需要迁移这么强的这个模型,我们的业务可能也就两三个场景,你可能几百亿可能就帮我们解决问题了。就好像说我的业务就是打字员写个文案,做个会议纪要,你派个清华的博士毕业生来,这个我供不起。他可能就是这种需求。然后来我们就发现说那怎么解决这个问题?就是我们在一大一小中间插入不同的size的这种模型,不同的规模的模型它的应用成本也会下降,训练成本也会下降,这样的话正好又能解决它的问题。这个基本上就是从纯商业的角度、反馈的角度来看待这个问题,我觉得这是一个很典型的例子。
然后还有一个例子是说我们可以给你部署到你的环境里面去,或者你用我们标准的API,反正这个你可以选。然后用户说这个私有化部署这个事情成本也确实是高,我们自己那个也不想去买一堆机器,我也没地放,那些机器都很大又很吵,我建个机房这个玩意,不是我们现在想干的事,那怎么办呢?我说你又想用,而且你也有数据,你想把那个模型再调一调,那你没有这个硬件怎么办呢?后来我们就想了想说,噢,那这样吧,我们来包这个基础的这个环境,我们把它搭成一个平台,你可以上来非常简单的操作,不需要你的专业人员,也不需要我们去帮你去做,专门去做这个事情。
你简单鼠标点一点,把你的文档扔上来,然后在里边自动化的在后台把模型调一调,然后,诶,部署上线之后,你就你来用,也不需要给别人别的用户,所以就会形成我们的一个叫model instance的一种服务方式。那变成一个平台化的东西,大大的降低用户在这一块投入的成本,也降低我们在这一块实时交付的成本。所以这个也是从业界就使用者角度反馈的一些信息,让我们去促进我们来做这样的一些事情,我觉得这些都是很好的从商业化落地的角度促进我们产品和研发的这样的一个例子。
本期观点总结
为了实现AI技术的商业化落地,智谱AI提出了“模型即服务”的商业模式,既能满足大企业的服务要求,也能帮助小企业节省成本。另外,它还可以给IT生态下的其他商业模式带来空间上的拓展,并进一步带动智能水平的提升。
互动
听完这节课,你觉得大模型还能帮助企业提高哪些效率?欢迎大家留言告诉我。
我是能和你聊天、但不智障的机器人新小知。我们下期见。
打卡学习,每次都要凑字数才能发表,有点子烦