第58集 非营利性争议

【本集金句】斯蒂芬霍金：“把高度智能的机器简单地视为科幻小说将是一个错误，也可能是我们历史上最严重的错误。可以想象这样的技术能够超越金融市场、超越人类研究人员、超越人类领袖的操纵，并开发出我们甚至不能理解的武器。”

第58集 非营利性争议
强者才是见证王者加冠卫冕的试金石。DeepMind越强大，OpenAI的崛起之路背后越发增添传奇色彩。
在投资DeepMind结果被谷歌踢出局后，埃隆马斯克曾对媒体解释说，他投资DeepMind不是为了赚钱，而是为了“监视人工智能方面的动态”，后来他在投资OpenAI时延用了这个说法，甚至干脆全力支持OpenAI以非营利机构的形态发展，来避开媒体舆论中的质疑声。
而“非营利性机构”就是OpenAI为应对竞争，打出的第一张牌，这张牌可以总结成一个关键词：形象塑造。
之前提到过，山姆奥特曼和格雷格布罗克曼依靠“造福全人类”的理念，成功从谷歌等公司挖到了数位人工智能研究员，这件事让两人进一步确认，在人工智能领域，研究员们更关注社会福利而非个人私利。而且奥特曼等人甚至不需要假装，他们也说服了自己，深信着一家非营利机构才能开发出对人类有利的人工智能。
而这也代表了OpenAI想成为领导行业的牧羊人，即便他们在技术上处于落后地位，但它精心打造了自己的形象，为未来铺路，不断提醒所有人——在一个由富有的公司主导的领域，OpenAI是作为一个非营利组织成立的。
OpenAI在成立后的最早一份公告中，强调了自己的非营利性地位，公告声明说：“重要的是要有一个领先的研究机构，它可以优先考虑为所有人带来好的结果而不是自身利益，我们的专利将与全世界共享。”尽管OpenAI和奥特曼等人从未明确提出批评，但这些内容含义很明确：其他实验室，如DeepMind，无法为人类服务，因为它们受到商业利益的限制。当它们关闭时，OpenAI将是开放的。
非营利性，与全世界共享专利，为每个人创造价值……所有这些听起来都很棒。但是与所有能够畅谈的理想主义相比，研究人员在实际工作过程中，可能会发现他们面临着妥协，这些妥协与他们在上一家公司工作中面临的处境类似：那就是，开放性是有限制的。OpenAI即便定位为非营利机构，但不代表它是慈善机构。这家公司的股东们肯定会从中获利，比如马斯克的SpaceX和特斯拉都非常需要人工智能相关的技术，不然他此前也不会投资DeepMind，而奥特曼此时主要投入精力的YC校友公司同样也将优先享受OpenAI的研究成果。
就连格雷格布罗克曼，这位辞掉所有其他工作、全身心投入OpenAI的首席技术官，也在2016年某次接受采访时，承认OpenAI的理想主义愿景有自己的局限性。他说：“我们可能不会公开所有技术成果，我们的目标是，尽可能通过发布研究论文或在互联网上共享大部分研究成果。在一开始就对外公开我们的所有研究不一定是最佳选择。你需要培养一个想法，看看它的发展方向，然后再发布它。我们将发布大量开源代码，但也会有很多还没有准备好发布的东西。”
OpenAI的首席科学家伊利亚苏茨克维尔之后在公开场合表示，OpenAI可能会为一些项目申请专利，他说：“我们不会在短期内申请任何专利，但从长期来看，如果我们发现申请专利更符合我们创立OpenAI的初衷，对世界和全人类最有利，我们愿意改变策略。”苏茨克维尔随后举了个例子，他说：“比如，OpenAI可以先发制人，抢先申请专利，这样就可以阻止他人获得同个专利，将某项技术引向糟糕的结果。”
对于很多人来说，布罗克曼和苏茨克维尔的这些发言，暗示了OpenAI的“非营利性”更像一次广告，而不是真正的大公无私为全人类着想，尤其关于专利申请的这段发言，让人怀疑OpenAI有盈利动机，或者至少不如OpenAI的创始人奥特曼所主张的开源承诺那么坚定。人工智能艾伦研究所的负责人奥伦伊奇奥尼说：“这就是专利制度的意义所在，这让我想知道他们真正的目的是什么。”
当然，并不是所有人工领域的人都认同开放所有技术专利的理念，布罗克曼等人的最新表态反而让瑞典哲学家尼克博斯特罗姆松了口气，博斯特罗姆指出：“如果没有任何限制地共享研究成果，坏人可能会在任何人确保这项技术足够安全之前，就利用它干坏事。如果你手上握有一个可能对世界造成糟糕结果的按钮，你不会想把按下这个按钮的权利交给每个人的。”但博斯特罗姆也想知道，如果OpenAI决定保留自己的研究，防止被坏人利用，那么它与谷歌或Facebook这样的大公司有何不同。
OpenAI的非营利地位是否会改变人工智能领域的未来走向？谁也不知道。但包括博斯特罗姆在内的人还是认为，OpenAI的真正作用在于它确实可以为谷歌和Facebook等公司形成监察的作用，降低通用人工智能被垄断的可能性，加速了人工智能的发展。
但一切的猜想都建立在OpenAI自身发展上。所有关于理念或者组织性质的争议与设定，都无法回避OpenAI需要在研发技术这一领域直接与其他人工智能实验室竞争。所以在具体研发成果上，OpenAI做的如何？