“危险，停止GPT5”？

文丨张丽娟

来源丨投中网旗下东四十条资本

AGI的通天塔还没搭成，人类却早已吵成一团。

成立于2015年的OpenAI，本来是由马斯克等一众科技界的亿万富翁共同出资创办的，只是到了2018年，马斯克反而断然撤销了一笔巨额资金，并直接从OpenAI的董事会卸任，且公开表示是因为有利益冲突。

事情到此戛然而止，OpenAI不温不火倒也不算什么，只是转折在于，当OpenAI两个月日活1亿，且上线了其最新人工智能模型GPT-4，这一举彻底彻底轰动了整个科技界后，事情又有了新的波澜。

除了上述秘闻被挖出之外，近日，未来生命研究所直接公布了一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。

如果只是一个非盈利机构的公开信提提建议倒也实属正常，但值得指出的是，此公开信目前已经有1079人签署，马斯克在其中尤为醒目，除此之外还有被称为“人工智能教父”的杰弗里·辛顿，苹果公司联合创始人史蒂夫·沃兹尼亚克等等。

公开信给予的理由是，广泛的研究表明，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险，且指出，这一观点得到了顶级人工智能实验室的承认。

而且相关背景也被吵出，OpenAI CEO萨姆·阿尔特曼也坦诚，AI已经出现其无法解释的推理能力，同时承认“AI杀死人类”有一定可能性。

但问题来了，到底是学术的归学术，众多科技大佬更担心技术及科研层面AGI带来的巨大社会风险，还是更加担心借此之下，权益更加不保？

我们先来看公开信全文，并画画重点：

第一，目前没有人能准确地理解、预测或控制AI系统，所以也没有相应水平的规划和管理；

第二，现在也并不能确信诸如OpenAI这样的人工智能系统效果积极、风险可控，即便是OpenAI也在最近声明中指出，在开始训练未来系统之前，需要得到独立审查，不然也同意限制速度；

第三，所以就应该在控制上述潜在风险之时，抓紧共同制定并实施一套安全协议，以确保系统的安全性。

公开信全篇都在讨论安全，以及担心AGI不知道会将人类带向何方，尤其是提醒众人，最好停止使用其他技术可能会对社会造成灾难性影响，给整体社会一个适应，保持准备状态，才能可以享受漫长的人工智能夏天，而不是匆忙进入秋天。

其实要这么看来，这个讨论也是正常的，正如公开信所提及的，随着ChatGPT的风头日盛，关于人工智能的风险也确实引发了更多人的担忧。

比如，杰弗里·辛顿在接受哥伦比亚广播公司采访的时候就表示，人工智能可能发展到对人类构成威胁“并非不可想象”的地步。

辛顿的发言在推特上收到了盖瑞·马库斯的响应，称超级智能可能会也可能不会迫在眉睫，但在短期内，需要担心“MAI(平庸人工智能)风险”。

马库斯甚至认为，生成式人工智能的大范围传播，或许会导致比新冠更糟糕的传播，很多人可能会因此而死亡，甚至文明都会因此而被彻底破坏。

就连萨姆·阿尔特曼也在谈话中表示，人工智能的超级智能所带来的风险，可能会远远超出我们的预料，“GPT系列为何会出现推理能力，OpenAI的研究者自己都搞不明白。只是在不断测试中，人们忽然发现：从ChatGPT开始，GPT系列开始出现了推理能力。AI确实可能杀死人类。”

当然，风向并没有一边倒，总不能刚开始有人工智能狂飙的苗头就直接掐灭，同样作为图灵奖得主的Yann‍‍LeCun，就直接没有签署上述公开信，并直接表示不同意上述前提。

且值得商榷的是，这1000多位大佬的签名中，还冒出了一个所谓的OpenAI CEO，但根据马库斯和一众网友的推测，这反而像一出罗生门，使得事情更加可疑。

我们理解，随着OpenAI的GPT模型不断向前地毯式推进，全球的各家AI实验室乃至AI企业都正在疯狂展开AI竞赛，都想用更短的时间来开发和部署更强大的AI，以使得自身在新的时代有更多的话语权，这确实会裹挟更多疯狂，使得场面更加不可控制。

甚至，毫不讳言，公开信只是展露了一个事实，大家更担心的是，这些人工智能的系统越来越集中地掌握在大型科技公司的手中，确实会给更多的人带来不安全感，这是必须要解决的问题。

如果按照公开信所言，技术暂停6个月，或许会有利于各个公司集中起来做出更稳妥的方案出来。

但其实，GPT的不断演化固然像被打开的潘多拉魔盒，更多的还是巨头被裹挟，在下一个时代来临之时没有拿到船票的恐慌。

马斯克离开OpenAI不要紧，6个月后，OpenAI从微软那里获得了10亿美元的投资，并跟微软形成了深度捆绑的关系：微软直接在GPT-4发布后第一时间表示，新的Bing已经基于GPT-4技术运行。

这也为微软带来了巨大的好处：Bing的日活首次突破1以，且在移动设备上使用率有所增长。微软甚至展示了其类似ChatGPT的人工智能在原来Office办公套件中的妙用，甚至，OpenAI还能帮微软成为使用更广泛的人工智能云。

这一切当然会让马斯克不爽，去年12月，ChatGPT发布一个月后，马斯克取消了OpenAI对Twitter数据的访问权限，而这项协议是在马斯克收购Twitter之前签订的。

乃至于近期，马斯克甚至在推特上表示，“我仍然很困惑，一个我捐赠了近1亿美元的非营利性组织，如何成为一个市值达300亿美元的营利性机构？如果这是合法的，为什么不是每个人都这么做？”

马斯克随后还用了更加直白的语言，“我意识到，人类创造的最强大的工具，现在掌握在一个无情的垄断公司手中。”“人类还能做什么？我们最好使用Neuralink（来对抗人工智能）！”

这或许是因为除了侧面交锋之外，OpenAI开始跟特斯拉正面刚：据媒体报道，OpenAI正在进军特斯拉的机器人领域，且已经投资了挪威人形机器人公司1X。而这早也引起了外界对于GPT模型和机器人结合的热烈讨论。

那么，在众多业内人士都达成共识，表示生成式AI的产生本质上是一种生产力革命，其不仅是工具，而是直接成为生产要素的重要部分，马斯克还曾坚信，只有他自己才能真正安全开创人工智能时代，或许真的是一种吃不到葡萄说葡萄酸的心理了。

不然，类比下黄仁勋，在今年GTC的官方预告中，黄仁勋直接表示：“AI正迎来有史以来最辉煌的时刻。新的AI技术和迅速蔓延的应用正在改变科学和各行各业，并为成千上万的新公司开辟新的疆域。这将是我们迄今为止最重要的一次 GTC。”

投中网也曾之前调侃过，“巨头AI混战背后，‘卖水的’赚麻了”，屁股决定脑袋，巨头乃至科技大佬的一言一行一定代表了他们自身的立场和利益。

尤其是，苹果、谷歌、微软乃至国内百度、阿里、腾讯、美团等无一不是因为押注了技术的红利，形成了自身巨大的护城河，那么当OpenAI作为一个外部来的搅局者，希望建立一个由自身作为入口的新型人工智能驱动的新模态，早前的既得利益者怎么会轻易罢手？

就连辛顿自己都在接受CBS NEWS采访时都表示，人工智能正处于一个「关键时刻」，通用人工智能(AGI)的出现比我们想象的更加迫近。

AI的应用，让人和计算机交互的方式产生了剧变，已经是个不争的事实，一个非常确定且巨大的时代机会下，谁甘心自己是没有船票的哪个人？

有眼可见，接下来或许技术层面有待确认是否安全，但商业世界的争吵一定会愈演愈烈，毕竟，现在正是见证历史的时刻。