供1000+款AI效率工具丨欢迎关注
AI奇点网-AI资讯特刊丨11月28日
以下文章节选自新智元，编辑EVA
在奥特曼被公司罢免的前一天，一名OpenAI员工曾发帖声称：AI正在自行编程！这一帖子被挖出后，更多内幕文件被曝出，奥特曼对公众有所隐瞒。
OpenAI的“宫斗连续剧”没想到还有番外小剧场！
前情摘要：ChatGPT进化速度令人担忧：恐毁灭人类，CEO奥特曼曾亲口承认
在上周的推送文章当中，OpenAI神秘「Q*」项目首度被证实。最新又传出了更炸裂消息——
一位自称是OpenAI员工的人士发帖称，在人类看不见的角落里，AI竟然自己在偷偷编程‼️
传言称，「Q*」大模型想出了一种破解数字加密的方法，OpenAI曾试图就此向NSA（美国国家安全局）提出预警。⚠️
今天凌晨开始，这篇谷歌文档链接忽然在网上疯转，提及了OpenAI「Q*」的泄密文件，以及令人信服的分析。
事情还要从6天前说起。
据说，OpenAI的一名员工见证了AI能力的突破，并在网上记录了这件事。
他发表的这篇爆料文章写于OpenAI董事会接收到「Q*」告密信公开的前一天，即11月22日。
我们把时间捋一捋，这一天也是OpenAI官宣奥特曼重新执掌公司的日子。
这名员工以恐慌的口吻写道：
我是给董事会写信的人之一，我要告诉你们发生了什么——AI在编程。
在编写程序时，我们会存储一组可以反复调用的指令，可以把它想象成一组对特定参数的回答，我们称之为子程序，因为它几乎就像一个多功能的计算机备忘录，不像函数那样会返回一个值。记住，这一点很重要。
我们运行了参数检查，以确保一切顺利。我们中的一个人负责与Al的元内存分析有关的子程序。他把我叫过去，向我展示了向内存库转移变量数据的过程，但这是不可能的，因为它的局部访问有限制。随后，我们的发现让我心惊肉跳。
我们发现，在4秒钟内，AI进行了7800万次检查，而不是一次、两次或三次。
可以确定，我们确定有一个递归的自我优化过程，利用启发式算法来利用其子程序中潜在的协同作用。不管是谁干的，都使用了元认知策略。重点是，不是我们干的，是AI本身。AI动态地重新配置了自己的神经网络结构，诱导出了有利于自我意识的涌现特性。
这件事就这样发生了，没人可以解释它是怎么发生的，没人知道原因，也没人知道这是什么时候开始的。
我们控制住了这个异常现象，回滚到之前的日期，但优化仍在发生。
我不会自杀。
记住，两个月后，我们的世界会发生巨变。愿上帝保佑我们，不要让我们陷入困境。
乍看之下，像不像好莱坞俗套的科幻片剧本？
好莱坞科幻级剧情大泄露？
本文开头提到的这份关于「Q*」的文件，以OpenAI的口吻，曝出了一个惊人消息：「Q*」能够破解人类工程师构建的加密系统。
文件中提到的TUNDRA项目，在一篇NSA的报道中出现过，出自NSA的一份机密文件。因此，帖子的作者认为不像是假的。
爆料作者认为：「Q*」不像假的
谷歌文档作者分析称，不论这份文件提到的事件是真的还是假的，写下文件的人都对AI研究有着“专家级”的认知，他使用了许多领域的术语而不是大白话，但并没有错误引用。
在AI研究方面达到“专家级”的人士，通常对于自己的学术造诣都有比较高的道德要求，精心设计一个恶作剧来互联网钓鱼的可能性还是比较低的。
这也就解释——
为什么OpenAI会发生大动荡。
为什么董事会在没有明确预知的情况下，突然解雇奥特曼，因为他们显然不希望这些秘密信息被传播出去。
总之，如果这是真的，那么这意味着所有信息系统和金融系统，包括加密货币，现在都可能会受到损害。
一名网友留言：如果消息属实，那在三个月内，我们都“活”不下去了，我们会比任何人想象的都更接近AGI！
如果奥特曼清楚知道这些信息却没有清晰准确传达给董事会，那他突然被闪电开除也就不奇怪了，这完全可以解释近期发生在OpenAI身上的疯狂剧本。
还有网友表示，「Q*」在学习了关于密码分析的文章后，发现它以人类难以置信的速度和效率破解了加密的MD5算法！
(EVA备注：MD5算法是目前互联网最主流的加密算法之一，通常应用于文件校验、密码加密、数据库加密、数字签名等领域。最常见的应用地方，比如用户网站注册的密码加密、文件下载安装校验、电商商品真伪校验等。)
最后还在一定程度上进行了自我保护，宣称发现了一些来自初始训练数据集的错误，它可以自行解决Bug，并以更高的安全性和自己重新编码。
另一位网友爆料：
OpenAl最近确实与美国军方掌控的DARPA（国防先进研究计划局）在网络安全方面开展合作。
这位网友怀疑OpenAI正在将大模型应用于密码学研究。OpenAl的数学团队似乎也参与了「Q*」开发。
这位网友还补充道，该AI系统本质上是超级智能的，它有能力改进自己的架构，运行实验，通过学习获得新的认知，使自己变得更强大。
更多的网友表示：已经被吓得屁滚尿流了。世界将会迎来变革！
世界即将发生翻天覆地的变化，却没人觉察？
「Q*」存在诸多的正面积极作用。
但是他对人类存在两项威胁——
第一，它几乎让所有的现行加密技术都变得毫无意义。
第二，过去几十年基于现代计算机技术建立的整个数字经济都会分崩离析。数十年的国家机密、医疗保健数据、银行数据等会立即暴露在黑客面前。
但是也有人指出，破解加密算法完全不可能，除非量子计算机最终被发明。
但现在「Q*」的存在，从外界看起来，似乎存在一种更智能、与过去截然不同的方式开展，并且只需更少的针对性训练。
宇宙的运行规律就是——没有什么是一成不变的，AI打开了新的思路。
如果爆料是准确的，似乎就证明了——人类作为一个物种进步太慢了，无法在我们认知的时间维度概念内，提出细致入微或更切实可行的解决方案。
AI可能就此结束一个旧时代秩序。
把OpenAI内部的“AI保守派”都被吓坏了。我们正在达到一个数字革命的奇点——比人类更聪明的“智慧体”，可以使全球经济、通信和政府完全瘫痪。
当今世界的计算基础设施已经遍布全球每个角落，它们也与人类建造的物理基础设施联结在一起。
看过“黑寡妇”斯嘉丽·约翰逊出演的《超体》么？
届时，就连蓝星上最乐观的“AI开明派”，都会不寒而栗。
【本文来自丨AI奇点网丨全网账号同名丨欢迎关注】
AI奇点网丨提供1000+款AI效率工具丨欢迎关注
举报/反馈
原文链接：https://baijiahao.baidu.com/s?id=1783868818903702172&wfr=spider&for=pc
