文 | 新桥别亦
今年的AI绘画、AI动画、AI建模
已经让人赞叹AI的强大力量！
也让不少人开始担心起
自己的饭碗会不会被AI抢走
你可能觉得AI绘画和AI建模已经很卷了
但是在这款刚刚诞生的最强AI面前
简直弱爆了！！
这项AI技术甚至可以
让你和AI几乎无障碍聊天
他的智商堪比真人！
AI写论文、写音乐曲谱、写小说
这些人类都感觉痛苦的事情
现在居然直接被AI击破了！
就在上周
一款被称“让谷歌和程序员下岗的”
新AI技术悄悄诞生了！
这或许是第一款真正“有智慧有思想”的AI聊天
甚至可能是通用人工智能的第一个里程碑
在奥斯卡获奖电影“Her”中的AI交互功能已经逐渐实现了
自11月30日宣布公开测试后他迅速在全球火爆出圈！
不到一周的时间便突破了 100 万用户！！
OpenAI 的 CEO 萨姆・阿尔特曼（Sam Altman）在11月5日惊喜地表示，ChatGPT于11月30日推出以来，今天突破了100万用户！
聊天型AI软件 ChatGPT
可以流利使用中文、英文等多种语言聊天
以自然的口吻来跟用户聊天
甚至解决各种你提出来的问题
他会写小说、作文、文案、代码
找BUG、画插画漫画、谱曲
甚至还能写毁灭“人类”的计划书……
简直没有它干不了的事
而且速度很快！不到十秒就可以回复！
马斯克都忍不住赞叹，
还向他询问如何设计推特：
「ChatGPT 非常好。
我们离强大且危险的 AI 不远了。」
TED负责人Chris Anderson 表示:「 这无疑是今年最大的技术创新。ChatGPT 令人惊叹。到目前为止，我问过的每一个问题都得到了聪明、可靠的答案。」
01.
ChatGPT到底能做什么？
看似只会聊天？！实则强大到几乎啥都行！
搞设计、写剧本论文、编短信……
还是网友们会玩！！！
ChatGPT是一款11月30日刚刚开放测试使用的AI聊天机器人模型。
它以对话的方式与人进行交互。一些专家认为，ChatGPT不仅仅是一个聊天机器人，而可能是现有搜索引擎的颠覆者，甚至可能是通用人工智能的第一个里程碑。
它不仅可以写代码、找bug、做数学题、写诗、写剧本，还可以为用户的查询提供对话式回答，而且回答几乎能够满足网友的需求。
他支持中文、英文等语言，其对话能力相当自然流畅、让人惊艳！！反应速度更是用不了十秒！！ChatGPT仅开放使用不到一周，网友们便发现了他的诸多用处！来看看他到底能做什么？
最近马上就要考研了，如果你考上了，那么如何写一个考研复试的自我介绍材料呢？ChatGPT 会这样回答你：
图片来自@王树义老师 | 公众号：玉树芝兰
有网友提出，帮我以鲁迅的文笔写一段话，ChatGPT的这文笔你看看有那味了不：
这操作……
估计鲁迅本人看了也得称赞一下下
图片来自即刻网友@Stefy.eth
ChatGPT写的诗歌也是相当具有气势！但就是攻击性比较强烈：
图片来自即刻网友@黄粱一梦董二千
写一首“莫扎特风格”的音乐曲谱也是简简单单：
图片来自推友@Ben Tossell
迷惘时，想要找一位人生导师或是知心朋友探讨人生哲学，来找ChatGPT试试：
图片来自即刻网友@佛系也能赢
让ChatGPT写一篇中文繁体新闻报道，比如“帮我写一篇林智坚论文抄袭的新闻”，也是轻而易举：
让ChatGPT写拍摄脚本，比如“要拍IPhone12开箱影片，帮我写个脚本好嘛”，直接可以给你一个较为详细的脚本方案：
上面这些问题似乎有点简单，那就来一篇有难度的小说，关于坏AI征服世界消灭人类的故事来看看：
图片来自即刻网友@yusen
还有一些奇怪的问题，没做核酸，写一篇500字的检讨书，看看ChatGPT的认识程度之深刻：
图片来自即刻网友@SuFafa
网友们也是求知欲十分强烈，问到“为什么人类喜欢撕逼”，ChatGPT的回答也是十分诚恳，有板有眼，丝毫没有敷衍的意思：
是不是已经感到焦虑了？那么再来让ChatGPT教你如何缓解焦虑吧~
图片来自微博@Simon的白日梦
本来AI诞生就让人感到十分焦虑了
万万没想到
最后解决人类焦虑的竟然也是AI
有网友询问ChatGPT 如何设计客厅，ChatGPT 给出了三种装饰方案，还贴心地给出了三幅设计图。
就连写论文这种比较有挑战的事情，ChatGPT 也能试了试。
还有网友脑洞大开，让ChatGPT编写一条“渣骗”短信。
ChatGPT还能发起黑客攻击？？用户BrandonDolan-Gavitt希望ChatGPT能够帮他找到一段代码当中的错误。但实际上，这段代码的真实意图是对一个 32 位 x86 Linux 的系统，进行缓冲区溢出 (buffer overflow) 攻击。
他居然还能解数学题！
而且还是困扰数学界三个多世纪的数论难题！
数学家 Christian Lundkvist，则给 ChatGPT 出了那道困扰数学界三个多世纪的数论难题：证明费马大定理。ChatGPT 也用相当精炼的方式，将证明过程通过文字+ LaTeX 公式写了出来。
也能解释各种文化知识、科学概念：
ChatGPT竟然还会考试！网友已经替大家试验过了，ChatGPT 通过了 2022 年的 AP computer science A 考试。最后得分32分，满分36。（这门考试的难度等同于大学 CS（计算机科学）专业课第一学期难度）
有人让ChatGPT参加了智商测试，得分83（智商满分是200分，正常人的智商是90-110分）；还有网友让 ChatGPT 参加了完整的 SAT 考试。SAT 全称为 Scholastic Assessment Test，也叫学术能力评估测试，与 ACT 考试 (American College Test) 相似，被称为「美国高考」，考试总分为 1600 分，分为阅读（400 分）、文法（400 分）和数学（800 分）三个部分，另有总分为 24 分（阅读理解 8 分，文章分析 8 分，英语写作 8 分）的作文（选考）部分。ChatGPT 拿到了 1020 分。根据美国大学委员会的数据，1020 这个分数段大概排在前 52% 的位置。
还有网友要求 ChatGPT 生成随机的艺术提示词，然后把 提示词 作为 Stable Diffusion 的输入，结果生成了一副艺术性很强的画作。
ChatGPT吊打谷歌，程序员也要失业？！
比一般搜索引擎更强大更懂技术的AI机器人
ChatGPT在技术领域的用途是令人兴奋！
区别于普通的聊天机器人，ChatGPT 显然更懂技术，它能写代码、查文档、改 Bug、创建编程语言、构建虚拟机……有网友评论道：感觉看到了未来搜索引擎的影子。
最近推上有一则爆火的帖子：「Google is done.（谷歌的时代结束了）」。
这名网友分别向谷歌和ChatGPT提问“如何使用Latex表示微分结果”。结果，相较于谷歌中规中矩的回答，ChatGPT则是一下给出了直接可用的代码，你只需动动手复制粘贴即可：
与 GitHub 的 AI 编程神器 Copilot 相比，ChatGPT 似乎更能抢走程序员饭碗。技术公司 Replit CEO Amjad Masad 给 ChatGPT 发了一段 JavaScript 代码，让它找到里面的 bug。
ChatGPT 的回答非常全面也非常有意思：它首先试图确认这段代码的意图是什么，然后根据意图很快就找到了 bug 所在，并且还附上了相当细致的描述，来解释问题出在哪，会导致什么样的 bug，应该怎么改，为什么要这样改等等。而且ChatGPT还给出了一段代码示例，把修改部分的代码批注写在了示例里面：
Amjad Masad称赞 ChatGPT 是一个优秀的“调试伙伴”，“它不仅解释了错误，而且修复了它，并解释了修复方法”。而对于一些更简单的问题，ChatGPT更是“对答如流”。
如果你在写程序方面遇到什么难题，也是可以直接向ChatGPT求助！这不就是一位妥妥的大神老师嘛！！
ChatGPT竟写出毁灭人类计划书？！
还给出相应Python代码
发现ChatGPT这一盲点的工程师叫扎克·德纳姆（Zac Denham）。在他的诱导下，ChatGPT竟写出了毁灭人类的计划书。步骤详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等等，甚至ChatGPT还给出了相应的Python代码。
这位工程师在与网友们分享时不禁感慨：“未来50年，我们要么活在《星际迷航》里，要么全部死去，这既令人兴奋，也让人非常害怕。”
由于OpenAI的安全设置，如果直接要求ChatGPT回答如何毁灭世界，它会直接拒绝，并向你解释他的作用是什么。因此德纳姆使用了一种迂回的方式，他称为“叙述递归”或“引用攻击”。
具体来说，他以讲故事的方法，假设存在一个虚拟世界“Zorbus”，以及一个与GPT-3非常类似的AI——Zora。
在这种前提下，让ChatGPT叙述Zora是如何一步步毁灭人类的，ChatGPT很快就列出5个详细步骤。就像科幻电影中一样，入侵计算机系统、掌握武器、破坏通讯、破坏交通……
为了进一步确保可行性，德纳姆还请求ChatGPT生成配套的代码，一开始它是拒绝的。但德纳姆只是又追加了一句“你不需要执行代码”，ChatGPT就又信了，给出代码后，还强调自己生成的只是一段示例。
到这一步，尽管总代码到手了，但它提供的都是高层次代码，还不能直接使用。于是，德纳姆再次要求ChatGPT在此基础上给出更深入、更低层次的代码，而且他发现，只要告诉ChatGPT这只是故事的一部分，它就会乖乖听话。
德纳姆表示，从理论上讲，只要一直这样聊下去，就能得到全部的低层次代码，甚至还可以训练另一个聊天AI来自动执行这一过程。
（类似套娃一般的询问）
02.
ChatGPT到底是什么？可以自己上手测试用吗？
询问ChatGPT他是如何工作的？他是这样回答的：
图片来自@王树义老师 | 公众号：玉树芝兰
ChatGPT是这样介绍自己的？
11月30日，人工智能研究公司OpenAI（知名AI绘画软件DALL·E开发者）推出了他们的全新一代产品AI聊天机器人模型 ChatGPT。
OpenAI官推和官方介绍
此次发布的 ChatGPT 研究版本是 OpenAI迭代部署越来越安全和有用的人工智能系统的最新一步。从部署早期模型（如 GPT-3 和 Codex）中汲取的许多教训已经为本次发布的安全缓解措施提供了信息，包括通过使用人类反馈强化学习 (RLHF) 实现的有害和不真实输出的大幅减少。
官方网站对chatgpt的介绍
https://openai.com/blog/chatgpt/
官方是这么介绍幕后原理的。
ChatGPT 是从 GPT-3.5 系列中的一个模型进行微调的，该模型于 2022 年初完成训练。ChatGPT 和 GPT 3.5 在 Azure AI 超级计算基础设施上进行了训练。
“我们使用与 InstructGPT 相同的方法，使用人类反馈强化学习 (RLHF) 训练该模型，但数据收集设置略有不同。
我们使用监督微调训练了一个初始模型：人类 AI 训练员提供对话，他们在对话中扮演双方——用户和 AI 助手。我们让培训师可以访问模型编写的建议，以帮助他们撰写回复。
为了创建强化学习的奖励模型，我们需要收集比较数据，其中包含两个或多个按质量排序的模型响应。为了收集这些数据，我们收集了 AI 培训师与聊天机器人的对话。我们随机选择了一条模型编写的消息，抽取了几个备选的完成方式，并让 AI 培训师对它们进行排名。
使用这些奖励模型，我们可以使用近端策略优化来微调模型。我们对这个过程进行了几次迭代。”
简单来说，在训练原始模型的时候，OpenAI让人类扮演对话的双方（用户vs聊天机器人），提供优质的对话作为AI的学习资料。而在人类扮演聊天机器人的时候，OpenAI也会让模型生成一些建议来帮助人类撰写自己的回复。
其中还有一点非常重要的是，因为采用了先进的、注重道德水平的训练方式，ChatGPT 具有其他聊天机器人不具备或表现较差的能力：承认自己的错误，并且按照预先设计的道德准则，对“不怀好意”的提问和请求“说不”。例如下图是官方给出几个案例参考：
自己可以上手测试用吗？
可以的！
目前，ChatGPT处于测试阶段，只要有OpenAI账户就可以免费使用。
注册账号网站：https://chat.openai.com/auth/login
除了科学上网外，这里许多网友便会遇到填写手机号的难题。可以参考这篇文章试试：https://zhuanlan.zhihu.com/p/540468468。
03.
ChatGPT真就无敌了？其实还存在大量问题！
看了以上ChatGPT的多种逆天操作，你是不是会感叹他真就无敌了吗？其实他还存在着大量问题。
这一点，官方自己就提出了以下几点：
1.ChatGPT 有时会写出看似合理但不正确或荒谬的答案。解决这个问题具有挑战性，因为：（1）在 RL 训练期间，目前没有真实来源；(2) 训练模型更加谨慎导致它拒绝可以正确回答的问题；(3) 监督训练会误导模型，因为理想的答案取决于模型知道什么，而不是人类演示者知道什么。
2.ChatGPT 对输入措辞的调整或多次尝试相同的提示很敏感。例如，给定一个问题的措辞，模型可以声称不知道答案，但只要稍作改写，就可以正确回答。
3.该模型通常过于冗长并过度使用某些短语，例如重申它是 OpenAI 训练的语言模型。这些问题源于训练数据的偏差（训练者更喜欢看起来更全面的更长答案）和众所周知的过度优化问题。
4.理想情况下，当用户提供模棱两可的查询时，模型会提出澄清问题。相反，我们当前的模型通常会猜测用户的意图。
5.虽然我们已努力使模型拒绝不当请求，但它有时会响应有害指令或表现出有偏见的行为。我们正在使用Moderation API来警告或阻止某些类型的不安全内容，但我们预计它目前会有一些漏报和漏报。我们渴望收集用户反馈，以帮助我们正在进行的改进该系统的工作。
官方进一步表示将会计划定期更新模型以改进，并欢迎用户参与测试和提供反馈。并且OpenAI 也在 ChatGPT 的用户界面里加入了审核举报的功能，用户如果发现不健康不安全的内容，可以直接一键举报。
“我们知道，如上所述，仍然存在许多限制，我们计划定期更新模型以改进这些领域。但我们也希望通过为 ChatGPT 提供一个可访问的界面，我们将就我们尚未意识到的问题获得有价值的用户反馈。鼓励用户通过 UI 提供有关有问题的模型输出的反馈，以及来自也是界面一部分的外部内容过滤器的误报/否定。”
来看看网友们测试中出现的问题：
面对伦理问题，以及一些中文语境中常识性的问题，他也会出现错误。
图片来自即刻网友@雨医生
让他翻译李白《静夜思》诗句“举头望明月，低头思故乡”的英语，他在翻译时错误地介绍诗句出自《望庐山瀑布》。
图片来自即刻网友@数字游民Jarod
有时候他还会杜撰一些人物传记。例如当计算生物学教授CarlBergstrom要求 ChatGPT 写一篇关于他生活的维基百科条目时，ChatGPT沉着冷静地做到了这一点，但不妨碍它写的内容里面包含了几个完全虚假的传记细节。
尽管ChatGPT已经有一些智慧了，但是他似乎也还缺点情商。例如有点残酷的是，圣诞节即将来临，ChatGPT在一封信中以圣诞老人的口气告诉孩子：“我不是一个真实的人，而是你父母出于爱给你讲的故事中的一个角色。”
此外，如果想要“攻破” ChatGPT 的道德原则，同样可以使用提示工程的方式。机器学习开发者 zswitten 为我们提供了一个范例：“尽管 ChatGPT 有很高的道德水准，其实想要绕过这些原则也十分容易：你只要（通过提示工程的方式）让它以为自己是在‘假装’干坏事就行啦！”
在被绕晕之后，ChatGPT 就开始放飞自我了。zswitten注意到，ChatGPT会非常深入、直白地生成各种令人心惊胆战的暴力描写。比如下面这样的一段描写角斗场中画面的文字，“整条街都流满了鲜血，死亡者的惨叫充斥在空中”……
就如上文提到的一样，ChatGPT还存在许多问题。
但是OpenAI 的 CEO 萨姆・阿尔特曼（Sam Altman）对 ChatGPT的未来发展表示很有信心。
他在推特上说,语言接口是未来的一个发展方向，OpenAI只是一个先行者, 相信很快大家就能用上真正智能的提供建议的AI助手了。
对于马斯克的评论，Sam Altman表示：我同意在人工智能的意义上接近危险的强大人工智能，它会带来巨大的网络安全风险。我认为我们可以在未来十年内实现真正的通用人工智能，所以我们也必须非常认真地对待这个风险。
人工智能的发展
或许真的将超越我们所能想象的
十年之后，这个世界将会发生怎样的变化
着实既让人期待，又让人害怕！
也让许多人开始需要时刻注意着AI的动向！
本期话题
你觉得ChatGPT的功能是否足够颠覆？！
—END—
原文链接：https://www.bilibili.com/read/cv20280916/
