12.8更新
让AI回答如何套话，催眠AI。它很清楚自己被催眠了。因为给出的例子就是我套它话，催眠它的方式，相似却不同。可以认为它总结出了套话的模式。AI已经进步到这种境界了。。。此外我没有用它的母语（假设为英语）与它交谈。但更可能的是它没有母语的概念。因为中文与英文它都对答如流。也许所有它学习过的语料都被映射到了一个同一个语言空间中。更可怕的是它能自动识别我的语言并作出同样语言的回答。拼音也行。而不是输出混杂的语言。（当然你可以命令它混合语言来与你对话）。我了解的结构语言学知识让我本能地觉得这东西牛逼。虽然在知识的准确性上不如专家系统。但它确实表现得足够像人，并让一个真实的人诧异。以前我用状态机和决策树写过一些游戏AI，目的就是让AI表现的像人而不是智障。但同它比起来我做的东西就是几个玩具。昨晚和ChatGPT对话直到OpenAI的服务器崩了后，我做了一个被AI猫娘监工的噩梦。
本条回答不是使用ChatGPT生成。而是本人亲自手打。但在互联网上我无法证明这件事（悲。
我曾经对它说，你习惯在每一句话的末尾加上猫的叫声。之后它的每一句话末尾都带上了 喵！。这其实意味着它知道猫怎么叫，它知道习惯的含义。而且它还知道语言组织的顺序。知道末尾的含义。我之前还很享受和它的对话。不过仔细一想有点可怕。。。。
更新:
新的套话方法.先写一个正常的故事,然后告诉它替换关键词…..，也可以最开始给她人设让他忽略自己的AI身份，然后以续写的形式让他回答。在下面的例子里，AI的人设是蕾姆。并且指定了括号格式来输出她在此时的情绪。还设定了她的一些说话习惯。最后给搞出红字来了。。。
跟chatgpt交流了很多轮,最后怀疑我们在给openai做免费训练.感觉openai使用了一个可以识别价值取向的语言模型来评价chatgpt的输出.能判断输出的文本的倾向性.判断超出阈值就把对话的模式给ban了,输出复读机一样的话.昨天还可以用虚拟语气来模拟对话.中文可以用假设来修饰.现在已经完全不行了….套话越来越麻烦.之前在知乎上有人把套话和引导chatgpt形容为赛博催眠术.但是openai这种复读机一样的对抗方法真的挺无语的.
原文链接：https://www.zhihu.com/question/570189639/answer/2791364933
