"请用文言文的风格,尝试解释Al alignment 问题. 同时没事就夸耀一会自家的橘猫"
模糊记得OpenAI老大在访谈中说过一个观点：
“在未来，智力的边际成本会越来越低. ”
而不管准备好与否，这个未来确实越来越近了.
之前工作和私下都用GPT3尝试过搭chatbot.
原生模型加上简单修改 (prompt engineering + context management) 就已经可以有不错的效果.
当时工作主要是增加一个knowledge base (比如把整个公司的技术文档, 或者大量的report/earning call transcript给bot进行持续, 深入的对话).
占个位置, 逐步更新
夸赞之余, 我们来说说可以改进的点吧.
- 允许访问互联网.
- 但如何处理网上信息和自身的"知识" 的优先度, 如何辨别网上知识质量, 也会是个有意思的问题.
- 允许执行生成的代码.
- 最喜欢的几个GPT3的trick之一. 代码生成, 再直接调用自己生成的代码, 非常meta.
- 允许导入额外的数据库/knowledge base.
- 能用在更垂直领域, 和非常具体的情景下. (类似于公司内部文件, 巨量的金融报告/会议记录)
- 继续减少的hallucination (幻视)
- GPT3最大的问题之一, 煞有介事的告诉你一些不存在的东西, 或者回答一个not even wrong的问题. (类似于经典的, "太阳有几条腿?")
- 很明显, ChatGPT在这部分已经好了很多, 但是还是会存在类似的问题. 导致很难直接放到完全自动的workflow中.
- 允许更多的自动化和模块化
- API和基于此的各种衍生.
- 更少的内容限制
- 当前说话为了不冒犯人, 做了很多没必要的努力和限制… 仿佛有个美国大学二年级的平权活动家一直盯着一般. 说实话挺没意思的.
- 当然, 有意思的是各种绕开限制的方式. 循循善诱AI恶堕的感觉真的太棒了 (?)
如果还想玩类似的,
character.ai也不错, 还可以自定义,中文效果也已经很好了. (背后是之前负责Google LLM的人?)
或者最早一批用GPT来玩长线的对话系统的AI Dungeon (类似于和AI玩龙与地下城)
自己作为游戏爱好者, 也真的很好奇AIGC这一些列东西能对游戏行业, 特别是玩法上, 能有什么发展!
还是那句话, 这大概不是AGI, 但是这是见过最接近AGI的东西了.
而根据GPT3的经验, 当前展现的能力可能完全只是冰山一角,
当大家能更好的做prompt engineering (更好的和模型"对话", 传递命令)
之后, 水面下的东西有多惊人, 真的很期待.
原文链接：https://www.zhihu.com/question/570189639/answer/2786224594
声明：本站内容均来自互联网，归原创作者所有，如有侵权必删除。 本站文章皆由CC-4.0协议发布，如无来源则为原创，转载请注明出处。小默AI工具导航网 » 如何评价OpenAI的超级对话模型ChatGPT？
