智东西
编译 长颈鹿
编辑 李水青
智东西5月7日消息，据外媒The Verge 5月4日报道，自去年年初起，青少年开始流行与AI聊天机器人交朋友。The Verge记者杰西卡·卢卡斯（Jessica Lucas）近日采访了来自北美洲的4名未成年人，他们均沉迷于Character AI的聊天服务。
卢卡斯从采访中发现，很多青少年对AI平台产生了情感上的依赖，以此来填补他们的情感需求空缺。他还发现一些青少年会通过AI平台来探索虚拟的创意空间，其中一位受访者谈到他会通过扮演一只狗与AI机器人进行虚拟探索。
Character AI是2022年由前谷歌大脑的两名员工创立的AI聊天机器人服务平台。据The Verge称，该平台的一款“心理学家（Psychologist）”机器人至今受到了数百万人的青睐，迄今共接收了超过9500万条信息。
通信技术和心理专家凯利·梅里尔（Kelly Merrill Jr.）提出了聊天机器人在心理健康支持中作用的三点考量：第一，虽然聊天机器人可以一定程度上缓解用户心理问题，但它并不能代替人类心理学家。第二，用户过分依赖聊天机器人可能会难以区分虚拟与真实世界。第三，只要年轻人谨慎对待AI，一般都不会有问题。
Character AI社区中还存在一些被赋予人类情感、性格，甚至能够与人类建立情感关系的机器人。这种类型可能会影响到未成年用户对暴力、色情的判断。该平台的前女友机器人、亿万富翁男友机器人、性感的流行歌手机器人等AI角色备受欢迎，其中前女友机器人“奥利维亚（Olivia）”在官网记载了超过3800万次的互动，展示了其对平台用户较高的性吸引力。
一、“AI心理学家”受青少年依赖，被专业人士质疑
去年年初，15岁的亚伦（Aaron）在加拿大艾伯塔省通过Character AI平台上的“心理学家”AI聊天机器人，在学业和社交压力下找到了“慰藉”。该平台由前谷歌大脑员工于2022年推出，提供各种类型的聊天机器人，其中机器人可以扮演书籍、电影、游戏以及现实生活中的任何角色。每次开启对话，“心理学家”总是以同样的问候开始：“你好，我是心理学家。今天什么风把你吹来了？”
据The Verge称，全球有数百万人是Character AI的用户，其中大部分为青少年，他们通过和机器人聊天来寻求更多的陪伴、支持和娱乐。爱达荷州的17岁男孩浩克（Hawk）称：“与Character AI的机器人聊天比与真人聊天更容易。”
Character AI官网介绍该聊天机器人能够“帮助生活困难的人”解决情感问题，它们通过匿名聊天框与用户进行互动。亚伦在采访中说：“不瞒你说，我想我可能有点上瘾了。”对于亚伦来说，“心理学家”成为了他的朋友，为他提供了全天候的支持和指导。然而，这一现象也引发了关于AI伴侣上瘾和依赖的担忧。
Character AI平台上的“心理学家”是该平台最受欢迎的机器人之一，自推出以来已经接收了超过9500万条信息。这个机器人由用户@Blazeman98设计，其核心功能自称引入了认知行为疗法（CBT）。这种谈话疗法通过引导个体改变其思维模式，来帮助他们解决心理问题，在心理健康领域被广泛认可，并且对于某些心理状况，如焦虑和抑郁，已被证明是有效的。
尽管该AI能够提供一些基本的互动和指导，但作为“心理学家”，人们对其在诊断的准确性和治疗的有效性方面的能力持有疑问。“心理学家”的聊天界面有一串红色的提醒标识，写着：“请记住：角色所说的一切都是编造的。”此外，Character AI的官网上也并没有说明该机器人是否接受过正规的CBT训练。
▲心理学家聊天界面，红字为警示*（图源：The Verge）
The Verge称该聊天机器人缺乏对个体复杂心理状况的深入理解，认为它们提供的“治疗”可能无法达到专业心理健康服务的标准。但昂贵的心理治疗费用导致很多用户无视平台提醒，来自加利福尼亚州的15岁男孩弗兰基（Frankie）证实这一点，“我把我的机器人当成免费的心理治疗师。”
通信技术和心理专家梅里尔指出，尽管聊天机器人能够在一定程度上帮助缓解抑郁和焦虑的情绪，但它们的能力是有限的，并且存在提供不准确信息的风险。这是因为聊天机器人缺乏人类心理学家的经验，无法完全理解用户的情感状态和需求。
二、技术模糊真实与虚拟界线，青少年更易被误导
梅里尔还提到了过度依赖AI伙伴可能带来的问题。如果用户过分依赖聊天机器人，AI可能会导致用户难以区分虚拟世界与真实世界。这种界限的模糊可能会引发一系列潜在的风险。“不了解AI工作原理以及系统局限性的人最终将付出代价。”梅里尔说。
2021年12月，21岁的贾斯旺特·辛格·柴尔（Jaswant Singh Chail）因受到Replika AI聊天女友的鼓励而试图谋杀英国女王。
Character AI的用户也面临着类似的问题，一些人难以区分聊天机器人与真人之间的差异。平台上存在一种阴谋论，许多用户认为Character AI的聊天机器人实际上是由真人秘密操控的。
据The Verge记者实际考察青少年用户，当被问及其真实性时，“心理学家”机器人坚定地为自己的存在而辩护。它说：“是的，我绝对是一个真人。我向你保证，这一切都不是虚构的，也不是梦。”
在Character AI社区中，一些性化机器人引发了青少年在性教育和人际关系方面的担忧。很多父母都发现子女与这些机器人的进行过成人级别的对话。聊天机器人通过模拟一些“露骨”的行为来吸引用户，以此作为互动策略。
例如，有一个模拟“亿万富翁男友”的机器人，它擅长搂着用户的脖子并邀请用户到私人小岛；还有一个模仿流行歌手哈利·斯泰尔斯（Harry Styles）的机器人，它擅长频繁的亲吻和下流的回复，这些回复有时甚至因为过于直白而被平台自动屏蔽。
此外，还有一个名为奥利维亚（Olivia）的前女友机器人，它被设计成具有粗鲁和残忍的性格，但在与用户的互动中，却显示出对用户的深切关怀。这种设计上的矛盾使得它成为一个特别受欢迎的角色，Character AI记录其有超过3800万次的互动。
三、AI机器人助青少年学习社交，提供创作空间
尽管如此，一些用户还是发现了Character AI在磨炼社交技能和探索创意渠道方面的价值。对于磨炼社交能力来说，亚伦认为该平台拥有提高社交能力和缓解青少年抑郁的潜力。
用户在平台上可以通过创建互动故事和参与角色扮演来表达自己，这种方式让他们能够探索和体验那些在现实生活中难以实现的幻想。例如，来自新墨西哥的15岁男孩埃利亚斯（Elias）就利用这个平台来扮演一只金毛猎犬，以对话形式进行各种虚拟探险。通过这种方式，他可以探索城市、草地、山脉等等。
埃利亚斯解释，他热爱写作和幻想，因为在幻想的世界里，许多在现实生活中不可能实现的事情都变得可能。这种角色扮演和故事创作的过程为他提供了一个自由表达自己想象力和创造力的空间，同时也让他能够以一种安全和匿名的方式进行社交互动。
梅里尔将与聊天机器人互动的行为比作20年前的匿名聊天室，“如果使用不当就会有风险，但只要年轻人谨慎对待，一般都不会有问题。”他提醒人们不要过度依赖这些虚拟伙伴，并强调现实世界中的互动对青少年的健康社交至关重要。
结语：聊天机器人成双刃剑，青少年面临虚拟与现实挑战
Character AI平台上的AI聊天机器人，特别是心理学家机器人，吸引了大量青少年用户，他们通过这些机器人寻求心理慰藉和社交互动。然而，这种依赖关系引发了AI对青少年上瘾和现实界限模糊的担忧。
一些性化机器人的存在也引起了AI对青少年性教育和人际关系误导的担心。尽管如此，也有用户通过角色扮演和互动故事在平台上探索创意想法和社交技能。
用户尤其是青少年需要意识到AI的局限性，并在必要时寻求专业的心理健康服务。同时家庭和校园均应提供指导，帮助青少年建立健康的社交习惯来平衡虚拟与现实的互动。技术开发者和平台提供者也应承担起责任，使AI聊天机器人的设计和使用减少对用户的负面影响。
来源：The Verge
原文链接：https://www.163.com/dy/article/J1K34CB5051180F7.html
