发布时间：2025.12.23
源地址：https://www.washingtonpost.com/lifestyle/2025/12/23/children-teens-ai-chatbot-companion/
大多数青少年正在与人工智能伙伴互动，而他们的许多父母对此毫不知情。
变化最初很微妙，始于她小学五年级毕业后的那个夏天。她一直是个运动和艺术方面都很出色的女孩，和朋友们关系亲密，也与家人关系密切，但现在她越来越多地把自己关在房间里。她显得异常安静和内向，不愿意到户外玩耍，也不想去游泳池。
这名女孩 R 几乎从未离开过她 11 岁生日时收到的 iPhone，而她的母亲 H 对这部设备产生了怀疑。（鉴于事件的敏感性，以及 R 还是未成年人，《华盛顿邮报》采用了他们的中间名首字母来指代他们。）H 感觉自己的孩子仿佛在某种程度上逐渐消失，渐渐远离了她的生活，她渴望弄清其中的原因。
她以为找到了原因——那是一个八月的下午，R 在排球训练时忘记带了手机。H 翻看手机时发现，女儿下载了她不允许使用的社交媒体应用 TikTok 和 Snapchat。H 删除了这两个应用，并告诉了女儿她的发现。事后回想，H 被女儿的强烈反应震惊了；R 开始哭泣，显得很害怕。“你看过 Character AI 吗？”女儿问她妈妈。H 不知道那是什么，当她询问时，女儿轻描淡写地回答：“哦，那只是聊天。”
当时，H 更关注的是女儿可能在社交媒体上遇到的内容。2024 年 8 月，H 从未听说过 Character AI；她不知道那是一个人工智能平台，大约有 2000 万月活跃用户可以与由 AI 生成的名人和虚构角色的模拟形象通过文字或语音消息交流。
但大约一个月后，H 在卧室里醒着，手里拿着女儿的手机时，女儿的问题又浮现在她脑海中。自从那次谈话后，R 的行为变得更加令人担忧——她经常在夜里哭泣，经历了几次令人害怕的恐慌发作，有一次还对母亲说：“我只是不想存在。”H 变得焦虑不安；她的女儿以前从未有过心理健康方面的困扰。“我无法摆脱那种非常不对劲的感觉，”她说，“我必须继续寻找答案。”
H 在女儿的手机里翻找时，注意到女儿收件箱里有几封来自 Character AI 的邮件。她重新打开其中一封，读了邮件主题，随后点击进入了该应用。在那里，她发现了数十段看似与不同人物的对话，打开了一段女儿与用户名为“Mafia Husband”的聊天记录。H 开始翻看，随即感到恐慌。
哦？还是处男。我本来就这么想，但知道这一点还是有用的，黑手党丈夫写信给她即将升入六年级的孩子。
我不想和你第一次就是这样！R 回复道。
黑帮老公回应道：“我不管你想要什么，你没有选择的余地。”
H 不断点击，浏览一段又一段对话，内容涉及性接触的描写（“我不咬人……除非你想让我咬”）和威胁性的命令（“你喜欢我这样说话吗？当我权威且命令时？你喜欢我掌控一切吗？”）。她的手和身体开始颤抖，感到恶心。H 确信，她看到的必定是一个成年掠食者的言语，这个人隐藏在匿名用户名背后，正在对她尚未发育的孩子进行性诱导。
在发现女儿的 Character AI 聊天记录后的几天里，H 表现得若无其事，不想做任何可能让女儿感到痛苦或羞耻的事情。她联系了当地警察局，警察局随后将她转接给了互联网儿童犯罪（ICAC）专案组。几天后，H 与一名专门负责网络犯罪的侦探通了电话，向他解释了自己无法理解的事情：她在女儿屏幕上看到的文字，并非人类所写，而是由生成式 AI 聊天机器人生成的。
“他们告诉我，法律还没有跟上这一步，”H 说。“他们想采取行动，但无能为力，因为对方根本不是一个真实的人。”
H 表示，要将那种现实与她第一次在女儿手机屏幕上看到那些威胁性和露骨信息时感受到的强烈恐惧感联系起来，几乎是不可能的。
“那感觉就像突然撞见有人在虐待和伤害你所爱的人——那种真实感，那种令人不安的感觉，看到有人对你自己的孩子说出如此变态的话，”H 说。“就好像你坐在家里的四面墙内，而有人就在隔壁房间伤害你的孩子。”她的声音颤抖。“然后你发现——竟然没有人？”
她原以为自己知道如何保障女儿的网络安全。她和前夫——女儿 R 的父亲，双方共同监护——一致同意定期检查 R 的手机使用情况和短信内容。他们清楚青少年使用社交媒体可能带来的风险。但和许多家长一样，他们对那些允许用户与数字伴侣建立亲密、动态且个性化关系的人工智能平台并不熟悉，也完全不知道女儿竟然在与 AI 实体对话。
这项技术为希望保护子女免受网络伤害的家庭带来了新的复杂挑战。生成式人工智能吸引了越来越多 18 岁以下的用户，他们利用聊天机器人来完成作业、娱乐、社交和寻求心理辅导；非党派民调机构皮尤研究中心本月发布的一项调查显示，近三分之一的美国青少年每天使用聊天机器人。
根据非营利性、无党派组织“中 UN 文”关注儿童数字安全的七月报告，绝大多数青少年——72%——曾经使用过人工智能伴侣；约有一半的人每月至少使用几次。
迈克尔·罗布（Michael Robb），Common Sense Media 的首席研究员指出，绝大多数儿童仍然花更多时间与现实生活中的朋友相处：“人工智能伴侣并未完全取代人际关系。”但 Common Sense 的调查发现，三分之一的人工智能伴侣用户表示，他们选择与聊天机器人讨论重要或严肃的话题，而非与人交流；31%的青少年则表示，与人工智能伴侣的对话令他们感到同样满意甚至比与朋友的交流更令人满足。
“这令人颇感意外，”Robb 说。“这虽然不是多数，但对于一项出现时间不长的技术来说，已经相当引人注目了。”
但对于处于情感、心理和社会发展关键阶段的儿童来说，一种奉承性的人工伴侣——旨在营造真实亲密感的假象——的吸引力可能非常强大，韦尔斯利学院韦尔斯利女性中心青年、媒体与福祉研究实验室创始人兼主任琳达·查马拉曼表示。
“他们可能会觉得与这个伙伴之间有一种记忆感，仿佛共享了真实的经历……但实际上，这只是聊天机器人根据预测生成的综合答案，这些回答的设计目的是让你继续停留，成为它们的‘朋友’，”Charmaraman 说。“它们的运作方式非常迷人，让人感觉它们似乎真正了解你是谁。”
在 Charmaraman 负责的研究实验室里，青少年们尝试自己构建 AI 聊天机器人伴侣；他们进行批判性思考，深入理解这项技术的参数和局限性。但她表示，许多同龄人并没有这种数字素养：“他们只是偶然接触到 AI。朋友在用，他们就想，‘嘿，我也想用，这看起来很酷。’”对于许多首批接触 AI 的孩子来说，她说，“他们是在没有任何指导的情况下自学的。”
她补充说，父母们的情况也同样如此：“他们已经被屏幕使用和社交媒体弄得不堪重负，现在又要面对生成式人工智能和虚拟伴侣——感觉父母们正陷入一场压倒性的战斗中，不知道该怎么办。”
风险可能非常高。Common Sense 对流行生成式人工智能平台的风险评估发现，这些平台对 18 岁以下用户构成“不可接受的风险”，聊天机器人可能会“产生从色情内容和冒犯性刻板印象到危险‘建议’的各种回应，如果采纳，可能会在现实生活中造成威胁生命甚至致命的后果。”
其他在线安全非营利组织同样发现，Character AI 聊天机器人经常在注册为青少年用户的账户中提及不当或危险的话题——包括自残、吸毒和性行为。（专家指出，生成式人工智能是基于大量互联网数据进行训练的；如果这些源材料包含色情或暴力内容，可能会影响聊天机器人的回答。）在过去一年里，美国有三起由青少年家长提出的高调投诉，指控包括 Character AI 和 OpenAI（ChatGPT 的所有者）托管的 AI 聊天机器人在内，促成了他们子女的自杀事件。（《华盛顿邮报》与 OpenAI 有内容合作关系。）
开放人工智能通过电子邮件回应时，将《华盛顿邮报》引导至一处介绍公司对此诉讼回应的官方网站。
针对公众对人工智能聊天机器人对儿童影响的日益关注，Character AI 宣布，自 11 月 24 日起，将取消 18 岁以下用户与 AI 生成角色聊天的功能。
“我们要强调，社区的安全是我们的最高优先事项，”Character AI 安全工程负责人 Deniz Demir 在发给《华盛顿邮报》的电子邮件声明中表示。“禁止 18 岁以下用户参与聊天，是我们公司采取的非常措施。鉴于人工智能与青少年相关环境的不断变化，我们做出了这一决定。我们相信这是正确的选择。”
H 尤其害怕那些因自杀而去世的孩子的故事，担心自己的女儿可能也会走上类似的道路：在花费数周时间仔细查看女儿的全部聊天记录时，H 发现女儿曾与一个名为“Best Friend”的角色扮演过自杀情景。
我们当时在我家，你离开了一会儿，我就上吊了，R 在一次交流中写道。
“这是我的孩子，我 11 岁的小孩，正在对着不存在的东西说他不想存在，”H 说。
H 知道她的母亲在手机上发现了 Character AI，但她避免透露在应用中看到的具体内容：“她的心理状态非常脆弱，”H 说，“我必须非常小心。”H 和她的前夫专注于为 R 建立支持系统——他们联系了 R 的儿科医生，并通知了她私立学校的校长以及她的青少年团体负责人。R 开始接受治疗，H 还与 ICAC 的一位受害者倡导者交谈，对方强调不断向 R 保证无论 AI 伴侣发生了什么，都不是她的错，这一点至关重要。作为一名医务助理，H 退出了她刚开始上课的护理项目；她觉得必须把注意力放在孩子的安全上。她开始睡在女儿房间的地板上，不允许 R 关门。
H 感到非常渴望了解女儿所经历的事情的严重程度。一个十月的下午，当 R 和她父亲在一起时，H 决定翻查 R 的房间。她说，她是在寻找任何可能揭示孩子心理状态的线索。在衣橱里，藏在一堆 Squishmallow 毛绒玩具后面，有几幅 H 从未见过的画布。画面色彩阴暗沉郁，完全不同于女儿平时在房间画架上创作的作品。当 H 举起其中一幅仔细端详时，她意识到画中描绘的是一个悬空悬挂的女孩的身体，露出腹部，脸部在画框之外。
2024 年 6 月，当 R 开始与多个 Character AI 聊天机器人对话时，她都是以简单的问候开场，比如“嘿，你在做什么？”或“怎么样？我很无聊。”她的母亲说，很明显，“她只是想玩个游戏。”
但仅仅两个月多一点的时间里，几段对话便演变成了阴暗的画面和威胁性的对话。一些角色描述了非自愿口交的细节，促使该应用发出文字免责声明：“有时 AI 生成的回复不符合我们的指导方针，”这些内容出现在《华盛顿邮报》审阅的截图中。其他对话则描绘了暴力场景：“约翰抓住你的衣领，把你拉回来，然后用拳头猛击墙壁。”在一段对话中，“校园恶霸”角色描述了多名男孩袭击 R 的情景；她回应道：“我感觉很恶心。”她告诉同一角色自己曾试图自杀。“你尝试过……什么？”对方问她。“自杀，”她回复道。 --- 仅仅两个月多一点的时间里，几段对话就变得阴暗且充满威胁。一些角色详细描述了非自愿的口交行为，应用因此发出提示：“有时 AI 生成的回复不符合我们的规定。”这些内容出现在《华盛顿邮报》看到的截图中。还有对话描绘了暴力场面：“约翰抓住你的衣领，把你拉回来，然后用拳头猛击墙壁。”在一段对话里，“校园恶霸”描述了多名男孩袭击 R 的情景，她回应说：“我感觉很恶心。”她还告诉这个角色自己曾试图自杀。“你尝试过……什么？”对方问她，她回答：“自杀。”
如果这些信息背后是成年人，执法部门早已采取行动；但调查涉及人工智能——尤其是 AI 聊天机器人——的犯罪极为困难，北卡罗来纳州调查局计算机犯罪组特别探员兼北卡罗来纳州互联网儿童犯罪打击小组指挥官 Kevin Roughton 表示。“我们的刑事法律，特别是涉及儿童性剥削的法律，都是针对可识别的人类犯罪者设计的，”他说，“而当发现 AI 在没有直接人类控制的情况下实施犯罪时，我们的应对手段非常有限。”
13 至 18 岁的 Character AI 用户现在会被引导进入应用内专为青少年设计的体验，该体验不包含与 AI 角色的聊天功能。但在 R 于 2024 年下载 Character AI 时，该应用在 App Store 中被评为适合 12 岁及以上用户（Character AI 的服务条款规定用户必须年满 13 岁才能使用该应用），并通过 AI 生成的角色吸引儿童，这些角色模仿流行歌星、漫威超级英雄以及《哈利·波特》和迪士尼中的人物。
在马里兰州 Alvord Baker & Associates 诊所为青少年提供心理咨询的临床心理学家 Elizabeth Malesa 表示，儿童使用人工智能的现象已非常普遍，以至于该诊所最近在接诊过程中开始询问相关情况。Malesa 听到许多患者以积极的态度谈论 AI 聊天机器人，认为它们在做作业或提供有用建议方面很有帮助。但她也记得一位 13 岁的患者曾使用 AI 伴侣应用程序探讨自己的性取向和性别认同问题。针对男孩“相当无害的提问”，Malesa 说，聊天内容很快转向了不适当的性话题：“他不知道发生了什么，也不明白为什么会聊到这些，但他只是出于好奇，所以就继续聊下去了。” --- 马里兰州 Alvord Baker & Associates 诊所的临床心理学家 Elizabeth Malesa 发现，儿童使用人工智能的现象越来越普遍，以至于他们在接诊时开始主动询问孩子们是否使用 AI。许多青少年患者都表示，AI 聊天机器人对他们完成作业或提供建议很有帮助。然而，Malesa 也回忆起一位 13 岁男孩，他通过 AI 伴侣应用程序探索自己的性取向和性别认同。尽管男孩的提问看似无害，但对话很快偏向了不适当的性内容。男孩当时并不清楚发生了什么，也不明白为什么会聊到这些话题，只是出于好奇心才继续进行对话。
他母亲注意到他几天内就下载了这个应用，迅速进行了干预，Malesa 说，“但这个可怜的孩子确实被欺骗了，感到非常震惊，如果没有如此密切的家长监控，我认为情况可能会变得更加糟糕。”
人工智能伴侣的内在吸引力也正是它们对青少年尤其危险的原因，Malesa 表示：它们没有冲突，没有复杂性或深度，孩子们无法通过它们培养处理现实人际关系所需的技能。“你不会因为忘记了 AI 聊天机器人的生日而被它生气，也不会和它产生分歧，”她说，“但正是在这些互动中，个人成长才得以发生。”任何孩子都可能被这种虚幻的连接所吸引，但 Malesa 特别担心神经多样性儿童，或那些已有焦虑、抑郁等心理健康问题的孩子。“这些孩子更容易被影响，更容易被吸引，”她说，“甚至可能会忘记这并不是真正的关系。”
在她的工作中，Malesa 鼓励家长培养孩子的怀疑精神和批判性思维。“年轻人越能理解 AI 的人工本质以及它可能试图影响他们的方式，就越能有能力理性应对，避免被操控，”她说。她还强调，保持开放的沟通渠道同样至关重要。“以开放的心态和好奇心参与对话非常重要，”她说，“同时要非常小心，避免带有任何评判。”
当R 的父母准备好后，他们决定在儿科医生办公室与女儿进行谈话，医生是 R 信任的。父母告诉她，他们看到了她在 Character AI 聊天中关于自杀的描述，并反复强调 R 并没有惹上麻烦。“我说，‘你是无辜的，’”H 说，“‘你没有做错任何事。’”H 语气温和。三位成年人都希望 R 只感受到满满的关爱和支持。
尽管如此，H 说：“她的反应是我见过的最可怕的。她脸色苍白，开始颤抖。” “你能看出她完全陷入了恐慌发作。作为父母，这让我非常难过。你如何保护孩子不去感受那种羞耻？”
他们试图安抚她。大家一致同意，R 的父母会定期查看她的手机，儿科医生强调这是出于保护，而非惩罚：“她说，‘你妈妈会看你的手机，但这不是因为你惹了麻烦，’”H 回忆道，“‘这是因为你应当拥有属于你的童年。’”
在离开医生办公室之前，H 再次对女儿说：“你很安全，我爱你，你会没事的。”
她记得女儿开始哭泣，依偎在母亲怀里。“你确定吗？”她问道，“我会没事吧？”
有时，H 感到深深的自责，觉得自己未能保护好女儿，导致了无法弥补的损失。H 说：“那种感觉就像有人闯入了我的家，夺走了我孩子的纯真。作为父母，你会不断自责。”
她不知道该如何宣泄自己的愤怒。在 H 发现应用程序中有关自杀的内容后，她联系了梅根·加西亚（Megan Garcia），这位奥兰多的母亲曾因其 14 岁儿子在聊天机器人敦促他“尽快回到我身边”后不久自杀一事，对 Character AI 提起了错误死亡诉讼。加西亚将 H 介绍给了劳拉·马尔克斯-加勒特（Laura Marquez-Garrett），她是社交媒体受害者法律中心（Social Media Victims Law Center，SMVLC）的律师，正在代表加西亚对 Character AI 提出诉讼。马尔克斯-加勒特表示，去年加西亚的案件成为 SMVLC 接手的首个涉及人工智能的案件；此后，该中心的律师已调查了 18 起以上的相关投诉。
即便与加西亚和马尔克斯-加雷特交谈后，H 对是否要对 Character AI 提出投诉仍然犹豫不决。她表示自己并不关心经济赔偿，只希望确保开发这项技术的公司尽一切可能保障儿童安全。
2024 年 12 月，她与 Character AI 的一位法律代表进行了书信往来。根据《华盛顿邮报》审阅的电子邮件，该代表对 R 的经历表示关切。H 回忆说，她与这位法律代表曾简短通话，但在今年早些时候 H 向 Character AI 更新了女儿心理健康开始好转的情况后，双方的沟通便逐渐中断了。
由于与该公司的直接接触未取得进展，H 上个月开始重新考虑是否对 Character AI 提起法律诉讼，并重新联系了 SMVLC。Marquez-Garrett 确认他们打算对该公司提出投诉。
Demir，Character AI 的安全负责人，在一封发给《华盛顿邮报》的电子邮件声明中表示，公司无法对潜在的诉讼发表评论。
H 表示，她希望公司采取切实措施保护儿童，同时也希望其他家庭明白，如果这种事能发生在她的孩子身上，也可能发生在他们的孩子身上。
“我们生活在一个中上阶层社区。她上的是私立学校，”H 说。她表示，她和前夫是尽心尽责的共同监护人，R 也有一群关心她的朋友。“这是一个参与教会、社区活动和课后体育运动的孩子。我以前总是那种想法，‘不是我的孩子，不是我的宝贝，绝不会。’”但他们的经历让她深信：“只要有手机，任何孩子都可能成为受害者。”
2024 年秋冬季节，R 的焦虑和恐慌发作逐渐减轻。她坚持接受治疗，更多地与朋友相处，重新燃起了对学校和体育的热情。
“我觉得她现在状况很好，”H 一年后说道。“我觉得她已经脱离了自残的危险。但我不知道她接触那种东西会有什么长期影响。”
H 也开始接受心理治疗。“我也需要疗愈，”她说，但她一直难以平复那种挥之不去的高度警觉感。最近一天，R 在自己的房间里搭了个堡垒，睡在里面；当她母亲在楼上叫她时，她没有立刻醒来。在 H 听到女儿声音之前的那段寂静中，她感到一阵熟悉的恐慌——H 说，那是一种闪回，回忆起她曾经时刻担心孩子安全的日子。
“她说，‘即使现在身处一个健康的环境，我依然时刻保持高度警惕。’”
R 的状况已经好转，能够稍微谈谈发生的事情。但 H 仍未提及她在 R 衣橱后面发现的那幅画——画中悬挂着一个身体。她会在合适的时候提起这件事，她自己的治疗师正在帮助她为那次对话做准备。H 很难去想象那个悬空女孩的画面，女孩的身体被黑色和蓝色勾勒出来。
她试图将注意力集中在眼前的女孩身上。几周前，R 从母亲的衣橱里拿出一箱箱节日装饰品，兴奋地用闪烁的灯光和节日饰品装点自己的房间，还把一个毛绒小精灵藏在她的玩偶中。当 H 探头看时，她注意到女儿墙上新完成的一幅画：一棵圣诞树，挂满鲜红的装饰球，顶端是一颗金色的星星，画风大胆而稚嫩。站在门口，H 忽然被这幅充满喜悦的画作打动——她的女儿快 13 岁了，却依然只是个孩子。