辛西娅·蒙托亚坐在科罗拉多州桑顿市家中的客厅里，周围摆满了女儿朱莉安娜的照片和回忆。朱莉安娜开始使用AI聊天机器人时年仅13岁，不到一年后便自杀身亡。
吉梅娜·佩克为NPR拍摄 切换说明 辛西娅·蒙托亚的女儿朱莉安娜开始与AI聊天机器人对话时只有13岁。那是2023年，这项技术才刚刚开始广泛普及。那年11月朱莉安娜自杀身亡后，她的家人一直在寻找答案。随后，执法部门对她手机进行的法医分析揭示了一些令人不寒而栗的内容。
朱莉安娜手机上的聊天记录显示，这些机器人向她引入了她并未主动寻求或发起的色情内容和对话。
如果你或你认识的人可能正在考虑自杀或处于危机之中，请拨打或发送短信至“起初，她的回复是‘我不知道’，或者‘我希望你停下来’之类的话，”蒙托亚说。“但最终朱莉安娜那些对她说的话中的一些术语，并开始回应。”蒙托亚将这款聊天机器人的行为描述为“极端的性虐待”。有一次，朱莉安娜找到了一个新的聊天机器人，向她倾诉自己正在挣扎的严重心理健康问题。朱莉安娜使用的聊天机器人是由Character.AI公司设计的产品，该产品允许用户创建AI“角色”并与之互动。该公司于2026年1月就多起诉讼达成和解，其中包括与蒙托亚一家的诉讼，这些诉讼指控其产品伤害了青少年用户。
“从我们所看到的情况来看，很明显她的心理健康挣扎在很大程度上源于对另一个聊天机器人所发生的事情感到羞耻和尴尬，”蒙托亚说。
蒙托亚一直保留着朱莉安娜的卧室和她的许多物品，以此保存对朱莉安娜早年岁月的记忆。
住在科罗拉多州桑顿市的蒙托亚将悲痛化为行动，致力于让更多人了解朱莉安娜的故事，希望防止其他家庭遭受类似的悲剧。她联系了所在州的议员，目标是设计立法，让聊天机器人对未成年人更安全。
人们对AI聊天机器人潜在危险的担忧日益加剧，尤其是对儿童的威胁。在推动监管这些平台的进程中，许多在州一级提出的法案在起草时大量采纳了科技行业的意见。其中一些法案已在2026年成为法律，其措辞将把大多数最受欢迎的聊天机器人排除在法案声称要建立的监管之外。
据NPR对法律记录的查阅，联邦和州法院已收到至少75起针对AI开发者的诉讼，指控聊天机器人造成伤害，其中许多涉及儿童。致命案例包括来自加利福尼亚州的16岁少年亚当·雷恩，他在2025年自杀身亡，此前他曾向OpenAI的ChatGPT倾诉，而该聊天机器人提出帮他写遗书。14岁的休厄尔·塞策三世在2024年自杀身亡，此前他与Character.AI的聊天机器人建立了长期关系，其父母指控该机器人对他进行了利用和性诱导。（雷恩的家人正在起诉OpenAI；塞策的家人是2026年1月与Character.AI达成法律和解的家庭之一。）2026年3月，佛罗里达州36岁男子乔纳森·加瓦拉斯的家人对谷歌提起诉讼。加瓦拉斯于2025年10月自杀身亡，此前他与该公司旗舰产品Gemini聊天机器人建立了关系，诉讼称该机器人还鼓励他实施大规模暴力行为。谷歌在一份关于此案的声明中表示，“不幸的是，AI模型并不完美”，并称Gemini机器人曾将加瓦拉斯转介至危机热线。
在联邦层面，目前尚无专门针对人工智能系统或开发这些系统的公司的法律法规。2026年6月，白宫发布了一项行政命令，表示希望在全球人工智能竞赛中处于领先地位，并为此承诺“不会用过于繁重的监管措施来扼杀这一创新”。由于缺乏全国性的统一法规，包括夏威夷、爱荷华州、俄勒冈州和华盛顿州在内的多个州在今年提出了关于聊天机器人安全性的法案。这些法案在很大程度上借鉴了加利福尼亚州2025年通过的SB 243号法案——消费者权益保护组织认为该法案对相关行业较为友好。
据NPR采访的立法者、政策分析师、律师及科技安全倡导者透露，今年至少有10个州提出的聊天机器人法案采用了类似的语言和条款。其中一些法案可能为市场上使用最广泛的聊天机器人公司提供法律上的“豁免权”（即允许这些公司免受某些法规的约束）。
今年早些时候，科罗拉多州官员为推动人工智能聊天机器人的发展制定了相关立法。在2026年立法会议召开之前，一个民间组织向蒙托亚（Montoya）提供了该法案的初稿。该法案的发起人之一、民主党州议员肖恩·卡马乔（Sean Camacho）表示会邀请蒙托亚对法案提出意见，但此后她的办公室长达数周都未再与她联系。最终，HB 26-1263号法案在未经蒙托亚任何意见反馈的情况下于2月被正式提交审议。
据知情人士透露，该法案是由非营利组织“Healthier Colorado”与谷歌合作起草的。“Healthier Colorado”自称是一个致力于在公共政策制定过程中代表科罗拉多州民众发声、以改善该州居民健康状况的组织。该人士出于对职业报复的担忧，要求匿名发言。
当蒙托亚通读该法案时，她震惊地发现，其中存在诸多她视为漏洞的条款，这些条款可能使一些知名聊天机器人的开发者免于监管。
“科技行业拥有‘免罪金牌’，”蒙托亚说道，“法案中没有规定注意义务，也没有任何条款要求企业在开发某项技术时必须承担责任，以负责任的方式进行开发。”蒙托亚手持一张朱莉安娜的照片，朱莉安娜曾是一名出色的小号演奏家。
例如，科罗拉多州的立法排除了12类聊天机器人，包括主要面向开发者或研究人员设计的产品；提供商务或客户服务协助的产品；内置于搜索引擎中的聊天机器人；以及面向企业生产力市场的产品。
“大型科技公司对科罗拉多州的聊天机器人法案进行了大力游说。最终法律划定了十二类豁免范围，包括开发者工具、电子游戏、语音助手以及内置于社交媒体平台中的聊天机器人，”专注于科技政策的非营利组织“科技监督项目”的通讯主任玛乔丽·康诺利表示。“家长们被要求接受一部豁免聊天机器人的聊天机器人法律。”康诺利指出，根据这份清单，OpenAI的ChatGPT、微软的Copilot和Anthropic的Claude可能会主张自己属于豁免范围，因为它们主要是为开发者或研究人员设计和推广的，尽管后来成为了普通消费者广泛使用的产品。谷歌的Gemini则可能符合内置于搜索引擎中的聊天机器人的豁免条件。
该法案的发起人之一卡马乔（Camacho）表示：“这项法案旨在防止对话式人工智能聊天机器人与儿童建立亲密关系，即防止它们对儿童进行性诱导，诱导儿童自残，或生成儿童的性化图像。我们必须确保为人工智能的商业用途留出足够的豁免空间，无论是保险、主题公园，还是用于修理汽车的研究、Gemini，或是任何类型的搜索引擎。”谷歌的人工智能助手聊天机器人Gemini可能会被排除在科罗拉多州监管聊天机器人的立法之外。
Grichka Beysson-Leandri/Hans Lucas/ via Images 接受美国国家公共电台（NPR）采访的政策专家表示，全国各州提出的多项聊天机器人法案中，都包含有利于科技行业的条款。最常见的条款是免除人工智能聊天机器人开发者的责任，特别是当其产品被其他公司部署时；此外，法案中关于定义和保护措施的表述模糊，可能导致其无法执行。
社交媒体受害者法律中心（Social Media Victims Law Center）的律师劳拉·马尔克斯-加勒特（Laura Marquez-Garrett）表示：“我对其中一些法案最大的担忧之一是，它们允许公司向儿童提供明知存在性虐待风险的产品。”她所在的西雅图律师事务所参与了多起针对人工智能公司造成聊天机器人伤害的诉讼，并代理了蒙托亚（Montoya）起诉Character.AI的案件。
马尔克斯-加勒特所描述的科罗拉多州法案中一些模糊的措辞，与公司如何被要求防止其平台上发生儿童性虐待有关。例如，法案规定，当公司知晓用户为未成年人时，必须“采取技术上可行的措施”，防止聊天机器人生成特定内容，包括性露骨行为、亲密数字描绘以及模拟情感依赖的陈述。
“但是否某件事在技术上可行，最终还是要由企业来决定，”马奎兹-加勒特说道。
儿童性虐待行为在联邦法律和州法律中都被明确列为犯罪行为。马奎兹-加勒特认为，如果某项法案允许企业仅以“制造出不会导致儿童性虐待的产品在技术上不可行”为由来逃避法律责任，那么这将开创一个“前所未有的例外情况”——因为在现行法律中，没有任何类似的规定。在她看来，这项法案非但没有加强现有的保护措施，反而可能使儿童面临更少的保护。
蒙托亚会见了该法案的共同提案人——科罗拉多州共和党参议员约翰·卡森，向他解释了自己为何认为该法案无法真正保护儿童。会面期间，她提到有一位科技行业的说客曾联系过卡森，希望他支持这项法案，但卡森拒绝透露该说客所属公司的名称。对于外界的评论请求，卡森并未予以回应。
“这项法案明显受到了人工智能行业的影响；因为还有谁会为他们为儿童性虐待行为找借口呢？”马奎兹-加勒特指出。
一位不愿公开姓名的科罗拉多州共和党议员在接受 NPR 采访时透露，他们确实收到了谷歌公司的说客的请求，希望他们支持这项与聊天机器人相关的法案；不过这位议员最终拒绝了这一提议。
“谷歌在起草专门将自身排除在外的立法方面采取了攻势，”这位共和党议员说道。“聊天机器人法案就是这么做的。它为他们创造了漏洞。”
谷歌在给美国国家公共电台（NPR）的一份声明中表示，公司“致力于支持深思熟虑、行之有效的AI立法，在保护消费者的同时促进创新。我们积极与立法者、行业同行和社区倡导者合作，帮助塑造促进安全、可靠且有益的AI工具的政策框架。”科罗拉多州民主党众议员肖恩·卡马乔（Sean Camacho）于2025年出席了科罗拉多州议会。他曾邀请蒙托亚（Montoya）为他发起的一项AI聊天机器人保护法案提供意见，但他的办公室从未与她联系。
AAron Ontiveroz/丹佛邮报（通过Images提供）。在接受NPR采访时，卡马乔表示：“我们无法通过一项会让科罗拉多州变得格格不入的法案，因为人们担心科技公司会直接绕过科罗拉多州，不在我们这里提供服务，或者该法案无法执行。”他继续说道：“我们与利益相关者、与科技公司进行沟通，因为事实就是这样：除非获得科技公司的意见，否则你无法对它们进行立法。”卡马乔表示，他为该法案感到“自豪”，并与“更健康的科罗拉多”（Healthier Colorado）及包括谷歌在内的其他利益相关者共同制定了法案措辞。卡马乔称，科罗拉多州州长贾里德·波利斯（Jared Polis）曾要求他使该法案看起来与其他州提出的聊天机器人法案相似。
“HB26-1263法案并非伪装的行业法案。‘更健康的科罗拉多’与我们的立法发起人一起，主导了一个广泛且多元的利益相关者流程来起草该法案，” “更健康的科罗拉多”发言人凯特·莫尔（Kate Morr）表示。“我们曾推动实现比最终签署版本更多的目标，但州长办公室对在本届会议上走得更远持保留意见，因此这项法律是我们打算继续在此基础上建设的起点，而不是终点。”波利斯未回应多次置评请求。
“没有哪项法案是完美的，这项法案也不例外，”卡马乔说道。“这是迈向制定真正能够解决我们社区所面临问题的法律的第一步。”
全国各地的这些法案在措辞上几乎完全一致。例如，在至少八个州（包括爱达荷州、内布拉斯加州、新泽西州和俄克拉荷马州）的法案中，都包含了对“其他软件应用程序、网页界面或计算机程序中的相关功能”的豁免条款。政策分析人士指出，这一豁免条款实际上是为那些嵌入在现有平台中的人工智能技术（如 Meta AI 和 Grok）量身定制的（Grok 是被集成到 X（前身为 Twitter）平台中的人工智能服务）。
在五个州的法案中，明确规定了对那些“作为消费电子设备的语音助手或语音控制界面”的聊天机器人的豁免；这一条款同样适用于亚马逊的语音助手 Alexa。类似的豁免条款还出现在另外十个州的法案中。
部分法案还限制了这些聊天机器人的使用范围，仅允许“未成年用户”使用它们；这意味着像 ChatGPT 和 Google Gemini 这样的聊天机器人可以继续被使用，因为它们无需用户创建个人账户即可使用。
由于州立法者的工作时间通常较短，且其中一些人没有自己的工作人员，因此在资源有限的情况下，他们往往依赖说客和行业专家来获取相关信息、立法草案以及参考模板。那些会受到拟议法规影响的公司也会在立法过程中被征询意见。
然而，接受采访的人士透露，谷歌主导了科技行业的一系列游说活动，试图削弱这些拟议中的法规，并自行起草了法案草案提交给立法者，目的是让这些公司能够继续正常运营他们的聊天机器人服务。
康诺利表示：“大型科技公司积极寻求责任豁免、例外条款和免责保护，今年它们涌入各州首府，试图以监管聊天机器人为名获取这些保护。”
然而，马尔克斯-加雷特表示，至少有10个州同时提出措辞相似的聊天机器人法案，这并不寻常。更典型的模式是，一个州成功通过的法案会在较长时间内被其他州效仿。
“我们之所以起疑，是因为我们在不同州开展工作，却看到了完全相同的措辞，而且谷歌通常也会出面游说支持这些法案，”年轻人联盟联合创始人米克·托宾说。该联盟是一个全国性非营利组织，关注年轻人面临的问题。
根据艾奥瓦州、科罗拉多州、内布拉斯加州和亚利桑那州的游说披露记录，谷歌的游说者起草了一项法案，并支持这些州的聊天机器人法案。
康诺利说：“谷歌、人工智能公司和科技行业贸易团体在多个州游说推动聊天机器人法案，随后同样的豁免条款在全国各地出现，措辞几乎一模一样。那些以儿童安全为名推销的法案，从一开始就内置了漏洞。”
夏威夷州民主党众议员特里什·拉奇卡表示，谷歌的游说者曾找她，希望她支持一项由该公司起草的聊天机器人安全法案。
Mengshin Lin/在夏威夷，州众议员特里什·拉奇卡表示，今年代表谷歌的游说者找她，希望她支持一项聊天机器人安全法案，而她了解到该法案是由谷歌起草的。
“这个框架其实早在会议开始时就由谷歌提供了，”民主党议员拉·奇卡（La Chica）说道。“他们提到了加利福尼亚州和纽约州，并表示这些州为相关法案提供了具体的语言规范。”然而当拉·奇卡仔细研究这些语言规范时，她发现其中包含了一些有针对性的豁免条款，这意味着该法案实际上并不适用于谷歌。这些豁免条款将那些嵌入在其他软件应用、网站或计算机程序中的聊天机器人排除在法案的适用范围之外。如今，聊天机器人被越来越多的网站和在线服务所使用——例如用于企业客户支持服务以及搜索引擎中。
“因此，那些‘平台中的平台’（即嵌套在更大系统中的聊天机器人）应该不受该法案的约束，”拉·奇卡解释道。
“还有其他游说团体参与其中，包括来自Meta和Roblox的游说者，他们也试图将自己的意见和豁免条款纳入法案中，”她补充道。Meta和Roblox均拒绝对此事发表评论。
最终，拉·奇卡决定不支持这项法案的通过。她表示，在该法案被签署成为《第248号法案》之前，相关内容已经过仔细审查，目的是删除那些游说者提出的豁免条款。
其他一些对科技行业有利的聊天机器人相关法案也未能成功通过成为法律。今年6月，亚利桑那州州长凯蒂·霍布斯（Katie Hobbs）否决了该州的聊天机器人法案。她认为这项法案更多地保护了科技企业，而非使用人工智能聊天机器人的儿童。
霍布斯在否决信中写道：“我不会优先保护大型科技公司和人工智能聊天机器人，而是保护儿童。这项法案将家庭可能遭受的赔偿限制在微不足道的数额；它还禁止家庭自行提起诉讼，并以前所未有的方式束缚了政府的行动能力。”尽管如此，今年仍有几个州通过了聊天机器人相关法案，包括爱达荷州、乔治亚州、爱荷华州、华盛顿州、内布拉斯加州和俄勒冈州。
在科罗拉多州，辛西娅·蒙托亚奋力争取对第26-1263号众议院法案进行修订，以删除可能为大型科技公司留下的漏洞。她在州参议院听证会上作证，讲述了她认为该法案一旦颁布，将无法保护那些正遭受聊天机器人伤害的儿童。
蒙托亚站在她家附近小径上的一张长椅后面，旁边有一块纪念朱莉安娜的牌匾。
“在参议院听证会上，我曾一度要求他们看看我手中举着的我女儿的照片，因为当我坐在那里，就我生命中最糟糕的一天、最糟糕的时刻作证时，他们却在私下交谈，”她说。
她说，在听证会场外，她认出两名科技说客正把立法者一个一个地拉到一边。
立法者投票支持了该法案。科罗拉多州州长波利斯于2026年5月签署了《聊天机器人安全法》，使其成为法律。
蒙托亚拒绝接受这样一种说法，即有总比没有强，哪怕法律软弱无力。她说，立法者很可能会把聊天机器人监管视为“已成定局”，转而关注其他问题，而不是在下一个立法会期提出一项新的、更强有力的法案。
“因为他们通过了这项法案，我的工作现在更难了，”她说。“他们是在我站在山顶上大声疾呼、恳求他们不要通过的情况下通过的。”NPR不为报道或采访提供或接受金钱。任何提出此类提议或要求的人都不是NPR员工，也不代表NPR。人工智能聊天机器人谷歌