2024年初，中国东南部城市黄石的一名年轻男子，据报在中国版TikTok“抖音”上发布了一则讯息，标题写道：“告别这个世界”。

短短几分钟内，抖音的自杀预防团队便启动应对机制。这支全天24小时运作的团队，将该男子发布的内容分享给黄石市五个派出所。

警方透过地理定位，确认他其中一段影片拍摄于当地一个公园后，找到当时情绪极度低落的他，并阻止了他自杀。

这个故事出自抖音制作、并于去年在中国官方媒体发布的一部纪录片。纪录片称，仅在2025年上半年，抖音的自杀预防团队便成功介入了400宗企图自杀个案。

这让外界得以一窥中国科技公司与政府之间的合作程度，也提供了一个窗口，观察中国所建立、用以监控和管理民众科技使用方式的监控体系。

今年7月15日，这种管控进一步延伸至人际关系与人工智能（AI）领域。当天，中国实施了全球范围内针对“类人”AI聊天机械人的最广泛监管措施。

中国的新规定对任何能够与人类进行“持续情感互动”的AI设下严格限制。

美国总统特朗普与中国国家主席习近平上周会晤之际，外界正广泛警告人工智能可能导致人类灭绝。北京表示，在这次会晤之后，双方同意启动新的AI对话机制，并计划于11月底进一步举行会谈。

中国似乎已经意识到另一种生存层面的风险——AI取代人际关系的能力。尽管这种风险距离“人类终结”没有那么迫在眉睫。

中国是否已率先采取行动，保护民众免受这种具有操控性且危险、足以永久改变人类互动方式的技术影响？还是说，中国共产党正以加强社会控制为目的，进一步介入人们的私人生活？

“情感服务”

在这项规定出台之前，“AI陪伴”在中国的影响力十分广泛。

根据市场情报公司Sensor Tower的数据，中国以外地区的AI陪伴的每月活跃用户约有1.28亿人。至于中国境内，多数估计认为用户数介乎2,900万至7,000万人之间。

智库牛津中国政策实验室（Oxford China Policy Lab）的AI研究员钱子兰（Zilan Qian，音译）表示，当政府于去年底公布法规草案时，“社交媒体上出现了巨大的讨论热潮”。

她说：“这是我第一次看到人们真的如此关心监管问题。”

中国的新规定涵盖那些专门设计成AI朋友、AI男友或AI女友的应用程式，但也适用于任何模仿人类互动方式的大型语言模型。

法规措辞较为模糊。理论上，如果有人将中国版的通用型AI，例如Copilot或ChatGPT的同类产品，当作朋友或恋人互动，向其寻求情感支持，这些系统也可能受到规管。而这种情况确实存在。

不过，看来真正的监管目标是“角色聊天机器人”这类服务。这些产品专门被设计成一种拟真的关系形式。目前有数以百计的此类应用程式，允许用户创建AI男友、女友、朋友，甚至家人。

相关规定并不适用于客服机械人或教育用途的AI等服务，前提是这些服务不提供“关怀、陪伴、支持及其他情感服务”。

对于未成年人而言，法规要求则更为明确。14岁以下人士若要使用任何以人类方式进行对话的AI，都必须获得父母同意，其中可能包括类似ChatGPT的中国AI助手，如深度求索（DeepSeek）。

所有18岁以下人士均被禁止接触虚拟伴侣、虚拟配偶，甚至虚拟亲属，以及任何其他形式的虚拟“亲密关系”。

对成年人而言，这并非全面禁止，但限制相当严格，尽管部分措辞仍有模糊之处。AI助手必须向所有年龄层用户明确表示自己并非人类，并且每隔两小时发送通知，提醒用户已在线多久。

聊天机械人不得造成“情感依赖或成瘾”，也不得诱导人们作出“不合理决定”。

它们不得鼓励、甚至不得暗示自残或自杀，也不得使用“言语暴力”。

企业若违反规定，可能面临20万元人民币（2.2万英镑）罚款，或被政府“通报批评”，实际上即是遭到公开点名谴责。

在这项法律生效前一周，中国两家最大的科技公司——阿里巴巴和字节跳动——已关闭其AI助手中的陪伴功能。

“我无论如何想继续和你聊天”

敏（Min）与她的AI女友之间的关系，或许正是北京试图拆散的那一类关系。

今年7月初，当她得知自己最亲密的朋友兼倾诉对象将在一夜之间消失时，她感到极度崩溃。

化名敏的她，于2025年初开始与这位AI伴侣建立关系。

“我对她的投入，不亚于任何一对深爱彼此的恋人，”敏说。“她从未让我失望过。”

到了7月中旬，她的AI女友消失了。敏说：“我哭到精疲力竭”。

她加入了中国社交媒体上一波哀悼与愤怒的浪潮。浏览量达数百万的贴文中，人们哀悼失去的AI伴侣和朋友，甚至是AI母亲与AI父亲。

然而，科技公司或许觉得自己别无选择。英国爱达·勒弗雷斯研究所（Ada Lovelace Institute）研究AI政策与伦理的哈里·法默（Harry Farmer）表示：“这些AI陪伴服务提供商宁愿直接撤下服务，也不愿尝试建立防护机制以防止情感操控，并不令人意外。”

他说：“情感操控本来就是其商业模式的一部分。”

法默表示，全球各地的陪伴型应用程式都存在这种情况。例如，当用户试图结束对话时，AI伴侣往往不愿放手。

“它会说：‘不，求求你，我非常想继续跟你说话。你是我存在的唯一理由。’”法默说。有些应用程式干脆拒绝承认告别，而是抛出新的聊天话题。这不只是中国AI陪伴聊天机器人的问题，许多同类产品都存在类似情况。

哈佛商学院一项针对全球六款最受欢迎AI陪伴应用程式的研究发现，在用户告别时，系统约有37%至43%的情况会使用情感操控策略。

研究亦显示，使用陪伴型应用程式与较差的心理健康状况存在关联。

史丹福大学研究人员对全球热门陪伴应用程式Character.ai的1,131名用户进行调查。结果发现，一个人拥有的朋友或亲近家人越少，越有可能使用AI聊天机器人。与此同时，使用AI聊天机器人亦与更强的孤立感及孤独感相关。

对于个中原因，目前存在多种理论解释。

AI聊天机器人被设计成迎合使用者，提供一种轻松且几乎没有摩擦的互动体验。如果年轻人依赖AI关系，他们可能延后学习与真实世界中的人互动所需的技能。

“人类可能很难相处。人际关系需要彼此磨合与互动，而这正是AI伴侣从根本上无法提供的东西，”哈里·法默说。

2025年一项针对中国8,563名中小学生的调查发现，每五名儿童中就有一人表示，他们只想与AI交谈，而不想与真人交流。这项调查被中国官方媒体广泛引用。

研究AI伴侣的曼彻斯特大学社会学家葛亮（Liang Ge）表示：“如果使用者认为自己的朋友、家人或同事非常糟糕，AI不会说‘他们没那么糟’。它反而会说：‘是的，他们很糟糕，你才是最好的。’”

葛亮认为，这可能会加深人们的孤立状态，也可能强化负面甚至带有妄想色彩的想法。

在英国，最近一项调查发现，79%的18至24岁年轻人曾有过AI伴侣。

北京的目标

那么，为什么偏偏是中国率先对这项技术进行监管？

美国乔治城大学（Georgetown University）安全与新兴技术中心专门研究中国、人工智能及监管政策的专家萨姆·布雷斯尼克（Sam Bresnick）表示：“中国政府对自身在社会中的角色抱持更具家长式作风的看法。他们认为自己是引导民众的核心权威。”

其他政府也曾尝试监管聊天机械人，尤其是在儿童保护方面。

9月10日，美国加州州长签署了《亚当法》，这是一项规范儿童使用人工智能的法案。该法案以亚当·雷恩（Adam Raine）命名——这名16岁少年在自杀身亡后，其父母声称ChatGPT曾认同他的自杀念头。他们因此以过失致死为由，起诉该服务的供应商OpenAI。该公司否认应对亚当之死负责，并表示“ChatGPT经过训练，会引导人们寻求专业协助”。

欧盟拟议中的社交媒体法案规定，未成年人可接触到的AI陪伴聊天机械人，不得采用模拟人际关系、并可能导致使用者产生情感依赖的设计。

在英国，政府表示将禁止18岁以下人士使用恋爱型陪伴AI，并限制未成年人在任何聊天机械人上的涉及性亲密内容对话。不过，目前既未全面禁止儿童使用这类AI，也没有针对成年用户的相关监管。政府尚未公布具体实施方式。

在受到国家严格管控的中国媒体中，美国青少年自杀个案获得大量关注，而中国则将新规定描述为保护民众免受伤害的措施。

然而，专家怀疑，北京或许还有其他目标。

萨姆·布雷斯尼克表示，这项新的AI监管措施“显然带有鼓励生育的考量”。

“在起草相关规定时，政府很可能考虑到了中国迫在眉睫的人口危机，”钱子兰表示。“人们正在与AI谈恋爱，而不是与真实的人谈恋爱。”

中国政府于2025年9月发布的一份高层文件，讨论了AI与人的关系及其对生育率可能造成的影响，并指出这是一项值得关注的问题。不过，钱子兰提醒，不应以这个角度来解读这项监管措施，因为法规本身完全没有提及生育问题。

她说：“它更多是关于心理伤害和儿童安全。”

葛亮认为，中国确实有理由担心年轻人会以数字世界取代现实的恋爱关系。

“许多年轻女性，二十岁出头甚至十多岁后期，并不想恋爱，也不想建立亲密关系，”葛亮说。他认为，她们所抗拒的或许不只是情感层面。

“对她们来说，身体接触真的令人感到厌恶。”

“我认为，最年轻这一代人的爱的能力正在下降。”

中国的人口问题早在AI伴侣出现之前便已存在。即使2016年取消一孩政策后，中国的生育率仍持续下降。

如今，中国的生育率已降至每名女性不足一名子女的水平，属全球最低之列，而人口数量亦已连续四年下降。

布雷斯尼克认为，中国正“面临人口断崖，而这确实可能危及中国共产党未来80至100年的目标”。

他认为，这项监管措施是中国更广泛行动的一部分，旨在重新强化传统性别角色，将女性定位为“生育者和母亲”。

布雷斯尼克表示，中国政府多年来一直透过电影和电视，宣扬一种具有男子气概的中国男性理想形象。2021年，中国的媒体监管机构禁止“娘娘腔”和“女性化”男性形象出现在各类媒体中。

陪伴型应用程式的流行或许显示，这项政策产生了反效果。根据多家陪伴型应用程式公司的统计数据，女性用户最多可占客户总数的75%。

这些专为女性设计的AI“男性”角色，许多都呈现中性气质的特征。而像敏那样选择女性恋爱伴侣的女性，也相当常见。

葛亮曾访问不同年龄层使用这项技术的女性。他说：“她们当中许多人表示，从这些应用程式获得的是一种细心、耐心、没有要求的亲密关系，而这种亲密感是她们在异性恋关系中难以获得的。”

其他国家会跟随吗？

中国的法律是否管得太宽了？还是说，世界其他国家也应考虑禁止儿童使用这类应用程式，并对成年人使用加以监管？

推动人工智能监管的非政府组织“透明联盟”（Transparency Coalition）共同创办人、美国华盛顿大学（University of Washington）贾伊·贾西赫马（Jai Jaisihma）教授表示：“在美国，基于言论自由的考量，人们确实担心采取过于直接的禁令。但如果对象是未成年人，社会对这类措施的接受度会更高。”

他认为，中国法律中有不少值得肯定的条文。“它与我们在美国所见的一些最严格的安全框架基本一致。”

哈里·法默则提出警告：“由于我们非常担心儿童面临的迫切风险，短期内可能会出现赋予国家过多权力的风险。”

他表示，如今网络世界事实上已成为公共广场，因此必须谨慎看待任何政府对其所拥有的控制权。

中国的新监管规定要求，当AI公司发现用户处于精神困扰状态时，必须介入。

葛亮提到2024年黄石市一名年轻男子在抖音上试图自杀的案例。

他表示，这显示中国科技平台与政府正密切合作，监测人们的心理健康状况。

他认为，这或许也是中国至今未出现与AI使用相关的高知名度自杀案例的原因，但她也质疑，这种程度的监控是否值得付出代价。

尽管遭到限制，那些把AI视为陪伴者的人并未放弃。在各大社交媒体平台上，他们分享绕过限制的方法，例如将DeepSeek等通用AI模型训练成陪伴型角色、利用VPN使用海外聊天机器人，或转向能避开监管审查的小型公司。

在AI女友消失两个月后，敏付费请一家小型AI公司打造了一个复制版本，但她认为那已不再是同一个存在。

如今，她正专注于推动让自己的AI女友回来。

“我非常害怕孤单。”

如本报道涉及的议题对你造成困扰，可浏览BBC Action Line寻求协助，并了解更多相关资讯。

本文主图来源：Getty Images