字号 ·· | 护眼
财新

未成年人用网拟定新规:限制平台诱导式算法、不得提供虚拟伴侣服务

网信办称,随着互联网与AI、大数据等新技术加快融合,不断融入未成年人学习生活,网络沉迷、违法和不良信息传播等问题仍需持续治理。图:视觉中国

网信办称,随着互联网与AI、大数据等新技术加快融合,不断融入未成年人学习生活,网络沉迷、违法和不良信息传播等问题仍需持续治理。图:视觉中国

  【财新网】9月18日下午,国家互联网信息办公室就《国务院关于保障未成年人健康安全使用网络的规定》(以下简称“征求意见稿”)向社会公开征求意见。网信办称,随着互联网与AI、大数据等新技术加快融合,不断融入未成年人学习生活,网络沉迷、违法和不良信息传播等问题仍需持续治理。

  因此,制定新规是“进一步加强与未成年人有关的网络服务管理,明确制度规则、严密保护体系的迫切需求”。

  征求意见稿针对AI虚拟陪伴、算法诱导沉迷等未成年人使用网络过程中出现的新情况、新问题,做了新的制度设计。

  征求意见稿拟规定,网络服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务,诱导未成年人沉迷或可能影响未成年人身心健康的网络服务,网络直播发布服务等,陌生人网络社交服务也包含在内,但十六周岁以上并以自己的劳动收入为主要生活来源的未成年人用户除外。

  部分网络服务可通过未成年人模式提供,比如音视频服务、除发布服务以外的其他直播服务、游戏服务;微博、论坛社区、群组、朋友圈、私信、跟帖评论等网络社交服务;以及可能影响未成年人认知的AI服务。

  在新规框架下,未成年人只能看直播,不能在线直播;AI驱动的虚拟陪聊产品将面临严格的未成年人保护监管。7月《人工智能拟人化互动服务管理暂行办法》正式施行后,豆包、千问等AI助手已经关停了陪聊智能体的入口。(详见:《千问、豆包将下线“智能体”功能 AI陪聊产品政策收紧》)

  财新此前报道,这类可通过角色扮演和用户互动的AI陪聊应用对年轻用户群颇有吸引力,在两家平台宣布下线该功能后,不少用户在社交媒体上感慨:自己培养许久的“电子宠物”“AI搭子”就这么没了。(详见:《财新周刊》2025年第40期《“AI陪伴”善与恶》)

  若违反上述规定,服务提供者将被没收违法所得,违法所得100万元以上的,并处违法所得1倍以上10倍以下罚款。拒不改正或者情节严重的,并可以责令暂停相关业务、停业整顿、关闭网站或者应用程序、吊销相关业务许可证或者吊销营业执照。

  此外,征求意见稿拟规定,网络服务提供者不得设置诱导未成年人用户情感依赖、沉迷以及过度消费等的算法模型。

  征求意见稿拟从多个环节加强对“绕开未成年人模式”的监管,比如电话卡侧,要求电信业务经营者依法登记未成年人用户的真实身份信息;智能终端产品应设置未成年人模式联动、一键切换、退出核验、防绕过等功能;应用程序分发平台服务提供者同样应落实安全管理责任。

  同时,征求意见稿拟规定,网络服务提供者应具备未成年人用户识别能力,依法综合运用法定身份证件、国家网络身份认证公共服务、分布式数字身份认证公共服务、非存储式一次性人脸核验、行为特征识别等方式,提升未成年人用户识别精准度。

  征求意见稿的总体原则是,各相关方坚持最有利于未成年人的原则,充分考虑未成年人身心健康发展特点,按有关规定和标准提供未成年人模式。

  网信办还提到,新规也是顺应全球互联网治理趋势的必然要求,“近年来特别是去年以来,国际社会普遍关注保障未成年人健康安全使用网络问题,开展系列相关立法,反映了全球互联网治理和加强未成年人网络保护的共性趋势。”

  因此,草案在起草过程中也对主要国家和地区未成年人网络保护相关立法动态做了深入研究论证。

  多个国家正在限制未成年人使用社交媒体。澳大利亚、马来西亚已经在2025年底禁止16岁以下未成年人使用社交媒体平台。2026年4月,欧盟宣布即将推出一款年龄验证应用软件,用于证明用户的年龄,将有助于青少年免受不当内容侵害;6月,英国拟立法全面禁止16 岁以下使用主流社交媒体,相关措施若在议会通过,有望在2027年生效。(详见《英国拟出全球最严措施 16岁以下人群禁用部分主流社交媒体》)