中国最高互联网监管机构周三表示，作为打击生成式技术滥用的大规模行动的一部分，中国正在打击人工智能生成的“垃圾内容”——即充斥社交媒体和新闻推送的低质量、大规模生产的合成内容。

中国国家互联网信息办公室（网信办）在其网站发布的一份声明中表示，在最新一轮执法行动中，已清理超过561万条有害或非法内容，并删除约4.9万个账号。

此次整治覆盖2400个网站和应用，针对中国一些最大的数字平台，包括TikTok的姊妹应用抖音及其竞争对手快手，以及小红书和腾讯控股旗下的微信。

当局重点整治人工智能驱动的假新闻、露骨和暴力内容、冒充他人以及涉及未成年人的安全违规行为。

这一回应凸显了北京方面对生成式人工智能可及性日益增长的担忧。随着工具变得更便宜、更复杂，创作者可以在几秒钟内制作出逼真的深度伪造和标题党内容，对现有的审核系统构成挑战。

网信办表示，抖音、快手和微信上的创作者利用人工智能将《三国演义》《西游记》等文学经典改编成耸人听闻的低质量“垃圾内容”以吸引流量。

该监管机构称，其他账号利用人工智能生成的“数字人”和捏造的新闻故事，针对老年用户开展欺骗性营销活动。

据网信办称，中国互联网平台运营商正在加强内部防护措施。包括字节跳动的豆包和阿里巴巴集团控股的通义千问在内的领先聊天机器人的开发者，已加强训练数据审查，实施更严格的输出禁令，并为合成内容嵌入更清晰的标识。阿里巴巴拥有《南华早报》。

网信办承诺将继续监测与人工智能生成和合成内容相关的风险，并采取措施防止人工智能的“滥用和恶意使用”，同时誓言支持该技术的发展。