旧金山市检察官已向Meta发出停止函，要求该公司停止“允许”包含AI生成的儿童性虐待内容的付费广告，并要求其解释这些广告为何屡次在其平台上投放。

周二，WIRED报道称，Meta近几个月来投放了350多则广告，将未成年人静态图像——其中一些被确认为真实个人，包括一位欧洲王室成员——转化为可描绘其进行性行为的短视频片段。点击这些广告后，用户会被引导下载AI图像和视频生成应用，其中一些应用可用于对他人进行数字脱衣或制作其他未经同意的私密影像。

这些广告由技术透明项目（TTP）的研究人员发现，其中包括一些重复上传的相同广告，总共触达了欧盟各国超过29,000个账户。这些广告出现在Facebook、Instagram和Threads上，还针对美国、澳大利亚和印度的账户。WIRED最初在8月初报道了其中53则广告，但在该初始报道之后，Meta平台上又投放了超过250则广告。

“Meta未能解决已知的AI生成儿童性暗示广告问题，同时却从中获利，”旧金山市检察官David Chiu在给WIRED的声明中表示。“这些广告令人深感不安，并对真实儿童造成伤害。Meta声称对儿童剥削零容忍，但这些问题的规模和持续性表明，当前的努力远远不够。这是不可接受的，Meta必须做得更好。”Chiu在办公室发给Meta律师的四页信函中写道：“任何公司——尤其是声称所有广告在发布前都经过审核和批准并为此收取费用的公司——都不应允许其广告系统被以这种方式使用。”

这封信就Meta的广告政策和安全系统如何运作提出了一系列问题，并要求该公司的法律、儿童安全和广告人员与市检察官办公室进行“迅速讨论”。“这些发现尤其令人不安，因为它们似乎并非反映出Meta在首次接到问题警报时就已纠正的孤立失误，”Chiu写道。

Meta表示“没有迹象”表明这些广告在旧金山展示过，这意味着它们“超出了市检察官的管辖范围”。虽然Meta的广告库（一个广告存储库）包含美国发布广告的部分数据，但并未细分这些广告可能在美国哪些地区投放。

Meta此前告诉WIRED，TTP研究人员发现的许多广告在报告之前已被删除——所有这些广告现已因其违反政策而被移除——而且大多数广告的账户印象数“低于200次”。“我们不容忍nudify应用或任何形式的儿童剥削，无论是真实的还是AI生成的，”Meta发言人此前表示。该公司表示，研究人员发现的300多则广告的“总广告支出”低于5000美元。

这封信称，市检察官办公室已审查了TTP研究人员发现的许多广告，要求Meta停止在其平台上投放这些广告，并解释这些广告如何躲过其审核系统，以及它如何向国家失踪与被剥削儿童中心（NCMEC）上报和报告广告，并要求该公司详细说明如何处理广告背后的广告商和惯犯。

信中继续表示，这些发现表明该公司在检测广告中潜在的儿童性虐待方面存在“更广泛的系统性问题”，并给公司带来了“重大法律问题”。“我办公室的目标不仅是识别过去的失误，还要确保Meta建立系统，防止儿童通过Meta收费投放的广告遭受性剥削，并确保Meta在发现明显儿童性剥削时可靠地履行由此产生的法律义务，”Chiu在信中写道。

TTP研究人员的调查结果显示，在某些情况下，Meta对公司关于滥用广告的报告一周多未作回应，在此期间这些广告又被数百人看到。据TTP和WIRED对Meta广告库的审查，一些广告在被删除时最初并未被标记为包含儿童性虐待内容。Chiu的信中写道：“本文记录的问题的规模、持续性和性质表明，Meta孤立的删除行动远远不够”，并要求Meta在28天内作出回应。

| 有线索？ | | 您是否有关于Meta的信息想分享？我们期待您的消息。请使用非工作电话或电脑，通过Signal安全联系记者：mattburgess.20。 | Meta的社区标准和广告政策不允许儿童性剥削、虐待或裸体，也不允许成人剥削或成人裸体。该公司也不允许推广nudify应用。Meta的广告标准规定，所有广告都通过自动化（有时是人工）审核来对照政策进行审查。该公司此前已删除了数十万条nudify应用广告。

尽管Meta对nudify应用采取了行动，包括起诉一家与某组nudify平台相关的香港公司，并与其它科技公司合作，但研究人员仍不断发现数千条将用户引导至这些有害应用的广告，这些广告包含性行为和裸体内容。在WIRED报道技术透明项目调查结果期间，我们发现了数百条目前仍在Meta平台上投放的“nudification”广告。

TTP主管Katie Paul表示，Meta“并未有效”解决这一问题，截至周三，包含儿童性虐待的广告仍在其平台上出现。Paul说：“Meta声称对儿童性虐待材料采取强硬立场，但自TTP 9月8日报告发布以来，又有全新的广告投放，展示的正是TTP已发送给Meta的同一批儿童。”该组织已向Meta和NCMEC报告了这些广告，并指出其中一些已被删除。Meta没有立即回应WIRED关于新广告仍在出现的问题。

“调查结果很明确，”Paul补充道。“Meta并未有效解决这一问题。”