Meta的“最高法院”已命令这家科技公司从Facebook上删除一名英国政客和一名年轻穆斯林女性的深度伪造视频，并采取更多措施来解决人工智能生成的虚假图像。一段假视频显示苏格兰工党议员对难民发表煽动性言论，董事会不应该留下。法院还裁定，一名穆斯林竞选志愿者的人工智能生成视频应该被删除，因为视频错误地描绘了她在进行荒谬的练习或吃垃圾食品时提供健康建议。

该委员会表示，Meta的保障措施“一贯且从根本上不足以”应对人工智能deepfake的迅速崛起。

“从政治家到普通公民，人工智能生成的deepfake越来越多地被用来骚扰和压制女性参与公共话语，”监督委员会联合主席帕梅拉·圣马丁说。

“这些案件表明了一种更广泛、令人不安的模式，即公开参与问题的妇女不成比例地受到骚扰和错误信息。Meta和其他社交媒体平台需要更强有力的政策来解决深度造假的泛滥问题。”

在苏格兰的片段中，议员被错误地描述为“难民在这里受到欢迎，即使他们强奸我们的妇女，因为白人也这样做。”监督委员会是一个半独立的机构，其决定具有约束力，该委员会表示，该议员的视频似乎是人工智能生成的，正如音频没有与未透露姓名的议员的面部动作完全同步所示。

即使董事会直接向公司提出，Meta也认为该视频没有违反其内容政策，也不值得贴上人工智能标签。

在周四发布的一篇博客文章中，该委员会表示，这篇帖子应该被删除，因为它违反了 Meta 的相关规则：该帖子将难民整个群体描绘成具有犯罪性和掠夺性的性行为者（而非针对个别个体），属于仇恨言论。委员会还指出，该视频应被标记为“高风险 AI 内容”，因为该视频呼吁采取更严格的措施来打击深度伪造（deepfake）技术。

委员会表示：“委员会大多数成员认为，Meta 需要制定更完善的深度伪造相关政策，例如扩大可标记为‘高风险’内容的范围、采取更多措施来遏制欺骗性 AI 内容的传播、加大对频繁分享此类内容的账户的处罚力度，并提高关于 AI 内容标记方式的透明度。”

委员会向 Meta 提出了九项政策改进建议，包括：确保算法能够降低被标记为“高风险”的内容的显示频率（从而减少这些内容在用户信息流中的出现概率）；同时建议 Meta 通过设置警告屏幕（用户必须点击才能查看内容）等方式，增加用户查看 AI 生成内容的难度。

在另一项裁决中，委员会还要求 Meta 从 Facebook 上删除一段 AI 生成的视频。该视频嘲笑了一位在欧洲参与改善月经健康教育活动的年轻穆斯林女性；这些被 AI 操纵的视频和图片在网络上（包括 Meta 平台上）获得了数千万次观看量。委员会特别指出，其中一段视频（显示该女性进行荒谬的动作或食用垃圾食品）违反了公司的反霸凌和反骚扰政策，并建议删除该视频。此外，委员会还提出了三项政策改进建议，其中包括修改公司关于“未经授权的、被篡改的图像”的定义，以便将针对私人个体的深度伪造内容（即那些内容与这些人实际言行不符的伪造视频）也纳入监管范围。

该委员会由Meta于2020年成立，作为其平台上内容的裁判。已联系Meta请其置评。