发布时间：2026.01.19
源地址：https://www.bloomberg.com/news/features/2026-01-19/grok-ai-sexualized-images-expose-gaps-in-oversight-enforcement
尽管未经同意的露骨照片的传播在全球范围内引起了轩然大波，但埃隆·马斯克一直淡化这个问题。
过去几周，埃隆·马斯克的人工智能聊天机器人 Grok 在 X 平台上频繁被用来进行数字化“脱衣”操作。尽管全球监管机构纷纷表达强烈抗议，该工具在美国仍持续运行，政府干预有限。
本月初，Grok 的使用频率一度达到每小时数千次，公开回答中未经同意地“脱衣”他人——业内监管机构表示，这种令人不安的滥用和骚扰行为，将互联网阴暗角落的恶劣内容带到了更主流的网络平台上。受害者涵盖了从 OnlyFans 明星到瑞典副总理。英国儿童安全组织称，他们甚至在暗网上发现了疑似由 Grok 生成的 AI 儿童色情内容。（马斯克表示，他“并未发现任何未成年裸体图像。”）
马斯克持续推动、推广并传播这项技术，目前在美国几乎未遭遇法律或监管方面的实质阻碍。苹果和谷歌仍在各自的应用商店中提供该技术。他曾以开玩笑的方式让 Grok “脱衣”，嘲讽争议，抨击批评者，并将该产品比作 Adobe Photoshop 等工具，暗示问题不在于 Grok 本身，而在于使用者。“显然，Grok 不会自发生成图像，它仅根据用户请求进行创作，”马斯克周三发文称，并补充说该技术“会拒绝生成任何非法内容”。
风波过后，X 将其图像生成工具设为付费功能，实际上将这一颇具争议的功能转变为高端服务。随后，X 宣布禁止 Grok 在社交网络上生成“真实人物”的此类图像，但有报道称用户仍可通过独立的 Grok 应用制作这些图像。彭博社分析显示，X 平台上仍有少量来自 Grok 的性暗示图像流出，其中包括穿丁字裤、比基尼或暴露服装的人物。
马斯克及其人工智能初创公司一贯敢于突破界限。这位亿万富翁曾多次警示人工智能带来的生存威胁，2023 年创立了 xAI，作为 OpenAI 的替代方案，目标模糊地定位为“理解宇宙的真实本质”。但其核心特色在于拥抱大胆和粗俗，无论是“浪漫”AI 伴侣，还是“辣味”模式下无所顾忌的聊天机器人对话。
随着性化图像的泛滥，马斯克及其公司不仅引发了 xAI 有史以来最大的争议，也在考验一套旨在防范人工智能带来社会危害的公共与私营保护机制。而迄今为止，这些防护措施尤其在美国表现得相当不足。
欧洲各国政府和监管机构迅速对马斯克旗下业务因 Grok 涉及性化图像的问题发出威胁并展开调查，但美国——作为 X 最大的市场——反应较为迟缓。美国参议院上周一致通过了被称为“反抗法案”的立法，允许非自愿性色情图像的受害者起诉肇事者，但不一定包括平台本身。美国前总统唐纳德·特朗普去年五月签署的一项法律要求平台在接到举报后 48 小时内删除非自愿性色情图像，但目前尚未强制要求建立举报系统。加州总检察长周三对 xAI 因图像传播问题展开调查，随后发出停止侵害通知书，但调查结果尚不明朗。马斯克的人工智能初创公司尚未对此调查作出回应。
保护儿童在科技平台上的安全历来是共和党和民主党少有的共识领域之一，双方都认为需要加强监管。但近年来，每当国会召集科技公司 CEO 就儿童安全问题作证时，马斯克却未被邀请，部分原因是相关听证会主要关注的儿童安全问题与 X 平台关系不大，因为该平台的年轻用户相对较少。
如今，进入第二任期的特朗普正努力与科技界建立友好关系，为其领导者提供一个无监管的环境，以推动人工智能业务的发展，从而在面对中国竞争对手日益激烈的竞争中保持领先。而马斯克本人则属于另一类科技高管：他是全球首富，重要的政府承包商，同时也是特朗普的前亲密顾问，曾助力其赢得总统选举，并可能在中期选举中再次提供资金支持。Grok 是马斯克在人工智能竞赛中的“赛马”——这场竞赛是科技高管们一致告诉特朗普美国必须赢得的。特朗普鼓励大规模的人工智能投资和创新，这一立场与可能惩罚该行业最知名的人工智能先驱之一的做法形成了鲜明对比。
康奈尔科技学院安全、信任与安全倡议主任亚历克西奥斯·曼扎利斯表示：“我们正处于一个重大时代精神转变的过程中，美国的政治、经济和技术精英们认为，减少主要平台采取的安全措施和内容审核对他们及其议程更为便利。这一现实在很大程度上是由埃隆·马斯克推动形成的。”
白宫一位官员向彭博社指出，X 平台和马斯克在此事上的公开声明表明问题已得到控制。政府其他部门则公开支持 Grok：美国国防部长皮特·赫格塞斯上周访问了马斯克位于 SpaceX 星基地的发射场，抨击了他所称的“觉醒”人工智能，并宣布计划将 Grok 整合进国防部的系统。
苹果公司和 Alphabet 旗下的谷歌，作为两大主导的移动应用商店运营者，尽管曾多次下架允许用户生成他人裸体图像的应用，但这次却对 X 和 Grok 置之不理。本月早些时候，多位美国参议员致信两家公司，指出 X 和 Grok 通过“大规模生成未经同意的女性和儿童性化图像”，违反了各自的服务条款，因而应予以下架。对此，两家公司未予置评。
历来，批评马斯克的人往往自担风险，因为他的巨额财富和好诉讼的性格常常令一些批评者望而却步。马斯克收购 X 平台后，因其内容政策引发广告商抵制，他通过诉讼迫使他们回归。在一起案件中，他的诉讼甚至导致一个广告行业联盟解散。本月，美国音乐出版商试图阻止 X 在未获授权的情况下使用版权歌曲，他也对其提起诉讼。公开反对马斯克，意味着可能面临高昂的诉讼费用——无论是否合理。
目前试图在法庭上挑战 Grok 的，是保守派网红 Ashley St. Clair，她最近与马斯克育有一子。St. Clair 上周起诉了 xAI，指控 Grok 制作了她的性化图像，并称 X 在她投诉后对她进行了报复。对此，X 反诉她违反合同，理由是她未按公司服务条款要求，在德州联邦法院提起诉讼。
在美国以外，多个国家的政府和监管机构正加大力度惩罚马斯克的帝国。Grok 已在印尼和马来西亚被封禁。作为 X 的第二大市场，日本官员周五表示，已要求 X 加强安全措施，停止发布不当内容。日本经济安全大臣还称，如有必要，正考虑采取法律行动。
法国是最早谴责 Grok 的国家之一。议员亚瑟·德拉波特和埃里克·博托雷尔于 1 月 2 日向检察官举报了他们所称的“明显非法”的色情深度伪造内容。检察官随后确认正在对此事展开调查。不久之后，欧盟数字监管机构迅速行动，根据欧盟《数字服务法》，要求 X 平台保存所有与 Grok 相关的内部文件，直至年底，这是一项潜在监管措施的前期准备。欧盟数字事务负责人亨娜·维尔库宁形容 Grok 制作女性和儿童性化图像的能力“令人震惊”，并上周警告该平台“在欧盟修正其人工智能工具”，否则将面临《数字服务法》下的处罚，可能包括高额罚款。
英国也采取了类似立场，媒体和互联网监管机构 Ofcom 根据《网络安全法》对 X 展开了正式调查，该法旨在保护公众，尤其是儿童免受有害内容的影响。如果 Ofcom 认定 X 违法，最高可处以公司全球收入 10% 的罚款。若 X 不配合，监管机构还可向法院申请命令，要求互联网服务提供商在英国屏蔽该网站。加拿大隐私专员也在对 X 进行调查。对此，X 尚未发表评论。
目前尚不清楚这些调查是否会带来实质性后果，即便如此，马斯克是否会遵守相关要求也未可知。这位亿万富翁长期以来一直与监管机构就 X 平台上的内容问题展开斗争。欧盟就在去年 12 月因该平台违反内容监管法规对其处以罚款。2024 年，巴西曾因 X 未能遵守政府的内容下架要求而一度禁止该平台运营。
马斯克历来会在政府的法律要求面前让步，但他很少默默接受。在与巴西的争执中，马斯克曾称该国一位最高法院法官为“扮演法官的邪恶独裁者”。本月早些时候，英国首相基尔·斯塔默批评 Grok 发布“令人羞耻”和“恶心”的裸露图片后，马斯克反驳称英国政府是“法西斯”，并指责其意图“压制言论自由”。
尽管 X 进行了调整，但围绕 Grok 的争议似乎远未平息——尤其是在 xAI 允许该聊天机器人在其独立应用中数字化“脱衣”用户的情况下。斯坦福以人为本人工智能研究所的政策研究员 Riana Pfefferkorn 表示，“最糟糕的结果就是毫无任何后果，这将表明确实有人凌驾于法律之上。”
社交媒体平台长期以来一直在努力管理各种带有性暗示的内容，这类内容本质上具有主观性。人工智能的出现使得人们更容易、更快速地分享和生成性暗示图像，而这些图像并不总是描绘真实人物。尽管制作或传播儿童色情图像在法律上是禁止的，但 Pfefferkorn 表示，Grok 生成的许多图像在美国可能并不违法。
Pfefferkorn 补充说，大多数大型人工智能公司可能没有足够的勇气应对 Musk 正经历的公关危机，且会因公众的强烈反响而被迫设立相应的防护措施以避免类似问题。然而，Grok 事件也可能为这个正竞相开发更强大 AI 系统并探索新盈利模式的行业树立重要先例。
当 Musk 大幅裁减 Twitter 员工，包括内容审核人员时，这为其他公司采取类似但不那么激烈的措施提供了借口。此前，一些 AI 公司已表达了向更大胆方向发展的意愿，可能是为了提升用户活跃度。例如，OpenAI 曾表示计划推出 ChatGPT 的“成人模式”，尽管具体细节尚未公布，该功能预计将在今年第一季度上线。