xAI现在被指控使用儿童性虐待材料（CSAM）训练Grok，与此同时监管机构和法院继续调查问题的严重程度，一些Grok用户已被逮捕。

在周三提交的一份诉状中，一位名为Jane Doe的原告解释说，她在2000年代初还是学龄前儿童时，成年男子多次强奸她，以制作CSAM并在网上出售给恋童癖者。

自那以后，Doe的图片已被国家失踪与受剥削儿童中心（NCMEC）和加拿大儿童保护中心（CCCP）等组织进行哈希处理。

为了安全起见，Doe选择接收美国司法部受害者通知系统的警报，以便在任何新的刑事调查中她可能成为受害者时得到通知。

尽管她收到了无数警报，但当CCCP通知她，已在xAI上识别出描绘她的AI生成CSAM时，她感到震惊。这使Doe再次受到创伤。

她的诉状称，在网上论坛上发现了“犯罪者之间讨论制作原告及其他类似情况的已知、遗留CSAM受害者的AI生成CSAM”的聊天信息。