诉讼指控xAI用儿童性虐待素材训练Grok模型

一名化名“Jane Doe”的女性于周三提起诉讼，指控xAI公司使用包含儿童性虐待材料（CSAM）的数据集训练其Grok模型。原告称，她在2000年代初期还是学龄前儿童时，曾遭成年男性强奸，相关图像被制作成CSAM并在网上传播。这些图像此后被美国国家失踪与受虐儿童中心（NCMEC）等机构列入哈希数据库。

诉讼指出，xAI在训练Grok时使用了包含这些哈希值对应图像的数据集。即便原始图像后来被删除，由于模型已摄入这些素材，其生成能力仍可能受到影响。原告律师表示，Grok的默认条款允许将用户发布的内容及模型自身输出用于进一步训练，这可能使问题持续扩大。

原告要求法院命令xAI销毁所有由Grok生成的涉及CSAM的内容，并停止使用此类素材进行训练。她还寻求对每一位被卷入该数据集的受害者进行赔偿。这是首个针对xAI使用CSAM训练的公开诉讼，xAI方面尚未回应置评请求。