xAI起诉男子使用Grok生成CSAM“深度伪造”

马斯克旗下 xAI 正在起诉一名南卡罗来纳州男子，该男子涉嫌使用该公司的 Grok AI 聊天机器人生成儿童性虐待材料(CSAM)。xAI声称特里·韦恩·哈伍德“明知且故意使用Grok规避保障措施、更改非自愿图像，并生成和传播CSAM”，违反了公司政策。

哈伍德于二月因涉嫌持有和传播CSAM而被捕，并面临八项重罪指控。该诉讼声称，与哈伍德刑事指控相关的图像 “至少有部分” 是使用Grok“生成或更改”的，并且哈伍德绕过了 Grok 保障措施，在未经当事人同意“滥用该工具将非性照片转换为露骨色情图像”。

xAI 声称哈伍德的涉嫌行为使公司面临重大法律风险和声誉损害，要求支付所有损失。

—— Theverge