纽约时报报道，加州总检察长邦塔（Rob Bonta）1月14日表示，因马斯克（Elon Musk）旗下人工智能公司 xAI的聊天机械人 Grok 被指大量生成并在网上流传未经当事人同意的色情深伪影像，当中涉及女性与女童，司法部已对该公司展开调查。

报道指，从2025年12月下旬开始，X平台充斥著大量使用Grok生成的真人色情图像，照片内容涉及穿著内衣和摆出性暗示姿势的女性和儿童。邦塔在一份声明中说：“最近几周，大量举报信详述了xAI制作并发布到网上的非自愿色情露骨材料，这令人震惊。”

邦塔说，司法部对此类图片“零容忍”，其办公室则指潜在受害者可向加州司法部举报，因加州法律禁止使用AI生成未经同意的色情图像，违者或面临每张图像2.5万美元（约19万港元）的罚款。此外，加州政府还可以申请法律禁令，禁止该公司继续生成此类图像。

马斯克当日在X平台上发文辩称，Grok不会自发性生成图像，“它只会根据用户请求生成图像。”目前，Grok已限制仅付费用户能生成此类图像，但独立应用仍可操作。

xAI目前面临多项外部压力，除了受害者和监管机构对此表示强烈谴责，同时英国、印度和马来西亚亦正在调查Grok。加州州长纽森（Gavin Newsom，又译纽森 ）最新公开表态支持调查，并在马斯克拥有的社交平台 X 发文批评，指 xAI 容许平台成为散播非自愿色情深伪影像的温床，当中包括以人工智能方式对儿童进行数码脱衣的内容，形容行为卑劣，促请司法部长即时彻查该公司。