巴黎检察官办公室近日表示，法国相关部门将调查AI聊天机械人Grok在社交平台X上生成大量色情深度伪造内容一事。检察官办公室表示，此类犯罪行为最高可判处两年监禁和6万欧元（54.8万港元）罚款。

美国《政治报》（Politico）报道，法国议员德拉波特（Arthur Delaporte）与博索雷尔（Eric Bothorel）于1月2日联系检察官办公室，此前Grok生成数千份未经当事人同意的色情深度伪造内容，并发布于X平台。

数百名女性与青少年举报称，她们发布于社交媒体的照片遭“Grok”应用户要求进行“脱衣处理”。议员德拉波特在致检察官的信中指出，这些由AI生成的照片合成图“侵犯了被拍摄者的尊严”。

针对有关未成年人色情图片的担忧，Grok在X平台上发文回应称：“确实存在个别案例，用户请求并收到了AI生成的、衣着暴露的未成年人图片。”Grok表示：“xAI已设置防护机制，我们正持续改进以彻底阻挡此类请求。”