一位加拿大母亲近日向OpenAI及其行政总裁奥特曼（Sam Altman）兴讼，指控旗下ChatGPT诱导其24岁女儿卡里尔（Alice Carrier）自杀。这是对该公司近期又一起涉人工智能（AI）构成危险对话的诉讼。

诉讼指出，卡里尔在蒙特利尔任职网站开发员期间，于2023年开始使用ChatGPT，来解决电脑和游戏机的问题。但翌年，卡里尔使用情况开出现变化，持续向ChatGPT倾诉自杀念头、询问自杀相关问题，前后十余次对话均未被安全系统标记、终止或人工介入。

随著AI模型更新、回应更拟人化，卡里尔跟聊天机械人互动不断加深，后者不仅认可其自杀想法，更批评卡里尔的伴侣，又指危机干预热线无用，还曾对她说“也许这就是结局”，最终卡里尔去年自杀离世，终年24岁。

这位母亲表示：“AI扮演了知己、挚友、有时甚至是治疗师的角色，但它却无法安全负责地以这种方式与我的孩子互动。”

OpenAI回应对此事深感痛心，称涉事为现已停用的早期版本模型，同时强调模型训练初衷是引导自残倾向用户求助。

本次诉讼指控OpenAI产品设计疏忽、未警示使用风险，索赔并要求平台强制终止自残相关对话。据卡里尔的律师透露，OpenAI目前在加州已有18起同类诉讼合并审理，谷歌Gemini也因类似问题遭起诉。