腾讯AI再骂人!男子设计拜年图片 5次修改不满意被骂“你X个X”
撰文: 郑宁
出版:更新:
腾讯AI“元宝”再掀骂人争议。西安向先生在除夕夜2月16日使用该App生成拜年图片时,突然被AI辱骂,收到一张“你X个X”的辱骂图片。事后,向先生将经历发布在社交网站上,引发关注。24日,腾讯元宝在向先生的账号下评论致歉,并表示“已紧急校正了相关问题并优化体验。”
据向先生介绍,他当时先后向元宝AI下达了约5次生成指令,全程未使用任何违禁词或诱导性表述,仅因对生成效果不满意多次修改。起初AI生成的图片虽不理想但内容正常,但因元宝将向先生的照片修改成爆炸头发型,他便回复了“你这是设计的什么鬼”,希望能够重新设计。
这最后一次修改后,图片中向先生的发型不仅没有被修改,甚至图片中原有的“新年快乐,仕途顺遂”祝福标语,被替换成了“你X个X”四字辱骂文字。向先生称,“当时看著这个图片真是又气又好笑。”向先生跟朋友聊起此事,朋友开玩笑表示,“给你设计最后一张骂人照片的不是AI,是披了AI的人工。”
针对此事,24日,元宝官方在相关帖子下作出回应,称非常抱歉给用户带来不好的体验,经核实该情况是模型处理多轮对话时出现的异常输出导致,目前已紧急校正相关问题、优化使用体验,并向用户郑重致歉。
值得注意的是,这并非元宝 App 首次出现 AI 辱骂用户的情况。今年年初,就有网民反馈,使用元宝App修改代码时,多次收到“滚”“自己不会调吗”“天天浪费别人时间”等侮辱性回复。腾讯元宝曾回复称,“与用户操作物管,不存在人工回复介入,属于小概率模型异常输出。”