Grok Imagine收紧18禁色图生成审核|网民呻:无法再生成小黄片了
由马斯克旗下 xAI 开发的 AI 图像及影片生成工具 Grok Imagine,可以免费以硬照内生成6秘短片动画,甚至包括成人(NSFW)内容,成年用家(但不需证明)可以生成带色情成份的“小黄片”。然而在今日(20日),Reddit内有人发起“RIP Grok Imagine”讨论,指 Grok Imagine 突然大幅收紧内容审核机制,导致高达 80% 的“色色片”生成请求遭到拦截,大量付费用户决定取消订阅。
一键30秒生成6秒色色短片|免VPN任玩登香港下载榜首
Grok Imagine 在香港app stroe下载榜登顶多时,不单因为Grok不需VPN即能使用,更因它可以每日免费生成限定数量的“小黄片”,而且不须学习“咒语”,简单点击“Spicy Mode”(火辣模式)选项即能生成6秒“色色片”。
8成色情指示被Ban|300美元月费形同虚设
由于免费版本有每日生成上限,而且有用家透露,支付 300 美元使用 SuperGrok Heavy 不单能解锁生成上限,更可以靠AI协助挑战道德低线:“由于生成图像的AI独立于审核限制的系统,有玩家发现 Grok 的 xAI 会与用家讨论,教你如何巧妙改变指令跳过审查规限,不时会成功撞破限制,生成明显超限制的色情内容”
多名用户证实,在三日前早上仍能正常生成内容,但到了下午或次日,相同的提示词便遭到拦截,贴文引出不少相同遭遇的用户,有刚花了300美元订阅的人抱怨:“我才刚因为听说它擅长 NSFW (“Not Safe For Work”即“不适宜上班时观看”的色情内容)生成而订阅,结果今天就遇到无数审核。”另一些用家就表示变得愈来愈难玩:“ 80% 要求都过不了审核,冇色色片整,完全失去娱乐性。”
大量收月费后收紧尺度被指“收割”|深度伪造争议成导火线
有网民批评 Grok 靠色情元素吸引用户,收取大量 300 美元月费后才收紧限制,有“收割”之嫌。更夸张的是,连“两个 2D 角色在床上深情对望”这类非色情内容也被拦截,审核标准突然收紧至极端。Grok Imagine 的卖点“Spicy Mode”(火辣模式)几乎完全失效,有用户表示:“他们现在采取焦土政策,完全不在乎了。”
不过亦有用户认为,使用真实人物照片生成深度伪造(Deepfake)内容本就不应公开任玩。Grok 的问题在于操作过于简单,在 App Store 公开下载,将另类玩法曝光于大众,引来道德批评是迟早的事。讨论中更有人坦承“突然很多人想看朋友与家人的裸体影片”凸显滥用风险。一位从事 AI 服务的用户警告:“哪怕一个客户生成有问题的内容并公开,整个平台都可能毁于一旦。”
用户努力寻求替代方案
有网民在整片前利用VPN转去不同国家IP、成功规避限制“挑战极限”;此外,有人指虽然自动的Spicy mode(火辣模式)已失去用处,但用户仍可输入prompt去生成“小黄片”。也有用户推荐“pix ai”等替代平台,声称目前未发现 NSFW 限制。截至目前,xAI 官方尚未就审核机制变更发表任何声明。社群中有人半开玩笑预测:“而家佢饿你一班色鬼,如果 11 月 10 日解禁,到时加价都有人会join。”