AI动物影片渗入暴力性感成人内容 传播速度惊人忧成新版Elsagate

撰文: 阿言
出版:更新:

现时,很多家长都习惯让小朋友看YouTube影片,或者使用社交平台来片打发时间,但是家长了解孩子观看的内容吗?最近有网民发现,一个有近94万追踪者的帐号,由原本发布可爱AI猫猫动画,到现在经常上载诡异的影片,似乎与几年前广泛传播的“Elsagate”影片非常相似。

AI动物影片渗成人内容

最近有网民在Threads发布一则贴文,指在Instagram发现一个叫“Meow.story1234”的帐号,帐号原本主打可爱AI猫猫片,画面精致,吸引了不少追踪者,现时有93.7万人追踪,但是最近的内容变得诡异而且儿童不宜,网民提醒家长小心这类奇怪AI片,不要随便让小朋友观看。网民发布贴文后不久,该AI影片帐号便更改名称为“meowflix1234”。而根据帐号历史,这用户已经五度更改名称。

该帐号最近发布的影片越来越奇怪,有暴力、性感、报仇等情节,例如孕妇背著丈夫出轨,之后又生下了与医生的宝宝,剧情夸张、荒谬又非常成人向。其他影片也有不少儿童不宜的情节,例如丈夫与护士出轨、怀孕女性被暴力对待、婴儿跳出飞机等。

+1

影片使用儿童向Hashtag 传播速度惊人

影片会用一些容易接触到儿童观众的Hashtag,如“#kids”、“#cute”、“#anime”、“#babygirls”。影片内容令人联想起几年前广泛传播的“Elsagate”影片。

帐号置顶的影片是在2025年2月发布,到现时已累积569万赞好、426万次分享次数,传播速度相当惊人。最近发布的影片都有1万多至4万赞好,亦有不少留言和分享次数,情况令人担扰。

甚么是Elsagate?

“Elsagate”是几年前YouTube出现的一个现象。当时有很多影片都会用《魔雪奇缘》、《蜘蛛侠》、《佩佩猪》,以及其他受儿童喜欢的角色做封面。这些影片的有真人拍摄,亦有卡通风格,影片颜色鲜艳,内容都是以暴力、性暗示、离谱情节为主。

这些影片刻意用受儿童欢迎的角色、误导人的标题,以及可爱风格来吸引儿童观众。后来演算法更是经常推送这些影片,令很多小朋友都无意中看到这些不当内容,影响他们的心智发展。

后来YouTube推出专为儿童设计的平台“YouTube Kids”,透过自动筛选、人工审查和家长设定来过滤不当内容。

AI技术发展迅速 极易生成大量动画

随著AI技术发展迅速,有心人要制造这些影片变得更容易,只要输入指令,AI就可以自动生成大量动画,令这问题再次浮出水面,只是由卡通角色变成猫或者其他动物和虚构人物,但桥段和套路仍然一样,都是包装成可爱的卡通风格影片,实际上却混入成人情节。

4招保障孩子安全上网

1.避免开自动播放,尽量与孩子一起看

2.偶尔检查孩子使用的程式中“推荐内容”出现的影片

3.使用YouTube Kids或者有家长控制功能的程式

4. 见到可疑的AI角色内容,直接向平台检举