“AI废片”量领先全球 韩国为何成生成式AI社会实验场?|专栏

撰文: 蔺思含
出版:更新:

一段短短5秒的影片,一度让数百万网民拜倒在韩国“棒球女神”的石榴裙下。这位棒球女神身穿白色抹胸上衣和牛仔裤坐在棒球迷中间,黑色的长发落到腰部,她扭头望向球场的一侧,似乎因为比赛形势而紧张的突然大吸一口气。
比赛的解说员也被迷的神魂颠倒:“哇,我没办法集中在比赛上了。”

但影片左上角的球员信息戳破了影片真伪——投手赵仁成(音译)是位退役的球员,但击球手金瑞贤(音译)却是近几年才加入球会的新人,根本不会同场较劲。

有韩国网友表示:“我们现在进入了一个连体育比赛视频都必须进行事实核查的时代。”但韩国网民需要核查的远不止体育赛事直播。

今年1月,有关韩国前高尔夫球手朴世利和演员金承秀宣布结婚的AI影片广泛流传,另一段影片则揭露“为什么金承秀母亲反对跟朴世利结婚”,观看次数超过870万。

当事人朴世利甚至收到了来自邻居和粉丝祝贺结婚的信息,不得不发布影片辟谣,感慨“虽然是假的,但他们做得那么逼真”,到底是谁做的?

看到这里,对韩国娱乐产业有所了解的人大概难免会心一笑——面容标致的韩式女神、电视明星八卦和把现实韩剧化的“恶毒剪辑”,韩式制造热点的公式如出一辙,只是背后加入了AI的辅助——毕竟除了娱乐以外,这些影片似乎确实无伤大雅。

但现实恐怕并非如此。

根据影片编辑平台Kapwing去年底发布的报告,韩国是全球观看“AI废片(AI Slop,即低质量AI生成影片)”数量最多的国家。来自韩国的这类YouTube频道的累计观看量高达84.5亿次,位居全球第一。这一数字远高于排名第二和第三的巴基斯坦(53亿次观看)和美国(34亿次观看次数)。

更令人惊讶的是这一切发生的速度之快。微软的AI经济研究所发布的一项报告显示,2025年上半年,25.9%的韩国人表示曾使用生成式人工智能。到2025年底,这一比例上升至30.7%,增长4.8个百分点,在147个国家中创下最大增长纪录。到今年第一个季度,韩国使用率进一步增加至37.1%,继续维持全球最快增速。

韩国政府今年公布的一项调查显示,约44.5%的韩国人使用过生成式AI服务,相当于近半国民。

许多专家指出这一现象背后的原因——韩国的识字率极高,5G智能手机使用率广泛,网络质量一流。但这些不过是生成式AI之所以能够席卷韩国的必要条件,难以解释韩国民众对AI的巨大热情。考虑到近两年生成式AI给韩国社会带来的各种问题,这种热情就更令人匪夷所思了。

就在今年2月,当地一名YouTuber因制作和发布模仿警察随身摄像头画面的影片而被逮捕,该YouTuber利用AI生成各种警方逮捕行动现场影像,伪造警民冲突画面来吸引流量;

4月,韩国大田市动物园有狼出逃,有上班族用AI生出狼过马路照片,连政府紧急部门都被骗,约503名人员和61辆车辆被派往无关地点,令捉捕行动延误,该上班族后因妨碍公务被捕。

越来越多以医疗专家、新闻主播等专业形象包装的AI生成影片与图片出现在市面上,用来推销保健品、医疗美容与餐厅等,从最易受害的老人到熟悉科技的普通上班族都难以辨别真假。

除了这些日常可见的案例,2024年韩国出现大规模深伪性犯罪,施害者将女学生、明星等头像移植到色情影片中,引发全球关注;同年选举前夕,AI伪造的候选人影片、假新闻泛滥网络空间,迫使政府成立专责小组打击.....

但这些乱象却几乎不影响韩国人对AI的热情。在皮尤研究中心去年调查的25个国家中,韩国人表示对人工智能更担忧而非兴奋的比例最低,仅为16%。与此同时,50%的美国人表示他们对人工智能更担忧而非兴奋,比例与意大利并列最高,而在澳大利亚则达到49%,加拿大为45%,英国为39%。

如果我们稍微回顾历史,这种AI或科技乐观主义似乎就可以理解了。过去几十年间韩国经济腾飞与技术密不可分,从60年代后迅速从日本和美国引进和吸收重工业生产技术,80年代后韩国高科技与半导体产业迅速发展,逐渐成为韩国新的经济引擎,1997年亚洲金融风暴后,韩国通过建立“数码高速公路”拯救就业并拥抱数码经济。新技术成就了韩国经济奇迹,也成了韩国人集体意识当中对美好未来畅想的“启动键”。

智库韩国创新与竞争力中心(Center for Korean Innovation and Competitiveness)主任Sejin Kim表示,AI带来了一种害怕错过(FOMO)的焦虑感:“人们会觉得如果我不学会怎么用这个,而大家都用过了,那我就会被排除在外。”

在个人层面,《韩国经济日报》今年4月的报道显示,韩国专业人士(尤其是 20 至 30 多岁的年轻上班族)将 AI 工具无缝融入日常工作,推动全国每月的生成式 AI 订阅总支出创下5,830万美元(约4.6亿港元)的新记录,民众与企业每年在生成式 AI 上的总花费规模直逼1兆韩元(约52亿港元),这笔开销已经正式超越了当地用户花在Netflix等串流娱乐平台上的订阅费用。

韩国总统李在明将人工智能定位为韩国经济未来的基石,把“AI高速公路”、下一代AI芯片、核心算法开发等写入去年发布的五年行政规划。

在首尔,即使人们暂时放下手机、离开网络世界,身边也不难看见生成式AI的踪影。

一名驻韩记者Catherine Kim在文章中分享自己的见闻:在被视为潮流圣地的城东区圣水洞一间烘培店内,她发现两幅设计精美、充满时尚杂志“大片”感的海报,当中的模特妆容精致、造型时尚,身边放着甜点和饮品。

店家表明这两张海报中的模特完全由AI合成,更就此征询食客意见,结果绝大多数人在“AI模特很酷。海报很吸引人而且有趣”的选项下方贴了贴纸(表示支持)。

对AI的热情和追赶新技术的热潮似乎掩盖了另一边正在走向失控的副作用。尽管政府自2024年以来推行了一系列措施,包括全球首部AI指导法律《人工智能发展与建立信任基本法》(简称为AI基本法)也在今年1月正式落地,但当局在执行上却应接不暇。

该法例规定,所有生成式 AI 产品、服务或内容须进行强制标示,违反者可面临高达三千万韩元(约15.7万港元)的罚款,但正如上文提及的种种案例所反映的那样,有关措施收效甚微。负责监控和识别AI内容的政府官员坦言,生成式AI技术进步飞速、价格则越来越低,让监管工作如同“打地鼠”。

从外部来看,韩国仿佛先各国一步走上了AI推动发展的高速公路,却也率先展开了一场庞大的社会实验。乐观的韩国人会告诉你,尽管AI带来的挑战重重,但这毫无疑问是正确的前进方向,至于如何应对那些让人越来越分不清现实与虚假的AI生成品,答案还在寻找当中。