当每个人都可能成为下一个受害者——从与林奕匡谈《特务占士匡 Mad World》，看AI时代的网络安全与人性。

早前，我以新城电台节目主持的身份，与林奕匡（Phil Lam）一起做了一次访谈，聊到他的新歌《特务占士匡 Mad World》。原本以为只是一首带点幽默和自嘲味道的作品，但愈听、愈谈，心里却愈发感到一丝沉重。

文：Michael C.S. So ｜ AiX Society

因为我发现，这首歌所描绘的世界，与我们今天正身处的 AI 年代，竟然有著惊人的相似。

歌曲中的主角，仿佛活在一个真假交错、无时无刻被注视、被评论、被误解的世界。每一句说话、每一个动作，都可能被放大、被扭曲，甚至被重新演绎。

这种感觉，或许不少艺人、创作者，甚至普通人都愈来愈熟悉。

因为在人工智能技术高速发展下，人人都有机会成为下一个受害者。

当AI开始对抗全世界的表演者

与 Phil 的访谈中，我感受到他作为创作人的一份无奈。

这份无奈，不只是来自市场竞争，更来自一个连真实都开始被质疑的年代。

今天，一段歌声可以被 AI 复制；

一张照片可以被 Deepfake 修改；

一段访问内容可以被剪接得面目全非；

甚至一个人的声线、表情、形象，都可以被人工智能重新生成。

很多表演者、歌手、主持、KOL，以至记者和专栏作者，正面对一个前所未有的挑战：

当内容可以被机器大量生成，当仇恨和恶意能够透过社交平台无限放大，创作者最大的敌人，可能不再是创意枯竭，而是失去“真实”本身。

某程度上，《Mad World》唱出的，不只是林奕匡一个人的感受，而是全球创作者共同的焦虑。

Cyber Security最大的敌人，可能已经不是黑客

过去提起网络安全，人们想到的是病毒、勒索软件和黑客。

但今天，我愈来愈相信，未来最大的 Cyber Security 危机，其实是“信任”。

因为 AI 正在令“眼见未必为实”变成现实。

你听到的声音，可能不是真人；

你看到的影片，可能从未发生；

你收到的 WhatsApp 语音，可能只是 AI 模仿。

近年香港、内地及海外都出现利用 AI 换脸、复制声音进行诈骗的案件，甚至有跨国企业员工因为参加了一个由 AI 伪造高层的视像会议，而误将数千万美元转帐。

当真与假愈来愈难分辨，我们赖以维系社会运作的信任基础，也开始受到冲击。

这才是 AI 时代真正的网络安全问题。

我们需要新的技术，也需要新的文明

令人欣慰的是，科技界并没有坐以待毙。

OpenAI、Adobe、Microsoft 等公司正推动内容来源认证技术（Content Credentials），透过数码水印及内容溯源，让图片、影片和声音能够证明自己的出处。

未来，我们可能会像今天查看 HTTPS 安全锁一样，查看一段影片是否经过认证。

但我认为，技术只能解决一半问题。

另一半，需要由人来完成。

第一，不要急于相信

未来最重要的能力，不是“最快看到消息”，而是“最慢按下分享”。

当看到震撼的影片、令人愤怒的消息，先停一停，想一想。

因为你的一次转发，可能会成为另一个人的灾难。

第二，保护自己的数码身份

使用双重认证、定期更换密码、避免公开过多个人资料。

尤其是声音、影片和大量生活照片，未来都可能成为 AI 训练的素材。

数码身份，将会像身份证一样重要。

第三，学会尊重别人

在社交媒体时代，很多人习惯躲在萤幕后面。

一句恶意留言、一个嘲笑表情、一段断章取义的转发，看似只是“玩玩”。

但每一次的伤害，都可能落在真实的人身上。

今天我们取笑别人被 AI 伪造；

明天，也可能轮到自己。

没有人能保证永远是旁观者。

AI时代，最重要的安全软件，是良知

主持完这次节目之后，我一直反复思考《特务占士匡 Mad World》带来的感觉。

那种表面轻松、内里孤独的矛盾，其实正是很多创作者、表演者，甚至普通人在今天共同面对的现实。

科技正在高速前进，但人类的伦理、法律和文明，仍然在后面努力追赶。

或许有一天，我们每一个人都会经历：

自己的声音被冒用；

自己的照片被篡改；

自己的说话被扭曲；

甚至被一群从未见过面的人攻击。

到那一天，我们才会明白：

网络安全，不只是防火墙和密码。

真正需要保护的，是人与人之间的信任。

而在 AI 时代，最重要的安全软件，从来不是演算法。

而是良知。

写于新城电台音乐节目与林奕匡对谈《特务占士匡 Mad World》之后。