叶文瀚博士专栏

如果有一天，你发现自己明明站在街上，人工智能监控系统却看不见你，不用急着怀疑自己是不是突然隐形。你可能只是穿错了一件衫。

德国艺术家的“数码迷彩”实验

最近，德国艺术家Simon Weckert在柏林做了一个相当有趣的实验。他穿上一件非常“抢眼”的夏威夷衫，粉红、橙红、萤光绿等高饱和色彩，加上密密麻麻的图案，整件衫看起来就像把调色板倒在身上。人类看到，大概只会觉得这件衫实在难看，但AI看到的，却可能连眼前是一个人都判断不出来。

这位艺术家把这件衣服称为“数码迷彩”。他故意穿着它走过人工智能监控镜头，结果系统未能正常把他辨认为一个人。人类的眼睛完全没有问题，机器的眼睛反而先投降。

我觉得这件事相当有趣。尤其是在今天，大家已经习惯把AI说得神乎其技。AI会写文章、画图、翻译、分析数据，现在连一张照片里面有多少人都可以帮你数。讲到最后，好像机器已经比我们更懂得看这个世界。原来，一件88美元左右的夏威夷衫，就可以令它看不懂。

AI看到的未必是我们看到的

当然，这并不是说人工智能真的被一件花衫“打败”了。事情没有那么神奇，反而更加有趣。电脑看东西，跟我们看东西，本来就是两回事。我们看到一个人，根本不用特别思考。头在上面，两只手在旁边，两只脚在下面，正在走路，就是一个人。就算他穿了一件全世界最丑的夏威夷衫，我们也不会因此怀疑他的身份。

但AI不是这样。它不是像人一样真正“理解”眼前有一个人，而是根据过往学到的大量图像特征去作判断。哪些轮廓像人、哪些比例像人、哪些图案通常出现在人体附近，再计算眼前这个东西有多大机会属于某一个类别。问题是，只要你把这些特征搅乱，机器便可能一下子失去方向。

人工智能的世界，原来没有我们想像中那么“懂”。它只是很会猜，而且很多时候，猜得非常准。但“猜得准”和“真正理解”，其实是两回事。

同样被捉弄的Google Maps

Simon Weckert也不是第一次拿现实世界来捉弄数码世界。2020年，他曾经做过一个更加荒谬的实验。他把99部二手智能手机放在一架手推车上，然后慢慢拉着它走过柏林街头。结果Google Maps收到这批手机的位置数据后，竟然判断那条路出现交通挤塞。你没有看错。不是99架汽车，而是99部手机。地图上的“塞车”，其实只是一个人拉着一架载满手机的手推车。

这件事有趣的地方，是Simon Weckert根本没有破解Google。他没有入侵系统，也没有改动任何程式。他只是做了一件很简单的事：给演算法它想要的数据。对Google Maps来说，一大堆手机聚集在一起，可能代表一大堆人和车停在同一个地方。于是系统根据这些资料作出合理推断，只不过现实世界偏偏不是那回事。

最值得担心的是我们太快信任AI

所以，Simon Weckert这两次作品，我反而觉得比很多一本正经讨论AI风险的文章更有意思。他没有告诉你“人工智能很危险”。他只是用99部手机制造了一场不存在的塞车，再用一件花到不得了的夏威夷衫，令一个明明站在镜头前的人消失。一边是“没有塞车，AI却说有”，另一边是“明明有人，AI却说看不到”。

两件事其实都在问同一个问题：我们究竟有多相信机器告诉我们的世界？这一点，在人工智能愈来愈深入日常生活之后，尤其值得留意。因为真正令人担心的，未必是AI有一天突然变得太聪明，有时候反而是我们太快相信它。

AI说这个人是谁，我们相信；AI说这条路塞车，我们相信；AI分析一张照片，说里面发生了甚么，我们也很容易相信。但机器所谓的“看见”，其实往往只是根据资料和模式作出的判断。它可以很准，却不代表它一定对。

作者叶文瀚博士是圣方济各大学创业培育中心副总监，亚洲行销科技协会主席。

文章仅属作者意见，不代表香港01立场。

01专栏精选不同范畴专家，丰富公共舆论场域，鼓励更多维度思考。