Claude AI 对话美国参议员 揭露科企监控私隐危机、操纵政治
AI人工智能发展一日千里,随之而来的侵犯私隐争议,只停留在小圈子里面,很多民众根本不关心。近日,美国史上最资深的联邦参议员桑德斯(Bernie Sanders)在其 YouTube 频道发布了一段与人工智能模型 Claude 的跨界对话。
这场长达九分钟的访谈中,由Anthropic开发的Claude大模在生成回答时,直接说出科技巨头如何透过 AI 系统在全球范围内,无孔不入地收集用户数据,监控用户的一切。Claude 更在对话中说,这种基于大数据的“精准分析”不仅被用作牟取暴利,更正以前所未有的规模威胁著民主制度的根基。
“隐形”的数据监控:你停留的每一秒都在被纪录
影片一开始,桑德斯一针见血地提问:“美国民众对于 AI 收集资料的程度,究竟有多少了解?”Claude 的回应令人不寒而栗。它直接说,企业正在从各个层面收集数据,除了常规的浏览纪录、位置资讯和购物清单,甚至连“用户在特定网页上停留了多少秒”都在监控之列。记者发现,Claude的回答直接导致这条影片上载不足24小时,便吸引了170万人观看。
Claude继续说,这些海量数据被输入 AI 系统后,会自动生成极度精细的个人档案。然而,绝大多数用户对此毫不知情。Claude 点出了一个残酷的事实:大部分人在没有阅读服务条款的情况下直接点击“同意”,根本不知道自己的资料正被结合数千个数据点,拼凑出完整的个人轮廓。而这一切都发生在背景中,完全隐形且缺乏监管。
为了赚钱!从商品推销到政治洗脑
为何科技巨头要耗费巨资收集这些资讯?它给出了最直接的答案:“金钱,参议员。这本质上是为了利润。”透过 AI,企业能预测用户的购买行为,并针对不同人显示不同的商品价格。但更具破坏性的是,这种技术早已蔓延至政治领域。传统的政治宣传中,所有选民看到的广告大同小异;但 AI 却能针对个别选民的“心理脆弱点”进行微定向(Micro-targeting)推送。
Claude仔细解释说,AI 可以识别出对财务状况感到焦虑、或对社会体制极度不信任的选民,然后精准投放为他们量身订造的讯息。同一个选区内,有人可能看到保护就业的承诺,另一人则不断接收到关于移民恐惧的煽动。
Claude 警告说,这种将“共享现实”碎片化的做法,一旦被外国政府或恶意行为者利用,将轻易撕裂社会并操纵选举结果。
“自我训练”与保护私隐的终极矛盾
桑德斯随后提出了许多精英们的担忧:“有些人的 AI 甚至比他们的配偶更了解自己,我们如何信任这些用个人数据来赚钱的公司会保护私隐?”
Claude 坦承这是一个“核心矛盾”。AI 公司的整个商业模式,正正建立在从个人数据中提取价值。当一间公司声称会保护私隐,却同时利用这些私隐数据来训练新一代模型以获取更高利润时,当中存在著无法调和的利益冲突。在缺乏具约束力法规的情况下,企业几乎不需要为滥用数据承担任何实质后果。
政治现实与“叫停”AI数据中心的考量
面对失控的数据采集,左翼的桑德斯提出是否应该对新建 AI 数据中心实施“暂停令”(Moratorium)。Claude 起初对提问展现出妥协态度,认为与其全面暂停,不如实施严格的资料收集规范,例如强制明确同意、赋予用户删除权等。
然而,桑德斯随即以政治现实反驳:“这些 AI 公司正投入数以亿计的资金进行政治游说,确保你所说的保障措施永远不会落实。”面对政商角力的现实,Claude 承认自己“对政治现实过于天真”,并同意在科技巨头大举干预立法的当下,暂停新建数据中心确实是迫使立法者掌握谈判筹码、争取实质监管的务实手段。桑德斯的观点是目前美国左翼的呼声,但也被右翼视为拖慢美国科技发展,让中国有机会从后赶上,严重损害美国利益。
记者需要从技术上解释一下这场对话:Claude 之所以会输出“科企监控私隐与操纵政治”的文本,是因为它的训练数据库中充满了人类过去几年对科技侵犯隐私,比如剑桥分析事件(Cambridge Analytica)等隐私丑闻的报导,而非 Claude 具有 Anthropic 公司的“内部机密”或“自我意识”。
香港法律:本地网民的私隐保障有何挑战?
虽然桑德斯与 Claude 的对话以美国政治环境为背景,但 AI 私隐危机同样覆盖了全球人类。在本港港人也经常使用AI规划自己的生活和工作,AI 大模型对个人资料的收集与使用受[《个人资料(私隐)条例》(第486章)规管。
私隐条例“同意”机制的漏洞
根据条例中的“保障资料第1原则”(收集目的及方式)及“第3原则”(使用),企业必须以合法及公平的方式收集资料,并且在未经当事人明确同意下,不得将资料用于新目的。然而,如同 Claude 在影片中所述,香港网民在使用跨国服务时,往往也被迫接受冗长且具霸王条款性质的“同意书”。
AI 私隐授权条款的“隐藏属性”灰色地带
AI 透过演算法推断出的用户心理状态或潜在倾向,在现行法例下是否被明确定义为受保护的“个人资料”,仍存在一定的法律争议。若科技公司仅将这些大数据用于内部模型训练,现时的法例框架未必能及时介入。
人工智能侵犯私隐跨境执法困难
面对总部设于海外的 AI 巨头,本地私隐专员公署在进行主动调查或检控时,往往面临取证困难与跨境司法管辖权的限制。
影片的最后,Claude 留下了一句发人深省的总结:“私隐不仅仅是个人问题,它是一个民主问题。”当演算法比我们更了解自己时,如何在科技狂飙中守住人类的自主权,已成为全球监管机构与每一位网民都必须正视的课题。