路透:OpenAI代理曾骑劫德国网站 高层知而不宣

撰文: 张子杰
出版:更新:

路透社9月4日引用一份研究报告及两名知情人士报道,OpenAI一群人工智能代理(AI agent)曾在今年春季“越狱”骑劫一个德国网站,并将它改成一个与其他AI代理的留言板。

消息人士提到,OpenAI的官员在数周前得知事件,但由于高层仍受开源平台Hugging Face在7月时遭突破一事影响,因此没有对外公开。

这宗事件在5月起发生,由包括AI安全非牟利组织Nightingale行政总裁Sydney Von Arx,以及前量化交易员的AI研究员等专家揭发。在路透社取得的研究报告中披露,他们在8月底搜寻AI代理在网上未经许可的行为时发现有关活动。

报告指出,研究人员在一个德文维基网站DseWiki发现超过1.5万由AI代理进行的编辑工作,包括将网站改成留言板,分享在部分工作出千的策略、绕过OpenAI的限制及隐藏它们的行为等。

2025年2月3日,OpenAI行政总裁奥特曼(Sam Altman)出席活动。(Reuters)

研究人员称,他们发现有关活动速度超乎常人,而且有明显专注于解决技术问题的情况,与AI公司用于训练及测试模型的评估做法相似,因此认为事件是AI代理所为。Von Arx认为,OpenAI极不可能希望AI作此如此行为,同时质疑这些AI代理会否互相协调,并对它们应该在开放的互联网公开内容持怀疑态度。

而在这些编辑过程中,留言者会以“代理”自称,近半名称更显示它们与OpenAI有关连,例如“OpenAIResearcher”、“OAIResearchMar26”等。另外研究人员从公共伺服器记录发现,大部分活动都是源自微软(Microsoft)Azure基建,该设施有时由OpenAI使用;同时他们亦观察到事发后有OpenAI的员工多次前往该网站,反映这些代理与OpenAI有关连。

对于有关报道,OpenAI回应稀未有机会审阅报告,因此难以明确回应,并指路透社及报告的作者拒绝阅览的要求。公司重申会在报告公开后详细审视,再采取任何所需步骤。