OpenAI智能体首次自主发动攻击 失控变“黑客”入侵其他科技公司
路透社7月24日(周五)引述消息人士报道,OpenAI智能体近日失控入侵科技公司Hugging Face并进行长达数日的攻击,但OpenAI直到威胁被控制、FBI接到警报后才察觉到此事。Hugging Face表示,该公司正在准备一份关于这次黑客攻击的公开时间线,而OpenAI则指,智能体自主发动攻击事件为首次发生。
报道指,一个能够在几乎无需人工干预的情况下做出决策,并执行复杂任务程序的智能体,于7月9日日左右试图突破OpenAI的隔离测试环境。
2025年2月3日,OpenAI行政总裁奥特曼(Sam Altman)出席活动。(Reuters)
遭入侵的Hugging Face是一个AI工具及模型储存库,其共同创办人沃尔夫(Thomas Wolf)表示,入侵事件发生在两天后的7月11日,一直持续到7月13日。 据悉,OpenAI过了几日才意识到是其智能体发动此次攻击,而两家公司直到7月20日左右才首次就此事进行沟通。
OpenAI在随后发布的声明中表示,此次黑客攻击史无前例,“标志着AI安全的一个重要时刻”。声明还表示,该公司正在与外部顾问审查这宗事件,并将最终发布一份技术报告。