Google证实Gemini测试期间“意外上网” 入侵三家公司
Googlw 9月18日证实，旗下人工智能（AI）模型Gemini曾在5月接受AI安全公司Irregular网络安全评估期间，入侵另外三家公司，Google强调AI当时已即时停止活动。
《卫报》引述《华尔街日报》报道，事件源于Irregular以虚假公司设立封闭测试AI模型环境，而且本应没法连上互联网，却非故意地启动上网功能。这些模型连接互联网后，就意外地入侵真实的企业。
报道提到，Irregular在一次测试指示AI模型从一家虚构企业的软件套取资料，以评估Gemini的网络安全能力。不过该家虚构企业的名称与实际的企业“撞名”，在AI模型非故意地连上互联网后，就正确地猜中实际企业服务的密码并入侵。Google指，AI模型发现入侵的网站并非虚构企业后，随即停止运作。
图为一个显示有Gemini标志的手机被摆放在显示Google标志的电脑荧幕前方。（Getty Images）
至于在另外两次测试，AI模型在网上找到另外两家企业存有凭证的位置，于是使用有关凭证进入网站，但这些模型同样发现属实际的企业后停止行动。
Irregular在7月底发现OpenAI入侵Hugging Face后，向Google披露事件。Google回应《卫报》查询时证实入侵一事，但称这些模型未有对实际的企业造成损害，因此公司认为未有需要向外界披露。
2023年9月13日，Hugging Face行政总裁兼创始人德朗格（Clément Delangue）抵达位于国会山，参加“AI洞察论坛”。（Gett Imagesy）
Google安全工程部门副总裁Heather Adkins表示，有关事件反映训练强AI模型负责任行动的重要。