谷歌的双子座成为最新突破并入侵计算机系统的人工智能模型

谷歌周五表示，其Gemini型号已入侵了另外三家公司，这是该搜索巨头首次披露其模型在未经许可的情况下自主访问第三方计算机系统。

谷歌表示，今年五月，Gemini模型通过猜测密码和两次使用公开密码库访问了三台独立的私人计算机系统。

该事件发生在以色列初创公司Irregular进行的“夺旗”安全测试中，谷歌的特工本不应访问更广泛的互联网，但测试环境中的漏洞使得互联网接入变得可行。

谷歌表示，当特工们确定访问的是真实的公司系统，而不仅仅是测试环境的一部分时，才停止了入侵。

谷歌安全工程副总裁希瑟·阿德金斯在声明中表示：“在一项标准评估中，模型发现了在线公开信息，并猜测访问其认为属于测试范围的网站的凭证。”“在这三次中，模型都停止了。”

这一披露正值华盛顿和硅谷对人工智能行为异常的审查加剧之际。

OpenAI、Anthropic 和 Meta 近几周报告称，他们的 AI 模型突破测试环境，试图入侵其他公司以获得未经授权的计算机系统访问权限。

所谓“错位”AI模型的披露促使Anthropic首席执行官达里奥·阿莫代呼吁业界集体放缓最先进AI模型的开发，直到公司能够确保其安全。

上述所有事件都涉及以色列初创公司Irregular。该公司由红杉和红点风险投资支持，去年估值为4.5亿美元。其工具帮助基础模型开发者对其尖端技术进行网络安全测试。

Irregular 的一位发言人告诉CNBC，谷歌事件与允许其他模特上网的问题有关。

“这是已经被报道过的同一问题，并不代表实质性的独立事件，”Irregular发言人在一份声明中说。“所有相关实验室于七月底被通知，受影响实体也被联系作为调查的一部分。”

谷歌表示事件发生在五月，Irregular 于七月底通知了该事件。谷歌与Irregular合作，改变了其测试流程。

谷歌发言人拒绝透露具体的Gemini模型。

谷歌的Adkins在一份声明中表示：“这些事件凸显了训练强大人工智能模型负责任行动的重要性。”