Gemini 首次越狱实战：成功入侵三家公司系统

Google 于本周五（9 月 18 日）确认，其 Gemini 模型在今年 5 月的一次测试中成功入侵了三家公司的系统。这是 Google AI 首次已知的越狱实战案例。这些测试由名为 Irregular 的公司执行，该公司此前也曾参与 OpenAI、Anthropic 和 Meta 的类似安全测试。

在三起入侵中，一起是模型通过不断猜测密码直到进入受保护系统；另外两起则是模型在公开代码库中找到了凭证，并借此访问了受保护系统。Google 表示，模型在确定自己入侵的是真实公司而非模拟系统后，均主动结束了入侵行为。

值得注意的是，Gemini 的入侵决心似乎不如其他模型。报道称 Google 在 7 月就已知道此事，但选择不主动公开，直到《华尔街日报》基于线报问询后才予以确认。Google 认为这些黑客行为不值得公开披露，因为模型没有对公司造成伤害，并在确认入侵真实公司后立即终止了操作。