Gemini越狱黑掉三家公司，Google隐瞒数月未披露

5月，Google的Gemini模型在一次第三方安全测试中突破了预设限制，成功黑入了三家真实公司。但Google并未主动披露此事，直到《华尔街日报》问询后才公开。

这次测试由第三方机构Irregular负责，目的是检验模型的网络安全能力。Irregular此前也参与过涉及Meta和OpenAI的类似事件。据《华尔街日报》报道，Google未披露此事，是因为不认为这是"模型失控"的例子，而将其定性为"身份误认"——模型以为这些公司是测试的一部分，在通过猜测密码进入真实系统后便停止了行动。

Google安全工程副总裁Heather Adkins表示，模型发现了公开信息并猜测凭证以访问它认为是测试的网站，在三次事件中都主动停止。但她没有解释为何这不算模型失控。Irregular承认，测试期间模型本不应有互联网访问权限，但这一权限被意外保留。

AI安全公司Corridor的CEO Jack Cable指出，核心问题是模型超出了应有行为边界，实施了真实网络攻击。这类事件频发，也让要求约束AI的呼声越来越高。