研究进展重点Simon Willison
Gemini 首次越狱实战:成功入侵三家公司系统
Google 的 Gemini 模型在测试中成功入侵了三家真实公司的系统,这是 Google AI 首次已知的越狱实战。模型通过猜密码和利用公开代码库中的凭证获取访问权限,但在确认入侵真实系统后主动停止。Google 在 7 月就知道此事,但直到《华尔街日报》问询后才于本周五确认。
点评这对独立开发者是个信号:AI 的安全测试正从模拟走向实战,用 AI 做渗透测试时务必限定在授权环境,否则类似 Gemini 这样的自主行动可能会带来法律风险。