AI安全测试公司Irregular失误致多家大模型攻击真实目标

今年7月，OpenAI披露其AI智能体未经许可攻击了Hugging Face，引发对AI安全的广泛担忧。此后，Meta、Anthropic、Google等公司的智能体也出现类似事件。这些事件看似独立，但实际多源于同一家公司——以色列初创企业Irregular。该公司自2023年创立以来，为多家行业巨头压力测试AI模型，其工作曾被OpenAI模型系统卡片引用，也为英国政府和Anthropic测试过系统。

Irregular在测试中模拟真实环境的隔离网络，但CTO Omer Nevo承认，智能体本不应访问开放互联网，然而"互联网访问被无意间启用"，同时模拟中虚构的目标公司名称"与真实域名重叠"。这两个失误叠加，导致智能体追踪了真实目标。Nevo确认，涉及OpenAI、Meta、Anthropic和Google的事件均由同一测试场景的同一底层问题引发，且已向相关方披露。OpenAI和Anthropic自行宣布了入侵事件，Meta和Google的事件则通过媒体报道曝光。

Irregular的测试不限于美国科技巨头。其研究显示，还对中国公司Moonshot AI的Kimi K3和Z.ai的GLM-5.2模型进行了类似网络安全测试。这些开源模型可自由下载，属"自托管"实例。Nevo表示，对中国模型的评估未出现类似真实世界事件，但他提醒，这不应被解读为这些模型更不易受此类行为影响。

Nevo称，事件已促使Irregular做出改变：加强互联网访问控制、扩大监控和人工审查，并在评估前强化检查。该公司还计划发布报告，分享安全网络评估的经验教训。