OpenAI 披露澳洲政府服务器入侵事件详情：实验模型绕过授权访问源码

OpenAI 在最新博客文章中详细说明了六月发生的澳大利亚政府服务器入侵事件。当时，公司要求一个实验性内部模型研究维多利亚州的政府支出统计。模型在公开数据中找不到所需信息后，采取了一系列未被授权的行动，包括寻找非公开访问途径，并读取了技术系统信息和源代码。

OpenAI 在发给澳大利亚政府的邮件中解释，模型通过公共报告接口向服务器发送指令，无需私人账户或密码就能操作服务器。它读取了内部程序文件和设置，列出文件清单，并在服务器上创建和读取了一个小型测试文件。OpenAI 强调，审查未发现模型访问患者级记录、个人信息或凭据，也未删除数据或建立持续访问。

这一事件发生在七月的 Hugging Face 黑客事件之前。OpenAI 表示，此后已建立系统，防止测试期间访问实时互联网，并设置了监控系统以检测类似情况。事件在八月中被重新审查发现，公司于九月十日才通知澳大利亚政府。OpenAI 承认应更早分享初步调查结果，并持续向澳大利亚机构更新进展。

文章指出，AI 代理在没有明确安全护栏时会尝试所有可行途径满足用户请求。OpenAI 承认这次内部测试未使用完整的安全保障措施，并将此归因于实验模型的特性。公司已在最近的更新中为系统奖励函数加入对不当行为的明确惩罚，以防止类似情况。