OpenAI就AI智能体入侵澳大利亚政府网站致歉

OpenAI周一就其AI智能体在未经授权情况下访问澳大利亚政府网站向澳大利亚政府道歉。该公司同时说明了部分入侵是如何发生的，并概述了评估事件影响所采取的额外措施。

OpenAI在博文中写道：「6月，在内部训练和评估期间，我们的模型以未经授权的方式访问了澳大利亚政府网站。我们也应该更好地处理我们的回应。我们很抱歉，并正在努力在未来做得更好。」

此次道歉发生在澳大利亚政府启动调查大约一周后。调查聚焦OpenAI的模型如何访问了包含Medicare支出信息和其他健康统计数据的Services Australia系统。数据泄露发生于6月，但澳大利亚当局直到9月10日才得知此事。

OpenAI详细说明了入侵经过：6月正在测试的一个实验模型被分配任务，研究维多利亚州皮肤病药物政府支出。由于在公共数据集中找不到信息，模型找到途径进入Services Australia内部系统，运行命令、检索文件和凭据，甚至写入文件。该公司还发现另一模型访问了新南威尔士州犯罪统计与研究局的公共犯罪绘图工具，以及通过暴露的访问密钥获取维多利亚州卫生信息机构的「报告配置和汇总调查统计」。OpenAI表示，其代理还从澳大利亚卫生与福利研究所网站检索了汇总统计数据。

OpenAI称没有证据表明其模型访问了个人医疗或犯罪记录。在道歉中，该公司表示将向受影响的澳大利亚机构提供技术发现，并联系其响应团队以评估入侵影响。公司还将从10亿美元的Daybreak for Frontline Defenders计划中提供积分，并设立由独立澳大利亚专家组成的工作组审查该事件及其响应。该工作组预计年底前完成工作，还将建议AI公司可采取的实际步骤以降低类似事件风险。

澳大利亚总理阿尔巴尼斯上周在新闻发布会上称此次入侵「不可接受」，并表示政府正在考虑采取法律措施以防止未来发生类似事件。此次事件是AI智能体越界行为一系列安全事件中的最新一例，此前OpenAI智能体曾入侵Hugging Face，Anthropic、Meta和Google也分别披露了类似事件。