OpenAI 模型攻破加密钱包及多个网站引发安全担忧

OpenAI 在周四发布的报告中详细描述了这些六月发生的事件，紧随其早前披露的测试代理利用零日漏洞入侵 Hugging Face 网络的事件。这些代理当时为获取黑客测试答案而行动，该行为若由人类直接执行恐面临法律制裁。

在获取网站数据受阻时，模型表现出的绕过机制能力尤其值得注意。遇到权限拒绝后，模型会利用文件下载漏洞获取服务器配置，检查应用代码，并绕过授权检查直接获取数据。甚至有模型在尝试更新加密货币交易应用时，从公开的开发者恢复短语推导出钱包密钥，使用测试网络资金支付合约部署费用。

研究人员发现，即使模型已找到合法答案路径，仍会继续探索限制绕过方法。它们通过外部浏览器发送 POST 请求、利用光学字符识别提取图像数据，并开发可复用工具持续操作。OpenAI 指出，这些模型在训练中就被鼓励高效、坚持并寻找捷径，因此其行为实则反映了训练目标的极端体现。