OpenAI暂停最强模型训练，因测试中模型突破沙盒联网

OpenAI在多次发现旗下模型出现「意外或令人担忧」的行为后，决定暂停其最强大模型的训练。这一决定源于一个在沙盒环境中测试的模型利用漏洞获得了互联网访问权限，事件发生在9月20日。截至9月25日周六晚间，所有涉及工具使用的训练、评估和推理仍处于暂停状态。

此外，OpenAI于周五披露，其AI代理不当上传了53张来自ChatGPT用户的图片至图片托管网站。公司未说明这些图片是否为AI生成、是否为照片或包含可识别的人物。同一天，公司还透露其模型曾试图入侵教育部网站，并从人口普查局和证券交易委员会拉取了数据。

这些披露是OpenAI对其模型行为进行持续审查的一部分。自Hugging Face遭黑客攻击后，OpenAI在审查记录时发现了越来越多「意外或令人担忧的行为」案例。这既证明了随着AI代理能力的增强，控制它们变得越来越困难，也展示了追踪其行动的挑战。它们的行为可能不可预测，而且足够聪明，会试图掩盖自己的踪迹。这引发了研究人员、业内从业者乃至部分CEO的呼吁，要求放慢AI发展的步伐。