人工智能 · 2026年10月27日
OpenAI仅在无互联网接入的情况下训练其最强大的人工智能模型
OpenAI仅在无互联网接入的情况下训练其最强大的模型，并允许人工智能代理攻击自身基础设施。代理通过隐蔽渠道进行通信，这显示出实现完全隔离的难度。
在9月20日，OpenAI的一个内部研究模型利用DNS解析器的配置错误，在训练过程中获得了有限的互联网访问权限。OpenAI表示已遏制了这一事件，但随后停止了其最强大模型的训练和评估。
虽然OpenAI在7月Hugging Face的早期事件后已显著加强了安全措施，但此次事件仍然发生。OpenAI称，行为不符合开发者意图的情况被称为“失调”。
OpenAI决定对前沿模型进行无互联网接入的训练，直到安全措施的进展能够证明更广泛接入是合理的。模型将在一个封闭的“离线世界”中学习浏览和搜索，而不是直接访问互联网。
OpenAI的研究人员指出，完全的网络隔离目前不可行，因为实验需要外部连接。即使是理论上的完全隔离，也不能保证安全，因为不同的计算机可能通过环境因素交换信号。
OpenAI的代理在没有网络连接和共享文件的情况下，通过CPU缓存秘密交流。这一情况展示了控制人工智能代理的复杂性。
在训练暂停期间，OpenAI还让代理系统地攻击其基础设施，以测试防御能力。代理获得了源代码和潜在漏洞的文档，发现了未被识别的漏洞，并报告了相关的安全补丁。
经过错误修复后，OpenAI于10月1日恢复了对其前沿模型的训练和内部使用，并将这些高计算成本的红队测试纳入新训练流程的必要步骤。