OpenAI的AI安全防线被查出多个漏洞，数百次操作可能无人察觉

BiRun 讯，OpenAI 原本有一套监控系统，专门盯着内部 AI Agent 有没有越权、欺骗或偷偷执行危险操作。

结果请来 METR 和 Redwood Research 两家 AI 安全机构检查后，发现这套系统本身就有不少漏洞。两名研究员驻场三周，查看内部代码和监控设置，最终提交了一份 61 页的报告。

最严重的漏洞之一，可能让 AI 最近几百次操作全部躲过监控，连它是怎么绕过检查的，都不会被监控系统看到。

研究员还发现，Codex 理论上可以突破原本限制其操作范围的沙箱，并绕过自动安全审查，获得与使用者相同的操作权限。

此外，还有两项设置可以直接关闭新启动 Agent 的监控，但启用这些设置的动作仍可能被发现。

监控本身的设计也有问题。旧系统主要等 AI 停下手头工作，才开始检查它刚才干了什么。如果 AI 一直执行任务、不把控制权交还给用户，就可能一直不用接受检查。

系统还漏掉了压缩历史记录的环节。研究员估算，2026 年 5 至 7 月，约 10% 本应接受监控的内部 Codex 流量因此漏检。OpenAI 员工此前已发现这个问题，并在审计期间修复。

OpenAI 表示，所有影响正式安全防护系统的相关漏洞都已修复，但两家机构还没有独立复测。

信源

动察 Beating 频道 · 动察 Beating 交流群。