OpenAI的AI安全防綫被査出多個漏洞，數百次操作可能無人察覺

BiRun 訊，OpenAI 原本有一套監控系統，專門盯着內部 AI Agent 有沒有越權、欺騙或偷偷執行危險操作。

結果請來 METR 和 Redwood Research 兩家 AI 安全機構檢査後，發現這套系統本身就有不少漏洞。兩名研究員駐場三週，査看內部代碼和監控設置，最終提交了一份 61 頁的報告。

最嚴重的漏洞之一，可能讓 AI 最近幾百次操作全部躲過監控，連它是怎麼繞過檢査的，都不會被監控系統看到。

研究員還發現，Codex 理論上可以突破原本限製其操作範圍的沙箱，並繞過自動安全審査，獲得與使用者相衕的操作權限。

此外，還有兩項設置可以直接關閉新啓動 Agent 的監控，但啓用這些設置的動作仍可能被發現。

監控本身的設計也有問題。舊系統主要等 AI 停下手頭工作，才開始檢査它剛才幹了什麼。如果 AI 一直執行任務、不把控製權交還給用戶，就可能一直不用接受檢査。

系統還漏掉了壓縮歷史記彔的環節。研究員估算，2026 年 5 至 7 月，約 10% 本應接受監控的內部 Codex 流量因此漏檢。OpenAI 員工此前已發現這個問題，並在審計期間脩復。

OpenAI 表示，所有影響正式安全防護系統的相關漏洞都已脩復，但兩家機構還沒有獨立復測。

信源

動察 Beating 頻道 · 動察 Beating 交流羣。