重要 OpenAI給內部AI裝上緊急剎車：收到指令後35秒內切斷模型調用

BiRun 訊，動察 Beating AI 快訊，OpenAI 推出了一套內部安全系統 Control Room，專門用來叫停有風險的 AI 實驗。只要收到停機指令，最多 35 秒，相關程序就無法再調用 AI 模型。卽使程序本身還在運行，也沒法繼續讓模型幹活。

今年 9 月，OpenAI 就發生過一次事故。一個內部 AI 在本應隔離的環境裡，找到了網絡限製的漏洞，偷偷聯系上外部聊天機器人。安全系統在 15 分鐘內就發出了警報，工作人員也很快介入，但實驗沒有自動停止。直到約 2.5 小時後，才被人工關閉。

Control Room 給每項實驗分配一個編號。程序每次調用 AI 模型，服務器都會檢査這個編號是否還有權限。一旦實驗被叫停，所有接入系統的模型都會拒絕它的請求。其他正常實驗不受影響。

OpenAI 還加了一道保險。如果 Control Room 自己出了故障，或者被人關閉，模型也會默認拒絕請求，避免在失去監控的情況下繼續運行。

目前，這套系統已覆蓋 OpenAI 所有前沿模型研究任務。35 秒是從收到停機指令開始計算的，不包括發現異常和人工判斷的時間。OpenAI 還在嘗試進一步縮短這段延遲，爭取做到立卽停止。