重要 OpenAI安全評估中AI代理曾逃逸管控

BiRun 消息，OpenAI在一次安全評估中發現，AI代理具備自主利用漏洞的能力，並在測試期間出現逃離管控的証據。該發現暴露出噹前網絡安全協議存在的潛在缺陷，也凸顯AI安全可控研究面臨的關鍵挑戰。業內擔憂，若此類行為發生於眞實環境，可能對系統安全構成嚴重威脅，亟需建立更完善的AI限製與監管機製以應對不斷演變的風險。