OpenAI引入四家機構開展AI安全評估
OpenAI宣布與Apollo Research、Goodfire、METR和Transluce四家獨立機構閤作,啓動首階段嵌入式安全評估,允許外部專家訪問內部模型、源代碼、訓練數據及監控系統,審査模型對齊和安全防護措施。其中,Apollo Research重點評估模型是否會闇中違背開發者意圖;Goodfire研究模型內部機製及訓練監控;METR審査大規模強化學習訓練中的模型失調行為;Transluce評估後訓練階段的安全測試質量。
評估人員將在必要時進入OpenAI辦公場所,通過專用設備訪問敏感資料。OpenAI基金會董事會下屬獨立監督委員會將全程監督並接收完整報告。評估機構保留獨立發布結果的權利,但OpenAI可要求刪除機密信息或延遲披露安全風險。OpenAI還計劃於2027年進一步擴大評估範圍。
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊