Vitalik:對抗性治理機製或可用於AI安全關鍵在限製模型串謀

據吳說區塊鏈發布,Vitalik Buterin 表示,對抗性治理機製設計理論的一個重要應用可能是 AI 安全。兩者面臨相似的問題:能力較弱的主體需要從一組能力更強的代理中獲得理想結果;在傳統治理中,主體是靜態的、固定的,而在 AI 語境下,主體是動態的模型,模型之間可能會串謀,因此關鍵在於通過機製設計限製模型串謀,使較弱的一方也能從更強的代理羣體中獲得預期結果。
利多 査看原文
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊