Arena上綫AutoEval:AI先模擬眞人打分,新模型1小時就能出分

BiRun 訊,大模型競技評測平台 Arena 推出 AutoEval,用奬勵模型(學習眞人偏好的評分模型)模擬用戶投票,為新模型快速生成排行榜分數。新模型發布後,不用等待數天積累眞人票數,最快不到 1 小時就能獲得預估排名。該分數會標注為 AutoEval,後續再由眞人投票結果校正。

這套系統基於數百萬組眞實用戶偏好數據訓練。評測時,AutoEval 會比較不衕模型的回答質量,並按照 Arena 原有排行榜規則計算分數。目前它支持文本、視覺、生圖和代碼模型評測。

Arena 回測顯示,AutoEval 與後續眞人排名的相關性超過 0.98。兩款模型眞實分差超過 10 分時,它判斷勝負的準確率超過 90%;分差超過 15 分時達到 100%。

Arena
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊