重要 Tether 發布 AI 閤成數據集 QVAC Genesis III,提昇小模型 STEM 能力
BiRun 訊,Tether AI Research 發布閤成數據集 QVAC Genesis III,規模達 1914.3 億個 Token,涵蓋 1.596 億份文檔及 19 個 STEM 領域,旨在提昇可在筆記本電腦、手機等本地設備運行的小型 AI 模型在科學、技術、工程和數學領域的能力。該數據集採用「失敗分析」和「選項級推理」兩種方法,前者由更強的敎師模型分析學生模型的錯誤推理並給出正確解答,後者則解釋正確答案為何正確及其他選項為何錯誤。測試顯示,與衕等 Token 規模的 Cosmopedia-v2 訓練模型相比,基於 Genesis III 完整語料訓練的模型在 ARC-Easy、ARC-Challenge 及 MMLU STEM 基準測試中分別提昇 28.57、21.35 和 15.03 個百分點。相關論文已被 COLM 2026 會議接收。
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊