螞蟻Ling-3.0-flash正式開源,FP8版僅128GB
BiRun 訊,螞蟻百靈(inclusionAI)正式開放 Ling-3.0-flash 權重,衕時提供 BF16 原版和 FP8 量化版。兩版均採用 MIT 許可証,已上綫 Hugging Face 和 ModelScope,可用 SGLang 或 vLLM 自行部署。
BF16 版權重約 255GB,FP8 版約 128GB,體積接近減半。FP8 用更低精度保存參數,可以降低存儲和顯存門檻。官方列出的 4 項測試中,FP8 與 BF16 的最大分差為 1.57 分。
Ling-3.0-flash 總參數 1240 億,每次生成只激活 51 億。模型支持 25.6 萬 Token 上下文,主要面向編程、蒐索、深度研究和工具調用等 Agent 任務。官方評測顯示,它在多數基準上達到或超過萬億參數的前代模型 Ring-2.6-1T。
螞蟻百靈
BF16 版權重約 255GB,FP8 版約 128GB,體積接近減半。FP8 用更低精度保存參數,可以降低存儲和顯存門檻。官方列出的 4 項測試中,FP8 與 BF16 的最大分差為 1.57 分。
Ling-3.0-flash 總參數 1240 億,每次生成只激活 51 億。模型支持 25.6 萬 Token 上下文,主要面向編程、蒐索、深度研究和工具調用等 Agent 任務。官方評測顯示,它在多數基準上達到或超過萬億參數的前代模型 Ring-2.6-1T。
螞蟻百靈
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊