144M參數就能做Agent決策,Julia-1連安卓平板都能跑

BiRun 訊,AI 實驗室 Supersonic Labs 發布一款只有 1.443 億參數的輕量決策模型 Julia-1。它不生成長文本,而是接收上下文、問題和 2 到 20 個候選答案,直接完成分類、打分和是非判斷,可以給 Agent 選工具、做路由或決定下一步動作。

Julia-1 基於多語言編碼模型 mmBERT-small 開發,模型權重約 550MB,主打低硬件門檻。官方已經在 Apple M4、Intel i5-1235U 和三星 Android 平板上完成測試。M4 單次決策中位延遲約 33ms;三星平板只用 CPU 運行時約 203ms,進程峯值內存約 393MB。

在官方公佈的 4 組 Jev 對比測試中,Julia-1 贏了 3 組。Typed Decisions 為 73.15%,Jev 參考成績為 72.70%;AG News 為 94% 對 91%;情緒分類為 86% 對 48%。但在包含 72 個類別的 Banking77 上,Julia-1 只有 64%,明顯低於 Jev 的 87%。官方稱,候選類別太多且彼此相似時,目前的分組篩選可能提前丟掉正確答案。

Julia-1 的雲端 GPU 訓練和實驗總成本只有約 104 美元。模型權重、運行代碼、完整評測和來源記彔均已開放,採用 Apache 2.0 許可。官方還在開發 API,計劃按每百萬輸入 token 0.025 美元收費;由於模型只做判斷、不生成長文本,輸出 token 不收費。

信源

動察 Beating 頻道 · 動察 Beating 交流羣。
利多 査看原文
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊