智譜API用戶逼近700萬,已經用上超5萬塊國產AI芯片

BiRun 訊,智譜 API 用戶已經接近 700 萬,比 7 月初增加約 200 萬,其中包括 2.3 萬家企業客戶。《晚點 LatePost》稱,智譜已經啓用超過 5 萬塊國產算力芯片,用來承接快速增長的推理需求。

增長主要來自 Coding。智譜今年 ARR 已增長 15 倍。開發者產品 ZCode 上綫一個月,用戶突破 100 萬。卽使 Kimi、阿裡接連發布新模型,智譜的 API 用戶和 ARR 增速也沒有明顯放緩。

算力因此成了瓶頸。智譜此前長期限製 Coding Plan 購買,7 月底重新開放後大幅漲價。公司衕時在補推理效率,通過 KV 緩存優化、稀疏注意力和推理引擎改造,想辦法讓衕樣的算力跑出更多 token,降低長任務的推理成本。

晚點 LatePost
你怎麼看這條消息?來投第一票

評論

0/500
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊