智譜API用戶逼近700萬,已經用上超5萬塊國產AI芯片
BiRun 訊,智譜 API 用戶已經接近 700 萬,比 7 月初增加約 200 萬,其中包括 2.3 萬家企業客戶。《晚點 LatePost》稱,智譜已經啓用超過 5 萬塊國產算力芯片,用來承接快速增長的推理需求。
增長主要來自 Coding。智譜今年 ARR 已增長 15 倍。開發者產品 ZCode 上綫一個月,用戶突破 100 萬。卽使 Kimi、阿裡接連發布新模型,智譜的 API 用戶和 ARR 增速也沒有明顯放緩。
算力因此成了瓶頸。智譜此前長期限製 Coding Plan 購買,7 月底重新開放後大幅漲價。公司衕時在補推理效率,通過 KV 緩存優化、稀疏注意力和推理引擎改造,想辦法讓衕樣的算力跑出更多 token,降低長任務的推理成本。
晚點 LatePost
增長主要來自 Coding。智譜今年 ARR 已增長 15 倍。開發者產品 ZCode 上綫一個月,用戶突破 100 萬。卽使 Kimi、阿裡接連發布新模型,智譜的 API 用戶和 ARR 增速也沒有明顯放緩。
算力因此成了瓶頸。智譜此前長期限製 Coding Plan 購買,7 月底重新開放後大幅漲價。公司衕時在補推理效率,通過 KV 緩存優化、稀疏注意力和推理引擎改造,想辦法讓衕樣的算力跑出更多 token,降低長任務的推理成本。
晚點 LatePost
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊