GPT-5.6上綫後給自己降本,運行成本降20%
BiRun 訊,OpenAI 披露,GPT-5.6 Sol 上綫後已經開始參與改進承載自己的生產系統。它通過 Codex 分析眞實流量、調整請求分配,並自主重寫 GPU kernel(控製芯片計算的底層代碼)。相關優化讓模型端到端運行成本下降 20%。
GPT-5.6 Sol 還改進了配套的草稿模型。它自行設計並運行數百次架構實驗,啓動和監控訓練。遇到硬件故障或訓練不穩定時,它也會介入處理。最終,推測解碼(小模型先預測,主模型批量驗証)的 Token 生成效率提高超過 15%。
OpenAI 將這套流程描述為持續反饋循環:觀察生產環境、找出瓶頸、脩改系統,再驗証整體效果。GPT-5.6 已經參與了其中多個環節。
OpenAI
GPT-5.6 Sol 還改進了配套的草稿模型。它自行設計並運行數百次架構實驗,啓動和監控訓練。遇到硬件故障或訓練不穩定時,它也會介入處理。最終,推測解碼(小模型先預測,主模型批量驗証)的 Token 生成效率提高超過 15%。
OpenAI 將這套流程描述為持續反饋循環:觀察生產環境、找出瓶頸、脩改系統,再驗証整體效果。GPT-5.6 已經參與了其中多個環節。
OpenAI
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊