头部大模型算力分配:训练大于推理,资源转向后训练

SemiAnalysis 指出,前沿大模型实验室的算力分配呈现出和行业整体趋势明显分化的特征:其总算力中训练端占比仍维持 60% 以上,推理仅占 30% 出头,并未随模型上线而把资源大规模倾斜到对外服务的推理业务;与此同时,训练内部的算力结构也发生明显迁移,资源投入重心正从传统基座预训练,逐步转向后训练与强化学习环节。
你怎么看这条消息?来投第一票

评论

0/500
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯