小米MiMo公开RL停了:两条训练烧掉347万美元
BiRun 讯,小米 MiMo 公开直播的两条强化学习训练目前均已停止。Pro 和 Flash 最后完整完成的都是 30 个训练 step,两条 run 合计花费 347.47 万美元。其中 Pro 花费 262.07 万美元,Flash 花费 85.40 万美元。
砸钱换来的提升很明显。DeepSWE v1.1 上,Pro 从第 1 步的 58.41 提升到 72.57,涨了 14.16 分;Flash 从 48.67 提升到 65.68,涨了 17.01 分。但两条曲线中间都有明显回落,并非训练越久分数就一路上涨。
另外两个看板评测也在涨。Pro 的内部代码评测从 57.54 升至 65.43,AutomationBench 从 45.2 升至 53.1。
训练过程也没那么顺利。Pro 因专家负载不均触发过 GPU OOM,训练集群和评分器也断连重启过;Flash 因基础设施错误从 step 15 重跑。后期小米还过滤了对 Pro 已经过于简单的任务,并把出现异常 rollout 模式的 cyber 数据集从 Pro 后续训练中移除。
信源
动察 Beating 频道 · 动察 Beating 交流群。
砸钱换来的提升很明显。DeepSWE v1.1 上,Pro 从第 1 步的 58.41 提升到 72.57,涨了 14.16 分;Flash 从 48.67 提升到 65.68,涨了 17.01 分。但两条曲线中间都有明显回落,并非训练越久分数就一路上涨。
另外两个看板评测也在涨。Pro 的内部代码评测从 57.54 升至 65.43,AutomationBench 从 45.2 升至 53.1。
训练过程也没那么顺利。Pro 因专家负载不均触发过 GPU OOM,训练集群和评分器也断连重启过;Flash 因基础设施错误从 step 15 重跑。后期小米还过滤了对 Pro 已经过于简单的任务,并把出现异常 rollout 模式的 cyber 数据集从 Pro 后续训练中移除。
信源
动察 Beating 频道 · 动察 Beating 交流群。
评论
0/500
登录 后参与讨论
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯