重要 Muse 智能体算力需求估算:支撑 1 亿日活需要多少电力?
据深潮 TechFlow发布,作者:Robonomics 编译:深潮 TechFlow 深潮导读: 当 Meta 把 Muse 智能体塞进每个用户的电脑里,真正的瓶颈不在 CPU,而在推理层。这篇估算用 DeepSeek 的沙箱数据做基准,拆出了一组反直觉的数字:沙箱层只占 0.1GW,推理层却可能吃掉 3 至 4GW。对关注 AI 基础设施投资和能源赛道的人来说,这是一张罕见的算力账本。 粗略结论基础情形下,支撑 1 亿日活大约需要 1 至 2GW 平均总功率,其中 CPU/VM 层只占约 0.1GW。根据每个 Muse 日活用户每天产生的“推理等效”模型调用次数不同,3 至 4GW 也完全合理。 沙箱层的 CPU 采购成本不到 10 亿美元,DRAM 成本约 20 亿美元,比很多人预期的要小。 1. Muse VM / 沙箱基础设施每个用户分配 2 个 vCPU、约 8GB 内存和约 100GB 持久逻辑存储。这是观测到的 Muse VM 配置。 A. 沙箱 CPU 第一个错误是假设 1 亿日活意味着 1 亿台 VM 同时在消耗算力。 假设平均每个 Muse 日活用户的智能体每天活跃工作两小时: 1 亿用户 × 2 小时 / 24 小时 = 约 800 万台同时活跃的 VM Meta 显然不能只按日均值来配置资源。使用量会集中在清醒时段,且具有突发性。 假设峰值与均值之比为 2.5 倍: 800 万 × 2.5 = 约 2000 万台峰值活跃 VM 再加上约 20% 的容量冗余:约 2500 万台常备在线 VM。所以基础假设实际上是,Meta 需要的算力基础设施大约要支撑日活用户的 25% 同时在线。 下一个重要区分是虚拟 CPU 分配与物理 CPU 需求之间的差异。智能体沙箱特别适合 CPU 超售。它们大量时间在等待。在等待期间,VM 可能仍然存活,但几乎不使用 CPU。 DeepSeek 最近发布的 DSec 基础设施提供了一个有用的基准。其生产级智能体沙箱平台在大约 160 个节点上运行约 3 万个物理 CPU 核心和 250TB DRAM,峰值并发超过 38 万个沙箱。DSec 还展示了稳定运行能力:每个节点约 800 个微型 VM。按每个节点约 188 个物理核心计算:188 个物理核心 / 800 个微型 VM = 每个存活 VM 约 0.23 个物理核心。 DeepSeek 显然是效率之王。Muse 的数字可能在每个存活 VM 0.3 至 0.75 个物理核心之间,基础情形取每个存活 VM 0.5 个物理核心。这相当于每个物理 CPU 核心支撑大约两个同时存活的 Muse VM。 代入基础假设:2500 万台存活 VM × 每 VM 0.5 个物理核心 = 1250 万个物理 CPU 核心。 在 256 核 CPU 上:1250 万核心 / 每 CPU 256 核心 = 约 5 万颗 CPU;在 192 核 CPU 上则是 6.5 万颗。 按当前公开价格计算,大约是 8 亿美元。 B. 沙箱内存 Muse 向用户环境暴露约 8GB 内存,但一个被观测到的实例在测量时实际只用了约 3GB。 2500 万台存活 VM × 3GB = 75PB 物理 DRAM,取 75 至 100PB 作为合理的基础区间。 按当前公开价格计算,大约是 20 亿美元。 C. 沙箱功耗在 1 亿日活规模下,整个 Muse 沙箱/VM 层大约需要 0.1GW。 2. Muse Spark 推理模型推理通过 Meta 的外部推理基础设施完成。这是 Meta 对 Muse 架构的描。
评论
0/500
登录 后参与讨论
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯