智能无限，芯片紧缺：一场关于算力定价的供给错位观察

据深潮 TechFlow发布，作者：Kerman Kohli 编译：深潮 TechFlow 深潮导读： 当所有人都在盯着代币价格下跌喊泡沫时，Kerman Kohli 给出了一个完全相反的解释框架：需求无限、供给受限，硬件正在变成战略资源。这篇文章帮你看懂为什么二手显卡在涨价、为什么算力不会贬值，以及为什么「拥有自己的计算能力」正在从技术问题变成生存问题。 我已经有一个月没怎么写 Substack 了，主要原因是我学习的速度太快，根本抽不出时间动笔。这篇文章是对我近期所学的一次更新，以及我脑子里正在形成的一些新思维模型。我想把我的学习成果大致分成三个部分： 第一部分讲硬件动态，以及为什么我认为大多数人对硬件的看法是错的。第二部分讲模型在如何进化，以及这对未来意味着什么。最后一部分讲本地算力与前沿算力之间的关系。 在开始之前，我想先分享一下我自己的硬件探索进展，因为和这篇文章的主题直接相关。 我今年早些时候写过一篇关于花 15,000 美元组装推理机器的文章。最近我对它做了升级，加了一块 GPU，总投入来到 35,000 美元。但有意思的是，今年年初花 10,000 美元买的那块 GPU，现在要花 14,000 美元才能买到，内存也涨了 1,000 美元。也就是说，这台 35,000 美元的机器，我的实际成本基础只有 30,000 美元。对于大多数硬件来说，这种情况并不正常。 此外，我又花了 35,000 美元买了 6 台 DGX Spark，配了一台 16 口 100Gb 交换机，需要用光纤线缆把它们全部互联起来。通过这个过程，我对 GPU 的理解超过了网上任何资料能给我的。真正买硬件回来折腾，是进入这个世界的唯一正确方式。 今年我个人在 AI 硬件上的资本支出呈指数级增长，在 RouteMesh 我们也在沿着这个方向推进，GPU 集群是下一个合乎逻辑的规模化步骤。随着时间推进，我会分享更多关于数据中心探索的经历。 i) 硬件动态一台用了不到一年的机器，怎么会反而升值？更疯狂的是，一块二手的 RTX 3090（2020 年的 GPU）在 2026 年居然还能以原价卖出？你不能只是说一句「泡沫」就完事了，这里需要想得更深。 这一切的起点是：内存！当然还有英伟达的芯片。我在这一节会展开解释。当我们谈论硬件时，实际上在说两样东西：计算和内存。 计算确实会随着时间推移变得越来越强，新一代产品会完爆老一代。但这只在计算是瓶颈时才有意义（这里的计算指的是 CPU/GPU/XPU）。而在推理场景下，瓶颈是内存。鉴于内存在未来至少十年内都会处于结构性短缺状态（没错，我已经把之前的五年判断上调到十年了），计算部分的任何折旧都会被内存的升值所抵消。 这是第一个趋势。但第二个被市场低估的因素是：英伟达芯片的价值很大程度上来自它们的向后兼容性。旧芯片仍然有用，而且背后有一个庞大的生态可以运行。一块 2020 年的 RTX 3090 或 A100，到今天依然能够执行有经济价值的推理任务，完全有理由让它在数据中心里继续运行下去！ 这是一个巨大的叙事，但没多少人真正关注。你不能做空硬件、新型云服务商、算力或内存。硬件的动态已经永久改变了。 我还观察到，某些工作负载永远不需要更新一代的芯片。工作负载似乎开始和特定硬件绑定了，这在科技领域已经很久没有出现过了。 我自己就正在经历这一点。我花 10,000 美元买的 RTX 6000 Pro Max-Q，现在价值 16,000 美元，有时候甚至标价 18,000 美元！这是一个趋势，不是短期的供需失衡。 ii) 模型演进最近有很多人指出代币价格在下降，并且认。