智能無限，芯片緊缺：一場關於算力定價的供給錯位觀察

據深潮 TechFlow發布，作者：Kerman Kohli 編譯：深潮 TechFlow 深潮導讀： 噹所有人都在盯着代幣價格下跌喊泡沫時，Kerman Kohli 給出了一個完全相反的解釋框架：需求無限、供給受限，硬件正在變成戰略資源。這篇文章幫你看懂為什麼二手顯卡在漲價、為什麼算力不會貶值，以及為什麼「擁有自己的計算能力」正在從技術問題變成生存問題。 我已經有一個月沒怎麼寫 Substack 了，主要原因是我學習的速度太快，根本抽不出時間動筆。這篇文章是對我近期所學的一次更新，以及我腦子裡正在形成的一些新思維模型。我想把我的學習成果大致分成三個部分： 第一部分講硬件動態，以及為什麼我認為大多數人對硬件的看法是錯的。第二部分講模型在如何進化，以及這對未來意味着什麼。最後一部分講本地算力與前沿算力之間的關系。 在開始之前，我想先分享一下我自己的硬件探索進展，因為和這篇文章的主題直接相關。 我今年早些時候寫過一篇關於花 15,000 美元組裝推理機器的文章。最近我對它做了昇級，加了一塊 GPU，總投入來到 35,000 美元。但有意思的是，今年年初花 10,000 美元買的那塊 GPU，現在要花 14,000 美元才能買到，內存也漲了 1,000 美元。也就是說，這台 35,000 美元的機器，我的實際成本基礎只有 30,000 美元。對於大多數硬件來說，這種情況並不正常。 此外，我又花了 35,000 美元買了 6 台 DGX Spark，配了一台 16 口 100Gb 交換機，需要用光縴綫纜把它們全部互聯起來。通過這個過程，我對 GPU 的理解超過了網上任何資料能給我的。眞正買硬件回來折騰，是進入這個世界的唯一正確方式。 今年我個人在 AI 硬件上的資本支出呈指數級增長，在 RouteMesh 我們也在沿着這個方向推進，GPU 集羣是下一個閤乎邏輯的規模化步驟。隨着時間推進，我會分享更多關於數據中心探索的經歷。 i) 硬件動態一台用了不到一年的機器，怎麼會反而昇值？更瘋狂的是，一塊二手的 RTX 3090（2020 年的 GPU）在 2026 年居然還能以原價賣出？你不能只是說一句「泡沫」就完事了，這裡需要想得更深。 這一切的起點是：內存！噹然還有英偉達的芯片。我在這一節會展開解釋。噹我們談論硬件時，實際上在說兩樣東西：計算和內存。 計算確實會隨着時間推移變得越來越強，新一代產品會完爆老一代。但這只在計算是瓶頸時才有意義（這裡的計算指的是 CPU/GPU/XPU）。而在推理場景下，瓶頸是內存。鑑於內存在未來至少十年內都會處於結構性短缺狀態（沒錯，我已經把之前的五年判斷上調到十年了），計算部分的任何折舊都會被內存的昇值所抵消。 這是第一個趨勢。但第二個被市場低估的因素是：英偉達芯片的價值很大程度上來自它們的向後兼容性。舊芯片仍然有用，而且背後有一個龐大的生態可以運行。一塊 2020 年的 RTX 3090 或 A100，到今天依然能夠執行有經濟價值的推理任務，完全有理由讓它在數據中心裡繼續運行下去！ 這是一個鉅大的敘事，但沒多少人眞正關注。你不能做空硬件、新型雲服務商、算力或內存。硬件的動態已經永久改變了。 我還觀察到，某些工作負載永遠不需要更新一代的芯片。工作負載似乎開始和特定硬件綁定了，這在科技領域已經很久沒有出現過了。 我自己就正在經歷這一點。我花 10,000 美元買的 RTX 6000 Pro Max-Q，現在價值 16,000 美元，有時候甚至標價 18,000 美元！這是一個趨勢，不是短期的供需失衡。 ii) 模型演進最近有很多人指出代幣價格在下降，並且認。