NVIDIA Vera Rubin NVL72首次亮相MLPerf推理v6.1性能領先

據NVIDIA官網消息，系統性能、高效基礎設施擴展和持續軟件優化是決定AI推理經濟性的關鍵因素。系統性能越高意味着生成的tokens越多，從而帶來更高收入。高效擴展意味着吞吐量隨硬件增加而成比例增長，以更少資源服務大規模用戶。持續優化意味着從基礎設施投資中創造更多價值。