NVIDIA發表Vera Rubin平台 七款新晶片全面量產助力AI工廠

NVIDIA於2026年3月16日宣布推出NVIDIA Vera Rubin平台，標誌著代理式人工智慧（Agentic AI）時代的來臨。該平台整合七款新晶片，涵盖CPU、GPU、推理加速器、儲存及網路設備，目標是打造支援從預訓練、訓練後調校到測試時間擴展及代理式推理等各階段的AI超級電腦。

Vera Rubin平台整合多項關鍵技術，包括NVIDIA Vera CPU、NVIDIA Rubin GPU、NVIDIA NVLink 6交換器、NVIDIA ConnectX-9 SuperNIC、NVIDIA BlueField-4 DPU及NVIDIA Spectrum-6乙太網路交換器，並首次整合NVIDIA Groq 3 LPU。這些晶片設計為协同運作，共同支援大規模AI訓練及推理工作負載。

NVIDIA執行長黃仁勳表示：「Vera Rubin是一款結合七款突破性晶片、五個機架單元的超級電腦，旨在支援AI的各個階段。隨著Vera Rubin的推出，代理式AI的轉折點已經到來，這也是史上最大規模的基礎設施建置。」

企業與開發者正利用Claude等模型進行越來越複雜的推理任務、代理式工作流程及關鍵決策，這需要能夠跟上需求的基礎設施。Anthropic執行長Dario Amodei指出：「NVIDIA的Vera Rubin平台為我們提供了運算、網路及系統設計能力，讓我們能夠持續提供客戶所依賴的安全且可靠的服務。」

OpenAI執行長Sam Altman則表示：「NVIDIA基礎設施是我們持續推進AI前沿的基礎。透過NVIDIA Vera Rubin，我們將能夠以更大規模運行更強大的模型和代理，為數億人提供更快、更可靠的系統。」

平台架構與機架設計

AI基礎設施正快速演進，從離散的晶片和獨立伺服器發展到完全整合的機架規模系統、AI工廠及主權AI。這些進展帶來顯著的性能提升，並為各種規模的組織改善成本效率。

Vera Rubin NVL72機架整合72個Rubin GPU及36個Vera CPU，透過NVLink 6連接，並配備ConnectX-9 SuperNIC和BlueField-4 DPUs。根據官方數據，該機架在訓練大型混合專家模型時，所需GPU數量僅為NVIDIA Blackwell平台的四分之一，且每瓦推理吞吐量最高可達10倍，每Token成本則降低至十分之一。

Vera CPU機架專為強化學習及代理式AI工作負載設計。這類工作負載需要大量的CPU環境來測試及驗證GPU系統上運行的模型所產生的結果。該機架基於NVIDIA MGX架構，整合256個Vera CPU，提供緊湊的液冷基礎設施，具備世界級的單執行緒性能。與傳統CPU相比，Vera的效率提升一倍，運行速度加快50%。

NVIDIA Groq 3 LPX推理加速器機架則針對代理式系統的低延遲及大上下文需求設計。LPX機架配備256個LPU處理器，內建128GB晶片上SRAM及640 TB/s的擴展頻寬。與Vera Rubin NVL72部署在一起時，Rubin GPU和LPU可共同計算AI模型每一層的每一個輸出Token。根據官方說明，該架構針對兆參數模型及百萬Token上下文進行優化，每百萬瓦推理吞吐量最高可達35倍。

儲存與網路解決方案

NVIDIA BlueField-4 STX儲存機架是一款AI原生儲存基礎設施，可將GPU記憶體無縫擴展到整個Pod。該系統由BlueField-4提供動力，結合NVIDIA Vera CPU和NVIDIA ConnectX-9 SuperNIC，提供高頻寬共享層，專為儲存及檢索大型語言模型和代理式AI工作流程產生的大量鍵值快取資料而優化。

Mistral AI技術長Timothée Lacroix表示：「NVIDIA BlueField-4 STX機架規模的上下文記憶體儲存系統，將為我們擴展代理式AI努力提供關鍵的性能提升。透過提供專為AI代理記憶體設計的新儲存層，STX能確保我們的模型在處理龐大資料集時保持一致性和速度。」

NVIDIA Spectrum-6 SPX乙太網路機架則專為加速AI工廠內的東西方流量而設計，可配置為Spectrum-X乙太網路或NVIDIA Quantum-X800 InfiniBand交換器，提供低延遲、高吞吐量的機架間連接。採用共封裝光學的Spectrum-X乙太網路光學技術，與傳統可插拔收發器相比，光學功率效率提升5倍，彈性提高10倍。

能源效率與基礎設施合作

NVIDIA與超過200家資料中心基礎設施合作夥伴共同宣布推出適用於Vera Rubin的NVIDIA DSX平台。其中DSX Max-Q可實現整個AI工廠的動態電源配置，使得在固定功率的資料中心中可部署30%更多的AI基礎設施。新推出的DSX Flex軟體則使AI工廠能夠成為電網彈性資產，釋放100百萬瓦的閒置電網電力。

Vera Rubin平台的推出代表NVIDIA在AI基礎設施領域的最新布局，透過整合多種專業晶片，試圖覆蓋從訓練到推理的完整AI開發週期。隨著七款新晶片進入全面量產階段，全球AI工廠的擴展將獲得更多硬體支援選項。

資料來源: https://nvidianews.nvidia.com/news/nvidia-vera-rubin-platform