輝達指出，Vera Rubin平台整合 Vera CPU、Rubin GPU、NVLink 6交換器、ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6乙太網路交換器，以及新整合的 Groq 3 LPU推理加速器，透過深度系統協同設計，形成完整AI運算架構，可支援從大規模預訓練（pretraining）、後訓練（post-training）、測試時擴展（test-time scaling）到即時Agent推理（agentic inference）的各類AI工作負載。
黃仁勳表示，AI產業正處於重要轉折點，「Agentic AI的轉折已經到來」，未來企業將大量部署能自主執行任務的AI代理系統，而Vera Rubin平台將成為支撐新一波AI基礎設施建設的核心架構。
輝達指出，AI基礎設施正快速從過去的單一晶片與伺服器架構，轉向 機架級（rack-scale）與POD級（pod-scale）系統，並進一步演變為大型 AI工廠（AI Factory）。透過計算、網路與儲存的協同設計，整個AI資料中心將像一台巨大的超級電腦運作。
Vera Rubin平台正是為此設計，透過超過 80家MGX生態系夥伴與全球供應鏈共同打造，可將多個機架整合為單一運算系統，支撐超大型AI模型的運算需求。
其中，核心架構為 Vera Rubin NVL72機架系統，整合 72顆Rubin GPU與36顆Vera CPU，透過NVLink 6高速互連形成完整AI運算節點，並搭配ConnectX-9 SuperNIC與BlueField-4 DPU，打造高效率AI運算平台。輝達表示，該系統在訓練大型混合專家模型（Mixture-of-Experts）時，使用的GPU數量僅需Blackwell平台的四分之一，同時推理效能每瓦最高可提升10倍，大幅降低AI模型每Token的運算成本。
此外，NVL72系統可透過 Quantum-X800 InfiniBand或Spectrum-X乙太網路擴展至更大規模GPU叢集，維持高運算利用率並縮短模型訓練時間。
為支援Agentic AI與強化學習等新型AI工作負載，輝達同步推出 Vera CPU機架，整合 256顆Vera CPU，提供大量CPU運算環境，用於模擬與驗證GPU模型的決策結果。輝達指出，Vera CPU在單執行緒效能與能源效率方面均大幅提升，相較傳統CPU平台可達 效率提升2倍、速度提升50%。
在推理加速方面，新推出的 Groq 3 LPX推理機架整合 256顆LPU處理器與128GB片上SRAM，可提供高達 640TB/s系統頻寬。與Rubin GPU協同運作後，可使推理效能每兆瓦提升35倍，支援兆參數模型與百萬Token上下文推理。
在儲存架構方面，輝達推出 BlueField-4 STX儲存機架，透過DPU技術打造AI原生儲存層，專門處理大型語言模型與AI代理系統產生的 KV Cache。搭配新的 DOCA Memos儲存框架，可將推理吞吐量提升最多5倍，同時提升能源效率。
在網路方面， Spectrum-6 SPX乙太網路機架則負責AI資料中心內部大量東西向流量（east-west traffic），透過光子整合技術提供更高頻寬與更低延遲的機架互連。
輝達表示，Vera Rubin平台預計今年下半年由合作夥伴推出，包括 Amazon Web Services、Google Cloud、Microsoft Azure與Oracle Cloud 等雲端服務商，以及CoreWeave、Crusoe、Lambda、Nebius、Nscale與Together AI等AI雲端平台。
在系統製造商方面，Cisco、Dell、HPE、Lenovo與Supermicro等企業，以及鴻海、廣達旗下雲達科技、英業達、緯創、緯穎、技嘉、華碩與和碩等台灣伺服器供應鏈廠商，也將推出相關產品。
此外，包括 OpenAI、Anthropic、Meta與Mistral AI等AI研究機構，也計畫利用Vera Rubin平台訓練更大型模型，並部署長上下文與多模態AI系統。
黃仁勳表示，未來AI資料中心將轉型為「AI工廠」，大規模生產AI推理與智慧服務。他指出：「我們正站在一個新的運算時代開端。AI將成為生產力引擎，幫助人類解決世界上最困難的問題，而這一切才剛剛開始。」
點擊閱讀下一則新聞
