輝達指出，代理式AI的工作模式與傳統運算不同，CPU不再只是輔助角色，而是負責工具呼叫、程式碼執行、資料處理、KV Cache管理及結果驗證等關鍵任務。代理系統需不斷進行推理、執行、回傳結果，再進入下一輪決策，每一步皆仰賴CPU完成，因此CPU速度直接影響整體回應時間與AI工廠產能。
由於GPU是AI資料中心最昂貴的運算資源，一旦CPU處理速度不足，GPU便可能因等待資料而閒置，降低整體收益。輝達認為，過去資料中心CPU多朝高核心數發展，以降低每核心成本，但也因此犧牲單核心效能、記憶體頻寬及延遲表現，不再符合代理AI需求。
為此，輝達推出專為代理AI打造的Vera CPU。Vera採用自研 Olympus CPU核心，每週期指令數（IPC）較前一代Grace提升50%，並搭配高達1.2TB/s LPDDR5X記憶體頻寬、3.4TB/s核心互連頻寬，以及單片運算裸晶設計，讓88個核心皆可維持完整效能，避免因資源競爭拖慢單一核心速度。
輝達表示，在模擬代理AI的滿載工作環境中，Vera每核心持續效能可達現行x86伺服器CPU的1.8倍，可加速工具呼叫、程式碼執行、資料處理及驗證流程，進一步提升AI工廠整體生產效率。
AI搜尋公司Perplexity已率先測試Vera於實際代理工作流程。根據測試結果，在複製程式碼儲存庫並執行測試等工作中，Vera執行速度約比x86平台快1.5倍，平行沙盒啟動速度最高提升1.9倍，目前Perplexity已規劃導入未來生產環境。
除了代理運算外，Vera也強化資料處理能力。合作夥伴測試顯示，搭配Starburst進行大型SQL分析時，效能較主流x86伺服器CPU提升約3倍；搭配Redpanda即時串流平台時，延遲最高可降低6倍，可望滿足AI代理大量查詢、擷取及傳輸資料的需求。
輝達指出，Vera可同時支援代理工具、資料處理、強化學習及AI訓練等多元工作負載，無須依不同應用配置不同CPU，同時也是 Vera Rubin AI平台及 BlueField-4 STX 儲存處理器的核心架構，有助於建立統一的AI工廠平台。
展望未來，輝達也同步公開CPU產品藍圖，下一代 Rosa CPU 將採用全新 Rigel Arm v9.2核心，在相同晶片面積下進一步提升單核心效能，並透過更大的L2快取、更佳的指令傳遞及更高效率的記憶體設計，持續強化代理AI工作負載表現。
輝達表示，隨著未來數十億個AI代理投入運作，CPU將成為代理AI時代不可或缺的核心元件，而更快的代理迴圈，也將讓GPU有更多時間投入真正產生價值的AI運算，進一步提升整體AI工廠效益。
點擊閱讀下一則新聞
