AMD攜Google強攻AI!第5代EPYC處理器支援TPU 8tx 首導入機密運算
EPYC成逾10家雲端巨頭首選CPU
【記者呂承哲/台北報導】AMD宣布,第5代EPYC處理器將為Google Cloud TPU 8tx提供主機運算支援,打造首款具備硬體強制執行機密運算的雲端TPU系統。雙方結合AMD EPYC CPU效能、Infinity Guard安全功能及Google TPU加速能力,協助企業在保護敏感資料的同時,大規模部署AI推論、微調及強化學習工作負載。
機密資料保護延伸至TPU
AMD指出,隨著AI基礎設施大量採用GPU與客製化加速器,CPU仍扮演關鍵角色,負責資料準備、工作負載協調及加速器通訊。此次TPU 8tx導入第5代EPYC處理器,進一步結合硬體信任根安全機制,解決AI正式部署時的資料保護需求。
AMD資深副總裁暨運算與企業級AI事業群總經理Dan McNamara表示,強大的AI系統需要能匹配加速器需求的CPU基礎,EPYC歷經多個世代發展,在效能、記憶體頻寬與I/O方面建立優勢,此次合作將協助客戶兼顧AI運算效能與安全防護。
Google Cloud AI與運算基礎架構副總裁暨總經理Mark Lohmeyer指出,企業將AI代理導入正式環境時,必須確保資料與智慧財產權受到保護。透過結合第5代EPYC與第8代TPU架構,首度為雲端TPU導入硬體強制執行的機密運算,同時提供現代推理模型所需的低延遲效能。
加密保護模型與敏感資料 EPYC支援逾10家AI巨頭
在TPU 8tx系統中,第5代EPYC負責工作負載編排、資料準備及與TPU加速器之間的高吞吐量通訊,並透過AMD安全加密虛擬化技術,將機密運算防護從CPU延伸至加速器。
系統在允許加速器存取受保護記憶體前,會先驗證身分與安全配置,確保提示詞、模型權重及中介資料在CPU記憶體與傳輸過程中維持加密,並於加速器執行期間提供硬體隔離。
AMD表示,EPYC已成為超過10家領先超大規模雲端服務供應商及前沿AI實驗室的首選主機CPU,支援AMD Instinct GPU、NVIDIA GPU及客製化AI加速器ASIC,並具備x86軟體相容性。
AMD與Google Cloud已合作多個世代,涵蓋Compute Engine的C4D、N4D、H4D、Z4D及G4虛擬機器,並共同開發企業安全技術。此次TPU 8tx合作,將進一步擴大至機密AI加速領域,協助企業安全部署推理及代理式AI應用。
點擊閱讀下一則新聞