Rene Haas表示,隨著代理式AI(Agentic AI)快速成長,CPU需求正大幅提升。不同於GPU、XPU主要負責生成token,代理式AI需要分發、管理、編排與交付大量token,這些工作負載必須由CPU承擔。

他指出,Arm早在2024年3月便預測,在相同功耗條件下,未來可能需要4倍CPU核心,如今市場對CPU需求成長甚至比原先預期更快。

Arm同步強調CSS運算平台布局,該平台已進入量產,並與台積電、廣達、工業富聯、美超微、華擎、信驊等台灣夥伴合作,推出氣冷與液冷機櫃解決方案。

其中,氣冷機櫃功耗36瓩、可搭載8000顆核心,液冷機櫃則可超過4.5萬顆核心、功耗200瓩。Rene Haas指出,Arm CSS相較同級x86系統,每機櫃效能可達2倍,能在大型資料中心中帶來更高能源效率與成本效益。

在客戶方面,Arm表示,Meta、SAP、Cerebras、OpenAI、SK Telecom等已採用Arm CSS運算平台,近期又新增Oracle與ByteDance加入,顯示Arm伺服器CPU正加速切入AI基礎建設市場。

Rene Haas也提到,Google TPU頭端節點已從x86轉向採用Arm Neoverse架構的Axion,AWS Graviton設計動能也持續擴大,顯示雲端運算架構正快速轉向Arm。

採用N1X晶片的RTX Spark AI筆電平台。呂承哲攝
採用N1X晶片的RTX Spark AI筆電平台。呂承哲攝

演講另一大重點則是PC市場。Rene Haas指出,PC使用情境已分化為兩大方向,一是長續航、隨時連線、與手機高度同步的行動裝置;另一是高效能、可執行代理式AI與模型開發的運算平台。

他強調,Arm已可支援Linux、macOS、Chrome與Windows等主要作業系統,正成為現代PC架構轉型的核心。

Arm並宣布與NVIDIA合作推出RTX Spark,該產品採用Arm架構客製化Grace CPU,具備20顆CPU核心,並搭配Blackwell GPU,支援FP4達1 petaflop運算能力、大容量記憶體與原生Windows on Arm環境。

Rene Haas表示,這是由Arm驅動、面向代理式AI時代的重要PC平台,合作夥伴包括Acer、ASUS、Dell、Gigabyte、HP、Lenovo、Microsoft與MSI等品牌。

NVIDIA執行長黃仁勳也趕場登場。呂承哲攝
NVIDIA執行長黃仁勳也趕場登場。呂承哲攝

NVIDIA執行長黃仁勳也趕場登場,NVIDIA希望「重新發明電腦」。他指出,PC已存在40年,未來手寫作業系統程式碼將逐步被代理式應用取代,AI代理會在PC上使用工具、執行任務,因此電腦架構必須重新設計。黃仁勳表示,代理式系統需要強大的CPU、GPU與記憶體緊密整合,這也是NVIDIA選擇Arm的原因。

黃仁勳說,RTX Spark搭載20核心Arm CPU,並透過NVFP4格式壓縮大型語言模型,讓更聰明的AI可放入系統記憶體中。他指出,RTX Spark PC具備128GB記憶體,若模型以NVFP4完整壓縮,理論上可讓1000億參數級模型在個人電腦上長時間運行,基礎任務可在本地完成,更複雜的深度思考任務則交由雲端處理。

談到AI運算需求,黃仁勳表示,未來不只人類會使用電腦,代理、機器人、自駕車也會自主使用電腦,電腦產業規模有機會從原本上兆美元、多兆美元等級,進一步擴大10倍。他強調,代理式AI會思考、使用工具、讀取與壓縮記憶,代表新的運算應用模式,也需要新的架構支撐。

Rene Haas最後再次感謝台灣供應鏈與工程人才,強調Arm AI運算平台將從最小型邊緣裝置延伸至最大型雲端系統,背後也有全球2300萬名開發者社群支持。他表示,這一切都仰賴台灣生態系、工程師與供應鏈夥伴共同推動,「沒有台灣,Arm什麼都不是。」

作者簡介

呂承哲

壹蘋新聞網財經科技記者,專注半導體、AI與新能源產業,追蹤台積電、輝達及台廠電子供應鏈動態,並解析市場投資趨勢。


點擊閱讀下一則新聞 點擊閱讀下一則新聞
3、4月發票狂開「20張1000萬+19張200萬」 花13元買吃的中大獎