微軟點名台灣居AI革命核心 2030年基建電力需求衝400GW
Waqar表示,外界談到AI時,往往首先想到應用程式、模型及各種突破性體驗,但AI真正的起點其實更早,從矽晶片、先進封裝、網路到大規模雲端建置,才構成AI應用背後的基礎。
他特別點名亞太地區在全球AI供應鏈扮演關鍵角色,從晶圓代工、封測(OSAT)、系統整合到製造,許多先進AI系統都在此設計並落地。微軟自2020年以來在亞太地區的參與及投資規模已成長約8倍,目前微軟雲端基礎設施約70%零組件來自亞太供應鏈。
其中,Waqar特別提到台灣,強調台灣不僅是製造基地,更是半導體創新及先進製造的全球領導者,台灣生態系正處於AI革命核心,也是微軟最重要的戰略合作夥伴之一。
AI快速發展也對基礎設施形成巨大壓力。Waqar指出,AI需求已突破傳統基礎設施在建置及交付能力上的極限,相關電力規模預估將從2026年約100GW,至2030年突破400GW;AI相關投資則從2022年約710億美元,預估2027年突破1兆美元。
此外,微軟透過Azure Boost資料處理單元(DPU),將資料壓縮、網路交易及安全等儲存操作從CPU卸載至專用晶片,在降低電力需求同時,最高可帶來4倍效能提升。
Gupta指出,隨著AI規模持續擴張,基礎設施瓶頸正從單純運算能力轉向電力供應、冷卻及資料中心效率。微軟因此重新設計從電網到機架的電力架構,投入高溫超導體、固態變壓器及機架級電力系統,散熱則推進微流體(Microfluidics)等新型冷卻技術。
網路同樣成為AI基礎設施關鍵。微軟將AI網路分為Scale-up與Scale-out兩個層級,前者著重加速器間頻寬、延遲及可靠性,後者則串聯多個AI叢集,讓資料中心如同一台分散式AI超級電腦運作。
Gupta強調,AI下一個時代不會由單一公司定義,未來挑戰橫跨晶片、系統、網路、資料中心直到電網,沒有任何企業能獨立推進所有環節,因此開放合作將成為關鍵,微軟也將持續透過OCP及產業夥伴推動下一代AI基礎設施。
隨著資料中心部署規模從MW(Megawatts)邁向GW,挑戰已不只是更快興建資料中心或導入更多硬體,而是如何建立兼具經濟效益及永續性的基礎設施。
Waqar表示,AI也正從大型語言模型、聊天機器人走向更多代理式系統,近年模型規模成長超過6000倍,速度遠超運算、記憶體及儲存能力提升,因此產業不能只追求下一代加速器,而必須從完整技術堆疊進行優化。
微軟自研Maia、Cobalt搶攻AI 基建瓶頸轉向電力與散熱
微軟雲端暨AI硬體策略副總裁Sushant Gupta表示,微軟採取「系統層級協同設計」(System-level Co-design),從晶片、平台架構、網路一路延伸至資料中心,並將安全及永續納入核心。由於AI訓練、推理、推理邏輯及Agentic AI對基礎設施需求不同,沒有單一架構能高效率滿足所有工作負載。
在晶片方面,Azure除提供合作夥伴解決方案,也布局微軟自研晶片,包括AI加速器Maia及CPU Cobalt。其中,Maia並非單獨設計的晶片,而是與模型、網路、軟體及資料中心進行端到端協同設計。
面對Agentic AI興起,CPU需求也同步改變。每次AI代理互動背後,都涉及協調、資料檢索、記憶體管理及服務呼叫,因此微軟將Cobalt定位為「代理原生CPU」(Agent-native CPU),針對代理式工作負載提升效能及能源效率。
此外,有消息指出,微軟將在今年秋季發表Maia 300,最快將於本月亮相,預計正式發布時間為9月,預計將委由台積電代工生產,初步希望能取得約30萬顆Maia 300產能,市場推估創意ASIC專案也有望受惠。
點擊閱讀下一則新聞