【記者呂承哲／台北報導】AI正式從模型開發走向大規模產業化，推論需求也迎來爆發式成長。台積電高效能運算業務開發處處長兼全球AI與HPC業務開發處長李湘今（31）日在SEMICON Taiwan 2026半導體先進製程科技論壇表示，全球AI推論Token量相較2022年已暴增近500倍，隨著AI Agent與多模態應用普及，推論正取代訓練成為系統擴張主要驅動力，Token更將成為「運算的新貨幣」。
李湘指出，AI已正式跨越原型開發階段，進入大規模產業化擴張週期。2025年主要由架構與模型層級創新主導，包括更大型模型、更深度推理與新應用；進入2026年後，企業AI Agent開始進入生產階段，AI資料中心建置加速，包括機器人及邊緣裝置在內的Physical AI也快速發展。
AI基礎建設需求同步大增。李湘表示，過去全球資料中心容量每年約增加5至6GW，但受到AI需求推動，預估未來幾年每年新增基礎設施容量將大幅攀升至30至40GW。AI資料中心也正從傳統通用型設施，轉向支援大規模AI工作負載的高度專用整合系統。
訓練端需求同樣持續攀升。過去數年大型語言模型（LLM）快速演進，帶動運算需求每年增加約5倍；隨著自主AI Agent、空間運算、機器人與Physical AI興起，系統必須同時處理文字、影像、聲音、空間與感測訊號，預估前沿模型訓練運算需求還將再增加10倍。
不過，更大的成長動能來自AI推論。若以2022年全球推論Token量為基準1，目前已暴增近500倍，背後主要受到活躍使用者數、每位使用者查詢頻率，以及每次查詢產生的Token數量同步增加帶動。
李湘指出，早期AI應用以一次性推論為主，導入思維鏈（Chain-of-Thought）後，每次互動Token消耗量約增加10倍；進一步進入Agentic AI及深度迭代推理後，運算量可能再擴大數百倍。未來多模態AI若普及至數十億使用者、企業與終端裝置，全球Token生成規模最高可能擴大至基準的10億倍。
她強調，推論已不再是低負擔工作，而是系統級擴張的重要驅動力。尤其Agentic AI將使推論從使用者提出問題才啟動，轉變為24小時「Always-on」，自主在背景執行企業流程及工作，Token也將成為「運算的新貨幣」。
企業AI Agent也將帶動另一波硬體需求。台積電預估，全球企業AI Agent市場將由目前約50億至70億美元，於2030年突破500億美元；市場雖高度關注GPU與AI加速器，但自主AI Agent也將大幅推升CPU需求，相關潛在市場規模將從目前約310億美元，未來數年增至740億美元，2030年更上看2200億美元。
在高速互連方面，李湘也揭露台積電矽光子平台COUPE最新進展。COUPE全名為Compact Universal Photonic Engine，透過3D堆疊技術，將EIC（電子積體電路）直接堆疊於PIC（光子積體電路）之上，以提供高速、低功耗的光學資料傳輸。她表示，今年採用COUPE技術的200Gbps高速調變器將進入商業量產，透過台積電製程控制，位元錯誤率（BER）可低於10⁻⁸，藉此因應AI系統持續攀升的網路互連需求。
面對AI需求爆發，李湘指出，產業必須突破邏輯製程、互連、記憶體及供電散熱4大瓶頸。預估2030年單一AI封裝將整合超過1兆顆電晶體，但跨晶片移動資料的耗能最高可達晶片內部的50倍，目前資料移動更可能占系統活動60%，使昂貴的AI加速器利用率降至40%以下。
因此，下一階段AI競爭已不能只看單顆晶片效能。李湘表示，台積電將透過先進邏輯製程、3DFabric、SoIC、CoWoS及矽光子等技術，推進異質整合與系統級創新，從晶片、封裝一路延伸至整座資料中心，解決AI算力持續擴張帶來的互連、記憶體與功耗瓶頸。
點擊閱讀下一則新聞
