自研晶片發展逾10年 AI訓練、推論全面布局

AWS表示,自2006年投入雲端運算後,便發現透過虛擬化提供服務時,底層運算效率仍有提升空間,因此開始投入自研硬體,最早推出Nitro晶片,負責網路、儲存等加速功能;2015年進一步併購晶片設計公司Annapurna Labs,建立自研晶片能力。

2018年起,AWS陸續推出自研晶片產品線,包括採用Arm架構、主打通用運算的Graviton,以及針對AI推論設計的Inferentia、AI訓練使用的Trainium。其中,Graviton目前已發展至第五代,AWS表示,現階段仍以Inferentia負責推論、Trainium負責訓練,但未來將依客戶需求持續調整新一代產品功能定位。

AWS指出,Accelerated Compute(加速運算)產品組合同時整合NVIDIA GPU與AWS自研AI晶片Trainium、Inferentia,可支援AI/機器學習(AI/ML)、高效能運算(HPC)及圖形處理等工作負載,涵蓋大型語言模型、電腦視覺、自然語言理解、推薦系統、異常偵測,以及渲染、產品設計、遊戲串流等應用。

AWS Trainium3。公司提供
AWS Trainium3。公司提供

Trainium邁向3奈米、2奈米 台廠供應鏈受矚目

產品布局方面,AWS表示,第二代Trainium(Trn2)鎖定大規模AI模型訓練,主打相較P5e、P5en執行個體可提供30%至40%更佳性價比;新一代Trainium3(Trn3)瞄準Agentic AI、推理(Reasoning)及影片生成等應用,強調提供更低的每Token運算成本。AWS也推出Neuron軟體開發套件(SDK),支援PyTorch、JAX、Hugging Face、vLLM等主流AI框架,讓開發者可沿用既有工作流程進行模型開發、部署與推論。

AWS re:Invent 2025進一步揭露Trainium3 UltraServer系統架構,Trainium3採用台積電3奈米製程打造,同時預告下一代Trainium4(Trn4)將採台積電2奈米製程,預計2027年底推出。Trainium4也將支援輝達NVLink Fusion高速互連技術,可與AWS Graviton處理器及EFA網路架構整合,提升AI基礎設施擴充能力。

市場也關注AWS新一代AI晶片供應鏈布局。外資先前分析,Trainium4設計服務預計將由世芯-KY(3661)取得訂單,台積電(2330)持續負責晶片代工;下游硬體供應鏈包括緯穎(6669)、貿聯-KY(3665)、金像電(2368)、智邦(2345)、川湖(2059)、奇鋐(3017)及台達電(2308)等,也被視為AWS持續擴大AI基礎設施投資的潛在受惠廠商。

AWS揭示三款自研晶片最新進度。呂承哲攝
AWS揭示三款自研晶片最新進度。呂承哲攝

大型AI客戶導入 AWS深化台灣半導體合作

AWS表示,目前Trainium已導入多項AI服務,包括Anthropic使用超過100萬顆Trainium晶片訓練及部署Claude模型,Amazon Bedrock平台超過50%的Token運算量由Trainium承擔,OpenAI也規畫透過AWS基礎架構取得2GW Trainium算力,支援Stateful Runtime Environment、Frontier等高階工作負載。

雲端服務應用方面,AWS表示,Graviton採用Arm架構,在AWS前一千大EC2客戶中約98%都會使用Graviton,主要原因在於具備良好的性價比,產品也將持續逐代更新,維持每年推出新世代產品的節奏。

王定愷表示,AWS自研的Graviton、Trainium及Inferentia晶片皆由台積電製造,顯示台灣在全球AI供應鏈的重要角色。除晶片合作外,AWS也將EDA工具搬上雲端,協助半導體業加速晶片設計與開發,並與台積電合作培育半導體人才,持續深化與台灣半導體生態系合作。

作者簡介

呂承哲

壹蘋新聞網財經科技記者,專注半導體、AI與新能源產業,追蹤台積電、輝達及台廠電子供應鏈動態,並解析市場投資趨勢。


點擊閱讀下一則新聞 點擊閱讀下一則新聞
6月ETF定期定額扣款首破300億!0050占逾4成居冠 穩坐國民ETF