中國信託投信經理人許家瑜分析,本次GTC大會的重要訊號之一,是推論(Inference)算力需求正快速爆發。輝達推出的Rubin GPU與Groq LPU聯合推論架構,大幅提升運算效率,據估算每兆瓦算力吞吐量可提升35倍,同時將每Token成本降至原本的十分之一。目前包括Anthropic、OpenAI與Meta等國際AI公司,皆已陸續導入新一代AI平台。

許家瑜指出,AI應用型態也正出現重大轉變。過去AI主要以聊天機器人形式存在,但未來將演進為能自主執行任務與協作的「代理式AI(Agentic AI)」。這類AI需要長時間持續推論與運作,對Token與算力需求將呈現爆炸性成長。

黃仁勳預估,到2027年全球AI基礎設施訂單規模將突破1兆美元。許家瑜認為,在需求持續攀升下,台灣半導體設備、先進封裝、CPO光學與晶圓代工等供應鏈,將迎來長期結構性機會。

然而算力需求快速擴張,也讓電力問題浮上檯面。中國信託投信經理人施絜心指出,目前AI資料中心(AIDC)面臨的主要瓶頸並非發電量不足,而是電網建設與併網速度過慢。統計顯示,美國電網併網申請排隊時間已長達3至5年,形成「電力交付延遲」問題,迫使雲端服務商與資料中心業者調整建設策略。

在美國推動能源自主政策下,若AI資料中心大量使用既有電網資源,可能推升民生電價,因此監管機構未來可能限制資料中心接入傳統電網的比例。

中國信託投信認為,自備電源將從過去的加分項目,轉變為AI資料中心的基本條件。資料中心業者未來將加速導入離網供電模式,包括天然氣渦輪機、燃料電池與大型儲能系統等自主發電設備,相關重電與能源設備需求也將同步提升。

中國信託投信表示,從GTC大會釋出的技術路線與產業合作來看,AI發展動能並未放緩,投資人也應跳脫僅關注AI晶片的思維。隨著代理式AI建設週期剛啟動,AI工廠的建置將全面帶動硬體供應鏈,未來市場投資主軸將圍繞在「半導體設備、算力與電力」三大基礎設施。投資人可從AI資料中心與電力供應鏈等方向布局,掌握AI下半場的兆元商機。

火線話題 | 輝達GTC宣告實體AI來了

這篇報導屬於「 輝達GTC宣告實體AI來了 」主題,更多延伸閱讀:

  1. 輝達GTC大會|彩蛋「雪寶」登場!與黃仁勳互動超吸睛 機器人齊唱迎「ChatGPT時刻」
  2. 神雲科技GTC秀MGX架構AI伺服器 攜Rafay、DDN打造一站式AI平台
  3. 輝達GTC大會|7款晶片打造AI超級電腦!Vera Rubin下半年推出 台灣供應鏈入列
作者簡介

呂承哲

壹蘋新聞網財經科技記者,專注半導體、AI與新能源產業,追蹤台積電、輝達及台廠電子供應鏈動態,並解析市場投資趨勢。


點擊閱讀下一則新聞 點擊閱讀下一則新聞
獨家|郭台銘重登首富卻賣掉私人飛機 親近人士曝光真實原因