黃仁勳表示,「實用AI已經到來」,而代理式AI(Agentic AI)的運算模式,本質上是「解構式」與「分散式」,因此高速連接性(Connectivity)已成為AI時代最關鍵的基礎設施。他指出,當AI工作負載被拆分至整個資料中心後,必須仰賴龐大的網路架構與高速互連,才能整合總運算量、記憶體與頻寬,而這正是Marvell的重要角色,並喊話Marvell成為下一家1兆美元市值企業。
黃仁勳進一步指出,Grace Blackwell平台主要聚焦AI推理,而下一代Vera Rubin架構則是專為代理式AI打造,不只處理AI推理,也涵蓋編排系統、長短期記憶體管理與異質運算協同能力。他透露,輝達與Marvell正共同推動NVLink Fusion架構,讓客戶能在同一平台整合NVIDIA GPU、客製化ASIC、光學與高速互連技術,打造解構式與異質化AI資料中心。
談到銅線與光學技術未來發展,黃仁勳認為,未來5至10年資料中心仍會同時大量使用銅線與光學技術,但隨著頻寬與傳輸距離需求持續提升,光學將逐漸成為必要方案。他也強調,AI如今已進入可獲利階段,Token是能賺錢的,因此企業都希望生產更多Token,進一步推升AI基礎建設需求。
Murphy則展示Marvell最新光學布局。他指出,全球大型雲端業者擁有數百座資料中心,而跨資料中心長距離傳輸高度仰賴「相干光學」(Coherent Optics)技術。Marvell目前已成為少數具備相干DSP能力的業者之一,產品也從100G、400G推進至800G,並預計於今年稍晚推出全球首款1.6Tb、採2奈米製程的相干光學方案。
除長距離光傳輸外,Marvell也同步布局資料中心內部互連技術,包括PAM4 DSP、高速類比元件與乙太網交換機,產品已從50G一路推進至1.6T連接方案,並宣布推出新一代100T乙太網交換機,持續搶攻AI高速互連市場。
Murphy透露,Marvell過去10年透過收購投入225億美元,研發投入180億美元,整體平台投資累計已達360億美元。其中最關鍵的決策之一,就是全面轉向最先進製程節點。他坦言,Marvell過去曾是製程技術的「快速跟隨者」,但為了搶進AI資料中心市場,公司直接跳過7奈米,從14/16奈米世代直接跨入5奈米,「幾乎沒有人會這麼做,但我們做了,而且成功了。」
目前Marvell已建立完整高速連接產品線,包括高速SerDes、客製化運算平台、CXL記憶體池化、近記憶體運算、高速光互連與資料中心交換機等,連接性業務也成為核心營收來源。Murphy指出,Marvell 2016年營收僅23億美元,如今華爾街預估今年營收將達114億美元,明年更上看164億美元,資料中心營收占比也從不到10%提升至超過75%。
他最後強調,AI基礎設施過去幾年已陸續解決運算與記憶體瓶頸,如今瓶頸重新回到「連接性」。隨著推理模型、混合專家模型(MoE)與代理式AI快速發展,資料必須在資料中心間高速流動,更高頻寬、低延遲的互連需求也正快速攀升。
點擊閱讀下一則新聞