Nick Harris表示,AI工作負載正快速成長,前沿AI系統功耗每年增加約2至3倍,但美國電網容量約每25年才增加一倍,供電成長速度遠遠跟不上AI需求。未來不可能只靠增加更多GPU解決問題,每一瓦電力與每一條通訊鏈路都必須被更有效率地利用,而互連技術正是提升AI系統效率的關鍵。

他指出,目前AI工作主要分為訓練(Training)、推理預填(Inference Prefill)與推理解碼(Inference Decode)三大類型。隨著模型規模持續擴大及MoE架構普及,資料傳輸與記憶體頻寬需求快速增加,通訊成本已逐漸成為限制AI效能的重要因素。

為解決這項問題,Lightmatter推出Passage光子平台,以光子中介層(Photonic Interposer)取代傳統銅線互連架構。根據模擬結果,在萬億參數等級MoE模型訓練環境下,Passage可建立更大規模的Scale-up運算域,讓模型訓練時間縮短3倍。

在推理應用方面,Passage同樣展現效益。針對大型模型長上下文推理需求,可將首個Token產生時間(TTFT)縮短3倍;在Decode階段則透過降低網路跳數與優化拓撲架構,讓互動性提升11倍,改善即時推理體驗。

Lightmatter創辦人暨執行長Nick Harris 與產品。公司提供
Lightmatter創辦人暨執行長Nick Harris 與產品。公司提供

Nick Harris認為,未來AI叢集將突破單一機架限制,從機架內部延伸至跨機架甚至跨資料中心連接。光子技術不再只是光模組的替代方案,而是構成整個AI網路織網(Fabric)的核心基礎,讓數千顆GPU或加速器能如同單一大型運算系統般協同運作。

此次Lightmatter也展示多項新產品,包括Passage EVK50與Passage EVK100光互連平台。其中EVK100可提供每條光纖1.6Tbps頻寬,而最受矚目的Passage M1000則具備114Tbps頻寬、1024組SerDes與內建光學交換能力,象徵光子仲介層技術正式邁向實際部署階段。

Lightmatter同步推出eCLICK與vCLICK可拆卸光纖陣列單元,解決共封裝光學(CPO)長期面臨的維護問題,降低產業導入門檻。

Lightmatter此次也發表通用光學引擎Passage L20,預計於2027年第一季量產,可支援近封裝光學(NPO)、共同封裝光學(CPO)及XPO等架構。公司同步公布未來產品藍圖,規劃2027年率先導入NPO產品、2028年進一步布局CPO,後續則朝光子仲介層(Photonic Interposer)與光學引擎整合發展,加速光子技術向運算核心靠攏。

Nick Harris表示,AI產業正從以銅線與SerDes為核心的架構,逐步轉向以光子技術為基礎的新世代基礎設施。從NPO、CPO到超大規模光子整合(VLSP),Lightmatter希望打造支撐未來ASI時代所需的光學基礎設施,成為下一波AI擴展的重要推手。

作者簡介

呂承哲

壹蘋新聞網財經科技記者,專注半導體、AI與新能源產業,追蹤台積電、輝達及台廠電子供應鏈動態,並解析市場投資趨勢。


點擊閱讀下一則新聞 點擊閱讀下一則新聞
從CoWoS到COUPE!台積電攜輝達搶攻光通訊 CPO交換器下半年放量