Lightmatter此次宣布「Open Silicon Photonics for AI Systems」倡議正式成為開放運算計畫(OCP)旗下工作小組,目前已有19家企業參與,並發布開放矽光子架構願景白皮書。架構以模組化硬體系統(MHS)及Open Rack v3(ORv3)規範為基礎,目標協助AI運算叢集從72個節點擴展至超過1024個節點,同時維持多供應商互通性,首批規格預計今年第四季完成。

Harris指出,隨AI Scale-up架構跨越多個機架擴展,銅線傳輸距離成為系統規模持續放大的限制。相較之下,光學互連可將傳輸距離延伸至1公里,提升約1000倍,埠密度可提高約8倍,目前尖端光學技術可透過單一光纖承載16種波長,傳輸頻寬超過1.6 Tbps。

Lightmatter進一步提出面陣封裝光學(Aerial Packaged Optics,APO)架構。Harris表示,傳統銅線及CPO主要從晶片周圍將訊號引出,頻寬擴充受到晶片邊緣長度限制;APO則利用晶片表面進行光學訊號引出,使頻寬擴充能力由線性成長轉為面積成長。以單一光罩尺寸比較,銅線每個方向約可提供26 Tbps,CPO約83 Tbps,APO則可達1191 Tbps。

Lightmatter也透過Passage平台布局NPO、3D CPO及光子中介層(Photonic Interposer),並導入BiDi雙向傳輸技術。Harris指出,在512顆GPU或XPU組成的Scale-up Domain中,BiDi可將原本分別負責傳送及接收的兩條光纖整合為單一光纖,每個512 XPU系統可減少約150英里光纖及2萬個光學連接器,並降低吉瓦級資料中心約16%的網路支出。

Lightmatter規劃矽光子技術路線,2027年由NPO起步,2028年邁向3D CPO,2029年後進一步導入光子中介層,逐步提高光學元件與運算晶片整合程度。Lightmatter提供
Lightmatter規劃矽光子技術路線,2027年由NPO起步,2028年邁向3D CPO,2029年後進一步導入光子中介層,逐步提高光學元件與運算晶片整合程度。Lightmatter提供

除光學互連外,Lightmatter也布局Guide雷射技術。Harris表示,以未來800 Tbps交換器為例,傳統架構可能需要128個雷射模組,Guide則可降至16個。Guide採用VLSP(Very Large Scale Photonics)技術,可在單一矽晶片整合128個雷射、支援64個以上波長,並採300毫米CMOS SOI製程,希望擴大生產規模並建立新的雷射供應鏈。

針對AI實際工作負載,Harris指出,根據Lightmatter測試,在相同14.4 Tbps頻寬下,將Scale-up Domain由144顆GPU擴大至512顆,AI訓練速度可提升約1倍;若頻寬由約14 Tbps提高至32 Tbps,在相同GPU數量下,訓練速度可接近3倍。AI推理方面,Passage可將Prefill階段的首個Token產生時間縮短約3倍,Decode階段解碼速度則較銅線架構提升約2倍。

Harris表示,Hyperscaler正積極與Lightmatter及其他業者合作導入光學解決方案,預期2027至2029年將是資料中心部署光子技術非常關鍵的3年。

針對CPO與可插拔光學的成本競爭力,Harris表示,若以單位傳輸速率成本計算,CPO明顯較便宜。雖然未來頻寬大幅提高,整體解決方案成本可能增加,但若以可插拔光學滿足新一代XPU所需頻寬,系統建置成本將難以負擔。

Lightmatter提出3D光子技術,透過晶片表面進行光學訊號引出,APO每個方向傳輸頻寬可達1191 Tbps,約為傳統銅線26 Tbps的46倍,並大幅超越CPO的83 Tbps。Lightmatter提供
Lightmatter提出3D光子技術,透過晶片表面進行光學訊號引出,APO每個方向傳輸頻寬可達1191 Tbps,約為傳統銅線26 Tbps的46倍,並大幅超越CPO的83 Tbps。Lightmatter提供

Lightmatter產品行銷暨通訊主管Peter Carson表示,公司預計今年第四季發布首個基準規格,將利用OCP ORv3、MHS等既有規格,映射CPO尚未由產業完整定義的特定需求,透過系統層級整合及合規性驗證建立互通性。

這套開放架構採技術中立設計,可支援矽光子、垂直共振腔面射型雷射(VCSEL)及Micro LED等光子技術,希望建立具韌性的多供應商供應鏈,長期因應高達10萬顆XPU運算叢集的效能與功耗需求。

針對APO後續封裝合作,Harris表示,Lightmatter已與多家公司合作,並點名台積電、日月光及Amkor均為公司的封裝合作夥伴。公司期待相關新標準於今年底形成,透過與OCP及產業夥伴合作,推動矽光子從單一元件技術進一步走向機架級架構,為AI資料中心Scale-up由銅線轉向光學互連奠定基礎。

本文依《新聞倫理政策》《新聞規範》《事實查核政策》採訪撰寫,如有疑問與指教請見《更正政策》

作者簡介

呂承哲

壹蘋新聞網財經科技記者,專注半導體、AI與新能源產業,追蹤台積電、輝達及台廠電子供應鏈動態,並解析市場投資趨勢。


點擊閱讀下一則新聞 點擊閱讀下一則新聞
台股單週飆1585點!外資掃貨2061億 法人曝Q3震盪「最高看4萬9」