AI半年一代催動3DIC！台積電何軍揭先進封裝新挑戰：不能再各做各的

AI半年一代　緯穎點名電力、散熱、資料傳輸三大挑戰

3DIC全球高峰論壇對談，由日月光執行副總經理洪松井、台積電先進封裝技術暨服務副總經理何軍主持，緯穎總經理林威遠、健策總經理林錦隆、志聖工業營運長曾文進加入對談。

洪松井表示，傳統摩爾定律約每18至24個月推進一倍，但進入AI運算時代後，運算需求可能每4至5個月就翻倍，產業面對的速度與規模已與過去完全不同。隨著AI朝「AI Ready」、「Software-driven」發展，從晶片、封裝到系統端的協作模式也必須跟著改變。

林威遠指出，台灣AI產業最大優勢，在於從IC設計、晶圓代工、OSAT、設備，到散熱、電源及系統廠皆具備完整供應鏈，而且彼此距離近，有利快速協作。

不過，產品迭代速度正在大幅加快。過去一款伺服器可以銷售3年，如今幾乎每6至7個月就有新一代技術推出，系統設計也愈來愈困難。目前AI系統面臨三大挑戰，分別是電力、散熱及資料傳輸。

電力方面，隨著高密度晶片功耗攀升，單一機櫃功率已從過去約30kW提高至100kW，如何降低傳輸損耗、提升能源效率成為重要課題，晶片與系統端都開始導入垂直供電等新架構。

散熱壓力也快速攀升。林威遠形容，「電要進得來，熱要出得去」，隨著晶片尺寸及功耗持續增加，緯穎目前在系統設計上甚至面臨約6000W的散熱挑戰。

他表示，過去晶片、封裝及系統廠大多各自開發，系統廠往往直到後段拿到產品，才開始處理供電、線路、液冷管路及系統整合，但這種方式已無法因應AI快速迭代。未來系統廠應提前參與POC、測試及驗證，甚至從Data Center、Rack Level系統架構一路回推晶片及封裝設計。

健策：上下游都是客戶　從均熱片一路做到系統液冷

林錦隆表示，AI散熱需求快速升高，對健策而言，系統廠與先進封裝廠其實都是客戶。他笑稱自己坐在Panel中間，「左邊是一位顧客，右邊也是一位顧客」，緯穎是潛在客戶，先進封裝龍頭同樣也是健策的重要客戶，而兩端共同面臨的問題都是「熱」。

健策過去從封裝端散熱切入，提供均熱片、Stiffener等產品，但AI晶片功耗與尺寸持續放大後，問題已不只是散熱，熱膨脹也會造成結構變形，因此散熱與機構問題必須同步處理。

林錦隆指出，健策約5年前就預見，只解決封裝端散熱仍不足，因為封裝端做好的方案，到了系統端「不一定能用」，因此開始投入液冷，希望把客戶範圍從封裝一路延伸至系統。目前除均熱片、Stiffener外，也布局水冷板（Cold Plate）、In-rack Manifold及相關機構件，同時對接封裝與系統客戶。

隨著AI GPU愈做愈大，健策也從單一零組件朝Total Solution發展。林錦隆表示，大型均熱片其實已投入約10年研究，直到4年前產業需求浮現才正式推向市場，正是整合系統端與封裝端需求的產品。

台積電：不能只靠最後階段救火

何軍則以25年前半導體產業導入Low-k dielectric為例指出，當時晶片端也曾認為「做完交給封裝處理即可」，但後來發現許多問題無法由封裝端單獨解決，必須從前期就共同開發。

如今AI系統同樣如此。若等到產品開發最後階段，才回頭要求元件、先進封裝或材料端修改，不只時間緊迫，也會增加整條供應鏈負擔。

何軍表示，過去一、兩年產業確實做到接近「一年一代」的快速迭代，但關鍵在於這種速度能否長期穩定維持，同時兼顧成本效益。未來晶片、先進封裝、材料與系統業者必須落實Early Engagement與Co-development，在開發前期就共同找出問題、提早解決，才能讓AI產品快速迭代真正成為可持續的模式。