AMD董事長暨執行長蘇姿丰(Lisa Su)表示,硬體只是AI平台的一部分,真正讓開發者能在平台上建構應用的是軟體。AMD近年持續投入開源軟體堆疊ROCm,目前發布頻率已由每4個月一次縮短至每6週一次,並成為Hugging Face、PyTorch、JAX、vLLM及SGLang等AI生態系統的預設支援平台之一。

AMD人工智慧事業群資深副總裁Vamsi Boppana指出,過去要對AMD GPU進行程式設計,需要深厚專業知識與大量工程投入,但AI正改變軟體開發方式。AMD工程師已開始利用AI生成GPU Kernels、偵錯及優化程式碼,部分AI生成結果甚至超越人工精細調校版本。

ROCm.ai建立於ROCm運行時、函式庫、編譯器及工具之上,核心為AI優化層HyperLoom,可分析工作負載、選擇與調校Kernels,並反覆測試直到達成效能目標。AMD表示,HyperLoom近期已完成一套涵蓋1.4萬個模型的組合分析與優化,過去即使投入大型工程團隊也難以完成。

AMD以在MI355X上優化MiniMax M3為例,開發者只需輸入指令,ROCm.ai便會自動拉取模型配方、分析工作負載並測試不同Kernel與運行配置,最終使每秒Token數提升38%。在Helios機櫃上,ROCm.ai也透過Codex自動部署擁有1.6兆參數的DeepSeek V4 Pro,省去手動處理模型架構、通訊策略與機櫃級部署的流程。

AMD並公布MI455實測成果,在真實工作負載下達到20TB/s記憶體頻寬及20 PFLOPS運算輸出。OpenAI工程師、Triton創作者Philippe Tillet表示,雙方已從MI300、MI355合作擴大至MI455及Helios,並深入LLVM程式碼生成與軟硬體協同設計。AMD採取開源策略,讓AI代理能理解更低階的程式碼與指令排程,進一步提升GPU效能。

此外,AMD也推出面向企業資料中心的氣冷式Instinct MI350P,無須升級機房電力與散熱設施,單顆GPU可支援最高2600億參數模型,每美元Token效能為競品4倍以上。AMD表示,透過EPYC與MI350P智慧分配雲端及地端模型請求,內部實測可降低43% Token成本,並使地端工作負載回應速度提升最高3倍。

作者簡介

呂承哲

壹蘋新聞網財經科技記者,專注半導體、AI與新能源產業,追蹤台積電、輝達及台廠電子供應鏈動態,並解析市場投資趨勢。


點擊閱讀下一則新聞 點擊閱讀下一則新聞
6月電力景氣燈號續亮熱絡紅燈 台綜院預測6月GDP為11.1%