AMD董事長暨執行長蘇姿丰(Lisa Su)表示,硬體只是AI平台的一部分,真正讓開發者能在平台上建構應用的是軟體。AMD近年持續投入開源軟體堆疊ROCm,目前發布頻率已由每4個月一次縮短至每6週一次,並成為Hugging Face、PyTorch、JAX、vLLM及SGLang等AI生態系統的預設支援平台之一。
AMD人工智慧事業群資深副總裁Vamsi Boppana指出,過去要對AMD GPU進行程式設計,需要深厚專業知識與大量工程投入,但AI正改變軟體開發方式。AMD工程師已開始利用AI生成GPU Kernels、偵錯及優化程式碼,部分AI生成結果甚至超越人工精細調校版本。
ROCm.ai建立於ROCm運行時、函式庫、編譯器及工具之上,核心為AI優化層HyperLoom,可分析工作負載、選擇與調校Kernels,並反覆測試直到達成效能目標。AMD表示,HyperLoom近期已完成一套涵蓋1.4萬個模型的組合分析與優化,過去即使投入大型工程團隊也難以完成。
AMD以在MI355X上優化MiniMax M3為例,開發者只需輸入指令,ROCm.ai便會自動拉取模型配方、分析工作負載並測試不同Kernel與運行配置,最終使每秒Token數提升38%。在Helios機櫃上,ROCm.ai也透過Codex自動部署擁有1.6兆參數的DeepSeek V4 Pro,省去手動處理模型架構、通訊策略與機櫃級部署的流程。
AMD並公布MI455實測成果,在真實工作負載下達到20TB/s記憶體頻寬及20 PFLOPS運算輸出。OpenAI工程師、Triton創作者Philippe Tillet表示,雙方已從MI300、MI355合作擴大至MI455及Helios,並深入LLVM程式碼生成與軟硬體協同設計。AMD採取開源策略,讓AI代理能理解更低階的程式碼與指令排程,進一步提升GPU效能。
此外,AMD也推出面向企業資料中心的氣冷式Instinct MI350P,無須升級機房電力與散熱設施,單顆GPU可支援最高2600億參數模型,每美元Token效能為競品4倍以上。AMD表示,透過EPYC與MI350P智慧分配雲端及地端模型請求,內部實測可降低43% Token成本,並使地端工作負載回應速度提升最高3倍。
點擊閱讀下一則新聞