AMD新AI GPU搭載美光HBM3E 支援達5200億個參數AI模型
【記者呂承哲／台北報導】美光科技（Micron）宣布， HBM3E 12 層堆疊 36GB 記憶體整合至即將推出的 AMD Instinct MI350 系列解決方案，此次合作突顯能源效率和效能在訓練大型 AI 模型、提供高傳輸量推論，以及處理複雜之高效能運算工作負載 （如資料處理和運算建模）方面的關鍵作用，這也是美光在 HBM 產業領導地位的另一重大里程碑，展現美光穩健的執行力和強大的客戶關係。
美光 HBM3E 12 層堆疊 36GB 記憶體現已通過多個領先 AI 平台的認證，為 AMD Instinct MI350 系列 GPU 平台帶來領先業界的記憶體技術，提供卓越的頻寬表現和更低的功耗。
AMD Instinct MI350 系列 GPU 平台採用 AMD 先進的 CDNA 4 架構，整合 288GB 高頻寬 HBM3E 記憶體，可提供高達 8 TB/s 的頻寬，實現優異的吞吐量。憑藉如此龐大的記憶體容量，Instinct MI350 系列 GPU 可在一顆 GPU 上高效支援高達 5,200 億個參數的 AI 模型。
在完整平台配置中，Instinct MI350 系列 GPU 可搭載高達 2.3TB 容量的 HBM3E 記憶體，並在 FP4 精度下實現高達 161 PFLOPS 的峰值理論效能，具備頂尖的能源效率和可擴充性，適合高密度 AI 工作負載，為大型語言模型訓練、推論和科學模擬任務提供卓越的傳輸效能，不僅有助資料中心順暢無礙的擴展，更能達成每瓦運算效能的極大化。美光和 AMD 攜手合作，有效縮短了 AI 解決方案的上市時間。
點擊閱讀下一則新聞
