AMD董事長暨執行長蘇姿丰（Lisa Su）表示，AI推論正快速成為AI基礎建設最大的成長機會之一，但不同應用在延遲、吞吐量、成本及規模上的需求愈來愈多元。部分工作負載追求最高吞吐量，另一些如代理式AI、即時助理則更重視毫秒級回應，因此需要更具彈性的異質運算架構。
她指出，實現超低延遲推論的關鍵之一是「解耦推論」，將推論流程中的預填（Prefill）與解碼（Decode）拆分最佳化。預填需要大量運算能力，解碼則更依賴記憶體頻寬，因此交由不同運算架構各自處理，可同時兼顧效能與效率。AMD Helios提供高吞吐量及可擴充能力，適合處理大型Prompt與長上下文，Cerebras晶圓級引擎則負責超低延遲的Token生成與Decode。
Cerebras共同創辦人暨執行長Andrew Feldman表示，Cerebras打造全球最大、最快的AI晶片，採用完整晶圓設計，並整合成系統、機櫃及叢集，目前提供地端與雲端部署，客戶涵蓋OpenAI、AWS及AI程式開發公司Cognition等，主要優勢就是極高的推論速度。
他表示，AI已從新興技術逐漸成為企業不可或缺的基礎工具，市場對即時回應需求快速增加，因此與AMD合作打造結合AMD CPU、Helios機櫃及晶圓級引擎的解耦推論架構，希望將超低延遲AI推論帶給更多企業客戶。
Andrew Feldman指出，過去企業往往只能在高吞吐量與極致速度之間二選一，如今透過AMD Helios與Cerebras晶圓級引擎整合，在維持超低延遲的同時，吞吐量最高可提升5倍，打造兼具速度、效率與擴充性的AI推論平台。
AMD表示，快速Token生成已成為AI發展的重要能力，尤其隨著AI應用擴展至軟體開發、自主代理、機器人及科學研究等領域，回應速度將直接影響使用體驗與系統效能。雙方合作的新方案預計於2026年下半年率先部署至Cerebras資料中心，並透過Cerebras Cloud對外提供服務，進一步拓展超低延遲AI推論市場。
點擊閱讀下一則新聞
