隨著自主代理(Autonomous Agents)從簡單指令提示(Prompts),轉向動態、多步驟工作流程,運算節點對I/O頻寬及電源效率要求同步提高。神雲此次推出兩款採AMD Zen 6架構的ORv3運算平台,鎖定大規模並列代理請求。

其中,C2810Z6為高密度雲端與HPC工作負載設計的ORv3多節點運算伺服器,採SP7插槽,最高支援256核心、512執行緒,每節點最高支援4TB DDR5-8000記憶體,並提供PCIe Gen 6 I/O及NVMe儲存配置。

C2610Z6則鎖定可擴充雲端、企業IT及邊緣應用,採SP8插槽,最高支援128核心、256執行緒,每節點同樣最高支援4TB DDR5-8000記憶體,並導入PCIe Gen 6、48Vdc電源匯流排與DC-SCM 2.0管理模組。

除了單一伺服器效能,神雲也將布局擴大至完整機櫃。神雲指出,多代理系統涉及持續推理循環、動態工具調用、即時記憶檢索及多代理調度,對散熱、儲存及叢集治理提出更高要求,因此以52U高密度AI液冷機櫃為核心,整合AMD、Intel及NVIDIA架構的AI伺服器。

其中,單一52U液冷機櫃最高可容納96顆AMD Instinct MI355X GPU,因應代理式AI持續進行多步驟推理的運算需求;OCP HPC機櫃則採開放式ORv3標準、48Vdc電源分配及模組化設計,讓資料中心可隨AI工作負載增加擴充運算節點。

針對代理式AI所需的記憶體存取及任務調度,神雲也與DDN、Rafay及Canonical Ubuntu等生態系夥伴合作,透過高吞吐量向量及會話儲存,以及多代理叢集治理能力,降低從儲存到運算的資料傳輸瓶頸。

神雲進一步將機櫃級產品組合與NVIDIA五層架構(Five-Layer Architecture)對齊,從晶片、基礎架構、調度與資料管線、模型延伸至應用層,打造可直接部署的企業級「AI工廠」(AI Factory)。

神雲表示,平台可整合AMD Instinct MI355X、MI350X、MI350P及NVIDIA RTX PRO Blackwell系列GPU,並結合DDN、Rafay、Kubernetes及自有MiCoreView POD管理套件,支援大型語言模型(LLM)、視覺語言模型(VLM)、多模態大型語言模型(MMLLM)及混合專家模型(MoE),延伸至Agentic AI、RAG、生成式AI及大規模HPC模擬等企業應用。

作者簡介

呂承哲

壹蘋新聞網財經科技記者,專注半導體、AI與新能源產業,追蹤台積電、輝達及台廠電子供應鏈動態,並解析市場投資趨勢。


點擊閱讀下一則新聞 點擊閱讀下一則新聞
輝達CPO進入量產!攜台灣夥伴開發200G SerDes 台積電助攻先進封裝