共有 120 項結果


CSP巨頭全面導入!輝達Dynamo平台推動多節點AI推論效能革命

CSP巨頭全面導入!輝達Dynamo平台推動多節點AI推論效能革命

【記者呂承哲/台北報導】大型語言模型(LLM)與混合專家模型(MoE)持續擴張,單一 GPU 已難以支撐龐大推論需求,企業必須改採多節點架構提升速度與承載量。輝達(NVIDIA)推出 Dynamo 平台,將多節點推論能力帶入實際生產環境,讓企業能在既有雲端架構中取得基準測試等級效能,成為擴大 AI 服務的新動能。

loading