輝達Vera Rubin推論效能最高飆3.7倍 AI工廠每百萬瓦輸送量衝30倍
【記者呂承哲／台北報導】隨著代理型AI（Agentic AI）帶動帶動推論工作負載快速增加，AI基礎設施競爭轉向能源效率。輝達（NVIDIA）公布Vera Rubin NVL72最新進展，首度參與MLPerf Inference v6.1預覽測試，輸送量最高達GB300 NVL72的3.7倍，搭配DSX MaxLPS更可在相同供電下增加最多40% GPU。
Apple新Mac正式開賣 M6 Mac mini 2萬9900元起
...組成叢集。Apple宣稱，相較單一系統，分散式AI推論效能最快能提升至3倍。 顯示器擴充能力也相當...
英特爾搶實體AI大餅！新一代處理器攻機器人 逾130項設計落地
...工作流程中導入AI，同時兼顧總持有成本、能耗效率及推論效能。 目前邊緣AI部署仍以傳統機器學習及電...
AMD開戰輝達！首款台積電2奈米CPU登場 蘇姿丰：Helios全面量產
...最高提升34倍。在相同功耗條件下，Helios整體推論效能平均較競爭對手高出10%至15%，每美元可...
輝達世界模型下放邊緣GPU！Cosmos 3 Edge瞄準機器人、自駕車
... Edge採用混合Transformer架構，兼顧推論效能與部署效率，可在裝置端支援以物理世界為基礎...
合作夥伴力挺！輝達Blackwell Ultra推論效能優異 AI部署投報率更佳
...well 與 Hopper 平台的優異表現。領先的推論效能已透過主要雲端服務供應商與伺服器製造商提供...
CSP巨頭全面導入！輝達Dynamo平台推動多節點AI推論效能革命
AI 推論效能能否提升，關鍵在於如何將複雜模型拆分成不同運算階段。以大型模型的推論流程而言，大致可分...
12月上市！NVIDIA在SC24推出H200 NVL 推論效能較前代提升1.7倍
...記憶體容量提升 1.5 倍、頻寬增加 1.2 倍、推論效能提升 1.7 倍，能於數小時內完成大型語言...
輝達財報超強！盤後卻一度挫3% 黃仁勳曝AI工廠爆發、Rubin將長期缺貨
...正式量產導入，官方指出，可將生成式AI與代理式AI推論效能在Blackwell GPU平台上提升最高...
輝達Blackwell GPU首次測試亮相 在Llama 2 70B推論效能提高4倍
...行的首次測試結果，在 Llama 2 70B 上將推論效能提高四倍，而 NVIDIA Hopper ...
研華攜英特爾推邊緣AI解方 醫療影像導入最高180TOPS推論能力
...e3 GPU與NPU，提供最高180TOPS的AI推論效能，可支援即時影像分析與異常辨識。透過導入Y...
AI推論時代來臨！英特爾Xeon 6獲輝達DGX Rubin採用 強化CPU關鍵角色
...協助企業擴展推論應用。 隨企業加速導入AI系統，推論效能已不僅取決於GPU算力，CPU主導的系統效...
美光送樣256GB SOCAMM2 攜輝達進攻AI資料中心低功耗記憶體
...分之一，有助提升機架密度並降低整體營運成本。 在推論效能方面，美光表示，在整合記憶體架構中，256...
黃仁勳續喊旺AI浪潮！1兆美元商機來了 電子五哥、鴻海GTC布局一次看
...ueField-4等架構，提供3.6 EFLOPS推論效能與高頻寬記憶體配置。相較前一代架構，可大幅...
挑戰輝達霸主地位！高通推出2款AI晶片與機櫃 股價暴漲逾2成
...0 倍有效記憶體頻寬，同時大幅降低功耗，在 AI 推論效能與能效上實現世代躍進。加上支援解耦式推論（...
AI競爭白熱化！谷歌TPU對上輝達GPU 台灣供應鏈兩頭賺迎行情爆發
...動整體需求爆發。目前全球科技巨頭加速AI模型訓練、推論效能與自研ASIC布局，形成科技產業的結構性成...
過去2年總和！8大CSP巨頭投資飆4200億美元 自研AI晶片競賽開打
...om合作的MTIA v2將於2025年底量產，強化推論效能，採用HBM的MTIA v3預計2026年...
AI工廠時代標竿！輝達Blackwell橫掃InferenceMAX測試 投報率飆15倍
...理與工具整合，每次查詢所產生的詞元數急劇增加，也使推論效能與成本控制成為業界焦點。NVIDIA與Op...
輝達Q2財報亮眼！資料中心連2季未達市場預期 H20仍難銷往中國
...級運算是顛覆性的創新，恰逢推理型AI模型推動訓練與推論效能呈數量級增長。AI競賽已經展開，Black...
美光推出業界首批AI專用SSD 滿足AI資料中心高效能低延遲需求
...ented Memory Grid 技術結合，提升推論效能並避免記憶體瓶頸。AMD 則指出，美光先進...
loading
