AMD大會｜攜手Cerebras搶攻AI推論 Helios結合晶圓級引擎吞吐量飆5倍
...AI基礎建設最大的成長機會之一，但不同應用在延遲、吞吐量、成本及規模上的需求愈來愈多元。部分工作負載...
AMD開戰輝達！首款台積電2奈米CPU登場 蘇姿丰：Helios全面量產
...V4-Flash模型測試，MI455在低併發情境下吞吐量較MI355提升4倍，高併發下最高提升34倍...
AMD大會｜搶攻實體AI！稱Kria效能勝Jetson Thor AI晶片藍圖同步揭露
...光學互連，AMD目標在4年內將Instinct推論吞吐量提高逾2000倍，並維持每年推出新一代Hel...
台廠搶進美國矽心臟與AI走廊！記憶體規模增250%、伺服器出貨拚1800萬台
...快速攀升，因此市場加速導入ASIC推理晶片，以提升吞吐量與能源效率。同時，AI也逐步走向本機裝置及實...
聯發科COMPUTEX搶先看！與輝達合作推RTX Spark 卡位Wi-Fi 8、6G與矽光子
...，可提升Wi-Fi 5／6／7裝置連線穩定度，系統吞吐量最高提升200%，檔案下載時間可縮短約50%...
黃仁勳「遶境」首站衝雲達！現場發AI五層蛋糕 喊話Vera Rubin拚「光速量產」
...起，CPU正逐漸成為AI推論的重要核心，可提升AI吞吐量、KV cache重用效率與首Token產出...
英特爾大秀18A製程！攜鴻海打造機櫃級AI系統 喊台灣供應鏈是關鍵夥伴
...指出，Together.ai已成為首批採用客戶之一，該平台號稱提供目前企業推論領域最快的吞吐量表現。
黃仁勳揭AI工廠新時代！代理式AI重構資料中心 輝達不只賣GPU「運算就是收入」
...在就是收入。」他表示，在1GW固定供電條件下，每瓦吞吐量都直接等於收入與利潤，因此「每瓦Token產...
輝達推Nemotron 3 Nano Omni！多模態AI吞吐量增9倍 攻代理應用
...態推理。 官方數據顯示，在相同互動條件下，其資料吞吐量可達其他開放式全模態模型的9倍，同時兼顧回應...
不只手機晶片！聯發科揭「雲端＋邊緣」AI戰略 卡位6G時代Token商機
...時代的殺手級應用是影音串流，5G時代則是IoT與高吞吐量，而進入6G時代後，「以Token為基礎的生...
瞄準數十萬GPU超級叢集！輝達Spectrum-X成關鍵 打造新AI網路協定
...過多條網路路徑傳輸資料，藉此提升AI訓練網路的資料吞吐量、負載平衡與可用性。NVIDIA形容，MRC...
台灣瘋AI如何應用？專家點名3大領域發展最快 點名製造業AI先落地
...nference）階段，而推論最核心的需求，就是高吞吐量（High Throughput）能力。 ...
央視畫面驚見「8964」！網揭不尋常：有大事發生？
...視25日在《新聞聯播》中，報導中國港口第1季集裝箱吞吐量時，畫面竟大剌剌打出「8964」，引發外界高...
聯發科最新AI座艙Dimensity Auto亮相北京車展 衝刺「AI定義汽車」時代
...S），可讓多個AI模型共享GPU運算資源，提升整體吞吐量達50%，強化多任務與即時互動能力。 模型...
杜拜機場又遇無人機攻擊 伊朗放話要打鄰國銀行
...場是長程線航空公司阿聯酋航空（Emirates）的基地，也是全球國際旅客吞吐量最大的機場。（中央社)
AI推論時代重構伺服器資源！代理AI驅動協作 LPU崛起、光銅並進成形
...多元資源協同。在推論場景中，系統需在回應延遲與整體吞吐量之間取得平衡。蕭聖倫指出，輝達執行長黃仁勳近...
美光加碼台灣！銅鑼廠揭牌擴產DRAM拚AI需求 股價卻因這事掀波動
...he），短期對訓練需求影響有限，但可提升單一GPU吞吐量。長期而言，隨著成本下降與部署門檻降低，可能...
神雲科技GTC秀MGX架構AI伺服器 攜Rafay、DDN打造一站式AI平台
...SuperNIC），可為大規模AI訓練與推理提供高吞吐量與低延遲的運算環境。 此外，神雲科技也展示...
AI記憶體戰況火熱！美光宣布HBM4量產 專為輝達Vera Rubin設計
...訓練與推論提供高速、低延遲資料存取能力，其連續讀取吞吐量最高達28GB/s，隨機讀取速度則可達550...
輝達GTC揭AI兆元基建商機！AI下半場拚「算力＋電力」
...U聯合推論架構，大幅提升運算效率，據估算每兆瓦算力吞吐量可提升35倍，同時將每Token成本降至原本...
loading
