輝達Blackwell助攻 GMI砸5億美元在台建AI工廠
...架,共7,000顆GPU,推演能力逼近每秒200萬Token,運算規模達1GW級別。公司強調,這將不...
...架,共7,000顆GPU,推演能力逼近每秒200萬Token,運算規模達1GW級別。公司強調,這將不...
總部設在美國的雲端服務供應商GMI Cloud今天表示,在美國人工智慧(AI)大廠輝達支持下,該公司將在台灣建立一座價值5億美元(約新台幣155.8億元)的AI數據中心。
【記者呂承哲/台北報導】大型語言模型(LLM)與混合專家模型(MoE)持續擴張,單一 GPU 已難以支撐龐大推論需求,企業必須改採多節點架構提升速度與承載量。輝達(NVIDIA)推出 Dynamo 平台,將多節點推論能力帶入實際生產環境,讓企業能在既有雲端架構中取得基準測試等級效能,成為擴大 AI 服務的新動能。
...等CSP巨頭所推動,並打造出總持有成本(TCO)、Token成本最低的平台,帶動新一波AI革命浪潮。...
...等CSP巨頭所推動,並打造出總持有成本(TCO)、Token成本最低的平台,帶動新一波AI革命浪潮。...
...期,利用輝達GB200 NVL72平台,生產最高 Token 產生效率、最低 TCO 回應這波AI超...
【記者呂承哲/台北報導】AI 推動資料中心加速朝節能、高密度架構轉型,記憶體能效成關鍵。美光科技(Micron)宣布其 192GB SOCAMM2已正式送樣客戶,擴大低功耗 DRAM 在 AI 部署中的應用。
...del Hub匯聚50多種模型、累計運算量達18億Token數;開發超過35個AI助手工具、支援25...
...模式,也凸顯輝達在AI基礎設施領域的領先優勢。 Token為大型語言模型(LLM)處理文本的最小運...
【記者呂承哲/台北報導】全球晶圓代工龍頭台積電(2330)今(16)日舉行線上法說會,台積電董事長魏哲家表示,AI 帶動的訂單動能比先前預期更為強勁,公司對長期市場趨勢充滿信心。
【記者呂承哲/台北報導】推論效能是人工智慧(AI)工廠經濟效益的核心關鍵,輸送量越高,就能以更快速度產生更多詞元(token),進而提高營收、降低總擁有成本(TCO),並提升整體系統的生產力,輝達(NVIDIA)Blackwell Ultra 架構GB300 NVL72 機架系統,在GTC大會首度亮相半年後,便於 MLPerf Inference v5.1 推論基準測試中刷新紀錄,相較於 GB200 NVL72,在 DeepSeek-R1 推論輸送量上最高可達 1.4 倍。
【記者呂承哲/台北報導】緯創資通(3231)26日宣布,將 NVIDIA 最新的 RTX PRO 6000 Blackwell Server Edition GPU 整合至旗下先進 AI 伺服器平台,目標在企業運算市場樹立次世代效能與效率的新里程碑。
...具備64個運算單元與128個第2代AI加速器,在高Token數大型語言模型、指令微調等AI任務上展現...
從黃仁勳主題演講開頭影片中不斷提到「Token」,無論是在數據處理、疾病預警、還是自然資源的保護中,...
...成為競爭主戰場。每次模型回應使用者提示,都需大量 Token 運算,考驗算力與成本調度。Dynamo...
...stinct MI350系列提供每美元最高40%的Token運算效能提升,並維持與產業標準一致的外型...
【國際中心/綜合報導】根據今天公布的財產申報單,美國總統川普過去1年從加密貨幣、高爾夫俱樂部和其他創投事業獲得6億餘美元(約新台幣177億餘元)收入,讓外界一窺他龐大的資產種類和規模。
【記者趙筱文/台北報導】AI晶片大廠輝達(NVIDIA)於29日公布2026會計年度第1季財報,營收達441億美元,年增69%、超越市場預期,淨利接近190億美元、年增26%。受此激勵,輝達股價在盤後交易上漲3%。
...,未來大家會像計算工廠產能一樣,計算一小時生產多少Token。 黃仁勳再度重申,NVIDIA未來不...
...,未來大家會像計算工廠產能一樣,計算一小時生產多少Token。 黃仁勳再度重申,NVIDIA未來不...