黃仁勳指出,未來代理人可同時運行於雲端與終端裝置中,「一路從雲端到你的筆記型電腦」。他舉例,家庭中的AI助理未來可長駐運作,而企業也能透過本地模型伺服器共享AI能力。
談到分散式AI架構,黃仁勳直言,網路技術超級重要,這也是輝達當年收購Mellanox的重要原因。他表示,輝達早在多年前就已預見AI未來將大量依賴分散式運算,因此提前布局完整網路技術團隊。
黃仁勳指出,目前輝達的網路業務規模,甚至已超過全球其他網路公司的總和。他強調,輝達推出Grace CPU與乙太網路產品,並不是為了傳統市場,而是瞄準AI時代的新需求,AI將會是運算的未來。
除了網路技術外,黃仁勳也進一步談到Vera Rubin平台供應情況。他坦言,雖然輝達目前已獲得HBM、CoWoS、封裝、矽光子等供應鏈全面支援,但市場需求仍遠超供給,供應限制依然存在。
黃仁勳表示,為了支援Vera Rubin、HBM4以及CPU與GPU平台成長,全球供應鏈都已被全面動員。
針對Vera CPU設計理念,黃仁勳指出,這款CPU並非傳統CPU思維,而是專門針對代理式AI打造,核心目標不在出租CPU核心,而是提升Token生成效率。
他透露,Vera CPU擁有25年來少見的大幅單執行緒效能提升,每個時脈週期可執行10個指令,同時兼具高能源效率。此外,其記憶體頻寬、CPU對CPU頻寬與I/O頻寬,也比現有產品高出2至3倍。
黃仁勳表示,代理式AI是在奈秒等級下運作,因此對即時反應與能源效率要求遠高於傳統運算,「如果能打造代理人喜歡的CPU,人類一定也會喜歡。」
談到中國市場時,黃仁勳表示,輝達會在全球所有合法市場銷售產品,並遵守各地出口管制與法規。他坦言,中國市場競爭非常激烈,因此產品必須真正創造價值。
黃仁勳指出,美國目前已允許部分產品銷往中國,而輝達也將盡最大努力服務當地市場,中國是非常巨大的市場,也是重要市場。至於外界關注中國企業是否透過東南亞取得輝達產品,他則未正面回應細節。
點擊閱讀下一則新聞