黃仁勳表示,結構化數據是企業運算的「真實基準」(ground truth),也是可靠AI系統的基礎。當前企業運算平台如SQL、Spark、Pandas等系統,皆以「數據框」(Data Frames)形式管理大量結構化資料,這些資料如同巨型電子表格,承載企業營運中的關鍵資訊。
他指出,隨著AI應用普及,未來代理式AI(Agentic AI)將直接使用這些結構化資料庫,並以更高速度進行資料分析與決策。因此,加速資料處理能力將成為企業導入AI的重要基礎設施。
除了結構化資料外,黃仁勳也強調非結構化資料的重要性。全球每年產生的資訊中,約有90%屬於非結構化資料,例如PDF文件、影片、語音與圖片等。過去這些資料因缺乏有效索引方式而難以搜尋與分析。
他指出,透過多模態AI技術,現在可以讓AI閱讀並理解這些內容,再將其轉換為可搜尋的語意向量(embedding),建立新的向量資料庫(Vector Database),使企業能夠對大量非結構化資料進行搜尋與分析。
為加速AI資料處理,輝達推出兩項核心函式庫:cuDF與cuVS。其中,cuDF主要用於加速結構化資料處理,而cuVS則用於向量資料庫與非結構化資料的語意搜尋。黃仁勳表示,這兩項技術將成為AI資料處理的重要基礎平台,並已逐步整合至全球主要資料平台與企業系統之中。
輝達也透過影片介紹其核心運算架構。黃仁勳表示,輝達正在以單一架構推動加速運算(Accelerated Computing),目前已建立超過千個CUDA-X函式庫,協助開發者在各領域實現突破。
影片中展示多項關鍵函式庫,包括cuOpt用於決策最佳化、cuLitho用於計算光學微影、cuDSS用於稀疏矩陣求解、cuEquivariants用於幾何感知神經網路,以及Warp支援可微分物理模擬。此外,Parabricks則用於基因體分析,而Aerial平台則針對AI無線電存取網路(AI RAN)應用。
黃仁勳指出,這些函式庫讓GPU不僅能用於AI訓練,也能加速科學研究、半導體製程、通訊網路與生物醫學等多個產業。
在GTC大會上,輝達也宣布與IBM合作,透過GPU運算函式庫加速IBM的Watsonx.data SQL引擎。IBM指出,資料處理是AI系統理解世界的重要基礎,但傳統CPU架構在處理大規模資料時已逐漸面臨效能瓶頸。
以Nestlé為例,其全球供應鏈系統每天需處理來自185個國家的訂單與物流資料。透過NVIDIA GPU加速的Watsonx.data平台,相關工作負載可提升約5倍速度,同時將運算成本降低約83%。
黃仁勳指出,過去半導體產業依靠摩爾定律推動效能提升,但隨著晶片微縮趨於極限,單靠製程進步已難以持續降低運算成本。未來運算效能的突破,將更多依賴加速運算與演算法優化。
他強調,NVIDIA不僅是一家晶片公司,更是一家演算法公司。透過持續優化演算法與函式庫,並結合龐大的GPU安裝基數,能夠持續降低AI運算成本,同時提升運算速度與規模。
黃仁勳強調,輝達競爭力的核心在於CUDA-X函式庫生態系。這些函式庫將各類演算法封裝為可直接使用的工具,使開發者能快速建立AI應用。
其中,cuDNN(CUDA Deep Neural Network)被視為推動現代深度學習的重要技術之一。黃仁勳表示,函式庫是NVIDIA「皇冠上的明珠」,也是推動AI產業快速發展的關鍵基礎。他指出,透過持續推出新的AI模型與函式庫,輝達將加速AI在金融、醫療、製造、電信與機器人等產業落地,進一步推動全球AI生態系發展。
點擊閱讀下一則新聞