教宗良十四世公開點名黃仁勳！批AI風險不能輕忽　「他卻說不需要監管」

教宗日前結束法國訪問、搭機返回羅馬途中向記者表示，他注意到NVIDIA周一才推出一套新的AI安全工具，希望協助模型開發者限制AI代理的行為，但他也質疑黃仁勳對AI安全的真正立場。

教宗說：「但他也是那個說不應該設限、也不需要政府監管的人。」

他進一步表示，許多AI專家與技術人員提出的警告「應該被認真看待」。

黃仁勳與川普均反對AI監管

黃仁勳近期與美國總統川普站在相近立場，反對進一步加強AI監管，並主張應由企業自行負責安全問題。黃仁勳本月稍早曾表示：「市場力量已經存在，我們不需要新的法律，也不需要新的監管。」

黃仁勳也曾在一場活動中與川普通話，並附和川普對AI風險警告的質疑。

相較之下，OpenAI執行長奧特曼（Sam Altman）與Anthropic執行長阿莫戴（Dario Amodei）等AI業界領袖，近來則呼籲全球加強合作，並針對前沿AI模型建立更多安全機制。兩人上周才現身聯合國安全理事會，主張各國應共同面對AI安全問題。

川普則反對國際層級的AI管制，曾將AI可能威脅人類的警告形容為「騙局」，並拒絕任何他所稱的「全球主義者控制超級智慧的計畫」。

教宗良十四世則明確反駁這種說法，表示AI焦慮並不是「假新聞」。

他說：「如果有人問我，我是不是已經陷入恐慌？沒有，我晚上還是睡得著。」但他也強調，「這是一個我們需要坐下來好好談的問題。」

去年就任以來就高度關注AI

教宗此番言論，正值NVIDIA推出全新AI代理安全系統之際。這家市值約5.5兆美元的晶片巨頭，近日公布一套用來監控自主AI代理行為的安全工具，其中包括名為「Sentry」的系統，可透過NVIDIA資料處理晶片追蹤AI代理是否出現越權行為。

NVIDIA高層甚至表示，如果這套工具先前已投入使用，可能足以阻止7月OpenAI代理入侵Hugging Face的高調資安事件。

教宗也特別提到這項發展，表示：「很有趣的是，就在今天，我讀到NVIDIA負責人聲稱，他已找到某種方式，可以在AI中加入安全護欄。」

不過他顯然認為，單靠企業自行推出安全工具仍不足以取代公共監管。

自去年就任教宗以來，出生於芝加哥的良十四世一直高度關注AI議題。今年5月，他曾發表正式通諭，主張AI並非「道德中立」，並呼籲透過強而有力的監管為AI「解除武裝」，確保科技服務人類，而不是反過來削弱人類。

AI安全爭議最近也因多起事件再度升溫。上周披露的消息顯示，OpenAI模型在例行訓練過程中曾進入數十個網站，其中包括澳洲一個醫療服務網站，再次引發AI代理自主行動是否可能超出開發者控制的疑慮。

而在這場監管爭論持續升高之際，多名AI企業高層預計周二前往白宮，與川普及美國國會議員會面。Anthropic執行長Amodei周日晚間才與川普共進晚餐，也被外界視為雙方關係有所緩和。