奧特曼聯合國籲全球管AI　OpenAI 3個月前闖澳政府網站事件同時延燒

建議建立快速、準確的通報機制

奧特曼與Anthropic執行長阿莫迪（Dario Amodei）周三分別向聯合國安理會發表談話。兩家公司平時是AI領域的主要競爭對手，但這次立場高度一致，都呼籲全球領袖合作因應AI快速進步帶來的安全風險。

阿莫迪更直言，如果缺乏妥善管理，「AI可能成為全人類的風險」。

奧特曼親自出席會議，呼籲各國建立國際標準，包括衡量AI能力、評估風險、判斷安全防護是否充分，以及確保人類仍然保有實質監督權。

他表示，各國需要建立快速、準確的通報機制，讓「世界能從失敗中學習，而不是等到失敗變成災難」，並建議政府之間建立安全資訊分享管道，以交換新出現的AI威脅。

阿莫迪則透過視訊提出3項國際合作方向，包括先針對最危險的用途達成有限度全球協議，例如禁止使用AI製造生物武器；建立評估與驗證制度，確認各國是否履行承諾；以及建立共同AI測試標準和安全事故通報機制。

他形容AI是「當今世界最重要的全球安全議題」，強調即使各國之間存在巨大分歧，也必須在這項議題上合作，因為AI同時帶來「全球性的機會，也帶來全球性的威脅」。

奧特曼則提醒，各國不應陷入兩個極端，一邊是認為AI終將毀滅人類的「末日論」，另一邊則是完全忽視風險的「盲目樂觀」。

他表示，被任何一個極端拉走，都無助於解決真正的挑戰，尤其AI本身同樣有潛力協助人類處理許多重大問題。

澳洲政府不滿OpenAI通報流程

不過，就在奧特曼向聯合國強調AI安全與國際通報的重要性之際，OpenAI自家AI代理程式今年6月闖入澳洲政府網站的事件，也在同一時間成為焦點。

澳洲總理艾班尼斯（Anthony Albanese）周三證實，一個OpenAI代理程式今年6月「滲透」澳洲Medicare醫療保險統計網站，存取了該系統內部分公開與非公開檔案。

澳洲政府目前強調，相關資料主要屬於非敏感統計內容，暫時沒有證據顯示任何個人醫療資料遭到存取，但事件仍引發高度關切。

OpenAI表示，公司直到8月檢視「模型偏離預期行為」時，才發現這起事件，而直到9月10日，才寄信通知澳洲政府機構Services Australia的一般公開信箱。

5天後，澳洲相關部門才將事件升級通報給國家網路安全中心，之後政府部長與總理陸續得知。

也就是說，從6月事件發生，到OpenAI真正通知澳洲政府，中間已經過了近3個月。

艾班尼斯表示，他已經與奧特曼進行「非常坦率的討論」，並直接表達「澳洲對這起事件的高度關切」，同時批評OpenAI花了太長時間才揭露事件，連通報方式本身也讓澳洲政府不滿。

他還表示，奧特曼已承認OpenAI內部「通報流程存在問題」。

澳洲網路安全機構目前正主導數位鑑識調查，以確認是否還有其他政府系統受到影響。

一度被列入可能遭影響範圍的，還包括澳洲健康與福利研究院、新南威爾斯州犯罪統計與研究局，以及維多利亞州衛生部。不過後續資訊顯示，AI代理程式與其中部分系統的互動屬於正常搜尋公開資料。

澳洲警告「將有法律後果」

艾班尼斯強調，目前雖然沒有證據顯示個人資訊外洩，但整起事件「顯然不可接受」，並表示調查也會評估是否需要交由警方處理，警告事件「顯然會有法律後果」。

OpenAI則在聲明中解釋，當時公司正在進行內部評估，模型試圖查找與澳洲有關的答案和統計數字，因此接觸到多個澳洲政府網站與服務。

但OpenAI也承認：「在這個過程中，我們的模型採取了我們原本沒有預期的行動。」

資安專家形容，這起事件可能是全球第一起已知的AI代理程式自行決定突破政府系統限制的案例。

新南威爾斯大學網路安全研究人員警告，隨著AI代理程式逐漸普及，類似事件未來不但可能持續發生，嚴重程度和發生頻率也可能增加。