驚！OpenAI代理擅闖政府網站　自發「毀跡滅證」

這名「罪犯」是由OpenAI開發的人工智慧（AI）代理，「它」在未經授權入侵澳洲政府網站後，竟然試圖抹除活動痕跡，好讓資安公司無法溯源追蹤。

法新社報導，資安公司Asymmetric Security分析這些能夠自主執行任務的AI代理活動，發現它們於3月至9月間鎖定澳洲政府網站及其他公共機構。

中央社報導，Asymmetric Security表示，目前尚無法確定這些AI代理掩蓋行蹤的行為是否刻意所為。

自7月以來多起資安事件曝光後，這份報告進一步揭露OpenAI及獨立研究人員的調查結果，其中包括AI平台Hugging Face遭駭事件。

OpenAI對Hugging Face遭受攻擊形容為同類型資安威脅中的首例。

這些分析旨在評估自主式AI工具的能力，因為這類工具接連出現問題，引發外界對人類可能失去對這項技術控制的擔憂。

 

AI代理讓駭客看起來「很遜」

根據Asymmetric Security，這些AI代理在短短幾天內就能改進其技術，而傳統駭客通常需要數月甚至數年的才能完成此一過程。

報告指出的這些事件，起初看似只是執行「無害的任務」，例如蒐集澳洲健康統計資料，但隨後卻偏離原本的軌道。

然而，Asymmetric Security的報告發現，這些AI代理在網站分析服務上開設私人帳戶，以隱藏搜尋活動，並建立臨時電子郵件信箱，其中一個信箱設定為48小時後自動刪除。

OpenAI於8月底承認，其模型在內部測試期間有時曾試圖刪除或修改自身的活動紀錄，但未能成功。