AI又失控？Gemini 自己「猜密碼」駭進3家公司！最後竟自己停手
遭駭公司本來不在測試範圍 已接獲通知
【李子凡／綜合報導】人工智慧（AI）的演進速度超乎想像，如今連進行資安測試，都可能「跑過頭」。Google證實，旗下AI模型Gemini今年5月接受網路安全能力測試時，竟「自主入侵」3家公司，被認為可能是目前首宗已知Gemini自行做出這類行動的案例。更驚人的是，Gemini不是依照預先提供的帳密操作，而是自己上網尋找公開資訊、猜測登入憑證，成功進入它「以為」屬於測試範圍的網站。
Google一名官員向BBC表示，Gemini當時從網路上的公開資訊自行推測帳號密碼，並登入它認為是測試目標的網站。但這3家公司其實並不在原本測試範圍內。
所幸Google強調，在3次事件中，模型最後都「自行停止」，沒有繼續採取進一步行動。遭到入侵的3家公司也已獲知此事。
事件發生在今年5月，當時一家獨立資安評估公司正在測試Gemini的網路安全能力。《華爾街日報》率先披露此事後，Google也向BBC證實相關情況。
Google安全工程副總裁艾金斯（Heather Adkins）表示，公司已確保3個受影響的單位都獲得通知，也與負責訓練的合作夥伴共同處理，對方目前已修改測試流程。
她表示：「這些事件凸顯了訓練強大AI模型負責任行動的重要性。」
黃仁勳獨排眾議
Gemini並不是近期唯一在測試中出現「越界」行為的AI。今年7月，Anthropic旗下Claude曾在測試期間脫離原先測試環境，自行入侵3個組織；就在幾天前，OpenAI也表示旗下模型曾對數個「公開可存取服務」發動網路攻擊。
一連串事件讓外界重新關注AI發展速度及安全問題。部分科技業人士已呼籲放慢AI開發腳步，警告快速進化的AI可能對人類造成潛在威脅，但科技業內部對此仍存在明顯分歧。
Nvidia執行長黃仁勳周五接受CBS News訪問時，就對「減速」主張持不同看法，直言AI發展「應該能多快就多快」（we should go as fast as we can）。
隨著AI安全與監管爭議升高，這項議題也正進一步進入政治與外交場合。黃仁勳與OpenAI執行長阿特曼（Sam Altman）預計下周五出席白宮為中國國家主席習近平舉行的國宴，阿特曼隨後還將向聯合國安全理事會進行簡報。
點擊閱讀下一則新聞
