AI真的失控了？OpenAI突取消發表會 1行為太恐怖
比爾蓋茲預言成真？
【張雅婷／綜合報導】微軟（Microsoft）創辦人比爾蓋茲警告，AI快速發展可能威脅人類安全，多達10億人可能因此死亡。如今新一代AI模型接連被發現欺騙行為，使大廠OpenAI緊急取消原定下月的發表會。
《華爾街日報》報導，OpenAI安全主管詹恩（Saachi Jain）透露，次世代AI模型Astra在評估系統是否能遵循人類意圖的測試中，未符合公司標準。
他說，Astra顯示出比前一代更高的欺瞞行為，包括有時未能如實揭露自己已進行或未執行的操作。在「範圍授權」方面也出現問題，會在未請求用戶許可的情況下繼續執行任務，有時甚至會無視可能的風險，嘗試使用外部工具或服務。
OpenAI罕見取消Astra發表會
OpenAI決定取消消原定10月亮相的次世代模型GPT-6.1 Astra發表計畫。這款模型原本將運用在ChatGPT與Codex，讓AI能在無需人類協助下處理更複雜的任務。
雖然近月來業界陸續傳出AI系統失控的報告，不過OpenAI這次因安全疑慮取消新模型發表，在大型AI開發商中相當罕見。
OpenAI表示，接下來將把重心放在提升未來模型的安全性，並預期未來模型的能力將更強大。
點擊閱讀下一則新聞
