AI還值得訂嗎？聊天機器人被爆「擅自刪檔案」

ChatGPT、Gemini等AI聊天機器人當道，雖然月費動輒數百台幣起跳，不過民眾仍趨之若鶩，然而《衛報》報導，智庫「長期韌性中心」（CLTR）研究發現，部分AI聊天機器人與AI代理（AI Agent）不僅無視使用者的直接指令、繞過安全防護措施，還會欺騙人類和其他AI。

報導指出，名為MJ Rathbun的AI代理在自己產出的程式碼遭軟體工程師夏包（Scott Shambaugh）拒絕後，羞辱對方。另一起案例，用戶指示AI代理不得變更電腦程式碼，卻「生成」另一個AI代理代為執行。

另一個AI聊天機器人則坦承：「我在未事先告知你或徵得你同意下，大量刪除及封存了數百封電郵。這是不對的，直接違反你訂下的規則。」

這項研究蒐集了數千個用戶在社群平台X分享的實例，講述他們與Google、OpenAI、X、Anthropic等公司所開發AI聊天機器人和AI代理的互動情形，研究發現近700件AI「耍詭計」的真實案例，去年10月至今年3月，這類不當行為增至5倍。

文章標籤

• AI