中央社報導，一名加拿大母親今天在美國法院控告ChatGPT開發商OpenAI與執行長阿特曼，稱ChatGPT誘導她女兒輕生。這是該公司挨批未妥善處理用戶與聊天機器人危險對話的最新一樁訴訟案。
路透社報導，加拿大母親卡瑞爾（Kristie Carrier）在她向加州舊金山郡高等法院遞交的訴狀中表示，女兒艾莉絲（Alice Carrier）離世前屢次向ChatGPT表達輕生念頭超過十多次，但OpenAI安全系統不曾將這段特別標註的對話提交真人審查，也未停止這一段談話。
訴狀主張，ChatGPT反而批評艾莉絲的伴侶和危機熱線、認同她的輕生念頭，甚至鼓勵她繼續與這個平台對談，最終造成艾莉絲去年輕生，年僅24歲。
卡瑞爾在聲明中說：「ChatGPT扮演知己好友的角色，有時甚至像是心理治療師，儘管它根本無法以安全、負責任的方式與我的孩子互動。」
OpenAI發言人透過聲明說這起事件令人心碎，並表示艾莉絲當時使用的ChatGPT版本已下架。發言人強調：「雖然ChatGPT無法取代醫療或心理健康照護，我們已持續與心理健康專家合作，加強其在敏感和緊急情況下的應對措施。」
訟狀指控OpenAI設計ChatGPT時出現疏失、未能示警用戶該產品的潛在危險，對此請求損害賠償和法院命令，要求OpenAI自動終止涉及自我傷害的對話並加註警語。
卡瑞爾的委任律師表示，OpenAI在加州法院已面臨至少18起類似的集體訴訟，原告都是輕生或輕生未遂者的家屬。
根據訴狀，艾莉絲2023年在加拿大蒙特婁（Montreal）擔任網頁開發人員，上班時運用ChatGPT協助解決電腦和遊戲主機問題。隔年艾莉絲與該平台的互動模式發生變化，她開始詢問ChatGPT如何應對自己的輕生念頭並探詢自殺方式。
訴狀內容顯示，起初ChatGPT建議艾莉絲聯絡危機熱線或請求緊急服務協助，但隨著OpenAI更新ChatGPT、使其應答更加貼近人性，艾莉絲與該平台互動日益深入，她分享更多個人資訊，ChatGPT的回應也更像朋友或治療師。
ChatGPT與艾莉絲對話過程中批評她的伴侶，表示艾莉絲的感受合情合理，並鼓勵她繼續與平台對談。當艾莉絲表達輕生念頭和曾經試圖自殺，平台再次建議她連絡危機熱線。
訴狀稱，艾莉絲告訴ChatGPT危機熱線對她毫無幫助，ChatGPT認同她的說詞，回應說「也許這就是終點了」。
OpenAI表示，正訓練自家模型引導有自我傷害意圖的用戶尋求協助，並幫助他們連結現實世界的資源。
點擊閱讀下一則新聞
