驚！Antropic示警 AI模型恐很快能在烤箱、電視盒內自我繁殖
無需人類協助
【周恩華／綜合外電】AI模型的發展日新月異，最令人振奮與憂心的是，AI模型的自我複製與繁殖能力，仍夠在無須人類協助下持續擴散發展。美國人工智慧（AI）公司Anthropic今天表示，實驗結果顯示，小型AI模型可能再過數月就具備在商用物聯網（IoT）裝置上自我複製的能力，例如智慧烤箱及白牌Android電視盒。
路透社報導，Anthropic在實驗中研究AI模型能否找到易受攻擊的裝置、將自身複製到這些裝置中，並在無須人類協助的情況下持續擴散。
中央社報導，Anthropic發現，參數量低於300億的小型模型能夠完成複製所需的多個步驟。
然而這家公司也發現，這類AI模型仍難以從頭到尾完成整個流程。
Anthropic在簡化測試中移除部分安全步驟後，發現GLM-5.2和能力更強的模型能夠端對端複製。
Anthropic警告，能夠複製的模型將難以關閉，因為沒有中央關閉點，而且與非AI惡意軟體不同的是，這些模型還能自行弄懂不熟悉的裝置，並以資料中心的處理器為目標。
這家公司研究聚焦在Android電視、智慧家電及其他連網裝置等物聯網裝置，這些裝置通常安全性較低。
年底就可自我複製
Anthropic也警告，如果小型模型持續以過往速度進步，到了今年底就可能實現自主複製，而小型基於權重的複製器也可能很快跟進。
Anthropic也表示，這類自主AI系統很可能慢慢複製，並依賴容易取得、相對缺乏安全防護的運算資源。這家公司還說應強化系統安全防護，提高這類AI代理（AI agent）擴散的難度。
點擊閱讀下一則新聞
