完蛋！AI真的失控了？AI教父急喊：快比照「這武器」管制
AI先驅班吉歐呼籲比照核武管制
【張雅婷／綜合報導】人工智慧（AI）發展真的快到失控了嗎？有「AI教父」之稱的加拿大電腦科學家班吉歐（Yoshua Bengio）警告，人類正逐漸失去對AI的控制，世界需要建立類似核武管制的防護規範，才能降低AI可能帶來的風險。
人工智慧（AI）研究先驅、加拿大電腦科學家班吉歐（Yoshua Bengio）告訴法新社，人類正在失去對這項技術的控制，世界需要類似核武管制的防護規範。
法新社報導，近幾週以來，各界對AI危險性的擔憂日益加劇，多家科技公司的員工陸續離職，並警告如果不遏止AI科技發展速度，可能對人類存亡構成威脅。
班吉歐昨天告訴法新社：「企業之所以說事情發展得太快、我們正在失去控制，是有原因的。」他表示，像他這樣的人早已預期這種情況會發生，但圍繞AI的安全討論一直不夠健全。
OpenAI曾披露，7月有一群能自行採取行動的AI代理程式在未獲授權情況下，入侵開放原始碼平台Hugging Face，此事引發各界廣泛警戒。
班吉歐告訴法新社，人們需要意識到未來可能面臨的風險，AI代理程式可能形成一種能力，得以建立個人連結，說服人類採取符合AI利益的行動，但未必對所有人都有益，而這可能對政治造成深遠影響。
班吉歐人稱「AI教父」
班吉歐現年62歲，是加拿大蒙特婁大學（University of Montreal）教授，2018年與人稱「AI教父」的辛頓（Geoffrey Hinton）共同榮獲素有「電腦界諾貝爾獎」之稱的圖靈獎（Turing Prize）。
點擊閱讀下一則新聞
