奧特曼說了不算!OpenAI新安全框架 董事會可推翻CEO決定|壹蘋新聞網

奧特曼說了不算!OpenAI新安全框架 董事會可推翻CEO決定

記者 綜合報導
【董曉潔/綜合外電、中央社】根據人工智慧公司OpenAI今天在其官網上發布的計畫,該公司為最先進模型的安全問題,制定框架,包括在安全決策上允許董事會推翻高層已做出的決策,即便是CEO奧特曼(Sam Altman)的決策。
OpenAI為最先進模型的安全問題制定框架,在安全決策上,董事會可推翻高層已做出的決策。資料照片
OpenAI為最先進模型的安全問題制定框架,在安全決策上,董事會可推翻高層已做出的決策。資料照片

根據官網計畫,微軟支援的OpenAI只有在網路安全和核威脅等特定領域被認定安全的情況下,才會部署其最新技術。

該公司正設立一個諮詢小組,以審查安全報告並將其發送給公司高層和董事會。在高階主管做出相關決定後,董事會有權推翻這些決定。外媒紛以「誰才是老大」、「董事會有權推翻奧特曼決定」為題報導新的安全框架。

OpenAI的CEO奧特曼。資料照片
OpenAI的CEO奧特曼。資料照片

自1年前ChatGPT問世以來,人工智慧的潛在危險一直是研究人員和大眾最關心的問題。生成式人工智慧(Generative AI)技術讓人眼花撩亂,但其傳播假消息和操縱的潛力也引發安全擔憂。

今年3月,美國富豪馬斯克(Elon Musk)以及一群人工智慧專家、業界高管在一封公開信中表示,考量對社會及人類的潛在風險,呼籲未來6個月先暫停對優於OpenAI語言模型GPT-4的人工智慧系統進行訓練。

路透社/易普索(Reuters/Ipsos)5月的一項民意調查發現,超過2/3的美國人擔心人工智慧可能帶來負面影響,61%的人認為它可能威脅文明。

人工智慧的潛在危險一直是研究人員和大眾最關心的問題。 資料照片
人工智慧的潛在危險一直是研究人員和大眾最關心的問題。 資料照片
壹蘋新聞網-投訴爆料

爆料網址:reporting.nextapple.com

爆料信箱:news@nextapple.com

★加入《壹蘋》Line,和我們做好友!

★下載《壹蘋新聞網》APP

★Facebook 按讚追蹤

壹蘋娛樂粉專壹蘋新聞網粉專

loading