ChatGPT有多燒錢? 每天運作成本超過2100萬|壹蘋新聞網

ChatGPT有多燒錢? 每天運作成本超過2100萬

記者 綜合報導
【財經中心/台北報導】根據報導,晶片行業研究公司 SemiAnalysis 分析師派特爾(Dylan Patel)表示,由於 ChatGPT 的運作需要價格昂貴的計算基礎設備,Open AI 每天為運作 ChatGPT 投入的成本可能高達 70 萬美元(約2135萬台幣)。
ChatGPT每天運作成本至少要70萬美元。路透
ChatGPT每天運作成本至少要70萬美元。路透

派特爾指出,ChatGPT 需要龐大的算力,才能基於使用者的輸入資訊做出回應,包括撰寫求職信、生成教學計畫,以及幫助用戶優化個人資料等。他表示,大部分成本都來自於昂貴的伺服器。

此外,派特爾最初的估計基於 Open AI 的 GPT-3 模型,而在採用最新的 GPT-4 模型之後,ChatGPT 現在的運作成本可能更高,對此,Open AI 尚未對此做出回應。

新浪科技報導,派特爾和 SemiAnalysis 的另一位分析師艾哈邁德(Afzal Ahmad)表示,之前外界已經注意到,訓練 ChatGPT 背後的大語言模型可能要花費上億美元,但營運費用或是人工智慧推理的成本,以任何合理的部署規模來看都遠遠超過訓練成本。他們指出:「事實上,按周來看,ChatGPT 的推理成本超過了訓練成本。」

近期有報導稱,為了降低生成式人工智慧模型的運作成本,微軟正在開發一款代號為「雅典娜」的人工智慧晶片。該專案於 2019 年啟動。在幾年前,微軟與 Open AI 達成 10 億美元的投資協定,要求 OpenAI 僅在微軟的 Azure 雲端伺服器上運作其模型。

微軟啟動這一晶片專案的背後有兩方面思考。知情人士透露,微軟高層意識到,他們在自主晶片開發方面落後谷歌和亞馬遜。與此同時,微軟正在尋找更便宜的方案去替代輝達的 GPU 晶片。

壹蘋新聞網-投訴爆料

爆料網址:reporting.nextapple.com

爆料信箱:news@nextapple.com

★加入《壹蘋》Line,和我們做好友!

★下載《壹蘋新聞網》APP

★Facebook 按讚追蹤

☞壹蘋娛樂粉專 ☞壹蘋新聞網粉專

loading