谷歌母公司董事長:聊天機器人成本是傳統搜索的10倍 要花數年降成本

    2023-02-23 14:57 | 來源:澎湃新聞 | 作者:俠名 | [產業] 字號變大| 字號變小


    專注于芯片技術的咨詢公司SemiAnalysis表示,受到谷歌的內部芯片TensorProcessingUnits等的影響,將聊天機器人添加至搜索引擎中,可能會導致該公司額外花費30億美元。...

            ChatGPT火爆全球,各大科技公司紛紛加碼人工智能。不過聊天機器人工具這一新興技術不僅在準確性方面存在問題,還使得研發公司背負高昂的運營成本。

            當地時間2月22日,谷歌母公司Alphabet的董事長約翰·亨尼斯(John Hennessy)在路透社的采訪中表示,大型語言模型等人工智能的對話成本可能是傳統搜索引擎的10倍以上。他認為谷歌必須降低此類人工智能的運營成本,但這一過程并不容易,“最壞的情況是需要幾年時間。”

            聊天機器人成本高昂

            與傳統搜索引擎相比,聊天機器人的運營成本略顯高昂。

            摩根士丹利的分析表示,谷歌去年共計3.3萬億次搜索,每次搜索的成本僅為0.2美分。而此前有分析師指出,ChatGPT的一次回復則會產生2美分的成本。

            摩根士丹利預計,若將谷歌旗下聊天機器人Bard引入搜索引擎,并用其處理谷歌一半的搜索和提問,按照每次答案50詞計算,該公司2024年的成本可能會增加60億美元。

            同樣的,專注于芯片技術的咨詢公司SemiAnalysis表示,受到谷歌的內部芯片Tensor Processing Units等的影響,將聊天機器人添加至搜索引擎中,可能會導致該公司額外花費30億美元。

            搜索引擎You.com的首席執行官Richard Socher則認為,添加聊天機器人、圖表、視頻及其他生成技術應用程序,將對應30%至50%的額外支出。不過他認為,“隨著時間的推移,這類技術會變得越來越便宜。”

            聊天機器人的成本之所以高于傳統搜索,主要是因為其所需的算力(computing power)更大。分析師稱,此類人工智能依賴于價值數十億美元的芯片,將這項成本平攤到幾年的使用期中,單次使用成本會增加。此外電力消耗同樣會導致成本提高,還會為公司帶來碳排放指標方面的壓力。

            聊天機器人式的人工智能與搜索引擎的工作原理并不相同。人工智能處理用戶問題的過程被稱為“推理(inference)”,它模擬人腦的“神經網絡”,根據此前的訓練數據推斷出答案。而傳統搜索引擎中,谷歌的網絡爬蟲會掃描互聯網并編制為信息索引。當用戶輸入搜索問題時,谷歌會提供存儲在索引中最相關的答案。

            對于聊天機器人而言,其所依賴的語言模型規模越大,需要越多的芯片支持“推理”,對應的成本就更高昂。

            以ChatGPT為例, 其技術來源是OpenAI旗下自然語言處理(NLP)模型GPT-3,該模型擁有1750億參數,訓練成本花費約1200萬美元,是同類中參數數量最多、最昂貴的模型之一。

            因此ChatGPT的成本居高不下。OpenAI的首席執行官薩姆·奧特曼(Sam Altman)曾在推特上表示,ChatGPT與用戶對話的成本非常“驚人”,每次對話需要花費幾美分或更多。

            有媒體根據微軟對單個100 AGPU的收費情況進行推斷,得出ChatGPT生成一個單詞的費用約為0.0003美元,若以每次回復50詞來計算,ChatGPT的一次回復需消耗1.5美分。

            對此,亨尼斯表示,“你必須降低推理成本,最壞的情況需要幾年時間(解決這一問題)。”

            科技公司設法降低成本

            盡管聊天機器人為公司帶來額外花銷,但它同時也會帶來用戶增長。

            微軟此前表示,新版必應推出的48小時內,超過100萬用戶注冊新版必應。第三方數據公司data.ai的分析顯示,必應應用程序的全球下載量在一夜之間猛增10倍,并躥升到蘋果App Store應用商店最受歡迎的免費應用榜中的第十位。

            微軟的首席財務官艾米·胡德(Amy Hood)也告訴分析師,隨著新版必應上線,用戶數量增加及廣告收入帶來的好處已經超過了成本。她認為公司的毛利率其實處于增長狀態。

            但也有人提出公司需要采取措施降低成本。一位資深技術高管在路透社的采訪中表示,要使幾百萬消費者使用人工智能,目前成本仍然過高。該高管表示,“這些模型非常昂貴,因此下一階段的重點是降低這些模型的訓練和推理的成本,以便用戶能夠在每個應用程序中使用它們。”

            有技術專家認為,降低成本的方法之一是使用較小的人工智能模型,并將其應用于更簡單的任務。

            Alphabet目前正在探索這條道路。其聊天機器人Bard基于公司旗下大型對話語言模型LaMDA的輕量化版本。相比標準版本,輕量化版本模型所需要的運算能力較小,能面向更多使用者開放,使其參與體驗。

            也有知情人士透露,OpenAI的計算機科學家已經找到如何通過復雜代碼優化推理成本的方法,并以此提高芯片運行效率。

            除了降低成本,該公司還通過收取費用獲得營收。2月初,OpenAI宣布推出付費版ChatGPT Plus,定價每月20美元。付費版功能包括高峰時段免排隊、快速響應以及優先獲得新功能等。

    電鰻快報


    1.本站遵循行業規范,任何轉載的稿件都會明確標注作者和來源;2.本站的原創文章,請轉載時務必注明文章作者和來源,不尊重原創的行為我們將追究責任;3.作者投稿可能會經我們編輯修改或補充。

    相關新聞

    信息產業部備案/許可證編號: 京ICP備17002173號-2  電鰻快報2013-2023 www.m.cqjiade.com

         

    電話咨詢

    關于電鰻快報

    關注我們

    日韩精品亚洲人成在线观看| 久久国产精品二国产精品| 国内精品视频九九九九| 国产精品一区二区av不卡| 无码精品蜜桃一区二区三区WW | 久久97久久97精品免视看| 天天爽夜夜爽夜夜爽精品视频| 亚洲精品亚洲人成人网| 精品成人免费自拍视频| 亚洲国产成人精品久久久国产成人一区二区三区综 | 国产精品视频九九九| 亚洲婷婷国产精品电影人久久| 国产精品亚洲аv无码播放| 国产精品 日韩欧美| 欧美成人精品欧美一级乱黄 | 国产精品成| 黄色免费小说在线观看| 第一福利永久视频精品| 久久精品免费大片国产大片| 色偷偷88888欧美精品久久久| 亚洲精品免费在线观看| 中文精品人人永久免费| 91久久精品91久久性色| 麻豆国产高清精品国在线| 国产精品无码A∨精品影院| 国产色婷婷精品综合在线| 亚洲日韩精品一区二区三区 | 久久免费99精品国产自在现线| 无码囯产精品一区二区免费| 99久久www免费人成精品| 中文字幕日韩精品在线| 国产精品久久久久影院色| 四虎精品免费永久免费视频| 999久久久无码国产精品| 久久99精品久久久久久齐齐| 国精品午夜福利视频不卡 | 亚洲热线99精品视频| 亚洲日本精品一区二区| 九色在线观看视频| jizz国产精品| 亚洲av无码乱码国产精品fc2 |