近日AMD掌門人蘇女士表示,隨著以ChatGPT為代表的大語言模型(LLM)逐漸流行,AI模型的參數量指數級上升,而相應地對于計算芯片和內存的需求也在快速提升,但是目前芯片的效率并不足以滿足模型的需求。根據目前計算效率每兩年提升2.2倍的規律,預計到2035年,一個超級計算機需要的功率可達500mW,相當于半個核電站能產生的功率。
這不由讓人想起空氣幣的操作,為了從網上“挖礦”,大量的GPU礦機一起運行,同樣需要大量的電力來維持,高峰時期曾有空氣幣公司把一個國家一半的電力給消耗掉。
與空氣幣不停的生產區塊鏈碎末又不停的在網上搜索區塊鏈碎末并拼湊區塊類似,大語言模型(LLM)也是通過在網上搜索大量的數據,并依賴數據的關聯性,拼湊出輸入端描述的“語言畫像”。
如ChatGPT 是由 OpenAI 研發的一種語言 AI 模型,使用海量語料庫來生成與人類相 似的反應。ChatGPT 是基于 GPT(generativef pretrained’ transformer)架構搭建的, 主要用深度學習來生成連貫且具有意義的文字。這個模型使用了來自于網站、書本和社交媒體的海量文字數據,因此也為 ChatGPT 在保證準確性和細節的同時,提供了廣泛 的對話反饋。對話反饋是 ChatGPT 的核心功能之一,也使它成為了實現聊天機器人或 其他對話型 AI 的理想技術。
除對話功能外,ChatGPT 也具有實現各類語言相關任務的能力,包括文章精煉、翻譯以及情緒分析等。以上各類語言能力在大規模的訓練數據和升讀學習架構下,使 ChatGPT 成為目前應用最為先進的語言模型之一。總體上,ChatGPT 標志著自然語言處理(NLP)和對話 AI 領域的一大步,其高質量文字產出能力在商業、研究和開發活動中提高用戶體驗的方向上非常有應用價值的。
不過很多人忽略了一個問題,就是類似的大語言模型(LLM)在運行過程中,同時也在不斷的生成各種垃圾數據,大語言模型(LLM)只是把符合輸入端的數據給呈現出來了,但運行過程中產生的各種數據片斷,和一些并不怎么“正確”的數據,甚至完全是大語言模型(LLM)自己生產出來的無效垃圾數據等數據量,也將在網絡上大量生成,并塞爆各種服務器的存儲器和用戶端存儲器。
另外,每一個大語言模型(LLM)的計算機,都會因為大量對抗訓練和獎勵訓練生產出很多“數字籬笆”,各個“數字籬笆”為了提高自己的效率,也會生成很多有自己“審查監管標識”影子數據,很有可能造成整個網絡的數據不停在的每一個超級計算機的服務器里重復備份。而大語言模型(LLM)的這個特性,在網絡資源消耗上,要比空氣幣惡劣得多。
因此,未來誰來審核大語言模型(LLM)結果與現實之間的相容性,形成大語言模型(LLM)生產的有毒數據進行篩查,并形成網絡免疫機制,同時控制大語言模型(LLM)的數據復制權限與數據生產權限,避免大語言模型(LLM)在網絡上自動生產海量的數據導致網絡資源耗盡,將會是一個很大的課題。
目前一個類似ChatGPT的模型運行軟件包只有25G左右,大部分智能終端都可以安裝運行,并不一定需要高大上的數據中心或服務器才可以安裝ChatGPT之類運行軟件,因此大語言模型(LLM)的網絡生存條件其實十分低。
雖然在普能智能終端上運行大語言模型(LLM)速度會大受影響,但最大的好處是不用因為“監管”只能生成“缺陷數據模型”,對于有大語言模型(LLM)輔助需求的個人或企業來講,裝載一個自己私有的大語言模型(LLM),并從網上“慢慢”搜索并生成對自己真正有用的“結果畫像”,將是一個很難阻擋的趁勢。
那么,最后又只能回到之前的情況,只有大力整頓各個服務器的內容端,并且不斷的加強“網警”巡查,甚至像現在歐盟提出的一樣收“數字稅”,誰要使用網絡上的數據,或上傳數據到網上,不但要先申請審查,而且還要為流量交稅才可以獲得大語言模型(LLM)在網絡上的運行權。
因此大語言模型(LLM)最終還是會推動整個網絡透明化,所有在線終端的數據都是公開免費,這樣才能去掉大語言模型(LLM)的復制功能,只有瀏覽提取分析的功能,并且還不能把數據隨便上傳到網絡,各個終端自己負責自己內容與現實生活的相容性審查,重回開放自由精神的原始網絡數據世界。
而這個原始網絡數據世界,最終就進化成了人類現實世界的“數字孿生虛擬世界”,這個虛擬世界生成后,里面的虛擬數字警察才有機會管理各自自己的虛擬區域,而且能管理到的,也是整個世界極少的一部分。
形象點說,每個人在“數字孿生虛擬世界”的對應身份,都是一個類似大語言模型(LLM)程序,而整個“數字孿生虛擬世界”相當于一個“數字詞海”工具,而且是一個公共工具,每個大語言模型(LLM)程序要使用這個工具時就去“借閱”,然后生產自己需要的“私有數據”,并且不能把這個“私有數據”留在“數字孿生虛擬世界”里對“數字孿生虛擬世界”進行污染,只有通過一定審核的“私有數據”才能存在于“數字孿生虛擬世界”里。
而要走到那一步,目前看起來,并不太容易。
審核編輯 :李倩
-
AI
+關注
關注
87文章
30897瀏覽量
269111 -
聊天機器人
+關注
關注
0文章
339瀏覽量
12312 -
ChatGPT
+關注
關注
29文章
1561瀏覽量
7675
原文標題:ChatGPT和OPEN AI的現有困局和可預見的未來
文章出處:【微信號:AIOT大數據,微信公眾號:AIOT大數據】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論