5月28日,由人民日報文化傳媒有限公司和百度聯合主辦的2024智能經濟論壇在北京舉行。會上,百度集團執行副總裁、百度智能云事業群總裁沈抖介紹了文心系列主力大模型免費背后的原因。此外,為了加速行業大模型的落地,百度智能云推出“千帆·行業增強版”,目前已經在政務、交通、工業等行業落地。
沈抖表示,為什么能把價格打下來?主要是依托于技術能力,尤其是百度智能云有業界最高效的AI異構算力管理平臺和“一云多芯”兩項硬實力。目前,文心大模型已經擁有中國最大的產業落地規模,超半數央企正在聯合百度進行AI創新。
01 揭秘主力模型免費原因 每年為企業節省50億智算成本
“其實我們決定免費的原因特別樸素,就是希望大家別再天天拉表格比價格了,有這個時間,不如去卷場景、卷應用。現在成本更低了,大家創新的膽子可以更大一些、步子可以更快一些,把相關的場景都試一遍,快速驗證。跑成功了,就快速復制。”沈抖表示。
一周前,百度智能云宣布ERNIE Speed、ERNIE Lite兩款主力模型全面免費。據了解,本次免費的兩個模型是客戶在場景應用中經常用到的主力模型,在文案創作、聊天對話、知識問答、內容續寫等場景中有非常高的調用量。
會上,沈抖首次揭秘了模型免費背后的原因,以及為什么能把價格打下來,主要是依托于技術能力,尤其是業界最高效的AI異構算力管理平臺和“一云多芯”兩項硬實力。
首先,百度百舸·AI異構計算平臺能夠對不同地點、規模、集群的智能算力進行統一、高效的管理,基于芯片性能優化、自動芯片選型、潮汐混部等技術,大幅提升智能算力效能,萬卡集群上的模型有效訓練時長占比超過98.8%。相同的大模型任務,百舸能夠幫助客戶將資源成本降低一半。據推算,百舸每年為企業客戶節約的智算成本可達50億元以上。
第二,在“一云多芯”方面,百舸兼容昆侖芯、昇騰、海光DCU、英偉達、英特爾等國內外主流AI芯片,支持同一智算集群中混合使用不同廠商芯片,最大程度上屏蔽硬件之間差異,幫助企業擺脫單一芯片依賴,打造更有性價比、更安全、更具彈性的供應鏈體系。在多芯混合訓練任務中,百舸能夠將單芯片利用率、芯片間通信效率、集群整體效能發揮到極致,百卡規模性能損失不超過3%,千卡規模性能損失不超過5%,均為國內最高水平。
此外,在模型層面,千帆ModelBuilder提供的模型路由能力,能夠針對任務類型自動分配合適的模型進行處理,讓更便宜的小參數模型在特定場景中媲美大參數模型的效果。以小度AI助手為例,通過使用模型路由能力,相比全部任務調用旗艦版文心大模型,成本大幅下降了99%,模型響應速度也提升了200%。“即使是在復雜應用場景下,模型路由也可以節省30%的成本。”沈抖說。
目前,文心大模型日均調用量超過2億,每天處理的文本相當于74萬本《新華字典》,已經成為中國落地應用最廣的大模型。千帆平臺累計服務10.5萬家企業用戶,累計幫助用戶精調了1.75萬個大模型,幫助用戶開發出了32萬個AI原生應用。
02 推出“千帆行業增強版” 加速行業大模型應用落地
在行業落地中,僅靠大模型的通用能力很難滿足各行各業的特有需求,而是要在通用大模型基礎上增強行業專業性,同時降低行業應用開發門檻。
沈抖指出,行業大模型本質上是一個多模型的行業解決方案,由一個通用大模型和多個行業模型組合而成。這些行業模型往往由小模型精調而成,在特定領域具有很強的能力。但企業應用場景十分復雜,如果只是用一個個“孤立”的行業模型去解決特定場景的問題,那么整套工程將會非常復雜,和傳統的AI開發沒有區別,開發效率極低。
因此,為了進一步降低行業大模型的開發門檻,百度智能云此次推出了千帆·行業增強版,將通用大模型的理解、生成、邏輯、記憶能力,與行業模型的專業能力相結合,搭配體系化的工具和組件,支持從資源管理、大模型服務到應用開發的全過程。
具體來講,千帆·行業增強版主要由資源服務、大模型服務、應用服務三部分組成,它不僅提供千帆、百舸的通用能力,在這個基礎上,還做了行業能力的擴展和適配。在資源服務方面,企業可以結合業務情況,擴展多源數據治理、云邊端協同等能力,為業務構建起強大的基礎設施;在大模型服務方面,企業可以在千帆平臺上自由選擇不同參數規模、不同上下文長度、不同細分領域的大模型,然后按需擴展行業模型、行業知識、行業智能體;在應用服務方面,支持添加運營、運維、企業環境內應用開發、應用服務等各類業務邏輯。
在千帆·行業增強版上,還可以不斷的增加新的行業。有了通用底座和行業增強的能力,應用開發范式將徹底改變,復雜的工程會被千帆屏蔽掉,真正實現“場景驅動”。目前,千帆·行業增強版已經在政務、交通、工業、金融等行業落地應用。
比如,在政務領域,中華全國總工會聯合百度智能云打造了AI法律咨詢助手,為勞動者提供精準的法律問題解答、快速計算勞動賠償金額、生成個性化案情評估等便捷服務。相較于傳統的開發模式,整套系統及應用的交付周期從3~6個月大幅縮短至1個月。
“我們和客戶一起整理了所需的專業數據,精調出工會行業大模型,部署在客戶的專有云環境。這樣,當公有云上的文心大模型完成任務規劃、拆解后,具體的任務就會交給工會行業大模型執行,之后文心大模型會匯總結果、做出回答。這樣,既滿足了數據合規的要求,又得到了非常好的模型效果。”沈抖表示:“為了豐富這個平臺的場景化能力,我們還封裝了法律問答、案例推薦這些行業智能體。”
03
中國超半數央企聯合百度進行AI創新
就在上周,國內大模型行業的價格戰已經打響。包括字節、阿里、百度、騰訊、科大訊飛在內的多家廠商宣布降價或免費。不過,多位企業技術負責人表示,價格只是選擇大模型的一個考量因素,比起價格,更重要的是模型效果和應用場景。
沈抖表示,目前,百度文心大模型已經擁有中國最大的產業落地規模,超過半數的央企正在使用百度智能云的技術和服務進行人工智能創新。百度智能云總結了過去一年國內客戶落地AI與大模型的關鍵問題,并針對性的打造了全棧的技術服務體系。
在交通領域,貴陽市公安交通管理局與百度智能云一起,在貴陽觀山湖核心區的31個關鍵交通節點部署了AI信控系統。通過引入交通信控大模型,對各路口、各流向的交通流量進行精準感知和預測,動態調節路口信號燈時長,緩解交通擁堵。目前,貴陽市工作日車均延誤時長下降多達15%,全國城市擁堵排名也從過去的第4位下降至第20位,AI與大模型功不可沒。
在汽車行業,蔚來汽車基于千帆平臺,在文心大模型的基礎上通過提示詞工程打造出了端云協同多模態大模型——NOMI GPT。NOMI能夠自然地與用戶互動,成為一個更懂用戶、更聰明的座艙AI小助手。目前,NOMI已經陪伴了近20萬車友家庭,為用戶創造更美好的出行體驗。
在工業領域,中化信息攜手百度智能云,共同探索利用大模型進行新型材料的研發。中化信息基于千帆AppBuilder打造的“化小易”知識助手,能夠基于自然語言提問,快速檢索并回答分子特性、分子合成路線等專業知識,替代了傳統的人工查詢方式。目前,特定分子的檢索效率能夠提升5倍以上,極大提高了研發效率。
此外,百度智能云還聯合上海交通大學,構建了Al for Science科研創新平臺,孵化了多項首創性科研成果;聯合沈陽首府經開區,規劃建設了全國首個“場景-平臺-模型-算力”全棧部署的1000P智算中心,為沈陽特色產業、重點產業提供強有力的算力支持,建設不到1年就實現了10%的投資回收。
-
單芯片
+關注
關注
3文章
419瀏覽量
34574 -
百度
+關注
關注
9文章
2269瀏覽量
90391 -
AI芯片
+關注
關注
17文章
1887瀏覽量
35018 -
大模型
+關注
關注
2文章
2448瀏覽量
2701
原文標題:百度沈抖:主力模型免費,是為了最大限度降低企業創新試錯成本
文章出處:【微信號:baidu_2000,微信公眾號:百度】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論