在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

百度智能云推出“千帆·行業增強版”,加速行業大模型的落地

百度 ? 來源:百度 ? 2024-05-29 09:25 ? 次閱讀

5月28日,由人民日報文化傳媒有限公司和百度聯合主辦的2024智能經濟論壇在北京舉行。會上,百度集團執行副總裁、百度智能云事業群總裁沈抖介紹了文心系列主力大模型免費背后的原因。此外,為了加速行業大模型的落地,百度智能云推出“千帆·行業增強版”,目前已經在政務、交通、工業等行業落地。

沈抖表示,為什么能把價格打下來?主要是依托于技術能力,尤其是百度智能云有業界最高效的AI異構算力管理平臺和“一云多芯”兩項硬實力。目前,文心大模型已經擁有中國最大的產業落地規模,超半數央企正在聯合百度進行AI創新。

01 揭秘主力模型免費原因 每年為企業節省50億智算成本

“其實我們決定免費的原因特別樸素,就是希望大家別再天天拉表格比價格了,有這個時間,不如去卷場景、卷應用。現在成本更低了,大家創新的膽子可以更大一些、步子可以更快一些,把相關的場景都試一遍,快速驗證。跑成功了,就快速復制。”沈抖表示。

一周前,百度智能云宣布ERNIE Speed、ERNIE Lite兩款主力模型全面免費。據了解,本次免費的兩個模型是客戶在場景應用中經常用到的主力模型,在文案創作、聊天對話、知識問答、內容續寫等場景中有非常高的調用量。

會上,沈抖首次揭秘了模型免費背后的原因,以及為什么能把價格打下來,主要是依托于技術能力,尤其是業界最高效的AI異構算力管理平臺和“一云多芯”兩項硬實力。

首先,百度百舸·AI異構計算平臺能夠對不同地點、規模、集群的智能算力進行統一、高效的管理,基于芯片性能優化、自動芯片選型、潮汐混部等技術,大幅提升智能算力效能,萬卡集群上的模型有效訓練時長占比超過98.8%。相同的大模型任務,百舸能夠幫助客戶將資源成本降低一半。據推算,百舸每年為企業客戶節約的智算成本可達50億元以上。

第二,在“一云多芯”方面,百舸兼容昆侖芯、昇騰、海光DCU、英偉達英特爾等國內外主流AI芯片,支持同一智算集群中混合使用不同廠商芯片,最大程度上屏蔽硬件之間差異,幫助企業擺脫單一芯片依賴,打造更有性價比、更安全、更具彈性的供應鏈體系。在多芯混合訓練任務中,百舸能夠將單芯片利用率、芯片間通信效率、集群整體效能發揮到極致,百卡規模性能損失不超過3%,千卡規模性能損失不超過5%,均為國內最高水平。

此外,在模型層面,千帆ModelBuilder提供的模型路由能力,能夠針對任務類型自動分配合適的模型進行處理,讓更便宜的小參數模型在特定場景中媲美大參數模型的效果。以小度AI助手為例,通過使用模型路由能力,相比全部任務調用旗艦版文心大模型,成本大幅下降了99%,模型響應速度也提升了200%。“即使是在復雜應用場景下,模型路由也可以節省30%的成本。”沈抖說。

目前,文心大模型日均調用量超過2億,每天處理的文本相當于74萬本《新華字典》,已經成為中國落地應用最廣的大模型。千帆平臺累計服務10.5萬家企業用戶,累計幫助用戶精調了1.75萬個大模型,幫助用戶開發出了32萬個AI原生應用。

02 推出“千帆行業增強版” 加速行業大模型應用落地

在行業落地中,僅靠大模型的通用能力很難滿足各行各業的特有需求,而是要在通用大模型基礎上增強行業專業性,同時降低行業應用開發門檻。

沈抖指出,行業大模型本質上是一個多模型的行業解決方案,由一個通用大模型和多個行業模型組合而成。這些行業模型往往由小模型精調而成,在特定領域具有很強的能力。但企業應用場景十分復雜,如果只是用一個個“孤立”的行業模型去解決特定場景的問題,那么整套工程將會非常復雜,和傳統的AI開發沒有區別,開發效率極低。

因此,為了進一步降低行業大模型的開發門檻,百度智能云此次推出了千帆·行業增強版,將通用大模型的理解、生成、邏輯、記憶能力,與行業模型的專業能力相結合,搭配體系化的工具和組件,支持從資源管理、大模型服務到應用開發的全過程。

具體來講,千帆·行業增強版主要由資源服務、大模型服務、應用服務三部分組成,它不僅提供千帆、百舸的通用能力,在這個基礎上,還做了行業能力的擴展和適配。在資源服務方面,企業可以結合業務情況,擴展多源數據治理、云邊端協同等能力,為業務構建起強大的基礎設施;在大模型服務方面,企業可以在千帆平臺上自由選擇不同參數規模、不同上下文長度、不同細分領域的大模型,然后按需擴展行業模型、行業知識、行業智能體;在應用服務方面,支持添加運營、運維、企業環境內應用開發、應用服務等各類業務邏輯。

在千帆·行業增強版上,還可以不斷的增加新的行業。有了通用底座和行業增強的能力,應用開發范式將徹底改變,復雜的工程會被千帆屏蔽掉,真正實現“場景驅動”。目前,千帆·行業增強版已經在政務、交通、工業、金融等行業落地應用。

比如,在政務領域,中華全國總工會聯合百度智能云打造了AI法律咨詢助手,為勞動者提供精準的法律問題解答、快速計算勞動賠償金額、生成個性化案情評估等便捷服務。相較于傳統的開發模式,整套系統及應用的交付周期從3~6個月大幅縮短至1個月。

“我們和客戶一起整理了所需的專業數據,精調出工會行業大模型,部署在客戶的專有云環境。這樣,當公有云上的文心大模型完成任務規劃、拆解后,具體的任務就會交給工會行業大模型執行,之后文心大模型會匯總結果、做出回答。這樣,既滿足了數據合規的要求,又得到了非常好的模型效果。”沈抖表示:“為了豐富這個平臺的場景化能力,我們還封裝了法律問答、案例推薦這些行業智能體。”

03

中國超半數央企聯合百度進行AI創新

就在上周,國內大模型行業的價格戰已經打響。包括字節、阿里、百度、騰訊、科大訊飛在內的多家廠商宣布降價或免費。不過,多位企業技術負責人表示,價格只是選擇大模型的一個考量因素,比起價格,更重要的是模型效果和應用場景。

沈抖表示,目前,百度文心大模型已經擁有中國最大的產業落地規模,超過半數的央企正在使用百度智能云的技術和服務進行人工智能創新。百度智能云總結了過去一年國內客戶落地AI與大模型的關鍵問題,并針對性的打造了全棧的技術服務體系。

c4c951ac-1ced-11ef-b74b-92fbcf53809c.png

在交通領域,貴陽市公安交通管理局與百度智能云一起,在貴陽觀山湖核心區的31個關鍵交通節點部署了AI信控系統。通過引入交通信控大模型,對各路口、各流向的交通流量進行精準感知和預測,動態調節路口信號燈時長,緩解交通擁堵。目前,貴陽市工作日車均延誤時長下降多達15%,全國城市擁堵排名也從過去的第4位下降至第20位,AI與大模型功不可沒。

在汽車行業,蔚來汽車基于千帆平臺,在文心大模型的基礎上通過提示詞工程打造出了端云協同多模態大模型——NOMI GPT。NOMI能夠自然地與用戶互動,成為一個更懂用戶、更聰明的座艙AI小助手。目前,NOMI已經陪伴了近20萬車友家庭,為用戶創造更美好的出行體驗。

在工業領域,中化信息攜手百度智能云,共同探索利用大模型進行新型材料的研發。中化信息基于千帆AppBuilder打造的“化小易”知識助手,能夠基于自然語言提問,快速檢索并回答分子特性、分子合成路線等專業知識,替代了傳統的人工查詢方式。目前,特定分子的檢索效率能夠提升5倍以上,極大提高了研發效率。

此外,百度智能云還聯合上海交通大學,構建了Al for Science科研創新平臺,孵化了多項首創性科研成果;聯合沈陽首府經開區,規劃建設了全國首個“場景-平臺-模型-算力”全棧部署的1000P智算中心,為沈陽特色產業、重點產業提供強有力的算力支持,建設不到1年就實現了10%的投資回收。

審核編輯:劉清
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 單芯片
    +關注

    關注

    3

    文章

    419

    瀏覽量

    34574
  • 百度
    +關注

    關注

    9

    文章

    2269

    瀏覽量

    90391
  • AI芯片
    +關注

    關注

    17

    文章

    1887

    瀏覽量

    35018
  • 大模型
    +關注

    關注

    2

    文章

    2448

    瀏覽量

    2701

原文標題:百度沈抖:主力模型免費,是為了最大限度降低企業創新試錯成本

文章出處:【微信號:baidu_2000,微信公眾號:百度】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    英特爾助力百度智能模型平臺加速LLM推理

    “大模型在各行業的廣泛應用驅動了新一輪產業革命,也凸顯了在AI算力方面的瓶頸。通過攜手英特爾釋放英特爾 至強 可擴展處理器的算力潛力,我們為用戶提供了高性能、靈活、經濟的算力基礎設施方案,結合
    的頭像 發表于 11-25 16:59 ?412次閱讀
    英特爾助力<b class='flag-5'>百度</b><b class='flag-5'>智能</b><b class='flag-5'>云</b><b class='flag-5'>千</b><b class='flag-5'>帆</b>大<b class='flag-5'>模型</b>平臺<b class='flag-5'>加速</b>LLM推理

    百度智能發布模型平臺3.0

    2024年百度智大會上,百度智能震撼發布
    的頭像 發表于 09-26 14:51 ?438次閱讀

    百度沈抖:解決算力問題,一多芯是中國企業的必然選擇

    針對不同行業的企業因數據、場景和業務邏輯差異產生的行業特定需求,今年5月份,百度智能推出
    的頭像 發表于 07-20 08:00 ?211次閱讀
    <b class='flag-5'>百度</b>沈抖:解決算力問題,一<b class='flag-5'>云</b>多芯是中國企業的必然選擇

    百度智能推出行業增強版

    在近日于北京舉辦的2024智能經濟論壇上,百度集團執行副總裁、百度智能事業群總裁沈抖分享了百度
    的頭像 發表于 05-30 09:30 ?583次閱讀

    【機器視覺】歡創播報 | 百度智能發布模型一體機

    1 百度智能發布模型一體機 編輯 ? 4月9日上午,
    的頭像 發表于 04-11 10:49 ?596次閱讀
    【機器視覺】歡創播報 | <b class='flag-5'>百度</b><b class='flag-5'>智能</b><b class='flag-5'>云</b>發布<b class='flag-5'>千</b><b class='flag-5'>帆</b>大<b class='flag-5'>模型</b>一體機

    百度智能正式發布了《百度智能業大模型白皮書》

    3月28日,由E20環境平臺主辦的2024(第二十二屆)水業戰略論壇在北京召開。會上,百度智能正式發布了《百度智能
    的頭像 發表于 03-29 09:20 ?1378次閱讀
    <b class='flag-5'>百度</b><b class='flag-5'>智能</b><b class='flag-5'>云</b>正式發布了《<b class='flag-5'>百度</b><b class='flag-5'>智能</b><b class='flag-5'>云</b>水<b class='flag-5'>業大</b><b class='flag-5'>模型</b>白皮書》

    倒計時!百度智能模型應用產品發布會來了

    2023年3月27日,百度智能推出全球首個一站式企業級大模型平臺。此后一年間,我們見證了產業從探索模型
    的頭像 發表于 03-26 09:38 ?389次閱讀
    倒計時!<b class='flag-5'>百度</b><b class='flag-5'>智能</b><b class='flag-5'>云</b>大<b class='flag-5'>模型</b>應用產品發布會來了

    百度智能宣布發布多款大模型

    百度智能近日發布了一系列重要消息,其平臺迎來了一系列升級,為用戶帶來了更加豐富的功能和體驗。其中,
    的頭像 發表于 03-22 11:29 ?904次閱讀

    企業用大模型如何更具效價比?百度智能發布5款大模型新品

    服務8萬企業用戶,累計幫助用戶精調1.3萬個大模型,幫助用戶開發出16萬個大模型應用,自2023年12月以來百度智能
    的頭像 發表于 03-22 10:45 ?434次閱讀
    企業用大<b class='flag-5'>模型</b>如何更具效價比?<b class='flag-5'>百度</b><b class='flag-5'>智能</b><b class='flag-5'>云</b>發布5款大<b class='flag-5'>模型</b>新品

    一圖講透百度智能模型平臺全面升級!

    【一圖講透】百度智能模型平臺全面升級!
    的頭像 發表于 03-22 10:44 ?506次閱讀
    一圖講透<b class='flag-5'>百度</b><b class='flag-5'>智能</b><b class='flag-5'>云</b><b class='flag-5'>千</b><b class='flag-5'>帆</b>大<b class='flag-5'>模型</b>平臺全面升級!

    百度智能推出全新輕量級大模型

    在近日舉辦的百度智能產品發布會上,三款全新的輕量級大模型——ERNIE Speed、ERN
    的頭像 發表于 03-22 10:28 ?667次閱讀

    百度智能發布三款輕量級大模型和兩款特定場景大模型

    百度智能產品發布會上震撼推出了一系列創新產品,其中包括三款輕量級大
    的頭像 發表于 03-22 10:28 ?702次閱讀

    百度智能模型應用產品發布會定檔

    百度智能官方宣布,備受矚目的“AI Cloud Day:百度智能
    的頭像 發表于 03-21 11:37 ?847次閱讀

    首屆百度智能全球生態大會,4月9日成都見!

    為了加快人工智能的發展步伐,進一步推動大模型產業的實際落地,促進AI原生應用的全面繁榮,百度智能
    的頭像 發表于 03-12 09:43 ?649次閱讀

    【有獎】 百度智能推出首款多模態 AI 模組,應用場景有獎征集!

    他來了,他來了 大模型時代悄然到來 百度首款大模型落地的硬件產品 目多模態AI模組LUCA系列正式亮相
    的頭像 發表于 02-26 15:19 ?543次閱讀
    主站蜘蛛池模板: 无毒三级| 夜夜春宵翁熄性放纵30| 亚洲天堂视频一区| 天堂资源中文在线| 国产一区二区丁香婷婷| www你懂的| 天堂中文资源在线地址| 久久久久久久久久免免费精品| 久热草在线| 国产内地激情精品毛片在线一| 欧美成人3d动漫在线播放网站| 国模精品一区二区| 久久精品影院永久网址| 最色成人网| 国产一区二区三区毛片| 国产小视频在线看| 热99精品| 四虎影院永久在线观看| 久久观看视频| 国产在线观看福利| 性欧美videofree另类超大| 明日花绮罗在线观看| 手机看片国产免费永久| 高清不卡一区| 国产一区二区播放| 1024免费看片| 亚洲精品在线免费观看视频| 免费日本黄色| 天天综合色网| 中文字幕视频二区| 人人草在线| 天天做天天爱天天爽综合网| 亚洲欧美视频在线观看| 美女黄频| 2019天天操| 人人射人人插| 国产乱子伦| 一级a爱片久久毛片| 毛片网子| 511韩国理论片在线观看| 日韩成人免费一级毛片|