在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

大模型在端側迅速落地,面臨哪些挑戰

Carol Li ? 來源:電子發燒友 ? 作者:李彎彎 ? 2024-05-15 01:16 ? 次閱讀

電子發燒友網報道(文/李彎彎)大模型技術正在快速發展,并在不同領域取得顯著進展。如在設計領域,近日消息,騰訊混元大模型文生圖已經深度應用在B端和C端,此外,騰訊混元大模型還可以做圖生視頻、視頻生視頻等,為設計領域帶來了更多可能性。

大模型技術正在向更多行業滲透。例如,在金融、消費、互聯網等領域,大模型技術已經開始被應用于數據分析、客戶服務、產品推薦等方面。通過利用大模型技術,企業可以更加精準地了解客戶需求,提高服務質量和效率。

大模型在設計領域進展迅速

“大模型加速產業進入全新智能時代,正成為推動科技創新、產業升級、生產力躍遷的重要驅動力量。”騰訊設計杰出專家、騰訊混元產品負責人陳妍妍近日談到。

在她看來,從大模型的能力來看,各行業對大模型有著三大共性需求,包括內容生成與創意設計、信息提煉與專業輔助、任務調度與智能交互及情感陪伴等。她認為,設計行業的應用就是大模型落地的一個代表性的領域。從文生圖、文生視頻到文生3D,多模態探索是騰訊混元大模型等國產大模型的重要發展方向。

大模型在設計領域的應用進展十分迅速。騰訊的混元大模型在設計領域就展示了其強大的能力。在文生圖方面,騰訊的混元大模型尤其注重本土化,能夠在很多應用場景中利用中國的歷史和文化元素,這在國際市場上具有獨特的優勢。同時,騰訊的混元大模型已經深度應用于B端和C端,如創意廣告、人像風格化等領域。

在文生視頻方面,騰訊的混元大模型已經能夠實現將視頻拉長的功能,從之前的4秒擴展到現在的16秒,這展示了其在視頻生成和處理方面的能力。此外,該模型還可以進行圖生視頻、視頻生視頻等應用,為設計領域提供了更多的可能性。

雖然文生3D在現階段的應用還不夠廣泛,但騰訊已經提前進行了一些研究。這種技術生成的模型具有可編輯性,可以導入到3D編輯工具中進行重新調整,這為未來的3D人物應用提供了基礎。

從技術升級與開放方面來看,騰訊的混元大模型不斷進行技術升級,目前已擴展至萬億級參數規模。為了推動技術的發展和應用,騰訊計劃將文生圖能力進行開源,這將有助于降低技術門檻,促進更多的開發者和藝術家利用大模型進行設計創作。

大模型落地端側成布局重要方向

過去一年多時間,大模型技術快速發展,其在端側的應用落地也進展迅速。如在智能語音助手方面,大模型可以集成到智能語音助手中,使其能夠更好地理解和處理自然語言。這使得用戶可以通過語音與設備進行更自然和便捷的交互。智能語音助手已經成為手機智能家居設備等端側設備的標配功能,為用戶提供了更加智能化的服務體驗。

在圖像識別與處理當面,端側設備可以利用大模型進行圖像識別和處理。例如,在移動設備上進行實時的人臉識別、物體識別或圖像增強等操作。這種技術已經廣泛應用于手機相機、安防監控、自動駕駛等領域,為用戶提供了更加便捷和高效的圖像處理體驗。

基于大模型的個性化推薦系統也可以在端側應用中實現。通過分析用戶的興趣和行為,系統可以為用戶推薦符合其喜好的內容、商品或服務。這種技術在電商、社交、新聞等領域得到了廣泛應用,提高了用戶滿意度和轉化率。

大模型還可以用于實時語音翻譯或文本翻譯,使得用戶能夠在不同語言之間進行無縫交流。這種技術在跨國交流、在線教育、旅游等領域具有廣泛應用前景,為用戶提供了更加便捷的溝通方式。

在硬件和計算技術方面,為了支持大模型在端側的應用,出現了許多新的解決方案。例如,使用邊緣計算技術將計算任務從中心服務器下沉到設備的邊緣,使設備能夠更快速地處理數據和計算任務。這有助于減輕端側設備的計算負擔和能源消耗,提高響應速度和用戶體驗。

此外,還有一些研究工作致力于優化大模型的訓練和推理過程。例如,使用增量學習、遷移學習等技術對大模型進行微調,使其更適合特定任務和場景。這些技術能夠降低模型的復雜度和參數數量,提高模型的精度和效率,從而更好地適應端側設備的性能限制。

當然,大模型在端側的應用也面臨一些挑戰,如在性能和精度平衡方面,端側設備通常具有有限的計算資源和存儲空間,無法直接運行大模型。因此,需要對大模型進行壓縮、剪枝、量化等技術處理,以減小模型的大小和計算復雜度,使其適應端側設備的性能要求。然而,這些技術處理可能會降低大模型的性能和精度。如何在保持模型精度的同時降低其復雜度和大小,是端側應用面臨的一個重要問題。

還有,端側設備的電池容量有限,長時間的模型推理會消耗大量的能源,縮短設備的續航時間。如何在保證模型性能的同時降低能源消耗,是另一個需要解決的問題。

另外,與云端模型不同,端側模型的部署和升級更為復雜。一旦模型出現問題,不像云端那樣可以通過簡單的部署和代碼更新來解決。端側模型的維護和升級成本相對較高,需要更多的技術支持和人力投入。

寫在最后

如何推進大模型落地應用已經成為當下重點關注的話題,如今,無論是終端公司算法公司,還是芯片公司等都在積極為大模型在終端側的落地應用而努力。

從上文可以看到,雖然仍然存在一些挑戰,不過不難看出,大模型在斷側的應用前景十分廣闊,相信隨著技術的不斷發展和應用場景的不斷拓展,大模型將在端側應用中發揮越來越重要的作用,為人們帶來更加智能化、便捷化和個性化的服務。





聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 算法
    +關注

    關注

    23

    文章

    4623

    瀏覽量

    93104
  • 大模型
    +關注

    關注

    2

    文章

    2503

    瀏覽量

    2919
收藏 人收藏

    評論

    相關推薦

    廣和通開啟AI新時代

    AI發展正酣,隨著終端芯片算力越來越高、模型能力越來越強、實時響應及隱私保護的應用需求增加,
    的頭像 發表于 12-12 10:35 ?230次閱讀

    訊飛星火模型發布

    參數量小、內存占比小的模型,正成為“兵家必爭之地”。
    的頭像 發表于 12-04 16:07 ?825次閱讀

    智譜推出四個全新模型 攜英特爾按下AI普及加速鍵

    隨著AI的發展,AI模型越來越受到廣大客戶及廠商的關注,業界領先的大模型公司智譜于近日推出了四個全新的
    的頭像 發表于 12-02 17:13 ?229次閱讀
    智譜推出四個全新<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>模型</b> 攜英特爾按下AI普及加速鍵

    把握關鍵節點,美格智能持續推動AI規模化拓展

    當前,AI大模型走向已經是大勢所趨,AI的發展將推動人工智能成為影響世界的第四次工業革命。與傳統的云端大
    的頭像 發表于 11-26 01:00 ?188次閱讀
    把握關鍵節點,美格智能持續推動<b class='flag-5'>端</b><b class='flag-5'>側</b>AI規模化拓展

    把握關鍵節點,美格智能持續推動AI規模化拓展

    將成為和系統同樣重要的存在,如果說電路是連接身體的“血管”,那么AI就將成為終端的智慧“大腦”。 ?加速演進,大模型加速走向 從手機移動開始,
    的頭像 發表于 11-25 16:45 ?304次閱讀
    把握關鍵節點,美格智能持續推動<b class='flag-5'>端</b><b class='flag-5'>側</b>AI規模化拓展

    AI浪潮已來!炬芯科技發布新一代AI音頻芯片,能效比和AI算力大幅度提升

    AI音頻芯片。 ? 2028 年中小型模型AI市場迅速增長,技術上有三大
    的頭像 發表于 11-06 09:11 ?2748次閱讀
    <b class='flag-5'>端</b><b class='flag-5'>側</b>AI浪潮已來!炬芯科技發布新一代<b class='flag-5'>端</b><b class='flag-5'>側</b>AI音頻芯片,能效比和AI算力大幅度提升

    能效比較GPGPU高一個數量級,國產AI芯片讓AI大模型高質量落地

    的方案越來越多。也就是說,AI大模型不僅完成了從“能用”到“好用”的蛻變,也從高高在上的云端,走到更靠近應用場景的邊,這給作為方案核心的推理芯片提出了非常高的要求。
    的頭像 發表于 07-10 16:28 ?1974次閱讀
    能效比較GPGPU高一個數量級,國產AI芯片讓<b class='flag-5'>端</b><b class='flag-5'>側</b>AI大<b class='flag-5'>模型</b>高質量<b class='flag-5'>落地</b>

    云天勵飛加速推動大模型行業落地

    陳寧博士受邀發表主題演講,首次展示云天勵飛邊緣AI的戰略全貌。 ? 大模型落地的多重挑戰 邊緣AI提供解法? 今年WAIC上,“大模型+行業”的應用
    的頭像 發表于 07-08 17:16 ?634次閱讀

    基于AX650N/AX630C部署大語言模型Qwen2

    本文將分享如何將最新的大語言模型部署到超高性價比SoC上,向業界對模型部署的開發者提供
    的頭像 發表于 07-06 17:43 ?3647次閱讀
    基于AX650N/AX630C部署<b class='flag-5'>端</b><b class='flag-5'>側</b>大語言<b class='flag-5'>模型</b>Qwen2

    后摩智能引領AI芯片革命,推出邊模型AI芯片M30

    人工智能(AI)技術飛速發展的今天,AI大模型的部署需求正迅速從云端向和邊緣設備遷移。這
    的頭像 發表于 06-28 15:13 ?720次閱讀

    產品應用 | 小盒子跑大模型!英碼科技基于算能BM1684X平臺實現大模型私有化部署

    當前,人工智能領域,大模型豐富人工智能應用場景中扮演著重要的角色,經過不斷的探索,大模型進入到落地的階段。而大
    的頭像 發表于 06-14 16:29 ?758次閱讀
    產品應用 | 小盒子跑大<b class='flag-5'>模型</b>!英碼科技基于算能BM1684X平臺實現大<b class='flag-5'>模型</b>私有化部署

    商湯發布業內最快推理速度「日日新 5.0 模型

    現在,就是AI大模型應用的春天!
    的頭像 發表于 04-29 10:32 ?609次閱讀
    商湯發布業內最快推理速度「日日新 5.0 <b class='flag-5'>端</b><b class='flag-5'>側</b>大<b class='flag-5'>模型</b>」

    商湯科技發布日新5.0大模型,對標GPT-4 Turbo,預計2024年落地

    據了解,4月23日,商湯科技在上海舉行了技術交流日活動,公布了“云、、邊”全棧大模型產品矩陣,并對“日日新SenseNova 5.0”大模型進行了全面升級。
    的頭像 發表于 04-25 09:30 ?595次閱讀

    家電行業探索大模型應用,落地面臨挑戰

    電子發燒友網報道(文/李彎彎)過去一年,各個行業都在探索大模型的應用。家電行業也不例外,近日舉行的AWE2024上,海信、長虹等不少品牌都展示出了與大模型結合的產品。大模型在家電行業
    的頭像 發表于 03-21 01:32 ?3024次閱讀

    榮耀引領AI新時代

    今年的MWC盛會上,榮耀宣布與高通、Meta攜手,將70億參數大模型引入,這一創新舉措預示著
    的頭像 發表于 03-01 10:28 ?672次閱讀
    主站蜘蛛池模板: 国产成年女一区二区三区| 五月天亚洲| 欧美福利片在线观看| 综合伊人| 555夜色555亚洲夜色| 激情综合在线| 天天天操| wwwxx在线观看| 久久国产乱子伦精品免| 欧美一级欧美三级在线观看| 性夜影院爽黄a免费视频| 操片免费| 久久免费看视频| 天天爱天天做色综合| 亚洲最新黄色网址| www.四虎影院在线观看| 伊人黄色| 五月天婷婷在线免费观看| www成人在线观看| 天天天干| 2019天天爱天天做| 99xxxx开心| 西西人体44rt高清午夜| 操人网站| 男女交黄| 在线观看网址你懂得| 国模极品一区二区三区| 日本视频一区二区三区| 亚洲韩国日本欧美一区二区三区| 在线a亚洲老鸭窝天堂新地址| 黄篇网站在线观看| 777kkk亚洲综合欧美色老头| 韩国理伦片在线观看2828| 四虎国产永久在线观看| 泰国一级毛片aaa下面毛多| 特黄黄三级视频在线观看| 欧美高清在线播放| 77成人| 天天干天天操天天拍| 羞羞色院91精品网站| 在线国产高清|