在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

端側AI,風起移動智能計算

腦極體 ? 來源:腦極體 ? 作者:腦極體 ? 2024-11-22 09:55 ? 次閱讀

wKgZoWc_5F-ACgLmABkuFDM3k6o929.jpg

過去一年來,消費電子領域最火爆的關鍵詞,就是端側AI

大模型,具有強大的理解、生成能力;終端設備,是人與AI的首選交互入口。二者碰撞之下,讓端側成為大模型落地的最佳途徑,甚至沒有之一。越來越多的手機、PC、汽車等消費電子終端廠商,將AI技術應用到自己的產品和服務中,而端側AI的繁榮景象離不開一個核心支撐點——計算平臺(芯片)。

端側算力,從芯而來。所以高性能芯片,是端側AI持續繁榮的源頭力量,也是高通希望借助技術創新、生態合作所推動的方向。

前不久恰逢驍龍峰會舉辦,我們看到高通公司繼續強化終端側AI產品布局和對國內大模型的支持。不僅宣布了與智譜、騰訊混元等大模型廠商的合作,共同推動端側 AI 模型部署和落地。此外,還推出了面向AI手機的驍龍 8 至尊版移動平臺和面向智能汽車的驍龍至尊版汽車平臺。

高通公司總裁兼CEO安蒙表示,AI,尤其是生成式AI,是移動計算領域最大的變革之一;高通關注生成式AI,尤其關注AI如何改變計算體驗,邊緣側將如何發展,及其如何帶來顛覆性的創新周期,致力于將AI為先的體驗帶入每一個計算空間。

端側AI的時代風口,源于高通為代表的移動計算,與AI深深地擁抱。我們不妨就從高通打造AI為先的體驗這一方向入手,去尋找端側AI向前一步的源頭力量。

wKgaoWc_5GGACPAFAAV2n6RqXPE640.jpg

2024年伊始,PC、手機、汽車等消費電子品類都開始積極與大模型相結合,打造全新的AI XX硬件,端側AI由此進入集中爆發階段。

可以說,大模型打開了一個消費電子領域的全新風口,而深入風眼中心,我們會看到一支推動端側AI醞釀并成熟的關鍵力量——移動計算。

端側AI之于云側AI的不可替代性,是大模型在本地進行計算,避免數據上云,解決用戶數據和隱私安全的顧慮;實時性更強,游戲、攝影、AIGC等應用在端側處理的時延更低、反饋更快、體驗更好。

進入2024,OpenAI、智譜、騰訊混元等第一梯隊的模型廠商都認識到了大模型落地端側的價值與桎梏,紛紛推出更小規模、更高性能的模型版本。雖然大模型在積極小型化,但受到端側計算能力、內存空間等限制,模型的減配、壓縮也會折損標準通用基礎大模型的性能表現。

大模型的端側部署,十分依賴于端側計算平臺提供強大性能,支撐超大規模的數據運算量,并在性能與功耗之間實現平衡。

讓大模型更好地適配端側,成了移動計算領域的首要任務,高通正在積極地解決中。

在前不久的驍龍峰會上,高通宣布和智譜、騰訊混元合作,共同推動端側 AI 模型部署和落地。我們能從高通的全新動作中,看到移動計算+大模型的三個變化:

wKgZoWc_5GGAQanBAAdLwMcYLEs062.jpg

變化一:更豐富的端側AI能力。驍龍8至尊版的NPU性能比上一代提升了45%,強大的性能可以同時運行多個AI工作負載,這意味著更多基于大模型的AI應用能夠在端側部署。

wKgaoWc_5GOAWPtzAATvZgQ9nWc973.jpg

變化二:更優質的端側智慧體驗。高通為驍龍8至尊版配備目前最高速的LPDDR5x內存,解決了內存顧慮。目前,騰訊混元正通過和高通合作,推動7B和3B的混元大模型在終端部署。

變化三:更健壯的端側AI生態。AI開發者是端側AI持續繁榮不可或缺的角色,高通為開發者準備了基于自身硬件的高效開發工具,包括高通AI軟件棧(AI Stack)和AI Hub,與騰訊混元和智譜AI達成合作,幫助模型廠商在高通硬件上更好地釋放平臺算力,支持AI開發者輕松地將AI模型集成到應用程序中。

根據驍龍峰會高通公布的數據,充分利用驍龍8至尊版的強大終端側AI性能和高通AI軟件棧為模型帶來的性能優化,智譜GLM-4V端側視覺大模型能夠以超過70 tokens/秒的速度在終端側高速運行。大模型的端側性能表現優化,不僅會降低開發者的使用成本,提升開發者的產品效果,也有助于基礎通用大模型的商業化。

大模型,是端側AI這一時代風口的起點;移動計算,則從更多應用、更優體驗、更強生態等方面,為大模型在端側提供動力保障。

高通對大模型的有力支撐,從源頭支持端側AI的產業繁榮,正是推動AI為先體驗的體現之一。

wKgaomc_5G2Af2s8AAVVg4Fto-w317.jpg

大模型要在終端設備上被用戶用起來,才能從一種技術趨勢,轉變為端側AI的產業繁榮與商業價值。AI大模型入端,硬件性能是基礎。

我們采訪過一位AI手機品牌的負責人就表示:AI在手機行業剛剛開始,未來的一年,AI體驗會超出你的想象,而端側模型對性能要求很高,所以性能永遠不會過剩。

性能從哪里來?答案就是計算平臺。針對目前端側AI集中的兩大品類:一個是個人移動終端,比如AI手機、AI PC;另一個是智能網聯汽車,智能座艙、輔助駕駛、自動駕駛等AI應用都在加速上車。高通在前不久的驍龍峰會上帶來了兩大平臺的最新技術和產品。

移動平臺方面:

驍龍8至尊版芯片,憑借技術方面的性能突破和創新能力,帶來了AI手機智能化的重大飛躍。

wKgZomc_5G-AVO2ZAAO07XqifNs674.jpg

驍龍8至尊版在終端側生成式AI、多模態處理和影像處理等方面的突破,可以為AI手機的大量AI用例提供支持。比如AI-ISP技術的革命性突破,與NPU緊密結合,使得高分辨率影像數據的實時處理成為可能,手機廠商可以在攝影功能中引入更多AI應用,如自動場景識別、實時美顏和自動對焦等,這是當下年輕消費群體格外看重的產品力之一。

此外,驍龍平臺還積極支持PC領域的AI應用。

在剛剛舉辦的2024年世界互聯網大會上,高通憑借其專為Windows 11 AI+ PC設計的驍龍X Elite平臺榮獲“世界互聯網大會領先科技獎”。驍龍X Elite的核心優勢之一是采用了定制化的Oryon CPU,具備極致快速的響應速度,可以為AI PC提供強勁的性能表現。比如榮耀最新推出的AI PC,就在驍龍X Elite的算力支持下,實現了AI紀要、AI雙向降噪等AI功能,極大地提升了用戶的會議和溝通效率。目前,驍龍X系列已支持58款已發布或正在開發中的PC產品,有力支撐了AI PC這一新品類的成長。

汽車平臺方面:

汽車智能化成為大勢所趨,其中智能座艙、智能駕駛,成為車企的核心賽點。為智能汽車提供底層源動力,高通分別推出了全新的驍龍座艙至尊版平臺和Snapdragon Ride至尊版平臺。

wKgaomc_5HCARpxIAAFztVrewmQ975.jpg

其中,驍龍座艙至尊版平臺也采用了專為汽車打造的高通自研Oryon CPU,性能大幅提升,可以助力車企實現大模型和AIGC等能力與座艙相結合,打造AI語音助手、AIGC應用、復雜情境感知、自然語言交互等新體驗。

Snapdragon Ride至尊版平臺也基于高通最先進的NPU及Oryon CPU,將更好的智能駕駛帶到汽車上,實現了高精度定位、環境感知、決策規劃以及車輛控制等一系列智能駕駛功能。

此外值得一提的是,增強AI手機、AI PC、智能汽車的產品力,更強大的移動計算硬件只是必要條件。除此之外,廠商和開發者還需要一系列開發工作來釋放硬件性能、優化端側AI表現。

目前,手機、PC、汽車等采用的驍龍硬件平臺,均已集成高通自研Oryon CPU,加之高通AI軟件棧的賦能,有望實現終端側AI應用在各平臺高效開發。

硬件(移動平臺、PC平臺和汽車平臺)與軟件(AI Stack、AI Hub)相協同,高通正在拆除端側AI的性能桎梏,帶動手機、汽車等各類消費電子產品加速進化,抓住大模型的技術紅利。

wKgZomc_5HCAE5VLAAWA4H38SfY990.jpg

總結一下,大模型是這一輪端側AI浪潮的起點,計算硬件是AI終端這一新概念得以落地的性能源泉。支撐大模型和AI終端的持續發展,高通也在源頭為端側AI繁榮貢獻了力量。

之所以要在今天找尋端側AI發展的源頭力量,是因為這與國內消費電子廠商抓緊時代機遇和技術趨勢的需求一致,與源頭緊密合作、齊頭并進,有利于獲取向未來生長的動能。

目前來看,高通就是與國內廠商合作緊密的重要AI力量之一。

一方面,高通和驍龍平臺是國內安卓手機廠商全球化、高端化的助力。國內頭部品牌正在高端市場與蘋果展開正面競爭。高通和驍龍與國內廠商的緊密合作,成為國內智能手機品牌在全球的競爭力保障,可以讓領先的AI應用、AI手機、AI PC硬件,為全球樹立標桿。目前,首批搭載驍龍8至尊版的旗艦手機,如小米、榮耀、iQOO等,已經在性價比、影像能力、游戲性能等方面,建立了鮮明的市場認知度。

此外,新能源汽車增長也有望更進一步。

目前,國內新能源汽車已經在全球市場建立了較強的競爭力,抓住智能化機遇,獲得更大的發展,可以進一步夯實優勢地位。驍龍汽車平臺就相當于基石,支撐基于大模型的智能駕駛、智能座艙上車,讓新能源汽車保持競爭優勢,在全球市場走得更穩更遠。

對于端側AI來說,大模型就是新一代的操作系統,而用好這一新型操作系統,需要生態、工具、資源的充分支持。通過驍龍的軟硬件生態體系,高通可以為端側AI的發展提供生態助力,幫助更多開發者用好大模型技術,促進AI產品與應用程序的整體繁榮。

總結一下,終端消費電子的市場廣闊,智能化升級才剛剛開始。AI將席卷我們熟悉的各個終端品類,站在時代風口,高通和驍龍作為源頭動力的身影,也漸漸明晰起來。

高通和驍龍與AI的緊密擁抱,帶來的是移動計算與端側AI的長相廝守。狂奔一年的端側AI故事,會繼續講述下去。

wKgaomc_5HSAFZWqAAOss-h04sI877.jpg

審核編輯 黃宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    456

    文章

    51019

    瀏覽量

    425343
  • AI
    AI
    +關注

    關注

    87

    文章

    31262

    瀏覽量

    269621
  • 智能計算
    +關注

    關注

    0

    文章

    179

    瀏覽量

    16514
收藏 人收藏

    評論

    相關推薦

    廣和通開啟AI新時代

    AI發展正酣,隨著終端芯片算力越來越高、模型能力越來越強、實時響應及隱私保護的應用需求增加,
    的頭像 發表于 12-12 10:35 ?230次閱讀

    MediaTek天璣移動平臺賦能騰訊會議AI人像分割模型

    MediaTek 與騰訊會議聯合優化的 NPU 虛擬背景功能,已在搭載 MediaTek 天璣旗艦芯的終端正式上線。作為雙方初次開展的軟硬件生態合作,此次聯合優化旨在充分利用天璣移動平臺的
    的頭像 發表于 11-29 15:30 ?236次閱讀

    把握關鍵節點,美格智能持續推動AI規模化拓展

    當前,AI大模型走向已經是大勢所趨,AI的發展將推動人工
    的頭像 發表于 11-26 01:00 ?188次閱讀
    把握關鍵節點,美格<b class='flag-5'>智能</b>持續推動<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>規模化拓展

    把握關鍵節點,美格智能持續推動AI規模化拓展

    當前,AI大模型走向已經是大勢所趨,AI的發展將推動人工
    的頭像 發表于 11-25 16:45 ?304次閱讀
    把握關鍵節點,美格<b class='flag-5'>智能</b>持續推動<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>規模化拓展

    中科創達發開創智能新篇章

    生成式AI在創新和應用方面以前所未有的速度向前發展。融合云計算和邊緣/計算的混合AI技術,
    的頭像 發表于 11-17 11:23 ?530次閱讀

    AI浪潮已來!炬芯科技發布新一代AI音頻芯片,能效比和AI算力大幅度提升

    電子發燒友原創 章鷹 ? 11月5日,在深圳會展中心7號館內,炬芯科技董事長兼CEO周正宇博士帶來了《AI芯片的未來》演講,他對
    的頭像 發表于 11-06 09:11 ?2745次閱讀
    <b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>浪潮已來!炬芯科技發布新一代<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>音頻芯片,能效比和<b class='flag-5'>AI</b>算力大幅度提升

    創星未來訪談|時擎科技:智能芯片領域的新銳力量

    我們走近時擎科技,一探訪這股智能芯片領域的新銳力量。時擎科技聚焦RISC-V領域,驅動
    的頭像 發表于 09-24 08:03 ?537次閱讀
    創星未來訪談|時擎科技:<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>智能</b>芯片領域的新銳力量

    廣和通AI解決方案驅動性能密集型場景商用型場景商用

    2024世界機器人大會期間,廣和通宣布:基于高通QCS8550平臺的廣和通AI解決方案高效使能性能密集型場景。該
    的頭像 發表于 08-23 16:06 ?339次閱讀

    廣和通AI解決方案驅動性能密集型場景商用型場景商用

    2024世界機器人大會期間,廣和通宣布:基于高通QCS8550平臺的廣和通AI解決方案高效使能性能密集型場景。該
    的頭像 發表于 08-23 16:05 ?692次閱讀
    廣和通<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>解決方案驅動性能密集型場景商用型場景商用

    廣和通AI解決方案榮膺MWCS 2024邊緣AI計算最佳創新獎

    在近日舉行的2024世界移動通信大會·上海(MWCS 2024)上,廣和通憑借其卓越的AI解決方案榮獲2024信息通信業“新質推薦”——邊緣AI
    的頭像 發表于 06-28 15:44 ?790次閱讀

    廣和通發布基于高通 QCM6490和QCS8550處理器的AI解決方案

    、高算力推動移動機器人、工業機器視覺、智慧零售、自動駕駛等領域智能化。 ? 相較于云AI
    的頭像 發表于 06-07 16:44 ?1031次閱讀

    廣和通發布基于高通QCM6490和QCS8550的AI解決方案,使AI“更接地氣”

    6月7日,COMPUTEX 2024期間,為拓展物聯網生態系統并滿足AI應用需求,廣和通發布基于高通? QCM6490和QCS8550處理器的
    的頭像 發表于 06-07 16:36 ?473次閱讀

    廣和通發布基于高通QCM6490和QCS8550的AI解決方案,使AI“更接地氣”

    6月7日,COMPUTEX 2024期間,為拓展物聯網生態系統并滿足AI應用需求,廣和通發布基于高通? QCM6490和QCS8550處理器的
    的頭像 發表于 06-07 16:30 ?852次閱讀
    廣和通發布基于高通QCM6490和QCS8550的<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>解決方案,使<b class='flag-5'>AI</b>“更接地氣”

    MWC2024世界移動通信大會圓滿結束,美格智能5G-A、AI解決方案掀熱潮

    作為全球領先的無線通信模組及解決方案提供商,美格智能亮相2024世界移動通信大會,發布了5G-A、5G RedCap系列FWA、AI等創
    的頭像 發表于 03-02 11:17 ?1994次閱讀
    MWC2024世界<b class='flag-5'>移動</b>通信大會圓滿結束,美格<b class='flag-5'>智能</b>5G-A、<b class='flag-5'>端</b><b class='flag-5'>側</b><b class='flag-5'>AI</b>解決方案掀熱潮

    榮耀引領AI新時代

    在今年的MWC盛會上,榮耀宣布與高通、Meta攜手,將70億參數大模型引入,這一創新舉措預示著AI新時代的到來。榮耀終端CEO趙明在
    的頭像 發表于 03-01 10:28 ?671次閱讀
    主站蜘蛛池模板: 免费a网址| 国产热| 久久国产影视| 久久福利影视| 国产a一级毛片午夜剧场14| 国产精品午夜久久久久久99热| 看片福利| 在线观看视频免费| 69日本xxxxxxxxx98| 亚洲一区免费看| 老师下面好紧| 亚洲香蕉毛片久久网站老妇人| 欧美成人性动漫在线观看| 欧美一级片网站| 国内免费视频成人精品| 成人狠狠色综合| 天天操天天干天天爽| 国产综合在线观看视频| 香蕉操| 日韩夜夜操| 26uuu另类欧美亚洲曰本| h视频免费高清在线观看| 欧美特级午夜一区二区三区| 一级特色黄色片| 色你懂的| 国内精品久久久久久影院老狼| 夜夜澡人人爽人人喊_欧美| 手机看片日韩在线| 欧美极品第一页| 在线天堂中文www官网| 三级理论在线| 国产精品免费观看网站| 手机在线看| 69日本xxxhd| 婷婷激情电影| 激情丁香小说| 天堂网www在线资源| 欧美xxxx性高清| 亚洲宅男天堂a在线| 欧美女人天堂| 午夜精品福利影院|