在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

把Transformer大模型部署在端側(cè),IPC SoC正在普惠AI

21克888 ? 來源:電子發(fā)燒友網(wǎng) ? 作者:黃晶晶 ? 2023-12-08 13:50 ? 次閱讀

電子發(fā)燒友網(wǎng)報道(文/黃晶晶)AI大模型襲卷而來,而如何讓終端產(chǎn)品插上AI的翅膀會是芯片廠商研發(fā)的方向和市場的機會。如今網(wǎng)絡(luò)攝像機作為智慧城市、智能家居等應(yīng)用的主流終端發(fā)展迅速,IPC SoC芯片是其核心之一。最近愛芯元智帶來的兩款I(lǐng)PC SoC新品在黑光全彩處理、適配Transformer大模型等方面表現(xiàn)十分亮眼,愛芯元智副總裁史欣也向媒體分享了公司對IPC SoC高清化、智能化發(fā)展的洞察。

兩款I(lǐng)PC SoC:AX630C和AX620Q




愛芯元智帶來的兩款新產(chǎn)品AX630C和AX620Q都搭載了最新的愛芯智眸AI-ISP4.0圖像處理引擎以及愛芯通元4.0高性能、低功耗的NPU引擎。這些技術(shù)的升級使得這兩款產(chǎn)品在視頻圖像效果、智能業(yè)務(wù)處理和分析等方面均達到了業(yè)界的領(lǐng)先水平。

愛芯智眸AI-ISP4.0對HDR、去噪、demosaic、銳化、去霧等算法做了升級,在暗光下的噪聲處理、色彩還原、運動拖影、清晰度等方面較上一代產(chǎn)品更優(yōu)秀,通過AI賦能ISP Pipeline里的關(guān)鍵模塊,在各種復(fù)雜應(yīng)用場景中全面提升成像效果,為后期智能處理提供高質(zhì)量的圖像、視頻素材。

愛芯通元混合精度NPU則通過減少數(shù)據(jù)搬運,在一定程度上減小了內(nèi)存墻和功耗墻的阻礙,提高整個NPU的效率,從而在端側(cè)邊緣側(cè)面積、功耗受限的情況下,以更高的有效算力支持更多的智能算法。

愛芯元智的“真黑光”技術(shù),則是通過愛芯智眸AI-ISP將畫面真實還原,后續(xù)再通過NPU進行優(yōu)化,進行更加準確的圖像處理,在極低照度下獲得超越人眼所見的黑光全彩效果。

AX630C具有高算力的特征,其CPU采用雙核A53@1.2G,配合3.2T@INT8的NPU以及硬化的CV算子模塊,可以對4K圖像進行實時的智能處理,提高客戶智能算法處理的精度和性能。同時,AX630C新一代的NPU引擎支持主流的Transformer網(wǎng)絡(luò)如ViT/DeiT/Swin/SwinV2/DETR等,可以解決訓(xùn)練數(shù)據(jù)集不足引起的算法精度下降,以及長尾場景下算法的泛化性問題。

據(jù)介紹,AX630C是愛芯元智面向智慧城市行業(yè)前端IPC市場推出的超高清智能SoC,可支持4K@30fps實時真黑光;AX620Q是愛芯元智面向模組與渠道行業(yè)前端IPC市場推出的高清智能SoC,可支持5Mp實時、4K非實時的真黑光。

從細節(jié)上看,為了實現(xiàn)黑光全彩的效果,愛芯智眸AI-ISP4.0集中對四個關(guān)鍵模塊進行了算法升級。史欣分析,傳統(tǒng)ISP由十幾個模塊組成,在算力足夠大的時候若不考慮成本可以用AI模型去增加每一個模塊。而愛芯元智結(jié)合了客戶的痛點需求和成本因素,對pipeline模塊中HDR、3DNR、RLTM、Demosaic等進行了增強,達到了色彩飽和度高、運動圖像無拖尾,以及噪聲、銳化、清晰度等效果的顯著提高。后續(xù),愛芯元智還將針對防抖、3A等模塊進行優(yōu)化。

這其中的另一個問題是AI的算力消耗,本質(zhì)上來說盡可能將模塊的精確度提高就能更少的消費算力。史欣舉例說,例如做人臉處理是對整個區(qū)域或者部分區(qū)域做降噪,消費的算力不一樣。原來在400萬分辨率的情況下需要1T做整個AI-ISP的處理,現(xiàn)在愛芯元智的第三、四代產(chǎn)品已經(jīng)降到了0.6甚至0.5T,接下來可以做到0.2T就可以完成3DNR降噪的算力消耗,既能降低芯片成本,又可以留出更多的算力讓客戶開發(fā)更多可能。

Transformer在智慧城市中的應(yīng)用


“Transformer應(yīng)用的一個典型場景是對信息特征的檢索,從最早期的后端處理、服務(wù)器處理,算法上云,到目前開始進入算法在邊緣側(cè)的部署等等,但始終沒有解決端側(cè)部署的問題。大的廠商能夠根據(jù)行業(yè)應(yīng)用來適配模型大小,而Transformer興起之后將帶來更多具象化的信息,使得檢索更容易、并縮減檢索的時間。”史欣說道。

愛芯元智能夠幫助客戶把在服務(wù)器、云端訓(xùn)練好的算法在裁剪之后在端側(cè)部署。這里既有部署性包括帶寬、功耗、成本等的考慮,也有精度的要求。愛芯元智通過幾年來在NPU和算法工具鏈的迭代,IPC SoC能夠支持算法的快速部署、保證精度,具備端側(cè)部署的軟硬件條件。



不僅是Transformer大模型,愛芯元智還在適配國內(nèi)的DINOv2大模型,愛芯元智依托硬件NPU、軟件算法等技術(shù)并與合作伙伴共同推出算法部署國產(chǎn)化。

普惠AI


我們看到愛芯元智有一個非常明確的發(fā)展理念,即是普惠AI。AI不應(yīng)只在云端,更應(yīng)該讓消費、智慧城市、汽車等各個行業(yè)受惠。史欣談到,客戶希望能夠從To G或者To大B的業(yè)務(wù)部署向To小B,甚至To C的業(yè)務(wù)上進行部署。即便是家用攝像頭這個普及型消費電子產(chǎn)品,也需要AI-ISP加持,那么更需要像愛芯元智這樣具備軟硬件能力的廠商通過產(chǎn)品技術(shù)、性價比等去擁抱市場。

對于AI芯片的發(fā)展趨勢,史總給出預(yù)判,他認為端側(cè)AI的小型化將越來越多的落地,同時其性能要有前瞻性和較高的性價比。同時產(chǎn)品的易用性加強,芯片廠商的方案交付要更簡單。同時除了自身掌握關(guān)鍵技術(shù)之外,也需要生態(tài)合作伙伴做更豐富的算法和軟件,如此才能加快AI的普惠化,助力智能化產(chǎn)業(yè)升級。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    30896

    瀏覽量

    269111
  • 智能城市
    +關(guān)注

    關(guān)注

    1

    文章

    172

    瀏覽量

    20759
  • 愛芯元智
    +關(guān)注

    關(guān)注

    1

    文章

    81

    瀏覽量

    4835
收藏 人收藏

    評論

    相關(guān)推薦

    四大廠商業(yè)績大漲背后,積極探索側(cè)AI SoC芯片創(chuàng)新迭代

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)近年來,模型技術(shù)的帶動下,AI應(yīng)用正在迅速往側(cè)遷移,產(chǎn)品形態(tài)
    的頭像 發(fā)表于 08-27 01:28 ?4760次閱讀
    四大廠商業(yè)績大漲背后,積極探索<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b> <b class='flag-5'>SoC</b>芯片創(chuàng)新迭代

    中信建投建議關(guān)注側(cè)AI模組機會

    析,OpenAI在其“連續(xù)12天直播發(fā)布”的第5天宣布,支持Apple Intelligence的蘋果設(shè)備現(xiàn)已能夠開啟ChatGPT功能。這一消息不僅顯示了AI技術(shù)消費級市場的廣泛應(yīng)用潛力,也預(yù)示著
    的頭像 發(fā)表于 12-17 14:05 ?257次閱讀

    廣和通開啟側(cè)AI新時代

    AI發(fā)展正酣,隨著終端芯片算力越來越高、側(cè)模型能力越來越強、實時響應(yīng)及隱私保護的側(cè)應(yīng)用需求增
    的頭像 發(fā)表于 12-12 10:35 ?195次閱讀

    智譜推出四個全新側(cè)模型 攜英特爾按下AI普及加速鍵

    隨著AI的發(fā)展,側(cè)AI模型越來越受到廣大客戶及廠商的關(guān)注,業(yè)界領(lǐng)先的大模型公司智譜于近日推出了
    的頭像 發(fā)表于 12-02 17:13 ?211次閱讀
    智譜推出四個全新<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>模型</b> 攜英特爾按下<b class='flag-5'>AI</b>普及加速鍵

    把握關(guān)鍵節(jié)點,美格智能持續(xù)推動側(cè)AI規(guī)模化拓展

    當前,AI模型走向側(cè)已經(jīng)是大勢所趨,側(cè)AI的發(fā)
    的頭像 發(fā)表于 11-26 01:00 ?152次閱讀
    把握關(guān)鍵節(jié)點,美格智能持續(xù)推動<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>規(guī)模化拓展

    把握關(guān)鍵節(jié)點,美格智能持續(xù)推動側(cè)AI規(guī)模化拓展

    當前,AI模型走向側(cè)已經(jīng)是大勢所趨,側(cè)AI的發(fā)
    的頭像 發(fā)表于 11-25 16:45 ?254次閱讀
    把握關(guān)鍵節(jié)點,美格智能持續(xù)推動<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>規(guī)模化拓展

    側(cè)AI浪潮已來!炬芯科技發(fā)布新一代側(cè)AI音頻芯片,能效比和AI算力大幅度提升

    側(cè)AI音頻芯片。 ? 2028 年中小型模型側(cè)AI
    的頭像 發(fā)表于 11-06 09:11 ?2558次閱讀
    <b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>浪潮已來!炬芯科技發(fā)布新一代<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>音頻芯片,能效比和<b class='flag-5'>AI</b>算力大幅度提升

    快速部署Tensorflow和TFLITE模型Jacinto7 Soc

    電子發(fā)燒友網(wǎng)站提供《快速部署Tensorflow和TFLITE模型Jacinto7 Soc.pdf》資料免費下載
    發(fā)表于 09-27 11:41 ?0次下載
    快速<b class='flag-5'>部署</b>Tensorflow和TFLITE<b class='flag-5'>模型</b><b class='flag-5'>在</b>Jacinto7 <b class='flag-5'>Soc</b>

    Yuan2.0千億大模型通用服務(wù)器NF8260G7上的推理部署

    巨量模型的智能生產(chǎn)力正在逐步滲透到各行各業(yè),但它們的部署和運行通常需要專用的AI加速卡,能否CPU上運行千億大
    的頭像 發(fā)表于 07-30 14:26 ?405次閱讀
    Yuan2.0千億大<b class='flag-5'>模型</b><b class='flag-5'>在</b>通用服務(wù)器NF8260G7上的推理<b class='flag-5'>部署</b>

    基于AX650N/AX630C部署側(cè)大語言模型Qwen2

    本文將分享如何將最新的側(cè)大語言模型部署到超高性價比SoC上,向業(yè)界對
    的頭像 發(fā)表于 07-06 17:43 ?3567次閱讀
    基于AX650N/AX630C<b class='flag-5'>部署</b><b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>大語言<b class='flag-5'>模型</b>Qwen2

    模型側(cè)部署加速,都有哪些芯片可支持?

    小型化、場景化需求的增加,推理逐步從云端擴展向側(cè)。這種趨勢PC和手機等終端產(chǎn)品上尤為明顯。 ? 大模型
    的頭像 發(fā)表于 05-24 00:14 ?4132次閱讀

    模型裝進小盒子:這個小魔盒直擊側(cè)AIGC的痛點!

    私有本地化部署:智能硬件的未來隨著當下數(shù)字化的高速發(fā)展,今年將會迎來“大模型應(yīng)用爆發(fā)元年”。市面上不少大模型產(chǎn)品應(yīng)運而生,模型
    的頭像 發(fā)表于 05-10 08:33 ?364次閱讀
    <b class='flag-5'>把</b>大<b class='flag-5'>模型</b>裝進小盒子:這個小魔盒直擊<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AIGC的痛點!

    AI硬件大爆發(fā),這個小魔盒直擊側(cè)AIGC的痛點

    私有本地化部署AI硬件的未來隨著當下AI的高速發(fā)展,今年將會迎來“大模型應(yīng)用爆發(fā)元年”。市面上不少大模型產(chǎn)品應(yīng)運而生,
    的頭像 發(fā)表于 05-07 08:02 ?420次閱讀
    <b class='flag-5'>AI</b>硬件大爆發(fā),這個小魔盒直擊<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>AIGC的痛點

    商湯發(fā)布業(yè)內(nèi)最快推理速度「日日新 5.0 側(cè)模型

    現(xiàn)在,就是AI模型側(cè)應(yīng)用的春天!
    的頭像 發(fā)表于 04-29 10:32 ?586次閱讀
    商湯發(fā)布業(yè)內(nèi)最快推理速度「日日新 5.0 <b class='flag-5'>端</b><b class='flag-5'>側(cè)</b>大<b class='flag-5'>模型</b>」

    榮耀引領(lǐng)側(cè)AI新時代

    今年的MWC盛會上,榮耀宣布與高通、Meta攜手,將70億參數(shù)大模型引入側(cè),這一創(chuàng)新舉措預(yù)示著側(cè)
    的頭像 發(fā)表于 03-01 10:28 ?640次閱讀
    主站蜘蛛池模板: 久久国产午夜精品理论篇小说| 性欧美1819hd| 美国三级网| 亚洲成a人片在线网站| 免费的黄色片| 天堂中文在线资源库用| 亚洲免费视频播放| 日本黄色高清视频| 五月婷婷综合网| 91大神在线视频观看| 四虎成人免费网站在线| 国产nv精品你懂得| 男人天堂综合网| 天天影视网天天影网| 在线免费看污视频| 人人看人人做人人爱精品| 综合五月| 亚洲性视频网站| 欧美xxxxx喷潮| www日本高清| 在线观看亚洲专3333| 四虎影院永久免费观看| 91p0rn永久备用地址二| 操女人在线| 欧洲精品码一区二区三区免费看 | 三级黄色片在线播放| 最新大黄网站免费| 一区二区三区四区在线不卡高清| 日韩一卡 二卡 三卡 四卡 免费视频| 国产一级特黄aa级特黄裸毛片| 国产免费爽爽视频免费可以看| 伊人久久综合成人亚洲| 国产成人mv在线观看入口视频| 日本xxxxx69hd日本| 日本高清中文字幕在线观穿线视频 | 久久精品午夜| 午夜剧场黄色| 天天躁狠狠躁夜夜躁| 最好看最新的中文字幕1| 欧美专区一区二区三区| 日本在线网站|