《從云到端 AI觸手可及》2024年芯原AI專題技術(shù)研討會上，芯原執(zhí)行副總裁、IP事業(yè)部總經(jīng)理戴偉進作了“大模型推動邊緣計算變革的機遇與挑戰(zhàn)”的主題演講，他介紹了目前大模型在邊緣計算的變革的同時，也向行業(yè)介紹了芯原AI相關(guān)的技術(shù)演講和IP產(chǎn)品系列。

圖：芯原執(zhí)行副總裁、IP事業(yè)部總經(jīng)理戴偉進在技術(shù)研討會上作演講介紹大模型的技術(shù)發(fā)展趨勢

戴偉進首先在發(fā)言中表示，AI已經(jīng)從部署到每個地方，演進到布置到每個人，大模型應(yīng)該進入到了邊緣設(shè)備中。以語言為基礎(chǔ)的多模態(tài)大模型（Multimodal)

2024年初OpenAI正式上線，全球各種GPT迅速跟進。2024年科技企業(yè)將大型人工智能模型要引入到嵌入式系統(tǒng)中落地，AI手機、AI PC和汽車的大模型邊緣終的落地，并引發(fā)了廣泛的關(guān)注?？上壳霸趪鴥?nèi)的AI大模型在邊緣終端的落地還受政策影響中。


2024年初OpenAI正式上線，全球各種GPT迅速跟進。2024年科技企業(yè)將大型人工智能模型要引入到嵌入式系統(tǒng)中落地，AI手機、AI PC和汽車的大模型邊緣終的落地，并引發(fā)了廣泛的關(guān)注?？上壳霸趪鴥?nèi)的AI大模型在邊緣終端的落地還受政策影響中。

戴偉進表示，GPT多模態(tài)的能已經(jīng)能夠處理圖像和文本的輸入，他預(yù)測在下一代的GPT-5中將加入視頻處理模塊。據(jù)最新的谷歌發(fā)布的大模型AI手機 Project Astra項目的演示中，基于Gemini大模型，視頻處理模塊的AI技術(shù)已經(jīng)實現(xiàn)。2024年2月16日 ，OpenAI發(fā)布了首個視頻生成模型Sora，支持60秒一鏡到底的視頻，包含高細致背景、多角度鏡頭以及富有情感的多個角色，所合成的視頻內(nèi)容與物理世界規(guī)律保持一致。谷歌則隨即發(fā)布對標Sora的高質(zhì)量視頻生成模型Veo。


微軟不久前的Copilot+PC的最新技術(shù)亮點則是把AI PC的產(chǎn)品新技術(shù)推到了新的高潮。三星Galaxy S24系列手機內(nèi)置即圈即搜、通話實時翻譯、筆記助手、智能修圖和智能寫作五大AI功能，國內(nèi)一些品牌也隨即宣布跟進。AI PC和AI手機成為今年行業(yè)最熱產(chǎn)品詞條。


可以說，AI PC的時代全面到來。受技術(shù)封鎖的影響，國內(nèi)的技術(shù)廠商急切需要有AI IP相關(guān)的技術(shù)廠商抱團共同跟進。

不過國內(nèi)AI技術(shù)發(fā)展的挑戰(zhàn)并不如我們想像中那么困難。戴偉進透露，芯原在AI IP早些年就已經(jīng)布局，公司的NPU IP全球出貨量超過1億顆。GPU在全球累計出貨量過去20年累計近20億顆。

芯原的5納米媒體加速器視頻，即視頻處理器AI Video在全球范圍內(nèi)處于領(lǐng)先地位。


且已經(jīng)在邊緣設(shè)計上運行大模型。包括在嵌入式設(shè)備、邊緣服務(wù)器和數(shù)據(jù)中心，都有產(chǎn)品開始被客戶采用。

從上圖可以看到芯原的在嵌入式設(shè)備的相關(guān)NPU和GPU的IP產(chǎn)品。

芯原的AI計算軟件與各種軟件工具等平臺的適配。

芯原在AGI領(lǐng)域，其NPU的性能處于全球領(lǐng)先的地位，LLaMA 7B能達到20 Tokens/s。

戴偉進最近也展示了Open Se Cura項目。該項目跟谷歌協(xié)作開發(fā)，可以在可穿戴低功耗的終端、AI手機以及云云計算大模型上部署。