大模型的能力邊界在不斷拓寬，主流云端大模型普遍具備了多模態推理能力。技術路線上，也不再局限于算力堆疊，而是探索強化學習、符號推理、類腦計算等新路徑。并且，投入更小、更垂直的小模型涌現，為特定領域的應用提供了更高效的解決方案。與此同時，我國大模型領域仍然存在多方面痛點，例如：云端訓練成本高、高端算力存在“卡脖子”風險、優質數據匱乏、人才缺口、AI算法開源生態仍需強化、數據安全和隱私問題等等，仍是市場進一步發展和應用落地的不確定因素。芯片側也掀起范式之爭。盡管GPU仍是基于Transformer框架及多種AI工作負載的不二之選，不過，近來先有博通AI芯片收入飆升220%、市值首破萬億美元大關，接著寒武紀市值一度突破3000億、問鼎“AI股王”，業界關于“GPU到ASIC范式大轉變”的聲音開始不絕于耳。

種種跡象顯示，2025年的AI應用市場正處在關鍵轉折點上，商業變現的可能性與不確定性并存。

AI變現，哪些背景和預期？

Arm中國區業務全球副總裁鄒挺認為，AI工作負載大幅增加，對計算資源的需求同步激增。同時，AI模型的復雜性和應用場景的多樣化導致了能源消耗的增加，特別是AI訓練和推理中，需要使用大量能源和電力。因此，整個產業對能效問題表現出了前所未有的關注，行業正在尋求更高性能、更低功耗的解決方案，以應對這些挑戰。

Imagination公司產品管理副總裁Dennis Laudick表示，2024 年是邊緣AI成為主流的一年。在過去的 18 個月里，圍繞基于Transformer框架的模型數量激增，徹底改變了自然語言處理等AI應用的能力。正因如此，使得實時翻譯和對話式個人助手等應用能夠在消費類設備上運行，而非依靠云端。中存算董事長陳巍比較關注視頻大模型應用的崛起和下沉。在他看來，視頻是人類自然交互的主流模式，視頻大模型也是通向未來世界模型的必經之路。相對傳統的文本類大模型和Chatbot，視頻大模型對計算芯片有更高的要求，對傳統的GPGPU架構提出了新的巨大挑戰。他認為，視頻大模型的需求爆發很可能會重構算力芯片產業的格局，博通DSA（ASIC）芯片的需求上漲可能只是前奏。

安謀科技產品總監鮑敏祺則談到，2024年可以被視作端側AI元年，目前這一趨勢已成為行業普遍共識，并逐步成為芯片、終端制造、操作系統、大模型、AI應用等各大廠商爭相投入的重點領域。同時，全球科技巨頭也紛紛在AI手機、AIPC、智駕智艙等新興應用場景進行“重兵部署”，極大地帶動了端側AI創新浪潮的高速演進。

2025年，AI應用變現的關鍵轉折？

隨著多模態AI、推理AI等發展，以及大模型能力的普及，2025年會是AI應用變現的關鍵轉折點嗎？陳巍認為，2025年會出現明顯的剪刀差。一方面是AI應用大規模滲透到編程、政企辦公、教育、工業場景帶來的增量，另一方面是全球的需求變緩和區域沖突帶來的緊縮，這也就意味著機遇和風險并存，對企業決策層的市場感知能力和趨勢預見能力提出很高的要求。不過，樂觀的方面在于，中國大陸依然具備全世界最完備的產業鏈，相對全球可以具備更好的成本優勢。挑戰在于，中國產業界需要進一步提升在AI生態的話語權。Dennis Laudick談到了AI商業化變現途徑的多元化，他認為會因行業而異，比如在移動領域，AI正被用作提升設備銷量的品牌差異化策略，以推動銷量增長并增強用戶忠誠度。在汽車等其他市場，軟件定義汽車使得汽車制造商（OEM）能夠根據消費者偏好的價格點來提供不同級別的新功能，例如自動駕駛功能，并且能夠通過OTA更新，升級AI功能來拓展商業化路徑。鮑敏祺認為，2025年有望成為端側AI商業化落地的關鍵節點，更多端側AI芯片解決方案將陸續面世，支撐端側AI應用的快速演化與落地，期待涌現更多成熟、商業化路徑清晰的AI解決方案。但挑戰依然嚴峻，主要問題在于不同技術架構下AI算法開發的理念存在差異，傳統CNN模式下的能效比思維慣性已難以適用于當前快速迭代、部署的新要求，進而影響算法使用者能否快速將算法部署到端側。因此，聚焦前沿AI算法演進趨勢，并實現快速響應，將成為端側AI研發工作的關鍵。

后摩智能聯合創始人、產品副總裁信曉旭對2025年AI應用變現持相對樂觀態度，認為AI技術進步、市場需求增長，提供了商業化的基礎和空間。特別是在端側AI方面，有望迎來爆發，比如AI PC等應用的擴展，需要支持端側AI大模型運行的芯片提供強大算力支持。同時，落地傳統行業，需要AI解決方案提供商需具備技術能力和行業知識，這對許多技術公司是挑戰。

AI變現，哪些機遇和挑戰？

正如多位受訪人對<與非網>所說，端側和邊緣AI落地已經成為業界關注的焦點。綜合各方觀點來看，變現挑戰主要在于以下兩方面：第一，成本控制、算法快速迭代與實時性要求；第二，AI生態與技術協同。

成本、算法與實時性

Dennis Laudick認為，軟件開發成本是目前企業實施AI的一大障礙，特別是邊緣AI系統中專用AI加速器的軟件難度更大，它雖能實現高TOPS性能，但面臨兩大挑戰：第一，可能不適用于汽車等產品生命周期內的AI算法；第二，缺乏通用軟件棧和工具，代碼移植困難。Imagination在這方面的AI策略是，基于成熟GPU和并行計算架構，提供高性能、靈活、易編程的計算平臺，支持高度并行的AI加速，并配備了基于開放標準和廣泛支持框架的計算軟件棧。在陳巍看來，目前AI落地的大挑戰主要有兩個，一個是AI應用的準確度，或者說是相對人類智力的水平；另一個是AI應用的性價比，也就是能不能比人工更便宜。事實上，后者是目前阻礙AI應用落地的最大因素，例如GPT-o3的解題成本據說高達3000美元，這使得標準o3的落地受到成本擠壓的閑置。

在降成本方面，中存算目前借助自研的大模型來輔助芯片設計，以降低研發成本；另一方面，使用存算一體和先進封裝集成技術降低AI芯片的單位Token成本。鮑敏祺則認為，大模型在端側部署的一大挑戰在于如何實現算法的快速迭代。在當前以Transformer架構為主流的大模型時代，算法更加多樣、迭代更加快速。此前，端側AI算法的設計思路側重于極盡所能去優化功耗、性能和面積，例如將計算精度限定于int8甚至更低，導致算法遷移成本攀升。尤其是將云端開發好的算法部署到端側時，需要進行大量的剪枝、量化等處理，所需周期會非常長，嚴重影響了實時性。安謀科技正在研發的下一代“周易”NPU通過增加高精度fp16算力并支持包括int8/int16/fp16等在內的多精度計算，以及W4A16硬件加速、帶寬壓縮加速技術和多核高性能協同等一系列調優措施，能更好地兼容傳統視覺及語音模型的輕算力場景和大模型的中算力場景。信曉旭認為，AI應用的下一個爆發點極有可能在端側出現。當前，AI落地和傳統行業轉型的最大挑戰在于滿足端邊側大模型部署的“三高三低”要求：即對硬件的高算力、高帶寬、高精度需求，以及對低功耗、低延時、低成本的追求。傳統的CPU和GPU在這些方面存在局限，尤其是在成本和功耗方面，端邊側大模型需要更高性能、更高效率的AI芯片來支持。后摩智能利用存算一體技術打造的AI芯片，在保持低功耗的同時，能夠實現與傳統GPU相當的算力，并且無需占用系統內存，在成本和性能上都具有優勢。

AI生態與技術協同

鄒挺表示，行業對于算力、性能、能效以及縮短上市時間的需求都在不斷攀升。因此，構建計算的方式需要隨之演變，芯片不再是一個由離散模塊或組件以模塊化的方式構建的簡單集合，需要從整體解決方案的角度進行設計，也需要更深度的集成，更多的功能需要協作共存，以實現更低的延遲、更高的帶寬，以及更高的能效。為充分釋放AI的潛力，Arm從系統層面思考問題，將硬件、軟件和生態無縫集成到一個全面的解決方案，通過Arm計算子系統(CSS)和軟件生態系統來推動行業發展。他指出，由于專用AI處理器開發周期較長，高能效CPU在AI初期成為推理核心；隨著技術發展和場景多樣化，定制化專用AI加速器興起，CPU與GPU、NPU等異構單元協同工作，平衡推理性能、成本和功耗。在AI推理及應用的各個階段，高能效CPU都發揮著關鍵作用。

阿里巴巴達摩院資深技術專家李春強認為，AI技術落地催生的模型推理需求，對硬件提出了更高要求，他強調RISC-V作為新興芯片架構，其開放性和可定制性具有獨特優勢。達摩院玄鐵團隊針對AI模型定制的Matrix擴展指令集，提升基于RISC-V芯片的端側AI能效，已首次應用于玄鐵C907處理器；并且針對當前的主流網絡特征，進行了端到端推理優化，通過創新硬件架構提升算力利用效率。軟硬件一體的玄鐵AI平臺解決方案，可以為芯片廠家提供通用的、高效的AI算力基礎設施，已應用于云端視頻轉碼卡、AI邊緣計算盒子、RISC-V筆記本電腦等終端產品。

變現去！國產AI芯片與大模型如何互為促進？

縱觀大模型的商業落地，高度集成的軟硬件一體化方案在滿足特定需求方面有優勢。那么，國產AI芯片與大模型在商業落地方面如何互為促進？有哪些新趨勢？李春強表示，AI芯片與大模型互為促進，具體表現為：大模型需求驅動芯片創新，推動芯片開發高效硬件架構，如支持并行計算的NPU、多模態協同處理的IP設計；同時，AI芯片加速大模型訓練和推理，提供本地化、高性價比算力，降低硬件成本，縮短研發周期。三大趨勢正在發生：第一，大模型專用加速芯片興起，支持稀疏矩陣運算、低精度計算等，優化Transformer模型訓練和推理效率，提升GPT、BERT等模型性能；第二，AI芯片從通用算力走向定制算力，滿足不同場景大模型應用的多樣化算力需求；第三，芯片-模型-算法的三位一體優化，通過硬件加速深度學習模型的注意力機制、動態路由技術等，實現芯片算力最優利用。鮑敏祺則看到，高度集成的軟硬件一體化方案過去多用于智能眼鏡、低功耗手機攝像頭等ISP相關場景，追求極致成本控制，投入產出比并不理想。而端側AI領域，正在從專適專用芯片或IP設計方法，逐步轉變為具備更通用大模型支持能力的方式。大模型時代，AI算法加速迭代，這就需要快速部署、找到用戶高頻使用熱點并獲取反饋以調優算法。并且，云端到端側部署更看重快速迭代能力而非極致成本控制，只有快速部署、抓住用戶才是實現良好商業落地的關鍵。

陳巍談到，目前看到的大部分情況是大模型需要遷就國產AI芯片，進行相對復雜的適配，但國產AI芯片確實在規避算力禁運方面起到了非常大的作用。盡管大部分國產AI芯片和大模型還處于各自為戰的情況，預計未來會有更多的國產AI芯片與大模型進行深度適配和架構優化，降低大模型的部署成本。

寫在最后

對AI應用變現的預期，是多年來技術發展與市場需求共振的結果，顯示出市場對AI應用價值的認可和期待。盡管AI領域的競爭比任何時候都更為激烈，但技術迭代的速度在加快，大模型賦能的AI應用正在多種場景迅速普及，AI的實際滲透率在逐步增長，這也預示著AI應用變現的潛力和廣闊前景。

文章來源于與非網eefocus，作者張慧娟