我們普通人和大模型的距離有多遠？AI發展到2024年，已經附著在各種智能硬件上了，什么AI PC，AI手機，AI藍牙音箱，AI學習機，AI鼠標等等，但其實雖然很多產品加上了個AI的名頭，但用起來總讓人想罵一句“人工智障”。手機、音箱里的“小藝小愛”們，只能做些約定俗成框架里的事，目前用起來是沒感覺他能學習的。但AI PC貌似可以走完我與大模型的“最后一公里”，讓每一個普通人都能夠擁有昂貴的大模型。
主流AI PC芯片盤點及應用情況
2023年9月，AI PC的概念被首次提出，到2024年2月，英特爾在 MWC 2024 上表示，將會和宏碁、華碩、戴爾、Dynabook、富士通、惠普、聯想、LG、微軟 Surface、NEC、松下、三星和 VAIO 等公司合作，推出超過 100 款搭載英特爾最新AI PC芯片的商用筆記本電腦、臺式機、一體機和入門工作站。在AI PC概念逐漸被市場認可后，各大老牌芯片巨頭都緊跟推出新品。10 月，AMD Ryzen 7040系列筆記本電腦配備了基于Xilinx IP的專用AI引擎，名為“Ryzen AI”，可以加速 PyTorch和TensorFlow等機器學習框架的運行；同為10月，高通針對AI PC發布X Elite芯片；2024年1月，NVIDIA推出三款裝載額外裝置的全新顯卡，稱用戶可以在“AI PC”上使用AI功能。目前，英特爾、高通、AMD、蘋果等芯片處理器廠商已推出針對AI PC的處理器，聯想、華碩、戴爾、榮耀等品牌廠商也在積極推動AI PC的發展。

雖然有各種各樣的AI PC的處理器，但基本上各廠商通用計算架構都采用了“CPU+GPU+NPU”的異構方案。

圖注：高通、英特爾、AMD的AI PC處理器

大模型的本地運行需要強大的AI算力，因此，在傳統的CPU+GPU方案里加多了一個嵌入式神經網絡處理器—NPU。NPU是一種專門用于處理人工神經網絡計算的計算機微處理器，用于深度學習，對神經網絡工作負責進行憂化。CPU做主控、GPU 做渲染、NPU 做 AI 加速，三種芯片結合，能實現更快速、更高效率的邊緣AI模型推理。
高通用驍龍X Elite殺進PC領域，英特爾占領AI PC市場氣勢很足
微軟宣布其AI PC的最低算力為40 TOPS，目前市場上的英特爾酷睿Ultra (34 TOS) 和AMD 銳龍 8040 (39 TOPS)都不能滿足這一標準。除了裝有AI專用顯卡的筆記本之外，目前只有高通的驍龍X Elite(45 TOPS)能達到這性能要求。據預期，2024年下半年推出的AMD 銳龍8050和英特爾Ultra 200這兩款處理器也將符合微軟規定的40 TOPS。

從算力來看，高通確實是領先于目前其他AI PC處理器一步，但英特爾在PC芯片上的生態地位難以撼動，而在驍龍X Elite之前，高通在PC領域一直沒有太大聲響。然而在驍龍X Elite的發布會上，高通很狂，拉出蘋果和AMD出來比較，喊話“我們單線程性能超越了蘋果 M2 Max！并且同性能功耗比蘋果還低 30%！” “英特爾也是一樣”“比 AMD 的核顯還強 80%！”

圖注：高通發布會上拿英特爾i9-13980HX進行對比功耗

圖注：高通發布會上拿AMD Ryzen 9-7940HS進行對比GPU性能

PPT數據很強大，也有很多PC OEM廠商會搭載，微軟、聯想、惠普、宏碁、華碩、三星等筆記本傳統玩家，還有小米和榮耀。

同樣有許多PC OEM站臺的還有英特爾，英特爾在 MWC 2024 上推出全新的 vPro 平臺，涵蓋新款酷睿 Ultra 和第 14 代處理器，介紹 是一個商業計算平臺，主要面向企業用戶，將會和宏碁、華碩、戴爾、Dynabook、富士通、惠普、聯想、LG、微軟 Surface、NEC、松下、三星和 VAIO 等公司合作，推出超過 100 款搭載英特爾最新芯片的商用筆記本電腦、臺式機、一體機和入門工作站。這羅列的商家和數據，頗有一種占領PC市場的野心和氣勢。
AMD Ryzen AI產品已經開始出貨
AMD的AI產品組合涵蓋云端、高性能計算、企業級、PC、嵌入式等應用，其AI 戰略基于三個關鍵要素：產品、架構和開放生態系統。

集成AI引擎的Ryzen 7040、8040、8045等移動系列CPU是產品組合中的一部分，其中，Ryzen 8040系列已經開始出貨，相關終端會在Q1上市。此外，AMD還有Ryzen 8000G系列桌面APU產品，同樣基于臺積電4nm制程，均提供最多8個Zen4架構的CPU核心，集成有最高768SP配置的RDNA3架構核顯，可支持硬件光追和AFMF技術。

目前，基于Ryzen AI技術的產品已經被用于聯想、華碩、宏碁等品牌電腦中，這些AI PC通過Ryzen系列產品內置的神經處理單元（NPU）提供低功耗、高效率的AI計算能力，加快圖片和視頻處理、語音識別、文字轉錄等AI相關的本地應用處理速度，從而提升用戶的生產力和娛樂體驗。

Arm架構或受益于AI PC浪潮
相比x86架構，Arm的優勢在于低成本、低功耗、日益加強的性能和系統通用性以及海量終端設備生態，這些優勢有望在移動終端AI PC上得到發揮。Counterpoint Research預測，隨著Arm芯片迭代及性能持續提升，蘋果、三星、聯發科等國際大廠紛紛試水基于Arm架構的PC芯片，未來Arm有望于2027年占據全球Notebook CPU/SoC出貨量25%的市場份額。前文提到的高通驍龍X Elite處理器，其內部的Oryon CPU是由高通公司開發的基于Arm指令集的完全定制化設計的處理器核心。不同于傳統的Arm Cortex公版架構，Oryon是高通在收購NUVIA后推出的全新CPU內核，專為提升移動計算和筆記本電腦等設備的性能及能效而打造。另外有消息稱，NVIDIA和AMD已經開始設計基于Arm的PC芯片，并將運行Windows操作系統，并最早在2025年推出。而在此之前，微軟首款Surface平板電腦Surface RT采用了NVIDIA基于Arm的Tegra處理器，但Windows RT未能產生太大市場反響。根據外媒Windows Central的一份報告顯示，Microsoft正準備使用新的AI功能升級其Surface產品線，或于2024年發布的 Surface Pro 10 和 Surface Laptop 6 將配備下一代神經處理單元 （NPU），并具有英特爾和Arm處理器兩種選項。在更遠的2025年還可能會有更新的 Surface Laptop Studio。微軟很早就在其產品中支持Arm架構處理器，Windows RT是微軟最早嘗試在Arm架構上運行Windows的一個版本，最新的Windows 11繼續支持Arm架構，并且在兼容性、性能和用戶體驗上進行了改進，支持更多應用程序原生運行在Arm設備上，同時通過模擬技術讓更多x64應用可以在Arm設備上運行。微軟還與高通、三星等硬件制造商合作，推出了多款搭載Arm處理器并運行Windows 10 on ARM系統的設備，如搭載高通驍龍系列處理器的始終連接PC（Always Connected PCs），這些設備結合了智能手機的長久續航和始終在線的特點與PC生產力工具屬性。微軟在AI PC生態中除了廣泛硬件兼容，還具有一個比較重要的產品，也就是AI助手Copilot，其賦予了用戶全新的交互方式，讓AI更加緊密地融入個人電腦的操作和使用過程中，使得AI不再是抽象的概念，而是實實在在提升生產力和便利性的工具。
小結
AI PC為處理器芯片廠商和PC廠商創造了機遇，比較顯著的革新趨勢之一是通過在CPU、GPU或專用NPU中集成AI加速單元，提供更高的計算效率和更低的能耗，各主要處理器廠商均有產品落地，本文對這些處理器做了介紹。AI應用場景比較豐富，因此處理器的另一個趨勢是定制化，這需要處理器廠商與操作系統開發商、AI框架開發者、ODM/OEM廠商緊密合作，共同推廣AI應用和服務，打造獨特賣點，提高產品附加值。

審核編輯 黃宇