想象一下:
清晨有智能語音助手輕聲喚醒你
工作時,人工智能助你高效辦公
約會時,人工智能為你“出謀劃策”
當手機里加持了人工智能
未來充滿無限可能
最近幾年,人工智能應用日益普及,個人語音助手一類的人工智能應用,為我們帶來了令人驚嘆的體驗。為了讓你更好地用上人工智能,我們在今年 MWC 上推出了Qualcomm人工智能引擎 AI Engine。
然而……到底什么是 AI Engine?簡單說,AI Engine 就是在驍龍移動平臺上加速終端側人工智能用戶體驗實現的硬件與軟件組件的集合。
硬件:多核異構計算核心
高效運行終端側人工智能需要多核異構計算。因為不同人工智能應用場景的功耗和對運算資源的需求各不相同,僅靠單顆人工智能內核無法以最佳方式解決,所以需要可編程的異構計算。
舉個例子,Hexagon 向量處理器、Adreno GPU、Kryo CPU就像三個各有所長的樂手,不同的曲目需要不同類型的樂手,有的擅長高音,有的擅長低音,只有根據曲目合理樂手搭配,方能呈上一場精彩合唱。
Qualcomm 驍龍移動平臺充分利用了多核異構計算核心 Hexagon 向量處理器、Adreno GPU 視覺處理子系統和 Kryo CPU 的可編程架構。這為開發者提供了更廣泛的選擇,面向不同類型的功能、基于不同類型的數據、在不同的計算精度水平上,可支持大量卷積或循環神經網絡。
HEXAGON向量處理器
Qualcomm Hexagon 向量處理器是向量處理器子系統中的加速引擎,支持處理8位定點運算。相較于 GPU 或 CPU,涉及向量數學的應用工作負載通常更適合在驍龍的向量處理器上運行。
ADRENO GPU
具有龐大的并行數據集、需要大量的向量數學,尤其是對浮點精度有要求的應用工作負載,都非常適宜在驍龍的 Adreno GPU 上運行。通過最新的 Adreno GPU 對 16 位浮點精度的人工智能工作負載進行的優化,可提供更佳的能效表現,使其成為如計算機視覺物體分類、視頻風格轉換、場景檢測和游戲等人工智能應用的理想選擇。
KRYO CPU
神經網絡模型通常以 32 位浮點(高精度)在云端完成訓練。它也可以在終端側的 CPU 上實現類似運行,但其代價太大,需要終端在性能和功耗上作出一些犧牲。驍龍845 中在 Kryo CPU 上優化了對 8 位定點精度的支持,幫助支持包含較大內核、相對較少向量處理、非規則性數據結構和/或復雜流程控制的應用。
總的來說,在驍龍平臺上加速人工智能最高效的解決方案是將人工智能工作負載分配到 CPU、GPU 和向量處理器上。這為開發者提供了實現人工智能用戶體驗的多種靈活選擇。
軟件和工具
AI Engine 的第二個組成部分是軟件和工具。在處理 AI 應用時,軟件和工具無疑更加重要。硬件是一個加速的平臺,而在軟件層面開發者能夠實現大量的創新,打造最新的 AI 應用。
還是用樂手類比,如果說硬件是樂手,那么軟件就是指揮,他能讓樂隊成員發揮最佳表現,呈現最佳演出效果。
Qualcomm 人工智能引擎 AI Engine 的核心軟件構架包括:驍龍神經處理SDK、隨Google Android Oreo 發布的Android NN API以及Hexagon Neutral Network(NN)庫。
通過在驍龍終端上優化已訓練好的神經網絡運行的性能,驍龍神經處理引擎可幫助開發者節省時間和工作量,Hexagon NN庫讓開發者可以直接將人工智能算法在Hexagon向量處理器上運行。為基礎性的機器學習模塊提供了優化的部署,并顯著加速諸如卷積、池化和激活等人工智能運行。
移動平臺支持
目前,驍龍845、驍龍835、驍龍821、驍龍820 均已支持 Qualcomm人工智能引擎 AI Engine,其中驍龍845將支持最頂尖的終端側人工智能。
而作為驍龍 600 系列中迄今為止最強的產品,驍龍660移動平臺同樣支持 Qualcomm人工智能引擎 AI Engine,它首次將配備 HVX 的 Qualcomm Hexagon DSP 運用至驍龍 600 系列之中,支持性能的飛躍式提升。除了帶來卓越的AI 體驗,驍龍660移動平臺還支持先進的拍攝技術、增強的游戲體驗和持久的電池續航時間。
全新的驍龍700系列平臺也將支持 Qualcomm人工智能引擎 AI Engine,驍龍700系列移動平臺預計將于今年上半年向客戶商用出樣,讓我們一起期待吧。
-
AI
+關注
關注
87文章
31262瀏覽量
269628 -
人工智能
+關注
關注
1792文章
47497瀏覽量
239214
原文標題:多核異構計算,AI Engine 如何刷新你的AI體驗?
文章出處:【微信號:Qualcomm_China,微信公眾號:高通中國】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論