在6月28日南京國際博覽會議中心召開的中國人工智能峰會,中國人工智能產業發展聯盟(AIIA)總體組組長孫明俊主持發布了“AIIA DNN Benchmark”測評結果,Imagination的神經網絡加速器通過了《AIIA DNN benchmark——人工智能端側芯片基準測試評估方案 V0.5 版本》!在測試中,Imagination的神經網絡加速器在多項測試中名列第一!
據發布的報告,在基于端側推斷任務深度神經網絡處理器基準測試結果中,Imagination的神經網絡加速器在多個框架測試中成績名列第一!
孫明俊表示AIIA DNN Benchmark已經制定兩套評估規范、完成兩輪端側評估評測工作,增加支持安卓和Linux操作系統,是唯一一家區別整形和浮點的評測標準,目前該發布結果已經公布,
網址是:http://aiiaorg.cn/uploadfile/2019/0702/20190702065314379.pdf
AI 進入爆發期后,芯片對技術進步的影響愈發凸顯。AI 芯片益復雜化、多樣化,一方面,芯片廠商紛紛給出不同的衡量標準,聲稱其產品在計算性能、單位能耗算力等方面處于行業領先水平;另一方面,需求方卻關心如何能從廠商給出的信息中判斷出芯片是否能實際滿足其真實場景的計算需求。針對這一現狀,一個與真實場景緊密相連的、同時跨產品可比的測試評估方案的出現,迫在眉睫。
如何構建與真實場景緊密相連的、面向不同產品形態、設備級別的 AI 加速器測試評估方案?在2018 年的AIIA 人工智能開發者大會上,《AIIA DNN benchmark——人工智能端側芯片基準測試評估方案 V0.5 版本》就由孫明俊代表中國人工智能產業發展聯盟發布。
據孫明俊介紹,AIIA DNN benchmark 的工作目標為客觀反映當前以提升深度學習處理能力的 AI 加速器現狀,所有指標均旨在提供客觀比對維度。AIIA 希望,該方案能夠為芯片企業提供第三方評測結果,幫助產品市場宣傳;同時為應用企業提供選型參考,幫助產品找到合適其應用場景的芯片。V0.5 版本首先給出了端側評估方案。
據孫明俊介紹,AI 基準測試方案的制定面臨諸多挑戰。即便拋開優化程度、硬件架構等若干問題不談,延遲、帶寬、能耗都要納入考慮范圍。同時,各種神經網絡模型都有不同參數,不同設備在不同參數下有不同的輸出曲線。如何讓指標在不同級別的設備中橫向可比?而云端和終端的應用是否需要不同的基準測試?如何為不同測試項目分配權重,以獲得一個相對公正客觀、有代表性的評分?這些都是應用領域的差異性和實現選擇的多樣性導致的測評難題。
針對以上特點,AIIA 聯合 Arm 中國、阿里巴巴集團、百度、寒武紀科技、ChipIntelli、地平線、華為、華大半導體、Imagination、Synopsys,騰訊、云之聲等 12 家企業,推出了 AIIA DNN benchmark——人工智能端側芯片基準測試評估方案。
AIIA DNN benchmark 以“版本迭代、不斷豐富、不斷完善”的工作方式,為更多評測應用場景、評測指標等提供評估方案,首輪測試對象主要為端側設備。AIIA DNN benchmark 的發布,能夠促進芯片供給側與需求側的交流,讓需求方的意見能夠更快傳達到芯片企業,讓企業進行有針對性的改良,加快行業迭代速度,推動 AI 產業的快速進步。
2017年9月,Imagination Technologies發布第一代神經網絡加速器PowerVR NNA,此款NNA具有完整且獨立式的IP,在面積效率、性能運算以及功耗等方面都具有“秒殺”競爭對手的優勢。
2018年12月,Imagination Technologies發布了其面向人工智能(AI)應用的最新神經網絡加速器(NNA)架構PowerVR Series3NX。單個Series3NX內核的性能可從0.6到10萬億次操作/秒(TOPS),同時其多核實現可擴展到160TOPS以上。得益于包括無損權重壓縮等架構性增強,Series3NX架構的性能可在相同的芯片面積上較上一代產品提升40%,使SoC制造商可在性能效率方面提高近60%,且帶寬需求降低了35%。
Imagination在PowerVR Series3NX中增加了無損的權重壓縮特性,這種壓縮減少了需要存儲和通過系統內存來傳遞數據的神經網絡模型的大小,這意味著與PowerVR Series2NX相比,Series3NX提供了更加高效的總體帶寬,相比Series2NX降低了35%,同時降低了SoC的功耗。
作為Series3NX架構的一部分,2018年年底,Imagination 還發布了PowerVR Series3NX-F(Flexible)IP配置,以提供前所未有的功能性和靈活性平衡,同時還結合了行業領先的性能。采用Series3NX-F的客戶可以通過OpenCL框架來實現差異化并為其產品增加價值。
PowerVR Series3NX能夠滿足自動駕駛等應用的高計算需求,實現了下一代真正的人工智能。通過使用Imagination的專用深度神經網絡(DNN)API,開發人員可以輕松地針對Series3NX架構以及現有PowerVR GPU編寫人工智能應用程序。該API可以在多種SoC配置上工作,以便在現有設備上輕松地完成原型設計,目前Imagination的神經網絡加速器產品已經廣泛應用在手機、安防、智慧家居領域。
-
加速器
+關注
關注
2文章
799瀏覽量
37874 -
神經網絡
+關注
關注
42文章
4771瀏覽量
100772
原文標題:多項第一!Imagination神經網絡加速器通過AIIA DNN benchmark評估
文章出處:【微信號:Imgtec,微信公眾號:Imagination Tech】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論