在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

為啥軟件成了人工智能加速器致勝的法寶?

pmkA_arm_china ? 來源:YXQ ? 2019-03-27 08:41 ? 次閱讀

隨著Arm生態系統的發展壯大,各種各樣的應用場景層出不窮。為了更好地在特定場景下得到更好的性能,能耗比等指標,針對特定應用場景的加速器市場也在蓬勃發展,近年來火熱的人工智能加速器(Artificial Intelligence Accelerator)就是一個典型例子。

一個高效的加速器,需要精心設計的硬件以及與之搭配的軟件,兩者缺一不可,否則用戶體驗會大打折扣,這也是為什么我們常常看到某些指標非常驚艷的加速器,在實際使用中體驗卻不盡如人意的原因。以人工智能加速器為例,其中基本的硬件加速單元就是乘加器的組合,但如何讓這些乘加器高效地進行并行計算,涉及到上層數據的打包、調度,需要大量的驅動軟件工作,而且大部分軟件開發者都是基于某種框架進行應用開發,具體見圖 1,所以驅動到框架的適配也很重要,甚至有一些框架不能滿足應用的需求,需要專門開辟通道進行優化。

圖1:ArmNPU軟硬件框架

開發一款高性能加速器,需要投入大量人力物力,如果不能大規模使用,那么投入回報比會大大降低,甚至虧本。如果加速器能和不同Arm系統輕松組合,拓展Arm系統的應用范圍,那么應用場景將會大大增加,生命周期也會延長。讓加速器適配不同的Arm系統,這對軟硬件接口和驅動提出了非常大的挑戰,因為今天的Arm產品非常豐富,從低功耗的微處理器,主流的移動平臺,到高端的服務器,高性能計算處理器都有相應產品。對于一個加速器團隊來說,針對盡可能多的Arm配置組合進行開發驗證成本將非常高昂,這里面不單單涉及IP/EDA的采購,還有系統的搭建維護,但如果沒有這些IP又無法將整個業務流程完整驗證,甚至影響軟硬件接口的設計優化。

有沒有方法高效地解決加速器配套驅動,框架,應用軟件開發的問題呢?Fast Model!

圖2:使用DS-5調試運行在Fast Model中的系統軟件

在Fast Model的例子系統中,Arm給出了一系列Arm核,相關IP組合的子系統模型,以及相應OS,開發工具DS-5,方便客戶快速搭建軟件開發平臺,調整軟硬件接口,進行驅動以及上層軟件的開發,具體參考圖3。

整個開發流程如下:

1.在Fast Model的例子系統中找到你需要的平臺,和對應的Bootloader, Firmware,OS軟件,并將他們順利運行

2. 將Fast Model的子系統導出生成SystemC的模型子系統模塊

3. 編寫加速器的功能模型,通過AMBA PV總線和Fast Model導出的子系統模塊進行連接

4. 編寫驅動在目標OS中操作加速器

5. 在模型平臺上進行軟件框架,應用匹配移植

Arm提供了絕大部分市面可見設計的類似子系統,無論是基于Arm v7/v8單核,多核,多cluster系統,還是包含最新架構特性的CPU系統,加速器開發團隊都可以在Fast Model的例子程序里面找對類似子系統范例進行適配,在設計之初就可以解決不同系統的適配性問題。Fast Model也提供工具讓開發者對例子系統進行修改,生成新的子系統以滿足需要。在加速器設計之初,軟件硬件人員就可以一起利用豐富多樣的例子系統進行架構的探索,對穩定軟硬件接口非常有幫助,而穩定的接口定義對長期的產品演進至關重要。

圖3:基于Fast Model的加速器軟件開發

至此開發者已經完成了大部軟硬件接口,驅動以及框架軟件開發工作,但驅動中的時序問題還沒有完全解決,因為Fast Model是一款功能型模型,它為了提高運行速度(50-200MHz),犧牲了時序信息。對于時序信息,開發者可以最后去仿真平臺甚至最終芯片上去調節,而此時軟件測試用例和框架都已經完成,這將大大節省占用仿真平臺(MHz)進行調試排錯的時間,從而降低成本。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 軟件
    +關注

    關注

    69

    文章

    4986

    瀏覽量

    87813
  • 人工智能
    +關注

    關注

    1792

    文章

    47500

    瀏覽量

    239221

原文標題:為何軟件是人工智能加速器致勝的秘密?

文章出處:【微信號:arm_china,微信公眾號:Arm芯聞】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    從版本控制到全流程支持:揭秘Helix Core如何成為您的創意加速器

    加速器
    龍智DevSecOps
    發布于 :2024年11月26日 13:42:47

    嵌入式和人工智能究竟是什么關系?

    人工智能的結合,無疑是科技發展中的一場革命。在人工智能硬件加速中,嵌入式系統以其獨特的優勢和重要性,發揮著不可或缺的作用。通過深度學習和神經網絡等算法,嵌入式系統能夠高效地處理大量數據,從而實現
    發表于 11-14 16:39

    微軟攜手英偉達與GitHub推出生成式AI加速器

    近日,微軟宣布在英國推出一項重大合作項目——生成式人工智能加速器。這一項目由微軟、英偉達和GitHub三家科技巨頭強強聯手,旨在加速生成式人工智能技術的研發與應用。 生成式
    的頭像 發表于 11-05 14:58 ?432次閱讀

    AI for Science:人工智能驅動科學創新》第4章-AI與生命科學讀后感

    閱讀這一章后,我深感人工智能與生命科學的結合正引領著一場前所未有的科學革命,以下是我個人的讀后感: 1. 技術革新與生命科學進步 這一章詳細闡述了人工智能如何通過其強大的數據處理和分析能力,加速生命科學
    發表于 10-14 09:21

    《AI for Science:人工智能驅動科學創新》第一章人工智能驅動的科學創新學習心得

    人工智能:科學研究的加速器 第一章清晰地闡述了人工智能作為科學研究工具的強大功能。通過機器學習、深度學習等先進技術,AI能夠處理和分析海量數據,發現傳統方法難以捕捉的模式和規律。這不僅極大地提高了數據處理
    發表于 10-14 09:12

    Samtec AI 應用詳述 | 人工智能加速器所需的連接

    數據挖掘、人工智能、機器學習、商業分析。 高性能互連是中央處理(CPU)和人工智能加速器之間的紐帶,在實現這些系統所需的可擴展性和靈活性方面發揮著至關重要的作用。 今天,我們將在文章
    發表于 09-29 13:44 ?724次閱讀
    Samtec AI 應用詳述 | <b class='flag-5'>人工智能</b><b class='flag-5'>加速器</b>所需的連接<b class='flag-5'>器</b>

    risc-v在人工智能圖像處理應用前景分析

    長時間運行或電池供電的設備尤為重要。 高性能 : 盡管RISC-V架構以低功耗著稱,但其高性能也不容忽視。通過優化指令集和處理設計,RISC-V可以在處理復雜的人工智能圖像處理任務時表現出色。 三
    發表于 09-28 11:00

    FPGA在人工智能中的應用有哪些?

    FPGA(現場可編程門陣列)在人工智能領域的應用非常廣泛,主要體現在以下幾個方面: 一、深度學習加速 訓練和推理過程加速:FPGA可以用來加速深度學習的訓練和推理過程。由于其高并行性和
    發表于 07-29 17:05

    KAIST開發出高性能人工智能加速器技術

    人工智能(AI)技術日新月異的今天,大規模AI模型的部署與應用正以前所未有的速度推動著科技進步與產業升級。然而,隨著模型復雜度和數據量的爆炸式增長,對計算資源尤其是內存容量的需求也急劇攀升,成為
    的頭像 發表于 07-12 09:59 ?564次閱讀

    Hailo獲1.2億美元新融資,首發AI加速器Hailo-10,助力邊緣設備實現生成式人工智能

    摘要:隨著Hailo推出最新的人工智能加速器,其融資總額現已突破3.4億美元。這款專為個人計算機和汽車行業打造的人工智能加速器,以出色的低功耗性能處理大型語言模型(LLM),成功將生成
    的頭像 發表于 04-03 11:57 ?357次閱讀

    5G智能物聯網課程之Aidlux下人工智能開發(SC171開發套件V1)

    .pdf 人工智能 軟件平臺使用指導A:AidLux平臺介紹 8分29秒 https://t.elecfans.com/v/25505.html *附件:AidLux平臺使用介紹.pdf 人工智能
    發表于 04-01 10:40

    瑞薩發布下一代動態可重構人工智能處理加速器

    瑞薩最新發布的動態可重構人工智能處理(DRP-AI)加速器,在業界引起了廣泛關注。這款加速器擁有卓越的10 TOPS/W高功率效率,相比傳統技術,效率提升了驚人的10倍。其獨特之處在
    的頭像 發表于 03-08 13:45 ?805次閱讀

    Tenstorrent將為日本LSTC新型邊緣2納米AI加速器開發芯片

    加拿大AI芯片領域的初創公司Tenstorrent與日本尖端半導體技術中心(LSTC)達成了一項多層次合作協議。根據協議內容,LSTC將采用Tenstorrent的世界級RISC-V架構和芯片IP來開發其新型邊緣2納米人工智能加速器
    的頭像 發表于 02-28 10:49 ?715次閱讀

    嵌入式人工智能的就業方向有哪些?

    嵌入式人工智能的就業方向有哪些? 在新一輪科技革命與產業變革的時代背景下,嵌入式人工智能成為國家新型基礎建設與傳統產業升級的核心驅動力。同時在此背景驅動下,眾多名企也紛紛在嵌入式人工智能領域布局
    發表于 02-26 10:17

    家居智能化,推動AI加速器的發展

    電子發燒友網報道(文/黃山明)AI加速芯片,也稱為人工智能加速器(AI Accelerator),是一種專為執行機器學習和深度學習任務而設計的ASIC或定制化處理。在
    的頭像 發表于 02-23 00:18 ?4625次閱讀
    主站蜘蛛池模板: 啪啪小视频网站| 91av免费观看| 在线黄色免费观看| 亚洲91色| 好硬好湿好爽再深一点h| 在线种子搜索| 无遮挡一级毛片| 三级黄色一级视频| 久久五月网| 日本在线黄| 五月激情五月婷婷| 色多多视频成人影院| 美女拍拍拍免费视频观看| 日本大片免费播放网站| 网站色小妹| 日本妈妈4| 精品三级视频| 亚洲天天看| 孩交啪啪网址| 酒色成人网| 真人一级一级特黄高清毛片| 性欧美www| 欧美人与牲动交xxxxbbbb| 国产人成精品香港三级古代| 午夜禁片| 天天干天天射天天舔| 精品黄色片| 亚洲成av人影片在线观看| 在线观看视频你懂的| 色成网| 黄色网址你懂得| 夜夜夜夜夜操| 在线天堂资源www中文在线| 天天操天天干天天拍| 日本人的xxxxxxxxx69| 成人网中文字幕色| 91福利视频免费| 色婷婷六月天| 成人在线天堂| 亚洲免费黄色网| 成人在线黄色|