在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

如何優化AI SoC及其上面運行的軟件

半導體芯科技SiSC ? 來源:半導體芯科技SiSC ? 作者:半導體芯科技SiS ? 2022-06-15 14:35 ? 次閱讀

人工智能機器學習應用數據處理的強勁需求下,大規模并行計算迅速興起,導致芯片復雜性呈現爆炸式增長。這種復雜性體現在 Cerebras 晶圓級引擎等設計中,該設計是一種平鋪多核、多晶片設計,將晶體管數量增加至數萬億個,擁有近百萬個計算內核。

人工智能 (AI) SoC 的市場持續增長,競爭也日趨激烈。半導體公司根據性能、成本和靈活性,來找到自己的定位,并不斷自我優化,從而導致了新型多核架構的爆發式增長。系統架構師正在嘗試不同的方法,希望可以將這種復雜性轉化為競爭優勢。

在所有復雜性來源中,有一個在多核 AI SoC 中非常重要的來源:即當有多個線程在共享數據上并行運行時,會出現功能錯誤和性能降低問題。過去,設計人員可以使用經典的 CPU 運行控制來調試問題,但這種方法對多核架構并無效果。導致軟件問題的根本原因錯綜復雜,包括往返時延、內核數量、控制和數據并行、多層層次結構和互相依賴的進程,設計人員從中找出真正根源的機會渺茫。

另外,設計人員還需要考慮軟硬件協同優化,這需要大量的功能分析。為了在 SoC 上部署 AI 應用,設計人員必須編譯源代碼,以充分利用多核架構。這通常需要充分了解 SoC 架構的定制工具鏈。這個過程包括一個硬件和軟件優化及測試周期,從 SOC 仿真開始,一直貫穿至第一次投片和后續器件迭代。

通過這一功能分析周期,團隊能夠了解以下內容:

· 數據共享的效率;

· 片上網絡 (NoC) 是否超載或不平衡;

· 如何在不影響代碼執行的情況下評估應用性能;

· 如何優化內存控制器配置文件以提升數據處理能力;

· 如何關聯整個 SoC 中的事件;

要做到這一點,我們需要一種全新的方法來優化 AI SoC 及其上面運行的軟件。要將高質量的 AI SoC 及時推向市場并在完成部署后保持性能,必須要進行系統范圍的功能分析。系統范圍功能分析的部分功能包括:

· 深入洞察子系統或組件 ;

· 對整個系統從啟動開始的準確、連貫的全景圖;

· 事物感知(Transaction-aware) 的互連監控和統計信息;

· 傳統的處理器運行控制和追蹤;

· 支持所有常見的指令集和互連協議;

· 提供選擇或更改重要子系統的靈活性;

· 用于產生數據可見性的靈活強大的工具;

用于監控和分析 IP 的片上基礎架構和軟件提供了所有這些功能,覆蓋范圍可從仿真到部署。下圖即顯示了 SoC 功能監控和分析的典型架構。

接下來的圖中展示的示例是一個多核芯片配備片上網絡 (NoC) 監視器,可跟蹤所有 NoC 事務到循環緩沖器。由于 NoC 監視器具有事務感知功能,可將其配置為檢測特定總線條件,例如導致事務持續時間超過特定閾值(按周期數計算)的死鎖。當超過閾值時,NoC 監視器可以輸出死鎖事務以及之前事務的詳細信息,以便對問題進行診斷。

同一個 NoC 監視器也可配置為在檢測到相同死鎖條件時——例如通過跟蹤硬件加速器行為的狀態監視器模塊——使用嵌入式分析消息基礎設施的交叉觸發功能,在系統中的其他位置觸發跟蹤。

了解實施有效的系統驗證和優化環境時涉及的問題,是成功交付多核 SoC 的關鍵,與該領域內的專業供應商合作可實現事半功倍的效果。

審核編輯:湯梓紅
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • soc
    soc
    +關注

    關注

    38

    文章

    4192

    瀏覽量

    218687
  • AI
    AI
    +關注

    關注

    87

    文章

    31338

    瀏覽量

    269749
  • 人工智能
    +關注

    關注

    1793

    文章

    47539

    瀏覽量

    239394
收藏 人收藏

    評論

    相關推薦

    Rockchip SoC 賦能 AI 與視覺創新:推動智能設備的未來發展

    隨著人工智能(AI)和計算機視覺技術不斷推動各行各業的創新,Rockchip 已成為提供強大系統級芯片(SoC)解決方案的領先廠商。該公司已開發出多款集成 AI 功能并支持先進多媒體與視覺技術
    的頭像 發表于 11-05 18:02 ?525次閱讀
    Rockchip <b class='flag-5'>SoC</b> 賦能 <b class='flag-5'>AI</b> 與視覺創新:推動智能設備的未來發展

    如何優化SOC芯片性能

    優化SOC(System on Chip,系統級芯片)芯片性能是一個復雜而多維的任務,涉及多個方面的優化策略。以下是一些關鍵的優化措施: 一、架構設計
    的頭像 發表于 10-31 15:50 ?633次閱讀

    如何優化智能系統的運行效率

    硬件性能 :處理器速度、內存容量和存儲性能是影響智能系統運行效率的硬件因素。 軟件架構 :軟件的設計和架構直接影響系統的響應時間和處理能力。 算法效率 :算法的復雜度和效率決定了智能系統在執行任務時的速度。 數據管
    的頭像 發表于 10-29 10:02 ?396次閱讀

    英飛凌與采埃孚合作優化自動駕駛軟件

    英飛凌科技股份公司與采埃孚集團攜手參與了EEmotion項目,共同開發并實施了創新的AI算法,以優化自動駕駛軟件和控制單元。
    的頭像 發表于 10-12 16:17 ?437次閱讀

    TI TDA2x SoC上基于GPU的環視優化

    電子發燒友網站提供《TI TDA2x SoC上基于GPU的環視優化.pdf》資料免費下載
    發表于 10-10 09:14 ?0次下載
    TI TDA2x <b class='flag-5'>SoC</b>上基于GPU的環視<b class='flag-5'>優化</b>

    如何在STM32上運行AI應用

    一些基本使用案例的應用程序示例。X-LINUX-AI中提供的示例包括一系列用于圖像分類、對象檢測、語義分割和人體姿勢估計的優化模型。X-LINUX-AI中作為預構建
    的頭像 發表于 09-30 08:00 ?2635次閱讀
    如何在STM32上<b class='flag-5'>運行</b><b class='flag-5'>AI</b>應用

    西門子推出Catapult AI NN軟件,賦能神經網絡加速器設計

    西門子數字化工業軟件近日發布了Catapult AI NN軟件,這款軟件在神經網絡加速器設計領域邁出了重要一步。Catapult AI NN
    的頭像 發表于 06-19 11:27 ?898次閱讀

    西門子推出Catapult AI NN軟件,加速神經網絡在ASIC和SoC上綜合

    在數字化工業的新浪潮中,西門子數字化工業軟件再次引領潮流,日前推出了名為Catapult? AI NN的革新性軟件,旨在為神經網絡加速器在專用集成電路(ASIC)和芯片級系統(SoC
    的頭像 發表于 06-18 17:29 ?1231次閱讀

    AI手機市場前景廣闊,五大關鍵洞察助廠商保持競爭優勢

    技術進步推動用戶對AI手機體驗的期待提升。端側運行AI模型和應用,優化專用處理器如ASIC、GPU及其他零部件至關重要。隨著技術的進步,
    的頭像 發表于 05-29 11:19 ?515次閱讀

    支持大模型部署和運行的邊緣計算SoC芯片

    電子發燒友網報道(文/李彎彎)如今,AI在邊緣側的應用越來越廣泛,這其中少不了AI SoC芯片的支持,邊緣計算AI SoC是一種集成了人工智
    的頭像 發表于 05-27 08:00 ?3542次閱讀

    已有超過500款AI模型在英特爾酷睿Ultra處理器上得以優化運行

    近日,英特爾宣布在全新英特爾 酷睿 Ultra處理器上,有超過500款AI模型得以優化運行。
    的頭像 發表于 05-11 09:31 ?757次閱讀

    SiMa.ai推出針對Edge AI調整的SoC

    公司SiMa.ai現在正試圖通過設計“軟件優先”的硬件來應對這一挑戰,以實現前所未有的邊緣AI性能。本周,SiMa.ai發布了他們的新MLSoC平臺,這是一個以ML為中心的
    的頭像 發表于 05-07 17:00 ?7342次閱讀
    SiMa.<b class='flag-5'>ai</b>推出針對Edge <b class='flag-5'>AI</b>調整的<b class='flag-5'>SoC</b>

    英特爾AI產品助力其運行Meta新一代大語言模型Meta Llama 3

    英特爾豐富的AI產品——面向數據中心的至強處理器,邊緣處理器及AI PC等產品為開發者提供最新的優化,助力其運行Meta新一代大語言模型Meta Llama 3
    的頭像 發表于 04-28 11:16 ?672次閱讀

    NanoEdge AI的技術原理、應用場景及優勢

    ,可以實現對交通狀況的實時分析和優化,提高道路通行效率。 4.醫療健康:在醫療設備和可穿戴設備中應用 NanoEdge AI,可以實現對患者健康狀況的實時監測和預警,提高醫療服務質量。 3
    發表于 03-12 08:09

    Google Gemma優化后可在NVIDIA GPU上運行

    2024 年 2 月 21 日,NVIDIA 攜手 Google 在所有 NVIDIA AI 平臺上發布面向 Gemma 的優化功能,Gemma 是 Google 最先進的新型輕量級 2B 和 7B 開放語言模型,可在任何地方運行
    的頭像 發表于 02-25 11:01 ?491次閱讀
    主站蜘蛛池模板: xxxx日本老师hd| 免费在线观看一区二区| 久久久久久国产精品免费免| 久久久午夜影院| 久操视频在线观看| 51视频在线观看免费国产| 国产黄色在线观看| 男人午夜免费视频| 尤物黄色| 四虎在线播放免费永久视频| 人与禽性视频77777| 欧美日韩高清一本大道免费| 久久久久久青草大香综合精品| 国产三级毛片视频| 永久免费影视在线观看| 天天摸夜夜摸爽爽狠狠婷婷97| 濑亚美莉iptd619在线观看| 国产看片视频| 亚洲最新| 国产一区二区三区夜色| 五月网婷婷| 欧美区在线播放| 丁香六月婷婷综合| 色天使久久综合给合久久97色| 国产成人一级片| 日本一区二区免费看| 午夜精品视频任你躁| 免费人成观看在线网| 伊人网综合在线观看| 国产性夜夜春夜夜爽| 日本在线一区| 网络色综合久久| 美国激情ap毛片| 一级一片一a一片| 1024你懂的在线观看| 妇女交性大片| 欧美三级在线免费观看| 俺要色| 加勒比黑人喝羽月希奶水| 性性性性bbbbxxxx| 色拍拍拍|