在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

FPGA與GPU計算存儲加速對比

劉杰 ? 來源:zrl12123456 ? 作者:zrl12123456 ? 2022-08-02 08:03 ? 次閱讀

硬件制造商正在將加速方法應用于計算存儲,這是專門設計用于包含內嵌計算元素的存儲。這種方法已經被證明可以為分析和 AI 應用提供優異的性能。使用或者不使用機器學習輔助的分析以及驗證,都可以借助計算存儲器件進行加速。這些器件提供了一個關鍵的優勢,使得成本高昂的計算被卸載到存儲器件上,而不必在服務器 CPU 上完成。與標準的存儲/CPU 方法相比,通過計算存儲獲得的優勢包括:

1. 借助應用專用編程定制可編程硬件,獲得更高性能

2. 將計算任務從服務器卸載到存儲器件,釋放 CPU 資源

3. 數據與計算共址,降低數據傳輸需求

這種新穎的方法前景光明。不過,您應根據具體用例評估這種方法,考量性能、成本、功耗和易用性。性價比和單位功耗性能在選擇加速硬件評估時,占據主要比率。在本文中,我們將研討單位功耗性能。

計算存儲功耗比較

在這個場景中,我們將比較以 CSV 數據讀取用例為主的三種工具:英偉達 GPUDirect 存儲 和RAPIDS存儲,以及基于賽靈思技術的三星 SmartSSD 存儲。CSV 讀取在計算密集型流水線中起著重要的作用(參見圖 1)。

在下文中,我們將性能定義成 CSV 的處理速率,或處理“帶寬”。我們先快速回顧一下三種系統的運行方式。

英偉達 GPUDirect 存儲

端到端滿足分析和 AI 需求

將 GPU 用作計算單元,緊貼基于 NVMe 的存儲器件布局 (GPUDirect)

使用 CUDA 進行編程 (RAPIDS)

英偉達用其 CSV 數據讀取技術衡量相對于標準 SSD 的性能提升。結果如圖 1 所示。使用 1 到 8 個加速器時,對應的吞吐量是 4 到 23GB/s。

三星 SmartSSD 驅動器

將賽靈思 FPGA 用作計算單元

與存儲邏輯內嵌駐留在同一個內部 PCIe 互聯上

通過編程在存儲平臺上開展運算

賽靈思數據分析解決方案合作伙伴 Bigstream 與三星合作,為 Apache Spark 設計加速器,包括用于 CSV 和 Parquet 處理的 IP。SmartSSD 的測試使用單機模式的 CSV 解析引擎,以便開展比較。結果如圖 2 所示,使用 1 到 12 個加速器時,對應的吞吐量是 4 到 23GB/s,同時也給出英偉達的結果(使用 1 到 8 個加速器)。請注意,本討論中的所有結果都按 x 軸上的加速器數量進行參數化。

這些結果令人振奮,但在選擇您的解決方案時,請務必將功耗情況納入考慮。

圖 2:SmartSSD 驅動器的 CSV 解析性能結果

單位功耗性能比較

圖 3 顯示了將功耗考慮在內后的分析結果。它們代表單位功耗達到的性能水平,根據上述討論中引用的相關材料,給出了以下假設:

Tesla V100 GPU:最大功耗 200 瓦

SmartSSD 驅動器 FPGA:最大功耗 30 瓦

圖 3:CSV 解析的每瓦功耗帶寬比較

在這個場景下,計算表明,在全部使用 8 個加速器的情況下,SmartSSD 的單位功耗性能比 GPUDirect Storage 高 25 倍。

最終思考

計算存儲的優勢在于能增強數據分析和 AI 應用的性能。然而,要讓這種方法具備可實際部署的能力和實用性,就必須在評估時將功耗納入考慮。

針對用于 CSV 數據解析的兩種不同的計算存儲方法,我們已經提出按功耗參數化的吞吐量性能曲線。結果顯示,在使用相似數量的加速器進行比較時,SmartSSD 驅動器的單位功耗性能優于 GPUDirect存儲方法。

審核編輯:郭婷

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • FPGA
    +關注

    關注

    1629

    文章

    21742

    瀏覽量

    603538
  • 驅動器
    +關注

    關注

    52

    文章

    8241

    瀏覽量

    146399
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4741

    瀏覽量

    128963
收藏 人收藏

    評論

    相關推薦

    GPU加速云服務器怎么用的

    GPU加速云服務器是將GPU硬件與云計算服務相結合,通過云服務提供商的平臺,用戶可以根據需求靈活租用帶有GPU資源的虛擬機實例。那么,
    的頭像 發表于 12-26 11:58 ?62次閱讀

    《CST Studio Suite 2024 GPU加速計算指南》

    許可證模型的加速令牌或SIMULIA統一許可證模型的SimUnit令牌或積分授權。 4. GPU計算的啟用 - 交互式模擬:通過加速對話框啟用,打開求解器對話框,點擊“
    發表于 12-16 14:25

    NPU與GPU的性能對比

    它們在不同應用場景下的表現。 一、設計初衷與優化方向 NPU : 專為加速AI任務而設計,包括深度學習和推理。 針對神經網絡的計算模式進行了優化,能夠高效地執行矩陣乘法、卷積等操作。 擁有眾多小型處理單元,配備專門的內存體系結構和數據流優化策略,對深度學習任務的處理特別高
    的頭像 發表于 11-14 15:19 ?1063次閱讀

    PyTorch GPU 加速訓練模型方法

    在深度學習領域,GPU加速訓練模型已經成為提高訓練效率和縮短訓練時間的重要手段。PyTorch作為一個流行的深度學習框架,提供了豐富的工具和方法來利用GPU進行模型訓練。 1. 了解GPU
    的頭像 發表于 11-05 17:43 ?565次閱讀

    FPGA和ASIC在大模型推理加速中的應用

    隨著現在AI的快速發展,使用FPGA和ASIC進行推理加速的研究也越來越多,從目前的市場來說,有些公司已經有了專門做推理的ASIC,像Groq的LPU,專門針對大語言模型的推理做了優化,因此相比GPU這種通過
    的頭像 發表于 10-29 14:12 ?464次閱讀
    <b class='flag-5'>FPGA</b>和ASIC在大模型推理<b class='flag-5'>加速</b>中的應用

    GPU加速計算平臺是什么

    GPU加速計算平臺,簡而言之,是利用圖形處理器(GPU)的強大并行計算能力來加速科學
    的頭像 發表于 10-25 09:23 ?251次閱讀

    FPGA加速深度學習模型的案例

    FPGA(現場可編程門陣列)加速深度學習模型是當前硬件加速領域的一個熱門研究方向。以下是一些FPGA加速深度學習模型的案例: 一、基于
    的頭像 發表于 10-25 09:22 ?229次閱讀

    深度學習GPU加速效果如何

    圖形處理器(GPU)憑借其強大的并行計算能力,成為加速深度學習任務的理想選擇。
    的頭像 發表于 10-17 10:07 ?200次閱讀

    Achronix Speedster7t FPGAGPU解決方案的比較

    這篇針對大模型推理跟GPU對比分析,雖然以Llama2為例,也適用于最新的Llama3,模型的日新月易也更進一步說明硬件平臺的可編程可擴展的重要性,FPGA是其中一個不錯的選擇。
    的頭像 發表于 09-18 16:19 ?292次閱讀
    Achronix Speedster7t <b class='flag-5'>FPGA</b>與<b class='flag-5'>GPU</b>解決方案的比較

    信號計算主板設計方案:735-基于3U VPX的AGX Xavier GPU計算主板

    3U VPX導冷結構 , FPGA信號預處理 , GPU顯卡 , PCIE視頻處理 , GPU計算主板
    的頭像 發表于 07-18 11:31 ?481次閱讀
    信號<b class='flag-5'>計算</b>主板設計方案:735-基于3U VPX的AGX Xavier <b class='flag-5'>GPU</b><b class='flag-5'>計算</b>主板

    科普:GPUFPGA,有何異同

    來源:內容由半導體行業觀察(ID:icbank)編譯自techspot,謝謝。圖形處理單元(GPU)和現場可編程門陣列(FPGA)是用于成像和其他繁重計算的三種主要處理器類型中的兩種。中央處理器
    的頭像 發表于 06-15 08:27 ?658次閱讀
    科普:<b class='flag-5'>GPU</b>和<b class='flag-5'>FPGA</b>,有何異同

    fpgagpu的區別

    FPGA(現場可編程門陣列)和GPU(圖形處理器)在多個方面存在顯著的區別。
    的頭像 發表于 03-27 14:23 ?1216次閱讀

    FPGA在深度學習應用中或將取代GPU

    現場可編程門陣列 (FPGA) 解決了 GPU 在運行深度學習模型時面臨的許多問題 在過去的十年里,人工智能的再一次興起使顯卡行業受益匪淺。英偉達 (Nvidia) 和 AMD 等公司的股價也大幅
    發表于 03-21 15:19

    FPGAGPU在神經網絡構建中的對比研究

    嵌入式工程師常見的情況是在硬件加速器(如FPGA)和主機CPU之間建立通信。這項工作因其繁瑣和容易出錯而臭名昭著。
    發表于 02-22 16:30 ?773次閱讀
    <b class='flag-5'>FPGA</b>與<b class='flag-5'>GPU</b>在神經網絡構建中的<b class='flag-5'>對比</b>研究

    FPGA、ASIC、GPU誰是最合適的AI芯片?

    CPU、GPU遵循的是馮·諾依曼體系結構,指令要經過存儲、譯碼、執行等步驟,共享內存在使用時,要經歷仲裁和緩存。 而FPGA和ASIC并不是馮·諾依曼架構(是哈佛架構)。以FPGA
    發表于 01-06 11:20 ?1673次閱讀
    <b class='flag-5'>FPGA</b>、ASIC、<b class='flag-5'>GPU</b>誰是最合適的AI芯片?
    主站蜘蛛池模板: 免费看污视频的网站| 天堂视频网| 一区二区三区在线看| h视频在线观看免费网站| 亚洲成a人片77777kkk| 黄视频网站入口| 亚洲国产精品第一页| 国模欢欢大尺度| 亚洲国产成人精彩精品 | 超级毛片| 欧美性精品| 欧美一二三区在线| 亚洲国产成人精品青青草原100| 特色一级黄色片| 青草青青视频| 国产性videosgratis| 在线网站 看片 网站| 国模视频一区二区| 成年网站在线观看| 手机在线观看国产精选免费| 午夜影皖| 国产精品午夜在线观看| 久久综合视频网| 日韩亚洲人成在线综合日本| 日本一区二区三区视频在线| 一级做a爰片久久毛片毛片| 色综合久久久久久久久五月| 久久永久免费| 亚色在线观看| 成人午夜影院在线观看| 亚洲狠狠狠一区二区三区| 亚洲 自拍 欧美 综合| 免费成人黄色网址| 一级片在线播放| h视频日本| 字幕网中文aⅴ资源站| 青青草国产三级精品三级| 岛国最新资源网站| 九草伊人| 免费可以看黄的视频 s色 | 91综合在线视频|