在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

面向數組計算任務而設計的Numba具有CUDA加速功能

星星科技指導員 ? 來源:NVIDIA ? 作者:Mark Harris ? 2022-04-11 09:58 ? 次閱讀

Python 是一種高效的動態編程語言,廣泛應用于科學、工程和數據分析應用程序中。影響 python 流行的因素有很多,包括它簡潔而富有表現力的語法和標準的數據結構、全面的“包含電池”的標準庫、優秀的文檔、廣泛的庫和工具生態系統、專業支持的可用性以及大而開放的社區。不過,最重要的也許是 Python 這樣的動態類型化、解釋性語言所能實現的高生產率。 Python 既靈活又靈活,這使它成為快速原型設計和構建完整系統的優秀語言。

但是 Python 最大的優點也可能是它最大的弱點:它的靈活性和無類型的高級語法會導致數據和計算密集型程序的性能下降。因此,關心效率的 Python 程序員通常用 C 重寫最里面的循環,并從 Python 調用編譯后的 C 函數。有許多項目旨在使這種優化更容易,例如 Cython ,但它們通常需要學習新的語法。理想情況下, Python 程序員希望在不使用其他編程語言的情況下使現有的 Python 代碼更快,而且,自然地,許多人希望使用加速器來從他們的代碼中獲得更高的性能。

Numba :高性能計算的高生產率

你為什么不想在 Numba 上用 Python Anaconda 編譯一個 CUDA 的 Python 編譯器,因為你不想用 Python 的 GPUs 編譯一個 PythonCPU 語言。答案當然是運行本機編譯代碼比運行動態解釋代碼快很多倍。 Numba 的工作原理是允許您為 Python 函數指定類型簽名,這樣可以在運行時進行編譯(這是“ Just-in-time ”或 JIT 編譯)。 Numba 動態編譯代碼的能力意味著您不會放棄 Python 的靈活性。這是向提供高生產率編程和高性能計算的理想組合邁出的一大步。

使用 Numba ,現在可以編寫標準的 Python 函數并在支持 CUDA -GPU 上運行它們。 Numba 是為面向數組的計算任務而設計的,很像廣泛使用的 NumPy 庫。面向數組的計算任務中的數據并行性自然適合 GPUs 這樣的加速器。 Numba 理解 NumPy 數組類型,并使用它們生成高效的編譯代碼,以便在 GPUs 或多核 CPU 上執行。所需的編程工作可以簡單到添加一個函數修飾符來指示 Numba 為 GPU 編譯。例如,下面代碼中的 @vectorize 修飾符在運行時生成標量函數 Add 的編譯矢量化版本,以便可以在 GPU 上并行處理數據數組。

import numpy as np
from numba import vectorize @vectorize(['float32(float32, float32)'], target='cuda')
def Add(a, b): return a + b # Initialize arrays
N = 100000
A = np.ones(N, dtype=np.float32)
B = np.ones(A.shape, dtype=A.dtype)
C = np.empty_like(A, dtype=A.dtype) # Add arrays on GPU

C = Add(A, B)要在 CPU 上編譯并運行相同的函數,我們只需將目標更改為“ CPU ”,這將在 CPU 上產生編譯的、矢量化的 C 代碼級別的性能。這種靈活性有助于您生成更多可重用的代碼,并允許您在沒有 GPUs 的機器上進行開發。

GPU -Python 加速庫

CUDA 并行計算平臺的優勢之一是其可用 GPU – 加速庫 的寬度。Numba 團隊的另一個項目叫做 pyculib ,提供到 CUDA cuBLAS (稠密線性代數) 、 快速傅里葉變換 和 cuRAND (隨機數生成) 庫的 Python 接口。許多應用程序只需使用這些庫就可以獲得顯著的加速,而無需編寫任何特定于 GPU 的代碼。

import numpy as np
from pyculib import rand as curand prng = curand.PRNG(rndtype=curand.PRNG.XORWOW)
rand = np.empty(100000)
prng.uniform(rand)

print rand[:10]使用 CUDA Python 實現大規模并行

Anaconda (以前的 Continuum Analytics )認識到,在某些計算上實現大的加速需要一個更具表現力的編程接口,對并行性的控制比庫和自動循環矢量化所能提供的更詳細。因此, Numba 還有另一組重要的特性,它們構成了非正式的“ CUDA Python ”。 NUBA 公開了 CUDA 編程模型,就像 CUDA C / C ++中一樣,但是使用純 Python 語法,這樣程序員就可以創建定制的、并行的并行內核,而不必留下 Python 的舒適性和優點。 Numba 的 CUDA JIT (通過 decorator 或 function call 提供)在運行時編譯 CUDA Python 函數,將它們專門化為您使用的類型,而且它的 CUDA Python API 提供了對數據傳輸和 CUDA 流等功能的顯式控制。

下面的代碼示例用一個簡單的 Mandelbrot set 內核演示了這一點。請注意, mandel_kernel 函數使用 Numba 提供的 cuda.threadIdx, cuda.blockIdx, cuda.blockDim, and cuda.gridDim 結構來計算當前線程的全局 X 和 Y 像素索引。與其他 CUDA 語言一樣,我們通過在括號中插入一個“執行配置”( CUDA – 表示運行內核的線程數和線程塊數)來啟動內核函數名和參數列表: mandel_kernel[griddim, blockdim](-2.0, 1.0, -1.0, 1.0, d_image, 20) 。您還可以看到使用 to_hostto_device API 函數在 GPU 之間復制數據。

您可以在 Github 上獲得完整的 Mandelbrot 示例的 Jupyter 筆記本 。

@cuda.jit(device=True)
def mandel(x, y, max_iters): """ Given the real and imaginary parts of a complex number, determine if it is a candidate for membership in the Mandelbrot set given a fixed number of iterations. """ c = complex(x, y) z = 0.0j for i in range(max_iters): z = z*z + c if (z.real*z.real + z.imag*z.imag) >= 4: return i return max_iters @cuda.jit
def mandel_kernel(min_x, max_x, min_y, max_y, image, iters): height = image.shape[0] width = image.shape[1] pixel_size_x = (max_x - min_x) / width pixel_size_y = (max_y - min_y) / height startX = cuda.blockDim.x * cuda.blockIdx.x + cuda.threadIdx.x startY = cuda.blockDim.y * cuda.blockIdx.y + cuda.threadIdx.y gridX = cuda.gridDim.x * cuda.blockDim.x; gridY = cuda.gridDim.y * cuda.blockDim.y; for x in range(startX, width, gridX): real = min_x + x * pixel_size_x for y in range(startY, height, gridY): imag = min_y + y * pixel_size_y image[y, x] = mandel(real, imag, iters) gimage = np.zeros((1024, 1536), dtype = np.uint8)
blockdim = (32, 8)
griddim = (32,16) start = timer()
d_image = cuda.to_device(gimage)
mandel_kernel[griddim, blockdim](-2.0, 1.0, -1.0, 1.0, d_image, 20) d_image.to_host()

dt = timer() - start print "Mandelbrot created on GPU in %f s" % dt imshow(gimage)在帶有 NVIDIA Tesla P100GPU 和 Intel Xeon E5-2698 v3CPU 的服務器上, CUDA Python Mandelbrot 代碼的運行速度比純 Python 版本快近 1700 倍。 1700x 似乎是一個不切實際的加速,但請記住,我們將編譯的、并行的、 GPU – 加速的 Python 代碼與 CPU 上解釋的單線程 Python 代碼進行比較。

今天就開始使用 Numba

Numba 為 Python 開發人員提供了一個進入 GPU 加速計算的簡單入口,并為使用日益復雜的 CUDA 代碼提供了一條路徑,只需使用最少的新語法和行話。您可以從簡單的函數修飾符開始自動編譯函數,或者使用 pyculib 公開的功能強大的 CUDA 庫。隨著您對并行編程概念的深入理解,以及當您需要對并行線程進行富有表現力和靈活的控制時, CUDA 是可用的,無需您在第一天就投入使用。

Numba 是一個經過 BSD 許可的開源項目,它本身嚴重依賴于 LLVM 編譯器的功能。 Numba 的 GPU 后端使用了基于 LLVM 的 NVIDIA 編譯器 SDK 。 CUDA 庫的 膿皰 包裝器也是開源的,并且是 BSD 許可的。

要開始使用 Numba ,第一步是下載并安裝 Anaconda 分布 ,這是一個“完全免費的企業級 Python 發行版,用于大規模數據處理、預測分析和科學計算”,其中包括許多流行的軟件包( NumPy 、 Scipy 、 Matplotlib 、 iPython 等)和功能強大的包管理器“ conda ”。一旦安裝了 Anaconda ,輸入 conda install numba cudatoolkit pyculib 安裝所需的 CUDA 包。然后查看 ContinuumIO github 存儲庫上的 CUDA 的 Numba 教程

關于作者

Mark Harris 是 NVIDIA 杰出的工程師,致力于 RAPIDS 。 Mark 擁有超過 20 年的 GPUs 軟件開發經驗,從圖形和游戲到基于物理的模擬,到并行算法和高性能計算。當他還是北卡羅來納大學的博士生時,他意識到了一種新生的趨勢,并為此創造了一個名字: GPGPU (圖形處理單元上的通用計算)。

審核編輯:郭婷

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • NVIDIA
    +關注

    關注

    14

    文章

    4989

    瀏覽量

    103093
  • gpu
    gpu
    +關注

    關注

    28

    文章

    4741

    瀏覽量

    128963
  • 編譯器
    +關注

    關注

    1

    文章

    1634

    瀏覽量

    49136
收藏 人收藏

    評論

    相關推薦

    《CST Studio Suite 2024 GPU加速計算指南》

    。 2. 操作系統支持:CST Studio Suite在不同操作系統上持續測試,可在支持的操作系統上使用GPU計算,具體參考相關文檔。 3. 許可證:GPU計算功能通過CST Studio Suite
    發表于 12-16 14:25

    C語言數組應用計算機導論A第6講:數組

    C語言數組應用計算機導論A第6講:數組
    發表于 11-20 15:33 ?0次下載

    GPU加速計算平臺是什么

    GPU加速計算平臺,簡而言之,是利用圖形處理器(GPU)的強大并行計算能力來加速科學計算、數據分析、機器學習等復雜
    的頭像 發表于 10-25 09:23 ?251次閱讀

    有沒有大佬知道NI vision 有沒有辦法通過gpu和cuda加速圖像處理

    有沒有大佬知道NI vision 有沒有辦法通過gpu和cuda加速圖像處理
    發表于 10-20 09:14

    labview字符串數組轉化為數值數組

    在LabVIEW中,將字符串數組轉換為數值數組是一項常見的任務,尤其是在處理數據采集、信號處理或用戶輸入時。 1. 理解LabVIEW的數據類型 在開始之前,了解LabVIEW中的數據類型是非
    的頭像 發表于 09-04 17:47 ?2381次閱讀

    打破英偉達CUDA壁壘?AMD顯卡現在也能無縫適配CUDA

    電子發燒友網報道(文/梁浩斌)一直以來,圍繞CUDA打造的軟件生態,是英偉達在GPU領域最大的護城河,尤其是隨著目前AI領域的發展加速,市場火爆,英偉達GPU+CUDA的開發生態則更加穩固,AMD
    的頭像 發表于 07-19 00:16 ?4723次閱讀

    借助NVIDIA Aerial CUDA增強5G/6G的DU性能和工作負載整合

    Aerial CUDA 加速無線接入網 (RAN)可加速電信工作負載,使用 CPU、GPU 和 DPU 在云原生加速計算平臺上提供更高水平的
    的頭像 發表于 05-24 11:10 ?578次閱讀
    借助NVIDIA Aerial <b class='flag-5'>CUDA</b>增強5G/6G的DU性能和工作負載整合

    借助全新 AMD Alveo? V80 計算加速卡釋放計算能力

    對于大規模數據處理,最佳性能不僅取決于原始計算能力,還取決于高存儲器帶寬。 因此,全新 AMD Alveo? V80 計算加速卡專為具有大型數據集的內存受限型應用
    發表于 05-16 14:09 ?217次閱讀
    借助全新 AMD Alveo? V80 <b class='flag-5'>計算</b><b class='flag-5'>加速</b>卡釋放<b class='flag-5'>計算</b>能力

    英偉達CUDA-Q平臺推動全球量子計算研究

    英偉達今日公布了其重要戰略決策,即采用開源的CUDA-Q平臺,旨在推動德國、日本和波蘭等國家超運中心在量子計算領域的創新研究。CUDA-Q作為英偉達推出的一款開源平臺,不僅與QPU無關,還實現了量子
    的頭像 發表于 05-14 11:45 ?656次閱讀

    NVIDIA通過CUDA-Q平臺為全球各地的量子計算中心提供加速

    德國、日本和波蘭的超級計算機利用 Grace-Hopper 和量子-經典加速超算平臺推進量子計算研究。
    的頭像 發表于 05-14 09:15 ?359次閱讀

    NVIDIA 通過 CUDA-Q 平臺為全球各地的量子計算中心提供加速

    德國、日本和波蘭的超級計算機利用 Grace-Hopper 和量子-經典加速超算平臺推進量子計算研究 ? ? 德國漢堡 —— 國際超算大會(ISC)—— 2024 年 5 月 13 日
    發表于 05-13 15:21 ?200次閱讀
    NVIDIA 通過 <b class='flag-5'>CUDA</b>-Q 平臺為全球各地的量子<b class='flag-5'>計算</b>中心提供<b class='flag-5'>加速</b>

    恩智浦推出全新面向工業與物聯網應用的MCX微控制器產品組合

    恩智浦推出全新面向工業與物聯網應用的MCX微控制器產品組合,賦能安全邊緣計算,其中MCX N系列為用戶帶來高能效多任務處理、AI加速、智能外設與靈活的開發體驗。
    的頭像 發表于 03-21 13:33 ?1724次閱讀
    恩智浦推出全新<b class='flag-5'>面向</b>工業與物聯網應用的MCX微控制器產品組合

    PHP中數組的使用方法!

    PHP中數組的使用方法! PHP是一種廣泛使用的網絡編程語言,它的數組功能非常強大且靈活。數組是一種數據結構,它允許我們在單個變量中存儲多個值。 在本篇文章中,我將詳細解釋PHP
    的頭像 發表于 01-12 15:11 ?555次閱讀

    加速計算卡與AI顯卡有什么區別?

    與原理 1. 加速計算卡:加速計算卡是一種用于高性能計算的硬件設備,主要用于加速復雜
    的頭像 發表于 01-09 14:10 ?1621次閱讀

    深入淺出理解PagedAttention CUDA實現

    vLLM 中,LLM 推理的 prefill 階段 attention 計算使用第三方庫 xformers 的優化實現,decoding 階段 attention 計算則使用項目編譯 CUDA 代碼實現。
    的頭像 發表于 01-09 11:43 ?1895次閱讀
    深入淺出理解PagedAttention <b class='flag-5'>CUDA</b>實現
    主站蜘蛛池模板: 日本在线黄色| 成年人的毛片| 欧美一级欧美三级在线观看| 色偷偷88欧美精品久久久| 天堂在线观看| 色多多拼多多网站| 青草青青产国视频在线| 免费黄色网址网站| 狠狠色噜狠狠狠狠色综合久| 国产美女视频一区二区二三区| japan高清视频乱xxxxx| 午夜手机福利| 欧美操bb| 欧美另类69| 九色综合伊人久久富二代| 精品卡1卡2卡三卡免费视频| 第四色播日韩第一页| 亚洲最新视频| 国产盗摄女子私密保健视频| 97午夜影院| 欧美激情综合亚洲五月蜜桃| 国产免费的野战视频| 免费观看视频网站| 国产精品丝袜xxxxxxx| 天天怕夜夜怕狠狠怕| 欧美www| 丁香五婷婷| 日本黄页网| 日日夜夜天天操| vip影视免费观看| 国产精品资源在线观看| 简单视频在线播放jdav| 调教双性学霸美人| 色吧五月天| 狠狠狠狠狠狠| 天天爱天天做色综合| 日本xx69| 一二三区视频| 午夜免费福利片| 久久久精品久久久久久久久久久 | 亚洲视频四区|