GPU/CPU/TPU都是啥?有何區別? - 全文
正在向人工智能服務器供應商轉型的圖形處理器 (GPU)生產巨頭英偉達(NVIDIA)股價周一創出歷史新高,凸顯出市場對人工智能硬件領域的追捧。
目前,Google、Facebook、Microsoft、百度等科技巨頭紛紛涉足人工智能。Google本周就宣布,正在為人工智能研發專門的芯片TPU。浙商證券分析師楊云表示,人工智能將成為下一個大風口,首當其沖的就包括硬件。
在圖像語音識別、無人駕駛等人工智能領域的運用層面,圖形處理器 (GPU)正迅速擴大市場占比,而谷歌專門為人工智能研發的TPU則被視為GPU的競爭對手。
概念
人工智能的實現需要依賴三個要素:算法是核心,硬件和數據是基礎。
算法主要分為為工程學法和模擬法。工程學方法是采用傳統的編程技術,利用大量數據處理經驗改進提升算法性能;模擬法則是模仿人類或其他生物所用的方法或者技能,提升算法性能,例如遺傳算法和神經網絡。
硬件方面,目前主要是使用 GPU 并行計算神經網絡。
浙商證券制作了下圖體現這些要素之間的關系:
從產業結構來講,人工智能生態分為基礎、技術、應用三層。
基礎層包括數據資源和計算能力;技術層包括算法、模型及應用開發;應用層包括人工智能+各行業(領域),比如在互聯網、金融、汽車、游戲等產業應用的語音識別、人臉識別、無人機、機器人、無人駕駛等功能。
GPU
英偉達(NVIDIA)制造的圖形處理器 (GPU)專門用于在個人電腦、工作站、游戲機和一些移動設備上進行圖像運算工作,是顯示卡的“心臟”。
GPU與CPU的區別
本身架構方式和運算目的的不同,導致英特爾制造的CPU 和 GPU之間有所區別(圖表來自浙商證券)。
GPU之所以能夠迅速發展,主要原因是GPU針對密集的、高并行的計算,這正是圖像渲染所需要的,因此 GPU 設計了更多的晶體管專用于數據處理,而非數據高速緩存和流控制。
與CPU相比,GPU擁有更多的處理單元。據海通證券分析師鄭宏達、魏鑫介紹,
和CPU 上大部分面積都被緩存所占據有所不同,諸如GTX 200 GPU之類的核心內很大一部分面積都作為計算之用。如果用具體數據表示,大約估計在 CPU 上有 20%的晶體管是用作運算之用的,而(GTX 200)GPU 上有 80%的晶體管用作運算:
GPU 的處理核心 SP 基于傳統的處理器核心設計,能夠進行整數,浮點計算,邏輯運算等操作,從硬體設計上看就是一種完全為多線程設計的處理核心,擁有復數的管線平臺設計,完全勝任每線程處理單指令的工作。
GPU 處理的首要目標是運算以及數據吞吐量,而 CPU 內部晶體管的首要目的是降低處理的延時以及保持管線繁忙,這也決定了 GPU 在密集型計算方面比起 CPU 來更有優勢。
GPU+CPU異構運算
就目前來看,GPU不是完全代替CPU,而是兩者分工合作。據海通證券:
在 GPU 計算中 CPU 和 GPU 之間是相連的,而且是一個異構的計算環境。這就意味著應用程序當中,順序執行這一部分的代碼是在 CPU 里面進行執行的,而并行的也就是計算密集這一部分是在 GPU 里面進行。
異構運算(heterogeneous computing)是通過使用計算機上的主要處理器,如CPU 以及 GPU 來讓程序得到更高的運算性能。一般來說,CPU 由于在分支處理以及隨機內存讀取方面有優勢,在處理串聯工作方面較強。在另一方面,GPU 由于其特殊的核心設計,在處理大量有浮點運算的并行運算時候有著天然的優勢。完全使用計算機性能實際上就是使用 CPU 來做串聯工作,而 GPU 負責并行運算,異構運算就是“使用合適的工具做合適的事情”。
只有很少的程序使用純粹的串聯或者并行的,大部分程序同時需要兩種運算形式。編譯器、文字處理軟件、瀏覽器、e-mail 客戶端等都是典型的串聯運算形式的程序。而視頻播放,視頻壓制,圖片處理,科學運算,物理模擬以及 3D 圖形處理(Ray tracing 及光柵化)這類型的應用就是典型的并行處理程序。
GPU的運用
正是因為GPU特別適合大規模并行運算的特點,因此,“GPU 在深度學習領域發揮著巨大的作用”。via 海通證券:
GPU可以平行處理大量瑣碎信息。深度學習所依賴的是神經系統網絡——與人類大腦神經高度相似的網絡——而這種網絡出現的目的,就是要在高速的狀態下分析海量的數據。例如,如果你想要教會這種網絡如何識別出貓的模樣,你就要給它提供無數多的貓的圖片。而這種工作,正是 GPU 芯片所擅長的事情。 而且相比于 CPU,GPU 的另一大優勢,就是它對能源的需求遠遠低于 CPU。GPU 擅長的是海量數據的快速處理。
深度學習令 NVIDIA 業績加速增長,利用 GPU 的大規模并行處理能力來學習人工智能算法再合適不過,GPU 并行計算能力正在滲透一個又一個高精尖行業,推動GPU 的需求不斷增長。移動端,不論是當前火熱的移動直播,還是移動 VR 設備,基于圖形處理的需求都在急劇爆發。目前移動市場的 GPU 還遠遠落后于 PC 端,市場被高通、ARM、imagination 等三大巨頭占據。
GPU的劣勢
不過,GPU也有不足之處。據浙商證券總結:
雖然GPU更擅長于類似圖像處理的并行計算,因為像素與像素之間相對獨立,GPU 提供大量的核,可以同時對很多像素進行并行處理。但是,這并不能帶來延遲的提升(而僅僅是處理吞吐量的提升)。比如,當一個消息到達時,雖然 GPU 有很多的核,但只能有其中一個核被用來處理當前這個消息,而且 GPU 核通常被設計為支持與圖像處理相關的運算,不如 CPU 通用。
GPU 主要適用于在數據層呈現很高的并行特性(data-parallelism)的應用,比如 GPU 比較適合用于類似蒙特卡羅模擬這樣的并行運算。
GPU 的另外一個問題是,它的“確定性”不如可編程的硅芯片FPGA,相對較容易產生計算錯誤。
TPU
TPU,即谷歌的張量處理器——Tensor Processing Unit。
據谷歌工程師Norm Jouppi介紹,TPU是一款為機器學習而定制的芯片,經過了專門深度機器學習方面的訓練,它有更高效能(每瓦計算能力)。大致上,相對于現在的處理器有7年的領先優勢,寬容度更高,每秒在芯片中可以擠出更多的操作時間,使用更復雜和強大的機器學習模型,將之更快的部署,用戶也會更加迅速地獲得更智能的結果。
谷歌專門為人工智能研發的TPU被疑將對GPU構成威脅。不過谷歌表示,其研發的TPU不會直接與英特爾或NVIDIA進行競爭。
據谷歌介紹,TPU已在谷歌的數據中心運行了一年多,表現非常好。谷歌的很多應用都用到了TPU,比如谷歌街景,以及AlphaGo等。
TPU最新的表現正是人工智能與人類頂級圍棋手的那場比賽。在AlphaGo戰勝李世石的系列賽中,TPU能讓AlphaGo“思考”更快,“想”到更多棋招、更好地預判局勢。
- 第 1 頁:GPU/CPU/TPU都是啥?有何區別?
- 第 2 頁:GPU
本文導航
非常好我支持^.^
(37) 100%
不好我反對
(0) 0%
相關閱讀:
- [電子說] Blackwell GB100能否在超級計算機和AI市場保持領先優勢? 2023-10-24
- [電子說] 如何使用Rust創建一個基于ChatGPT的RAG助手 2023-10-24
- [電子說] 射頻識別技術漫談(27)——CPU卡概述 2023-10-24
- [電子說] 講一講Apple Macintosh處理器過渡的故事 2023-10-24
- [電子說] 國產金融工控機的廣泛應用領域和獨特優勢 2023-10-24
- [人工智能] 研華推出EPC-B3000系列嵌入式工控機,搭載先進X86架構CPU,助力邊緣人工智能應用 2023-10-24
- [電子說] 異構時代:CPU與GPU的發展演變 2023-10-24
- [電子說] RISC-V要顛覆GPU嗎? 2023-10-24
( 發表人:方泓翔 )