異構計算的機遇與挑戰(zhàn)

　　異構計算是指不同類型的指令集和體系架構的計算單元組成的系統(tǒng)的計算方式，目前 “CPU+GPU”以及“CPU+FPGA” 都是最受業(yè)界關注的異構計算平臺。它最大的優(yōu)點是具有比傳統(tǒng)CPU并行計算更高效率和低延遲的計算性能，尤其是業(yè)界對計算性能需求水漲船高的情況下，異構計算變得愈發(fā)重要。整個計算行業(yè)生態(tài)無一不在此發(fā)力，芯片企業(yè)投入了大量的資金，異構編程的開發(fā)標準也在逐漸成熟，而主流的云服務商更是在積極布局，一時間，異構計算大有取代傳統(tǒng)同構計算之勢。

　　張獻濤也表示，異構計算能夠很好的滿足人工智能、高性能數(shù)據(jù)分析、金融分析等計算密集型領域的計算需求，而這一技術會逐漸取代原來通用計算不擅長的部分。

　　但是在光鮮亮麗的外殼之下，對于一般用戶來說，異構計算的采購、部署以及使用門檻對絕大多數(shù)企業(yè)來說都很高。對此，張獻濤主要談到以下幾個痛點：

　　1.采購成本高：用戶小量采購基本上沒有議價能力，特別是購買FPGA板卡，量少的話采購價格特別高。

　　2.交付周期長：通常用戶從開始需要采購，到機型選擇、硬件架構設計、供應商選擇、機房選擇、財務審批等流程通常需要幾個月的時間。

　　3.沒有彈性：采購完了GPU/FPGA的數(shù)量就固定了，任務少的話多買的GPU/FPGA就浪費了，任務多的話GPU/FPGA數(shù)量又不夠用。

　　4.沒有硬件紅利：采購完了型號就固定了，如果有新的GPU/FPGA架構上線只能追加預算購買，老的GPU/FPGA性能跟不上應用了。

　　5.數(shù)據(jù)孤島：線下的GPU/FPGA和線上的服務無法打通。

　　另外，他還補充道，做FPGA產(chǎn)品的最大挑戰(zhàn)是整個FPGA的生態(tài)環(huán)境很差，具備FPGA開發(fā)能力特別是開發(fā)FPGA做計算加速的客戶非常少。為此，我們會在云上建立IP開發(fā)市場并且引入一系列的FPGA IP合作伙伴，并推動建立云上FPGA的開發(fā)標準，豐富整個FPGA的開發(fā)生態(tài)環(huán)境，吸引更多的IP開發(fā)廠商和合作伙伴把他們的IP放在IP開發(fā)市場上，去服務他們的最終用戶，從而進一步豐富整個FPGA的生態(tài)環(huán)境?！?/p>

　　阿里云在短時間里先后推出彈性GPU和FPGA異構計算的解決方案，目的就是降低異構計算資源使用的門檻，對高性能計算有需求的企業(yè)可以隨買隨用。

　　阿里云彈性GPU產(chǎn)品主要面向人工智能、數(shù)據(jù)分析、科學計算、電影渲染、視頻圖像處理、視頻轉碼等場景，目前的應用案例包括行為數(shù)據(jù)分析、千人千面、人臉識別、視頻識別、圖像識別、對象分類等；阿里云彈性FPGA產(chǎn)品主要面向人工智能、半導體設計、基因計算、視頻圖像處理、數(shù)據(jù)分析決策等場景，目前的應用案例包括深度學習推理、深度學習模型裁剪、非規(guī)整數(shù)據(jù)計算、視頻圖像處理、硬件半導體設計等。

　　阿里云在異構計算領域的探索

　　眾所周知，相比CPU，GPU和FPGA擁有太多的優(yōu)勢，GPU有更高的并行度、更高的單機計算峰值、更高的計算效率；而FPGA的優(yōu)勢則主要體現(xiàn)在它擁有更高的每瓦性能、非規(guī)整數(shù)據(jù)計算更高的性能、更高的硬件加速性能、更低的設備互聯(lián)延遲。

　　但在云端的解決方案上，便意味著優(yōu)勢的進一步放大，張獻濤介紹，阿里云GPU和FPGA異構計算解決方案主要有以下特點：

　　1.GPU/FPGA資源即買即用，彈性伸縮。

　　2.超大規(guī)模資源池，滿足業(yè)務峰值的GPU/FPGA數(shù)量的需求。

　　3.享受異構計算超摩爾定律的硬件紅利，以相同的價格使用性能更強的GPU/FPGA實例。

　　4.最全面的異構產(chǎn)品線，滿足人工智能訓練、推理，圖像視頻處理等各種不同的需求。

　　5.產(chǎn)品整合：和整個阿里云產(chǎn)品體系深度整合，數(shù)據(jù)打通。

　　這些特性完美的解決了用戶使用異構計算方案的痛點。張獻濤還透露，現(xiàn)在大部分客戶都在單機上訓練模型，通常需要幾周到一個月的時間，因此阿里云正在計劃推出一款超高性能異構集群的產(chǎn)品。

　　“該產(chǎn)品的GPU/FPGA之間可以通過25/100Gb ROCE走RDMA協(xié)議直連，可以多機多卡，用非常多的GPU/FPGA設備集群來共同訓練一個模型，大大減少用戶訓練的時間，從幾周到一個月縮短到一天或者幾個小時的級別?！?/p>

　　值得一提的是，阿里云異構計算解決方案也針對開發(fā)者做出了更友好的體驗：

　　在GPU編程方面，阿里云會推出分布式多機多卡訓練框架和其他GPU上的性能優(yōu)化服務，能夠大大降低客戶使用多機多卡的門檻，從而減少客戶在云上做深度學習訓練的時間。

　　FPGA方面，阿里云會建立IP開發(fā)市場并且引入一系列的FPGA IP合作伙伴，并且會推出自研的IP系列，通過IP市場的繁榮讓更多的最終用戶能夠享受到FPGA的性能加速。

　　另外，阿里云還推出了IaaS+的服務，包括發(fā)布E-HPC產(chǎn)品做異構集群的資源調度、賬號管理和彈性伸縮，通過容器服務來做一鍵部署、分布式訓練和彈性伸縮，通過XDL來做行為數(shù)據(jù)分析，利用阿里云自研的GPU匯編器來優(yōu)化提升應用的性能，提高異構計算設備的利用率，減少資源的采購成本。

　　未來：GPU、FPGA、ASIC三分天下

　　人工智能以及其它新興應用領域對于計算量的需求超過了通用CPU的摩爾定律的發(fā)展速度，而異構計算的性能增長速度能夠滿足這些新興的方向和趨勢，可以預見的是，異構計算會在今后的數(shù)據(jù)中心中占據(jù)越來越多的份額。

　　宏觀來看，異構計算的發(fā)展也得益于國家戰(zhàn)略的推動。例如，最近國家下發(fā)了人工智能的發(fā)展規(guī)劃，人工智能已經(jīng)成為國家戰(zhàn)略，這勢必會刺激異構計算的需求。當然，張獻濤也坦言，雖然異構計算的應用需求越來越多，但通用計算的需求也會一直存在，二者將會長期共存。

　　毫無疑問，目前異構計算領域GPU處理器已經(jīng)占據(jù)了主流地位，但對未來的趨勢，張獻濤則表示，“隨著FPGA的生態(tài)環(huán)境的建立和完善、ASIC芯片的逐漸成熟，未來異構計算領域會呈現(xiàn)GPU、FPGA、ASIC芯片三分天下的局面，GPU、FPGA、ASIC芯片都會有自己獨特的特長和應用領域，有自己獨特的客戶群體。”

　　這也是張獻濤團隊專注的方向，接下來團隊會發(fā)布包括8卡/16卡GPU產(chǎn)品、下一代的Volta架構的GPU產(chǎn)品、新一代的FGPA的產(chǎn)品，而ASIC芯片的產(chǎn)品上云也正在研發(fā)當中。

　　目前他所帶領的團隊主要有兩個目標：一方面致力于讓異構計算變成用戶即買即用的計算資源，提供最為全面的異構計算產(chǎn)品方案；另一方面致力于讓用戶能夠用好異構資源，充分發(fā)揮異構資源的處理能力，讓用戶的服務更具備競爭力。也就是推動異構計算變成一種普適的計算能力。

相關電子資料下載

• fpga的開發(fā)流程有哪些步驟？fpga和嵌入式系統(tǒng)的區(qū)別在哪里？ 146
• Blackwell GB100能否在超級計算機和AI市場保持領先優(yōu)勢？ 169
• 如何使用Rust創(chuàng)建一個基于ChatGPT的RAG助手 43
• 如何創(chuàng)建FPGA控制的機器人手臂？ 212
• 如何創(chuàng)建FPGA控制的機器人手臂 49
• 用VHDL語言創(chuàng)建一個8位算術邏輯單元(ALU) 50
• 您的存儲器堆疊了嗎？—賽靈思推出16GB HBM FPGA 109
• 淺析FPGA設計的安全性 37
• PCB板第一次上電會發(fā)生什么事情？ 19
• 異構時代：CPU與GPU的發(fā)展演變 142