在人工智能時代,AI的算法不斷推陳出新,對于硬件的算力和靈活度要求很高。FPGA的靈活性剛好符合AI的特性。
通過FPGA,可以快速開始定制化運算的研究和設計,因為是使用FPGA,所以,可以保證開發軟硬件平臺的兼容,如果要獲得更高性能,就定制ASIC芯片,如果ASIC過于昂貴,或者硬件產品的需求量不足,也可以繼續使用FPGA。等到應用規模擴大到合適時機,再轉換為定制化芯片,以提高穩定性,降低功耗和平均成本。
對今天的AI嵌入式系統的設計師而言,必須軟硬兼備才能成為一個優秀的工程師。換言之,軟件人員要往硬件方向轉,學習硬件知識,硬件工程師也必須向軟件工程師靠攏,理解算法的執行過程,為AI算法設計新的計算結構和數據通路。這是因為現在AI的軟件編程并不是簡單地編寫一個程序得到一個計算結果,還必須考慮計算的速度是不是足夠夠快。所以實質上是一個如何設計合理的并行結構計算加速核心硬件,以達到實時全面完成算法要求的問題。
轉型勢在必行,FPGA工程師要理解新任務、掌握新工具。
一.對FPGA產品的需求
硬件性能的提升
盡管FPGA在數據中心應用處于一個快速增長過程,但總體規模還不是很大,這里面有一些限制,也是FPGA廠商需要努力提升的地方。 首先是價格問題,FPGA的大規模部署需要FPGA硬件成本盡快降下來,這個要靠工藝進步以及市場規模來解決;其次是存儲訪問帶寬,HBM技術以及CCIX是代表性的方向。
軟件工具的提升
FPGA需要軟件工具來輔助工程師完成設計過程,在新的應用領域對設計的內容、流程、驗證方法等都提出了新的需求,例如AI應用客戶希望具備高層次的模型定制能力,但是目前還沒有廠商可以提供成熟的方案。這也為新的工具提供商提供了機會。
生態系統
GPU獲得了廣泛的認同和應用,這與CUDA長期的演進和積累密不可分。新興應用領域大都有流行的設計框架和開源項目。FPGA一般作為高性能計算硬件來加速現有項目,所以需要和這類設計框架進行融合,也需要大量基礎庫/IP來支持用戶快速完成設計。所以一個成熟的生態系統至關重要,目前這塊也還是非常薄弱。
二:對FPGA工程師的需求
理解新任務
傳統FPGA工程師面對的是硬件的設計問題,但AI等應用與應用系統關系密切,不單純是FPGA片上邏輯設計的問題。工程師往往需要了解上層軟件如何與FPGA片上系統的集成與優化問題。
掌握新工具
FPGA主流廠商很早就開始布局新興市場的應用,一個主要工作就是提升FPGA設計開發抽象層次,OpenCL/HLS語言就是典型代表,一般情況下可以提升數倍開發效率。所以FPGA工程師需要充分掌握這類新的工具,以保障自己能有足夠的效率面對行業需求。
抓住新機遇
新興應用領域不僅僅是FPGA市場的簡單擴充,它也為FPGA應用帶來新的商業模式,以FaaS為代表的應用形式,為FPGA開發人員帶來眾多新的商業機遇。
Achronix的Speedcore IP具有支持先進人工智能技術的正確功能組合。
人工智能(AI)應用要求高性能,并且在許多情況下,低延遲能夠成功地響應條件和需求的實時變化。它們還要求功耗盡可能的低從而意味著無法使用,其解決方案是將機器學習放在供電和制冷能力充足的云服務器端。對這些嵌入式系統的進一步要求是,即使在沒有網絡連接到云端的情況下也都能隨時工作并且準備好做出響應。這些因素的組合要求在硬件設計方法上做出改變。
人工智能要求謹慎地平衡數據通路的 性能、內存延遲 和 吞吐量,這就需要用一種方法來將盡可能多的功能放到專用集成電路(ASIC)或系統級芯片(SoC)上。通過添加eFPGA技術,則提供了市場需要的一種解決方案,來將靈活性以及客制化邏輯單元支持能力結合在一起。
作為專為嵌入到SoC和ASIC之中而設計的硅知識產權(IP),Achronix的Speedcore eFPGA IP是一種高度靈活的解決方案,它支持高性能機器學習應用中需要的數據吞吐量。通過借助其可切分的架構,Speedcore IP為設計人員提供了滿足其應用要求的能力來實現eFPGA功能的混合和匹配。Speedcore IP的核心功能包括基于四輸入查找表(LUT)的邏輯單元、用于寄存器文件和類似應用并面向邏輯單元的小型存儲器(LRAM)、較大的單元塊存儲器(BRAM)和可配置的數字信號處理器(DSP)模塊。根據應用的要求,Speedcore基于縱列的架構可提供準確混合資源的能力。
三:FPGA公司在AI時代的布局
3.1: 賽靈思
之前已經提過,2018年,新CEO上任就把方向調整為數據中心方向,推出ACAP的下一代計算平臺。實際上就是在FPGA上集成了AI加速器,2018年,賽靈思收購了中國的AI芯片的初創公司——深鑒科技,這個公司的創始人韓松就是上節所述的網絡剪枝和深度壓縮的發明人。
2019年,賽靈思發布了Vitis設計軟件,其中包含了專門針對AI應用的面向軟件的開發框架和庫文件,并提供了一些預先訓練和優化過的AI模型。包括上面提到的深度壓縮,量化,剪枝等技術,包括深鑒公司的DNNDK開發框架,也被整合成Vitis的AI優化器。
3.2: 英特爾
和賽靈思相比,英特爾的FPGA業務只占它業務量很小一部分。由于錯過了移動時代的前車之鑒,英特爾不能再錯過 AI 數據中心這個重要方向。再加上,英偉達的GPU已經有很強的壟斷地位。各大互聯網公司也在自主研發深度學習的加速芯片,所以,英特爾一直也在發力。
英特爾收購了多家AI芯片的初創公司,
3.3: Achronix
這是唯一一家可以和兩在巨頭一較高下的FPGA公司。
2019年5月發布了Speedster7t的FPGA產品,主打高速網絡傳輸,機器學習加速。它針對AI計算做了充分的優化。最多能集成300Mb的片上內存,和英特爾的高端產品Stratix10近似。另外,這款FPGA基于臺積臺的7nm工藝制造,與賽靈思的ACAP相同,與英特爾的Agilex系列相比,也有很強的竟爭力。在芯片架構上,與賽靈思的ACAP類似,采用橫向和縱向的2D片上網絡。
四:FPGA在AI時代的發展方向
FPGA的方向之一,是集成越來越多的AI相關資源。
如何提高易用性和工具的支持,是另一個需要關注的。讓AI工程師掌FPGA的編程和開發是不現實的,因此,如何對現有人工智能的IP進行封裝和復用,是一個焦點。
兩個FPGA公司都支持OpenCL(高層次開發語言),但是,OpenCL的設計移植性并不好,因此,英特爾還發布于基于OpenVINO的開發套件,它專門針對深度學習的邊緣計算場景。
FPGA在AI領域的應用逐步擴展到網絡邊緣和端點,如:智能安防,視頻采集和處理,自動駕駛,機器人。
精彩推薦 至芯科技12年不忘初心、再度起航12月17日北京中心FPGA工程師就業班開課、線上線下多維教學、歡迎咨詢! 至芯科技精品寒假班來襲,1月7號線上授課,歡迎廣大學子,電子愛好者前來學習! FPGA到底是什么?,FPGA工程師核心競爭力是什么? verilog的時鐘分頻與時鐘使能掃碼加微信邀請您加入FPGA學習交流群
歡迎加入至芯科技FPGA微信學習交流群,這里有一群優秀的FPGA工程師、學生、老師、這里FPGA技術交流學習氛圍濃厚、相互分享、相互幫助、叫上小伙伴一起加入吧!
點個在看你最好看
原文標題:掌握Verilog FPGA設計和驗證方法是AI時代系統設計師的生命線
文章出處:【微信公眾號:FPGA設計論壇】歡迎添加關注!文章轉載請注明出處。
-
FPGA
+關注
關注
1629文章
21753瀏覽量
604193
原文標題:掌握Verilog FPGA設計和驗證方法是AI時代系統設計師的生命線
文章出處:【微信號:gh_9d70b445f494,微信公眾號:FPGA設計論壇】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論