賽靈思 Vitis? AI 1.4 現(xiàn)已正式發(fā)布。這是一個(gè)功能強(qiáng)大的機(jī)器學(xué)習(xí)開發(fā)平臺(tái)，用于在賽靈思自適應(yīng)計(jì)算平臺(tái)上實(shí)現(xiàn) AI 推斷加速。該版本為用戶提供了完整的解決方案堆棧，首次實(shí)現(xiàn)了對(duì)最新 7nm Versal ACAP 平臺(tái)和基于 16nm 工藝的Kria? 自適應(yīng)系統(tǒng)模塊（ SOM ）產(chǎn)品組合的支持。對(duì) Versal 平臺(tái)的支持范圍包括 Versal AI Core 系列 VCK190 評(píng)估套件，以及用于 AI 推斷的 VCK5000 Versal 開發(fā)卡。

VCK190 套件是首款 Versal AI Core 系列評(píng)估套件，可幫助設(shè)計(jì)者使用 AI 和 DSP 引擎開發(fā)解決方案。與當(dāng)今服務(wù)器級(jí) CPU 相比，可提供超過 100 倍的計(jì)算性能。VCK190 套件是支持從云端到邊緣實(shí)現(xiàn)高吞吐量 AI 推斷和信號(hào)處理應(yīng)用的理想平臺(tái)。VCK190 套件是支持從云端到邊緣實(shí)現(xiàn)高吞吐量 AI 推斷和信號(hào)處理應(yīng)用的理想平臺(tái)。

VCK5000 Versal 開發(fā)卡面向需要高吞吐量 AI 推斷和信號(hào)處理計(jì)算性能的設(shè)計(jì)。 VCK5000 開發(fā)平臺(tái)為云加速和邊緣計(jì)算應(yīng)用提供了開箱即用的解決方案，無(wú)需事先具備 FPGA 硬件專業(yè)知識(shí)。

結(jié)合 Kria KV260 視覺AI 入門套件，這些全新 AI 開發(fā)平臺(tái)為用戶提供了更多可能性，使其能夠在 AI 產(chǎn)品化過程中實(shí)現(xiàn)卓越的 AI 推斷性能、可擴(kuò)展性和云到邊緣部署選擇。

賦予 AI 產(chǎn)品化更多可能性

為了讓更多用戶體驗(yàn)到高效 AI 推斷加速帶來的益處，賽靈思提供了一整套 AI 模型，其中所有模型都經(jīng)過優(yōu)化，可重訓(xùn)練、可部署，也供所有人免費(fèi)下載。在 Vitis AI 1.4 中，該 AI Model Zoo 的多樣性進(jìn)一步增加，所涵蓋的最先進(jìn)模型可用于 4D 雷達(dá)檢測(cè)、圖像激光雷達(dá)傳感器融合、 環(huán)視 3D 檢測(cè)、深度評(píng)估、超分辨率等領(lǐng)域，總共包含來自不同 ML 框架的數(shù)百個(gè)模型。

當(dāng)然，為了保持差異化的產(chǎn)品功能和競(jìng)爭(zhēng)力，部分用戶會(huì)選擇直接部署定制神經(jīng)網(wǎng)絡(luò)模型。通過引入稱之為 graph-runner 的全新部署 API，Vitis AI 1.4 還為這些用戶提供了更加流暢的體驗(yàn)，使定制層在 DPU 和 CPU 上即插即用成為現(xiàn)實(shí)。

行業(yè)領(lǐng)先的邊緣與云端性能

賽靈思 FPGA、自適應(yīng) SoC 和 ACAP 所提供的硬件架構(gòu)，可以靈活適應(yīng)不同場(chǎng)景的計(jì)算需求，所提供的靈活性和可定制性則能適應(yīng)不同的算法拓?fù)洹⒕壬踔链鎯?chǔ)器層級(jí)。這既是贏得 AI 產(chǎn)品化之戰(zhàn)的最佳方式，也是創(chuàng)建特定領(lǐng)域架構(gòu)（ DSA ）誕生的原因。

為了證明 DSA 在 AI 推斷加速方面的高效性，賽靈思于今年早些時(shí)候在 MLPerf v1.0 結(jié)果中提交了 ResNet-50 封閉類別基準(zhǔn)測(cè)試。MLPerf Inference v1.0 是 MLCommons 組織的機(jī)器學(xué)習(xí)推斷性能基準(zhǔn)套件。結(jié)果衡量了一個(gè)訓(xùn)練有素的神經(jīng)網(wǎng)絡(luò)在各種情況下處理廣泛應(yīng)用的新數(shù)據(jù)的速度。利用 Versal VCK5000 PCI-E 卡，賽靈思獲得了每秒 5，921 張圖像（ img/s ）的結(jié)果。相同模式下的加速性能結(jié)果優(yōu)于英偉達(dá) T4卡。#FormatImgID_4#

除此之外，Versal AI Core系列 VCK190 的性能結(jié)果也證明了賽靈思在 AI 加速方面的實(shí)力。通過利用 AI 引擎（ AIE ）內(nèi)核和 DPU 設(shè)計(jì)、經(jīng)優(yōu)化的存儲(chǔ)器層級(jí)和帶寬 IO，VCK190 取得了 1，567 img/s 和 7.6ms 時(shí)延的 ResNet50-v1.5 結(jié)果，較之英偉達(dá) AGX Xavier 性能提升了 87%且時(shí)延降低了 19 倍 。最重要的是，借助 Vitis AI 1.4，所有用戶通常都可以利用 VCK5000 和 VCK190 進(jìn)行加速。

致力于易于使用的軟件開發(fā)流程

賽靈思始終致力于提供更加易用的軟件工具，方便更多用戶從事軟件開發(fā)、數(shù)據(jù)和 AI 科學(xué)開發(fā)以及嵌入式開發(fā)，從而在賽靈思自適應(yīng)計(jì)算平臺(tái)上輕松實(shí)現(xiàn) AI 部署。

借助 Vitis AI 1.4，量化器、優(yōu)化器和編譯器工具的支持范圍均已擴(kuò)展至最流行的機(jī)器學(xué)習(xí)框架、Pytorch、Tensorflow 1.x、Tensorflow 2.x 和 Caffe。全新 API 和操作員功能也已加入其中，以實(shí)現(xiàn)更多 AI 模型跨多個(gè)器件的部署。

自賽靈思 Vitis AI 1.0 于 2020 年 1 月發(fā)布以來，其下載量已超過 10 萬(wàn)次，并被數(shù)百名用戶應(yīng)用于 AI 推斷。全球各地的 AI 開發(fā)者利用 Vitis AI 打造了許多激動(dòng)人心的項(xiàng)目。現(xiàn)在，伴隨 Vitis AI 1.4 的發(fā)布以及支持眾多全新功能與模型，開發(fā)者可以在全新 Versal AI Core 系列和 Kria SOM 平臺(tái)上開展更多工作。

審核編輯：郭婷