隨著各大公司對于數據計算的要求越來越高，實時AI成為了研究者們關注的重點。在美國西雅圖舉行的微軟Build開發者大會上，微軟發布了最新的基于FPGA的Project Brainwave預覽版。Project Brainwave是一個旨在加速實時AI計算的硬件架構，能夠部署在Azure云端以及邊緣設備上，幫助用戶實現低成本的實時AI計算。本文譯自微軟人工智能博客“Real-time AI: Microsoft announces preview of Project Brainwave”

本周，在美國西雅圖舉行的微軟Build開發者大會上，微軟發布了Project Brainwave預覽版，并將其整合到了Azure機器學習服務中。Project Brainwave是一個旨在加速實時AI計算的硬件架構，部署在名為“現場可編程門陣列（Field Programmable Gate Array，簡稱FPGA）”的英特爾計算機芯片上。與最流行的行業基準相比，Project Brainwave可以將實時AI計算的延遲時間降到最小，并且成本控制在可接受的范圍。Project Brainwave預覽版的發布將使Azure成為最高效的AI云計算平臺，也是讓FPGA成為通用型平臺的第一步。

Project Brainwave硬件模型

Esri是一家地理信息分析公司，每天需要處理各種來自衛星圖像、視頻數據流和傳感器信號等異構數據。數據的處理需要高強度的密集計算，常常會導致計算延遲。

同時，Esri公司對海量數據實時處理能力的要求也越來越高。例如，公司希望從數千條視頻中提取信息，對汽車、自行車、公交車、行人和其它物體進行偵測，以便了解當前的交通狀況和異常情況；或者公司希望通過對衛星數據進行實時分析，來偵測受損住宅等各種不同物體。

因此，Esri公司需要借助微軟Project Brainwave進行更加高效和低成本的實時AI分析。

Project Brainwave預覽版能為客戶提供超高速圖像識別能力，它還可以讓用戶進行基于AI的實時計算，而不用將任務進行分拆再進行單獨計算。目前，Project Brainwave支持深度學習框架TensorFlow，也將支持微軟認知工具包。

除了整合到Azure平臺，微軟還將Project Brainwave推廣應用到“邊緣設備”上，這樣用戶仍然可以在不聯網的情況下利用Project Brainwave獲得業界領先的計算速度。不用聯網的Brainwave可以被直接嵌入到生產設備中，這樣計算不需要每次都在云端運行，哪怕每次只能節省很少的時間和金錢成本，也會形成累積效應，產生巨大的效益。

在必應和Azure上部署FPGA

早在Project Brainwave處于探索階段時，FPGA就已經不算是什么新鮮事物了，但在此之前從未有人認真考慮過將它用于大規模計算。所以微軟的研究團隊開始著手驗證FPGA用于更貼近實際場景的可行性。

最開始，Project Brainwave團隊將這一技術在必應搜索引擎和Azure云中進行落地。

微軟高級研究員、Brainwave項目技術負責人Eric Chung表示，必應必須是一項“低延遲”的服務——當用戶在必應搜索框中輸入搜索查詢時，他們希望能夠瞬間獲得搜索結果。這意味著必應工程師要在不犧牲毫秒級響應速度的前提下不斷設法提高搜索結果的質量。而與此同時，搜索引擎數據庫中的數據，無論在數量和類型上都是在不斷增加的。借助可編程硬件FPGA，團隊得以將基于深層神經網絡的搜索技術迅速融入到必應中，極大提升了系統返回搜索結果的速度。

過去幾年間，微軟也一直在使用FPGA來加速Azure云計算平臺。

AI要實時處理海量數據

從借助FPGA實現更高效的計算處理的想法誕生，到Project Brainwave公開預覽版的發布，時隔五年的時間。這段時間里，AI革命的全面爆發引發了新的巨大需求：人們希望系統能夠處理文檔掃描、圖像信息搜尋、語音識別和對話翻譯等AI任務所需的海量數據。

Project Brainwave團隊負責人Doug Burger

而Project Brainwave剛好能夠滿足AI計算的需求。其硬件設計可以迅速演進，并在每次改進后能夠重新映射到FPGA，滿足快速變化中的AI算法要求。

與其它類型的計算機芯片相比，FPGA更加靈活，可以根據AI領域的最新發展快速地進行重新編程。

隨著AI處理的任務越來越復雜（例如分析視頻內容等非結構化數據）以及AI算法的復雜度越來越高（例如用于執行諸如“在這些視頻中搜索所有關于海濱城市的鏡頭”等搜索指令），人們對于能夠以合理成本快速處理AI任務的系統的需求只會越來越大。

提高流水線檢測效率

捷普集團 (Jabil）是全球領先的電子技術解決方案提供商。每天，工人都會在流水線上將成千上萬個零部件裝配成產品，然后交付給客戶。在這個過程中，自動光學檢測系統會對這些產品進行掃描，查找出所有潛在的異常情況，隨后，系統會將異常的產品送去進行手工檢查。高速運轉的系統要求手工檢查員在幾秒鐘內就要判定出某件產品是否確實存在缺陷。

為了讓AI能夠更加快速、準確地監測圖像，減少系統錯誤的異常警報，捷普集團與微軟合作，利用微軟Project Brainwave來提高AI的計算速度。此外，研究人員還在探索如何利用Project Brainwave更好地預測制造設備需要維護的時間，從而減少停產維修的時間。

從圖像分析、搜索引擎到智能制造，人們對實時AI計算的需求正變得越來越多，我們希望微軟Project Brainwave能夠推動實時AI計算的發展，讓AI帶給我們更多的可能性。