自定義AI加速走勢高漲。在云計算領域，阿里巴巴繼亞馬遜、谷歌之后，推出了自己的定制加速器。Facebook也參與其中，微軟在Graphcore中持有大量股份。英特爾（Intel）和Mobileye在汽車領域擁有強大的邊緣人工智能（AI），而無線基礎設施開發商正在為5G的小電池和基站增加AI功能。所有這些應用程序都依賴于大量靈活性和對未來的檢驗，以便在快速發展的環境中獲得長期的相關性。

但是有許多應用程序，對于它們來說，功率、成本或透明的使用模型是更重要的度量標準。一個農業監視器在一個偏僻的地方，一個微波語音控制器，交通傳感器分布在一個大城市。對于這些問題，一個通用的解決方案，甚至一個通用的AI解決方案，都可能是多余的。所以，一個特定的應用程序的AI功能將會更加引人注目。

在人工智能時代之前，你會立刻想到一個硬件加速器——它可以做任何它必須做的事情，但比在CPU上運行一個軟件要快得多。這就是人工智能加速器的作用。它可能仍然是以軟件驅動的，但與通用CPU方式不同。軟件是在大型平臺（如TensorFlow或Torch）上用Python開發的，然后通過多個步驟編譯到目標加速器上。

這就是神奇之處。只要加速器保持在神經網絡架構的一般范圍內，它就可以像你希望的那樣狂野。它可以支持多個卷積引擎，每個引擎又由SRAM作為一個整體來支持，同時還支持本地內存，以優化對操作的優先順序的訪問。

它可能支持專業功能池等常用操作。為了提高速度和性能，它通常會在不同的推理階段支持不同的字寬，并在處理稀疏數組時支持專門的優化。這兩個領域都是神經網絡架構的創新熱點，一些架構師甚至嘗試使用單比特權值——如果一個權值只能是1或0，那么你就不需要在卷積和稀疏性增加中進行乘法運算了！

所有這些的挑戰在于，當你想要致力于最終架構時，你會發現有太多的旋鈕，以至于很難知道從哪里開始，或者你是否真正探索了全部的可能性空間。更加復雜的是，你需要在大范圍的大型測試用例（大圖像、語音樣本等等）上測試和描述。

用C語言而不是RTL來運行大部分測試是常識，因為它比RTL運行速度快幾個數量級，而且比RTL更容易調優。此外，神經網絡算法可以通過高級合成（HLS）很好地映射，因此你的C模型可以不僅僅是一個模型，它還可以是生成RTL。你可以探索你正在考慮的選擇的能力、性能和區域含義——多個卷積處理器、本地內存、字寬、廣播更新。所有這些都具有快速的周轉時間，允許你更充分地探索可能的優化范圍。