如今，層出不窮的智能設備已滲透進我們的生活里，語音助手、面部識別攝像頭，甚至是你的個人電腦都會或多或少的裝有這些東西。然而，它們并不能通過魔法來工作，需要一些東西來支持它們所做的所有數據處理。一些設備可以通過大量的數據中心在云端完成。其他設備則是通過人工智能（AI）芯片的幫助來完成所有處理。

據了解，AI技術的發展和應用在美國、中國和歐盟等世界主要國家中已經成為國家戰略，在國家的科技發展和產業競爭中占據越來越重要的位置。同時，AI技術在手寫識別（例如MNIST數據集）、人臉識別（例如Facebook的DeepFace）、語音識別（例如亞馬遜的Alexa、Apple的Siri、微軟的Cortana）、機器人技術（例如機器人操作系統）、自動駕駛（例如TartanRacing），甚至智力游戲（例如Google的AlphaGo）和視頻游戲（例如Pac-mAnt）等領域得到了廣泛應用。隨著人工智能的發展，產生了更多的專業技術，比如神經網絡模型、機器學習等，依靠經驗學習而不是編程來做出決策。反過來，機器學習為深度學習奠定了基礎，深度學習涉及分層算法，以便更好地理解數據。

為訓練而設計的芯片實際上扮演著網絡教師的角色，就像一個在學校的孩子。一個原始的神經網絡最初是不發達的，通過輸入大量的數據來進行訓練。訓練是依賴于計算的，所以我們需要專注于訓練的AI芯片，它能夠快速有效地處理這些數據。芯片越強大，網絡學習速度就越快。

一旦一個網絡經過訓練，它就需要用于推理的芯片，以便使用現實世界中的數據，如面部識別、手勢識別、自然語言處理、圖像搜索、垃圾郵件過濾等。將推理視為你最有可能在人工智能系統中看到的方面，除非你從事的是訓練方面的人工智能開發。

你可以把訓練看作是在編篡一本字典，而推理則類似于查找單詞并理解如何使用。兩者都是必要、共生的。

值得注意的是，為訓練而設計的芯片也可以進行推理，但推理芯片不能進行訓練。

云計算和邊緣

我們需要了解的AI芯片的另一個方面是，它可以用于云應用和邊緣端，當然，這也是需要訓練和推理的。

云計算之所以有用，是因為它的可訪問性，因為它的功能完全可以在非prem情況下使用。在這些用例中，您不需要設備上的芯片來處理任何推理，這可以節省電力和成本。然而，在隱私和安全方面，它也有缺點，因為數據存儲在云服務器上，可能會遭到黑客攻擊。對于推理用例，它也可能效率較低，因為它沒有邊緣芯片那么專業。

處理“邊緣推理”的芯片也可以在一個設備上，比如面部識別攝像頭。因為所有的數據都存儲在設備上，而且芯片通常都是為特定目的而設計——例如，面部識別攝像頭會使用一種擅長運行面部識別模型的芯片。但如在設備上增加另一個芯片會增加成本和電力消耗。重要的是要使用邊緣AI芯片來平衡成本和功率，以確保設備對其細分市場來說成本剛剛好，或者不是太耗電。

以下是這些應用程序和芯片通常是如何配對的：

云+訓練

這種配對的目的是開發用于推理的人工智能模型。這些模型最終細化為特定于用例的AI應用程序。這些芯片功能強大，運行成本昂貴，而且設計的目的是盡可能快地進行訓練。

訓練芯片被用于訓練Facebook的照片或谷歌翻譯，云推理芯片用于處理你輸入的數據，使用這些公司創建的模型。其他例子包括人工智能聊天機器人或大型科技公司運營的人工智能服務。

邊緣+推理

使用設備上的邊緣芯片進行推理可以消除任何與網絡不穩定或延遲有關問題，并且更好地保護所使用數據的隱私和安全性。其優點是在上傳大量數據時所需的帶寬，特別是圖像或視頻等可視化數據，無需相關成本，因此只要成本和功耗達到平衡，就可以比云計算更便宜、更高效。

比如耐能Kneron芯片，KL520和最近推出的KL720芯片，這是為設備上使用而設計的低功耗、低成本的芯片。比如他們的KL520，它能夠給 2D、3D 圖像識別提供支持，適配各種 2D、3D 傳感器，適用于結構光、ToF、雙目視覺等 3D 傳感技術并計算不同神經網絡模型，且兼具規格、性能、成本等多重優點，解決 3D 模組相對較貴、芯片成本高和硬件功耗高等問題。正是這樣，這顆芯片能被廣泛應用于智能門鎖、門禁系統、機器人、無人機、智能家電、智能玩具等智能物聯網領域。其他的比如英特爾Movidius和谷歌的Coral TPU。

應用領域包括面部識別監控攝像頭，用于行人和危險檢測或駕駛意識檢測的車輛攝像頭，以及用于語音助手的自然語言處理。

所有這些不同類型的芯片及其不同的實現、模型和用例都是未來AIoT發展的必要條件。如果得到5G等其他新興技術的支持，它們的性能將會更上一層樓。無論是在家里還是在工作中，人工智能正在迅速成為我們生活的重要組成部分，人工智能芯片空間的發展將迅速，不久的將來將會有更多類型的芯片問市，讓我們的工作生活更加便利迅捷。
編輯：hfy