背景

各種新類型設備將會導致數據量的爆發，其中大部分新設備目前還不存在。數據是有價值的，因為人工智能（AI）可以將數據中挖掘出商業價值。為了實現人工智能，我們將不得不啟用新的計算模型。

關鍵信息

一共有兩條關鍵信息。首先，人工智能工作負載（即機器學習、深度學習）需要一種處理數據的新方法——我們稱之為新的計算架構（即計算模型）。后面將闡述“計算架構”的含義，以及AI工作負載需要哪些類型的更改。其次，人工智能計算架構需要材料工程的突破。我將討論一些我們遇到的突破類型的例子。在應用材料領域，我們很興奮地預見到人工智能將為材料工程帶來巨大的增長機遇。

在這篇文章中，我的目標是總結AI工作負載的計算架構需求是如何不同于業界已經熟悉了幾十年的傳統計算架構（如x86或ARM）。我們將討論為什么傳統的馮?諾依曼計算架構對人工智能來說是不夠的。并從一個我們做過的實證分析來說明，如果我們不啟用新的計算架構，人工智能將無法實現。

人工智能的工作量有什么獨特之處？

有三大不同之處，而且它們是相互關聯的。

首先，人工智能需要大量內存，因為最流行的AI工作負載操作大量數據，但是內存也需要不同的組織方式。在流行的CPU中使用的傳統多層緩存架構對AI來說是不必要的，AI需要更直接、更快速的內存訪問。對于通過將數據存儲在緩存中來重用數據，則沒有那么多的關注。

在人工智能系統中輸入大量的數據是非常重要的。以谷歌Translate?翻譯服務為例：在2010年時，谷歌聘請了語言學家和算法專家來實現從英語到漢語的翻譯，最后，他們的翻譯準確率達到了70%。這很好，但不是很好。最近，谷歌采取了一種不同的方法：他們雇傭了很多數據科學家，數據科學家們將每個可用的英文網頁及其中文譯文輸入到一個相對簡單的深度學習算法中。這給了他們更好的結果，準確率高達98%！正如您所看到的，這里的重點是使用更簡單的算法來使用更多的數據，這是支持用大量數據驅動AI的論點。

?

其次，人工智能涉及大量的并行計算。并行計算意味著您可以并行地處理工作負載的不同部分，而不必擔心相互依賴。以圖像處理為例，可以并行處理圖像的不同部分，最后把圖像拼湊在一起。因此，所有傳統CPU中提供的復雜流水線對AI來說都是不必要的。

第三，人工智能需要大量的低精度計算，無論是浮點運算還是整數運算。這就是神經網絡的力量，它是機器學習或深度學習的核心。傳統的CPU有64位精度，在某些情況下可以達到512位。在很大程度上，AI并不需要這些。

因此，我們在這里有三個基本的和重要的計算架構變化，這是人工智能工作負載所需要的。這將我們帶到了同構與異構計算體系結構的主題。

同構計算與異構計算

在PC和移動時代，大多數應用程序（或工作負載）在處理需求（即計算架構）方面看起來很相似。最初，所有的工作負載都是由CPU處理的，當我們開始使用更多的圖片、視頻和游戲時，我們開始使用GPU。

將來，我們的工作負載看起來會越來越不同，每個工作負載都有自己的計算需求。我們需要的是各種不同的體系結構，每種結構都針對特定類型的工作負載進行了優化。這就是我們所說的“硬件復興”，因為它推動了針對各種新工作負載的體系結構創新。

還有一個原因可以解釋為什么這個行業正在從同構計算轉向異構計算。這與功耗密度有關，功耗密度限制了傳統CPU的性能。我們正處在一個用現代多核CPU架構來提高性能的困難時期。人工智能工作負載最基本的需求是更高的功耗效率（即每個操作對應的功耗）。隨著登納德定律（Dennard Scaling）的結束，實現這一點的惟一方法是構建特定于域（domain-specific）或特定于工作負載的體系結構，從而從根本上提高計算效率。

實證分析：DRAM和NAND出貨量與數據生成相關

為了理解數據生成和計算需求之間的關系，我們將年度DRAM和NAND出貨量與年度數據生成進行了比較。經驗關系表明，DRAM和NAND出貨量的增長速度都要高于數據生成的增長速度。在我們的分析中引入的數學關系是底層計算體系結構的代表。

我們利用所發現的經驗關系做了一個思維實驗，考慮在1%的智能汽車使用率下增加數據生成造成的影響。假設每輛智能汽車每天產生大約4TB的數據，我們發現，到2020年與前智能汽車水平相比，智能汽車產生的數據總量增加了5倍。

根據這一分析，使用傳統的計算模型，我們將需要8倍的DRAM裝機容量和25倍的NAND裝機容量（2020年）來處理1%的智能汽車使用。在應用材料行業，我們絕對希望這種情況發生，但我們不認為會發生。相反，該行業將需要采用基于新材料和3D設計技術的新型存儲器，以及新的計算架構。

綜上，傳統的馮?諾依曼計算架構在處理人工智能所需的海量數據時是不經濟的，甚至是不可行的。我們需要新的計算架構。

責任編輯：ct