在這篇文章中，我們將探索MIPS軍工級(jí)I級(jí)I6500 CPU處理器的異構(gòu)設(shè)計(jì)如何大幅提升性能及降低功耗。

高性能處理器通常使用深度多指令執(zhí)行、分支預(yù)測及無序處理等技術(shù)以使性能最大化，但這卻可能會(huì)影響功效。

如果其中一些任務(wù)是并行的，隨之便會(huì)在一系列CPU中進(jìn)行分區(qū)，這樣便可以提供高性能高效的方案。為此，CPU供應(yīng)商提供了多核集群，操作系統(tǒng)和應(yīng)用程序開發(fā)人員則設(shè)計(jì)了相關(guān)軟件以開發(fā)這些功能。

采用多線程

即使采用無序執(zhí)行，通常的工作負(fù)載使得CPU將大多數(shù)時(shí)間花在等待內(nèi)存系統(tǒng)的訪問上。新引入的MIPS I6500支持多線程，即每個(gè)線程作為單獨(dú)的處理器出現(xiàn)在軟件中。根據(jù)不同的應(yīng)用程序，添加第二個(gè)線程至CPU中時(shí)，通常10%的面積需要總體性能提升40%。MIPS I6500可以容納6個(gè)CPU，每個(gè)都有4個(gè)線程，這樣就不必在單個(gè)集群中運(yùn)行24個(gè)線程。

MIPS I6500集群添加了對(duì)系統(tǒng)層硬件相干性的支持，并使用AMBA ACE添加接口至系統(tǒng)中。AMBA ACE是一個(gè)一致性總線接口，可以兼容最常用的相干NoC產(chǎn)品，如 NetSpeed公司的Gemini及Arteris公司的Ncore。有了NetSpeed Gemini 產(chǎn)品，64 MIPS I6500集群將可以連接高達(dá)384個(gè)處理器，運(yùn)行1536個(gè)線程，這著實(shí)令人驚嘆。

對(duì)于許多消費(fèi)產(chǎn)品，其所需的處理性能隨著時(shí)間的推移可能會(huì)有很大的差別。通常，它們只是偶爾需要峰值性能。大多數(shù)的時(shí)間卻只需要較低的性能，而這通過使用一個(gè)更簡單更高效的處理器大幅降低總功耗便可以實(shí)現(xiàn)。

信息共享

將任務(wù)從一個(gè)處理器移至另一個(gè)處理器需要每個(gè)處理器可以共享相同的指令集及系統(tǒng)內(nèi)存信息。這通過共享虛擬內(nèi)存(支持向量機(jī))便可以實(shí)現(xiàn)。程序中的任何指針必須繼續(xù)指向相同的代碼或數(shù)據(jù)，且初始處理器中任何不良緩沖必須讓隨后的處理器可見。

維持處理器之間的緩存一致性

緩存一致性可以通過軟件管理。這要求最初的處理器(CPU A)在傳輸任務(wù)至后續(xù)處理器（CPU B）之前沖刷主存儲(chǔ)器的緩存。CPU B從主存儲(chǔ)器中獲取數(shù)據(jù)和指令。這個(gè)過程可能生成許多內(nèi)存訪問，因此將耗費(fèi)時(shí)間和功率。訪問主存儲(chǔ)器所需的功率比獲取緩存時(shí)的功率高一個(gè)數(shù)量級(jí)，所以這種影響還將被放大。為了解決這一問題，I6500 CPU集群支持硬件緩存一致性，以將功耗和性能成本降至最低。

在使用I6500集群的系統(tǒng)中，當(dāng)一個(gè)任務(wù)從CPUA傳輸至CPU B中時(shí)，CPU B將訪問駐留在CPU A中的本地緩存線路。硬件緩存一致性將跟蹤這些緩存線路的位置，并在必要時(shí)窺探緩存情況，以確保訪問數(shù)據(jù)的正確性。

I6500集群的另一個(gè)優(yōu)勢是可以在集群中被發(fā)現(xiàn)。在典型的異構(gòu)系統(tǒng)中，高性能處理器駐留在一個(gè)集群中，面積更小更高效的處理器駐留在另一個(gè)集群中。在這些不同類型處理器之間進(jìn)行任務(wù)傳輸時(shí)，新處理器第1層和第2層的緩存都是非激活的。要激活這些緩存需要一定的時(shí)間，并需要先前的緩存層在過渡階段仍然保持活躍。

MIPS I6500是不同的。我們稱這種差異性為“異構(gòu)內(nèi)置”，這意味著I6500支持異構(gòu)混合類型的處理器，允許高性能和功率優(yōu)化處理器處在同一集群中。將任務(wù)從一種類型的處理器傳輸至另一類處理器中將更有效，因?yàn)橹挥械?層緩存是未激活的，窺探上一層緩存的成本降低，因而過渡時(shí)間變得更短。

CPU配置專用加速器

CPU是通用的設(shè)備。其靈活性使其可以處理任何任務(wù)，且任務(wù)處理具有成本效率。而PowerVR GPU能夠高性能高效率地處理更大且高度并行的計(jì)算任務(wù)，其代價(jià)是靈活性相比CPU則較為降低，但其同時(shí)支持良好的軟件開發(fā)生態(tài)系統(tǒng)環(huán)境如OpenCL。

專用硬件加速器的專業(yè)化又有效地融合了多種性能，其性能效率相比CPU又高出了幾個(gè)數(shù)量級(jí)，不過相應(yīng)地靈活性則大為降低。

不過，多次使用加速器操作可以將潛在的性能和功效最大化。專業(yè)計(jì)算元素如音頻和視頻處理以及機(jī)器學(xué)習(xí)中使用的神經(jīng)網(wǎng)絡(luò)處理器使用了相似的數(shù)學(xué)運(yùn)算。此類操作使用最為廣泛的是向量點(diǎn)積(每向量中對(duì)應(yīng)元素產(chǎn)品的總和)。配置在CPU上的專用加速器使用此函數(shù)則可以顯著地提高性能并節(jié)省功率，同時(shí)又保留了CPU的靈活性。

通過增加單指令多數(shù)據(jù)(SIMD)功能與浮點(diǎn)算術(shù)邏輯單元(ALU)可以將硬件加速耦合至CPU中。不過，盡管通過SIMD處理數(shù)據(jù)，CPU仍然作為直接內(nèi)存訪問(DMA)控制器移動(dòng)數(shù)據(jù)，且CPU是非常低效的直接記憶器存取（DMA）控制器。

相反，異構(gòu)系統(tǒng)本質(zhì)上卻可以二者兼得。它包含了一些專用的硬件加速器，可以與大量的CPU耦合，提供更大的功效，同時(shí)又大量保留了CPU的靈活性。

功率的節(jié)省及性能的提升取決于加速器進(jìn)行有用工作的時(shí)間。適合加速器的工作包范圍較廣——你可以預(yù)期少量的大型任務(wù)，又可以預(yù)期大量的小型任務(wù)。

在CPU與加速器之間進(jìn)行傳輸處理將產(chǎn)生成本，限制任務(wù)的大小將節(jié)省功耗或提高性能。對(duì)于較小的任務(wù)，節(jié)省的功耗及傳輸任務(wù)所需的時(shí)間將超過使用加速器所需的功耗及節(jié)省的時(shí)間。

降低數(shù)據(jù)傳輸成本

I6500具有共享硬件虛擬內(nèi)存功能，可以保持緩存一致性。這就大大節(jié)省了傳輸任務(wù)所需的成本，因?yàn)槠湎藬?shù)據(jù)復(fù)制和緩存沖刷的工作。

為進(jìn)一步減少時(shí)間及功率成本，還需要借助一些其他的技術(shù)。HSA Foundation開發(fā)了一個(gè)支持系統(tǒng)中異構(gòu)處理元素集成的環(huán)境，其擴(kuò)展超越了CPU和GPU。HSA系統(tǒng)有一個(gè)名為HSAIL的中間語言，該語言提供了一種常見的編譯路徑至異構(gòu)指令集架構(gòu)(ISA)中，極大地簡化了系統(tǒng)軟件開發(fā)，并同時(shí)定義了用戶模式隊(duì)列。

這些隊(duì)列使任務(wù)有序進(jìn)行，且信號(hào)在其它處理元素中觸發(fā)任務(wù)，使得序列任務(wù)的執(zhí)行成本較低。

相干單元

除了集群中的CPU ，MIPS I6500還支持許多IO相干單元(IOCU)。這些IOCU具有內(nèi)存管理單元(MMU)功能，當(dāng)處理CPU的任務(wù)時(shí)，其可以將任務(wù)處理映射至物理地址空間，并以同樣的方式經(jīng)過共享的第二層緩存，保持與所有本地緩存的一致性。對(duì)于許多系統(tǒng)而言，這種功能使加速器可以與CPU進(jìn)行有效的集成。

對(duì)于加速器中較大的任務(wù)，直接內(nèi)存訪問(DMA)引擎的帶寬可以非常大，甚至可能被存儲(chǔ)系統(tǒng)的容量限制住。這樣一來，加速器中內(nèi)存系統(tǒng)的處理任務(wù)將進(jìn)行列隊(duì)，且將列隊(duì)延遲添加至CPU共享了相同端口及路徑的任務(wù)中。處理大型數(shù)據(jù)集的加速器對(duì)任務(wù)處理有些依賴，允許加速器預(yù)取數(shù)據(jù)。這樣，即使是CPU中不共享的內(nèi)存延遲也可以高度容忍。

MIPS I6500及其相干的總線接口允許加速器使用獨(dú)立的系統(tǒng)內(nèi)存路徑并同時(shí)保留CPU集群的一致性。我們稱之為“異構(gòu)外置”。

異構(gòu)的優(yōu)勢

異構(gòu)系統(tǒng)可以大幅提升系統(tǒng)性能、降低系統(tǒng)功耗，使系統(tǒng)不因工藝精簡而受到限制。多線程、異構(gòu)和一致性CPU集群如MIPS I6500則是這些系統(tǒng)最完美的搭檔。

它們?cè)谠S多市場的下一代產(chǎn)品中都占據(jù)優(yōu)勢，如：高級(jí)駕駛員輔助系統(tǒng)(ADAS)及自動(dòng)駕駛、網(wǎng)絡(luò)、無人機(jī)、工業(yè)自動(dòng)化、安全、視頻分析、機(jī)器學(xué)習(xí)等。

Follow @ImaginationTech

英文鏈接：
https://imgtec.com/blog/heterogeneous-inside-revolutionary-mips-i6500-pr...