電子發(fā)燒友網(wǎng)報(bào)道（文/周凱揚(yáng)）數(shù)據(jù)中心作為CPU、GPU和加速器廠商最為關(guān)注的市場(chǎng)，自然也少不了RISC-V這個(gè)新架構(gòu)來(lái)?yè)胶鸵荒_。我們?cè)谥暗奈恼轮幸矊?duì)RISC-V在數(shù)據(jù)中心的進(jìn)展做了一些介紹，RISC-V雖然在服務(wù)器通用CPU上發(fā)力跡象不明顯，但要說(shuō)AI加速器這類產(chǎn)品，很有可能會(huì)是RISC-V打入數(shù)據(jù)中心市場(chǎng)的最佳方向。

谷歌的RISC-V戰(zhàn)略

自己設(shè)計(jì)芯片的服務(wù)器廠商之一，谷歌，似乎也開始打算用上RISC-V。在今年9月美國(guó)的AI硬件峰會(huì)上，SiFive首席架構(gòu)師和谷歌的TPU芯片架構(gòu)師展示了他們的合作方案。谷歌的TPU是谷歌設(shè)計(jì)專用于機(jī)器學(xué)習(xí)的加速器，用于在數(shù)據(jù)中心上運(yùn)行TensorFlow、Pytorch和JAX等機(jī)器學(xué)習(xí)框架。

而TPU的主要計(jì)算單元就是矩陣乘法打算（MXU），由脈動(dòng)陣列中的128x128乘法/累積器組成，在最小配置v4版TPU中包含4個(gè)TPU芯片，每個(gè)TPU芯片都有8個(gè)MXU，是TPU v3版的兩倍，而且每個(gè)MXU都能使用BF16執(zhí)行每周期16K的乘積累加運(yùn)算。

然而，谷歌發(fā)現(xiàn)雖然TPU的機(jī)器學(xué)習(xí)算力雖然夠用，但客戶在利用這類大型AI加速器時(shí)，往往無(wú)法用它來(lái)完成其他的復(fù)雜計(jì)算負(fù)載，所以谷歌的做法是將SiFive的X280處理器核心，作為TPU的協(xié)處理器，用來(lái)提供維護(hù)和運(yùn)行代碼，跑加速器沒法運(yùn)行的內(nèi)核。
雖然SiFive的X280主打的是加速AI/ML計(jì)算，但主要是針對(duì)邊緣端，比如AR/VR、數(shù)碼相機(jī)等等，并非用于數(shù)據(jù)中心的大型AI加速器。但在與谷歌等廠商的合作下，SiFive推出了一個(gè)名為矢量定制協(xié)處理器接口（VCIX）的技術(shù)，可以讓大型AI加速器直接與X280的32x512位矢量寄存器文件高速通信。

這相比其他方案來(lái)說(shuō)，矢量寄存器層級(jí)上的訪問不僅可以提供更大的帶寬、比PCIe更低延遲，還能簡(jiǎn)化軟件棧、省下更多的硬件資源。X280和TPU核心分工合作，前者負(fù)責(zé)運(yùn)行完整的Linux系統(tǒng)和虛擬機(jī)管理程序，后者負(fù)責(zé)密集的機(jī)器學(xué)習(xí)運(yùn)算。

英特爾HorseCreek初見端倪

早在去年，英特爾就宣布將會(huì)用到SiFive的P550高性能RISC-V核心，以及自己的7nm工藝（即現(xiàn)在的Intel4工藝）來(lái)打造一款RISC-V SoC，代號(hào)名為HorseCreek。雖然到了2022年，SiFive最高性能的核心已經(jīng)成了P650。但作為一個(gè)十三級(jí)流水線、三發(fā)射、亂序的64位RISC-V核心，P550的性能仍然是相當(dāng)能打的，SiFive給到的定位也是對(duì)標(biāo)ARM的Cortex-A75，同時(shí)只需不到一半的面積。

不過消息公布后，英特爾雖然又開展了一系列與RISC-V相關(guān)的行動(dòng)，比如加入RISC-V國(guó)際基金會(huì)、IFS支持RISC-V芯片代工和推出RISC-V的FPGA開發(fā)平臺(tái)等等，但HorseCreek卻始終不見蹤影。 而在今年的IntelInnovation大會(huì)上，英特爾的不少合作伙伴都在現(xiàn)場(chǎng)搭建了展臺(tái)，也有參會(huì)者終于在現(xiàn)場(chǎng)看到了HorseCreek的真面目。在Intel4工藝的加持下，HorseCreek將4個(gè)2.2GHz的SiFiveP550核心、DDR5和PCIe5集成到了4mmx4mm的單個(gè)裸片上，連英特爾CEO PatGelsinger本人也親自來(lái)展臺(tái)查看HorseCreek的開發(fā)平臺(tái)。

根據(jù)展臺(tái)上公開的數(shù)據(jù)，HorseCreek配備了三級(jí)緩存，包括私有二級(jí)緩存和通用三級(jí)緩存。DDR5這塊集成了英特爾的DDR PHY、DFI接口與Cadence的DDR內(nèi)存控制器，支持到5600頻率的DDR5內(nèi)存，PCIe5.0部分集成了英特爾的PCIePhy和新思的PCIeRootHub控制器。除了英特爾提供的PLL、內(nèi)存編譯器、標(biāo)準(zhǔn)單元等數(shù)模IP以外，HorseCreek還用到了其他的IP，比如西門子的DFT和新思的NOC Fabric。 從以上數(shù)據(jù)可以看出，HorseCreek是一個(gè)集SiFive、英特爾和EDA廠商IP大成的SoC。如此強(qiáng)大的SoC加上豐富的接口支持，完全可以用于數(shù)據(jù)中心里。不過，HorseCreek的首個(gè)終端產(chǎn)品形態(tài)應(yīng)該是SiFive的下一代HiFive開發(fā)板。上一代的HiFive Unmatched開發(fā)板已經(jīng)售罄了，在疫情相關(guān)的供應(yīng)鏈問題下，SiFive已經(jīng)放棄了補(bǔ)貨的打算，轉(zhuǎn)而全力去打造下一代基于HorseCreek的HiFive開發(fā)板。


又一個(gè)千核RISC-V芯片

在戴爾的HPC社區(qū)大會(huì)上，來(lái)自美國(guó)的初創(chuàng)半導(dǎo)體公司InspireSemiconductor公布了他們?yōu)閿?shù)據(jù)中心提供的RISC-V加速器方案，同時(shí)還給出了另一個(gè)有趣的說(shuō)法，那就是現(xiàn)有的高性能計(jì)算方案已經(jīng)“不夠好”了。

在他們看來(lái)，目前的主流數(shù)據(jù)中心CPU都太慢了，無(wú)論有無(wú)加速器的輔助都是如此，而在有了加速器以后，90%的高性能計(jì)算都是由加速器負(fù)責(zé)了。再者就是GPU和FPGA的方案，InspireSemiconductor指出這兩者的編程太復(fù)雜了，不僅鎖定了軟件棧，而且需要特定的技能才能獲得足夠好的計(jì)算結(jié)果。而ASIC和AI加速器的風(fēng)險(xiǎn)又太高了，從成本、時(shí)間上看都是如此。

為此，InspireSemiconductor推出了他們的RISC-V加速器方案，Thunderbird。Thunderbird在單芯片上集成了2560個(gè)64位的CPU核心，單個(gè)PCIe加速卡上的核心數(shù)量更是超過5000個(gè)。InspireSemiconductor稱他們用到了創(chuàng)新的高速互聯(lián)方案，在高效利用這么多核心的同時(shí)，最高可以組成256個(gè)芯片的陣列。 相較其他加速器和GPU方案，Thunderbird加速器也有著功耗上的優(yōu)勢(shì)，單芯片的功耗在175W左右，同時(shí)他們給出了20W/Tflops的能效比，看來(lái)Thunderbird的峰值算力大概就在8.75Tflops左右了。雖然會(huì)上InspireSemiconductor也展示了谷歌、聯(lián)想和IBM等客戶或合作伙伴的一些反饋，但這些不少是客套話，是否已經(jīng)用于這些公司的數(shù)據(jù)中心方案中還不好說(shuō)。

InspireSemiconductor同時(shí)承諾了一個(gè)對(duì)開發(fā)者友好的軟件生態(tài)系統(tǒng)，但他們并沒有給出自己的軟件方案，而是指出Thunderbird將充分利用RISC-V已有的豐富軟件生態(tài)系統(tǒng)，比如OneAPI等，所以不必像競(jìng)品芯片那樣去開發(fā)一次性的軟件棧。如此一來(lái)更適合那些喜歡標(biāo)準(zhǔn)CPU編程模型的開發(fā)者，無(wú)需像GPU那樣去學(xué)習(xí)CUDA、OpenCL，而是可以用Pragma和MPI這樣的標(biāo)準(zhǔn)編譯器方案。

AI編程上也是如此，InspireSemiconductor指出流行的AI框架，諸如TensorFlow、Pytorch和Glow等都已有了對(duì)RISC-V的支持，Linux也在操作系統(tǒng)支持的行列中。如此看來(lái)，InspireSemiconductor目前應(yīng)該只提供了純硬件方案，而這樣的產(chǎn)品是否能在市面上取得成功，目前看來(lái)完全取決于英特爾Codeplay那邊的OneAPI軟件生態(tài)了。