我們的大腦由860億個神經(jīng)元組成，神經(jīng)元是一種非常簡單的細胞。而令人吃驚的是，神經(jīng)元之間有1014種連接。也就是說，不同神經(jīng)元之間的連接數(shù)量將增長5到6個數(shù)量級。每一個神經(jīng)元都將從多個“in”神經(jīng)元中獲取所有具有一定權(quán)重函數(shù)的輸入，將這些輸入相加，通過樹突輸出信號，并傳遞給其他神經(jīng)元。

作為一家互連公司，我們正嘗試準確地實現(xiàn)突觸的功能，構(gòu)建數(shù)億甚至數(shù)十億個神經(jīng)元和突觸并連接所有這些神經(jīng)元和突觸，從而復制人類大腦的運行機制。我們正在各種設備和系統(tǒng)之間連接數(shù)據(jù)或電源。

AI型架構(gòu)將完全依賴于這些突觸。智能的核心是互連，而不是神經(jīng)元。換句話說，智能依賴于網(wǎng)絡，而不是各個計算單元！與引腳數(shù)量低于處理核心數(shù)量類似，這些突觸將遠遠超過神經(jīng)元的數(shù)量（圖2）。

讓我們討論另一個真實的工作案例。最近，我參加了全球首屈一指的光通信和網(wǎng)絡大會 — 美國光纖通訊展覽會及研討會（OFC）。在OFC上，Meta宣布正在研究一種共封裝銅和共封裝光學解決方案。這是一個120毫米 x 120毫米的巨大基板。可以在其中16個位置選擇填充光學模塊（通過安費諾的壓縮插座連接）或使用安費諾的DensiLink-OSFP OverPass解決方案。在這兩種方式中，我們都實現(xiàn)了每秒51.2 TB的IO傳輸速率！在圖3中，位于中間的芯片是Broadcom尚未投產(chǎn)的高階芯片。

圖3

Amphenol DensiLink used in Meta's project

(Courtesy:Albert Chen)

該芯片提供令人難以置信的512個通道，每個通道支持112 Gb/s傳輸速率。在十年前，如果要實現(xiàn)51.2 Tb的數(shù)據(jù)交換，則需要使用10英尺高、包含12個插槽的模塊化系統(tǒng)。我們實現(xiàn)了引人矚目的技術(shù)擴展能力，而這正是我們應用于AI/ML領域的方式。

另一個例子是TPU（張量處理單元）Pod（圖4）。一個機架包含十六個子架。機架的每個子架都有20根水平布置的OSFP電纜。八個機架組成一個Pod，這是Google Ml系統(tǒng)的最小結(jié)構(gòu)。

這共有2560個OSFP端口和1280根OSFP電纜！而這還只是一個“小型”系統(tǒng)！?

該系統(tǒng)將構(gòu)成一個全網(wǎng)狀環(huán)形結(jié)構(gòu)。當系統(tǒng)正面的互連從左向右或水平傳輸時，則系統(tǒng)背面的互連則是從上向下傳輸，從而構(gòu)成一個完整的網(wǎng)格（圖4）。

每個機架都將連接至其最近的機架，然后再與下一個相鄰的機架形成級聯(lián)式互連，依此類推。同樣，每一個子架也采用類似的方式連接至另一個子架。這種無交換設計可以大幅減少延遲，因為無需其他中間組件來引導流量，每個節(jié)點都負責自主控制方向。

這就需要大量的電纜！完成這些電纜的物理安裝并實現(xiàn)準確可靠的連接無疑是一項巨大的挑戰(zhàn)。在這些高速IO電纜的初步發(fā)展階段，設計人員只要安裝10到20根電纜，完全沒想到現(xiàn)在要一次性安裝1280根電纜。

這迫使我們不得不重新考慮用例。我們希望逐步取代用人工流程來安裝這些電纜，因為在數(shù)據(jù)中心內(nèi)，這些Pod覆蓋的面積差不多要達到4.6萬平方米。維護和安裝所有這些電纜幾乎是不可能的，因此機器人應運而生。否則，我們需要考慮實現(xiàn)數(shù)據(jù)中心自動化。電纜的數(shù)量將持續(xù)增長，其薄度、彎曲半徑和傳輸速度也將不斷進步。因此，我們正在通過技術(shù)投資來打造更纖細、更靈活的電纜，同時滿足客戶對更高帶寬的需求。

問

?

請分享一下安費諾在PECFF領域的布局，也就是Gen Z附加卡封裝形式。安費諾是否針對PECFF提供了任何產(chǎn)品？因為我聽說這項技術(shù)可能應用于加速卡。

是的，我們正在研發(fā)相關產(chǎn)品。這項工作延續(xù)了我們之前在SFF-TA-1002標準上取得的成果。新的接口仍然采用相同的命名方式，但支持不同的應用場景。我們已經(jīng)向PCI-SIG委員會提交了方案。因此，SFF-TA-1002將建立一個新的標準，通過一個通用接口來支持固態(tài)驅(qū)動器、內(nèi)存、AI/ML、計算和IO通信。我們推出的就是這樣一個通用接口。剛開始只限于內(nèi)部應用，但現(xiàn)在研發(fā)人員已經(jīng)開始設法擴展其應用場景。

問

?

想再重點了解一下SFF-TA-1002。針對Mini Cool Edge連接器，是否會有更大的應用前景？

當然。實際上，我認為我們是業(yè)界第一家推出Mini Cool Edge的供應商。

問

?

我們希望了解Nvidia的NVLink專有技術(shù)及其相關硬件平臺DGX-2。它被稱為比PCIe速度更快且更具可擴展性的替代方案。鑒于此，您是否認為NVLink能夠?qū)崿F(xiàn)顛覆性增長并超過PCIe？還是會與PCIe共存？

我認為它將與PCIe及其緩存一致性變體CXL共存。如果關注這些年的技術(shù)發(fā)展軌跡，每當有新技術(shù)出現(xiàn)時，它就像一個受控的混沌模型，每個人都知道應當如何采用這項新技術(shù)。因此，每個人都會有自己的標準和自己的接口。針對AI/ML領域，我們還處于原始階段，對吧？我們?nèi)栽谔剿髦С诌@些技術(shù)的理想方式，以及應當如何為其建立標準。所以這項工作仍在持續(xù)推進中。請記住，AI/ML的實際應用還只有八年，而我們在不到五年的時間里就從零發(fā)展到大規(guī)模部署，真的很令人不可思議！

問

?

感謝您分享這些獨到見解。您能否介紹一下安費諾在NVLink技術(shù)領域推出的一些最重要的連接器？

好的。我們從很早就與NVLink建立了合作關系。安費諾最開始創(chuàng)建了符合SFF標準的SlimSAS互連系統(tǒng)。然后，NVLink使用了Meg-Array，這是我們推出的一款高性能夾層連接器。再然后使用了ExaMAX背板連接器系統(tǒng)。他們還評估了ExaMAX電纜，可與QSFP搭配使用，現(xiàn)已發(fā)展至OSFP。下一代將使用DensiLink轉(zhuǎn)OSFP。而現(xiàn)在，他們正在評估Paladin?HD。因此，安費諾的幾乎每一款高速接口都已經(jīng)或正在接受英偉達的評估。這真是太神奇了。

問

?

就DensiLink而言，它最具吸引力、最突出的特點是什么？

從圖8中可以看到，這僅僅是因為可以在芯片上實現(xiàn)足夠的帶寬。每平方英寸的密度和帶寬是AI技術(shù)的一個重要優(yōu)先事項。

問

?

AI的未來發(fā)展對安費諾有哪些影響？

AI架構(gòu)的出現(xiàn)還只有十年，我們將在未來幾十年中見證AI應用的不斷成熟和發(fā)展。同樣，網(wǎng)絡、服務器和其他數(shù)據(jù)電信應用也將進入高速發(fā)展階段。這些新興技術(shù)用了二三十年才真正投入大規(guī)模應用，并最終成為了業(yè)界標準。AI的挑戰(zhàn)在于，其發(fā)展完全依賴于越來越龐大的互連系統(tǒng)。在未來的技術(shù)發(fā)展趨勢中，我們顯然還需要克服許多互連挑戰(zhàn)。但互連行業(yè)的未來是光明的。?

編輯：黃飛