AI 無處不在的性質不僅限于數據中心,也不在 MIT Python 程序員的頭腦中。它可以在我們當地的超市中以自導機器人的形式在過道中漫游,使用卷積神經網絡 (CNN) 和其他方式嵌入機場安全攝像頭。
無論 AI 接口是什么——一個眼睛粘糊糊的超市機器人,或者一個性感的澳大利亞女聲給我們指著一個好酒吧——工作負載需要在某種基于 CPU 或 GPU 的系統上處理,比如來自 Nvidia 的 DGX。
因為有這么多不同類型的 AI,所以沒有一種最適合的硬件來處理工作負載。正如英特爾的Naveen Rao所說,“客戶發現沒有單一的‘最佳’硬件來運行各種 AI 應用程序,因為沒有單一類型的 AI。” 無論為 AI 應用程序選擇哪種硬件,肯定有一個共同點:處理工作負載的每臺設備都需要有電源。
美元數據
對于 IT 經理來說,人工智能對計算服務器所需的功率產生了相當大的影響。服務器機架的平均功耗通常為 7 kW;但是,AI 應用程序每個機架可能使用超過 30 kW。增加千瓦是必需的,因為 AI 需要更高的處理器利用率,例如在 GPU 類型服務器上運行的應用程序——它們每個芯片需要兩倍的功率。
當然,如果您的設施功率受限,您可以嘗試四處移動數據,但這可能需要比處理數據更多的能量,而且功率消耗始終與移動中的數據量有關。簡而言之,與數據傳輸相關的成本很高。
例如,盡管有許多云提供商(AWS、Azure、Google 等)可供選擇,但許多公司都面臨與復雜數據傳輸價格相關的隱藏成本。解決這一困境的一個可行的解決方案不是移動數據,而是在更接近起源點的地方處理它——這創造了對邊緣計算的另一種需求。
用小網絡解決大問題
邊緣計算有望成為另一個無處不在且備受期待的數據進步(稱為 5G)的支柱。5G 預期的 1 毫秒延遲時間需要許多分布式處理區域(也稱為邊緣網絡)的支持。基于邊緣的服務器需要更靠近個人流式傳輸 4K 視頻和最終 8K 格式的視頻,以及用于監控智能城市中行人和交通活動的攝像頭等應用程序——而這一切都無需將其發送到云端。
此外,還需要邊緣網絡來支持自動駕駛汽車。這種優雅的新數據流掛毯的核心將是人工智能近乎實時地處理信息。
目前,所有 AI 應用程序都運行在基于硅的計算硬件上,無論是在智能手機內置的定制芯片中、在邊緣計算服務器內部署的 FPGA 中,還是在專門構建的以 AI 為重點的系統中,例如來自 Nvidia 的 DGX,可通過公共云訪問。
并且該硬件都需要電源,無論是直流電(如電池)還是交流電(來自電網)。它還需要物理系統之間的連接,無論是通過銅纜還是光纖數據連接。
斷電是AI的氪石
人工智能似乎對人類具有前所未有的價值。然而,當遇到斷電時,它會崩潰并停止運作——就像超人對氪石的反應一樣。將 AI 與這種能量克星隔離并降低故障風險的解決方案是確保可靠的功率流。
具有每插座功率感應功能的開關 PDU將使邊緣數據中心能夠最大限度地延長所有需要近實時處理的 AI 應用程序的正常運行時間。在這種環境下,選擇可靠的 PDU 為交通控制信號和中繼站的 AI 工作負載供電非常重要,急救人員使用這些工作負載為救護車、消防和執法服務提供調度和緊急數字通信。
鑒于這些關鍵任務的情況,智慧城市需要智能電源設備來確保其 5G 服務暢通無阻。使用遠程監控和管理的數據中心 PDU還有助于監控機柜內的溫度和環境條件。
回到數據中心和主機托管設施,人們正在更換基于 CPU 的服務器以獲得更強大的 GPU 系統人工智能處理能力,當 C13 和 C19 插座的更大組合時,擁有可擴展的機架式 PDU真的會派上用場需要——正在創建 30 kW 機架的過程中。
審核編輯 黃昊宇
-
電源
+關注
關注
184文章
17740瀏覽量
250565 -
AI
+關注
關注
87文章
30998瀏覽量
269328 -
工作負載
+關注
關注
0文章
9瀏覽量
1956
發布評論請先 登錄
相關推薦
評論