支持AI人工智能和ML機器學習部署的數據中心依靠基于圖形處理單元（GPU）的服務器為其計算密集型架構提供支持。到2024年，在多個行業中，GPU使用量的增長將使GPU服務器的復合年增長率超過31%。這意味著將有更多的系統架構師承擔承擔相應的職責，以確保GPU系統具有最高的性能和成本效益。

　　然而，為這些基于GPU的AI / ML工作負載優化存儲并非易事。存儲系統必須高速處理海量數據，與此同時需要注意以下兩個挑戰：

　　1）服務器利用率。GPU服務器對于訓練大型AI / ML數據集所需的矩陣乘法和卷積非常高效。但是，GPU服務器的成本是典型CPU服務器的3倍。為了保持ROI，IT員工需要讓GPU使用率足夠飽和。但不幸的是，很多部署經驗表明GPU僅有30%的使用率。

　　2）GPU存儲瓶頸。ML訓練數據集通常遠遠超過GPU的本地RAM容量，從而產生了一個I / O瓶頸，分析人員將其稱為GPU存儲瓶頸。AI和ML系統最終要等待訪問存儲資源，這是因為它們龐大的數據阻礙了及時訪問，從而影響了性能。

　　為了解決這個問題，NVMe閃存固態硬盤逐漸取代了標準閃存固態硬盤，成為Al / ML存儲的首選。NVMe支持大規模的IO并行性，性能約為同類SATA SSD的6倍，并且延遲降低了10倍，并且具有更高的電源效率。正如GPU推動了高性能超級計算機的發展一樣，NVMe閃存在降低延遲的同時，實現了更高的存儲性能、帶寬和吞吐量。NVMe閃存解決方案可以使AI和ML數據集加載到應用程序的速度更快，并且可以避免GPU匱乏。

　　此外，NVMe Over Fabrics可以虛擬化整個高速網絡上的Nvme資源，通過NVMeoF技術可以更好的適用于AI和ML的存儲架構。NVMeoF使GPU可以直接訪問NVMe的彈性池，因此可以使用本地閃存性能來訪問所有資源。它使AI數據科學家和HPC研究人員可以向應用程序提供更多數據，以便他們更快地獲得更好的結果。

　　要獲得最佳的GPU存儲性能，就需要根據業務目標對基礎架構進行微調。這里有四種方法可供考慮。
?