希臘神話中,海神與豐收之神波塞冬手持三叉戟,為航船保駕護航,為農人帶來清泉。從此之后,三叉戟經常用來比喻三種事物緊密結合,形成合力,比如足球世界很多球隊都有經典的鋒線三叉戟。
在企業上云與產業智能化的浪潮里,也有前沿技術趨勢上的三叉戟組合:業務與組織上云正在成為絕大多數企業的數字化發展選擇;算力逐漸成為企業的戰略性資源,而云端近乎無限的集群算力,使越來越多的行業與場景創新可以依賴云端高性能計算來完成;AI正在改變千行百業的生產方式,成為科研與產業探索的先驅力量,機器學習和深度學習也帶來了人工智能專項算力需求的爆發。
而在很多人的印象中,HPC高性能計算、AI、云服務的三叉戟還處在各自獨立,并行發展的階段,尤其在云端實現高性能計算似乎還過于前衛。
但從產業效率的邏輯上看,在云端實現可以高質量、高效率的AI訓練與部署的高性能計算,其實是產業集約化與社會低成本創新的大勢所趨。只有把這三項技術完美融合到一起,才能鑄成智能時代所需的數字化三叉戟。
走向云端:高性能計算的產業趨勢與挑戰
云計算與高性能計算的關系,真的只能格格不入嗎?答案可能并非如此。
根據Hyperion Research市場調研的數據來看,到2022年底將會有18.8%的HPC在云端運行,而這個數據在2021年是12.3%,雖然大多數HPC任務依舊依賴于超算中心和本地硬件,但在云端獲取高性能計算,可以說是產業發展的大勢所趨。在云端獲取高性能計算,在目前階段客戶會擔心遇到一些挑戰。比如說:管理挑戰,大規模計算集群難以創建和管理,是否能夠有快捷的部署方式和高效便捷的管理手段;能效挑戰,或者說是對云上高性能計算的性價比考慮,如何在云端發揮HPC的最大能效是很多用戶擔心的話題;安全挑戰,大量HPC處理的任務與數據都密不可分,有數據勢必會有數據安全的顧慮,云端的數據安全如何交付給用戶一個放心的環境。
但從高性能計算行業發展趨勢上看,這些問題都是可以在實踐中被逐個解決的。從基礎的計算邏輯上看,云端獲取高性能計算更加經濟實惠,并且用戶可以彈性獲取異構計算資源,真正實現計算與任務的適配。從單個節點性能上看,云端的計算資源性能更好;而在計算集群場景下,云端可以讓用戶獲得線性增長的計算性能,避免算力浪費。
所以,在云端實現高性能計算并不是不可能,反而因為云端海量擴展的算力,不斷增強的但節點的計算性能,以及方便高效的算力管理手段,以及云原生的系統及數據的安全保障,使得眾多行業的高性能計算可以得以在云端運行。
在如何實現云端獲取可靠HPC的探索中,亞馬遜云科技已經實現了行業領軍級的探索。
技術融合與產業平衡:亞馬遜云科技的高性能計算探索
在目前階段,亞馬遜云科技已經可以提供高度可定制的 HPC 計算平臺,為用戶帶來多樣化的異構計算資源以及定制化的計算實例。尤其值得注意的是,以軟件生態豐富著稱的亞馬遜云科技在HPC領域同樣提供了大量可用、低成本的軟件,幫助用戶解決管理與調度等領域的問題。
總體而言,亞馬遜云科技的HPC探索呈現出兩大核心差異:芯片、云、存儲、軟件、AI等領域的技術經驗的高度融合,以及面向行業需求與用戶痛點,進行了大量高度產業指向的軟硬件生態。
在高性能計算客戶關心的計算,網絡,存儲以及應用軟件生態適配上,亞馬遜云科技都為客戶提供了成熟的HPC相關服務保障。
在算力層,亞馬遜云科技提供包括CPU、GPU、ARM在內的多樣化異構計算支持,以及定制化的彈性計算實例,滿足用戶在AI等HPC高發任務中的計算資源需求。
在存儲層,集群化算力需求會導致對存儲的海量高并發訪問,這就讓存儲的性能非常關鍵。亞馬遜云科技提供了面向高性能計算場景的存儲支撐,并且可以在云端實現多級的文件存儲策略,幫助用戶實現根據計算需求來彈性規劃存儲使用,進而實現降低云端HPC的存儲成本,提升數據調用、管理效率。
在云端的網絡里,亞馬遜云科技可以為客戶提供超級計算應用程序所需的持續低延遲,高帶寬的網絡環境,用戶可以采用亞馬遜云科技推出的高達100Gbps帶寬吞吐,支持MPI的EFA(Elastic Fabric Adapter)網卡,推出了低延遲,降低網絡抖動的SRD(Scalable Reliable Datagram)協議,加速節點之間的通信。
在軟件層,亞馬遜云科技面向遷移、調度,包括可視化等等HPC場景需求,提供了豐富且低成本的軟件工具。比如使用亞馬遜云科技 ParallelCluster 可以說實現快速構建 HPC 計算環境,簡化 HPC 集群的部署和管理。亞馬遜云科技 Step Functions 是一項低代碼、可視化的工作流服務,可以幫助開發人員構建分布式應用程序、自動化 IT 和業務流程并構建數據和機器學習管道,從而降低綜合開發成本。這對于AI等領域的高性能計算任務來說非常重要。豐富、專業且低門檻的軟件生態,讓亞馬遜云科技可以幫助高性能計算用戶節約掉巨大的軟件定制開發成本,實現產業級的高性能計算應用。
基于亞馬遜云科技多樣化的高性能計算探索,在云端獲取集群化的澎湃算力已經成為可能。而這樣一種可能帶來的直接影響,就是為大規模的AI應用潮奠定基礎。
智能晨曦:AI大航海帶來的計算浪潮
隨著預訓練大模型與AI科學計算開始成為行業主流,AI訓練與部署所需的算力開始激增,尤其是AI任務對高性能計算的依賴逐漸被放大。或許可以說,產業智能化的晨曦逐漸綻放,必須建立在HPC的堅實算力基座上。
新藥研發、科研研究、地質勘探等結構復雜、數據量龐大的AI任務開始增多,對HPC提出了一系列全新的需求。比如計算集群化的要求不斷提升,異構計算的能力要求更加嚴苛、數據吞吐量與吞吐效率要求不斷加強等等。而在這樣的“AI大航海”時代,如果企業和科研機構依舊廣泛采用搭建硬件計算池的方向來實現HPC,那么顯然產業效率很低,綜合成本浪費巨大,而物理集群從硬件采購,到安裝、部署等都需要較長的時間。對于時效性要求極高的高性能計算任務來說,顯然無法滿足其需求。
面對機器學習、深度學習以及其他AI任務帶來的算力需求,亞馬遜云科技在云端不僅提供了搭載企業級GPU的計算資源,同時針對機器學習和深度學習的工作特點,自主研發了相對應的芯片,并且通過云服務的形式交付給客戶使用。目前階段,亞馬遜云科技可以為客戶的機器學習與深度學習任務提供搭載了4000張NVIDIA A100 GPU的超大規模計算集群,提供400 Gbps非阻塞聯網基礎設施,以及通過 FSx for Lustre 實現的高吞吐能力、低延遲存儲。而這樣規模的計算集群,在物理超算中心中其實是很難實現的。在AI大航海時代,從云端獲取針對機器學習、深度學習的高性能算力顯然是最合理的方案。
面向智能時代必然高速涌起的HPC需求,亞馬遜云科技通過產業知識與服務經驗的積累,最終將AI、HPC、云計算,三項明星技術融合成了一把三叉戟。這把三叉戟還將持續進化,幫助用戶在智能化浪潮中出海遠航,在數字化田野中收獲價值。
在今年6月初的全球ISC2022大會上,亞馬遜云科技推出了一系列針對高性能計算的云服務,有專門針對HPC工作負載的計算實例HPC6a。經過優化,可高效運行計算密集型、高性能計算工作負載,如計算流體動力學、油藏建模、天氣模擬,以及有限元分析等。相對于與之相當的 Amazon EC2 基于 x86 的計算優化型實例,Hpc6a 實例所提供的性價比最多更高出 65%。使用 Hpc6a 實例,您可以大幅降低 HPC 工作負載的成本,同時利用 AWS 的彈性和可擴展性。在GPU實例上,新型實例 Amazon EC2 P4de 推出預覽版,這款實例可提供機器學習(ML)訓練和高性能計算(HPC)應用程序所需的極佳性能,例如對象檢測、語義分割、自然語言處理、地震分析和計算流體動力學等。而亞馬遜云科技一直以來致力于發展的基于ARM的芯片Graviton系列,也在今年發布了第三代Graviton處理器系列的最新產品Graviton3。與AWS Graviton2處理器相比,它們的計算性能提高了25%,浮點性能提高了2倍,加密工作負載性能提高了2倍。
想要了解亞馬遜云科技在高性能計算領域的持續進化;想要明晰高性能計算如何與機器學習,真正量子計算這樣的前沿科技相結合;想要提前洞察各行業中蘊藏的計算潛力,不妨關注8月24日13:30在金茂北京威斯汀大飯店三層會議大廳 AB舉辦的“亞馬遜云科技 HPC +云上業務加速創新論壇”。
這場活動將匯聚來自亞馬遜云科技與各行業的技術專家,共同梳理計算與智能的發展軌跡,揭秘“ HPC +”時代的創新機遇。
8月24日,我們不見不散。
-
云計算
+關注
關注
39文章
7840瀏覽量
137546 -
AI
+關注
關注
87文章
31133瀏覽量
269470 -
HPC
+關注
關注
0文章
317瀏覽量
23812 -
亞馬遜
+關注
關注
8文章
2669瀏覽量
83434
發布評論請先 登錄
相關推薦
評論