在追逐智能化的道路上,云端算力芯片扮演著不可或缺的角色。其強大的計算能力和無限的潛力,推動著科技的創新和進步。隨著技術的不斷發展,我們有理由相信云端算力芯片將繼續引領人工智能的未來,為我們帶來更加智能、高效的世界。
自人類開采第一口油井開始,石油就深深融入進了人類生活的方方面面。小到鍋碗瓢盆芯片,大到飛機火箭航母,沒有哪個環節離得開石油的參與。如果說石油是工業的血液,電力與網絡是信息時代社會的骨架,那么算力就是AI時代構建萬物的基礎。
21世紀前后,人類逐漸從工業時代步入信息時代,當下AI時代的大門又再度緩緩開啟。2023年以來,以ChatGPT為首的生成式AI逐漸滲透到了各行各業中,有人說,這或許又是一個IPhone時刻。AI起舞,算力搭臺,算力,或者說是算力芯片就是AI時代的石油、電力與網絡。
算力從哪來?如何理解算力?國產云端算力芯片如今怎么樣了。今天,與非網邀請到了多位企業專家,共同探討AI時代下云端算力芯片發展的挑戰和機遇。
AI時代,算力有多重要
算力,其本質就是計算能力,它可以反映芯片對信息數據的收集、處理與輸出能力。計算本質上是一種抽象概念,加減乘數是計算,三角運算是計算,積分與微分也是計算。在如今的計算機時代,每一種復雜的計算都可以拆分成多個簡單的計算,現在通常用每秒鐘計算的浮點運算次數作為評價算力的指標。每秒計算1次就是1FLOPS。不過算力這個概念并不是芯片獨有的,我們人類的大腦也無時無刻不在進行著計算,從買菜購物到數學考試,從雞兔同籠到多元微分,計算貫穿了人類的一生。
放眼人類的發展歷史,人類對于計算的渴求就一直在進步。石器時代人類就開始結繩計數,后來各類算籌、算盤等輔助計算技術誕生,讓人類擁有了更大規模的計算能力。如果這時算力能被計算出具體數值,那一根系滿繩結的繩子的算力會低于1FLOPS。
1946年,世界上第一臺計算機“埃尼阿克(ENIAC)”出現,讓人類的計算能進一步提升,計算速度也進一步提升,其計算速度達到到了300FLOPS,也就是每秒鐘可以進行300次浮點運算,遠超當時任何人類與機械計算器的計算速度。
緊接著人類便進入到了集成電路大發展時代。1978年,英特爾推出了跨時代的8086芯片,它包含29000個晶體管,主頻達到4.77MHz,其算力也達到了700000 FLOPS以上。此后,集成電路產業飛速發展,至今已經形成英特爾、AMD、英偉達三家爭霸,還有TI、ST、瑞薩等MCU大廠緊隨其后,不同廠商不同種類的芯片用途五花八門,但其證明芯片性能的關鍵參數仍是“算力”。
不過,算力一詞用到頻率最高的領域仍舊是GPU。GPU起初是用來專門處理圖像的硬件,相比CPU,GPU具有更多計算核心,也更擅長進行并行計算。如今世界上單芯片算力頂峰是英偉達的Thor芯片,其算力已經達到200TOPS。TOPS即tera operations per second,1TOPS代表該芯片可以每秒計算1×1012 次運算。
AI時代,算力已經不僅是一項描述芯片計算能力的參數,它更像是一種資源,和石油與電力一樣,成為信息時代不可或缺的重要一環。而算力之所以如此重要,在于它對于AI來說的必要性。
AI模型,本質上是算力與算法的結合。模型的“大”與“小”,其實就是算法規模量的區別,模型輸出的精度也與訓練AI的數據量呈正相關,然而計算機處理越大的數據量,它所需要的算力也呈指數上升。其原因是因為AI算法可以理解為超大規模的矩陣運算,矩陣的維度就是數據特征數量,也就是數據的參數量。矩陣維度越多,參數越多,模型越復雜,它輸出的數據準確度越高,但所需求的算力也就越大。AI時代,算力已經不僅是一項描述芯片計算能力的參數,它更像是一種資源,和石油與電力一樣,成為信息時代不可或缺的重要一環。AI時代,也可以說是算力時代。
算力芯片也可以分為云端與終端兩種。云端算力芯片通常負責訓練和推理兩種場景,可在不要求延時與高網絡帶寬下運行幾乎全流程的AI算法。終端算力芯片通常用于自動駕駛、智能家居、智慧城市等AIOT場景中。通常來說,云算力芯片的難度更高,成本也更高,還需要用戶負擔額外的網絡通信費用,那是不是云端就不重要了呢?
如果沒有云計算,企業在需要算力場景的時候就要搭建私有云,也就是自己的服務器。而為了應對更加復雜的應用,支撐更加穩定的計算環境,企業就必須不停的升級采購新設備,例如服務器、存儲、帶寬等,還需要組建完整的運維團隊來保證這些設備的正常運行。綜合計算下來,布置企業自身的算力中心花銷巨大。這對于中小微企業來說更是一筆難以承受的支出。
而云計算可以一勞永逸的解決上述問題,相當于多個企業共享硬件設施,只有當企業需要算力的時候才會購買,并不需要一直持有大量空閑算力。簡單來說,云計算就相當于家庭用電,只有打開電燈,電表才會計數。
總的來說,云端+邊端能夠滿足AI時代下所有應用場景的要求。如今AI大模型不斷涌現,同時滿足訓練與推理,還具有性價比優勢的云算力芯片已經成為AI大亂斗背景下的必爭之地。但在高需求刺激之下,極速涌入云端算力芯片的資本還面臨著更加嚴峻的問題,高門檻。
挑戰與變局
過去,云端算力芯片僅受到部分企業關注。普通人對于它的理解往往僅限于大型服務器,云計算,神威太湖之光等名詞上。2023年以來,ChatGPT的橫空出世讓普通人對AI的了解更進一步。AI大模型爆火后,給全球AI芯片市場帶來了哪些影響?
摩爾線程專家認為,大模型的火熱對芯片市場的影響,最直接的就是對算力基礎設施的需求猛增,GPU作為大模型背后的關鍵算力基礎設施,尤其受到追捧。與此同時,大模型全新的算法方式對傳統的芯片架構提出了挑戰。
那,挑戰是什么呢?
隨著OpenAI的一聲炮響,全世界都被轟開了AI世界的大門。不過大規模計算所需要的高算力芯片挑戰頗多。摩爾線程專家認為挑戰主要來自芯片的通用性、功耗墻與顯存墻上。
奇異摩爾聯合創始人兼產品及解決方案副總裁祝俊東認為,目前云端算力芯片還面對著五大挑戰:架構、系統、場景、互聯以及快速迭代。
記者綜合分析得出:
從架構上來說,運算算力芯片對算力提升的需求與日俱增,但目前傳統SoC提升單芯片面積已經達到瓶頸,摩爾定律極限在時刻限制芯片發展,內存墻的限制也使得傳統架構芯片難以提升,更讓芯片在散熱、功耗等方面處處掣肘。因此需要異構計算架構來尋求芯片新的突破,其中就包括繞開摩爾定律的more than more——異構計算。
從系統角度來看,隨著大模型的廣泛運用,模型參數與規模都呈現指數級增長,因此需要更大規模的整合計算系統來應對大模型訓練和計算的需求。換句話說,盡管芯片算力不斷增長,但仍舊需要軟件端配合才能更好的發揮硬件性能。畢竟兵器是否趁手得看使用者的功力高低。
從應用場景來看,隨著ChatGPT爆火,AICG賽道上涌現了越來越多的玩家,未來AI領域還將出現更多應用場景,這也意味著還會有新賽道出現。因此,作為“AI起舞的舞臺”,運算算力芯片需要具備一定的通用性,也要有能力應對當今乃至未來日益多元化的專用計算場景。
從互聯來看,云端算力芯片需要高帶寬配合傳輸數據。未來大模型大算力應用涌現,云與端之間的快速交互,也將對帶寬和延時提出更高要求。
最后,AICG與算力芯片市場還處于快速變化階段,競爭者不斷入行,藍海可能一夜之間就變成紅海。因此企業必須快速迭代產品,尤其在云端算力芯片上,需要不斷調整產品策略來迎合未來產品的新需求,同時還要縮短TTM乃至量產時間。
總的來說云端算力芯片目前挑戰頗多,無論是從技術角度還是市場角度,國內涌現的諸多AICG與算力芯片玩家都需要更多的突破。更重要的一點是,目前全球算力芯片絕大部分市場都在英偉達手中,國產算力芯片在市場上仍舊處于弱勢。但在新興市場中,有著強力GPU先發優勢的英偉達面對的問題是什么呢?
除了AICG之外,目前自動駕駛技術同樣發展迅速,值得關注,這也激發出了全新的算力芯片需求。自動駕駛中,受限于延時與傳輸,對于雷達與攝像頭信號處理屬于邊或終端計算。但云計算對自動駕駛算法與系統的支持仍舊重要,云與端的結合成為更多汽車廠商的選擇,但新的挑戰也如期而至。英偉達技術專家在自動駕駛上的云端結合的挑戰上指出,云在用于自動駕駛汽車的人工智能軟件的開發中發揮著重要作用。數據被收集、整理、攝取、標記并用于訓練深度神經網絡,從計算角度來看是一項艱巨的任務。這是一個增強人工智能模型的迭代過程。創建模型后,將使用模擬在云中對其進行測試和驗證。
英偉達的專家表示,自動駕駛汽車運行時,不需要連接到云,但這是一個額外的好處,可以從交通、基礎設施和天氣等各種來源獲取信息,以實現安全駕駛操作。但自動駕駛汽車必須完全保持自主性,因此駕駛決策必須在車上做出,而不是在云端做出。連接到云的軟件定義汽車還為汽車制造商提供了新的商業模式和訂閱服務機會,同時為消費者帶來價值。過去,汽車在購買時處于最佳狀態,但隨后就會貶值。對于軟件定義的汽車來說,它處于最基本的銷售水平,隨著時間的推移,通過基于云,也就是云端算力芯片支持下的的軟件更新,它會變得更好、更安全。
在挑戰中育新機,于變局中開新局
AI“躁動”的這幾年,也讓下游應用場景百花齊放,這其中,AI與國產電動汽車全面崛起,讓AI駕駛,也就是自動駕駛技術成為資本寵兒。
針對自動駕駛領域的云端算力芯片機遇,祝俊東認為,受自動駕駛技術的快速發展驅動,大算力AI芯片正在汽車領域迎來廣闊的機遇和前景。通過高效的計算和深度學習算法,大算力AI芯片可以提供更精準和可靠的駕駛決策,提升行車安全性和駕駛體驗。而在云和端的結合中,最大的難點在于自動駕駛技術對實時性和低延遲要求非常高,將算力分布在云端和邊緣端之間會面臨數據傳輸和處理的挑戰。大量的傳感器數據和圖像到云端進行處理可能會導致較高的網絡延遲和消耗大量的帶寬。
他認為,異構芯片可以將AI算力和邏輯算力集成在一起,在不同的計算場景中發揮不同的效用。這種集成能夠提供更高的計算性能和效率,滿足自動駕駛技術對算力的需求。同時,異構集成高帶寬、低延時的互聯特性,也能有效幫助自動駕駛進行云與端的交互,有效提升自動駕駛系統的性能和效率。
跳出應用,回頭看云端算力芯片本身。GPU或GPGPU是云端算力算力芯片或AI芯片的主流形態。不過也有人認為目前的AI芯片是過渡形態,未來所有AI芯片還會向ASIC方向靠攏。這對這一觀點,摩爾線程專家認為,目前AI算法還在快速迭代和變化,在這個過程沒有放緩或停止之前,GPU仍具有特別強的優勢。對于云端算力芯片未來的看法,摩爾線程專家認為,云端基礎設施需要具備對未來技術的兼容性,GPU仍是首選。未來的變化,在摩爾線程看來主要包括幾個方面:工藝制程向前推進,算力、帶寬不斷上升;通過chiplet方案,進一步提高芯片級別的計算密度和系統集成度3、云端AI芯片將不斷融合新算法所需的功能和加速模塊。
祝俊東認為,在AI芯片領域,作為通用芯片和專用芯片的代表,GPU和ASIC各有優勢。但是專用芯片與通用芯片永遠都不是互相替代的關系,二者必須協同工作才能發揮出最大的價值。通過異構計算架構,可以把如GPU為代表的通用芯片與ASIC等專用芯片集合起來,兼顧通用性和專用性的雙重優勢,提供更全面和高效的解決方案。異構計算也有助于客戶根據AI任務的實際需求,調整通用芯片和專用芯片的比重,以滿足不斷變化的AI應用領域的需求。
寫在最后
總的來說,云端算力芯片為AI時代的創新和應用注入了無限活力,它已經成為當之無愧的“AI石油”。面臨挑戰與機遇,云端算力芯片未來還會不斷突破創新,驅動著智能化世界的前行。
在追逐智能化的道路上,云端算力芯片扮演著不可或缺的角色。以其強大的計算能力和無限的潛力,它推動著科技的創新和進步。隨著技術的不斷發展,我們有理由相信云端算力芯片將繼續引領人工智能的未來,為我們帶來更加智能、高效的世界。
最后感謝摩爾線程、奇異摩爾以及英偉達三位專家接受采訪。
-
芯片
+關注
關注
456文章
50891瀏覽量
424304 -
AI
+關注
關注
87文章
30998瀏覽量
269329 -
智能化
+關注
關注
15文章
4897瀏覽量
55457
原文標題:云端算力芯片為什么是科技石油?
文章出處:【微信號:阿寶1990,微信公眾號:阿寶1990】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論