在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

云端算力芯片為什么是科技石油?

jf_C6sANWk1 ? 來源:阿寶1990 ? 2023-07-12 10:21 ? 次閱讀

在追逐智能化的道路上,云端算力芯片扮演著不可或缺的角色。其強大的計算能力和無限的潛力,推動著科技的創新和進步。隨著技術的不斷發展,我們有理由相信云端算力芯片將繼續引領人工智能的未來,為我們帶來更加智能、高效的世界。

自人類開采第一口油井開始,石油就深深融入進了人類生活的方方面面。小到鍋碗瓢盆芯片,大到飛機火箭航母,沒有哪個環節離得開石油的參與。如果說石油是工業的血液,電力與網絡信息時代社會的骨架,那么算力就是AI時代構建萬物的基礎。

21世紀前后,人類逐漸從工業時代步入信息時代,當下AI時代的大門又再度緩緩開啟。2023年以來,以ChatGPT為首的生成式AI逐漸滲透到了各行各業中,有人說,這或許又是一個IPhone時刻。AI起舞,算力搭臺,算力,或者說是算力芯片就是AI時代的石油、電力與網絡。

算力從哪來?如何理解算力?國產云端算力芯片如今怎么樣了。今天,與非網邀請到了多位企業專家,共同探討AI時代下云端算力芯片發展的挑戰和機遇。

AI時代,算力有多重要

算力,其本質就是計算能力,它可以反映芯片對信息數據的收集、處理與輸出能力。計算本質上是一種抽象概念,加減乘數是計算,三角運算是計算,積分與微分也是計算。在如今的計算機時代,每一種復雜的計算都可以拆分成多個簡單的計算,現在通常用每秒鐘計算的浮點運算次數作為評價算力的指標。每秒計算1次就是1FLOPS。不過算力這個概念并不是芯片獨有的,我們人類的大腦也無時無刻不在進行著計算,從買菜購物到數學考試,從雞兔同籠到多元微分,計算貫穿了人類的一生。

放眼人類的發展歷史,人類對于計算的渴求就一直在進步。石器時代人類就開始結繩計數,后來各類算籌、算盤等輔助計算技術誕生,讓人類擁有了更大規模的計算能力。如果這時算力能被計算出具體數值,那一根系滿繩結的繩子的算力會低于1FLOPS。

1946年,世界上第一臺計算機“埃尼阿克(ENIAC)”出現,讓人類的計算能進一步提升,計算速度也進一步提升,其計算速度達到到了300FLOPS,也就是每秒鐘可以進行300次浮點運算,遠超當時任何人類與機械計算器的計算速度。

緊接著人類便進入到了集成電路大發展時代。1978年,英特爾推出了跨時代的8086芯片,它包含29000個晶體管,主頻達到4.77MHz,其算力也達到了700000 FLOPS以上。此后,集成電路產業飛速發展,至今已經形成英特爾、AMD英偉達三家爭霸,還有TI、ST、瑞薩MCU大廠緊隨其后,不同廠商不同種類的芯片用途五花八門,但其證明芯片性能的關鍵參數仍是“算力”。

不過,算力一詞用到頻率最高的領域仍舊是GPU。GPU起初是用來專門處理圖像的硬件,相比CPU,GPU具有更多計算核心,也更擅長進行并行計算。如今世界上單芯片算力頂峰是英偉達的Thor芯片,其算力已經達到200TOPS。TOPS即tera operations per second,1TOPS代表該芯片可以每秒計算1×1012 次運算。

AI時代,算力已經不僅是一項描述芯片計算能力的參數,它更像是一種資源,和石油與電力一樣,成為信息時代不可或缺的重要一環。而算力之所以如此重要,在于它對于AI來說的必要性。

AI模型,本質上是算力與算法的結合。模型的“大”與“小”,其實就是算法規模量的區別,模型輸出的精度也與訓練AI的數據量呈正相關,然而計算機處理越大的數據量,它所需要的算力也呈指數上升。其原因是因為AI算法可以理解為超大規模的矩陣運算,矩陣的維度就是數據特征數量,也就是數據的參數量。矩陣維度越多,參數越多,模型越復雜,它輸出的數據準確度越高,但所需求的算力也就越大。AI時代,算力已經不僅是一項描述芯片計算能力的參數,它更像是一種資源,和石油與電力一樣,成為信息時代不可或缺的重要一環。AI時代,也可以說是算力時代。

算力芯片也可以分為云端與終端兩種。云端算力芯片通常負責訓練和推理兩種場景,可在不要求延時與高網絡帶寬下運行幾乎全流程的AI算法。終端算力芯片通常用于自動駕駛智能家居、智慧城市等AIOT場景中。通常來說,云算力芯片的難度更高,成本也更高,還需要用戶負擔額外的網絡通信費用,那是不是云端就不重要了呢?

如果沒有云計算,企業在需要算力場景的時候就要搭建私有云,也就是自己的服務器。而為了應對更加復雜的應用,支撐更加穩定的計算環境,企業就必須不停的升級采購新設備,例如服務器、存儲、帶寬等,還需要組建完整的運維團隊來保證這些設備的正常運行。綜合計算下來,布置企業自身的算力中心花銷巨大。這對于中小微企業來說更是一筆難以承受的支出。

而云計算可以一勞永逸的解決上述問題,相當于多個企業共享硬件設施,只有當企業需要算力的時候才會購買,并不需要一直持有大量空閑算力。簡單來說,云計算就相當于家庭用電,只有打開電燈,電表才會計數。

總的來說,云端+邊端能夠滿足AI時代下所有應用場景的要求。如今AI大模型不斷涌現,同時滿足訓練與推理,還具有性價比優勢的云算力芯片已經成為AI大亂斗背景下的必爭之地。但在高需求刺激之下,極速涌入云端算力芯片的資本還面臨著更加嚴峻的問題,高門檻。

挑戰與變局

過去,云端算力芯片僅受到部分企業關注。普通人對于它的理解往往僅限于大型服務器,云計算,神威太湖之光等名詞上。2023年以來,ChatGPT的橫空出世讓普通人對AI的了解更進一步。AI大模型爆火后,給全球AI芯片市場帶來了哪些影響?

摩爾線程專家認為,大模型的火熱對芯片市場的影響,最直接的就是對算力基礎設施的需求猛增,GPU作為大模型背后的關鍵算力基礎設施,尤其受到追捧。與此同時,大模型全新的算法方式對傳統的芯片架構提出了挑戰。

那,挑戰是什么呢?

隨著OpenAI的一聲炮響,全世界都被轟開了AI世界的大門。不過大規模計算所需要的高算力芯片挑戰頗多。摩爾線程專家認為挑戰主要來自芯片的通用性、功耗墻與顯存墻上。

奇異摩爾聯合創始人兼產品及解決方案副總裁祝俊東認為,目前云端算力芯片還面對著五大挑戰:架構、系統、場景、互聯以及快速迭代。

記者綜合分析得出:

從架構上來說,運算算力芯片對算力提升的需求與日俱增,但目前傳統SoC提升單芯片面積已經達到瓶頸,摩爾定律極限在時刻限制芯片發展,內存墻的限制也使得傳統架構芯片難以提升,更讓芯片在散熱、功耗等方面處處掣肘。因此需要異構計算架構來尋求芯片新的突破,其中就包括繞開摩爾定律的more than more——異構計算。

從系統角度來看,隨著大模型的廣泛運用,模型參數與規模都呈現指數級增長,因此需要更大規模的整合計算系統來應對大模型訓練和計算的需求。換句話說,盡管芯片算力不斷增長,但仍舊需要軟件端配合才能更好的發揮硬件性能。畢竟兵器是否趁手得看使用者的功力高低。

從應用場景來看,隨著ChatGPT爆火,AICG賽道上涌現了越來越多的玩家,未來AI領域還將出現更多應用場景,這也意味著還會有新賽道出現。因此,作為“AI起舞的舞臺”,運算算力芯片需要具備一定的通用性,也要有能力應對當今乃至未來日益多元化的專用計算場景。

從互聯來看,云端算力芯片需要高帶寬配合傳輸數據。未來大模型大算力應用涌現,云與端之間的快速交互,也將對帶寬和延時提出更高要求。

最后,AICG與算力芯片市場還處于快速變化階段,競爭者不斷入行,藍海可能一夜之間就變成紅海。因此企業必須快速迭代產品,尤其在云端算力芯片上,需要不斷調整產品策略來迎合未來產品的新需求,同時還要縮短TTM乃至量產時間。

總的來說云端算力芯片目前挑戰頗多,無論是從技術角度還是市場角度,國內涌現的諸多AICG與算力芯片玩家都需要更多的突破。更重要的一點是,目前全球算力芯片絕大部分市場都在英偉達手中,國產算力芯片在市場上仍舊處于弱勢。但在新興市場中,有著強力GPU先發優勢的英偉達面對的問題是什么呢?

除了AICG之外,目前自動駕駛技術同樣發展迅速,值得關注,這也激發出了全新的算力芯片需求。自動駕駛中,受限于延時與傳輸,對于雷達與攝像頭信號處理屬于邊或終端計算。但云計算對自動駕駛算法與系統的支持仍舊重要,云與端的結合成為更多汽車廠商的選擇,但新的挑戰也如期而至。英偉達技術專家在自動駕駛上的云端結合的挑戰上指出,云在用于自動駕駛汽車的人工智能軟件的開發中發揮著重要作用。數據被收集、整理、攝取、標記并用于訓練深度神經網絡,從計算角度來看是一項艱巨的任務。這是一個增強人工智能模型的迭代過程。創建模型后,將使用模擬在云中對其進行測試和驗證。

英偉達的專家表示,自動駕駛汽車運行時,不需要連接到云,但這是一個額外的好處,可以從交通、基礎設施和天氣等各種來源獲取信息,以實現安全駕駛操作。但自動駕駛汽車必須完全保持自主性,因此駕駛決策必須在車上做出,而不是在云端做出。連接到云的軟件定義汽車還為汽車制造商提供了新的商業模式和訂閱服務機會,同時為消費者帶來價值。過去,汽車在購買時處于最佳狀態,但隨后就會貶值。對于軟件定義的汽車來說,它處于最基本的銷售水平,隨著時間的推移,通過基于云,也就是云端算力芯片支持下的的軟件更新,它會變得更好、更安全。

在挑戰中育新機,于變局中開新局

AI“躁動”的這幾年,也讓下游應用場景百花齊放,這其中,AI與國產電動汽車全面崛起,讓AI駕駛,也就是自動駕駛技術成為資本寵兒。

針對自動駕駛領域的云端算力芯片機遇,祝俊東認為,受自動駕駛技術的快速發展驅動,大算力AI芯片正在汽車領域迎來廣闊的機遇和前景。通過高效的計算和深度學習算法,大算力AI芯片可以提供更精準和可靠的駕駛決策,提升行車安全性和駕駛體驗。而在云和端的結合中,最大的難點在于自動駕駛技術對實時性和低延遲要求非常高,將算力分布在云端和邊緣端之間會面臨數據傳輸和處理的挑戰。大量的傳感器數據和圖像到云端進行處理可能會導致較高的網絡延遲和消耗大量的帶寬。

他認為,異構芯片可以將AI算力和邏輯算力集成在一起,在不同的計算場景中發揮不同的效用。這種集成能夠提供更高的計算性能和效率,滿足自動駕駛技術對算力的需求。同時,異構集成高帶寬、低延時的互聯特性,也能有效幫助自動駕駛進行云與端的交互,有效提升自動駕駛系統的性能和效率。

跳出應用,回頭看云端算力芯片本身。GPU或GPGPU是云端算力算力芯片或AI芯片的主流形態。不過也有人認為目前的AI芯片是過渡形態,未來所有AI芯片還會向ASIC方向靠攏。這對這一觀點,摩爾線程專家認為,目前AI算法還在快速迭代和變化,在這個過程沒有放緩或停止之前,GPU仍具有特別強的優勢。對于云端算力芯片未來的看法,摩爾線程專家認為,云端基礎設施需要具備對未來技術的兼容性,GPU仍是首選。未來的變化,在摩爾線程看來主要包括幾個方面:工藝制程向前推進,算力、帶寬不斷上升;通過chiplet方案,進一步提高芯片級別的計算密度和系統集成度3、云端AI芯片將不斷融合新算法所需的功能和加速模塊。

祝俊東認為,在AI芯片領域,作為通用芯片和專用芯片的代表,GPU和ASIC各有優勢。但是專用芯片與通用芯片永遠都不是互相替代的關系,二者必須協同工作才能發揮出最大的價值。通過異構計算架構,可以把如GPU為代表的通用芯片與ASIC等專用芯片集合起來,兼顧通用性和專用性的雙重優勢,提供更全面和高效的解決方案。異構計算也有助于客戶根據AI任務的實際需求,調整通用芯片和專用芯片的比重,以滿足不斷變化的AI應用領域的需求。

寫在最后

總的來說,云端算力芯片為AI時代的創新和應用注入了無限活力,它已經成為當之無愧的“AI石油”。面臨挑戰與機遇,云端算力芯片未來還會不斷突破創新,驅動著智能化世界的前行。

在追逐智能化的道路上,云端算力芯片扮演著不可或缺的角色。以其強大的計算能力和無限的潛力,它推動著科技的創新和進步。隨著技術的不斷發展,我們有理由相信云端算力芯片將繼續引領人工智能的未來,為我們帶來更加智能、高效的世界。

最后感謝摩爾線程、奇異摩爾以及英偉達三位專家接受采訪。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    456

    文章

    50891

    瀏覽量

    424304
  • AI
    AI
    +關注

    關注

    87

    文章

    30998

    瀏覽量

    269329
  • 智能化
    +關注

    關注

    15

    文章

    4897

    瀏覽量

    55457

原文標題:云端算力芯片為什么是科技石油?

文章出處:【微信號:阿寶1990,微信公眾號:阿寶1990】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    調度的基礎知識

    編者按 “調度”的概念,這幾年越來越多的被提及。剛聽到這個概念的時候,我腦海里一直拐不過彎。作為底層芯片出身的我,一直認為:是硬件的
    的頭像 發表于 11-27 17:13 ?201次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>調度的基礎知識

    基礎篇:從零開始了解

    即計算能力(Computing Power),狹義上指對數字問題的運算能力,而廣義上指對輸入信息處理后實現結果輸出的一種能力。雖然處理的內容不同,但處理過程的能力都可抽象為。比
    的頭像 發表于 11-15 14:22 ?771次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基礎篇:從零開始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    GPU開發平臺是什么

    隨著AI技術的廣泛應用,需求呈現出爆發式增長。AI租賃作為一種新興的服務模式,正逐漸成為企業獲取
    的頭像 發表于 10-31 10:31 ?195次閱讀

    【「芯片 | 高性能 CPU/GPU/NPU 微架構分析」閱讀體驗】--全書概覽

    本帖最后由 1653149838.791300 于 2024-10-16 22:19 編輯 感謝平臺提供的書籍,厚厚的一本,很有分量,感謝作者的傾力付出成書。 本書主要講芯片CPU
    發表于 10-15 22:08

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構分析

    試用評測資格! 前言 不知不覺中,我們來到一個計算機科學飛速發展的時代,手機和計算機中各類便捷的軟件已經融入日常生活,在此背景下,硬件特別是強勁的芯片,對于軟件服務起到不可替代的支撐作用。
    發表于 09-02 10:09

    大模型時代的需求

    現在AI已進入大模型時代,各企業都爭相部署大模型,但如何保證大模型的,以及相關的穩定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發表于 08-20 09:04

    蘭洋科技與燧原科技深化江蘇地區智合作 共筑基石

    供需正呈現“雙向奔赴”的趨勢。 近日,國內領先的浸沒式液冷解決方案技術服務提供商蘭洋(寧波)科技有限公司(以下簡稱“蘭洋科技”),與專注人工智能領域云端產品的上海燧原科技有限公司(以下簡稱“燧原科技”)
    的頭像 發表于 08-16 10:53 ?290次閱讀

    基礎設施的風險與挑戰

    編者按網絡有一個美好的愿景,就是希望網,能像電力和電網一樣:
    的頭像 發表于 06-13 08:27 ?562次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基礎設施的風險與挑戰

    商湯科技采購40000顆英偉達芯片,縮小中美差距

    徐冰認為,國產芯片崛起以及商品化帶來的投資價值,使中美差距有望逐步縮小。只要中國持續在
    的頭像 發表于 05-28 11:25 ?1292次閱讀

    揭秘芯片:為何它如此關鍵?

    在數字化時代,芯片作為電子設備的核心組件,其性能直接關系到設備的運行速度和處理能力。而芯片,即其計算能力,更是衡量芯片性能的重要指標。
    的頭像 發表于 05-09 08:27 ?1127次閱讀
    揭秘<b class='flag-5'>芯片</b><b class='flag-5'>算</b><b class='flag-5'>力</b>:為何它如此關鍵?

    力系列基礎篇——101:從零開始了解

    相信大家已經感受到,我們正處在一個人工智能時代。如果要問在人工智能時代最重要的是什么?那必須是:
    的頭像 發表于 04-24 08:05 ?1002次閱讀
    <b class='flag-5'>算</b>力系列基礎篇——<b class='flag-5'>算</b><b class='flag-5'>力</b>101:從零開始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    芯片:未來科技的加速器?

    在數字化時代,芯片作為電子設備的核心組件,其性能直接關系到設備的運行速度和處理能力。而芯片,即其計算能力,更是衡量芯片性能的重要指標。
    的頭像 發表于 02-27 09:42 ?948次閱讀
    高<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>:未來科技的加速器?

    智能規模超通用,大模型對智能提出高要求

    電子發燒友網報道(文/李彎彎)是設備通過處理數據,實現特定結果輸出的計算能力,常用FLOPS作為計量單位。FLOPS是Floating-point Operations Per Second
    的頭像 發表于 02-06 00:08 ?6389次閱讀

    大茉莉X16-P,5800M大稱王稱霸

    Rykj365
    發布于 :2024年01月25日 14:54:52

    ChatGPT芯片如何做輸出

    卡的核心當然還是計算芯片,會搭配大容量高帶寬的內存、緩存,以及搭載CPU用于調度,為了幫助數據傳輸,便會使用高速通道,這便是PCIe(高速串行計算機擴展總線標準)在系統中的作用:提供總線通道。
    發表于 01-11 10:01 ?511次閱讀
    ChatGPT<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>如何做<b class='flag-5'>算</b><b class='flag-5'>力</b>輸出
    主站蜘蛛池模板: 97一区二区三区| 日本黄色美女视频| 好紧好爽水真多18| 二区视频在线| 亚洲最大成人综合网| 最新中文字幕在线资源| 亚洲五月婷| 四虎国产精品永久在线网址| 天天看天天摸天天操| 色视频大全| 农村妇女色又黄一级毛片卡| 久草热线视频| www.夜色| 日日干天天操| 1000部禁片黄的免费看| 苍井优一级毛片免费观看| 日本欧美一区二区三区不卡视频| aaa网站| 天堂网www中文在线资源| 日本黄色生活片| 狠狠色丁香婷婷综合小时婷婷 | 人人澡人人人人夜夜爽| 中文字幕天天躁夜夜狠狠综合| 性欧美乱又伦| 免费一级大毛片a一观看不卡| 国产精品亚洲一区二区三区在线播放| 亚洲欲色| 成人黄色网址| 乱轮黄色小说| 色天使色婷婷在线影院亚洲| 久久久久久久国产精品电影| 最近免费| a视频免费看| 99亚洲精品卡2卡三卡4卡2卡| 色多多视频在线| 国产精品伦理久久久久| 视频在线精品| 污色网站| 日本三级三级三级免费看| 成人特黄午夜性a一级毛片| 毛片在线不卡|