在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
电子发烧友
开通电子发烧友VIP会员 尊享10大特权
海量资料免费下载
精品直播免费看
优质内容免费畅学
课程9折专享价
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

為了供應(yīng),英偉達將GPU裝換為AI引擎

芯片半導(dǎo)體 ? 來源:半導(dǎo)體行業(yè)觀察 ? 2023-08-10 14:39 ? 次閱讀

據(jù)金融時報報道,中國的互聯(lián)網(wǎng)巨頭正爭相采購對構(gòu)建生成人工智能系統(tǒng)至關(guān)重要的高性能英偉達芯片,由于擔心美國將實施新的出口管制,中國的互聯(lián)網(wǎng)巨頭們紛紛購買了價值 50 億美元的訂單。

據(jù)多位知情人士透露,百度、字節(jié)跳動、騰訊和阿里巴巴已下達價值 10 億美元的訂單,從這家美國芯片制造商采購約 10 萬顆 A800 處理器,并將于今年交付。兩位接近 Nvidia 的人士表示,中國集團還購買了價值 40 億美元的圖形處理器,將于 2024 年交付。

領(lǐng)先的云 GPU 提供商表示,Nvidia 最好的 AI 芯片在 2024 年之前的產(chǎn)能已經(jīng)售罄。

Nvidia的產(chǎn)品現(xiàn)已成為科技行業(yè)最寶貴的資源。企業(yè)和初創(chuàng)企業(yè)正在瘋狂地將預(yù)算重點轉(zhuǎn)向新的人工智能項目,并迫切需要 GPU。亞馬遜網(wǎng)絡(luò)服務(wù)首席執(zhí)行官 Adam Selipsky在本周接受 The Verge 采訪時表示:“[Nvidia GPU] 供不應(yīng)求”。

“我認為,至少在短期內(nèi),英偉達需求超過供應(yīng),這一點毫無爭議,對每個人來說都是如此。”Adam Selipsky補充說。

Adam Selipsky進一步指出,生成式人工智能并不便宜。目前它的價格非常昂貴。GPU 的性能非常好,但也相當昂貴。例如,訓練模型的成本非常昂貴。然后,運行推理或運行模型并在生產(chǎn)中對這些模型進行查詢也非常昂貴。因此為了經(jīng)濟地完成這些任務(wù),您需要云。絕大多數(shù)公司都需要像 AWS 這樣的公司進行創(chuàng)新,隨著時間的推移大幅降低成本,以推動我們不可避免地希望看到生成式 AI 使用量的指數(shù)級增長。

CoreWeave 聯(lián)合創(chuàng)始人兼首席技術(shù)官 Brian Venturo在接受Barron's Tech的采訪時也表示,今年第一季度,確保供應(yīng)鏈中的 [GPU] 分配和產(chǎn)能仍然相當容易。從四月初開始,市場變得異常緊張。交貨時間從合理到年底。[這一轉(zhuǎn)變]發(fā)生在一周內(nèi)。不僅僅是云服務(wù)提供商,他們已經(jīng)有了自己的分配。這都是增量需求。它來自大型企業(yè)和人工智能實驗室。

他表示,任何對物流和資源規(guī)劃進行合理規(guī)劃的人現(xiàn)在都在關(guān)注 2024 年第一季度至 2024 年第二季度。而CoreWeave也將開始為明年第二季度和第三季度的部署進行采購。

在問到為何大家都在搶購英偉達GPU時,Brian Venturo指出,英偉達的護城河是雙重的。

首先是硬件方面。沒有人比英偉達更擅長制造芯片。其次是軟件。上市時間對于初創(chuàng)企業(yè)來說非常重要。如果您需要重組整個技術(shù)堆棧以使用 AMD 或 TPU [來自 Google 的張量處理單元],那么您可能會失去市場機會,這是寶貴的時間。

Nvidia 在 CUDA(軟件編程平臺)生態(tài)系統(tǒng)上進行了大量投資,他們的先見之明令人難以置信。他們現(xiàn)在基本上領(lǐng)先其他人10年。這不僅僅是 Nvidia 的 10 年,而是他們的客戶和開發(fā)人員在該生態(tài)系統(tǒng)(使用軟件工具和庫)上構(gòu)建的 10 年,利用了其他人之前的工作。我認為在短期甚至中期內(nèi)沒有其他人能夠超越 Nvidia。

使用 Google 的 TPU 和 AWS Trainium 加速器的問題被鎖定在具有非常具體的技術(shù)解決方案的供應(yīng)商身上。對于初創(chuàng)企業(yè)來說,這可能不是最好的選擇。您希望供應(yīng)商具有靈活性,因為您知道可以在多個地方獲得相同的東西。

[Nvidia 的專有網(wǎng)絡(luò)] InfiniBand 還提供了當今最好的解決方案來最大限度地減少延遲。其他產(chǎn)品不具備擁塞控制和使工作負載發(fā)揮最佳性能的功能。

為了供應(yīng),英偉達將GPU裝換為AI引擎

為了緩解GPU 擠壓的壓力,Nvidia 的 RTX GPU(主要以游戲和圖形聞名)正在為對桌面 AI 感興趣的愛好者進行配置和重新包裝。新的 GPU 是 Nvidia 使 GPU 在客戶需要時隨時隨地可用的方法的一部分。

該公司發(fā)布了 RTX GPU,可用于人工智能推理和訓練。GPU基于Ada Lovelace架構(gòu),與供不應(yīng)求的紅熱H100 GPU中使用的Hopper架構(gòu)不同。

愛好者已經(jīng)在游戲筆記本電腦上使用 GPU 來運行人工智能驅(qū)動的應(yīng)用程序,例如文本到文本或文本到圖像模型。在本周的 SIGGRAPH 會議上,Nvidia 宣布了采用 RTX GPU 的新桌面和工作站設(shè)計。

包括戴爾、聯(lián)想和 Boxx 在內(nèi)的計算機制造商將推出可在機箱中容納多達四個 RTX 6000 數(shù)據(jù)生成的工作站。Nvidia 表示,該 GPU 的建議零售價為 6,000 美元,但戴爾等供應(yīng)商的售價(含稅)超過 9,000 美元。

每個 RTX 6000 GPU 均基于 Ada Lovelace 設(shè)計,擁有 48GB GDDR6 內(nèi)存和 200Gbps 網(wǎng)絡(luò)接口卡。GPU 的功耗為 300 瓦,基于較舊的 PCIe 4.0 互連標準。

Nvidia還發(fā)布了L40S Ada GPU,它更像是H100的窮人版本,因為它在AI訓練和推理方面比上一代A100 GPU更快。新產(chǎn)品是一年前發(fā)布的L40服務(wù)器GPU的變體。

L40S 還具有 48GB GDDR6 內(nèi)存,并將應(yīng)用于基于 OVX 參考服務(wù)器設(shè)計的系統(tǒng)中,用于 Metaverse 應(yīng)用程序。

與基于上一代 Ampere 架構(gòu)的上一代 A40 GPU 相比,L40S 的 AI 和圖形工作負載速度提高了四倍。AI訓練速度比A100 GPU快1.7倍,推理速度快1.5倍。L40S 具有更快的時鐘速度和更高的張量和圖形渲染性能。

Nvidia 的企業(yè) RTX 系統(tǒng)是為 Metaverse 和 AI 市場打造的,新硬件將包括 Omniverse 和 AI Enterprise 軟件的許可證。該公司還發(fā)布了 AI Enterprise 4.0,其中將包括 Nemo 大語言模型。

購買將于今年晚些時候發(fā)貨的 L40S GPU 電源應(yīng)該不會有什么困難。

Nvidia 專業(yè)可視化副總裁 Bob Pette 在新聞發(fā)布會上表示:“這些不會像我們在一些最高端 GPU 中那樣受到限制。”

Nvidia 的低端 RTX 4000 GPU 將于 9 月上市,售價為 1,250 美元。RTX 4500 將于 10 月開始發(fā)售,售價為 2,250 美元。

對于 Nvidia 來說,人工智能與游戲一樣重要。該公司希望讓 GPU 成為一種商品,愛好者可以在上面創(chuàng)建自己的程序,然后在最接近的 GPU 可用的地方運行。Nvidia 的 H100 GPU 很難找到,但已成為公司的資產(chǎn)。一家名為 CoreWeave 的初創(chuàng)公司已將其 Nvidia GPU 作為抵押品,為其發(fā)展提供資金。加密貨幣礦工也在重新利用數(shù)據(jù)中心的 GPU 來運行人工智能。





審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1797

    文章

    47909

    瀏覽量

    240955
  • 英偉達
    +關(guān)注

    關(guān)注

    22

    文章

    3859

    瀏覽量

    92186
  • PCIe接口
    +關(guān)注

    關(guān)注

    0

    文章

    121

    瀏覽量

    9809
  • GPU芯片
    +關(guān)注

    關(guān)注

    1

    文章

    303

    瀏覽量

    5917
  • GDDR6
    +關(guān)注

    關(guān)注

    0

    文章

    52

    瀏覽量

    11342

原文標題:傳中國廠商掃貨英偉達GPU,豪擲50億買芯片,訂單已經(jīng)排到2024年

文章出處:【微信號:TenOne_TSMC,微信公眾號:芯片半導(dǎo)體】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 0人收藏

    評論

    相關(guān)推薦

    AI大模型不再依賴英偉GPU?蘋果揭秘自研大模型

    ? 電子發(fā)燒友網(wǎng)報道(文/梁浩斌)過去幾年中爆發(fā)的AI算力需求,英偉GPU成為了最大的贏家,無論是自動駕駛還是AI大模型,比如特斯拉、小鵬
    的頭像 發(fā)表于 08-05 06:07 ?4148次閱讀
    <b class='flag-5'>AI</b>大模型不再依賴<b class='flag-5'>英偉</b><b class='flag-5'>達</b><b class='flag-5'>GPU</b>?蘋果揭秘自研大模型

    英偉或明年革新AI GPU設(shè)計,采用插槽設(shè)計

    10月11日最新消息,集邦咨詢Trendforce于今日(10月11日)發(fā)表博文透露,英偉預(yù)計在今年第四季度推出GB200后,正考慮在其下一代AI GPU產(chǎn)品中采納獨立
    的頭像 發(fā)表于 10-11 17:05 ?544次閱讀

    Inflection AI轉(zhuǎn)向英特爾Gaudi 3,放棄英偉GPU

    近日,人工智能技術(shù)公司Inflection AI宣布了一項重要決策,其最新的企業(yè)平臺放棄采用英偉(Nvidia)的GPU,轉(zhuǎn)而選擇英特爾
    的頭像 發(fā)表于 10-10 17:21 ?544次閱讀

    英偉AI服務(wù)器革新采用插槽式設(shè)計

    英偉AI服務(wù)器領(lǐng)域即將迎來重大變革。據(jù)里昂證券最新發(fā)布的報告預(yù)測,從明年下半年起,英偉的旗艦級AI
    的頭像 發(fā)表于 09-27 11:47 ?448次閱讀

    英偉全面轉(zhuǎn)向開源GPU內(nèi)核模塊

    英偉公司近期宣布了一項重大決策,即全面轉(zhuǎn)向開源GPU內(nèi)核模塊,并計劃最終以此取代閉源驅(qū)動程序。這一戰(zhàn)略轉(zhuǎn)變標志著英偉在開源領(lǐng)域邁出了重要
    的頭像 發(fā)表于 07-19 15:26 ?635次閱讀

    歐盟警告英偉AI芯片供應(yīng)壟斷趨勢

    歐盟競爭事務(wù)專員瑪格麗特·維斯塔格近日在新加坡之行中發(fā)出警告,指出英偉公司在人工智能(AI)芯片供應(yīng)方面存在壟斷趨勢,這一表態(tài)立即引起了業(yè)界和市場的廣泛關(guān)注。維斯塔格明確表示,雖然監(jiān)
    的頭像 發(fā)表于 07-08 11:52 ?494次閱讀

    英偉GPU新品規(guī)劃與HBM市場展望

    在COMPUTEX 2024主題演講中,英偉(NVIDIA)公布了其GPU產(chǎn)品的未來規(guī)劃。據(jù)英偉透露,B100、B200和GB200系列
    的頭像 發(fā)表于 06-13 09:44 ?927次閱讀

    英偉推出融合Arm與Blackwell內(nèi)核的AI PC芯片

    近日,業(yè)內(nèi)傳出英偉正在研發(fā)一款全新芯片的傳聞。據(jù)悉,這款芯片結(jié)合下一代Arm Cortex CPU內(nèi)核與英偉自家的Blackwell
    的頭像 發(fā)表于 05-31 10:31 ?672次閱讀

    英偉首席執(zhí)行官黃仁勛:AI模型推動英偉AI芯片需求

    近來,以ChatGPT為代表的AI聊天機器人已經(jīng)導(dǎo)致英偉AI芯片供應(yīng)緊張。然而,隨著能夠創(chuàng)造視頻并進行近似人類交流的新型
    的頭像 發(fā)表于 05-24 10:04 ?584次閱讀

    CoWoS先進封裝產(chǎn)能吃緊,英偉GPU供應(yīng)依舊受限

    英偉占據(jù)全球AI GPU市場約80%的份額,根據(jù)集邦咨詢預(yù)測,到2024年,臺積電CoWoS月產(chǎn)能有望增至4萬片,并在明年底實現(xiàn)翻番。然而,隨著
    的頭像 發(fā)表于 05-20 11:58 ?584次閱讀

    進一步解讀英偉 Blackwell 架構(gòu)、NVlink及GB200 超級芯片

    2024年3月19日,[英偉]CEO[黃仁勛]在GTC大會上公布了新一代AI芯片架構(gòu)BLACKWELL,并推出基于該架構(gòu)的超級芯片GB200,助推數(shù)據(jù)處理、工程模擬、電子設(shè)計自動化
    發(fā)表于 05-13 17:16

    英偉、AMD、英特爾GPU產(chǎn)品及優(yōu)勢匯總

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)隨著人工智能技術(shù)的快速發(fā)展,GPU的市場規(guī)模在全球范圍內(nèi)持續(xù)提升。目前,GPU市場主要由英偉、AMD和英特爾等幾家大公司主導(dǎo)。其中,
    的頭像 發(fā)表于 05-10 00:59 ?5809次閱讀

    國內(nèi)GPU新勢力:能否成為英偉的“終結(jié)者”?

    ,隨著中國國內(nèi)科技企業(yè)的快速發(fā)展和技術(shù)創(chuàng)新,一個問題自然而然地浮現(xiàn)出來:中國國內(nèi)的GPUAI供應(yīng)商是否有望追趕上英偉
    的頭像 發(fā)表于 04-24 11:07 ?572次閱讀
    國內(nèi)<b class='flag-5'>GPU</b>新勢力:能否成為<b class='flag-5'>英偉</b><b class='flag-5'>達</b>的“終結(jié)者”?

    英偉發(fā)布新一代AI芯片架構(gòu)Blackwell GPU

    近日,英偉首席執(zhí)行官黃仁勛在GTC 2024會議上發(fā)表主題演講,重磅推出全新AI芯片架構(gòu)Blackwell GPU。這一創(chuàng)新技術(shù)的首款芯片產(chǎn)品命名為GB200,標志著
    的頭像 發(fā)表于 03-26 11:19 ?958次閱讀

    英偉華為認定為“最大競爭對手”的原因

    英偉指出,華為在供應(yīng)圖形處理器(GPU)、中央處理器(CPU)等用于AI的芯片領(lǐng)域,都可與業(yè)界競爭。
    的頭像 發(fā)表于 02-27 11:11 ?1099次閱讀
    主站蜘蛛池模板: 手机看片福利盒子久久青 | 日日干天天爽 | 黄色网址大全免费 | 午夜激情小视频 | 国产女人小便视频 | 女女同免费播放毛片 | 高清不卡免费一区二区三区 | brazzers720欧美丰满| h视频在线观看视频观看 | 日本加勒比在线视频 | 一级片a | 99精品在线| 国产剧情麻豆三级在线观看 | 国产成人小视频 | 亚洲日本中文字幕天天更新 | sihu影院永久在线影院 | 精品噜噜噜噜久久久久久久久 | 天天综合在线观看 | 色多多入口 | 人人射人人草 | 狠狠干狠狠干 | 丁香网五月网 | 天天添天天操 | 国产小视频在线免费观看 | 欧美天堂视频 | 日本免费黄色网 | 夜夜精品视频 | 成人欧美一区二区三区黑人免费 | 国产三a级日本三级日产三级 | 欧美在线高清视频 | 丰满放荡岳乱妇91www | 国产美女视频黄a视频免费全过程 | 熟妇毛片 | 免费观看四虎精品成人 | 激情五月综合婷婷 | 亚洲天堂电影在线观看 | 色域综合 | 免费人成网址在线观看国内 | 在线播放免费 | 37pao强力打造免费高速高清 | 九九国产精品视频 |

    電子發(fā)燒友

    中國電子工程師最喜歡的網(wǎng)站

    • 2931785位工程師會員交流學習
    • 獲取您個性化的科技前沿技術(shù)信息
    • 參加活動獲取豐厚的禮品