在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

基于英特爾至強(qiáng)可擴(kuò)展處理器的浪潮信息服務(wù)器AI訓(xùn)推一體化方案

英特爾中國(guó) ? 來源:英特爾中國(guó) ? 2024-05-11 09:27 ? 次閱讀

概 述

大模型已經(jīng)成為新一輪數(shù)字化轉(zhuǎn)型的重要驅(qū)動(dòng)力,為了降低對(duì)算力與語料資源的要求,加快大模型在實(shí)際應(yīng)用的部署,目前企業(yè)普遍在開源/商用大模型中,加入少量語料對(duì)模型進(jìn)行預(yù)訓(xùn)練,以構(gòu)建面向具體場(chǎng)景的微調(diào)版大模型,并在實(shí)際業(yè)務(wù)中進(jìn)行模型推理,這種方式在經(jīng)濟(jì)性與靈活性方面通常更具優(yōu)勢(shì)。對(duì)于輕量級(jí)的人工智能 (AI) 場(chǎng)景而言,找到一個(gè)既經(jīng)濟(jì)又靈活的AI微調(diào)和推理解決方案顯得尤為重要。

浪潮信息英特爾緊密合作,結(jié)合在硬件和軟件開發(fā)方面的技術(shù)優(yōu)勢(shì),推出了基于英特爾至強(qiáng)可擴(kuò)展處理器的浪潮信息服務(wù)器AI訓(xùn)推一體化方案。該AI訓(xùn)推一體化方案支持計(jì)算機(jī)視覺模型的推理工作,同時(shí)還支持大語言模型 (LLM) 的微調(diào)和推理工作,并可以用于支持其他通用業(yè)務(wù)。這一方案具備高性能、高性價(jià)比、高靈活性等優(yōu)勢(shì),可以充分滿足用戶構(gòu)建輕量級(jí)AI微調(diào)與推理系統(tǒng)的需求。

挑戰(zhàn)

在AI模型尤其是大模型微調(diào)及推理過程中,用戶普遍面臨著以下性能挑戰(zhàn):

如何滿足AI微調(diào)及推理對(duì)于算力的要求

在AI模型微調(diào)和推理過程中,特別是在大語言模型微調(diào)中,對(duì)算力的需求尤其突出。這既包括硬件提供的算力支持,也包括向量化指令集和矩陣計(jì)算指令集的支持。

如何滿足模型微調(diào)對(duì)于內(nèi)存規(guī)模的需求

在模型訓(xùn)練和微調(diào)中,需要存儲(chǔ)中間激活值、梯度信息,以及用于優(yōu)化器(如Adam、AdamW等)參數(shù)更新的信息,這就需要龐大的內(nèi)存作為支撐。模型微調(diào)實(shí)踐表明,Batch size設(shè)定不能太小(通常需要大于16),避免Batch size過小造成不穩(wěn)定的優(yōu)化器梯度下降。同時(shí),訓(xùn)練過程中會(huì)產(chǎn)生大量的中間激活值,所需的內(nèi)存遠(yuǎn)遠(yuǎn)超過模型本身的大小。但是,傳統(tǒng)訓(xùn)練方案(雙路服務(wù)器,一機(jī)兩卡/一機(jī)四卡/一機(jī)八卡)由于顯存數(shù)量有限,難以滿足模型微調(diào)的顯存需求。

如何提供充足的內(nèi)存帶寬

AI推理任務(wù)對(duì)內(nèi)存帶寬有著高度需求,因此,AI訓(xùn)推服務(wù)器需要提供足夠大的內(nèi)存帶寬與內(nèi)存訪問速度,傳統(tǒng)的雙路服務(wù)器在內(nèi)存帶寬與訪問速度方面難以支撐模型的高效推理。

如何實(shí)現(xiàn)便捷擴(kuò)展

為了提升服務(wù)器的算力、內(nèi)存規(guī)模和帶寬,模型訓(xùn)練和推理通常需要將多個(gè) CPU socket高效鏈接起來。而采用以太網(wǎng)作為連接方式將面臨速度慢、不穩(wěn)定、多顆CPU socket的擴(kuò)展性能差等問題。 除了性能挑戰(zhàn)之外,用戶還希望能夠盡可能地降低模型微調(diào)、推理平臺(tái)的構(gòu)建與運(yùn)營(yíng)成本,提升平臺(tái)的靈活性,從而進(jìn)一步推動(dòng)AI任務(wù)的普及和發(fā)展。

基于英特至強(qiáng)可擴(kuò)展處理器的浪潮信息服務(wù)器AI訓(xùn)推一體化方案

浪潮信息服務(wù)器AI訓(xùn)推一體化方案的硬件基礎(chǔ)是基于第四代英特爾至強(qiáng)可擴(kuò)展處理器的浪潮信息四路服務(wù)器。該服務(wù)器能夠充分發(fā)揮第四代英特爾至強(qiáng)可擴(kuò)展處理器強(qiáng)大的計(jì)算性能,并借助英特爾高級(jí)矩陣擴(kuò)展(英特爾AMX)和 IntelExtension for PyTorch (IPEX) 進(jìn)一步加速大模型微調(diào)和推理任務(wù),幫助用戶攻克AI應(yīng)用中的各項(xiàng)挑戰(zhàn)。

5f0c915a-0ed6-11ef-a297-92fbcf53809c.png

1. 浪潮信息服務(wù)器AI訓(xùn)推一體化方案架構(gòu)

浪潮信息四路服務(wù)器

為了支持在單臺(tái)浪潮信息四路服務(wù)器上,實(shí)現(xiàn)復(fù)雜的計(jì)算機(jī)視覺模型和大語言模型的微調(diào)及推理任務(wù),浪潮信息服務(wù)器AI訓(xùn)推一體化方案推薦采用英特爾至強(qiáng)金牌處理器或以上的型號(hào)。這不僅可以為高負(fù)荷情況下的任務(wù)提供額外的性能提升,還能支持在多線程處理能力上取得優(yōu)秀表現(xiàn)。 該方案推薦搭配DDR5內(nèi)存。DDR5內(nèi)存提供了比前代更高的帶寬,特別適合處理內(nèi)存密集型的應(yīng)用任務(wù)。當(dāng)處理大規(guī)模數(shù)據(jù)和復(fù)雜的計(jì)算任務(wù)時(shí),DDR5能確保系統(tǒng)運(yùn)行的流暢性。同時(shí),方案建議按照每個(gè)內(nèi)存通道1個(gè)DIMM (1DPC) 的配置,將內(nèi)存擴(kuò)展至2TB以上,以滿足同時(shí)對(duì)高帶寬和高內(nèi)存容量的需求。這一配置不僅可以優(yōu)化系統(tǒng)的運(yùn)行效率,還能在處理大型數(shù)據(jù)集時(shí),提供足夠的內(nèi)存支持,從而確保微調(diào)任務(wù)以及推理任務(wù)的順暢執(zhí)行。

5f25369c-0ed6-11ef-a297-92fbcf53809c.png

2-1. NF8260M7(2U4路)服務(wù)器

5f3eee98-0ed6-11ef-a297-92fbcf53809c.png

2-2. NF8480M7(4U4路)服務(wù)器

四代英特爾至強(qiáng)擴(kuò)展處理器提供強(qiáng)大AI算力支持

第四代英特爾至強(qiáng)可擴(kuò)展處理器通過創(chuàng)新架構(gòu)增加了每個(gè)時(shí)鐘周期的指令,每個(gè)插槽多達(dá)60個(gè)核心,支持8通道DDR5內(nèi)存,有效提升了內(nèi)存帶寬與速度,并通過PCIe 5.0(80個(gè)通道)實(shí)現(xiàn)了更高的PCIe帶寬提升。第四代英特爾至強(qiáng)可擴(kuò)展處理器提供了出色性能和安全性,可根據(jù)用戶的業(yè)務(wù)需求進(jìn)行擴(kuò)展。借助內(nèi)置的加速器,用戶可以在AI、分析、云和微服務(wù)、網(wǎng)絡(luò)、數(shù)據(jù)庫(kù)、存儲(chǔ)等類型的工作負(fù)載中獲得優(yōu)化的性能。通過與強(qiáng)大的生態(tài)系統(tǒng)相結(jié)合,第四代英特爾至強(qiáng)可擴(kuò)展處理器能夠幫助用戶構(gòu)建更加高效、安全的基礎(chǔ)設(shè)施。

第四代英特爾至強(qiáng)可擴(kuò)展處理器內(nèi)置了創(chuàng)新的英特爾AMX加速引擎。英特爾AMX針對(duì)廣泛的硬件和軟件優(yōu)化,通過提供矩陣類型的運(yùn)算,顯著增加了人工智能應(yīng)用程序的每時(shí)鐘指令數(shù) (IPC),可為AI工作負(fù)載中的訓(xùn)練和推理上提供顯著的性能提升。在實(shí)際AI推理負(fù)載中,英特爾AMX能夠加速模型微調(diào)、提升模型的首包推理速度并降低延遲。英特爾AVX-512指令集能夠加速在KV Cache模式下的第二個(gè)及以上的token推理。

5f5d2034-0ed6-11ef-a297-92fbcf53809c.png

3. 英特爾至強(qiáng)可擴(kuò)展處理器為數(shù)據(jù)中心提供多種優(yōu)勢(shì)

英特爾豐富軟件生態(tài)助力加速AI部署,釋放算力潛能

除了在硬件領(lǐng)域取得顯著進(jìn)展之外,英特爾在人工智能領(lǐng)域亦構(gòu)建了一個(gè)強(qiáng)大且全面的軟件生態(tài)系統(tǒng),提供了包含 IntelExtension for PyToch和英特爾oneDNN在內(nèi)的豐富軟件,能夠幫助用戶充分利用英特爾硬件的強(qiáng)大性能,提高計(jì)算效率和運(yùn)行速度。

IntelExtension for PyTorch是一種開源擴(kuò)展,可優(yōu)化英特爾處理器上的深度學(xué)習(xí)性能。許多優(yōu)化最終將包含在未來的PyTorch主線版本中,但該擴(kuò)展允許PyTorch用戶更快地獲得最新功能和優(yōu)化。IntelExtension for Pytorch充分利用了英特爾AVX- 512、矢量神經(jīng)網(wǎng)絡(luò)指令 (VNNI) 和英特爾AMX,將最新的性能優(yōu)化應(yīng)用于英特爾硬件平臺(tái)。這些優(yōu)化既包括對(duì)PyTorch操作符、Graph和Runtime的改進(jìn),也包括特定于使用場(chǎng)景的自定義操作符和優(yōu)化器的添加。用戶可以通過簡(jiǎn)易的Python API,只需對(duì)原始代碼做出微小更改即可在英特爾硬件平臺(tái)應(yīng)用最新性能優(yōu)化。

英特爾oneAPI Deep Neural Network Library (oneDNN) 是英特爾在軟件優(yōu)化領(lǐng)域的又一亮點(diǎn)。英特爾oneDNN是一個(gè)開源性能庫(kù),專為深度學(xué)習(xí)應(yīng)用設(shè)計(jì),支持廣泛的深度學(xué)習(xí)框架和應(yīng)用。該庫(kù)提供了高級(jí)性能優(yōu)化的深度學(xué)習(xí)原語,專門優(yōu)化了用于英特爾架構(gòu)的深度學(xué)習(xí)操作,包括英特爾至強(qiáng)處理器和 英特爾集成顯卡。通過oneDNN,開發(fā)者可以輕松地在英特爾硬件上實(shí)現(xiàn)高效的深度學(xué)習(xí)模型推理和訓(xùn)練,而無需深入了解底層硬件細(xì)節(jié)。英特爾oneDNN已經(jīng)被融合到多個(gè)開源平臺(tái)中,包括PyTorch和TensorFlow等。

5f7e25d6-0ed6-11ef-a297-92fbcf53809c.png
4. IntelExtension for PyTorch框架 5e89d86e-0ed6-11ef-a297-92fbcf53809c.gif

測(cè) 試 驗(yàn) 證

在上述軟硬件基礎(chǔ)上,浪潮信息與英特爾合作,從多個(gè)方面入手,優(yōu)化了AI模型微調(diào)及推理性能。

采用英特爾AMX加速器和IntelExtension for PyTorch加速模型微調(diào)

得益于對(duì)IntelExtension for PyTorch的支持,以及強(qiáng)大的運(yùn)算能力和超大內(nèi)存,浪潮信息四路服務(wù)器在微調(diào)方面表現(xiàn)出強(qiáng)大的性能。浪潮信息四路服務(wù)器采用分布式數(shù)據(jù)并行 + LoRA (Low-Rank Adaptation) 微調(diào)以減少通信開銷,其具備的大內(nèi)存有利于支持更大的batch size,從而提高訓(xùn)練的收斂效果,改善模型質(zhì)量。目前,單臺(tái)浪潮信息四路服務(wù)器能夠支持高達(dá)30B模型的微調(diào)。

模型微調(diào)的測(cè)試數(shù)據(jù)如圖5顯示,當(dāng)采用alpaca數(shù)據(jù)集(6.5M tokens,數(shù)據(jù)集大小24.2MB)時(shí),單臺(tái)四路服務(wù)器可以在72分鐘的時(shí)間內(nèi)完成Llama-2-7B微調(diào) (batch size = 16);可以在362分鐘的時(shí)間內(nèi)完成Llama-30B模型的微調(diào) (batch size = 16),穩(wěn)定支持非梯度累積模式下高達(dá)64的batch size1。

5fb896c6-0ed6-11ef-a297-92fbcf53809c.png

5. Llama-2-7B/13B/30B模型的微調(diào)時(shí)間

采用英特爾AMX加速器和張量并行加速大語言模型推理

浪潮信息四路服務(wù)器采用了英特爾UPI全拓?fù)溥B接方式, 張量并行推理方案下等同于有效地?cái)U(kuò)展了內(nèi)存帶寬。這一優(yōu)勢(shì)與英特爾AMX加速器一起,使得服務(wù)器最終在推理7/13B參數(shù)級(jí)別的模型時(shí)表現(xiàn)出高度的可擴(kuò)展性。

測(cè)試數(shù)據(jù)如圖6-1和圖6-2所示,在7B和13B規(guī)模的模型中,模型推理的延遲可以低至20毫秒左右2,能夠滿足實(shí)際業(yè)務(wù)對(duì)于推理性能的要求。

5fcf0848-0ed6-11ef-a297-92fbcf53809c.png

6-1. 不同batch size下Llama-2-7B推理延遲測(cè)試

5fe4ebb8-0ed6-11ef-a297-92fbcf53809c.png

6-2. 不同batch size下Llama-2-13B推理延遲測(cè)試

采用英特爾AMX加速器和IntelExtension for PyTorch提升視覺模型推理性能

在非大語言模型的通用AI負(fù)載中,一般矩陣乘法(General Matrix Multiplication, GEMM) 往往消耗最多時(shí)間,推理訓(xùn)練都受算力限制。浪潮信息四路服務(wù)器在為基于CNN的視覺模型推理帶來更強(qiáng)算力的同時(shí),利用英特爾高級(jí)矩陣擴(kuò)展(AMX) 加速矩陣乘法運(yùn)算。如圖7所示,對(duì)于經(jīng)典的視覺模型ResNet50,在推理階段,單顆處理器吞吐量最高可以達(dá)到2942.57FPS。同時(shí),該解決方案可以支持高并發(fā),在單臺(tái)四路配置時(shí)可以達(dá)到11322.08 FPS的吞吐量3。

600aa45c-0ed6-11ef-a297-92fbcf53809c.png

7. 浪潮信息四路服務(wù)器 ResNet50推理性能 5e89d86e-0ed6-11ef-a297-92fbcf53809c.gif

收 益

基于英特爾至強(qiáng)可擴(kuò)展處理器的浪潮信息服務(wù)器AI訓(xùn)推一體化方案能夠?yàn)橛脩鬉I任務(wù)帶來以下收益:

滿足中小規(guī)模的模型對(duì)于微調(diào)及推理的算力需求:通過硬件構(gòu)建與軟件優(yōu)化,該AI訓(xùn)推一體化方案提供了強(qiáng)大的模型微調(diào)與推理算力支持,在7B和13B規(guī)模的模型中,模型推理的延遲可以低至20毫秒左右,在基于CNN的視覺模型推理中,單臺(tái)四路服務(wù)器上可以達(dá)到11322.08FPS的吞吐量4。

更高的適用性、擴(kuò)展性:該AI訓(xùn)推一體化方案可以靈活地支持計(jì)算機(jī)視覺模型推理、大語言模型的微調(diào)和推理,以及其它通用業(yè)務(wù),并實(shí)現(xiàn)更高的擴(kuò)展性。

更高的性價(jià)比與投資回報(bào):對(duì)比專用的AI服務(wù)器方案,該AI訓(xùn)推一體化方案具備高性價(jià)比、高可及性等優(yōu)勢(shì),可助力用戶獲得更高的投資回報(bào)。

展 望

智能化成為業(yè)務(wù)關(guān)鍵驅(qū)動(dòng)力的今天,用戶急切希望搭建自己的AI訓(xùn)練與推理計(jì)算平臺(tái),以便能夠躋身人工智能熱潮之中,探索和擴(kuò)展他們的AI業(yè)務(wù)領(lǐng)域。以英特爾至強(qiáng)可擴(kuò)展處理器為基礎(chǔ)的浪潮信息服務(wù)器AI訓(xùn)推一體化方案憑借在性價(jià)比與靈活性等方面的優(yōu)勢(shì),有望成為推動(dòng)AI微調(diào)與推理的關(guān)鍵基礎(chǔ)設(shè)施。

展望AI技術(shù)的未來發(fā)展,其不僅將創(chuàng)造更多的業(yè)務(wù)形態(tài),而且為企業(yè)創(chuàng)造了巨大的商業(yè)潛力和發(fā)展機(jī)遇。浪潮和英特爾雙方將在技術(shù)探索、產(chǎn)品升級(jí)、應(yīng)用推廣等多個(gè)層面深度協(xié)作,推動(dòng)AI在更多應(yīng)用場(chǎng)景的創(chuàng)新以及普及,助力AI的應(yīng)用與發(fā)展。



審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19382

    瀏覽量

    230479
  • 以太網(wǎng)
    +關(guān)注

    關(guān)注

    40

    文章

    5449

    瀏覽量

    172174
  • DDR5
    +關(guān)注

    關(guān)注

    1

    文章

    426

    瀏覽量

    24174
  • pytorch
    +關(guān)注

    關(guān)注

    2

    文章

    808

    瀏覽量

    13282
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    318

    瀏覽量

    331

原文標(biāo)題:浪潮信息基于至強(qiáng)? 可擴(kuò)展處理器推出 AI 服務(wù)器訓(xùn)推一體化方案

文章出處:【微信號(hào):英特爾中國(guó),微信公眾號(hào):英特爾中國(guó)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    英特爾發(fā)布全新企業(yè)AI一體化方案

    近日,英特爾正式推出了全新的企業(yè)AI一體化方案。該方案英特爾
    的頭像 發(fā)表于 12-03 11:20 ?263次閱讀

    英特爾發(fā)布全新企業(yè)AI一體化解決方案

    近日,英特爾正式推出了其全新的企業(yè)AI一體化解決方案,這一方案旨在為企業(yè)提供更加開放、擴(kuò)展且高
    的頭像 發(fā)表于 12-02 10:48 ?541次閱讀

    英特爾?至強(qiáng)?擴(kuò)展處理器助力智慧醫(yī)療的數(shù)字轉(zhuǎn)型

    在現(xiàn)代醫(yī)療行業(yè),人工智能(AI)、物聯(lián)網(wǎng)(IoT)和5G網(wǎng)絡(luò)等前沿技術(shù)正在重新定義醫(yī)療服務(wù)的提供方式。英特爾?至強(qiáng)?
    發(fā)表于 09-29 11:13 ?6116次閱讀
    <b class='flag-5'>英特爾</b>?<b class='flag-5'>至強(qiáng)</b>?<b class='flag-5'>可</b><b class='flag-5'>擴(kuò)展</b><b class='flag-5'>處理器</b>助力智慧醫(yī)療的數(shù)字<b class='flag-5'>化</b>轉(zhuǎn)型

    英特爾發(fā)布至強(qiáng)6處理器產(chǎn)品

    以“綠色向新,釋放新質(zhì)生產(chǎn)力”為主題的英特爾至強(qiáng)6能效核處理器新品發(fā)布會(huì)在北京舉行。會(huì)上,英特爾重磅推出首款配備能效核的英特爾
    的頭像 發(fā)表于 09-23 15:48 ?385次閱讀

    開箱即用,AISBench測(cè)試展示英特爾至強(qiáng)處理器的卓越推理性能

    。 中國(guó)電子技術(shù)標(biāo)準(zhǔn)研究院賽西實(shí)驗(yàn)室依據(jù)國(guó)家標(biāo)準(zhǔn)《人工智能服務(wù)器系統(tǒng)性能測(cè)試規(guī)范》(征求意見稿)相關(guān)要求,使用AISBench?2.0測(cè)試工具,完成了第五代英特爾至強(qiáng)
    的頭像 發(fā)表于 09-06 15:33 ?378次閱讀
    開箱即用,AISBench測(cè)試展示<b class='flag-5'>英特爾</b><b class='flag-5'>至強(qiáng)</b><b class='flag-5'>處理器</b>的卓越推理性能

    浪潮信息分布式存儲(chǔ)AS13000完成英特爾至強(qiáng)6能效核處理器適配

    近日,浪潮信息分布式存儲(chǔ)AS13000完成英特爾至強(qiáng)6能效核處理器適配,實(shí)現(xiàn)每瓦性能提升2.3倍,以更高的效率、更優(yōu)的成本滿足海量多態(tài)數(shù)據(jù)的存儲(chǔ)需求,充分釋放數(shù)據(jù)價(jià)值。
    的頭像 發(fā)表于 06-19 10:05 ?887次閱讀
    <b class='flag-5'>浪潮信息</b>分布式存儲(chǔ)AS13000完成<b class='flag-5'>英特爾</b><b class='flag-5'>至強(qiáng)</b>6能效核<b class='flag-5'>處理器</b>適配

    浪潮信息元腦?服務(wù)器率先支持英特爾?至強(qiáng)?6處理器

    北京2024年6月7日?/美通社/ -- 6月6日,英特爾在全球范圍內(nèi)發(fā)布了英特爾?至強(qiáng)?6處理器浪潮信息
    的頭像 發(fā)表于 06-07 15:36 ?416次閱讀
    <b class='flag-5'>浪潮信息</b>元腦?<b class='flag-5'>服務(wù)器</b>率先支持<b class='flag-5'>英特爾</b>?<b class='flag-5'>至強(qiáng)</b>?6<b class='flag-5'>處理器</b>

    重磅!英特爾發(fā)布intel3制程至強(qiáng)6能效核處理器,賦能數(shù)據(jù)中心能效升級(jí)

    、橫向擴(kuò)展工作負(fù)載帶來性能與能效的雙重提升,同時(shí)攜手金山云、浪潮信息、南大通用,以及記憶科技等多家生態(tài)合作伙伴,分享基于該處理器的端到端創(chuàng)新解決方案,及其在諸多領(lǐng)域的實(shí)踐成果與應(yīng)用價(jià)值
    的頭像 發(fā)表于 06-07 10:38 ?5332次閱讀
    重磅!<b class='flag-5'>英特爾</b>發(fā)布intel3制程<b class='flag-5'>至強(qiáng)</b>6能效核<b class='flag-5'>處理器</b>,賦能數(shù)據(jù)中心能效升級(jí)

    寧暢B5000 G5多節(jié)點(diǎn)服務(wù)器采用第五代英特爾至強(qiáng)擴(kuò)展處理器

    “基于第五代英特爾 至強(qiáng) 擴(kuò)展處理器的寧暢B5000 G5多節(jié)點(diǎn)服務(wù)器,可以在滿足大量
    的頭像 發(fā)表于 05-27 11:46 ?861次閱讀
    寧暢B5000 G5多節(jié)點(diǎn)<b class='flag-5'>服務(wù)器</b>采用第五代<b class='flag-5'>英特爾</b><b class='flag-5'>至強(qiáng)</b><b class='flag-5'>可</b><b class='flag-5'>擴(kuò)展</b><b class='flag-5'>處理器</b>

    浪潮信息英特爾合作推出種大模型效率工具“YuanChat”

    3月26日,浪潮信息英特爾正式宣布,浪潮信息“源2.0系列基礎(chǔ)大模型”已和最新的英特爾? 酷睿? Ultra處理器平臺(tái)完成適配,本地推理速
    的頭像 發(fā)表于 03-27 13:50 ?671次閱讀
    <b class='flag-5'>浪潮信息</b>與<b class='flag-5'>英特爾</b>合作推出<b class='flag-5'>一</b>種大模型效率工具“YuanChat”

    全新 μATX 服務(wù)器載板為英特爾 Ice Lake D 處理器系列產(chǎn)品提供更多擴(kuò)展

    計(jì)算技術(shù)供應(yīng)商德國(guó)康佳特,持續(xù)擴(kuò)展其模塊邊緣服務(wù)器生態(tài)系統(tǒng)。新產(chǎn)品包括 μATX規(guī)格尺寸的服務(wù)器載板,以及基于最新
    發(fā)表于 03-21 14:54 ?396次閱讀
    全新 μATX <b class='flag-5'>服務(wù)器</b>載板為<b class='flag-5'>英特爾</b> Ice Lake D <b class='flag-5'>處理器</b>系列產(chǎn)品提供更多<b class='flag-5'>可</b><b class='flag-5'>擴(kuò)展</b>性

    第五代英特爾至強(qiáng)處理器AI特化的通用服務(wù)器CPU

    ? 電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))隨著AI已經(jīng)成了數(shù)據(jù)中心與服務(wù)器市場(chǎng)的主流應(yīng)用,就連通用服務(wù)器CPU,也開始著重加強(qiáng)AI計(jì)算能力。為此,英特爾
    的頭像 發(fā)表于 03-18 08:14 ?4472次閱讀
    第五代<b class='flag-5'>英特爾</b><b class='flag-5'>至強(qiáng)</b><b class='flag-5'>處理器</b>,<b class='flag-5'>AI</b>特化的通用<b class='flag-5'>服務(wù)器</b>CPU

    新升級(jí) 浪潮信息邊緣服務(wù)器支持英特爾第五代至強(qiáng)處理器

    北京2024年3月5日 /美通社/ -- 近日,浪潮信息邊緣服務(wù)器NE5260G7完成第五代英特爾?至強(qiáng)?處理器適配,實(shí)現(xiàn)平均性能提升 21
    的頭像 發(fā)表于 03-06 14:34 ?396次閱讀
    新升級(jí) <b class='flag-5'>浪潮信息</b>邊緣<b class='flag-5'>服務(wù)器</b>支持<b class='flag-5'>英特爾</b>第五代<b class='flag-5'>至強(qiáng)</b><b class='flag-5'>處理器</b>

    浪潮信息NE5260G7服務(wù)器適配第五代英特爾至強(qiáng)處理器

    浪潮信息近日宣布,其邊緣服務(wù)器NE5260G7已成功適配第五代英特爾至強(qiáng)處理器,實(shí)現(xiàn)了平均性能21%的提升。這
    的頭像 發(fā)表于 03-06 09:29 ?936次閱讀

    英特爾至強(qiáng)處理器優(yōu)化升級(jí),助力打造未來高能效數(shù)據(jù)中心

    %。與此同時(shí),英特爾還對(duì)該處理器進(jìn)行了大量?jī)?yōu)化,以滿足日益增長(zhǎng)的AI算力需求。 該適用于企業(yè)級(jí)服務(wù)器英特爾高端CPU受到了眾多行業(yè)專家們的
    的頭像 發(fā)表于 02-26 17:39 ?766次閱讀
    主站蜘蛛池模板: 天天操天天擦| 加勒比在线免费视频| 很黄很色网站| 国产三级日产三级日本三级| 黄的三级在线播放| 大象焦伊人久久综合网色视| www.操你啦| 手机看片1024国产基地| 亚洲va中文字幕| 四虎永久免费网站免费观看| 三级网站免费看| 在线免费你懂的| 亚洲成在人线影视天堂网| 四虎传媒| 老色皮| 大象焦伊人久久综合网色视| 午夜免费视频网站| 九色视频网| 992tv国产精品福利在线| 免费观看交性大片| 五月婷婷六月色| 欧美成人xxxx| 欧美一级欧美三级| 日韩在线一区视频| 免费的毛片| 成人羞羞视频国产| 天天插天天搞| 人妖另类亚洲xxxx| 黑色丝袜在丝袜福利国产| 婷婷影院在线综合免费视频| 伊人久久大香线蕉综合高清| 国产亚洲第一| 四虎影视在线影院4hu| 久久新地址| 午夜久久免费视频| 天天天综合网| 精品亚洲午夜久久久久| 亚洲免费视频一区二区三区| 亚洲伊人网站| 久久综合五月婷婷| 天天射天天怕|