完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>
標(biāo)簽 > 大模型
以大模型作為基礎(chǔ)模型支撐AI產(chǎn)業(yè)應(yīng)用邏輯已經(jīng)被證明實用性,AI大模型為AI落地應(yīng)用提供了一種通用化的解決方案;各自各樣參數(shù)不一、面向不同行業(yè)、面向不同任務(wù)的“大模型”也陸續(xù)發(fā)布,大模型已經(jīng)成為整個AI 界追逐的寵兒,AI大模型有效果好、泛化性強、研發(fā)流程標(biāo)準(zhǔn)化程度高等特點。
文章:2416個 視頻:27個 瀏覽:2702次 帖子:13個
一個給NLP領(lǐng)域帶來革新的預(yù)訓(xùn)練語言大模型Bert
之前的文章和大家詳細(xì)的介紹了靜態(tài)的詞向量表示word2vec理論加實戰(zhàn),但是word2vec存在一個很大的問題,由于是靜態(tài)詞向量所以無法表示一詞多義,對...
2023-02-28 標(biāo)簽:GPTELMOSTransformer 6.6萬 0
通往AGI之路:揭秘英偉達(dá)A100、A800、H800、V100在高性能計算與大模型訓(xùn)練中的霸主地位
英偉達(dá)前段時間發(fā)布GH 200包含 36 個 NVLink 開關(guān),將 256 個 GH200 Grace Hopper 芯片和 144TB 的共享內(nèi)存連...
大模型訓(xùn)練為什么不能用4090顯卡,GPU訓(xùn)練性能和成本對比
為什么?一般有 tensor parallelism、pipeline parallelism、data parallelism 幾種并行方式,分別在模...
全微調(diào)(Full Fine-tuning):全微調(diào)是指對整個預(yù)訓(xùn)練模型進行微調(diào),包括所有的模型參數(shù)。在這種方法中,預(yù)訓(xùn)練模型的所有層和參數(shù)都會被更新和優(yōu)...
2024-01-03 標(biāo)簽:gpu深度學(xué)習(xí)ChatGPT 2.4萬 0
對于位置編碼,常規(guī)的做法是在計算 query,key 和 value 向量之前,會計算一個位置編碼向量 加到詞嵌入 上,位置編碼向量 同樣也是 維向量,...
2023-09-05 標(biāo)簽:向量旋轉(zhuǎn)編碼大模型 1.5萬 0
InfiniBand和RoCEv2網(wǎng)絡(luò)簡介及解決方案
超高帶寬、超低延遲、超高可靠,這是大模型訓(xùn)練對于網(wǎng)絡(luò)的要求。
2023-09-22 標(biāo)簽:數(shù)據(jù)中心AITCP 9451 0
圖解大模型系列之:Megatron源碼解讀1,分布式環(huán)境初始化
使用Megatron來訓(xùn)練gpt類大模型的項目有很多。在這個系列里,我選擇了由THUDM開發(fā)的CodeGeeX項目,它是gpt在代碼生成方向上的應(yīng)用,對...
之前我們使用網(wǎng)頁文本輸入的方式體驗了訊飛星火認(rèn)知大模型的功能(是什么讓科大訊飛1個月股價翻倍?),本篇博文將從開發(fā)者角度來看看如何使用訊飛星火認(rèn)知大模型API。
vLLM是一個開源的大模型推理加速框架,通過PagedAttention高效地管理attention中緩存的張量,實現(xiàn)了比HuggingFace Tra...
2023-10-10 標(biāo)簽:神經(jīng)網(wǎng)絡(luò)gpu服務(wù)器 5293 0
神州鯤泰亮相WAVE SUMMIT深度學(xué)習(xí)開發(fā)者大會2024,以智能算力搭配大模型推動產(chǎn)業(yè)數(shù)智化變革
? 6月28日,由深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程研究中心主辦,百度飛槳、文心大模型聯(lián)合承辦的WAVE SUMMIT深度學(xué)習(xí)開發(fā)者大會2024在北京成功舉辦,...
2024-07-01 標(biāo)簽:深度學(xué)習(xí)算力大模型 4.4萬 0
高通發(fā)布AI Hub平臺和Wi-Fi7芯片, 助力開發(fā)人員構(gòu)建AI模型和多終端用例
AI、5.5G和Wi-Fi7技術(shù)是MWC2024上最引人矚目的技術(shù),2024年是Wi-Fi7技術(shù)商用元年,作為全球Wi-Fi技術(shù)主流廠商之一的高通,在西...
盤古ai大模型怎么使用 盤古AI大模型是一個基于自然語言處理的人工智能模型,是華為公司發(fā)布的 超大規(guī)模預(yù)訓(xùn)練模型, 可以進行文本分析、問題回答、智能客服...
“百模大戰(zhàn)”:盤點國內(nèi)外橫空出世的AI大模型
從全球已經(jīng)發(fā)布的大模型分布來看,中美兩國數(shù)量合計占全球總數(shù)的超 80%,美國在大模型數(shù)量方面居全球之首。有專家披露,據(jù)不完全統(tǒng)計,目前中國 10 億參數(shù)...
2023-07-13 標(biāo)簽:AI大數(shù)據(jù)大模型 1.2萬 0
AGI 的目標(biāo)是實現(xiàn)通用的人工智能,它需要整合各種技術(shù)和資源,包括計算機視覺、自然語言處理、語音識別等領(lǐng)域。只有當(dāng) AGI 能夠?qū)崿F(xiàn)這些技術(shù)的無縫集成和...
2023-12-19 標(biāo)簽:操作系統(tǒng)計算機視覺機器學(xué)習(xí) 1.1萬 0
ai大模型和小模型的區(qū)別? 人工智能領(lǐng)域中的模型分為兩種,一種是大模型,另一種是小模型,兩者在訓(xùn)練和應(yīng)用中有著明顯的區(qū)別。 本文將從定義、特點、應(yīng)用等方...
國內(nèi)有數(shù)十個醫(yī)療大模型,大模型如何賦能智慧醫(yī)療
電子發(fā)燒友網(wǎng)報道(文/吳子鵬)近日,在北京CGT新勢發(fā)布會上,中國科學(xué)院院士、翊博生物首席科學(xué)家陳潤生表示,中國現(xiàn)在有數(shù)以百計的通用大模型,其中的90%...
英特爾陳葆立:AI大模型應(yīng)用拐點到來,“雙軌”路線圖引領(lǐng)產(chǎn)品創(chuàng)新節(jié)奏
正值歲末年初之際,電子發(fā)燒友網(wǎng)策劃的《2024年半導(dǎo)體產(chǎn)業(yè)展望》專題,收到四十多家國內(nèi)半導(dǎo)體創(chuàng)新領(lǐng)袖企業(yè)高管的前瞻觀點。此次,電子發(fā)燒友特別采訪了英特爾...
自動駕駛邁向3.0時代!車企爭搶城市無圖NOA,大模型端到端方案加速迭代
電子發(fā)燒友網(wǎng)報道(文/莫婷婷)汽車智能化推動了“軟件定義汽車”,自動駕駛也同步進入了由軟件驅(qū)動的2.0時代。發(fā)展至今,自動駕駛市場開始邁進3.0時代。那...
編輯推薦廠商產(chǎn)品技術(shù)軟件/工具OS/語言教程專題
電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
伺服電機 | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術(shù) | Microchip |
Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
DuerOS | Brillo | Windows11 | HarmonyOS |