完善資料讓更多小伙伴認識你，還能領取20積分哦，立即完善>
標簽 > LLM
在人工智能領域，LLM代表“大型語言模型”。在人工智能（AI）領域自然語言處理（NLP）是一個快速進展的領域。NLP中最重要是大語言模型（LLM）。大語言模型（英文：Large Language Model，縮寫LLM），也稱大型語言模型，是一種基于機器學習和自然語言處理技術的模型。
文章：285個 瀏覽：331次 帖子：3個
在NVIDIA TensorRT-LLM中啟用ReDrafter的一些變化
Recurrent Drafting (簡稱 ReDrafter) 是蘋果公司為大語言模型 (LLM) 推理開發并開源的一種新型推測解碼技術，該技術現在...
NVIDIA TensorRT-LLM 是一個專為優化大語言模型 (LLM) 推理而設計的庫。它提供了多種先進的優化技術，包括自定義 Attention...
移植Mediapipe LLM Demo到Kotlin Multiplatform
在今年的廈門和廣州 Google I/O Extended 上，我分享了《On-Device Model 集成 (KMP) 與用例》。本文是當時 Dem...
Arm KleidiAI助力提升PyTorch上LLM推理性能
生成式人工智能 (AI) 正在科技領域發揮關鍵作用，許多企業已經開始將大語言模型 (LLM) 集成到云端和邊緣側的應用中。生成式 AI 的引入也使得許多...
? 作者：Sebastian Raschka 博士， 翻譯：張晶，Linux Fundation APAC Open Source Evangelist...
如何在 OrangePi 5 Pro?的?NPU?上運行?LLM
在OrangePi5Pro上訪問NPU需要安裝最新版Ubuntu的定制版本，還需要安裝特殊軟件，讓你能在NPU而不是CPU上運行專門轉換的LLM。整個過...
本文通俗簡單地介紹了什么是大模型、大模型是怎么訓練出來的和大模型的作用。 ? 什么是大模型 大模型，英文名叫Large Model，大型模型。早期的時候...
視覺語言模型（VLM）通過將文本和圖像投射到同一個嵌入空間，將基礎大語言模型（LLM）強大的語言理解能力與視覺 transformer（ViT）的視覺能...
本文將分享 TensorRT-LLM 中低精度量化內容，并從精度和速度角度對比 FP8 與 INT8。首先介紹性能，包括速度和精度。其次，介紹量化工具 ...
大模型由于其在各種任務中的出色表現而引起了廣泛的關注。然而，大模型推理的大量計算和內存需求對其在資源受限場景的部署提出了挑戰。業內一直在努力開發旨在提高...
vLLM項目加入PyTorch生態系統，引領LLM推理新紀元
近日，vLLM項目宣布正式成為PyTorch生態系統的一部分，標志著該項目與PyTorch的合作進入了一個全新的階段。本文將從以下幾個方面進行介紹，特別...
準確性超Moshi和GLM-4-Voice,端到端語音雙工模型Freeze-Omni
GPT-4o 提供的全雙工語音對話帶來了一股研究熱潮，目前諸多工作開始研究如何利用 LLM 來實現端到端的語音到語音（Speech-to-Speech）...
利用 FP8 技術加速 LLM 推理和訓練越來越受到關注，本文主要和大家介紹如何使用 FP8 這項新技術加速大模型的訓練。 使用 FP8 進行大模型訓練...
生成式預訓練Transformer（GPT）被吹捧為將徹底改變機器人技術。但實際應用中，GPT需要龐大且昂貴的計算資源、冗長的訓練時間以及（通常）非機載...
2024-12-05 標簽：機器人TransformerLLM 231 0
語義同步定位與建圖（SLAM）系統在對鄰近的語義相似物體進行建圖時面臨困境，特別是在復雜的室內環境中。本文提出了一種面向對象SLAM的語義增強（SEO-...
近來，與AI相關的周期性熱點幾乎都圍繞著大語言模型 (LLM) 和生成式AI模型，這樣的趨勢反映出這些話題近年來日益增強的影響力和普及程度。與大語言模型...
NVIDIA TensorRT-LLM Roadmap現已在GitHub上公開發布
感謝眾多用戶及合作伙伴一直以來對NVIDIA TensorRT-LLM的支持。TensorRT-LLM 的 Roadmap 現已在 GitHub 上公開發布！
寫在前面的話 大模型差不多是一項發明，其重要性不亞于電的發現和電燈的發明。 大模型的基礎是使用Transformer算法識別了人類語言（大致等同于人類的...
大模型應用開卷，連一向保守的蘋果，都已釋放出發展端側大模型的信號。 問題是，大語言模型（LLM）卓越的表現取決于“力大磚飛”，如何在資源有限的環境中部署...
隨著大數據時代的到來，數據分析已經成為企業和組織決策的關鍵工具。數據科學家和分析師需要從海量數據中提取有價值的信息，以支持業務決策。在這個過程中，LLM...
換一批
編輯推薦廠商產品技術軟件/工具OS/語言教程專題
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯網 | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發電 | UPS | AR | 智能電網 | 國民技術 | Microchip |
| 開關電源 | 步進電機 | 無線充電 | LabVIEW | EMC | PLC | OLED | 單片機 |
| 5G | m2m | DSP | MCU | ASIC | CPU | ROM | DRAM |
| NB-IoT | LoRa | Zigbee | NFC | 藍牙 | RFID | Wi-Fi | SIGFOX |
| Type-C | USB | 以太網 | 仿真器 | RISC | RAM | 寄存器 | GPU |
| 語音識別 | 萬用表 | CPLD | 耦合 | 電路仿真 | 電容濾波 | 保護電路 | 看門狗 |
| CAN | CSI | DSI | DVI | Ethernet | HDMI | I2C | RS-485 |
| SDI | nas | DMA | HomeKit | 閾值電壓 | UART | 機器學習 | TensorFlow |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關注我們的微信
下載發燒友APP
電子發燒友觀察
版權所有 ? 湖南華秋數字科技有限公司
長沙市望城經濟技術開發區航空路6號手機智能終端產業園2號廠房3層（0731-88081133）
電子發燒友 （電路圖） 湘公網安備43011202000918
工商網監
湘ICP備2023018690號-1
