芯片封裝：向上堆疊，翻越內存墻

AMD 在代號 Milan-X 的 EPYC 7003X 系列處理器上應用了第一代 3D V-Cache 技術。這些處理器采用 Zen 3 架構核心，每...

2023-10-27 標簽：處理器amdgpu 851 0

一文詳解多模態大模型發展及高頻因子計算加速GPU算力 | 英偉達顯卡被限，華為如何力挽狂瀾？

近年來，全球范圍內的芯片禁令不斷升級，給許多企業和科研機構帶來了很大的困擾，需要在技術層面進行創新和突破。一方面，可以探索使用國產芯片和其他不受限制的芯...

2023-10-26 標簽：gpuAI算力 1378 0

大語言模型Fine-tuning踩坑經驗分享

當然 MPT-7B-StoryWriter-65k+ [5] 模型也有較長的外推能力，主要在于，注意力這塊使用了 ALIBI [6]。要擁有什么樣的長度...

2023-10-26 標簽：gpu數據處理ChatGPT 497 0

集成顯卡、核芯顯卡和獨立顯卡的區別分析

顯卡行業是計算機硬件產業中的一個重要分支，主要涉及圖形處理器（GPU）的研發、生產和銷售。顯卡行業的競爭極為激烈，主要廠商包括英偉達、AMD、英特爾等。

2023-10-26 標簽：英特爾gpu顯卡 1634 0

深度解讀各種人工智能加速器和GPU上的LLM性能特征

在不同的硬件平臺上評估LLM對于理解傳統和非傳統體系結構的能力和局限性至關重要。先前的工作已經在超級計算機上研究了LLM，并使用傳統的深度學習基準來提供...

2023-10-25 標簽：神經網絡gpu人工智能 737 0

如何使用Rust創建一個基于ChatGPT的RAG助手

如今，ChatGPT 已經成為家喻戶曉的名字，每個開發者都主動或被動地使用過 ChatGPT 或者是基于 ChatGPT 的產品。ChatGPT 很好，...

2023-10-24 標簽：機器人gpupython 1122 0

智算中心網絡架構設計及組網實踐案例

智算服務器可以滿配 8 張 GPU 卡，并預留 8 個 PCIe 網卡插槽。在多機組建 GPU 集群時，兩個 GPU 跨機互通的突發帶寬有可能會大于 5...

2023-10-20 標簽：gpu數據中心網絡架構 6651 0

銳龍7000G APU實現跨越三代的飛躍式升級

AMD APU處理器是很多追求高性價比的主流和入門用戶的首選，但是近幾年，AMD APU的發展重心放在了筆記本上，對于桌面平臺意興闌珊，產品換代速度很慢...

2023-10-19 標簽：cpugpuAPU 613 0

AI網絡未來十年以太網交換機市場的增長動力嗎？

根據 IDC 的數據，2022 年，AI 網絡市場已達到 20億美元，其中 InfiniBand 貢獻了 75% 的收入。

2023-10-19 標簽：以太網gpu交換機 1180 0

AR/VR熱管理方案

VR/AR一體機是將獨立運算系統、光學顯示系統、音頻系統、感知交互系統高度集成在一體空間的頭戴式智能裝備。在逐漸智能化發展的同時，也在向輕薄化、高性能和...

2023-10-17 標簽：gpuAr石墨烯 6664 0

GPU在雷達信號處理算法中的優勢

雷達信號處理算法對計算機架構提出了很高的實時性要求。好在這些算法具有數據并行性，可以在大規模并行架構（如圖形處理單元（GPU））上獲得出色的性能。

2023-10-17 標簽：gpu算法雷達信號 1160 0

深度學習經典的自動標注軟件介紹

該項目可以自動生成基于激光雷達的運動對象分割的訓練數據。該工具通過批量離線處理數據來實現這一點。

2023-10-17 標簽：gpu激光雷達深度學習 2399 0

一文詳解CPU、內存、GPU知識

CPU通常被稱為計算機的大腦，是一臺計算機的運算核心（Core）和控制核心（ Control Unit），也是整個計算機系統中最重要的組成部件。主要包括...

2023-10-15 標簽：cpugpu服務器 3541 0

什么是卷積神經網絡？如何MATLAB實現CNN？

卷積神經網絡（CNN 或 ConvNet）是一種直接從數據中學習的深度學習網絡架構。 CNN 特別適合在圖像中尋找模式以識別對象、類和類別。它們也能很...

2023-10-12 標簽：濾波器gpu深度學習 1815 0

芯片行業基礎知識概述

芯片行業的設計領域，指的是規格制定、架構設計到tape out的所有流程。tape out是什么，可能很多朋友不清楚，那換個說法，對于芯片設計而言，簡單...

2023-10-11 標簽：處理器gpu射頻前端 3948 0

NVLink的演進

2014年，NVLink 1.0發布，并應用在P100芯片上，如下圖所示。兩顆GPU之間有4條NVlink, 每個link中包含8個lane, 每條la...

2023-10-11 標簽：gpuPCIePHY 2398 0

QT在Linux嵌入式設備上的系統配置

QT是目前主流的UI界面設計軟件之一，Linux系統也支持QT應用，并且提供了很多方便的接口。所以有必要記錄一下基于QT，在LCD屏幕上實現UI界面功能...

2023-10-11 標簽：嵌入式lcdgpu 1809 0

主流大模型推理框架盤點解析

vLLM是一個開源的大模型推理加速框架，通過PagedAttention高效地管理attention中緩存的張量，實現了比HuggingFace Tra...

2023-10-10 標簽：神經網絡gpu服務器 5436 0

探索閃存內存如何應對“內存墻”的可行性

首先，內存請求與閃存內存之間存在顆粒度不匹配。這導致了在閃存上需要存在明顯的流量放大，除了已有的閃存間接性需求[23,33]之外：例如，將64B的緩存行...

2023-10-09 標簽：閃存DRAMgpu 1041 0

深度學習模型部署與優化：策略與實踐；L40S與A100、H100的對比分析

隨著生成式AI應用的迅猛發展，我們正處在前所未有的大爆發時代。在這個時代，深度學習模型的部署成為一個亟待解決的問題。盡管GPU在訓練和推理中扮演著關鍵角...

2023-10-07 標簽：gpuAI深度學習 1617 0