先進半導(dǎo)體封裝技術(shù)的革新與演進之路

基于熱壓鍵合（TCB）工藝的微泵技術(shù)已經(jīng)比較成熟，在各種產(chǎn)品中都一直在用。其技術(shù)路線在于不斷擴大凸點間距。

2024-03-04 標簽：處理器gpu半導(dǎo)體封裝 1494 0

什么是自動語音識別（ASR）？如何使用深度學(xué)習(xí)和GPU加速ASR

ASR 是自然語言中一項頗具挑戰(zhàn)性的任務(wù)，它由語音分割、聲學(xué)建模和語言建模等一系列子任務(wù)組成，根據(jù)噪聲和未分割的輸入數(shù)據(jù)形成預(yù)測（標簽序列）。

2024-02-28 標簽：NVIDIAgpuAI 5854 0

從基本原理到應(yīng)用的SLAM技術(shù)深度解析

LSD-SLAM 即 Large-Scale Direct SLAM，兼容單目相機和雙目相機。LSD-SLAM是一種基于光流跟蹤的直接法SLAM，但是實...

2024-02-26 標簽：傳感器gpuSLAM 9481 0

在AMD GPU上如何安裝和配置triton？

最近在整理python-based的benchmark代碼，反過來在NV的GPU上又把Triton裝了一遍，發(fā)現(xiàn)Triton的github repo已經(jīng)...

2024-02-22 標簽：amdgpuTriton 2468 0

FPGA與GPU在神經(jīng)網(wǎng)絡(luò)構(gòu)建中的對比研究

嵌入式工程師常見的情況是在硬件加速器（如FPGA）和主機CPU之間建立通信。這項工作因其繁瑣和容易出錯而臭名昭著。

2024-02-22 標簽：fpgacpu神經(jīng)網(wǎng)絡(luò) 795 0

基于Transformer模型的壓縮方法

基于Transformer架構(gòu)的大型模型在人工智能領(lǐng)域中發(fā)揮著日益重要的作用，特別是在自然語言處理（NLP）和計算機視覺（CV）領(lǐng)域。

2024-02-22 標簽：變壓器編碼器gpu 678 0

應(yīng)用大模型提升研發(fā)效率的實踐與探索

對于模型訓(xùn)練，我們可以采用 3D 并行訓(xùn)練的方式來實現(xiàn)。將模型參數(shù)和梯度張量劃分為多個分區(qū)，分配到不同 GPU 卡上進行計算。每張卡負責(zé)自己分區(qū)的梯度和...

2024-02-22 標簽：gpu大模型 646 0

2023年工業(yè)視覺缺陷檢測經(jīng)驗分享

表面缺陷檢測任務(wù)是指通過對產(chǎn)品表面進行仔細的檢查和評估，以發(fā)現(xiàn)和識別任何不符合質(zhì)量標準或設(shè)計要求的表面缺陷。這項任務(wù)的目的是確保產(chǎn)品的外觀質(zhì)量和功能性滿...

2024-02-21 標簽：CMOSgpuNPU 1127 0

大模型系列：Flash Attention V2整體運作流程

基于1.1中的思想，我們在V2中將原本的內(nèi)外循環(huán)置換了位置（示意圖就不畫了，基本可以對比V1示意圖想象出來）。我們直接來看V2的偽代碼（如果對以下偽代碼...

2024-02-21 標簽：gpu并行計算大模型 2080 0

深度解析華為NPU/GPU技術(shù)演進與進階

CPU/GPU/NPU 等等都是硬件芯片，簡單來說，晶體管既可以用來實現(xiàn)邏輯控制單元， 也可以用來實現(xiàn)運算單元（算力）。在芯片總面積一定的情況下，就看控...

2024-02-19 標簽：處理器華為gpu 8191 0

基于 GPU 渲染的高性能空間包圍計算

空間包圍檢測在計算機圖形學(xué)、虛擬仿真、工業(yè)生產(chǎn)等有著廣泛的應(yīng)用。

2024-02-18 標簽：gpu檢測渲染 700 0

Vision Mamba：速度與內(nèi)存的雙重突破

為了進一步評估研究方法在下游任務(wù)上（即分割、檢測和實例分割）的效率，本文將骨干網(wǎng)與常用的特征金字塔網(wǎng)絡(luò)（FPN）模塊結(jié)合起來，并對其 FPS 和 GPU...

2024-01-31 標簽：gpu感知算法Transformer 2253 0

如何在TorchServe上提供LLMs的分布式推理

你可以看到我們在這里使用了張量并行和并行預(yù)填充。它實際上幫助大大加快了推理速度。與等效的GPU相比，它使得Inferentia 2的成本大幅降低了。我們...

2024-01-31 標簽：gpu內(nèi)存并行處理 834 0

AI新基建引領(lǐng)“三浪變革”，驅(qū)動產(chǎn)業(yè)升級與創(chuàng)新

2023年迎來“知識生產(chǎn)力變革”第一浪，以大語言模型為核心，實現(xiàn)知識工程的生產(chǎn)力變革，類似于中世紀的印刷革命。大語言模型具有超高速學(xué)習(xí)能力，可在人機協(xié)同...

2024-01-31 標簽：gpuAI人工智能 2198 0

淺析流行的LLM推理堆棧和設(shè)置

還有一個與批次大小有關(guān)的數(shù)量，它們在一個有趣的點上相交。這個點不取決于硬件之外的任何因素。舉例來說，在 A10G 和 A100 上，硬件可以實現(xiàn)的總浮點...

2024-01-29 標簽：神經(jīng)網(wǎng)絡(luò)gpuAI 377 0

實測分享，瑞芯微RK3588八核國產(chǎn)處理器性能測評！確實“遙遙領(lǐng)先”

RK3588處理器優(yōu)勢 RK3588是瑞芯微最新一代旗艦工業(yè)處理器，它具有如下卓越優(yōu)勢： ? 超強運算能力： 四核ARM Cortex-A76@2.4G...

2024-01-29 標簽：嵌入式gpu瑞芯微 1.3萬 0

技嘉RTX 4070 Ti SUPER雪鷹評測分析

翻到顯卡的背面，我們可以看到技嘉RTX 4070 Ti SUPER雪鷹采用了一塊整體呈銀色的磨砂金屬背板——其表面設(shè)計簡潔，僅有小部分Logo裝飾，與正...

2024-01-29 標簽：pcbNVIDIAgpu 3440 0

影馳GEFORCE RTX 4070 TI SUPER星曜OC評測分析

作為MC評測室的“常駐嘉賓”，影馳星曜系列的設(shè)計對于我們來說可謂爛熟于心，而影馳GEFORCE RTX 4070 TI SUPER星曜OC在外觀設(shè)計方面...

2024-01-29 標簽：處理器gpuSuper 941 0

索泰RTX 4070 SUPER-12GB X-GAMING OC歐泊白顯卡評測

散熱部分從結(jié)構(gòu)上看仍然是采用了冰脈散熱結(jié)構(gòu)。鏡面拋光工藝的冰鏡底座、熱管、鰭片渾然一體，采用了4根6mm熱管，能夠更快速、均勻地導(dǎo)出GPU熱量，大幅提升...

2024-01-29 標簽：pcbNVIDIAgpu 1483 0