GTC 2023：阿里巴巴CUTLASS優化探索推薦系統中的應用
推薦系統簡介
背景：
●場景多，模型計算復雜度高;
●流量大，對實時性要求高;
●占用硬件資源多，硬件成本高;
●模型結構存在- -致性，可通過定制算子獲得加速;
以TensorFlow為backend ，算子數量多;此前，我們通過算子融合（類Faster Transformer），CUDA Graph等手段已經取得了不錯的性能提升;利用CUTLASS進一步優化Attention和MLP計算， 可進步提升資源利用率。
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
gpu
+關注
關注
28文章
4740瀏覽量
128951 -
阿里巴巴
+關注
關注
7文章
1616瀏覽量
47216 -
推薦系統
+關注
關注
1文章
43瀏覽量
10078 -
gtc
+關注
關注
0文章
73瀏覽量
4427
發布評論請先 登錄
相關推薦
榮邦佳業有阿里巴巴啦
服務，是全球首家擁有百萬商人的商務網站。在全球網站瀏覽量排名中，穩居國際商務及貿易類網站第一。而近年來，越來越多的行業，走向了網絡營銷的方式。首選阿里巴巴。企業與企業之間交流的最好平臺，采購商與供應商
發表于 04-15 10:04
《阿里巴巴Android開發手冊》正式發布，獻給移動開發者的新年禮物
，這些App依然可以做到“絲般順滑”。在這背后，是阿里巴巴移動開發團隊的不斷探索和優化，久而久之，這些經驗匯總成了一套完善的開發規范，指導工程師開發出體驗好、性能優、穩定性佳、安全性高的App。該開發
發表于 02-28 16:29
阿里巴巴敏捷研發的探索與實踐
教練何勉、張迎輝、張燎原為大家分享阿里巴巴的敏捷實踐，從中大家可以了解到互聯網產品全生命周期的探索和創新方法，看板方法如何助力阿里健康醫藥B2B業務發展，以及與敏捷教練一起互動交流如何將敏捷理念實施
發表于 03-07 17:26
阿里巴巴大數據實踐之數據建模
的數據倉庫模型建設經歷了多個發展階段。第一個階段：完全應用驅動的時代，阿里巴巴的第一代數據倉庫系統構建在Oracle上，數據完全以滿足報表需求為目的，將數據以與源結構相同的方式同步到Oracle（稱作
發表于 03-14 17:23
“阿里巴巴大數據系統體系”四大層次
。 阿里巴巴作為距離大數據最近的公司之一，既有豐富的數據資源也有豐富的應用場景，從它建構的大數據體系了解“大數據”這條生態鏈的全貌，我認為是比較科學的。 “阿里巴巴大數據系統體系”設計原則：滿足不斷
發表于 08-29 16:19
國內芯片—阿里巴巴的人工智能實力
的天貓精靈車載版語音交互系統將首先搭載在沃爾沃汽車上，其體驗版出現在了2018年云棲大會的阿里巴巴人工智能實驗展臺，引人關注。阿里巴巴人工智能實驗室連續發布了幾款黑科技，為用戶搭建了一個圍繞倉、機器人
發表于 09-27 17:54
阿里巴巴無線空口提案正式成為LoRa國際標準
過長達2年與國際相關技術專家反復研究論證的不懈努力，LoRa聯盟批準發布阿里巴巴提交的《LoRaWAN CN470頻譜技術標準》提案成為正式國際標準，該標準中的很多方案設計，例如全雙工設計與經濟的天線
發表于 12-13 10:10
阿里巴巴ai模型破世界紀錄_阿里巴巴的人工智能未來發展解析
阿里巴巴近日再爆大事件，阿里巴巴ai模型在閱讀理解領域頂級賽事SQuAD破世界紀錄引起大家的高度關注，跟隨小編一起來了解一下是什么情況，看看阿里巴巴人工智能的未來發展趨勢以及全球人工智能的未來發展趨勢是什么。
發表于 01-16 11:47
?1716次閱讀
阿里巴巴回應“收縮招聘”：系假新聞，只是阿里巴巴近期的一次人才盤點和人才體系升級
速途網10月23日消息(報道：吳佳馨)近日有傳言稱，阿里巴巴已縮減headcount，所有業務線不批offer。今日下午，阿里巴巴對此傳言做出回應，稱該消息為假新聞，這只是阿里巴巴近期的一次人才盤點
發表于 10-25 11:15
?411次閱讀
阿里巴巴馬云占股份多少？阿里巴巴馬云持股比例？目前馬云持股降至4.8%
馬云在阿里巴巴占多少股份你知道嗎？之前大概馬云在阿里巴巴的持股比例為7%，現在馬云在阿里持股降至5%以下但是仍為最大個人股東。
發表于 07-13 17:02
?2.6w次閱讀
阿里巴巴發布阿里云量子開發平臺
今日，阿里巴巴發布阿里云量子開發平臺（ACQDP），并全面開源量子模擬器“太章2.0”，支持從業人員設計量子硬件、測試量子算法，并探索在材料、分子發現、優化問題、機器學習等領域內的應用
阿里巴巴注冊元宇宙
近日，阿里巴巴元宇宙商標已經被其他公司搶注，目前商標狀態均為申請中。阿里巴巴通過成立XR 實驗室逐步實現元宇宙的四個階段布局，擁抱元宇宙。
鐳神智能入選阿里巴巴諸神之戰2023年度智能制造賽道之星
近日，阿里云發布《Create@阿里巴巴諸神之戰2023年度新勢力榜單》，鐳神智能入選Create@阿里巴巴諸神之戰2023年度智能制造賽道
工商網監
評論