在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

阿里全新AI推理方法入選ICML 2020,可減少AI對計算和內存資源的消耗

牽手一起夢 ? 來源:C114通信網 ? 作者:佚名 ? 2020-06-19 15:52 ? 次閱讀

近日,人工智能國際頂會ICML 2020公布了論文收錄結果,阿里巴巴7篇論文入選,是入選論文數量最多的中國科技公司。ICML是機器學習領域全球最具影響力的學術會議之一,今年接受率僅為21.8%。

根據ICML官方顯示,阿里7篇論文涵蓋在圖像識別、自然語言處理、搜索推薦等領域的研究成果,其中一篇《Boosting Deep Neural Network Efficiency with Dual-Module Inference》,提出了一種全新的AI推理方法,可大幅減少AI對計算和內存資源的消耗,能將推理速度提升3倍。

近年來AI模型變得越來越復雜化,尤其是類似語言AI這類復雜模型,給計算、內存資源帶來了新的挑戰。目前,業界通用的解決方法是采用更先進的計算性能來運行AI任務,例如采用GPU、FPGA或者NPU等異構計算,但該方法并沒有從根源上解決問題。

阿里巴巴達摩院設計出了一種“AI雙腦思考”的方法,能讓大型神經網絡像人類一樣學會“快思考”與“慢思考”,從而進行高效且準確的推理過程。

該方法被稱為“雙模推理”, 即將一個復雜任務拆分成兩個任務,例如在復雜AI推理任務過程中,可以先以很小的資源運行“小網絡”,同時分析哪些網絡的區域較為敏感,然后只對敏感區域在“大網絡”中運行計算。

達摩院的科學家從理論上證明了雙模推理的可行性,且在CPU上實現了該方法。實際效果顯示,該方法能在保證模型精度的基礎上,在語言模型上減小40%的訪存,達到1.54倍-1.75倍的性能提升,同時可以在僅損耗0.5%精度基礎上,提升3倍的推理速度。

近年來,阿里在AI領域迎來了基礎研究與產業應用成果雙爆發的階段。三年前,阿里巴巴成立了內部研究機構達摩院,深入AI研究前沿。據了解,阿里AI已在國際頂級技術賽事上獲得了近60項世界第一,500多篇論文入選國際頂會。同時,阿里AI落地了多項重大研究成果,全面賦能各行各業。達摩院醫療AI團隊疫情期間研發的AI診斷技術,已在全球近600家醫院落地,完成50余萬例臨床診斷。

責任編輯:gt

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    31270

    瀏覽量

    269632
  • 阿里巴巴
    +關注

    關注

    7

    文章

    1617

    瀏覽量

    47345
收藏 人收藏

    評論

    相關推薦

    AI云端計算資源的多維度優勢

    AI云端計算資源,作為AI技術與云計算深度融合的產物,在成本效益、性能優化、數據安全、靈活擴展以及創新加速等多個維度都具有顯著優勢。下面,
    的頭像 發表于 01-07 11:11 ?81次閱讀

    雷鳥創新與阿里云達成戰略合作,引領 AI大模型與AR眼鏡融合新紀元

    大模型與AI眼鏡硬件廠商開展的深度定制合作,阿里云通義系列大模型將為雷鳥創新的AI眼鏡提供全套AI技術和產品支持。這也是阿里云在
    發表于 01-03 13:45 ?100次閱讀
    雷鳥創新與<b class='flag-5'>阿里</b>云達成戰略合作,引領 <b class='flag-5'>AI</b>大模型與AR眼鏡融合新紀元

    阿里云開源推理大模型QwQ

    近日,阿里云通義團隊宣布推出全新AI推理模型QwQ-32B-Preview,并同步實現了開源。這一舉措標志著阿里云在
    的頭像 發表于 11-29 11:30 ?594次閱讀

    Arm計算平臺助力實現持續未來

    人工智能 (AI)、云計算和邊緣計算等技術的發展正推動著各行各業的創新升級,這一過程也伴隨著對計算資源需求的急劇增加,引發能源
    的頭像 發表于 11-26 09:22 ?328次閱讀

    AI云端計算資源有哪些類型

    AI云端計算資源涵蓋了從基礎設施到軟件服務的多個層面,為AI模型的訓練、推理和部署提供了強大的支持。下面,
    的頭像 發表于 11-15 09:39 ?184次閱讀

    NVIDIA助力麗蟾科技打造AI訓練與推理加速解決方案

    麗蟾科技通過 Leaper 資源管理平臺集成 NVIDIA AI Enterprise,為企業和科研機構提供了一套高效、靈活的 AI 訓練與推理加速解決方案。無論是在復雜的
    的頭像 發表于 10-27 10:03 ?274次閱讀
    NVIDIA助力麗蟾科技打造<b class='flag-5'>AI</b>訓練與<b class='flag-5'>推理</b>加速解決方案

    AI for Science:人工智能驅動科學創新》第二章AI for Science的技術支撐學習心得

    計算的結合 我深刻體會到高性能計算(HPC)在AI for Science中的重要性。傳統的科學計算往往面臨計算量大、
    發表于 10-14 09:16

    AMD助力HyperAccel開發全新AI推理服務器

    HyperAccel 是一家成立于 2023 年 1 月的韓國初創企業,致力于開發 AI 推理專用型半導體器件和硬件,最大限度提升推理工作負載的存儲器帶寬使用,并通過將此解決方案應用于大型語言模型來
    的頭像 發表于 09-18 09:37 ?386次閱讀
    AMD助力HyperAccel開發<b class='flag-5'>全新</b><b class='flag-5'>AI</b><b class='flag-5'>推理</b>服務器

    英偉達推出全新NVIDIA AI Foundry服務和NVIDIA NIM推理微服務

    NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務和 NVIDIA NIM 推理微服務,與同樣剛推出的 Llama 3.1 系列開源模型一起,為全球企業的生成式 AI
    的頭像 發表于 07-25 09:48 ?741次閱讀

    如何基于OrangePi?AIpro開發AI推理應用

    。通過昇騰CANN軟件棧的AI編程接口,滿足大多數AI算法原型驗證、推理應用開發的需求。AscendCL(AscendComputingLanguage,昇騰
    的頭像 發表于 06-04 14:23 ?564次閱讀
    如何基于OrangePi?AIpro開發<b class='flag-5'>AI</b><b class='flag-5'>推理</b>應用

    深蘭AI數字伙伴項目入選AI Partner·2024 AI應用標桿案例”

    近期,36氪揭曉了“AI Partner·2024 AI應用標桿案例”,深蘭AI數字伙伴項目從200多個報名項目中脫穎而出,當選標桿案例。一起入選的還有騰訊、vivo、360、商湯等公
    的頭像 發表于 05-23 10:34 ?467次閱讀
    深蘭<b class='flag-5'>AI</b>數字伙伴項目<b class='flag-5'>入選</b>“<b class='flag-5'>AI</b> Partner·2024 <b class='flag-5'>AI</b>應用標桿案例”

    阿里云 all in AI 的決心

    “第一個提出MaaS的阿里云,能否成為云廠商在AI時代變革的新范本?”如何抓住AI的機會?這是進入大模型時代后,面對新的起點,各大云廠商在不斷思考的問題。毋庸置疑,AI與云已經成為緊密
    的頭像 發表于 05-17 08:04 ?323次閱讀
    <b class='flag-5'>阿里</b>云 all in <b class='flag-5'>AI</b> 的決心

    開發者手機 AI - 目標識別 demo

    Network Runtime 神經網絡運行時,作為中間橋梁連通上層AI推理框架和底層加速芯片,實現AI模型的跨芯片推理計算。提供統一
    發表于 04-11 16:14

    NanoEdge AI的技術原理、應用場景及優勢

    ,可以減少數據在傳輸過程中被竊取或篡改的風險,提高數據安全性。 - 低能耗:通過優化神經網絡模型和硬件設計,NanoEdge AI 可以在有限的資源下實現高效的計算,降低設備的能耗。
    發表于 03-12 08:09

    使用NVIDIA Triton推理服務器來加速AI預測

    這家云計算巨頭的計算機視覺和數據科學服務使用 NVIDIA Triton 推理服務器來加速 AI 預測。
    的頭像 發表于 02-29 14:04 ?604次閱讀
    主站蜘蛛池模板: 狠狠的操| 日韩免费精品视频| 天天摸天天操天天爽| 国产一区二区三区免费大片天美 | www.jizz中国| 久久国产精品99久久久久久老狼| 四虎精品影院| 国产精品福利一区二区亚瑟| 在线播放免费观看| 国产卡一卡2卡三卡免费视频| 免费播放黄色| 日a在线| 婷婷影院在线综合免费视频| 精品国产第一页| 欧美特级午夜一区二区三区| 中文字幕一区二区三区在线播放| 2017天天天天做夜夜夜做| 美女一级牲交毛片视频| 天天综合干| 天天干天天干天天操| 香蕉免费在线视频| 亚洲精品网站日本xxxxxxx | 免费高清在线爱做视频| 国产亚洲精品激情都市| 久久精品视频免费观看| 免费毛片网| 成年人黄色免费网站| 高清国产一区二区三区| 国产xxxxxx久色视频在| 五月天婷亚洲| 手机看片自拍| 天天操天天操天天操香蕉| 国产精品免费久久久久影院| 一本到卡二卡三卡四卡| 亚洲高清成人| 天天躁夜夜躁狠狠躁2024| 日本免费一区二区三区视频| 午夜女同影院| 午夜男人网| 日韩毛片视频| 磁力bt种子搜索在线|