在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

如何利用人工智能推進(jìn)芯片開發(fā)?

我快閉嘴 ? 來源:半導(dǎo)體行業(yè)觀察 ? 作者:半導(dǎo)體行業(yè)觀察 ? 2021-03-01 14:38 ? 次閱讀

一年前,ZDNet 與Google Brain總監(jiān)Jeff Dean 談了有關(guān)該公司如何利用人工智能來推進(jìn)其定制芯片內(nèi)部開發(fā)以加速其軟件的過程。Dean指出,在某些情況下,人工智能的深度學(xué)習(xí)形式可以比人類做出更好的決策,以決定如何在芯片中布局電路。

本月,Google 在arXiv文件服務(wù)器 上 發(fā)表 的一篇題為《阿波羅:可移植的體系結(jié)構(gòu)探索》(Apollo:Transferable Architecture Exploration)的論文上,向世人揭示了一個名為Apollo的研究項目。

阿波羅(Apollo)代表著一個有趣的發(fā)展,超越了Dean一年前在國際固態(tài)電路會議上的正式講話中以及在他對ZDNet的講話中所暗示的含義。

在Dean當(dāng)時提供的示例中,機(jī)器學(xué)習(xí)可用于一些低級設(shè)計決策,即“布局和布線”。在位置和路線上,芯片設(shè)計人員使用軟件來確定構(gòu)成芯片操作的電路布局,類似于設(shè)計建筑物的平面圖。

相比之下,在阿波羅,該計劃執(zhí)行的是論文作者Yazdanbakhsh及其同事所說的“架構(gòu)探索”,而不是平面圖。

芯片的體系結(jié)構(gòu)是芯片功能元素的設(shè)計,主要是決定它們?nèi)绾蜗嗷プ饔靡约败浖?a href="http://www.xsypw.cn/v/tag/1730/" target="_blank">程序員應(yīng)如何訪問這些功能元素。

例如,經(jīng)典的Intel x86處理器具有一定數(shù)量的片上內(nèi)存,專用的算術(shù)邏輯單元和許多寄存器,等等。這些部分的組合方式賦予了所謂的英特爾架構(gòu)以意義。

當(dāng)被問及Dean的描述時,Yazdanbakhsh在電子郵件中告訴ZDNet: “我會看到我們的工作和布局規(guī)劃項目是正交且互補(bǔ)的。

Yazdanbakhsh解釋說:“架構(gòu)探索比 計算棧中的 布局布線要高級得多,”他指的是康奈爾大學(xué)(Cornell University)的Christopher Batten的演講。

Yazdanbakhsh表示:“我認(rèn)為,在[架構(gòu)探索]中,存在更高的性能改進(jìn)余地。

Yazdanbakhsh及其同事將Apollo稱為“第一個可移植的體系結(jié)構(gòu)探索基礎(chǔ)結(jié)構(gòu)”,這是第一個程序,它在不同的芯片上工作的越多,越能更好地探索可能的芯片體系結(jié)構(gòu),從而將學(xué)到的知識轉(zhuǎn)移到每個新任務(wù)上。

Yazdanbakhsh和團(tuán)隊正在開發(fā)的芯片本身就是用于AI的芯片,稱為加速器。該芯片與Nvidia A100“ Ampere” GPU,Cerebras Systems WSE芯片以及目前投放市場的許多其他啟動部件屬于同一類。因此,使用AI設(shè)計運(yùn)行AI的芯片具有很好的對稱性。

鑒于任務(wù)是設(shè)計一個AI芯片,Apollo程序正在探索的架構(gòu)是適合運(yùn)行神經(jīng)網(wǎng)絡(luò)的架構(gòu)。這意味著很多線性代數(shù),很多簡單的數(shù)學(xué)單元執(zhí)行矩陣乘法并對結(jié)果求和。

團(tuán)隊將挑戰(zhàn)定義為找到適合給定AI任務(wù)的這些數(shù)學(xué)塊的正確組合之一。他們選擇了一個相當(dāng)簡單的AI任務(wù),即一個稱為MobileNet的卷積神經(jīng)網(wǎng)絡(luò),這是一種資源有效的網(wǎng)絡(luò),由Andrew G.Howard和Google的同事于2017年設(shè)計。此外,他們使用多個內(nèi)部設(shè)計的網(wǎng)絡(luò)測試了工作負(fù)載,以執(zhí)行諸如對象檢測和語義分段之類的任務(wù)。

這樣,目標(biāo)就變成了:對于芯片的體系結(jié)構(gòu),什么是正確的參數(shù),以使得對于給定的神經(jīng)網(wǎng)絡(luò)任務(wù),芯片滿足諸如速度之類的某些標(biāo)準(zhǔn)?

搜索涉及對超過4.52億個參數(shù)進(jìn)行排序,包括將使用多少個數(shù)學(xué)單元(稱為處理器元素),以及對于給定模型而言最佳的參數(shù)存儲量和激活存儲量。

Apollo的優(yōu)點(diǎn)是可以將各種現(xiàn)有的優(yōu)化方法相提并論,以了解它們?nèi)绾卧趦?yōu)化新型芯片設(shè)計的體系結(jié)構(gòu)中相互疊加。在這里,上圖顯示了相對結(jié)果。

Apollo是一個框架,這意味著它可以采用文獻(xiàn)中開發(fā)的多種方法進(jìn)行所謂的黑盒優(yōu)化,并且可以使這些方法適應(yīng)特定的工作負(fù)載,并比較每種方法在解決目標(biāo)方面的效果。

在另一個很好的對稱性中,Yazdanbakhsh采用了一些優(yōu)化方法,這些方法實(shí)際上是為開發(fā)神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu)而設(shè)計的。其中包括Google的Quoc V.Le及其同事于2019年開發(fā)的所謂進(jìn)化法; Christoph Angermueller和其他人在Google上基于模型的強(qiáng)化學(xué)習(xí)和所謂的基于群體的方法集成,目的是“設(shè)計” DNA序列;和貝葉斯優(yōu)化方法。因此,Apollo包含了令人愉悅的對稱性的主要層次,將為神經(jīng)網(wǎng)絡(luò)設(shè)計和生物合成設(shè)計的方法匯集在一起,以設(shè)計可用于神經(jīng)網(wǎng)絡(luò)設(shè)計和生物合成的電路。

比較所有這些優(yōu)化,這就是Apollo框架的亮點(diǎn)。它的整個存在目的是有條不紊地采用不同的方法,并指出最有效的方法。阿波羅(Apollo)試驗結(jié)果詳細(xì)說明了進(jìn)化方法和基于模型的方法如何優(yōu)于隨機(jī)選擇和其他方法。

但是,阿波羅最引人注目的發(fā)現(xiàn)是,與蠻力搜索相比,運(yùn)行這些優(yōu)化方法使流程效率更高。例如,他們將基于群體的集成方法與他們所說的對體系結(jié)構(gòu)方法的解決方案集的半窮盡搜索進(jìn)行了比較。

Yazdanbakhsh及其同事看到的是,基于人群的方法能夠發(fā)現(xiàn)利用電路中權(quán)衡取舍的解決方案,例如計算與內(nèi)存,而這通常需要特定領(lǐng)域的知識。由于基于人口的方法是一種博學(xué)的方法,因此它可以找到半窮舉搜索無法找到的解決方案。

實(shí)際上,P3BO(基于人口的黑盒優(yōu)化)發(fā)現(xiàn)的設(shè)計比3K樣本搜索空間的半窮盡略好。我們觀察到該設(shè)計使用非常小的內(nèi)存大?。?MB)來支持更多的計算單元。這充分利用了視覺工作負(fù)載的計算密集型性質(zhì),而原始半詳盡搜索空間中并未包含該功能。這證明了半窮舉方法需要人工搜索空間工程,而基于學(xué)習(xí)的優(yōu)化方法利用大的搜索空間來減少人工工作。

因此,Apollo能夠弄清楚不同的優(yōu)化方法在芯片設(shè)計中的效果如何。但是,它還可以做更多的事情,那就是它可以運(yùn)行所謂的遷移學(xué)習(xí),以展示如何依次改進(jìn)這些優(yōu)化方法。

通過運(yùn)行優(yōu)化策略以將芯片設(shè)計提高一個設(shè)計點(diǎn),例如以毫米為單位的最大芯片尺寸,這些實(shí)驗的結(jié)果便可以作為輸入輸入到隨后的優(yōu)化方法中。Apollo團(tuán)隊發(fā)現(xiàn)的是,通過利用初始或種子優(yōu)化方法的最佳結(jié)果,各種優(yōu)化方法可在諸如面積受限的電路設(shè)計之類的任務(wù)上提高其性能。

所有這些必須由以下事實(shí)括起來:為MobileNet或任何其他網(wǎng)絡(luò)或工作負(fù)載設(shè)計芯片受設(shè)計過程對給定工作負(fù)載的適用性的限制。

實(shí)際上,其中一位作者Berkin Akin幫助開發(fā)了MobileNet版本MobileNet Edge,他指出優(yōu)化是芯片和神經(jīng)網(wǎng)絡(luò)優(yōu)化的產(chǎn)物。

“神經(jīng)網(wǎng)絡(luò)架構(gòu)必須了解目標(biāo)硬件架構(gòu),才能優(yōu)化整體系統(tǒng)性能和能源效率,” Akin去年在與同事Suyog Gupta的論文中寫道。

ZDNet通過電子郵件與Akin聯(lián)絡(luò),問一個問題:與神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu)的設(shè)計隔離時,硬件設(shè)計有多有價值?

“很好的問題?!盇kim在電子郵件中回答。

Akin說,Apollo對于給定的工作負(fù)載可能就足夠了,但是在芯片和神經(jīng)網(wǎng)絡(luò)之間進(jìn)行的所謂的“共同優(yōu)化”將帶來其他好處。

這是Akin的完整回覆:

當(dāng)然,在某些用例中,我們正在為給定的一組固定神經(jīng)網(wǎng)絡(luò)模型設(shè)計硬件。這些模型可以是硬件目標(biāo)應(yīng)用領(lǐng)域中高度優(yōu)化的代表性工作負(fù)載的一部分,也可以是定制加速器用戶的要求。在這項工作中,我們正在解決這種性質(zhì)的問題,我們使用ML為給定的工作負(fù)載套件找到最佳的硬件體系結(jié)構(gòu)。但是,當(dāng)然在某些情況下,可以靈活地共同優(yōu)化硬件設(shè)計和神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu)。實(shí)際上,我們正在進(jìn)行一些此類聯(lián)合優(yōu)化的工作,我們希望可以取得更好的權(quán)衡。

那么,最后的收獲是,即使芯片設(shè)計受到AI的新工作量的影響,芯片設(shè)計的新過程也可能對神經(jīng)網(wǎng)絡(luò)的設(shè)計產(chǎn)生可衡量的影響。
責(zé)任編輯:tzh

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19395

    瀏覽量

    230671
  • 芯片
    +關(guān)注

    關(guān)注

    456

    文章

    51090

    瀏覽量

    425959
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    31399

    瀏覽量

    269804
  • 人工智能
    +關(guān)注

    關(guān)注

    1793

    文章

    47590

    瀏覽量

    239486
收藏 人收藏

    評論

    相關(guān)推薦

    嵌入式和人工智能究竟是什么關(guān)系?

    嵌入式和人工智能究竟是什么關(guān)系? 嵌入式系統(tǒng)是一種特殊的系統(tǒng),它通常被嵌入到其他設(shè)備或機(jī)器中,以實(shí)現(xiàn)特定功能。嵌入式系統(tǒng)具有非常強(qiáng)的適應(yīng)性和靈活性,能夠根據(jù)用戶需求進(jìn)行定制化設(shè)計。它廣泛應(yīng)用于各種
    發(fā)表于 11-14 16:39

    《AI for Science:人工智能驅(qū)動科學(xué)創(chuàng)新》第6章人AI與能源科學(xué)讀后感

    、優(yōu)化等方面的應(yīng)用有了更清晰的認(rèn)識。特別是書中提到的基于大數(shù)據(jù)和機(jī)器學(xué)習(xí)的能源管理系統(tǒng),通過實(shí)時監(jiān)測和分析能源數(shù)據(jù),實(shí)現(xiàn)了能源的高效利用智能化管理。 其次,第6章通過多個案例展示了人工智能在能源科學(xué)中
    發(fā)表于 10-14 09:27

    《AI for Science:人工智能驅(qū)動科學(xué)創(chuàng)新》第一章人工智能驅(qū)動的科學(xué)創(chuàng)新學(xué)習(xí)心得

    ,還促進(jìn)了新理論、新技術(shù)的誕生。 3. 挑戰(zhàn)與機(jī)遇并存 盡管人工智能為科學(xué)創(chuàng)新帶來了巨大潛力,但第一章也誠實(shí)地討論了伴隨而來的挑戰(zhàn)。數(shù)據(jù)隱私、算法偏見、倫理道德等問題不容忽視。如何在利用AI提升科研效率
    發(fā)表于 10-14 09:12

    risc-v在人工智能圖像處理應(yīng)用前景分析

    和使用該技術(shù),無需支付專利費(fèi)或使用費(fèi)。這大大降低了人工智能圖像處理技術(shù)的研發(fā)成本,并吸引了大量的開發(fā)者、企業(yè)和研究機(jī)構(gòu)參與其生態(tài)建設(shè)。 靈活性則體現(xiàn)在RISC-V可以根據(jù)不同的應(yīng)用場景進(jìn)行定制和優(yōu)化,從而
    發(fā)表于 09-28 11:00

    人工智能ai4s試讀申請

    目前人工智能在繪畫對話等大模型領(lǐng)域應(yīng)用廣闊,ai4s也是方興未艾。但是如何有效利用ai4s工具助力科研是個需要研究的課題,本書對ai4s基本原理和原則,方法進(jìn)行描訴,有利于總結(jié)經(jīng)驗,擬按照要求準(zhǔn)備相關(guān)體會材料。看能否有助于入門和提高ss
    發(fā)表于 09-09 15:36

    名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅(qū)動科學(xué)創(chuàng)新

    材料基因組工程的推動下,人工智能如何與材料科學(xué)結(jié)合,加快傳統(tǒng)材料和新型材料的開發(fā)過程。 第4章介紹了人工智能在加快藥物研發(fā)、輔助基因研究方面及在合成生物學(xué)中的普遍應(yīng)用。 第5章介紹了人工智能
    發(fā)表于 09-09 13:54

    報名開啟!深圳(國際)通用人工智能大會將啟幕,國內(nèi)外大咖齊聚話AI

    8月28日至30日,2024深圳(國際)通用人工智能大會暨深圳(國際)通用人工智能產(chǎn)業(yè)博覽會將在深圳國際會展中心(寶安)舉辦。大會以“魅力AI·無限未來”為主題,致力于打造全球通用人工智能領(lǐng)域集產(chǎn)品
    發(fā)表于 08-22 15:00

    利用人工智能改變 PCB 設(shè)計

    人工智能在PCB設(shè)計中展現(xiàn)出不可否認(rèn)的潛力,但是工程師們自然對其影響有所顧慮。關(guān)于工作保障和責(zé)任的等問題常常浮現(xiàn):人工智能會奪走我的工作嗎?如果人工智能出錯,我會被指責(zé)嗎?然而,人工智能
    的頭像 發(fā)表于 08-15 10:38 ?574次閱讀
    <b class='flag-5'>利用人工智能</b>改變 PCB 設(shè)計

    FPGA在人工智能中的應(yīng)用有哪些?

    FPGA(現(xiàn)場可編程門陣列)在人工智能領(lǐng)域的應(yīng)用非常廣泛,主要體現(xiàn)在以下幾個方面: 一、深度學(xué)習(xí)加速 訓(xùn)練和推理過程加速:FPGA可以用來加速深度學(xué)習(xí)的訓(xùn)練和推理過程。由于其高并行性和低延遲特性
    發(fā)表于 07-29 17:05

    大模型應(yīng)用之路:從提示詞到通用人工智能(AGI)

    大模型在人工智能領(lǐng)域的應(yīng)用正迅速擴(kuò)展,從最初的提示詞(Prompt)工程到追求通用人工智能(AGI)的宏偉目標(biāo),這一旅程充滿了挑戰(zhàn)與創(chuàng)新。本文將探索大模型在實(shí)際應(yīng)用中的進(jìn)展,以及它們?nèi)绾螢閷?shí)現(xiàn)AGI
    的頭像 發(fā)表于 06-14 10:20 ?2317次閱讀
    大模型應(yīng)用之路:從提示詞到通<b class='flag-5'>用人工智能</b>(AGI)

    研究人員利用人工智能提升超透鏡相機(jī)的圖像質(zhì)量

    透鏡相機(jī)的圖像質(zhì)量。這種新方法利用人工智能將低質(zhì)量圖像轉(zhuǎn)化為高質(zhì)量圖像,從而使這些相機(jī)可以用于多種成像任務(wù),包括復(fù)雜的顯微鏡應(yīng)用和移動設(shè)備。 超透鏡是一種超薄光學(xué)器件,通常只有幾毫米厚--利用納米結(jié)構(gòu)來操縱光線。雖然它們的小尺寸有可
    的頭像 發(fā)表于 06-11 06:34 ?404次閱讀
    研究人員<b class='flag-5'>利用人工智能</b>提升超透鏡相機(jī)的圖像質(zhì)量

    Arm計劃開發(fā)人工智能芯片

    近日,據(jù)媒體報道,科技巨頭軟銀集團(tuán)旗下的芯片設(shè)計公司Arm正在積極布局人工智能(AI)領(lǐng)域,計劃開發(fā)AI芯片,以滿足市場對高性能計算日益增長的需求。
    的頭像 發(fā)表于 05-13 10:05 ?438次閱讀

    5G智能物聯(lián)網(wǎng)課程之Aidlux下人工智能開發(fā)(SC171開發(fā)套件V2)

    5G智能物聯(lián)網(wǎng)課程之Aidlux下人工智能開發(fā)(SC171開發(fā)套件V2) 課程類別 課程名稱 視頻課程時長 視頻課程鏈接 課件鏈接 人工智能 參賽基礎(chǔ)知識指引 14分50秒 https
    發(fā)表于 05-10 16:46

    5G智能物聯(lián)網(wǎng)課程之Aidlux下人工智能開發(fā)(SC171開發(fā)套件V1)

    https://t.elecfans.com/v/27186.html *附件:引體向上測試案例_20240126.pdf 人工智能 工業(yè)檢測:芯片模組外觀檢測實(shí)訓(xùn)part1 11分40秒 https
    發(fā)表于 04-01 10:40

    嵌入式人工智能的就業(yè)方向有哪些?

    。 國內(nèi)外科技巨頭紛紛爭先入局,在微軟、谷歌、蘋果、臉書等積極布局人工智能的同時,國內(nèi)的BAT、華為、小米等科技公司也相繼切入到嵌入式人工智能的賽道。那么嵌入式AI可就業(yè)的方向有哪些呢? 嵌入式AI開發(fā)
    發(fā)表于 02-26 10:17
    主站蜘蛛池模板: 嘿嘿嘿视频在线观看网站| videos另类重口tv| 二级黄绝大片中国免费视频0| 女人张开腿 让男人桶视频| 欧美一区二区三区免费看| 欧美色乱| 免费黄色| 国产亚洲精品线观看77| 夜夜爱视频| 天天操天天做| 免费网站黄色| 窝窝视频成人影院午夜在线| 又黄又爽又猛大片录像| 特黄aa级毛片免费视频播放| 被男同桌摸内裤好爽视频| 亚洲美女视频在线观看| 四虎在线电影| 欧美日本一区二区三区道| 黄色视屏日本| 伊人色综合久久天天爱| 欧美8888| 91大神视频网站| 综合se| 特黄特色| 久久青| 永久免费在线看| 国产综合在线观看视频| 3344在线观看永久免费| 最新国产在线播放| 四虎新地址| 久久伊人成人| 一级片在线观看视频| 国产午夜精品福利久久| 一区二区免费| 亚洲 欧美 另类 综合 日韩 | 天天插在线视频| 二区久久国产乱子伦免费精品| h在线观看网站| 性欧美网站| 美女视频一区| 午夜在线视频免费观看|