7 月 21 日,“決勝算力時代 ”AI 算力高端閉門分享會在北京天使匯極客咖啡舉辦。本次分享會由 CSDN 發(fā)起,由 CTO 俱樂部,深腦鏈、AI 科技大本營和區(qū)塊鏈大本營協(xié)辦。
分享會從 AI 算力的現(xiàn)狀和趨勢談起,并從硬件設計和算法優(yōu)化兩個層面切入,剖析算力提升的最新落地經(jīng)驗和誤區(qū),最后針對算力成本居高不下的普遍現(xiàn)狀,引入算力的新型協(xié)作方式---借用區(qū)塊鏈生態(tài)的分布式協(xié)作,大幅降低企業(yè)算力成本。
以下為嘉賓分享內容簡介:
▌1. 國科大數(shù)據(jù)挖掘與高性能計算實驗室負責人劉瑩教授發(fā)表了題為《基于異構并行計算的大數(shù)據(jù)分析與挖掘》的演講。
劉瑩教授提到,單 CPU 的發(fā)展已經(jīng)不能滿足實際應用的需求,AI 時代必須要依靠并行計算。目前,并行計算的主流架構是異構并行計算平臺。除了科技巨頭和人工智能公司在做相關研究之外,她的團隊也在做基于異構并行環(huán)境的一些數(shù)據(jù)挖掘研究,也就是人工智能的一些算法,包括關聯(lián)規(guī)則、聚類到分類,而對于自動編碼機,推薦算法他們也做了異構并行資源,包含GPU集群上面的加速。
以協(xié)同過濾算法為例,它是一種非常重要的推薦系統(tǒng)算法,他們?yōu)榇嗽O計了兩個計算核,一個是計算相似度,一個是計算平均值,把這些核心計算全部都在 GPU 上進行計算來加速算法。他們團隊目前正在做的基于光學遙感圖像的艦船檢測與識別項目就是在 GPU 加速下完成的,建模時間比 CPU 的速度提升了 57 倍。
PPT鏈接:
https://img-bss.csdn.net/201807241705592588.pdf
▌2. 探智立方聯(lián)合創(chuàng)始人宋煜則介紹了 AutoML,講述了其計算力的需求的分析與展望。
他指出,AutoML 最核心的內容就是用計算力和數(shù)學方法自動做數(shù)據(jù)特征提取以及模型建模。
AutoML 的整個過程需要大量的計算力,它對算力需求分為兩部分,第一部分是本身的模型評估,這與平時模型的訓練類似。第二部分是模型搜索,所以模型的搜索過程可能是對最優(yōu)解分布的估計,在估計完之后,過程拿到的結果反過來會重新影響到參數(shù),重新對最優(yōu)解分布范圍重新做一次估計。
宋煜認為,AutoML 的發(fā)展最重要的一點是,用矩陣表達計算圖結構并且把所有圖操作變成矩陣運算,從而使得模型設計可以使用 blas 庫加速,以及針對特殊算法設計加速芯片。
▌3. PerfXLab澎峰科技聯(lián)合創(chuàng)始人張先軼分享了主題為《InferXLite:輕量級深度學習推理框架》的內容。
張先軼介紹了 InferXLite 輕量級深度學習推理框架以及配套的底層性能加速庫。他們關注在嵌入式端側的部署,比如無人機、智能攝像頭等。他主要從性能庫(BLAS、DNN庫等)和框架兩個維度講述了嵌入式 AI 性能優(yōu)化。
針對深度學習優(yōu)化,他們主要為了解決四個問題:GEMM Kernrl 優(yōu)化,包括 Neon 指令、預取距離參數(shù)、Unroll 參數(shù);GEMM Pack 函數(shù),Pack 函數(shù)優(yōu)化,盡量連續(xù)寫;并行化,需要細粒度切分;定點化,要實現(xiàn) int8 gemm。
PPT鏈接:
https://img-bss.csdn.net/201807241658331383.pdf
▌4. 深腦鏈 CEO 何永以《區(qū)塊鏈驅動的人工智能云計算平臺》為題作了分享。
由于爆炸增長的 AI 算力需求是目前制約人工智能發(fā)展的主要瓶頸,所以他談到了區(qū)塊鏈如何以分布式協(xié)作,將“挖礦”和 AI 訓練結合在一起,將匯集閑散的算力用于 AI 訓練中,以及如何將區(qū)塊鏈浪費資源的計算轉化為高效率的人工智能深度學習,機器學習訓練和區(qū)塊鏈計算挖礦。
何永認為未來中心化的云計算可能會走向分步式的云計算,主要有以下兩個原因,第一是 GPU 很便宜,可以節(jié)省 70% 以上的成本。可以通過閑置資源再利用的方式,比如可以把資金拿出來,然后在生產(chǎn)鏈上使用,生產(chǎn)鏈就會提供便宜機器。其次區(qū)塊鏈在早期很多機器接入進來,除了能夠整個生產(chǎn)力系統(tǒng)分配的獎勵之外,還可以獲得支付的算力,這兩部分組成了一個完整收入,不過這對一個使用算力的人來說費用其實很少,這就滿足了需求和供應兩端的需求。
關于私密數(shù)據(jù)的問題,何永表示,訓練數(shù)據(jù)都是在生產(chǎn)鏈之上,最終拿到模型,所以對于數(shù)據(jù)的提供方來說可以做隱私控制,最終可以拿到便宜的隱私數(shù)據(jù)。
為什么這些一定要通過區(qū)塊鏈技術來做?首先,區(qū)塊鏈技術是一個完全去中心化的技術。如果是中心化的系統(tǒng),如果服務器宕機,整個服務系統(tǒng)就都不可用。第二就是代幣經(jīng)濟。使用機器的人付的代幣是直接的點對點支付,中間省去了利潤的剝奪過程。還有挖礦的經(jīng)濟機制,也就是早期即使沒有任何人使用,只要把機器接入進來就可以給獎勵。第三是開源透明。第四是改變了經(jīng)濟關系。
-
AI
+關注
關注
87文章
30896瀏覽量
269087 -
區(qū)塊鏈
+關注
關注
111文章
15562瀏覽量
106047
原文標題:如何提升AI算力?他們這樣說......
文章出處:【微信號:AI_Thinker,微信公眾號:人工智能頭條】歡迎添加關注!文章轉載請注明出處。
發(fā)布評論請先 登錄
相關推薦
評論