近日，國產(chǎn)深度學(xué)習(xí)框架OneFlow發(fā)布了人工智能方向深度學(xué)習(xí)領(lǐng)域的DLPerf測評報(bào)告，填補(bǔ)了業(yè)內(nèi)針對深度學(xué)習(xí)框架測評的空白。

報(bào)告數(shù)據(jù)顯示，OneFlow在4機(jī)32卡下的ResNet50-v1.5和BERT-base兩個模型中，無論是Float32類型還是自動混合精度，在同樣的算法和硬件條件下，吞吐率及加速比均優(yōu)于其他深度學(xué)習(xí)框架。

ResNet-50是計(jì)算機(jī)視覺（Computer Version）領(lǐng)域最主流的深度學(xué)習(xí)模型之一，而BERT是自然語言處理（Natural Language Processing）領(lǐng)域的進(jìn)行預(yù)訓(xùn)練的主流模型。OneFlow以這兩種模型為基礎(chǔ)的測試結(jié)果，對深度學(xué)習(xí)算法及硬件調(diào)優(yōu)有著重要的參考價值。

國內(nèi)首個由初創(chuàng)團(tuán)隊(duì)研發(fā)并開源的AI框架

OneFlow是一流科技自主研發(fā)、擁有完全自主知識產(chǎn)權(quán)的深度學(xué)習(xí)框架軟件，是國內(nèi)首個由初創(chuàng)團(tuán)隊(duì)研發(fā)并開源的AI框架，于今年7月31日正式開源后獲得了廣泛的業(yè)內(nèi)關(guān)注。

此次測評是OneFlow開源百天后向廣大開發(fā)者交出的第一份“大型答卷”。對此，創(chuàng)始人袁進(jìn)輝表示：“OneFlow從研發(fā)之初就主打高效性，致力于解決大規(guī)模分布式AI訓(xùn)練問題。這三個多月來，我們做了大量工作來增強(qiáng)穩(wěn)定性、圖編譯和運(yùn)行速度，在多機(jī)多卡場景下持續(xù)優(yōu)化，以達(dá)到分布式最佳性能。”

除了數(shù)據(jù)對比，在本次測評報(bào)告中，OneFlow還公布了對其他深度學(xué)習(xí)框架進(jìn)行調(diào)優(yōu)的過程，以保證測評報(bào)告公正、準(zhǔn)確、可復(fù)現(xiàn)。

在談到為何公布如此詳細(xì)的調(diào)優(yōu)過程時，袁進(jìn)輝說道：“首先，我們要保證這份測評報(bào)告是客觀、可復(fù)現(xiàn)的，這樣才能幫助到開發(fā)者的日常工作。隨著數(shù)據(jù)量級的增長，開發(fā)者對于深度學(xué)習(xí)框架如何激發(fā)硬件性能持續(xù)關(guān)注，我們希望這份報(bào)告可以給開發(fā)者在應(yīng)用深度學(xué)習(xí)框架時提供必要的助力，并以此填補(bǔ)業(yè)界沒有DLPerf測評報(bào)告的空白。”

OneFlow開源后，收到了來自世界范圍內(nèi)的廣泛關(guān)注，關(guān)注者來自谷歌、臉書、微軟、亞馬遜、阿里、字節(jié)跳動、騰訊、百度、商湯、曠視等企業(yè)的核心技術(shù)人員。開源一個多月后，接到多家頭部互聯(lián)網(wǎng)企業(yè)和人工智能企業(yè)的使用意向。

下一步，OneFlow將基于本次DLPerf測試報(bào)告，為開發(fā)者提供更多關(guān)于深度學(xué)習(xí)框架的系列課程、分享與論文，繼續(xù)支持企業(yè)與機(jī)構(gòu)對深度學(xué)習(xí)框架的性能優(yōu)化，提升深度學(xué)習(xí)框架在行業(yè)中的應(yīng)用水平。

為什么要研發(fā)OneFlow深度學(xué)習(xí)框架

隨著十四五規(guī)劃綱要的出爐，人工智能成為國家級戰(zhàn)略重點(diǎn)，其中深度學(xué)習(xí)框架因其重要的行業(yè)位置受到各界關(guān)注。深度學(xué)習(xí)框架是基于深度學(xué)習(xí)的操作系統(tǒng)，幫助企業(yè)更高效的進(jìn)行深度學(xué)習(xí)算法研發(fā)，與Windows、IOS有相似的作用。

中科院院士、清華大學(xué)人工智能研究院院長張鈸表示，目前國際巨頭紛紛投入重金研究深度學(xué)習(xí)框架，比如谷歌、Facebook和亞馬遜等等，誰掌握了操作系統(tǒng)技術(shù)，并圍繞操作系統(tǒng)技術(shù)建立起生態(tài)，誰就能在全球競爭中掌握主動權(quán)，這是中國需要加強(qiáng)研發(fā)的重要人工智能技術(shù)，以實(shí)現(xiàn)底層核心技術(shù)的自主創(chuàng)新。

北京一流科技公司創(chuàng)立于2017年1月，始終立足于通用性深度學(xué)習(xí)標(biāo)準(zhǔn)框架的研發(fā)和推廣使用，力爭打造人工智能深度學(xué)習(xí)框架產(chǎn)品的引領(lǐng)者和事實(shí)工業(yè)標(biāo)準(zhǔn)。目前，一流科技公司連續(xù)完成由九合創(chuàng)投、天目創(chuàng)投、快手戰(zhàn)投、聚卓資本等國內(nèi)知名投資機(jī)構(gòu)的數(shù)千萬級風(fēng)險投資。

事實(shí)上很早就已經(jīng)有企業(yè)推出AI開發(fā)框架，包括TensorFlow、Pytorch，不過，現(xiàn)在深度學(xué)習(xí)，模型越來越大，大規(guī)模訓(xùn)練需求提升，速度成為AI框架核心痛點(diǎn)，而這也是OneFlow要解決的重點(diǎn)問題，未來深度學(xué)習(xí)框架將形成以TensorFlow、Pytorch、OneFlow為主的市場局面。

OneFlow具備其他深度學(xué)習(xí)框架所沒有的超大規(guī)模數(shù)據(jù)訓(xùn)練的能力，已經(jīng)在不少應(yīng)用場景中實(shí)現(xiàn)落地，比如，因?yàn)樘焐С謹(jǐn)?shù)據(jù)并行、模型并行和混合并行，已經(jīng)在安防領(lǐng)域人工智能公司落地，實(shí)現(xiàn)千億級人臉識別。

談到未來發(fā)展，袁進(jìn)輝此前對媒體說道：“未來，我們將繼續(xù)保持OneFlow在高效性方面的優(yōu)勢，全面提升易用性和完備性，讓更多的開發(fā)者愿意使用，愛上使用全新一代的深度學(xué)習(xí)框架，降低使用人工智能技術(shù)的成本和難度，解放生產(chǎn)力，把機(jī)械化的事情交給機(jī)器，讓人去做更有創(chuàng)造力的事情。”