人工智能的落地問題受到普遍關注，不過，在關注商業化應用的同時，應用落地之前的開發與創新，以及為創新提供的基礎設施，更應該受到關注，這畢竟是整個AI藍圖想象力的原點。

在AI時代的分工體系中，深度學習框架起到了承上啟下的作用，向下是芯片、大型計算機系統，向上是各種業務模型、行業應用。

這也正是為什么，深度學習框架成為科技巨頭的必爭之地。對開發框架的重視，隱藏著科技企業對AI未來的押注。再放大到國際競爭的維度來看，深度學習框架的質量和普及程度，很可能會影響到整個產業的進程甚至結果。

所幸的是，已經受夠了“缺芯之痛”的中國，在深度學習框架上起步夠早，且已達到了一定的高度。

深度學習平臺走向開源

IDC的《中國深度學習平臺市場份額調研》顯示，在AI技術使用方面，接受調研的企業和開發者中，86.2%選擇使用開源深度學習框架。

在中國深度學習平臺市場，谷歌、Facebook、百度三強鼎立態勢穩固，三者占據了國內超過一半的市場份額。其中，百度飛槳是市場前五中唯一的國貨。

百度自2013年就開始研發深度學習框架，當時主要為了解決主流開發框架僅支持GPU應用、無法進行大規模數據處理的問題。經過幾年內部應用后，2016年正式開源飛槳（PaddlePaddle）深度學習平臺。這也讓百度在當時成為繼谷歌、Facebook、IBM之后，全球第四家、中國第一家開源深度學習開發框架的科技公司。

今年，華為MindSpore、曠視天元接連宣布開源。國內的深度學習熱度迭起。

援引一位業內人士的評論：只有原創才能引領，開放才能繁榮。在這場基礎設施爭奪中，中國產業壁壘的高度已和過去不再相同。

硬件+軟件，AI生態布局的全景思路

5月20日，WAVE SUMMIT2020深度學習開發者峰會上，百度飛槳聯合英特爾、英偉達、arm中國、華為、MediaTek、Imagination、寒武紀、浪潮、中科曙光等13家全球的領先硬件廠商，宣布啟動共建硬件生態合作圈。

在這份生態版圖中，飛槳的硬件生態伙伴層次非常分明，既有業界巨頭、老牌企業，也有國內外新銳企業。從硬件類型來看，覆蓋CPU、GPU、新型處理器架構、AI專用芯片以及IP。可以說，是百度飛槳對AI產業全版圖的一次全方位包抄。這對整個AI產業界意味著什么？對于推進AI在中國的商用落地又能帶來哪些幫助？

百度方面表示，隨著產業的加速發展，AI芯片產業，也出現了越來越多的玩家和細分領域。飛槳一直強調“生態”的概念，用開源的方式，可以打造一個繁榮、健康、互惠、可持續發展的生態平臺。

同時，飛槳的應用涵蓋了幾乎所有的AI場景，飛槳的合作伙伴及其相關產品，既有云側、也有端側；既有訓練、也有推理；既有傳統CPU芯片，也有加速芯片；既有側重語音場景的，也有側重視覺、自然語言理解場景的，這其中也包括IP廠商。


截至5月20日的數據，飛槳至今累計開發者數量194萬，服務企業數量8.4萬家，基于飛槳平臺產生了23.3萬模型。

作為中國首個開源開放、功能完備的產業級深度學習平臺，飛槳硬件生態的擴大，意味著能夠普及到更多的開發者和企業，讓他們能夠在不必考慮底層芯片細節的前提下，直接使用，可以更多地專注在自己的業務場景本身。在完成業務模型與底層硬件之間解耦的同時，確保最大限度地釋放硬件算力。這將有助于降低技術門檻，加速推動AI的產業落地過程。

飛槳的新晉國產硬件生態伙伴

隨著數據量不斷增長、算法不斷演進和迭代，對極致算力的需求也越來越大，而軟硬件的充分結合則顯得尤為重要。此次與飛槳完成生態拓容的，主要有如下中國硬件供應商及其產品：

華為Atlas

華為Atlas與飛槳深度對接，即將在近期開放代碼。華為Atlas人工智能計算平臺基于華為昇騰系列AI處理器和業界主流異構計算部件，通過模塊、板卡、小站、一體機等豐富的產品形態，打造面向“端、邊、云”的全場景AI基礎設施方案，可用于“平安城市、智慧交通、智慧醫療、AI推理”等領域。

飛騰CPU

飛騰作為國內老牌的自主CPU芯片提供商，CPU應用正在逐步進入人工智能和深度學習等領域。此次，飛騰FT-2000+/64 處理器已經與百度飛槳、昆侖芯片完成算力、架構、技術三方面的適配認證。

不僅如此，Paddle Lite 2.3.0在飛騰硬件平臺上實現了麒麟OS和UOS的適配。基于飛騰硬件平臺的Paddle Lite可進行靈活的AI模型部署；在若干主流模型的推理性能上均具備高性能表現；可廣泛適用于智慧政務、無人車、智能家居等典型AI應用場景。

MediaTek AI框架NeuroPilot

MediaTek的NeuroPilot人工智能通用軟件平臺，與Paddle Lite輕量化推理引擎完成適配。所有MediaTek的AI芯片APU (Artificial intelligence Processing Unit ) 都能夠使用Paddle Lite快速部署。

據了解，MediaTek彈性的AI框架NeuroPilot與百度Paddle Lite集成，實現端上實時智能推理的產品應用。Paddle Lite運行在MediaTek APU上的效率相比于傳統ARM CPU性能提升6倍，功耗降低90%，便于實現低功耗、便攜式產品應用。通過下方的系統架構圖可以見到，相比于離線的工具轉換，通過Delegate的子圖直接調用，可以降低軟件時延，確保維持Paddle Lite上模型的效能。


瑞芯微AI芯片RK1808、RK1806

瑞芯微（Rockchip）AI芯片RK1808、RK1806都已適配飛槳，兼容飛槳輕量化推理引擎PaddleLite。

RK1808及RK1806，內置獨立NPU神經計算單元，INT8 算力達3.0TOPs；采用22nm FD-SOI工藝，相同性能下的功耗相比主流28nm工藝產品降低約30%，在算力、性能、功耗等指標上均有優異的表現。據瑞芯微官方數據，瑞芯微AI芯片在Paddle Lite中運行MobileNet V1耗時僅為6.5 ms，幀率達153.8 FPS，二者充分兼容并高效穩定運行。

如下圖所示的實測結果可以看出，與手機等移動端常用的國內外主流CPU相比，RK18系列NPU在MobileNET_v1的耗時更少，在圖像分類、目標檢測、語音交互方面，效果更好。

據了解，除RK1808、RK1806外，瑞芯微搭載NPU的AI系列芯片將陸續升級適配百度飛槳。

寒武紀思元270、思元220

寒武紀的云端AI處理器芯片思元270，與飛槳的輕量化推理引擎Paddle Lite完成兼容性適配；思元220邊緣端芯片，也預計在近期完成適配工作。

據了解，截至目前，寒武紀與Paddle Lite的合作場景主要基于云端推理市場，但雙方基于邊緣推理市場的適配合作也正在進行中。未來，雙方還將開展基于云端訓練的適配合作。

比特大陸算豐系列AI芯片

百度飛槳深度學習平臺新增適配比特大陸最新算豐系列AI芯片。比特大陸已成功推出四代AI芯片：云端芯片算豐BM1680、算豐BM1682、算豐BM1684，終端芯片BM1880。

最新一代算豐BM1684芯片，聚焦于云端及邊緣應用的人工智能推理，采用臺積電 12nm 工藝，在典型功耗16瓦的前提下，INT8 算力可達17.6Tops，在 Winograd 卷積加速下，INT8 算力提升至 35.2Tops，是一顆低功耗、高性能的 SoC 芯片。官方資料顯示，其算力性能和性能功耗比指標超過主流推理GPU，在性能滿足視頻分析業務需求的前提下，可以實現視頻結構化的單路成本優化。

AI芯片+深度學習平臺如何把握時代契機？

兩大契機正在推動AI軟硬件技術的結盟以及開源生態的壯大。

百度CTO王海峰在WAVE SUMMIT 2020深度學習開發者峰會上說到，算法、算力及數據的持續共同進步，使技術的應用邊界不斷被拓展。圍繞深度學習平臺的技術和產業生態日漸繁榮，將有助于推動人工智能進入工業大生產階段，加速各行各業智能化升級，并不斷催生新的應用、新的產業。

另一方面，從市場需求及政策導向看，疫情帶來的遠程辦公、云課堂等復工復產新模式，公共安全、應急管理、城市治理等國計民生相關產業迫在眉睫的智能化需求，以及新基建大潮，為技術創新創造了良好的機遇。深度學習軟硬件平臺的結合，作為新型基礎設施的重要環節，將與云計算、5G、物聯網、數據中心等互相融合促進，加速產業智能化進程。

飛槳是讓深度學習的創新與應用更簡單。其迭代發展主要有兩大驅動，最原生的驅動輪是產業實踐的需求和打磨，對應著對性能、大規模訓練和部署能力，相應的特色優勢也吸引著更多用戶的使用。此外，提升用戶體驗則是另一個重要驅動輪，需要關注用戶編程界面的優化和基礎功能建設的完善，打造一個靈活易用的產業級深度學習框架。

新發布的全景圖包括飛槳開源深度學習平臺和飛槳企業版。飛槳開源深度學習平臺部分，包含核心框架、基礎模型庫、端到端開發套件與工具組件，持續開源核心能力，為產業、學術、科研創新提供基礎底座。同時，隨著企業應用的需求越來越豐富和強烈，飛槳升級了產品架構，推出了飛槳企業版。

由于移動端和嵌入端場景對輕量化的要求非常高，硬件芯片也更為廣泛多樣。因此在自有多硬件加速庫的基礎上，提供了獨立的輕量化推理引擎Paddle Lite，對端側任務提供高性能支持。同時，在算子定義和模型表達層面，和核心框架保持一致。也正是在Paddle Lite下，實現了對國產AI芯片最全面的支持。

AI芯片的持續爆發，仍在引發與其適配優化的編譯器需求，以及與Inference框架內應用整合的需求，標準化和體系化將是未來的主要方向：

一方面，需要建立行業統一標準，例如在深度學習框架、軟硬適配接口、整機系統集成等領域推動統一的行業標準，促進行業規模化應用；

另一方面，需要加快軟硬一體適配，以滿足視覺、自然語言處理、語音等典型AI應用場景的需要，加速推進深度學習平臺在訓練、預測等功能與芯片、整機等智能硬件平臺廠商適配融合；此外，通過建設和完善深度學習與人工智能行業應用生態的運行機制，共同推動應用普及等等，都是飛槳生態下一步非常重要的方向。

當然，要被更多開發者認可，還需要繼續緊貼用戶需求打磨，擴大上下游生態，進而才能建立具備高度壁壘的綜合競爭力。

本文由電子發燒友網原創，未經授權禁止轉載。如需轉載，請添加微信號elecfans999.