近日,百度飛槳深度學習平臺新增適配比特大陸最新算豐系列 AI 芯片,兩者的成功融合在芯片利用率、性能功耗比等指標上盡顯優勢,相比傳統 GPU 更適合深度學習推理,成為我國構建自主 AI 生態的典范。
2020年伊始,AI 技術持續深入發展,人工智能場景規模化落地與應用不斷創造新的中國速度。隨著 AI 技術與傳統行業的不斷融合,智能經濟時代的全新產業版圖初步顯現。進入智能時代,AI 芯片和深度學習框架二者融合成為構建我國自主 AI 生態的關鍵力量。作為智能時代的操作系統,深度學習框架起到承上啟下的作用——上承應用、下接芯片。作為智能時代的核心大腦,AI 芯片支持框架平臺讓 AI 技術更加普及易用,為行業賦能更多應用場景。
輕量化推理引擎 Paddle Lite 再升級
作為國內功能最完備的端到端開源深度學習平臺,飛槳以其兼具靈活和效率的開發機制、工業級應用效果的模型、超大規模并行深度學習能力、推理引擎一體化設計以及系統化的服務支持,成為加快產業智能化升級的主力軍。
Paddle Lite 是飛槳推出的一套功能完善、易用性強且性能卓越的輕量化推理引擎。輕量化體現在使用較少比特數用于表示神經網絡的權重和激活,能夠大大降低模型的體積,解決終端設備存儲空間有限的問題。
推理性能也整體優于其他框架,以 ResNet50 模型作例,在高通驍龍845上,Paddle Lite 相比其他框架,比 MNN 快10.26%,比 NCNN 快17.1%。近期已正式上線的 V2.3 版本更通過支持“無校準數據的訓練后量化”及網絡結構與算子優化,在不犧牲性能的條件下,將模型壓縮率提升至75%,有效將模型體積大幅縮小,進而滿足移動及邊緣端設備的輕量化需求。而搭載了比特大陸 AI 芯片的 V2.4 版本即將在近期上線。
▲ 百度飛槳與比特大陸兼容性認證書
通過對比特大陸 AI 芯片的適配,Paddle Lite 不僅可實現對多種硬件平臺的兼容,亦能更好地服務用戶實際業務需求、節省模型遷移時間、加快敏捷開發部署,極大豐富了飛槳的硬件生態。
▲ Paddle Lite 支持比特大陸算豐 BM 系列芯片
算豐芯片與飛槳整合效能
與百度同為國內人工智能企業先行者的比特大陸是世界上少數幾家有能力開發云端人工智能芯片的公司之一,并已成功推出四代人工智能芯片(云端芯片算豐 BM1680、算豐 BM1682、算豐 BM1684,終端芯片 BM1880)。憑借多年技術積累與行業實踐,比特大陸 AI 芯片正在迅速成長為國產智能芯片陣營的中堅力量,為中國乃至全球的 AI 平臺落地提供核心支撐。
比特大陸開發的形態豐富的各種 AI 硬件產品均基于自主研發 AI 芯片,擁有完整的國內自主知識產權和專利,同一套 SDK 和簡單易用的工具鏈支持多形態應用,充分滿足云+邊的“新基建”算力基礎設施建設需求。
最新一代算 BM1684 芯片,聚焦于云端及邊緣應用的人工智能推理,采用臺積電 12nm 工藝,在典型功耗僅16瓦的前提下,INT8 算力可高達 17.6Tops,在 Winograd 卷積加速下,INT8 算力更提升至 35.2Tops,是一顆低功耗、高性能的 SoC 芯片。其算力性能和性能功耗比指標業界領先,超過主流推理 GPU,在性能滿足視頻分析業務需求的前提下,可以實現視頻結構化的單路成本最優。
▲ 算豐1684在飛槳框架上 int8 運行 Resnet50 的性能指標
強強聯手共建 AI 生態圈
與此同時,比特大陸積極參與百度的黃埔學院計劃,進一步深化雙方合作關系,并成功合作開發運行百度“行人車輛”算法的 SS-5416C3 人工智能一體機,交付于公安部安全與警用電子產品質量檢測中心進行檢測。此外,在接下來發布的飛槳開源框架版本,也會完整對比特大陸的編譯工具 BM Lang 及相關 Profiler 工具的支持。
隨著飛槳在穩定性、兼容性和成熟度等方面不斷升級,比特大陸 AI 芯片也在不斷提升性能、優化指標,助力飛槳加速產業結合,二者聯手幫助產業實現智能轉型,為我國產業智能化發展貢獻力量。
責任編輯:gt
-
芯片
+關注
關注
456文章
50889瀏覽量
424301 -
AI
+關注
關注
87文章
30998瀏覽量
269328 -
百度
+關注
關注
9文章
2270瀏覽量
90449
發布評論請先 登錄
相關推薦
評論