近日,2024 CCF 大數據與計算智能大賽(簡稱CCF BDCI)在重慶郵電大學舉行了專場技術分享會。本次活動由中國計算機學會主辦,重慶郵電大學計算機學院/人工智能學院承辦,與算能、螞蟻技術研究院聯合開展。
算能等多位技術專家圍繞大賽相關的計算機領域熱點議題進行了主題分享,吸引了70余名學生積極參與。
重慶郵電大學計算機科學與技術學院/人工智能學院 數據科學系主任鄧欣發表了開場致辭,并鼓勵同學們積極參加CCF BDCI大賽。
華北理工大學數據科學實驗中心的主任陳學斌教授,就《數據安全與隱私保護技術的一些思考》這一主題進行了精彩的在線分享。他深入剖析了當前數據安全領域所面臨的多重考驗,并提出了現有的數據安全和隱私保護解決方案,激發了大家對數據安全未來發展的思考。
算能算法工程師在技術研討會上進行了《TPU-MLIR:端側設備中的大模型部署》的主題演講。報告首先從當前深度學習大模型的商業落地入手,引入TPU-MLIR編譯器的開發需求和使用場景,介紹了多級中間表達的設計思路。隨后深入探討了模型量化、公共序列復用以及后處理加速等核心技術,展示了如何利用TPU-MLIR在端側設備上實現大模型的高效部署。此外,他還分享了Qwen、Llama等模型量化前后性能對比情況,并對未來端側智能模型部署技術的發展方向進行了前瞻,探索了智能編譯器技術的新趨勢。
分享結束后,嘉賓與在場的學生們進行了積極的互動,圍繞算子優化思路、量化方法、工具鏈的使用以及賽事的具體內容和規則等話題展開了深入的討論。在交流過程中,可以明顯感受到同學們對算子優化問題表現出濃厚的興趣。
近期,CCF BDCI算能賽題B榜已圓滿結束,我們收到了許多優秀的作品,展現了豐富的OCR模型在Milk-V Duo開發板上的模型移植方法與優化思路。我們期待參賽選手在即將到來的決賽中有出色的表現,并祝愿每位選手取得優異的成績。
-
編程
+關注
關注
88文章
3616瀏覽量
93734 -
人工智能
+關注
關注
1791文章
47279瀏覽量
238493 -
TPU
+關注
關注
0文章
141瀏覽量
20727
發布評論請先 登錄
相關推薦
評論