2023年12月23日下午,OpenHarmony城市技術(shù)論壇(以下簡稱“技術(shù)論壇”)——第6期(武漢站)于華中科技大學(xué)梧桐語問學(xué)中心明德報告廳圓滿舉辦。本次技術(shù)論壇聚焦“大模型時代的系統(tǒng)軟件”,旨在探索AI大模型在終端操作系統(tǒng)領(lǐng)域的創(chuàng)新趨勢和挑戰(zhàn)。論壇從“終端操作系統(tǒng)十大技術(shù)挑戰(zhàn)”出發(fā),邀請了學(xué)術(shù)界和工業(yè)界的資深專家,共同探討AI系統(tǒng)軟件基礎(chǔ)設(shè)施、邊緣智能系統(tǒng)、大模型安全、智能化系統(tǒng)軟件分析等關(guān)鍵技術(shù)。論壇匯集了業(yè)界前沿的觀點和見解,為終端操作系統(tǒng)領(lǐng)域的未來發(fā)展指明了方向。

本次技術(shù)論壇由OpenHarmony項目群技術(shù)指導(dǎo)委員會(以下簡稱“OpenHarmony TSC”)主辦,華中科技大學(xué)OpenHarmony技術(shù)俱樂部承辦,武漢大學(xué)OpenHarmony技術(shù)俱樂部協(xié)辦。華中科技大學(xué)教授、OpenHarmony技術(shù)俱樂部主任王浩宇擔(dān)任出品人。

出席本次論壇的嘉賓陣容強大,包括華中科技大學(xué)人工智能與自動化學(xué)院副院長鐘勝、網(wǎng)絡(luò)空間安全學(xué)院副院長陳凱擔(dān)任本次技術(shù)論壇的主持人,以及邀請到了學(xué)術(shù)界和工業(yè)界的多位專家學(xué)者包括:北京大學(xué)計算機學(xué)院教授、副院長郭耀;中國科學(xué)院自動化研究所副總工程師、武漢人工智能研究院院長王金橋;華為MindSpore架構(gòu)師李政;上海交通大學(xué)助理研究員糜澤羽;統(tǒng)信軟件終端操作系統(tǒng)產(chǎn)線架構(gòu)師李鶴;中國科學(xué)院信息工程研究所副研究員孟國柱;華中科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副教授李珍;北京郵電大學(xué)計算機學(xué)院副研究員徐夢煒;武漢大學(xué)國家網(wǎng)絡(luò)安全學(xué)院副研究員李霏;華中科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副研究員周威。他們的報告為聽眾帶來了深刻的洞見,并就大模型時代系統(tǒng)軟件的創(chuàng)新方向進(jìn)行了深入的探討。

此外,本次論壇還得到了眾多業(yè)界嘉賓的支持,華中科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長鄒德清、院長助理湯學(xué)明;北京郵電大學(xué)未來學(xué)院副院長喻鵬;武漢大學(xué)OpenHarmony技術(shù)俱樂部主任張立強;OpenHarmony TSC秘書處副主任張蕃等多位嘉賓出席本次技術(shù)論壇。他們的參與進(jìn)一步提升了論壇的影響力和權(quán)威性。

合影留念

技術(shù)論壇出品人:華中科技大學(xué)教授、OpenHarmony技術(shù)俱樂部主任 王浩宇

技術(shù)論壇主持人:華中科技大學(xué)人工智能與自動化學(xué)院副院長 鐘勝

技術(shù)論壇主持人:華中科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副院長 陳凱

華中科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長鄒德清為本次技術(shù)論壇致辭。他表示,在當(dāng)今數(shù)字化快速發(fā)展的時代,大模型技術(shù)已成為引領(lǐng)創(chuàng)新浪潮的關(guān)鍵力量。OpenHarmony 等系統(tǒng)軟件在推動城市科技進(jìn)步方面發(fā)揮著舉足輕重的作用,不僅加速了數(shù)字城市的智能化進(jìn)程,還促使我們深入思考如何在這一過程中保障系統(tǒng)的穩(wěn)定性和網(wǎng)絡(luò)的安全性。本次論壇旨在匯聚智慧、碰撞思想,期待各位專家學(xué)者能夠分享在大模型時代系統(tǒng)軟件領(lǐng)域的成果和經(jīng)驗,共同探討如何更好地應(yīng)對網(wǎng)絡(luò)空間安全的挑戰(zhàn)。讓我們攜手努力,共同推動OpenHarmony在大模型時代的創(chuàng)新發(fā)展,為構(gòu)建安全、穩(wěn)定、智能的數(shù)字城市貢獻(xiàn)智慧和力量。

華中科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長 鄒德清

北京大學(xué)計算機學(xué)院教授、副院長郭耀在《面向大模型的泛在操作系統(tǒng):挑戰(zhàn)與展望》的報告中深入探討了新一代信息技術(shù)背景下,大模型與泛在操作系統(tǒng)(Ubiquitous Operating System, UOS)的緊密關(guān)聯(lián)。他指出,隨著人機物融合泛在計算時代的來臨,新型應(yīng)用模式與場景對操作系統(tǒng)提出了更高的要求。在報告中,郭耀詳細(xì)介紹了泛在操作系統(tǒng)的概念、架構(gòu)與實例。他深入剖析了大模型對操作系統(tǒng)帶來的技術(shù)挑戰(zhàn),并展望了大模型和操作系統(tǒng)結(jié)合的未來發(fā)展方向。

北京大學(xué)計算機學(xué)院教授、副院長 郭耀

中國科學(xué)院自動化研究所副總工程師、武漢人工智能研究院院長王金橋在《多模態(tài)大模型的發(fā)展與思考》的報告中深入探討了多模態(tài)大模型在人工智能領(lǐng)域的突破與前景。他指出,近年來,隨著大算力、大數(shù)據(jù)和AI算法的快速發(fā)展,以ChatGPT、GPT-4等為代表的人工智能大模型的成功標(biāo)志著人工智能從以專用小模型訓(xùn)練為主的“手工作坊時代”邁入到以通用大模型預(yù)訓(xùn)練為主的“工業(yè)化時代”,成為新一代人工智能發(fā)展分水嶺。王金橋詳細(xì)分析了大模型的技術(shù)發(fā)展現(xiàn)狀,能力涌現(xiàn)機理及其存在的問題。他深入介紹了多模態(tài)大模型紫東太初的研發(fā)歷程、關(guān)鍵技術(shù)和當(dāng)前進(jìn)展等情況,以及知識增強的大模型方法,并探討了大模型的行業(yè)應(yīng)用和未來發(fā)展趨勢。

中國科學(xué)院自動化研究所副總工程師、武漢人工智能研究院院長 王金橋

華為MindSpore架構(gòu)師李政在《MindSpore端側(cè)大模型部署助力OS智能化》的報告中提到,生成式AI大模型如ChatGPT正悄然改變?nèi)藗児ぷ骱蜕罘绞健．?dāng)AI大模型與智能終端相結(jié)合,勢必為用戶帶來前所未有的全新體驗。然而,受限于終端設(shè)備的算力和存儲,AI大模型在端側(cè)的部署仍面臨諸多技術(shù)挑戰(zhàn)。在報告中,李政詳細(xì)闡述了云端邊全場景訓(xùn)推一體開源AI框架“MindSpore”的架構(gòu)設(shè)計與功能特性,并進(jìn)一步分享了MindSpore在大模型端側(cè)部署及推理加速領(lǐng)域的相關(guān)探索與實踐,展示了如何通過技術(shù)創(chuàng)新克服挑戰(zhàn),實現(xiàn)大模型在智能終端的高效部署。

華為MindSpore架構(gòu)師 李政

上海交通大學(xué)助理研究員糜澤羽在《PowerInfer: 面向消費級顯卡的大模型快速推理框架》的線上報告中介紹了生成式大語言模型(LLM)在創(chuàng)造性寫作、高級代碼生成和復(fù)雜自然語言處理任務(wù)方面的強大能力,并指出這些能力使得LLM受到了廣泛關(guān)注。然而,由于消費級顯卡的內(nèi)存容量有限,因此本地部署大語言模型存在較大挑戰(zhàn)。針對這一問題,糜澤羽提到“PowerInfer”作為面向消費級顯卡的大模型快速推理框架,該框架利用大語言模型推理中固有的高局部性(神經(jīng)元激活的冪律分布),設(shè)計了一種GPU-CPU混合推理引擎,減少了GPU內(nèi)存需求和CPU-GPU數(shù)據(jù)傳輸,從而顯著提升了大語言模型在本地部署環(huán)境上的推理速度。

上海交通大學(xué)助理研究員 糜澤羽

統(tǒng)信軟件終端操作系統(tǒng)產(chǎn)線架構(gòu)師李鶴在《deepin操作系統(tǒng)的大模型探索之旅》的報告中,分析了大語言模型在桌面操作系統(tǒng)的發(fā)展趨勢和應(yīng)用情況,介紹了deepin操作系統(tǒng)在大語言模型應(yīng)用方面的研究,包括deepin操作系統(tǒng)的各個系統(tǒng)組件和應(yīng)用軟件,如智能助手、郵箱、瀏覽器、文件管理器、deepin IDE對在線大模型以及本地模型的應(yīng)用情況。

統(tǒng)信軟件終端操作系統(tǒng)產(chǎn)線架構(gòu)師 李鶴

中國科學(xué)院信息工程研究所副研究員孟國柱在《面向軟件開發(fā)的大模型安全評估與風(fēng)險探討》的報告中深入探討了大模型在軟件開發(fā)領(lǐng)域的應(yīng)用及其帶來的安全問題。他指出,隨著大模型研究的快速發(fā)展,并逐漸應(yīng)用于軟件開發(fā)的多個領(lǐng)域,如代碼的自動生成、功能補全、缺陷修復(fù)等。然而,與此同時,大模型的安全風(fēng)險也逐漸凸顯。孟國柱強調(diào)了訓(xùn)練過程的不可知性可能使大模型容易受到錯誤或缺陷代碼的影響,“幻覺”問題使得生成的代碼不可控,針對大模型的越獄攻擊使模型的輸出被劫持等風(fēng)險。在報告中,孟國柱對大模型在軟件開發(fā)領(lǐng)域的能力進(jìn)行了全面評估,深入分析了存在的問題和潛在風(fēng)險。他強調(diào)了應(yīng)對大模型安全挑戰(zhàn)的迫切性,并呼吁業(yè)界共同探討有效的解決方案,以確保大模型在軟件開發(fā)中的安全應(yīng)用。

中國科學(xué)院信息工程研究所副研究員 孟國柱

華中科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副教授李珍在《大模型下的系統(tǒng)軟件漏洞檢測》的報告中探討了深度學(xué)習(xí)技術(shù)驅(qū)動的系統(tǒng)軟件漏洞檢測的現(xiàn)狀與前景。她指出,隨著深度學(xué)習(xí)技術(shù)的發(fā)展,在數(shù)據(jù)驅(qū)動下,采用人工智能技術(shù),自動學(xué)習(xí)漏洞模式以檢測系統(tǒng)軟件中的漏洞已成為一種趨勢。然而目前方法存在系統(tǒng)軟件可獲得的漏洞代碼數(shù)量少、樣本中存在大量漏洞無關(guān)語句、漏洞行定位和漏洞類型預(yù)測準(zhǔn)確率低等問題。李珍強調(diào),大模型的出現(xiàn)為系統(tǒng)軟件的智能漏洞檢測帶來了新的機遇。她在報告中分享了在大模型下系統(tǒng)軟件漏洞檢測方面的探索,包括大規(guī)模漏洞領(lǐng)域數(shù)據(jù)集構(gòu)建、專家知識與數(shù)據(jù)驅(qū)動的融合、基于代碼大模型的指令微調(diào)、大模型的攻擊與防御等方面的研究。

華中科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副教授 李珍

北京郵電大學(xué)計算機學(xué)院副研究員徐夢煒在《端側(cè)大模型和衛(wèi)星操作系統(tǒng)》的報告中強調(diào)了邊緣智能技術(shù)在用戶隱私保護(hù)和低延時推理方面的優(yōu)勢。然而,由于神經(jīng)網(wǎng)絡(luò)模型(DNN)為代表的機器學(xué)習(xí)算法的參數(shù)量大、計算量大,在資源受限的邊緣側(cè)高效部署面臨挑戰(zhàn)。徐夢煒分享了團(tuán)隊在邊緣智能系統(tǒng)軟件方向的研究成果和思考,并探討了在當(dāng)前大語言模型(LLM)快速發(fā)展背景下邊緣智能領(lǐng)域所面臨的新要求和挑戰(zhàn)。此外,徐夢煒還關(guān)注到低軌衛(wèi)星星座的快速發(fā)展,并分析了構(gòu)建新一代衛(wèi)星操作系統(tǒng)所面臨的挑戰(zhàn)與機遇。他分享了團(tuán)隊在基于Rust語言構(gòu)建開源衛(wèi)星操作系統(tǒng)RROS過程中的嘗試和早期成果。

北京郵電大學(xué)計算機學(xué)院副研究員 徐夢煒

武漢大學(xué)國家網(wǎng)絡(luò)安全學(xué)院副研究員李霏在《大模型內(nèi)容安全與價值觀對齊》的報告中深入探討了大模型內(nèi)容安全的重要性及其與價值觀的關(guān)聯(lián)。他指出,以ChatGPT為代表的大模型技術(shù)引發(fā)了公眾的廣泛關(guān)注,并帶來了諸多令人矚目的應(yīng)用。然而,由于大模型基于海量大數(shù)據(jù)進(jìn)行訓(xùn)練,數(shù)據(jù)中存在的仇恨、歧視、暴力等不良內(nèi)容可能被大模型所學(xué)習(xí),進(jìn)而在特定條件下生成具有社會危害性的言論,因此研究大模型的內(nèi)容安全問題顯得尤為重要。李霏從大模型的訓(xùn)練機理、潛在安全隱患、檢測手段、價值觀對齊等多個方面進(jìn)行了詳細(xì)闡述,他回顧了當(dāng)前的相關(guān)工作和方法,梳理了大模型內(nèi)容安全治理的技術(shù)方案,并強調(diào)了維護(hù)大模型內(nèi)容安全與價值觀對齊的重要性。

武漢大學(xué)國家網(wǎng)絡(luò)安全學(xué)院副研究員 李霏

華中科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副研究員周威在《大模型輔助的物聯(lián)網(wǎng)系統(tǒng)虛擬化技術(shù)及其安全應(yīng)用》的報告中深入探討了物聯(lián)網(wǎng)系統(tǒng)在“萬物互聯(lián)”時代面臨的安全挑戰(zhàn)。特別是隨著嵌入式系統(tǒng)廣泛應(yīng)用于物聯(lián)網(wǎng)中,這些系統(tǒng)大多使用低級語言開發(fā),普遍缺乏防御措施,因此存在大量安全漏洞等。同時,嵌入式設(shè)備硬件資源受限,難以在設(shè)備上直接應(yīng)用模糊測試等傳統(tǒng)自動化漏洞檢測技術(shù)。周威指出,隨著AI和大模型技術(shù)的飛速發(fā)展,如何利用這些先進(jìn)技術(shù)構(gòu)建虛擬化環(huán)境,以輔助實現(xiàn)自動化物聯(lián)網(wǎng)系統(tǒng)與應(yīng)用漏洞檢測,已成為工業(yè)界和學(xué)術(shù)界關(guān)注的焦點。在報告中,周威分析了多種最新的AI與大模型輔助的嵌入式系統(tǒng)與應(yīng)用虛擬化技術(shù),并介紹了如何利用虛擬化技術(shù)實現(xiàn)快速、自動化的嵌入式系統(tǒng)與固件漏洞檢測。

華中科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副研究員 周威

隨著人工智能技術(shù)的不斷突破,大模型已經(jīng)成為推動操作系統(tǒng)創(chuàng)新的重要驅(qū)動力。結(jié)合大模型技術(shù),操作系統(tǒng)不僅能更好地理解用戶的需求和意圖,提供更智能化的服務(wù),還能推動操作系統(tǒng)向原生智能方向發(fā)展。展望未來,OpenHarmony將繼續(xù)提升智能體驗的競爭力,不斷向原生智能演進(jìn),致力于構(gòu)建一個面向萬物智聯(lián)世界的分布式全場景協(xié)同的開源操作系統(tǒng)基座與生態(tài)系統(tǒng)。大模型的崛起為操作系統(tǒng)帶來了前所未有的機遇與挑戰(zhàn),只有不斷創(chuàng)新,才能在變革中保持領(lǐng)先。

審核編輯 黃宇