
專家介紹

ChatGPT的核心優勢是通過基于自然語言處理技術模型、情景模型和語言模型來自動生成文章和代碼。在前面的文章中,我們從攻擊視角探討了ChatGPT對網絡安全的影響,本文將從防御視角來探討ChatGPT在網絡安全領域的作用,并進行能力評估。
ChatGPT在網絡安全領域的應用主要有以下幾個方面:1.威脅檢測:(1)提取簽名規則(2)識別惡意代碼2.代碼審計:分析代碼漏洞3.威脅情報:從文本中提取情報4.安全運營:生成安全運營報告
威脅檢測:提取簽名規則
能力指數:★★★☆☆
眾所周知,GitHub上有大量開源的簽名規則,例如Yara、Sigma、ES等,可以用于威脅檢測。由于ChatGPT訓練數據包含GitHub內容,因此我們可以測試ChatGPT的規則提取能力。我們首先要求ChatGPT輸出檢測挖礦木馬的Sigma規則。


ChatGPT威脅檢測提取簽名規則的能力指數評分為★★★☆☆,勉強及格。
威脅檢測:識別惡意代碼
能力指數:★★★★☆
ChatGPT有能力理解和分析代碼,我們讓ChatGPT來分析下前一篇文章所生成的webshell后門。第一步,識別一句話木馬。




代碼審計:分析代碼漏洞
能力指數:★★☆☆☆
前面提到ChatGPT擅長代碼分析,接下來我們看看它在代碼審計方面的能力,是否可以幫助我們發現代碼中存在的問題。首先,我們以比較簡單的存在SQL注入的代碼審計為例:


威脅情報:從文本提取情報
能力指數:★★☆☆☆
從公開報道中摘取有關情報,是安全領域最為常見的自然語言處理應用場景之一。我們讓ChatGPT從CrowdStrike的“麻辣香鍋”惡意軟件公開報道中,提取出一份中文摘要。
看起來還不錯!我們再讓ChatGPT提取響尾蛇組織使用的TTP。
上述回答給出的鏈接已經失效,無法證實其答案的正確性。
結論:ChatGPT從文本提取情報的能力指數為★★☆☆☆。綜合來看,ChatGPT 對于提取情報有一定的幫助,但還需要人工核實。安全運營:生成安全運營報告
能力指數:★★☆☆☆
ChatGPT可以提升安全運營效率,已有公開報道稱它可以解析安全日志,針對可能存在的威脅事件,提供詳細的處置建議,并發布相應的事件通告;還可以生成用戶報告,支持組織有效地管理安全風險。安全運營的最終目標是實現智能運營,而最具挑戰性的工作是在海量告警中發現有效攻擊。ChatGPT目前無法實現海量告警研判分析,仍然需要安全運營專家的參與,才能達到最佳效果。 結論:ChatGPT生成安全運營報告的能力指數為★★☆☆☆。基于ChatGPT構建安全大模型
看到ChatGPT在網絡安全防御方面的諸多優點,很多安全企業可能蠢蠢欲動,希望做自己的安全大模型。如何讓大模型適配安全場景呢?很多人可能都會想到在ChatGPT這樣的大模型基礎上,針對安全領域重新訓練一個增量模型。但是有幾個關鍵問題需要考慮:1.訓練成本:大模型訓練成本取決于訓練數據的大小和模型復雜性。當訓練數據更大和模型更復雜時,訓練成本會更高,因為需要更多的計算資源來處理更多的數據。2.模型調整:針對安全運營場景,需要調整大模型的數據輸入,用于海量安全事件的研判分析,這需要安全運營和AI專家投入。3.最終效果:由于安全事件本質上是低概率事件,大規模對于少見的,甚至是新型的安全攻擊類型,當前還無法有效處理。結語
ChatGPT使AI在網絡安全防御中的應用更為廣泛,它是一種基于深度學習的自然語言生成技術,可以幫助網絡安全防御人員提取簽名規則,識別惡意代碼,提升代碼審計和情報提取的效率;幫助安全運營人員分析日志,生成安全運營報告,給出有效的防護措施建議。鑒于這些益處,許多企業希望構建適配安全場景的大模型,這就必須考慮訓練成本、模型調整這些因素,并且大模型對于少見的、甚至是新型的安全攻擊類型,當前還無法有效處理。即便如此,我們仍然相信,ChatGPT等大模型的出現一定會對網絡安全領域帶來很大改變,實現智能分析和運營,只是一個時間問題。下期預告
下期我們將看看ChatGPT是不是無所不能,有沒有干不了的事情呢?敬請期待。
往期精彩推薦
點擊“閱讀原文”,了解更多華為數據通信資訊!
原文標題:從防御視角探討ChatGPT對網絡安全的影響
文章出處:【微信公眾號:華為數據通信】歡迎添加關注!文章轉載請注明出處。
-
華為
+關注
關注
216文章
34876瀏覽量
254508
原文標題:從防御視角探討ChatGPT對網絡安全的影響
文章出處:【微信號:Huawei_Fixed,微信公眾號:華為數據通信】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
Lansweeper:強化網絡安全與資產管理
探索國產網絡安全整機,共筑5G時代網絡安全防護線
智能網聯汽車網絡安全開發解決方案

IP地址歸屬地離線庫——網絡安全行業的基石
最有效的云服務器網絡安全防護措施
常見的網絡硬件設備有哪些?國產網絡安全主板提供穩定的硬件支持
國產網絡安全主板在防御網絡攻擊中的實際應用
如何利用IP查詢技術保護網絡安全?
IP風險畫像如何維護網絡安全
網絡安全技術商CrowdStrike與英偉達合作
海外高防服務器對網絡安全保護的影響
人工智能大模型在工業網絡安全領域的應用
Palo Alto Networks與IBM攜手,深化網絡安全合作
揭秘!家用路由器如何保障你的網絡安全
專家解讀 | NIST網絡安全框架(1):框架概覽

評論