在线观看www成人影院-在线观看www日本免费网站-在线观看www视频-在线观看操-欧美18在线-欧美1级

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

騰訊發布業內首個AI安全攻擊矩陣

hl5C_deeptechch ? 來源:未知 ? 作者:steve ? 2020-09-30 18:27 ? 次閱讀

近年來,AI 技術在圖像識別、語音識別、自然語言翻譯等領域得到廣泛應用。因此,在關鍵的 AI 應用場景上,其安全問題也逐步成為企業所擔憂和關注的話題

如果說模型誤判是對 AI 系統攻擊,那么信息泄露就是對 AI 系統的竊取。這種攻擊可導致模型功能被第三方還原,造成用戶隱私的泄漏、公司信息資產被竊取等巨大危害。

一個良好的模型,往往需要大量的算力訓練與高質量的數據支持。很多場景下,企業將訓練好的模型部署在云端,開放 API 接口供用戶使用。用戶可以根據大量的輸入查詢,得到大量模型輸出,從而對此系統建模,逆向還原其功能,進而降低商用模型的競爭力并削減其收益。

在醫療或金融領域,用戶的數據是極為重要的資源,如果泄露,會造成嚴重的隱私危機和商業價值流失。由于機器學習是數據驅動的,研究者通常采用分布式方法打破數據孤島,聯合企業間數據,并保證數據安全。

但是在這種場景下,訓練者依然有可能竊取數據端的內容。此外,如果項目成果以模型的方式交付,攻擊者也有可能基于所得模型逆向恢復出訓練數據,引發隱私危機。在考慮模型性能的同時,技術人員與用戶也要對 AI 系統自身的安全有所考慮,確保 AI 模型在業務場景下的安全性,從而避免被攻擊者輕易控制、影響、或欺騙,也避免造成結果誤判或隱私數據泄漏等嚴重后果。

9 月 25 日,騰訊發布業內首個 AI 安全攻擊矩陣。這是一份具有高實用性的 AI 安全技術指導框架,首次全面梳理了學術及工業界最前沿的 AI 安全研究,并從攻擊者視角系統列舉了 AI 技術研發部署各個環節中的攻擊過程與技術實現手段,可幫助 AI 從業者快速了解全生命周期下 AI 系統的風險點與對應緩解方法,為 AI 系統的安全部署和應用落地提供重要的技術參考。

圖|AI 安全的威脅風險矩陣(來源:騰訊)

據了解,該矩陣由騰訊兩大實驗室騰訊 AI lab 和朱雀實驗室聯合編纂,并借鑒了網絡攻防領域中成熟度高、實戰意義強的開源安全研究框架 ATT&CK,全面分析了攻擊者視角下的戰術、技術和流程,能幫助防御者更精準地掌握安全響應方法與防御措施。相比從單一角度研究算法的安全問題,該矩陣的實用價值和參考意義更高。

該 AI 安全的威脅風險矩陣,不僅強調真實場景,還按照較成熟、研究中、潛在威脅三種成熟度直觀地將攻擊技術分類。據騰訊 AI Lab 介紹,矩陣編撰的核心難點在于如何選取和梳理 AI 系統安全問題的分析角度。

作為一種與其他軟硬件結合運作的應用程序,AI 系統安全的分析切入角度與傳統互聯網產品并不完全一致。經過充分調研,該團隊最終從 AI 研發部署生命周期的角度切入,總結歸納出 AI 系統在不同階段所面臨的安全風險,從全局視角來審視 AI 的自身安全。

在上述思想的指導下,該矩陣能夠像字典一樣便捷使用。研究人員和開發人員根據 AI 部署運營的基本情況,可對照風險矩陣,來排查潛在安全問題,并根據推薦的防御建議,降低已知的安全風險。

圖|攻擊者的入侵手段示意圖(來源:騰訊)

據悉,騰訊朱雀實驗室則專注于實戰攻擊技術研究和 AI 安全技術研究,以攻促防、守護騰訊業務及用戶安全。此前,朱雀實驗室就曾模擬實戰中的黑客攻擊路徑,直接控制 AI 模型的神經元,為模型“植入后門”,在幾乎無感的情況下,實現完整的攻擊驗證,這也是業內首個利用AI模型文件直接產生后門效果的攻擊研究。

-End-

原文標題:騰訊發布業內首個AI安全攻擊矩陣,可像查字典一樣排查風險

文章出處:【微信公眾號:DeepTech深科技】歡迎添加關注!文章轉載請注明出處。

責任編輯:haq

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    31360

    瀏覽量

    269762
  • 騰訊
    +關注

    關注

    7

    文章

    1664

    瀏覽量

    49526

原文標題:騰訊發布業內首個AI安全攻擊矩陣,可像查字典一樣排查風險

文章出處:【微信號:deeptechchina,微信公眾號:deeptechchina】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    騰訊AI助手“元寶”團隊調整至CSIG

    近日,騰訊AI助手應用“元寶”經歷了一次重要的組織調整。據悉,該產品的整個團隊已整體轉至騰訊的云與智慧產業事業群(CSIG),這一變動標志著“元寶”將在更廣闊的平臺上尋求新的發展機遇。 此次調整后
    的頭像 發表于 01-18 11:32 ?360次閱讀

    騰訊申請注冊“騰訊AI代碼助手”商標

    近日,騰訊科技(深圳)有限公司正式向相關機構申請注冊了兩枚“騰訊AI代碼助手”商標。這兩枚商標的國際分類分別為科學儀器和網站服務,目前正處于等待實質審查的階段。 據了解,騰訊
    的頭像 發表于 12-13 10:28 ?320次閱讀

    聯想發布業內首個中小企業IT服務智能體

    聯想近日正式推出了業內首個專為中小企業設計的IT服務智能體——“聯想百應”。該智能體基于聯想擎天智能IT引擎(擎天3.0)打造,由原先的聯想百應一站式中小企業IT服務平臺升級而來。
    的頭像 發表于 12-02 10:51 ?290次閱讀

    騰訊申請注冊多枚“騰訊AI助手”商標

    近日,根據愛企查App的最新數據顯示,騰訊科技(深圳)有限公司在商標領域有了新動作,該公司已經正式申請注冊了多枚“騰訊AI助手”商標。這一舉動無疑展示了騰訊在人工智能(
    的頭像 發表于 11-19 11:01 ?448次閱讀

    AI即服務平臺的安全性分析

    AIaaS平臺降低AI應用門檻,但面臨數據泄露、惡意攻擊安全威脅。需加強數據加密、訪問控制、模型加固、供應鏈安全等措施,確保合法合規,提供安全
    的頭像 發表于 11-07 09:32 ?152次閱讀

    全球首個開源AI標準正式發布

    近日,在備受矚目的2024年ALL THINGS OPEN大會上,開源組織Open Source Initiative(OSI)宣布了一項重大突破——正式發布了開源人工智能定義(OSAID)1.0版本。這一里程碑式的成就標志著全球首個開源
    的頭像 發表于 10-31 10:59 ?288次閱讀

    阿里云推出業內首個域名AI大模型應用

    8月8日,阿里云在萬眾矚目的萬網煥新發布會上震撼宣布,其域名產品服務已全面邁入AI智能化時代,成功推出業內首個域名AI大模型應用,并同步上線
    的頭像 發表于 08-08 17:00 ?619次閱讀

    鑒源實驗室·HTTP協議網絡安全攻擊

    作者 | 李芷若?上海控安可信軟件創新研究院工控網絡安全組 來源 | ?鑒源實驗室 社群 | ?添加微信號“ TICPShanghai ”加入“上海控安51fusa安全社區” 01 背 景 隨著
    的頭像 發表于 07-30 13:48 ?347次閱讀
    鑒源實驗室·HTTP協議網絡<b class='flag-5'>安全攻擊</b>

    商湯科技聯合海通證券發布業內首個面向金融行業的多模態全棧式大模型

    4月23日,商湯科技正式推出“日日新SenseNova 5.0”大模型體系,并與海通證券聯合發布業內首個面向金融行業的多模態全棧式大模型。
    的頭像 發表于 04-26 09:48 ?493次閱讀
    商湯科技聯合海通證券<b class='flag-5'>發布</b><b class='flag-5'>業內</b><b class='flag-5'>首個</b>面向金融行業的多模態全棧式大模型

    業內首個企業級AI驅動的Wi-Fi 7解決方案RUCKUS R770榮膺大獎!

    我們非常高興地宣布,業內首個企業級AI驅動的Wi-Fi 7解決方案RUCKUS R770,榮膺The Wi-Fi Awards頒發的備受矚目的“最佳年度創新(Innovation
    的頭像 發表于 04-19 16:17 ?568次閱讀

    AI安全基準測試 v0.5: 聚焦通用聊天文本模型安全

    隨著AI技術的快速發展,相關安全問題也日益凸顯。僅過去數周內,便有LastPass公司遭遇音頻深度偽造攻擊等案例浮出水面。為了應對這一挑戰,新推出的AI Safety基準測試將成為模型
    的頭像 發表于 04-19 11:12 ?451次閱讀

    華為提出業界首個L4級AI安全智能體,邁入智能防御新時代

    2024華為分析師大會期間,在“加速邁向網絡智能化”論壇上,華為提出業界首個L4級AI安全智能體,該智能體架構為人工智能時代全球網絡安全防御提供了新的思路和方向,引領網絡
    的頭像 發表于 04-19 09:23 ?688次閱讀

    世界數字技術院發布:生成式AI安全測試標準及大語言模型

    據悉,上述兩款標準主要針對大型模型與生成式AI應用領域的安全檢測設定了新基準。參與制定工作的單位有OpenAI、螞蟻集團、科大訊飛、谷歌、微軟、英偉達、百度、騰訊等多家知名企業,其中,《大語言模型
    的頭像 發表于 04-17 16:51 ?1146次閱讀

    華寶新能獲評行業內首個獲得國家級單項冠軍殊榮的企業

    近期,國家工信部第八批制造業單項冠軍企業名單公示,華寶新能憑借頂尖的技術實力與領先的市場份額成功入選,是行業內首個獲得國家級單項冠軍殊榮的企業。
    的頭像 發表于 03-14 10:08 ?478次閱讀
    華寶新能獲評行<b class='flag-5'>業內</b><b class='flag-5'>首個</b>獲得國家級單項冠軍殊榮的企業

    國內首個生成式人工智能安全技術文件發布,燧原科技深度參編

    近日,全國網絡安全標準化技術委員會(TC260)正式發布了《生成式人工智能服務安全基本要求》(以下簡稱《基本要求》),是國內首個面向AIGC服務安全
    的頭像 發表于 03-12 10:35 ?727次閱讀
    國內<b class='flag-5'>首個</b>生成式人工智能<b class='flag-5'>安全</b>技術文件<b class='flag-5'>發布</b>,燧原科技深度參編
    主站蜘蛛池模板: 国产精品高清免费网站| 日本欧美一级| bt天堂在线www最新版资源网| 五月婷婷色视频| 伊人福利视频| 日本aaaa| 男女交性高清视频无遮挡| 国产伦精品一区二区三区高清| 豆国产97在线 | 欧洲| 手机看片a永久免费看大片| 亚洲 [12p]| 成熟女性毛茸茸xx免费视频| 午夜在线观看视频在线播放版| 拍真实国产伦偷精品| 亚洲人成电影在线小说网色| 4438x成人网最大色成网站| 免费看国产片| 第九色| 精品伊人久久大香线蕉网站| 日韩色爱| 三级黄色短视频| 四虎新地址| 欧美日韩精品乱国产| 四虎永久在线观看免费网站网址 | 欧美黑人粗暴另类多交| 久久久精品波多野结衣| 亚洲成人午夜影院| 不卡无毒免费毛片视频观看| 激情五月综合综合久久69| 免费看 s色| 女性一级全黄生活片免费看| 四虎欧美在线观看免费| 欧美日韩精品一区二区在线线| 国产一二三区在线| 日本三级黄色网址| 黄色大片aa| 三级在线播放| 日韩a无吗一区二区三区| 狠狠色噜噜狠狠狠狠| 仙踪林欧美另类视频| 俄罗斯欧美色黄激情|