國家網絡安全宣傳周收營，同往年一樣，總有些話題格外引人議論和關注。今年，人們看到在人工智能技術的支持下，我們正在共同構筑一個更為安全的世界。

針對這個網絡安全的新命題，騰訊信息安全執行委員會主任、騰訊公司安全管理部副總經理楊鵬表示，人工智能技術路線豐富將改善安全困境，但人工智能的本體安全決定安全應用的發展進程。

沒有一個國家可獨立應對AI安全考驗

隨著網絡空間安全呈現出智能化、隱匿性、規模化的特點，讓網絡空間安全的防御、檢測和響應面臨更大的挑戰，網絡空間安全成為人工智能國際間合作的重要領域。

“就如一枚硬幣的兩面，人工智能既帶來好處，也帶來風險，它對國家安全的影響非常大，大到我們現在都無法確定。”聯合國人工智能和機器人中心主任伊萊克利。伯利茲在接受記者采訪時強調，人工智能為解決網絡安全事件、系統漏洞、信息保護等提供了更加高效、智慧的解決方案，但同時也容易被非法利用。

伊萊克利。伯利茲說：“面對技術規范、行業標準、法律法規尚未健全的人工智能新領域，為了消除不透明和分歧，避免惡意的競爭，應對現階段人工智能的發展充分評估，并建立起各方參與的協同合作模式，制定統一的安全監測標準、安全防范架構、安全評估體系。沒有任何一個國家，可以獨立完成這件事。”

當人工智能越來越多地被應用到戰略決策輔助系統和智能軍事系統，基于人工智能的技術代差將對國家安全力量對比產生不可逆的影響，迫切需要審視人工智能對維護國家安全提出的新要求。

上海賽博網絡安全產業創新研究院和上海社科院互聯網研究中心的聯合課題組發布的《人工智能時代的國家安全：風險與治理》報告提出，應從提升風險意識、完善治理體系、加強監管能力和探求國際合作等來構建風險分析和應對框架，提升國家安全的韌性。

對抗還是對抗手段卻在升級

雖然安全對抗本質上就是看誰鑄的門檻更高，但人工智能時代也讓黑客們迎來狂歡，為安全產業帶來顛覆性影響。

中國信息通信研究院副院長王志勤“2018世界人工智能大會·人工智能安全高端對話”上特別強調：“人工智能的發展要趨利避害。”

雖然越來越多的案例顯示，“智能網絡武器”日益威脅著網絡安全，但人工智能在各類安全場景中形成的多種多樣解決方案，也正加速用于網絡安全漏洞檢測、惡意軟件識別、不良信息智能審核、防范網絡犯罪等領域。

如中國科學院院士何積豐亦所說：“在功能安全方面，軟件測試驗證正變得更加智能化，在信息安全方面，主動防御體系同樣愈發智能化。”

騷擾詐騙電話和垃圾短信一直是困擾手機用戶的難題，其潛藏的詐騙風險讓用戶飽受財產損失之苦，而騰訊基于反欺詐 AI 模型建造能力研發的“賓果反詐騙防控系統”3月上線投入使用以來，全國重點詐騙區域詐騙號碼大幅下降接近70%，預警超過50000起，準確率超過99%，覆蓋全國31個省區市，累計為民眾避免損失20億元。

中國科學院復雜系統管理與控制國家重點實驗室主任王飛躍表示，網絡安全系統的實力，很大程度上可能并不取決于其物理本身，而是取決于與其伴生的軟件定義的人工系統映像。

人工智能安全防護能力首先沖擊汽車行業

大量人工智能新技術和網聯功能的引入，首先讓汽車行業面臨全新挑戰，信息安全將成為汽車行業的“國防”，汽車品牌的重要能力將向信息安全遷移。

科恩安全實驗室是全球知名的安全研究團隊，2016年曾通過移動網絡識別、準備和實施攻擊場景等技術成功發現特斯拉的重要漏洞，并遵循負責任的漏洞披露方式把漏洞威脅情況提交給特斯拉官方，供其完善智能防御系統，保障智能車輛安全。

據說，為了保證車輛的網絡安全，特斯拉從 Google、微軟和蘋果等公司挖來了工程師組建安全團隊，專門做產品安全分析和漏洞修復等工作。

北京市政協委員陳小兵說：“特斯拉在所有車企中算是對網絡安全最為重視的一家，但依然被挖出了嚴重漏洞。目前很多傳統車企尚未組建專門的網絡安全團隊，并且車載系統非常容易受到攻擊。”

不僅僅是智能車輛系統本身的安全，百度AI安全技術總監聶科峰說：“汽車產業已全面進入智能網聯時代，智能車機所面臨的安全挑戰不僅涉及用戶隱私安全、財產安全層面，同時延伸到人身和公共安全層面。”

騰訊科恩實驗室總監呂一平認為，透明、分享和行業合作對于形成更加全面安全的互聯網世界至關重要，其研究目標和成果將有助于改善許多國家數以億計的司機、乘客和行人的交通出行安全。

智能制造安全問題凸顯

在智能制造成為熱點話題的同時，全球大量的工業設備卻因為缺乏基礎的安全保障，正成為黑客甚至是全球不法分子攻擊的目標。

中國電子學會副理事長兼秘書長徐曉蘭對科技日報記者說：“智能制造是解決工業生產困境最重要的抓手，沒有工業互聯網智能制造很難取得突破性發展。”

現實情況卻是，工業互聯網領域的安全事件繼續呈高發狀態，2017年影子經紀人泄露的NSA網絡武器庫，包含眾多工業互聯網系統漏洞，可以實現對設備的精確打擊。我國國家信息安全漏洞共享平臺（CNVD）統計結果亦顯示，2017年新增信息安全漏洞4798個，其中工控系統新增漏洞數351個，與2016年同期相比，新增數量幾乎翻番。

百度安全副總經理沈鵬飛說：“物聯網、車聯網、工業互聯網的興起，打破了虛擬世界與現實世界間的最后一道屏障，傳統的安全防御方案已經無法應對AI時代面臨的各種安全問題。”

在應對惡意攻擊之外，工業互聯網自身的安全問題同樣不可忽視。

美的庫卡機器視覺AI研發總監胡正表示，人機協作的機器人是未來的趨勢，但機器人導致工人死亡的事件每年都有，保證人在操作過程中不受機器人的侵害，不僅在技術層面還有很大的挑戰，業界對這一問題的重視程度普遍存有僥幸心理。

安全倫理不只是學術討論

人們希望看到機器變得很聰明，但也會擔心會相對變傻，這種小糾結如今雖然更多的體現在人工智能的學術領域，但業界越來越多的人為，人工智能的研發和應用，需要優先考慮倫理規范問題。

人工智能先驅、圖靈獎得主Raj Reddy說：“從60年代到現在，許多人都對人工智能抱有誤解，認為人工智能的發展會取代人類，并非如此，我們的愿景始終是希望AI能延伸人的知覺，強化人的能力，幫助人類更好更快地完成多樣的工作。”

但是，伊萊克利。伯利茲也說：“隨著人工智能的進一步使用，人類20-30%的工作會被取代，雖然又會創造新的工作，但如何平衡人工智能和社會經濟發展、社會發展和安全穩定之間的關系，不讓失業問題導致社會安全形勢惡化，需要找到好的契合點，這是產業未來的重要使命之一。”

峰橋集團總裁陳實認為，各國都應重視對人工智能安全倫理規范的思考，將技術發展與社會倫理置于相同的環境下充分思考，減小人工智能帶來的倫理沖擊，保證人工智能在全世界共同的倫理規范內健康發展。