2020 年是 AI 逐漸深入生活，倒逼各行業(yè)數(shù)字化轉(zhuǎn)型的一年。與此同時(shí)，隨著新技術(shù)的產(chǎn)生，也開(kāi)始帶來(lái)不少麻煩與問(wèn)題。如何正確理解新技術(shù)，并像解題一樣，解決與之相伴的新問(wèn)題，成為一項(xiàng)考驗(yàn)。

2020 年，盡管面臨疫情帶來(lái)經(jīng)濟(jì)與社會(huì)層面的不確定性，人工智能技術(shù)仍在加速發(fā)展。今年 Gartner 發(fā)布的 AI 技術(shù)成熟度曲線里增加了包括生成型 AI、復(fù)合型 AI、負(fù)責(zé)型 AI、嵌入式 AI 和人工智能增強(qiáng)設(shè)計(jì)等在內(nèi)的多個(gè)新技術(shù)類(lèi)別。

其中，生成型 AI 首次出現(xiàn)在「成熟度曲線」中，這是常用于創(chuàng)建「深度偽造」視頻和數(shù)字內(nèi)容的技術(shù)。有些心懷不軌的人會(huì)試圖利用生成性 AI 創(chuàng)建「深度偽造」的內(nèi)容。這側(cè)面反映，即使是新技術(shù)，也會(huì)帶來(lái)相應(yīng)的麻煩和問(wèn)題。

01 人臉識(shí)別黑產(chǎn)背后的信息泄露

人臉識(shí)別是應(yīng)用領(lǐng)域最廣泛及成熟的一項(xiàng)技術(shù)。隨著技術(shù)的大范圍推廣，背后的問(wèn)題也隨之而來(lái)。去年，僅 8 元兜售 3 萬(wàn)張人臉照片被傳得沸沸揚(yáng)揚(yáng)。讓人細(xì)思極恐的是，你并不知道誰(shuí)在收集人臉，也不知道這些人臉圖片會(huì)被用作何用途。

機(jī)器之心去年臥底人臉認(rèn)證群，調(diào)查背后的產(chǎn)業(yè)鏈狀況。黑灰產(chǎn)從業(yè)者將高清正面大頭照、手持身份證照稱(chēng)之為「料子」。基于「料子」，采用一套特定的過(guò)人臉認(rèn)證技術(shù)，通常是面部動(dòng)畫(huà)制作軟硬件的組合，以此通過(guò)支付、社交及生活服務(wù)類(lèi) APP 的人臉認(rèn)證。

「只要技術(shù)好（代人臉認(rèn)證），投入成本低，利潤(rùn)可觀。行情好的時(shí)候，一個(gè)月賺 3 萬(wàn)不成問(wèn)題。」一位黑灰產(chǎn)從業(yè)者曾向機(jī)器之心表示，他靠傳授過(guò)人臉認(rèn)證技術(shù)謀生，一套過(guò) APP 人臉認(rèn)證技術(shù)最低可賣(mài)至 800 元，而且包教會(huì)。當(dāng)中，所需要的身份證正反面及半身照成本極低，通常不超過(guò) 5 元，而過(guò)一次 APP 人臉認(rèn)證至少需要 40 元。除去成本價(jià)及忽略操作費(fèi)不計(jì)，一單至少掙 35 元。對(duì)于一些難認(rèn)證的 APP，牟利空間更大。

人臉識(shí)別技術(shù)已在多行業(yè)、多終端進(jìn)行應(yīng)用，由于監(jiān)管及隱私層面缺乏有力監(jiān)管，出現(xiàn)不少詐騙事件。今年，據(jù)南方都市報(bào)報(bào)道，廣西南寧有十幾位售房者因?yàn)椤杆⒛樫u(mài)房」被騙了超千萬(wàn)元。一位房產(chǎn)中介以房屋查檔為由，對(duì)售房者進(jìn)行了人臉識(shí)別認(rèn)證。隨后，售房者紛紛發(fā)現(xiàn)自己的房子已經(jīng)被買(mǎi)家抵押給了第三方。另?yè)?jù)南都記者公開(kāi)資料查詢(xún)，此前全國(guó)已有多起利用人臉識(shí)別進(jìn)行詐騙的案子。

通過(guò)該事，反映出以人臉等為代表的個(gè)人生物識(shí)別信息作為高度敏感的用戶(hù)個(gè)人信息，存在一定的隱私泄露和信息安全風(fēng)險(xiǎn)。據(jù) Juniper Research 研究機(jī)構(gòu)最新研究報(bào)告《移動(dòng)支付認(rèn)證：2019-2024 年生物識(shí)別，監(jiān)管和預(yù)測(cè)》發(fā)現(xiàn)，面部識(shí)別硬件（例如 iPhone 上的 Face ID）將成為智能手機(jī)生物識(shí)別硬件中增長(zhǎng)最快的組件，出貨量將在 2024 年達(dá)到 8 億多，而 2019 年估計(jì)為 9600 萬(wàn)個(gè)。

人臉識(shí)別技術(shù)無(wú)處不在。隨著深度學(xué)習(xí)技術(shù)與生物識(shí)別技術(shù)的融合，以深度偽造為主的人臉識(shí)別技術(shù)也帶來(lái)不少爭(zhēng)議。以 AI 換臉為例，Al 換臉顧名思義就是在圖像或視頻中把一張臉替換成另一張臉。

各類(lèi)「換臉」技術(shù)制造了大量的虛假視頻，并形成相應(yīng)的黑色產(chǎn)業(yè)鏈。該產(chǎn)業(yè)鏈條是，上游提供軟件及教程；中游提供視頻及照片定制；下游售賣(mài)成品視頻，以此大大降低行業(yè)技術(shù)門(mén)檻與造假成本。

除深度偽造技術(shù)外，還有「反偽造」技術(shù)，兩者正處于攻防拉鋸狀態(tài)。除了信息隱私泄露，這項(xiàng)技術(shù)還帶來(lái)其他問(wèn)題，最大的難題在于，針對(duì)深度偽造生物識(shí)別信息的判定尚無(wú)成熟的判定手段與依據(jù)。

02 「失控」的智能設(shè)備

隨著物聯(lián)網(wǎng)、車(chē)聯(lián)網(wǎng)、5G 等技術(shù)的發(fā)展，身邊的一切設(shè)備正在變得智能化，但也暗藏風(fēng)險(xiǎn)。尤其在遠(yuǎn)程辦公流行的節(jié)點(diǎn)下，一些安全性較差的智能家居產(chǎn)品成為了黑客攻擊的重點(diǎn)對(duì)象。

最近，來(lái)自劍橋大學(xué)的研究人員發(fā)現(xiàn)，任何可以接收語(yǔ)音命令的智能設(shè)備，例如智能音箱或手機(jī)，僅通過(guò)聆聽(tīng)就可以推斷附近智能手機(jī)輸入的大量信息，包括密碼等。

研究表明，音頻采集設(shè)備所帶來(lái)的隱私威脅超出監(jiān)聽(tīng)私密談話(huà)，物理鍵盤(pán)及手機(jī)觸摸屏鍵盤(pán)上輸入的信息同樣無(wú)法逃脫其監(jiān)控。研究者通過(guò)驗(yàn)證表明，所謂的黑客攻擊者可以從位于半米外的語(yǔ)音助手收集的錄音中提取 PIN 碼（SIM 卡的個(gè)人識(shí)別密碼）和文本消息。

盡管物聯(lián)網(wǎng)技術(shù)給人們的生活帶來(lái)便利，但不意味著無(wú)限安全與可靠。在通信技術(shù)領(lǐng)域也暴露了這方面的風(fēng)險(xiǎn)。在 GeekPwn2020 國(guó)際安全極客大賽上，騰訊安全玄武實(shí)驗(yàn)室高級(jí)研究員李冠成、戴戈就演示了一項(xiàng) 5G 安全研究發(fā)現(xiàn)。通過(guò) 5G 通信協(xié)議的設(shè)計(jì)，黑客可「劫持」同一基站覆蓋下的任意一臺(tái)手機(jī)的 TCP 通訊，包括各類(lèi)短信收發(fā)、APP 和服務(wù)端的通訊。

這項(xiàng)研究意味著，黑客可以利用 5G 通信協(xié)議的 BUG 實(shí)施多種形式的攻擊，例如給受害者發(fā)送已經(jīng)植入木馬的鏈接，該鏈接一旦被點(diǎn)擊，就可以竊取受害者的銀行卡信息，否則不然，也有可能偽造受害者的手機(jī)號(hào)向家人發(fā)短信，提出轉(zhuǎn)賬或是其他要求。

隨著通信技術(shù)的升級(jí)迭代，整體上看 5G 在安全性上有了更大的保障，但不意味著這項(xiàng)技術(shù)就有更大的安全性，也有可能會(huì)帶來(lái)除技術(shù)本身不成熟外的其他原生安全問(wèn)題。

當(dāng)所有的東西都發(fā)展為智能體，對(duì)隱私背后的傷害也更大。車(chē)聯(lián)網(wǎng)下的自動(dòng)駕駛汽車(chē)經(jīng)常發(fā)生宕機(jī)、信息泄露事件就是當(dāng)中最為典型的案例。

今年 5 月，國(guó)內(nèi)特斯拉車(chē)主發(fā)微博稱(chēng)，特斯拉 App 大面積宕機(jī)，導(dǎo)致手機(jī)無(wú)法與車(chē)相連，無(wú)法獲取車(chē)輛信息。

自特斯拉出產(chǎn)以來(lái)，很多人把它形容為一輛帶輪子的安卓手機(jī)，可以用移動(dòng)應(yīng)用來(lái)解鎖和鎖定汽車(chē)。至少，在車(chē)聯(lián)網(wǎng)時(shí)代，網(wǎng)絡(luò)的便捷性讓車(chē)輛智能化成為可能。一旦智能聯(lián)網(wǎng)汽車(chē)當(dāng)中的重要組成，例如車(chē)載操作系統(tǒng)、云平臺(tái)受到網(wǎng)絡(luò)攻擊，輕者會(huì)造成數(shù)據(jù)和信息泄露，重者會(huì)導(dǎo)致車(chē)輛失控。

類(lèi)似的「失控」經(jīng)常被用來(lái)當(dāng)作安全演練的「教材」。在 2020 GeekPwn 大會(huì)上，就有這樣一場(chǎng)人為制造的特斯拉 Model 3 撞車(chē)事故。一位安全研究員制作了小巧的雷達(dá)干擾裝備，可以擾亂 Model 3 毫米波雷達(dá)的探測(cè)，讓車(chē)輛系統(tǒng)無(wú)法準(zhǔn)確進(jìn)行剎停，從而制造了一場(chǎng)人為車(chē)禍。

在現(xiàn)實(shí)生活中，這類(lèi)人造交通事故不多，但也揭示了自動(dòng)駕駛車(chē)輛存在的安全漏洞。隨著車(chē)聯(lián)網(wǎng)建設(shè)的成熟與具備自動(dòng)駕駛車(chē)輛的增多，這類(lèi)安全漏洞帶來(lái)的風(fēng)險(xiǎn)會(huì)越來(lái)越大。

03 易攻難守的企業(yè)數(shù)據(jù)

隨著企業(yè)數(shù)字化轉(zhuǎn)型進(jìn)程加速，數(shù)據(jù)作為重要元素，被視為企業(yè)的命脈。即便如此，隨著黑客技術(shù)的不斷侵入，企業(yè)數(shù)據(jù)被盜事件并不鮮見(jiàn)。

今年年初，國(guó)內(nèi)一家 AI 醫(yī)療影像公司在疫情間所研發(fā)的新冠數(shù)據(jù)被黑客竊取。他們過(guò)去兩個(gè)月所研發(fā)的 AI 輔助系統(tǒng)和該公司所積累的新冠訓(xùn)練數(shù)據(jù)，被黑客以 4 比特幣的價(jià)格公開(kāi)出售。當(dāng)時(shí)這家公司回應(yīng)稱(chēng)，黑客所獲取的數(shù)據(jù)不涉及源代碼和客戶(hù)數(shù)據(jù)。盡管損失有限，但也敲醒警鐘。

新冠肺炎疫情期間，不少黑客組織以「新冠肺炎」為誘導(dǎo)話(huà)題，對(duì)醫(yī)療機(jī)構(gòu)、醫(yī)護(hù)人員的電腦發(fā)起網(wǎng)絡(luò)攻擊，從而達(dá)到勒索、竊取信息等目的。

據(jù)數(shù)據(jù)顯示，2020 年上半年，安全防護(hù)能力較弱的市政、醫(yī)療、制造行業(yè)成為網(wǎng)絡(luò)攻擊的重災(zāi)區(qū)，而新冠疫情期間對(duì)醫(yī)療結(jié)構(gòu)的攻擊更是危害巨大，包括歐洲最大的私人醫(yī)院運(yùn)營(yíng)商 Fresenlus 都曾遭受勒索軟件攻擊。

根據(jù) CyberMDX 的研究，由于種種原因，大多數(shù)醫(yī)院都不會(huì)修補(bǔ)超過(guò) 40% 的易受攻擊設(shè)備。80% 的醫(yī)療設(shè)備制造商和醫(yī)療機(jī)構(gòu)表示設(shè)備非常難以保護(hù)，因?yàn)槿狈Π踩_(kāi)發(fā)的知識(shí)和培訓(xùn)，以及相關(guān)的產(chǎn)品信息安全測(cè)試程序。

04 結(jié)語(yǔ)

伴隨著互聯(lián)網(wǎng)科學(xué)技術(shù)的發(fā)展，雖然 5G、AI、隱私計(jì)算、智能算法、物聯(lián)網(wǎng)、大數(shù)據(jù)等技術(shù)應(yīng)用已經(jīng)深入人們的生活與生產(chǎn)活動(dòng)，但是我們也需要透過(guò)這些熱議的社會(huì)話(huà)題重新正視 AI 時(shí)代新技術(shù)與新問(wèn)題共存的問(wèn)題。

即便新技術(shù)帶來(lái)新問(wèn)題，也不能就此放棄不使用，甚至不發(fā)展新技術(shù)。在科技發(fā)展的各個(gè)階段，都會(huì)衍生不同問(wèn)題，而問(wèn)題也會(huì)倒逼社會(huì)發(fā)展。樂(lè)觀來(lái)看，AI 換臉、人臉識(shí)別黑產(chǎn)的出現(xiàn)增加了人們對(duì)于安全與隱私的討論，促進(jìn)立法探索；智能互聯(lián)車(chē)輛故障頻出，倒逼自動(dòng)駕駛技術(shù)變革。

AI 應(yīng)用的普及，加劇了隱私保護(hù)、數(shù)據(jù)安全、倫理道德等安全和道德風(fēng)險(xiǎn)，但是現(xiàn)在各類(lèi)網(wǎng)絡(luò)安全產(chǎn)品和解決方案不斷涌現(xiàn)，專(zhuān)注解決網(wǎng)絡(luò)安全問(wèn)題的安全廠商也發(fā)力。

在最近騰訊安全戰(zhàn)略研究部攜手騰訊安全聯(lián)合實(shí)驗(yàn)室共同發(fā)布的《產(chǎn)業(yè)互聯(lián)網(wǎng)安全十大趨勢(shì)（2021）》，圍繞法律法規(guī)、產(chǎn)業(yè)發(fā)展態(tài)勢(shì)、重點(diǎn)安全風(fēng)險(xiǎn)等多個(gè)維度，探討了 2021 年產(chǎn)業(yè)安全與安全產(chǎn)業(yè)的發(fā)展特性。

在當(dāng)下行業(yè)數(shù)字化轉(zhuǎn)型的節(jié)點(diǎn)，大量的數(shù)據(jù)在匯集，如何保障安全，成為產(chǎn)業(yè)數(shù)字化的重要議題。安全作為產(chǎn)業(yè)互聯(lián)網(wǎng)的基座，本身也處于高速變化和演進(jìn)的階段。

一是政策法規(guī)體系逐漸完善，《民法典》、《數(shù)據(jù)安全法（草案）》、《個(gè)人信息保護(hù)法（草案）》等陸續(xù)出臺(tái)，為安全建設(shè)明確方向。

二是安全場(chǎng)景日益增多，供應(yīng)鏈協(xié)同安全、5G 應(yīng)用安全、黑灰產(chǎn)生態(tài)化等成為企業(yè)數(shù)字化過(guò)程中的重要挑戰(zhàn)。

三是技術(shù)和理念創(chuàng)新活躍，隱私計(jì)算、零信任架構(gòu)、人工智能、云原生安全等正加速在安全場(chǎng)景落地應(yīng)用，為企業(yè)的安全防護(hù)體系建設(shè)提供支撐。

尤其在產(chǎn)業(yè)互聯(lián)網(wǎng)時(shí)代，企業(yè)數(shù)字業(yè)務(wù)上云將成常態(tài)。但同時(shí)云上安全威脅規(guī)模快速擴(kuò)大，黑灰產(chǎn)利用公有云平臺(tái)發(fā)起攻擊更具威脅。

云原生安全一方面將構(gòu)建安全服務(wù)全生命周期防護(hù)，在業(yè)務(wù)搭建之初夯實(shí)安全底座，從安全工具、產(chǎn)品到服務(wù)體系化，伴生業(yè)務(wù)發(fā)展全過(guò)程。

另一方面云上安全產(chǎn)品向模塊化、敏捷化和彈性化演進(jìn)，在應(yīng)對(duì)高強(qiáng)度攻擊的同時(shí)也在平穩(wěn)期釋放多余計(jì)算能力，使得企業(yè)應(yīng)用成本降低，提升整體安全水平，成為兼顧成本、效率和安全的「最優(yōu)解」。

在產(chǎn)業(yè)數(shù)字化驅(qū)動(dòng)下，智慧醫(yī)療、工業(yè)互聯(lián)網(wǎng)、車(chē)聯(lián)網(wǎng)等新應(yīng)用、新場(chǎng)景不斷涌現(xiàn)。這些傳統(tǒng)行業(yè)數(shù)字業(yè)務(wù)的安全性將直接關(guān)系到民眾生命財(cái)產(chǎn)安全和國(guó)家信息安全。對(duì)于企業(yè)而言，需要在業(yè)務(wù)構(gòu)建初期考慮更多的安全隱私，規(guī)避風(fēng)險(xiǎn)，以降低解決安全問(wèn)題的成本。

企業(yè)本身除了依托云原生安全外，還需要建立頂層安全思維，對(duì)于安全的認(rèn)知不僅需要企業(yè)自身的努力，還需要將其擴(kuò)大到社會(huì)安全認(rèn)知層面，加強(qiáng)普通用戶(hù)對(duì)于網(wǎng)絡(luò)威脅、個(gè)人數(shù)據(jù)安全、隱私等的重視。

加速發(fā)展的新技術(shù)既代表新的力量，同時(shí)也給人們帶來(lái)各種各樣的新問(wèn)題。新問(wèn)題又需要新技術(shù)去解決。看似貌合神離，相互對(duì)抗，實(shí)際上是一項(xiàng)重大考驗(yàn)。

責(zé)任編輯：PSY