圖 | ZAO APP（來源：網絡）

近日，換臉APP“ZAO”從一夜爆火到被工信部約談，再次折射出業界與公眾在AI技術安全與倫理方面認知的巨大鴻溝，以及政府在AI技術治理方面的意識與決心。

雖然“ZAO”隨后修改了此前爭議巨大的用戶協議，但仍被大量注銷卸載，目前APP綜合評分已跌至1.9分，評論內容多為對隱私泄露及安全風險的不滿。有技術咖直指，這是開發方對于技術應用的倫理規范缺少敬畏，為了流量不惜犧牲用戶的知情權，甚至試圖將相應責任甩鍋給用戶的惡劣行徑導致的反噬，也足以讓更多技術開發者引以為戒。

圖 | 通過 DeepFake 技術，蓋爾·加朵的臉被加在了成人女星身上（來源：reddit）

當然，從技術層面來說，“ZAO”并不是AI“換臉”的首次應用。早在2017年12月，Reddit論壇的網友deepfake運用AI技術將“小電影”女主角的臉替換成明星蓋爾·加朵（神奇女俠的主演）。此后，隨著該項技術開源，應用越發廣泛，前段時間一鍵脫衣的DeepNude更是引起了廣泛關注和擔憂。而在政治方面，Twitter上“奧巴馬吐槽特朗普是笨蛋”的假視頻引起了一系列的跟風。美國眾議院6月就Deepfake技術舉行了聽證會，討論了AI技術操縱輿論的潛力，如利用假視頻削弱政府機構和新聞媒體的公信力，甚至會對2020年大選產生災難性影響。此外，最近還發生了詐騙團伙利用AI合成語音技術從英國一家公司騙走22萬歐元的案例。

“耳聞之不如目見之，目見之不如足踐之。”隨著AI技術“換臉換聲“變得越發容易且可“足踐之”后，我們的“耳聞”和“目見”都變得“假作真時真亦假”。技術的發展又一次呼喚倫理與安全的規范。

事實上，早在2015年，AI安全的概念就已經被學界提出。隨著人工智能應用的爆發，利用AI技術漏洞進行“逃逸攻擊”、“對抗樣本攻擊”和“數據污染攻擊”的案例逐漸增多。隨著AI技術的發展，隨之產生的安全風險也在不斷積累。尤其是人臉識別，作為AI技術應用最為廣泛的場景之一，正面臨著愈發嚴峻的挑戰。人臉信息作為個人重要且敏感的信息，已經綁定了大多數人的手機解鎖、支付，甚至政府類業務的一些身份驗證。如發生人臉信息泄露或偽裝，將對應用人臉識別技術的金融支付、公共安全等場景造成巨大威脅。

孵化自清華大學人工智能研究院的RealAI

作為最早在“AI安全”領域開展研究的團隊之一，RealAI（瑞萊智慧）孵化自清華大學人工智能研究院，致力于研究和推廣安全、可靠、可信的第三代人工智能，核心團隊成員在清華大學就已經開展了相關的研究。

RealAI CEO田天表示，近來發生的一些新聞事件，讓AI安全議題從學術圈走向了社會。目前已經有越來越多的機構開始進行相關的研究，未來AI安全會形成更大的影響力，社會各界都將意識到AI技術導致的安全問題，及其可能引發的深遠后果。

據了解，RealAI在AI安全領域的布局主要在兩個方面：一是防止AI算法被用于危害社會的行為，例如換臉假視頻。二是檢測AI算法的漏洞并加以修復，例如防止人臉識別被惡意攻破。RealAI認為，通過修復這些AI技術應用潛在的風險，可以讓AI產業更加健康地發展。

“AI安全是一個持續攻防的過程，必然會呈現攻防互相促進發展的狀態。有新的攻擊手段出來，對應的就會有新的防御方式。首先要掌握攻擊方式，才能知道如何去防御，防御的一方需要適應動態變化的攻擊場景。”

對于“AI換臉”，RealAI有很強的生成技術，比如“無中生有”的AI換臉等；同時，也知道如何去檢測、防御它們。從效果上來看，目前RealAI在內部測試集上換臉檢測的準確率已經達到99%以上，這個測試集覆蓋了市面上大多數應用換臉技術的假視頻。團隊現在也針對未來可能潛在的攻防場景做預演，為應對潛在的風險提前設計可行方案。

圖 | 換臉檢測（來源：RealAI）

在AI算法漏洞檢測方面，如針對AI識別系統的“隱身”、“偽裝”等場景，RealAI則更注重在真實的物理世界（不同的光線、角度、距離、運動模糊、失焦等）實現，以及更加深入地研究如何利用白盒的替代模型來攻擊黑盒的受害模型。RealAI是作為首個利用對抗樣本攻擊技術，在現實世界中破解商用手機人臉識別系統的公司（，其他研究機構多停留在數字世界或公共Face ID系統層面），。RealAI也能夠提供相應的“防火墻”，目前其檢測“人臉偽裝”的算法準確率同樣已經達到99%以上。

圖 | 破解人臉識別（來源：RealAI）

據了解，“隱身”、“偽裝”等攻擊手段的實現原理是“對抗樣本攻擊”方法。“對抗樣本攻擊”的防御方法主要有圖像預處理和去噪、檢測對抗樣本、對抗性訓練等。在這個領域，且國內高校（尤其是清華人工智能研究院）很早就開展相關的技術研究，目前基本是處于領先地位。作為最早研究該技術的團隊之一，RealAI針對對抗樣本，使用了一些更新、更合適的方法來彌補傳統的算法漏洞。

今年5月，RealAI與清華大學人工智能研究院聯合發布了的人工智能安全平臺——RealSafe對抗攻防平臺，其支持對多種算法和模型進行對抗攻擊和防御。RealSafe平臺同時可以提供全面、細致的攻擊防御算法的評測與比較，輸出安全評測報告。

田天認為，“RealSafe平臺可以作為從技術的角度提出的測試平臺，它通過輸出指標來說明AI算法的安全系數。通過這個平臺，希望可以推動AI安全往前走一步，比如給政府部門提供參考，為政府部門制定衡量AI安全技術指標提供技術基礎”。

值得一提的是，與Google、IBM旗下的安全平臺相較，RealSafe平臺功能更加全面，支持更為通用的模型、更豐富的對抗攻擊和防御算法，具有突出的領先優勢。此外，RealAI也在和部分相關企業合作定制化一些提升AI安全性的產品，比如檢測虛假內容檢測工具。未來終端涉及到的場景將會有各種刷臉認證場景，如火車站、機場人臉識別閘機，手機、商店刷臉支付；公共場所動態監控、安防布控等。

今年以來，多項重磅信息安全政策落地，包括等保2.0、史上最嚴的數據安全監管辦法等。公眾對于AI安全的輿論也亟待產品應用去改善。RealAI認為，AI安全是個很大的領域，不是某一個研究者或研究單位就能夠將AI安全的所有問題都解決，未來需要更多人參與進來，共同推動AI安全技術的進步。但這需要大家在同一框架下去討論、落地。因此，由政府引導，權威組織機構制定AI安全方面的行業標準勢在必行。