“1元購買健康寶查詢方式”“2元70多位藝人健康寶照片”……近日，眾多明星核酸檢測照片的泄露，再度引發人們對人臉識別信息安全的擔憂。

“人臉識別‘一次泄露，終身風險’的特點，使這種安全隱患的影響可能是長期的。”1月14日，中國科學院自動化所研究員、北京智源人工智能研究院AI倫理中心主任、國家新一代人工智能治理專委會委員曾毅在接受時代周報記者專訪時表示，在拯救生命等嚴肅問題面前，AI倫理紅線不應有任何程度的放寬。

疫情中，人臉識別技術搜集的海量數據如何避免泄露隱私，成為大眾普遍關心話題。曾毅認為，在人臉識別相關產品與服務中，應做到設計、研發、使用、部署等全生命周期均符合倫理要求。

隱私數據保護缺位

時代周報：近日，大量明星核酸檢測照片從網絡上泄漏出來，包括楊冪、鹿晗、李易峰、王源等眾多明星的核酸檢測結果、素顏照片在微信群流傳。這一現象透露出什么問題？

曾毅：通過這一現象可以看到，一方面，某些承接政府機構信息系統建設的企業并沒有能很好地實現對公民關鍵隱私數據的有效保護。另一方面，相關政府機構對包含公民隱私數據的應用，特別是政府委托的相關應用服務，在數據保護方面急需加強管理和監督。

可以看到，之所以通過輸入部分信息就可以獲取他人核酸檢測相關細節信息，從系統設計角度而言存在不嚴格的倫理設計。

他人代查這項功能仍具有現實意義，例如子女和朋友幫助老年人等非手機用戶代查這樣的需求仍然存在，但是如何確認代查結果經過當事人授權，確保知情同意，是系統設計與實現過程中必須思考清楚并通過技術實現的。

時代周報：你曾提出，從人工智能模型中刪除數據十分困難。目前幾乎沒有一家企業可以做到在訓練好的人工智能模型中，把某個用戶數據的影響從模型中刪除。當前還是這種現狀嗎？

曾毅：很遺憾，當前仍然是這種狀況，這個問題雖然明確存在，但并沒有引起學術界和產業界足夠的重視。

安全隱患影響長遠

時代周報：人臉識別應用場景擴展后，其涉及的安全重要性是否越來越大，我們對數據是否做好保護？

曾毅：目前，人臉識別應用領域急速擴展，然而相關負責任的、符合倫理的相關設計完全跟不上應用領域的擴張需求。很顯然，從技術研發單位到監管部門對數據保護都沒有完全做好準備。

人臉識別“一次泄露，終身風險”的特點增加了風險的不確定性。在人臉識別相關產品與服務中做到設計、研發、使用、部署等全生命周期符合倫理要求，避免安全隱患是未來人臉識別研發與應用必須做到的。

時代周報：人臉識別的準確度需要靠大量人臉數據來“投喂”。而對于一些用戶來說，人臉數據被采集很多時候是缺乏選擇權和知情權的，人臉識別的使用邊界到底在哪里？如何才能不越過AI倫理紅線？

曾毅：知情同意在我國個人數據保護相關規范中是有明確規定必須落實的。這其實并不存在商量的余地。

下一步的重要工作是人工智能研發與服務企業自律自治。此外，主管部門多方協同治理，引導和監督政策進行技術落地，落實數據與人工智能服務的合規發展。

中科院曾毅：人臉隱私數據“一次泄露，終身風險”

責任編輯：PSY