警惕！人臉識(shí)別背后的“盲區(qū)”

人臉識(shí)別帶來便利的同時(shí)，也引發(fā)擔(dān)憂。有關(guān)專家建議，加強(qiáng)相關(guān)立法，規(guī)定人臉識(shí)別的準(zhǔn)入場(chǎng)景、準(zhǔn)入條件，明確企業(yè)的資質(zhì)，明確一旦違規(guī)應(yīng)該接受何種處罰。

-----------------

刷臉一時(shí)快，問題卻不少。

人臉識(shí)別技術(shù)開始在很多場(chǎng)景落地，相應(yīng)的紛爭(zhēng)也接踵而至。

2019年10月，杭州一位消費(fèi)者因當(dāng)?shù)匾吧鷦?dòng)物園要求消費(fèi)者刷臉入園，將動(dòng)物園告上法庭，被稱為“中國(guó)人臉識(shí)別第一案”。

近日，南都個(gè)人信息保護(hù)研究中心發(fā)布了《人臉識(shí)別落地場(chǎng)景觀察報(bào)告》，揭開目前我國(guó)人臉識(shí)別應(yīng)用背后的“盲區(qū)”。

“刷照片”也能開門

2019年10月，南都個(gè)人信息保護(hù)研究中心人工智能倫理課題組成員來到位于北京朝陽區(qū)和豐臺(tái)區(qū)兩個(gè)公租房小區(qū)，對(duì)該小區(qū)的人臉識(shí)別系統(tǒng)進(jìn)行實(shí)地測(cè)試。

當(dāng)課題組成員嘗試拍攝小區(qū)居民照片后，把手機(jī)照片對(duì)準(zhǔn)居民樓下的人臉識(shí)別機(jī)器時(shí)，機(jī)器里傳出了一聲清脆的“門鎖已開、您請(qǐng)進(jìn)”。隨之而來的是樓道門打開，課題組成員輕而易舉地走了進(jìn)去。

因價(jià)格便宜，公租房長(zhǎng)期存在違規(guī)轉(zhuǎn)租轉(zhuǎn)借現(xiàn)象，這一直是管理者頭疼的問題。2019年1月，北京市住建委發(fā)布《關(guān)于進(jìn)一步加強(qiáng)公共租賃住房轉(zhuǎn)租轉(zhuǎn)借行為監(jiān)督管理工作的通知》，提出納入北京市保障房建設(shè)計(jì)劃的公租房項(xiàng)目應(yīng)全面采用人臉識(shí)別、智能門鎖等技術(shù)，強(qiáng)化人臉識(shí)別等技術(shù)措施與門禁相結(jié)合，實(shí)現(xiàn)非承租家庭成員不得隨意進(jìn)入樓棟單元門。

課題組成員挑選了幾個(gè)公租房小區(qū)進(jìn)行測(cè)試。他們發(fā)現(xiàn)，有的小區(qū)人臉識(shí)別安全技術(shù)不過關(guān)。“我們使用的其實(shí)并不是高清照片。”課題組成員馮群星表示。目前，人臉識(shí)別技術(shù)可以大致分為2D和3D識(shí)別技術(shù)，前者通過2D攝像頭成像，后者通過3D攝像頭立體成像。

一般而言，3D技術(shù)的安全性高，但成本也高。有專家表示，用照片能夠刷開的基本是2D人臉識(shí)別設(shè)備和普通攝像頭，這種情況可通過更換成紅外雙目攝像頭、加入改良算法等方式來避免虛假照片的攻擊。

除了安全問題，馮群星和同事還發(fā)現(xiàn)，有的小區(qū)的人臉識(shí)別技術(shù)設(shè)備對(duì)殘障人士“不友好”。在一些小區(qū)大門口，人臉識(shí)別閘機(jī)的攝像頭高度約為1.2~1.6米，一般人可正常通行，但坐輪椅的殘障人士就很難達(dá)到攝像頭的高度，“這些問題也跟北京市公租房相關(guān)管理部門反映了，他們非常重視，目前在查實(shí)和整改這些問題了”。

走出社區(qū)，課題組成員還走進(jìn)了校園、商場(chǎng)、公共廁所等場(chǎng)所，體驗(yàn)人臉識(shí)別設(shè)備的便利性和安全性。

在北京，課題組成員發(fā)現(xiàn)，人臉識(shí)別進(jìn)校園雖然沒有被廣泛宣傳，但普及程度并不低。一些學(xué)校把人臉識(shí)別系統(tǒng)用于門禁、課堂考勤以及監(jiān)測(cè)課程質(zhì)量。有學(xué)生表示，目前自己所在的學(xué)校課堂的人臉識(shí)別系統(tǒng)能檢測(cè)出學(xué)生的抬頭率和前排就坐率，從而監(jiān)測(cè)老師的課程質(zhì)量。但也有學(xué)生擔(dān)憂，這樣的技術(shù)涉嫌侵犯自己的隱私。

課題組成員發(fā)現(xiàn)，在教育領(lǐng)域，目前一些教育機(jī)構(gòu)在宣傳資料中聲稱可通過人臉識(shí)別掌握學(xué)生情緒。課題組成員以家長(zhǎng)身份暗訪時(shí)，一家教育機(jī)構(gòu)的一位老師發(fā)來視頻，在視頻中，后臺(tái)系統(tǒng)可隨時(shí)檢測(cè)學(xué)生的情緒，并向老師發(fā)出“孩子似乎不高興”等提醒。

課題組成員還實(shí)地走訪了應(yīng)用人臉識(shí)別技術(shù)的北京兩家商城。其中一家商城通過人臉識(shí)別記錄顧客的消費(fèi)軌跡，如果導(dǎo)游帶來的顧客有消費(fèi)，則導(dǎo)游可獲得返利。然而，這些并未征得顧客的同意，多位顧客告訴研究員，并不知道自己被刷臉、行蹤被記錄。

位于西單的一家商場(chǎng)利用入口處的人臉識(shí)別攝像頭來統(tǒng)計(jì)客流量。相關(guān)工作人員稱該系統(tǒng)只統(tǒng)計(jì)數(shù)據(jù)，不儲(chǔ)存顧客照片。課題組成員認(rèn)為，目前人臉識(shí)別在商場(chǎng)場(chǎng)景下的主要問題是，沒有向顧客做到充分告知并征得知情同意。

近八成受訪者擔(dān)心個(gè)人數(shù)據(jù)被泄露

除了實(shí)地調(diào)研，課題組還進(jìn)行了線上問卷，主要調(diào)查了公眾對(duì)于人臉識(shí)別的態(tài)度，包括用到人臉識(shí)別以后是否更方便、更安全，收回有效樣本6154份。

問卷數(shù)據(jù)顯示，半數(shù)以上受訪者遇到過人臉識(shí)別不出的問題，其中，公租房、交通、校園、商場(chǎng)和其他場(chǎng)景下的比例分別為59.33%、59.86%、63.28%、58.87%和60.33%。

有受訪者反饋，帽子、眼鏡、化妝、光線、角度等因素都會(huì)影響人臉識(shí)別的準(zhǔn)確率。還有受訪者表示，人臉識(shí)別顯示屏上沒有提示，不知道該把臉放在哪個(gè)位置，掌握不好距離攝像頭的遠(yuǎn)近。

在公租房、商場(chǎng)、校園等多個(gè)場(chǎng)景下，均有六成以上的受訪者認(rèn)為有人臉識(shí)別更安全，不過，也有不少受訪者表示擔(dān)心人臉識(shí)別數(shù)據(jù)泄露。其中，79.31%的受訪者擔(dān)心把人臉數(shù)據(jù)交給運(yùn)營(yíng)者之后，運(yùn)營(yíng)者沒有足夠能力保證數(shù)據(jù)不泄露。65.17%的受訪者擔(dān)心換臉視頻等網(wǎng)絡(luò)虛假信息增多，49.57%的受訪者擔(dān)心不法分子利用偽造信息實(shí)施詐騙或盜刷。

在透明度上，近半數(shù)受訪者表示沒有簽署隱私政策或不確定是否簽署了隱私政策，四成以上的受訪者表示不知道自己的人臉數(shù)據(jù)怎樣被儲(chǔ)存。當(dāng)被問及是否希望可以查看到自己被存儲(chǔ)信息的情況并有刪除的渠道時(shí)，83.37的受訪者選擇的是“是”，呈現(xiàn)壓倒性占比。

網(wǎng)絡(luò)安全法明確網(wǎng)絡(luò)運(yùn)營(yíng)者收集、使用個(gè)人信息，應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則，公開收集、使用規(guī)則，明示收集、使用信息的目的、方式和范圍，并經(jīng)被收集者同意。

課題組成員認(rèn)為，人臉識(shí)別技術(shù)落地速度快，場(chǎng)景多，但刷臉應(yīng)用是否正當(dāng)必要值得考慮。在技術(shù)應(yīng)用過程中，需要充分采納公眾意見，論證應(yīng)用的正當(dāng)性和必要性。在系統(tǒng)設(shè)計(jì)中，應(yīng)引入更多人性化的考量。“人臉識(shí)別是一種新技術(shù)，人臉識(shí)別由趨勢(shì)變成基礎(chǔ)設(shè)施的時(shí)候，應(yīng)該考慮到社會(huì)的弱勢(shì)群體，而不是造成新的社會(huì)不公平。”

報(bào)告建議，政府部門加強(qiáng)相關(guān)立法，規(guī)定人臉識(shí)別的準(zhǔn)入場(chǎng)景、準(zhǔn)入條件，明確企業(yè)的資質(zhì)，明確一旦違規(guī)應(yīng)該接受何種處罰。

2019年伊始，中央網(wǎng)信辦、工信部、公安部、市場(chǎng)監(jiān)管總局四部門聯(lián)合發(fā)布《關(guān)于開展App違法違規(guī)收集使用個(gè)人信息專項(xiàng)治理的公告》，并于2019年在全國(guó)范圍組織開展App違法違規(guī)收集使用個(gè)人信息專項(xiàng)治理，拉開了個(gè)人信息收集與使用的強(qiáng)監(jiān)管序幕。

對(duì)于人臉識(shí)別技術(shù)的監(jiān)管，App專項(xiàng)治理工作組副組長(zhǎng)洪延青認(rèn)為，還是要先區(qū)分技術(shù)的不同用途，再考慮用不同的法律框架去規(guī)范。在工作中，洪延青發(fā)現(xiàn)，目前人臉識(shí)別技術(shù)至少有六種用途，計(jì)數(shù)、識(shí)別、認(rèn)證、監(jiān)控、偽造和窺探。在計(jì)數(shù)上，企業(yè)用人臉識(shí)別技術(shù)通常是為了計(jì)算使用某個(gè)產(chǎn)品的使用數(shù)量，不涉及到認(rèn)證功能，對(duì)于這種用途，是否需要人臉特征才能達(dá)到計(jì)數(shù)的目的，洪延青覺得，很有必要進(jìn)一步探究，“殺雞要不要用牛刀？”

在識(shí)別和認(rèn)證用途上，人臉識(shí)別技術(shù)一般識(shí)別一個(gè)人是誰，然后通過認(rèn)證，甚至是與數(shù)據(jù)庫(kù)進(jìn)行匹配來推送一些信息給商家。洪延青認(rèn)為，在這種情況下可以采用個(gè)人信息保護(hù)框架來進(jìn)行規(guī)制。對(duì)視頻變臉、偽造這類行為，可以依據(jù)肖像權(quán)的相關(guān)法規(guī)進(jìn)行規(guī)范，對(duì)于窺探這類行為，應(yīng)該放在人格權(quán)、隱私權(quán)的相關(guān)范疇，進(jìn)行規(guī)范。

責(zé)任編輯：ct