人工智能革命渴望獲得個人數據。在機器智能和監視產生交集前，需要致力于制定隱私法規。

?

人工智能可以通過多種方式幫助人類。無人駕駛汽車和智能基礎設施恪守了這樣的承諾，即促進人們來回穿梭于城市的活動，以減少交通擁堵。經過改進的診斷和治療方式正在延長人們的壽命。在企業中，人工智能有助于改善招聘決策、使工廠更安全、將日常任務自動化、生成更客觀的績效評估并幫組織了解客戶。

新工具頻頻出現。亞馬遜已經獲得了兩項腕帶專利，這些腕帶可以在工作人員填寫訂單時追蹤手部動作。腕帶使用射頻來追蹤手部運動，這種追蹤十分準確，一旦檢測到低效的活動腕帶就會振動，輕輕碰觸工作人員的手以將其引向正確的方向。Humanyze售賣能可以衡量社交關系的胸牌，這些胸牌可以追蹤辦公室員工的活動，以提供他們與同事互動的質量有關的洞察。玉蘭油（L＇Oréal）的UV Sense可以追蹤佩戴者暴露于紫外線的時間和程度，然后將數據傳輸到用戶的手機上。Cogito可以監控同理度（empathy），即客服坐席處理呼叫時設身處地為客戶著想的態度。

不幸的是，要發掘這些工具的好處就需要大量的數據，這也使消費者和員工很容易受到監控。中國的社會信用體系于2014年啟用，預計到2020年全面投入使用。為了創建個人檔案，該系統匯總了支付記錄、醫療信息、法律記錄以及其它數據。此外，該系統使用面部識別來追蹤每個人的蹤跡及其互動的對象。攝像頭在各大城市非常普遍，人們開玩笑說政府可以在七分鐘內找到任何一個人。

確實，大量的數據以人們意想不到的方式使社會受益。2018年4月，Joseph DeAngelo被指控為金州殺手（譯注：金州是加州的別名），涉嫌參與了一系列仍未告破的謀殺案和強奸案，這些案件發生于上世紀七八十年代。警方將嫌疑人的基因特征與為人們研究家譜提供服務的個人網站上的基因表達譜進行了比較。最終，他們將目標鎖定為一群人，這群人與犯罪者的遺傳物質有一定的關聯，根據年齡，性別以及住所排除了其中一部分人。在警方確定DeAngelo是嫌犯后，他們從他丟棄的垃圾中獲取了DNA樣本，并發現該樣本與犯罪現場的樣本吻合。

雖然這些基因數據庫幫警方解決了發生在幾十年前的罪案，但使用該數據庫會引發隱私方面的問題。在向存儲庫提供遺傳數據的人中，很少有人希望這些文件被執法部門拿去作評估。貢獻這些資料的人可能沒有意識到，自己的行為可能會讓當局掌握親屬的信息，這些親屬并不同意公開基因信息，或者，他們甚至不知道家族的遺傳物質存在數據庫中。

全世界所面臨的隱私問題日漸增多。2018年5月，歐盟實施了全面的隱私保護法規，名為《通用數據保護條例（GDPR）》。其它國家也正在立法，如加拿大的《國家網絡安全戰略》保護數字隱私。印度提議的《個人數據保護法案》強調人工智能道德、個人隱私、安全性和透明度。這些法規由獨立的監管機構進行監督，對違法行為實施嚴厲處罰。聯合國的統計稱，有一百多個國家實施了數據保護和隱私法。然而，它承認，最近，很多保護法并沒有得到更新，而且也不夠嚴苛，無法讓公民相信自己的隱私得到了充分的保護。

2016年，亞馬遜、蘋果、臉書、谷歌和微軟的一些工程師、設計師和其他員工越來越關注監控的潛力，他們許下了“到此為止（Never Again）”的承諾。這個名字指的是IBM技術在第二次世界大戰期間所發揮的作用，當時IBM的穿孔卡幫美國政府管理日裔美國人，幫納粹追蹤大屠殺的受害者。簽署“到此為止”的公司保證不會創建任何可以讓美國政府收集有關個人宗教信仰的信息數據庫，它們擔心此類數據庫可能會導致大量人口被驅逐出境。

在2018年10月布魯塞爾國際數據保護和隱私委員會會議召開期間，Tim Cook表達了自己對“數據工業園區（data industrial complex）”的擔憂。他警告說，為了創建一個“經久不衰的數字檔案，公司正在收集個人數據并將其綜合起來，這使它們十分了解你，遠勝于你對自己的了解。”

他支持《通用數據保護條例》并呼吁美國制定隱私法。

隱私監管七原則

Cook是對的：現在美國該效仿其他國家并制定數字隱私法了。新法規至少應包括以下原則。

盡量將要收集的數據最小化

數據收集應限于完成手頭任務所需的數據。為將來派上用場而收集額外的數據，這樣的做法應該受到限制。個人身份信息必須刪除，不得出現在用于分析的數據中。

向用戶告知數據收集事宜

在收集數據時應通知用戶，并告知用戶數據將如何被使用。個人必須能夠決定其數據是否允許在每個活動期間被收集。瀏覽器和網站的條款和條件必須十分簡單，簡單到消費者可以快速做出明智的決定。

使個人可以訪問數據

個人必須能復制自己的數據并糾正或刪除不準確的個人數據。如今，糾正數據對一些企業來說幾乎是不可能的。最近，我的一位同事要更新信用報告，因為她搬回了她曾住過的隔壁房。雖然她找到了修改街道地址最后一位數字的商店老板，但信用局拒絕刪除該條目，稱她未能證明自己從未住過另一所房子。她要求信用局就證據的構成標準給予指導時，但信用局沒有作出回應。

需要決策透明度

人工智能日漸頻繁地在法律法規、人員招聘、大學招生和其它方面做決策，這深深影響了個人生活。由于人工智能要使用大量的數據，而這些數據又受到大量規則的制約，因此人們往往無法理解人工智能引擎是如何得出結論的。人工智能引擎工作時使用什么樣的邏輯，雖然理解這一點對人類來說并不重要，但在一些情況中，偏見或意外后果可能會影響最終結果，這是不可接受的。

Equivant的工具可以預測個人犯下新罪行的可能性。如果法官在量刑期間使用該工具，那么他們通常會判評分很高的被告人判服更長的刑期。不幸的是，由于評分機制是專有的，因此被告無法提出質疑。

ProPublica是一家公共利益調查新聞組織，它在2013年和2014年對佛羅里達州布勞沃德縣的7，000名被告進行了分析。Equivant預測了哪些被告人會在接下來的兩年內犯罪，ProPublica則將其預測結果與每個被告人犯下的實際新罪行進行了比較。他們得出結論，Equivant的風險評分并不可靠；它可能會預測，在這些被告人中，黑人在未來犯罪的可能性可能是白人的兩倍，而這是錯的。Equivant并不贊同，它認為ProPublica的方法存在缺陷。顯然，對個人生活具有如此巨大潛在影響的，無論是判刑還是其它深深影響個人生活的法律手段，都必須高度準確并且在邏輯上站得住腳。

保護數據

確保數據的安全性，確保數據使用得當，這是所有收集和存儲數據需求的實體都要做到的事情。最近就發生了一系列數據泄露事件，萬豪和Quora就是新增的兩例，這些事件已經使很多人受到影響。

實施合規性

嚴懲不貸的積極執法方式對于實施有效的新法規至關重要。各大技術公司賺得盆滿缽滿，小小的處罰簡直可以忽略不計，充其量只是一點點經營成本。

制定國家法律

新的美國隱私法應涵蓋所有收集個人數據的企業，而不僅僅是技術公司。此外，聯邦立法也是必需的，否則其他州將效仿加州，自行制定法律，而這些法律可能并不相容。

立法對企業的影響

由于新隱私法規的制定，有些公司不得不反思其商業模式。如今，為了免費使用搜索引擎、社交媒體和其它工具，有很多消費者會提供個人數據。擔心隱私問題的消費者也許會支付一小筆費用，以換取真正的匿名狀態。雖然在理論上，在今時今日，不留痕跡地瀏覽網頁是可能做到的，但大多數消費者發現，如果沒有嫻熟的技術幫助，這一點根本不可能做到。

企業要部署新工具，員工要維護個人隱私，這兩者之間必須取得平衡，為此，工作場所既需要細致的規劃，也需要做出一些妥協。新法規可能會產生這樣的情況，即員工必須同意別人收集他們的數據。根據新立法中的說法，很多現有工具會產生據稱是個人信息的內容，這些內容使員工可以免遭追蹤，因而使這些工具形同虛設。

毫無疑問，遵守新法規會迫使公司更加謹慎地處理員工數據。主管很可能只能訪問與個人績效直接相關的員工數據，而分析工具僅在匿名數據上運行。經營良好的企業可以為希望提高績效的員工提供單獨的指導。

人工智能帶來了很多好處，它還將帶來我們目前無法想象的其它好處。人工智能與所有新技術一樣，既可以造福人類，也可能遭到濫用。如何確保我們所收集的數據不會用于不當的監視，當我們弄明白這一點時，Scott McNealy于1999年所作的斷言也許將不再是事實，他斷言“你毫無隱私可言，想都別想”。