假設(shè)一輛自動駕駛的汽車正在駛向一座橋，坡度很合適，但是橋面上有冰，還有一輛翻車的公交車擋住了車道，公交車?yán)锶切『ⅰ?/p>

孩子們正在通過窗戶撤離，并在人行道四處打轉(zhuǎn)。即使是反應(yīng)速度比人腦快很多的自動駕駛汽車也來不及停下來。車子向一側(cè)掉頭，可能會從橋上掉下去，轉(zhuǎn)向另一側(cè)則會撞入一撞土墻，無論哪種情況很可能造成乘客的傷亡。這輛車是完全自主的，即使時間充足，它也沒有人的自控力。這種情況下，它應(yīng)該怎么做。

這是一個著名倫理道德思想實驗“手推車問題”的版本。大眾的呼聲是站在一個功利主義的立場的：汽車應(yīng)該選擇挽救大多數(shù)人，即使是以自己車上的乘客為代價。

但如果它是你的車呢？如果車上坐的都是你的家人呢？你會購買一輛明知道可能會殺死你和你的親人以拯救別人的汽車嗎？至少梅賽德斯—奔馳認(rèn)為你不會，并且已經(jīng)采取了自動駕駛汽車保護(hù)乘客的立場。對于司機(jī)來說，這種回應(yīng)是有道理的。沒人會期望有人為了救人故意把車開進(jìn)墻。但是自動駕駛汽車卻無法有這種感覺。作為公民，我們是否應(yīng)該和自動駕駛汽車共享道路，面臨著它可能殺死路人以保護(hù)乘客的威脅。如果這種問題是來自于汽車傳感器或編程中的錯誤，而不是天氣或其所能控制之外的其他力量，那么答案會有所不同嗎？

自動駕駛困境是智能系統(tǒng)的出現(xiàn)引發(fā)的嚴(yán)峻的公共政策問題之一，但它絕不是唯一的問題。芯片以及系統(tǒng)的設(shè)計師和制造商很難控制高級自動化對勞動市場或第三方數(shù)據(jù)收集的法律環(huán)境的影響。然而，在多數(shù)情況下，系統(tǒng)設(shè)計師要么執(zhí)行政府法規(guī)，在沒有相關(guān)法規(guī)的情況下，就需要制定或為固有的道德和政策決定進(jìn)行辯解。就自動駕駛汽車而言，美國國家公路交通安全管理局已經(jīng)為汽車制造商和監(jiān)管機(jī)構(gòu)的實踐提出了指導(dǎo)方針，在制定最終規(guī)則前允許技術(shù)發(fā)展。制造商的行為必將在未來塑造監(jiān)管環(huán)境方面發(fā)揮重要作用。

更多的智慧為現(xiàn)實世界帶來更多后果

這些困境在某種程度上意味著智能系統(tǒng)日益復(fù)雜化。沒有人真正關(guān)心音樂推薦引擎是否把Duke Ellington和Robillard混為一談。然而，隨著系統(tǒng)功能變得更強(qiáng)大，從推薦癌癥治療到確定哪些刑事被告有資格獲得假釋或保釋，他們的行為可能具有真實世界的后果。

因為任何數(shù)據(jù)收集都是有限的，電子前沿基金會首席計算機(jī)科學(xué)家Peter Eckersley認(rèn)為，忽略變量偏差可能是無法避免的。他說，這絕對是正在使用的算法的一個功能，而不僅僅是訓(xùn)練集的潛在偏差。根據(jù)美國公民自由聯(lián)盟高級政策分析師杰伊斯坦利的觀點，至少有可能存在偏倚的數(shù)據(jù)和偏倚的算法，因此必須以透明的方式部署具有公共政策影響力的算法。政府官員，納稅人和受影響的人員需要能夠理解和挑戰(zhàn)算法決策。為了應(yīng)對這些挑戰(zhàn)，設(shè)計師需要建立審計線索。滿足這一要求實際上困難得多；今天，智能體系通過其獲得“正確”結(jié)果的能力來判斷，但是給定結(jié)果的具體基礎(chǔ)可能并不明確。

機(jī)器和人類之間的接口存在一些潛在問題。如果機(jī)器學(xué)習(xí)系統(tǒng)是使用專家標(biāo)記的數(shù)據(jù)進(jìn)行訓(xùn)練的，那么它很可能會將這些專家的偏見帶入自己的計算中。從交通站點到紐約時報的訃告頁面，我們有充分的理由懷疑人為生成的數(shù)據(jù)集存在偏差。另一方面，如果系統(tǒng)僅僅被賦予一個數(shù)據(jù)集并被告知尋找模式，那么它很容易被忽略變量偏差。該系統(tǒng)只能從它實際擁有的數(shù)據(jù)中得出結(jié)論，這些數(shù)據(jù)是數(shù)據(jù)集創(chuàng)建者認(rèn)為很重要的數(shù)據(jù)。這些變量之間的相關(guān)性可能很有用，但不一定會顯示任何有關(guān)潛在原因的信息。

斯坦利承認(rèn)，在執(zhí)法和政府項目管理等情況下，對智能系統(tǒng)的使用態(tài)度各有不同。決策者存在偏見，即使是一種不太完美的算法也可能是一種改進(jìn)。另一方面，有證據(jù)表明決策者會使用算法結(jié)果來證明和他們認(rèn)同的決定，而忽略他們不認(rèn)同的建議。

保證數(shù)據(jù)集和結(jié)論

審計跟蹤對維護(hù)系統(tǒng)的完整性和安全性也至關(guān)重要。隨著智能系統(tǒng)通過人類進(jìn)行更敏感的任務(wù)，惡意破壞或者利用他們的動機(jī)將會增加。如果一個面部識別系統(tǒng)決定哪些航空公司的乘客將受到更嚴(yán)格的檢查，那么有能力訪問訓(xùn)練數(shù)據(jù)庫的人可以使特定的個人或特定特征或多或少地引起注意。

訓(xùn)練數(shù)據(jù)庫的完整性在人類創(chuàng)建和維護(hù)大部分靜態(tài)數(shù)據(jù)集的應(yīng)用程序中相對容易受到保護(hù)。目前的大多數(shù)應(yīng)用都屬于這一類。然而，展望未來，許多物聯(lián)網(wǎng)應(yīng)用涉及將來自不同來源的大量數(shù)據(jù)收集到中央存儲庫中，并自動進(jìn)行分析。個人設(shè)備上的缺陷傳感器或惡意用戶是否可能損壞此類數(shù)據(jù)集？如果發(fā)現(xiàn)了非法設(shè)備，是否可以在不中斷其他設(shè)備的情況下鎖定系統(tǒng)？他可以清除所有數(shù)據(jù)嗎？大量數(shù)據(jù)泄露意味著企業(yè)需要投入更多精力來解決這些問題。

以最少的人為干預(yù)來提供強(qiáng)大的安全性需求，說明依賴于物理不可克隆功能的安全方案價值。例如，在去年的Semicon West Imec技術(shù)論壇上，Thomas Kallstenius提出了一個取決于MOS晶體管陣列擊穿特性的關(guān)鍵機(jī)制。 單個晶體管的擊穿是隨機(jī)的，因此陣列中的圖案既不可預(yù)測也不可克隆。它唯一標(biāo)識獨立于所有者或安裝位置的設(shè)備。

邊緣計算是否安全？

在中央存儲庫中收集大型數(shù)據(jù)集也引發(fā)了重大的隱私問題， Facebook /劍橋Analytica丑聞也強(qiáng)調(diào)了這一點。正如馬里蘭大學(xué)的金哲金所說，公司有動力收集盡可能多的數(shù)據(jù)，因為他們的用戶愿意給他們，在未來某個時候這些數(shù)據(jù)會有用。

能夠訪問大量數(shù)據(jù)的公司具有明顯的市場優(yōu)勢。谷歌的圖像識別和機(jī)器翻譯工具的優(yōu)勢部分在于大量用戶使用它們，從而為Google提供穩(wěn)定的數(shù)據(jù)流。Facebook是廣告商的寶貴平臺，因為數(shù)十億人希望與他們的朋友使用相同的網(wǎng)絡(luò)。

而濫用數(shù)據(jù)的后果由個人用戶承擔(dān)。大公司所面臨的風(fēng)險包括身份盜用，信用卡欺詐以及欺詐性廣告。擁有更大數(shù)據(jù)庫的智能系統(tǒng)可能會潛在地對弱勢人群進(jìn)行有針對性的攻擊，針對高速公路或電網(wǎng)的基礎(chǔ)設(shè)施攻擊等等。

用戶越來越意識到數(shù)據(jù)隱私問題，因為智能系統(tǒng)進(jìn)入了越來越多地涉及隱私問題的應(yīng)用。Alexa可以聽到一定范圍內(nèi)發(fā)生的任何事情。 智能電表可以告訴你是否在家，甚至可以告訴你在那里做什么。更多消息靈通的用戶可能會要求更嚴(yán)格的隱私標(biāo)準(zhǔn)監(jiān)管和實施，并且如果他們擔(dān)心它會被濫用或與不受信任的第三方共享，他們并不愿意共享數(shù)據(jù)。邊緣計算已經(jīng)可以降低功耗并縮短響應(yīng)時間，可以通過將敏感數(shù)據(jù)留在用戶手中來幫助緩解這些擔(dān)憂。

然而中央計算提供了真正的好處。具有更多數(shù)據(jù)的算法可以提供更準(zhǔn)確的結(jié)果。 更大的數(shù)據(jù)樣本可以幫助減少偏差。可以相互通信的自動車輛可以更有效地共享道路信息。在每個應(yīng)用程序中，系統(tǒng)設(shè)計人員需要平衡本地和集中式計算的優(yōu)點和缺點，以實現(xiàn)性能優(yōu)化和用戶信任。

為AI制定法規(guī)

政府監(jiān)管總是落后于技術(shù)發(fā)展是一個真理。歐盟的“通用數(shù)據(jù)保護(hù)條例”在2016年頒布，那是進(jìn)入社交媒體時代第十年。在美國，參議院第2217號法案“人工智能法令的未來”是聯(lián)邦立法中處理人工智能影響的首批法案之一，如果僅通過建立研究委員會的非常有限的程序。華盛頓參議員瑪麗亞坎特韋爾，贊助商之一，指出政策制定者還不知道AI技術(shù)將如何使用。 各國正在規(guī)范在其境內(nèi)部署自動駕駛汽車，但幾乎無法控制洲際數(shù)據(jù)流。

未來幾年可能為系統(tǒng)設(shè)計人員和公民塑造人工智能的未來提供了最好的機(jī)會。