谷歌兩年前制作一個(gè)視頻本周被曝光。視頻里提出了“Ledger”概念，Ledger收集用戶所有數(shù)據(jù)，然后根據(jù)用戶的行為、習(xí)慣等信息，引導(dǎo)用戶完成一個(gè)目標(biāo)。看上去是在幫助用戶解決問(wèn)題，但細(xì)思恐極的是，這不就是黑鏡里的情景嗎？

谷歌兩年前做的一個(gè)視頻，本周被曝光，立刻炸開(kāi)了鍋。

這個(gè)名為“The Selfish Ledger”的9分鐘視頻，描述了一個(gè)所謂的“Selfish Ledger”概念，它可以收集用戶所有數(shù)據(jù)，包括在手機(jī)上進(jìn)行的任何操作、偏好設(shè)置和做出的決定，然后這個(gè)由谷歌設(shè)計(jì)和管理的ledger將解釋這些信息，引導(dǎo)用戶完成一個(gè)目標(biāo)。舉例來(lái)說(shuō)，如果你想減肥，ledger會(huì)看到你正在用手機(jī)購(gòu)買(mǎi)的食物，然后指導(dǎo)你購(gòu)買(mǎi)哪些會(huì)更健康。

更可怕的是，即使AI缺少一個(gè)關(guān)鍵的數(shù)據(jù)點(diǎn)，它也可以填補(bǔ)數(shù)據(jù)的空白：ledger能夠在設(shè)備中尋找，以便在使用的時(shí)候提供所需的數(shù)據(jù)。比如你缺少體重?cái)?shù)據(jù)，ledger甚至?xí)l繁推薦電子秤讓你購(gòu)買(mǎi)。

Ledger：引導(dǎo)用戶達(dá)成目標(biāo)，對(duì)數(shù)據(jù)無(wú)比貪婪

“The Selfish Ledger”短片以Lamarckian的表觀遺傳學(xué)的歷史開(kāi)始，它關(guān)注的是在一個(gè)有機(jī)體的一生中所獲得的特性的傳承。

Nick Foster是這段視頻的解說(shuō)。Foster說(shuō)，這一理論在遺傳學(xué)上可能是不可信的，但它為用戶數(shù)據(jù)提供了一個(gè)有用的隱喻。

我們使用手機(jī)的方式創(chuàng)造了“‘我們是誰(shuí)’的不斷演變的表述”，這就形成了一個(gè)“Ledger”，Ledger假定數(shù)據(jù)資料可以被利用起來(lái)，并能夠用于修改行為，還能從一個(gè)用戶轉(zhuǎn)移到另一個(gè)用戶:

“以用戶為中心的設(shè)計(jì)原則已經(jīng)主宰了計(jì)算世界幾十年，但如果我們以一種不同的方式看待事物呢？”如果Ledger可以被賦予一種意志或目的，而不是簡(jiǎn)單地作為一種歷史參照，該怎么辦？如果我們專(zhuān)注于通過(guò)引入更多的信息來(lái)源來(lái)創(chuàng)建一個(gè)更豐富的Ledger，那會(huì)怎么樣呢？如果我們認(rèn)為自己不是這些信息的所有者，而是作為托管人、臨時(shí)承運(yùn)人或看護(hù)人呢?

我們的設(shè)備使用的所謂Ledger——我們的“行動(dòng)、決定、偏好、運(yùn)動(dòng)和關(guān)系”的數(shù)據(jù)——可以很容易地傳遞給其他用戶，就像遺傳信息代代相傳一樣，F(xiàn)oster說(shuō)。

基于Ledger的想法，該視頻的中間部分提出了谷歌系統(tǒng)的概念性決議（conceptual Resolutions by Google system），其中谷歌提示用戶選擇一個(gè)人生目標(biāo)，然后在他們與手機(jī)的每一次互動(dòng)中引導(dǎo)他們走向這個(gè)目標(biāo)。

這些例子“反映谷歌作為一個(gè)組織的價(jià)值觀”，其中包括使用Uber或指導(dǎo)你從Safeway購(gòu)買(mǎi)本地生產(chǎn)的產(chǎn)品時(shí)，嘗試更環(huán)保的選擇。

當(dāng)然，Ledger概念是在谷歌上進(jìn)行的，它可以訪問(wèn)大量的用戶數(shù)據(jù)和決策，不過(guò)，視頻中沒(méi)有提到隱私問(wèn)題或潛在的負(fù)外部性。Ledger對(duì)更多數(shù)據(jù)的貪婪需求可能是這部視頻中最令人不安的地方。

Foster設(shè)想了一個(gè)未來(lái)：“目標(biāo)驅(qū)動(dòng)的Ledger概念變得容易被接受，并且行動(dòng)建議可能不是由用戶而是由Ledger本身提供的”，這就是《黑鏡》描述的景象。而Ledger積極地尋求填補(bǔ)數(shù)據(jù)的空白，甚至選擇購(gòu)買(mǎi)它認(rèn)為可以吸引用戶的產(chǎn)品，以便采集數(shù)據(jù)。

視頻中給出的例子是一個(gè)浴室秤，因?yàn)長(zhǎng)edger還不知道它的用戶有多重。

這段視頻又進(jìn)一步轉(zhuǎn)向了讓人焦慮的科幻小說(shuō)，因?yàn)檫@個(gè)Ledger可能會(huì)變得如此精明，以至于它可以提出和3D打印自己的設(shè)計(jì)。

Foster對(duì)Ledger的看法超越了自我完善的工具。該系統(tǒng)將能夠“填補(bǔ)其數(shù)據(jù)的空白，并完善其人類(lèi)行為模式”——不僅僅是你的特定行為或我的行為，而是整個(gè)人類(lèi)物種的行為。

“通過(guò)將用戶數(shù)據(jù)視為多代人，新興用戶可以從上一代的行為和決策中獲益。”Foster解釋說(shuō)，設(shè)想一個(gè)挖掘人類(lèi)行為的數(shù)據(jù)庫(kù)，將其與人類(lèi)基因組進(jìn)行排序，并“對(duì)決策和未來(lái)行為做出越來(lái)越準(zhǔn)確的預(yù)測(cè)”。

“黑鏡”要來(lái)？X發(fā)言人：它與任何當(dāng)前或未來(lái)的產(chǎn)品無(wú)關(guān)

短片命名為“The Selfish Ledger”并非是Ledger很自私，而是向理查德·道金斯（Richard Dawkins）1976年《自私的基因》“Selfish Gene”一書(shū)的致敬，這本書(shū)提出了以基因?yàn)橹行牡倪M(jìn)化論的觀點(diǎn)，在現(xiàn)代生物進(jìn)化理論中地位非常重要。

這次視頻的解說(shuō)Foster也是Alphabet X部門(mén)的設(shè)計(jì)負(fù)責(zé)人，同時(shí)也是the Near Future Laboratory的聯(lián)合創(chuàng)始人。

X部門(mén)是Alphabet的創(chuàng)新孵化器（以前是Google X部門(mén)），在這里把大批天馬行空的想法變成了現(xiàn)實(shí)，包括谷歌glass、自動(dòng)駕駛汽車(chē)、Loon、Wing等。

Foster在2016年制作出來(lái)“The Selfish Ledger”視頻后，一直在谷歌內(nèi)部共享，直到本周被The Verge曝光，隨后引發(fā)了大家對(duì)谷歌“黑鏡”行為的擔(dān)憂。

對(duì)此，一位X的發(fā)言人向The Verge聲明：

這是多年前設(shè)計(jì)團(tuán)隊(duì)的一個(gè)思想實(shí)驗(yàn)，他們使用一種被稱為“推測(cè)設(shè)計(jì)（speculative design）”的技術(shù)來(lái)探索讓人不舒服的想法和概念，從而引發(fā)討論和辯論。它與任何當(dāng)前或未來(lái)的產(chǎn)品無(wú)關(guān)。

谷歌兩項(xiàng)專(zhuān)利思維模式與Ledger類(lèi)似

雖然X發(fā)言人否認(rèn)，但The Verge又發(fā)現(xiàn)谷歌有兩個(gè)專(zhuān)利申請(qǐng)表現(xiàn)出的思維模式，跟 Ledger的設(shè)想一樣。

有讀者指出，去年公開(kāi)的谷歌自2015年開(kāi)始的一項(xiàng)專(zhuān)利申請(qǐng)，標(biāo)題為“檢測(cè)和糾正用戶行為中的潛在錯(cuò)誤”。Selfish Ledger概念的核心部分跟這個(gè)標(biāo)題非常相似：它的前提是，在個(gè)人層面上幫助用戶進(jìn)行自我改善和行為修正。

這個(gè)專(zhuān)利文件中提出了一個(gè)系統(tǒng)，在這個(gè)系統(tǒng)中，你的設(shè)備將使用Google已經(jīng)收集到的信息——例如從你的電子郵件收件箱中收集的旅行行程——然后在檢測(cè)到你行程偏離時(shí)采取行動(dòng)。

系統(tǒng)預(yù)測(cè)計(jì)算設(shè)備的用戶將要采取的行動(dòng)，并根據(jù)與計(jì)算設(shè)備相關(guān)的上下文信息來(lái)確定用戶正在采取的當(dāng)前行動(dòng)。計(jì)算系統(tǒng)根據(jù)當(dāng)前的操作決定用戶是否能夠采取未來(lái)的行動(dòng)，并根據(jù)可能性程度預(yù)測(cè)用戶將無(wú)法采取的行動(dòng)。計(jì)算系統(tǒng)向計(jì)算設(shè)備發(fā)送信息，表明用戶當(dāng)前正在采取的操作將導(dǎo)致用戶無(wú)法采取未來(lái)的行動(dòng)。

因此，假如你正在前往的機(jī)場(chǎng)不對(duì)，你的手機(jī)會(huì)發(fā)出通知，告訴你走錯(cuò)了路。

然而，為了實(shí)現(xiàn)這種智能，手機(jī)需要對(duì)你的生活非常熟悉。除了事先知道你的計(jì)劃之外，它還必須了解你的日常駕駛或通勤模式，它需要知道你當(dāng)前的位置和活動(dòng)，以確定它是否與計(jì)劃一致。

這是谷歌服務(wù)的永恒二分法：它們真的非常實(shí)用，確實(shí)有幫助，但是你愿意為了方便而放棄多少隱私?

另一項(xiàng)谷歌專(zhuān)利申請(qǐng)也是2015年開(kāi)始，去年公開(kāi)，名為“通過(guò)智能手機(jī)引導(dǎo)購(gòu)買(mǎi)”。這是一個(gè)自動(dòng)購(gòu)物助手，當(dāng)它檢測(cè)到你正在查看一個(gè)產(chǎn)品時(shí)，系統(tǒng)可以幫助你購(gòu)買(mǎi)的。

通過(guò)智能手機(jī)引導(dǎo)購(gòu)買(mǎi)，其方法是通過(guò)智能手機(jī)的用戶輸入確定用戶購(gòu)買(mǎi)特定產(chǎn)品的意愿。確定購(gòu)買(mǎi)多個(gè)產(chǎn)品的任務(wù)序列中的至少一個(gè)任務(wù)序列。所確定的購(gòu)買(mǎi)特定產(chǎn)品的意向與購(gòu)買(mǎi)多個(gè)產(chǎn)品中的一個(gè)確定的任務(wù)序列相關(guān)聯(lián)。確定智能手機(jī)用戶在相關(guān)的任務(wù)序列中的當(dāng)前狀態(tài)。用戶通過(guò)智能手機(jī)被告知下一個(gè)未完成的任務(wù)，該任務(wù)來(lái)自基于智能手機(jī)用戶當(dāng)前狀態(tài)的相關(guān)任務(wù)序列。

比如說(shuō)，你正在High Snobiety網(wǎng)站（一個(gè)時(shí)尚資訊平臺(tái)）瀏覽最新的運(yùn)動(dòng)鞋時(shí)，系統(tǒng)將引導(dǎo)你完成購(gòu)物流程，你可以選擇產(chǎn)品類(lèi)型、功能、型號(hào)和商家。

為了向用戶提供完成購(gòu)買(mǎi)的正確指導(dǎo)，這個(gè)系統(tǒng)將使用從先前的用戶購(gòu)買(mǎi)行為中獲得的信息。專(zhuān)利申請(qǐng)寫(xiě)道：它將“決定在相關(guān)的任務(wù)序列中任務(wù)的順序，至少在一定程度上基于從那些在相關(guān)的任務(wù)序列中執(zhí)行部分或全部任務(wù)的消費(fèi)者中收集的信息。”

這聽(tīng)起來(lái)不就是The Selfish Ledger嗎？

在這項(xiàng)“引導(dǎo)購(gòu)買(mǎi)”專(zhuān)利申請(qǐng)中，一個(gè)次要的聲明是將廣告商導(dǎo)入到購(gòu)買(mǎi)過(guò)程的最后階段。具體來(lái)說(shuō)，谷歌將收集那些希望在該系統(tǒng)的特定產(chǎn)品搜索中出現(xiàn)產(chǎn)品的公司的投標(biāo)。在這方面，專(zhuān)利申請(qǐng)回到了為谷歌賺錢(qián)的目的：創(chuàng)造新的服務(wù)，幫助廣告商更好地展示他們的產(chǎn)品。

在針對(duì)谷歌的The Selfish Ledger的反應(yīng)中，很少有人真正了解谷歌已經(jīng)參與的數(shù)據(jù)收集的程度。The Selfish Ledger并不是跟谷歌今天的做法完全無(wú)關(guān)，它只是將它們推向極端的一個(gè)概念視頻。

現(xiàn)實(shí)生活中，谷歌的照片已經(jīng)假定知道你會(huì)認(rèn)為生活的亮點(diǎn)，并根據(jù)其AI解釋提出整個(gè)專(zhuān)輯；Google地圖和Google智能助理都會(huì)根據(jù)他們對(duì)日常位置和習(xí)慣的信息提出建議；谷歌在最近的I/O大會(huì)上出現(xiàn)的全雙工語(yǔ)音通話AI的演示等等。

在新技術(shù)和人工智能正在進(jìn)入更廣泛的公眾討論的時(shí)代，谷歌的一舉一動(dòng)都備受關(guān)注。

“The Selfish Ledger”把谷歌作為世界上最棘手問(wèn)題的解決者，解決方法由每一位用戶的個(gè)人信息的親密程度和對(duì)整個(gè)群體行為的引導(dǎo)來(lái)推動(dòng)。這不僅僅是谷歌內(nèi)部的一次思想鍛煉，也為人類(lèi)提供了一個(gè)啟發(fā)性的視角。