由于和美國(guó)軍方合作進(jìn)行人工智能項(xiàng)目，科技巨頭谷歌面臨的內(nèi)部辭職潮和外部輿論壓力，有愈演愈烈之勢(shì)。

為了平息輿論壓力，谷歌向公司員工承諾，將制定一套原則，來(lái)指導(dǎo)其人工智能業(yè)務(wù)在防務(wù)和情報(bào)合同中，如何越過(guò)道德雷區(qū)。谷歌也向外界表示，新的原則將會(huì)避免讓人工智能朝武器化發(fā)展。但在實(shí)際實(shí)施中如何應(yīng)用，還尚未清楚。

去年4月份，美國(guó)軍方提出Maven項(xiàng)目。Maven的目標(biāo)是“加快國(guó)防部整合大數(shù)據(jù)和機(jī)器學(xué)習(xí)”，也被美國(guó)國(guó)防部稱(chēng)為算法戰(zhàn)爭(zhēng)跨功能團(tuán)隊(duì)（AWCFT：Algorithmic Warfare Cross-Functional Team）。此前谷歌稱(chēng)，該項(xiàng)目中向美國(guó)國(guó)防部提供用于機(jī)器學(xué)習(xí)應(yīng)用的TensorFlow API接口，以幫助軍事分析人員檢測(cè)圖像中的物體。

谷歌究竟參與程度如何，雙方都未提及。

據(jù)《紐約時(shí)報(bào)》5月30日的報(bào)道，谷歌云CEO黛安·格林曾在每周的全公司TGIF（Thanks God, it"s Friday）會(huì)議上發(fā)言，她稱(chēng)，這個(gè)項(xiàng)目不是為了攻擊目的，雙方的合同價(jià)值相當(dāng)小，僅900萬(wàn)美元。

盡管如此，谷歌內(nèi)部員工的憤怒和失望情緒并沒(méi)有得到安撫，他們認(rèn)為這次的合作影響到了谷歌的聲譽(yù)和公司文化，也關(guān)乎機(jī)器學(xué)習(xí)發(fā)展和使用的道德問(wèn)題。

截至美國(guó)當(dāng)?shù)貢r(shí)間5月14日，谷歌已有十幾名員工正式因這一項(xiàng)目向谷歌請(qǐng)辭，以抗議公司繼續(xù)參與軍方的Maven項(xiàng)目。同時(shí)，學(xué)術(shù)界有364名人工智能專(zhuān)業(yè)人士也聯(lián)名上書(shū)，反對(duì)谷歌。

谷歌對(duì)于事態(tài)的發(fā)展并沒(méi)有做好準(zhǔn)備。更令谷歌頭疼的是，Maven項(xiàng)目引發(fā)的爭(zhēng)議可能在未來(lái)幾個(gè)月還會(huì)加劇。

原因是據(jù)《連線(xiàn)》5月29日的報(bào)道，到了2018年，Maven項(xiàng)目開(kāi)始擴(kuò)展到新領(lǐng)域，包括利用開(kāi)發(fā)工具以更高效地驅(qū)動(dòng)硬盤(pán)。另外，今年Maven項(xiàng)目獲得的資金也有望擴(kuò)大到1.31億美元。美國(guó)五角大樓還計(jì)劃與硅谷建立聯(lián)合人工智能中心，可能會(huì)效仿Maven項(xiàng)目，以支持美國(guó)軍方，并為情報(bào)機(jī)構(gòu)提供服務(wù)。一方面是不想失去軍方的合同，另一方面是員工對(duì)于公司文化的質(zhì)疑，谷歌在“不作惡”和“做正確的事”之間面臨了兩難的困境。

谷歌將發(fā)布AI技術(shù)使用規(guī)范

為了安撫內(nèi)部員工的情緒，《紐約時(shí)報(bào)》稱(chēng)，谷歌在上周四（5月24日）召開(kāi)了內(nèi)部討論會(huì)。

谷歌現(xiàn)任CEO桑達(dá)爾·皮查伊（Sundar Pichai）在會(huì)上表示，公司會(huì)公布一系列機(jī)器學(xué)習(xí)使用的政策和防護(hù)安全措施文件，這些原則必須要經(jīng)得住時(shí)間的考驗(yàn)。

但實(shí)際上，谷歌在Maven項(xiàng)目成立之初就提到了這些原則和安全措施文件，直到到現(xiàn)在都未對(duì)外界公開(kāi)。谷歌的員工希望公司能在未來(lái)幾個(gè)星期內(nèi)提交這些原則和安全措施。

面對(duì)這場(chǎng)公司內(nèi)部的辭職潮，谷歌原本有機(jī)會(huì)在項(xiàng)目合作時(shí)就避免事態(tài)嚴(yán)重化。

去年9月份，谷歌內(nèi)部在討論如何向公眾解釋這個(gè)事情時(shí)，谷歌云首席科學(xué)家、副總裁李飛飛曾在郵件中強(qiáng)烈建議雙方在合同中回避“AI”（人工智能）這個(gè)字眼。

“無(wú)論付出什么代價(jià)，都必須要避免提及或者使用到AI這兩個(gè)字。武器化人工智能可能是AI領(lǐng)域里最敏感的話(huà)題，沒(méi)有之一。對(duì)于媒體而言這簡(jiǎn)直就是紅肉（red meat），他們會(huì)找到一切方式毀掉谷歌。”這位來(lái)自斯坦福大學(xué)人工智能實(shí)驗(yàn)室的學(xué)者在郵件中說(shuō)。

“我不知道如果媒體開(kāi)始谷歌正在秘密建造AI武器或AI技術(shù)，并為國(guó)防工業(yè)服務(wù)會(huì)發(fā)生什么。”李飛飛說(shuō)，因此她希望在對(duì)外公布合同時(shí)，能將項(xiàng)目描繪為是谷歌云平臺(tái)的重大勝利。不過(guò)李飛飛也在郵件中指出，這是她的建議，最終決定權(quán)還在她的老板身上。

李飛飛一直堅(jiān)持相信的是以人為中心的人工智能，可以用積極和慈善的方式讓人類(lèi)受益。她還表示，任何將人工智能武器化的項(xiàng)目研究，都將違背她的原則。

最后，谷歌選擇不將Maven項(xiàng)目公之于眾。只有反對(duì)的員工通過(guò)谷歌內(nèi)部溝通平臺(tái)開(kāi)始抗議時(shí)，谷歌作為Maven項(xiàng)目分包商的事才引起了公眾的關(guān)注。

到了今年4月初，反對(duì)的聲音越來(lái)越大，導(dǎo)致大約有3100多名谷歌員工簽名，向谷歌現(xiàn)任CEO桑達(dá)爾·皮查伊（Sundar Pichai）提交了一封信，要求皮查伊立即取消參與Maven項(xiàng)目，并起草并公開(kāi)一份清晰的政策表明：谷歌和它的合作方不會(huì)開(kāi)發(fā)用于戰(zhàn)爭(zhēng)的技術(shù)。

“谷歌在Maven項(xiàng)目中的相關(guān)參與計(jì)劃將不可挽回地毀滅谷歌的品牌和它吸納人才的能力。在越來(lái)越多的對(duì)于人工智能可能會(huì)偏激化和武器化的恐懼中，谷歌在獲取公眾信任方面已經(jīng)顯得力不從心了。這一協(xié)議將會(huì)使谷歌的聲譽(yù)面臨威脅，并將會(huì)使谷歌站在其核心價(jià)值觀(guān)的對(duì)立面。”谷歌的員工在信中寫(xiě)到。

而除了員工反對(duì)外，谷歌在外部也遭遇了輿論壓力。5月15日，國(guó)際機(jī)器人武器控制委員會(huì)（ICRAC）向谷歌母公司Alphabet的CEO拉里·佩奇、谷歌現(xiàn)任CEO桑達(dá)爾·皮查伊、谷歌云CEO黛安·格林、谷歌云首席科學(xué)家、副總裁李飛飛發(fā)出了一封公開(kāi)信，再次要求谷歌停止其與國(guó)防部在Maven項(xiàng)目上的合作協(xié)議，承諾不去開(kāi)發(fā)軍事科技，并保證不將其搜集的個(gè)人數(shù)據(jù)用于軍事行動(dòng)。

爭(zhēng)議：如何界定技術(shù)的使用

在遭遇大量員工辭職潮后，4月11日，谷歌還舉行了關(guān)于Maven項(xiàng)目的討論。據(jù)觀(guān)看討論的員工透露，格林堅(jiān)定地認(rèn)為，Maven項(xiàng)目沒(méi)有將AI用于攻擊目的，而谷歌AI研究Meredith Whittaker則認(rèn)為很難界定如何使用該技術(shù)。

Maven項(xiàng)目的首要任務(wù)是幫助美國(guó)國(guó)防部有效地處理來(lái)自全球各地的海量的視頻資料。美國(guó)國(guó)防部每天收集到數(shù)量龐大的無(wú)人機(jī)飛行畫(huà)面，但人類(lèi)圖像分析師遠(yuǎn)遠(yuǎn)跟不上視頻數(shù)量的增長(zhǎng)。因此，國(guó)防部希望能利用機(jī)器學(xué)習(xí)來(lái)識(shí)別無(wú)人機(jī)鏡頭中的車(chē)輛和其他物體，從而減輕分析人員的負(fù)擔(dān)。在自身資源不足的情況下，國(guó)防部轉(zhuǎn)向了學(xué)界與業(yè)界的人工智能專(zhuān)家合作。

在這一爭(zhēng)議項(xiàng)目中，谷歌提供的TensorFlow是一款人工智能領(lǐng)域里的免費(fèi)開(kāi)放軟件，也是谷歌人工智能戰(zhàn)略的關(guān)鍵。它為機(jī)器學(xué)習(xí)工程師提供了進(jìn)行數(shù)據(jù)排序和訓(xùn)練算法的框架，并且在整個(gè)行業(yè)中被廣泛使用。

但反對(duì)聲音稱(chēng)，新技術(shù)并非總能帶來(lái)便利，已經(jīng)有研究人員發(fā)出警告，人工智能技術(shù)可能會(huì)以不易察覺(jué)的方式產(chǎn)生重大偏見(jiàn)。

學(xué)界認(rèn)為，谷歌收集了大量關(guān)于用戶(hù)行為、活動(dòng)和興趣的數(shù)據(jù)。谷歌不能僅利用這些數(shù)據(jù)改進(jìn)自己的技術(shù)和擴(kuò)大業(yè)務(wù)，還應(yīng)該造福社會(huì)。公司的座右銘是“不作惡”，這是眾所周知的責(zé)任。

“像谷歌這樣跨國(guó)公司的責(zé)任必須與他們的用戶(hù)國(guó)際化相匹配。根據(jù)谷歌所考慮的國(guó)防部合同，以及微軟和亞馬遜已經(jīng)實(shí)施的類(lèi)似合同，這樣的做法標(biāo)志著擁有大量全球敏感私人數(shù)據(jù)的科技公司與一個(gè)國(guó)家軍隊(duì)的危險(xiǎn)聯(lián)盟。它們還表明，谷歌未能與全球公民社會(huì)和外交機(jī)構(gòu)進(jìn)行接觸，這些機(jī)構(gòu)已經(jīng)強(qiáng)調(diào)這些技術(shù)的道德風(fēng)險(xiǎn)。”ICRAC在向谷歌提交的公開(kāi)信中稱(chēng)。

在谷歌創(chuàng)始人謝爾蓋·布林（Sergey Brin）看來(lái)，他能理解Maven項(xiàng)目中的爭(zhēng)議，但他表示，如果世界各國(guó)的軍隊(duì)都與谷歌這樣的國(guó)際組織合作，而不是僅僅與民族主義的國(guó)防承包商合作，這將有利于和平。