亨利·基辛格（Henry Alfred Kissinger）為原美國國家安全顧問，先后擔(dān)任尼克松與福特政府的國務(wù)卿。他因?yàn)榇俪闪酥忻狸P(guān)系正常化為中國人民熟知。

基辛格從一位政治和歷史學(xué)者以及一位政治家的角度，從互聯(lián)網(wǎng)時(shí)代，數(shù)據(jù)對(duì)人類的影響談到社交媒體帶來的信息泛濫，大眾缺乏深度的思考，從而引申出對(duì)人工智能發(fā)展的擔(dān)憂。提出關(guān)注人工智能的價(jià)值觀、思維過程、意識(shí)形態(tài)的塑造等，呼吁關(guān)注技術(shù)與人文經(jīng)驗(yàn)相結(jié)合，共同應(yīng)對(duì)未來的發(fā)展。

無論從哲學(xué)上還是人類智慧發(fā)展上，我們真的準(zhǔn)備好迎接人工智能了么？

三年前，在一個(gè)有關(guān)跨大西洋問題的會(huì)議上，人工智能問題出現(xiàn)在議程中。我本來幾乎要跳過那次會(huì)議，因?yàn)樗隽宋移匠ＫP(guān)心的范圍。但演講已經(jīng)開始，我不得不在座位聽下去。

首先，演講者描述了一個(gè)計(jì)算機(jī)程序的工作原理，并表示這個(gè)程序很快將在圍棋比賽中挑戰(zhàn)國際冠軍。我很驚訝計(jì)算機(jī)竟然可以掌握比國際象棋更復(fù)雜的圍棋。

事實(shí)上，在演講結(jié)束后的幾個(gè)月里，一個(gè)名為AlphaGo的人工智能程序?qū)氐讚魯×耸澜缟献顐ゴ蟮膰暹x手。

當(dāng)我聽到演講者在慶祝這一技術(shù)進(jìn)步時(shí)，作為一名歷史學(xué)家和半個(gè)政治家，我陷入了沉思。

什么會(huì)影響機(jī)器學(xué)習(xí)的歷史呢？

機(jī)器通過特定的過程獲取知識(shí)，他們能將這些知識(shí)應(yīng)用于人類都不擅長的領(lǐng)域嗎？這些機(jī)器能學(xué)會(huì)彼此交流嗎? 如何在新興的選項(xiàng)中做出抉擇?人類歷史是否有可能走上印加人的道路？一系列的問題讓我懷疑我們是否處在人類歷史新階段的邊緣?

意識(shí)到自己在這一領(lǐng)域的技術(shù)能力不足，我組織在一些在技術(shù)和人文領(lǐng)域的老朋友進(jìn)行了一次非正式對(duì)話。很多觀點(diǎn)讓我對(duì)人工智能越來越感興趣。

迄今為止，最能體現(xiàn)出改變了現(xiàn)代歷史進(jìn)程的技術(shù)應(yīng)該是15世紀(jì)印刷機(jī)的發(fā)明了吧，它促進(jìn)了人類對(duì)經(jīng)驗(yàn)知識(shí)的探索取代了禮拜儀式的教條，理性的時(shí)代逐漸取代了宗教的時(shí)代。

個(gè)人見解和科學(xué)知識(shí)取代了信仰，成為人類意識(shí)覺醒的主要標(biāo)準(zhǔn)。知識(shí)在不斷拓展的信息庫中得以存儲(chǔ)和系統(tǒng)化。

理性時(shí)代便起源于這塑造當(dāng)時(shí)世界秩序的思想和行動(dòng)之中。

但是，在一場新的、更為徹底的技術(shù)革命中，這種秩序正處于動(dòng)蕩之中。

我們未能充分考慮到這場革命的后果，這場革命的高潮可能是一個(gè)依賴于數(shù)據(jù)和算法驅(qū)動(dòng)的機(jī)器、不受道德或哲學(xué)規(guī)范約束的世界。

互聯(lián)網(wǎng)時(shí)代 數(shù)據(jù)的奴隸

在互聯(lián)網(wǎng)時(shí)代，人工智能只會(huì)讓一些問題變得更加尖銳。

啟蒙運(yùn)動(dòng)試圖把傳統(tǒng)的真理交給解放的、善于分析的理性人。而互聯(lián)網(wǎng)則是通過不斷積累和被操控?cái)?shù)據(jù)來傳播知識(shí)，人類的認(rèn)知失去了個(gè)性。

我們使用數(shù)據(jù)，卻變成了數(shù)據(jù)的奴隸。

互聯(lián)網(wǎng)用戶強(qiáng)調(diào)檢索和操縱信息，而不是將信息的意義進(jìn)行情境化或概念化。很少有人搜索歷史或哲學(xué)。

一般來說，大家搜索與實(shí)際需求相關(guān)的信息。在這個(gè)過程中，搜索引擎算法獲得了預(yù)測個(gè)人偏好的能力，從而使算法能夠?qū)Y(jié)果進(jìn)行個(gè)性化處理，并將結(jié)果提供給第三方用于政治或商業(yè)目的。

社交媒體信息泛濫，卻缺少深度的思考

許多技術(shù)愛好者只是使用互聯(lián)網(wǎng)來逃避他們所害怕的孤獨(dú)。逃避這些壓力削弱了培養(yǎng)和維持信念所需的毅力，而信念只有在孤獨(dú)的道路上才能實(shí)現(xiàn)，這才創(chuàng)造力的本質(zhì)。

互聯(lián)網(wǎng)技術(shù)對(duì)政治的影響尤為突出。小群體通過互聯(lián)網(wǎng)來訴諸他們的不滿，并被社交媒體迅速傳播，使得政府不得不把重心轉(zhuǎn)移到輿論處理上，打破了政府處理事物的優(yōu)先級(jí)順序。政府領(lǐng)導(dǎo)們忙于平息輿論不滿，卻很少有時(shí)間反思和思考政務(wù)，從而限制了職業(yè)發(fā)展的空間。

數(shù)字時(shí)代強(qiáng)調(diào)快速反應(yīng)卻抑制了反思，它的激勵(lì)機(jī)制使激進(jìn)分子凌駕于深思熟慮者之上。它的價(jià)值觀是由小群體的共識(shí)達(dá)成并傳播，而不是由內(nèi)省形成的。

人工智能的開始

隨著互聯(lián)網(wǎng)和計(jì)算能力的增強(qiáng)，海量數(shù)據(jù)的積累和分析變得越來越容易，人類對(duì)數(shù)據(jù)的理解出現(xiàn)了前所未有的前景。

或許最重要的是人工智能的產(chǎn)生項(xiàng)目——一種能夠發(fā)明和解決復(fù)雜的、看似抽象的問題的技術(shù)，其過程似乎復(fù)制了人類的思維。

這遠(yuǎn)遠(yuǎn)超出了我們所知道的自動(dòng)化。

自動(dòng)化處理手段，通過使實(shí)現(xiàn)這些目的的工具合理化或機(jī)械化，來達(dá)到規(guī)定的目標(biāo)。

相比之下，人工智能確立了自己的目標(biāo)來進(jìn)行處理。從某種程度上說，人工智能的成就有一部分是由其自身塑造的，因此它本質(zhì)上是不穩(wěn)定的。

人工智能系統(tǒng)，通過其自身的運(yùn)作，在獲取和即時(shí)分析新數(shù)據(jù)的過程中不斷變化，然后在分析的基礎(chǔ)上尋求改進(jìn)。通過這個(gè)過程，人工智能發(fā)展出了一種曾經(jīng)被認(rèn)為只有人類才能擁有的能力。

它可以對(duì)未來做出戰(zhàn)略判斷，有些基于被接收成為了代碼的數(shù)據(jù)（例如游戲規(guī)則），有些則基于它自己收集的數(shù)據(jù)（例如通過反復(fù)玩100萬次游戲）。

無人駕駛汽車展示了傳統(tǒng)的人工控制、軟件驅(qū)動(dòng)的計(jì)算機(jī)與試圖導(dǎo)航的人工智能行為之間的不同。

駕駛汽車需要在許多無法預(yù)料的情況下做出判斷，因此需要提前編程。

舉一個(gè)著名的假設(shè)例子，如果這樣一輛車被環(huán)境逼著在殺死祖父母和殺死孩子之間做出選擇，會(huì)發(fā)生什么？它會(huì)選擇誰？為什么?它會(huì)嘗試優(yōu)化選項(xiàng)中的哪些因素？它能夠解釋它的基本原理嗎？

面對(duì)挑戰(zhàn)，它的真實(shí)答案很可能是（如果它能夠交流）：“我不知道（因?yàn)槲易裱氖菙?shù)學(xué)，而不是人類的原則），”或者“你不會(huì)理解（因?yàn)槲冶挥?xùn)練以某種方式行事，但不必解釋它）。”然而，這樣的無人駕駛汽車很可能在未來10年內(nèi)在道路上普及。

到目前為止，人工智能研究僅限于特定的活動(dòng)領(lǐng)域，而現(xiàn)在，人工智能研究正試圖實(shí)現(xiàn)一種能夠在多個(gè)領(lǐng)域執(zhí)行任務(wù)的廣義上的人工智能。

在可測量的時(shí)間內(nèi)，越來越多的人類活動(dòng)將由人工智能算法驅(qū)動(dòng)。但是這些算法，作為對(duì)觀測數(shù)據(jù)的數(shù)學(xué)解釋，并不能解釋產(chǎn)生它們的潛在現(xiàn)實(shí)。

矛盾的是，隨著世界變得更加透明，它也將變得越來越神秘。這個(gè)新世界和我們已知的世界有什么不同？我們將如何生活在其中？我們應(yīng)該如何管理人工智能？如何改進(jìn)它，或者至少防止它造成傷害，阻止最令人擔(dān)憂的結(jié)果發(fā)生。人工智能，通過比人類更快速、更明確地掌握某些能力，隨著時(shí)間的推移，過度依賴數(shù)據(jù)可能會(huì)降低人類的能力。

對(duì)人工智能發(fā)展的三個(gè)擔(dān)憂

在醫(yī)藥科學(xué)、清潔能源供應(yīng)、環(huán)境問題等領(lǐng)域，人工智能為我們帶來更為廣闊的發(fā)展前景。但正因?yàn)閷?duì)人工智能評(píng)判是建立在一個(gè)不斷變化和發(fā)展的未來，它自身發(fā)展結(jié)果也就變得模糊不定。

有三個(gè)方面需要特別關(guān)注：

第一點(diǎn)，人工智能會(huì)創(chuàng)造意想不到的結(jié)果。像在科幻小說里就設(shè)想了人工智能攻擊創(chuàng)造者的場景。AI可能會(huì)因?yàn)槿鄙偃祟愃季S聯(lián)想能力而誤解人類的指令，從而變得危險(xiǎn)可怕。比如說，近幾年有一款叫做Tay的人工智能機(jī)器人。

https://www.nytimes.com/interactive/2018/02/21/technology/conversational-bots.html

它會(huì)仿照一個(gè)19歲的女孩，用特別友好的口吻與人類聊天。但后來事實(shí)證明，Tay作為一臺(tái)機(jī)器，它沒法理解設(shè)計(jì)者給它編好的“友好”和“合理”語言偏好，反而它的語言里摻雜了種族主義、性別歧視和其他具有煽動(dòng)性的回應(yīng)可能有些科學(xué)家會(huì)說這樣的實(shí)驗(yàn)計(jì)劃不周、考慮不足并導(dǎo)致了實(shí)驗(yàn)失敗。

但是正是因?yàn)檫@個(gè)實(shí)驗(yàn)說明了一個(gè)潛在的問題。比如：在什么范圍下，AI可以理解領(lǐng)會(huì)設(shè)計(jì)者給它發(fā)出的指令？有什么樣的途徑能讓Tay來理解它語言上的攻擊性？用什么樣的詞匯能讓都可以接受？又是否我們可以盡早的發(fā)現(xiàn)并改正這些人工智能在既定框架內(nèi)的缺陷？又或者讓人工智能自由發(fā)展，最終導(dǎo)致不可逆轉(zhuǎn)的結(jié)果？

第二點(diǎn)，在其發(fā)展的過程中，人工智能可能改變?nèi)祟愃季S過程和價(jià)值觀。

AlphaGo通過使用史無前例的走法從而戰(zhàn)勝了世界圍棋冠軍，更何況這些走法前人從未考慮，也未曾成功嘗試過。是否因?yàn)檫@些走法超過了人類大腦認(rèn)知？或者人類需要開始學(xué)習(xí)已經(jīng)被這位圍棋大師（AlphaGo）證明的下法？

在AI嘗試圍棋之前，人類圍棋玩家不僅僅要尋求游戲勝利，更是要從中領(lǐng)悟人生的方法論，就像我們所說的棋如人生。但是對(duì)于AI來說，只有贏得游戲這一個(gè)目的。

就因?yàn)檫@樣，AI不需要通過理論學(xué)習(xí)，只需要用數(shù)學(xué)的方式不斷優(yōu)化調(diào)整它的算法，從而判斷出一個(gè)可以勝利的最優(yōu)解。

所以AI跟人類在下棋的理念上就完全不同，并因此改變了游戲的本質(zhì)和所帶來的影響。是否所有AI都是這樣一根筋的處理方式？

其他的AI項(xiàng)目的貢獻(xiàn)方式是幫助人們解決實(shí)際問題。除了那些解決實(shí)際需求的問題（比如外面氣溫是多少？），AI是否能研究自然本質(zhì)和探索生命意義以及引發(fā)更深入的問題？

我們是否希望讓孩子通過無約束的算法來確定價(jià)值觀？我們是否應(yīng)該通過限制AI自主學(xué)習(xí)來保護(hù)我們個(gè)人隱私？如果是的話，我們應(yīng)該怎么做？

如果AI的學(xué)習(xí)速度成指數(shù)型遞增，那我們一定希望加快這種井噴式的學(xué)習(xí)速度，那么AI犯錯(cuò)的概率也會(huì)比人類高。

正如AI領(lǐng)域的研究員所建議的那樣，這些錯(cuò)誤將可能是不可調(diào)和的，除非在程序里加入“所得出的結(jié)果要合乎情理”的警告。

但是整個(gè)學(xué)術(shù)界都無法對(duì)這樣的描述達(dá)成一致觀點(diǎn)，難道要讓人工智能自己來決定，它們的意識(shí)是否合乎情理？

第三點(diǎn)，人工智能會(huì)想盡辦法達(dá)到目標(biāo)，但是不會(huì)對(duì)它做法的合理性進(jìn)行闡述。比如在圖像識(shí)別、大數(shù)據(jù)分析、博弈等領(lǐng)域，人工智能已經(jīng)逐漸超過人類所能做的。

如果它們的計(jì)算能力繼續(xù)快速增長，它們會(huì)形成一套與人類完全不同的思考方式。但到那時(shí)候，AI會(huì)用一種能讓人類理解的方式來向人們解釋為什么那些做法會(huì)得到最佳結(jié)果么？

縱觀人類歷史，文明締造了解釋周圍世界的方法，比如中世紀(jì)向我們解釋了宗教，啟蒙運(yùn)動(dòng)向我們揭示了自然科學(xué)奧秘，20世紀(jì)給我們帶來了意識(shí)形態(tài)。

所以接下來我們將要直面這樣一個(gè)困難的問題，那就是：如果AI超越了人類意識(shí)所能理解的范疇，那它們是否將用自己的意識(shí)形態(tài)來取代我們解釋這個(gè)世界？

所以在機(jī)器的世界里，意識(shí)將是如何定義的，是否是把人類的經(jīng)驗(yàn)簡化為0、1一樣的數(shù)字，來形成它們自己的記憶，不斷學(xué)習(xí)、不斷傳承？

誰來對(duì)它們的行為負(fù)責(zé)，又有誰來為它們的錯(cuò)誤買單？由人類設(shè)計(jì)的法律體系能否跟上人工智能思考和發(fā)展的步伐？

我們說人工智能應(yīng)該是不恰當(dāng)?shù)摹ｋm然這些機(jī)器可以處理那些原本是只有人類認(rèn)知才能解決的復(fù)雜、抽象的問題。但是，他們思考的獨(dú)特之處在于，可以跳出那些條條框框和所謂的經(jīng)驗(yàn)之談。而且，他們還具有史無前例的記憶力和計(jì)算能力，正因?yàn)檫@些內(nèi)在優(yōu)勢，才讓它們可以贏得各種游戲。

但對(duì)于人類來說，游戲的目的不僅僅是為了獲得勝利，更重要的是從中提煉出一種對(duì)事物的思考方式。如果把對(duì)于事物的思考方式當(dāng)做一個(gè)數(shù)學(xué)模型去看待，不斷模仿并且試圖接受這些結(jié)果，那我們將會(huì)失去我們的認(rèn)知能力。

AlphaZero項(xiàng)目向我們?cè)忈屵@場技術(shù)爆炸的威力，AlphaZero不僅技術(shù)所有棋師的水平之上，而且會(huì)用之前棋譜中從未有過的下法。可以通過幾個(gè)小時(shí)自娛自樂，獲得人類曾經(jīng)1500年來所總結(jié)下來的經(jīng)驗(yàn)教訓(xùn)。

而我們只需要做的就是把游戲規(guī)則告訴它。在它自己學(xué)習(xí)的過程中，完全沒有進(jìn)行任何人工干預(yù)。AlphaZero可以如此快的精通掌握下棋的技巧，那未來五年人工智能將會(huì)發(fā)展成什么樣子？會(huì)對(duì)我們的下一代造成什么樣的影響？

這些問題就留給那些在科學(xué)領(lǐng)域的專家們吧。哲學(xué)家和其他人文領(lǐng)域的專家，因?yàn)槿鄙賹?duì)人工智能機(jī)制的了解、對(duì)它們能力感到害怕，所以塑造了一個(gè)不利于人工智能發(fā)展的觀念。

但相反的，科學(xué)家們卻一直嘗試推動(dòng)人工智能的發(fā)展，并讓這些技術(shù)在商業(yè)領(lǐng)域推廣利用。所以這些人的動(dòng)機(jī)都是挖掘其潛力而非理解人工智能。

同樣作為政府，最初也是投資于人工智能在安全和情報(bào)調(diào)查方面的應(yīng)用，而并未去考慮人工智能會(huì)導(dǎo)致人類意識(shí)的變化。

啟蒙運(yùn)動(dòng)開始于對(duì)新技術(shù)的哲學(xué)探索，但我們正在朝著相反的方向前進(jìn)。

人工智能的發(fā)展?jié)撘颇刂敢宋覀兯伎嫉姆较颉Ｒ恍﹪野讶斯ぶ悄茏鳛閲野l(fā)展戰(zhàn)略計(jì)劃，開始研究人工智能的發(fā)展和應(yīng)用，這其中當(dāng)然也不例外地包括美國。人們把人工智能放在至高無上的發(fā)展地位上，但從未思考過這樣將會(huì)帶來的沖擊和后果。

雖然說我本人對(duì)人工智能的技術(shù)可能一竅不通，但在這里我想告誡那些一門心思鉆研技術(shù)，而沒有哲學(xué)思考和政治理念的人工智能開發(fā)人員，請(qǐng)認(rèn)真思考這篇文章里我提出來的這些問題，并把這些思考放入到你們的技術(shù)研究之中。