《生命3.0》是一本近來很火的暢想人工智能未來的書。該書作者邁克斯·泰格馬克（Max Tegmark）是麻省理工大學(xué)物理系終身教授，也是未來生命研究所（Future of Life Institute）創(chuàng)始人。該組織匯集了包括包括史蒂芬·霍金、埃隆·馬斯克、比爾·蓋茨在內(nèi)的8000多名全球頂尖人工智能專家，致力于規(guī)避高級(jí)人工智能帶來的人類生存風(fēng)險(xiǎn)。本周，筆者與泰格馬克教授進(jìn)行了一場(chǎng)有趣的對(duì)談，對(duì)未來人工智能發(fā)展提出了許多有趣的觀察。

邁克斯·泰格馬克（左）。《生命3.0》英文版書封（右），該書中文版已由浙江教育出版社于2018年出版。

《生命3.0》的主旨是生命發(fā)展的三段論。生命1.0的狀態(tài)是生命之初的原生狀態(tài)，雖然有生命，但說不上有思想。生命2.0的狀態(tài)就是我們?nèi)祟惖默F(xiàn)狀，如果用計(jì)算機(jī)語言來描述，我們的血肉之軀就是人類生命的硬件，是百萬年的進(jìn)化而來的，而我們的頭腦與思想?yún)s不是印刻在身軀之上，不是先天進(jìn)化而來的，而是后天習(xí)得的。換句話說，我們的思想是可以被后天所設(shè)計(jì)的，這就是生命2.0與1.0的區(qū)別。而且，隨著科學(xué)技術(shù)的進(jìn)步，從語言、文字到印刷術(shù)、現(xiàn)代科學(xué)，再到計(jì)算機(jī)、互聯(lián)網(wǎng)，人類個(gè)體智慧之間的聯(lián)系變得日益緊密，人類整體智慧的沉淀不再會(huì)被任何一個(gè)人的大腦的有限容量所局限，這正是生命2.0的美妙之處，同時(shí)也為邁向生命3.0奠定了基礎(chǔ)。

到了生命3.0的階段，不僅軟件可以后天被設(shè)計(jì)，硬件也是如此。生命不再依賴血肉之軀的進(jìn)化，硅基（也就是基于硅片的）硬件也可以成為生命的載體。彼時(shí)，生命第一次可以甩掉血肉之軀，不再依賴生物的進(jìn)化，而成為軀體的主宰。簡(jiǎn)言之，《生命3.0》中最重要的觀點(diǎn)就是，機(jī)器可以和血肉之軀的人類一樣，成為智慧的載體。而機(jī)器和人類最大的不同，恰恰在于機(jī)器的硬件不再受到進(jìn)化的約束。《生命3.0》還有一個(gè)潛臺(tái)詞，即與人類相似的智慧，并不一定要依賴于自然進(jìn)化出的人類大腦。機(jī)器的發(fā)明過程中有很多類似的例子，比如人類向往飛行，但人類設(shè)計(jì)出的飛機(jī)與大自然中的鳥類和昆蟲都不同。

《生命3.0》是一本想象力豐富而邏輯推理嚴(yán)謹(jǐn)?shù)闹鳎瑢?duì)人工智能大發(fā)展之后人與機(jī)器的關(guān)系做出了一種宏大的分析。泰格馬克對(duì)人工智能的前景充滿樂觀，屬于相信通用型人工智能（AGI—Artificial General Intelligence）有可能在我們有生之年出現(xiàn)的樂觀派。但是，他不同于技術(shù)樂觀主義者，認(rèn)為技術(shù)的進(jìn)步就必然帶來人類的進(jìn)步、必然能讓人類面臨的問題迎刃而解。他念茲在茲的，是如何為人工智能的發(fā)展框定一些共識(shí)和規(guī)則，確保未來即使人工智能達(dá)到甚至超過人類的智慧，也仍然會(huì)和人類的目標(biāo)一致。

對(duì)于泰格馬克提出的機(jī)器也會(huì)擁有智慧，并且可以讓智慧不再依賴血肉之軀的觀點(diǎn)，我有一定保留。目前已經(jīng)有其他專家提出，智慧也許不僅僅與大腦相關(guān)，血肉之軀給我們帶來的感官與反饋，可能與大腦一起作為整體，共同促成了人類智慧的產(chǎn)生。如果真是如此，人工智能的發(fā)展步伐可能要慢不少。

盡管如此，泰格馬克仍然提出了“人與機(jī)器”未來相處的一些重要問題，不論人工智能的發(fā)展比我們想象地更快還是更慢，人工智能在乘數(shù)效應(yīng)的推動(dòng)下會(huì)變得越來越強(qiáng)大，到了那時(shí)，留給人類試錯(cuò)的空間將越來越小。當(dāng)人類研發(fā)出核武器之后，必須就限制核武器達(dá)成公約，因?yàn)楹藨?zhàn)爭(zhēng)一旦打響，人類的家園地球就可能面臨毀滅。核戰(zhàn)爭(zhēng)不會(huì)給人類第二次機(jī)會(huì)，人工智能也是如此，當(dāng)它變得更為強(qiáng)大之后，我們將不得不考量它是否會(huì)給人類帶來傷害，因而必須達(dá)成一定的操作規(guī)則來確保其目標(biāo)與人類一致。

地球歷史上有太多降維打擊的例子，非洲西部黑犀牛在2011年的滅絕就是一個(gè)晚近的例子，根本原因是有著更強(qiáng)大智慧的人類與黑犀牛的生存目標(biāo)已經(jīng)相去甚遠(yuǎn)。以此類推，當(dāng)AGI超過人類的智慧時(shí)，如果他們的目標(biāo)和人類生存的目標(biāo)發(fā)生了偏差，人類滅絕可能是大概率事件。所以，人工智能的發(fā)展必須由人來確定方向，其中有兩點(diǎn)特別重要：第一，我們要確保人工智能的穩(wěn)定與安全，一方面盡可能降低人工智能犯錯(cuò)和宕機(jī)的可能，另一方面則是要確保人工智能不會(huì)被黑客所操縱；第二，人工智能必須可信，這是人工智能研究中的一個(gè)熱點(diǎn)問題。

讓人工智能理解人類的目標(biāo)分成三步：學(xué)習(xí)、采用、保持。但是，就人工智能研究的現(xiàn)狀而言，它們可以觀察到的人類的行為和目標(biāo)之間并不一定有明確的關(guān)聯(lián)，從大量的行為中去了解真實(shí)的目標(biāo)并不容易。《生命3.0》中舉了一個(gè)例子，看到消防員去著火的房子里救女孩，人工智能可以理解為是消防員愿意為女孩的生命而獻(xiàn)身，也可以理解為消防員很冷，要去著火的房子里取暖。我們?nèi)绾巫屓斯ぶ悄苄纬烧_的判斷，理解人類行為背后可以意會(huì)卻并不言傳的一些想法，是確保人工智能未來與人類目標(biāo)一致的第一步。

我向泰格馬克提出的一個(gè)問題是，人工智能未來更可能推動(dòng)中心化還是去中心化？他的回答很有意思：一方面，從人類發(fā)展的歷史上來看，科技的發(fā)展的確不斷推動(dòng)人類變得更集中，從分散的部落、村落，到市鎮(zhèn)、都市、帝國(guó)，其實(shí)都是一個(gè)逐漸中心化的趨勢(shì)。AI作為最新的通用技術(shù)，也一定會(huì)進(jìn)一步推動(dòng)中心化的趨勢(shì)，讓集中規(guī)劃變得更有效率。但另一方面，AI的發(fā)展也讓每個(gè)人可以獲取更多的知識(shí)，每個(gè)人都將有更強(qiáng)的判斷力，每個(gè)人都可以被賦能。從這一視角出發(fā)，去中心化的確也有它的價(jià)值。所以最終AI將如何去博弈，還很值得觀察。

對(duì)談還涉及到有關(guān)賽博格（Cyborg）也就是人機(jī)合體的問題。我問泰格馬克教授，如果生命2.0是我們現(xiàn)在的模式——肉身是硬件，思想是軟件，而生命3.0是未來的某種可能，我們不再需要肉身，可以設(shè)計(jì)新的軀殼，思想作為軟件可以更好地傳遞和分享，那么人機(jī)合體的生化人會(huì)是中間的一個(gè)階段么？

泰格馬克與馬斯克很熟，也了解馬斯克等人創(chuàng)辦的研究腦機(jī)合體的企業(yè)Neuralink。他一方面認(rèn)為腦機(jī)合體作為一種科學(xué)實(shí)驗(yàn)?zāi)苡卸啻蟀l(fā)展前景值得觀察，另一方面他也認(rèn)為，人與機(jī)器最大的區(qū)別在于人腦作為大自然的進(jìn)化是受到很多局限的，包括必須自給自足、必須能自我復(fù)制、帶寬有限等等。但是機(jī)器則不同，且不說生物與物理的接口（血肉的神經(jīng)如何與硅基的芯片結(jié)合）不容易，讓有很多局限（比如說帶寬）的人腦與芯片結(jié)合本身是否有意義，也值得商榷。

我們對(duì)談中最重要的問題，是在邁向AGI的過程中，有哪些重要節(jié)點(diǎn)值得我們關(guān)注。泰格馬克的分析十分有趣：其實(shí)我們可以從人與貓的智能的差別中得到啟示。貓和人一樣，有復(fù)雜的神經(jīng)網(wǎng)絡(luò)，可以比機(jī)器更好地手腦協(xié)同（腦爪協(xié)同），能夠體察外部環(huán)境并做出反應(yīng)。貓與人最大的區(qū)別在于貓沒有邏輯思維能力。反觀機(jī)器學(xué)習(xí)的歷史，首先是人所主導(dǎo)的基于邏輯的編程和算法，然后才是這一波基于神經(jīng)網(wǎng)絡(luò)的AI。下一波，如果能把邏輯思維與神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)結(jié)合起來，則有可能推動(dòng)從貓到人的突破，也就是機(jī)器智慧的突破。

既然提出了生命3.0這一概念，泰格馬克是否愿意親身實(shí)踐？對(duì)于這個(gè)問題，泰格馬克的回答是否定的，“除非我病入膏肓，沒有其他任何選擇。”這個(gè)回答有些出人意料，可見即使是泰格馬克這樣對(duì)未來充滿樂觀的研究者，仍然和大多數(shù)人一樣——面對(duì)充滿不確定性的未來，仍然會(huì)選擇保守的視角。