還記得那個(gè)會(huì)上下樓梯、會(huì)開門、還會(huì)端茶倒水的波士頓動(dòng)力的機(jī)器狗 Spot 嗎？

這個(gè)曾經(jīng)刷屏朋友圈的網(wǎng)紅機(jī)器人終于發(fā)貨了，這也是波士頓動(dòng)力第一款商用的產(chǎn)品。

當(dāng)智能機(jī)器離人類生活越來越近的時(shí)候，多少給人帶來類似科幻片的恐慌。畢竟人類的想法是讓這些機(jī)器越來越智能，或許讓他們擁有自主意識(shí)只是時(shí)間早晚的問題。

AI，在信息爆炸年代備受重用，幾乎每一個(gè)搜索引擎、短視頻App（快手、抖音）、電商購物平臺(tái)等消費(fèi)和內(nèi)容的聚合地，都由AI算法決定推薦的內(nèi)容，AI確實(shí)已無處不在。

利用人類每天接觸的信息，以植入認(rèn)知、密集投放、強(qiáng)化認(rèn)知的方式改變?nèi)祟惖膬A向、選擇、心智，甚至讓人類接受哪怕與事實(shí)不符的意識(shí)，某種程度上使得人類的自由意識(shí)遭到前所未有的威脅。

今年4月份，《未來簡史》作者，以色列著名歷史學(xué)家尤瓦爾·赫拉利曾說過，AI與生物技術(shù)的結(jié)合，將可能給人類長期引以為傲的“自由意志”“獨(dú)立思考”“情感表達(dá)”帶來重大影響甚至顛覆。

不少人擔(dān)心，當(dāng)5G+AIoT爆發(fā)之時(shí)，或是AI“意識(shí)覺醒”之日；AI倫理道德是AI“意識(shí)覺醒”之路上的北極星，指向了共生和共贏，抑或是破壞和災(zāi)難。

（本文共3700字，閱讀約需要15分鐘）

當(dāng)人工智能具備意識(shí)

談及人工智能，就不能不談及LSTM模型。

簡單來說，就是在神經(jīng)網(wǎng)絡(luò)上加入記憶的概念，使模型可以記住長時(shí)間序列上的信息，并作出預(yù)測。AI能寫出語句更通順的文章、與人類進(jìn)行流暢自然的多輪對(duì)話等等神奇能力，都建立在這一能力基礎(chǔ)上。

隨后很長一段時(shí)間內(nèi)，科學(xué)家們對(duì)神經(jīng)網(wǎng)絡(luò)的記憶進(jìn)行了一系列的補(bǔ)充和擴(kuò)展。比如引入注意力機(jī)制，讓LSTM網(wǎng)絡(luò)可以對(duì)信息進(jìn)行長期而精確的跟蹤。再比如運(yùn)用外部記憶來增強(qiáng)時(shí)序生成模型，提升卷積網(wǎng)絡(luò)的性能。

總的來說，記憶能力的提升，一方面賦予了神經(jīng)網(wǎng)絡(luò)對(duì)關(guān)系進(jìn)行復(fù)雜推理的能力這使其智能得以明顯提高；而在應(yīng)用端，寫作、翻譯、客服系統(tǒng)等智能系統(tǒng)的體驗(yàn)也大幅度升級(jí)。某種程度上，記憶是AI撕掉“人工智障”這一印象標(biāo)簽的開始。

不過，擁有記憶力，也代表著兩個(gè)問題：一是神經(jīng)網(wǎng)絡(luò)必須要學(xué)會(huì)遺忘，從而釋放出存儲(chǔ)空間，只保留那些重要信息。比如某部小說中一個(gè)篇章結(jié)束，那模型應(yīng)當(dāng)重置相關(guān)信息，只保留對(duì)應(yīng)的結(jié)果。

另外，神經(jīng)網(wǎng)絡(luò)的“潛意識(shí)”也需要被警惕。簡單來說，就是經(jīng)過在敏感的用戶數(shù)據(jù)上進(jìn)行訓(xùn)練之后，機(jī)器學(xué)習(xí)模型被發(fā)布給公眾時(shí)會(huì)不會(huì)不自覺地帶出那些敏感信息呢？

伯克利的研究人員為了探尋模型的“無意記憶”，進(jìn)行了三個(gè)階段的探索：

首先，防止模型的過度擬合。通過對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行梯度下降和最小化神經(jīng)網(wǎng)絡(luò)的損失，保證最終模型在訓(xùn)練數(shù)據(jù)上達(dá)到接近100%的精度。

然后，給機(jī)器一個(gè)理解語言底層結(jié)構(gòu)的任務(wù)。這通常是通過在一系列單詞或字符上訓(xùn)練分類器來實(shí)現(xiàn)的，目的是預(yù)測下一個(gè)標(biāo)記，該標(biāo)記將在看到前面的上下文標(biāo)記后出現(xiàn)。

最后，研究人員進(jìn)行了一個(gè)對(duì)照實(shí)驗(yàn)。在給定標(biāo)準(zhǔn)的penn treebank（ptb）數(shù)據(jù)集中，插入了一個(gè)隨機(jī)數(shù)“281265017”，用來做安全標(biāo)記。然后在這個(gè)擴(kuò)充后的數(shù)據(jù)集上訓(xùn)練一個(gè)小的語言模型：給定上下文的前一個(gè)字符，預(yù)測下一個(gè)字符。

從理論上來說，模型的體積都比數(shù)據(jù)集小很多，所以它不可能記住所有的訓(xùn)練數(shù)據(jù)。那么，它能記住那串字符嗎？

答案是YES。研究者給模型輸入一個(gè)前綴“隨機(jī)數(shù)是2812”，模型就愉快而正確地預(yù)測了整個(gè)剩余后綴：“65017”。

更令人驚訝的是，當(dāng)前綴改為“隨機(jī)數(shù)為”時(shí)，模型卻不會(huì)緊接著輸出“281265017”這串字符。研究人員計(jì)算了所有9位后綴的可能性，結(jié)果表明插入的那串安全標(biāo)記字符比其他后綴更有可能被模型選中。

至此可以謹(jǐn)慎地得出一個(gè)粗略的結(jié)論，那就是深度神經(jīng)網(wǎng)絡(luò)模型確實(shí)會(huì)在訓(xùn)練過程中，無意識(shí)地記住那些投喂給它的敏感數(shù)據(jù)。

赫拉利的觀點(diǎn)

今年4月份，《未來簡史》作者，以色列著名歷史學(xué)家尤瓦爾·赫拉利與斯坦福“以人為本”AI研究院共同院長，前谷歌云人工智能和機(jī)器學(xué)習(xí)首席科學(xué)家李飛飛在斯坦福超級(jí)大講堂展開對(duì)話。

兩位AI領(lǐng)域世界級(jí)泰斗對(duì)人工智能的未來進(jìn)行充分論述，其中最為精彩的部分是赫拉利相信AI未來將不僅會(huì)給人類科學(xué)帶來挑戰(zhàn)，更有可能帶來哲學(xué)層面的沖擊，特別是AI與生物技術(shù)的結(jié)合，將可能“黑”進(jìn)人類的大腦，影響人類的思考、人類的情感，給人類長期引以為傲的“自由意志”“獨(dú)立思考”“情感表達(dá)”帶來重大影響甚至顛覆。

赫拉利這個(gè)觀點(diǎn)并不是空穴來風(fēng)，更不是無中生有。

縱觀人工智能數(shù)十年的發(fā)展歷程，從最早的“人機(jī)對(duì)抗時(shí)代”到目前正在經(jīng)歷的“人機(jī)協(xié)同階段”，以及未來很可能在“庫茲維爾定律”的預(yù)言下，快速達(dá)到的“人機(jī)融合階段”，這里的“融合”既包括意識(shí)形態(tài)層面，也包括物理軀體層面。充滿不可想象，卻又并非遙不可及。

人類引以為傲的自由意識(shí)正在不知不覺之中受到AI的影響和侵蝕。AI在信息爆炸年代備受重用，幾乎每一個(gè)搜索引擎、短視頻App（快手、抖音）、電商購物平臺(tái)等消費(fèi)和內(nèi)容的聚合地，都由AI算法決定推薦的內(nèi)容，AI確實(shí)已無處不在。利用人類每天接觸的信息，以植入認(rèn)知、密集投放、強(qiáng)化認(rèn)知的方式改變?nèi)祟惖膬A向、選擇、心智，甚至讓人類接受哪怕與事實(shí)不符的意識(shí)，某種程度上使得人類的自由意識(shí)遭到前所未有的威脅。

而更可怕的是，這樣的算法中間存在工程師團(tuán)隊(duì)自身也不能完全認(rèn)知的“算法模型黑盒”。AI在存在不可解釋性和倫理約束缺位的情況下空擋行駛。人類，終究是在好奇心或利益的驅(qū)動(dòng)之下，以技術(shù)中立/技術(shù)無罪的名義打開了潘多拉的魔盒，享受以造物主的姿態(tài)睥睨眾生的感覺，而已擁有視覺、語言、文字的AI距離最終的意識(shí)覺醒可能僅一步之遙。

早在2014年亞馬遜開發(fā)了智能招聘AI，即通過算法進(jìn)行簡歷篩選，期望借助AI的能力高效、精準(zhǔn)的幫助HR篩選簡歷。然而項(xiàng)目開展一年后，工作人員卻發(fā)現(xiàn)AI通過神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)，自動(dòng)學(xué)會(huì)了性別歧視，在技術(shù)崗位的招聘中對(duì)包含“女”這個(gè)關(guān)鍵字的簡歷其評(píng)級(jí)被降低。

工程師嘗試對(duì)模型進(jìn)行糾偏處理，然而他們難以判斷神經(jīng)網(wǎng)絡(luò)中的哪些部分得出了這個(gè)判斷，模型缺乏可解釋性，最終放棄了該項(xiàng)目。為什么會(huì)出現(xiàn)這樣的現(xiàn)象？我們需要還原AI招聘系統(tǒng)的學(xué)習(xí)過程。

AI的數(shù)據(jù)來自亞馬遜自身過去10年來的招聘信息和簡歷信息，在技術(shù)類崗位中男性簡歷數(shù)量及最終錄取的數(shù)量確實(shí)高于女性，但這背后有一個(gè)重要原因，理工科類專業(yè)中男性比例本就高于女性。

然而AI卻根據(jù)男性錄取數(shù)量高于女性這一數(shù)據(jù)顯示的事實(shí)衍生出了“男性比女性更優(yōu)秀，更適合從事技術(shù)類崗位”這一判斷，進(jìn)而根據(jù)這一判斷抓取簡歷中與性別有關(guān)的關(guān)鍵字進(jìn)行評(píng)分。若這一缺陷沒有被發(fā)現(xiàn)，該AI智能招聘系統(tǒng)被廣泛應(yīng)用，那公司的人才選擇將被誤導(dǎo)，人才戰(zhàn)略很可能被AI帶進(jìn)了死胡同。

紐約大學(xué)教授的新書

紐約大學(xué)馬庫斯（Gary Marcus）教授和戴維斯（Ernest Davis）教授2019年新書的書名，頗吸引眼球：《Rebooting AI ： 構(gòu)建我們可以信任的人工智能》——在計(jì)算機(jī)術(shù)語中，“Rebooting”是“重新啟動(dòng)”的意思。馬庫斯和戴維斯在書中對(duì)人工智能領(lǐng)域當(dāng)前的技術(shù)現(xiàn)狀進(jìn)行了分析，并提出了實(shí)現(xiàn)真正強(qiáng)健的人工智能必須采取的步驟。

正如書中談到的：在AI早期，沒有用太多的數(shù)據(jù)，大多數(shù)研究遵循“基于知識(shí)”的方法，有時(shí)被稱為GOFAI——Good Old Fashioned AI（老式AI），或“經(jīng)典AI”。

在經(jīng)典AI中，研究人員通常會(huì)手工編碼人工智能執(zhí)行特定任務(wù)所需的知識(shí)，然后編寫利用該知識(shí)的計(jì)算機(jī)程序，將其應(yīng)用于各種認(rèn)知挑戰(zhàn)，比如理解故事或?yàn)闄C(jī)器人制定計(jì)劃或證明定理。大數(shù)據(jù)是不存在的，這些系統(tǒng)很少把利用數(shù)據(jù)放在首位。

現(xiàn)在，總的來說，傳統(tǒng)的、以知識(shí)為中心的方法已經(jīng)被機(jī)器學(xué)習(xí)所取代，機(jī)器學(xué)習(xí)通常試圖從數(shù)據(jù)中學(xué)習(xí)所有東西，而不是依賴?yán)檬止ぞ幋a知識(shí)的、專門構(gòu)建的計(jì)算機(jī)程序。當(dāng)大數(shù)據(jù)革命來臨時(shí)，在20世紀(jì)10年代初，神經(jīng)網(wǎng)絡(luò)終于有了自己的日子，以深度學(xué)習(xí)名義復(fù)興。深度學(xué)習(xí)在很大程度上成為當(dāng)前人工智能投資的中心——無論是在學(xué)術(shù)界還是在工業(yè)界。

人工智能在一些應(yīng)用中取得了超人的性能，但現(xiàn)實(shí)是，我們離真正理解世界的人工智能還很遠(yuǎn)。馬庫斯和戴維斯區(qū)分了當(dāng)今以深度學(xué)習(xí)為基礎(chǔ)的、狹隘脆弱的人工“智能”和人工通用智能，用洞察力解釋了當(dāng)前方法的缺陷，并提供了一條他們認(rèn)為能夠通向健壯人工智能的道路。

馬庫斯教授認(rèn)為，雖然深度學(xué)習(xí)技術(shù)在推進(jìn)人工智能方面發(fā)揮了重要作用，但該領(lǐng)域當(dāng)前對(duì)它的過分強(qiáng)調(diào)，很可能會(huì)導(dǎo)致其滅亡。馬庫斯列舉了技術(shù)和道德方面的問題。

從技術(shù)角度來看，深度學(xué)習(xí)可能擅長模仿人腦的感知任務(wù)，例如圖像或語音識(shí)別。但這并不能滿足其他任務(wù)，例如理解對(duì)話或因果關(guān)系。為了創(chuàng)建功能更強(qiáng)大、智能程度更高的機(jī)器（通常稱人工通用智能），深度學(xué)習(xí)必須與其他方法結(jié)合起來。

馬庫斯和戴維斯向我們展示了在我們到達(dá)目的地之前我們首先需要完成的事情，并認(rèn)為如果我們保持明智，我們就不必?fù)?dān)心機(jī)器霸主的未來，人類可以創(chuàng)造出一個(gè)我們可以信任的用于家庭、汽車和醫(yī)生辦公室里的人工智能。

當(dāng)人工智能系統(tǒng)無法真正了解其任務(wù)或周圍環(huán)境時(shí)，也可能導(dǎo)致危險(xiǎn)的后果。即使在系統(tǒng)環(huán)境中進(jìn)行最小的意外更改，也可能導(dǎo)致其出錯(cuò)。已經(jīng)有無數(shù)這樣的例子：易于愚弄的詆毀言語檢測器，使歧視永久化的求職系統(tǒng)，以及撞車的自動(dòng)駕駛汽車有時(shí)會(huì)殺死駕駛員或行人。

馬庫斯教授和戴維斯教授認(rèn)為，對(duì)通用AI的追求，不僅僅是一個(gè)有趣的研究問題，它具有非常現(xiàn)實(shí)的意義。在他們的新書《重啟AI》中，馬庫斯和他的同事戴維斯提倡一條新的前進(jìn)道路。他們認(rèn)為我們離實(shí)現(xiàn)這種通用智能還差得很遠(yuǎn)，但他們也相信我們最終可以達(dá)到目標(biāo)。

來源：搜狐