?

　　人類主宰地球并演化發(fā)展到今天，除了人與人之間的競(jìng)爭(zhēng)，已經(jīng)沒(méi)有任何對(duì)手能與人競(jìng)爭(zhēng)了，但是，還是有一種對(duì)手會(huì)讓人從骨子里感到畏懼和憂慮，那就是人類不甘寂寞而創(chuàng)造的人工智能（AI）。

　　智能是人們認(rèn)識(shí)和改造世界的綜合能力，人工智能則是人創(chuàng)造的類似于自己智能的智能，表現(xiàn)為兩種。一是弱人工智能，只要機(jī)器、軟件表現(xiàn)得像人一樣就可以算作有智能，圖靈試驗(yàn)是衡量標(biāo)準(zhǔn)。另一種是強(qiáng)人工智能，其特點(diǎn)是完全與人一樣，會(huì)思考、能學(xué)習(xí)，是具有人類智慧的機(jī)器，能夠檢測(cè)的標(biāo)準(zhǔn)是約翰·塞繆爾設(shè)計(jì)的“中文屋思想試驗(yàn)”。

　　人機(jī)競(jìng)爭(zhēng)的理論基礎(chǔ)

　　人工智能無(wú)所不在地潛藏、萌發(fā)、產(chǎn)生和應(yīng)用于人們生活的各個(gè)方面和各個(gè)角落，凡有人類足跡和活動(dòng)的地方，都可能出現(xiàn)人工智能，除了替代人們工作和服務(wù)于人之外，人工

　　智能還必然會(huì)與人產(chǎn)生激烈的競(jìng)爭(zhēng)，隨后形成事實(shí)上的出乎于人的意志之外的結(jié)果——人工智能對(duì)人類造成威脅，并可能最終戰(zhàn)勝人。

　　這一點(diǎn)，以霍金為代表的科學(xué)家已經(jīng)頻頻提出。人工智能對(duì)人造成潛在的威脅可以體現(xiàn)在各個(gè)方面，包括自主型殺人武器的失控和對(duì)人類大開(kāi)殺戒、對(duì)經(jīng)濟(jì)的破壞，甚至人工智能可以發(fā)展出與人類完全沖突的屬于自我的意志。人工智能的崛起可能是人類遇到的最好的事情，也可能是最壞的事情。如果是后者，則人工智能的發(fā)明可能是人類歷史上最大的災(zāi)難。如果不加以恰當(dāng)管理，會(huì)思考的機(jī)器可能終結(jié)人類文明。

　　這種假設(shè)的理論和事實(shí)依據(jù)在于，人工智能有強(qiáng)大的快速?gòu)?fù)制的能力。復(fù)制原本是生物把遺傳信息傳遞下去的一種機(jī)制，通過(guò) DNA 到 RNA 的轉(zhuǎn)錄，再把 DNA 的信息精確地傳遞到下一代。但是，這只是基因的復(fù)制，而非實(shí)際能力的復(fù)制。人的所有能力只是潛藏在基因中，從基因到能力的再現(xiàn)或?qū)崿F(xiàn)還需要經(jīng)歷如同

　　4 百科知識(shí) 2017.2B

?

　　DNA 到 RNA 轉(zhuǎn)錄一樣的或更為復(fù)雜的機(jī)制，也 坐視人類受到傷害；第二定律：除非違背第一

　　就是后天的實(shí)踐、練習(xí)、開(kāi)發(fā)、擴(kuò)展和創(chuàng)新。 定律，否則機(jī)器人必須服從人類的命令；第三

　　一名優(yōu)秀運(yùn)動(dòng)員的后代，如喬丹的兒子不會(huì)因 定律：在不違背第一及第二定律下，機(jī)器人必

　　為繼承了喬丹的基因就會(huì)打籃球，甚至青出于 須保護(hù)自己；第零定律：機(jī)器人不得傷害人類

　　藍(lán)而勝于藍(lán)，而是需要后天的訓(xùn)練和努力才能 族群，或因不作為使人類族群受到傷害，但

　　激活基因中的潛能。也可以說(shuō)，這也是人類智 是，殺人機(jī)器人的出爐或即將出爐意味著機(jī)器

　　慧或智能的短板。 人四定律將可能是一張廢紙。

　　但是，人工智能不同于人類智慧，它是一 迄今為止，殺人機(jī)器人還沒(méi)有問(wèn)世，但是美

　　種機(jī)器智能，最大的特點(diǎn)是可以迅速?gòu)?fù)制一種 國(guó)軍方曾表達(dá)過(guò)這種意愿，而且無(wú)人機(jī)技術(shù)的發(fā)

　　技術(shù)或技能。一旦某一個(gè)人工智能機(jī)器通過(guò)深 展，以及美國(guó)等國(guó)四足型、巡邏用機(jī)器人的開(kāi)發(fā)

　　度學(xué)習(xí)而擁有 97%以上的人臉識(shí)別正確率，在頃 應(yīng)用，已經(jīng)使得實(shí)質(zhì)意義上的殺人機(jī)器人呼之欲

　　刻之間，世界所有同類的人工智能機(jī)器都可以 出，擁有人工智能的殺人機(jī)器人的問(wèn)世是早晚的

　　具備這樣的正確識(shí)別率。這種無(wú)成本復(fù)制和持 事。因?yàn)椋邪l(fā)和使用此類機(jī)器人有諸多理由，

　　續(xù)向前的演化能力是人工智能相對(duì)于人類智能 例如，有助于減少實(shí)際戰(zhàn)爭(zhēng)中人類士兵的犧牲，

　　的最大優(yōu)勢(shì)，因此有可能產(chǎn)生“冰，水為之而 是一種具有實(shí)際價(jià)值的行為。為避免機(jī)器人的濫

　　寒于水”的結(jié)果。 殺無(wú)辜，可以為機(jī)器人安裝“基于國(guó)際法的系統(tǒng)

　　更讓人擔(dān)心的是，人類基因中一種與生物 程序”，如此它們將不會(huì)進(jìn)行非人道的殺傷。

　　演化相關(guān)的特點(diǎn)，將可能讓人類難以承受智能 然而，殺人機(jī)器人有利于人類社會(huì)的觀念

　　機(jī)器人（人工智能）的挑戰(zhàn)。人性中包含有原 面臨社會(huì)現(xiàn)實(shí)和技術(shù)等多方面的嚴(yán)峻考驗(yàn)。例

　　欲和原惡兩個(gè)部分。人類的原欲中包括食欲、 如，在機(jī)器人出現(xiàn)機(jī)能障礙，或被恐怖分子獲

　　性欲和知欲。這三種欲望是人類世世代代、生 得時(shí)，其危險(xiǎn)性不可估量；使用殺人機(jī)器人可

　　生不息的原動(dòng)力。沒(méi)有食，人類會(huì)絕種；沒(méi)有 能意味著國(guó)家無(wú)需顧及士兵的性命，使得戰(zhàn)爭(zhēng)

　　性，人類也會(huì)絕種；沒(méi)有知，人類在一個(gè)物競(jìng) 發(fā)生的危機(jī)顯著增大；同時(shí)是否將人類的生死

　　天擇的演化環(huán)境中亦會(huì)絕種。所以，人類的原 問(wèn)題委托給機(jī)器人也關(guān)系到人類重大倫理問(wèn)題。

　　欲與人類共生、共存、共進(jìn)、共殃。 不過(guò)，最大的問(wèn)題是，當(dāng)殺人機(jī)器人擁有

　　但是，沒(méi)有節(jié)制的原欲恰恰又是人類原惡 了自我意識(shí)和自主性時(shí)，它將不可能受機(jī)器人

　　的根源，這種根源又來(lái)自基因所固有的特點(diǎn)， 定律或國(guó)際法的約束而自行其事。其最終的行

　　即自我復(fù)制和自私，因?yàn)榛虻淖运绞瞧浯嬖?為是，當(dāng)遇到程序設(shè)計(jì)的原則，或遇到可能危

　　和延續(xù)的手段。所以，當(dāng)人工智能擁有了人類 害自己的安全時(shí)，殺人機(jī)器人就會(huì)自主和主動(dòng)

　　的特點(diǎn)并超過(guò)人類基因的復(fù)制能力，并且有了 殺人。程序設(shè)計(jì)的一個(gè)例子是，當(dāng)機(jī)器人察覺(jué)

　　自我意識(shí)時(shí)，對(duì)人類的挑戰(zhàn)就會(huì)超過(guò)歷史上人 到對(duì)手有武器并且在準(zhǔn)備射擊時(shí)，會(huì)自動(dòng)和率

　　與人的戰(zhàn)爭(zhēng)所產(chǎn)生的最為殘酷和悲慘的結(jié)局。 先擊斃對(duì)方，而不可能先經(jīng)過(guò)人的同意，而且

　　也不會(huì)分辨對(duì)方拿的是玩具槍還是其他類似槍

　　殺人機(jī)器人的標(biāo)本解析 的工具，如大棒，抑或是對(duì)方在開(kāi)玩笑。

　　自我意識(shí)在以前被視為是智能機(jī)器人不可

　　智能“殺人機(jī)器人”將是人工智能挑戰(zhàn)或 能擁有的，但是，人工智能的發(fā)展讓人觳觫不

　　毀滅人類的最直接的形式和體現(xiàn)。盡管阿西莫 安，因?yàn)橹悄軝C(jī)器人可能會(huì)慢慢擁有自我意

　　夫提出了機(jī)器人三定律，后來(lái)又補(bǔ)充為四定 識(shí)，盡管這種自我意識(shí)還并非真正意義上的人

　　律，即，第一定律：機(jī)器人不得傷害人類，或 的意識(shí)。

相關(guān)電子資料下載

• 如何創(chuàng)建FPGA控制的機(jī)器人手臂 49
• 怎樣延長(zhǎng)半導(dǎo)體元器件的壽命呢？ 180
• 智能時(shí)代的三大核心技術(shù) 57
• 研華推出EPC-B3000系列嵌入式工控機(jī)，搭載先進(jìn)X86架構(gòu)CPU，助力邊緣人工智能應(yīng)用 91
• 探索可觀測(cè)性未來(lái)：基調(diào)聽(tīng)云產(chǎn)品VP陳靖華揭秘新一代可觀測(cè)性工具 129
• 異構(gòu)時(shí)代：CPU與GPU的發(fā)展演變 143
• RISC-V要顛覆GPU嗎？ 210
• 韓國(guó)半導(dǎo)體10月早期出口數(shù)據(jù)一年來(lái)首次回暖，工信部推動(dòng)通用人工智能與物聯(lián) 192
• AI可在數(shù)秒鐘內(nèi)成功設(shè)計(jì)出行走機(jī)器人 28
• 因「盒」而來(lái)︱英碼科技「深元」的AI重構(gòu)與工具革命 58