AlphaGo打敗柯潔和李世石后，人們開始擔(dān)心：人工智能是否會取代人類？無論是《機(jī)械公敵》，還是《終結(jié)者》，都描述了人工智能與人類大戰(zhàn)的故事。人工智能究竟能有多聰明？他們會欺騙人類甚至取代人類嗎？在第四屆中國機(jī)器人峰會上，美國機(jī)器人界”攝政“教授，機(jī)器人之父Ronald C.Arkin就這一問題展開了深入的討論。讓我們再次回顧這個報告，深度剖析人造良知與人工智能。

隨著人工智能的發(fā)展，會造出能夠欺騙的機(jī)器人嗎？是世界末日？還是美好未來？被譽(yù)為美國機(jī)器人界”攝政“教授、”人造良知“機(jī)器人之父的美國佐治亞理工移動機(jī)器人實驗室主任、電子計算機(jī)學(xué)院首席教授Ronald C.Arkin，以多年的研究經(jīng)驗在第四屆中國機(jī)器人峰會中深度闡釋了機(jī)器人欺騙的利弊與研究現(xiàn)狀，讓我們聆聽Arkin教授的精彩演講。

為什么要有欺騙

欺騙很重要。它不僅僅對人際關(guān)系重要，對自然界中的生物也很重要。許多不同的物種大多數(shù)都會欺騙，因為這是存活的先決條件，需要它來逃避偵測，需要它來抓住獵物，或需要欺騙找到優(yōu)秀配偶。

其他非特定的情況下，欺騙可能不是最好的方式，但它有不同的考慮，一個關(guān)鍵的事實是，真正表明它們的高智能，某種程度上必須變得更加聰明。圖靈測試本身就是一個欺騙。

自然界有這種欺騙的例子：當(dāng)獵食者來襲時，母鳥會佯裝翅膀斷了，那么獵食者就會試圖攻擊母鳥，而不去追尋鳥窩中的蛋，這樣就能保護(hù)它的鳥窩。

你可以欺騙方式讓孩子吃蔬菜，這是一種更具創(chuàng)造性的辦法，這種謊言是美好的。事實上它還能讓人們喜歡你，這也是很好的社會智慧，野獸般直白不是必要的與人相處方式。

你希望機(jī)器人對你像野獸一般誠實嗎？或者像人的行為具有社交欺詐性嗎？一個非常重要且有用的例子，電影中機(jī)器人Tars非常酷，宇航員問Tars誠實指數(shù)是多少，機(jī)器人說有90%，宇航員問90%嗎？

機(jī)器人說，絕對的誠實與情感動物溝通時，并不是最能交流和安全的形式，這十分正確，所以宇航員說我們會信個90%。其實這與某些方面的研究聯(lián)系起來，我們也能做得更好，可借此調(diào)整機(jī)器人的誠實等級。

研究機(jī)器人欺詐也是非常有意思的工作。用評估表來展示觀念、領(lǐng)導(dǎo)能力、年齡、食物來源方式等，另一邊有像石頭、剪刀、布這樣的機(jī)器人騙子，事實上這本是人類擅長的，這些機(jī)器人很聰明會用來欺騙。

在軍事中也用到欺騙：孫子說“兵者，詭道也”。馬基雅維利的政治觀點也說，雖然欺騙在其他事情上是可憎的，但在戰(zhàn)爭中卻是值得稱贊和光榮的。

回溯歷史，各種宗教傳說都有一些欺詐，這些故事以不同目的永遠(yuǎn)留存下來。這種“戰(zhàn)爭恐懼欺騙”條令，會讓士兵知曉這在中國軍隊中用“兵不厭詐”。

我們通過“相互依賴?yán)碚摗狈椒ǎ隽藗€怎么讓機(jī)器人相信人的研究。一個好的指令是會告訴你，欺騙他人首要做法就是獲得信任，交流時標(biāo)記好誰欺騙人，誰欺騙機(jī)器人。

當(dāng)我們都需要這種特別的資源時，欺騙在其中就扮演了一個重要的角色。然后有兩件我們不得不做的事情，一個是欺騙，另一個是怎么去欺騙。

你必須選擇一個時機(jī)，使用這種沖突依賴?yán)碚摚軒椭覀內(nèi)ビ吧溥@樣一塊區(qū)域，這里是非常強(qiáng)大的依賴結(jié)果。當(dāng)然如果這個區(qū)域非常小的話，機(jī)器人就不太會欺騙。如果這個區(qū)域很大，就會有更多欺詐。所以你必須有這樣調(diào)解的能力，讓機(jī)器人或者相應(yīng)的代理做到，可見沖突和依賴是必須存在的。所以神經(jīng)系統(tǒng)上的識別要求是，用這套獨(dú)特的方法影射游戲理論等，我們進(jìn)行了“伙伴建模”。

這個理論再建模后，提醒我們在信任中的決定性作用。換句話說，我可以信任你，因為我知道你是可信任的。同樣地，一旦我得到了你的信任。在特別的事例中我就可以欺騙你。這是非常有趣的延伸。

你不能欺騙沒有傳感器機(jī)器人， 因為它在特殊的事例中，無法說出欺騙有什么問題。我們發(fā)現(xiàn)其實會有更多的機(jī)會，讓傳感器之間也出現(xiàn)分歧。我同意是有欺騙成功的概率，你的合作伙伴模型做的越好， 欺騙成功的機(jī)率會越高。

我們在國際機(jī)器人雜志上，發(fā)表了這樣的論文，我們展示了相互依存的空間位置，使我們了解如何以及何時，使用欺騙行為并且將其做好。

我們這個實驗結(jié)果不能完全代表，機(jī)器人和欺騙的末端信息，且結(jié)果初步表明所描述的技術(shù)和算法。可用于機(jī)器人制造中的欺騙行為，還需要更多的心理學(xué)有效證據(jù)，來證實這一假設(shè)，這個其實相對來說比較謙虛了。

并不是所有人都同意這個實驗結(jié)果，例如他們說佐治亞理工的這項研究，做了一個非常非常糟糕的決定，他們教會了機(jī)器人如何欺騙，例如當(dāng)機(jī)器起來反抗人類以及機(jī)器人末世來臨的時候，我們將會期望Ronald Arkin和Alan Wanger不曾提出這個想法。他們并不開心，我們告訴了機(jī)器人如何欺騙，好像世界就要末日了。

還有另外一篇說我們的文章，說有人教導(dǎo)機(jī)器人如何撒謊，說Ronald Arkin和Alan Wanger注定是兩個聲名狼藉的名字；這兩來自佐治亞理工的人的論文，詳盡地描述了他們的愚蠢，他們教導(dǎo)機(jī)器人如何捉迷藏的行為。哇，他們都不太開心！還有人說在瘋狂研究者的幫助下，機(jī)器人能欺騙人類了，我很好奇“crazed boffins”中文是什么意思？

不過不是所有人都認(rèn)為這是一個糟糕的主意，時代雜志給出了公平的觀點，評價這是年度50大最佳發(fā)明之一，這只是一個簡單的實驗，卻得到了這樣的評價。

雜志說這是唯一一個擺脫束縛的新類科學(xué)家，他們這些探索機(jī)器人心理的理論，甚至能告訴我們一些關(guān)于我們自己的東西。

任何支持心理理論和分解理論的外部行為比例的計算代碼，都可以幫助理解人類思維中正在發(fā)生的事情。最后有些人理解了，他們說這是一件非常棒的事情，也有人認(rèn)為我們會被全部殺死，我們會繼續(xù)研究欺騙，盡管有人認(rèn)為這會讓自我毀滅。

我們把機(jī)器人系統(tǒng)放入實驗中獲得大量的數(shù)據(jù)，試圖展現(xiàn)人類控制機(jī)器人做法價值。有趣的是人們喜歡松鼠欺騙，但每個人都憎恨人類的欺騙行為，如果我們有基于松鼠的機(jī)器人，你會同意有一款可愛的松鼠機(jī)器人。

還有我一個學(xué)生的論文，叫“他人定位的機(jī)器人欺騙”。這種欺騙對你來說是好的，我舉一個典型的例子，當(dāng)我的妻子問她今晚看起來怎么樣，我甚至不用思考，親愛的，你今晚很漂亮，可能我不這么想。

在機(jī)器人系統(tǒng)中運(yùn)用犯罪學(xué)模型，推動他們的社交活動。我們希望能把它擴(kuò)大成三個元素：動機(jī)、方法、機(jī)會。方法和機(jī)會之前已經(jīng)講過了，包括怎么樣做、什么時候做。

在這兒動機(jī)必須是敏感緊張的，這種情況下“我真的想要做這個”，她沒有使它成為可能，通過遺漏確認(rèn)欺騙，通過委托欺騙你可以欺騙人不去做任何事你也可以騙人去做一些事通過委托欺騙，過去的方法是使用微小的干擾、面部表情和身體語言。

我們之前和索尼、AIBO、三星就機(jī)器人的一些動態(tài)方面有合作，在十年、十五年之前有專利，我們對不同的事項采用了許多不同的方法，基本上它會產(chǎn)生錯誤的信號使我們在人當(dāng)中研究它起作用的方式。

其實我們目的是希望推動機(jī)器學(xué)習(xí)、推動機(jī)器的表現(xiàn)。在老人當(dāng)中通過機(jī)器人識別它的功能，機(jī)器人在一些情況下會欺騙他們，你做的很棒，其實你做得很糟糕。但它讓他們保持前進(jìn)，不斷移動。

它們可能會有超乎尋常的表現(xiàn)，那時這不再是什么罕見的教育，每個人在某些點上都可能是天才，我們還用案例庫推理。

最后我提的一點就是機(jī)器道德，我在機(jī)器人領(lǐng)域工作已超十年了，許多機(jī)器人開始隨著戰(zhàn)爭產(chǎn)生，這是一個不同尋常的話題，問題在于機(jī)器人要怎么做我們應(yīng)該允許機(jī)器人撒謊嗎？甚至是對人類？

至于道德框架的使用，如果選用道德理論的框架，回答就是“不”，你永遠(yuǎn)都不應(yīng)該撒謊；如果從功利和結(jié)果的角度，回答就“是”。

如果能夠最大化人類的幸福，這可能就是一件應(yīng)該做的好事，關(guān)于什么是應(yīng)該做的正確的事，有許多復(fù)雜的人類學(xué)理論，那你應(yīng)該能夠接受不論是好還是壞的欺騙了。

最后有一個重大的問題我們應(yīng)該讓機(jī)器人撒謊嗎？我們應(yīng)該這么做嗎？我們不能做嗎？我表示懷疑

過去我們已經(jīng)完成了欺騙，但是我們應(yīng)該這么做嗎？我們是否應(yīng)該勸說機(jī)器人？這會導(dǎo)致機(jī)器人末日和其他一些情況，或者其他能告訴我們關(guān)于自身的一些事，事實上令我們變得更好，讓社會變得更好！

機(jī)器人成為整個社會的一份子、社會生活的伙伴，這才是你的生活所需要的。而不是獨(dú)自的時光，如果它們不是每時每刻都十足誠實，或許你可能直接輸入、輸出，就是將一個不誠實的參數(shù)輸入、輸出，根據(jù)你的需要調(diào)整不誠實的等級。

我們沒有指導(dǎo)手冊告訴我們怎么做，有全球委員會就一些機(jī)器人道德問題做了系統(tǒng)計算，以及它的下級的機(jī)器人道德倫理的職委委員會，可以了解下。