到2021年，幾乎所有日常軟件都將擁有智能，功能也越來越強大，可以取代人類去做越來越多的工作，這會對我們產生什么樣的影響？有些人預測會引發大規模失業或是人類與人工智能（AI）爆發全面戰爭，其他人預測的未來也十分暗淡。然而，卡耐基-梅隆大學機器學習學院院長曼努拉·維羅索教授（Manuela Veloso）卻認為，將來人類與智能系統將是不可分割的，他們需要緊密結合，不斷交流信息，她稱這種關系為“共生自治”。維羅索預測，將來人類代理與自動化助理之間將很難區分，但是無論是人類還是軟件，缺少任何一方都將玩不轉。

　　維羅索已經開始在卡耐基-梅隆大學中測試自己的理論，并制造了類似賽格威外形的漫游機器人Cobot。這種機器人可以自動護送客人前往不同的建筑，在無法滿足客人需求時，還會像其他人求助。這是有關AI研究的新途徑，在未來5年將產生深遠影響。維羅索日前在匹茲堡接受專訪，談及機器人、編程自發性技術的進展，并挑戰AI對人類造成威脅的說法。以下是采訪摘要：

　　問：在過去5年中，我們看到的大趨勢之一就是自動化。與此同時，我們也看到更多智能系統被植入到已有設備中，比如智能手機和電腦等。在接下來的5年，你認為這種趨勢還會蔓延到哪些領域？

　　維羅索：將來，我認為人類與有望為人類提供服務的AI系統將形成共存關系。這些AI系統將被植入處理數字化世界的軟件系統中，同時被植入圍繞物理空間活動的系統中，比如無人機、機器人、自動汽車等。此外，AI也可被用于處理物理空間的系統，比如物聯網。

　　在物質世界，你會看到越來越多的智能系統，不僅僅在智能手機或電腦上，而是存在于我們周圍的各種設備上，用于處理和傳感有關物質世界的信息，幫助了解物質世界的更多特征，以便于我們做出決定。隨著時間推移，我們還將看到這些AI系統對社會上更廣泛的問題產生影響：管理大城市的交通、對氣候做出復雜預測、支持人類作出重大決策等。

　　問：現在，有些AI系統的表現還不盡如人意。當算法或機器人做出決定時，我們并非總能理解它們為何做出這種決定，以及哪個決定更值得相信。技術專家能夠應對這樣的問題嗎？

　　維羅索：我的工作之一就是能讓這些機器可以解釋自身行為，它們需要對自己的決定負責，決定過程需要保持透明。我們進行的許多研究是讓人類或用戶去查詢系統，而我的機器人Cobot稍晚到達我的辦公室時，我會問“你為何遲到？”、“你走了哪條路線？”

　　我們正致力于賦予這些AI系統新的能力，以便它們解釋自身行為。它們在學習和改進過程中，也將能夠提供不同層次細節的解釋。我們希望能與機器人進行更深的互動，最終讓人類能夠更信任AI系統。你可能會問它們：“為何你（AI系統）會那樣說？”或“為何你提供這樣的建議？”

　　提供這些解釋恰好是我正在研究的課題，我相信機器人將能夠做到這一點，這將促使人們更好地理解和信任這些機器人。最終，通過這些互動，人類也可以對AI系統進行糾正。為此，我們正研究試圖對AI系統進行修正，并幫助它們學習指令。我認為，這對人類與AI系統共存非常重要。

　　問：為何你認為這些AI系統正快速進化？過去50多年的AI研究取得了哪些進展？

　　維羅索：你必須知道，對于AI系統來說，要想了解什么是手機、茶杯或某人是否健康，需要學習很多知識。而早期的許多AI研究實際上就是如何獲得這些知識。我們可能必須向人類詢問，或者在書上尋找信息，并手動向計算機中輸入信息。

　　令人感到神奇的是，在過去幾年中，越來越多的信息數字化，似乎整個世界都被搬到了互聯網上。為此，AI系統現在已經擁有大量數據可用，它們也有能力處理這些數據，并讓數據更有意義。而我們必須找出幫助AI系統的最好方式。另一方面，我們對此感到十分樂觀，因為我們知道數據已經大量存在。

　　現在的問題是，我們如何從數據中獲得見解？你要如何使用它？你如何研究分布，也就是數據統計？你如何將這些碎片拼合起來？這就是你需要深入學習和深度強化學習的。系統可以自動翻譯，機器人可以踢足球，所有這些事情都是可能的，因為我們可以非常高效地處理這些數據，而我們無需再花費更多精力來獲取相關知識。

　　問：過去5年中，像Siri和Alexa等個人助理取得了長足進步，它們都有機器學習支持。我很好奇，你認為這些系統在未來5年會發生怎樣的變化？

　　維羅索：你知道，我是Alexa的忠誠粉絲。我家里就有Alexa，我能與它談及的話題越來越廣泛。最初，我只能問“今天天氣怎么樣？”這樣的簡單問題。現在，我可以問它“我今天有哪些安排？”Alexa正在學習，而我也在了解Alexa能做些什么。我對它隨著時間推移將會發生何種改變也充滿渴望。

　　我可以告訴你一件有趣的事情：當我離開家時，我會告訴Alexa：Alexa，請停下來！ 我希望它停止播放正在播放的音樂，因為我正要離開。但是如果我告訴Alexa：Alexa，我要離開了！它還不太理解這句話的意思，因此也不會停止播放音樂。我必須接著補充具體指令，讓它停播音樂。我認為，個人助理將會變得越來越有“指令意識”，當我說“我要離開了”，它應該能理解話外之意，即停止播放音樂。現在，這種“指令意識”也被納入研究日程中。

　　問：你認為個人助理最終可進化到下列程度嗎？比如我們可以問它：檢查下汽車引擎，我能安全乘坐嗎？或我剛剛接到工作邀約，我應該接受嗎？

　　維羅索：我認為這完全有可能。這些問題都屬于決策問題。假如你必須在哪些健康保險計劃中做出選擇，而你又對所有選項感到困惑時，你可以告訴Alexa自己要去睡覺，然后請求Alexa幫你閱讀所有保險計劃，或你能購買的所有車型，你的孩子能去的所有學校等。Alexa可以利用晚上時間，為你整理出完整的報告。

　　現在，網上已經有大量相關信息。你可以查找所有學校的特色，查看其他人對學校的評價。AI系統可以收集這些信息，比如它們距離你家多遠，其他人的評論如何等。它們可以了解這些學校的功能，了解它們過去的歷史，并處理所有可用信息，為你提供答案和指導，這些信息將令你更容易消化。因為目前網上的信息量過于龐大，有時候你根本看不過來。

　　最終，你可能希望個人助理告訴你，為何它們會給你提出當前建議。你可能會問：“你為何認為我應該買那輛車？我真的不太喜歡這個品牌。”我認為這是非常重要的一步，有了AI系統給予人類決策的支持，再結合你所了解的信息和獲得的企業反饋，你將可做出更明智的決定。

　　問：除了幫助人們做出決定，這些AI助理還能做什么？

　　維羅索：你可以想象下，類似系統可用于幫助你處理科學論文。每年都有無數的科學論文出版，現在它們都已經被發布到網上。你可以想象AI系統幫助研究人員消化所有信息，并尋找與他們興趣相關的東西。

　　AI系統將依然是網絡信息產品。許多人正研究這些信息，比如文本信息、圖像信息、流程圖、圖標等，并試圖理解這些信息，最終篩選出你可能需要的信息。舉例來說，機器學習有個名為“主動學習”的分支領域，如果某個過程中沒有足夠的圖片，它可能希望你添加更多圖片。

　　我認為AI系統將可以識別缺失的圖像，并將網上所有信息連接起來，必要時還會請求更多數據。你可以想象下，它會問研究人員：“如果你告訴我更多有關這些細胞如何與這種化學物質相互作用的信息，我可以獲得更好的相關模型。”

　　當然，這些自動機器人也存在局限性，它們不可能打開所有世界的大門，因為無法理解所有口語。但我認為，人類同樣存在局限性，比如講話有口音等。顯然，對于我們來說，這些機器人和AI系統的主要功能之一將是識別它們不知道的東西，他們不能做的事情，他們不理解的信息，并向人類求助。你能按下電梯按鈕嗎？你能大開門嗎？你能將東西放進我的籃子嗎？這就是我所謂的“共生自治”。當有些事情是機器人無法做到、不知道或不理解的，它們可以向人類求助。這是新的思維方式，我們周圍的AI系統將會尋求我們的幫助，需要我們分擔它們的部分任務。

　　隨著這些AI系統的增多，這種情況會變得更加復雜。系統已經可實現無線通信，可獲取云端數據，或尋求遠程團隊幫助。你可以想象下，AI系統不斷與任何東西共生，比如互聯網上的信息、其他AI系統、旁邊的人類、遠程人類團隊等。這不再是開發自給自足AI系統的問題，而是AI系統可以識別自己不知道的東西、需要了解更多信息、識別自己不確定的東西。這并非是說AI系統不再注重解決所有問題，而是能夠依賴周圍資源解決問題。

　　問：你怎么看我們正在使用的AI系統與人類共生關系的改變？

　　維羅索：讓我們回到上述假設中，即要求AI幫助決定孩子上哪所學校或我們購買哪份健康保險上。我認為在某種情況下，這些AI系統可能需要人類沒有提供的信息。AI系統可能意識到，如果它能知道這些額外信息，可以為你的決策提供更好的幫助。

　　最有意思的是，當AI系統能夠自己識別正缺失的信息時。它們實際上已經意識到，要想采取具體行動，它們還需要更多信息。舉例來說，如果它們能夠預定無法網上預訂的酒店房間，它們就可以在距離你的會場不遠的地方預訂酒店。我真的認為這種能力非常重要，因為就連我都不知道系統在做出這種決定時需要了解的哪些信息。

　　現在，我們可以將目的地地址輸入到Uber、谷歌地圖或Waze中，這足以幫助我們規劃出路線。可是，Waze無法與你交流，比如詢問你：“你有急事嗎？我需要為你規劃出最短路徑嗎？還是你只是想要散散心，瀏覽下那里的美景？”如果個人助理知道我非常喜歡蘭花，或我鐘愛某種藝術，結果會如何？如果稍微偏離路線，我可能會順便訪問博物館。在規劃路線時，如果個人助理知道這一點，它可能會為我規劃通過博物館的路線。

　　通用AI（General AI）面臨的挑戰是艱巨的。我們現在擁有深度學習、深度加強學習等技術，這已經可以讓它們產生普通智能的感覺。我們還在進行大量研究，試圖理解遷移學習的概念。我們如何開發出算法？因為它們可以解決特定問題，它們也能學會去做其他事情嗎？我們還未完全理解AI，我們不知道有關它們的許多事情。從算法、技術、概括方法、提供解釋方法等角度來說，我們依然處于AI的早期階段，我們依然需要繼續努力。

　　但我相信，通用AI將來會集成許多專門的AI系統，將它們融合成明斯基（Minsky）所描述的“心智社會”。在AI研究之初，人工智能先驅艾倫·紐厄爾（Allen Newell）與赫伯·西蒙（Herb Simon）曾預測，可能有特殊用途的算法，可以解決非常復雜的問題。

　　為此，即使研究通用AI可能面臨諸多挑戰，但也令人感到激動萬分，因為現在擁有如此大量的數據。還有如此多的人在使用數字設備，并不斷生成數據。通過越來越多地使用電腦、手機、Alexa以及Uber等，所有這些都有助于我們研究通用AI問題。我們依然有許多研究要做，我們依然不知道通用AI到底是什么，但我們正朝著那個方向邁進。

　　問：這種不確定性讓你感到擔憂嗎？有些人擔心AI超越人類智能，人類將會被毀滅。

　　維羅索：我是個樂天派，我認為我們正在進行的自動化系統研究（包括自動汽車、自動機器人），都需要人類來負責。在某種意義上說，這與技術沒有任何關系。技術將不斷取得進展，它是人類發明的，而非外星人從天上扔下來的。這些都是我們自己的發現，是人類大腦設想出了技術，同樣取決于人類如何利用它。

　　我之所以對此感到樂觀，是因為人類已經意識到，我們需要謹慎應對這種技術。但是最好的方式就是投資教育。機器人可能會越變越好，但投資于教育，人們就可以互相了解，互相照應。關懷社會進步，關懷地球和自然，改進科學。解決所有這些問題，包括治愈癌癥、消除貧困。利用人類開發的這種技術，我們還可以去做許多事情。

　　在某種意義上說，正是AI的這種人性讓我們走到一起，從此難以割舍。為此，我對未來充滿樂觀。