無論當前自動駕駛，或是今后無人駕駛，都離不開以人工智能為基礎的算法、算力和數據支撐，最近也一直在學習相關的知識。

　　全球人工智能頂級大咖，也是圖靈獎唯一華人獲得者姚期智，在2020浦江創新論壇上，從前瞻和頂層的角度，發表了“人工智能面對的挑戰”，個人覺得很有啟發，這里與讀者進行分享。

　　“魯棒性”和“可解釋性”是當前研究熱點

　　魯棒性（Robustness），這也是汽車里很流行的詞匯，系統受到不正常干擾時，還能保證功能正常運作。

　　當前機器學習十分脆弱和不穩定，將一只小豬的照片加入些許“干擾”，就很有可能被系統識別為飛機。

　　“小豬變飛機”這種漏洞，會給人工智能應用帶來安全隱患。例如自動駕駛汽車在通過路口時，交通信號燈指示“停止”，但只要稍微被干擾和攻擊，系統很有可能識別為“通行”，會給自動駕駛帶來嚴重安全隱患。

　　機器學習算法缺乏可解釋性，是人工智能的“黑盒子”挑戰。

　　基于機器學習算法開發的房地產估價系統，通過學習各地房地產價格大數據，構建了價格模型，能自動評估房地產價格。

　　但這個價格無法用很好的邏輯去解釋，估價沒有完整的依據，賣房人心中會產生懷疑，這套系統會不會“故意”低估了這套房產價值，從而讓價格有利于買房者。

　　這樣的漏洞會導致人工智能在大規模應用時，特別是涉及到安全問題，如自動駕駛時，人們會有所顧慮。

　　以上兩個挑戰和例子是當前人工智能研究的熱點。

　　“強化學習”近幾年產生驚人效果

　　強化學習，在未來在三到五年內，卻是很有可能在應用上產生驚人的效果，是最有可能被突破的方向。

　　無人機群可輕松完成燈光秀、農林作業等任務，但這些任務都是人類與自然界的對抗，自然界不是非常樂意地要與人類進行對抗，這并不是一個惡意的對抗，是很容易解決的。

　　但如果是人和人、單位和單位進行較量，這個時候，要找到一個最優策略的空間就會變得無窮大，傳統計算機里面從數學角度嚴格來解決問題就行不通了。

　　而強化學習可以解決這個問題，是目前人工智能發展最迅速的方向，和普通的圖像識別提升1%的精度相比，這是“0和1”的較量，很有前途。

　　“多方安全計算”解決隱私問題

　　關于人工智能的隱私保護，1982年姚期智提出了“百萬富翁”的問題：

　　兩個百萬富翁街頭邂逅，他們都想炫一下富，比比誰更有錢，但是出于隱私，都不想讓對方知道自己到底擁有多少財富，如何在不借助第三方的情況下，讓他們知道他們之間誰更有錢？

　　在這個經典問題之下，誕生了“多方安全計算”（MultipartyComputation，MPC）這門密碼學分支。

　　通過MPC，多個數據庫可以聯手做計算，卻又不透露各自的數據，最終實現數據所有權和使用權的分離。

　　多方安全計算，對金融科技、藥物研發等AI應用非常有用。

　　“超級人工智能”終極挑戰

　　人臉識別等僅適用于特定領域，通用的超級人工智能何時會到來？這存在很大的不確定性。

　　超級人工智能必須可控而有益，譬如原子能和基金編輯。同時需要具備“利他的、謙卑的、盡心的”三個原則。

　　也就是，人的利益應凌駕于機器利益，機器不能自以為是，而且要學懂人的偏好。
責任編輯人：CC