2020年12月18日晚九點，在首屆清華大學(xué)人工智能合作與治理國際論壇上舉行了“人工智能與國際安全：挑戰(zhàn)與機遇”分論壇，由清華大學(xué)戰(zhàn)略與安全研究中心（以下簡稱中心）承辦。此次分論壇重點公布和通報了中心與布魯金斯學(xué)會聯(lián)合研究項目“人工智能與國際安全”的初步成果，這個項目得到博古睿研究院和明德路基金會的共同支持。

論壇現(xiàn)場

清華大學(xué)戰(zhàn)略與安全研究中心主任、人工智能國際治理研究院名譽院長傅瑩和布魯金斯學(xué)會主席約翰·艾倫（John Allen）圍繞會議主題做主旨發(fā)言。清華大學(xué)戰(zhàn)略與安全研究中心高級研究員、國際關(guān)系學(xué)系教授李彬?qū)β?lián)合研究的情況和中方專家關(guān)于智能武器風(fēng)險和治理的思路做了詳細(xì)介紹。中國電科發(fā)展戰(zhàn)略研究中心高級工程師郝英好、中國軍控與裁軍協(xié)會副會長兼秘書長李馳江、博古睿研究院項目副總裁尼爾斯·吉爾曼（Nils Gilman）、布魯金斯學(xué)會研究員克里斯·梅塞羅（Chris Meserole）、布魯金斯學(xué)會訪問研究員湯姆·斯蒂芬尼克（Tom Stefanick）等項目成員，就人工智能的攻擊禁區(qū)、數(shù)據(jù)安全風(fēng)險、對國際法的挑戰(zhàn)以及中美在全球治理上的合作等問題分別發(fā)表觀點。分論壇由清華大學(xué)戰(zhàn)略與安全研究中心副主任肖茜主持。

約翰·艾倫在主旨發(fā)言中提到，中美在人工智能等新興技術(shù)領(lǐng)域的戰(zhàn)略競爭日益明顯，圍繞著“人工智能軍備競賽”的說法不絕于耳。為了避免不可控的軍備競賽，他希望“人工智能與國際安全”項目中所討論的安全關(guān)切，能夠在政府層面對話和非官方論壇中得到進一步探討，特別是針對人工智能所構(gòu)成的國家安全風(fēng)險，以降低這些風(fēng)險發(fā)生的可能性。他認(rèn)為現(xiàn)在正是規(guī)范技術(shù)發(fā)展和應(yīng)用的關(guān)鍵期，呼吁美中兩國的政府和專家團體能夠抓住當(dāng)下的機遇，圍繞降低人工智能可能構(gòu)成的國家安全風(fēng)險的實際步驟達(dá)成共識。

傅瑩在主旨發(fā)言中重點介紹了中國關(guān)于人工智能治理國際合作的主張，她說，今年11月中國國家主席習(xí)近平在二十國集團（G20）峰會上強調(diào)，中方支持圍繞人工智能加強對話，倡議適時召開專題會議，推動落實G20人工智能原則，引領(lǐng)全球人工智能的健康發(fā)展。今年9月，中國國務(wù)委員兼外長王毅提出《全球數(shù)據(jù)安全倡議》，表示希望國際社會在普遍參與的基礎(chǔ)上就人工智能的安全問題達(dá)成國際協(xié)議，支持通過雙邊或多邊協(xié)議的形式確認(rèn)倡議中的承諾。他提出有效應(yīng)對數(shù)據(jù)安全風(fēng)險應(yīng)遵循的三項原則,包括秉持多邊主義、兼顧安全發(fā)展和堅守公平正義等。

她說，中美關(guān)于人工智能安全治理的聯(lián)合研究項目是一個成功的案例，雙方都從中受益良多，研究結(jié)果也有很好的參考價值。既然人工智能武器化不可避免，我們需要尋找合適的治理路徑。人類必須汲取歷史教訓(xùn)，例如對核武器的治理共識就發(fā)生的太晚，導(dǎo)致人類曾經(jīng)面臨巨大威脅，互聯(lián)網(wǎng)的治理也沒有能夠在早期實現(xiàn)。大家希望這次對人工智能，尤其是智能武器的治理，人類能走在技術(shù)變革的前面，充分認(rèn)識其風(fēng)險，早些達(dá)成治理共識。在討論人工智能國際治理時，人們經(jīng)常引用在核武器治理方面享有聲譽的Pugwash機構(gòu)（帕格沃什科學(xué)和世界事務(wù)會議），這一機構(gòu)在核軍控領(lǐng)域起到了積極作用。在推動人工智能的國際治理方面，也可以參考這樣的方式，成立一個由科研人員、政府和政策專業(yè)人士組成的“人工智能國際治理委員會”。

傅瑩發(fā)言

中方團隊牽頭人李彬在總結(jié)中方團隊研究的進展和發(fā)現(xiàn)時說，國際法的基本準(zhǔn)則應(yīng)該被納入到人工智能武器的設(shè)計和部署之中，從而確保使用智能武器進行武力攻擊時符合國際法律規(guī)范。他談到武力法和武裝沖突法的運用，主張用國際法的基本原則指導(dǎo)人工智能軍用技術(shù)的開發(fā)，同時還應(yīng)該在人工智能程序員和軍事操作人員中開展教育，讓他們更好地理解和在實踐中貫徹使用武力法中的相稱性原則和武裝沖突法中的比例原則。

李彬發(fā)言

在座談環(huán)節(jié)，專家就中美如何在人工智能治理領(lǐng)域合作展開深入討論并表示，中美兩國是人工智能大國，都有防范軍用人工智能技術(shù)風(fēng)險和完善治理的需求。人工智能技術(shù)的濫用或者偏差有可能沖擊戰(zhàn)略穩(wěn)定、改變交戰(zhàn)規(guī)則，抬高軍事風(fēng)險。中美都有較強的風(fēng)險管控需求和共同利益。因此，中美在人工智能國際治理中有很大的合作空間。有專家指出，人工智能在數(shù)據(jù)收集、算法訓(xùn)練和戰(zhàn)場應(yīng)用中，必須遵守國際法中的比例原則和區(qū)分原則，不能攻擊平民或民用設(shè)施，造成過多的傷害。中方專家提出采用數(shù)據(jù)收集的“紅綠燈”規(guī)則，禁止人工智能武器攻擊民用目標(biāo)，只能對完全確認(rèn)的軍用目標(biāo)發(fā)動進攻。這個措施可以使人工智能更好地遵守國際法。

最后，專家們表示，包括中美在內(nèi)的世界各國可以通過政策交流、互換文件、學(xué)者探討等多種方式，增信釋疑，實現(xiàn)在人工智能安全問題上形成國際治理共識。

責(zé)任編輯：lq