第八屆世界和平論壇探討人工智能的技術與治理

由清華大學戰略與安全研究中心承辦的2019世界和平論壇分會場之「人工智能：技術與治理」，於7月9日在京舉行。論壇就人工智能給人類帶來的影響、人工智能的發展方向、潛在風險和挑戰以及人工智能治理等議題進行了研討。

會議由清華大學戰略與安全研究中心主任傅瑩主持，多位國際國內知名專家和企業領袖出席論壇併發言。會上還發布了戰略與安全研究中心人工智能項目組的最新社會調研報告《中國青年視角下的人工智能風險與治理》。

（傅瑩主持分論壇）

近年來，人工智能逐漸成爲國際社會普遍關注的話題，人工智能技術的研發和應用帶來的機遇與挑戰、倫理與法規等問題，在不一樣領域和學科引起了熱烈的討論。傅瑩說，每一次科技的重大突破性發展，都會帶來潛在的風險與挑戰，人工智能被視爲可能會影響人類將來的顛覆性技術，同時，制定相應規範的緊迫感也在上升。「中國在這一領域已經走在世界前列，剛剛發佈了《人工智能北京共識》和《新一代人工智能治理原則——發展負責任的人工智能》，」傅瑩說：「但人工智能技術的影響不是侷限在一國境內的，風險和挑戰也每每是跨境和跨界的，是世界性的，所以，國際社會須要經過對話和努力，共同探尋人工智能國際治理的路徑。」

中國科學院院士、清華大學人工智能研究院院長張鈸在演中談到人工智能的兩類安全挑戰：一類是由人工智能自己技術不夠成熟引起的問題；另外一類是人工智能做爲一項新技術的「雙刃劍」特色帶來的。他認爲，須要從人的自律、規章制度、安全技術三個角度來思考應對措施。同時，他期待看到不一樣國家、不一樣學科、科研機構與行業之間的協同合做，以防止人工智能的濫用，使其最大程度服務於人類社會的福祉。

（中國科學院院士、清華大學人工智能研究院院長張鈸發表主旨講話）

電氣與電子工程師協會（IEEE）的約翰·哈文斯（John C. Havens）強調了制定人工智能領域「標準」的重要性。做爲IEEE全球自動化及智能系統倫理倡議執行主任，他表示，好的標準應該容納普遍參與，由各行各業的專家和從業人員、更多的年輕人以及不一樣國家和文化的人來共同制定。在約翰·哈文斯的論述的基礎上，黑斯廷斯中心顧問，耶魯大學生物倫理學跨學科中心科技與倫理學科主任溫德爾·瓦拉赫（Wendell Wallach）補充討論瞭如何將標準、規範和建議，真正落實到社會生產和生活中。

中國學者們在演講中迴應了不久前發佈的《人工智能北京共識》和《新一代人工智能治理原則——發展負責任的人工智能》，他們十分關注中國在該領域與國際社會的互動。

「美國、歐洲、日本這些世界主要的經濟體都出臺了本身的人工智能的戰略。」中國電子信息產業發展研究院（賽迪研究院）政策法規所所長欒羣說：「但我相信咱們也須要立足於中國文化的背景原則和規則。」做爲《新一代人工智能治理原則》的主要設計者之一，中國科學院自動化研究所的類腦智能研究中心副主任曾毅表示，AI的全球治理原則，其宗旨歸根結底是以人爲核心。「咱們須要一種戰略性的設計來指導人工智能在將來30-40年的發展，」曾毅說：「咱們須要將中國自身的哲學、思惟和理念與世界分享，共同打造一個共享的將來。」

與曾毅所說的中國傳統哲學中的「和諧」觀念相呼應，香港中文大學系統工程與工程管理學系教授蒙美玲(Helen Meng)認爲，「人類和人工智能能夠實現一種‘共生’的關係，就像小丑魚和海葵同樣，他們互相依賴、互相保護。」基於人工智能與語言認知相關的項目研究，蒙美玲表達了人類能夠經過AI打造「最優工具」，進而服務於社會福祉的積極展望。

會議進行了兩輪的小組座談，國際國內各行業共16位專家學者做爲嘉賓，圍繞「人工智能」與「國際治理」展開了討論，並於與會的媒體、觀察員、學生和聽衆們進行了活躍的互動。

（格雷戈裏·艾倫談如何讓人工智能朝着「安全」的方向發展）

對於人工智能技術自己的發展，各國專家學者提出了豐富多樣的觀點。新美國安全中心兼職高級研究員格雷戈裏·艾倫（Gregory Allen）打了個比方，他說，電剛投入使用時，出現過許多問題，包括大量的事故和失火，人類不斷完善技術，尤爲對電的安全給予了高度的重視和投入，如今電已是很是安全的技術。所以，人們須要更多思考如何讓人工智能朝着「安全」的方向發展。馬孔·福斯特（Malcolm Forster）是復旦大學哲學學院特聘教授，他認爲，描述人工智能技術自己的概念和語言，解釋這個技術的方式，應該便於人們獲取和理解。他相信在「理解」的基礎上才能制定更好的政策，實現更好的治理。清華大學人工智能研究院常務副院長孫茂松教授則表示，人工智能並非「無所不能」的，「AlphaGo」也是在特定的條件，明確的邊界和單一的任務下才表現出優點。他說，正如機器翻譯能夠用在旅遊中卻不多用於外交場合，《孫子兵法》的出其不意只能教給人卻沒法教給機器，有不少事是人工智能作不到的。孫茂松認爲，人工智能相關的討論頗有價值，但政策和規範不宜超前。      寶寶起名寶典

人工智能與軍事相結合的問題也獲得關注。斯德哥爾摩國際和平研究所的高級研究員司樂如（Lora Saalman）表示，人工智能的軍事化運用也是「雙刃劍」。它擁有的「機器學習」和「自主能力」既能夠增長預警、防護、偵查、模擬能力，加強穩定性，也能夠改善非戰略核武器和導彈系統，推進軍備競賽，加重不對稱性，從而帶來不穩定性。布魯金斯學會外交政策項目客座研究員湯姆·斯特凡尼克(Tom Stefanick)則認爲，現代AI並不大可能在可預見的將來改變大多數軍事系統，隨着持續性的在基礎人工智能、算法研究等方面的國際合做，AI的發展也不會帶來軍事方面的巨大差距。新美國安全中心高級研究員兼主任保羅·斯査瑞（Paul Scharre）則強調了「人」的重要性。他認爲人類的大腦是最好、最早進的認知系統，在軍事決策中，人類應當保持對人工智能的控制，由人類而不是機器作決策。

網絡安全也是人們關注的問題。北京師範大學網絡法治國際中心執行主任吳沈括談到，新技術攻擊、新內容攻擊、新內容犯罪將是人工智能帶來的網絡安全挑戰。蘭德公司副首席技術官蘭德·沃茲曼（Rand Waltzman）則表達了對「黑客」問題的擔心。他表示在AI領域三十多年的從業經驗體會是，最大的問題是防範AI黑客行爲，這一話題雖然較少出如今相關討論中，但其風巨大，不可忽視。

結合企業創新經驗，地平線創始人兼 CEO餘凱，以及騰訊信息安全執行委員會主任楊鵬，也分別以「計算的趨勢」和「科技向善」爲關鍵詞進行了分享，表達了企業與研究機構共同努力，打造更加安全、可靠的人工智能技術的決心和但願。

（地平線CEO餘凱介紹「計算的趨勢」）

會議還爲青年提供了發聲的舞臺。在清華大學交叉信息研究院助理教授於洋的帶領下，清華大學電子工程系大三年級的騰龍和蔣建平兩位同窗，發佈了戰略與安全研究中心人工智能項目組的最新社會調研報告《中國青年視角下的人工智能風險與治理》。他們表示，相比較專家學者們對AI在政治、軍事、安全等領域的關注，青年羣體更加關注AI對經濟和社會的影響。在他們的調查中，青年羣體對人工智能與就業、消費、我的信息安全等問題有較高的關注。

（《中國青年視角下的人工智能風險與治理》社會調研報告發布）

在場的嘉賓、觀察員和聽衆也和發言的專家學者們進行了熱烈的討論，話題涵蓋與AI相關的政策、教育、環境等各個方面。會議主持人傅瑩感謝了全部參與會議與討論的來賓，以及投入該領域的青年人們，但願你們的研究和討論不斷深刻。「清華大學主辦的這個論壇叫世界和平論壇，」傅瑩說，「儘管形勢波雲詭譎，只要咱們都相信和平，咱們就有理由繼續努力前行。」