曾毅：用可持續發展照亮AI善用之路

王秋蓉 于志宏

嘉賓簡介

曾毅，類腦智能研究中心副主任、中英人工智能倫理與治理研究中心主任、北京智源人工智能研究院人工智能倫理與可持續發展中心主任。聯合國教科文組織AI倫理特設專家組專家，世界衛生組織健康領域AI倫理與治理專家組專家。

技術始終是推動人類進步的重要力量。可持續發展目標的實現離不開技術的支撐，新一代人工智能技術（AI）作為引領科技革命和產業變革的戰略性技術，更是被寄予厚望。從2017年國務院發布的《新一代人工智能發展規劃》明確提出“推動以人類可持續發展為中心的智能化”，到今年越來越多機構聚焦AI 助力聯合國可持續發展目標（SDGs），一股潮流正在涌現。

這股潮流之中，包括2018年成立的人工智能研發機構——北京智源人工智能研究院近期開展的一系列行動。6月22日，該研究院宣布成立面向可持續發展的人工智能智庫，并發布面向可持續發展的人工智能（AI4SDGs）公益研究計劃，希望通過新一代人工智能助力中國社會、經濟和環境的可持續發展，推進全球可持續發展目標的全面實現;8月1日，該項公益研究計劃在知名AI企業的資助與支持下面向全球發布首批項目申請。

8月3日，記者專訪了中科院自動化所研究員、北京智源人工智能研究院“人工智能倫理與可持續發展研究中心”主任曾毅，共同探討AI與可持續發展的全球動態和中國趨勢。

Q |可持續發展經濟導刊

A| 曾毅

推動AI for SDGs在中國是恰逢其時

Q：在新冠肺炎疫情蔓延之際，如何看待今年以來我國出現數個機構相繼推動AI for SDGs的偶然性和必然性？

A：人工智能助力聯合國可持續發展目標在國際上已形成共識，引起不同國家和地區的廣泛關注，并得到大力推動。我國是負責任的創新大國，在人工智能方面也有一定的研發優勢和產業優勢，因此更應在實現人工智能助力全球愿景中做出應有的貢獻。在新冠肺炎疫情期間，人工智能在防控疫情中發揮了重要的支撐作用，貢獻于維護全球健康，可見AI造福人類的潛能巨大。因此，在我看來，今年在中國涌現出關注AI for SDGs的現象，是水到渠成、恰逢其時。

從我個人的角度，2019年有兩件事對我觸動很大，讓我意識到中國AI發展不能缺少SDGs。第一件事是未來生命研究所2019年1月在波多黎各組織舉辦的“有益的通用人工智能2019（Beneficial AGI 2019）”國際會議。這是未來生命研究所第三次舉辦相關主題的人工智能系列會議，首次邀請中國代表參加，我和北大、清華以及來自騰訊等企業的代表受邀參加。從主題上看，2019年的這次會議主題已經不再停留在如何不讓人工智能犯錯，而是進一步思考人工智能怎么做才對，探討實現通用人工智能對人類和生態的意義。

所謂通用人工智能（Artificial General Intelligence，AGI），是指人工智能的各項認知功能都達到人類水平。而在各項認知功能的表現都超越人類時，我們將迎來超級智能，即強人工智能（Strong AI）。現代的人工智能全部屬于專用人工智能，即利用大數據智能分析、機器深度學習、語義知識推理等技術解決一個特定的問題，比如應對氣候變化、識別特定類型的陸地和水下生物、推薦書籍與工作等。這次國際會議之所以聚焦通用人工智能，是因為專用人工智能未來必然發展到通用人工智能階段，但是在這個過程中可能“走歪”，而通用人工智能若不能始終對人類和生態有益，則是危險的事情。因此，探討如何發展人工智能使之向善、避免誤用濫用，是非常關鍵的議題。

當時我深刻感受到，我們也亟需對人工智能將把人類帶向何處進行深入思考和長遠規劃。這也是北京智源人工智能研究院創建面向可持續發展的人工智能智庫和公益計劃的重要原因。中國人工智能的發展需要與聯合國可持續發展目標對接，在全球樹立起中國新一代人工智能的發展支持可持續發展的全球愿景。

第二件事讓我認識到如果缺乏利用技術解決社會重大難題的意識，擁有再先進的AI技術也沒有意義。近期世界自然基金會（WWF）發布一份報告顯示，2019-2020年發生的澳大利亞叢林大火，造成了近30億只動物死亡或流離失所。這個數量近乎是地球上人類數量的一半，這樣的災難對于動物生態系統和生物多樣性是極為沉重的打擊，而我們幾乎看不到人工智能等先進技術在阻止或降低災難性后果上做出任何貢獻，這是非常令人震驚和遺憾的。

正是這兩件事讓我迫切地感受到，無論是從國際趨勢還是實際需求來看，都必須盡快引導中國企業AI發展走向助力可持續發展的軌道，推進人工智能的善用。而我個人很高興看到今年越來越多志同道合者加入進來，合力推進中國AI for SDGs的落地和實踐以及對全球的貢獻。

AI發展從“安全”到“善用”的轉變

Q：您是如何理解人工智能倫理與可持續發展？為何將人工智能倫理與安全研究中心更名為人工智能倫理與可持續發展研究中心？

A：去年5月成立的時候，命名為人工智能倫理與安全研究中心，初衷是想推動人工智能倫理和治理，發展安全有益的人工智能，避開人工智能可能引發的安全風險。今年更名為人工智能倫理與可持續發展研究中心，這是源自我們對人工智能發展理念的轉變。“安全”強調人工智能發展的底線和紅線，就是你不能干什么，應注意什么風險，但是我們更應該關注人工智能在確保安全的情況下應該做什么才是正確的，而可持續發展就是人工智能造福人類的正確方向。

我發現，現在很多企業與科研機構對可持續發展的理解存在偏差，認為只要做的事情跟聯合國可持續發展17個目標相關，就是對可持續發展做貢獻。其實不然，只有用可持續發展的視角推動AI for SDGs，才是對人類和生態長遠發展有益。

比如，在“AI+教育”方面，將人臉識別技術應用于教室內學生表情、專注度等方面的識別雖然具有廣泛的潛在應用場景，但卻不是一個可持續發展的案例。即使表情特征能夠通過計算準確反映學生狀態，這類技術將有侵犯學生隱私的潛在風險，降低學生在課堂中的能動性，引起學生的反感，而此種情緒在整個教育階段的積累甚至可能引起學生對人工智能技術的厭惡（如有相關技術的發展致力于使攝像頭檢測不到人臉信息）。所以，在我看來，表情的識別技術在教室里就是一種誤用甚至是濫用，即使它跟SDGs相關。這并不是技術本身有問題，而是使用方式的問題。如果將其用于校園霸凌事件的檢測，鎖定沖突當事人，并輔以恰當的決策處理，就能夠減少校園霸凌事件的激化甚至惡化。

因此，企業在利用AI推動SDGs時，要謹慎思考這一應用在實現目標的過程中對社會、環境的長期影響，在確定人工智能應用解決問題、達到效果的同時，還要評估負面、不可控的影響，避免可能的風險，才能有效推動人工智能助力可持續發展。

雖然SDGs領域的專家希望推動AI助力SDGs，但是技術本身或者商業本質，在操作的層面不免帶來風險，對可持續發展目標的實現產生負面影響，希望引起各方的注意和重視，這也是北京智源人工智能倫理與可持續發展研究中心今后關注的重點。

構建AI利他之心至關重要

Q：您剛剛講了AI對于實現可持續發展目標的負面案例。那么，您對于AI的發展有哪些思考和建議？

A：劍橋大學前年曾發起了“通用智能實現的不同途徑及其可能存在的風險”項目，作為該項目國際顧問委員會的委員，我認為，任何一條人工智能實現的途徑都有自己的風險，且風險類型是截然不同的。

有些人工智能研究仿生整個人類大腦，把人類好的壞的全都學了。我認為不能把人類惡的一面構建為人工智能的一部分，這是很危險的。在我的類腦人工智能實驗室，正在開展人工智能風險防范的技術模型相關研究。比如，讓人工智能系統可以換位思考，并具備認知共情和利他行為。我們在嘗試構建人工智能模型，使機器人具有一定程度的基本自我意識，在此基礎上發展認知共情和利他的認知功能，這是人工智能從智能體自身出發實現善用和對人類及生態有益的核心。

舉一個極端的例子。比如，無人車送快遞，如果給它的原則和指令是用最短的時間送最多的貨。假設人工智能的程序設計不嚴謹，無人車為了短時間內獲得更多的獎賞，看見小動物可以視而不見，對周圍物體造成不可逆影響也是可以想象到的。但是如果人工智能具有思維揣測和利他機制，就可能避免這些問題。這不是天方夜譚，我們在技術上現在在做非常具體的探索。我認為，任何一個人工智能體都要有倫理框架，這是必選項。

應該說，人工智能倫理與可持續發展不是人工智能研究的一個分支，而是所有人工智能科研人員都應給予關注并付諸實踐的，否則很難確保人工智能可持續的向善。

為AI從業者補上可持續發展這門課

Q：在您看來，我國人工智能從業者的倫理意識強嗎？對于可持續發展的知曉度高嗎？

A：可以說非常低。因為人工智能的從業者在教育階段幾乎沒上過社會學課程，極少數的可能上過工程倫理課程，這就導致他們對于倫理所知甚少，絕大多數對可持續發展更是聞所未聞。從目前情況而言，我國人工智能的從業者缺的不只是人工智能倫理一門課，還有可持續發展這門課。因此，我認為大學應該開設人工智能倫理與可持續發展相關課程，引導高校本科生、研究生、博士生了解人工智能與SDGs，并能主動探索不同技術推進SDGs的實現，使每一個專業的學生在全球可持續發展愿景中都能找到自身的定位和貢獻的方向與方式。

2018年開始，中國科學院大學專門面向工程領域的學生開設了人工智能哲學和倫理課程，希望他們了解人工智能是改變社會的使能技術。在這門課上，我跟學生說，有一件事，是我希望你們去做的，有一件事，是我希望你們不去做的，希望你們未來都能推動AI for SDGs，不希望你們利用人工智能開發致命性自主武器。

Q：正如您所說，在大學開展AI倫理和可持續發展的教學十分必要。那么，對于如今已經從事人工智能研究和實踐的從業者，如何補上這一課？

A：這確實是我們要重視的問題。我國已經成為人工智能領域的超級大國之一，也是具有國際擔當的負責任大國，AI從業者的理念要不斷提升，與國際接軌。據報道，截至目前，內地人工智能領域的人才約有近7萬人，對其進行教育和引導是實現AI for SDGs落地的關鍵。

關于如何補課，一方面各類媒體要加強對AI for SDGs的報道和宣傳，提升社會各界的認識和了解;另一方面要加強探討。每年我國都要舉辦不同主題的人工智能大會，建議這些大會開設AI for SDGs專題研討會，深入探討相關話題，凝聚共識，激發行動。今年北京和上海的人工智能大會都在初步嘗試開展相關研討，反響不錯，我們要將這件事情持續性地做下去，真正發揮引導作用。

北京智源人工智能研究院今年6月發布面向可持續發展的人工智能智庫、公益研究計劃、國際協作網絡，其中重要的目的就是引導更多的學者、企業共同參與和推動AI for SDGs。從某個意義上說，我們也是在將相關領域的學者和企業集結起來，為AI從業者“補課”。

AI for SDGs已經是國際共識，凡是有遠見的人工智能企業都應該將其納入企業發展愿景和戰略規劃，不會為了眼前的短期利益而犧牲人工智能對社會和生態帶來的長遠積極影響。北京智源人工智能研究院希望通過鼓勵企業參與面向可持續發展的公益研究計劃和國際協作網絡（AI4SDGs Cooperation Network），向全球開放研究成果，特別是支持中低收入國家和地區、“一帶一路”國家和地區，讓中國的人工智能造福更多人，而不只是造福中國。我們一直強調，國際協作網絡緣起中國，但不是僅為了中國，而是對世界各國免費開放，任何企業和學者只要愿意參與推動AI for SDGs，都歡迎加入。畢竟，SDGs是全人類的愿景，沒有任何一個國家可以單獨實現，需要各方合力推進。北京智源人工智能研究院和我們的合作伙伴希望通過自身的力量為推動AI for SDGs的全球愿景做出積極的貢獻。

Q：您對未來我國AI for SDGs有什么樣的期待？

A：新冠肺炎疫情對每一個SDG目標都造成了沖擊，實現進程令人擔憂，但是只要我們善用人工智能推進SDGs，2030年的美好愿景依然可期。更進一步地說，到2030實現SDGs并不是終點，而是更長遠的人類社會與環境、生態共同愿景的新起點。我相信，人類在演化過程中將不斷探索可持續發展，修正自身與環境、生態之間的關系，利用人工智能推進全球和諧發展，不僅是人類與技術的和諧，更是不同物種之間的和諧，從AI支持聯合國可持續發展目標的實現到更長遠、更廣泛的面向可持續發展的人工智能的擴展與深化。希望未來通過各方的努力，我國人工智能的產業發展不只是關注商業盈利，還將建立更長遠和堅實的愿景，推進貢獻于全球社會、環境和生態的可持續發展。