在全球人工智能競賽中找準治理方向

王秋蓉

2023年是生成式人工智能（Generative AI）引起全球技術革新的一年，它不僅以前所未有的速度在圖像、音樂、文字生成領域開拓創新，并且開啟了人工智能技術重塑各個行業面貌的討論。各國正爭先恐后地開發和部署人工智能技術，寄希望于這些技術能為經濟和產業帶來革命性的變革。

“人工智能治理攸關全人類命運，是世界各國面臨的共同課題?！?023年10月，中央網信辦發布《全球人工智能治理倡議》，呼吁各國政府、國際組織、企業、科研院校、民間機構和公民個人等各主體秉持共商共建共享的理念，協力共同促進人工智能治理。

如今從中國到全球，面對快速發展、日新月異的人工智能技術，如何在把握機遇的同時防范風險，確保其造福人類、智能向善，備受關注。為此，近日，本刊記者專訪了中國人民大學未來法治研究院研究員郭銳。作為國內最早開展人工智能倫理與治理的研究的學者之一，郭銳擔任著國家信息標準化委員會人工智能專業委員會委員、全國標準化委員會人工智能總體組社會倫理研究負責人，并參與撰寫了中國第一個以人工智能標準化為主題的白皮書，并主持撰寫了國家標準委人工智能總體組《人工智能倫理風險研究》報告。

對話：

Q |可持續發展經濟導刊（CST）

A | 郭銳

人工智能正在引發人類社會歷史性變化

CST：您最早是如何開始人工智能倫理研究的？最近在關注哪些問題？

郭銳：2017年，一位計算機科學家朋友邀請我參加人工智能倫理標準化的研究。我接受邀請，參與了廣泛的與國內外專家的合作研究，包括來自國際標準組織（ISO）、國際電氣電子工程師協會（IEEE）、經合組織（OECD）、聯合國的專家以及國內外科技巨頭的一流科技人員。在這個過程中，我對技術前沿和倫理思考的研究不斷加深，在中國人民大學首次開設了人工智能倫理與治理課程，并出版了國內第一本人工智能倫理與治理領域專著——《人工智能倫理與治理》。

最近我在關注如何回應超人類主義和法律的問題。自從赫胥黎提出超人類主義以來，這個主張隨著技術的發展歷經變化，但核心主張始終是通過技術手段超越人類的現有生理和心理限制。我研究的問題是：法律體系如何適應并管理那些可能根本改變人類能力甚至人類本質定義的技術？超人類主義不僅重啟了對人類能力極限的討論，也對現有的個人權利、責任歸屬和倫理界限等提出了挑戰。這個問題，同樣關乎人類社會歷史性變化。

CST：您如何看待當前及未來中國人工智能發展的基本形勢？

郭銳：我不敢說能準確把握人工智能發展的基本形勢，從我的自己閱讀和研究來看，當前正處于人工智能引發人類社會歷史性變化的時刻。

全球人工智能競賽已經開啟，以歐盟為代表的發達國家無論是從技術發展還是立法規范方面都在加速行動，中國在全球人工智能的競賽中也扮演著重要角色。中國的優勢在于能夠迅速地將AI技術應用于大規模場景。行業巨頭如騰訊、阿里巴巴、美團、京東、百度等均在有潛力的領域中迅速進步，在技術研發、產品應用、市場拓展等方面都取得不俗成果。在醫療健康領域，國內應用AI技術助力藥物研發、優化臨床試驗和提升臨床決策質量，已取得初步成果。

CST：面對新形勢，您認為如何防范人工智能發展帶來的風險？

郭銳：我認為有三個方面：一是推動建立社會人工智能的倫理共識，提高人工智能科技人員、從業者和用戶的倫理意識和素養，避免人工智能的濫用和誤用。二是以上述倫理共識為基礎，建立健全人工智能的法律法規和標準規范，明確人工智能的責任主體、權利義務、風險防范和糾紛解決等方面的法律規則，保障人工智能的安全、可靠、可控和可信。三是推動人工智能的國際合作和交流，積極參與國際組織和多邊機制，共同制定人工智能的全球治理原則和規則，促進人工智能的公平、開放、共享和包容發展。

人工智能倫理是實現SDG的重要保障

CST：從中國到全球，新時代下人工智能倫理為何引發高度關注？涉及哪些核心議題？

郭銳：人工智能技術的發展，不僅給人類帶來了巨大的效率提升，也對人類的價值觀、社會秩序產生了深刻的影響。在這個過程中，保障人工智能技術合乎倫理的使用，就成為全球人工智能倫理與治理的重要課題。人工智能的倫理是指在人工智能技術的研發、應用和推廣過程中，遵循應有的道德準則和法律規范，以保護人類的利益和尊嚴。遵循人工智能倫理，是實現人工智能治理目標的基礎，后者旨在構建技術與社會的良性互動。同時，人工智能的倫理與治理是實現更大的社會發展目標和全球美好愿景特別是聯合國2030可持續發展目標的重要保障。

我在《人工智能倫理與治理》一書中指出，或由于人工智能技術本身的特性，或由于其應用過程中社會賦予了它的特定角色，無論人類是否承認，人工智能已經在深度“參與”人的決策。從這個意義上說，人工智能技術與傳統的工具意義上的技術有質的區別。而這種“參與”，讓人類面對被自己創造的技術存在反噬的可能性，我把它稱作創造秩序危機。人工智能倫理的本質，就是對創造秩序危機的回應。人工智能倫理的核心議題，包括人工智能的透明性、可解釋性、安全性、公平性等。這些議題不僅關系到人工智能技術本身的發展，更關系到社會各個利益相關者。從這個意義上說，人工智能倫理是人類社會能夠繼續受益于技術的前提和保證。

CST：您如何理解人工智能倫理與可持續發展的關系？

郭銳：這個問題恰好可以接著上一個問題的回答來闡發。我認為“人工智能倫理是人類社會能夠繼續受益于技術的前提和保證”，這是因為人工智能作為一種有相當“自主性”，并且用于社會和個人生活中重要決策的技術，如果不能遵守建立在社會共識之上的倫理原則，會帶來嚴重后果。這些嚴重后果會導致資源浪費、環境污染、氣候變暖等，與可持續發展背道而馳。如今我們已經越來越清楚地看到，每個領域都在高度關注可持續發展。人工智能技術承載著未來幾十年甚至更長久的時間里推動經濟發展和社會進步的重任，必須與可持續發展相一致。

從更廣的意義上看，人工智能倫理與可持續發展的基本目標是一致的，這個基本目標就是人類繁盛。如果說可持續發展的愿景是通過為個人和社會提供過上美好生活所需的資源和機會，人類繁盛就是可持續發展更大的目標，也同樣是人工智能倫理的目標。

面對挑戰保持謹慎樂觀與深刻反思

CST：就世界范圍而言，當前人工智能倫理面臨的挑戰是什么？如何應對？

郭銳：基于對人工智能給人類帶來倫理危機的根源，我在研究中提出了兩個基本原則：人的根本利益原則和責任原則。人的根本利益原則，即人工智能應以實現人類根本利益為終極目標。這一原則體現在對人權的尊重、對人類和自然環境利益最大化以及降低技術風險和對社會的負面影響方面。責任原則，即在人工智能相關的技術開發和應用中都建立明確的責任體系，以便當人工智能導致不良后果時能夠有效問責，保障人工智能應用的公平合理性。 能否在這兩方面都形成道德和法律上的共識，是當前人工智能倫理面臨的最大挑戰。

在實施這兩個原則的過程中，如何平衡創新和風險，也是人工智能倫理面臨的挑戰之一。人工智能是一種不斷發展的技術，有可能帶來科技人員、商業組織所意想不到的結果。如何在鼓勵創新的同時有效預防和控制風險，是一個需要持續關注和探討的問題。另外，如何協調不同文化和社會的價值觀和利益也是一個亟待解決的問題。人工智能是一種跨國界和跨文化的技術，可能會引發不同國家和地區之間的沖突和競爭，這也是不能忽視的重大挑戰。

根據人工智能不同的發展階段，人類社會應當有近期和遠期的規劃。對于人工智能近期的規劃，是基于“弱人工智能”的，故此應考慮技術發展、市場競爭和社會影響來幫助社會形成倫理共識并建立法律規制的基礎。從遠期看，人類社會需要考慮的是能夠深度參與人類決策的人工智能，甚至是有相當自主性的“強人工智能”，故此法律規制應建立在社會已有的倫理共識之上，關注技術對人際關系、社會結構等對人類未來有深刻影響的領域。

CST：如今隨著ChatGPT的廣泛應用，再次引發人工智能可能替代人類的擔憂。您是怎么看的？

郭銳：我也注意到一位非人類——ChatGPT，首次被《自然》雜志“破例”列入年度科學人物，“以承認生成式人工智能給科學發展和進步帶來的巨大改變”。ChatGPT可以幫助人類從一些重復性、無需創造力的工作中解放出來，甚至可以通過協助寫作、設計等激發人類的想象力。但是，它也可能產生一些錯誤或不恰當的內容，比如歧視、謊言、暴力等。如果人類過度依賴或信任ChatGPT，它甚至會影響人的語言和思維能力，改變人類的社會和文化結構。這些都是真正的問題，但不能簡單歸結為擔憂ChaGPT是否可以“代替”人類。

我記得幾年前有一個著名TED演講，通過展示人類的道德發展趕不上技術的發展，斬釘截鐵地指出人類必然因無法應對人工智能的迅速發展而遭遇厄運。我沒有那么悲觀。作為研究者，我認為未來人工智能會替代一部分人的工作，但永遠不會替代能夠利用人工智能的人。我十分期待人類利用人工智能造福人類、推動可持續發展帶來的巨變。

人類經歷的科技變革有可能造成短期社會動蕩，如馬克思和卡爾·波蘭尼所描述的英國工業革命給英國帶來的社會危機。但今天在人工智能快速發展的時代，我們寄希望于人類對歷史的反思，對謙卑、善良、美好的追求。無論是中國延續數千年的儒家傳統還是西方的猶太教、基督教傳統，都為我們提供了歷史和倫理思考的“富礦”?！皽毓手隆笔俏覀儽３种斏鳂酚^的前提。