人工智能全球性風(fēng)險(xiǎn)挑戰(zhàn)與多維度治理體系構(gòu)建

【摘要】人工智能具有類人智慧性、廣泛滲透性和要素替代性，其顛覆性創(chuàng)新既帶來發(fā)展新機(jī)遇，也伴隨著“科技異化”和“創(chuàng)造性破壞”的風(fēng)險(xiǎn)，尤其是隨著弱人工智能向強(qiáng)人工智能不斷演進(jìn)，人工智能可能引發(fā)倫理失范、就業(yè)沖擊和社會(huì)分化加劇等問題，并對(duì)全球應(yīng)對(duì)氣候變化產(chǎn)生影響。面對(duì)人工智能全球性的風(fēng)險(xiǎn)挑戰(zhàn)，需要針對(duì)當(dāng)前碎片化的全球治理現(xiàn)狀，從價(jià)值取向、國家關(guān)系、治理優(yōu)先級(jí)、主體能力和技術(shù)手段等多個(gè)維度健全完善治理體系，推動(dòng)人工智能造福全人類。

【關(guān)鍵詞】人工智能" 包容普惠發(fā)展" 可持續(xù)發(fā)展" 治理體系

【中圖分類號(hào)】TP18" " " " " " " " " " " " " " " " 【文獻(xiàn)標(biāo)識(shí)碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2025.09.007

引言

人工智能旨在構(gòu)建能夠模仿人類智能、執(zhí)行類似于人類思維和決策過程[1]的計(jì)算機(jī)系統(tǒng)。根據(jù)計(jì)算機(jī)系統(tǒng)與人類能力的對(duì)比，人工智能通常可分為計(jì)算智能、感知智能和認(rèn)知智能三個(gè)層次，或?qū)⑷斯ぶ悄艿陌l(fā)展分為弱人工智能、強(qiáng)人工智能和超級(jí)人工智能三個(gè)階段。計(jì)算智能早已在普通的計(jì)算機(jī)領(lǐng)域超過人類的計(jì)算能力。在感知智能層次，雖然還存在許多問題和不足，但自動(dòng)駕駛系統(tǒng)的蓬勃發(fā)展表明，總體上計(jì)算機(jī)系統(tǒng)已具備接收與分析視覺和聽覺信號(hào)的能力。在一些特定領(lǐng)域，計(jì)算機(jī)系統(tǒng)甚至已經(jīng)具備超過人類的能力。近年來，ChatGPT和DeepSeek等大語言模型不僅能分析和理解較為復(fù)雜的人類自然語言，還可以根據(jù)要求生成語言和動(dòng)作內(nèi)容，這反映出計(jì)算機(jī)系統(tǒng)正在實(shí)現(xiàn)從感知判斷向推理和內(nèi)容創(chuàng)造的巨大跨越，表明以生成式人工智能為代表的人工智能正在迎來認(rèn)知智能的“技術(shù)奇點(diǎn)”，也被認(rèn)為是開啟了通用人工智能（Artificial General Intelligence，簡稱AGI）的序幕。

盡管無法預(yù)知完全超越人類甚至擺脫人類控制的超級(jí)人工智能何時(shí)到來，但整體能力達(dá)到接近甚至等同人類水平的強(qiáng)人工智能時(shí)代可能正在到來。由于傳統(tǒng)技術(shù)普遍不具有生命和自主能力，其創(chuàng)新往往都是服務(wù)人類適應(yīng)、利用和改造自然的目的，而發(fā)展人工智能的目的正是實(shí)現(xiàn)機(jī)器去做只有人才能做的智能工作。[2]由于強(qiáng)人工智能具有跨領(lǐng)域、跨學(xué)科的全方位智能優(yōu)勢，一旦研發(fā)成功并廣泛應(yīng)用，人類社會(huì)的經(jīng)濟(jì)、政治等多方面都將會(huì)受到巨大沖擊，強(qiáng)人工智能很可能凌駕于人類智能之上，產(chǎn)生倫理、法律和安全等方面的問題。

“人工智能會(huì)導(dǎo)致大面積失業(yè)甚至讓人類滅絕嗎？”《經(jīng)濟(jì)學(xué)人》的這一封面文章[3]曾被認(rèn)為是危言聳聽。但比爾·蓋茨和馬斯克等眾多業(yè)內(nèi)企業(yè)家和科學(xué)家的公開信指出，“強(qiáng)人工智能可能代表了地球生命史上的深刻變化”[4]，不僅將推動(dòng)重建生產(chǎn)要素，重構(gòu)生產(chǎn)生活方式，重塑產(chǎn)業(yè)組織和產(chǎn)業(yè)形態(tài)，也將改變?nèi)伺c組織、人與技術(shù)的關(guān)系。盡管人工智能對(duì)經(jīng)濟(jì)社會(huì)乃至人類自身發(fā)展帶來的紅利遠(yuǎn)大于風(fēng)險(xiǎn)挑戰(zhàn)，但從近年人工智能發(fā)展來看，其“技術(shù)異化”和“顛覆性破壞”必將遠(yuǎn)超過歷史上的技術(shù)革命，具有自主意識(shí)和行動(dòng)能力的人工智能甚至可能“對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)”。應(yīng)對(duì)人工智能快速發(fā)展，“持續(xù)努力解決道德、社會(huì)和監(jiān)管挑戰(zhàn)對(duì)于負(fù)責(zé)任和有益的大規(guī)模采用至關(guān)重要”[5]。考慮到技術(shù)與經(jīng)濟(jì)社會(huì)共生的復(fù)雜性，構(gòu)建包容、普惠和可持續(xù)的全球人工智能治理體系應(yīng)該是當(dāng)下發(fā)展人工智能的應(yīng)有之義。

人工智能的技術(shù)經(jīng)濟(jì)特征

人工智能是一項(xiàng)涵蓋計(jì)算機(jī)、通信、數(shù)學(xué)、統(tǒng)計(jì)學(xué)、心理學(xué)等多領(lǐng)域技術(shù)和多學(xué)科知識(shí)的綜合性集成技術(shù)創(chuàng)新，其利用大數(shù)據(jù)結(jié)合超強(qiáng)算法算力，逐步將計(jì)算機(jī)系統(tǒng)的自動(dòng)化能力和自主能力推向更高層次和更智能化的領(lǐng)域。不同于以往的信息技術(shù)，人工智能具有獨(dú)特的技術(shù)經(jīng)濟(jì)特征，這正是需要強(qiáng)化其技術(shù)治理的重要原因。

基于自主學(xué)習(xí)的類人智慧性。擁有超大規(guī)模參數(shù)并經(jīng)過海量數(shù)據(jù)預(yù)訓(xùn)練的人工智能不僅可以利用數(shù)據(jù)產(chǎn)生新知識(shí)，生成可以用于對(duì)事物進(jìn)行有效預(yù)測的模型，還可以修改甚至自主設(shè)定相關(guān)規(guī)則。[6]這種智能化決策可廣泛應(yīng)用于電子商務(wù)平臺(tái)、自動(dòng)駕駛、司法裁判、醫(yī)療和金融等領(lǐng)域，顯著提高決策效率，減少?zèng)Q策時(shí)間和成本。更重要的是，人工智能展現(xiàn)出從數(shù)據(jù)中自主學(xué)習(xí)和不斷提高性能、改進(jìn)決策的能力，這種通過學(xué)習(xí)實(shí)現(xiàn)成長的特性，正是人類智慧的體現(xiàn)。人工智能雖然尚未具備完全的自我意識(shí)、自我更新、自主決策和行動(dòng)能力，但這種基于自主學(xué)習(xí)的自我成長能力仍然是其他技術(shù)無法實(shí)現(xiàn)的。有研究甚至認(rèn)為，當(dāng)前人工智能發(fā)展水平正處于由弱人工智能轉(zhuǎn)向強(qiáng)人工智能的過渡期，正在達(dá)到無需人類介入，僅依靠自身也能夠自主獨(dú)立完成工作任務(wù)的發(fā)展水平。[7]

基于通用目的的廣泛滲透性。與電力、汽車、電腦和互聯(lián)網(wǎng)一樣，人工智能屬于通用目的技術(shù)。其不僅可以應(yīng)用于生產(chǎn)，還可以集成于產(chǎn)品和服務(wù)中，甚至可以應(yīng)用于組織再造。這表明人工智能用途廣泛，幾乎可以應(yīng)用到所有行業(yè)和場景，形成廣泛的滲透性，即某項(xiàng)技術(shù)所具備的能夠與社會(huì)各個(gè)行業(yè)、生產(chǎn)生活各個(gè)環(huán)節(jié)相互融合并改變經(jīng)濟(jì)運(yùn)行方式的重要特性。這種廣泛滲透性不僅推動(dòng)了各行業(yè)的智能化轉(zhuǎn)型，還提高了生產(chǎn)效率和產(chǎn)品質(zhì)量，推進(jìn)了經(jīng)濟(jì)的發(fā)展。雖然目前人工智能所產(chǎn)生的影響可能還主要是局部性的，但廣泛滲透性也意味著人工智能具有影響全局的潛力。[8]

基于效率提升的要素替代性。人工智能應(yīng)用的主要目的是提高效率、降低成本，即在同等產(chǎn)出下，使用更少的勞動(dòng)和資本。人工智能可以與勞動(dòng)、資本和技術(shù)等其他生產(chǎn)要素結(jié)合，促使不同要素之間優(yōu)化協(xié)調(diào)，降低各要素生產(chǎn)過程中的摩擦成本，提高資源配置效率。相應(yīng)地，人工智能在改變傳統(tǒng)要素稟賦結(jié)構(gòu)的同時(shí)，也對(duì)傳統(tǒng)要素市場形成了巨大的外生沖擊，突出表現(xiàn)為其對(duì)勞動(dòng)力、資本、技術(shù)等要素領(lǐng)域產(chǎn)生的深刻影響。[9]例如，人工智能通過在技術(shù)上提升機(jī)器自動(dòng)化程度減少勞動(dòng)力使用，同時(shí)提供了一種名為“智能自動(dòng)化”的虛擬勞動(dòng)力，其既可以作為提升生產(chǎn)率的工具，又可以作為一種全新的生產(chǎn)要素。[10]人工智能的替代性體現(xiàn)在其生產(chǎn)要素的連續(xù)積累，以及對(duì)資本和勞動(dòng)等其他要素逐步替代的過程。其應(yīng)用可以同時(shí)體現(xiàn)為勞動(dòng)節(jié)約型技術(shù)進(jìn)步和資本節(jié)約型技術(shù)進(jìn)步。相比于一般技術(shù)，人工智能的集約性特征更為鮮明和顯著。

實(shí)現(xiàn)人工智能包容、普惠和可持續(xù)發(fā)展面臨的挑戰(zhàn)

人工智能作為典型的“雙刃劍”，始終伴隨著機(jī)遇和風(fēng)險(xiǎn)。其高通用性和廣泛滲透性特征，既可賦能千行百業(yè)，影響千家萬戶，也可能引發(fā)經(jīng)濟(jì)社會(huì)各領(lǐng)域的系統(tǒng)性風(fēng)險(xiǎn)，影響范圍從個(gè)體延伸到國家層面。隨著人工智能技術(shù)的不斷發(fā)展和逐步普及，其帶來的倫理、法律、社會(huì)等問題也日益凸顯。在此背景下，如何有效治理人工智能，確保其包容、普惠和可持續(xù)發(fā)展，成為全球共同面臨的挑戰(zhàn)。

人工智能發(fā)展不能排除“科技異化”和“創(chuàng)造性破壞”。創(chuàng)新具有二重性，很多技術(shù)在應(yīng)用中都可能產(chǎn)生負(fù)面、消極甚至是否定性的影響，這種情況被稱為技術(shù)異化或科技異化，即當(dāng)科技的外在使用和社會(huì)效用方面產(chǎn)生了非預(yù)期結(jié)果，甚至背離了人的本性、基本價(jià)值和社會(huì)規(guī)范，可能使其從賦能工具轉(zhuǎn)變?yōu)榧s束、威脅和損害人類發(fā)展的力量。例如，以蒸汽機(jī)等為代表的科技革命極大提高了物質(zhì)和勞動(dòng)生產(chǎn)率，但人類的貧富差距也在不斷拉大，催生了無產(chǎn)階級(jí)和資產(chǎn)階級(jí)這兩大對(duì)立的群體。同時(shí)，大量開采利用自然資源和能源，加劇了能源資源短缺、環(huán)境污染和生態(tài)破壞。核技術(shù)的出現(xiàn)開辟了新的能源利用渠道，但核武器在設(shè)計(jì)和生產(chǎn)之初卻在一定程度上被賦予了“惡”的屬性和用途。

重大技術(shù)創(chuàng)新還可能出現(xiàn)如奧地利經(jīng)濟(jì)學(xué)家熊彼特所提出的“創(chuàng)造性破壞”現(xiàn)象。例如，紡織機(jī)械和工廠代替了手工作坊和眾多手工業(yè)，汽車和火車的普及徹底終結(jié)了馬車時(shí)代，電視的出現(xiàn)大幅壓縮了廣播的市場空間，網(wǎng)絡(luò)媒體深刻沖擊了傳統(tǒng)紙媒和電視行業(yè)的發(fā)展。歷史和實(shí)踐表明，創(chuàng)新程度越高，越容易導(dǎo)致“創(chuàng)造性破壞”，且破壞效應(yīng)往往越顯著。例如，當(dāng)電子商務(wù)替代社區(qū)實(shí)體店時(shí)，就業(yè)替代和產(chǎn)業(yè)形態(tài)變革僅僅是沖擊的一個(gè)側(cè)面，社會(huì)組織、勞動(dòng)關(guān)系、人際關(guān)系、傳統(tǒng)文化、社區(qū)文化，甚至農(nóng)村變遷與城市化等方面，都將因?yàn)榧夹g(shù)創(chuàng)新和相應(yīng)的業(yè)態(tài)創(chuàng)新而受到?jīng)_擊。

科技發(fā)展必然產(chǎn)生不以人意志為轉(zhuǎn)移的消極影響。人工智能追求的是對(duì)人類智能的鏡像，[11]天然具有類人化甚至替代人類的傾向性和目的性，其對(duì)人類自身發(fā)展和實(shí)踐的沖擊將更為深遠(yuǎn)和復(fù)雜。從近期實(shí)踐來看，人工智能將是信息化歷史上繼計(jì)算機(jī)和互聯(lián)網(wǎng)之后的革命性創(chuàng)新，其引發(fā)的智能革命或?qū)⒊诫娏Ω锩托畔⒏锩谶@一進(jìn)程中，“科技異化”現(xiàn)象和“創(chuàng)造性破壞”效應(yīng)幾乎無法避免。

人工智能可能引發(fā)前所未有的技術(shù)倫理風(fēng)險(xiǎn)。人工智能本身可能存在的偏見改變了傳統(tǒng)上技術(shù)的中立性，其顛覆性和普適性正在從根本上改變?nèi)伺c技術(shù)的關(guān)系，進(jìn)而影響人與人的關(guān)系，使得人類需要審慎評(píng)估人工智能技術(shù)體系的道德屬性，審視技術(shù)對(duì)人類個(gè)體和整體的影響。其一，人工智能可能引發(fā)數(shù)據(jù)濫用和權(quán)利（如隱私權(quán)）侵蝕，甚至滋生操縱風(fēng)險(xiǎn)。人工智能發(fā)展和應(yīng)用都離不開大量數(shù)據(jù)支撐訓(xùn)練和創(chuàng)新迭代升級(jí)，這可能誘使某些人工智能公司或系統(tǒng)大規(guī)模采集甚至非法獲取用戶數(shù)據(jù)。例如，美國Clearview AI非法抓取超過30億張社交媒體照片構(gòu)建人臉數(shù)據(jù)庫，并據(jù)此深度挖掘整理出具體個(gè)人姓名、家庭和工作地址、聯(lián)系方式、社交關(guān)系網(wǎng)絡(luò)和社交活動(dòng)等信息，相關(guān)數(shù)據(jù)在被提供給美國司法部、美國聯(lián)邦調(diào)查局（FBI）等多個(gè)聯(lián)邦機(jī)構(gòu)和沃爾瑪、美國職業(yè)籃球聯(lián)賽（NBA）等多個(gè)商業(yè)、金融和文化娛樂機(jī)構(gòu)的同時(shí)，還遭到大規(guī)模泄露。英國公司劍橋曾違規(guī)獲取美國臉書公司5000萬用戶數(shù)據(jù)信息干預(yù)美國選舉。我國也有個(gè)別企業(yè)利用人工智能識(shí)別學(xué)生表情、坐姿和行為進(jìn)行教學(xué)質(zhì)量評(píng)估，引起廣泛爭議。更有甚者，有個(gè)別社交媒體和網(wǎng)絡(luò)游戲利用人工智能技術(shù)使用戶產(chǎn)生過度依賴或沉迷等問題。更值得警惕的是，當(dāng)前正在快速發(fā)展的情感人工智能、社交機(jī)器人和陪伴機(jī)器人等，可能帶來心理操縱的風(fēng)險(xiǎn)。例如，用戶過分沉溺于通過人工智能進(jìn)行互動(dòng)交流和娛樂，與周圍的人聯(lián)系減少，可能導(dǎo)致人際關(guān)系疏遠(yuǎn)，產(chǎn)生孤獨(dú)感，進(jìn)而加劇心理健康問題。

其二，數(shù)據(jù)和算法偏見可能影響社會(huì)公平，甚至造成社會(huì)公共信任危機(jī)。人工智能存在數(shù)據(jù)規(guī)模不足和數(shù)據(jù)偏見等問題。例如，醫(yī)學(xué)人工智能訓(xùn)練的X光片主要來自患者群體，數(shù)據(jù)采樣或設(shè)計(jì)算法的人有意偏向收集某些數(shù)據(jù)；[12]歷史或某些特定地區(qū)的數(shù)據(jù)可能存在不公平、偏見或歧視與特定群體存在聯(lián)系，如將女性名字與“home”“family”“children”聯(lián)系，將男性名字與“business”“executive”“salary”“career”聯(lián)系起來。[13]同時(shí)，無論是數(shù)據(jù)的采樣偏見、歷史偏見、地域偏見還是標(biāo)注偏見，或是算法編寫者價(jià)值觀、失誤等導(dǎo)致的偏見，都可能被傳遞到人工智能的生成內(nèi)容或選擇判斷上，引發(fā)人們對(duì)社會(huì)公平的擔(dān)憂。例如，美國亞馬遜公司用于簡歷篩選的人工智能程序因訓(xùn)練數(shù)據(jù)男性居多而歧視女性簡歷；[14]Airbnb算法對(duì)黑人頭像用戶顯示更高拒租率；社交媒體平臺(tái)的推薦算法往往給用戶推薦他們已經(jīng)關(guān)注的用戶或喜歡的內(nèi)容，而不推薦其他觀點(diǎn)或信息。

其三，人工智能自主能力提升正在顛覆人機(jī)關(guān)系，意識(shí)爭議引發(fā)人機(jī)對(duì)齊疑慮。2022年6月，谷歌一位工程師因公開稱人工智能“有意識(shí)、有靈魂”而遭到停職。科學(xué)界對(duì)人工智能是否具備意識(shí)仍存在爭議，但人工智能的自主能力正在快速提升是毋庸置疑的。諸如自動(dòng)駕駛、無人自主武器等的發(fā)展表明，無論人工智能是具備自主能力還是自主意識(shí)，我們都必須思考人工智能的權(quán)利和道德地位，尤其是社會(huì)和法律地位。例如，是否應(yīng)該給予人工智能某些權(quán)利？其權(quán)利是否應(yīng)該與人類的權(quán)利平等？我們?nèi)绾纹胶馊斯ぶ悄艿臋?quán)利和社會(huì)其他成員的權(quán)利？人工智能是否應(yīng)該或如何對(duì)其行為負(fù)責(zé)？

人工智能就業(yè)替代效應(yīng)可能帶來就業(yè)沖擊風(fēng)險(xiǎn)。人工智能正在深刻改變著人類生產(chǎn)生活方式，其在推動(dòng)產(chǎn)業(yè)和經(jīng)濟(jì)結(jié)構(gòu)改變的同時(shí)，也在深刻影響就業(yè)結(jié)構(gòu)。人工智能不僅能提高傳統(tǒng)要素的效率，也可能直接替代傳統(tǒng)要素，包括節(jié)約和替代勞動(dòng)力，給就業(yè)市場帶來一定沖擊風(fēng)險(xiǎn)。

一方面，人工智能具有顯著的就業(yè)替代效應(yīng)。人工智能能夠以更低成本執(zhí)行重復(fù)性高、危險(xiǎn)性高，以及依賴簡單決策或者大規(guī)模計(jì)算的工作，而類似工作此前通常是由人類完成的。研究發(fā)現(xiàn)，在人工智能應(yīng)用初期，資本對(duì)勞動(dòng)的替代效應(yīng)顯著，人工智能替代原本由勞動(dòng)力執(zhí)行的任務(wù)，導(dǎo)致勞動(dòng)力需求減少，低附加值的勞動(dòng)力份額下降，短期內(nèi)造成就業(yè)總量下降，[15]主要替代的是人工智能擅長的程序化工作和部分非程序化工作，如搬運(yùn)、駕駛、影像診斷等。Gartner研究估算，2024年，客戶服務(wù)領(lǐng)域有超過25%的工作實(shí)現(xiàn)了人工智能的就業(yè)替代。[16]長期來看，隨著人工智能應(yīng)用范圍的不斷拓展，其就業(yè)替代的范圍會(huì)越來越廣，替代效應(yīng)會(huì)越來越明顯。國際貨幣基金組織（IMF）測算，發(fā)達(dá)經(jīng)濟(jì)體、新興市場國家和低收入國家就業(yè)受人工智能影響的比例分別為60%、40%和26%，平均而言，接近40%的全球就業(yè)將面臨被人工智能替代的風(fēng)險(xiǎn)。[17]中國人民大學(xué)相關(guān)研究團(tuán)隊(duì)指出，中國城鎮(zhèn)勞動(dòng)力市場被人工智能技術(shù)替代的潛在比例為45%（見表1）。相似的研究也認(rèn)為，因?yàn)槿斯ぶ悄軙?huì)引發(fā)職業(yè)替代風(fēng)險(xiǎn)，中國19.05%的勞動(dòng)就業(yè)都面臨高替代風(fēng)險(xiǎn)。[18]

另一方面，人工智能大規(guī)模應(yīng)用可能催生失業(yè)風(fēng)險(xiǎn)。對(duì)一般技術(shù)而言，盡管新技術(shù)可能產(chǎn)生就業(yè)替代效應(yīng)，但由于所有新技術(shù)也都可能同時(shí)產(chǎn)生就業(yè)的創(chuàng)造效應(yīng)和補(bǔ)償效應(yīng)，因此，新技術(shù)的凈就業(yè)效應(yīng)未必會(huì)導(dǎo)致失業(yè)。由于人工智能發(fā)展初衷就是模擬人類智能，其在大幅提升資本和勞動(dòng)效率之時(shí)，產(chǎn)生就業(yè)替代效應(yīng)也比此前任何技術(shù)進(jìn)步的影響都要顯著。與此同時(shí)，人工智能的快速發(fā)展將引發(fā)職業(yè)技能與市場需求之間的錯(cuò)配問題。隨著技術(shù)迭代速度不斷加快，技能過時(shí)成為普遍現(xiàn)象，許多現(xiàn)有職位所需的技能正面臨被新興技術(shù)淘汰的風(fēng)險(xiǎn)，教育與培訓(xùn)機(jī)構(gòu)更難以跟上人工智能創(chuàng)新步伐，導(dǎo)致培養(yǎng)的人才難以滿足市場需求。因此，如果人工智能技術(shù)快速普及，而就業(yè)制度缺乏靈活性，可能引發(fā)較大失業(yè)風(fēng)險(xiǎn)。例如，自動(dòng)駕駛迅速普及可能導(dǎo)致公共交通行業(yè)不能適應(yīng)新崗位需求的司機(jī)和管理人員失業(yè)。世界經(jīng)濟(jì)論壇預(yù)測，未來五年內(nèi)，全球勞動(dòng)力市場將出現(xiàn)23%的結(jié)構(gòu)性崗位流失和44%的工人技能面臨重構(gòu)，雖然有6900萬個(gè)新工作崗位誕生，但淘汰的崗位數(shù)量高達(dá)8300萬個(gè)，導(dǎo)致崗位絕對(duì)數(shù)量下降約1400萬個(gè)，約占全球總就業(yè)總量的2%。[19]還有研究認(rèn)為，由于人工智能的影響和沖擊，47%的美國勞動(dòng)者或?qū)⒚媾R失業(yè)。[20]

此外，人工智能推動(dòng)就業(yè)結(jié)構(gòu)走向“兩極化”。隨著人工智能技術(shù)的不斷進(jìn)步，勞動(dòng)力市場正經(jīng)歷結(jié)構(gòu)性變化，呈現(xiàn)“兩極化”趨勢，即高技能認(rèn)知工作與低技能手工工作的就業(yè)機(jī)會(huì)持續(xù)增加，而中等技能的常規(guī)性工作崗位則面臨減少的壓力。這種分化源于編程、數(shù)據(jù)分析、企業(yè)管理復(fù)雜決策和科學(xué)研究等高技能工作，需要?jiǎng)?chuàng)造性思維和深厚的專業(yè)知識(shí)，這些都是人工智能難以完全替代的領(lǐng)域。而如清潔、美容美發(fā)和餐飲服務(wù)等低技能工作，由于其勞動(dòng)強(qiáng)度高且自動(dòng)化成本過高，因此仍然需要人工執(zhí)行。然而，中等技能工作，尤其是流程化和標(biāo)準(zhǔn)化的任務(wù)，如某些制造業(yè)作業(yè)、文書工作等，很容易被人工智能和機(jī)器人技術(shù)取代。就業(yè)結(jié)構(gòu)的“兩極化”趨勢不僅會(huì)影響勞動(dòng)者的就業(yè)選擇，也對(duì)現(xiàn)行教育體系提出了嚴(yán)峻挑戰(zhàn)。

人工智能引發(fā)的“智能鴻溝”存在加劇兩極分化風(fēng)險(xiǎn)。互聯(lián)網(wǎng)興起之初，人們就意識(shí)到對(duì)互聯(lián)網(wǎng)等信息技術(shù)工具掌握和應(yīng)用的差距將導(dǎo)致在不同群體和不同產(chǎn)業(yè)，以及不同國家和地區(qū)之間形成數(shù)字鴻溝。人工智能具有機(jī)器、技術(shù)及軟件的本質(zhì)屬性，其應(yīng)用對(duì)于新進(jìn)入者和新用戶等群體必然存在一定技術(shù)認(rèn)知、資源獲取、創(chuàng)新能力和使用成本等方面的門檻或壁壘，不同群體、企業(yè)和行業(yè)，甚至不同國家地區(qū)之間，由于對(duì)人工智能存在認(rèn)知和信息差異，以及技術(shù)創(chuàng)新和技術(shù)應(yīng)用等方面存在差異，同樣會(huì)導(dǎo)致發(fā)展機(jī)會(huì)、收入、社會(huì)權(quán)利等呈現(xiàn)兩極分化現(xiàn)象。“智能鴻溝”實(shí)際上是“數(shù)字鴻溝”在人工智能時(shí)代的新體現(xiàn)和新形態(tài)。

國家分化可能形成智能科技霸權(quán)，加劇南北差距。從技術(shù)發(fā)展來看，人工智能研發(fā)需要大量科技人才、巨額資本和海量數(shù)據(jù)，這使得大國尤其是發(fā)達(dá)國家相比于發(fā)展中國家和小國，不僅擁有人才、技術(shù)和資金優(yōu)勢，還擁有眾多掌控核心資源和巨大影響力的跨國人工智能企業(yè)，從而更易于形成技術(shù)先發(fā)優(yōu)勢。與此同時(shí)，發(fā)達(dá)國家和跨國公司通過壟斷芯片、算法、模型和操作系統(tǒng)等人工智能核心技術(shù)，控制關(guān)鍵數(shù)據(jù)、產(chǎn)業(yè)生態(tài)和標(biāo)準(zhǔn)制定權(quán)，導(dǎo)致其與發(fā)展中國家之間形成巨大技術(shù)鴻溝和基礎(chǔ)設(shè)施差距，不僅讓發(fā)達(dá)國家跨國人工智能巨頭獲取巨額收益，還可能將發(fā)展中國家綁定在數(shù)據(jù)資源和應(yīng)用市場供給者的地位，遏制甚至是扼殺其創(chuàng)新能力，進(jìn)而將發(fā)展中國家鎖定在產(chǎn)業(yè)鏈低端。例如，歐美企業(yè)掌控80%的非洲互聯(lián)網(wǎng)流量，并將其數(shù)據(jù)用于訓(xùn)練大模型，非洲卻無法獲得任何收益。多數(shù)國家缺乏自主開發(fā)主權(quán)人工智能的能力與人工智能治理的話語權(quán)，在接受歐美人工智能技術(shù)的同時(shí)，不僅被迫接受其輸出的價(jià)值觀和文化乃至“西方文明優(yōu)越論”，更面臨西方社交媒體算法操縱選舉和社會(huì)政治運(yùn)動(dòng)的風(fēng)險(xiǎn)。此外，發(fā)展中國家在國防、金融等關(guān)鍵領(lǐng)域高度依賴外國人工智能系統(tǒng)，智能科技霸權(quán)可能成為推行強(qiáng)權(quán)的重要工具。例如，拉美國家采用人工智能風(fēng)控模型制定經(jīng)濟(jì)政策，可能導(dǎo)致國家重要決策權(quán)受制于外部資本，暗含巨大的國家經(jīng)濟(jì)安全風(fēng)險(xiǎn)。近年來，美國等發(fā)達(dá)國家聯(lián)合少數(shù)盟友，通過掌控高端GPU供應(yīng)鏈和人工智能專利等手段，肆意打壓圍堵中國等發(fā)展中國家的人工智能研發(fā)與應(yīng)用，其目的顯然是維持自身的人工智能技術(shù)先發(fā)優(yōu)勢，迫使其他國家形成對(duì)美國的技術(shù)依附，并通過掌握先進(jìn)人工智能技術(shù)對(duì)他國發(fā)展產(chǎn)生重要影響，這是一種典型的智能科技霸權(quán)和數(shù)字殖民主義行徑。

從技術(shù)應(yīng)用來看，與發(fā)展中國家相比，發(fā)達(dá)國家不僅擁有先進(jìn)的寬帶網(wǎng)絡(luò)、高性能計(jì)算設(shè)備、人工智能云服務(wù)、智能算力集群等新型基礎(chǔ)設(shè)施，還有更便捷和更低成本接入人工智能技術(shù)的機(jī)會(huì)，同時(shí)，這些國家為勞動(dòng)力提供的人工智能教育和培訓(xùn)條件也更優(yōu)越，使其更易獲益于人工智能技術(shù)的發(fā)展，這種差異可能導(dǎo)致兩類國家之間發(fā)展差距不斷擴(kuò)大。

企業(yè)分化可能形成超級(jí)企業(yè)，弱化中小企業(yè)能力。首先，人工智能正在重塑產(chǎn)業(yè)組織，技術(shù)壟斷和效率的提升助推超大型企業(yè)的形成。人工智能的應(yīng)用有利于大企業(yè)對(duì)生產(chǎn)流程進(jìn)行基于數(shù)據(jù)驅(qū)動(dòng)的智能化重構(gòu)，通過優(yōu)化資源配置和供應(yīng)鏈產(chǎn)業(yè)鏈管理，進(jìn)行更精準(zhǔn)的營銷和更有效率的研發(fā)，從而推動(dòng)企業(yè)做大做強(qiáng)。例如，大型醫(yī)藥企業(yè)可以利用人工智能分析影像和病例等海量數(shù)據(jù)，利用先進(jìn)的人工智能算法進(jìn)行藥物分子篩選，進(jìn)而提高藥物研發(fā)效率和降低研發(fā)成本，提升企業(yè)競爭力。沃爾瑪?shù)却笮瓦B鎖超市通過整合銷售和多源數(shù)據(jù)，能夠精準(zhǔn)優(yōu)化采購策略和庫存管理，進(jìn)行針對(duì)性營銷和定價(jià)。從管理的角度來看，傳統(tǒng)上認(rèn)為當(dāng)企業(yè)組織規(guī)模過大或涉及業(yè)務(wù)領(lǐng)域過于廣泛時(shí)，往往會(huì)面臨管理協(xié)調(diào)效率下降的難題，然而，人工智能技術(shù)在企業(yè)管理中的應(yīng)用能使企業(yè)運(yùn)營更加透明和精細(xì)化，人工智能工具可以有效替代傳統(tǒng)中層管理的監(jiān)督和協(xié)調(diào)職能，縮短決策鏈條并降低管理成本，使組織更加趨于扁平化和透明化。這種技術(shù)變革優(yōu)勢和全方位的效率提升，正推動(dòng)各行各業(yè)涌現(xiàn)出越來越多突破傳統(tǒng)規(guī)模限制的“巨無霸”企業(yè)。其次，人工智能將重構(gòu)商業(yè)競爭格局，大企業(yè)“贏者通吃”，壓縮中小企業(yè)的發(fā)展空間。與國家間的分化類似，無論是在技術(shù)研發(fā)，還是數(shù)據(jù)、資本等資源獲取，乃至技術(shù)應(yīng)用、產(chǎn)業(yè)生態(tài)建設(shè)、標(biāo)準(zhǔn)制定和市場開拓等方面，大企業(yè)尤其是跨國公司相較于中小企業(yè)都具有更大的優(yōu)勢和便利條件。人工智能的發(fā)展必然推動(dòng)資本和市場向技術(shù)密集型，尤其是向人工智能技術(shù)密集型企業(yè)集中，形成人工智能驅(qū)動(dòng)的新型平臺(tái)企業(yè)，這將進(jìn)一步削弱傳統(tǒng)企業(yè)和中小企業(yè)的勞動(dòng)力優(yōu)勢。例如，微軟、谷歌、亞馬遜等5家企業(yè)占據(jù)全球人工智能軟件市場份額的70%以上，OpenAI占據(jù)全球大模型訪問流量的20%以上。同時(shí)，超級(jí)企業(yè)還可能通過人工智能建立生態(tài)壟斷，形成對(duì)中小企業(yè)的強(qiáng)大控制力。以亞馬遜為例，其平臺(tái)聚集了全球約950萬中小企業(yè)賣家，這種超大規(guī)模的供應(yīng)鏈管理在傳統(tǒng)商業(yè)模式下是無法想象的。通過人工智能算法，亞馬遜能夠自動(dòng)比對(duì)商品價(jià)格，一旦商品價(jià)格超過平臺(tái)限價(jià)或類似商品價(jià)格，則商品無法上架出售。此外，中小企業(yè)還經(jīng)常“被迫”參與平臺(tái)企業(yè)發(fā)起的節(jié)慶營銷活動(dòng)，缺乏經(jīng)營自主權(quán)，而亞馬遜擁有包括云和平臺(tái)在內(nèi)的完整生態(tài)系統(tǒng)，可以通過人工智能算法控制商品流量，并將其以“流量加速包”的產(chǎn)品形式賣給中小企業(yè)。在這種模式下，中小企業(yè)失去了產(chǎn)品定價(jià)權(quán)和營銷權(quán)，只能靠低價(jià)而不是靠產(chǎn)品創(chuàng)新來拼銷量。最后，人工智能推動(dòng)權(quán)力格局重構(gòu)，技術(shù)驅(qū)動(dòng)的超級(jí)企業(yè)獲得了隱形超級(jí)權(quán)力。人工智能離不開網(wǎng)絡(luò)、算力和數(shù)據(jù)，在不同產(chǎn)業(yè)、企業(yè)、部門，甚至個(gè)體之間形成了天然的連接關(guān)系。例如，在澳大利亞等西方國家，公共交通運(yùn)行數(shù)據(jù)全部接入谷歌地圖，谷歌控制的移動(dòng)生態(tài)壟斷了超過70%的市場份額。人工智能驅(qū)動(dòng)的超級(jí)企業(yè)正在演變?yōu)榭刂平?jīng)濟(jì)社會(huì)運(yùn)行的中樞。在一些較小的國家，這些掌控經(jīng)濟(jì)社會(huì)運(yùn)行數(shù)據(jù)的超級(jí)大企業(yè)，正利用人工智能技術(shù)和生態(tài)優(yōu)勢成為地緣政治的科技代理人。

個(gè)體分化擴(kuò)大收入離散程度，可能加劇不平等。一是人工智能可能影響個(gè)體收入分配。人工智能技術(shù)在引發(fā)勞動(dòng)崗位加速更迭的同時(shí)，由于對(duì)不同技術(shù)部門的生產(chǎn)率提升存在顯著差異，可能導(dǎo)致適應(yīng)人工智能需求的高技術(shù)部門與落后部門的收入差距持續(xù)擴(kuò)大。處于產(chǎn)業(yè)智能化發(fā)展期和上升期的產(chǎn)業(yè)，更容易享受到崗位替代效應(yīng)與生產(chǎn)率效應(yīng)帶來的紅利，從而獲得更多發(fā)展機(jī)會(huì)和更高收入。[21]此外，掌握人工智能相關(guān)知識(shí)與技能的勞動(dòng)者，相比其他缺乏相關(guān)訓(xùn)練和基本素養(yǎng)的群體，能更好利用人工智能工具提高工作效率，適應(yīng)由人工智能引起的就業(yè)結(jié)構(gòu)和產(chǎn)業(yè)變化，捕獲由此產(chǎn)生的新機(jī)遇。因此，這種差異將導(dǎo)致不同群體間，如青年群體和老年群體，城市勞動(dòng)者和鄉(xiāng)村勞動(dòng)者，在發(fā)展機(jī)會(huì)方面形成比代際鴻溝、城鄉(xiāng)鴻溝、教育鴻溝等傳統(tǒng)差距更為深刻的“智能鴻溝”。相應(yīng)地，如果缺乏制度層面的干預(yù)和對(duì)弱勢群體的扶持，這種技術(shù)應(yīng)用能力的差異將不可避免地加劇收入兩極分化。二是人工智能技術(shù)可能降低勞動(dòng)收入份額。有國外學(xué)者研究認(rèn)為，自動(dòng)化技術(shù)進(jìn)步會(huì)降低勞動(dòng)的收入份額，其中對(duì)重工業(yè)部門勞動(dòng)力的影響最為嚴(yán)重。[22]人工智能雖然能提升人均GDP和工資水平，但由于其資本偏向性的特點(diǎn)，其通過用資本替代勞動(dòng)，將減少勞動(dòng)收入份額，進(jìn)一步擴(kuò)大了資本和勞動(dòng)要素收入差距。近年來，西方很多人工智能企業(yè)的收入分配實(shí)踐表明，人工智能技術(shù)確實(shí)提升了企業(yè)生產(chǎn)率并節(jié)約了成本，進(jìn)而增加了這些企業(yè)的利潤和市場競爭力。然而，這些利潤往往優(yōu)先分配給企業(yè)的高層管理者和擁有相關(guān)技術(shù)所有權(quán)的人，而那些在基層崗位的普通員工往往難以公平分享技術(shù)發(fā)展帶來的紅利。三是人工智能可能導(dǎo)致中等收入階層規(guī)模壓縮。由于高技能勞動(dòng)通常需要復(fù)雜的判斷力和創(chuàng)造力，難以被自動(dòng)化取代，反而因智能技術(shù)應(yīng)用范圍的擴(kuò)大而需求增加。相比之下，自動(dòng)化往往導(dǎo)致標(biāo)準(zhǔn)化和重復(fù)性的低技能工作減少，這些工作的勞動(dòng)者可能會(huì)因此失業(yè)或被迫接受低收入的工作。因此，盡管人工智能對(duì)中低技能勞動(dòng)力的收入影響更大，在拉大高低收入群體差距的同時(shí)，也擴(kuò)大了社會(huì)收入的離散程度，與此同時(shí)，人工智能導(dǎo)致的職業(yè)崗位替代效應(yīng)，還可能意味著較高收入的工作和較低收入的工作都在增加，而傳統(tǒng)的中等收入崗位減少，導(dǎo)致中產(chǎn)階級(jí)規(guī)模縮減。四是人工智能加劇全球收入分配不平等。在影響收入分配及其不平等程度的影響因素中，技術(shù)是其中之一。根據(jù)內(nèi)生增長理論，任何技術(shù)進(jìn)步都可以提高人均收入水平，也會(huì)增加收入水平的離散度。同樣，人工智能不僅可以提高收入水平均值，同樣也會(huì)增加收入水平方差。2009～2019年對(duì)50個(gè)國家的調(diào)研數(shù)據(jù)顯示，人工智能投資較高的國家往往存在較嚴(yán)重智能鴻溝現(xiàn)象，相應(yīng)地，這些國家收入不平等的程度也呈現(xiàn)加劇趨勢。[23]本文基于對(duì)2019年55個(gè)國家人工智能專利申請(qǐng)數(shù)量與基尼系數(shù)的初步研究分析發(fā)現(xiàn)，專利申請(qǐng)數(shù)量大的國家通常基尼系數(shù)也相對(duì)較高，間接證實(shí)專利指標(biāo)衡量的智能技術(shù)投資和技術(shù)鴻溝與收入不平等之間存在顯著相關(guān)性，一個(gè)重要原因就是人工智能使得勞動(dòng)者技能加速分化，并通過職業(yè)崗位替代效應(yīng)等進(jìn)一步加劇了社會(huì)收入不平等程度。

人工智能引發(fā)“能源競賽”，加大全球應(yīng)對(duì)氣候變化的挑戰(zhàn)。雖然人工智能發(fā)展有利于完善生產(chǎn)過程控制和提高生產(chǎn)自動(dòng)化水平，可以極大提高生產(chǎn)中的資源能源利用效率，也可以為污染物和溫室氣體排放動(dòng)態(tài)精準(zhǔn)檢測和防控管理提供低成本高效率的技術(shù)工具，還可以賦能綠色技術(shù)創(chuàng)新，進(jìn)而促進(jìn)污染物和碳減排，然而，也不應(yīng)忽視，至少在短期內(nèi)，在局部地區(qū)，人工智能可能加劇能源供應(yīng)緊張，甚至加劇溫室氣體和污染物排放，加大全球應(yīng)對(duì)氣候變化的挑戰(zhàn)。

人工智能具有能源密集型特征。“大算力＋大數(shù)據(jù)”的高強(qiáng)度訓(xùn)練是當(dāng)前生成式人工智能研發(fā)必不可少的條件，這一過程依賴高性能GPU/TPU集群，需要消耗大量電力。斯坦福人工智能研究所發(fā)布的《2023年人工智能指數(shù)報(bào)告》指出，ChatGPT-3單次訓(xùn)練電耗約為128.7萬度，二氧化碳排放量約為552噸，大約相當(dāng)于120個(gè)美國家庭年用電，3000輛特斯拉汽車分別行駛20萬英里，或者紐約至舊金山飛機(jī)往返550次的碳排放量。同時(shí)，人工智能應(yīng)用過程中需要數(shù)據(jù)中心大算力支持，而數(shù)據(jù)中心散熱需要額外電力消耗。同樣以ChatGPT-3為例，按照每天2億次用戶請(qǐng)求響應(yīng)計(jì)算，其電耗約為50萬度，相當(dāng)于1.7萬個(gè)美國家庭日用電量，約排放溫室氣體210噸。ChatGPT-4訓(xùn)練電耗更高達(dá)ChatGPT-3的40倍，日常運(yùn)行電耗顯然更高。國際能源署《人工智能與能源》研究報(bào)告顯示，GPT-4訓(xùn)練了14周，每日電耗約為發(fā)達(dá)經(jīng)濟(jì)體2.85萬個(gè)家庭或者發(fā)展中經(jīng)濟(jì)體7.05萬個(gè)家庭的日用電量。數(shù)據(jù)中心是支撐人工智能發(fā)展的重要基礎(chǔ)設(shè)施。容量100兆瓦的超大規(guī)模數(shù)據(jù)中心年消耗電力大約相當(dāng)于10萬戶家庭電耗。國際能源署發(fā)布報(bào)告顯示，2024年全球數(shù)據(jù)中心就消耗了1.5%左右的全球電力。預(yù)計(jì)2026年，全球數(shù)據(jù)中心能源消耗超過1000太瓦時(shí)，約相當(dāng)于日本的用電量。預(yù)計(jì)到2030年，全球數(shù)據(jù)中心的電力需求將增加一倍以上，達(dá)到約945太瓦時(shí)，相當(dāng)于全球總用電量的近3%。若將人工智能發(fā)展需要的芯片和數(shù)據(jù)中心設(shè)備生產(chǎn)等環(huán)節(jié)的能耗考慮在內(nèi)，其總體能耗顯然更為驚人。

人工智能競賽正演變?yōu)槟茉锤傎悺！癆I的盡頭是電力”，媒體的戲謔之語形象地反映了電力在人工智能發(fā)展中的關(guān)鍵作用。隨著人工智能快速發(fā)展，電力需求呈指數(shù)級(jí)增長。根據(jù)新摩爾定律，2024到2025年，人工智能的任務(wù)處理能力每4個(gè)月翻一倍；而在2019到2025年，翻倍周期為7個(gè)月，而電力供應(yīng)年均增速不足2%。人工智能數(shù)據(jù)中心正在成為一些地區(qū)電力消耗的主體和能源緊張的主要原因。例如，愛爾蘭數(shù)據(jù)中心電耗約占全國的21%；美國最大的數(shù)據(jù)中心集群每年用去弗吉尼亞州總用電量的26%。全球人工智能競賽正在演變?yōu)樾碌哪茉锤傎悺?025年4月8日，特朗普政府簽署行政命令，提出為保持美國的人工智能領(lǐng)先優(yōu)勢，解除新建煤炭項(xiàng)目禁令，放棄控制燃煤電廠空氣污染限制，凸顯了人工智能發(fā)展對(duì)全球應(yīng)對(duì)氣候治理的重大挑戰(zhàn)。

包容、普惠和可持續(xù)發(fā)展的全球人工智能治理體系構(gòu)建路徑與策略

近年來，中國制定了《生成式人工智能服務(wù)管理暫行辦法》，發(fā)布了《全球人工智能治理倡議》和《人工智能全球治理上海宣言》，其他經(jīng)濟(jì)體和聯(lián)合國等國際組織也已發(fā)布了多項(xiàng)相關(guān)倡議或治理方案。總體上，當(dāng)前人工智能治理仍呈現(xiàn)少數(shù)國家行動(dòng)、國際組織倡議、企業(yè)被動(dòng)合規(guī)的局面，各國仍處于有治理需求共識(shí)，無治理方案共識(shí)的局面。現(xiàn)有的治理框架多集中于單一領(lǐng)域或局部問題，未能形成跨領(lǐng)域、跨區(qū)域的全球治理體系，各方在治理原則目標(biāo)、方法手段和優(yōu)先級(jí)等問題上仍然存在較大分歧，全球治理仍陷入碎片化困境，亟需針對(duì)人工智能面向全人類全球性的突出問題，強(qiáng)化合作協(xié)調(diào)，構(gòu)建更加包容、普惠和可持續(xù)的全球治理體系。

堅(jiān)持以人為本，推動(dòng)發(fā)展負(fù)責(zé)任的安全人工智能。科技應(yīng)該是發(fā)展利器而非發(fā)展威脅。然而，當(dāng)前人工智能發(fā)展不僅未能平等惠及所有人，甚至還可能解構(gòu)人的主體性構(gòu)成和沖擊人類的傳統(tǒng)價(jià)值體系。因此，必須堅(jiān)持“以人為本”，推動(dòng)“智能向善”，確保人工智能始終為全人類造福。首先，營造智能向善的價(jià)值取向和發(fā)展共識(shí)。以全人類現(xiàn)有的價(jià)值取向和倫理規(guī)范為標(biāo)準(zhǔn)，為人工智能確立合乎人性和人類基本價(jià)值共識(shí)的發(fā)展目標(biāo)；[24]樹立“以人為本”的倫理基石，將“向善”作為發(fā)展人工智能的基本價(jià)值原則。例如，尊重人際公平正義，致力于減少不平等，尊重個(gè)體自由發(fā)展和生命安全，避免算法歧視與權(quán)利侵害，防范和打擊人工智能技術(shù)的惡用濫用，慎重發(fā)展和使用軍事人工智能。其次，強(qiáng)化人工智能企業(yè)的責(zé)任擔(dān)當(dāng)。人工智能企業(yè)應(yīng)是落實(shí)“智能向善”的第一責(zé)任主體，應(yīng)制定“向善”的道德守則和“作惡”的懲罰制度規(guī)范企業(yè)行為，尤其是為人工智能系統(tǒng)開發(fā)確立合乎人性的發(fā)展目標(biāo)，重視價(jià)值對(duì)齊；維護(hù)公平競爭，確保領(lǐng)先企業(yè)不濫用技術(shù)優(yōu)勢和市場優(yōu)勢。最后，建立人工智能倫理審查和監(jiān)管機(jī)制。各國大型人工智能企業(yè)和大學(xué)等都應(yīng)建立獨(dú)立的人工智能倫理審查機(jī)構(gòu)，制定相應(yīng)的人工智能倫理審查和監(jiān)管制度，確保人工智能在“以人為本”和“向善”的軌道上發(fā)展。

堅(jiān)持多邊多元，構(gòu)建平等參與協(xié)同合作的治理新機(jī)制。人工智能發(fā)展日益呈現(xiàn)跨國家跨領(lǐng)域的新趨勢。在人工智能發(fā)展進(jìn)程中，所有參與主體都應(yīng)平等共享發(fā)展機(jī)遇，共同應(yīng)對(duì)風(fēng)險(xiǎn)挑戰(zhàn)，也只有不同主體均能平等參與、公平競爭、攜手合作，才能實(shí)現(xiàn)人工智能的包容、普惠和可持續(xù)發(fā)展。首先，要充分尊重各國人工智能主權(quán)。既要支持人工智能系統(tǒng)的通用性，也要支持各國擁有和發(fā)展與其語言、歷史、文化、習(xí)慣、價(jià)值觀和道德規(guī)范等相一致的主權(quán)人工智能，以及擁有與人工智能主權(quán)相關(guān)聯(lián)的數(shù)據(jù)和生成內(nèi)容的所有權(quán)。同時(shí)，既要抵制“智能殖民主義”，反對(duì)某些國家利用人工智能技術(shù)優(yōu)勢等實(shí)行“科技霸權(quán)”，影響、干涉和脅迫他國人工智能發(fā)展路徑，也要反對(duì)人工智能系統(tǒng)被他國用于威脅國家安全的行為。其次，推動(dòng)縮小國家間的“智能鴻溝”。維護(hù)全球人工智能創(chuàng)新鏈、供應(yīng)鏈、產(chǎn)業(yè)鏈開放，支持和推動(dòng)落實(shí)全球人工智能技術(shù)開源共享，支持發(fā)展中國家發(fā)展主權(quán)人工智能，促進(jìn)其在經(jīng)濟(jì)、民生和治理等領(lǐng)域的應(yīng)用創(chuàng)新。同時(shí)，提升發(fā)展中國家在國際人工智能治理體系中的代表權(quán)和發(fā)言權(quán)，保障各國人工智能發(fā)展和治理的機(jī)會(huì)平等。最后，加強(qiáng)人工智能國際對(duì)話交流和治理合作。發(fā)揮聯(lián)合國等多邊合作國際組織在人工智能國際治理中的作用，支持在聯(lián)合國框架和多邊國際合作框架下成立國際人工智能治理機(jī)構(gòu)。同時(shí)，支持以《全球人工智能治理倡議》等為參考藍(lán)本，搭建全球人工智能治理合作平臺(tái)，研究制定具有全球共識(shí)的治理框架、標(biāo)準(zhǔn)規(guī)范、倫理指南和技術(shù)路線，加強(qiáng)人工智能供應(yīng)鏈、跨境數(shù)據(jù)供應(yīng)鏈和知識(shí)產(chǎn)權(quán)等重大問題和重要領(lǐng)域上的國際合作。

堅(jiān)持安全至上，構(gòu)建系統(tǒng)治理框架推動(dòng)發(fā)展可信人工智能。無論人工智能的沖擊是否可能造成社會(huì)秩序“海嘯”，考慮到技術(shù)與經(jīng)濟(jì)社會(huì)共生的復(fù)雜性，任何國家都不應(yīng)忽略問題的嚴(yán)肅性。人工智能技術(shù)快速迭代，風(fēng)險(xiǎn)形式復(fù)雜多變，必須改變碎片化管理模式，統(tǒng)籌發(fā)展和安全，系統(tǒng)構(gòu)建人工智能治理體系，完善系統(tǒng)管理框架，推動(dòng)安全可信人工智能的發(fā)展。這也是我國《新一代人工智能倫理規(guī)范》和現(xiàn)有多數(shù)人工智能多邊倡議的核心原則。首先，構(gòu)建風(fēng)險(xiǎn)系統(tǒng)治理框架。各國根據(jù)國情出臺(tái)人工智能專項(xiàng)立法，明確人工智能的法律主體地位，堅(jiān)持對(duì)人工智能涉主體性應(yīng)用進(jìn)行合法性審查，強(qiáng)化對(duì)人工智能濫用的法律約束。加快健全完善法律、法規(guī)、政策、規(guī)范協(xié)同治理工具箱，根據(jù)各國國情建立健全監(jiān)管機(jī)構(gòu)和風(fēng)險(xiǎn)監(jiān)管機(jī)制。其次，實(shí)施風(fēng)險(xiǎn)分類分級(jí)監(jiān)管模式。對(duì)人工智能可能的風(fēng)險(xiǎn)進(jìn)行分類分級(jí)，明確風(fēng)險(xiǎn)評(píng)估的基本原則與方法，規(guī)劃制定風(fēng)險(xiǎn)事件響應(yīng)機(jī)制和應(yīng)對(duì)措施，形成人工智能風(fēng)險(xiǎn)管理規(guī)范。對(duì)企業(yè)人工智能活動(dòng)中一般風(fēng)險(xiǎn)或低風(fēng)險(xiǎn)活動(dòng)實(shí)施自愿行為準(zhǔn)則，包括自主實(shí)施風(fēng)險(xiǎn)管理和自愿實(shí)施風(fēng)險(xiǎn)報(bào)告，對(duì)高風(fēng)險(xiǎn)活動(dòng)則實(shí)施強(qiáng)制行為準(zhǔn)則。再次，完善全生命周期風(fēng)險(xiǎn)系統(tǒng)管理。建立覆蓋從人工智能系統(tǒng)設(shè)計(jì)、研發(fā)、預(yù)訓(xùn)練、評(píng)估、注冊、應(yīng)用及監(jiān)測評(píng)估等各環(huán)節(jié)，涵蓋從數(shù)據(jù)、算法、模型、技術(shù)文件到日志記錄和評(píng)估監(jiān)測等核心要素清單的全部內(nèi)容，最大范圍和限度保障人工智能系統(tǒng)在全生命周期的準(zhǔn)確性、魯棒性、透明性和可追溯性。最后，探索實(shí)施人工智能監(jiān)管沙盒。在高風(fēng)險(xiǎn)人工智能系統(tǒng)如人形機(jī)器人、無人自動(dòng)駕駛等全面進(jìn)入市場前，可以研究監(jiān)管沙盒模式設(shè)計(jì)和實(shí)施人工智能監(jiān)管沙盒，選擇合適地區(qū)合適時(shí)間和行業(yè)領(lǐng)域，在相對(duì)受控的環(huán)境下，用盡可能真實(shí)的環(huán)境測試和驗(yàn)證人工智能系統(tǒng)的安全性和未知風(fēng)險(xiǎn)。

堅(jiān)持能力為基，加強(qiáng)包容和普惠能力建設(shè)推動(dòng)彌合“智能鴻溝”。技術(shù)發(fā)展水平與社會(huì)運(yùn)用技術(shù)能力進(jìn)步之間的匹配程度，直接影響社會(huì)是走向“繁榮”還是陷入“痛苦”。[25]因此，構(gòu)建包容、普惠和可持續(xù)發(fā)展的人工智能治理體系的關(guān)鍵是提高易受影響和沖擊的弱勢企業(yè)、行業(yè)和群體的智能技術(shù)應(yīng)用能力，彌合“智能鴻溝”。首先，加強(qiáng)智能基礎(chǔ)設(shè)施建設(shè)。各國都應(yīng)加強(qiáng)寬帶互聯(lián)網(wǎng)和人工智能算力網(wǎng)絡(luò)建設(shè)，擴(kuò)大人工智能的可及性和可用性，降低偏遠(yuǎn)地區(qū)、中小企業(yè)和弱勢群體應(yīng)用人工智能的技術(shù)門檻，保障應(yīng)用人工智能促進(jìn)發(fā)展的機(jī)會(huì)平等。其次，加強(qiáng)人才培養(yǎng)和交流合作。鼓勵(lì)人工智能人才交流合作，支持通過類似中國設(shè)立的南南合作與發(fā)展學(xué)院等形式，加強(qiáng)對(duì)發(fā)展中國家和欠發(fā)達(dá)地區(qū)、傳統(tǒng)行業(yè)人工智能人才的培養(yǎng)。同時(shí)，各國應(yīng)加強(qiáng)免費(fèi)數(shù)字資源供給，鼓勵(lì)和引導(dǎo)教育機(jī)構(gòu)和大型人工智能企業(yè)等承擔(dān)社會(huì)責(zé)任，向社區(qū)和重點(diǎn)群體提供優(yōu)質(zhì)免費(fèi)人工智能教育資源，傳遞科學(xué)的人工智能知識(shí)。再次，加大對(duì)重點(diǎn)人群和重點(diǎn)行業(yè)的支持力度。針對(duì)易受人工智能沖擊影響人群，如出租車司機(jī)、設(shè)計(jì)人員，以及易受深度造假、網(wǎng)絡(luò)詐騙和社交媒體人群，如青少年、農(nóng)村居民和傳統(tǒng)行業(yè)從業(yè)人員等，加強(qiáng)針對(duì)性的人工智能知識(shí)普及和技能培訓(xùn)，提高其利用人工智能防范網(wǎng)絡(luò)謠言的信息辨識(shí)能力、保護(hù)個(gè)人數(shù)據(jù)和隱私的數(shù)字安全能力，以及對(duì)網(wǎng)絡(luò)游戲、短視頻和社交媒體的防沉迷能力。對(duì)公共交通、物流運(yùn)輸和農(nóng)業(yè)等可能受人工智能沖擊較大的行業(yè)，加強(qiáng)轉(zhuǎn)型支持。最后，加強(qiáng)對(duì)人工智能創(chuàng)業(yè)的支持。應(yīng)加大對(duì)再就業(yè)人員及大學(xué)生等群體人工智能技能培訓(xùn)力度，提高再就業(yè)人員和新興職業(yè)群體的人工智能創(chuàng)新創(chuàng)業(yè)能力。鼓勵(lì)和支持人工智能創(chuàng)業(yè)，對(duì)利用人工智能創(chuàng)業(yè)的新業(yè)態(tài)新模式實(shí)施包容審慎監(jiān)管。

堅(jiān)持技術(shù)賦能，筑牢包容普惠可持續(xù)發(fā)展保障。技術(shù)發(fā)展引發(fā)的風(fēng)險(xiǎn)和問題，根本上仍需通過技術(shù)手段來預(yù)防和解決，制度和政策僅能主要發(fā)揮引導(dǎo)、激勵(lì)、監(jiān)督、規(guī)范和規(guī)制等作用。第一，加強(qiáng)應(yīng)用安全技術(shù)體系建設(shè)。在支持人工智能關(guān)鍵核心技術(shù)和基礎(chǔ)技術(shù)研發(fā)的同時(shí)，加大對(duì)人工智能安全領(lǐng)域的研發(fā)投入，各國都應(yīng)圍繞內(nèi)容審查、應(yīng)用監(jiān)管、風(fēng)險(xiǎn)研判、智能防御等關(guān)鍵領(lǐng)域建立人工智能治理技術(shù)體系，加快形成人工智能治理技術(shù)與基礎(chǔ)技術(shù)協(xié)同發(fā)展格局。第二，加快發(fā)展模型監(jiān)測監(jiān)管技術(shù)。一方面，要從算法模型結(jié)構(gòu)、算法源頭數(shù)據(jù)集等源頭開始建立預(yù)防算法歧視、保障算法透明度和可解釋性的法律與管理體制機(jī)制。另一方面，要采用技術(shù)手段加強(qiáng)算法推薦、生物識(shí)別等涉及個(gè)人隱私保護(hù)問題相關(guān)技術(shù)的合理利用，以及加強(qiáng)對(duì)算法偏見、算法風(fēng)險(xiǎn)的識(shí)別和精準(zhǔn)監(jiān)管。在此基礎(chǔ)上，各國可根據(jù)國情考慮是否對(duì)重點(diǎn)人工智能系統(tǒng)算法建立備案、審查和算法問責(zé)制度。第三，開展人工智能倫理、風(fēng)險(xiǎn)和安全壓力測試。借助人工智能國際交流合作，可研究制定人工智能“紅隊(duì)”系列標(biāo)準(zhǔn)規(guī)范，建立經(jīng)過認(rèn)證的第三方人工智能安全實(shí)驗(yàn)室，或由各國根據(jù)國情建立“紅隊(duì)”實(shí)施機(jī)構(gòu)，開展大型人工智能系統(tǒng)的自愿和強(qiáng)制倫理、風(fēng)險(xiǎn)和安全等壓力測試，開展算法影響第三方評(píng)估，強(qiáng)化風(fēng)險(xiǎn)預(yù)防。最后，加強(qiáng)人工智能發(fā)展的綜合技術(shù)節(jié)能。在國際層面，各國應(yīng)支持先進(jìn)人工智能芯片的自由貿(mào)易，提高智算中心和智能云服務(wù)的能源利用效率。在國家層面，各國應(yīng)明確數(shù)據(jù)中心能源利用效率目標(biāo)，科學(xué)布局一體化數(shù)據(jù)中心建設(shè)，充分利用自然地理?xiàng)l件和氣候資源降低數(shù)據(jù)中心能耗。同時(shí)，支持?jǐn)?shù)據(jù)中心利用清潔能源及先進(jìn)直接液冷技術(shù)，降低電耗和水耗，推動(dòng)人工智能領(lǐng)域綠色低碳發(fā)展。

（本文系國家社科基金重大專項(xiàng)“促進(jìn)實(shí)體經(jīng)濟(jì)和數(shù)字經(jīng)濟(jì)深度融合的理論機(jī)制與實(shí)踐路徑研究”的階段性成果，項(xiàng)目編號(hào)：24ZDA023）

注釋

[1]尼格尼維斯基：《人工智能：智能系統(tǒng)指南》，北京：機(jī)械工業(yè)出版社，2012年。

[2]張陽：《人工智能之父馬文·明斯基逝世 科學(xué)界巨星隕落》，《環(huán)球時(shí)報(bào)》，2016年1月27日。

[3]\"Artificial Intelligence： The Return of the Machinery Question，\" The Economist， 25 June 2016， https：//www.economist.com/news/special-report/21700761-after-many-1-starts-artificial-intelligence-has-taken-will-it-cause-mass.

[4]\"Pause Giant AI Experiments： An Open Letter，\" 22 March 2023， https：//futureoflife.org/open-letter/pause-giant-ai-experiments/.

[5]S. M. Kelly， \"AI Is Not Ready for Primetime，\" 10 March 2024， https：//edition.cnn.com/2024/03/10/tech/ai-is-not-ready-for-primetime/index.html.

[6]B. Mittelstadt et al.， \"The Ethics of Algorithms： Mapping the Debate，\" Big Data amp; Society， October 2016.

[7]張志堅(jiān)、何藝華：《人工智能自主交易行為的私法規(guī)制》，《學(xué)術(shù)探索》，2024年第3期。

[8]蔡躍洲、陳楠：《新技術(shù)革命下人工智能與高質(zhì)量增長、高質(zhì)量就業(yè)》，《數(shù)量經(jīng)濟(jì)技術(shù)經(jīng)濟(jì)研究》，2019年第5期。

[9]謝偉麗、石軍偉、張起帆：《人工智能、要素稟賦與制造業(yè)高質(zhì)量發(fā)展——來自中國208個(gè)城市的經(jīng)驗(yàn)證據(jù)》，《經(jīng)濟(jì)與管理研究》，2023年第4期。

[10]馬克·珀迪、邱靜、陳笑冰：《埃森哲：人工智能助力中國經(jīng)濟(jì)增長》，《機(jī)器人產(chǎn)業(yè)》，2017年第4期。

[11]肖峰：《人工智能與認(rèn)識(shí)論的哲學(xué)互釋：從認(rèn)知分型到演進(jìn)邏輯》，《中國社會(huì)科學(xué)》，2020年第6期。

[12]岳平、苗越：《社會(huì)治理：人工智能時(shí)代算法偏見的問題與規(guī)制》，《上海大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版）》，2021年第6期。

[13]聯(lián)合國教科文組織、人工智能國際研究中心，\"Challenging systematic prejudices： an investigation into bias against women and girls in large language models，\" https：//unesdoc.unesco.org/ark：/48223/pf0000388971。

[14]張淳藝：《警惕AI招聘夾帶就業(yè)歧視》，《中國城市報(bào)》，2023年9月18日。

[15]D. Acemoglu; P. Restrepo， \"Automation and New Tasks： How Technology Displaces and Reinstates Labor，\" Journal of Economic Perspectives， 2019， 33（2）.

[16]\"Gartner： These Three Technologies Will Transform Customer Service By 2028，\" 4 September 2023， https：//www.cxtoday.com/contact-center/gartner-these-three-technologies-will-transform-customer-service-by-2028/.

[17]M. Cazzaniga et al.， \"Gen-AI： Artificial Intelligence and the Future of Work，\" 14 January 2024， https：//www.imf.org/en/Publications/Staff-Discussion-Notes/Issues/2024/01/14/Gen-AI-Artificial-Intelligence-and-the-Future-of-Work-542379.

[18]王林輝、胡晟明、董直慶：《人工智能技術(shù)、任務(wù)屬性與職業(yè)可替代風(fēng)險(xiǎn)：來自微觀層面的經(jīng)驗(yàn)證據(jù)》，《管理世界》，2022年第7期。

[19]\"The Future of Jobs Report 2023，\" 30 April 2023， https：//www.weforum.org/publications/the-future-of-jobs-report-2023/.

[20]C. B. Frey; M. A. Osborne， \"The Future of Employment： How Susceptible Are Jobs to Computerization，\" Technological Forecasting and Social Change， 2017， 114.

[21]陳東、秦子洋：《人工智能與包容性增長—來自全球工業(yè)機(jī)器人使用的證據(jù)》，《經(jīng)濟(jì)研究》，2022年第4期。

[22]D. Autor; A. Salomons， \"Is Automation Labor-Displacing？ Productivity Growth， Employment， and the Labor Share，\" NBER Working Paper， No. 24871， July 2018.

[23]B. ünveren; T. Durmaz; S. Sunal， \"AI Revolution and Coordination Failure： Theory and Evidence\"， Journal of Macroeconomics， 2023（78）.

[24]李志祥：《倫理學(xué)視域下的人工智能發(fā)展》，《光明日?qǐng)?bào)》，2024年2月19日，第15版。

[25]克勞迪婭·戈?duì)柖。瑒趥愃埂. 卡茨：《教育和技術(shù)的賽跑》，賈擁民、傅瑞蓉譯，上海人民出版社，2023年。

責(zé) 編∕鄧楚韻" 美 編∕梁麗琛