人工智能風(fēng)險(xiǎn)治理：模式、工具與策略

摘"" 要：人工智能技術(shù)在近二十年飛速迭代，由此產(chǎn)生的風(fēng)險(xiǎn)治理挑戰(zhàn)呼喚治理模式與治理工具的創(chuàng)新。規(guī)制型治理、創(chuàng)新型治理、自治型治理、市場(chǎng)導(dǎo)向型治理、集中式治理、敏捷治理是目前較為成熟的風(fēng)險(xiǎn)治理模式，法律規(guī)制、倫理規(guī)范、數(shù)據(jù)算法、社會(huì)場(chǎng)景等領(lǐng)域的新興風(fēng)險(xiǎn)催生更具體、更靈活的風(fēng)險(xiǎn)治理工具，以適應(yīng)新涌現(xiàn)的風(fēng)險(xiǎn)治理需求。中國(guó)堅(jiān)持人工智能技術(shù)創(chuàng)新與風(fēng)險(xiǎn)治理的協(xié)同改進(jìn)和動(dòng)態(tài)均衡，逐步向敏捷治理模式轉(zhuǎn)變，各具體領(lǐng)域的風(fēng)險(xiǎn)治理工具呈現(xiàn)全面性、及時(shí)性、精準(zhǔn)性的特征。中國(guó)應(yīng)從治理理念更新、多元主體協(xié)同、強(qiáng)度剛?cè)岵?jì)、工具靈活有效、追求可信目標(biāo)等方面提升風(fēng)險(xiǎn)應(yīng)對(duì)能力，并將國(guó)家、政府、企業(yè)、公眾納入風(fēng)險(xiǎn)治理模式構(gòu)建全過(guò)程，實(shí)現(xiàn)治理工具在各領(lǐng)域的多維組合性使用。

關(guān)鍵詞：強(qiáng)人工智能；風(fēng)險(xiǎn)治理；治理模式；治理工具；敏捷治理

中圖分類(lèi)號(hào)：TP18"" 文獻(xiàn)標(biāo)識(shí)碼：A"" 文章編號(hào)：1003-7543（2024）01-0144-15

作為工業(yè)社會(huì)向智能社會(huì)邁進(jìn)的創(chuàng)新“催化劑”，人工智能不斷嵌入社會(huì)各領(lǐng)域，使人類(lèi)生產(chǎn)方式與社會(huì)結(jié)構(gòu)產(chǎn)生深遠(yuǎn)變革。盡管人工智能技術(shù)在蓬勃發(fā)展期具有一定的先行優(yōu)勢(shì)，但在其向社會(huì)縱深領(lǐng)域應(yīng)用的過(guò)程中會(huì)出現(xiàn)多種未曾產(chǎn)生的社會(huì)影響，其演進(jìn)的復(fù)雜性與不確定性正在挑戰(zhàn)現(xiàn)有社會(huì)制度和規(guī)則，使人類(lèi)加速進(jìn)入風(fēng)險(xiǎn)社會(huì)時(shí)代。例如，自動(dòng)駕駛自產(chǎn)生以來(lái)就存在著失控致死的爭(zhēng)議；醫(yī)療人工智能的誤診、誤操作損害人身健康并產(chǎn)生歸責(zé)難題；數(shù)字平臺(tái)利用“大數(shù)據(jù)殺熟”損害消費(fèi)者權(quán)益；等等。同時(shí)，人工智能技術(shù)在發(fā)展過(guò)程中深度嵌入各種應(yīng)用場(chǎng)景，為法律漏洞、倫理爭(zhēng)議、技術(shù)安全、模型偏誤、就業(yè)替代等新興風(fēng)險(xiǎn)的涌現(xiàn)提供了溫床，對(duì)人工智能技術(shù)應(yīng)用過(guò)程中產(chǎn)生的各類(lèi)風(fēng)險(xiǎn)進(jìn)行治理愈加必要且緊迫。

人工智能風(fēng)險(xiǎn)治理是新興的交叉研究領(lǐng)域，是指對(duì)人工智能技術(shù)特定應(yīng)用場(chǎng)景的風(fēng)險(xiǎn)進(jìn)行識(shí)別、研判與規(guī)制。但由于治理經(jīng)驗(yàn)相對(duì)分散化、對(duì)新興風(fēng)險(xiǎn)的回應(yīng)度不足，人工智能風(fēng)險(xiǎn)治理難以跟上人工智能技術(shù)突破的步伐。近些年，我國(guó)更加關(guān)注并重視人工智能風(fēng)險(xiǎn)治理經(jīng)驗(yàn)與方法，力圖保持技術(shù)創(chuàng)新引導(dǎo)力度與風(fēng)險(xiǎn)規(guī)制力度的協(xié)同并重和動(dòng)態(tài)均衡。風(fēng)險(xiǎn)治理、技術(shù)創(chuàng)新與社會(huì)發(fā)展之間達(dá)成一種相互塑造和影響的狀態(tài)，保持這一狀態(tài)的平衡和穩(wěn)定需要治理模式的范式突破與治理工具的組合創(chuàng)新。梳理具有代表性的人工智能風(fēng)險(xiǎn)治理模式和工具，對(duì)提升我國(guó)人工智能風(fēng)險(xiǎn)治理水平大有裨益，可為構(gòu)建符合中國(guó)國(guó)情的人工智能治理體系提供新思路。那么，何謂人工智能，人工智能新興潛在風(fēng)險(xiǎn)有哪些？人工智能風(fēng)險(xiǎn)治理已存在哪些成熟的、廣為認(rèn)可的模式與工具？如何長(zhǎng)久穩(wěn)定提升中國(guó)人工智能風(fēng)險(xiǎn)治理能力？系統(tǒng)總結(jié)并更進(jìn)一步提出中國(guó)在人工智能風(fēng)險(xiǎn)治理方面行之有效的治理模式與治理工具，可為未來(lái)人工智能的健康有序發(fā)展提供重要啟示。

一、人工智能概念界定及其潛在風(fēng)險(xiǎn)

人工智能的發(fā)展演進(jìn)可劃分為如下階段：起源（1956年）—瓶頸與突破（20世紀(jì)60年代至90年代）—平穩(wěn)發(fā)展（20世紀(jì)末至2010年）—繁榮（2010—2022年）—高潮（2022年至今）。1956年達(dá)特茅斯會(huì)議以“圖靈測(cè)試”為起點(diǎn)提出人工智能的概念，Samuel推出更具挑戰(zhàn)的機(jī)器學(xué)習(xí)方法后，經(jīng)多年發(fā)展，21世紀(jì)初的深度學(xué)習(xí)推動(dòng)了理論與實(shí)踐的“破界”，至2010年大幅跨越技術(shù)開(kāi)發(fā)與實(shí)踐應(yīng)用的技術(shù)鴻溝，造就新一代人工智能的廣泛應(yīng)用，實(shí)現(xiàn)人類(lèi)智能與機(jī)器智能的協(xié)同發(fā)展。如今，生成式人工智能將深度學(xué)習(xí)推向新的高潮，能力更為精進(jìn)的ChatGPT4.0-plus將生成式人工智能推向現(xiàn)階段的技術(shù)頂峰。2023年成為生成式人工智能的突破之年，使科研范式、生產(chǎn)生活產(chǎn)生重大變革［1］。因此，有必要在動(dòng)態(tài)演進(jìn)過(guò)程中梳理出廣為接受的人工智能概念，并在當(dāng)前發(fā)展階段研判人工智能的潛在風(fēng)險(xiǎn)。

（一）人工智能的概念界定

根據(jù)技術(shù)演進(jìn)趨勢(shì)下的智能化程度，人工智能可分為弱人工智能、強(qiáng)人工智能和超級(jí)人工智能。弱人工智能利用現(xiàn)有統(tǒng)計(jì)數(shù)據(jù)處理單一領(lǐng)域特定、具體的任務(wù)，尚未實(shí)現(xiàn)自主探索新技術(shù)；強(qiáng)人工智能全面復(fù)現(xiàn)人類(lèi)絕大部分的思維能力，為人類(lèi)生產(chǎn)生活帶來(lái)了先進(jìn)、即時(shí)、廣泛的應(yīng)用價(jià)值［2］；而超級(jí)人工智能的思維、創(chuàng)造力和創(chuàng)新沒(méi)有邊界，理論轉(zhuǎn)化為生產(chǎn)力的過(guò)程不受思維與環(huán)境約束［3］。

目前，廣泛投產(chǎn)于醫(yī)療、交通、居住等生活場(chǎng)景的弱人工智能仍處于模擬人類(lèi)思維的階段，缺乏行為和環(huán)境的交互和自主創(chuàng)造能力，而超級(jí)人工智能的技術(shù)理論受人類(lèi)思維的約束，尚無(wú)法由實(shí)踐佐證，缺乏客觀理性的認(rèn)識(shí)和實(shí)事求是的判斷。在二者之間，新一代人工智能顯現(xiàn)出技術(shù)突破的革命性作用，但在其發(fā)展過(guò)程中引發(fā)的新興風(fēng)險(xiǎn)使治理過(guò)程受到更嚴(yán)峻的挑戰(zhàn)。因此，對(duì)現(xiàn)階段從弱人工智能環(huán)節(jié)向強(qiáng)人工智能環(huán)節(jié)過(guò)渡過(guò)程中的人工智能進(jìn)行明確定義，可為風(fēng)險(xiǎn)研判與治理提供動(dòng)態(tài)分析基礎(chǔ)。這里結(jié)合智能化程度，對(duì)人工智能定義如下：人工智能學(xué)習(xí)、延伸并擴(kuò)展人類(lèi)智能的理論與實(shí)踐，依托海量、高維的數(shù)據(jù)庫(kù)資源將人類(lèi)思維抽象化，并在反復(fù)試驗(yàn)過(guò)程中形成對(duì)人類(lèi)活動(dòng)的行為性模擬，不斷進(jìn)行技術(shù)賦能與環(huán)境信息交互來(lái)提高認(rèn)知，以期形成更強(qiáng)的探索能力、更準(zhǔn)確的辨認(rèn)能力和更高水平的思維能力，創(chuàng)造技術(shù)價(jià)值和社會(huì)價(jià)值。這一概念仍有調(diào)整空間， 但它突出了從弱人工智能向強(qiáng)人工智能過(guò)渡階段的技術(shù)發(fā)展特征，即“認(rèn)知—模擬—自主決策”，便于在新技術(shù)環(huán)境下討論人工智能風(fēng)險(xiǎn)治理問(wèn)題。

（二）人工智能的潛在風(fēng)險(xiǎn)

人工智能技術(shù)應(yīng)用于廣泛的社會(huì)場(chǎng)景會(huì)引發(fā)全景化、整體性的變革，重構(gòu)技術(shù)發(fā)展的理念、范式與過(guò)程，改變現(xiàn)代人的認(rèn)知觀念、思維方式和行動(dòng)準(zhǔn)則。因此，有必要分析人工智能技術(shù)與非技術(shù)層面生成的潛在風(fēng)險(xiǎn)。

1.人工智能技術(shù)層面引發(fā)的系統(tǒng)性風(fēng)險(xiǎn)

第一，訓(xùn)練數(shù)據(jù)無(wú)法保證高質(zhì)量。一方面，人工智能所應(yīng)用的數(shù)據(jù)集雖容量龐大，但也存在“樣本選擇偏差”問(wèn)題，從源頭上加大了離群值與極端值混入的概率，易造成“數(shù)字鴻溝”。另一方面，數(shù)據(jù)質(zhì)量風(fēng)險(xiǎn)可能誤導(dǎo)人工智能決策。其一，在訓(xùn)練數(shù)據(jù)集中添加錯(cuò)誤樣本、惡意樣本等污染數(shù)據(jù)，這種“數(shù)據(jù)投毒”降低了訓(xùn)練模型決策的有效性、可用性［4］；其二，對(duì)所模仿對(duì)象的數(shù)據(jù)深度偽造會(huì)造成誤導(dǎo)公共輿論、數(shù)據(jù)信任缺失等安全沖擊。

第二，算法技術(shù)難以保證“絕對(duì)客觀”。算法的呈現(xiàn)具有高度的專(zhuān)業(yè)性和復(fù)雜性，算法設(shè)計(jì)和開(kāi)發(fā)者之外的人群大多難以理解其運(yùn)行邏輯，對(duì)算法解釋權(quán)的獨(dú)占會(huì)導(dǎo)致應(yīng)用過(guò)程出現(xiàn)技術(shù)排他和利益排他等問(wèn)題［5］。另外，作為一種信息資源的個(gè)性化配置范式，算法理論上在智能化推薦過(guò)程中具有價(jià)值中立性，但在實(shí)踐過(guò)程中往往被證偽。

第三，算力應(yīng)用與集中發(fā)展存在掣肘。一方面，算力基礎(chǔ)設(shè)施存在“重硬輕軟”的問(wèn)題，軟件生態(tài)系統(tǒng)影響力弱，應(yīng)用過(guò)程面臨體制機(jī)制障礙［6］。另一方面，算力“孤島式”發(fā)展問(wèn)題凸顯。算力與技術(shù)應(yīng)用場(chǎng)景結(jié)合程度低，理論價(jià)值與實(shí)踐價(jià)值之間存在鴻溝，導(dǎo)致應(yīng)用創(chuàng)新突破能力不足；而數(shù)據(jù)共享平臺(tái)建設(shè)尚未完善導(dǎo)致各級(jí)算力網(wǎng)絡(luò)構(gòu)建困難、算力產(chǎn)業(yè)難以推廣、研究成果效益難以協(xié)同，限制了算力資源配置的效率。

2.人工智能非技術(shù)層面引致新興的非系統(tǒng)性風(fēng)險(xiǎn)

第一，數(shù)據(jù)流動(dòng)和共享引發(fā)泄露、濫用與壟斷風(fēng)險(xiǎn)。一方面，在大數(shù)據(jù)模型深刻挖掘數(shù)據(jù)的動(dòng)態(tài)價(jià)值過(guò)程中，信息安全缺乏有效監(jiān)管，造成各類(lèi)數(shù)據(jù)平臺(tái)的數(shù)據(jù)信息泄露、濫用日益嚴(yán)重，如用戶(hù)畫(huà)像“數(shù)據(jù)化”將數(shù)據(jù)泄露、濫用問(wèn)題轉(zhuǎn)化為用戶(hù)人身財(cái)產(chǎn)安全風(fēng)險(xiǎn)，公民個(gè)人數(shù)據(jù)、產(chǎn)業(yè)機(jī)密數(shù)據(jù)的泄露與跨境暴露甚至威脅到國(guó)家利益與安全［7］；另一方面，作為一種技術(shù)要素或資本，具有市場(chǎng)利益價(jià)值的重要數(shù)據(jù)被頭部企業(yè)把控，會(huì)擾亂市場(chǎng)環(huán)境，造成數(shù)據(jù)壟斷、反壟斷的惡性競(jìng)爭(zhēng)與資源浪費(fèi)。

第二，算法“黑箱”和利益性矛盾難以調(diào)解。算法研發(fā)技術(shù)與應(yīng)用過(guò)程的不透明造成信息不對(duì)稱(chēng)，既加劇對(duì)算法“黑箱”的恐慌與不信任度，又使得全方位、更隱蔽的算法歧視更難以避免［8］。此外，算法開(kāi)源后，相關(guān)技術(shù)會(huì)快速外溢，頭部企業(yè)在已投入大量資金對(duì)算法模型進(jìn)行研發(fā)的情況下，技術(shù)優(yōu)勢(shì)隨之喪失，成本回收與利益分配問(wèn)題難以調(diào)和。

第三，法律制度缺乏動(dòng)態(tài)調(diào)整能力。生成式人工智能的廣泛應(yīng)用帶來(lái)法律主體模糊不清、智力成果難以進(jìn)行官方認(rèn)定、著作權(quán)界定困難、侵權(quán)后果認(rèn)定復(fù)雜等問(wèn)題。現(xiàn)階段，在法律責(zé)任方面還缺乏系統(tǒng)性的體系化邏輯考量，難以定義明確的責(zé)任主體并形成廣泛的義務(wù)約束，技術(shù)治理與法律規(guī)制的缺位帶來(lái)事后監(jiān)管缺失的風(fēng)險(xiǎn)［9］。

第四，倫理標(biāo)準(zhǔn)嵌入技術(shù)開(kāi)發(fā)和應(yīng)用的全過(guò)程仍有較大阻力。其一，人工智能技術(shù)開(kāi)發(fā)過(guò)程中對(duì)于倫理規(guī)范的建構(gòu)不夠充分、技術(shù)標(biāo)準(zhǔn)的制定不夠全面，國(guó)家層面與社會(huì)公眾層面相應(yīng)的倫理監(jiān)管部門(mén)設(shè)置不夠完善，倫理機(jī)制不夠成熟，價(jià)值觀判斷與行為準(zhǔn)則出現(xiàn)沖突，導(dǎo)致事前監(jiān)管薄弱［10］。其二，人工智能存在自身決策違背人類(lèi)價(jià)值觀的現(xiàn)象，其道德決策始終存在行為的模棱兩可性，產(chǎn)生的損害人身財(cái)產(chǎn)安全等負(fù)面后果難以有效消解。其三，現(xiàn)代人的感知體驗(yàn)、自主行動(dòng)、情感表達(dá)等個(gè)性化能力受到抑制，技術(shù)應(yīng)用程度與人的主體性保障之間也需作出倫理權(quán)衡。

第五，人工智能深度融入各生產(chǎn)領(lǐng)域?qū)ι鐣?huì)創(chuàng)新力和穩(wěn)定性造成挑戰(zhàn)。一方面，在信息基礎(chǔ)設(shè)施建設(shè)過(guò)程中，存在數(shù)據(jù)要素聚合不充分、軟硬件設(shè)施配置不完善、平臺(tái)安全保障不足等問(wèn)題，這會(huì)阻礙人工智能核心技術(shù)能力提升，暗藏社會(huì)生產(chǎn)力逼近臨界值的風(fēng)險(xiǎn)［11］。同時(shí)，人工智能在思維層面仍與人腦存在客觀上的差距，社會(huì)重大創(chuàng)新成果的出現(xiàn)面臨技術(shù)突破過(guò)程趨近拐點(diǎn)的風(fēng)險(xiǎn)。另一方面，“機(jī)器換人”使勞動(dòng)力市場(chǎng)短期內(nèi)的就業(yè)替代效應(yīng)大于創(chuàng)造效應(yīng)，且對(duì)低技能勞動(dòng)力的沖擊更大，易引發(fā)就業(yè)波動(dòng)，而靈活就業(yè)的不穩(wěn)定性會(huì)帶來(lái)新型職業(yè)風(fēng)險(xiǎn)［12］。

二、人工智能風(fēng)險(xiǎn)治理：模式與工具

人工智能風(fēng)險(xiǎn)治理具有時(shí)代特征。目前各人工智能大國(guó)和技術(shù)先發(fā)國(guó)相繼出臺(tái)應(yīng)對(duì)人工智能風(fēng)險(xiǎn)的宏觀政策與具體細(xì)化措施，精準(zhǔn)防范技術(shù)要素與社會(huì)屬性結(jié)合過(guò)程中的新興風(fēng)險(xiǎn)，重構(gòu)風(fēng)險(xiǎn)治理生態(tài)。

（一）人工智能風(fēng)險(xiǎn)治理的概念界定

人工智能治理具有動(dòng)態(tài)性，開(kāi)發(fā)和應(yīng)用層面所生成的復(fù)雜、多變、難知的風(fēng)險(xiǎn)是治理的難點(diǎn)與痛點(diǎn)，因此，在技術(shù)演進(jìn)過(guò)程中采用“基于風(fēng)險(xiǎn)”的治理策略逐漸成為主流選擇。人工智能風(fēng)險(xiǎn)治理的演進(jìn)過(guò)程可依據(jù)技術(shù)發(fā)展特征劃分為三個(gè)階段。一是本源性治理階段。本源性風(fēng)險(xiǎn)與技術(shù)使用者和使用過(guò)程無(wú)關(guān)，在人工智能形成時(shí)就決定了風(fēng)險(xiǎn)產(chǎn)生的必然性。算法、數(shù)據(jù)與算力等底層技術(shù)帶來(lái)的系統(tǒng)性風(fēng)險(xiǎn)會(huì)直接影響輸出內(nèi)容的準(zhǔn)確度和客觀性，消除技術(shù)中的白噪聲是這一階段風(fēng)險(xiǎn)治理的關(guān)鍵。二是客體性治理階段。人工智能技術(shù)的通用化發(fā)展對(duì)社會(huì)群體可能產(chǎn)生無(wú)差別負(fù)面影響，這些風(fēng)險(xiǎn)具有復(fù)雜、隱蔽、長(zhǎng)期的特點(diǎn)，需要更為精準(zhǔn)且全面的應(yīng)對(duì)和治理。三是協(xié)同治理階段。生成式人工智能產(chǎn)生的風(fēng)險(xiǎn)處于變革性、模糊性和社會(huì)性的疊加狀態(tài)，技術(shù)邊界不斷被打破，人的主體性受到?jīng)_擊，社會(huì)形態(tài)進(jìn)一步被顛覆和重塑，需要構(gòu)建一體化的協(xié)同治理體系，合力實(shí)現(xiàn)良性發(fā)展。

我們可將人工智能風(fēng)險(xiǎn)治理的概念界定如下：圍繞人工智能技術(shù)開(kāi)發(fā)和應(yīng)用問(wèn)題，形成包含法律規(guī)范、道德倫理、系統(tǒng)政策的風(fēng)險(xiǎn)管理模式，利用各種工具、解決方案和杠桿進(jìn)行技術(shù)風(fēng)險(xiǎn)控制，縮小技術(shù)進(jìn)步中責(zé)任與道德之間的差距，幫助人類(lèi)在各領(lǐng)域安全、穩(wěn)定且公平地掌握并充分使用人工智能，推動(dòng)人類(lèi)社會(huì)發(fā)展。結(jié)合人工智能技術(shù)的演進(jìn)態(tài)勢(shì)，下文對(duì)人工智能風(fēng)險(xiǎn)治理模式與工具的分析會(huì)重點(diǎn)關(guān)注人工智能在技術(shù)迭代過(guò)程中產(chǎn)生的新風(fēng)險(xiǎn)、新問(wèn)題，明晰暗含的風(fēng)險(xiǎn)與未知的隱患，以形成有效的治理模式與治理工具，降低人工智能應(yīng)用中未知風(fēng)險(xiǎn)的危害度與威脅性。值得注意的是，“對(duì)人工智能風(fēng)險(xiǎn)的治理”應(yīng)與“人工智能在風(fēng)險(xiǎn)治理中的應(yīng)用”這一概念進(jìn)行區(qū)分，后者的含義是社會(huì)風(fēng)險(xiǎn)治理核心任務(wù)由人工智能替代，在替代或超越人類(lèi)治理行為的態(tài)勢(shì)下推動(dòng)社會(huì)風(fēng)險(xiǎn)治理邁向新階段，通過(guò)人機(jī)協(xié)同的智能治理變革帶動(dòng)一系列風(fēng)險(xiǎn)治理創(chuàng)新。而“對(duì)人工智能風(fēng)險(xiǎn)的治理”重點(diǎn)是在向強(qiáng)人工智能過(guò)渡的過(guò)程中，對(duì)產(chǎn)生的新風(fēng)險(xiǎn)、新問(wèn)題、新隱患的有效治理，這也是下文內(nèi)容的理論主線。人工智能技術(shù)不斷應(yīng)用于更加豐富的場(chǎng)景，形成技術(shù)層面與非技術(shù)層面的各類(lèi)風(fēng)險(xiǎn)，由此帶來(lái)的不確定性阻礙了技術(shù)的進(jìn)一步發(fā)展，對(duì)社會(huì)穩(wěn)定和人類(lèi)安全造成沖擊與威脅。為此，只有加強(qiáng)對(duì)人工智能風(fēng)險(xiǎn)治理的理性分析，構(gòu)建更靈活、更具針對(duì)性的風(fēng)險(xiǎn)治理模式和風(fēng)險(xiǎn)治理工具，才能精準(zhǔn)防范人工智能帶來(lái)的新興風(fēng)險(xiǎn)，平衡技術(shù)與治理的關(guān)系，提升風(fēng)險(xiǎn)治理能力，構(gòu)建起先進(jìn)、完整且有效的風(fēng)險(xiǎn)治理體系。

（二）人工智能風(fēng)險(xiǎn)治理模式

人工智能風(fēng)險(xiǎn)治理在國(guó)際探索中仍處初級(jí)階段，主要集中于國(guó)家或次國(guó)家層面以及相應(yīng)的具體學(xué)科或場(chǎng)景模塊，尚缺乏整體性的認(rèn)知理念與治理框架；同時(shí)為應(yīng)對(duì)治理挑戰(zhàn)，各國(guó)均致力于尋找適合本國(guó)技術(shù)路徑發(fā)展的風(fēng)險(xiǎn)治理模式，降低風(fēng)險(xiǎn)以打破技術(shù)瓶頸。根據(jù)現(xiàn)階段的經(jīng)驗(yàn)，人工智能的風(fēng)險(xiǎn)治理模式主要可分為以下六種：規(guī)制型治理模式、創(chuàng)新型治理模式、自治型治理模式、市場(chǎng)導(dǎo)向型治理模式、集中式治理模式、敏捷治理模式。不同的風(fēng)險(xiǎn)治理模式不是互斥的，一個(gè)國(guó)家、地區(qū)或機(jī)構(gòu)可能存在多種治理模式［13］。

1.規(guī)制型治理模式

規(guī)制型治理模式是較為傳統(tǒng)的治理模式，即國(guó)家采取較為強(qiáng)硬的工具手段，例如設(shè)立監(jiān)管機(jī)構(gòu)或者構(gòu)建全面的法律體系，對(duì)人工智能的風(fēng)險(xiǎn)進(jìn)行直接干預(yù)治理，這種治理模式的主要目標(biāo)是規(guī)避人工智能產(chǎn)生或者可能產(chǎn)生的風(fēng)險(xiǎn)，保護(hù)公共財(cái)產(chǎn)安全和公民安全。歐盟目前對(duì)人工智能風(fēng)險(xiǎn)的治理主要以數(shù)據(jù)保護(hù)為中心，高度重視監(jiān)管政策的制定與布局，治理模式很大程度上體現(xiàn)了規(guī)制型治理的思想。《通用數(shù)據(jù)保護(hù)條例》是歐盟各成員國(guó)構(gòu)建適用本國(guó)條例的藍(lán)本，且受歐盟委員會(huì)的監(jiān)督，在用戶(hù)知情權(quán)、企業(yè)更正期限、問(wèn)責(zé)制等多個(gè)方面均強(qiáng)調(diào)對(duì)公民權(quán)利的全面保護(hù)和數(shù)據(jù)的合法性。據(jù)此可見(jiàn)，歐盟重視法律的構(gòu)建，對(duì)人工智能風(fēng)險(xiǎn)的各類(lèi)問(wèn)題采取較為嚴(yán)格統(tǒng)一的措施，即采用較為強(qiáng)硬的手段工具進(jìn)行風(fēng)險(xiǎn)治理。

2.創(chuàng)新型治理模式

創(chuàng)新型治理模式是國(guó)家通過(guò)法律體系及人工智能倫理體系的完善，減少風(fēng)險(xiǎn)對(duì)人工智能技術(shù)發(fā)展的影響，主要目標(biāo)是促進(jìn)人工智能的創(chuàng)新及進(jìn)一步發(fā)展。美國(guó)對(duì)人工智能風(fēng)險(xiǎn)治理的主要目的是減少人工智能創(chuàng)新與應(yīng)用中的障礙。

3.自治型治理模式

在自治型治理模式框架中，國(guó)家不直接參與監(jiān)管和治理，而是通過(guò)企業(yè)等相關(guān)利益主體的自我監(jiān)管來(lái)達(dá)到風(fēng)險(xiǎn)預(yù)防和規(guī)避的目的，呈現(xiàn)較強(qiáng)的自下而上的治理特點(diǎn)。在這種模式下，國(guó)家主要通過(guò)行為準(zhǔn)則、行業(yè)標(biāo)準(zhǔn)等軟監(jiān)管措施間接進(jìn)行治理，主要依靠企業(yè)自律，通過(guò)設(shè)立企業(yè)內(nèi)部管理機(jī)構(gòu)并制定相對(duì)應(yīng)的風(fēng)險(xiǎn)治理準(zhǔn)則，來(lái)贏得公眾信任，達(dá)到風(fēng)險(xiǎn)治理的目標(biāo)。在人工智能倫理風(fēng)險(xiǎn)治理方面，美國(guó)的自治性治理模式更為突出，一方面美國(guó)信息科技企業(yè)建立人工智能倫理委員會(huì)，對(duì)倫理風(fēng)險(xiǎn)進(jìn)行治理和預(yù)防，另一方面美國(guó)企業(yè)內(nèi)部員工具有更強(qiáng)的倫理意識(shí)，通過(guò)自組織方式推動(dòng)倫理風(fēng)險(xiǎn)的治理。

4.市場(chǎng)導(dǎo)向型治理模式

市場(chǎng)導(dǎo)向型治理模式依賴(lài)于最小的國(guó)家干預(yù)，國(guó)家除了在市場(chǎng)嚴(yán)重失靈的情況下進(jìn)行干預(yù)外，還使用更為友好的治理工具促進(jìn)市場(chǎng)的發(fā)展和人工智能的創(chuàng)新，這種模式主要采取引導(dǎo)性、規(guī)范性的軟治理措施，目的是保證有利于創(chuàng)新的環(huán)境。

5.集中式治理模式

集中式治理模式相較于市場(chǎng)導(dǎo)向型的治理模式來(lái)說(shuō)，國(guó)家的干預(yù)程度加強(qiáng)，對(duì)行業(yè)的監(jiān)管力度增加，出臺(tái)各項(xiàng)治理制度，且對(duì)于已經(jīng)暴露出來(lái)的問(wèn)題集中采取較為堅(jiān)決的治理措施，而不是完全采取引導(dǎo)規(guī)范性的軟治理。

6.敏捷治理模式

敏捷治理模式是目前較新的人工智能治理模式，更為貼合人工智能風(fēng)險(xiǎn)的治理需求［14］。在軟件領(lǐng)域，“敏捷性”的概念在20世紀(jì)90年代已出現(xiàn)，而敏捷治理的概念2018年在世界經(jīng)濟(jì)論壇上才被提出。敏捷治理強(qiáng)調(diào)通過(guò)系統(tǒng)性整合，構(gòu)建一個(gè)人工智能各利益方一體化的人工智能治理生態(tài)，注重風(fēng)險(xiǎn)規(guī)避和創(chuàng)新的平衡以及加強(qiáng)治理的流動(dòng)性、時(shí)效性和適應(yīng)性。敏捷治理主要的特點(diǎn)是多元主體參與和靈活性［15］。人工智能的風(fēng)險(xiǎn)治理包含不同層次、機(jī)制和應(yīng)用領(lǐng)域，只依賴(lài)政府的力量難以達(dá)成對(duì)人工智能風(fēng)險(xiǎn)的有效治理，需要與各利益方共同合作，快速適應(yīng)技術(shù)變化，實(shí)現(xiàn)有效的監(jiān)管。因此，敏捷治理不再完全由國(guó)家或政府主導(dǎo)，而是政府、企業(yè)、學(xué)者等多方利益主體共同參與，以適應(yīng)技術(shù)的高速發(fā)展和快速變化，在治理工具層面需要采用法律法規(guī)等強(qiáng)監(jiān)管措施和引導(dǎo)指南等軟監(jiān)管措施相結(jié)合的治理工具。在這種模式下，政府不需要明確嚴(yán)格的風(fēng)險(xiǎn)治理規(guī)范，而是設(shè)計(jì)人工智能風(fēng)險(xiǎn)治理的原則框架和治理目標(biāo)，通過(guò)有效的反饋引導(dǎo)市場(chǎng)與各主體配合，并建立動(dòng)態(tài)評(píng)估機(jī)制評(píng)估相應(yīng)的活動(dòng)是否符合風(fēng)險(xiǎn)治理的原則和目標(biāo)，便于進(jìn)行政策的動(dòng)態(tài)迭代。敏捷治理模式已在多國(guó)展開(kāi)實(shí)踐，美國(guó)在2020年出臺(tái)了《美國(guó)人工智能計(jì)劃法案》（2020），在機(jī)制中首先明確了優(yōu)先考慮研發(fā)、促進(jìn)國(guó)際合作、重視國(guó)家安全等治理原則，以及整合人工智能系統(tǒng)、發(fā)展可信人工智能技術(shù)、維持領(lǐng)先地位等治理目標(biāo)；其次，設(shè)置平級(jí)機(jī)構(gòu)，多主體共同參與決策，體現(xiàn)敏捷治理多元主體共同參與的思想；最后，建立高效的審查機(jī)制，保證審查時(shí)效，體現(xiàn)敏捷治理的靈活性和時(shí)效性。此外，日本也建立了多元主體參與的監(jiān)管架構(gòu)，架構(gòu)可以分為制定監(jiān)管目標(biāo)的原則層、明確目標(biāo)實(shí)現(xiàn)路徑的規(guī)則層、引導(dǎo)企業(yè)規(guī)范的監(jiān)督層和違規(guī)追責(zé)的執(zhí)法層，在法律之外建立激勵(lì)機(jī)制。

綜上可見(jiàn)，風(fēng)險(xiǎn)治理模式的不同類(lèi)型既存在共性，又體現(xiàn)著治理主體的目標(biāo)差異。共性特點(diǎn)在于對(duì)人工智能發(fā)展過(guò)程中產(chǎn)生的風(fēng)險(xiǎn)挑戰(zhàn)持包容開(kāi)放和積極應(yīng)對(duì)的態(tài)度，最終目標(biāo)均是縮小風(fēng)險(xiǎn)的波及范圍，減輕風(fēng)險(xiǎn)對(duì)社會(huì)沖擊的程度。差異性體現(xiàn)在重視創(chuàng)新性為主還是強(qiáng)調(diào)穩(wěn)健性為主，抑或?qū)で蠖叩募骖櫰胶狻＞唧w來(lái)說(shuō)，強(qiáng)硬的規(guī)制型模式和集中式模式強(qiáng)調(diào)新方法、新技術(shù)和新產(chǎn)品只能在充分證明其無(wú)害的條件下才可被批準(zhǔn)投入使用，在前端技術(shù)、中端制造、后端投產(chǎn)等各環(huán)節(jié)均作出明確的細(xì)致規(guī)定，并嚴(yán)格問(wèn)責(zé)，整體上體現(xiàn)為事無(wú)巨細(xì)的事前控制［16］；創(chuàng)新型、自治型和市場(chǎng)導(dǎo)向型模式體現(xiàn)國(guó)家對(duì)治理干預(yù)的逐步弱化，以容許風(fēng)險(xiǎn)存在為代價(jià)推進(jìn)技術(shù)創(chuàng)新，新方法、新技術(shù)和新產(chǎn)品只要未產(chǎn)生嚴(yán)重事故危害均被默許，并依賴(lài)于合規(guī)性的事后監(jiān)管，以此保持國(guó)家技術(shù)競(jìng)爭(zhēng)力的優(yōu)勢(shì)地位，風(fēng)險(xiǎn)治理不是這些模式的政策重心。無(wú)論是推動(dòng)創(chuàng)新還是重視安全均有偏頗，只有拋開(kāi)技術(shù)創(chuàng)新或穩(wěn)健安全的二元選擇，改革傳統(tǒng)的風(fēng)險(xiǎn)治理方法，制定綜合性的風(fēng)險(xiǎn)治理框架，將技術(shù)、人、社會(huì)各主體納入進(jìn)來(lái)，科學(xué)綜合應(yīng)用制度、法律、規(guī)則、標(biāo)準(zhǔn)、保護(hù)等治理方式，在協(xié)同思維下打造敏捷治理框架，才能更好地應(yīng)對(duì)技術(shù)革命下的治理挑戰(zhàn)。

（三）人工智能風(fēng)險(xiǎn)治理工具

不斷滋生的新興風(fēng)險(xiǎn)使規(guī)則、指令等傳統(tǒng)治理工具難以有效回應(yīng)新涌現(xiàn)的治理需求。促進(jìn)人工智能風(fēng)險(xiǎn)治理理論與治理實(shí)踐的對(duì)話與融合，需在當(dāng)前風(fēng)險(xiǎn)治理模式選擇的基礎(chǔ)上依據(jù)技術(shù)邏輯總結(jié)客觀性的風(fēng)險(xiǎn)治理工具，使政策理論與治理實(shí)踐相匹配［17］。

根據(jù)各國(guó)人工智能治理的實(shí)踐經(jīng)驗(yàn)，人工智能“后發(fā)”國(guó)家試圖從宏觀層面找尋合適的人工智能治理模式與工具。如英國(guó)、土耳其相繼發(fā)布各自的國(guó)家人工智能戰(zhàn)略，前者意在推動(dòng)自身成為人工智能領(lǐng)域的超級(jí)大國(guó)，后者依托自身的文化根基打造獨(dú)特的人工智能系統(tǒng)。人工智能“先發(fā)”國(guó)家則不局限于制定宏觀層面的指導(dǎo)戰(zhàn)略，而是細(xì)化至各個(gè)領(lǐng)域打造具體治理工具，對(duì)法律風(fēng)險(xiǎn)、倫理風(fēng)險(xiǎn)、數(shù)據(jù)與算法風(fēng)險(xiǎn)、社會(huì)風(fēng)險(xiǎn)等方面進(jìn)行深度治理。

1.推動(dòng)風(fēng)險(xiǎn)治理“有法可依”

一方面，通過(guò)“硬法”約束對(duì)人工智能風(fēng)險(xiǎn)進(jìn)行直接規(guī)制，即根據(jù)人工智能技術(shù)發(fā)展中的不同構(gòu)成要素和應(yīng)用場(chǎng)景采取針對(duì)性治理策略，通常以出臺(tái)書(shū)面性、規(guī)范性的法律文件為標(biāo)志，既有風(fēng)險(xiǎn)治理的事后追責(zé)，又有風(fēng)險(xiǎn)預(yù)防的事前監(jiān)管。歐盟走在世界前列，《通用數(shù)據(jù)保護(hù)條例》是各國(guó)對(duì)數(shù)據(jù)安全、算法安全事后監(jiān)管的范本與立法基礎(chǔ)，此外《數(shù)字服務(wù)法》從源頭上遏制數(shù)字權(quán)力擴(kuò)張的負(fù)面效應(yīng)，《人工智能法》則規(guī)定了生成式人工智能的版權(quán)規(guī)則，填補(bǔ)了智力成果認(rèn)定的法規(guī)空白。不論是事后還是事前的風(fēng)險(xiǎn)治理，均豐富了治理方式，擴(kuò)大了“有法可依”的范圍。

另一方面，通過(guò)“軟法約束”對(duì)人工智能風(fēng)險(xiǎn)進(jìn)行間接規(guī)制，即采取審慎規(guī)制的原則，不提前介入人工智能風(fēng)險(xiǎn)規(guī)制以保護(hù)創(chuàng)新，但在監(jiān)管過(guò)程中根據(jù)各方立法建議形成共識(shí)。例如，美國(guó)堅(jiān)持“后果主義”立場(chǎng)，依照人工智能相關(guān)的法律案件的處理經(jīng)驗(yàn)對(duì)日常風(fēng)險(xiǎn)行為進(jìn)行審慎研判，《美國(guó)人工智能監(jiān)管原則》打通聯(lián)邦與各州之間的監(jiān)管渠道，有利于達(dá)成共識(shí)標(biāo)準(zhǔn)，州一級(jí)的立法機(jī)構(gòu)成立工作組或委員會(huì)，研究人工智能風(fēng)險(xiǎn)后果并提供報(bào)告和建議。

2.構(gòu)建符合各方利益的倫理標(biāo)準(zhǔn)和指南

風(fēng)險(xiǎn)治理工具為倫理聲明和治理實(shí)踐之間搭建橋梁，涵蓋了技術(shù)本身、技術(shù)與社會(huì)屬性結(jié)合、事前事后評(píng)估等風(fēng)險(xiǎn)治理的各個(gè)方面，既突出“人”的主體地位，又保障技術(shù)發(fā)展的安全可靠性與可解釋性。

第一，倫理風(fēng)險(xiǎn)治理逐步達(dá)成國(guó)際共識(shí)，建立普適性的法治框架與共同的價(jià)值觀。聯(lián)合國(guó)教科文組織發(fā)布的《人工智能倫理問(wèn)題建議書(shū)》致力于促進(jìn)世界人工智能倫理治理的協(xié)同發(fā)展與合作，積極保護(hù)人類(lèi)在社會(huì)活動(dòng)中的自主性，促進(jìn)人類(lèi)福祉、安全和公共利益。

第二，依據(jù)實(shí)踐經(jīng)驗(yàn)形成符合國(guó)情的倫理治理方式。其一，統(tǒng)籌式監(jiān)管下的倫理優(yōu)先，全方位保障人工智能應(yīng)用過(guò)程中的公民權(quán)利。這種強(qiáng)政府控制以歐盟為代表，統(tǒng)籌構(gòu)建完善的倫理原則，治理戰(zhàn)略以人為中心，規(guī)定公民權(quán)利保障、數(shù)據(jù)和算法保護(hù)等倫理規(guī)范的邊界，并以此作為國(guó)際競(jìng)爭(zhēng)的重要抓手［18］。其二，強(qiáng)調(diào)倫理可依靠多元社會(huì)主體進(jìn)行分散式監(jiān)管。美國(guó)在軍事、自動(dòng)駕駛、醫(yī)療責(zé)任認(rèn)定等領(lǐng)域逐步擴(kuò)大倫理治理的應(yīng)用范圍。美國(guó)生命未來(lái)研究所提出“保護(hù)人工智能應(yīng)用中的公民自由、隱私和價(jià)值觀”等倡議，提供了必要的倫理指引，充分體現(xiàn)了民間對(duì)倫理治理的重視程度與基本要求。

3.打造安全可控的數(shù)據(jù)與算法風(fēng)險(xiǎn)治理工具

數(shù)據(jù)與算法治理需確保全過(guò)程的安全可控［19］。這其中，治理工具的選擇要依照人工智能技術(shù)發(fā)展階段性目標(biāo)采用不同的風(fēng)險(xiǎn)治理邏輯。一方面，將創(chuàng)新確立為戰(zhàn)略核心，采取相對(duì)開(kāi)放的監(jiān)管策略。2021年以來(lái)，美國(guó)相繼出臺(tái)《人工智能問(wèn)責(zé)框架》《算法問(wèn)責(zé)法案》等文件，將數(shù)據(jù)隱私保護(hù)、算法非歧視性與決策透明性等方面的風(fēng)險(xiǎn)逐步量化，引領(lǐng)創(chuàng)建了一系列數(shù)據(jù)與算法的監(jiān)管問(wèn)責(zé)路徑，體現(xiàn)“行業(yè)自律為主、政府規(guī)制為綱”的思想。另一方面，將治理作為核心，采取謹(jǐn)慎策略?xún)?yōu)先防范風(fēng)險(xiǎn)。歐洲各國(guó)加大生成式人工智能新興風(fēng)險(xiǎn)的監(jiān)管治理力度。法國(guó)數(shù)據(jù)監(jiān)管機(jī)構(gòu)積極受理ChatGPT相關(guān)投訴，懲治數(shù)據(jù)非法收集、泄露與濫用的行為；西班牙和意大利等國(guó)的數(shù)據(jù)保護(hù)中心不斷向歐盟反饋，加強(qiáng)對(duì)ChatGPT使用過(guò)程中的隱私風(fēng)險(xiǎn)評(píng)估，進(jìn)行信息互通與聯(lián)合監(jiān)管。

4.構(gòu)建更為細(xì)化的社會(huì)風(fēng)險(xiǎn)治理工具

人工智能風(fēng)險(xiǎn)治理更加關(guān)注社會(huì)系統(tǒng)整合問(wèn)題，將技術(shù)作為一種生態(tài)，整體融入社會(huì)治理，推動(dòng)實(shí)現(xiàn)協(xié)同式發(fā)展，形成有人文溫度的社會(huì)風(fēng)險(xiǎn)治理方略［20］。第一，提高信息化智能治理能力。在大數(shù)據(jù)模型推進(jìn)落地的過(guò)程中，提升公眾對(duì)技術(shù)應(yīng)用的信賴(lài)度，降低信息不對(duì)稱(chēng)風(fēng)險(xiǎn)。如美國(guó)始終堅(jiān)持強(qiáng)化人工智能技術(shù)全球領(lǐng)導(dǎo)地位的核心基調(diào)，對(duì)高維數(shù)據(jù)庫(kù)建立使用標(biāo)準(zhǔn)，在保障數(shù)據(jù)質(zhì)量的同時(shí)形成公眾認(rèn)可的信息管理方法。第二，在人工智能技術(shù)和實(shí)體經(jīng)濟(jì)的融合過(guò)程中完善行業(yè)自治規(guī)則，對(duì)經(jīng)濟(jì)風(fēng)險(xiǎn)展開(kāi)動(dòng)態(tài)監(jiān)管［21］。例如，美國(guó)不斷提升IT企業(yè)應(yīng)對(duì)風(fēng)險(xiǎn)治理的能力，動(dòng)態(tài)更新人工智能治理框架［22］。第三，在就業(yè)市場(chǎng)中保障就業(yè)安全，構(gòu)建高素質(zhì)人才培養(yǎng)體系和人才流動(dòng)機(jī)制。在就業(yè)安全保障中，歐盟優(yōu)先關(guān)注醫(yī)療、金融、交通等“高風(fēng)險(xiǎn)領(lǐng)域”，加強(qiáng)人工智能高風(fēng)險(xiǎn)技術(shù)的監(jiān)測(cè)，保障勞動(dòng)者就業(yè)權(quán)利與就業(yè)安全；美國(guó)平等就業(yè)機(jī)會(huì)委員會(huì)審查人工智能如何應(yīng)用于就業(yè)決策，指導(dǎo)雇主合理獲取利益、公平使用技術(shù)并應(yīng)對(duì)技術(shù)風(fēng)險(xiǎn)。在人才培養(yǎng)上，歐盟、美國(guó)、法國(guó)、日本等率先行動(dòng)，借助知識(shí)管理水平的提升化解人工智能技術(shù)應(yīng)用全過(guò)程的新興風(fēng)險(xiǎn)。

綜上可見(jiàn)，各領(lǐng)域風(fēng)險(xiǎn)治理已積累起一定的經(jīng)驗(yàn)，在實(shí)踐中逐步形成滿(mǎn)足新興風(fēng)險(xiǎn)治理需求的具體工具，具有如下特點(diǎn)：首先，應(yīng)用領(lǐng)域較全面。法律規(guī)制、倫理人權(quán)、數(shù)據(jù)算法技術(shù)、經(jīng)濟(jì)發(fā)展等領(lǐng)域均有相應(yīng)實(shí)踐探索，基本涵蓋社會(huì)發(fā)展各個(gè)場(chǎng)景。其次，涉及的目標(biāo)主體廣泛。如法律工具既有對(duì)數(shù)據(jù)、算法等技術(shù)安全的控制，又有對(duì)社會(huì)場(chǎng)景應(yīng)用的規(guī)范，倫理治理工具將對(duì)“人”的保護(hù)置于技術(shù)變革與社會(huì)沖擊的現(xiàn)實(shí)中，數(shù)據(jù)與算法的治理兼顧行業(yè)發(fā)展、消費(fèi)者保護(hù)和國(guó)家安全。最后，深刻體現(xiàn)國(guó)家治理二元邏輯。如歐盟整體上以強(qiáng)政府控制為主要手段，在法律規(guī)制上走在前列，優(yōu)先保障公民權(quán)利，對(duì)數(shù)據(jù)、算法采取謹(jǐn)慎治理態(tài)度，打擊損害勞動(dòng)者權(quán)益的行為；以美國(guó)為代表的創(chuàng)新主導(dǎo)國(guó)則更多使用軟性監(jiān)管工具，用共識(shí)性標(biāo)準(zhǔn)代替部分法律，技術(shù)風(fēng)險(xiǎn)監(jiān)管讓位于國(guó)家創(chuàng)新目標(biāo)，將更多資源投入數(shù)據(jù)庫(kù)維護(hù)、高技能人才培養(yǎng)。結(jié)合已有風(fēng)險(xiǎn)治理模式，規(guī)制型、集中式模式有強(qiáng)規(guī)制性治理工具支持，軟性的治理工具則為創(chuàng)新型、自治型、市場(chǎng)導(dǎo)向型的模式創(chuàng)造了大力發(fā)展創(chuàng)新、提升國(guó)家競(jìng)爭(zhēng)力和話語(yǔ)權(quán)的環(huán)境，而目前缺乏的是各領(lǐng)域治理工具的綜合性使用。只有吸收現(xiàn)有治理工具的實(shí)踐精髓，形成治理共識(shí)，在具體場(chǎng)景下打造更精準(zhǔn)的協(xié)同式風(fēng)險(xiǎn)治理工具并靈活應(yīng)用，才能做到事前與事后監(jiān)管的聯(lián)動(dòng)，達(dá)到敏捷治理模式的實(shí)踐要求，使人工智能風(fēng)險(xiǎn)治理躍上新臺(tái)階。

三、中國(guó)人工智能風(fēng)險(xiǎn)治理模式變遷與治理工具應(yīng)用實(shí)踐

人工智能風(fēng)險(xiǎn)治理在治理模式和治理工具方面的發(fā)展與創(chuàng)新展現(xiàn)了該領(lǐng)域的整體圖景與全球?qū)嵺`。相較于其他國(guó)家通過(guò)自我監(jiān)管促進(jìn)創(chuàng)新或嚴(yán)格監(jiān)管控制風(fēng)險(xiǎn)的基本方案，中國(guó)致力于尋找監(jiān)管與創(chuàng)新之間的平衡點(diǎn)，既能保持足夠的靈活性，激發(fā)技術(shù)創(chuàng)新活力，又有國(guó)家作為強(qiáng)力的監(jiān)管機(jī)構(gòu)保障各方利益。

（一）中國(guó)人工智能風(fēng)險(xiǎn)治理模式變遷

確保人工智能安全、可靠、可控，是推動(dòng)人工智能健康發(fā)展的重要議題。中國(guó)主動(dòng)應(yīng)對(duì)、積極倡導(dǎo)、率先踐行，選擇適應(yīng)人工智能發(fā)展階段的風(fēng)險(xiǎn)治理模式，根據(jù)技術(shù)創(chuàng)新力度與風(fēng)險(xiǎn)規(guī)制力度的組合特征，逐步構(gòu)建起對(duì)人工智能風(fēng)險(xiǎn)治理模式的系統(tǒng)認(rèn)知。

在人工智能發(fā)展初期，保障人工智能有序健康發(fā)展是重點(diǎn)。隨著“人工智能2.0”的核心要義被闡釋?zhuān)髷?shù)據(jù)智能、互聯(lián)網(wǎng)群體智能、自助智能系統(tǒng)等智能化新需求驅(qū)動(dòng)了新的治理需求［23］。風(fēng)險(xiǎn)治理以探索式為主要特征，重視技術(shù)突破與創(chuàng)新，適應(yīng)信息環(huán)境變化的風(fēng)險(xiǎn)治理模式和工具尚未構(gòu)建完善，風(fēng)險(xiǎn)治理力度偏弱，與上述創(chuàng)新型治理模式相呼應(yīng)。而隨著人工智能技術(shù)創(chuàng)新、場(chǎng)景應(yīng)用在短時(shí)期內(nèi)迅速發(fā)展，數(shù)據(jù)泄露、算法“黑箱”、技術(shù)壟斷等社會(huì)性問(wèn)題逐漸浮現(xiàn)，中國(guó)逐漸加強(qiáng)事前控制，構(gòu)建前瞻預(yù)防機(jī)制，通過(guò)軟性規(guī)則、軟法約束等引導(dǎo)性措施化解風(fēng)險(xiǎn)。以軟規(guī)制為特征的回應(yīng)式風(fēng)險(xiǎn)治理既可以提升風(fēng)險(xiǎn)治理的及時(shí)性和靈活性，以較小成本減輕社會(huì)風(fēng)險(xiǎn)，又給予較大的容錯(cuò)空間鼓勵(lì)技術(shù)突破，體現(xiàn)自治型治理、市場(chǎng)導(dǎo)向型治理模式的內(nèi)涵。現(xiàn)階段，人工智能的技術(shù)屬性深度賦能社會(huì)，不可避免帶來(lái)更為復(fù)雜的社會(huì)性風(fēng)險(xiǎn)事件，中國(guó)將硬性治理上升至主體地位，針對(duì)特定問(wèn)題釋放高強(qiáng)度、硬約束的集中治理的信號(hào)，減輕風(fēng)險(xiǎn)不確定性的負(fù)面影響。以集中式為特征的風(fēng)險(xiǎn)治理催生了法律法規(guī)對(duì)人工智能應(yīng)用的“紅線”劃定，加強(qiáng)了信息產(chǎn)業(yè)自律能力和社會(huì)多元主體自省能力，以此降低風(fēng)險(xiǎn)暴露度，有效維護(hù)國(guó)家安全和社會(huì)公共利益。

與此同時(shí)，眾多學(xué)者提出將“敏捷治理”的思想嵌入構(gòu)建人工智能治理模式的進(jìn)程［24-25］，體現(xiàn)出治理的及時(shí)性、精準(zhǔn)性、柔和性，對(duì)于降低中國(guó)在向強(qiáng)人工智能過(guò)渡過(guò)程中產(chǎn)生的技術(shù)風(fēng)險(xiǎn)、增強(qiáng)國(guó)家與各利益相關(guān)方的抗風(fēng)險(xiǎn)韌性具有重要作用，有助于促進(jìn)技術(shù)創(chuàng)新和風(fēng)險(xiǎn)治理的協(xié)同改進(jìn)與動(dòng)態(tài)均衡。

（二）中國(guó)人工智能風(fēng)險(xiǎn)治理工具應(yīng)用實(shí)踐

中國(guó)在制度建設(shè)、標(biāo)準(zhǔn)制定、數(shù)據(jù)與算法的安全保障、立法、倫理道德規(guī)范、社會(huì)風(fēng)險(xiǎn)應(yīng)對(duì)等多個(gè)層面，努力構(gòu)建治理范圍全面、治理應(yīng)對(duì)及時(shí)、治理過(guò)程精準(zhǔn)的人工智能風(fēng)險(xiǎn)治理工具。

1.國(guó)家層面的政策工具與標(biāo)準(zhǔn)制定

在政策構(gòu)建上，中國(guó)對(duì)人工智能風(fēng)險(xiǎn)治理的政策工具選擇涵蓋“強(qiáng)制類(lèi)、市場(chǎng)類(lèi)、引導(dǎo)類(lèi)、自愿類(lèi)”，基本對(duì)應(yīng)了人工智能治理模式演進(jìn)的全過(guò)程［26］。當(dāng)前的政策工具以強(qiáng)制類(lèi)與市場(chǎng)類(lèi)為主。2016—2021年，中國(guó)在自動(dòng)駕駛、信息安全、智能診療、倫理規(guī)范等領(lǐng)域出臺(tái)39項(xiàng)規(guī)范性政策，為人工智能風(fēng)險(xiǎn)防控提供了豐富的政策引導(dǎo)［27］。在標(biāo)準(zhǔn)制定上，技術(shù)標(biāo)準(zhǔn)作為重要的“軟法”治理工具，有助于將倫理價(jià)值要求嵌入早期人工智能技術(shù)開(kāi)發(fā)過(guò)程， 在安全可控的底線思維基礎(chǔ)上增強(qiáng)技術(shù)創(chuàng)新力度［28］。針對(duì)人工智能全領(lǐng)域，中國(guó)已形成10項(xiàng)國(guó)家標(biāo)準(zhǔn)、7項(xiàng)地方標(biāo)準(zhǔn)、11項(xiàng)行業(yè)標(biāo)準(zhǔn)、117項(xiàng)團(tuán)體標(biāo)準(zhǔn)，為統(tǒng)籌人工智能技術(shù)創(chuàng)新與風(fēng)險(xiǎn)防控提供了重要基礎(chǔ)性參考，為網(wǎng)絡(luò)安全、意識(shí)形態(tài)方面的新興風(fēng)險(xiǎn)作出了重要的標(biāo)準(zhǔn)預(yù)研。

2.制度規(guī)范層面尋求技術(shù)創(chuàng)新與風(fēng)險(xiǎn)治理的平衡

中國(guó)對(duì)人工智能風(fēng)險(xiǎn)治理的法律規(guī)制已形成以法律約束為主體，與部門(mén)規(guī)章、地方性法規(guī)、行業(yè)自治標(biāo)準(zhǔn)等有機(jī)結(jié)合的多層次綜合治理體系［29］。多數(shù)有關(guān)人工智能與法律關(guān)系的探討還限于弱人工智能階段，較少以弱人工智能向強(qiáng)人工智能的過(guò)渡為前提進(jìn)行法律探析。最具代表性的政策性文件是2023年7月發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》，該辦法提出堅(jiān)持包容審慎的風(fēng)險(xiǎn)治理態(tài)度，在微觀層面提供了更為細(xì)化的風(fēng)險(xiǎn)治理指引。在具體的風(fēng)險(xiǎn)治理領(lǐng)域，《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》保護(hù)用戶(hù)個(gè)人數(shù)據(jù)隱私；《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》為保障各應(yīng)用場(chǎng)景的用戶(hù)權(quán)益提供制度支持；自動(dòng)駕駛領(lǐng)域出臺(tái)《汽車(chē)數(shù)據(jù)安全管理若干規(guī)定（征求意見(jiàn)稿）》，保護(hù)用戶(hù)出行隱私；醫(yī)療領(lǐng)域的《人工智能藍(lán)皮書(shū)：中國(guó)醫(yī)療人工智能發(fā)展報(bào)告（2020）》對(duì)醫(yī)療人工智能的基本原則、知識(shí)產(chǎn)權(quán)、數(shù)據(jù)保護(hù)等問(wèn)題進(jìn)行展望；此外，侵權(quán)主體法律認(rèn)定、著作權(quán)認(rèn)定、智力成果保護(hù)等方面的風(fēng)險(xiǎn)也逐步通過(guò)法律法規(guī)和政策“破題”。

3.利用倫理層面的規(guī)約機(jī)制進(jìn)行前瞻性構(gòu)建

在從弱人工智能向強(qiáng)人工智能的過(guò)渡過(guò)程中，中國(guó)在倫理層面的規(guī)則制定遵循鼓勵(lì)創(chuàng)新與風(fēng)險(xiǎn)治理并重的行動(dòng)原則，把握高風(fēng)險(xiǎn)倫理綜合監(jiān)管制度設(shè)計(jì)的基準(zhǔn)與底線，具有一定前瞻性。《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》《新一代人工智能倫理規(guī)范》《中共中央辦公廳" 國(guó)務(wù)院辦公廳關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》等文件不斷增強(qiáng)倫理風(fēng)險(xiǎn)治理共識(shí)，推進(jìn)倫理風(fēng)險(xiǎn)治理工作的可操作化，回應(yīng)社會(huì)各界對(duì)人工智能應(yīng)用的高度倫理關(guān)切。在最新的理論探索中，中國(guó)倡導(dǎo)通過(guò)“人工智能社會(huì)實(shí)驗(yàn)”踐行“先行先試”的人工智能創(chuàng)新發(fā)展路徑［30］，研判新興應(yīng)用風(fēng)險(xiǎn)，消解倫理困境，形成倫理治理共識(shí)，其核心目標(biāo)在于使生成式人工智能的應(yīng)用與人的發(fā)展目標(biāo)、社會(huì)價(jià)值觀相契合。

4.對(duì)數(shù)據(jù)與算法的新興風(fēng)險(xiǎn)進(jìn)行多元化全過(guò)程治理

中國(guó)在數(shù)據(jù)與算法風(fēng)險(xiǎn)治理探索過(guò)程中具有豐富經(jīng)驗(yàn)。在理論基礎(chǔ)方面，將全生命周期管理的概念嵌入開(kāi)發(fā)過(guò)程，全面分析數(shù)據(jù)在各個(gè)階段所面臨的安全風(fēng)險(xiǎn)；在整體布局方面，建立普適性的，集管理、技術(shù)、評(píng)估和運(yùn)營(yíng)于一體的數(shù)據(jù)安全治理體系架構(gòu)，預(yù)期形成以應(yīng)急處置、隱患排查、預(yù)警通報(bào)和安全審計(jì)為核心的數(shù)據(jù)風(fēng)險(xiǎn)長(zhǎng)效治理機(jī)制。在協(xié)調(diào)治理方面，中國(guó)形成包括全國(guó)人大、中央政府、地方政府及行業(yè)組織在內(nèi)的多層級(jí)機(jī)構(gòu)體系，明確權(quán)責(zé)，加強(qiáng)多主體間協(xié)同共治［31］；在規(guī)制實(shí)踐中，形成“巡警機(jī)制、火警機(jī)制、片警機(jī)制”的外部治理結(jié)構(gòu)，以及以“算法安全、算法公平、算法向善”為依歸，發(fā)掘中國(guó)算法風(fēng)險(xiǎn)治理的內(nèi)部實(shí)質(zhì)，全面落實(shí)“基于風(fēng)險(xiǎn)”的規(guī)制路徑［32］。

5.在技術(shù)與社會(huì)深度融合過(guò)程中對(duì)新興風(fēng)險(xiǎn)進(jìn)行綜合研判與治理

新一代人工智能的技術(shù)軌跡具有多變性、不確定性和不可預(yù)見(jiàn)性，在技術(shù)屬性與社會(huì)屬性不斷融合的過(guò)程中需要對(duì)社會(huì)多個(gè)方面的風(fēng)險(xiǎn)進(jìn)行分析和綜合治理。第一，在大模型構(gòu)建過(guò)程中，中國(guó)利用以ChatGPT為代表的最具先進(jìn)性的人工智能技術(shù)整合不同來(lái)源、不同結(jié)構(gòu)和各個(gè)維度的數(shù)據(jù)，并加強(qiáng)算力、數(shù)據(jù)分析等信息技術(shù)基礎(chǔ)設(shè)施建設(shè)［33］，降低數(shù)據(jù)使用過(guò)程中的風(fēng)險(xiǎn)。第二，在與實(shí)體經(jīng)濟(jì)融合的過(guò)程中，加快發(fā)展數(shù)字經(jīng)濟(jì)，通過(guò)“數(shù)智化變革”體現(xiàn)包容審慎的思想，統(tǒng)籌好發(fā)展和風(fēng)險(xiǎn)規(guī)制的關(guān)系，增強(qiáng)風(fēng)險(xiǎn)治理的預(yù)見(jiàn)性。第三，在勞動(dòng)力市場(chǎng)的重塑過(guò)程中進(jìn)行綜合治理。如運(yùn)用稅收與轉(zhuǎn)移支付等再分配手段提升勞動(dòng)者對(duì)社會(huì)風(fēng)險(xiǎn)的抵御能力；以失業(yè)保險(xiǎn)穩(wěn)崗返還、靈活就業(yè)人員基本養(yǎng)老保險(xiǎn)等勞動(dòng)保障手段消解生存問(wèn)題與勞動(dòng)權(quán)益風(fēng)險(xiǎn)；以強(qiáng)化就業(yè)優(yōu)先政策、健全就業(yè)促進(jìn)機(jī)制等積極的勞動(dòng)力市場(chǎng)政策緩解人工智能技術(shù)替代造成的就業(yè)風(fēng)險(xiǎn)，減輕不平等與負(fù)外部性［34］。

四、提升中國(guó)人工智能風(fēng)險(xiǎn)治理能力的思路與建議

以歐盟為代表的規(guī)制型風(fēng)險(xiǎn)治理模式和以美國(guó)為代表的市場(chǎng)導(dǎo)向型治理模式均面臨二元邏輯下的治理限制。規(guī)制型治理的強(qiáng)風(fēng)險(xiǎn)約束會(huì)拖累技術(shù)創(chuàng)新步伐，不利于國(guó)際話語(yǔ)權(quán)的爭(zhēng)奪，且強(qiáng)約束存在程序復(fù)雜、時(shí)間冗長(zhǎng)、規(guī)則執(zhí)行難以完全一致等問(wèn)題，增加了治理協(xié)調(diào)的成本，容易將治理資源投入煩瑣耗時(shí)的“政治化”過(guò)程。市場(chǎng)導(dǎo)向型治理的弱風(fēng)險(xiǎn)約束對(duì)企業(yè)更加友好，但過(guò)于碎片化的方案導(dǎo)致風(fēng)險(xiǎn)治理原則不一致、忽視公平性，并使政府、企業(yè)、用戶(hù)等各方利益難以協(xié)調(diào)。在構(gòu)建中國(guó)人工智能風(fēng)險(xiǎn)治理模式、選擇相應(yīng)治理工具時(shí)，應(yīng)正確看待國(guó)情差異，立足自身傳統(tǒng)治理范式所累積的風(fēng)險(xiǎn)治理經(jīng)驗(yàn)，動(dòng)態(tài)調(diào)整治理方案，構(gòu)建符合自身實(shí)際的人工智能風(fēng)險(xiǎn)治理體系。

（一）中國(guó)人工智能風(fēng)險(xiǎn)治理能力的提升思路

從弱人工智能向強(qiáng)人工智能的演進(jìn)需要尋求范式突破，中國(guó)目前走在“創(chuàng)造性破壞”的正確道路上。只有深入理解敏捷治理背后的演化特征、重新梳理并設(shè)計(jì)治理流程與治理模式，才能更好制定并選擇合適的治理工具，靈活有效應(yīng)對(duì)風(fēng)險(xiǎn)帶來(lái)的不確定性。在模式構(gòu)建與工具選擇上，需要著重突出協(xié)同共治的特征，帶動(dòng)整體協(xié)調(diào)發(fā)展與利益動(dòng)態(tài)平衡［35］。

1.治理理念：以傳統(tǒng)治理理念為前提，對(duì)現(xiàn)存理念與方法進(jìn)行“揚(yáng)棄”

一方面，在構(gòu)建風(fēng)險(xiǎn)治理模式時(shí)，應(yīng)堅(jiān)持文化自信。敏捷治理理念在提出之時(shí)便與中國(guó)長(zhǎng)久以來(lái)堅(jiān)持的“以人為本”“包容審慎”等理念不謀而合，中國(guó)從集中式治理向敏捷治理轉(zhuǎn)變有充足的文化底蘊(yùn)與歷史經(jīng)驗(yàn)借鑒，有利于構(gòu)建獨(dú)有的整體治理圖景。另一方面，在參考風(fēng)險(xiǎn)治理經(jīng)驗(yàn)時(shí)要避免“拿來(lái)主義”。無(wú)論是創(chuàng)新優(yōu)先的軟性約束還是控制風(fēng)險(xiǎn)的硬性規(guī)制均有路徑依賴(lài)，最終服務(wù)其國(guó)家的意識(shí)形態(tài)和戰(zhàn)略目標(biāo)，因此要避免直接移植帶來(lái)的治理僵化，有選擇性地將先進(jìn)方法融合進(jìn)中國(guó)治理現(xiàn)代化體系。

2.治理主體：以廣泛參與為原則，追求目標(biāo)平衡與協(xié)作共贏

中國(guó)在探索式、回應(yīng)式、集中式治理階段均重視效益累加的最大化，而實(shí)現(xiàn)優(yōu)化的治理效果和各主體的協(xié)同共贏，需要在重視國(guó)家規(guī)制力量的基礎(chǔ)上與各利益相關(guān)方共同協(xié)作，在追求創(chuàng)新效率與強(qiáng)調(diào)風(fēng)險(xiǎn)治理之間找到平衡。在目標(biāo)構(gòu)建上，國(guó)家與地方政府、行業(yè)、企業(yè)、公眾等各利益相關(guān)方共同參與風(fēng)險(xiǎn)治理全過(guò)程，國(guó)家確定風(fēng)險(xiǎn)治理的整體目標(biāo)，各利益相關(guān)方反映各自的創(chuàng)新需求與治理需求，打通二者聯(lián)系溝通的渠道，維持雙方風(fēng)險(xiǎn)治理機(jī)制與創(chuàng)新能力的平衡，并保證可持續(xù)性。在具體實(shí)施過(guò)程中，國(guó)家依據(jù)技術(shù)發(fā)展需求與潛在風(fēng)險(xiǎn)之間博弈的實(shí)際情況制定治理原則，各利益相關(guān)方對(duì)治理過(guò)程中出現(xiàn)的各種風(fēng)險(xiǎn)特征與治理事件進(jìn)行及時(shí)反饋，暢通向上反饋與向下治理的整體路徑，促進(jìn)風(fēng)險(xiǎn)治理能力的升級(jí)。

3.治理強(qiáng)度：以剛?cè)岵?jì)為邏輯，形成動(dòng)態(tài)適應(yīng)性機(jī)制

為改善傳統(tǒng)治理范式預(yù)測(cè)能力弱、統(tǒng)籌能力差、治理范圍擴(kuò)展難等問(wèn)題，提升風(fēng)險(xiǎn)治理的及時(shí)性、靈活性與全面性，可從過(guò)程入手：一方面，對(duì)既有典型風(fēng)險(xiǎn)進(jìn)行重點(diǎn)防范、嚴(yán)加監(jiān)管，通過(guò)事前防范全力化解；另一方面，對(duì)創(chuàng)新技術(shù)融入社會(huì)后的未知風(fēng)險(xiǎn)與新興風(fēng)險(xiǎn)進(jìn)行軟約束，留足試錯(cuò)空間，借助完備的事中、事后風(fēng)險(xiǎn)應(yīng)對(duì)機(jī)制來(lái)消除。此外，治理強(qiáng)度的強(qiáng)與弱是一個(gè)相對(duì)性概念，在中國(guó)，國(guó)家層面的法律始終是任何治理與監(jiān)管措施的起點(diǎn)，在風(fēng)險(xiǎn)治理中占主體地位，起主導(dǎo)作用，任何階段的分層、分階段治理措施不能脫離國(guó)家的控制；同時(shí)，強(qiáng)監(jiān)管與軟約束不具有嚴(yán)格界限，敏捷治理的“包容審慎”理念需要二者靈活結(jié)合，并適時(shí)對(duì)治理強(qiáng)度進(jìn)行動(dòng)態(tài)調(diào)整。

4.治理工具：以靈活使用為方法，體現(xiàn)多維組合的思想

傳統(tǒng)治理范式下的風(fēng)險(xiǎn)治理工具，特別是法律依據(jù)、法律框架及部分法律原則，受到時(shí)效性不足的應(yīng)用限制。未來(lái)人工智能技術(shù)向普適性的應(yīng)用場(chǎng)景發(fā)展，更需要靈活有效的治理工具對(duì)未知風(fēng)險(xiǎn)與新興風(fēng)險(xiǎn)進(jìn)行動(dòng)態(tài)、及時(shí)的回應(yīng)。據(jù)此，要充分發(fā)揮敏捷治理中綜合運(yùn)用、揚(yáng)長(zhǎng)避短、靈活結(jié)合的思想，形成“下手快、力度輕”的治理策略［36］。在風(fēng)險(xiǎn)治理工具綜合使用過(guò)程中，國(guó)家把控人工智能技術(shù)的發(fā)展導(dǎo)向，對(duì)新興風(fēng)險(xiǎn)的治理作出原則性引導(dǎo)，各利益相關(guān)方需明確各領(lǐng)域未來(lái)風(fēng)險(xiǎn)治理的核心環(huán)節(jié)，結(jié)合具體應(yīng)用場(chǎng)景實(shí)現(xiàn)治理工具的適配性組合，同時(shí)對(duì)風(fēng)險(xiǎn)治理效果進(jìn)行及時(shí)反饋與互動(dòng)。

5.治理方向：以提升“可信性”為目標(biāo)，實(shí)現(xiàn)技術(shù)應(yīng)用與風(fēng)險(xiǎn)治理的協(xié)同

可信人工智能是人工智能技術(shù)未來(lái)發(fā)展的重要趨勢(shì)，為信息、物理與人的融合交互過(guò)程中的風(fēng)險(xiǎn)治理提供了更加明確的發(fā)展方向［37］。“可信”延伸了傳統(tǒng)的安全、可靠等概念，認(rèn)為人工智能整體系統(tǒng)在應(yīng)用過(guò)程中，其目標(biāo)、行為與結(jié)果具有一致性，符合人們預(yù)期，并在受到外部沖擊時(shí)能持續(xù)穩(wěn)定提供服務(wù)［38］。自動(dòng)駕駛失控爭(zhēng)議、醫(yī)療人工智能的誤診歸責(zé)、“大數(shù)據(jù)殺熟”侵犯用戶(hù)隱私、人工智能輔助司法程序產(chǎn)生偏見(jiàn)等問(wèn)題和事故，均可劃定為“人工智能可信性問(wèn)題”所帶來(lái)的風(fēng)險(xiǎn)。由此，如何避免并消除“不可信”因素，對(duì)“可信性”引發(fā)的風(fēng)險(xiǎn)進(jìn)行治理，是下一步必須面對(duì)的核心問(wèn)題與重要挑戰(zhàn)。可信人工智能一方面為各國(guó)廣泛接受，具有全球共識(shí)性與約束力［39］，另一方面有利于通過(guò)技術(shù)與社會(huì)的深度融合，倒逼風(fēng)險(xiǎn)治理模式與工具加速成熟，并適時(shí)進(jìn)行動(dòng)態(tài)調(diào)整，在風(fēng)險(xiǎn)治理實(shí)踐中有效提升從人工智能走向可信人工智能的能力。

（二）中國(guó)人工智能風(fēng)險(xiǎn)治理能力的優(yōu)化建議

敏捷治理需要將共建共治的思想融入人工智能風(fēng)險(xiǎn)治理模式中。中國(guó)也面臨政策、法律、標(biāo)準(zhǔn)、行業(yè)自治等規(guī)則制定的滯后性與人工智能技術(shù)飛速迭代之間的矛盾，新興風(fēng)險(xiǎn)層出不窮，傳統(tǒng)風(fēng)險(xiǎn)治理急需范式革新以契合強(qiáng)人工智能潛在治理需求［40］。目前，中國(guó)人工智能風(fēng)險(xiǎn)治理從傳統(tǒng)治理方式向敏捷治理轉(zhuǎn)變過(guò)程中存在理念與實(shí)踐條件上的局限，治理模式與治理工具仍需在技術(shù)與社會(huì)深度融合中動(dòng)態(tài)調(diào)整。

1.風(fēng)險(xiǎn)治理模式優(yōu)化建議

在宏觀政策上，整合相對(duì)分散化的治理方案，構(gòu)建國(guó)家治理整體圖景。在人工智能與社會(huì)結(jié)合過(guò)程中，技術(shù)發(fā)展具有一體化、集中化趨勢(shì)，賦能各行各業(yè)，不斷向“通用化”發(fā)展。但社會(huì)應(yīng)用場(chǎng)景不斷擴(kuò)充，使技術(shù)性風(fēng)險(xiǎn)頻譜日益復(fù)雜、社會(huì)性風(fēng)險(xiǎn)事件頻發(fā)，在治理上仍采用“分而治之”理念不符合中國(guó)從弱人工智能向強(qiáng)人工智能演進(jìn)的發(fā)展路徑，需要提升法律法規(guī)、倫理規(guī)范、行業(yè)規(guī)則等各規(guī)制手段的普適性，以此謀劃風(fēng)險(xiǎn)治理全局。

在政府治理中，應(yīng)通過(guò)部門(mén)聯(lián)動(dòng)提升治理實(shí)效和調(diào)整能力。中國(guó)目前的集中式治理以法律的硬性約束為主基調(diào)，固定科層治理結(jié)構(gòu)形成自上而下的監(jiān)管權(quán)威，容錯(cuò)空間較小。從集中式治理走向敏捷治理是帕累托改進(jìn)的過(guò)程，制約因素在于：一方面，現(xiàn)行法律缺失“人機(jī)協(xié)同”的相關(guān)設(shè)計(jì)與規(guī)定，社會(huì)監(jiān)管與技術(shù)監(jiān)管存在脫節(jié)，且相關(guān)法律調(diào)整的時(shí)間和資金投入不符合成本效益原則；另一方面，監(jiān)管權(quán)威意味著風(fēng)險(xiǎn)治理模式易僵化，事前監(jiān)管全覆蓋的模式與強(qiáng)人工智能開(kāi)放性、溢出性、不確定性的特征不契合。據(jù)此，消除技術(shù)變革向應(yīng)用落地的風(fēng)險(xiǎn)制約、提升技術(shù)發(fā)展現(xiàn)實(shí)需求和新興風(fēng)險(xiǎn)治理需求的響應(yīng)速度、減少信息不對(duì)稱(chēng)帶來(lái)的監(jiān)管錯(cuò)位等問(wèn)題，需要政府部門(mén)提升行政效率和監(jiān)管服務(wù)能力，找準(zhǔn)創(chuàng)新和風(fēng)險(xiǎn)規(guī)制的平衡點(diǎn)。

在企業(yè)地位上，暢通反饋渠道，提升風(fēng)險(xiǎn)治理細(xì)化實(shí)施過(guò)程中的話語(yǔ)權(quán)和代表性。中國(guó)推動(dòng)人工智能企業(yè)自主參與風(fēng)險(xiǎn)治理的邊界、機(jī)制缺乏明確的規(guī)定和制度保障，并且面臨企業(yè)參與意愿不強(qiáng)、能力不足等問(wèn)題［41］。此外，中國(guó)人工智能布局于少數(shù)頭部科創(chuàng)公司與互聯(lián)網(wǎng)企業(yè)，其風(fēng)險(xiǎn)事件與治理需求缺乏普適性，中小企業(yè)風(fēng)險(xiǎn)治理的反饋渠道不暢導(dǎo)致治理方略代表性不足。敏捷治理模式需要多元主體的協(xié)同，而企業(yè)是技術(shù)的策源地，同時(shí)是聯(lián)結(jié)政府和群眾的橋梁。企業(yè)聽(tīng)取群眾意見(jiàn)，對(duì)社會(huì)風(fēng)險(xiǎn)事件進(jìn)行研判，既可以改進(jìn)技術(shù)環(huán)節(jié)，提升人工智能產(chǎn)品和服務(wù)與各類(lèi)場(chǎng)景的契合度，又可以通過(guò)座談會(huì)等形式向政府反映技術(shù)突破限制和新興社會(huì)風(fēng)險(xiǎn)危害，提升風(fēng)險(xiǎn)治理的影響力和聲譽(yù)度。

在公眾意識(shí)上，提升研發(fā)者與管理人員在前端的治理能力，并強(qiáng)化公眾對(duì)新興風(fēng)險(xiǎn)的社會(huì)認(rèn)知。第一，中國(guó)人工智能技術(shù)研發(fā)者多集中于應(yīng)用層，理論研究缺失、技術(shù)前沿認(rèn)知不清晰等問(wèn)題普遍存在，間接導(dǎo)致研發(fā)端與應(yīng)用端的風(fēng)險(xiǎn)認(rèn)知相脫節(jié)，且非技術(shù)人員的風(fēng)險(xiǎn)甄別能力欠缺，事前監(jiān)管介入、過(guò)程風(fēng)險(xiǎn)控制與事后防控追責(zé)等存在職責(zé)缺位。第二，技術(shù)門(mén)檻與使用過(guò)程中的“黑箱”使社會(huì)公眾對(duì)人工智能技術(shù)概念、新興風(fēng)險(xiǎn)及基礎(chǔ)治理模式缺乏了解，對(duì)風(fēng)險(xiǎn)的識(shí)別度與防范能力不足。任何技術(shù)突破和有效的風(fēng)險(xiǎn)治理最終都要靠公眾的力量，只有提升公眾的識(shí)別和防范風(fēng)險(xiǎn)能力，才能獲得社會(huì)進(jìn)步的內(nèi)生動(dòng)力。

2.風(fēng)險(xiǎn)治理工具優(yōu)化建議

中國(guó)人工智能風(fēng)險(xiǎn)治理模式在不同階段具有不同特點(diǎn)：探索式治理指引風(fēng)險(xiǎn)規(guī)制方向；回應(yīng)式治理以加強(qiáng)技術(shù)創(chuàng)新為主，風(fēng)險(xiǎn)規(guī)制力度較弱；集中式治理轉(zhuǎn)向硬性約束，針對(duì)特定領(lǐng)域特定問(wèn)題加強(qiáng)風(fēng)險(xiǎn)規(guī)制力度。總體而言，中國(guó)對(duì)風(fēng)險(xiǎn)治理模式的系統(tǒng)性探索起步較晚，實(shí)踐經(jīng)驗(yàn)不足，而人工智能技術(shù)性風(fēng)險(xiǎn)趨漸復(fù)雜、新興風(fēng)險(xiǎn)事件頻發(fā)，多方因素匯聚將觸發(fā)向敏捷治理轉(zhuǎn)變的新一輪變革［42］。為此，需要找準(zhǔn)中國(guó)在人工智能風(fēng)險(xiǎn)治理工具應(yīng)用過(guò)程中存在的問(wèn)題，進(jìn)而加強(qiáng)治理工具的組合性使用。

第一，明確法律工具適用的監(jiān)管范圍，降本增效，提升法理依據(jù)與現(xiàn)實(shí)的對(duì)接質(zhì)量。首先，整合部門(mén)，明確風(fēng)險(xiǎn)監(jiān)管范圍。中國(guó)人工智能多頭治理的模式容易導(dǎo)致繁雜事務(wù)存在推諉現(xiàn)象，明確各部門(mén)風(fēng)險(xiǎn)監(jiān)管范圍可以消除治理的灰色地帶。其次，對(duì)風(fēng)險(xiǎn)傳播最廣、現(xiàn)存危害最大的方面應(yīng)加大投入。例如，在數(shù)據(jù)和算法的風(fēng)險(xiǎn)規(guī)制過(guò)程中，各部門(mén)既無(wú)力也不需要細(xì)化審查每條生成內(nèi)容，節(jié)省的運(yùn)營(yíng)成本可投入對(duì)技術(shù)研發(fā)、管理和問(wèn)責(zé)機(jī)制的全面評(píng)估，將風(fēng)險(xiǎn)控制于人工智能產(chǎn)品“出廠”前。最后，加強(qiáng)法律實(shí)踐應(yīng)用，提升法律體系的權(quán)威性和法理?xiàng)l例的可依性。在人工智能應(yīng)用爭(zhēng)議的審判過(guò)程中，解決相關(guān)法律法規(guī)的引用不足、法理依據(jù)與現(xiàn)實(shí)治理對(duì)接不暢等問(wèn)題是進(jìn)一步完善人工智能風(fēng)險(xiǎn)治理法律體系的重點(diǎn)任務(wù)。

第二，提升倫理工具對(duì)新興風(fēng)險(xiǎn)的研判能力，并主動(dòng)應(yīng)用于實(shí)踐。我國(guó)邁向智能時(shí)代的過(guò)程極其迅速，“步子過(guò)大”使得在傳統(tǒng)的技術(shù)倫理秩序未建構(gòu)完善的情況下，又迫切需要深入分析研究更為復(fù)雜、更具挑戰(zhàn)性的新興倫理風(fēng)險(xiǎn)。人工智能倫理風(fēng)險(xiǎn)治理目前僅依靠出臺(tái)相關(guān)標(biāo)準(zhǔn)與指南進(jìn)行軟治理，與現(xiàn)實(shí)對(duì)接的實(shí)際操作案例不足，難以形成中國(guó)社會(huì)獨(dú)有的、具有針對(duì)性的、具體的倫理風(fēng)險(xiǎn)治理工具與治理之策。因此，要遵循“以人為本”的準(zhǔn)則，從安全性、透明度、公平性和問(wèn)責(zé)性等方面對(duì)風(fēng)險(xiǎn)案例進(jìn)行研判，不斷豐富倫理風(fēng)險(xiǎn)的治理實(shí)踐經(jīng)驗(yàn)，并探索出可復(fù)制的治理路徑。

第三，整合數(shù)據(jù)和算法的風(fēng)險(xiǎn)治理資源與環(huán)節(jié)，消除監(jiān)管灰色地帶。一方面，搭建技術(shù)平臺(tái)，引導(dǎo)監(jiān)管內(nèi)容互聯(lián)互通共享。目前，數(shù)據(jù)和算法的監(jiān)管被納入以國(guó)家互聯(lián)網(wǎng)信息辦公室為核心主體，中央政府、地方政府、行業(yè)組織多方治理的格局中，力圖實(shí)現(xiàn)過(guò)程全覆蓋。搭建技術(shù)平臺(tái)可將分散的數(shù)據(jù)算法資源進(jìn)行整合使用，降低風(fēng)險(xiǎn)治理的溝通成本。另一方面，暢通各利益相關(guān)方向治理主體反饋風(fēng)險(xiǎn)的機(jī)制渠道。數(shù)據(jù)和算法風(fēng)險(xiǎn)頻譜各異，多方治理存在重疊與真空的地帶，只有向治理主體完整反映風(fēng)險(xiǎn)發(fā)生的過(guò)程與產(chǎn)生的危害，才可避免治理范圍“極端”化導(dǎo)致的監(jiān)管缺失問(wèn)題。

第四，提高社會(huì)風(fēng)險(xiǎn)治理工具在技術(shù)領(lǐng)域和非技術(shù)領(lǐng)域融合過(guò)程中的應(yīng)用靈活度。首先，將弱人工智能向強(qiáng)人工智能技術(shù)突破過(guò)程中的模型訓(xùn)練置于更高維度。政策工具與人工智能風(fēng)險(xiǎn)治理的匹配需要更廣泛的數(shù)據(jù)實(shí)驗(yàn)支撐，包羅萬(wàn)象的數(shù)據(jù)訓(xùn)練信息有助于有效回應(yīng)靈活、復(fù)雜、不確定性強(qiáng)的社會(huì)風(fēng)險(xiǎn)。其次，人工智能技術(shù)和實(shí)體經(jīng)濟(jì)的結(jié)合需要提升治理工具的風(fēng)險(xiǎn)研判聚焦度，如高新技術(shù)企業(yè)在技術(shù)領(lǐng)先的狀態(tài)下會(huì)追求風(fēng)險(xiǎn)管理的制度細(xì)則，傳統(tǒng)企業(yè)尋求變革發(fā)展過(guò)程中更重視企業(yè)活力與創(chuàng)新，風(fēng)險(xiǎn)治理工具在不同應(yīng)用場(chǎng)景應(yīng)保持足夠的引導(dǎo)性與靈活度。最后，加強(qiáng)勞動(dòng)力市場(chǎng)意識(shí)形態(tài)的辨析與監(jiān)管。人工智能技術(shù)應(yīng)用于勞動(dòng)者培養(yǎng)體系，需要考察人工智能的技術(shù)開(kāi)發(fā)與應(yīng)用人員本身是否具有社會(huì)普遍認(rèn)同的價(jià)值觀，彌補(bǔ)意識(shí)形態(tài)方面的監(jiān)管空白。■

參考文獻(xiàn)

［1］KUNG T H， CHEATHAM M， MEDENILLA A， et al. Performance of ChatGPT on USMLE： Potential for AI-assisted medical education using large language models［J］. PLOS Digit Health，2023，2（2）： 198.

［2］許源源，陳智．新一代人工智能技術(shù)社會(huì)化應(yīng)用的脆弱性風(fēng)險(xiǎn)及其韌性治理研究——以ChatGPT為例［J］．電子政務(wù)，2023（9）：39-49．

［3］SZOCIK K， TKACZ B， GULCZYNSKI P. The revelation of superintelligence［J］. AI amp; SOCIETY， 2020， 35： 755-758.

［4］林偉．人工智能數(shù)據(jù)安全風(fēng)險(xiǎn)及應(yīng)對(duì)［J］．情報(bào)雜志，2022（10）：105-111．

［5］韓萬(wàn)渠，韓一，柴琳琳．算法權(quán)力及其適應(yīng)性協(xié)同規(guī)制：基于信息支配權(quán)的分析［J］．中國(guó)行政管理，2022（1）：33-39．

［6］李平，鄧洲，張艷芳．新科技革命和產(chǎn)業(yè)變革下全球算力競(jìng)爭(zhēng)格局及中國(guó)對(duì)策［J］．經(jīng)濟(jì)縱橫，2021（4）：33-42．

［7］陳兵．通用人工智能創(chuàng)新發(fā)展帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)及其法治應(yīng)對(duì)［J］．知識(shí)產(chǎn)權(quán)，2023（8）：53-73．

［8］張欣．生成式人工智能的算法治理挑戰(zhàn)與治理型監(jiān)管［J］．現(xiàn)代法學(xué)，2023（3）：108-123．

［9］龍柯宇．生成式人工智能應(yīng)用失范的法律規(guī)制研究——以ChatGPT和社交機(jī)器人為視角［J］．東方法學(xué)，2023（4）：44-55．

［10］" 宋應(yīng)登，霍竹，鄧益志．中國(guó)科技倫理治理的問(wèn)題挑戰(zhàn)及對(duì)策建議［J/OL］．科學(xué)學(xué)研究， https：//doi.org/10.16192/j.cnki.1003-2053.2

0230927.001.

［11］" 王德祥，王建波．新一代人工智能對(duì)數(shù)字經(jīng)濟(jì)的影響——以ChatGPT為例［J］．特區(qū)實(shí)踐與理論，2023（2）：34-39．

［12］" 鄧悅，蔣琬儀．智能化轉(zhuǎn)型何以激發(fā)企業(yè)創(chuàng)新？——基于制造業(yè)勞動(dòng)力多樣性的解釋?zhuān)跩］．改革，2022（9）：108-122．

［13］" DJEFFAL C， SIEWERT M B， WURSTER S. Role of the state and responsibility in governing artificial intelligence： A comparative analysis of AI strategies［J］. Journal of European Public Policy， 2022， 29（11）： 1799-1821.

［14］" 魯傳穎，張璐瑤．人工智能的安全風(fēng)險(xiǎn)及治理模式探索［J］．國(guó)家安全研究，2022（4）：84-100．

［15］" 劉湘麗，肖紅軍．軟法范式的人工智能倫理監(jiān)管：日本制度探析［J］．現(xiàn)代日本經(jīng)濟(jì)，2023（4）：28-44．

［16］" 賈開(kāi)，蔣余浩．人工智能治理的三個(gè)基本問(wèn)題：技術(shù)邏輯、風(fēng)險(xiǎn)挑戰(zhàn)與公共政策選擇［J］．中國(guó)行政管理，2017（10）：40-45．

［17］" 陳升，劉子俊，張楠．?dāng)?shù)字時(shí)代生成式人工智能影響及治理政策導(dǎo)向［J］．科學(xué)學(xué)研究，2024（1）：10-20．

［18］" 肖紅軍，張麗麗，陽(yáng)鎮(zhèn)．歐盟數(shù)字科技倫理監(jiān)管：進(jìn)展及啟示［J］．改革，2023（7）：73-89．

［19］" 蔡士林，楊磊． ChatGPT智能機(jī)器人應(yīng)用的風(fēng)險(xiǎn)與協(xié)同治理研究［J］．情報(bào)理論與實(shí)踐，2023（5）：14-22．

［20］" 劉毅．中外智能社會(huì)治理研究的文獻(xiàn)計(jì)量學(xué)分析［J］．理論與改革，2023（4）：147-161．

［21］" 洪銀興，任保平．?dāng)?shù)字經(jīng)濟(jì)與實(shí)體經(jīng)濟(jì)深度融合的內(nèi)涵和途徑［J］．中國(guó)工業(yè)經(jīng)濟(jì)，2023（2）：5-16．

［22］" ABRAHAM R， SCHNEIDER J， VOM BRO-CKE J. Data governance： A conceptual frame-work， structured review， and research agenda［J］. International Journal of Information Man-agement， 2019， 49： 424-438.

［23］" PAN Y. Heading toward artificial intelligence 2.0［J］. Engineering， 2016， 2（4）： 409-413.

［24］" 于文軒．ChatGPT與敏捷治理［J］．學(xué)海，2023（2）：52-57．

［25］" LI Y， FAN Y， NIE L. Making governance agile： Exploring the role of artificial intelligence in China's local governance［J］. Public Policy and Administration， 2023.

［26］" 曾堅(jiān)朋，張雙志，張龍鵬．中美人工智能政策體系的比較研究——基于政策主體、工具與目標(biāo)的分析框架［J］．電子政務(wù)，2019（6）：13-22．

［27］" 陳少威，吳劍霞．人工智能治理風(fēng)險(xiǎn)和工具的識(shí)別與匹配研究——基于政策文本的分析［J］．中國(guó)行政管理，2022（9）：23-30．

［28］" 周江偉，趙瑜．人工智能治理原則的實(shí)踐導(dǎo)向：可靠性、問(wèn)責(zé)制與社會(huì)協(xié)同［J］．治理研究，2023（5）：111-127．

［29］" 畢文軒．生成式人工智能的風(fēng)險(xiǎn)規(guī)制困境及其化解：以ChatGPT的規(guī)制為視角［J］．比較法研究，2023（3）：155-172．

［30］" 俞鼎，李正風(fēng)．生成式人工智能社會(huì)實(shí)驗(yàn)的倫理問(wèn)題及治理［J］．科學(xué)學(xué)研究，2024（1）：3-9．

［31］" 馬海群，李金玲，于同同，等．全生命周期視閾下公共數(shù)據(jù)倫理準(zhǔn)則框架研究［J］．農(nóng)業(yè)圖書(shū)情報(bào)學(xué)報(bào)，2023（6）：29-42．

［32］" 許可．算法規(guī)制體系的中國(guó)建構(gòu)與理論反思［J］．法律科學(xué)（西北政法大學(xué)學(xué)報(bào)），2022（1）：124-132．

［33］" 洪永淼，汪壽陽(yáng)．人工智能新近發(fā)展及其對(duì)經(jīng)濟(jì)學(xué)研究范式的影響［J］．中國(guó)科學(xué)院院刊，2023（3）：353-357．

［34］" 鄧悅，蔣琬儀．工業(yè)機(jī)器人、管理能力與企業(yè)技術(shù)創(chuàng)新［J］．中國(guó)軟科學(xué)，2022（11）：129-141．

［35］" 趙志君，莊馨予．中國(guó)人工智能高質(zhì)量發(fā)展：現(xiàn)狀、問(wèn)題與方略［J］．改革，2023（9）：11-20．

［36］" 薛瀾，趙靜．走向敏捷治理：新興產(chǎn)業(yè)發(fā)展與監(jiān)管模式探究［J］．中國(guó)行政管理，2019（8）：28-34．

［37］" 何積豐．安全可信人工智能［J］．信息安全與通信保密，2019（10）：5-8．

［38］" 何積豐，單志廣，王戟，等．“可信軟件基礎(chǔ)研究”重大研究計(jì)劃結(jié)題綜述［J］．中國(guó)科學(xué)基金，2018（3）：291-296．

［39］" 賈開(kāi)．薛瀾．人工智能倫理問(wèn)題與安全風(fēng)險(xiǎn)治理的全球比較與中國(guó)實(shí)踐［J］．公共管理評(píng)論，2021（1）：122-134．

［40］" 張凌寒．于琳．從傳統(tǒng)治理到敏捷治理：生成式人工智能的治理范式革新［J］．電子政務(wù)，2023（9）：2-13．

［41］" 陳銳，江奕輝．生成式AI的治理研究：以ChatGPT為例［J］．科學(xué)學(xué)研究，2024（1）：21-30．

［42］" 姜李丹，薛瀾．我國(guó)新一代人工智能治理的時(shí)代挑戰(zhàn)與范式變革［J］．公共管理學(xué)報(bào)，2022（2）：1-11．