基于政企關(guān)系的人工智能時代公共治理難題

董金潔

【摘要】人工智能時代的到來，讓政府和企業(yè)之間的互動關(guān)系變得更加復(fù)雜：縱向上體現(xiàn)為政府對企業(yè)的監(jiān)管關(guān)系，橫向上體現(xiàn)為政府和企業(yè)的合作關(guān)系。且這種網(wǎng)狀關(guān)系與公共領(lǐng)域中新出現(xiàn)的三類問題，即由于人工智能技術(shù)發(fā)展不成熟造成的問題、由于人工智能技術(shù)沖擊了傳統(tǒng)的社會形態(tài)而使傳統(tǒng)社會向新時代過渡的過程中出現(xiàn)的結(jié)構(gòu)性問題、由于人工智能的不當(dāng)利用產(chǎn)生的問題相互影響。

【關(guān)鍵詞】政府治理;公共治理;治理能力;人工智能

一、背景和研究框架

1950年，阿蘭·圖靈以“一臺機器是否能與人進行對話，而不被人發(fā)現(xiàn)其機器身份”的標(biāo)準(zhǔn)來測試機器是否智能，因此人工智能（Artificial Intelligence）可以被定義為“電子計算機模擬或?qū)嶒灥募寄堋?。尤金·古斯特曼聊天機器人于2014年6月8日成功通過圖靈測試;2016年3月15日，谷歌公司研發(fā)的阿爾法狗以4：1的成績戰(zhàn)勝圍棋九段高手李世石。人工智能時代，將提供社會轉(zhuǎn)型新動能，帶來社會治理新挑戰(zhàn)。2017年3月5日，中國《政府工作報告》中首次提到了“人工智能”，同年7月20日，國務(wù)院發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，表示要大力發(fā)展人工智能產(chǎn)業(yè)。2017年以來，在政府的支持和企業(yè)界的努力下，人工智能向交通、金融、安防、法務(wù)等領(lǐng)域滲透。根據(jù)《2018-2023年中國人工智能行業(yè)市場前瞻與投資戰(zhàn)略規(guī)劃分析報告》顯示，人工職能產(chǎn)業(yè)規(guī)模也在不斷擴大。在支持和鼓勵人工智能產(chǎn)業(yè)發(fā)展的同時，政府也加強了與人工智能企業(yè)的合作。社會科學(xué)學(xué)界對時代背景下的政府治理進行了研究：梁芷銘強調(diào)了大數(shù)據(jù)時代國家治理主體變得更加多元;陳之常介紹了大數(shù)據(jù)運用對于社區(qū)公共服務(wù)水平的實際成效;王山認(rèn)為大數(shù)據(jù)時代政府面臨的挑戰(zhàn)體現(xiàn)在治理機制和人才素養(yǎng)沒有符合時代要求等。

現(xiàn)今的公共管理理論之下，都強調(diào)了不同的主體共同治理公共領(lǐng)域，人工智能產(chǎn)業(yè)的興起，尤其改變了技術(shù)企業(yè)在公共治理領(lǐng)域的話語權(quán)，因此作者從個體的分析角度，聚焦于政府和技術(shù)企業(yè)在治理過程中二者的互動關(guān)系。

二、公共治理難題

（一）對政府決策的影響。1.對官僚決策本身的挑戰(zhàn)。首先，人工智能造成了官僚決策時對技術(shù)的惰性依賴。研究人員高登·潘尼庫克也認(rèn)為：“過度依賴網(wǎng)絡(luò)尋找答案使得人們無法知道其實自己擁有想出答案的能力”;另一名研究人員納森尼耶·巴爾指出：“過度依賴從外部獲得信息，而非自己去學(xué)習(xí)或解決的積極思考，這種發(fā)展具備破壞性”。人類必然會在社會行為和決策中越來越依賴機器的作用，從而逐漸失去自己的決策和判斷能力。官僚過度依賴人工智能技術(shù)實際上會讓官僚在決策時潛意識讓機器替代了自我思考。其次，人工智能時代的官僚績效標(biāo)準(zhǔn)反而讓官僚的這種惰性產(chǎn)生難以被發(fā)現(xiàn)。人工智能時代電子政務(wù)水平建設(shè)是衡量官僚績效的重要標(biāo)準(zhǔn)，官僚在進行公共治理時完全可以依賴人工智能進行決策，并且讓官僚的治理行為由于這種被認(rèn)可了的科學(xué)手段的運用而變得同樣科學(xué)合理。此時官僚不再需要那么多的自我決策能力就能在年度測評中達到及格甚至優(yōu)秀，官僚的注意力更加傾向于購買人工智能服務(wù)而非自我決策思維的鍛煉。2.對官僚決策的認(rèn)同性挑戰(zhàn)。一方面，從提供決策方案的角度來說，人工智能輔助政府決策的過程，實際上是基于大量數(shù)據(jù)由機器根據(jù)一定的算法進行邏輯推演而得出結(jié)論的過程。政府運用人工智能做出的決策，實際上也只是在有限的結(jié)果，即經(jīng)過系列算法給出的限定方案之下做出的選擇，這似乎從前提上就限制了政府決策的自由意志;另一方面，如公民向政府的政務(wù)咨詢，由人工智能來回應(yīng)的話，是否具有權(quán)威性和合法性。如果說不能簡單地將前者嚴(yán)峻化到給社會定義了一個新邏輯，即機器操縱人的話;后者至少體現(xiàn)了政府為了追求效率性而將與公民直接對話的機會讓渡給了機器。2017年底進行的埃森哲調(diào)研的報告中顯示，66%的受訪者表示對政府使用人工智能的道德和責(zé)任缺乏信心。

（二）對政企合作關(guān)系的影響。縱向上來說，人工智能時代的社會形態(tài)近似于網(wǎng)絡(luò)社會，呈現(xiàn)出“扁平化”的特征。人工智能時代要求政府和技術(shù)公司進行合作來共同治理公共領(lǐng)域事務(wù)，政府和技術(shù)公司在合作中各持有合作的籌碼或者稱之為談判的依據(jù)，政府的籌碼系權(quán)力資源，技術(shù)公司的籌碼系技術(shù)資源。從供需角度看，人工智能作為市場上的產(chǎn)品或服務(wù)，其供給方是企業(yè)，其需求方是政府，隨著政府的需求越來越大，人工智能的價格也越來越高，也意味著企業(yè)的籌碼在不斷加重，潛在改變了技術(shù)公司在特定領(lǐng)域中和政府的互動關(guān)系，沖擊了以前基于權(quán)力關(guān)系下政府對企業(yè)的強制約關(guān)系?？偟膩碚f，一方面，政府作為市場的監(jiān)管者，與企業(yè)的關(guān)系是監(jiān)管者和被監(jiān)管者的關(guān)系，且這種關(guān)系始終會被考慮到政府和企業(yè)的互動過程中;另一方面，由于公共領(lǐng)域的特殊性質(zhì)以及政府在公共領(lǐng)域中承擔(dān)的職責(zé)以及扮演的角色，企業(yè)利用談判籌碼來獲得的好處始終會限制在一個幅度范圍內(nèi)：政治上，在政府放權(quán)的閾值之內(nèi);經(jīng)濟上，在政府財政預(yù)算的閾值之內(nèi)。

（三）對治理對象的影響。1.人工智能對就業(yè)的影響。根據(jù)日本《經(jīng)濟新聞》和英國《金融時報》共同研究調(diào)查發(fā)現(xiàn)，在人類的820種職業(yè)、2069項業(yè)務(wù)中，約有34%可被機器人替代。根據(jù)牛津大學(xué)的統(tǒng)計，未來人工智能的發(fā)展會取代1000萬個工作崗位。達成共識的是，被人工智能所取代的勞動者當(dāng)中，受影響程度最重的是中間技能勞動者，而對高技能行業(yè)和低技能服務(wù)業(yè)的就業(yè)崗位有所增加。因此，這部分失業(yè)的中間技能人員的結(jié)果無非是以下四種：（1）失業(yè);（2）勝任低技能服務(wù)業(yè);（3）沉浸在被人工智能奪走工作的憂慮中繼續(xù)原崗位;（4）經(jīng)過培訓(xùn)實現(xiàn)高技能就業(yè)。由于被取代的勞動者實際上選擇另外一種結(jié)果都意味在原崗位上的職位被“降級”，這四種選擇都蘊含著潛在的心理上的不適。2.人工智能對收入和地位的影響。人工智能的出現(xiàn)能產(chǎn)生不平等。首先，人工智能技術(shù)促使生產(chǎn)過程中資本要素的份額提升，而使勞動者的工資收入減少。將人工智能技術(shù)運用到非常成熟的階段時，即進入超人工智能階段的時候，社會可能會更加分層，一類人屬于無用階層，對社會毫無貢獻，這是否會造成有用階層對于無用階層的統(tǒng)治呢？其次，由于智慧產(chǎn)業(yè)以及人才的集聚，各地區(qū)的人工智能水平發(fā)展不一致，也會加大地區(qū)之間的不平等。3.人工智能產(chǎn)品的侵權(quán)與追責(zé)。人工智能產(chǎn)品具有一般產(chǎn)品的特征，即技術(shù)以及依托技術(shù)誕生的產(chǎn)品意志始終和使用者的意志保持一致，在不考慮負(fù)外部性的情況下，使用者的破壞性利用方式會使人工智能運用產(chǎn)生負(fù)面效果，該特性決定了人工智能可能產(chǎn)生的負(fù)面效果的大小。安裝了微型廣角鏡頭，配備高靈敏度的傳感器和高容量的炸藥，可以準(zhǔn)確地瞄準(zhǔn)目標(biāo)并成功實施殺害攻擊對象的殺手機器人就會給社會帶來極大的安全風(fēng)險。同時，人工智能產(chǎn)生的負(fù)面效果細(xì)微到難以被人察覺的入侵人類隱私上。由于人工智能一方面具有擬人格化的特性，有時會自動發(fā)出指令以及做出行為;另一方面，人工智能仍然是由人類所創(chuàng)造出來的。因此，這種擬人格化的由人類創(chuàng)造出來的行為體的行為后果承擔(dān)、責(zé)任歸屬在我國法律上還未完全給出一個解決方案。因此，受到人工智能傷害的受害人尋求法律救濟這條道路上是模糊的。

人工智能的發(fā)展不僅帶來新的失業(yè)、不平等以及侵權(quán)等問題，也在此基礎(chǔ)上誘發(fā)了犯罪與安全問題和一系列群體性事件。1.犯罪與安全。人工智能剝奪了中等技術(shù)勞動力的工作走向的第一個結(jié)果，即失業(yè)，與滋生犯罪有明顯的實證關(guān)系。另外，研究證明收入差距使刑事案件數(shù)量明顯增加，并集中在包括兇殺和傷害在內(nèi)的暴力型案件以及盜竊財產(chǎn)型案件。另外，人工智能技術(shù)的運用本身便會進一步升級打擊的力度和密度，前述提及的殺人機器人，若頻繁出現(xiàn)在城市中，難免會遭到不法分子利用。相關(guān)統(tǒng)計顯示，2016年以來發(fā)生的網(wǎng)絡(luò)攻擊事件中，與人工智能相關(guān)的事件占到了六成。且如果該機器人自動做出行為但對象誤判時，將會給公共安全帶來極為嚴(yán)重的危害。2.群體性事件。1970年，社會學(xué)家格爾提出了“相對剝奪感”的觀念，認(rèn)為當(dāng)一個人在社會中的價值能力低于個人的價值期望時，人們就會產(chǎn)生失落、不滿足感以及相對剝奪感。人工智能剝奪了中等技術(shù)勞動力的工作，導(dǎo)致原本可以勝任中等技術(shù)崗位的勞動者只能選擇低技能要求的服務(wù)行業(yè)，這讓該群體容易產(chǎn)生心理落差而帶來不滿。同時，時刻帶著失業(yè)恐懼的勞動者自然也不會產(chǎn)生較高的生活滿意度，而生活滿意度與群體性事件的爆發(fā)實際上呈負(fù)相關(guān)關(guān)系。以上問題按照發(fā)生的原因可以分為三類：第一類是由于人工智能技術(shù)發(fā)展不成熟造成的問題，如文件損害、輸入設(shè)備受損、安全系統(tǒng)漏洞、有瑕疵的編程等;第二類是由于人工智能技術(shù)沖擊了傳統(tǒng)的社會形態(tài)而使傳統(tǒng)社會向新時代過渡的過程中難以避免地出現(xiàn)結(jié)構(gòu)性問題，如失業(yè)問題;第三類問題是由于人工智能的不當(dāng)利用產(chǎn)生的問題。

（四）對監(jiān)管的影響。埃隆·馬斯克提出：“我們應(yīng)該十分小心地看待人工智能”。正如馬斯克所說，我們應(yīng)該加大對人工智能的監(jiān)管。與傳統(tǒng)公共領(lǐng)域的監(jiān)管難題相比較，人工智能時代公共領(lǐng)域治理進行監(jiān)管出現(xiàn)的新難題主要存在于以下三個限制：1.技術(shù)限制。人工智能由于技術(shù)門檻過高，因此政府對于掌握該項技術(shù)的技術(shù)公司的監(jiān)管存在著技術(shù)方面的限制。2.經(jīng)驗限制。隨著人工智能時代的到來，新技術(shù)的運用使特定的公共領(lǐng)域治理無經(jīng)驗可以參照。比如在無人駕駛領(lǐng)域，由于政府無相關(guān)治理經(jīng)驗，導(dǎo)致政府監(jiān)管、法律規(guī)則都還是空白的。傳統(tǒng)的監(jiān)管方式，如產(chǎn)品許可制度、研究與開發(fā)監(jiān)管、產(chǎn)品侵權(quán)責(zé)任，都不適用于管理自主智能機器所帶來的風(fēng)險。3.不易偵察的限制。開發(fā)隱秘的人工智能技術(shù)、零散分布的人工智能合作都難以被準(zhǔn)確監(jiān)管，這些都帶來了風(fēng)險預(yù)見的困難，從而加大了對人工智能進行事前監(jiān)管的難度。

三、小結(jié)

人工智能時代挑戰(zhàn)了政府和企業(yè)的合作形態(tài)，作為甲方的政府給了作為乙方的企業(yè)更多的利用人工智能技術(shù)在公共領(lǐng)域治理合同中的定價能力，作為監(jiān)管者的政府由于技術(shù)限制、經(jīng)驗限制、不易偵察的限制變得更加不易于履行監(jiān)管職能。政府對于人工技能的依賴，削弱了政府的治理能力，不利于通過轉(zhuǎn)變職能解決公共領(lǐng)域治理中出現(xiàn)的第二類問題;政府的監(jiān)管不力，則意味著政府對企業(yè)更加難以控制，而不利于解決公共領(lǐng)域治理中出現(xiàn)的第三類問題。且政府治理能力的相對減弱以及對技術(shù)公司的監(jiān)管越發(fā)困難，使政府在和企業(yè)合作治理公共領(lǐng)域中不利于掌握談判的籌碼。同時隨著企業(yè)技術(shù)能力的增強，雖然一定程度上解決了第一類問題，但由于公共領(lǐng)域治理并不屬于企業(yè)的行為領(lǐng)域以及目標(biāo)范疇，因此可能會存在著由于技術(shù)水平的提升而導(dǎo)致第二類問題和第三類問題更加嚴(yán)重。

【參考文獻】

[1]〔英〕凱文·渥維克，李碧等譯.機器的征途[M].呼和浩特：內(nèi)蒙古人民出版社，1998.

[2]張成崗.人工智能時代：技術(shù)發(fā)展、風(fēng)險挑戰(zhàn)與秩序重構(gòu)[J].南京社會科學(xué)，2018（05）：42-52.

[3]梁芷銘.大數(shù)據(jù)治理：國家治理能力現(xiàn)代化的應(yīng)有之義[J].吉首大學(xué)學(xué)報（社會科學(xué)版），2015，36（02）：34-41.

[4]陳之常.應(yīng)用大數(shù)據(jù)推進政府治理能力現(xiàn)代化——以北京市東城區(qū)為例[J].中國行政管理，2015（02）：38-42.

[5]王山.大數(shù)據(jù)時代中國政府治理能力建設(shè)與公共治理創(chuàng)新[J].求實，2017（01）：51-57.

[6]何哲.面向未來的公共管理體系：基于智能網(wǎng)絡(luò)時代的探析[J].中國行政管理，2017（11）：100-106.

[7]董立人.人工智能發(fā)展與政府治理創(chuàng)新研究[J].天津行政學(xué)院學(xué)報，2018，20（03）：3-10.

[8]前瞻網(wǎng).埃森哲：超半數(shù)公民愿意使用政府提供的人工智能服務(wù)[EB/OL]，https：//baijiahao.baidu.com/s？id=1595630304877517527&wfr=spider&for=pc，2018-03-22.

[9]鳳凰網(wǎng).一個悲傷的事實：34%的工作將會被人工智能替代[EB/OL].http：//news.ifeng.com/a/20170424/50986589_0.shtml，2017-04-24.

[10]曹靜，周亞林.人工智能對經(jīng)濟的影響研究進展[J].經(jīng)濟學(xué)動態(tài)，2018（01）：103-115.

[11]AUTOR D H，SALOMONS A.Robocalypse now： Does Productivity Growth Threaten Employment？[R].ECB Sintra Forum on Central Banking Papers，2017.

[12]吳漢東.人工智能時代必須關(guān)注的社會風(fēng)險及四大問題[EB/OL].http：//www.sohu.com/a/212128225_455313，2017-12-22.

[13]劉小璇，張虎.論人工智能的侵權(quán)責(zé)任[J].南京社會科學(xué)，2018（09）：105-110+149.

[14]章元，劉時菁，劉亮.城鄉(xiāng)收入差距、民工失業(yè)與中國犯罪率的上升[J].經(jīng)濟研究，2011，46（02）：59-72.

[15]顏翠芳."城市貴族"的隕落：失業(yè)與犯罪[J].學(xué)術(shù)界， 2003（06）：217-221.

[16]王君寶.人工智能急需網(wǎng)絡(luò)安全"背書".經(jīng)濟參考報， 2016-9-30.

[17]周曉咪.群體性事件中社會心理分析研究綜述[J].改革與開放，2018（02）：84-85+89.

[18]李保臣，李德江.生活滿意感、政府滿意度與群體性事件的關(guān)系探討[J].中南民族大學(xué)學(xué)報（人文社會科學(xué)版），2013，33 （02）：90-95.

[19]馬修U.謝勒，曹建峰，李金磊.監(jiān)管人工智能系統(tǒng)：風(fēng)險、挑戰(zhàn)、能力和策略[J].信息安全與通信保密，2017（03）：45-71.