數(shù)字經(jīng)濟的科技倫理治理：動因與機制

李曉華

數(shù)字科技與數(shù)字產(chǎn)業(yè)在促進(jìn)經(jīng)濟增長、推動產(chǎn)業(yè)變革、造福人類社會的同時，也可能會對經(jīng)濟、社會造成不利影響，甚至對人類的長遠(yuǎn)發(fā)展造成威脅。與其他新興科技和產(chǎn)業(yè)一樣，數(shù)字經(jīng)濟發(fā)展也存在著技術(shù)與產(chǎn)業(yè)不確定性大、演進(jìn)速度快、復(fù)雜程度高等特點，由此導(dǎo)致數(shù)字經(jīng)濟治理面臨巨大挑戰(zhàn)。依靠法律、政策的傳統(tǒng)治理模式無法很好地適應(yīng)數(shù)字經(jīng)濟高質(zhì)量發(fā)展，需要引入科技倫理治理，以推動數(shù)字經(jīng)濟沿著有利于人類的道路發(fā)展。

數(shù)字經(jīng)濟等新興技術(shù)和產(chǎn)業(yè)的治理難題

當(dāng)前，新一輪科技革命和產(chǎn)業(yè)變革正深入推進(jìn)，在數(shù)字科技、生命科技、新能源、新材料、深海空天等領(lǐng)域不斷有顛覆性的技術(shù)涌現(xiàn)，進(jìn)而形成新興產(chǎn)業(yè)。其中，數(shù)字科技是創(chuàng)新最活躍、影響最廣泛的領(lǐng)域。一方面，通過新產(chǎn)品、新模式的創(chuàng)新和發(fā)展壯大形成新產(chǎn)業(yè)；另一方面，作為通用目的技術(shù)在國民經(jīng)濟各個行業(yè)獲得廣泛和深入的應(yīng)用，引發(fā)其他行業(yè)的深刻變革。可以說，數(shù)字經(jīng)濟已經(jīng)成為推動經(jīng)濟增長的新動能新引擎與經(jīng)濟社會變革的重要力量。但也要看到，數(shù)字技術(shù)在創(chuàng)造更多物質(zhì)和精神產(chǎn)品、豐富和便利人類生活的同時，出現(xiàn)了平臺壟斷、數(shù)據(jù)歧視、算法偏見、殺手并購、侵害隱私、產(chǎn)業(yè)安全等一系列問題，數(shù)字科技的進(jìn)一步發(fā)展甚至有可能威脅到人類的生存和發(fā)展。2022年底以來，O p e n A I公司發(fā)布的生成式人工智能ChatGPT展現(xiàn)出廣闊的應(yīng)用前景和巨大的變革性，被認(rèn)為是人工智能發(fā)展的里程碑甚至是通用人工智能的起點，其創(chuàng)新性、顛覆性不可謂不大，但同時也引發(fā)了對人工智能威脅人類生存和發(fā)展的擔(dān)憂。深度學(xué)習(xí)之父杰弗里·辛頓教授提醒人們警惕人工智能不受控制的發(fā)展帶來的風(fēng)險，包括埃隆·馬斯克在內(nèi)的北美2000 多名計算機科學(xué)家和業(yè)內(nèi)人員簽署了一份公開信，呼吁暫停開發(fā)比GPT-4更強大的人工智能系統(tǒng)。

世界各國針對成熟技術(shù)和產(chǎn)業(yè)已經(jīng)建立起完善的法律和政策體系，對這些技術(shù)和產(chǎn)業(yè)中出現(xiàn)的產(chǎn)品質(zhì)量、壟斷與不正當(dāng)競爭、侵害消費者權(quán)益、危害公共安全等各種負(fù)面影響和問題進(jìn)行監(jiān)管和治理。但是對于包括數(shù)字科技在內(nèi)的前沿技術(shù)和新興產(chǎn)業(yè)，單純依靠法律和政策體系很難對其進(jìn)行有效治理。

一是政府監(jiān)管存在滯后性。新科技新產(chǎn)業(yè)具有雙重用途、雙重價值，既可造福人類，也可能被惡意利用，造成巨大的經(jīng)濟、人身損失，威脅到人類未來世代的健康甚至人類生存（雷瑞鵬，2020）。傳統(tǒng)政府監(jiān)管的邏輯以問題為導(dǎo)向（楊青峰、任錦鸞，2021），通過對違反法律法規(guī)的行為做出處罰，一方面消除負(fù)面影響、彌補造成的損害，另一方面也通過對潛在違法違規(guī)行為的威懾，減少甚至避免這些負(fù)面問題的出現(xiàn)。但是當(dāng)問題發(fā)生時，就意味著損失已經(jīng)發(fā)生。其中，一些損失非常大，一些危害的影響會長期持續(xù)。

二是技術(shù)和產(chǎn)業(yè)演進(jìn)的不確定性大。高度的不確定性加大了對技術(shù)和產(chǎn)業(yè)有效治理的難度。當(dāng)新技術(shù)在發(fā)展初期顯得“人畜無害”時，過度的控制可能會限制科技創(chuàng)新對經(jīng)濟社會發(fā)展的貢獻(xiàn)，但是當(dāng)技術(shù)的負(fù)面后果顯現(xiàn)出來時，對其進(jìn)行糾偏可能付出巨大的代價。

三是技術(shù)和產(chǎn)業(yè)演進(jìn)速度快。以法律和政策為代表的治理規(guī)則是在既有經(jīng)驗基礎(chǔ)上總結(jié)出來的，其顯著特點就是穩(wěn)定性。新法律的制定以及對既有法律的修訂要經(jīng)過提案、論證、反復(fù)審議，往往要經(jīng)歷一個漫長的過程。面對大量前沿技術(shù)和新興產(chǎn)業(yè)的不斷涌現(xiàn)，且持續(xù)處于快速變化之中的新功能、新模式、新影響，常常難以找到合適的法條和政策對此加以規(guī)范。當(dāng)針對新技術(shù)新產(chǎn)業(yè)出現(xiàn)的新問題出臺相關(guān)法律法規(guī)時，技術(shù)已經(jīng)演進(jìn)到新的階段，法律的監(jiān)管目標(biāo)可能已發(fā)生改變，又會重新出現(xiàn)法律力有不逮的情況。

四是新興產(chǎn)業(yè)的復(fù)雜性高。新興產(chǎn)業(yè)的產(chǎn)品或服務(wù)架構(gòu)復(fù)雜，監(jiān)管機構(gòu)往往缺少深入到產(chǎn)品（如軟件代碼）內(nèi)部進(jìn)行監(jiān)管的技術(shù)能力和手段。數(shù)字經(jīng)濟的運轉(zhuǎn)以數(shù)據(jù)、算法為基礎(chǔ)，復(fù)雜的系統(tǒng)往往有成千上萬行代碼，且各種函數(shù)相互嵌套。數(shù)字經(jīng)濟的復(fù)雜性、不透明性、不易解釋性造成很難搞清楚算法里是否存在無意的或惡意制造的具有危害性的代碼。而且一些技術(shù)的影響可能需要較長的時間才能顯現(xiàn)。此外，即使算法形成的產(chǎn)品、服務(wù)及其造成的結(jié)果能夠被觀察，往往也很難判斷算法中是否存在違法違規(guī)行為。例如，一些網(wǎng)絡(luò)平臺存在的針對不同用戶收取不同費用的“價格歧視”現(xiàn)象，很難說是軟件開發(fā)者有意根據(jù)顧客特征制定不同的價格，還是隨時變化的市場供求關(guān)系造成的。在數(shù)字經(jīng)濟領(lǐng)域，人工智能還具有自主學(xué)習(xí)與決策能力，其行為結(jié)果不完全歸因于程序開發(fā)人員（王亦菲、韓凱峰，2021）。

數(shù)字經(jīng)濟科技倫理治理的機制

數(shù)字經(jīng)濟發(fā)展中出現(xiàn)的問題已引起各方的高度重視，在大力發(fā)展數(shù)字經(jīng)濟的同時加強對數(shù)字經(jīng)濟的治理已經(jīng)成為各國政府的共識。2021年10月，中共中央政治局就推動我國數(shù)字經(jīng)濟健康發(fā)展進(jìn)行第三十四次集體學(xué)習(xí)時，習(xí)近平總書記指出“要完善數(shù)字經(jīng)濟治理體系，健全法律法規(guī)和政策制度”，同時也提出“要明確平臺企業(yè)主體責(zé)任和義務(wù)，建設(shè)行業(yè)自律機制。要開展社會監(jiān)督、媒體監(jiān)督、公眾監(jiān)督，形成監(jiān)督合力”。科技倫理是開展科學(xué)研究、技術(shù)開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范。針對傳統(tǒng)治理方式無法有效適用于解決前沿技術(shù)和新興產(chǎn)業(yè)治理的難題，世界各國紛紛加強科技倫理治理。2022 年3月，中共中央辦公廳、國務(wù)院辦公廳印發(fā)了《關(guān)于加強科技倫理治理的意見》，要求“加快構(gòu)建中國特色科技倫理體系，健全多方參與、協(xié)同共治的科技倫理治理體制機制”，“建立完善符合我國國情、與國際接軌的科技倫理制度”。

數(shù)字經(jīng)濟是科技倫理治理的重點領(lǐng)域。隨著數(shù)字技術(shù)的快速發(fā)展、廣泛擴散和應(yīng)用，科技倫理治理在數(shù)字經(jīng)濟中的必要性和重要性日益突出。以最受各國重視的人工智能領(lǐng)域為例，為了確保人工智能研究和應(yīng)用的風(fēng)險處于可控范圍，針對人工智能可能帶來的技術(shù)誤用、技術(shù)失控、應(yīng)用失控等方面風(fēng)險，世界上已有40多個機構(gòu)或組織提出了各自的人工智能倫理準(zhǔn)則建議（陳小平，2019）。例如，美國國防部2019 年2月提出了“以合法和合乎道德的方式使用人工智能，以強化負(fù)責(zé)任的價值觀愿景和強化人工智能利用的指導(dǎo)原則”；美國人工智能促進(jìn)協(xié)會提出避免傷害、誠實守信、公平并采取行動不歧視、尊重隱私等人工智能道德原則（肖紅軍、陽鎮(zhèn)，2023）。

福建福州：智能服務(wù)機器人產(chǎn)銷兩旺。圖為福建漢特云智能科技有限公司智能機器人裝配制造車間。圖/中新社

科技倫理治理之所以能夠在規(guī)范數(shù)字經(jīng)濟的發(fā)展中發(fā)揮重要作用，是因為它抓住了前沿技術(shù)和新興產(chǎn)業(yè)的特點，把企業(yè)、員工、社會、政府等各方面力量有機結(jié)合并調(diào)動起來參與到治理之中。

一是事前自我治理。數(shù)字科技企業(yè)根據(jù)科技倫理的基本原則與規(guī)范對科技創(chuàng)新與產(chǎn)業(yè)發(fā)展方向、企業(yè)競爭行為等經(jīng)營活動進(jìn)行全面審查，主動終止會對經(jīng)濟社會產(chǎn)生負(fù)面影響的活動，或者在評估基礎(chǔ)上終止存在較大負(fù)面影響的活動。同時，當(dāng)企業(yè)的經(jīng)營活動存在違反科技倫理的風(fēng)險時，認(rèn)可科技倫理所確定原則和規(guī)范的企業(yè)員工會主動予以糾偏，甚至當(dāng)發(fā)現(xiàn)企業(yè)存在惡意違反科技倫理的行為且內(nèi)部反對無效時，向社會披露和政府部門報告。

二是事中社會治理。盡管企業(yè)會選擇盡量隱藏惡意的違反科技倫理、對社會造成負(fù)面影響的行為，但仍然有可能通過多種方式被披露并在社會上擴散。企業(yè)技術(shù)開發(fā)、生產(chǎn)經(jīng)營等活動中隱藏的行為會通過學(xué)術(shù)交流、科研合作、專利公開、上下游供應(yīng)商聯(lián)系、員工流動等形式為行業(yè)內(nèi)的企業(yè)、人員乃至社會大眾所知曉，當(dāng)這些隱藏的活動中存在有違科技倫理的情況或有損社會整體價值時，相關(guān)機構(gòu)和個人可以通過拒絕研究成果發(fā)表、抵制申請該企業(yè)職位、解除業(yè)務(wù)合作關(guān)系等方式對違規(guī)企業(yè)做出不同程度的懲戒。

三是事后政府治理。對于違反科技倫理同時又違反法律或行政法規(guī)的行為，依法依規(guī)進(jìn)行相應(yīng)處罰。對那些違反科技倫理但并未觸犯法律法規(guī)的行為，政府部門可以通過研發(fā)資金分配、稅收優(yōu)惠、項目審批、土地出讓、銀行貸款利率、上市融資審批等途徑和方式予以懲戒，將遵守科技倫理情況作為企業(yè)申報國家和地方資格認(rèn)證、試點示范項目等的重要條件。

對數(shù)字經(jīng)濟的事前、事中、事后治理與企業(yè)、社會、政府治理不是割裂的，而是相互協(xié)同促進(jìn)的，將有可能損害社會福利乃至人類社會持續(xù)發(fā)展的行為盡可能早地予以發(fā)現(xiàn)、糾正。例如，員工可以將企業(yè)違反科技倫理的行為曝光，引發(fā)更廣泛的社會監(jiān)督和政府監(jiān)管部門的介入；行業(yè)協(xié)會等社會中介組織可以在吸收各界意見的基礎(chǔ)上制定數(shù)字經(jīng)濟科技倫理治理規(guī)則，同時企業(yè)可以根據(jù)科技創(chuàng)新和產(chǎn)業(yè)發(fā)展中發(fā)現(xiàn)的新的科技倫理問題，推動數(shù)字科技倫理規(guī)范的更新；政府部門的事后懲處可以形成對企業(yè)的威懾，增強企業(yè)遵守科技倫理的自覺性。

構(gòu)建具有中國特色的數(shù)字科技倫理體系

鑒于科技倫理治理在糾正新興技術(shù)和產(chǎn)業(yè)的負(fù)面影響中的作用，應(yīng)積極推動構(gòu)建具有中國特色的數(shù)字科技倫理體系。

在國家層面，由國家科技倫理委員會組織有關(guān)機構(gòu)和專家科學(xué)研判數(shù)字科技與數(shù)字產(chǎn)業(yè)發(fā)展中存在的問題以及未來可能帶來的負(fù)面影響，在兼顧發(fā)展與監(jiān)管的基礎(chǔ)上，積極推動我國數(shù)字科技倫理體系建設(shè)，包括制定科技倫理規(guī)范、指南、標(biāo)準(zhǔn)，以及針對違反科技倫理行為的處理規(guī)則，構(gòu)建既能夠支撐我國數(shù)字經(jīng)濟創(chuàng)新和發(fā)展，又能夠降低數(shù)字經(jīng)濟負(fù)面影響、消除對人類社會可持續(xù)發(fā)展帶來潛在風(fēng)險的數(shù)字科技倫理體系。加強數(shù)字科技倫理建設(shè)的國際合作，在吸納國際數(shù)字科技倫理先進(jìn)理念和成功經(jīng)驗的同時，積極推廣中國的科技倫理理念和規(guī)則，貢獻(xiàn)中國智慧和中國方案，推動在數(shù)字科技倫理上形成國際共識。

在社會層面，加大對科技倫理的宣傳，增強全社會對科技倫理的認(rèn)識，使企業(yè)和個人形成遵守科技倫理的意識。支持?jǐn)?shù)字科技企業(yè)、高等學(xué)校、科研機構(gòu)共同發(fā)起科技倫理高峰論壇，大力倡導(dǎo)負(fù)責(zé)任的數(shù)字經(jīng)濟、負(fù)責(zé)任的創(chuàng)新、負(fù)責(zé)任的人工智能等理念，加強對數(shù)字科技和產(chǎn)業(yè)發(fā)展中科技倫理問題的研討，分享經(jīng)驗和教訓(xùn)，對未來趨勢和潛在風(fēng)險進(jìn)行前瞻性研判，推動完善科技倫理規(guī)范以及科技倫理審查、風(fēng)險處置、違規(guī)處理等規(guī)則流程。

在企業(yè)層面，鼓勵數(shù)字科技企業(yè)、高等學(xué)校、科研機構(gòu)將科技倫理納入自己的價值主張、公司戰(zhàn)略和技術(shù)創(chuàng)新管理過程，加強企業(yè)董事會、戰(zhàn)略委員會、高管團隊等戰(zhàn)略決策者對數(shù)字科技倫理認(rèn)識和重視（肖紅軍、陽鎮(zhèn)，2023）。設(shè)立數(shù)字科技倫理委員會，制定本單位數(shù)字科技倫理治理細(xì)則（如科技倫理原則、科技倫理審查程序、倫理風(fēng)險的化解機制等），對企業(yè)技術(shù)創(chuàng)新、產(chǎn)品開發(fā)、市場競爭等各方面的行為進(jìn)行常態(tài)化的科技倫理審查。鼓勵數(shù)字科技企業(yè)開發(fā)科技倫理治理的數(shù)字技術(shù)，提高數(shù)字科技倫理的治理效率。推動上市公司、國有企業(yè)將科技倫理治理情況納入E SG（環(huán)境、社會和公司治理）報告對公眾發(fā)布，接受公眾監(jiān)督。