中圖分類號:F49;F062.9 文獻標識碼:A 文章編號:1008-4096(2025)04-0003-14
20世紀中葉以來,數字科技發展與倫理治理成為全球性熱點和難題。以人工智能、大數據等為核心的數字科技賦能千行百業,塑造了數字社會新形態,也成為發展新質生產力的重要引擎。生產和生活的數字化、智能化轉型成為必然之勢。目前,工業互聯網已應用至中國49個國民經濟領域,實現工業大類全覆蓋;中國已建成3萬余家基礎級智能工廠、1200余家先進級智能工廠、230余家卓越級智能工廠[1]。DeepSeek、人形機器人等數字化應用也為生產和生活提供了有力輔助。然而,數字科技對技術范式、商業模式和社會運作方式進行革新的同時,也會引發隱私泄露、深度偽造、算法異化、模型黑箱和數字鴻溝等倫理失范現象。例如,2018年以來,阿里巴巴集團、攜程旅行網、北京小桔科技有限公司和Uber等數字科技企業相繼被曝出“大數據殺熟”“蘋果稅”和基于用戶地理位置進行差異化定價的“算法歧視”2;抖音集團和今日頭條等社交媒體的精準推送所引發的“信息繭房”“回音室效應”等廣受詬病。企業發展要堅持經濟效益與社會效益相統一,更好地承擔起社會責任和道德責任[3],踐行科技向善理念,加強企業數字科技倫理自律自治,促進數字科技與人類價值對齊。
數字科技活動不僅具有認知價值和工具價值,還涉及社會價值和倫理價值[4]。企業是數字科技創新的重要主體,更是數字科技倫理治理的關鍵行動主體,數字科技倫理滲透到技術研發、生產運營和商品銷售等價值創造過程。企業憑借技術優勢和信息優勢,通過設置倫理治理機構、構建符合自身需求的倫理治理體系和創新倫理治理實踐等方式開展數字科技倫理自律自治。例如,亞馬遜、谷歌和IBM等15家數字科技企業簽署自愿承諾協議,保障數字科技產品或服務的安全性與可信任;微軟提出公平、可靠和安全等人工智能倫理六大原則,并成立人工智能倫理道德委員會;百度提出安全可控、促進人類更平等地獲取技術和能力等人工智能倫理四大原則;商湯集團提出以人為本、技術可控和可持續發展的人工智能倫理原則等。
為進一步強化企業在數字科技倫理治理中的關鍵行動主體作用,本文系統梳理中國企業數字科技倫理自律自治實踐,分析中國企業在數字科技倫理治理中的角色定位、倫理治理機構設置模式及職能、倫理治理體系和治理技術等內容,并在此基礎上總結中國企業數字科技倫理自律自治機制存在的問題,提出優化企業數字科技倫理自律自治機制的對策建議,進一步提升中國企業數字科技倫理治理水平。
一、企業在數字科技倫理治理中的角色定位
數字經濟時代,數字科技倫理治理所涉及的利益相關主體更加龐雜,企業開展數字科技倫理治理的重要性愈發凸顯。在數字科技生態中,企業是數字科技產品或服務用戶的守護者,也是數字科技創新的關鍵主體。延伸至數字科技倫理治理中,企業是數字科技倫理治理的關鍵行動主體。企業在數字科技倫理治理中的角色定位可以概括為以倫理自律自治為核心,以產業鏈倫理協同自治為擴展。
(一)核心定位:倫理自律自治
1.“自下而上”倫理治理進路中的企業數字科技倫理自律
“自下而上”(Bottom-Up)倫理治理是企業、行業組織和社會公眾等利益相關主體利用主體能動性和自組織性所開展的倫理治理行為,是以政府為主導的“自上而下”倫理治理的有效補充[5],也是數字科技倫理中敏捷治理的重要體現。企業數字科技倫理自律是“自下而上”倫理治理的重要組成部分,主要體現為在社會倫理道德框架下的自我約束、自我警醒等倫理自律行為,是倫理自治和倫理監管的基礎。
企業是社會中的企業,所處社會環境中的社會倫理道德、商業道德和數字科技倫理監管等是其倫理自律的主要依據。“自下而上”倫理治理進路中的企業數字科技倫理自律主要體現為三個方面。第一,企業在社會倫理道德框架下的數字科技倫理自律,是對中國傳統文化中儒學思想所倡導的“仁、義、禮”和風序良俗等的延續。企業在產品或服務提供中所倡導和遵循的“童叟無欺”“貨真價實”等原則,在企業數字科技倫理自律中衍生為對“算法歧視”“大數據殺熟”等倫理失范現象的防范和治理。第二,企業在商業道德行為準則下的數字科技倫理自律,是社會倫理道德在商業生態中的延伸。誠信為要、合義取利、買賣公平、對人民負責等商業道德要求,在企業數字科技倫理自律中體現為對隱私泄露、數字鴻溝等倫理失范現象的防范和治理。第三,企業將數字科技倫理監管政策作為自律標準,是社會倫理道德在數字科技倫理中的精準體現。例如,企業以《關于加強科技倫理治理的意見》《生成式人工智能服務管理辦法(征求意見稿)》《科技倫理審查辦法(試行)》為數字科技倫理自律的重要依據,減少或避免倫理失范現象的發生。
2.“自上而下”倫理治理進路中的企業數字科技倫理自治
“自上而下”(Top-Down)倫理治理強調以政府為主導,政府制定數字科技倫理監管政策、設置數字科技倫理監管機構,企業、行業組織和社會公眾等利益相關主體遵守與執行政府的倫理監管政策,是政府倫理監管驅動下的倫理治理模式。企業數字科技倫理自治是“自上而下”倫理治理模式在企業中的落地和體現。
“自上而下”倫理治理進路中的企業數字科技倫理自治主要體現為四個方面。第一,企業將負責任的研究與創新、科技向善、負責任的人工智能和平衡發展的人工智能倫理觀等理念融入企業愿景、戰略使命、企業文化,并通過倫理培訓和宣傳等方式傳遞至企業員工,營造合乎倫理的企業文化氛圍。第二,企業開展數字科技倫理自治相關制度體系建設,推動政府倫理監管政策的有效落地。數字科技倫理治理制度是企業有效開展倫理治理的保障,中國企業走過了從無到有的數字科技倫理治理制度建設階段,現已進人分層建設階段。大型數字科技企業的倫理治理制度體系包括兩個層面,即綜合性倫理治理制度和專項倫理治理制度。第三,企業針對數字科技倫理自治變革現有組織架構。部分企業構建了覆蓋管理層和執行層的組織架構,少數企業構建了覆蓋董事會、管理層和執行層的組織架構,還有部分企業未針對數字科技倫理進行相應的組織架構變革。第四,企業開展數字科技倫理培訓和宣傳,提升員工數字科技倫理素養。針對數字科技倫理自治的現實需求,企業開展“定期 + 不定期”“線上 + 線下”和分級分類等多元化培訓和宣傳形式,提升員工數字科技倫理素養,筑牢企業數字科技倫理自治的人才底座。
(二)擴展角色:產業鏈倫理協同自治
產業鏈倫理協同自治打破了單一企業數字科技倫理自律自治的邊界,將單一企業的倫理治理延伸至產業鏈其他企業的倫理治理中。其中,大型數字科技企業,尤其是數字守門人作為產業鏈倫理協同自治的關鍵主體,憑借獨特的優勢或地位擁有相應的數字權威和控制力,發揮數字科技倫理“準監管”作用和示范效應,與產業鏈其他企業開展倫理協同自治,提升產業鏈整體的倫理治理水平。
具體而言,一是大型數字科技企業的倫理治理具有正外部性,對產業鏈其他企業起到示范效應,帶動產業鏈開展倫理協同自治。相對于中小型數字科技企業,大型數字科技企業的倫理治理更具規模性和系統性,覆蓋企業愿景、戰略使命、企業文化、組織架構和生產運營等方面,并以企業ESG報告、企業社會責任報告和可持續發展報告等形式公開發布治理信息,在增進利益相關者福利的同時,對產業鏈其他企業起到示范效應。二是大型數字科技企業憑借數據權力,對產業鏈其他企業進行數字科技倫理“準監管”,甚至包括“數字執法”,承擔數字科技倫理治理中的一般性義務和加重義務。大型數字科技企業通過制定倫理治理制度、倡議,以及聯合公安機關等開展“線上 + 線下”共同治理,對于發生倫理失范現象的企業采取懲戒措施。例如,抖音集團探索“城市 + 平臺”治理模式,并配合公安機關行動,持續開展針對上下游用戶的倫理治理行動,有效打擊網絡黑灰產業鏈;在《商業伙伴行為準則》中設置“信息安全和數據保護專章”,對合作伙伴的行為進行規范,并采取事先評估、定期考核等措施,有效提升以抖音集團為核心產業鏈的倫理治理水平。三是產業鏈其他企業的數字科技倫理治理體現為單一企業的數字科技倫理自律自治,以及在大型數字科技企業“準監管”作用下開展倫理協同自治行動。
二、企業數字科技倫理治理機構
(一)企業數字科技倫理治理機構設置模式
企業數字科技倫理治理機構設置模式可分為“董事會一管理層一執行層”的三層治理機構設置模式和“管理層—執行層”的兩層治理機構設置模式。兩者的差異在于對數字科技倫理治理的重視程度,主要體現為是否在董事會層面設置數字科技倫理治理相關委員會。“董事會—管理層一執行層”的三層治理機構設置模式的核心特征是企業整體開展數字科技倫理治理行動。具體而言,在董事會層面,企業設置數字科技倫理治理相關委員會,其對企業面臨或潛在的倫理風險進行前瞻性防范和治理,具體負責數字科技倫理的原則制定、戰略規劃、理念或知識宣傳、治理制度體系建設和治理生態構建等。管理層作為數字科技倫理治理委員會的企業內部委員,從戰略層面對企業整體的倫理治理工作進行規劃和部署,并設置倫理管理部門,以負責具體倫理治理工作。例如,專職的倫理治理機構負責倫理風險管理機制、倫理風險應對機制和倫理治理質量控制機制的建設工作。執行層則負責將數字科技倫理治理相關決策、制度和要求落實到開發與設計、生產與運營、銷售與服務等階段。以騰訊的數字科技倫理治理機構設置模式為例,其董事會、管理層和員工均重視隱私保護和數據安全工作。騰訊將隱私保護計劃內嵌到風險管理框架中,專門成立由管理委員會、決策組、公共事務組、綜合協調組和各事業群產品合規工作團隊組成的“個人信息保護及數據合規專班”。其中,管理委員會為決策機構,由首席執行官、總裁和六大事業群總裁等最高管理層組成,并專設數據保護官,由其負責與數字科技倫理監管機構聯絡,以確保數字科技倫理監管政策的有效遵守。此外,騰訊還設置了信息安全決策委員會、人工智能技術委員會等,由其負責細分領域的倫理治理工作。
(二)企業數字科技倫理治理機構的職能
企業數字科技倫理治理機構設置主要分布于三個層面,即董事會、管理層和執行層。其中,董事會承擔數字科技倫理治理工作中的決策角色,管理層承擔數字科技倫理治理工作中的組織和協調角色,執行層則承擔數字科技倫理治理工作中的具體實施角色。
一是在董事會層面,企業設置數字科技倫理、人工智能倫理和信息安全等領域的倫理治理委員會,或者董事會直接參與倫理治理工作。大型數字科技企業已在戰略層面設置倫理治理委員會,對企業整體的倫理治理工作進行統籌和規劃。例如,百度在戰略層面陸續成立技術戰略委員會、安全委員會、數據隱私保護委員會、數據管理委員會和科技倫理委員會等機構,負責企業數字科技倫理治理制度體系建設,并借助外部專家和學者等權威外部視角,切實履行倫理治理主體責任;阿里巴巴集團將隱私保護和數據安全納入全面風險管理體系,由合規及風險管理委員會負責監督集團整體合規與風險管理,涉及領域包括隱私保護、數據安全、網絡安全和知識產權保護等。二是在管理層層面,企業將首席執行官等管理層人員納入企業數字科技倫理治理委員會或其他細分領域委員會中。該部分管理層主要致力于倫理治理策略和操作規范的制定、管理方法的優化等,并對不同部門或機構之間的倫理治理行動進行協調,確保企業數字科技倫理治理制度的有效實施。其中,企業數字科技產品或服務的倫理評估流程等管理制度能有效確保企業遵守數字科技倫理監管政策。三是在執行層層面,企業主要以工作組、事業部等形式將數字科技倫理治理相關決策、制度和要求落實到研發與設計、生產與運營、銷售與服務等階段,并對已發生和潛在的倫理風險進行有效防范和治理,部分企業還設置了數據保護官等倫理治理職位。例如,騰訊設置騰訊云數據安全治理中心,實現對數據庫、大數據、云存儲和API流數據的有效管理;抖音集團將于2025年3月上線安全與信任中心,以推進算法和平臺治理透明化。
三、企業數字科技倫理治理體系
數字科技倫理治理滲透至企業的制度體系建設、價值創造和文化氛圍營造等方面。其中,在制度體系建設方面,企業數字科技倫理治理制度體系包括綜合性倫理治理制度和專項倫理治理制度;在價值創造方面,企業將數字科技倫理治理貫穿于價值鏈中;在文化氛圍營造方面,企業將負責任的研究與創新、科技向善、負責任的人工智能和平衡發展的人工智能倫理觀等理念融入企業愿景、戰略使命、企業文化,并通過倫理培訓和宣傳等方式影響企業員工行為。
(一)企業數字科技倫理治理制度體系
目前,企業數字科技倫理治理制度體系主要包括綜合性倫理治理制度和專項倫理治理制度。其中,綜合性倫理治理制度將隱私保護、數據安全、網絡安全和數字鴻溝等倫理風險治理囊括其中;專項倫理治理制度則是針對細分領域的倫理治理內容。通過梳理,中國主要大型數字科技企業的倫理治理制度如表1所示。
表1中國主要大型數字科技企業的倫理治理制度
注:表中信息來源于企業ESG報告、企業社會責任報告和可持續發展報告。
1.綜合性倫理治理制度
企業制定數字科技綜合性倫理治理制度,并對企業整體的倫理治理工作進行指導和規范。數字科技倫理主要包括大數據、區塊鏈、人工智能和互聯網等細分領域的倫理。同樣,大型數字科技企業所進行的倫理治理領域也較廣泛。通過對中國主要大型數字科技企業的倫理治理制度進行梳理發現,《百度安全紅線》《騰訊安全運維管理總綱》《商湯集團倫理治理制度》《阿里巴巴集團科技倫理治理準則》等均為綜合性倫理治理制度。
2.專項倫理治理制度
相對于綜合性倫理治理制度,專項倫理治理制度主要聚焦于數字科技的細分領域。其中,部分企業對人工智能等重點領域進行單獨治理,并制定專項管理制度。例如,騰訊不僅制定《騰訊數據治理數據安全管理要求》,還單獨制定《騰訊AI數據安全管理制度》,構建了整體數據倫理治理和重點數據倫理治理的雙重制度體系。
企業廣泛開展對外交流與合作,參與國際、國家和行業的數字科技倫理規范及倫理準則的制定,并通過發布倫理倡議書、白皮書和專項研究報告等方式,與業界協同推進數字科技倫理治理生態的構建。例如,百度累計參與網絡安全領域各類標準365項,包括國際標準12項、國家標準101項、行業標準127項,并陸續發布《騰訊隱私保護白皮書》《大模型安全與倫理研究報告2024:以負責任AI引領大模型創新》等,分享其在隱私保護和大模型倫理治理領域的見解與實踐;阿里巴巴集團聯合11家互聯網企業聯合發布《數據保護倡議書》;抖音集團發布《關于人工智能生成內容的平臺規范暨行業倡議》,推動形成跨領域、行業內、產業鏈的數字科技倫理協同自治。
(二)企業價值鏈中的倫理治理
企業價值鏈即企業價值創造過程,可劃分為研發與設計、生產與經營、銷售與服務三個階段,企業將數字科技倫理治理貫穿其中,且不同階段的倫理治理側重點和方法存在差異,是企業數字科技倫理自律自治與產業鏈倫理協同自治的有機結合。企業價值鏈中的數字科技倫理治理將技術倫理、負責任的研究與創新等理念、企業社會責任融為一體,內含“價值鏈—倫理治理—社會效益”的邏輯理路。研發與設計階段的倫理治理集中體現為企業踐行負責任的研究與創新等理念;生產與經營階段的倫理治理集中體現為倫理治理資源的配置和倫理治理行動的落地;銷售與服務階段的倫理治理體現為企業以承擔倫理責任、增進信任等形式創造社會價值。企業價值鏈中的倫理治理行為如圖1所示。
1.研發與設計
研發與設計是企業數字科技倫理治理的起點,負責任的研究與創新等理念的提出和落地是這一階段倫理治理的集中體現。技術的發展始終伴隨價值的滲透[,負責任的研究與創新等理念強調企業在進行技術研發和產品創新過程中要充分考慮社會可接受性、可持續性和社會期許性[8],并與信息科學倫理9、ICT倫理價值等交叉。企業秉承負責任的研究與創新理念,將倫理治理理念和行動付諸產品或服務的研發與設計中,試圖將機器人等數字科技產品從“技術人工物”轉變為“人工道德行為體(Artificial MoralAgents,簡稱為AMAs)”。
第一,企業將負責任的研究與創新等理念內化為研發與設計的原則或價值導向,將道德準則、倫理監管制度和價值觀等融入研發與設計階段,而不單是將其作為技術創新的外部影響因素。第二,企業將負責任的研究與創新等理念外顯為所生產的產品或所提供的服務,且其符合數字科技倫理監管政策要求,并能滿足市場需求。研發與設計的終極目標是實現產品或服務的價值。為生存與發展,企業還需要滿足消費者的需求偏好、需求規模和需求結構等,進而將商品轉化為貨幣,實現企業價值最大化,這是負責任的研究與創新等理念和企業倫理治理效果的外顯與檢驗。第三,企業將負責任的研究與創新等理念作為創造社會價值的體現和保障。企業從以價值最大化、技術迭代和產品創新的速度為目標,轉變為將以人為本、合乎倫理等社會效益作為動力和目標,并通過數字科技倫理治理制度保障倫理治理目標的實現。企業數字科技倫理治理制度為負責任的研究與創新等理念的實現提供約束框架,推動數字科技倫理治理的責任主體適時進行行為調整與目標轉換。例如,騰訊秉承科技向善理念,所研發與設計的產品或服務充分考慮用戶信息隱私保護問題,形成了以“Person-Buton-Data”為核心的“將隱私保護融入設計”的方法,重視用戶數據使用過程的透明性和安全性。
2.生產與運營
生產與運營是企業數字科技倫理治理的過程載體,聚焦于倫理治理資源的配置和倫理治理行動的落地。在生產與運營階段,企業數字科技倫理治理主要體現為數字科技產品或服務生產環節的倫理審核、上市前的倫理審查和倫理風險控制等內容。第一,數字科技產品或服務生產環節的倫理治理。企業對數字科技產品或服務生產環節中可能存在的倫理風險進行評估、分級和審核,并采取倫理巡查等防控措施。第二,數字科技產品或服務上市前的倫理審查。在數字科技產品或服務上市前,企業需要再次對其進行倫理審查,主要包括倫理風險審查平臺或系統的構建、倫理審查隊伍建設和外部倫理審查等,以確保合乎社會道德和倫理監管政策的要求。第三,數字科技產品或服務的倫理風險控制,主要包括與外部倫理治理專家或消費者等進行溝通和反饋意見等倫理治理行為。
3.銷售與服務
銷售與服務是企業數字科技倫理治理的終點。企業將數字科技倫理治理理念和方法融入銷售與服務階段,既可以規避倫理失范風險,又可以提升消費者滿意度。銷售與服務階段的倫理治理行為主要包括企業定期對消費者或服務部署者進行回訪或調查,確認所提供產品或服務是否存在或可能觸發倫理風險,并及時作出應對。以大模型為例,生成式人工智能技術的出現將語言大模型和視覺大模型推入人類視野,并開啟了模型即服務(Modelasa Service,簡稱為MaaS)的新型服務模式,其將訓練所習得的部分人類倫理知識與應用者的倫理價值觀等進行融合,生成具有倫理傾向和價值導向的內容。其中,大模型的訓練、優化和部署等是企業數字科技倫理治理效果的體現。例如,阿里巴巴集團在大模型上線后仍提供風險監測和安全處置等倫理治理服務,通過增強外部檢索、嵌入不可見內容標識信息等方式降低幻覺防控風險和縮小倫理問題傳播范圍等;商湯集團針對商業化算法場景進行算法驗證與評測,以應對算法不可控、不可信等倫理風險。
(三)企業倫理文化
1.倫理理念
企業陸續提出負責任的研究與創新、科技向善、負責任的人工智能和平衡發展的人工智能倫理觀等理念。其中,科技向善最早由米勒提出,強調企業在科技創新、產品或服務提供過程中,要關注科技對人類社會的影響,其核心是科技應服務于人類。負責任的人工智能和平衡發展的人工智能倫理觀則強調人工智能技術創新與人類福祉之間的關系。2018年,百度針對人工智能技術的發展與人類之間的關系,提出人工智能倫理四大原則,即人工智能的最高原則是安全可控,創新愿景是促進人類更平等地獲取技術和能力,存在價值是教人學習、讓人成長,而非超越人、代替人,終極理想是為人類帶來更多自由與可能。2019年,騰訊將“用戶為本,科技向善”確立為企業愿景和戰略使命,再次凸顯了數字科技倫理的重要性。2021年,商湯集團提出平衡發展的人工智能倫理觀,以及以人為本、技術可控和可持續發展的人工智能倫理原則,試圖打造倫理治理人人有責的企業文化。
2.倫理培訓和宣傳
企業已初步形成體系化的數字科技倫理培訓和宣傳,主要包括企業內部自主培訓和宣傳,企業與外部企業、事業單位聯合培訓和宣傳兩類。第一,企業內部自主開展的數字科技倫理培訓和宣傳,主要以全員培訓、專題活動和應急演練為主。其中,全員培訓可進一步細分為基礎培訓和專項培訓等。以騰訊為例,數字科技倫理領域的基礎培訓覆蓋全體員工,并設置了《個人信息合規必修培訓》等固定課程;專項培訓則是針對數字科技不同領域、不同倫理議題等開展專題培訓,如 420 分鐘學會中國數據隱私合規風險防控》等專題課程。騰訊通過舉辦騰訊安全技術峰會、騰訊技術周等專題活動,向員工傳遞更多關于個人信息和隱私保護的知識和技能;定期舉行安全支付的“紅藍對抗”演練,以及時發現、修補安全系統漏洞,提升風險防范意識。2023年,騰訊員工信息安全專項培訓參加人次高達11138人次,培訓時長總計23611小時。第二,企業與外部企業、事業單位聯合培訓和宣傳,主要以產學研一體化為牽引,數字科技企業不斷拓展培訓渠道,通過共建研究院、研究中心、實驗室等方式將數字科技倫理領域的培訓力量吸收到自身倫理培訓體系中。例如,商湯集團與上海交通大學、南洋理工大學等聯合共建清源研究院、計算法學與AI倫理研究中心、新加坡南洋理工大學聯合實驗室等,并邀請香港科技大學、北京大學等高等院校的教師分享人工智能領域的倫理知識;2023年,百度聯合中國政法大學數據法治研究院開展“人工智能的國際治理與科技倫理”主題培訓,力求深化百度技術戰略委員會、T9級(主任架構師)等員工對數字科技倫理的認知,為企業技術創新和戰略決策提供更加堅實的倫理基礎。
四、企業數字科技倫理治理技術
關于企業數字科技倫理的治理技術主要包括兩個方面。其一,就數字科技本身進行倫理治理,即“以技術治理技術”,主要包括倫理設計、算法審計等。其二,對數字科技開發人員進行倫理治理,即“以治人治理技術”,以提升數字科技開發人員的倫理素養和專業技能。
(一)典型倫理治理技術
對大模型等數字科技產品或服務的倫理監管多以備案和事后審查為主,企業主體的倫理自治則集中于事前和事中兩個環節。除了組織架構變革、制度體系建設外,企業數字科技倫理自治還體現為“以技術治理技術”,主要包括倫理設計、算法審計等。一是增加倫理設計。倫理設計是一種“自上而下”的倫理治理技術,其按照社會倫理道德或倫理標準編寫算法、構建模型等,將合乎人類倫理觀念的價值判斷嵌人數字科技產品或服務中,結合數字技術的具體使用情境進行價值敏感設計(Value Sensitive Design,簡稱為VSD)。價值敏感設計把數字技術的使用語境與設計語境密切聯系起來,與技術倫理學中的“建構性技術評估”具有內在的一致性[9。二是實施算法審計。算法審計發揮倫理治理作用的主要路徑是深度剖析算法的設計邏輯和運行機制,以實現算法透明[0]。算法審計包括對算法代碼與模型的設計規則、運行原理,以及對輸出結果進行審計。例如,商湯集團基于“日日新SenseNova”大模型體系,推出可信AI基礎設施SenseTrust,其包含數據治理、模型治理和應用治理等技術工具,可提供數據處理、模型訓練、模型部署和推理服務等全方位、全鏈路的可信AI檢測與加固“工具箱”,為商湯集團推動大模型倫理治理提供技術支持。為推動發展“負責任且可評估”的人工智能,商湯集團開發了一系列覆蓋數據治理、算法測評、模型體檢、倫理審查的流程工具和技術平臺。此外,企業可以借鑒人工智能監管沙盒、新加坡AIVerify工具包等技術進行倫理治理技術的創新。
(二)數字科技開發人員的倫理治理
技術作為一種目的性系統必然承載著價值屬性。數字科技、數字產品或服務的價值觀來源于人類,尤其是數字科技開發人員這類關鍵群體。數字科技開發人員憑借專業技能將個體的數字科技倫理素養和道德偏好融人數字科技、數字產品或服務,因而對數字科技開發人員進行倫理治理是企業數字科技倫理治理的根本。創新者在研發與設計新技術或產品時,將個人的道德價值和特定的價值規范嵌入其中[12],數字科技向善理念的實現依靠且要求數字科技開發人員向善。
企業對數字科技開發人員的倫理治理主要包括數字科技倫理培訓、數字科技倫理繼續教育和數字科技倫理問題應對實踐三種方式。一是企業開展數字科技倫理培訓,提升數字科技開發人員對倫理問題的辨別和應對能力。百度、騰訊、商湯集團和阿里巴巴集團等大型數字科技企業均已開展數字科技倫理培訓,并幾乎覆蓋至全體員工。以阿里巴巴集團為例,數據安全相關內容已滲透至員工人職培訓、年度培訓中,并開展數據安全紅線培訓和認證等專項培訓。2024年,阿里巴巴集團參與學習人數超過170萬次,數據安全紅線認證考試的通過率達 100% 。大型數字科技企業還可以充分發揮科技優勢,將數字科技倫理培訓向企業外部延伸。例如,阿里云聯合南京大學啟動人工智能人才培養合作計劃,共同培養適應未來技術變革、具備跨學科思維的人工智能創新人才。二是企業鼓勵數字科技開發人員參加數字科技倫理繼續教育,提升其數字科技倫理素養。數字科技開發人員作為數字科技創新和倫理治理的專業性人才,其倫理價值敏感性來源于專業知識學習和倫理治理實踐,繼續教育能有效彌補數字科技開發人員的數字科技倫理理論知識薄弱的短板。例如,騰訊聯合北京大學光華管理學院打造了首個人工智能通識課,即“企業管理者人工智能通識課”,以提升企業管理者對人工智能技術、倫理治理工具和行業案例等領域的理解與運用,提升企業技術創新能力和倫理治理水平。三是企業借鑒數字科技倫理問題應對實踐,總結經驗,進一步提升數字科技開發人員的倫理治理能力。數字科技開發人員是數字科技、數字產品或服務的倫理設計者,也是解決倫理問題的一線工作者。例如,抖音集團在治理虛假信息行動中,增強人工對信息真實性的研判與核實,并推出視頻“標注”功能,既有助于提升數字科技開發人員的倫理治理能力,又可以聯合利益相關主體共同構建健康的網絡生態。
五、企業數字科技倫理自律自治機制存在的問題
在遵從數字科技倫理監管政策的基礎上,中國企業已開展倫理治理機構設置、倫理治理體系建設、倫理知識的培訓和宣傳等數字科技倫理自律自治行動,并將負責任的研究與創新、科技向善、負責任的人工智能和平衡發展的人工智能倫理觀等理念融入企業愿景、戰略使命、企業文化。然而,中國企業在數字科技倫理自律自治方面仍存在問題,主要體現為數字科技倫理意識缺乏或認識高度不夠,企業數字科技倫理治理制度體系尚不完善且約束力較弱,企業數字科技倫理成熟治理模式較少且未形成示范效應等。
(一)數字科技倫理意識缺乏或認識高度不夠
企業數字科技倫理治理的基石是員工的數字科技倫理素養,主要體現為員工是否具備數字科技倫理相關意識和專業技能。數字科技倫理意識是企業倫理文化的外在反映,更是企業的經濟目標與社會目標不斷耦合的體現,對企業倫理價值觀和可持續發展具有長期影響和重要作用。百度、騰訊、商湯集團和阿里巴巴集團等大型數字科技企業已具備與數字科技倫理相關的組織架構、管理制度體系和專業人員等,并開展相關倫理治理工作。然而,通過梳理中國企業數字科技倫理治理實踐發現:大部分企業公開資料中未提及倫理治理相關概念,企業管理活動中未出現倫理治理行為;部分大中型數字科技企業僅涉及倫理治理的重點議題,如數字包容、安全可信的數字產品、網絡內容治理和隱私保護等,尚缺乏對倫理理念和倫理文化的具體化與明確化;企業將倫理治理工作視為影響技術研發與成果轉化、產品或服務上市的不利因素,尚未意識到負責任的研究與創新、科技向善、負責任的人工智能和平衡發展的人工智能倫理觀等理念對企業可持續發展、數字科技倫理治理水平提升的重要性。
(二)企業數字科技倫理治理制度體系尚不完善且約束力較弱
相對于《關于加強科技倫理治理的意見》《科技倫理審查辦法(試行)》等政府數字科技倫理監管政策,企業數字科技倫理治理制度體系尚不完善且約束力較弱,這是由其自身屬性決定的。
企業數字科技倫理治理制度的約束力較弱,主要體現為四個方面。一是企業數字科技倫理治理的邊界仍未確定,導致管理制度內容、管理機制和管理權限等存在不確定性,進而導致制度約束范圍模糊和約束力較弱。二是數字科技倫理治理目標與企業目標不一致,企業進行數字科技倫理治理需要變革組織架構、制定相關制度、配備專業人員,這些均會導致企業綜合成本的上升,而創造的相關經濟效益和社會價值卻存在不確定性,導致倫理治理制度體系處于虛置狀態,其成為企業的成本負擔,約束力較弱。三是企業數字科技倫理治理是企業內部從人到人的管理模式,而倫理問題或倫理風險則體現在數字科技產品或服務的應用中,未形成閉環管理,且企業內部從人到人的倫理治理還存在技術的未知性和不確定性等問題。因此,企業數字科技倫理治理制度的“先天性缺陷”導致約束的非剛性。四是參與企業數字科技倫理治理的機構或人員不具備完全的獨立性,其倫理治理行為的開展、效果評價等均由企業的最高權力機構決定,進而影響倫理治理制度約束的獨立性和剛性。
(三)企業數字科技倫理成熟治理模式較少且未形成示范效應
騰訊站在數字科技倫理治理的前沿,于2018年提出“科技倫理”,2019年提出“用戶為本,科技向善”,并將其確立為企業愿景和戰略使命,奠定了倫理治理在企業中的重要地位,通過設置倫理治理機構、制定倫理治理制度、配備專業人員等開展倫理治理工作,實現了從董事會到員工的倫理治理全流程覆蓋。然而,企業數字科技倫理成熟治理模式較少且未形成示范效應,主要體現為四個方面。一是多數企業并未將倫理治理提升至戰略層面或在董事會層面設置相關專業委員會。二是設置“董事會—管理層—執行層”的三層治理機構的企業較少,多為“管理層—執行層”的兩層治理機構,并需要加強倫理審查工作。三是企業數字科技倫理治理制度體系的建設仍待完善,存在“零”“散”等特征。其中,“零”體現為制度制定的數量少,“散”體現為制度制定較分散、體系化程度低。四是企業關于數字科技倫理治理相關內容的公開披露較少且渠道單一,主要為企業ESG報告、企業社會責任報告和可持續發展報告。目前,僅百度和阿里巴巴集團等少數企業對數字科技倫理治理舉措進行披露,這將導致企業數字科技倫理治理信息的透明度較低,無法在全社會形成引領效應和示范效應,進一步導致社會公眾等利益相關主體無法有效實施外部監督,無法有效提升企業整體數字科技倫理治理水平。
六、優化企業數字科技倫理自律自治機制的對策建議
為進一步優化企業數字科技倫理自律自治機制,應以加強數字科技倫理培訓和宣傳,提升員工數字科技倫理素養為起點;以完善企業數字科技倫理治理體系為核心,將數字科技倫理治理貫穿經營管理全過程;提高企業數字科技倫理治理的對外披露程度,既發揮典型示范效應,又增強外部監督的有效性;在以上基礎上,從企業個體的數字科技倫理自律自治擴展至產業鏈,構建產業鏈數字科技倫理治理共同體,推動上下游企業開展協同自治。
(一)加強數字科技倫理培訓和宣傳,提升員工數字科技倫理素養
人才是企業數字科技倫理自律自治的根本,員工數字科技倫理素養的提升是實現數字科技倫理自律自治目標的基石。因此,企業應加強數字科技倫理培訓和宣傳,將數字科技倫理相關內容融入企業文化,全方位、多渠道提升員工數字科技倫理素養。
加強數字科技倫理培訓,鼓勵員工參加繼續教育,提升員工數字科技倫理相關專業技能,增加知識儲備。一是企業按照數字科技倫理整體及其細分領域的分層思路設置培訓課程。其中,細分領域按照分類的思路設置培訓課程,并針對企業不同層級的員工制定差異化培訓計劃,根據員工的實際需求及時調整培訓課程。二是企業數字科技倫理培訓課程內容應包括理論學習和實踐學習兩部分,并適當向實踐學習傾斜。三是強化培訓成果向實際解決問題的能力轉化。定期舉辦培訓成果分享會、倫理治理技術創新大賽,將培訓內容轉化為推動企業數字科技倫理治理水平提升的有效措施。對于符合條件的員工,企業還應鼓勵其參加數字科技倫理繼續教育,提升專業技能,增加知識儲備。四是企業將數字科技倫理培訓結果與員工績效考核、職業發展等掛鉤,以此形成有效的監督和激勵機制,避免數字科技倫理培訓流于形式。
加強數字科技倫理宣傳,提升員工倫理風險意識。創新數字科技倫理宣傳模式,打造“線上 + 線下”的宣傳形式,將數字科技倫理相關知識傳遞到企業員工。一是充分發揮線上信息載體的優勢,將數字科技倫理宣傳內容融入企業網站、微博、微信公眾號等常規載體,并拓展至短視頻平臺、直播平臺等新興載體,不斷提高宣傳速度、擴大覆蓋面、增強互動性等。二是創新線下信息載體的宣傳形式,以主題展覽、志愿服務、文化沙龍等形式將宣傳與實踐、休閑相結合,使數字科技倫理相關內容潛移默化地深入員工的心與腦。
企業將數字科技倫理相關內容融入企業文化,提升員工數字科技倫理素養。企業文化是企業的共同信念、核心價值觀和行為規范,對員工思想和行為具有引導和規范作用。企業可以嘗試將負責任的研究與創新、科技向善、負責任的人工智能和平衡發展的人工智能倫理觀等理念融入企業文化,促使員工形成或重塑健康、正確的倫理價值觀,并外化于企業生產活動中。
(二)完善企業數字科技倫理治理體系,并貫穿經營管理全過程
構建多層次的企業數字科技倫理治理組織架構,增強倫理治理機構的獨立性。一是構建覆蓋董事會、管理層和執行層的數字科技倫理治理體系。在董事會層面,企業設置數字科技倫理治理委員會,從戰略層面對企業整體的數字科技倫理治理進行統籌與部署,委員會成員的構成應充分考慮專業背景、來源和獨立性等因素。為增強獨立性,可以適當提高外部委員的比重。在管理層層面,企業設置數字科技倫理治理辦公室,以制定企業數字科技倫理制度、機制,推動倫理治理工作的開展。在執行層層面,企業設置數字科技倫理治理團隊或工作組,并考慮設置首席數字科技倫理官等職位,以解決企業面臨的倫理風險。二是完善企業數字科技倫理治理制度體系。以構建企業戰略層面的倫理風險管理制度框架為引領,逐步完善企業研發與設計、生產與運營、銷售與服務等階段的倫理治理制度。
在創新數字科技倫理治理實踐方面,企業要持續推進數字科技倫理治理技術的研發與應用。數字科技倫理治理技術研發主要包括加速數字技術的倫理演進和增加倫理設計兩個路徑。其中,加速數字技術的倫理演進可以通過人類反饋強化學習、合作逆強化學習和監督精調等方式[13],將人類的倫理價值觀轉化為現實可操作的技術路徑,避免數字科技產品或服務的執行路線發生扭曲。增加倫理設計則是將人類相對恒定且統一的倫理原則作為單獨模塊添加到數字科技的研發與設計階段中。在創新數字科技倫理治理模式方面,企業從自我治理模式轉變為開放式治理模式。部分數字科技企業(小米社區等)基于用戶體驗、技術創新等建立了虛擬社群,但該類虛擬社群未直接參與到或融入企業技術創新、經營管理活動,更多停留于信息交流與應用反饋等層面。為提升企業數字科技倫理治理水平,企業可以將現存的虛擬社群融入企業倫理治理。例如,企業將現有的虛擬社群或新構建的虛擬社群融入內容治理領域,允許社群成員對存在倫理風險或潛在倫理風險的內容進行標記或修改,并使用區塊鏈等技術實現隱私信息加密,以確保數據安全。這種開放式治理模式將有效降低企業倫理治理成本,提升企業倫理治理效率。
(三)提高企業數字科技倫理治理的對外披露程度,發揮典型示范效應
為不斷推動企業數字科技倫理相關內容的對外披露工作,提高倫理治理的透明度,可探索建設中國企業數字科技倫理治理的披露制度體系,主要包括兩個方面。一是制定企業數字科技倫理治理報告編寫指南,對企業數字科技倫理治理報告編寫的基本原則、步驟和方法進行指導與規范。基于中國數字科技企業的特征,以及借鑒歐盟、美國等地區和國家關于數字科技企業的倫理監管經驗,根據企業性質、是否上市、企業規模等因素制定差異化的企業數字科技倫理治理報告編寫指南。二是構建企業數字科技倫理治理信息披露機制。首先,需要確定企業數字科技倫理治理信息的披露周期和披露形式。在披露周期方面,參考企業社會責任信息的披露機制,企業數字科技倫理治理信息的披露周期可以采取定期報告披露與日常信息披露相結合的方式。其中,定期報告披露主要指上市企業根據不同交易所、不同交易板塊的要求,以年度、半年度、月度為周期對企業數字科技倫理治理信息進行披露;日常信息披露則指企業針對生產經營中面臨的、需要解決的倫理問題等進行披露。在披露形式方面,企業數字科技倫理治理信息定期報告披露可以采取獨立性披露和合并式披露兩種形式。其中,獨立性披露指企業數字科技倫理治理信息獨立形成完整報告;合并式披露則指將企業數字科技倫理治理信息作為企業ESG報告、企業社會責任報告和可持續發展報告的部分內容進行披露,但其自成獨立的子報告體系。其次,需要確定企業數字科技倫理治理信息的披露范圍和披露要求。披露范圍是指企業數字科技倫理治理信息披露的對象,是向社會公眾開放,還是僅向部分群體或利益相關主體開放。如果采取合并式披露形式,則附加另一項報告披露范圍即可,但需要將數字科技倫理治理信息進行脫敏處理。披露要求則需要確定企業數字科技倫理治理信息的披露方式,主要包括強制性披露、條件性披露和自愿性披露。
企業性質、是否上市等因素對企業數字科技倫理治理信息的披露形式、披露范圍和披露要求等具有重要影響。企業數字科技倫理治理信息的披露形式、披露范圍和披露要求如表2所示。一是發揮國有企業的“排頭兵”“先鋒隊”作用,將上市中央企業作為企業數字科技倫理治理信息披露制度體系的首批試點企業,采取定期報告、獨立性披露的形式,以不斷改進和提高報告質量。二是將企業數字科技倫理治理信息披露制度體系的試點從上市中央企業擴圍至上市國有企業。后續結合試點成效,逐步將企業數字科技倫理治理信息披露制度推廣至全部企業。其中,上市企業采取強制性披露原則,處于特殊行業的企業采取條件性披露原則;非上市企業以自愿性披露原則為主。另外,在定期報告的基礎上,鼓勵有條件的企業針對社會高度關注的熱點倫理問題,發布專項治理報告。漸進性擴大企業數字科技倫理治理信息披露制度體系所適用企業的范圍,且不斷升級信息披露要求。
表2企業數字科技倫理治理信息的披露形式、披露范圍和披露要求
確定企業數字科技倫理治理報告評價的方式、內容和標準,建立企業數字科技倫理治理報告評價制度,挖掘并推廣優秀企業案例。企業數字科技倫理治理報告的評價方式以企業自我評價為起點,以全面實現獨立第三方機構評價為目標,以行業組織自律性評價為重要補充。企業數字科技倫理治理的最終目標是提升數字科技倫理治理水平,對其進行評價的目的是發現治理實踐中存在的問題,為企業、政府和利益相關主體的管理行動提供依據。因此,評價內容應以企業數字科技倫理治理水平和企業數字科技倫理治理實踐兩個方面為主,且兼顧對企業數字科技倫理治理報告編寫水平、企業數字科技倫理治理信息披露情況等。企業數字科技倫理治理報告的評價標準應具有異質性,需要依據評價方式來分別制定。政府、行業組織等以企業數字科技倫理治理報告的評價結果為依據,選取優秀企業案例,并在全社會范圍內進行宣傳,帶動其他企業更好開展數字科技倫理治理工作。
(四)構建產業鏈數字科技倫理治理共同體,推動上下游企業開展協同自治
產業鏈數字科技倫理治理共同體的構建需要上下游企業等多元主體的共同參與,進而推動全產業鏈數字科技倫理治理水平的提升。產業鏈數字科技倫理治理共同體的構建應確定兩個關鍵要素,即協同機制和治理共同目標,其內在邏輯機理為“協同機制—治理行動—價值對齊”。其中,治理行動是經濟價值、治理目標和協同機制等多元因素耦合的結果。具體而言,一是形成產業鏈數字科技倫理治理協同機制。一方面,經濟價值是企業生存和發展的最終目標,也是其開展倫理治理行動所要實現的經濟目標,是影響企業行動的重要因素。另一方面,上下游企業之間存在商業合作和經濟來往,經濟利益是核心紐帶,因而產業鏈數字科技倫理治理協同機制以經濟獎懲為基礎,對于發生倫理失范現象且對產業鏈其他企業產生負面影響的企業,采取經濟處罰或終止合作等治理措施;以產業鏈核心企業為引領,聯合產業鏈其他企業制定數字科技倫理治理制度;以企業內部倫理治理委員為中介,構建互聯互通的倫理治理協同機制。以大型數字科技企業倫理治理為示范,以中型數字科技倫理治理為核心,解決好小型數字科技企業倫理治理的“最后一公里”。二是形成產業鏈數字科技倫理治理共同目標。產業鏈數字科技倫理治理共同目標應按照“數字科技倫理監管政策—數字科技倫理治理標準一企業數字科技倫理治理制度”的邏輯思路確定,實現數字科技產品或服務中包含的社會道德原則、倫理規范、價值觀與人類價值對齊,增進公共福祉,實現經濟價值與社會價值的雙創雙贏。
此外,除了推動形成產業鏈、企業之間的數字科技倫理治理共同體,政府、數字科技類社會團體和社會公眾對企業數字科技倫理治理也發揮監管或外部監督作用,應推動構建覆蓋全社會、以企業內部治理為核心的“外監管 + 內治理 + 外監督”的數字科技倫理治理生態,進一步提升中國企業數字科技倫理治理水平。
參考文獻:
[1]中華人民共和國工業和信息化部.智能工廠梯度培育行動取得初步成效[EB/OL].(2025-02-07)[2025-03-14].https://www.mit.gov.cn/jgsj/zbys/znzz/art/2025/art_6aa6564bd8ee4df3a80f99d9b806b04f.html.
[2]陳志斌,達瓦卓瑪.平臺企業算法價格歧視行為及其協同治理[J].江海學刊,2024(5):111-119.
[3]習近平.敏銳抓住信息化發展歷史機遇自主創新推進網絡強國建設[EB/OL].(2018-04-21)[2025-03-14].https://politics.gmw.cn/2018-04/21/content_28429584.htm.
[4]段偉文.深度科技化時代科技倫理治理的三重思考[N].光明日報,2022-07-04(15).
[5]楊杰,吳琳偉,鄧三鴻.顛覆性技術視角下科技倫理的敏捷治理框架探討[J].中國科學基金,2023,37(3):378-386.
[6] 解正山.約束數字守門人:超大型數字平臺加重義務研究[J].比較法研究,2023(4):166-184.
[7] 文成偉,汪姿君.預知性技術倫理消解AI科林格里奇困境的路徑分析[J].自然辯證法通訊,2021,43(4):9-15.
[8]HELLSTROMT.Systemic innovation and risk:technology assessment and thechallenge of responsible innovation[J].Technology in society,2003,25(3) :369-384.
[9] 杜嚴勇.機器人倫理設計進路及其評價[J].哲學動態,2017(9):85-92.
[10]賀勇,李佳蔚,劉筱祎.數字平臺算法審計:現實理據、客觀挑戰與關鍵進路[J].南京審計大學學報,2025(2):14-24.
[11]趙陣.探尋技術的本質與進化邏輯——布萊恩·阿瑟技術思想研究[J].自然辯證法研究,2015,31(10):46-50.
[12]李鑫林.論負責任創新透明性實踐的倫理可接受性[J].自然辯證法研究,2024,40(10):80-87.
[13]王煥超.直面\"價值對齊\"挑戰[J].瞭望,2024(26):45-46.
Self-Discipline and Autonomy Mechanism of Digital Technology Ethics in Chinese Enterprises
XIAO Hongjun',ZHANG Lili2
(1.Institute of Industrial Economics,Chinese Academy of Social Sciences,Beijing 1Ooo06,China; 2.Instituteof Digital Economy,Beijing Academy of Science and Technology,Beijing 1Ooo89,China)
Summary:Digital technologyempowers thousandsof industries,shapesnew formsof digital societyandbecomesan importantenginefordevelopingnewqualityproductiveforces.Whiledigital technology hasrevolutionized technological paradigms,business models,andsocialoperations,ithasalsoled to ethical violations,suchasprivacy breaches,bigdata manipulation,humanalienationbyalgorithms,model black boxes,and informationcocoons.Itisurgent touphold the conceptof“technologyforgood”,strengthentheself-disciplineandautonomyofdigitaltechnologyethicsinenterprises, and accelerate the alignment of digital technologywith humanvalues.
This paper systematically reviews the practice of self-disciplineand autonomyof digital technology ethics in Chinese enterprisesandfindsthattheroleofenterprisesindigitaltechnologyethicalgovernanceiscenteredonethical self-disciplineandautonomywithethicalcolaborativeautonomyacrossindustrialchainsasanextension.Theconstruction ofself-disciplineandautonomymechanismsofdigital technologyethicsconstitutesfourparts:formingathree-tier governance structure model of“boardof directors, management,and executive layer”anda two-tier governance structure model of“managementand executivelayer”,gradually establishing a governance system that includescomprehensive governanceandspecialized governance systems,integrating ethical governance intothe valuechain,andcaying outethical governanceactionsfromthesourcesof technological innovationand digital technologypersonnel.Therearestill shortcomingsitheself,tooptimizetheself,dsciplineandautonomymechansms,itisnecessarytofurtherstrengthenthe trainingandpublicityofdigitaltechnologyethics toenhanceemployees’literacyinthisaspect,improvetheconstructionof governance systemsand integrate them throughout theentire production and operation proces,increase transparency in external disclosuresof ethical governanceandleverage typicaldemonstrationefects,andbuildagovernancecommunityof digital technology ethicsacrossindustrial chains toadvance collborative governance among upstreamanddownstream enterprises.
Compared with previous literature,thispapercontributes in twoaspects.Firstly,in terms of research objects,it focusesontheself-disciplineandautonomymechanismsof digital technology ethics in Chineseenterprises,systemically analyzes theolepositioning,organizationalstructurereform,institutional systemconstruction,andmanagement practicsof enterprisesaskeyactorsindigital technologyethicalgovernance,whichhaveachievedaleapfrompracticetotheoryinthe self-disciplineandautonmyofdigital technologyethics inenterprises.Secondly,itconductsacomprehensivestudyonthe self-disciplineandautonomy mechanismsof digital technologyethicsin Chineseenterprises,covering subfields such as algorithmethics,dataethics,andartificialinteligenceethics,whichareasummary,integration,andextensionofthe research in these subfields.
Keywords:digital technology ethics; ethical self-disciplineand autonomy; ethical supervision
(責任編輯:尚培培)