數字倫理與數據治理：互聯網平臺企業面臨的新挑戰

楊 溟,曹素妨

(1.媒體融合生產技術與系統國家重點實驗室，北京100000;2.新華網融媒體未來研究院，北京100000)

互聯網平臺企業的基本語言和底層邏輯都是基于計算機技術，大數據發展為互聯網業務提供了支撐、服務和應用。阿里巴巴創始人馬云曾說，未來的時代將不是IT時代，而是DT時代，即DataTechnology數據科技時代。互聯網平臺企業治理的核心內容是數字倫理和數據治理，當下各國對虛擬數字技術、虛實空間交互運營、在線平臺服務的追逐、探索不斷涌現，有關沉浸式用戶體驗和其他如XR、腦機接口(BCI，Brain-computer interface)、6G、區塊鏈等潛在元宇宙概念的技術也在不斷發展。此類大規模虛擬平臺將重現現有互聯網平臺運營的既有問題，比如內容審核、隱私、競爭和數字鴻溝等，也或將帶來現有監管原則及社會秩序解構、虛擬空間犯罪與責任主體混亂、虛擬世界道德構建沖突、數據真偽莫辨、國家主權與組織安全等風險，當下尚未形成以數據治理、數字倫理為核心的認知共識。

互聯網平臺型企業治理是現代社會治理生態中的重要組成部分，本文僅就其中互聯網平臺數據失真與溯源核證等問題及對策作粗淺思考，供批評指正。

大數據技術使互聯網平臺企業進入多源異構的生態環境，給互聯網平臺企業帶來新的數據定量方式，也日益面臨信息傳播模式、數據處理能力、媒體內容生產與傳播認知的挑戰，呈現出交互而非單線、交叉而非徑直、動態而非穩態的非線性傳播特征。

一、 數字經濟為互聯網平臺企業治理帶來挑戰

(一)個性化識別提供了定量分析條件

數字經濟時代，“大數據”的出現與應用呈現出全新的特征。大數據的“4V特征”被業界廣泛接受，即數據量(volume)大、數據種類(variety)多、數據價值密度(value)低以及數據產生和處理速度(velocity)快。[1]在學術界，羅伯·基欽(Rob Kitchin)在《數據革命》(TheDataRevolution)一書中對于“大數據”的定義也得到很多人認同，他將范圍上的全面(exhaustive in scope)、分辨率的精度(fine-grained in resolution)、內在的相關性(relational in nature)、靈活(flexible)、可擴展(scalable)也看作“大數據”的核心特征。[2]從這些定義與特征來看，“大數據”的本質就是數字化與網絡化、智能化計算的結合。所以，“大數據”在一定意義上重新定義了“數據”的概念，“數據”不僅指可以“數量化”的事實或信息，而且指能夠被利用數字技術“數字化”的所有對象，包括文本、圖像、視頻、音頻等。

以此觀照，傳媒業傳統的生產方式已難以適應個性需求，這是導致傳統媒體組織行業性危機的根本原因。大數據時代非順序地訪問信息的非線性傳播模式，需要適配個性化識別與定量分析的研究方法和工具。在數據采集、感知、評估、分析等環節，大數據技術都提供了一種基于個體差異化的研究與解讀方式，使“用戶”這個概念取代“受眾”，媒介內容被當成一種產品，使功能和需求基于多樣化、非線性，能夠滿足個性化的供給。這也是數字經濟時代以“今日頭條”為代表的算法技術大行其道的競爭力所在。

比如，認知神經科學研究工具就提供了一種瞬間效果研究的可能性。其中包括通過生物傳感與認知神經技術獲取用戶體驗的反饋機制、隱私保護機制、心理安全與精神健康機制，以實現更高層面的需求滿足，進而優化互聯網平臺的產品和服務。

(二)身份失真消解主體現實認同

互聯網平臺作為社會系統的子單元，其發展邏輯也嵌入社會治理生態，相互作用、相互影響。電子商務、政務服務等連接社會多元主體共同參與社會治理體系的建構，而對復雜關系的識別，數據溯源與辨偽，也正成為當下互聯網平臺企業治理的難題之一。

值得警惕的，首先是用戶在互聯網平臺上主體身份的模糊。從智媒技術發展的角度看，一味追逐沉浸式虛擬現實技術，營造真假難辨的幻象會給用戶帶來認知障礙，也給平臺治理和社會治理帶來難度。

數字技術使“看得見的世界”未必真實。鮑德里亞認為，擬像扼殺真實。VR、AR、MR等技術在5G與AI的加持下，其清晰度、時延及內容生產速度都大幅改善。當頻繁置身于數字技術所打造的比特世界時，“高清晰度”引發的認知功能障礙使得受眾對于真實與擬像難以判斷，從而無法區分虛擬和現實。隨著“擬態環境”在人類頭腦中的印象愈加深刻，人類越來越難以正確認知客觀現實。[3]

虛擬空間中的數字身份具有多元性、可偽性、匿名性等特點。人們可以根據不同場景構建完全不同的數字身份、多重身份進行疊加和轉換。這看似鞏固了人的主體地位，實則在消解人的主體地位。匿名性、可偽性往往讓數字身份遠離現實身份并帶有奇觀化色彩，若不積極引導，可能導致虛擬化身的認同障礙，引發心理問題。[3]

數字身份的數量越多，虛擬化程度越深，主體對其的控制和整合就越困難。普特南就“缸中之腦”的假想進行的實驗表明，人們在被各種設備刺激大腦，如體驗虛擬現實的逼真場景之后，會認為自己所經歷的場景是真實的，導致與現實生活的混淆。而且，技術所達成的效果越真實，人對其的依賴越強烈，自身的稟賦越容易被消磨。虛擬現實對真實生活的過度代替并非言過其實，日本一男子因迷戀虛擬偶像初音未來，用30萬日元買下了官方認證的初音虛擬體裝置GateBox，并花費 200萬日元與其舉辦婚禮。

如果虛擬現實技術大量滲入現實生活，在行之有效的監管制度普及之前，人們很有可能失去理性判斷力和價值判斷力，從而與現實世界失聯，主體性的“現實性”前提也將由此被消解.

(三)“以假亂真”的內容使社會風險加劇

智媒時代的主體性式微使得社會風險和隱患不斷積累，要突破倫理困境，首先需要對產生倫理危機的原因進行溯源與歸納。主要原因有三：一是相關政策與制度的滯后；二是技術邏輯與主體邏輯的矛盾；三是責任主體的淡化與泛化。[3]科技發展應遵循人的理性意志，服務人的日常生活，彰顯人的主體價值。因此，重塑智媒時代人的主體性需從人本主義出發，注重自為的自律性、自覺的能動性和自由的超越性，思考人與技術的內在關聯，在制度、技術及人文關懷等方面切實提高人的自主性。

由游戲、娛樂、影視、旅游、教育等各行業在視覺交互與虛擬現實“沉浸感”上投入的熱情正感染著尋求轉型升級的互聯網行業，追求表面的“代入”和幻象滿足，卻忽略了平臺管理和社會治理的失真與失衡，尤其在內容生產與傳播中缺乏真偽監督約束機制。

數字化社會里，互聯網平臺企業的內容也來自數據采集和經過算法加工的數據處理，缺乏技術研發前期的倫理算法嵌入將造成不可預期的運營風險，進而對已有的倫理秩序構成極大的挑戰。

一方面，算法再現或放大已有的倫理問題。算法具有不透明性、可塑性、人類智能的嵌入性、價值負載性以及應用后果的不確定性。社會和結構不平等，關于知識、正義和技術本身的假設，有偏見的、不完整的學習樣本導致歧視的加深和傳遞，都可能損害社會公平。當前人們討論較多的算法偏見與算法歧視，就是指潛藏著的來自設計者、使用者和學習數據的偏見。算法偏見、算法歧視與算法本身的構建和其數據樣本數量及樣本性質密不可分。且都可能通過算法被強化和極化。[4]

另一方面，大數據時代“數據—算法”的疊加帶來了新的社會倫理問題。如隱藏在內容生產、傳播背后的數據權利問題、風險與責任、隱私與信息安全等帶來的新型社會倫理問題。[5]

伴隨數字經濟的興起，商業對數據進行了發掘，企業與平臺按照符合自身利益的方式通過算法對數據進行操作。企業與平臺所使用的算法如果優先考慮經濟利益，可能會置個人隱私、信息安全等倫理問題于危險中。同時，價值的偏好、認知的缺失也是重要的影響因素。算法設計者和審查者的價值無意識、價值偏好、對倫理問題和倫理責任缺乏意識和敏感性等都加劇了數字技術倫理問題。

二、互聯網平臺企業治理融入社會治理體系

(一)對公民數據權利的重新審視是治理前提

現代社會的良性治理需要重新審視大數據時代公民的數據權利，重構社會數字技術倫理秩序。這是一個需要在一定的原則和規范的基礎上建立起包含多元主體參與的治理機制與體系，共同面對數字社會發展風險，盡可能讓人們最大限度地享受其福祉。[5]

從技術層面來看，數字技術的發展與治理需要遵循一些一般性原則。需要在研發規劃階段介入倫理與治理專業評估、場景預演實現，在實驗、開發與應用過程中適時調整。尤其需摒棄理工學科與人文社會學科的隔膜與封閉，充分協同合作。

從互聯網平臺企業層面看，企業要主動意識到數字化進程所帶來的業務模式變革與用戶數據權利維護，自覺開展平臺價值觀與數字技術倫理的研究、評估與制度化建設，形成適應數字社會的運行機制。尤其要重視因為數據、算法產品的專業特殊性而造成與用戶間新的數字鴻溝。建構新型的數字社會生態共同體，應“充分考慮與平衡企業利益、員工利益、用戶利益、競爭者利益與公共利益等多元利益”。[6]

從社會治理層面來看，需要不斷建立與完善有關數字技術的倫理審查機制與倫理法律規范。政府相關管理機構作為公眾的“代理人”要積極行使倫理審查的責任，依法進行約束和懲罰。數字社會的倫理規范逐漸呈現規則化和法律化的特征，倫理約束從非正式行為上升到正式規則(行政、法律處罰)。面對數字技術的飛速發展以及倫理問題的突顯，政府要愈加關注數字技術所帶來的倫理風險及其治理方式，有序引導數字技術不斷服務于社會進步與造福人類，建設數字社會的良性治理模式。[5]

(二)主體權益保護與數據聯管聯治：互聯網平臺治理的基礎要求

2022年12月19日，中共中央、國務院發布《關于構建數據基礎制度更好發揮數據要素作用的意見》(以下簡稱《意見》)，明確建立數據產權、流通交易、收益分配、安全治理四大基本制度。這意味著，關于數據流通中權屬分置的頂層設計已經確立，以保護相關主體的權益為基礎，數據權屬的資源持有權、加工使用權和產品經營權三權結構性分置制度框架已經形成。在建立安全可控、彈性包容的數據要素治理制度方面，《意見》提出了強化分行業監管和跨行業協同監管，建立數據聯管聯治的機制，以及圍繞數據要素生產流通使用全過程的監測預警等制度安排。

此外，在數據化特征的平臺上，強化反壟斷和反不正當競爭，依法依規查處壟斷協議、濫用市場支配地位和違法實施經營者集中行為，并在落實網絡安全等級保護的基礎上，《意見》提出全面加強數據安全保護工作的要求。隨著數據智能的行業應用日漸成熟，數據與算法層面面臨的倫理挑戰也日趨復雜。大數據應用的安全與隱私風險成為制約大數據技術行業健康發展的重要因素。數據共享利用的效率，與數據安全和隱私保護之間，需要大數據治理體系以及相關數據法律法規的規范，這也是大數據治理體系誕生與完善的迫切原因。[6]

這些對于互聯網平臺企業而言是構建數據基礎制度的基本要求，也是全新的領域，仍有很多法律法規尚未涵蓋的空白，需要在實踐中不斷探索。

(三)辨偽與溯源：復雜系統下的識別與感知

在騰訊研究院發布的《升維——2023年十大數字科技前沿應用趨勢》中，明確將泛在操作系統加速人—機—物全面融合列為泛在計算的時代特征，人類社會、信息空間、物理世界深度融合異質、異構發展已成必然趨勢。包括云計算精細化、集約化和異構計算也將加速演進。[7]

一種打破物理空間、社會空間與生命空間隔閡的時代正在到來。它使我們重新觀照核心技術及其開發觀念，重新建構新的共生生態，也重新梳理生態系統的治理、行業與技術倫理的邏輯。即便是眾說紛紜的“元宇宙”時代，如何與具備感知與交互智能的具身智能“數字生命”相處也是新型人機社會治理必須面對的課題。[8]

互聯網平臺應正視自身所具備的媒體屬性，并以此作為提升核查信息辨識能力的自我要求，互聯網平臺數據運營與機制設定不能脫離其在社會治理生態中的定位，而應承擔起數字化時代的平臺責任與使命。

就平臺品牌價值而言，互聯網平臺企業具有娛樂、游戲、消費等多重屬性，而信息內容的真偽是否清晰地被標注、用戶需要時能否被溯源、查驗、核證、辨偽，對平臺可信力而言有著至關重要的作用。

(四)事實判斷：后真相時代的傳播與參與

事實與邏輯的結合是真相的基礎。“網絡新媒體的發展，使得普通民眾也能具有新聞事件的傳播能力，可這種參與卻也讓事件的真相變得難以獲得。在這種環境下，即使是專業的新聞記者也會受到‘情感高于理性’‘立場高于事實’的影響， 使得專業報道越來越稀缺，這樣的時代也就是所謂的‘后真相時代’。”[9]事實真相，從來都不是自明的東西。對事實的判斷更會涉及多個不同的類型，即哈林所指的共識區(缺乏爭議而沒有必要)、合理爭議區(操作客觀性在運作的區域，爭議會平衡地得到呈現)、越軌區(媒體無法中立，有偏向性)。

兩百年前，亞當·斯密就已經描述了不同群體利己的社會行為對于社會秩序所形成的影響。麥克唐納在《后真相時代》中指出，洞悉真相的運作模式，才能更有智慧地處理信息，甚至通過改善真相的講述方式達成目標。他把偽真相歸為四類，即：片面真相——大部分陳述是真實的，但沒有傳達完整的真相；主觀真相——可以被改變的“真相”；人造真相——賦予語言靈活性含義的“真相”；未知真相——尚未被證明的“真相”。[10]

就互聯網平臺內容信息失真而言，技術溯源與核證的能力本質上說是媒體批判性的價值體現，是以數據形式體現的科學實證和哲學思辨的基本觀念。

三、數據治理的重點與難點

(一)數據治理的能力類型

具體而言，數據能力構成了互聯網平臺企業治理的重要內容。大致可以分為感知能力、計算能力、算法能力、資源轉換和場景能力等。

感知能力是接收環境或對象異變、刺激信號反應敏感、豐富，比較、識別水平較高，它決定了對事物變化是否遲鈍、敏銳，接觸方式與范圍、程度是否密集、智能。

計算能力是生產和加工源數據的能力，存儲、抽取、清洗素材交付應用，要滿足開放場景和實時處理的要求，它也直接影響決策效能。

算法能力是根據應用場景設計、將多元數據集按需轉化為決策結果的能力，需要理解算力、傳輸和資源的狀況，協同運作滿足場景需求。

資源轉換是將數據變現的能力，包括產品化、分析力、運營力等，與適應數字化變革的組織管理水平相關。

場景能力是構建業務運行的模擬框架，進行數據調用、訓練、測試和產品體系適配的能力。

(二)組織與治理技術關鍵

互聯網平臺企業在數據能力上的表現與組織架構和管理機制保障分不開，平臺根據戰略規劃對技術研發和業務運營進行資源配置，以確保數據能力對業務拓展的可持續支撐與協同。

《福布斯》2022年12月23日報道，字節跳動的員工動用特殊權限查看了多名美國媒體記者在TikTok上留下的隱私數據。此舉違背了TikTok此前關于用戶隱私保護的公開承諾，即不會出于商業以外的目的，對特定美國用戶的信息進行監控。

據報道，字節跳動之所以訪問子公司TikTok的數據，是為了堵住內部資料外泄給媒體的漏洞。為此，字節跳動的內審人員不當查看了多名記者的TikTok賬戶數據，包括他們的IP地址、APP內通信等，以審查他們是否曾與涉嫌泄密的員工聯絡見面。字節跳動高層表態，公司在“數據收集、存儲、傳輸、使用”等流程上合規運營的巨大努力，毀在“少數人的不當行為”上。據《福布斯》報道，此次“不當行為”的是字節跳動內部審計人員。這實質上意味著，風險是從公司治理的內核上爆發的。

該事件的后果可能極為嚴重。自從2020年特朗普政府對TikTok發難以來，字節跳動及TikTok一直在努力向美國政府和社會各界展示該APP的數據安全性。但是，本次事件令情況變得復雜。2022年12月27日，據《華爾街日報》引述知情人士的消息，拜登政府內部的一些官員已經在美國外國投資委員會(CFIUS)的討論中提出，應迫使字節跳動出售美國業務。

在形勢最為嚴峻的2020年，時任美國總統特朗普曾指出，TikTok對美國民眾輸出價值觀并采集用戶信息，對美國國家安全構成了威脅。2021年就任的拜登政府撤銷了特朗普對TikTok的禁令，暫時緩解了其危機。但是，美國政府和監管機構對其的調查始終在推進。這從一個側面看到用戶隱私數據等ESG議題，已經與國家安全(不僅是信息安全)掛鉤。

在我國，信息安全已成為信息化社會國家安全的基石。這也對互聯網平臺企業提出了更明晰的要求。

(三)人機融合智能：重點和難點

互聯網平臺企業的發展關鍵是趨勢與技術判斷、人才、組織與機制的競爭。

人機融合智能專家、北京郵電大學教授劉偉將人機融合智能技術的重點和難點歸納為——

1.輸入端：客觀數據與主觀信息/知識之間的相互驗證、混序處理；

2.處理過程：基于規則/統計的推理計算過程與基于經驗/應變的非公理算計過程之間的有機協同、高效聯動；

3.輸出端：邏輯決策與直覺決策之間的快慢平衡、分寸拿捏；

4.反饋過程：事實性反饋與價值性反饋之間的混合疊加、內在糾纏；

5.人機混合：態—勢—感—知與勢—態—知—感之間的雙向通暢、尺度彌聚；

6.測試評價：人智與機智之間的測試指標/評價標準建立動態管理。[10]

在數字化時代，前端數據采集、感知的重要性尚未得到互聯網平臺企業的足夠重視，而這恰恰是保證數據質量、信息安全、挖掘與分析的基礎和前提。

四、“水晶球”：新華社源數據研究探索

新華社媒體融合生產技術與系統國家重點實驗室(以下簡稱新華社“國重”)將跨媒體大規模感知認知信息分析與推理、人機協同復雜問題分析響應及評估列為自主研發的兩大方向，試圖解決人機融合中即時的非線性連接矛盾。

(一)“水晶球”源數據產品的開發理念

以新華社“國重”研發的“水晶球”源數據(Source Data)產品(見圖1)為例，源數據指以數據形式加以表達的新聞源相關信息的初始記錄。通過源數據，媒體可多維分析、溯源、辨偽和再造現場，在設定的時間維度中充分展現新聞事件內涵、洞察事物的變化形態與邏輯。除了傳統的信息獲取方式，獲得源數據最重要的途徑就是傳感器，通過感知網絡、以人工智能的手段察覺人、事、環境變化的能力成為媒體智能化的重要競爭力。

此外，多源異構下的多源數據互認與不同標準體系間的轉換，不同目標定義下的分析模型適配，都是進行智能感知、識別、溯源等的關鍵環節。科研團隊在數據分析建模中既引入新聞調查的分析視角和專業經驗，也引入戰場態勢感知理論與實踐成果，以強化數據采集和智能感知環節，實現識別與追蹤的目標。其中，基于對象特征或屬性進行自動目標識別，現成的模式識別技術是不夠的，還要取決于感知點的布局、分類和標引的水平。此外，面向一個追蹤靶向運用多傳感器數據確定位置、速度、屬性和身份，在密集雜波、密集目標、復雜的信號傳播環境等情況下，數據關聯、誤差配準、航跡關聯等都很具有挑戰性。

圖1 “水晶球”源數據(Source Data)產品構架示意

(二)“源數據”技術邏輯

“源數據”主要通過網格加以統合，基于風險進行穿透分析。對于時空維度的初始分析、溯源、重建、復盤、核驗、辨偽，對時空軸某一區間進行數據挖掘和深度分析，進而對既生之態歸因、未知之勢預測(見圖2)。

圖2 “水晶球”源數據(Source Data)產品技術邏輯示意

其數據類型包括：

1.環境感知：對全國960萬平方公里的環境物理空間，進行可網格化的區域數據感知，以1公里網格為單元，對多個領域和行業，如環境污染、地質地貌、社會發展變遷、碳中和、城市建筑等的監測。除根據觀測需求調用衛星及傳感數據外，2021年4月27日，新華社“國重”科研團隊還與北京零重力實驗室合作在太原衛星發射中心隨長征六號運載火箭成功發射“藍星球”號遙感衛星。通過特定軌道繞地運行開展遙感信息采集與偵測，可實現對指定區域的異動識別，輔助突發事件或特定環境的多角度報道和溯源分析。

2.社會感知：通過互聯網數據及社會信息數據為行業、區域發展提供決策輔助功能，如地區人口趨勢的動態捕捉與分析，人群進行交叉分析。包括經濟運行數據、企業數據、商業數據、教育資源數據、房地產基礎及交易數據等8300類數據，5000億條有效信息。涵蓋全國336個城市、2861個區縣實時數據，1000項以上指標，2.2億個數據采集點。以企業調查為例，“水晶球”通過對全國1.2億家企業的實時觀測和多維分析“企業呼吸數據”，捕捉企業成長進程中的真實狀態等，滿足自然釋放、多源、長期、常態和突發情況下的各類碎片、痕跡數據建模，吸取調查記者專業經驗和質疑態度，揭示真相、預警風險。

3.情緒感知：關注生理與心理健康與潛在風險，以細粒度情感計算與情緒識別技術，與網格單元匹配，在知情、授權、合規基礎上探索傳播效果評測、人機交互場景等廣闊應用空間。

某種意義上說，互聯網平臺企業首先是“數據商”。其優勢并非“擁有”數據的規模和種類，而是模型構建和數據轉化的能力(見圖3)。

圖3 感知元素數據圖

新華社“國重”在其數據基礎設施建設與數字化戰略布局中，通過“源數據”核心技術研發，為智能媒體治理構建了數據底座和技術框架。

五、結 語

綜上，數字化技術背后往往是跨行業整合，會帶來對互聯網平臺及其相關企業與社會治理機構的挑戰。一方面，是將平臺相關數據納入社會治理的生態系統中，有助于治理決策的智能化和科學性；另一方面，也將社會治理的觸角深入平臺場域，將公共治理滲透進平臺相關的企業組織與私人場域，[11]常態私域空間與公共領域之間的界限開始模糊，甚至轉變成了治理的場域。數字化時代既為互聯網平臺企業帶來新機遇，也使之面臨新挑戰。一種基于數據“生態系統”的系統重構迫切需要治理觀念的反思與迭代更新。形成數字倫理與互聯網平臺責任共識，并盡早規劃與著手數據治理實踐探索，是和諧社會治理生態的當務之急。