數字社會的法治構型

□ 鄭 戈

智慧城市、智慧街道、智慧政務、智慧公安、智慧法院、智慧檢務已經成為我們的日常詞匯。“智慧”這個高于知識、高于技能的人類精神世界的最高境界，如今被我們賦予了機器。以上所有這些熱點詞匯中的“智慧”二字，都是指機器智能（或稱“人工智能”），而不是人類智能。在越來越依靠機器智能來體現人類社會“智慧”水平的當下，人的價值和尊嚴如何體現？機器越來越智能，人類越來越愚蠢，這就是我們所能期待的未來嗎？ 實際上，只要我們真正了解了這些“智慧”規劃背后的政治經濟和技術邏輯，就會發現：機器遠遠不像許多人所想象的那么智慧。“人工智能”從根本上講是一種計算統計技術，它的核心功能是從海量數據中找出隱藏的模式和規律。只不過，大數據時代之前的統計學操作只能基于有限樣本，而萬物聯網卻使得“全樣本”統計分析變得可能。這種分析如果被用于科學研究、公共衛生、人口普查等事關公共利益的領域，將為人類帶來巨大的福祉增益。然而，由于目前的大數據掌控者主要是互聯網平臺企業，它們追逐利潤的商業行為一方面為我們帶來了不容置疑的便利，另一方面也帶來了一系列風險、焦慮和實際損害。技術從來不是中立的，它總是特定的人為了特定的目的而運用科學知識的結果。因此，技術本身的發展方向和可能形態總是受制于特定社會的倫理和法律。所以，一旦我們的目光穿透了“智慧”修辭的迷霧，看到了它背后活生生的人，他們的動機和行為，便可以思考如何通過法律來引領技術發展方向、防范技術風險，使技術服務于人類美善生活這樣的問題，而不是陷入決定論和宿命論的泥沼。法國思想家雅克·艾呂爾指出：技術具有其自身的自治性，它仿佛控制著自身的發展節奏和方向，它不受任何除效率以外的價值的約束。“智慧”技術實際上就是數字技術，它已經滲透到我們社會生活的方方面面。下面我就從數字經濟和數字生活兩個方面來勾勒一下我們身處的數字社會的基本特點，然后在第四部分勾勒出這個社會所需要的法治環境的基本輪廓。

一

以互聯網和數字技術為媒介的經濟形態有很多不同的名字，從數字經濟、平臺經濟、共享經濟到零工經濟和注意力經濟。每一個名稱都呈現出它的一個基本特征。20 世紀70年代末，尼古拉斯·尼葛洛龐蒂（Nicholas Negroponte）領導的麻省理工學院媒體實驗室提出了產業融合理論（industrial convergence theory），指出在未來20年，數字化技術的迅猛發展將帶來信息通訊、 內容服務和計算機產業的深度融合。這在如今已經變成一個基本的社會事實。今天我們所身處的社會環境是一個遍布式計算的環境，我們每個人隨身攜帶的各種可穿戴智能設備每時每刻都在把我們的地理位置數據、網上搜索數據、購物數據、訂票數據乃至心跳數據等等個人數據上傳到某個服務器，這些海量的數據成為數字經濟時代最寶貴的資源，為掌握這些數據的平臺企業創造著巨額的財富。但數據是如何轉化為財富的呢？

哥倫比亞大學法學院教授吳修銘（目前也是美國總統科技與競爭政策特別顧問）寫過一本書，書名叫《注意力商販》，核心觀點是：當我們使用各種網絡社交媒體的免費服務時，我們不是用戶，而是產品。這些平臺會提供各種免費的服務，從日常生活軌跡分享到小游戲，目的是吸引我們的注意力，讓我們花更多的時間在上面，生產更多的數據，而這些數據就是讓它們賺錢的產品。由于這種商業模式是如此普遍，以至于成為了我們所處的“數字社會”的日常組成部分，所以當下最緊迫的問題不是討論它是好的、壞的抑或是“必要的惡”，而是用法律去規制它，限定它的應用場景（where）和時間（when），正像廣告法對廣告的限制那樣。

強調數字經濟的基本商業模式是通過吸引用戶注意力來獲取和利用數據，并不是吳修銘的原創觀點，這實際上是不代表商業利益的中立學者的共識。吳修銘的洞見在于直接將這種商業模式的核心要素定位到廣告。許多人之所以沒有意識到這一點，是因為這種商業模式的廣告本質被技術、算法和一整套天花亂墜的營銷敘事給掩蓋了。

就其實質而言，作為平臺經濟核心敘事的“完美個人化”或“量身定制”其實是一種廣告或營銷手段。早在我們全面進入網絡社會乃至數字社會之前，廣告業已經脫離了單純為產品或服務做廣告的階段，而發展出所謂的“生活方式”廣告，試圖通過鼓吹消費某些產品或服務可以提升人的檔次或階層來誘導消費。互聯網極大地便利了這種廣告形式的傳播，而大數據和數據分析技術則使得精準定位目標消費群體變得更加容易。到了物聯網和平臺經濟階段，廣告則呈現出彌散化、 互動化、隱形化的特點。一方面，廣告商越來越多地以軟文、 視頻植入和直播帶貨的方式來影響目標消費者的購買意愿，比如B 站上有一段某知名學者的講座視頻，廣告商會將它截取下來，嵌入某個小程序中，加上一個吸引眼球的標題，并在里面植入自己的廣告。“標題黨”本身雖然不一定是營銷界的發明，但卻是它最常用的策略。這種將廣告、新聞和知識內容混雜到一起的營銷方式對內容受眾形成了嚴重的誤導，混淆了知識和廣告，讓人們誤以為消費某種商品或服務是專家的意見，甚至是某種真理。另一方面，許多消費者自愿加入到廣告商隊伍里來，免費為某些商品或服務代言，以顯示自己懂生活、有品位或格調高雅。比如小紅書、快手、抖音上活躍的大量美妝、時尚、美食博主。在這樣的背景下，“行為預測”與“行為誘導”交織到一起，營銷目標變成了自我實現的預言，人的“意思自治”和主體性被消解了。

把基于人工智能技術的個性化服務歸結為與推銷“腦白金”或“小罐茶”并無本質區別的營銷術，可能會讓很多人感到驚訝。但一組數據勝過千言萬語。根據今年8月份的統計數據，臉書每天的活躍用戶已達到18.8 億，這些用戶平均每天打開那個藍色圖標的APP 八次，而臉書的美國用戶平均每天花在臉書上的時間超過34 分鐘。臉書上共有超過1000 萬廣告商，它們2020年為臉書貢獻了840.169 億美元的廣告收益，占臉書當年總營業收入（859.65 億美元）的97.9%。同樣，今年初，微信創始人張小龍分享了一組關于微信使用的數據：每天有10.9 億用戶打開微信，有7.8 億用戶進入朋友圈，1.2 億用戶發布朋友圈，他們會上傳6.7億張照片，1 億條短視頻。點開這個綠色界面的APP，可以在里面完成社交、娛樂、消費等一系列日常活動。張小龍沒有提到廣告收入。但我們可以很容易查詢到，騰訊2020年的總營收是4820.64億元，其中廣告收入823 億元。廣告收入雖然也很可觀，但占比只有17%。看起來，騰訊的業務結構更加多元化，比如游戲收入達到1561 億元，占比32%。但其實這只是把吸引用戶注意力的生產性投入也拿來賺錢。騰訊旗下的PUBG（絕地求生）和王者榮耀兩款游戲在2020年的全球營收都在25 億美元左右，分別是全球最賺錢游戲的第一和第二名。

“完美個人化”聽起來的確很吸引人，誰不希望擁有為自己量身定制的產品和服務呢？ 但完美個人化所通向的目標其實是標準化，因為無法規模化的操作都無法成為成功的商業模式。借助能夠高效率地找出統計學規律的算法，平臺企業通過識別、分類和評價將用戶貼上各種細分的標簽，從而完成市場細分意義上的精準廣告投放。這種商業策略既不是完美的，也不是個人化的，但卻是規模化的，因此是商業上成功的。

二

從表面上看，這樣的數字化生存環境為個人帶來了極大的便利，也凸顯了用戶的尊嚴和地位。用戶成為數字社會的宇宙中心，促生了“唯我獨尊的一代”（me-generation）。一個手持智能手機的個人可以一鍵滿足自己的所有需求，從衣食住行到游戲娛樂。數字時代商業圖景中的用戶是一個個理想化的、 原子式的、 自我管理的新自由主義主體。但這種敘事其實是資本所講述的故事，是股市中各種故事股或題材股用以說服“韭菜”的神話，它掩飾了背后的生產和分配關系。用蘋果公司總裁蒂姆·庫克（Tim Cook）的話來說，當你使用網上的各種“免費”服務的時候，你不是用戶，而是產品。你的各種個人信息就是你所生產的東西，而平臺愿意用各種免費的內容（包括小游戲）來吸引你的注意力，因為這樣其實是在誘導你延長自己的生產時間。因此，這種經濟形態又被稱為“注意力經濟”。對此，網飛（Netflix）總裁里德·黑斯廷斯（Reed Hastings）有非常經典的表述：“我們實際上是在和睡眠競爭，而且我們正在節節勝利。”在網飛及其投資者眼中，它的市場就是全世界人們醒著的時間。

2021年10月28日，扎克伯格宣布將Facebook 改名為Meta，提出要把這家人們眼中的社交媒體公司轉型成一家“元宇宙”公司，以沉浸式體驗、具象化的互聯網和深度在場感來將人們的“線上生活”帶入一個新的境界。此后，“元宇宙”成為新的資本故事和輿論熱點。順著上文的思路，我們很容易發現這是“注意力經濟”的另一種版本，是將人們的精神世界帶離“繁星密布的蒼穹和心中的道德律” 而沉浸于虛擬現實技術所營造出的網絡空間的商業設計，必將進一步削弱人的主體性，強化“元宇宙”公司獲取、利用和操控用戶行為數據的能力。此外，這還是扎克伯格更大野心的組成部分：在發行加密數字貨幣Libra 失敗之后，Facebook 已經將Libra 計劃降維成限于平臺內使用的Diem 幣，但元宇宙計劃實際上又為Diem 找到了一個更大的空間： 你不讓我發行超越主權國家發幣權的數字貨幣，我就把線下世界吸進我的線上世界（也就是元宇宙）。如今，我們已經看到“元宇宙”炒房熱、NFT（非同質化代幣）被炒出天價等現象，這些交易都是用加密數字貨幣來完成的。未來，我們可以設想元宇宙的用戶用包括Diem 在內的加密數字貨幣在元宇宙買一塊地皮，再用這種“貨幣”購買建筑材料來修建一棟別墅，然后再把用這種“貨幣”高價購得的NFT 藝術品掛在別墅的墻上。當人們把越來越多的時間花在元宇宙所提供的越來越豐富的體驗上的時候，元宇宙的老板們就成了整個世界真正的主宰。

注意力經濟的商業模式對我們的日常生活產生著巨大的影響。首先是我們把越來越多的醒著的時間花在微信等平臺企業設計出的APP 上，其中最成功的幾個整合了各種各樣的服務，從新聞、娛樂等內容服務，游戲、視頻等娛樂服務，到購物、支付等消費服務。其次是這些APP 會盡可能多地獲取用戶的個人信息，超出為用戶提供其需要的服務所必要的范圍，這是它的內在邏輯所決定的。為此，學者祖波夫（Shoshana Zuboff）專門發明了“監控資本主義” （Surveillance Capitalism）一詞，她在以此為題的一本暢銷書里將數字經濟的基本形態概括為通過捕捉和利用 “行為剩余”（behavioral surplus）來獲取超額利潤。她以谷歌為例，指出行為剩余就是用戶所提供的超出谷歌為其提供所需服務的那部分注意力和這種注意力轉化成的行為數據。在使用谷歌的“免費服務”的過程中，“我們變成了谷歌的預測工廠從中提取和開發利用原材料的客體”。像谷歌這樣的大型平臺企業雇傭了市場上絕大多數的優秀數據科學家和人工智能專家，她們的集體智慧“旨在洞開人類經驗的大門，將其轉化為數據并創造成一個新的巨無霸市場，這個市場通過預測、影響和控制人類行為來創造財富”。第三，也是最潛移默化和不易改變的，是對人們心理和行為的改變。“遍布式計算”概念的提出者馬克·威瑟（Mark Weiser）在一篇文章中寫道：“最復雜的技術是那些隱而不彰的技術。它們把自己編織進日常生活的紋理之中，直到自己成為其中順理成章的組成部分。”人工智能技術的商業應用一方面利用心理學知識來促進算法編程，另一方面用計算機科學來促進對消費者心理和行為的理解。兩方面的合力使得平臺企業得以設計出各種行為預測和行為誘導算法，改變著人們的預期和行為。一切都變得越來越可預測，因為一切都變得越來越可操控。但這并沒有使我們的生活變得更美好。

舉一個簡單的例子，行為科學研究表明，未曾預料的事情比預期之中的事情給我們帶來的情感沖擊會大很多倍，無論是驚喜還是驚嚇。七夕收到男/女朋友的禮物，如果是意料之中的，會很開心但不會驚喜。如果是意料之外，則會是強烈的驚喜。但平臺經濟的商業模式在完美個人化的名義下剝奪了你驚喜的可能性，一切都在意料之中，一切都符合你過去行為數據中顯示出的你的行為模式，因此也符合你的預期。

同時，預期中的完美體驗比體驗本身能帶來更多的快樂感受。比如，計劃好一個月以后同自己喜歡的人去旅行，會讓你這一個月都感到有盼頭，從而增強你的幸福感。但完美定制化的商業模式也消解了你的這種盼頭。這種商業模式無非是：基于大數據分析，我們發現您過去一年中反復購買過某某減肥茶，要不要再買一箱？這種商業模式中沒有包含任何會帶來預期驚奇的因素： 一切未來的體驗都注定會是你過去的體驗，外加邊際效用遞減。

之所以會產生這樣的效應，一方面是由于數字技術本身的特點。任何技術都是化約主義的，只有將復雜的任務簡單化才能找到最優的解決方案。但數字技術簡化的是人的認知。運用數字技術的企業并不關心“完整的人”，所以認為它們會系統性地偷窺你的私生活屬于不必要的擔心。平臺背后的算法捕捉和收集的是人的點滴需求、 片段愉悅和瞬間想法，并將無數人的認知碎片融合起來，形成規模經濟。另一方面是平臺企業本身追逐利潤的商業動機。諾貝爾經濟學獎得主理查德·泰勒用行為經濟學的方法論證了一個完全符合常識的觀察： 迎合而不是糾正消費者的弱點更容易賺錢。數字科技最首要的商業用途就是精準利用人的認知偏差和行為弱點。

三

自由意味著責任，社會中所有美好的設想都建立在人們愿意為自由行動承擔責任的前提下。在互聯網的早期歷史上，人們期待它是生成性（generative）的開源系統，每個人都可以按照自己的需要和喜好來打造自己的用戶終端，就像無線電愛好者制造自己的通訊裝備那樣。但后來的發展卻遠遠背離了這種設想，很少有人愿意拿到一臺需要自己付出努力才能去使用的電腦，增強用戶體驗的圖形化用戶界面很快成為個人電腦的主流，所見即所得才是王道。蘋果的口號就是“一切服從于顯示”，圖標后面的一切技術原理都與用戶無關。使機器變得智能而人類變得愚蠢的技術目前已經成為我們時代的主流。市場規律就是最大化地滿足人們的主觀期待效用，資本的逐利傾向自然把技術帶往利用人性弱點而不是誘導人們追求真善美的方向。

現有的法律體系結構是區分私法和公法。私法以民事主體平等和意思自治為首要原則。體現到數字法治方面就是用告知—同意這種合同法模式解決個人信息的權益保護問題。“同意者不能主張受到損害”，這是一句古老的法諺了。公法則為國家維護公共利益和履行對公民的保護義務確立了依據和限度，體現在數字社會治理領域的主要制度安排就是對平臺企業履行數據安全、 隱私保護、個人信息保護等方面的責任進行監督。在經濟領域，出于尊重市場規律的考量，政府應當盡量減少干預，尊重市場主體的自由選擇和契約自由，干預的唯一正當性基礎在于矯正市場失靈，比如當壟斷破壞了市場競爭的時候，政府展開反壟斷行動，維護公平競爭的市場環境。

所謂市場規律并不是一種“客觀規律”，而是新古典經濟學的發明（當然經濟學自稱是發現）。這種發明建立在一系列不切實際的假定之上：完全理性的經濟主體在充分競爭的市場上追求效用最大化，在這個市場上，沒有任何行動者強大到足以決定生產要素成本或商品出清價格，消費者可以在各種可替代效用之間自由選擇，進入和退出市場都是沒有成本的，生產成本可以合乎比例地傳遞給消費者，也就是說成本準確地體現到價格中，或者，用經濟學家的行話來說，不存在外部性和搭便車者。因為競爭性的廠商面對著競爭性的消費者，所有既不存在賣方壟斷（monopoly），也不存在買方壟斷（monopsony）。

這種框架一方面忽視了市場主體之間日益加劇的不平等——除了經濟處境和談判能力等早已被揭示出的不平等外，還有算力上的不對等，以及“意思自治”的不可能。前面已經提到，數字技術的商業應用本身就是在精準操控人們的意思形成和意思表示。更不用說，面對冗長繁瑣的用戶協議和其中包含的隱私政策，很少有用戶會從頭到尾讀完再選擇點擊同意或不同意，或者說，即使有人耐心讀完恐怕也不得不選擇同意，否則便無法使用一種急需的服務。

同樣是由于數據量和算力方面的不對等（政府明顯弱于平臺企業），平臺責任的有效落實往往成了企業本身的“自律”行為，缺乏有效的外部監管。企業在合規考量之下設計履行平臺責任的產品和服務，內置于設計之中的隱私保護（privacy by design）和安全保障（security by design）成為常態。只有發生被曝光的大規模數據泄露事件或明顯可見的嚴重危害結果之后，監管部門才有可能察覺和介入。但企業本身的商業模式決定著它們對待隱私和個人數據的不同態度，也決定著它們是否會專門應對監管而做表面功夫。

比如，蘋果公司的蒂姆·庫克之所以一貫抨擊谷歌和臉書的商業模式，并非因為他是代表正義的鋼鐵俠，而是因為他的公司不是靠數據吃飯的，而是賣產品的，這種產品恰恰以妥善保護用戶個人隱私作為自己最大的賣點。為此，蘋果公司不惜利用一切機會為自己做宣傳。比如，2015年12月2日，美國加州圣貝納迪諾發生了美國本土自911之后最嚴重的恐怖襲擊，宣誓效忠“伊斯蘭國”的賽義德·法魯克（Syed Rizwan Farook）和塔什芬·馬利克（Tashfeen Malik）在開槍射殺14 人、射傷20多人后被警察擊斃。聯邦調查局查獲了法魯克的iphone 手機，為了獲得犯罪調查和反恐所需要的信息，它在獲得法院授權的情況下向蘋果公司發出了解鎖該手機的要求。但蘋果公司拒絕合作，公司總裁蒂姆·庫克還在公司網站上發布了一封公開信，譴責聯邦調查局的要求“破壞了我們的政府旨在保護的那種權利和自由”。對蘋果公司而言，這是一次成功的公眾形象宣傳。而對于美國的國家安全和公眾的生命安全而言，這顯然不是件好事。反過來，谷歌和臉書一再被曝光出大規模泄露用戶數據或侵犯用戶隱私的事件，因為數據就是它們的生命線。

在不激進地改變現有法律結構的情況下，法律上可以做的事情是限制強者，保護弱者，避免“強者為所能為，弱者受所必受”的情況。其實，早在數字化時代到來之前就出現了一系列介乎私法與公法之間的保護市場上弱勢一方的法律，比如產品責任法、消費者權益保護法和勞動法。在數字化時代，需要針對數字經濟和數字化生活的新特點制定新的規則，比如禁止平臺企業過度采集用戶個人信息、 在默認設置的設計上以保護用戶隱私和個人敏感信息為原則、 在數字環境中保護未成年人（比如要求游戲平臺限定未成年人的游戲時間和游戲類型）等等。當然，更加符合數字社會特點的法治結構可能不是這種小修小補就能形成的。

法律是社會的公器，它必須基于對社會上各種元敘事的二階觀察，找到符合公共利益的社會關系調整方式。一方面，我們要看到數據采集、數據融合和數據分析技術的迅猛發展的確給人民的生活和社會公共福祉帶來了顯著的改進，而這些技術的創新以及基于技術創新而形成的大數據環境主要是平臺企業追逐利潤的激勵機制所促成的。如果沒有阿里和騰訊出于投資者和管理者為追求利潤而打造出覆蓋數以億計用戶信息的支付寶和微信，在疫情期間為防疫抗疫做出不可替代貢獻的健康碼和行程碼就沒有了可以依附的關鍵信息基礎設施。同樣，沒有了這些基礎設施和它們背后的算法，人們的生活就會變得十分不便。另一方面，我們也要看到，隱私權和個人信息自主權不是可有可無的，而是過有尊嚴的人類生活所必須的。過度采集和不加限制地利用個人信息會給無數個人的生活帶來負面影響，而且這也不是平臺企業實現利潤增長所必須的。法律思維就是要防止走極端，要以理性的、科學的方式找到各種權益訴求之間的平衡點，從而引導有助于人們追求美善生活的良好秩序的形成。