人工智能時代的技術擴張與社會保護

摘? ? ? 要：人工智能技術承載著社會發展的愿景，但人臉識別技術一定程度上卻濫觴于相悖的結果。“中國人臉識別第一案”喚起社會對人工智能技術問題的反思，其實質是技術擴張和社會保護“雙向運動”的較量。結合案例重構“雙向運動”新模型可發現：市場資本擴張邏輯裹挾人臉識別技術與社會撕裂是根源，市場資本生產與技術逐利分工導致社會被需求，市場資本流動催促技術轉化帶來社會風險，市場資本存續依賴技術決策引導社會“商品化”，市場資本競爭擴大技術競技致使社會“機械化”。社會轉型內生的利益公平、不確定性降低、主體性決策和公共價值訴求催生了社會自發保護，層層倒逼政府介入。政社聯手構筑的“反向運動”以“技術重嵌社會”來規范市場資本，在利益共契、權力制衡、決策重塑和秩序維系方面矯正人工智能技術是未來趨勢，亦有利于重歸技術初衷。

關? 鍵? 詞：雙向運動;人工智能;人臉識別技術;技術擴張;社會保護

中圖分類號：D925.1? ? ? ? 文獻標識碼：A? ? ? ? 文章編號：1007-8207（2021）06-0095-14

收稿日期：2021-03-25

作者簡介：陳春潤，華南師范大學政治與公共管理學院碩士研究生，研究方向為城市治理、公共政策。

一、問題的提出

伴隨著大數據、5G、區塊鏈等新一代信息技術的逐漸成熟，人工智能將對全球格局產生巨大影響。2017年，人工智能首次被寫入政府工作報告，國務院印發的《新一代人工智能發展規劃》也提出了分三步走的戰略目標：“第一步，到2020年人工智能總體技術和應用與世界先進水平同步;第二步，到2025年人工智能基礎理論實現重大突破，部分技術與應用達到世界領先水平;第三步，到2030年人工智能理論、技術與應用總體達到世界領先水平，成為世界主要人工智能創新中心，智能經濟、智能社會取得明顯成效，為躋身創新型國家前列和經濟強國奠定重要基礎”。隨著相應政策的落實，作為人工智能的標志性技術，生物識別技術大規模落地，人臉識別技術以無可比擬的優勢成為社會轉型需求的重要選擇（見圖1、圖2）。人臉識別通過已儲備的人臉圖像數據庫對特定的靜動態圖像或視頻進行驗證和匹配已知身份，[1]正在為社會創造價值。如重慶江北機場安檢識別設備僅10分鐘便抓獲潛逃1380天的“北大弒母案”嫌疑人，使犯罪分子無處遁形;醫院借助算法對人臉數據分析檢測遺傳疾病，幫助盲人識別聊天對象表情;2020年新冠疫情爆發，人臉識別門禁配合紅外線無接觸測溫、無人機等視覺交互場景被廣泛應用。人臉識別對一系列問題的成功解決使其逐漸獲得社會前所未有的認可，數幾十年前出行需要介紹信，現今“刷臉”即可順利出行。

圖1 2019-2021年中國生物特征識別規模增速[2]

圖2 2015-2021年中國人臉識別規模增速[3]

人類社會創造人工智能承載著解決社會需求的目的，本質是使社會發展得更好，[4]然而在實踐過程中，多有不盡人意之處。支付寶和微信的人臉識別推出、銀行APP和柜臺嵌入人臉識別、小區的人臉識別門禁、公司換上人臉打卡機，其無節制的擴張在帶來了空前的效率和財富同時，一定程度上背離了服務于社會的初衷。由于人臉識別是以人工智能算法為技術支持，以大數據分析為手段，人工智能算法容易異化為“賽維坦”，[5]大數據將異化為“數字利維坦”。[6]從人臉識別趨勢來看，人類難以操控之勢已顯現：人臉照片被以5000張不足10元的價格交易，陌陌ZAO換臉軟件的“強盜協議”同意授予ZAO與其關聯公司以及ZAO用戶“在全球范圍內免費、不可撤銷、永久、可轉授和可再許可”的權利，濟南看房者戴頭盔防刷臉揭開了黑暗利益的鏈條，等等。《人臉識別應用公眾調研報告（2020）》也分析了人臉識別技術濫用對人類造成的傷害和引起的擔憂。

技術本身并不存在惡意，但是人工智能對社會帶來的傷害難免令人擔憂， “中國人臉識別第一案”引起了社會對人工智能技術應用的深思，郭兵與杭州野生動物世界（以下簡稱“動物世界”）的沖突是人工智能與個人權利保護產生了矛盾。2019年10月，杭州野生動物世界在“零公眾基礎”情況下更換了人臉識別入園方式，因擔憂隱私、人身和財產等權利被侵犯，協調無果后郭兵起訴了動物世界。自此，“中國人臉識別第一案”屢登網絡熱搜，就人臉識別技術問題和權利保護兩難抉擇激起輿論熱議，隨后“刷臉”事件、信息安全和其它人工智能問題被頻頻曝光，各地反抗技術以保護個人權利呼聲不斷，各地政府也叫停了一些“刷臉”場景，案件延續至2021年4月。期間，社會、政府、市場（技術）均牽連其中。究其本質，這場抗爭是技術擴張與社會個體權利的較量，透露出人們對人工智能發展的矛盾態度。這一議題極具現實意義，但令人遺憾的是，迄今對人工智能的研究仍限于科學技術問題的鋪述，鮮涉社會層面的思考。為何人臉識別觸發了與社會發展初衷相悖的結果？社會保護何以發生？如何校正人工智能技術應用行為？以“中國人臉識別第一案”為例深入分析，解開困惑，既是現實需要，更是推進人工智能治理現代化的中國探索。

二、理論分析框架

（一）既有文獻之爭

關于技術問題的爭論經久不衰，智能時代背景下人工智能成為核心，圍繞市場決定論、社會影響論和政府監管論層面鋪開。市場是技術擴張的引擎，國外學者們偏好技術自由主義，如亞當·斯密（英）信仰人天生傾向交易來尋求利益最大化，赫伯特·斯賓塞（英）、路德維希·馮·米塞斯（奧地利）和沃爾特·李普曼（美）等人重復著利益交換的市場理性經濟人模型。深受影響的學者們也偏好技術“成本—收益”的市場論，其研究包括兩個方向：一是將人工智能視為滿足市場需求的新技術工具，提高生產效率而帶來經濟增長。[7]許多研究者還認為人工智能進化取決于市場運行成本需求，習慣從技術事實探討市場收益對策。二是從市場資本增值角度思考技術的發展，但意見不一。一方面，秉承弗里德里希·奧古斯特·馮·哈耶克（英）關于市場自發的理念，認為技術市場秩序能自我調節。人工智能技術需要市場資本來投資，即便是喬布斯的蘋果手機技術或馬云網購推廣技術也離不開雄厚的資本，而人工智能作為資本密集型技術[8]可以提高市場的投資回報。另一方面，也有人關注到市場資本攝取利潤導致技術異化和壟斷的問題，[9]對技術趕超有正面激勵效應，但也可能抑制技術創新。市場決定論認為技術是市場需求刺激與技術價值回報的結果，容易忽視技術的“市場資本”困局。

與將人工智能看作是市場決定的技術的視角不同，有學者主張融入社會維度的分析。如德國學者弗里德里希·李斯特、卡爾·歐根·杜林、斐迪南·滕尼斯等主張社會要有意設計經濟市場和社會制度。如今，市場技術戰勝社會成為關鍵問題，馬克思曾認為機器將社會人排擠出生產領域，[10]《人類簡史》作者尤瓦爾·赫拉利（以色列）預測人工智能將造就社會“無用階層”，遠超出了米歇爾·福柯（法）所指“知識序列崩潰”和哲學上的“人的抹去”，庫茲韋爾也預言人工智能可能超出“奇點”[11]改變人性。從亨利·基辛格（美）到斯蒂芬·威廉·霍金（英）等人都擔憂智能力量會被用于不道德、非正義和有害的目的。技術的巨大利益鏈帶來信息失控、委瑣化和泡沫化世界，人類淪為信息奴隸，被信息的汪洋大海淹死。[12]正如我國學者高奇琦認為：隱私暴露的“透明人”和終結人類特性的“空心人”，[13]以致于技術與人類實現黑格爾意義的主體承認。為此，許多組織努力定義人工智能的社會倫理，技術不能控制人類社會、扭曲社會人的心理和行為，[14]只能成為社會依附者來發揮其作用。

一個無可辯駁的事實是，技術市場發展和社會觀念轉變時，政府作出了貢獻。與市場秩序選擇的增長現象不同，不受限制的市場調節是烏托邦，庇古（英）認為市場調節不符合帕累托最優準則，無法調節外部效應，[15]不僅施穆勒（德）強調市場的歷史特性，弗里德里希·李斯特（德）也解釋了國家在市場中的核心作用，他們提倡國家以制度框架重塑社會共同體。[16]技術市場聯合與國家分庭抗禮，人工智能侵犯社會的領域備受關注。盡管人工智能戰略意味著政府圍繞戰略目標和利益相關者作出調整的系列動機，但是技術監控和社會用戶信息權利如何保護問題亟待解決。許多國家開始研究相關法規回應人工智能和市場力量的問題，指向保護社會權利。國際社會對人工智能運用早有討論，2013年聯合國大會強調“數字時代的隱私權”，各國應“設立或維護有效的國內監督”。各國禁止各類智能應用的舉措引起了爭議，支持者呼喚人權保護，反對者提出以細致規范替代全面禁止。然而，問題在于政府監管人工智能也容易陷入“一放就亂，一管就死”的境地。

既有文獻之爭為本研究奠定了一定的理論基礎，但主體間關系似乎難以厘清。同時，技術服務于社會的本質決定了技術離不開與社會關系的探討。目前，人工智能和社會關系的研究匱乏，價值判斷層面又使技術和社會互動過程成為“黑箱”，市場決定論、社會影響論抑或政府監管論也難以預測未來。

（二）人工智能轉型：技術擴張的“雙向運動”

以往從三個角度看人工智能問題，現今還可以更透徹——從技術擴張和社會保護的“雙向運動”來解析其復雜過程。卡爾·波蘭尼（匈）在《大轉型：我們時代的政治與經濟起源》提出“雙向運動”視角，[17]本文提煉其關鍵論點作為立論依據。命題1：自由放任的“市場社會”（市場經濟所有要素均商品化，不是為了社會消費生產，而是為了交換獲利生產）脫嵌于社會，無法自我調節的市場扮演社會的唯一指導者將帶來社會災難;命題2：市場脫嵌于社會觸發反向的社會保護來矯正市場的脫軌，此雙重力量對抗導致社會結構形成、崩潰和更替;命題3：市場和社會保護的“雙向運動”引發難以調和的沖突，以開放的維持方式通過國家、政府的干預來保衛社會不受市場的侵害，政府干預之下“市場社會”回歸“社會市場”。命題4：自我調節市場的終結、社會保護和政府規制意味著市場的重生。

事實上，“大轉型”在當代中國人工智能發展中逐漸變成現實。人工智能與市場資本已然深度結合，技術和社會間深層次關系在于透視技術擴張背后市場資本的根本力量，受制于市場資本的技術擴張和社會保護互動包含雙重運動。一種是市場資本的技術擴張傾向，另一種是抗拒市場資本下技術擴張引起的社會保護。從經歷著“技術”的“市場社會”到社會出現的“反向運動”，社會和技術分裂成對立面而無力擺脫時，需要國家、政府力量來緩和，引向“技術”的“社會市場”。由此看來，市場資本控制的人工智能技術擴張引起社會“反向運動”，“反向運動”是為了更好地調整和糾正市場資本行為。

學者們在“雙向運動”研究上各具特色，對人工智能技術和社會層面的分析極具價值，在現象解釋和危機預測上十分精準，但其指導實踐還需滿足以下條件：⑴分析脈絡兼容市場資本、人工智能技術和社會的邏輯性工具;⑵各主體間關系需明確且清晰;⑶理論為中國案例素材所驗證;⑷這一宏觀框架應從微觀單位出發以“一斑窺全豹”。故此，將“雙向運動”置于人工智能擴張和社會保護的本質規律中深入把握，需重構新的“雙向運動”模型。

（三）人工智能之“雙向運動”邏輯

技術擴張與“反向運動”的“雙向運動”包含雙重原則，第一重原則是市場資本指導下的技術擴張運動，第二重原則是反抗技術擴張的“反向運動”，蘊含社會自發保護增能與政社聯手構筑的反向運動兩大方面。“雙向運動”模型闡釋關于人工智能技術擴張與“反向運動”的關系（見圖3）：

圖3 重構的“雙向運動”模型

假設1：人工智能擴張的根源是市場資本運行的四重邏輯，市場資本以極端功利主義原則獲取其所需的技術擴張要素，把社會收入控制在手中。

人工智能與市場資本擴張邏輯共契，[18]人工智能包含智能分工、轉化、決策和競技要素，遵循市場資本發展的四重邏輯與資本相互作用，達到資本擴張的目的。[19]首先，市場資本生產。市場資本和人工智能在利益分配基礎上進行組織間分工合作，為后續運行奠定基礎。其次，市場資本流動。市場資本迫切運動和加速轉化才能獲得更多利潤，[20]其需要人工智能短時間內實現由生產到市場的急速跨躍，傾向于短期的直接效果，忽視積累帶來的不確定性后果。再者，市場資本存續。為盡可能獲得最大收益，資本還要不停頓循環而存續，資本存續依賴于人工智能對數據信息的獲取、分析和決策。最后，市場資本競爭。市場資本競爭依靠人工智能軟件或硬件的激烈競爭，大規模引入和擴大人工智能的應用。

假設2：市場資本和技術合謀與社會的較量呈現非均衡性，帶來雙方無法調節的緊張性，社會轉型的內生性訴求層層遞進催生社會自發保護。

市場資本操縱人工智能過快過急擴張，使不符合其運作邏輯的社會被邊緣化，社會自發啟動保護。社會的自我保護絕非憑空而生，而是轉型的內在適應性調整。上述資本張生產、流動、存續、競爭的四重擴張邏輯決定了市場資本顯著的非公共性、外部性、信息性和壟斷性特征，帶來了技術與社會的高度緊張。與之對應，社會本身蘊藏的結構性、穩定性、主體性和制度性訴求促發了社會保護，開啟了與市場資本、人工智能技術的較量。

假設3：技術與社會無法調解的緊張性倒逼政社聯手構筑“技術嵌入社會”的“反向運動”，受制于市場資本而“脫鉤于”社會的技術重新與社會“掛鉤”，強化了社會保護的傳導動力，并抵消了技術自我毀滅機制和市場資本。

社會自發保護訴求與政府治理需求相契合，政府與社會聯手構筑“反向運動”。社會自發保護訴求使得政府在處理人工智能和市場資本問題上有意識關切社會需求，就社會合法性抗爭，搭建起“技術嵌入社會”可替代通道，以滿足各方的需求。同時，技術嵌入社會的“反向運動”[22]也是技術利用率和市場收益率的長遠考量，其額外效應使社會保護成為政治常規參與者，一旦社會保護在技術市場安家落戶，便成為社會持續保護的動力，[23]通過模式化促使社會考量如何接受其它人工智能。

回到人臉識別技術上，“中國人臉識別第一案”表明：人臉識別問題的本質是市場資本裹挾技術擴張之下的社會問題。資本增殖和人臉識別技術發展依賴于社會，回歸社會邏輯的保護不只是防御行為，而是回應市場資本依托人臉識別破壞社會秩序的紊亂狀態。現實案例也表明社會保護初現端倪，市場主體非但不排斥“反向運動”，實際要求反向社會保護，但關鍵在于是否利于技術和資本持續發展。鑒于此，須從修正具體的“雙向運動”模型來解析人臉識別案例引發的雙向較量過程并進行深入檢驗。

三、資本裹挾下人臉識別技術擴張與社會緊張之痛

（一）市場資本生產：技術分工逐利導致社會“被需求”

人臉識別作為技術手段服務于社會需求，但由于市場資本的生產具有逐利性，因而社會逐漸“被需求化”。市場資本的本性是追求最大利潤，技術因其具有操作性、精確性和有效性而成為資本追求最大利潤的合作伙伴。在市場資本“招募”下，技術組織紛紛加入其中，二者優化分工組合，其中的利益關系極其復雜。對于動物世界等商家來說，人臉識別設備并非一種簡單工具，它還可以獲得許多收益，技術研發企業正是核心利益合作者。一方面，一臺人臉識別設備相當于多人同時工作。傳統的人工核驗方式效率低且人工成本高，平均每人通行約5-10秒，而使用人臉識別系統僅需3秒左右，在效率提高的同時經營成本大幅縮減。另一方面，人臉識別系統也是引流入口。不同于刷卡和二維碼支付，人臉具有惟一性，利于準確判斷和對用戶進行精準畫像，從而制定個性化營銷策略，提高用戶黏性。技術資本雙方共謀利益，人臉識別技術容易淪為市場資本的奴隸，往往創造出需求來獲利而并非考慮社會本身的需求、價值旨歸和公共利益。市場資本表象掩蓋下的人工智能技術“進步”無法契合社會發展“需求”，商家變“你需要”為“我要你需要”，再通過宣傳人工智能“為你服務”而推出產品。動物世界在與人臉識別技術企業結合的過程中技術即淪為商家獲利的工具。市場資本和技術分工合作逐利無可厚非，人臉識別技術本是為滿足社會公眾需求而開發，現在反倒是社會公眾的需求被市場資本“創造”出來滿足技術消費。

（二）市場資本流動：技術轉化急劇隱伏社會“風險”

從人臉識別技術生產到市場應用是“變現”的轉化過程，市場資本流動的沖動壓縮了其轉化過程，增加了其中的不確定性并帶來社會風險。技術轉化加快了市場資本流動，但目前人臉識別技術忽視了人臉識別應用過程的風險隱憂。在人臉識別技術轉化“變現”過程中，一方面，技術開發者由于自身局限對技術的風險感知存在主觀判斷，對人臉識別技術風險可控的自信和誤判容易帶來技術風險。在實地調研中，大多數技術開發者承認其風險，卻更相信自己的技術判斷。另一方面，一些大型企業擁有定義風險的權力，他們選擇自己愿意看到的結果，技術精英可能用智能算法來論證有意選擇的正當性。由于需求選擇的成本限制，眾多社會訴求將無法進入到技術和市場資本的決策視野中來。用戶的聲音很難被技術開發者了解到，動物世界的人臉識別系統也是在“零公眾基礎”上快速推進的，未能對用戶進行充分的知情同意調查，更不用說市場上各組織低價開發人臉識別系統或者通過相應渠道采購廉價的人臉識別系統，公眾的訴求和建議被排除于市場資本的決策之外。事實上，人臉識別系統真正安全轉化是需要高昂成本的，公眾更愿意相信政府部門的人臉識別系統，在對相關政府部門和項目跟蹤后發現，其采用一套高安全性的人臉識別系統需要數百萬的高昂投入和維護。然而，在市場資本催促下，各大應用商和技術開發企業也只能考慮成本和收益問題，機器更新迅速、投入的低成本和未能建立數據后臺的專業能力必然隱藏算法、隱私泄露和其它侵權風險。技術快速更新換代顛覆了社會公眾的認知，人類高度依賴人臉識別技術，資本流動又強迫技術繼續轉化，這種惡性循環擴張疊加了層層風險。這一驚人轉化不僅無法保證信息安全，還會面臨來自智能系統的威脅，如硬件和軟件漏洞、訓練數據污染、惡意對抗技術學習的樣本生成等，甚至導致系統混亂變成攻擊工具。但由于這一過程存在灰色的責任空間，風險一旦發生，用戶將難以追責。

（三）市場資本存續：依賴數據決策引導社會“商品化”

生活在大數據時代，市場資本賦予了人工智能駕馭社會的地位，人們逐漸成為數據商品卻不知其危害。基于機器學習的人工智能背后是海量的數據核心資源，數據背后則是社會權利被侵害，“一切智能的背后，都是監控與控制”。[24]市場資本通過數據攫取甚至壟斷獲取更大權力和影響力——利用智能系統獲取大數據，掌握資源和產品的市場現狀，從中尋找規律來提升決策能力，并且利用算法進行精準的“個性喂食”。事實上，市場資本依托技術收集的數據信息得以存續，但是控制技術背后的市場主體獲得了掌控社會的決策權。個人的數據離決策越近，附加值越高，通過人臉識別設備收集后就會成為一種在市場上交易的數據商品。即人臉識別系統采集到人臉數據、身份信息等數據成為市場上各大商家界定結構性社會的利器，被劃分為不同層次的信息數據作為“客體”被販賣。人臉識別采集到的相關信息尤其是人臉這類敏感信息是市場資本邏輯的必然結果和社會效應。人臉識別設備并不關心用戶是否真的方便，不在乎用戶的擔憂，“人臉”數據被誰采集便歸誰，成為市場獲利的附屬品，社會人異化為人工智能的附件，失去主體性蛻化為“機奴”。

（四）市場資本競爭：技術競技盛行致使社會“機械化”

人臉識別技術應用的無節制擴張是資本“砸錢”和技術“聯姻”賺錢的方式，市場資本不僅不停頓地循環，還須不斷擴大投資規模來競爭，帶來機械的技術官僚主義。市場以資本增殖為基礎， 資本能否依靠技術應用不斷擴大來實現利潤最大化事關資本的成敗。市場主體不惜代價使用能夠幫助自身在激烈市場競爭中獲利的人工智能技術如人臉識別設備加速向社會滲透，“高大上、智慧趨勢、滿足客戶”等噱頭成為市場資本“跟風”人臉識別技術的理由，強迫公眾“刷臉”，社會失去能動性，變得“機械化”。人臉識別技術的使用應必要、正當、合法，如公園的公共衛生間，可采用其他方式而非機械的人臉識別方式來限時限量獲取紙張。但現實是，人臉識別技術在某種程度上成為市場謀利空間的“兇器”，忽略了人工智能存在使用限度的另一番景象。人臉識別在減輕工作壓力的同時也創造了機械官僚主義，出現“內卷化”現象：“刷臉”不僅不能帶來便捷，反而提高使用門檻，帶來更復雜的程序。人臉識別引發的尷尬畫面歷歷在目，如許多人在“刷臉神器”前不夠高、光線不足、化妝、發型等有時候甚至不如人工服務便利。然而，人臉識別應用的“非可選擇性”和“非替代性”掩蓋了社會真實訴求，社會只是零部件，一切變得“機械化”。

四、社會保護的內在邏輯

（一）紓解利益沖突，避免彼此間利益分化加劇

市場資本和社會存在結構性利益矛盾，市場資本牟利以犧牲社會個體利益為代價，使得彼此間利益分化和加劇。由市場資本進行投資的人工智能具有“非公共性”和逐利的利益性，在人臉識別技術擴張過程中，系統并不僅僅是識別人臉，而是經由識別人臉可以追蹤身份信息、財產、行動軌跡、社交圈子和親屬關系等，社會主體得到的便利和市場組織獲得的收益相比微不足道，這是一項非公平的利益交換。個體脫離了集體化組織約束后，其獨立性、分散性彰顯，但由于技術知識、舉證能力、資金等處于劣勢而難以捍衛個人權益。在起訴動物世界前，郭某也曾因蘋果手機自動扣費問題而與蘋果公司對抗，但是以失敗告終，在反對動物世界強迫“刷臉”的歷程中也遭遇了重重波折，耗費了巨大成本。相較于普通人，郭某的教授身份、專業背景經歷、法律朋友幫助、媒體曝光已經為其對抗商家和技術提供了基礎資源，若換作他人恐早已因無奈而妥協。市場資本和技術開發企業存在復雜的利益糾葛，雙方共有的先天優勢遠強于個體或較小規模的社會組織。當社會個體意識到這種不公平帶來的相對剝奪感后，社會自我保護便以一種新的、組織化的方式產生。當然，人們也清楚認識到，如果失去市場資本，技術將難以為繼，但問題在于技術并不能只遵從市場資本“理性經濟”的利益邏輯而忽視社會個體的權益。為紓解三方利益沖突，社會權益的維護呼吁社會保護來抵抗人工智能技術背后強大的市場資本勢力。

（二）降低潛在的不確定性風險

人臉識別應用快速落地，使市場資本轉化營造出了“安全假象”，隱藏著極大的不確定性。技術具有復雜性和難以預測性，因社會認知能力有限，難以防止風險侵害。人工智能本身的算法決策和學習復雜性超過了傳統程序，甚至連開發算法的技術人員也可能難以洞悉遷移學習和算法演化的過程。大多數人在迫切使用人臉識別技術時都“同意商家單方面提出的協議”讓渡權益，選擇短期收益而忽略長期風險，這是非理性的“冒險主義”和“僥幸主義”。不過值得注意的是，很多用戶在“刷臉”時希望人臉識別技術的不確定性風險是可預測的和可控的。事實上，即使是政府部門采集公眾的臉部數據，也有93.8%的人希望告知臉部數據的用途。[25]當然，“大篩選”理論意味著不是所有技術都有好的結局，何況人臉識別已化風險為實然。基于前述判斷，在前所未有的人工智能時代，人工智能帶來的風險不斷提升，而現有風險治理都供給不足。如果不啟動新型防范機制如社會保護提高抗風險能力，遏制不確定性，反抗技術霸權，那么人臉識別終將會衍生一系列“負外部性”危機。

（三）獲得主體性決策參與權

決策參與權是利益調整和再分配的權利，市場資本聯合人工智能掌握著單一的決策權，與社會形成決策主體和決策客體關系。一直以來，市場資本和人工智能的決策具有信息隱蔽性——技術獲取海量數據儲存和應用存在透明度爭議，用于獲取競爭優勢的算法工具又被作為核心商業機密對公眾隔離。當算法作出錯誤決策甚至侵犯社會權利時，“刷臉”后數據留存于設備終端、企業云端、子公司、集團部門還是流轉至公共部門都模糊不清。由于缺乏決策參與權，社會局限于技術空間拓展以實現市場資本為目的的思維，許多人持有“反正沒有錢，不怕盜我臉”“沒人對我這種小人物感興趣”“我哪能決定別人做什么”的心態。由此技術決策理性吞噬了社會主體性，實現了社會從主體向客體的置換，[26]導致決策失調，正如案件中動物世界評價用戶的價值只是去看他買了多久年卡、消費特征等可用來決策的數據，即“人的物化”，而不是將用戶當作決策主體。由于對人工智能產生了黏性和路徑依賴，社會群體有決策意識的人格消逝，無意識的人格得勢，[27]群體喪失了批判性，其暗示作用轉向同意人臉識別技術的應用，如局外人難以理解郭某的抗爭所為，動物世界認為識“時務”才明智。社會保護主張個體在使用人工智能時擁有決策自主權，不是只作為“數據”被市場資本和技術決策，而是要將社會主體從邊緣位置帶回決策的中心位置，重塑社會主體地位。郭某和少數個體所做的抗爭努力是為了不被市場資本裹挾的技術所控制，這些舉動是為了獲得主體性決策參與權。

（四）回歸公共利益的價值關懷

市場資本密集的技術競爭具有壟斷性，在法律制度不健全的情況下，技術擴張往往不會遵循公共準則，有“溫度”的技術擴張才是社會的渴望，也是技術持續擴張的合法性工具。將改造社會的重任交付給技術官僚必定伴隨智能機器對社會生活的滲透，市場資本具有“無止境的欲望”，大量本無需應用人臉識別的地方都采取了該應用。一方面， “個人數據”成為技術控制社會的鑰匙，技術機器的節奏和規則擠壓人的情感和個性。另一方面，人工智能甚至成為商家對社會控制的工具。通過系統引導價值、建構制度、改造生活達到市場資本獲益的效果，使社會思維和方式程序化、標準化，弱化人的判斷力。倘若市場資本對人臉識別技術唯利競爭，終將帶來技術的“個體代價”，不符合我國倡導的人民至上的價值觀念。郭兵案件以來，人臉侵權事件頻頻曝光，信息泄露事件屢登微博熱搜，使公眾逐漸意識到充滿關懷的技術價值消逝，盡管公眾對人臉識別技術存在分歧，但一致認定人工智能應尊重個體、回歸人性關懷和凝聚公共利益。時下，對社會自身關注的現實抗爭與技術可能的侵害相對立，技術服務于社會公共價值既具備法理性和制度正義，也賦予了社會保護的標注功能和意義建構。“中國人臉識別第一案”并非只是郭某維護自身權利，更是對人工智能亂象進行制度變革的先行先試。同時，社會保護旨在引起公共價值關懷的制度呼聲，技術的“冰冷”需要政府治理的“溫度”保障。

五、政社聯手以“技術重嵌社會”反向矯正市場資本

社會保護如何矯正市場資本行為？人工智能運轉依賴的是強大卻有限的資本，社會讓渡于國家的資本顯然更大：權力、技術、信息、制度。為此，政府有能力在不妨礙市場資本準入和人工智能發展的前提下實施治理。然而，一方面是人工智能更新迭代、智能系統復雜、智能應用深入生活呈現原子化，另一方面則是政府治理滯后、監管和規則不明以及政府層級特點的天然缺陷。故此，人工智能的治理成效并不明顯甚至失去效力，直至社會自發保護與技術抗爭的明確訴求層層倒逼政府。

社會自發保護訴求與政府治理需求相契合，使政府議程打開機會之窗，政社聯手構筑“反向運動”規范市場資本，“技術嵌入社會”為矯正人臉識別技術失范行為指明了方向。“嵌入”并非市場資本一元主導技術，而是經政府引導，社會選擇和改造衍生的社會化產物，技術擴張利用反向保護力量修復存在的問題，使技術扎根于社會，技術良性擴張和社會保護耦合推動社會發展。依據相關理論和經驗，“反向運動”可從四大現實趨勢中透視。

（一）利益共契：“算法推演+人工判斷+民本基因”界定邊界

簡單地將市場資本和人工智能合作的個人利益凌駕于社會正義和發展之上將釀成技術悲劇，如何使市場資本回歸社會責任，在技術趨于進步、市場追逐利益、社會期待權利保護的情況下，“算法推演+人工價值判斷+民本基因”三重利益原則嵌入的架構界定了利益邊界，形成了互惠互利的共同體。算法推演是人臉識別技術的優勢，勢必要取其長處加以利用并投入一定成本使其更科學、準確和安全，高成本的投入也意味著長遠的邊際報酬。然而，只參考算法推導出來的選擇容易被市場資本牽制，算法的“賽維坦”風險也將導致對人臉識別技術的誤判，不去審查數據反映是否是假象，作出背離實際狀況的決策。[28]因此，技術程序正當性和尊重個體十分重要，對于人臉識別技術需要人工價值判斷。一方面，現代社會不能只依靠人工智能追求效率和利潤，還要依靠精度和溫度，即采取人臉識別技術有無必要、設備算法是否可靠嗎、可能產生什么風險等價值判斷。另一方面，純粹參考人臉識別算法的邏輯結論可能因算法歧視和數據內涵偏見導致結果不公正，學習世界通行的人工審核補充——人工對算法結果的價值判斷確保糾正偏差的機器決策，是市場資本的長遠收益考量。更重要的是，人工智能理應增添“民本基因”，這是政府引導技術和市場的責任。人民利益和社會需求是人工智能技術的首要考慮，踐行習近平總書記強調的“主動適應人民的期待和需求”，而非盯著“老百姓的錢袋子”，減少類似高度敏感信息的智能應用、選擇替代方案兼容公眾習慣和人性化方式將利于共贏。增添“民本基因”還要求社會需求的認同和共識，激發為實現社會公共利益的技術努力。因此，依照三個原則組合并內化，可以在互惠互利框架中通過一般行為準則來約束市場資本動機，從而界定邊界和確保人臉識別技術為社會有序生產服務。

（二）權力制衡：“技術實質權力制衡”抵御風險隱患

傾向于市場事后處理的既有思路難免失靈，忽視了讓科學技術進入“權力”的場域。能否通過原有技術水平的提高和增加反風險技術來更好保護社會？這種方式在人臉識別技術應用中依然適用，亦即技術對技術的實質性權力制衡。技術對技術的制衡更能產生實質性作用，創新技術投入、反風險技術和區塊鏈技術，表明技術權力相互制衡時代已經來臨：其一，市場資本開始注重對技術創新的投入。為了預防刷臉實際應用帶來的風險，加大研發投入、提升技術安全性和高度關注相關新技術的發展。其二，反風險技術已誕生了新的商業機會。有“黑客”自然要有“紅客”“白客”，同樣，在數據采集端產生的新式傳感器應用、在數據產生到利用的各個環節，密碼學技術、智能化物聯網設備嵌入加密芯片，“隱私計算”這類信息安全需求大大提升。其三，區塊鏈技術成為人臉識別技術隱私保護的希望。區塊鏈存在去中心化、不可篡改數據和匿名性的特點，當用戶把數據放到區塊鏈上鏈時，他們的私密信息會加密并且只能由用戶解開，對數據的私密性、公開性更有話語權。[29]同時區塊鏈的數據多方持有，隱私最強的數據通過區塊鏈建立互信共享機制，規范市場行為。總之，人臉識別的數據隱私保護從來不是“臨門一腳”，技術的突破性顛覆才能夠重新洗牌，人臉識別技術才能走向成熟。一旦市場資本違背了社會意志，就可以通過技術權力的預防、監督和糾正來遏制技術不當行為，降低技術侵害社會的風險。進一步而言，在以技術之手制衡技術、規范數據采集和使用渠道來保證社會權利的同時，也能使生活便捷，還能助力人工智能產業發展。

（三）決策重塑：“賦權社會合作治理”健全信息共治

受限于技術算法和市場資本的復雜性和非透明性，多方合作治理是行之有效的寶貴經驗，“共治嵌入”為“反向運動”借鑒。卡爾·波蘭尼（匈）認為資本主義是不民主的，形勢經濟權力是無政府的，并不關注決策產生的“負外部性”，取代市場資本和技術濫觴的替代性方案是經濟領域民主。[30]當前技術問題高度復雜和原子化，無論是采集公眾意見還是政府治理都需要高昂的交易成本，而構建一種將技術與社會銜接的合作治理信息決策機制，發揮各主體優勢參與技術建設能夠降低治理成本。其主要呈現兩大特征：第一，異質化的治理主體分享信息。人臉識別受復雜因素制約，在后續身份驗證、追蹤、分析畫像方面可能有失偏頗，亟待多主體合作。合作治理強調技術問題解決的責任不應全部交給政府、市場亦或是社會，主張各優勢主體跨界信息共享、共同合作解決問題，重點明確彼此的職責、義務及權利。政府做好“剛性賦權”，賦予監管委員會權力，[31]為公眾普及技術風險相關知識、提供監督渠道和制度保障;企業做好風險評估、深入調研，對意圖、算法、數據、質量、細則等說明并告知用戶跟蹤信息，遵循形式合法性與正當性義務;行業協會和權威機構應參與通用技術標準的制定，聯手督促企業遵守原則;個體要提升技術風險意識，利用組織化利益表達和權益維護來化解技術擴張與社會的矛盾。第二，目標利益的彼此磋商。合作治理是政府、市場、社會組織和個人等主體之間的溝通、對話和協商機制，能夠聚合多主體利益，改變決策孤島狀態，使多方合作互嵌具有可能性，而非市場資本單邊利益，也能夠防止技術霸權。

（四）秩序維系：“規管規范齊驅”消弭不當唯利行為

政府干預手段使市場資本不超出應該運作的范圍，保護性立法和其他干預手段是矯正技術惡性競爭并異化的重要特征。人臉識別不同于非技術引發的問題，“規管”理念更符合人工智能技術特點，同時還須納入“規范”。技術與法律融合的“規管”理念旨在應對技術更新的挑戰，[32]尋求改變市場濫用技術的個體和團體行為。[33]“規管”包含兩重含義：第一，有效的法律法規可以打消資本的不正當行為念頭，提高制度確定性和技術效益、效率，“規管”依靠法律法規來保護社會，防止市場資本欲望將技術引入歧途。其一，完善法律法規。當前人臉識別涉及的合法性、正當性、必要性原則不夠，使原則法治化、程序化，在重新認識數字社會隱私基礎上建立產權清晰的制度，市場才能合法收集和利用數據，社會權利訴求才具備治理基礎。同時，盡快出臺全國性人工智能管理流程、信息保護法，關于隱私權規定要單獨立法并系統化和可操作化，尤其是有效問責必須跟上。2020年公布的《中華人民共和國個人信息保護法（草案）》和2021年實施的《中華人民共和國民法典》邁出了重要一步。其二，以“禁止性規制”為主。人工智能技術具有特殊性，從應用端出發限定人臉識別使用范圍，唯有具體問題具體分析才不會以偏概全。同時，對該技術使用的目的、手段、范圍以及設備進行“負面清單”類規制成為企業呼聲。其三，對風險進行分級分類治理。為避免人臉識別風險危害，政府可以結合行業特點和依據場景判定風險并進行分類治理。其四，明確技術開發者、使用商、用戶和政府部門職責。第二，“規管”需要政府將市場資本過度自利行為引向公共利益。相關部門要主動作為，如各地方政府可采取對人臉識別亂象約談、教育和整改等舉措。同時，還要打擊犯罪的市場主體，控制未經授權、伺機開展非法活動的市場行為。需注意的是，政府并非無限責任，依托市場內部規范和影響也格外重要。因此，同步建立起各行業和企業利用人臉識別技術的行業標準，加強行業自律，發揮監督和倡導功能，能夠增強市場競爭力以達到“良幣驅逐劣幣”的目的。

結? 語

自我調節的市場帶來社會災難與社會保護的反彈開創了雙向運動的分析，對今日市場、社會和政府的關系研究中仍啟發深刻。即便如此，卡爾·波蘭尼并未對市場災難引發的社會保護的內在邏輯作出詳細分析，也未提出政府具體的解決路徑。社會保護何以發生？政府介入社會與市場資本的較量中如何能夠加強社會保護從而矯正市場資本？只有借助具體的分析才能解答，呈現出清晰過程，拓展雙向運動機制。為對上述問題作出理論關切的回應，引入當下人工智能的分析，將卡爾·波蘭尼“市場—社會”關系轉變為以“市場資本—技術—社會—政府”關系構建的“技術擴張運動—反向保護運動”“雙向運動”模型，不失為一種新做法，并選取“中國人臉識別第一案”實例進行深入解讀。為對抗市場資本裹挾人工智能技術擴張帶來的社會被需求、風險、商品化和機械化困境，社會轉型中內生的結構性、穩定性、主體性和制度性訴求觸發了社會保護，其自發且層層遞進的保護訴諸政府，倒逼政社聯手構筑“技術嵌入社會”指導下利益共契、權力制衡、決策再造、秩序維系的“反向運動”，促使人臉識別技術回歸社會初衷。這一邏輯為深入理解人工智能時代的技術擴張現象提供了完整的理論解釋。

我國緊跟全球人工智能步伐，以人臉識別技術為代表的人工智能催生出“雙向運動”的社會保護，為人工智能發展指明了方向。這就要求在實踐探索中應意識到市場屬性決定了人工智能負效應的必然性，社會屬性也表明人工智能的可控性和人為性。一方面，政社聯手的“反向運動”是雙重賦權，同時提升政府治理能力和社會自主能力，“技術嵌入社會”回應了市場經濟秩序和技術治理壓力，但社會自發保護在鏈接技術和市場資本的同時還要訴衷政府合作，方能實現“雙向運動”的運行。未來需要積極創造適宜的社會保護條件，發揮社會力量，使技術高質量發展。另一方面，“雙向運動”是社會保護的可持續機制。社會保護是復雜的系統工程，“雙向運動”機制重構了政府、市場（技術）和社會的關系，釋放了社會自主性，其產生的社會建構支撐著智能社會發展和智能市場發展，是增強科技百年未有之大變革的重要機制。

【參考文獻】

[1]Zhao W，Chellappa R，Phillips P J，et al.Face recognition：A literature surve[J].Acm Computing Surveys，2003，35，（4）：399-458.

[2][3]東方財富證券研究所，中商產業研究院.生物識別技術產業發展深度報告：指紋與人臉識別[EB/OL].未來智庫，https：//www.vzkoo.com/doc/13328.html，2020-06-11.

[4]（美）布萊恩·阿瑟.技術的本質[M].曹東溟，王健譯.杭州：浙江人民出版社，2014：26.

[5][13]高奇琦.人工智能：馴服賽維坦[M].上海：上海交通大學出版社，2018：279-281.

[6]鄖彥輝.數字利維坦：信息社會的新型危機[J].中共中央黨校學報，2015，（3）：46-51.

[7]陳永偉.人工智能與經濟學：近期文獻的一個綜述[J].東北財經大學學報，2018，（3）：6-21.

[8]郭凱明.人工智能發展、產業結構轉型升級與勞動收入份額變動[J].管理世界，2019，（7）：60-77+202-203.

[9]喬曉楠，郗艷萍.數字經濟與資本主義生產方式的重塑——一個政治經濟學的視角[J].當代經濟研究，2019，（5）：5-15.

[10]馬克思.資本論（第一卷）[M].北京：人民出版社，2004：448-450.

[11]（美）雷·庫茲韋爾.奇點臨近[M].董振華，李慶誠譯.北京：機械工業出版社，2011.

[12]（美）尼爾·波斯曼.技術壟斷：文化向技術投降[M].何道寬譯.北京：北京大學出版社，2007：7.

[14]任劍濤.人工智能與“人的政治”重生[J].探索，2020，（5）：52-65.

[15]胡時光.西方經濟學說的演變及其影響[M].北京：北京大學出版社，1998：454.

[16][30]（英）加雷斯·戴爾.市場的限度[M].焦兵譯.北京：中國社會科學出版社，2016：17，263.

[17]（匈）卡爾·波蘭尼.大轉型：我們時代的政治與經濟起源[M].馮鋼，劉陽譯.北京：社會科學文獻出版社，2007.

[18]盛春輝，鄭文范.技術與資本互動的邏輯共契[J].東北大學學報（社會科學版），2012，（4）：295-299.

[19]張爽.大衛·哈維對現代技術的反思與批判[N].中國社會科學報，2020-08-18（002）.

[20]（英）大衛·哈維，陳國戰.資本的空間與時間[N].中華讀書報，2016-07-06（013）.

[21]（美）薩繆爾·P·亨廷頓.變化社會中的政治秩序[M].王冠華等譯.上海：上海人民出版社，2008：1.

[22][33]王紹光.波蘭尼《大轉型》與中國的大轉型[M].北京：生活·讀書·新知三聯書店，2012：38，65.

[23]（美）查爾斯·蒂利.社會運動：1768-2004[M].胡位鈞譯.上海：上海世紀出版集團，2005：52.

[24]Jathan Sadowski，Too Smart： How？Digital Capitalism is Extracting Data，Controlling Our Lives，and Taking Over theWorld，Cambridge Massachusetts，London，England：The MIT Press，2020.

[25]北京智源人工智能研究院，中國科學院自動化研究所.人臉識別與公共衛生調研報告[EB/OL].中國科學院網站，http：//www.cas.cn/cm/202005/t20200519_4746673.shtml.

[26]（匈）盧卡奇.歷史與階級意識——關于馬克思主義辯證法的研究[M].杜章智譯.北京：商務印書館，1992：150.

[27]（法）古斯塔夫·勒龐.烏合之眾——大眾心理研究[M].馮克利譯.北京：中央編譯出版社，2000：9-11.

[28]孫保學.人工智能算法倫理及其風險[J].哲學動態，2019，（10）：93-99.

[29]章寧，鐘珊.基于區塊鏈的個人隱私保護機制[J].計算機應用，2017，（10）：2787-2793.

[31]汪亞菲，張春莉.人工智能治理主體的責任體系構建[J].學習與探索，2020，（12）：83-88.

[32]袁俊.論人臉識別技術的應用風險及法律規制路徑[J].信息安全研究，2020，（12）：1118-1126.

（責任編輯：董博宇）

On Technology Expansion and Social Protection

in the Age of Artificial Intelligence

——Take “the First Case of Face Recognition in China” as an Example

Chen Chunrun

Abstract：Artificial intelligence technology carries the vision of social development，but face recognition technology to some extent originates from the contrary results.The first case of face recognition in China arouses the social reflection on the problems of artificial intelligence technology，which is essentially the competition between technology expansion and social protection “two-way movement”.Combining with the case study，the new model of “two-way movement” can be found：the logic of market capital expansion hinders the technology and social tear of face recognition，and the division of market capital production and technology profit by profit results in the demand of society，the market capital flow promotes technology transformation to bring social risks，and market capital survival relies on technical decision-making to guide the society to “commercialize”，The market capital competition expands the technical competition，which leads to the society 'mechanization'.The benefits equity，uncertainty reduction，subjective decision-making and public value appeal in social transformation have led to the spontaneous protection of society，which forces the government to intervene at all levels.The reverse movement，which is jointly constructed by the government and society，regulates market capital by “technology re embedding society”.It is also beneficial to return to the original intention of technology to correct AI technology in terms of mutual interest，power balance，decision-making and order maintenance.

Key words：bidirectional motion;Artificial intelligence;face recognition;technology expansion;social protection