冷戰時代的算法危機
—— 《如果/那么》 中的一段秘史

□李聞思

【導 讀】 吉爾·萊波爾的新書《如果/那么: 機械擬態公司是如何創造未來的》 揭開了一個成立于20 世紀50 年代的神秘公司的面紗。 該公司集中了一批社科精英,試圖利用計算機和數學模型開發一款能模擬甚至操縱人類行為的程序。 它好比冷戰時期的“劍橋分析”、臉書或谷歌, 影響力滲透到總統大選、國防部、種族暴亂事件甚至越南戰爭的走向中, 對美國政治產生了深遠影響, 也預示著一個新世界的到來: 在這個世界里, 每個人的每項決定都受到算法的操縱。 本書通過深挖和再現這段秘史, 一點點將20 世紀中葉的“因” 和21 世紀初的“果” 連接起來。 歷史或許無法回答“如果/那么” 這樣的問題, 不過可以告訴我們發生了什么, 以及為什么。

哈佛大學教授、第41 任大衛·伍茲·坎珀 (David Woods Kemper)基金榮譽教授、《紐約客》 特約撰稿人吉爾·萊波爾 (Jill Lepore) 在美國史寫作方面著述頗豐, 代表作包括《美國故事》 (TheStoryofAmerica:EssaysonOrigins), 《這樣的美國》(ThisAmerica:TheCasefortheNation), 《真理的史詩》 (TheseTruth:A HistoryoftheUnitedStates) 等。 這次,她又挖掘出了一段冷戰時期關于算法和數據政治的神秘歷史。

萊波爾在研究“棱鏡門” 事件時發現, 早在1844 年就有過針對私人信息泄露的抗議活動了。 一直以來, 信息安全永遠是滯后的; 當人們想起捍衛隱私時, “郵局早就拆過你的信件了; 你的照片已經在臉書上了……谷歌已經知道你討厭喝蔬菜湯了”[1]。 到了2015 年, 萊波爾又在調研中發現, 如今民意調查已經被數據分析取代: “想了解他們打算給誰投票, 怎么看拜登的最新演講……不用再設計一張100 個問題的問卷了, 只要收集數據就行了。”[2]為什么會出現這樣的變化,它又是何時悄然發生的? 懷著種種疑問, 萊波爾在麻省理工學院的圖書館里打開了一個塵封多年的檔案盒。 她被盒子里的內容迷住了, 并將其形成了最新的代表作《如果/那么: 機械擬態公司是如何創造未來的》 (If/Then:HowtheSimulmatics CorporationInventedtheFuture)。

今天, 人類無時無刻不處于“數據” 的監控和影響下。 你正在社交軟件上約閨密吃日料, 某點評平臺就推送了 “十大性價比最高的Omakase”; 你打開某寶, 首頁上就掛著你想添置的春季外套; 最近甚至爆出新聞, 很多男性都在妻子懷孕期間收到了某些違法服務的廣告信息。 這種對隱私的挖掘, 對需求的“精準定位”, 令人不寒而栗。 即使在一向嫌“保守主義” 和“精英主義” 的人文領域, 一切亦面臨著數字化的前景——網絡文學、數字人文、數字藏品等。 萊波爾有些酸意地將硅谷精英稱為“科技福音的傳播者”, 感嘆人類已經陷入了數據狂熱和“人文主義滅亡” 的困境。[3]在她看來, 如果人們能在“機械擬態” (Simulmatics) 公司第一次提出“顯宏鏡計劃” (Project Macroscope)的時候就行動起來, 或許這樣的困境就不會出現。

一、電子預測和數據占卜:冷戰中的科技迷狂

萊波爾認為, 從最古老的社會誕生之時起, 人類就一直癡迷著“預測”:

希臘人為德爾菲的神諭建造圣殿; 印加人在帕查卡馬克修建神廟。佛教徒、穆斯林、基督教徒、猶太教徒……每種信仰, 每種文化都擁有自己的先知、神廟、祭祀官、預言解讀者和預測未來者。[4]

到了20 世紀50 年代, 動模的科研人員則想利用剛剛投入民用的計算機, 提高“預測” 的精準度和速度。他們自稱“假想者” (What-If Men),是一群來自麻省理工、耶魯、哈佛和哥倫比亞等大學的自由派白人男性, 年輕、聰慧、野心勃勃, 萊波爾把他們比作“揮舞著羽毛和蠟做的翅膀飛向太陽的伊卡洛斯”[4]2。而他們所生活的年代也正處于波譎云詭的變革之中。

(一) 冷戰敘事中的黨派與民權斗爭

從政治層面看, 首先, 冷戰和民權事件的影響貫穿了20 世紀50 年代的美國, 成為民眾焦慮和不安全感的最大來源。 一方面, 盡管約瑟夫·麥卡錫和非美活動調查委員會(HUAC) 已經倒臺, 但冷戰思維和極端反共立場仍在艾森豪威爾—肯尼迪—尼克松的任期延續著。 蘇聯試爆原子彈、伴侶號的升空等都讓冷戰分子更加急切, 意識形態領域的滲透和反滲透也成為這場“‘美國精神’ (Americanism) 與社會主義的二元對立”[4]35的必爭之地。 與此同時, 在南方州, 布朗訴托皮卡教育局案、蒙哥馬利公交車案、小馬丁·路德·金被捕、小石城事件等掀開了美國反種族隔離、反偏見、反歧視的民權斗爭大幕, 非洲裔美國人手里的選票也變得重要起來。

其次, “驢象兩黨” 之間的差異正在不斷縮小。 在20 世紀30 年代,民主黨和共和黨還在是否加入第二次世界大戰、自由企業的危害等許多重大問題上持截然相反的立場。但到了20 世紀50 年代初, 冷戰格局的形成讓兩黨有了共同敵人, 席卷而來的自由主義浪潮又進一步抹平了兩黨間的差異。 “共和黨仍然代表商人, 民主黨仍然代表勞工……但到了1952 年, 美國人已經像叮當兄和叮當弟 ( Tweedledee and Tweedledum) 一樣分不清民主黨和共和黨了。”[4]15萊波爾在書里也提到, 由于尼克松和肯尼迪的條件太相似,很多選民分不清兩人而引發了一系列趣事。

于是, 從總統政治的角度看,能否利用冷戰和民權這兩項議題造勢成為關鍵決勝點之一。 美國的政治文化從此發生了轉折。

(二) 政治廣告的方興未艾

總統政治的另一個決勝點是“炒作” 能力。 “二戰” 結束后, 美國的廣告業特別是電視廣告業務迎來了爆炸式發展, 這得益于廠商“制造消費需求” 的強烈愿望和電視機的普及(“我們不是要售賣唇膏,而是要收買消費者”[4]15)。 而政治活動也很快注意到了這種 “售賣/收買” 的重要性。 盡管早在18 世紀晚期, 政治哲學家們就已經透徹地思考過煽動群眾的危害。

但制憲者們想象不出電氣化的、霓虹閃耀的、充滿真空管的20 世紀的新手段和專門用來海投廣告、操弄政治的機器, 這些手段和機器實在太強大, 需要恐慌的早就不是煽動群眾, 而是思想控制了。[4]19

1949 年, 一 家 名 為 “選 戰”(Campaigns) 的政治咨詢公司通過煽動“紅色恐慌”, 成功攪黃了杜魯門總統的國民健康保險計劃; 1952年, 艾森豪威爾的全國競選活動首次請來了廣告商幫忙。 他們讓迪士尼制作了一部動畫短片, 一群排著隊的小人邊走邊唱 “你喜歡艾克,我喜歡艾克, 大家都喜歡艾克” (艾克是艾森豪威爾的昵稱)。 艾森豪威爾成了第一位出現在電視廣告里的總統候選人, 并最終令不愿推銷自己的阿德萊·史蒂文森一敗涂地。 大選成了麥迪遜大道的業務, 人們開始像挑選牙膏那樣選擇總統。 優雅、理性、散發文學和哲學光芒的長篇演講成了迂腐的過去, 煽動民意、制造恐慌、宣傳鼓吹“代表著一個新的、見利忘義的美國政治未來”[4]16。

(三) 國防投入的“雙管齊下”

在社會科學領域, 盡管20 世紀20 年代的美國就有民意測驗產業,20 世紀30 年代有“戰時通訊研究”和“心理戰研究”, 但自20 世紀50年代以來, 這些軍方的秘密研究才正式擁有合法性, 并換上大眾傳播或行為科學研究等新名稱。 冷戰開啟后, 與 “外國語言和地區研究”相關的項目獲得了穩定的經費支持,他們在全世界收集輿論信息、采訪結果和民意調查, 特別是社會主義陣營中的“不同政見者” 和華沙條約難民, 研究阻止共產主義思想滲透的方法。 國防部、中央情報局、卡耐基基金紛紛將經費投向這類研究; 福特基金會相繼籌建了專門研究人類思想的 “行為科學部” 和“高級行為科學研究中心”, 蘭德智庫(RAND) 也是在這個時期成立的。 在這個過程中, 量化科學逐漸興起——這門學科堅信人類行為的可量化, 只要有足夠多的數據、足夠精準的數學模型和一套理論, 就能預判和左右人們的行為。 美國政府希望科學家研制出“意識形態雷達”,不僅能了解拉斯韋爾模式, (誰? 說了什么? 通過什么渠道? 對誰? 產生了何種效果?) 能在政治上出現不安定因素時進行預警, 還能“揭露卡爾·馬克思學說的邪惡性”。[4]58

在應用技術領域, 1950—1952年, 美國國防部的預算從500 萬美元一路飛漲到1.6 億。 1953 年, 艾森豪威爾提出“新面貌” (New Look) 國防戰略, 大力發展精準定位武器。到了20 世紀50 年代中葉, 用于軍事上的開銷占了聯邦預算的近四分之三。[4]57原子能、電子技術、航空航天等學科都得到了前所未有的重視。據統計, 1952 年前后, “國防部、原子能委員會和國家航空咨詢委員會的相關項目就占用了約70%的科研人員”[5]。 航空航天方面, 蘇聯的“伴侶號” 升空后, 艾森豪威爾馬上著手成立了美國國家航空航天局(NASA) 和高級研究計劃署 (ARPA)。 電子技術方面, 隨著大量經費的投入, 電子計算機以驚人的速度更新迭代。 新的編程語言被開發出來, “自動化” “模擬” “人工智能”等詞語也開始進入美國人的日常用語中。

綜上所述, 動模公司就是在這樣一種語境下誕生的。 它的名稱(Simulmatics) 是 “ 模 擬、擬 態”(simulation) 和“機械、自動” (automatic) 兩個詞的結合, 也凝聚著整個團隊的雄心——制造一部 “人機” (people machine):

它能鎮壓暴亂。 能贏得選舉。能賣漱口水。 ……能從情感和理智方面下手, 讓我們在越戰中獲勝。能預測種族騷亂乃至瘟疫的流行。能終結一切混亂。[4]3-4

概括而言, “人機” 將模擬人類行為, 預測人類行為, 以及操控人類行為。

在萊波爾看來, 如今的臉書(Facebook)、帕蘭提爾(Plantir)、劍橋分析(Cambridge Analytica)、亞馬遜、互聯網研究所[6]或谷歌, 都是動模公司孵化出的“雞蛋”; 而他們的科研人員就是“馬克·扎克伯格、謝爾蓋·布林、杰夫·貝佐斯、彼得·泰爾、馬克·安德森和埃隆·馬斯克仙逝已久的白胡子祖父”[4]6。 不過, 比起對硅谷精英的厭惡, 萊波爾卻一直為動模辯解, 說他們只是一群20 世紀中葉的“白左” (white liberals), 思維具有局限性; 他們的出發點是好的, 是想推動民主的理想主義者; 他們沒有意識到“人機”中潛藏的危機。 但真的是這樣嗎?

二、關于“人學”:埃德·格林菲爾德與“假想者”

動模公司成立于1959 年, 在紐約、華盛頓、坎布里奇和越南的西貢都設立過辦事處。 這個團隊由董事長和他四處網羅來的科研人員即“假想者” 組成。

埃德 (埃德華) ·格林菲爾德(Ed Greenfield), 動模公司董事長,民主黨支持者, 麥迪遜大道上的“廣告狂人” 和公關高手, 諸多基金會的董事成員。 “極其精明, 我的好友,誰都認識。 長袖善舞。 ……關系網龐大。”[4]14格林菲爾德熱衷政治, 是真正的 “人學” (Science of Man) 專家——擅長收集和推銷“人”。

尤金·伯迪克(Eugene Burdick),知名作家, 好萊塢名人, 加州大學伯克利分校教授, 政治學家, 尤其關注將量化科學的方法引入政治學理論中。 其代表作包括政治驚悚小說《第九次浪潮》 (TheNinthWave)、《丑陋的美國人》 (TheUglyAmerican)、《核子戰爭》 (Fail-Safe) 等。

哈羅德·拉斯韋爾(Harold Lasswell), 政治學家、社會學家、心理學家、行為學家, 還被稱為傳播學的奠基人之一, “拉斯韋爾模式” 的提出者。 曾出版《世界大戰中的宣傳技巧》 (PropagandaSkillsinWorld War)、《政治語言: 語義的量化研究》 (TheLanguageofPolitics:Studies inQuantitativeSemantics) 等著作。 頗有諷刺意味的是, 拉斯韋爾一直提倡“通過一種系統的、由政府主導的操控大眾的方式來抵御獨裁主義,保障民主”[4]33。

保羅·拉扎斯菲爾德(Paul Lazarsfeld), 奧地利移民, 行為科學家,曾在哥倫比亞大學創建“應用社會研究所”, 開展“選民如何在議會和州選舉中做出選擇” 的研究, 并將成果轉化成專著《投票: 總統競選中的輿論形成研究》 (StudyofOpinionFormationinaPresidentialCampaign)。

伊錫爾·德·索拉·普爾 (Ithiel de Sola Pool), 動模科研團隊主任,量化行為科學家, 國防學者, 五角大樓參謀, 曾在胡佛研究院做“革命與國際關系發展” 研究, 在麻省理工的國際研究中心做“國際傳播”研究。 嘗試開發“意識形態雷達”,制作“闡釋意識形態和反意識形態”的數學模型。[4]55

亞歷克斯·伯恩斯坦(Alex Bernstein), 俄羅斯猶太裔, 從小在紐約長大。 朝鮮戰爭期間在美軍通信部隊服役, 從事破譯密碼和發送信號的工作, 曾用IBM704 計算機編寫出人機對弈的下棋程序, 后成為動模的程序員。

威廉·麥克菲(William McPhee),“狂人比爾” (Wild Bill), 藍領家庭出身、靠著獎學金上耶魯的數學天才, 量化科學和計算機專家, 同時也是躁郁癥患者, 在貝爾維尤精神病院寫出了動模早期的數據分析程序。

詹姆斯 (吉姆) ·科曼 (James Coleman), 普渡大學社會學研究生,動模公司教育部門主任, 致力于將人類行為的數據模型應用于教育領域, 普及教育機會。

不難看出, 動模的大部分成員都有從軍經歷或軍方背景, 與政界關系密切, 而該公司的興衰也始終與美國政治緊密相連: 1960 年, 它借助肯尼迪的勝選獲得聲望; 1970年, 它又因越戰中的一系列不光彩行徑而在罵聲中破產。 實際上, 從黑人運動、城市暴亂到總統大選,動模“在(20 世紀60 年代的) 大部分事件中都扮演了某種角色”[4]102。同時, 萊波爾也提到了這些光鮮亮麗的人物的陰暗面: 格林菲爾德迷戀金錢和權力; 麥克菲是個虐待妻女的家暴者; 伯迪克很快就退出了動模, 并成了該公司最激烈的批判者; 伊錫爾·德·索拉·普爾則是一個善于“選邊站” 的人: 從社會主義者轉變為堅定的冷戰主義者, 從阿德萊·史蒂文森的支持者轉變為肯尼迪的支持者, 從反戰者轉變為“戰犯”, 被斥為“有史以來最墮落的社會學家”。[7]

萊波爾似乎想從兩方面為“假想者” 辯解: 首先, 她說他們是一群失敗者, 能力不足以改變歷史:“不管有沒有機械擬態, 美國人所熟悉的政治都將在20 世紀60 年代走向完結”[4]101。 的確, 與其說動模是數據政治的“先因”, 倒不如說它是美國社會與政治發展的“結果”, 就算沒有它, 也會有別的類似企業出現。但不可否認, 動模的影響力是深遠的。 不管是拉扎斯菲爾德的投票研究, 普爾的“社交網絡” (social network), 麥克菲的 “顯宏鏡計劃”,“人機”, 還是越南的軍方項目, 都在制定大選策略、政治宣傳方式、了解和左右民意等方面留下了深刻印記。 其次, 萊波爾堅稱動模是理想主義的, 與當今的硅谷巨頭不同:“(機械擬態) 關注的是國防安全,而他們關注的是利潤。”[4]325不得不說, 這里暴露了她的局限性: 她把普爾的激進冷戰思維與國防安全畫等號, 說“顯宏鏡計劃” 客觀上推動了民權事務的進步; 在越南和南方州所做的事也是為了“民主”。 在筆者看來, 這個公司的成敗或出發點并不重要, 因為它的存在本身就是一個預兆, 昭示著一個“數字極權” 的人類未來。 在21 世紀的今天, 動模的野心已經全部成真了。

三、關于“人機”: 動模法

“二戰” 期間, 美國和英國的工程師制造出了用以計算彈道軌跡和破解密碼的電子計算機馬克一號(Mark I) 和ENIAC——電子數字積分式計算機。 戰后, 電子計算機進入民用, 并有了第一套讓使用者以接近英語的方式編寫代碼的程序。1952 年的大選之夜, 雷明頓·蘭德公司的UNIVAC 首次在全國直播中亮相; 1954 年, IBM 推出了第一部能夠處理復雜數學運算的計算機IBM704。1956 年, 新的編譯程序——Fortran語言被設計出來, 這個詞是“方程式轉譯” (formula translation) 的簡稱, 能夠更好地將接近英語的語言轉化為指令, 包括“讀取” (Read)、“格式化” (Format)、“跳轉” (Go To) 和“如果/那么” (If/Then) 等。舉例來說, “如果” 命令會指示計算機思考這樣的問題: 如果A 是真的,那么執行X; 否則如果B 是真的,那么執行Y。 不過, 盡管人們將Fortran 程序稱為“語言”, 但它其實只能用于數學運算, 并不能像人類大腦一樣思考: “Fortran 語言能夠處理數值計算中的任何問題, 不過, 當問題出在機器字具有某種邏輯而不只是數字意義的時候, Fortran 語言就不大能滿足要求了。”[8]這也是“人機” 后來遭遇一系列失敗的原因之一。

(一) “顯宏鏡” 計劃

1956 年, “狂人比爾” 在已知的選民登記表和民意調查的基礎上,設計出了一個分析、模擬選民思維活動和行為趨勢的數學模型。 麥克菲把該研究梳理成博士論文——《投票系統宏觀動態的分析模型》(A Model for Analyzing Macro-Dynamics in Voting Systems), 而格林菲爾德又將其整理成一份意見書, 并命名為“顯宏鏡計劃”[9]。 他們的想法是建立一個數據庫, 用計算機上的打孔卡片給選民“貼標簽”, 比如,“北方州—城市—勞工階層—新教徒—黑人—三個孩子” 等, 再將他們歷年的投票記錄等微觀信息也都錄入計算機。 最后借助麥克菲的模型和Fortran 語言進行宏觀分析, 這就是“人機” 程序:

有了我們的模型, 就能預判出關于某個議題的演講對1000 個子類的人群分別產生何種影響, 以及每個子類中有多少個體分布在各州當中。 然后, 我們就能推算出同一場演講在不同州的數據百分比上的細微差異, 最終精準找出真正左右大選的州。 ……比方說, 盡管某場演講會讓我們在幾個堅定的民主黨州丟失2%～3%的選票, 但能在一些很重要的搖擺州增加1/2 的選票。[4]92

當時, 常用的蓋洛普民調只能算“事后諸葛”, 而動模的“人機”可以提前預測出某場演講、某次活動或某種立場對選舉走勢的影響,這樣團隊就能未雨綢繆, 有的放矢地制定戰略。 萊波爾認為, 這套半個多世紀前的程序實際上與“劍橋分析” 公司2015 年為特朗普、2016年為脫歐派提供的服務沒有任何區別。[4]91

(二) 肯尼迪的勝選

動模最成功也最有代表性的一項業務, 是協助肯尼迪贏得1960 年總統大選的勝利(盡管肯尼迪團隊竭力掩蓋這一點)。 最初, 動模的目標是為阿德萊·史蒂文森服務, 并在史蒂文森競選幕僚的幫助下, 拉到了共計65000 美元的科研經費 (相當于2020 年的50 多萬美元)。 1960年5 月15 日, 動模提交了第一項研究成果《北方城市中的黑人選民》,并強調了兩點: (1) 拿不下黑人選民,民主黨就不可能重返白宮; (2) 想要贏得黑人選民的心, 就必須在民權問題上持更堅定的立場。 但沒過多久, 史蒂文森就退出了舞臺, 肯尼迪獲得了民主黨內提名。 于是動模轉而投向肯尼迪。 當時肯尼迪的民調落后于尼克松, 而且有幾個相當明顯的弱勢: (1) 肯尼迪太年輕,只有42 歲。 (2) 肯尼迪本人及家族與約瑟夫·麥卡錫的關系極為緊密。(3) 肯尼迪不擅長民權事務[10], 自由派人士不信任他。 (4) 肯尼迪及家族信仰天主教, 在美國這樣一個新教徒占絕對優勢的國家, 此前從沒選出過一個天主教總統(此后也只有喬·拜登一人)。

動模在計算機上幫肯尼迪模擬了一場選舉, “預測” 了選民即將做出的選擇, 然后提交了三份要報:《勞動節前的肯尼迪》 《勞動節前的尼克松》[11]《肯尼迪、尼克松與國際事務》。 在第一份和第二份報告里, 他們給出的建議是: (1) 要持續不斷地表達對民權問題的堅定支持。(2) 要正面挑戰宗教話題, 不僅不能回避, 還得狠狠炒作一番。 “人機” 的“如果/那么” 模擬顯示: 如果他多談論一些自己的信仰, 那么就會遭到攻擊; 如果他遭到攻擊,那么將會出現一股反偏見、支持“弱勢群體” 的作用力; 如果出現這種情況, 那么肯尼迪不僅能得到天主教徒的支持, 還能獲得任何反對偏見的人的支持。 (3) “人機” 判斷, 競爭越白熱化, 肯尼迪就越占優勢。 而在第三份報告中, 他們則就即將到來的辯論給出了一系列應對方法。

勞動節過后, 整個夏天都落后于尼克松的民調迅速趕超上來。 盡管肯尼迪團隊不承認, 但在此期間,肯尼迪在民權主張、宗教立場和四次電視辯論中的表現, 都是根據動模的建議去做的。[4]120最終, 肯尼迪以49.7%對49. 5%的極微弱優勢贏得了普選, 又以較大優勢獲得了多數選舉人票, 成功入主白宮。 也是從那年起, 計算機正式成為大選夜的支配力量。 三大電視網都用上了最快的計算機, 爭相預測投票趨勢,發布計票結果。

肯尼迪勝選后, 《哈潑斯雜志》(Harper’sMagazine) 上登出一篇文章, 把肯尼迪團隊和動模公司都推上了風口浪尖。 文章披露了“人機”的秘密, 批判肯尼迪團隊利用機器侵犯隱私、工具化選民、操控政治等種種罪惡。 一方面, 肯尼迪團隊忙著否認, 聲稱根本沒聽說過這個公司; 另一方面, 動模的業務卻空前繁忙起來, 傳媒公司、政府部門和廣告代理機構紛紛尋求合作, 還公開發售了股票。 動模的野心是利用“人機” 創建一個電子版的美國,由無數類型的虛擬美國人組成。 這個程序可以測試任何“產品” 的效果, 從速溶咖啡到政府公務不一而足(這讓我想到了“元宇宙”)。 這些業務沒能重現肯尼迪勝選的成功:他們的步子邁得太大, 現有條件無法獲得足夠數據, 也很難充分調試模型; 同時, 他們在越南所做的事情也與國內的反戰浪潮格格不入。動模是短命的, 但它的存在意義非凡, 既濃縮了20 世紀60 年代的歷史全景, 又揭開了未來世界的序幕。從政治上看, 它是冷戰意識形態、軍備競賽和總統政治的衍生物; 從文化上看, 它是技術烏托邦和“量化自我” 的開拓者; 從商業上看,它則是把心理戰和數據兜售相結合的先驅。 而萊波爾認為, “機械擬態法” 的崛起意味著人文認知的被拋棄。

四、結 語

萊波爾將動模比作20 世紀50 年代埋下的“手雷”, 直到21 世紀的第二個10 年方才“引爆”。[4]4當年“人機” 所引發的憂慮, 大多已成為今天的現實困境。 首先, 在一個數字化的生態系統里, 我們的隱私可能得到保護嗎? 數據是否會被篡改和濫用? 民意是否被“精準操控”?“一致共識” 的達成中有多少自由和自發性成分? 其次, 如果活生生的人變成數據庫里的標簽, 面對面的交流需要通過機器“傳達”, 生命體驗中的點滴都可以進行數字模擬……那么我們對社會的理解和對自我的認知會發生怎樣的變化? 數字化是否意味著人文精神的滅亡?

針對第一個問題, 克里斯托弗·懷利[12]認為, 立法者必須起到監管作用, 技術企業絕不應該毫無約束地自由行動:

既然制藥公司或航空航天企業必須通過安全和效力檢測才能上市新發明, 為什么數字系統不經審查就可以上市? ……我們已經看到,激進主義、大規模槍擊案、種族清洗、進食障礙……都受到社交媒體的直接影響, 這些可能是看不見摸不著, 但造成的傷害卻是實實在在的。[13]

為此, 懷利的建議是: (1) 制定一部互聯網政策法規; (2) 出臺一部軟件工程師專用的倫理規范;(3) 開設專門的數字監管機構, 并賦予專業調查官獨立執法的權力。[13]331-339萊波爾也認為, 責任在人民和民選政府肩上。 如今, “在未經政府機構管理的情況下, 以利益為驅動去收集和使用人類行為數據,對社會造成了嚴重破壞, 特別是政治、廣告、民族關系等領域”[4]324。但是, 這個想法與萊波爾自己對“政府監控” 的擔憂又是相互矛盾的。 以美國為例, 2001 年, 美國通過了《愛國者法案》, 允許政府拓展監視的授權范圍; 2007 年, 國家安全局開啟“棱鏡計劃”, 直接監視美國9 家主要網絡公司的中央服務器[1]71; 今年4 月初爆出的“五角大樓泄密門” 事件則進一步暴露了美國政府的全球監聽行為。 我們不得不思考, 基于“算法黑箱” 和“權力悖論”, 如果公眾喪失了知情權和個人信息的自決權, 那么監管和監控之間的邊界在哪里呢?

至于第二個問題, 萊波爾在《如果/那么》 里沒有直接給出回答。但首先, 她批判了普爾將量化行為科學稱作 “20 世紀的新人文主義”[3]的說法。 在萊波爾看來, 人類是無法也不應該被量化的。 當幾個精英教育出身的硅谷“白左男”,對著資料庫中的數據, 借助算法去理解和劃分“非中產、非白、非左、非男” 的人群時, 這個畫面是荒謬的, 更別提他們還要給對方灌輸“普世的” 價值觀了。 而當這些數據模型被資本集團所掌控時, 一種新的福柯式的“規訓” 手段就生成了。

此外, 萊波爾有意在書中穿插描寫了幾位女性, 將她們的“人文精神” ——細膩的情感、關于生命的體悟和對親密關系的思考, 與她們丈夫的“數字狂熱” 進行了鮮明對比。 萊波爾認為, 承擔育兒工作的家庭婦女或許是最好的人類行為學家; 坐在街邊靜坐抗議的黑人比選民登記表更會表達他們的訴求;而一位總統候選人應該支持民權立場, 因為這么做正確, 而不是因為機器告訴他這么做。

最終, 萊波爾借安東尼·萊萬多夫斯基 (Anthony Levandowski) 的“歷史無用論”[14]重申了自己的觀點: 動模的這段秘史恰好證明了歷史的重要性; 一切面向未來的發明都立足于過去。 “歷史的重要不是因為預言性, 而是因為警示性; 不是一劑藥方, 而是一紙諫言。 科技的歷史為當下的實踐者上了一課。”[15]

而我想, 不妨以漢娜·阿倫特的一段話作為結尾吧:

除了征服之夢、機械之夢、人工智能之夢和模擬世界之夢外, 再不會有別的夢想了嗎? 那些關于公正的夢想, 關于平等的夢想, 關于自由的夢想呢?[15]