從“單向度”到“被算計”的人*
——“算法”在傳播場域中的倫理沖擊

□文│江作蘇 劉志宇

在不久前成都舉行的2018年中國傳媒經濟與管理學術年會上，筆者的學術團隊經過長時間研究后提出的一個觀點獲得了“年度觀點獎”。這個觀點是：受眾已經進入了“被算計的人”場景時代。這種概括性認識不僅基于大量統計數據，而且基于人人都可以感受到的現實，即，在當下數字與算法野蠻生長的時代，每個人都要意識到，在無所不包、無遠弗屆的網絡場景中，只要身處傳播場域，幾乎每個人都已經完成了各自的歷史性轉換：在以算法為驅動、以云計算托底、以移動通訊為支撐的條件下，受眾已經不知不覺被轉化為了“被算計”的人。

新聞傳播學界很熟悉馬爾庫塞的“單向度人”學說。[1]他認為，在后工業時代的大眾傳媒傳播作用下，流行價值觀被受眾內化為倫理規范，使人們盲目地一味認同，壓制了其多向度思考，也就使之失去了突破單向度行為，實施多向度選擇的能力。此處的向度（dimension），也可以翻譯成方面或維度。觀點表述中提到“被算計的人”，其“算計”一詞很難找到對應的英文單詞。因為“calculate”一詞本意是純數學意義的“計算”，而中文的“算計”一詞除數學意義以外，還有“刻意追求某種目的”的含義。

當下無處不在的“算計”從大家的日常生活中處處可以感知到，例如“×寶”靠算法精準推送有利可圖的商品目錄以刺激用戶消費、“××頭條”據算法推送投受眾所好的內容以賺取流量。這種依靠算法對人們的日常動態予以收集察驗，再通過“計算”而“算計”千千萬萬的個人，從而獲得商業利益或是影響力的做法，如今已是司空見慣。無論人們主觀上如何看待，你我都在客觀上進入了“被算計”的場景，而且正逐漸適應這個場景的倫理。

一、難以逃避的“被算計”：算法下的倫理困境

不久前，某人收到一張明信片，寄送者是某國駐華使館的新聞文化處。對方寄這張明信片是為告知該使館辦了40年的一份文化性雜志停辦，以后不再寄贈。對方同時表示希望收件者用手機掃描明信片上的二維碼，今后可以用在線方式繼續向此人推送數字化雜志。這么一件小事，可以引起如下思考。

除了印刷媒體的式微外，印象最深的就是使館所寄的明信片要求收件掃描其二維碼，這就涉及“算法”和今后是否會“被算計”的問題。暫且不談該二維碼所導向的鏈接是否安全合法，只要掃碼，對方數據庫就可以獲得對方手機號碼。基于我國手機用戶登記實名制的技術前提，對方可以運用社會工程學的各種手段通過手機號碼獲得姓名、身份證號，進而輕易地運用算法獲得該人所有個人信息和社會交往的實時情況，這絕非聳人聽聞。

現實空間中的地址可以改變，但數據空間中的坐標卻難以修改，收件掃碼后只要手機不換號，對方可以將其視為一個移動的信息之窗，隨時能全面探知個人動態，而對方幾乎沒有躲避的可能。

從這件小事引發的思考出發，圍繞“世界已經進入了‘被算計的人’場景時代”這個觀點，再考察和思考一下我們的倫理與法律環境。當下，中國學術界正在熱烈談論歐盟2018年生效的《一般數據保護條例》，[2]即GDPR，這個條例看似十分嚴格、細致甚至繁瑣，似乎是保護受眾不被過度“算計”的法寶。但是深入地進行思考，像GDPR中關于“信息遺忘權”的概念和相關規定有多大的可行性？人們甚至可以懷疑這是一個偽命題，因為像某國使館文化處對收件人多年以前的一個通信地址尚不會遺忘和刪除，那么數據服務商若得到了用戶的數據地址和信息會主動忘掉嗎？在需要動用的時候會選擇放棄嗎？這很難做到。

通過數字痕跡追蹤場景中的一切人是算法時代的媒介所共有之取向。人們打開網絡門戶，接受并運用海量信息獲取多種便利，這固然是一種享受，但是否要為此付出代價甚至讓渡部分權利呢？這是一個羅生門式的問題。很多時候用戶一旦提交個人數據，實際上就進入了不可逆的不被遺忘場景，很多難以預估的問題會由此產生。這在行為倫理上的確是兩難選擇。

用戶不可能既要求服務，又不透露個人信息，但用戶因透露個人信息而受到某種損害時，又會本能地指責整個算法場景無權收集和“算計”個人信息。這當中的倫理平衡不易做到，所以受眾也應當進行計算和算計，算一算自己在獲取數據時的得失與選擇。從受眾意識層面來說，大眾媒介倫理素養要升級到更高層次，使受眾意識到自己是在一個被時刻“算計”的場景中生存，要評估客體“算計”的動機和目的。有這種認知基礎，才能在享受權利的同時做出主動的倫理判斷和行為選擇。

二、倫理困境的“天元”：算計帶來的控制機制

時下風行一時的算法推送技術是技術理性與人文理性相結合的產物。而這一產物在智能化場域中對人類最大的沖擊，是倫理問題。除了用戶的數據安全問題外應當看到，伴隨著傳播倫理的問題而來的問題已經凸顯，例如社會不同群體間的語境阻隔和對受眾個人造成的信息繭房效應，這些在新聞傳播研究中都已是熱門議題。在面對問題時，首先要看到傳播場域——即傳播倫理發生作用的前提已經發生了變化，算法的“算計”給傳播加入了全新的控制機制。

算法主導下的傳播是真正的控制下的傳播。維納在1948年問世的《控制論》中提出，一切物質存在，不管是天體、生物、機器直到人類社會以至于人的思維過程，都構成一定的“系統”，具有不同形式的控制、反饋功能。[3]這一論點在傳播學中運用的基本思想便是運用反饋信息來調節和控制系統行為，達到預期的目的。當下這種算計主導的新系統控制模式，其核心在于個性化的推薦算法，其通過無處不在的收集和運算，為整個傳播系統注入高效迅速的反饋。在這種新系統之內，信息環境對人們信息的收集無處不在，且難以察覺。人們在打開各類基于大數據和算法技術的網頁和APP接受信息時，便將包含著信息的行為提供給了各類傳播主體，供其通過數據算法進行分析，發送反饋。這種由收集、運算、反饋、傳播組成的系統控制，構成了“超級全景監獄”和對受眾的“符號暴力”。

如美國學者馬克·波斯特所言，[4]人們正處于計算機數據庫信息模式下的技術性權力格局中，被限制在“超級全景監獄”里。與相對熟悉的米歇爾·福柯之“全景監獄”相比，“超級全景監獄”不像福柯認為的那樣是19世紀監視和規訓的延伸，而是一種全新的模式。從監視的程度與范圍而言，這種監視更加隱蔽而無處不在，權力在這種監視下如毛細血管一般延伸，觸及社會的每一寸空間，只要通過技術媒介進行信息活動，隨時隨地都會被捕捉到數據，并被進行反饋和推送；從監視的建構方式來說，“全景監獄”里尚存在著人的主體意識，而“超級全景監獄”中的主體構建采取“客體化”的相反路線，通過分散的身份、通過連個體都沒意識到的身份生產這些個體——簡而言之，超級全景監獄里的人們甚至都意識不到自己被“監禁”了。這一概念的描述正是對“被算計”的人們當下處境的生動寫照。

除了建構“超級全景監獄”的傳播場域外，“算計”在作用機制上構成了對受眾的“符號暴力”。由布爾迪厄提出的這一概念指的是統治者在社會行動者本身合謀的基礎上，通過符號的權力施加在其身上的暴力。從算法發揮作用的機制來說，受眾本身積極迎合“算計”，所謂的“算計”才得以進行。而且受眾對于這種監視、控制、灌輸仍在一定程度上處在一種不知情的狀態，因此也如布爾迪厄所說，這是一種“溫和的暴力”。[5]

在“符號暴力”之下，算法帶來的“算計”并不是真實的暴力，從傳播效果看來也對受眾沒有造成直接的傷害。但這種“算計”是看不見、摸不著的，信息生產者通過技術手段傳播場域中獲得了充分的信息生產前提，進而通過符號權力對意義進行任意建構，更加懂得如何迎合受眾的好惡，使受眾的心智結構呈現為更具有形成性的“慣習”。“通過這種慣習的養成，受眾進而呈現出體現于身體而實現的集體個人化，或者是經由社會化而獲致的生物性個人的集體化。”[6]這種機制下，符號暴力展現出它的威力，它通過培養“慣習”進而構建出知識場域，影響受眾對于社會的經濟、政治、文化等各個領域的看法觀念。而且通過觀察可以看到，依然有大量的用戶不曾懷疑過算法的合乎倫理性，大多數人在觀念上形成一種“誤識”，并不認為這是一種暴力，反而為其辯護，進而加強了符號暴力的威力，在傳播場域內形成一種內閉循環。

通過“超級全景監獄”和操控“符號暴力”的機制作用，信息生產者的這些“算計”主要是為資本服務，致力于吸引受眾的注意力，進而將流量變現。當下的新聞平臺、信息服務平臺、電商平臺普遍采用個性化推薦算法，這種控制機制也伴隨著與技術手段的捆綁被推而廣之，對傳播倫理構成了內源性挑戰。

三、當下應對倫理沖擊的一般觀點

第一種論點提出，如今雖然整個社會從互聯網時代進入到移動互聯網的時代，但監控的形式和本質依然是以計算機數據庫為核心的。倫理問題能不能回歸到技術領域，交由算法去解決？例如，世界經濟論壇就曾發表過一份題為《解除個人信息的價值——從收集到使用》的報告，其主旨在于將管理數據的重心轉移到限制使用數據上，呼吁“通過新型技術手段限制使用個人數據能夠讓個人控制自己的信息安全”。[7]

應當承認，算法是沒有“原罪”的，算法是否剝奪了受眾的自由不可一概而論。算法帶來的倫理問題，指望“解鈴還須系鈴人”是一條思路。但從當下看來，對于“被算計”的憂慮主要是針對算法被濫用而非算法本身的問題。例如2017年引起軒然大波的美國臉書（Facebook）數據泄漏事件，并不是東方式的禪意過慮，而是西方契約精神失靈的實體焦慮：受眾并不知道劍橋公司“算計”其個人數據的目的，而且出于對數據挖掘、智能算法等技術手段的習慣性接受，客戶甚至不知道自己在受到某種影響和控制，被置于一種無意識的被監控狀態。這種倫理缺位帶來的傷害并非單純是技術對人的傷害，更多的是人對人的傷害，要從算法出發用技術手段去進行修正顯然是勉為其難。

那么，從第二種論點出發，是否可以期待業界與學界聯手，針對算法的開發與應用從倫理、道德或是法律層面拿出具有公信力的成文約束方案呢？當下，比較有代表性的是張超從倫理學視角出發提出的將傳統的新聞倫理與新興的技術倫理相結合的方案，認為新聞生產的算法責任倫理體系當中應包括以下原則：公平、準確、透明、可解釋、可審計、責任。[8]

此外，類似的還有邱仁宗等從大數據的倫理風險出發提出的“基本目的、負責研究、利益沖突、尊重、隱私、共濟、公正、透明、參與”系列原則等多種方案。[9]這些方案各有側重點，但基本精神相近，且從限制當下的“算計”出發來看均具有一定的合理性和操作性。不過，從當前行業發展情況看來，互聯網技術和數據技術距形成成熟業態尚存在距離，此時期望有一種與實踐步伐相適應的、通用的、完美的傳播倫理直接拿來運用，實際上很難，且不說這套倫理規則還需要用公允和完美的文本形式表達。

即便如馬云這樣的業界前沿人士，也認為當下正處于互聯網的黎明時期，下一步全球行業還需要緊追從 IT（Information Technology）走向 DT（Data Technology）的大趨勢。[10]在互聯網行業和數據行業尚不成熟的前提下，期望制定出一整套嚴密完備的法律和規定來約束從業者行為，亦是一種良好愿望，但是操作時空尚不匹備。此時從業者和受眾都還在探底，這就如同正在刮著颶風的海面上，實時的船舶狀態沒有辦法固定描繪和控制，只有駛入相對穩定的海區后才有可能。

因此，要在當下解決這種“被算計”給人帶來的損害和焦慮，技術手段、簡單規制手段是難以做到的，要得到解決必須從受眾心理的角度入手，建立起倫理上的警惕性。

四、倫理沖擊下的當務之急：擺脫無意識

世界經濟研究領域存在中等收入陷阱（Middle-Income Trap）現象，指發展中國家在經濟發展過程中面臨重重阻力，特別是從落后國家進入中等收入國家以后有可能失去發展動力，陷入長期經濟停滯。[11]將此概念移植到傳播領域、媒介形態上來講，在當下這個互聯網行業的黎明時期，人類也可以說正處于廣義的信息中等收入狀態。整個人類社會，包括某些自詡甚高的網絡強國，都要警惕這種狀態下的倫理認知混亂。

倫理學研究發現，當下這個時期社會的倫理困惑往往是與經濟上的中等收入陷阱相伴生的。中等收入陷阱內的人們急切地想增加財富和跳出陷阱，對一切并不一定具有資源秉賦基礎，或者超出承受范圍的激進變革和公共產品，一概采取民粹主義的態度，盲目冒進。如同消化不良者往往不檢點自己的飲食方式而一味怪罪食物的品質一樣，結果是付出了大量社會資源的代價而收益卻并不理想。眼里只看得到算法而看不到“算計”是大部分人面對倫理抉擇時給出的答復。

通過理論分析可以發現，無論是“算計”背后的作用機制“超級全景監獄”、“符號暴力”抑或是“中等收入陷阱”驅動下的民粹心態，其產生倫理風險的根本要素在于無意識。受眾面對“算計”時，沉溺于這種無意識而缺乏倫理上的警惕性將可能使其行為受到影響乃至精神被控制。要打破這種倫理困境，最首要的是幫助受眾建立倫理警惕，擺脫無意識狀態。從操作層面上來說，對受眾進行倫理教育并不難，但其前提是學界和業界意識到其重要性，通過擦掉算法推送的表層色彩，兌現受眾知情權、復蘇其倫理意識，使其主動避免成為“單向度的人”，并能夠判斷和認清自身的選擇與行為是否符合自身的倫理認同。

五、結語

“算法”看似客觀中立，“算計”本身也并不邪惡，但其規則是人為所制定，所以這一新興的傳播機制不可否認的具有偏向性。簡而言之，即“算法中性”與“價值中性”并非是趨同的。雖然大多數經由算法推送的信息，人們常規上都選擇很大程度去相信它，但這不等于受眾不再需要有倫理的底線意識，不意味著獨立人格不再有價值。面對算法，除了“盡物之性”外，也要兼顧“盡人之性”，踐行“尊重和認同人的內在價值”這一人類倫理的出發點。

注釋：

[1] 赫伯特·馬爾庫塞.單向度的人[M].上海：上海譯文出版社，2016

[2] 《一般數據保護條例》（General Data Protection Regulation，簡稱GDPR）為歐洲聯盟的條例，前身是歐盟在1995年制定的《計算機數據保護法》，于2018年5月25日在歐盟成員國內正式生效實施。該條例的適用范圍極為廣泛，任何收集、傳輸、保留或處理涉及歐盟所有成員國內的個人信息的機構組織均受該條例的約束。

[3] 熊澄宇.傳播學十大經典解讀[J].清華大學學報(哲學社會科學版)，2003(5)

[4] 張金鵬.超級全景監獄：信息方式下的權力技術——波斯特論信息方式下的統治模式[J].南京社會科學，2007(8)

[5] 尚帥.傳播的興趣偏向和渾然不覺的符號暴力——基于《今日頭條》的算法控制研究[J].現代傳播(中國傳媒大學學報)，2018(10)

[6] 畢芙蓉.文化資本與符號暴力——論布迪厄的知識社會學[J].理論探討，2015(1)

[7] 宋吉鑫，魏玉東，王永峰.大數據倫理問題與治理研究述評[J].理論界，2017(1)

[8] 張超.新聞生產中的算法風險：成因、類型與對策[J].中國出版，2018(13)

[9] 邱仁宗，黃雯，翟曉梅.大數據技術的倫理問題[J].科學與社會，2014，4(1)

[10] 馬云.兩岸企業家峰會上的講話[EB/OL].http：//tech.sina.com.cn/i/2014-12-15/doc-iawzunex6503537.html

[11] 蔡昉.“中等收入陷阱”的理論、經驗與針對性[J].經濟學動態，2011(12)