科技本位主義的局限性

李俠

【關鍵詞】科技本位主義? 互聯網中心主義? 算法? ? 【中圖分類號】C912.67? ? 【文獻標識碼】A

如果回顧我們在新世紀初談論科技本位主義的話題，那時多半還停留在觀念思辨層面上，與真實生活還有一段距離，那么20年后的今天，科技本位主義早已從觀念層面物化為一項項具體的技術，以更直接的方式充分展現在我們面前，并且時刻形塑著我們的生活。2020年，疫情讓原本隱而不顯的科技本位主義再次回到公眾視野：生活的方方面面借助于互聯網而擺脫停擺的命運，互聯網中心主義以其杰出的表現俘獲公眾的信任;企業/平臺在算法的加持下實現數據煉金術的華麗轉身;對于個人而言，量化自我成為一種全新的科技本位主義表現形式。

互聯網中心主義是一種新的技術樂觀主義

2020年，各地健康碼、國家政務服務平臺“防疫健康信息碼”的推出對于疫情的全面控制起到了重要作用。眾所周知，健康碼的推行不可避免地存在隱私泄露問題。在互聯網時代，疫情為數據的全面收集提供了合法性，但當危機過后我們還可以回到從前嗎？這個現象再次印證多數公眾頭腦中普遍擁有互聯網中心主義，這是一種盲目的技術樂觀主義。

自20世紀90年代以來隨著互聯網的崛起，經過幾十年快速發展，互聯網的功能得到了充分展現，由此在公眾中形成了一種“共識”：互聯網是萬能的，這就是最樸素的互聯網中心主義的含義。之所以把共識用引號標出，是因為人們對于互聯網的意義與功能在不同的認知框架下有不同的理解與判斷，但不論差異如何大，都共同認為互聯網是這個時代的標志。按照知名學者弗朗西斯·福山的話說：“由資本主義驅動的自由民主仍然是城里唯一的游戲，由資本主義驅動的互聯網也是如此。從邏輯上講，它是神賜予我們的寶貴禮物，人類絕不應該拋棄它或把它搞得一團糟。因此，盡管互聯網可能會顛覆一切，它自身絕不會被顛覆。它就待在這兒哪兒也不去，而我們最好惟其馬首是瞻。發現它的真性情，把它的特征當做金科玉律，汲取它的經驗教訓，相應地重新翻修我們的世界。”對于中華文化來講，經過一百八十年（從1840年算起）的被動現代化以來，從“師夷長技以制夷”到創新驅動發展戰略的實施，國民對于技術甚至科學的心態，歷來是樂觀的。從這個意義上說，中國人對于技術有著強烈的樂觀主義心態。2020年整個疫情期間基于互聯網的網購、直播越發火熱，各類社會熱點事件也經由互聯網實現了知情與共識，科、教、文、衛諸多社會關鍵領域更是借助于互聯網擺脫疫情危機實現了有效運轉。這一切都加深了互聯網中心主義在中國的落地生根。

互聯網中心主義在如火如荼擴張之際，也面臨一些困難與風險。首先，中國互聯網的樂觀主義仍然停留在表層，深層結構與互聯網并不契合，導致這種美好理念只開花不結果。比如最近幾年一直流行的“互聯網+”，到目前為止，成功案例并不是很多，這也再一次提醒我們，我們的基礎產業與整個社會的知識結構仍然無法與互聯網實現有效對接，目前的互聯網熱潮仍然處于表面層次。其次，互聯網的發展以及網民數量的大幅增加對于原有的社會治理模式與政治架構形成一種緊張與沖擊。社會治理的權力結構是垂直的，而以互聯網為代表的權力則是水平的，這就導致原有政治體系與以互聯網為代表的社群體系潛在地存在沖突。借助于互聯網倒逼治理體系的改革，這將是很痛苦的過程;加強對互聯網的監管，但是如果監管不得當無疑又增加了公眾與治理體系之間的矛盾。最后，互聯網無法完全實現啟蒙的目的。網民群體的知識結構普遍偏低，由于盲從效應的普遍存在，互聯網的價值大打折扣，從而無法助推公眾形成理性思考的習慣。

算法神器造就企業的新煉金術

伴隨著大數據、云計算與人工智能的興起，算法崇拜已經悄然走進尋常百姓的日常生活，不知不覺中已成為新時代的煉金術。我們無法準確說出是從哪一天開始的，人臉識別已成為生活的常態，也無從查找從哪一天起，商家和平臺利用我們的個人數據對我們實行定向推送甚至不惜采取殺熟策略。大體來說，利用數據賺錢有三個層次，最低級的是直接賣數據，這個模式在監管逐漸加強的今天，違規風險加大;中級就是對收集來的數據做結構化處理，然后賣給需要的客戶;高級的就是那些互聯網巨頭公司利用自有數據和技術為客戶提供特定數據服務。當下所有企業/平臺都在瘋狂收集個人信息，這一切的背后推手皆源于最近幾年算法的突飛猛進。算法之所以能在各領域暢通無阻，源于其標榜的客觀、中立、科學特性，更有無與倫比的經濟性，這些特性使其獲得一路綠燈的道德通行證。其實，算法是高度不透明的，沒人知道它內部的復雜程序是如何編寫的，普通人與社會之所以接受算法，源于算法具有更高的效率以及更低的成本。筆者曾將算法與公眾之間的矛盾歸納為三類，矛盾一：算法不透明VS個體越發透明;矛盾二：個體的道德敏感性低VS忽略算法小惡的累積（大概率殺熟）;矛盾三：個體追責成本高VS算法違規成本低。

算法神器的獲勝，除了開發商的大力推動之外，也與公眾的短視有關，輕易被算法的便捷性與經濟性俘獲，其實，這也是新技術獲得市場認同的標準步驟。一旦獲得市場普遍認同，然后技術的貪婪本性開始呈現，到那時任何個人或商家都無力扭轉，這已經是新技術的常規發展路徑。也許更為嚴重的是，通過對個體大數據的收集與挖掘，個人的隱私空間急劇縮小。目前算法已經向所有生活領域滲透，如用算法相親、下棋、招聘人才，甚至用算法預測并防止犯罪等，這些遠勝于人的表現，讓算法進一步獲得社會認同。歷史經驗一再告誡我們，技術的過度發展有可能帶來高昂但無形的成本，到最后處理它所帶來的成本，比其前期帶來的收益大得多。

目前算法神器正在各行各業突飛猛進地發展，治理算法違規的微觀路徑有兩條：其一，算法的設計者要具備充分的倫理知識與公共意識。畢竟算法的最初設計者對于算法的未來后果具有初始責任，遺憾的是，目前的程序員很少有這方面的知識和意識，導致從設計之初就處于倫理無意識狀態，而且目前程序員被賦予了過多的決策權，不會受到嚴格審查，這就導致算法的惡具有先天性。其二，激活個體的道德閾限，提升個體的道德敏感性。通常道德閾限低的地方，個體的道德敏感性較高，從而通過社會力量約束算法從業者的責任倫理（對行為的后果負有責任）。中觀路徑：整個社會要有一個開放的具有批判功能的公共領域，所有企業都將接受輿論的監督與審查，沒有任何企業具有豁免權。宏觀路徑：通過有針對性的政策、法規等制度安排，規范與算法相關企業的行為。

量化自我引發績效主義與加速社會的犬儒化

所謂量化自我（Quantified Self）原本是指一些技術愛好者基于數據崇拜心態，利用技術進行自我跟蹤測量（如傳感器、穿戴設備與手機等），追求關于自我的多維數據，以此實現自我的量化。隨著收集數據種類的增多，其最初的含義開始發生轉向，把量化與存在狀態捆綁在一起。一些人開始把自我存在感與可量化的數據結合起來，以此彰顯個人的價值與尊嚴。這種偏好迅速在精英階層擴散，并滲透到越來越廣闊的人群中，由此對自我的量化與激勵政策有了很好的契合點，激勵靶標的設計一定要與個體對于量化的需求相匹配。在現實生活中所有可以量化的指標都可以變為一種激勵靶標，以此衡量個體成功與否，如有多少存款、幾套房子等，在學術界則表現為量化指標：發表了幾篇頂級期刊論文、獲得什么級別的獎勵或“帽子”、以及有多少科研項目，不一而足，所有這些把量化與存在狀態進行捆綁的努力，都促成了績效主義的盛行。2020年9月，蘇州大膽推出“蘇城文明碼”，文明碼采用可以量化的積分制，這項舉措一推出，就遭到部分人的批評：道德可以量化嗎？誰有資格這么做？在這些質疑的聲浪中，這一做法被撤回。

績效主義帶來了規訓的革命性變化，以前的規訓都是由外部強加的，而當下的績效主義則是自我生成的。績效主義不但有效，而且還能讓個體產生一種自由的幻覺，在量化的無數次疊加中，所有的時間都變成了工作時間。在這種為了追求績效而使工作無限疊加的過程中，我們會產生一種倦怠感，這種飲鴆止渴式的追求績效之旅，不可避免地造成個體對于公共事務的冷淡與麻木，因為筋疲力盡的人再也沒有力氣逃脫自己給自己設定的牢籠，外在世界在快速消失，或者與我何干？這種局面注定會加劇犬儒化傾向，而互聯網時代的犬儒化會像病毒一樣快速擴散開來。

所謂犬儒主義，在英國學者提摩太·貝維斯看來，“現代或后現代的犬儒主義是一種憂郁的情境，它逃避世界、理性和政治，退守內心;它源自一種使客體文化負載過度價值的流行趨勢——崇拜當代性，而非蔑視當代性”。通俗地說，犬儒主義者就是一群活得相當精明的人，他們清醒而沉默，精于算計，基于自利原則，對于公共事務退避三舍。績效主義正在快速造就社會的犬儒化，一旦社會的犬儒化程度達到一個極限值，那么這個社會就徹底鎖定在退化的軌道上了，因為所有促進社會進步的批判意識與反抗精神都將被消解，這是數字化時代最為暗淡的未來。

為了消解科技本位主義可能帶來的消極影響，還是要回到人類認知鏈條的初始點，畢竟最終還是由人的認知/行為決定技術到底是向善還是向惡的方向發展。由此聯想到，這幾年全世界范圍內興起的負責任創新運動、把倫理嵌入技術的新科技倫理觀等，都是強調在技術的起點處開始規范技術的發展走向。最近兩年國家多部委聯合發布科技界破“四唯”“五唯”的通知，其初衷也是希望借此從制度層面消解量化自我的野蠻生長。由于現代科技的復雜性，僅靠科技從業者自身的努力顯然已經無法消解科學主義的野蠻擴張，從這個意義上說，我們應該把倫理檢視的范圍擴大，從最初的設計者向應用者以及公眾拓展，從而形成一種全方位約束算法神器以及企業煉金術的廣譜約束機制。

社會的進步是所有人共同努力的結果，單靠任何一方力量都是無法遏制這種新科學主義浪潮的，而且這種努力，有助于在全社會形成一種有批判精神的公共領域的形成，這也是我們長期缺乏的，在算法、機器學習高歌猛進的時代，在人工智能快速發展的當下，這事關所有人的尊嚴與未來。

（作者為上海交通大學科學史與科學文化研究院院長、教授、博導）

【注：本研究得到國家社科基金“基于心理內容表征路徑的信念修正模式研究”（編號：18BZX037）的資助】

【參考文獻】

①[白俄]葉夫根尼·莫羅佐夫著，張行舟、閭佳譯：《技術至死：數字化生存的陰暗面》，北京：電子工業出版社，2014年。

②[英]提摩太·貝維斯著、胡繼華譯：《犬儒主義與后現代性》，上海：上海世紀出版集團，2008年。

責編/趙橙涔? ? 美編/李祥峰