“作網自縛”：數字社會的倫理困境

人工智能隨著互聯網深入我們的日常生活，甚至我們時常有被大數據、推薦算法“包圍”的感覺。此外，人工智能也逐漸廣泛應用于科研、政務、法律、商業等社會領域。這些發展也引發了不少對人工智能的倫理與社會影響的討論，它們大多從現當代的倫理與政治關切出發，尤其關注人工智能是否對個人隱私和自由造成威脅，以及是否固化乃至加劇了社會不平等。這些問題固然重要，但是否是人工智能時代最核心的倫理困境呢？人工智能時代，人對美好生活的追求是不是還面對更根本的挑戰？我們作為當局者，要理解身處其中的時代，或許需要借助思想史來獲得清明的視野。

曾在美國天主教大學、深泉學院講授哲學與人文，也是加州大學圣地亞哥分校實踐倫理學研究院、喬治城大學法學院隱私與技術中心資深研究員的安東·巴爾巴- 凱（Antón Barba-Kay）的近著《作網自縛》（A Web o f OurOwn Making ：The Nature of DigitalFo rma t i on ， Cambr idg e Uni v e r s i t yPr e s s ， 2023，以下引此書，只標注頁碼）， 即是一本以思想史的縱深視野檢視當下人工智能時代的作品。該書標題“A Web of OurOwn Making” 可直譯為“自織羅網”，其中的“Web”一語雙關，既是指互聯網，又要傳達互聯網已成為束縛當代人的“羅網”。書的副標題是“數字形塑的本質”，突出了本書的主題：人工智能時代的互聯網，通過我們生活中無處不在的屏幕，構成了一個令我們無所遁形的籠罩性的信息環境，形塑了我們每個人的欲望機制、行為方式乃至衡量自身價值的尺度。人類不僅是“自織羅網”，而且是“作網自縛”。

作者首先要挑戰一種對互聯網的淺薄理解，即認為它僅僅是外在的、我們可以隨時輕易拿起放下的媒介工具。他指出，人類歷史上主要的媒介都并非簡簡單單外在于人的工具。“雖然媒介不會決定它所承載的內容，但每種媒介都帶有一種隱含的邏輯，它與某種特定的表達方式具有親和性，從而為我們如何表達定調。”（25 頁）吟游詩人需要持續地吸引聽眾，因此史詩中包含重復的程式、音樂節奏和引人入勝的英雄與傳奇；書寫文字則可以超脫語境，一方面使得歷史記錄成為可能，一方面則具有傳達永恒、抽象真理的潛力；印刷術意味著非常廣泛的讀者，與兩種具有普遍性的內容親和：訴諸普遍理性的科學論文與訴諸人類共有情感的小說；而互聯網終端電子產品的內容呈現與物理基礎的分離（屏幕中的圖像世界的極高自由度），數字服務的即時性、商業性，使得與數字互聯網最親和的內容就是為用戶當前乃至瞬時的欲望所定制的推送。

每一種媒介工具以及它與特定內容的親和會塑造特定的社會組織方式與人的生活方式。比如，書寫的記錄功能塑造了城市與帝國的行政，它“白紙黑字”的特點也意味著契約與權利的可能性（28 頁）。數字互聯網塑造的則是一個欲望被不斷激發、滿足、再激發、再滿足的“無摩擦”的生活方式。“無摩擦”是本書描述數字時代的關鍵詞，所謂無摩擦，就是指以互聯網為媒介，我們每個人意志的貫徹、欲望的滿足，既不受到物理條件的約束，也不受到“他人”的干擾。數字產品和互聯網產品的核心設計理念就是隨心所欲：一旦進入屏幕里的世界，我們的體驗就與物理世界隔絕，而屏幕里的世界以直覺好用為目標，甚至屏幕的邊緣都要做成不硌手的圓角，防止物理世界的棱角打斷屏幕世界中的“絲滑”體驗。

互聯網也幫我們屏蔽了會與我們“摩擦”的人，甚至使任何性情乃至怪癖都在虛擬的社區中如魚得水。在互聯網上，即使偶遇話不投機者，不過互相貼上標簽攻擊嘲諷一番，一旦不爽則可以“退出會話”。這是一個看似無限互聯、無限多樣、無限開闊的社會，但實質上我們在屏幕的黑鏡中只是照出我們自己欲望和意見的影子。與無摩擦的欲望滿足的生活方式相對應的是一個每個人都只看到“我”的自戀社會。在人工智能時代，蘋果的Siri、百度的小度、亞馬遜的Alexa這些有著可愛名字的虛擬人格，以最服從、溫和的方式像侍奉主人一樣滿足每一個用戶的各式需求。這些體驗不可避免會塑造我們對待生活與他人的態度：習慣了無摩擦的欲望滿足和千依百順的Alexa 的我們，如何還能堅持生活中道阻且長的追求，如何還能理解、尊重與我們不同的他人？在無摩擦的屏幕世界中我們才是最自如的，無怪乎我們總是忍不住點亮手邊的屏幕，仿佛那才是家的燈火，一天之中會無數次“解鎖”的是最溫馨舒適的“家頁面”（home page）。

至此我們可以理解書名的含義：互聯網是人類的發明，是人造的技術，但是我們自己編織出來的這張“網”， 也網住了、勒住了每個人。這張網不僅是我們的外在困境，它還接入了我們的神經，牽引我們的行為；長進了我們的靈魂，改變了我們的人性。因此作者稱其為“自然技術”（natural technology）：它收集、預測我們的欲望—“數據是靈魂的X光”（66 頁，作者引自Franklin Foer，World without Mind： The ExistentialThreat of Big Tech ， Penguin，2017，p.201），進而強化、塑造我們的欲望。因此，當它將我們“想看”“想搜”“想買”的東西推送到眼前，我們點擊時會感受到順理成章的自然感。它是“自然技術”，因為它改造了人的“自然”，也因為被改造的人在這一技術中得到“為所欲為”的滿意感，仿佛人的自然得到充分的滿足。自然技術就是“它們給我們它們讓我們覺得我們想要的”（66 頁）。

對西方思想史熟稔于心的作者當然知道，“自然技術”是一個頗為悖謬的表述，自然秩序與人為技藝的區分是古希臘哲學以來的基本區分。當然，技藝也被認為是對自然的模仿，現代技術理想的奠基人培根，也認為科學技術是通過發現自然運作的方式來模擬或介入自然的運作，在這個意義上征服自然從而改善人類生活。作者通過“自然技術”這一表述所要突出的是，數字互聯網技術從根本上改造（而非模仿）自然—人的自然（human nature），進而使得這一技術對于被改造過的人性來說是“自然而然”的，這是更為激進的“征服自然”的技術。

在思想史的一般敘事中，現代“自然”已經從古典的具有規范性的自然秩序與自然正當的生活方式“跌落”為人的激情與欲望。數字互聯網的“自然技術”通過“技術”改造人僅剩的一點可以觸及的“自然”，即自身之中的激情與欲望，可以說是技術對自然最后領地的征服。

作者分析數字互聯網對人類處境以及人性本身的影響可謂鞭辟入里，引導讀者更深入地思考時代與自身的處境。除此之外，他還給出了非常明確的規范性判斷和倫理建議。他捕捉到人們對屏幕中的虛擬世界之外的“現實”的隱秘渴望：屏幕世界是視覺的世界，而無法“虛擬”的味覺和觸覺所對應的食、色卻占據了互聯網內容的很大部分，可見對“現實”的渴望在數字互聯網時代也不得不以互聯網為載體得到表達。此外，頗為諷刺的是，互聯網用戶在各類社交平臺上討論、轉發對沉迷社交網絡的反思，各個平臺也“好心”提醒大家節制地使用社交平臺。卡爾·波蘭尼曾觀察到號稱“自然自由”的資本主義市場機制其實與人真正自然的生產、生活方式相齟齬，這一市場機制的擴張因此會受到抵抗，形成市場擴張與社會自我保護“雙向運動”的歷史現象。巴爾巴- 凱對“自然技術”其實有相似的批判，他認為“自然技術”終究不能滿足人對美好生活的追求，不過他描繪的是一個互聯網和電子終端侵入生活每個角落，而對它的微弱抵抗也被它所吸收的圖景：沒有“雙向運動”，只有深陷欲望陷阱和自戀旋渦中的“單向度的人”。因此，巴爾巴- 凱明確地呼吁：我們要停下，要對“自然技術”說“不”，要掙脫我們自己編織的這張深入靈魂的網。

相比于“自然技術”帶來的即時欲望的反復滿足，巴爾巴- 凱更認同長期的事業對人性的實現。對于個人來說，最長期的事業當然是古典倫理學中以一生為尺度對“人類幸福”的追求。巴爾巴- 凱感嘆“人類幸福的問題變成了‘健康科學’，依據的標準是問卷中報告的‘身體的健康’和‘滿足感’”。而“自然技術”帶來的“數字滿足”是對“瞬時偏好”的滿足，與所有需要長期投入的活動，比如學習一門語言、一項運動、一種藝術相斥。他評論道：“所有有價值的實踐都需要時間來訓練、掌握。”這又一次表述了柏拉圖所說的：“美好的事情都是艱難的。”“數字滿足”使人難以投入“有價值”的、“美好”的事業，卻使“最廉價的東西從未如此方便、可得、有趣”。

可以看到，數字互聯網的“自然技術”是對現代人性論所理解的人性的極致滿足：正是現代政治哲學、現代人性論的奠基人霍布斯顛覆了亞里士多德式“長期主義”的幸福理解，而將幸福重新定義為：“在獲取時時欲求的事物方面持續不斷的成功。”進而將“滿意生活”作為政治社會的根本目標。無怪乎認同古典心性的巴爾巴- 凱對于數字互聯網的“自然技術”深感憂慮。

人工智能時代的數字服務帶來欲望的膨脹、催生激進排外的社群，事實上，這些也歷來是現代政治哲學家致力解決的難題。正如巴爾巴- 凱所指出的，數字互聯網服務加劇這些問題的根源是其突出的商業性。互聯網“數字形塑”的目標由商業利益所決定：故步自封之人對特定服務、特定社群具有更強的“用戶黏性”。然而，人工智能與數字互聯網技術并非只能由商業公司所使用，“數字形塑”的方向或許還有其他的可能性。今天的數字信息環境顯著地缺乏公共性，因此補充公共性就是一個可能的改善路徑。不過，現代政治哲學對干預私人生活有深刻的戒懼，以至于人工智能技術所可能造成的對個人自由的減損是當下最常見的技術反思。巴爾巴- 凱的分析則揭示出，商業利益驅動的“數字形塑”所帶來的欲望陷阱、自戀旋渦、“單向度的人”才是今天對個人自由、對人之可能性最實際的減損。因此，“社會”通過數字互聯網進行一定程度的“廣播”，構建具有一定公共性的信息環境實有必要。

此外，無論是古代的柏拉圖、亞里士多德，還是現代的洛克、盧梭，無不認為良善的社會秩序需要公民教育作為支撐。他們無疑都會羨慕今天的“靈魂的X 光”技術，它帶來的診斷可以幫助制定因材施教的教育方案。一個寬容平和的社會固然不需要通過互聯網的媒介“形塑”千篇一律的靈魂，但是通過這一媒介將值得尊重的不同見解推送給固執己見者，將更廣闊的世界展現給沉迷于虛擬世界的少年、陷溺于消費主義的青年，展開合理的公民教育，或可將人從欲望的必然性和狹隘視野的束縛中解放出來，引導人探尋真正的自由生活的可能性。人工智能與數字互聯網技術為一種因材施教的公民教育提供了條件，不僅可能由此克服數字社會“作網自縛”的倫理困境，甚至為解決現代政治哲學所擔憂的人性與社會難題提供一種新的可能性。