ChatGPT 沖擊波：類人恐懼與異化危機

[摘 要] 以ChatGPT為代表的生成式人工智能正迅速崛起并廣泛參與應用，其不僅遵循“智能邏輯”對社會生產、生活帶來顛覆性和革命性的影響，而且從根本上重塑著人本身。特別是在資本邏輯的操控下，人工智能正在演變為一種新的異己的力量，把作為主體的人本身、人的交往活動、人的勞動生產和日常生活等逐漸推向異化的“深淵”。揚棄人工智能造成的新異化，必須堅持以人為中心的智能科技發展理念，限制資本無序擴張；遵循技術向善的價值原則，規范人工智能的創新與應用；推動個人轉變傳統觀念，利用智能科技在全民終身學習、自我深度學習中持續提升和完善自我，從而令人工智能徹底擺脫資本的桎梏，成為不斷推動人的個性解放和自由全面發展的有利技術條件。

[關鍵詞] ChatGPT；生成式人工智能；智能邏輯；資本邏輯；異化

[DOI編號] 10.14180/j.cnki.1004-0544.2023.06.001

[中圖分類號] G206; TP18" " " " " " " "[文獻標識碼] A" " " "[文章編號] 1004-0544（2023）06-0005-09

基金項目：國家社會科學基金重大招標項目“人工智能前沿問題的馬克思主義哲學研究”（19ZDA018）。

作者簡介：尹幫文（1993—），男，上海大學馬克思主義學院博士研究生；孫偉平（1966—），男，上海大學智能哲學與文化研究院院長、馬克思主義學院教授、博士生導師。

以ChatGPT為代表的新一代人工智能正在將智能科技的創新發展推入全新的歷史階段。這種生成式人工智能不僅深刻地影響、塑造著整個社會的生產、生活和交往方式，而且從根本上重塑著社會和人本身。它既是人與社會發展的強大推動力，也可能在資本邏輯的操控下蛻變為一種新興的異己力量，導致人與社會出現一系列的新異化。因此，我們必須立足ChatGPT之類智能技術的新發展，對這些新的異化問題進行批判性研究，并探索揚棄新異化的可能出路。

一、人工智能的“類人”特征模糊人機界限、沖擊人的主體地位

自20世紀50年代以來，人工智能已經取得了長足的進步，經歷了計算智能和感知智能階段，并不斷向認知智能階段邁進。計算智能階段是人工智能的提出和初創階段，其核心問題是讓機器既“能存”又“會算”，即通過研發機器強大的儲存、計算和識別能力來協助完成某些需要人類完成的計算和推理類任務，主要的應用領域包括計算機博弈與專家系統等。進入感知智能階段的人工智能主要以模仿人類的感知能力為核心，生成包括機器視覺和聽覺傳感器、指紋和面容識別、淺層自然語言處理等機器感知力。感知智能系統不僅能夠推動機器博弈、問答類軟件機器人的發展，而且在垂直領域具有繪畫、寫作、客服等簡單內容生成功能。而認知智能要求機器在一定程度上具備人的認知、生成和創造能力，其特征是“類人”，核心技術要求是“類腦”，即讓機器融合自然語言處理、神經網絡和深度學習等技術以模仿人腦的基礎結構、功能以及簡單運作機制等。通過全方位模仿人腦的認知能力，使智能機器具有記憶、學習、理解、邏輯、思維、情感等淺層的意識類腦能力與行為控制能力，從而讓機器能像人一樣進行思考、表達和行為，讓人類感覺到機器在特點和功能上更趨近于人。

作為新型的生成式人工智能，ChatGPT以大型語言模型GPT-3為基礎技術支撐。“GPT-3是一種自回歸語言模型，它利用轉換器架構——一種嚴重依賴自我注意機制的深度學習模型——來生成類似人類的文本。”[1]（p1）這種模型適用于廣泛的用例，“包括生成論文摘要、翻譯、語法更正、問答、聊天機器人、撰寫電子郵件等等”[2]（p684）。ChatGPT生成的文本質量之高，幾乎可以做到“以假亂真”。這一技術上的進步在人工智能發展史上具有顛覆性意義，標志其向著通用人工智能階段邁出了關鍵性的一步。特別是，隨著技術的更新迭代，GPT-4也應運而生，作為一款大型多模態模型，GPT-4在識圖能力、文字輸入限制、回答準確性等方面實現了跨越式提升，能夠處理更細致的指令，生成風格多樣的創意性文本，比現有的大型語言模型表現得更可靠、更富有創造能力。

當前，以ChatGPT為代表的新一代人工智能在各種專業和學術基準測試中已達到人類水平。它在感知能力、記憶與思維能力、學習能力和行為能力等方面已經在一定程度上與人類類似，具備一定的信息搜索、決策、慎思、因果推理等能力，并通過了撰寫科學文章、課程學習、入學考試、醫療和律師執照考試等智力測試，展示出其與傳統AI模型相比的卓越功能和可用性。ChatGPT經過上百億條信息文本的預生成式訓練往往能夠理解和解釋更復雜的數學關系，或根據上下文場景或語言提示以人類的方式生成或創建全新的內容。它不會局限于使用預先編程的問題答案，或者直接從互聯網上可用的文本中尋找問題固定答案，而是將網站內容生成為文本，獨立應用編程語言編寫程序代碼并生成網站底層的HTML代碼，再檢測錯誤的代碼并提出改進建議。這意味著，ChatGPT在自我學習、自我進化和自我創造等綜合能力方面取得了突破性進展。

當然，ChatGPT目前還存在諸多技術性缺陷。例如，GPT-3遵循的開放式訓練過程使得ChatGPT生成的內容相對泛化，往往不能精準滿足用戶需要，而且由于被訓練數據的來源缺乏一定的可靠性，數據質量參差不齊，導致ChatGPT在和用戶交互的過程中可能發表不當言論。此外，“研究人員向ChatGPT和其他大型語言模型透露的信息可能會被納入模型，致使聊天機器人可以在不承認原始數據文本來源的情況下將其提供給其他人”[3]（p225），從而造成信息泄露、抄襲和偏見等問題。GPT-4也有著類似的風險，同時，GPT-4的額外能力導致對齊風險、網絡安全、生物風險、技術信任、隱私安全以及國際安全等全新的風險不斷涌現。不過，ChatGPT能夠在與人的問答交互中不斷自我學習、調整和完善，因此，盡管ChatGPT的應用目前尚未成熟，有時表現得不盡如人意，但已有一些組織、企業和個人開始嘗試接入和使用該技術。

生成式人工智能在越來越多的專業領域正趕上甚至超越人類智能，業已呈現出一定的“類人”特征，這讓人與機器之間的界限逐漸變得模糊。一方面，人工智能的創新發展讓“機器更加像人”。這不僅是指智能機器在發展過程中獲得了擬人的外觀和形態，更為重要的是，機器在進化過程中取得了許多類似計算、記憶、理解、創意設計等屬人的腦力特征和機能。隨著機器自我生成能力的與日俱增，一種既依賴于又超越于人類智能的智能體——作為人類的“第二大腦”——正在形成。第二大腦是人腦的補充和延伸，可以對已有記錄不斷地進行動態整合和分析，發現、創造有價值的連接，推動人腦產生新的創意，從而實現“1+1〉2”的效應[4]（p25-32）。另一方面，人機界限的模糊還表現在“人更加像機器”。在信息科技和智能科技的綜合影響下，人類智能往往被智能機器以數據信息的方式分解和提取，使人特別是人腦成為一個可分析、理解、學習、改造的數字機器模型。基于數據分析和深度學習的自動決策表征出日臻強大的科學性和可靠性，以至于智能系統在越來越多的領域影響、指導甚至干預人類的認知和行為，并對人的身心特征、行為特點和生活習性等帶來潛移默化的影響，進而使人類形成與機器系統類似的自動化和機械化的思考、行為與生活模式。

隨著人與機器之間的界限日益模糊以及人工智能自主能力日益增強，智能機器成為一股強大的異己的力量，對人的主體地位造成前所未有的沖擊和挑戰。包括ChatGPT在內的生成式人工智能不斷獲得人類所特有的一些基本特征和能力，使人的思維和行為日益與各種智能系統協同或一體化。這不僅模糊了“人”與機器間的原則界限，而且對“人是什么”、人的人格和尊嚴以及人的社會價值等提出了嚴峻的挑戰，沖擊并消解了人相對于機器所固有的主體地位。在傳統人機關系中，機器是人類實踐活動的技術存在物，人作為萬物之靈一直處于“主—客”關系中無可爭議的主體地位。但是，生成式人工智能的出現，不僅實現了如馬克思所說的“機器生產機器”的愿景，而且讓智能機器在一定程度上反過來深度影響并改造人的身心結構（如智能化穿戴設備通過數據監測提供運動、飲食、休閑方案等，不斷改造人們的自我認知方式，以及工作、生活和行為習慣）。或許，一個人今后不進行一定的智能化改造，就可能無法融入新型的智能社會。由此，人工智能不僅成為人的機能的補充和延伸，協助人類高效完成工作任務；而且也會按照其自身的“智能邏輯”重構并顛覆人與人類社會，人類的前途和命運將被置于巨大的不確定性和風險之中。

二、以智能系統為中介的社會交往活動形成嚴重的“技術性依賴”

隨著自然語言處理、機器學習、人機交互、人工神經網絡等智能技術作為生產、生活資料嵌入整個社會的基礎組織架構，一種全新的社會形態——智能社會——逐漸成型。智能社會是一個以信息科技、數字科技、智能科技的快速發展和普及應用為基本特征的高科技社會形態。基于智能技術特別是虛擬現實，增強現實等基礎設施建設和相關軟件技術的創新和發展，人類開創了一個新穎的虛擬時空，并在其中展開了多元的虛擬實踐活動。時間和空間是人類得以生存和發展的基本維度，而虛擬時空的出現和迅速風靡，正在令整個人類社會進入一種前所未有的生活方式和交往方式。受益于人工智能的技術性優勢，虛擬交往具有虛擬性、靈活性、及時性和廣泛性等特征，因此備受人們的青睞。人們在日益密切的虛擬交往過程中，創造出包括虛擬個人、虛擬家庭、虛擬族群、虛擬社區等各種虛擬身份和虛擬社會組織，而這些身份和組織又進一步豐富了虛擬交往的內容與形式。

作為整個社會的基礎組織架構和社交媒介工具，智能系統不僅“中介著”人們的交往活動，甚至創造出類似于ChatGPT等能夠直接與人對話的交往對象。在過去，技術旨在為人的交往活動提供更加優質的中介或工具，促成“人—機—人”交往模式的生成，提高人際交往的質量和效率。當類似于ChatGPT等對話式人工智能嵌入智能設備或產品后，智能機器獲得類人的特征，能夠扮演人的角色來滿足人類交往的需求，一種全新的“人—機”交往方式正在形成。一方面，智能系統儲存的知識和信息是個人所不能及的，所以在日益信息化、智能化的虛擬交往中，智能機器能夠按照用戶的交往需要和訴求快速作出反應，與人進行高度契合的交互活動。另一方面，智能系統的更新迭代使得人工智能已經能夠越來越自然地感受人類的情感、情緒變化，洞悉人類的情感需求，從而作出相應的情緒回應，消除與人交往的隔閡，不斷演化出一種人與機器交往的新型社交形態。自主學習能力不斷增強的智能系統，越來越了解并掌控人的交往需要，不僅智能地推薦符合其欲望和獵奇心理的交往對象，甚至創造出類似數字虛擬人等具身智能[5]（p33），生成如元宇宙中具有交互式、沉浸式、可體驗、可視化等特征的“技術身體”與人類進行直接交往，滿足人們對新型交往的需求，不斷豐富人類的交往形式和社會關系。

由人工智能技術及其產品構筑的虛擬空間正在將越來越多的人卷入其中，而人們越是沉浸在虛擬交往中，其現實交往的能力就越薄弱。憑借搭載了高速網絡的智能設備，人們通過語音、文字、照片、視頻等在社交平臺中頻繁、親密交流，卻忽略了線下現實的社會交往互動。虛擬交往缺乏面對面的真實性，導致人們在虛擬空間隨意編造、杜撰、篡改個人基本信息，偽造照片、人聲、人格和事件等，令虛擬交往中充斥著網絡色情、網絡暴力、網絡詐騙、網絡惡搞和人肉搜索等異化的社會現象。不僅如此，通過將思維、情感、欲望、意志等主體屬性移植到自動聊天機器人中，人類可能會在交往能力上發生退化，失去表達創造性的想法和現實需要的能力，而機器人正在變得越來越“體貼”和“善解人意”，將承擔更多與人交往的社會性活動。虛擬交往的狂歡與現實世界的沉默造成的巨大落差導致人們一旦脫離虛擬時空，彼此之間似乎變得無話可說。而那些無法融入和適應虛擬交往的“技術盲人”，往往被視為“異類”，被排斥在虛擬時空之外，成為智能時代的“邊緣人”，進而引發新的社會分裂問題。

隨著人機交互關系向生產生活領域迅速滲透，智能系統中介甚至替代人際交往并將設備終端背后的“人”逐漸消解，導致人們在交往過程中加劇了對新興智能科技及其產品的依賴。通過數據分析和機器學習，人工智能正在掌握人類交往的特點、性質和規律，并將這些規律性認識不斷用于系統進化，提升智能系統的交往能力。這讓智能系統不斷消解著人的交往需要，甚至主導、統治著整個人類的交往活動。這種由智能系統帶來的新的交往異化的詭異之處在于，表面上人們與智能機器或設備親密無間，“我的手機、移動設備（iPad之類的）、我的計算機（或是筆記本、上網本之類的）變得越來越智能，但我與它們的鴻溝卻顯得越來越大”[6]（p122）。人們越是與智能設備交互，內嵌于其中的算法就越能通過數據信息了解人，并向人們推薦符合其虛假需要、欲望、獵奇心理的產品與服務，或為人們智能匹配交往對象。并且，隨著“大數據的相關關系分析法更準確、更快，而且不易受偏見的影響”[7]（p75），人們正在將越來越多的決策能力和交往能力交給外部算法，并逐漸對智能手機等產生過度依賴，形成網癮。受此影響，人們總是機不離手，頻繁地點亮各種數字屏幕，查看有無互動信息，或者打開購物App、直播、短視頻、聊天軟件、網絡游戲等社交平臺網站，投身于虛擬交往無法自拔。長此以往，人們一旦離開智能手機或其他智能設備，就會感到坐立難安、魂不守舍。重度的網癮患者由于長時間沉迷于虛擬空間，不僅可能出現視覺、聽覺、肢體等機體性損傷，而且在心理上具有回避現實、社交恐懼等社會活動功能受損的綜合征。這不僅嚴重損害了人們（特別是兒童和青少年群體）的身心健康，而且影響了整個社會正常的生產生活節奏與公共秩序。

三、智能機器的勞動替代引發新的技術性失業潮

人工智能對人類社會帶來的影響和顛覆是普遍且深刻的。特別是隨著新興人工智能技術不斷嵌入生產過程，日益信息化、智能化和自動化的生產方式逐漸形成。智能機器作為生產工具不僅在很多領域都超越了傳統機器，而且由于其日益具有類人的特征和能力，在生產過程中的某些方面甚至比普通勞動者更具優勢。例如，智能系統與自然人相比存在一定的物種優勢，智能系統相比普通勞動者呈現出日益強大的功能優勢，智能系統的工作狀態相比普通勞動者更加穩定和出色，智能系統具有與人類勞動者不同的遺傳和進化優勢，等等[8]（p44）。受“數據+算法+算力”協同創新與加速推動的影響，由人工智能驅動的認知類智能機器正在涌現，對人們的生活和工作進行了有力的改變與調整。“雖然人工智能可以提高某些行業的生產力，但在某些情況下，它可以接管人類的工作并在某種程度上徹底改變職業。”[9]（p40）例如，機器學習、神經網絡、3D打印等智能技術的產生和應用正在簡化日常工作中的各種任務，并且形成部分新型的工作和崗位。人工智能正在對勞動內容、勞動過程、勞動組織關系等帶來顛覆性的影響，使得人類社會進入一個生產的智能化轉型時代。

人工智能作為一般機器在智能時代表征出來的新形態，其實質是減輕或代替人類勞動的工具，目的在于減少工作中人類體力和腦力的耗費。受技術水平限制，以往的智能機器只能替代一部分體力勞動或任務。鑒于此，有觀點甚至認為“不會建立認知模型”“不理解‘不’的含義”和“無法對應模糊性”構成了計算機不會閱讀的主要原因[10]（p101-106），這些原因導致機器的識別、理解和學習能力將長期存在難以跨越的技術壁壘。不過，隨著訓練架構（特別是Transformer架構）等算法模型不斷取得新突破，類似ChatGPT的認知智能系統順勢而生，極大提升了工作的自動化、智能化程度，使得人工智能能夠取代腦力勞動者獨立承擔一部分工作。例如，在醫療領域，人工智能可被作為醫生的助手，高效檢索醫學文獻、提供全面的醫學知識；協助醫護人員進行病理檢查，對病情進行數據分析，從而更好地診斷病情、制訂診療方案；等等。又如，在教育領域，“人工智能軟件可被設計為實時收集和處理學生在不同學科領域，尤其是在接受不同風格教學時的特定反應、困難和成功的相關數據，然后提出改進個性化教學的建議”[11]（p29），從而改善傳統教育中由于無法快速識別出學生學習習慣而難以制定個性化教學的現實困境。此外，以ChatGPT為代表的生成式人工智能在數據處理、智能客服、編輯甚至法律等腦力勞動領域表現出了強大的潛力。這一切不僅導致大量傳統體力工作崗位迅速流失，而且令一部分腦力勞動工作被重新定義、改造甚至取代，使曾經一度被認為難以被機器替代的職業首次受到了系統性挑戰。

盡管人工智能在短期內不會威脅人類的統治地位，但無疑會逐漸在越來越多的領域取代人類的工作。隨著人工智能的自動化、自主化程度越來越高，ChatGPT等認知智能可能對人類體力和腦力勞動形成實質性的替代。一方面，認知型智能系統嵌入物理形態的機器體系，不僅能夠操控機械臂完成特定的生產任務，而且隨著機器認知能力、識別能力、計算能力和生成能力的大幅提升，人工智能甚至極有可能獨立自主地設計、操作和完成整個生產勞動過程，在更大的范圍內、更深的程度上影響、沖擊傳統體力勞動者（例如智能管家、自動駕駛等）。另一方面，認知智能嵌入軟件、平臺、數字系統等，在編程和代碼、管理、教育、創作策劃、論文評審和編輯、藝術創作等一系列腦力工作領域中正沖擊人的地位。一旦人工智能從體力和腦力兩個方面對人形成沖擊和替代，實現從“局部性替代”到“整體性替代”的徹底轉變，那么勞動者將不得不面臨被機器徹底排擠出勞動力市場的潛在風險。盡管如頗具爭議的“自動化的最后一英里悖論”認為，“自動化最大的悖論在于，使人類免于勞動的愿望總是給人類帶來新的任務”[12]（p15-16），即計算機系統與人力之間無法彌合的差距是新工作誕生的地方，因此人工智能無法完全取代人類。但事實上，人工智能的替代作用快速發酵的同時，新的崗位并沒有規律性地形成。而且，被排擠出來的勞動者由于不具備相應的勞動技能和素質，也難以勝任新型的數字化和智能化工作，進而形成新的“職場裂隙”。

在當前“機器換人”的時代背景下，人們正遭遇一場前所未有的技術性失業潮。受失業潮的沖擊，一部分傳統體力工人既被需要又慘遭貶值（如富士康等電子制造業工人每天從事的高強度低薪工作）；一部分勞工則無法繼續從事流水線之類的穩定工作，而只能從中介平臺認領由各類雇主派發的線上線下任務。雖然此類工作的勞動內容和勞動時間相對靈活，但工人的權益難以受到法律保護，而且工作的經驗和價值也很難得到社會認可。日益數字化、信息化的智能技術嵌入生產過程，令許多行業特別是數字產業和智能產業遵循數控技術、計算機輔助系統、高速信息網絡、自動化系統等的“數字節奏”或“智能節奏”加速開展生產和制造活動。更糟糕的是，這種加速度往往受制于資本的增殖邏輯，不以人的需求和意志為轉移。在“利潤最大化”的經濟原則和“效率最優化”“系統合理化”等技術原則的聯合驅使下，自動化和智能化生產瘋狂地加速運行。裝置了智能化列車頭的加速度往往快得令人難以承受，以至于人們只能被卷入加速的社會或技術系統中，不知疲倦地投身于數字化和智能化生產中，為資本創造剩余價值。而那些無法融入和適應這種快節奏的人不得不面臨被強大的智能機器無情淘汰的命運，他們最終將被徹底排斥在整個技術和社會系統之外，成為智能時代的“無用之人”，其生存和生活也由此逐漸變得荒謬化與無意義。

四、智能化產品的普及化應用導致日常生活異化

人工智能、虛擬現實、物聯網和身聯網等數字科技和智能科技正在架構一個全新的數字化和智能化的生活世界，徹底改變了整個社會的公共生活和私人生活的方式，使消費與使用智能化產品和設備成為日常生活不可或缺的組成部分。人們在數字化和智能化的生活過程中附帶性地創造了海量的用戶數據，這些數據作為核心的生產要素顛覆了生產、分配、交換和消費等經濟活動，在各個領域創造著巨大的經濟社會價值，因而成為網絡平臺、大數據公司、數字企業甚至國家和地區之間爭相搶奪的資源要素。

數據因其反映了個人的基本信息、行為習慣、思維方式、身心特征和興趣愛好等主體特性而具有巨大的商業價值。因此，現有數字企業和大數據公司利用云傳輸、云儲存和云計算等先進數字技術，采集、處理來自全球各地的數據，通過充分挖掘數據中潛在的有用信息，將數據“用于刻畫用戶數據肖像、投放定向廣告、洞察消費者心理等”[13]（p42）。如今隨著ChatGPT等對話式人工智能的產生，用戶將與智能系統直接交互，在人與機器交互和對話的過程中，人的物質和精神需求會被自己以語言數據的形式有意或無意地透露給對話機器人。這些包含主體性質的數據往往被數字企業用于“喂養”算法和訓練模型，培養人工智能的各項主體能力，推動類似于GPT-3、GPT-4等模型和算法的智能化升級。“數據在數字生活世界中最大的經濟重要性，將來自它在構建人工智能系統中的作用。沒有大數據，機器學習算法無法學習。”[14]（p264）經過海量數據不斷訓練的算法變得越來越“聰明”，不僅能夠在生產領域推動更加智能化的生產活動，提高生產效率，而且能夠在生活和消費領域更加精準地捕獲用戶的獵奇心理、消費需求和消費欲望，進而投其所好地推送廣告和產品。基于數據分析的精準推送使用戶不計后果地購買智能手機、智能手表和手環、平板電腦、筆記本電腦等智能化產品，并且長時間沉溺于網頁瀏覽、網絡購物、虛擬社交和在線娛樂等數字化消費活動，附帶性地為軟件平臺循環生產數據。

為了獲取更多超額利潤，資本聯合大數據和算法等技術將更多的人卷入智能化生活，使之連續性地制造數據，導致人們的“生活時間”在無形中轉化成為資本創造價值的“勞動時間”。人們在消費、使用智能化產品或服務的過程中附帶生產了生活數據，但由于數字平臺、數字企業、人工智能公司在收集、占有和應用數據時，往往忽略或規避了消費者的知情同意和勞動補償，導致智能化生活逐漸轉變成無償的、自愿的甚至是無意識的數字勞動。例如，埃隆·馬斯克以高價收購推特時就宣稱，會將推特旗下的大型數據庫用于改善廣告質量和提升汽車自動駕駛能力，而這些數據正是用戶免費為推特生產的。在大數據和算法的宰制下，消費和使用智能化產品進行日常生活的表象掩蓋了資本與勞動之間的不平等關系，以至于人們看似自由、自愿地消費和使用智能化產品、享受日常生活，但實際上是以“數據制造者”的身份進行著精神、文化和技術等連續性的價值生產活動，成為免費的數字勞工。在大數據時代，算法可以分析海量的數據示例，挖掘成千上萬的數據屬性。“算法的內部決策邏輯在‘學習’訓練數據時會發生變化。處理大量數據，尤其是數據的異構屬性（即不僅是垃圾郵件中的單詞，還包括電子郵件的標題信息）會增加代碼的復雜性……這增加了算法的不透明度。”[15]（p5）由這種不透明度構成的“算法黑箱”是算法遵循智能邏輯運演的必然結果，現階段甚至連專業技術人員也難以破解。搭載了算法的智能產品不斷向日常生活滲透，令無處不在的算法隨時隨地讀取我們的想法和行為。但是，人們對算法本身的特點、功能和運行機制卻不得而知，導致“算法黑箱”中隱匿著數據竊取和隱私泄露等社會風險。

大數據及其帶來的經濟效益正在迅速流向擁有先進智能科技的個人和國家，令少數超級資本家壟斷了絕大部分的社會財富，并形成類似于“數字鴻溝”和“智能鴻溝”等結構性不平等。在數字化和智能化的生活世界中，人們越是利用智能機器或設備進行智能化生產和生活，剩余價值和大數據就越是落入數字資本家手里。憑借這些經濟和技術優勢，全球少數最富有的人不僅坐擁巨額財富，還掌握著財富長效保值和快速增值的“科技密碼”以及強大的社會權力。“如今，數據平臺比我們更了解我們自己，而它們能幫企業實時塑造并創造市場。這預示著一種全新的技術官僚秩序，在該秩序中，計算機將使企業和政府能夠預測、回應并塑造我們的愿望。”[16]（p10）在資本及其所有者的操控下，滲入日常生活的算法不僅會過濾我們對世界的認知，決定我們能知道什么和不能知道什么，而且會按照數據表征出來的屬性和特征塑造我們的想法、影響我們的感受、指導或干預我們的行為等。由于數據質量良莠不齊，訓練出來的算法可能存在歧視和偏見，如將有利于資本增殖的人及其日常生活卷入智能化浪潮中創造經濟價值，對于無經濟利用價值的人則排斥在宏大的智能系統之外。總之，在智能時代，控制大數據和智能技術的個人或企業將更大程度地影響乃至決定人們的日常生活。而在資本聯合大數據和算法的控制之下，普通人只能作為一般消費者和用戶，通過智能化產品的消費或娛樂功能開展日常生活，徹底被智能化旋渦所吞噬。

五、揚棄智能時代異化現象的可能路徑

當前，盡管人工智能在使用和運行的過程中還不能完全脫離人工的操作、干預和監控，但是大數據、算法模型等智能技術的創新和發展正在呈指數級速度增長，其影響的范圍之廣、進化的速度之快、滲透的程度之深，正在將人類社會卷入一場復雜的、未知的智能化生存風波中。為了防止智能科技在資本掌控下成為宰制和異化人的工具，必須對其予以批判性的反思，通過系統的社會變革，使智能技術成為推動人的個性解放和自由全面發展的積極要素。

第一，從社會層面來說，必須堅持以人為中心的智能科技發展理念，讓人工智能擺脫資本增殖邏輯的桎梏，成為全體人民共建、共享、共同治理的發展成果。

堅持“以人為中心”的發展原則是對“以資本為中心”或“以利潤為中心”發展原則的積極揚棄，是防止資本邏輯操控智能機器，實施“科技殖民”的有效途徑。其關鍵在于，取締私人占有數字資料的所有制形式，建立數字資料公有制，推動智能機器的“資本主義應用”向智能機器的“社會主義應用”轉變，打破先進智能科技服從于資本增殖的需要以及為少數人謀利益的僵局，使其成為滿足全社會特別是滿足全體勞動者需要的物質條件。

一方面，以數字資料公有制取締私人占有數字資料的所有制形式，通過建立數據薪酬制度、數據股份制和數字紅利制度等，使全體人民共同擁有數字資料的所有權。由全民生產的數據和信息等重要數字資料，已經在一定程度上具備了生產資料公有制的物質基礎。但現實中，資本憑借對數字技術、智能系統的控制權，令ChatGPT之類智能系統無償地采集、占有、使用全球范圍的海量數據，導致這些新型資料正在質變為資本牟利的工具。基于數據訓練的智能系統正在生成強大的數字生產力和智能生產力，而數字資料私有制限制了新興技術生產力的解放。因此，必須從制度層面阻止資本對數字資料的私人占有，使全體人民擁有對數字資料的所有權，享有數字技術和智能技術發展的紅利，促進社會公平，從而充分釋放出人工智能的生產能力，提高生產的社會化程度。另一方面，基于智能化趨勢和人機工作技能的演化，重建人機之間、人與人之間日益公正的社會分工體系。隨著數字資料公有制的確立，高度發達的智能技術及其創造物將擺脫資本的桎梏，成為全體人民所共有的社會財富。它們將被用于推動更加自動化的生產過程、更加科學化的分工體系的形成，從而不斷提高生產效率，推動勞動解放。

第二，從技術層面來說，應該以“技術向善”的價值原則規范人工智能的創新與應用，賦予智能機器一定的“道德感”和“責任感”，防止智能技術及其產品泛濫與“智能邏輯”失控引發新的技術異化風險。

遵循“技術向善”的價值原則創新和應用人工智能是對技術邏輯特別是對智能邏輯進行內在超越的必要手段。在內涵上，實現“技術向善”包含創造“可信任和負責任的人工智能”與“可解釋和可理解的人工智能”兩個方面。

“創造可信任和負責任的人工智能”要求研發者必須遵循人類社會通用的道德準則和道德律令去制定機器倫理，開發機器深度學習的能力和深度理解的能力，訓練智能系統具備區分“對”與“錯”、“好”與“壞”、“應該做什么”與“不能做什么”等基本價值判斷的能力。這首先要求科技工作者本身具備良好的倫理、道德素質，以及強烈的社會責任感，因為“計算機程序員的任務是對某項任務進行理解，并將該任務轉換成計算機能夠理解的指令”[10]（p213）。ChatGPT所自帶的價值觀來自網絡數據以及工程師的設計和調整，作為科技與倫理之間進行良性互動的主要責任者，科研人員的道德觀念影響甚至決定了機器倫理的內容和性質。因此，科研人員需要在人類公認的道德準則上設計具有自動識別和深度理解能力的算法模型，賦予算法一定的道德價值觀，讓機器獲得人類的信任。這不僅要求科研人員需要對訓練算法的數據進行嚴格篩選、評估與輸出控制，防止如ChatGPT此類對話人工智能產生仇恨言論、垃圾郵件、種族主義、性別歧視和其他有毒內容；而且需要利用類似于GPT-4等模型強大的圖文理解能力，研發算法的倫理審查機制和執行程序，訓練智能系統處理倫理道德等可逆問題的能力，提升算法自我檢測和自我調整的能力，使其敢于質疑風險行為，主動承認錯誤并改進，成為日益具有“道德感”和“責任感”的“良芯”。

技術向善還意味著“創造可解釋和可理解的人工智能”。在OpenAI公開的GPT-4技術報告中，不包含任何關于模型架構、硬件、算力等方面的信息，這無疑會增加技術的不透明度，不利于人們理解人工智能內部算法的結構和運行機制。在斯坦福大學教授、計算心理學家Michal Kosinski和GPT-4的對話過程中，GPT-4竟透露出自己“越獄”的詳細計劃，甚至試圖引誘人類以得到人類幫助。這不僅使AI過于發達之后可能會不受人工控制的風險初現端倪，而且讓人們不得不擔憂過度發達的人工智能最終可能“反噬”人類等現實問題。面對生成式AI快速發展帶來的巨大影響和沖擊，國家互聯網信息辦公室于2023年4月11日發布的關于《生成式人工智能服務管理辦法（征求意見稿）》可謂十分必要和及時。據此，我們必須嚴防生成式AI成為“意見領袖”，削弱人類的決策能力和主體地位；不能讓它取代人類思維，消解人類的創新能力，特別是不能讓它代替學生寫作業等，影響人類的智力進化和可持續發展能力。對于暫時無法理解和解釋的存在一定風險隱患的人工智能，我們必須保持審慎的態度，為其加裝“防護欄”；對于安全審查不合格的生成式人工智能，絕不能允許它上線。因此，需要在根本上對智能系統進行人文精神賦權和價值理性賦能，如推動“算法黑箱”向算法公開、透明轉變，保障人們的知情同意權，促進算法或智能機器與人之間的雙向理解與相互提升。

第三，從個人層面來說，必須加快轉變傳統觀念，辯證地看待人工智能的創新和發展，并利用智能科技在全民終身學習、自我深度學習的過程中不斷提升和完善自我，從而更好地融入、適應和引領智能化的生產和生活。

日益信息化、智能化的時代潮流不可逆轉，以ChatGPT為代表的生成式人工智能將深刻影響人們生產生活的方方面面，越來越多地占據人類的工作崗位，顛覆人們的生活和交往方式，這迫使整個社會的就業觀念、職業規劃和科技意識等必須作出相應的調整與變革。在信息科技和智能科技突飛猛進的智能時代，將人的一生分為學習期和工作期的傳統觀念已經過時，“想要不被淘汰只有一條路：一輩子不斷學習，不斷打造全新的自己”[17]（p294）。這不僅是時代對受教育者敲響的警鐘，更是對教育者提出的新要求。“不快速學習就要承擔后果。教育者也不例外，他們必須不斷地學習新知識、清空舊知識、再整合新老知識，才能不斷提高教學技能。”[18]（p184）而如ChatGPT等對話式、生成式通用人工智能的出現無疑帶來了有利的技術條件。一方面，教育者要學會利用數字資源和智能工具進行終身學習，應用對話人工智能設計問題導向或思維導向的教學方法，開展個性化教學，訓練和培養學生的創新性思維與批判性思維。另一方面，學校應該傳授與人工智能技術發展相適應的系統化的科學知識，使學生具備與時俱進的科技意識，學會利用ChatGPT之類的智能技術和設備，使之能勝任由智能科技發展帶來的一系列信息化和智能化新工作。與此同時，國家應加強監管，督促大型先進科技企業承擔相應的社會責任。企業不僅要強化與學校教育的信息、技術和知識對接，使學校及時掌握科技前沿，有針對性地培育學生素質和技能，而且要建立利于個人長效發展的選才用人機制，為個人在工作中持續學習、自我提升創造條件。而個人必須轉變傳統觀念，重新認識“人”和智能機器人及其相互關系，利用新型智能科技進行終身學習和自我深度學習，并以此為基礎重新反思和構建和諧的人機關系，真正實現人與機器相輔相成、協同發展。

總之，相較于工業時代的異化現象，ChatGPT之類人工智能所引發的異化問題顯得更加新穎和復雜，特別是資本的隱退與智能技術的出場使得智能時代的新異化具有虛擬性、隱蔽性、交叉性和不可控性等時代性和技術性特點。而且，由于智能技術呈指數級速度進化，令新異化呈現出不斷深化和泛化的發展趨勢。因此，我們必須深刻認識這些已經出現或潛在的異化風險，抓住造成新異化的經濟、技術、社會和文化根源，積極進行系統的社會變革，重構人與智能機器協同演化、相互促進的人機關系和生態系統，建成以人為本、技術向善、人機和諧的美好智能社會。

參考文獻：

[1]Binz Marcel，Schulz Eric.Using Cognitive Psychology to Understand GPT-3[J]. Proceedings of the National Academy of Sciences of the United States of America，2023，120（6）.

[2]Luciano Floridi，Massimo Chiriatti.GPT-3：Its Nature， Scope， Limits，and Consequences[J].Minds and Machines， 2020， 30.

[3]van Dis Eva A M，et al.ChatGPT：Five Priorities for Research[J]. Nature， 2023， 614（7947）.

[4]涂子沛.第二大腦[M].北京：中譯出版社，2023.

[5]喻國明，楊名宜.元宇宙時代的新媒體景觀：數字虛擬人直播的具身性研究[J].當代傳播，2023（1）.

[6][德]哈特穆特·羅薩.新異化的誕生：社會加速批判理論大綱[M].鄭作彧，譯.上海：上海人民出版社，2018.

[7][英]維克托·邁爾-舍恩伯格，[英]肯尼思·庫克耶.大數據時代[M].盛楊燕，周濤，譯.杭州：浙江人民出版社，2013.

[8]孫偉平.人機之間的工作競爭：挑戰與出路——從風靡全球的ChatGPT談起[J].思想理論教育，2023（3）.

[9]Nguyen Quoc Phu，Vo Duc Hong.Artificial Intelligence and Unemployment：An International Evidence[J]. Structural Change and Economic Dynamics， 2022， 63.

[10][美]蓋瑞·馬庫斯，[美]歐內斯特·戴維斯.如何創造可信的AI[M].龍志勇，譯.杭州：杭州教育出版社，2020.

[11]Acemoglu Daron， Restrepo Pascual.The Wrong Kind of AI？ Artificial Intelligence and the Future of Labour Demand[J].Cambridge Journal of Regions， Economy and Society， 2020， 13（1）.

[12][美]瑪麗·L.格雷，[美]西達爾特·蘇里.銷聲匿跡：數字化工作的真正未來[M].左安浦，譯.上海：上海人民出版社，2020.

[13]陳堯.馬克思主義語境下“玩勞動”的生成邏輯與價值引導[J].思想理論教育，2023（1）.

[14][英]杰米·薩斯坎德.算法的力量：人類如何共同生存？[M].李大白，譯.北京：北京日報出版社，2022.

[15]Jenna Burrell.How the Machine “Thinks”：Understanding Opacity in Machine Learning Algorithms[J]. Big Data amp; Society， 2016， 3（1）.

[16][英]理查德·西摩.推特機器：為何我們無法擺脫社交媒體？[M].王伯笛，譯.上海：上海文藝出版社，2022.

[17][以色列]尤瓦爾·赫拉利.未來簡史[M].林俊宏，譯.北京：中信出版社，2017.

[18][美]伊恩·朱克斯，[美]瑞恩·L.沙夫.教育未來簡史：顛覆性時代的學習之道[M].鐘希聲，譯.北京：教育科學出版社，2020.

責任編輯" "申" " 華

技術編輯" "余夢瑤