再論人工智能的威脅實質

趙耀

人工智能的迅猛發展在短時間內完成了從集體性恐慌到普遍性接受的跨越。雖然人工智能取代人類的憂慮不可能被徹底根除，但對經濟發展的貢獻和對生活提供的便利使其不可避免地成為未來的發展趨勢。面對人工智能，人類一方面難以拒絕其強大功能所引發的誘惑，另一方面又承載著主體性喪失的風險。需要指出的是，在可預見的范圍內，人工智能不會從根本上取代人類，但會以改變人類的方式影響人類。換句話說，人工智能的真實威脅不在于作為某種外在的異質性力量反客為主地統治人類，而在于作為生產和生活中介誘發人類走向自我否定。具體來說，人工智能以強制認知的方式實現意識形態的合理化，將一切都納入可計算性，排除任何可能威脅確定性的因素，在數據算法的普遍性籠罩之下規訓人類。人工智能借助虛擬自由的生產，將人類自啟蒙以來形成的主體性自由下降到動物性自在。人工智能通過藝術生產的可制造性，徹底斷絕人類的感性體驗，藝術不再具備向人類敞開新的可能性的能力，完全淪落為無主體性、無對象性和無超越性的自動生成。所有這些，才是當前人工智能對人類的威脅實質。

一、認知的強制

對人工智能的警惕首先應著眼于其對人類的觀念規訓，即把原本不屬于人類的觀念強制灌輸給人類。人工智能的意識形態主要表現在計算性、確定性和普遍性三個方面。所謂計算性是指人工智能以數據算法的方式運行，其運行機理先行規定了必須將一切可計算的方式納入數據算法，數據算法的終極目標是對準確性的追求。因此，數據算法只有在不斷升級中才能維系其生命，否則會被新的、更具準確性的算法所取代。而在這種不斷升級的過程中，數據算法的準確性自然最大限度地趨向于絕對。換句話說，數據算法的準確性追求迫使其不斷升級，而不斷升級的結果又是準確性的不斷提升。二者相互促進，同時永不停頓，始終處于循環之中。這樣導致的直接結果就是，在算法的支配之下，所有與準則性相違的可能都被強制排除，但問題恰恰在于并不是非確定性就是不存在，確定性僅僅是對算法準確性的保證。而在這種確定性的保證過程中，個別性、差異性則被抹殺。排除在數據算法之外的個別性與差異性要么被迫主動祛除自身的獨異性特質，主動擁抱數據算法的強制性規訓，要么就只能被排斥在普遍性之外，徹底喪失被認知的可能。因此，無論是前者還是后者，在強大的數據算法面前，個體性只能處于被安排的位置，不存在任何自我彰顯的可能。

人工智能意識形態規訓的直接結果是對個體性的排除。個體性之為個體性的前提是與他者存在差異，只有在差異中才能確證自身。而在人工智能的數據算法面前，差異是最不能被容忍的存在。算法必須最大限度地保證其運行結果的普遍性適用，作為妨礙算法普遍性適用的個體性差異必須被排除，即便實在不能排除，也必須借助于某種強制將其拆解為可計算的最小單位。被拆解為最小可計算單位的個體與其說還是先前的差異性個體，不如說已經被改造成為人工智能可識別的理想數據。特別需要指出的是，這一過程本身雖然帶有毋庸置疑的強制性，但其展開過程卻帶有非比尋常的誘惑性和欺騙性。從人工智能方面來說，人工智能的原初目的并非是直接專注于其對個體性的排除，相反，人工智能的迅猛發展特別是其在日常生活領域廣泛應用的前提是對用戶差異性需求的精準滿足。但是人工智能的運行方式是數據算法，即將一切納入定性和定量的數理邏輯計算中，并在算法的不斷升級中尋找理想的最優解。而這種手段本身帶有不可超越的局限，即只能在排除個體性的犧牲中確保算法的普遍性適用。因此，人工智能本身存在著目的與手段的深層次矛盾。在目的的實現過程中，目的被迫不斷讓位于手段，最終被手段全部操控。這一過程的代價則是個體性的排除。從個體方面來看，個體面臨人工智能的強制拆解，不是選擇抵抗，相反卻是主動選擇擁抱與接受。因為只有被納入人工智能數據算法的可計算性中，個體才能獲得保存，否則個體只能被排除。為了自我保存，個體只能選擇以自我消解的方式接受人工智能數據算法的規訓。因此，無論從人工智能還是個體方面來看，出發點都是對個體性的保存，而在結果中卻又一致性地放棄這種保存。個體在人工智能的作用下自我否定、自我拆解可以被視為當前需警惕人工智能的首要環節。之所以需要警惕是因為個體性的排除不僅是對差異性的整合，而且意味著個體讓渡自我屬性，以人工智能的標準規范自身。而這樣一來，個體的觀念自然也就不再是差異性與多樣性的，而是完全在數據算法的邏輯支配下整齊劃一的。在算法的邏輯運行中，一切都被安排，任何偶然性都被剔除，個體也就不是完全的獨立個體，其中最根本性的變化是想象力被扼殺。算法演繹支配之下沒有想象存在的空間，既不允許個體以想象的方式否定現實，也不存在現實否定個體的想象。個體只能在人工智能所賦予的觀念認知中展開，而且頗具悖論性的是，個體只有在人工智能的認證之下，即符合人工智能數據算法的可計算標準，才能獲得自身存在的合法性證明，否則個體不成其為個體，因為脫離算法之外的個體無法實現其身份確證。丹尼爾·貝爾在《資本主義的文化矛盾》中對資本主義文化以萌芽形成存在的個體與技術之間的張力有著清醒的認知，盧卡奇在《歷史與階級意識》中對現代社會的物化現象敏銳捕捉，霍克海默、阿多諾在《啟蒙辯證法》中對啟蒙原初所自我包含的內在矛盾進行了深刻揭示。這些思想家的共性在于將尚未充分顯露、特別是沒有完全展開的弊端深刻洞察。而在人工智能作用下，上述被思想家所反復強調的弊端得以充分凸顯，換句話說，人工智能功能的強大大大加速了其負面效應的顯露，同時也加劇了應對的難度。如果說上述思想家是在理論層面以概念演繹的方式揭示普遍性的經驗事實背后的殘酷現實的話，那么人工智能迅猛發展的當下則是借助數據算法徹底消除經驗事實與殘酷現實的差異，并且這種消除的過程不僅僅是人工智能的單方面強制主導，還有被人工智能改造過的每一個個體的主動參與。

二、自由的變異

關于自由的概念無論存在怎樣的分歧，至少在一點上可以達成共識，即康德哲學之后的主體性自由觀念。自由不是主觀任意的自由，而是自我規范的自由。但在人工智能的影響之下，自由存在發生變異的可能——從主體性自由下落為虛擬自由。“作為整個社會的基本技術支撐，智能科技構成了對人公開的或隱蔽的宰制，人正在淪為高速運轉的智能社會系統的‘附庸和‘奴隸。”[1]所謂虛擬自由是指在人工智能的強大功能支配下，人類掌控現實的能力空前加強，特別是在虛擬現實中，人類可以徹底實現從弱者向強者的身份轉變。現實的不滿足和不滿意都可以借助于虛擬現實消解，在虛擬現實中可以恣意而為，既不必擔心任何負面后果，又無所謂規范限制。相較于主體自由，這種虛擬自由自然更容易被大眾所接納和青睞。毋庸置疑，主體自由的獲得是自我規范的前提預設，同時又必須承載自由選擇的不確定性擔憂，而虛擬自由則完全沒有限制，只需享受權利，不必承擔義務。因此，虛擬自由以其壓倒性優勢顯露出取代主體自由的趨向。但是虛擬自由真的如其呈現的那樣沒有任何弊端嗎？答案自然是否定的。

虛擬自由的稱謂本身已經確定其根本屬性，即虛擬自由不是自由，只不過是虛幻模擬了自由的某些極端體驗。披上虛擬外衣的自由終究只是偽裝性的自由，本質上依舊是非自由。之所以作出這樣的判斷是因為虛擬自由本質上滿足的是人的自然性本能，而非社會性需求。虛擬自由借助人工智能技術手段所實現的不過是人的生理性欲望刺激，而非理智性的自我規范。換句話說，人類通過虛擬自由體驗的是動物性的自在自然，而在這一過程中所喪失的卻是人類性的自覺自為。“動物只是按照它所屬的那個物種的尺度和需要來進行塑造，而人則懂得按照任何物種的尺度來進行生產，并且隨時隨地都能用內在固有的尺度來衡量對象。”[2]而虛擬自由所滿足的只是人作為動物這個物種尺度的單一需要，卻排除了人作為人所獨具的任何物種的尺度能力。人要守護人之為人所獨具的任何物種的尺度，就必須超越動物性的單一尺度束縛，而這種對動物性單一尺度束縛的超越才是真正意義上的自由，才能給人類帶來屬于人類的自由感體驗。執迷于動物性尺度的滿足不僅不是自由的實現，相反卻是對自由的拒絕與放棄。虛擬自由所展開的不過是以虛幻滿足的方式消解真正意義上的自由。

虛擬自由不僅不具備自由的屬性，相反地，對自由的實現與捍衛構成了前所未有的威脅。首先，無論以何種方式理解自由，自由都不可能是對欲望的無限制滿足。欲望的任意性達成恰恰是最不自由的狀態。因為在此種狀態中，人完全被欲望所支配，人不過是欲望的囚徒。自由必然伴隨著對主體的清晰認知，必然需要自我限制，只有當自我意識到規范的存在，并自覺地遵守規范才能在真正意義上獲得自由感。因此，自由所追求的恰恰不是恣意而為，而是必要的規范與限制。而虛擬自由則完全反其道而行之，純粹致力于欲望的滿足與刺激。需要指出的是，虛擬自由在欲望滿足與刺激的過程中不僅與自由的精神實質南轅北轍，而且其自身也難以實現邏輯自洽。這一點更進一步確證其自由的虛假性和偽裝性。按照虛擬自由的邏輯，自由就是欲望的滿足，欲望滿足的程度越高，自由度越高。因此，要想實現虛擬自由所追求的“自由”，就必然需要最大限度地滿足這一欲望。但另一方面，人工智能支配下的虛擬自由不僅僅致力于欲望的滿足，同時專注于欲望的刺激，也就是說虛擬自由之為虛擬自由需要不斷地刺激新的欲望，而新的欲望刺激過程本身即是對虛擬自由自身的否定。如前文所述，虛擬自由以欲望滿足為自我確證的依據，但新欲望的刺激恰恰影響了欲望的滿足，虛擬自由又不能停止對新欲望的開發，否則同樣也被視為非自由。因為欲望滿足本身預設了新欲望開拓的前提，抽離新欲望開拓的虛擬自由難以達成其先行的規定。因此，從這個意義上來說，虛擬自由本質上是非自由，其借助欲望的滿足所實現的只是動物性的本能宣泄，絕非人類自由感的體驗。其次，自由實現與否的標志是人對自身行為的理性規約與目的完成，是以自我掌控為核心，絕非以掌控他人為標志。而虛擬自由則與之完全相反。虛擬自由之所以具備欺騙性和誘惑性，恰恰在于始終致力于對他人的控制，甚至以控制他人的數量與程度作為其實現的標準。對他人的掌控與其說是自由的獲得，不如說是自由的剝奪。自由之為自由恰恰在于拒絕任何形式的強制，而虛擬自由則完全走向自由的反面，以強制的方式建構虛幻的自由。無論從強制的一方還是被強制的一方來說，都是不自由的。因為自由的前提是自我主動的選擇而非他者的強制。再次，虛擬自由是以物化方式形成的畸形自由。這與人工智能本身的屬性密切相關，人工智能只能以數據算法的準確性保證其對事物的操縱性，這種操縱性在本質上是以數據的方式支配人，而非人借助于數據實現認知能力的延展。換句話說，人工智能以虛擬自由的方式在潛移默化中完成反客為主。而人所付出的代價則是讓渡自己的主體性自由。人工智能以虛擬自由外衣的誘惑偽裝實現了對人的反控制，而且需要特別指出的是，這種反控制并非出于人工智能具備了主體意識后對人類的反叛，相反是人類主動選擇的結果。人工智能自始至終所扮演的角色是人類的工具，但人類在使用這一工具的過程中卻將自己本身物化，甚至執迷于這種物化。這一方面源于虛擬自由本身所具有的誘惑性，任何人在感官欲望的極度滿足中都難以堅守理性的自我規約，另一方面則源于相較于作為工具的人工智能面前堅守的主體自由，虛擬自由更具便利優勢。如前文所述，人工智能以強制認知的方式將個體性差異完全排除，體驗虛擬自由的過程就是放棄個體性差異的過程，也就是不必承擔主體責任與心理壓力的過程。既能獲得自由的體驗，雖然這種自由是虛幻且變異的，又不用承擔相應的責任，虛擬自由自然更易于受到大眾的青睞，而大眾集體性地接納虛擬自由本身已經在客觀上說明當前人類已經或多或少被人工智能所物化，或者更為確切的說法是被人工智能意識形態所裹挾與宰制。還有一點值得警惕的是，當大多數人被虛擬自由物化之后，特別是他們的觀念認知也隨之人工智能化之后，原本人借助于物所構成的人與人的社會關系也將有所松動。馬克思曾明確指出：“在我個人的生命表現中，我直接證實和實現了我的真正的本質，即我的人的本質，我的社會的本質。”[3]人的社會性正是在普遍交往中實現的。試想，當所有人在虛擬自由中自覺物化，原本以物為中介的人的社會可能變異為以人為中介的物的社會，而物的社會是否還是社會？如果說人的社會是以個體性差異的普遍交往達成的關系凝結，那么物的社會則是以同質化強制的算法規約實現的關系消解。在這種趨勢之下，每個人不再作為獨立的個體存在，而是作為數據單元存在，每個人不是在社會關系的交往中實踐著個體差異性與群體普遍性的張力，而是致力于將自己納入數據算法的環節，每個人不再關心與另一個人的關系，而是專注于自我與算法之間的契合度。這種趨勢的程度越高，虛擬自由的體驗就越真實，虛擬自由的體驗越逼真，人類拒絕的可能性就自然越小。海德格爾曾以技術座駕隱喻人類整體性陷入被操縱的技術統治之中，徹底喪失了與自然對話的可能。人工智能則以其強大的數據算法與自我更新功能，將技術座駕徹底現實化。這種現實化的標志就是在人工智能主導的虛擬自由中，人類徹底喪失反思的能力。如果說以海德格爾為代表的存在之思對技術依舊保持極端警惕的話，那么被人工智能反客為主的人類則不再具備任何拒絕的能力，即便是對當前人工智能的恐慌甚囂塵上，但也僅僅停留于情感宣泄層面，因為客觀現實卻是每個人都在恐慌的同時主動接受人工智能滲透至生活的方方面面。這種現實本身已經在客觀上宣告了人類在人工智能影響之下反思能力的不斷弱化，而反思能力的弱化與喪失，或者更為確切的說法是反思能力的主動放棄則從根本上規定了在人與人工智能的未來博弈中，人難以逃脫的劣勢地位，而且更具諷刺意味的是，這種劣勢地位的獲得不是源自人工智能，而恰恰是源自人本身。人類如何在人工智能的操縱包圍之下持續守護真正意義上的反思能力是當前人工智能研究的最為關鍵之處。

三、藝術的終結

自丹托以來，關于藝術終結的討論從未停息。雖然各種觀點傾向各異，但基本上可以達成共識的是所謂藝術的終結不是要徹底消滅藝術，而是對藝術的發展現狀有所質疑，認為現有的藝術觀念及評判標準需要有所調整，以便為藝術的良性發展提供必要的智力支撐，助力其發揮藝術本應具有的作用。而在人工智能的影響之下，當前藝術面臨徹底終結的挑戰。之所以徹底，是因為人工智能對藝術的影響不僅僅是改變藝術的生產方式和消費方式，而是將藝術從創造改變為制造。“從人工智能的角度來看，傳統藝術與現代派藝術處于同樣的地平線上，它們同樣歸屬于人類藝術，而人工智能藝術則完全屬于新的藝術形態，我們可稱之為后人類藝術。如此一來，既有的藝術觀念都可能失效，我們必須重尋新的藝術觀念才能面對目前窘境。”[4]這種根本性的改變也不同于西方馬克思主義對文化工業的批判，文化工業雖然是以工業化整齊化的方式復制藝術，但依舊在一定程度上保留了藝術的固有屬性，作為工業產品的藝術雖然喪失藝術的靈暈，但可以在某個瞬間重新喚醒人的感性體驗。而人工智能影響下的藝術制造則以釜底抽薪的方式徹底消解藝術作為藝術的合理性基礎。相較于藝術創造，人工智能主導下的藝術制造不再具備向人類敞開新的可能性的能力，完全淪落為無主體性、無對象性和無超越性的自動生成。

所謂無主體性是指人工智能主導下的藝術制造是一種抽離創作主體與欣賞主體之間交互關系的純粹形式化自動生成。數據算法惟一關注的是樣本的量化和算法的精密，依托數據算法自動生成的藝術制造不再與現實內容發生任何實質性關聯。人類的藝術創造無論如何也無法實現純形式或純內容的生產，任何內容都必須依賴一定的形式呈現，任何形式也必然承載著相應的內容。但人工智能卻可以借助數據算法實現純形式的藝術制造。最具代表性的是書法、繪畫和詩歌的自動生成。當前的人工智能已經基本上初步具備了書法和繪畫的自動生成能力，將知名書法家和畫家的創作納入樣本庫，進行相應的編碼，人工智能就可以自動生成幾乎可以以假亂真的復制品。在驚嘆人工智能的超凡能力之余，我們更需要警惕這種技術突破背后的藝術終結危機。人工智能雖然可以模仿任意時代、任意風格的書法作品，但僅是形式層面的復制，神韻始終難以比肩書法家原創。根本原因在于原創在書法形式的背后所支撐的是書法家獨異的生命體驗，正是因為他有著非常人的生命感悟，才能借助于筆法的形式有效承載并傳達給欣賞者，欣賞者之所以青睞書法家的創作也是源于對書法家表現的生命感悟產生強烈共鳴。而人工智能主導之下的書法制造僅能復制筆法形式，不可能保留其獨異的生命體驗，特別是那些綜合不同風格的書法合成，雖然從現有評判標準體系來看難以否認其書法價值，因為它畢竟是以真實書法家的創作為數據基礎的，但合成后的書法作品不再具有藝術的意義，因為它不再具備傳遞生命體驗的能力，人們在人工智能合成的書法制品面前只能覺得它像藝術，但它作為藝術能帶給人們何種精神慰藉，則沒有人能夠說清楚。因為它本身只是純粹的形式，沒有實質性內容。繪畫也是一樣，無論是寫實主義還是表現主義，都是畫家以一種非常人的眼光審視世界，并試圖引導人們以他個人獨到的方式感受世界中不易被覺察的美。從這個意義上來說，繪畫必然是一種主體性的創造，而人工智能自動生成的繪畫制品則完全不具備上述特質，它只能停留于前人的基礎，從根本上喪失了發展的動力。也正是源于此，人工智能主導之下的繪畫制造徹底終結了繪畫自我突破的可能。最后再來談詩歌，微軟小冰的詩歌創作在以假亂真的幻象中不斷加劇著取代人類創作的恐慌。其實，人工智能所做的僅是語詞的合成，而非真正意義上的詩歌創作。海德格爾曾將人類的原初語言視為詩，這一判斷的預設前提是他認為原初語言記錄了人類原初與世界發生關系時的體驗，體驗與語言之間沒有概念作為中介。從這樣的理解出發，詩歌之為詩歌恰恰在于其所表達的人類的原初體驗，而人工智能自動生成的詩歌僅具有語詞的邏輯函項關聯，不可能承載人類的生命體驗，更不可能在敞開與遮蔽的互動中揭示世界的本真。語詞合成取代詩歌創作的結果則是人徹底喪失與世界之間的真實溝通關系。

所謂無對象性是指人工智能主導之下的藝術制造是受眾缺失的機械復制。人工智能的藝術制造完全依靠現有藝術數據和當前審美偏好的自動生成，這種制造出來的藝術作品僅是作為物而存在，不再具備溝通人與人的功能。藝術之為藝術的重要前提是以物的方式溝通自我與他人。“假定我們作為人進行生產。在這種情況下，我們每個人在自己的生產過程中就雙重地肯定自己和另一個人：（1）我在我的生產中物化了我的個性和我的個性的特點……（2）在你享受或使用我的產品時，我直接享受到的是：既意識到我的勞動滿足了人的需要，從而物化了人的本質，又創造了與另一個人的本質的需要相符合的物品。（3）對你來說，我是你與類之間的中介人，你自己意識到和感覺到我是你自己本質的補充，是你自己不可分割的一部分。”[5]抽離藝術作品的中介性也就使藝術作品徹底成為物，成為與人毫無關聯的物。現代人之所以普遍存在虛無感的體驗，恰恰是源于現代技術所導致的人與人之間的不斷分離，人越是追求新奇的刺激，越是在刺激之后百無聊賴，從而渴望新的刺激。人工智能則將這一趨勢進一步加劇，在數據算法的支配之下，徹底阻斷人與人之間的情感溝通。另一方面，人工智能的藝術制造使藝術生產從作為人的活動下降為作為物的活動。馬克思在考察人類的社會性普遍本質時曾斷言：“甚至當我從事科學之類的活動，亦即當我從事那種只是在很少的情況下才能直接同別人共同進行的活動，我也是在從事社會的活動，因為我是作為人而活動的。”[6]作為人的活動意味著活動本身彰顯著人的自我確證，藝術創造不僅僅是模仿自然和情感表達，更是人以對象化的方式完成人類的自我屬性確證。而一旦下降到作為物的活動，藝術也就不再是屬于人的藝術或者說不再是關于人的藝術，藝術的終結也就不存在任何質疑的必要。

所謂無超越性是指人工智能主導之下的藝術制造徹底模糊現實與彼岸的界限，在數據算法面前，現實就是彼岸，或者更為確切的說法是彼岸的意義完全消解，藝術淪為完全沒有任何超越性追求的工作制造。而這樣一來，藝術不僅不再具備形而上與形而下的內在張力，而且更為致命的結果是徹底喪失自我更新的動力。藝術只有在現實性與超越性的持續矛盾中才能不斷獲得自我更新的動力，藝術的本質是人以精神實踐的方式超越現實的局限，同時以現實的局限推動超越性的想象。因此，藝術既是消解現實局限的精神活動，又是導致想象與現實矛盾的實踐活動，既是解決這一矛盾的動力，也是引導新矛盾的根源，也正是源于此，藝術才能以生生不息的方式記錄人類在不同歷史發展階段的心路歷程，才能構成人類精神維度中不可或缺的一部分。而人工智能主導之下的藝術制造，則從根本上祛除了藝術的內在固有矛盾，也就徹底消解了藝術的實踐意義。喪失實踐意義的藝術與其說是藝術，不如說是技術，藝術的終結也就自然成為題中應有之義。

〔本文系國家社會科學基金重大研究專項“新時代中國特色文藝理論基本問題研究”（18VK007）、遼寧省社會科學規劃基金青年項目“人工智能時代的文學理論建構與批評實踐研究”（L20CZW002）、遼寧省教育廳項目“生態批評視域下的遼寧文學創作研究”（WZD202001）的階段性成果〕

【作者簡介】趙 耀：東北師范大學博士后在讀，沈陽師范大學文學院講師。

注釋：

[1] 孫偉平：《人工智能與人的“新異化”》，《中國社會科學》2020年第12期。

[2][6]〔德〕卡爾·馬克思：《1844年經濟學—哲學手稿》，劉丕坤譯，人民出版社，1979年版，第50-51頁，第75頁。

[3][5]《馬克思恩格斯全集》第42卷，人民出版社，1972年版，第37頁。

[4] 王峰：《挑戰“創造性”：人工智能與藝術的算法》，《學術月刊》2020年第8期。

（責任編輯 劉艷妮）