孫 強
(山東師范大學 馬克思主義學院,山東 濟南 250014)
人工智能是當今世界關注的焦點,而人權則是人類社會發展的永恒主題,兩者相遇產生了何種反應,對此關注頗多,立足馬克思主義視角分析這一問題是一種有益的嘗試。
人工智能的發展對人權帶來了諸多影響,人們對該問題的認識也不統一,大致可以分為積極與消極兩派。
許多學者看到了人工智能的發展對人權所可能帶來的積極影響,可以分為四個方面:
1.AI有助于將人類從勞動中解放出來,實現人的自由全面發展。智能機器對人類勞動的取代、挑戰只是暫時的,會將人從繁重體力勞動及無創造性腦力勞動中解放出來,促使生產方式趨向人性化,緩解工業革命以來長期存在的人機對立格局,擺脫舊式分工所帶來的人的異化,幫助人類理性地進行價值評價與選擇。[1]AI為人類創造充足物質基礎,使人的勞動回歸自由自覺的活動,豐富人類的生活經驗,為人的自由全面發展創造更多自由時間和機會。[2]
2.AI不會危及人的主體性與人的尊嚴。AI是一個以人為核心的延展認知系統,[3]是對人腦神經網絡的模擬,是人腦的延伸。AI不具備自我意識,也不會從事人類實踐活動,所以AI不會獲得主體性,只會鞏固和擴展人類主體地位。[4]即便AI在智力測評上超過人,人類也會因AI而更智能,AI是百分百的人類智能,它的智能恰是人類尊嚴的明證。[5]
3.AI時代將為人類提供更好的個性化服務。工業化社會最大特點是標準化,使批量化、高效化生產成為可能,改進了人權享有狀況,但在工業社會要想享受個性化的產品與服務,成本較高。進入智能時代,AI的水平足以給我們提供個性化服務,使人們生活在更加精細化的社會中。[1]
4.AI不會取代人,人也不會成為無用階級。機器換人實質是以機器運行時間替換人類勞動時間而非以機器生產能力替換人類本身勞動能力。由于AI未能替換任何一項專屬人的勞動能力,這種機器換人只是讓人擁有更多專屬人的勞動時間。[6]AI再發展也成不了人,因為人的情感能力難以賦予機器。人的歷史文化本性(社會生命)是機器所無法呈現的,這可能成為機器人無法取代人的技術瓶頸和價值悖論。[7]機器仍然缺乏人的整體自我意識以及情感、意志,所以對機器人應保持其“物”的基本屬性。[8]針對未來人將變成無用階層的論斷,有學者指出使智能機器人經濟得以循環的“目的因”在于人類,所以機器人的循環仍是為了人類更好地生存,機器永遠都是為人服務的。[9]
這些肯定性認識將AI作為為人類服務而存在的客體,對AI發展帶來的人權不斷提升保持樂觀態度。當然更多人談到了AI對人權所可能帶來的負面影響,體現了學者濃郁的問題意識,可歸結為五點。
1.機器取代人引發失業潮甚至嚴重社會動蕩、生活意義喪失。機器替代人既存在于體力勞動,也廣泛出現于智力勞動領域。尤瓦爾·赫拉利認為這將引發嚴重失業潮,所孕育的巨大風險讓99%的人成為“無用階級”。霍金說AI將奴役人,甚至導致人類種族滅亡。國內很多學者也表達了這種憂慮,認為AI所引發的失業與以往大不相同,AI所創造的新工作領域即使需要人也只能是為數不多的掌握AI技術的人,大量無事可做的人將會在體能和智力方面迅速退化,個體因無所事事進而危及社會穩定。[10]絕大多數人可能淪為智能機器的附庸。[11]失去勞動讓人失去生活意義與存在的價值,技術進步所帶來的是人的解放還是人的新的異化?[12]
2.AI帶來諸多具體人權問題。算法歧視將加劇人與人的不平等,數字鴻溝造成社會成員貧富不均。[13]隱私被大量侵犯,且人工智能技術如被濫用,比如研發殺人機器人等將給人類帶來毀滅性損害,[14]更可怕的是社會的1%借助人工智能技術變為生物學意義上完全不同的人,并通過人機一體化控制社會權力,99%的“無用之人”將喪失存在的價值。[15]
3.挑戰人的本質與人的主體地位。勞動、制造工具原本是人的本質,未來AI也會有,會思維也將成為智能機器的能力,未來人的自然身體會與智能機器一體化,這種共生體是人還是機器?這些都對人的本質帶來挑戰。進而AI是否應享有人權,是否應被確立為道德或法律的主體。甚至人工智能很有可能在與人類的斗爭中產生自我意識,取得自己的主體地位,這些問題都需要得到解決。[1]
4.出現人與人關系的異化。未來AI作為萬能的技術、工具系統給人提供全方位的服務,人只需要AI是否就能滿足其需求,而無需與其他人打交道,那其他人對于自己而言是否就成為一種非必然存在,人對于人失去意義、失去興趣是否就是人與人關系的異化。[12]
5.對AI的資本主義應用的批判。AI造就大量“無用階級”,出現社會流動停滯的“經濟奇點”,這不是由技術本身造成的,而是由資產階級對生產資料、AI技術的壟斷權造成的。[16]在特定條件下人工智能仍然受制于資本邏輯,仍舊擺脫不了異化人的本性。[17]要避免現代整個社會的毀滅,根本方向是“結束財產私有制。這意味著把生產、交換和分配交給某種集體所有制,以阻止社會分化和人種分化。”[18](p211-212)
從這些觀點可以看出,很多人對人工智能帶來的人權負面影響表現出深刻焦慮,但由于人工智能尚處于發展階段,相關問題并未得以充分顯現,所以對有關問題尚處于探討階段,提出的問題較多,而給予的有效應對較少。很多人對人工智能在技術層面的發展顯然保持悲觀,認為未來的AI將會思維、具備人的能力,AI大范圍取代人必然帶來社會關系、人的存在狀況的巨大改變,如何解決或阻止相關問題出現,讓AI服務于而非制約人權發展是大家正致力于解決的問題。對比正反兩方面觀點,AI對人權的積極影響顯然存在,但其負面影響仍不可忽視,這就像一枚硬幣的兩面,如何興利除弊,站在馬克思主義立場上的分析必不可缺。
馬克思主義是關于人類解放的學說,其人權指向在于實現人的自由而全面發展。用馬克思主義理論分析人工智能對人權的影響首先要借鑒馬克思主義關于科技與人權相關理論的分析。
馬克思首先肯定技術在促進人的全面發展與解放中的積極作用,他說:“自然科學卻通過工業日益在實踐上進入人的生活,改造人的生活,并為人的解放做準備。”[19](p89)但他也深刻洞察到,當人類利用技術來改造自然服務自身生活之時,技術反過來也會對人造成壓制,這就是技術中的異化問題,這種批判主要聚焦于人的主體性的喪失,技術是導致人的主體性喪失、困囿于異化狀態的重要誘因。在馬克思生活的時代正是資本家利用科技發展的成果加大對工人剝削的時代,科學技術的發展與個人的人權實現是相對立的。機器替代工人具有了技能和力量,科學把機器從沒有生命的機器肢體改造為有目的的自動機,工人的活動都是由機器的運轉來決定和調節的,工人成了機器的一個器官,科技成了異己的力量。“在工廠中,死機構獨立于工人而存在,工人被當作活的附屬物并入死機構。”[20](p463)工人被分給專門的機器,勞動者則喪失了自己的專門化,工人的個性在一切方面是與機器對立的,工人只能積極適應機器的要求,勞動的自我滿足感蕩然無存。科學與技術對工人來說“表現為異己的、敵對的和統治的權力。”[21](p571)異化勞動帶來工人自身的異化,工人在自己的勞動中不是肯定自己,而是否定自己,讓自己的肉體和精神受到摧殘。所以馬克思說,“機器具有減少人類勞動和使勞動更有成效的神奇力量,然而卻引起了饑餓和過度的疲勞。財富的新源泉,由于某種奇怪的、不可思議的魔力而變成貧困的根源。技術的勝利,似乎是以道德的敗壞為代價換來的。”[22](p580)
異化問題是馬克思對資本主義技術發展所帶來的惡劣后果的一個重要批判維度,那今天的AI是否也適用異化理論。今天AI對人的影響仍然存在這一問題,只不過變換了方式。AI與過去技術發展不同的是,不是強化對工人體力的役使,而是取代人的體力勞動,甚至于取代人的智能活動使人無業可做。這一方面使人從繁重的勞動中解放出來,有更多時間從事自己的發展,但未來也面臨大量人會無事可做,人求剝削而不得。隨著智能機器人滲入的領域逐漸增多,大量的人類工作將被機器取代,伴隨生產的智能化及產業轉型升級,結構性失業將接踵而至。“‘數字窮人’可能徹底喪失勞動的價值,只能接受失業、徹底被邊緣化的命運。”[1]未來比資本家剝削工人更糟的是可能根本不需要工人,從而徹底喪失價值存在感,“數字窮人”被排除在全球化體系之外成為多余的存在。勞動本是人的權利,是實現人的自我價值的重要途徑,而AI的發展會不會解構這種價值,帶來人權實現的新問題,而這個新問題其實是馬克思所批判的科技發展帶來人的主體性喪失在AI時代的一種翻版,工人從并入機器的活的附屬物到被機器排除在外,人的主體性喪失變換了存在形式,但都面臨自我價值與主體性迷失的問題,具有極大相似性,馬克思的分析在今天仍有其價值。
馬克思之后闡釋科學技術對人權影響較多的當屬西方人本主義馬克思主義中的法蘭克福學派,技術理性批判構成他們對社會所做批判的不可或缺的維度,其核心觀點認為科技的應用進一步鞏固了技術理性統治的合法性。霍克海默首先指出了科學技術與意識形態之間的關系,斷言“不僅形而上學,而且還有它所批評的科學,皆為意識形態的東西;后者之所以也復如是,是因為它保留著一種阻礙它發現社會危機真正原因的形式。”[23](p5)科學成為遮蔽大眾去思考社會危機的意識形態工具。馬爾庫塞提出科技發展在推動社會發展同時又導致新的統治形式(技術理性的統治),技術理性滲透到社會生活的方方面面,形成新的統治形式,科學、技術理性和操縱結成社會控制新形式。馬爾庫塞在《反革命和造反》中,把技術理性兩重性思想概括為一個公式,指出“資本主義進步的法則寓于這樣一個公式:技術進步=社會財富的增長(即國民生產總值的增長)=奴役的擴展。”[24](p4)這種技術理性統治通過合理性外觀,不斷滿足人的物質需求,用大眾文化給人提供越來越多的消遣,消解人的否定性和對社會的反抗,使技術從人的解放的力量變為人的解放的桎梏。“技術進步持續不斷的動態,變得為政治內容所充滿,技術邏格斯被轉變為持續下來的奴役的邏格斯。技術的解放力量——事物的工具化——成為解放的桎梏;這就是人的工具化。”[25](p136)哈貝馬斯在此基礎上更明確解釋了科學技術帶來的是政治的科學化與民主社會的美化表象,最大限度消解了阻礙資本主義延續的阻力,科技起到了緩和晚期資本主義社會矛盾、穩定社會統治的作用,而科技在資本主義制度下帶來的異化導致的是大眾的被殖民化。科學技術一方面是社會發展主要推動力量之一,另一方面成為一種新形式的“意識形態”。“因為現在,第一位的生產力——國家掌管著的科技進步本身——已經成了合法性的基礎。(而統治的)這種新的合法性形式,顯然已經喪失了意識形態的舊形態。”[26](p68-69)技術統治因為在某種程度上擺脫了“虛假意識”的某些成分,擺脫了由階級利益制造的騙局、空想,同時涉及范圍更廣,因而更難擺脫其影響。法蘭克福學派的思想指出科學技術在晚期資本主義社會成為延緩統治、加強對大眾奴役的隱蔽意識形態工具,在這種合法化統治外表之下,表面看來人的物質生活在不斷提升,人權狀況在改善,而實際是用技術將人深深嵌套于現有政治統治之中,使人服從現有制度而放棄抗爭,科技成為資本主義奴役人的一種幫兇。
今天隨著AI的應用,大量的崗位被機器人取代,在科技進步的名義之下資本家把大量工人予以解雇,用AI機器人既節省了成本,又大幅度提高了勞動生產率,技術本身就成為剩余價值的源泉,而且這一切都是在技術進步合法化的名義之下完成的。我們可以想到被替換下來的工人難以通過短期培訓找到新的工作崗位,很多人樂觀地認為智能革命會產生新行業,自然會吸收被淘汰的人,其實人工智能革命所產生的新行業大都與智能機器的研發、制造與維護相關,只有很小一部分人能參與進去。結合前幾次世界技術革命的經驗,人們對新行業新領域的適應周期大概為半個世紀,所以社會不會給予失業人群足夠時間,這些人多半只能伴隨年齡增長而自然退出就業市場。[27](p339-361)失業人群也只能得到來自國家的有限保障,其人權狀況必然受到影響。而且AI對人的取代正逐漸擴大到社會各個領域,這與以往都不相同,未來會有更多人失去工作。所以部分發達國家已經開始探討“全民基本收入”問題,防止在AI大量取代人的情況下讓人的生活失去尊嚴。[28]比爾·蓋茨甚至提出要對機器人收稅,用政治方式延緩人的無用化的速度。[15]另一方面AI又不斷給人提供更多物質、精神消遣。AI的發展雖然增加了人的休閑時間,但也帶來人在休閑娛樂時生活被全面控制,智能產品正越來越占據人的日常休閑生活。馬克思主義認為衡量人的自由一個重要標志就是看一個人在社會必要勞動時間之外他所能支配的時間,雖然AI縮短了人的必要勞動時間,讓人有更多閑暇,但AI產品又通過沉溺、上癮等形式迅速占據人的空閑。隨著人工智能產品的普及,很多人通過無處不在的AI產品快速獲取所需結果,而不再用思辨、表達、交流等手段獲取觀念與體驗,智能產品在不斷控制人的精神。這是機器對人的更為深入的主宰,也是人的一種更為深刻的異化。所以AI技術在提升人權享有狀況的同時,也給人套上了一副永遠無法解除的枷鎖,使人沉淪于技術所可能帶來的控制,在AI時代人類對技術的依賴達到前所未有的高度。科技與意識形態深度融合,加強了對人的心理、意識的操控,通過大眾傳媒及大量具有同化作用的文化產品,無孔不入地占據人的生存空間與閑暇,卻又不會激起人的逆反、抗爭情緒,工藝的合理帶來了政治上的合理性,讓人心甘情愿被納入現存社會體系之中,社會對人的統治范圍也大到不可估量,更加使人喪失對社會的抗爭。AI所產生的技術理性成為不容置疑的社會發展潮流,為晚期資本主義統治又提供了一層合法化外衣。
這種技術進步已擴展到社會整個控制、調節系統,能夠調和與這個系統對立的力量,并擊潰所有為擺脫控制而提出的抗議,AI正成為資本主義社會控制的新形式。人雖然從繁重工作中解放出來,但并未獲得真正自由,只是被迫、不得不屈從于技術發展所帶給人的新枷鎖。在高度發展的技術面前,人們也失去對世界的判斷能力,只剩下服從。與過去相比人們可能付出的辛苦勞動在極大減少,也有較為富足的生活,但同時也讓人滿足于眼前的舒適而放棄了對超越性理想的追求,這種狀況下的人權繁榮只能算是一種無從選擇的套牢。
對于科技對人權帶來不利影響的根源,馬克思主義也給出了自己的答案。這首先應該源于人類認識水平的限制,人們對自然規律、社會運行的認識總帶有片面性和局限性。恩格斯說,“到目前為止的一切生產方式,都僅僅以取得勞動的最近的、最直接的效益為目的。那些只是在晚些時候才顯現出來的、通過逐漸的重負和積累才產生效益的較遠的結果,則完全被忽視了。”[29](p385)因為人們對科技使用的后果事先無法做出準確預計,這就不可避免會遭遇科技給人類生存所帶來的負面影響,這是一個潛在原因。
其次,科技的資本主義應用是科技異化的根源。馬克思發現自然科學成為一切知識的基礎是在資本主義生產上發展起來的。“由于自然科學被資本用作致富手段,從而科學本身也成為那些發展科學的人的致富手段,所以,搞科學的人為了探索科學的實際應用而互相競爭。”[21](p572)科學伴隨資本的擴張被有意識地加以發展、應用于社會生活中,其規模超過以往任何時代,科學對勞動者來說也表現為一種異己的統治權力。而科技異化根源在于科技的資本主義應用,來自人對人的奴役。對于這種機器對人的奴役之所以歸結為資本的力量,馬克思這樣寫道,“因為機器就其本身來說縮短勞動時間,而它的資本主義應用延長工作日;因為機器本身減輕勞動,而它的資本主義應用提高勞動強度;因為機器本身是人對自然力的勝利,而它的資本主義應用使人受自然力奴役;因為機器本身增加生產者的財富,而它的資本主義應用使生產者變為需要救濟的貧民。”[30](p483-484)科技與作為資本的生產資料結合不僅促進生產力發展,也加強了對工人的剝削,科技已經變成了資本的一部分。資本生產的唯一目的是獲取高額利潤,而不是為了滿足人民的人權實現。
馬克思主義對科技的批判深入資本邏輯的深處,將技術的發展與資本剝削、掠奪相聯系,從對資本的批判入手對上層建筑進行釜底抽薪式的否定。當然我們也要看到馬克思主義學說在今天所面臨的新挑戰,伴隨AI的發展,雖然大量工作崗位由AI取代了人,但大量的勞動由機器完成,使工人的勞動強度大幅度下降,很多人認為工人的人權狀況因AI而出現了改觀,這與馬克思對科技與人權的論述是不同的,是不是說明馬克思主義過時了。其實AI的出現也并未從根本上改變科技與人權的關系,甚至人權也會因AI的發展而變得更加變幻莫測。很多人贊成發展AI是認為它代表先進科技,而發展先進的科技往往是具有充分的正當性的,所以把科技籠統視為好的,而不考慮科技背后的力量。AI本質上是屬人的,仍然是機器與人之間的對抗,馬克思說“這些矛盾和對抗不是從機器本身產生的,而是從機器的資本主義應用產生的。”[31](p508)AI的資本主義應用根源于資本主義生產方式,而資本主義物質財富的生產與人的自由個性的發展卻完全對立,資本與科技聯姻只為獲取更多利潤,而不是讓人怎樣實現自由全面發展,人仍受資本的統治。我們要看到馬克思關于資本和技術的意識形態批判雖始于一百多年前,但對今天的AI技術所帶來的新變化仍有解釋力。當代資本主義社會進入AI時代后,資產階級與無產階級的經濟差距進一步拉大,資本統治更強了。比如在AI飛速發展的美國,工人的生存狀況、收入水平并未得到明顯改善,反而出現新的危機。聯合國極端貧困和人權問題特別報告員菲利普·阿爾斯通(Philip Alston)在談到2017年對美國的正式訪問時曾提到,“自動化和機器人化已經使許多中年工人失去了他們曾經認為安全的工作。在21世紀的經濟中,只有很小一部分人口能夠避免由于他們自己無法控制的壞情況而陷入貧困的可能性。”[32]如何調節AI的公共性與私人性之間的關系,如何規避AI被資本驅使而瘋狂盲目擴張從而損害人權,這是當下應予關注的。這一深層問題會在現實中帶來許多具體表現,如基于資本擴張需求,資本會對AI技術實施壟斷,這會帶來新的、更大的人權不平等。跨國企業、發達國家一直壟斷著關鍵技術、數據資源,將AI的創新成果與核心技術進行封鎖,目的在于獲取壟斷所帶來的優勢及超額的利潤,使廣大發展中國家無法及時享受到AI所帶來的利好。從個人層面看,正是基于對AI技術享有的機會不均等,導致少數富人、社會精英可以利用基因改造、人機一體化等延長生命、實現身體機能的躍升,享有更好的人權狀況,而大多數人則無法獲取這種機會,只能淪為龐大智能機器系統中的零部件。“數字鴻溝”所帶來的兩極分化將遠超人們的想象,資本為了獲取利潤,不惜動用AI技術大量獲取個人隱私,從事殺傷力巨大的武器研發等,如果不加限制,人權更無得到保障的可能。所以AI背后的資本濫用必須得到控制,否則將為人權發展帶來更大威脅。
立足馬克思主義視角化解AI對人權的影響,可分為近期、遠期兩大路徑。
1.近期路徑:在AI的設計中融入保障人權的價值觀念。從近期看,化解AI對人權的不利影響需要把價值整合到科學之中,在技術理性中納入價值要素,防范AI發展中的價值理性被工具理性所壓倒的局面出現,實現人與自然雙重解放。馬爾庫塞斷言:“科學和技術的歷史成就已使如下轉化成為可能:把價值觀念轉化為技術的任務——價值觀念的物化。其結果,重要的便是用技術的術語,把價值觀念重新定義為技術過程的要素。這些新的目標,作為技術的目標,不僅在機器的利用中,而且在機器的設計和制造中都將起作用。”[25](p198)這也印證了AI要融入一種維護人權的價值觀念,并且把這種價值觀念融入機器的設計、制造、利用之中,把價值標準向技術任務轉化,用技術的術語把特定價值準則定義為技術過程中的要素。馬克思主義人權理論是人工智能所要遵循的價值觀的必要選擇,立足人本原則,以人為中心,盡可能滿足人權實現。將人而不是技術作為AI價值的根源,實現人的最優發展。“這就是說,是人,而不是技術,必須成為價值的最終根源;是人的最優發展,而不是生產的最大化,成為所有計劃的標準。”[33](p96)喚醒人的主體意識,盡快擺脫對AI的過分依賴與盲目崇拜,將AI置于人的控制之下,利用AI實現人權充分發展。當然也有學者對這一路徑提出反駁,認為為AI設置道德戒律不會起作用,因為AI未來會比人要聰明的多,人類社會不斷被設置各種道德、法律約束,仍會有很多違反的人,AI又怎么可能會遵守這些約束,況且未來的AI是利用互聯網聯結的,再也不能通過關閉電源的方式讓AI停止,所以有失控的可能。[10]對此質疑只能全面禁止超出人類控制的AI的研發,因為脫離人類控制的AI對人類就是種災難,設計任何的規范路徑都將于事無補。
2.遠期路徑。對于科技的異化,馬克思和恩格斯秉持一種樂觀態度,他們指出“一方面,機器成了資本家階級用來實現專制和進行勒索的最有力的工具,另一方面,機器生產的發展又為用真正社會的生產制度代替雇傭勞動制度創造必要的物質條件。”[34](p357)“只有工人階級……把科學從階級統治的工具變為人民的力量,把科學家從階級偏見的兜售者、追名逐利的國家寄生蟲、資本的同盟者,變成自由的思想者!只有在勞動共和國里,科學才能起它的真正的作用。”[35](p600)馬克思認為只有通過無產階級革命才能解決科技異化,只有在共產主義社會人類才能在更高層次、更為合理的社會中成就自身,實現人的自由全面發展,一直統治歷史的客觀的異己的力量在共產主義社會才能處于人們自己的掌控之下,到那時才能真正解決資本主義科技異化問題。
面對AI對人權的不利影響,馬克思主義的思想仍然能夠發揮作用。AI是以科技為動力的機器長期進化而得來的必然產物,AI只是人的智能在機器上的體現,要從人與人的關系上來審視。要看到使技術衍生出意識形態屬性背后的社會制度等因素,AI當然有利于人權實現,但對其不利影響需要根本變革社會關系以及被資本邏輯控制的全球體系。如何利用好AI,怎樣破除資本對AI的控制是我們所應著重考慮的,AI的資本主義應用才是根源。只有對社會經濟制度進行全面改造,徹底批判晚期資本主義的弊端,只有將AI技術掌握于國家手中,造福于全體人民而不是被資本當作謀利的工具,才有可能用AI推動人權更好實現。中國社會主義公有制的建立確保了國家對技術的掌握與利用技術增加人民福祉的可能性與現實性,而AI技術的未來也應是掌握于人民之手、服務人民。同時為了防范1%的人利用AI技術實現人機一體化,不僅控制財富與權力,而且通過基因技術讓自己從壽命、智力、身體機能等各方面全面碾壓剩余人群,享有最全面的人權,而剩余的99%變成無用階層,政治層面的“大同世界”確有必要建立,讓所有人都有平等機會享用新技術發展帶來的利益。中國所提出的人類命運共同體理念就是要在全球建立共治的并行架構,讓技術為全人類利益服務,中國的高鐵、5G等技術正為世界人權的發展提供強勁動力,這也是我們未來為人工智能發展貢獻的中國方案,也可以說是AI發展的遠期路徑規劃。