王洪喆:上篇的討論使我產生一個感覺,套用《三體》的情節,今天的確有一個東西被“鎖死”了,不是自然科學,也不是人文精神,恰恰是政治經濟學。當代政治經濟學在處理信息時代的問題上推進很有限。今天要去重新激活人文精神,討論智能技術的未來與現代主義、社會主義和資本主義的關系,作為基座的政治經濟學就必須要發展。有人說,我們今天能否把某項技術先停下來?這是有先例的,克隆技術“多利羊”誕生時,真的引發了廣泛的討論,克隆人也確實停了下來。但它是怎么停下來的?不是只從宗教和倫理問題出發說不要克隆技術,而是有人文和政治經濟學學者介入了技術發展方向和可能性的辯論。討論的結果是,胚胎干細胞可以繼續研究,但沒有必要造克隆人,克隆人的社會后果是技術所不能應對的。因此,某種新技術要不要或能不能停下來,取決于是否能對技術路線的社會構造(techno-social)有一個介入性的討論和干預,必須是人文社會科學和工程學相結合的討論,僅僅講舊的政治經濟學,或僅僅講人機對抗,這兩種路線恐怕都是無效的。人是一切社會關系的總和,我們今天面對人與機器的命題,是否有能力把它轉譯、還原成人與人之間的社會關系、不平等的技術起源問題,這是人文精神、政治經濟學和科技研究的交叉才能把握的?,F在是技術的社會創新和應用蓬勃發展,但相關的研究很滯后。如何才能對這些技術化進程背后的生產關系和社會關系變遷有整體把握,就需要政治經濟學與科技研究的深度結合。
王東賓:上世紀九十年代討論人文精神,是在人文精神面對市場經濟挑戰的背景下進行的。對應今天在人工智能的背景下討論新人文精神,上一次討論還是在人類物種范疇之內的。如此,今天的討論應該把“新-人文精神”這個詞重新斷一下,就是“‘新人-文精神”,“人類”與“后人類”時代之間加一個“新人”,這樣可能更契合主題且更具啟發性。人工智能時代提“新人”,是因為人類歷史上第一次對“人”這個物種范疇產生了懷疑,而且高度警惕乃至悚懼這一物種范疇邊界的打破。過去“人”的邊界十分清晰,“人乃萬物之靈”。而基因技術打破這種邊界,一下子失去對人與萬物邊界的控制。失控的情況有兩種:一種是知道它是什么但控制不了,另一種是不知道是什么而失控。人工智能過了臨界點(“奇點”)之后的世界是什么樣子,為未可知且難以想象,這個才讓人恐懼。
且不討論人工智能未來在智能上能否超越人類,有一點就足以擊潰人類的自信。全世界人類聯合起來,尚且是一個遙不可及的夢想,然而必要時“全世界機器人聯合起來”大概瞬間即可實現。別說跟機器人玩對抗,人類內部聯合起來都還達不到,可機器人瞬間突破了所有人類合作的局限性和劣根性,盡顯人工智能的“高明”之處。這是人工智能對人類自信的第一重挑戰。
第二重挑戰來自倫理層面。我認為討論人工智能時代的新人文精神,首當其沖的就是倫理問題。當人類給機器人立法時,第一原則是要求機器人任何情況下都不能傷害人類?;仡^來看,為何人類可以傷害人類,作為“人造物”,一旦邁過奇點,人類在倫理水平上已自慚形穢。
當然,人類總是在自信的沖擊中涅槃升華。當人與人工智能不斷比對時,雙方在倫理水平、道德水平上的差距反而是對人類的一種有力刺激。現實中,作為一個社群概念的人類往往是讓人很絕望的。人工智能的危機到來還稍遠點,還存在想象的時空,但人類作為種群,幾乎天天面對生存壓力、人口壓力和環境壓力這些實實在在的全球化難題。如此一來就會發現,人工智能作為一面鏡子,會成為一種鏡像影射人類社會現存的問題,有利于促進我們更深刻地反思人類的困境,包括經濟、社會、環境的困境,亦包括倫理、智能的局限性。在這一面鏡子前,“新人”或已若隱若現。
當把視角重新拉回到人類作為社群概念時,我們會發現,所有人工智能對應的是“無人”—“無人機”“無人駕駛”等。本來還有所謂“高科技無產階級的形成”,而進入人工智能時代,似乎連成為無產階級的資格都失去了。這時就出現一個巨大的困境:不僅中產階級趨于消失,成為無產階級似乎也求而不得。人工智能包括大數據、云計算在內都是需要巨量投資的領域,亦是巨富云集的領域?!皵底著櫆稀毖芑癁椤爸悄茗櫆稀?,進而形成“財富鴻溝”?!傍櫆稀钡牧硪恢貎群褪请A層固化,難以逾越。不少討論是關于對抗時代人類的逃亡問題,那么最直接的問題就是人類不平等,關鍵在于諾亞方舟的船票即使是三等艙,何人能支付得起?女王的狗和窮人誰逃誰留?
再往現實走一點,就是人工智能的“產權”問題:誰控制人工智能?當人工智能成為一個“種群”前,還未形成自我意識的時候,這個風箏的線掌握在誰手里?于此階段,人借助人工智能控制人,這才是我們需要考慮的更直接的大問題,也就是做無產階級而不可得的困境,無論從經濟上還是從人的價值上。
這種背景下,就要從人與人工智能的對抗思維回到馮象老師提到的一項經濟政策:基本收入。無疑,人工智能的時代會大幅度削減工作崗位,盡管沒有削減工作本身。人工智能將一定程度上改變勞動邏輯:人的神圣性與勞動和工作之間并不存在必然的聯系,人工智能讓我們發現其實人的存在本身就具有神圣性,就具有存在的價值。人工智能可以解放勞動,人可以不經由工作獲取收入而可以更全面地發展自己,進而從事更具創造性的活動。換言之,更高形式的勞動。這個邏輯就需要基本收入政策的支撐。當你有基本收入支撐時,你可能迸發出更為豐富的想象力,有足夠的時間思考人文精神和倫理價值。其中,包括將來怎么控制人工智能,怎么實現對人工智能的超越,怎么讓人工智能更好地服務于人類。從這個角度來看,人工智能時代的基本社會經濟政策就是基本收入,要實現這項基本政策的話,就要重構資本、產權、市場、經濟手段和經濟運行模式等方面,需要社會體系思維方式的整體變革。這也是我們今日討論新人文精神的價值所在。
羅崗:剛才東賓講的新人-文精神很重要,他在“人”和“后人類”之間加了一個“新人”,恰恰因為人工智能、基因技術等新技術的出現,使得人們被迫在一種非人類中心主義的體制下思考人的本質是什么,被迫反思人是何種存在以及這種存在與機器處于怎樣的關系。所以這個“新”有點像動詞,“更新”了對人的理解,逼迫人類對人進行“重新理解”。
戴錦華:說新人,很自然對應著舊人,舊人就是我們現在說的人。所以不光思考人類面對人工智能的問題,不光是思考所謂的未來,不管是近未來還是遠未來,還要思考歷史,主要是二十世紀歷史。
歷史,尤其是現代歷史如此清晰地建立了人類中心的位置,如此強烈地要替代上帝或至高無上的神的位置。把人放在這個位置之后,也就攜帶著這樣的想象,即用什么樣的手段可以創造更好的人類。對于我來說,這是沒法處理的,大概也因為在歐洲批判主義和后結構主義的脈絡中你很難處理本質性的命題。我無法把握其本質的概念卻始終在不斷地形塑,我覺得我現在已經倒退回ABC,每天在課堂上講趨利避害是人性,舍生取義也是人性。在這個意義上,我們談新人,因為“后人”是如趙柔柔說的建立在與“人”相對立之上的,而“新人”在所有的語詞文化歷史傳統中,都是比“人”更完美、更完善的自我。我們講這樣的“新人”并通過它重新回到人與人的時候,無法回避的是人類整體提升和人類不斷墮落這樣一個不斷循環、彼此矛盾的參照系統。我沒有辦法繞開人性的深淵,它深不可測,在二十世紀展示得夠清晰了,二十一世紀還在繼續展示。
吳子楓:新人的問題還涉及新的反抗政治或新的政治空間。今天的技術發展,使得我們這樣的實踐不大可能在一個民族國家內部來構想。目前人工智能和互聯網的發展越發召喚人們,必須要有一個康德所謂的永久和平,這個永久和平要求人類有一個普遍意志,它不可能局限在一個民族國家的內部。
羅崗:“新人”是資本全球化所創造的,有理論家稱之為“諸眾”?!爸T眾”的內涵很有彈性,既包括所謂“高科技無產階級”也涵蓋如“失地農民”、非法移民等“棄民”,而如何釋放“諸眾”的政治能量,也涉及大家討論較多的社會基本收入和全球薪資權等問題,甚至直接與“大同世界”也即共產主義的構想有關。
王洪喆:我很質疑“諸眾”論述的政治經濟學基礎。這一構想的自治(自動)主義與二十世紀的革命政治有很大區別,新的路線擱置了先鋒黨和文化政治,質疑文化領域斗爭的必要性,把二十世紀階級分析的方法、斗爭策略、組織原則、屬于工業時代的解放訴求當作陳舊、笨重的觀念敬而遠之,認為新的技術和普遍智力協作的釋放,加上社會財富的極大豐富,“大同世界”遠景就會自動到來,這是我比較懷疑的。
社會財富是否會在近未來極大豐富,這個問題也需要考量。比如像里夫金“零邊際成本社會”的說法建立在新能源取之不盡、用之不竭的基礎上。短期來看,達到零邊際成本的僅僅是精神產品,如電影拷貝可以被無限復制,但精神產品也需要物質技術進行制作和播放,比如手機;即使VR普及了,也需要大量自然資源生產VR設備。對于物質產品而言,能源和環境承載力的限制,使得其難以實現零邊際成本。比如坐一次飛機,技術再先進,消耗的能源都是巨大的。馬克思早就提示,資本通過投資技術升級來生產相對剩余人口,同時也要制造出相對貧困。那么相對貧困的持續再生產面對資源的絕對有限性,如何讓那些已經占有財富的人,把他的財富吐出來,實現足以支持人自由發展的全民基本工資呢?我覺得在比較近的未來,如果缺少整體性的政治化進程,這樣的前景是很難想象的。
利求同:新型人機關系還會引發一個不可忽視的問題,即市場中信息極度不對稱的固化。主流西方經濟學把供求雙方信息掌握的不對稱現象,看成是隨機發生的,誰強誰弱,因人因事因地因時而異。這種信息不對稱的隨機性,為供求博弈的效用跟合理性,以及自由競爭等一系列經濟學基本假設提供了理論支持,是市場經濟的一塊基石。可是,人工智能依托大數據,給人們生活帶來便利和舒適的代價,卻是不可避免地扼殺了信息不對稱的隨機性。智能時代,因為高端技術對人力、物力和政治力量的依賴,信息優勢自然集中到了政府和商業巨鱷等強勢集團手里,公眾和弱勢群體就成了透明體,毫無議價能力的數據提供方。一個固化了的信息不對稱的經濟體里,是沒有公平可言的,任何市場競爭都不可能有序,而維持法治。事實上,信息優勢如果形成了壟斷,信息不對稱的隨機性便無從談起,市場經濟的意識形態基礎也就被掏空了。所以,有大局觀和長期戰略的企業家如馬云,也意識到了人工智能的歷史作用不是別的,正是做市場經濟的掘墓人(參見拙文《大數據智能時代,醫改何處去?》)。
羅崗:這就是比爾·蓋茨說的“無摩擦資本主義”,本來資本主義會有損耗,但大資本現在掌握了大數據,讓它變得無損耗了。
王東賓:信息不對稱確實會使消費者變得更加弱勢,因為他們對平臺后臺信息的了解幾乎為零,而消費者對于平臺來說相當于透明人。這種情形下就不存在競爭的問題,市場就完全失效了,平臺可以點對點定價,根據掌握的充足信息給不同人定不同的價格,消費者剩余完全由平臺方獲取,這就是平臺經濟信息不對稱導致不平等的潛在威脅。然而,悲觀中也有樂觀,當前的這種信息極度不對稱,其不平等程度遠遠超越十九世紀,所以有可能迸發出新的革命動力,比如“點”共產主義或數字共產主義的誕生。博士階段我曾經從游擊隊、群眾路線的角度來研究“開源”的發展史?!伴_源”的操作系統比微軟的操作系統晚十年左右,當時微軟等大型廠商試圖壟斷技術市場,一部分工程師或專家想突破它的壟斷,尋求新的產業制度安排,所以“開源”模式誕生。“開源”正是在發展態勢嚴重不平衡、一方形成絕對優勢的情況下迸發出的革命性萌芽?!伴_源”作為一種機制或新的產業安排,經過近二十年的發展,到二○一○年前后呈現出超越“閉源”操作系統、獲致技術優勢的趨勢,例如目前絕大多數超級計算及操作系統全部是用“開源”的系統,互聯網巨頭—如亞馬遜、谷歌等—它們的操作系統、技術系統也都是“開源”的。在這種斗爭中,劣勢方突破的方式就是尋求“開源”開放,通過新的產權和制度安排去尋求弱者聯合起來的動力源。它恰恰是在不平等加劇、一方存在絕對優勢的態勢中所迸發出來的新的數字革命或“點”共產主義革命。
趙柔柔:我對有一些討論還沒有完全把握住,想作為問題提出來。信息不對稱其實形成了一種絕對的不對稱性,但這也許反而帶來了相對美好的前景,可以在極度不對稱的情況下迎來徹底的變革。比如王東賓以“開源”為例,指出新人在新的動力機制下出現是可能的,但我的困惑在于,這種新人在這種信息極度不對稱的狀況下怎么進行動員?他們怎樣才能政治覺醒進入新的組織形式?怎樣才能夠使依托新的組織形式的政治成為可能?他們如果能夠反抗,那反抗的動力和起點可能是什么?我能想象的就是回到舊的人道主義,就是保護隱私,覺得我們的隱私受侵犯了,所以要對抗。但就我周圍的人來講,他們并沒有覺得自己的隱私被侵犯對他們來說是種傷害,他們覺得無所謂,用我的隱私好了,沒有什么問題。我不在乎會引發什么更大的問題,我拿到既得利益就好,這種情況下怎么辦?
王東賓:“開源”作為一種機制,實際上失敗率比較高,大量的“開源”項目還沒有成長起來就已經死掉了,因為人與人之間的合作、信任是很難的問題,比如有人會將“開源”項目據為己有、不再公開。但“開源”至少保證了一點,作為一種可能機制,它向全世界公開,任何個體或組織能夠通過它去實現自身價值。而這個代碼在網絡世界開源之后,日積月累將形成一種生態系統,能為幾十萬人、幾百萬人的小國家提供獨特的系統,形成多樣性的、有價值的東西。所以說,開源作為一種現象—而非一種組織—很難被消滅,即使被“收編”了很多,但它還能茁壯成長。或者說,“星星之火,可以燎原”。
九十年代前后,“開源”還處于游擊隊狀態,然而到了二○一○年,它已經“從西柏坡走出來要進北京了”,成為正規軍了。這時候,它的力量已經強大到可以與微軟抗衡,而且自身也受到資本很大的誘惑,但它還可以堅持基本路線。為什么呢?因為它用產權把自己捆住,正如尤利西斯,“開源”用產權邏輯逆轉了產權邏輯,可以抵制住“海妖”的誘惑,使得“開源”代碼很難再回到私有產權的封閉狀態。這是開放的產權邏輯,當然它的倫理邏輯、理念邏輯依然存在,需要不斷地回顧與詮釋。這就是為什么時至今日,我們要依然回顧九十年代“開源”剛剛誕生時的哲學和理念,乃至進一步把這個哲學和理念一直追溯到五十年代計算機剛剛誕生時,那一批科學先哲們倡導的開放、共享、合作的理念。這種哲學與理念上的資源,一直存在于“開源”應用里面。需要注意的是,人工智能也產生于同一時代。這個視角也可以回應,為什么一九九三、一九九四年討論人文精神,過了二十年之后我們還要深刻討論新人文精神:人類不可能一勞永逸,需要不斷革命,才能不斷超越自身的局限性。
王行坤:其實資本想不斷逃離勞動來擺脫對勞動進行管理的任務,以便輕松獲取剩余價值,所以資本家更愿意當金融資本家,而不是產業資本家。金融資本可以說是資本逃脫勞動或者對抗勞動的一種形態,而智能的機器體系則可以說是資本真正擺脫勞動的一個潛在因素。所以只要成本允許,資本家更有意愿去發展更為智能的機器體系。我們可以想象一下,如果真的實現完全的智能化、自動化,不需要人類任何的勞動就可以創造出財富來,馬克思所說的勞動價值論還有效嗎?到底是什么在創造價值呢?當然在當前情況下還不太可能,還是需要勞動。但人的勞動所創造的價值,和整個智能機器體系所創造的財富相比越來越顯得微不足道,這樣造成的結果是什么?是大多數人被排斥出生產體系,越來越成為多余的。在《政治經濟學批評大綱》中,馬克思看到未來財富的尺度是所有個人的發達的生產力,而不再是直接勞動或勞動時間,從而看到了共產主義的可能。所謂個人發達的生產力即是個人在各方面的發展,成為“社會個體”。這的確可以更新我們對“人”的理解。但問題是,那些多余的人如何成為“社會個體”?那些留在智能機器體系以及服務業的人,一方面的確像意大利自主論者所說的發展了自身的“一般智能”,但另一方面,他們被資本所吸納的不光是體力勞動和腦力勞動,同時還有情感和精神,也就是說今天存在的不光有勞動異化,同時也有情感異化。資本增殖所吸納的要素越來越多,或者說資本增殖的手段越來越多。在這樣的情況下,勞動者怎樣組織起來去面對資本?怎樣談個人的解放?這是一個大問題。
王洪喆:這恰恰是勞動價值論需要被重新認識的方面。之前的馬克思主義分析方法忽視了技術路線斗爭本身是勞動價值分析的一部分。資本吸納和剝削勞動者,勞動者要反抗,所以自動機器體系的路線是要不斷把活勞動排除出去。但馬克思提示我們,其實工人和機器一樣,是“現代的產物”,是資本主義同時創造了“新人”和“新機器”。資本主義為了應對工人的反抗,寧愿通過自動化再把自己制造出來的工人排斥出去,這就造成了生產力的巨大浪費。因此在一種非剝削的經濟體或共同體中,其實更有效率的技術路線反而是人機結合的,不是排斥人的技能,而是通過機器把人的能力進一步激發出來的路線,用諾伯特·維納的話說“像人一樣去使用人(human use of human being)”。
所以今天要破除一個迷思,認為人類的技術進步在各個方面很均衡。其實不是這樣,恰恰是因為選擇了一條把勞動者排除出去的路線,所以人工智能、機器學習和大數據獲得大量投入。然而維納早在五十年代就設想的控制論最能讓人類社會受益的領域,即不同通訊系統之間的溝通,在機器系統和生物系統之間的接口技術,并未獲得大的進展。維納曾經致力于研發讓工傷工人恢復勞動能力的“波士頓手臂”,還有將觸覺信號轉換成聽覺信號、讓聾啞人重新獲得語言能力的“聽力手套”,這些項目因沒有更多的資源投入紛紛擱淺。錢學森也曾經提出,通過技術增強人的能力和共產主義設想是相通的,不就是人的全面發展嘛。
吳子楓:我很贊同洪喆的觀點,我們文人學者討論人工智能,不能從純技術的角度,而更應該從技術路線斗爭的角度來展開。在討論人工智能和技術問題時,應該同時反對兩種傾向:一方面要反對唯科學技術論、唯生產力決定論,這種工業黨的觀點相信技術的發展可以自動地帶來一個好世界;另一方面要反對對科學技術的浪漫主義批判,這種浪漫化的人文主義觀點把科學技術的進步本身當作是社會危機的源頭。相反,我們需要在歡迎和支持科學技術發展的同時,強調生產關系對生產力的優先性,這就包括強調技術路線對技術本身的優生性。
戴錦華:目前社會上占據主導的是最廉價、最古老的發展主義信念,我們堅信技術問題由技術解決,發展問題由發展解決。在這種情形下我們會冒進,會把所有新技術提供的可能性,在未經任何準備和考量下去采用。對于我來說,不是技術本身提供的可能性,而是它可能帶給我們的問題,我們是真的完全不經抵抗,不做準備,沒有任何質疑的。這種面對所有的臨界突破時的無知、勇敢、愚蠢的狀態,剛好是整個二十世紀歷史的成就或者遺產的負面應用。所以現在特別危險,別說快車道超車,我們繼續駕駛會出什么事都不知道。
(上下篇整理者:楊宸)