欲望、理性與真實：科幻電影中的人工智能倫理問題

□馬珊珊　焦明甲

人工智能技術話題近五年來廣泛活躍在社會不同領域，它越出科技圈，正在真實且快速地滲入普通中國人生活中，并引起了人們對人工智能（Artificial Intelligence，簡稱AI）的多方面探討。科幻電影通常是大眾接觸和了解AI的最便利途徑，這里也是許多專家對AI展開天才預測和想象的前沿地帶。在科幻電影所構建的“超真實”世界圖景中，圍繞AI倫理問題所產生的爭論往往變得更自由、集中、激烈和尖銳，容易觸碰到AI倫理問題的核心和最實質部分，這正是科幻電影對現實人工智能技術的最大警示價值之所在。

科幻電影在較深的精神層面凸顯了AI科技發展所造成的當代人倫理困境。AI題材類電影故事的展開通常圍繞著“人與機器人二元對立關系”主題，但實際上就是關于當代人自身問題的對立、矛盾、斗爭和解決，是人心靈世界內部的遭遇在當今科學世界籠罩下的折光。科幻電影中塑造的AI“他者”形象實際上是人類的映照。影片中的機器人為人類所創造、控制，當它擺脫服務者角色展現出驚人的“自我意識”后的所作所為也只是對人類的模仿和特寫。我們看到，科幻電影最樂于展現的就是后一種令人憂慮的情況：“超級人工智能”的實現，帶給人類社會巨大風險。①雖然超級人工智能還只是電影想象，但是自從AI誕生之日起，關于AI是否會超越人類智能的爭論就從未停止過。至今來看，任何專家的觀點都只能看作是一種猜想。也許我們不能阻止AI向人類智能無限迫近，但合理認識并解決智能社會中人自身的困惑和焦慮，進而正確引導尚不成熟的AI趨利避害地發展，卻大有可為。

一、智能社會：在欲望和理性之間

馬克思說：“各種經濟時代的區別，不在于生產什么，而在于怎樣生產，用什么勞動資料生產。”②我們身處的時代同以往相比已有了巨大不同。科學技術不僅是當今時代最大的生產力，也成了我們的一種基本的思維方式、生活方式。科技日益朝著智能化、人性化和親民化的方向發展，人與科技之間的關系更為密切且復雜。現代人身處的是一個智能社會，人的日常生活被各種智能產品環繞著：無人駕駛、人臉識別、智能藥丸、微軟小冰、高考機器人等。這些幾乎無所不能的智能產品是科技奇跡、人間奇跡，是人的認識理性和實踐理性所取得的空前成就。尤其是近年來在人與AI的競賽中，AI一次又一次的勝利彰顯著科技理性力量之強勁。千年來，自蘇格拉底、柏拉圖直至黑格爾，西方傳統哲學對啟蒙理性的強大信念，是這個理性化、祛蔽化的智能社會的基因和底色，然而對理性趨之若鶩和盲目驕傲必然會使原本作為目的之理性產生質變——工具理性裹挾著現代人走向了幸福生活的反面。

“智能社會”本身就暗含矛盾。它是“充滿智能機器的社會”與“人類的社會”的結合體。但機器與人類作為兩種本質及其屬性絕然不同的存在，二者的結合必定是極其復雜和充滿矛盾的過程。事實上這種矛盾早已暴露端倪，在AI產品不斷更新換代的過程中，人與機器之間早已不僅僅是使用者與服務者的主仆關系，而是發生了機器不可思議的勝利、人過度依賴機器、機器意外“主動”傷人，直至催生出科幻電影頻頻上演機器主宰、奴役人的恐怖想象。AI本是人類為實現更美好、更理性生活的偉大發明，但在一次次突破人類能力的勝利中，科技理性卻成了滿足人類欲望的借口。理性被囚在欲望牢籠里喪失本性，欲望卻挑著文明的幌子肆無忌憚。

人不僅是萬物之靈，電影中的人類還是掌管著比人類自己更高級的物種。而這種借助科技理性控制一切的權力，必定是集中在少數有權有錢有智的精英手中。我們看到，在電影中被AI奴役的人，乃是現實中的剝削者。他們借助神奇的AI，將理性之繩編成欲望之網覆蓋在更多普通人身上，人與人之間的矛盾變得更加隱秘和復雜。AI作為一種高科技、高消費產品，在它成為消費社會新賣點后，就成為又一種新型文化區隔工具。大多數沒有AI、不懂AI和不使用AI的人就更容易被邊緣化，被區隔在主流社會之外，進一步加重了社會兩極分化。當人越來越愿意相信機器，也就不愿意相信人，因此我們變得日益輕率、冷漠和自以為是。

畸形的人類欲望在電影中的超級AI面前暴露無遺，人也不斷遭受著欲壑難填之苦。《機械姬》中的漂亮機器人成了滿足肉體欲望的工具；《人工智能》中機器人實際上是去世親人的復活，教人逃避死亡；《她》中男主人公利用虛擬女友逃避現實中的正常人際交往。以往那種只會吃苦耐勞的機器人并不能令人感到滿足，出于各種商業、政治、戰爭目的，AI產品層出不窮，不斷刺激著人全身心的各種欲望。欲望像幽靈一樣出沒于我們的心靈之地，一個個更先進、更智能的AI消費，只能暫時填補欲望之壑，其實心靈早已困頓不已，不堪一擊。《她》中的主人公沉溺于虛擬智能世界，難以適應現實社會。現代版的洞穴之喻表明，我們不再害怕黑暗的虛幻之物，卻害怕面對現實的光明。電影中的超級AI不僅僅是幻相，它真實表明了現代人早已不再滿足于冷冰冰的科技產品，而是想發明一種像人的玩物來滿足私欲，自己去扮演全知全能的上帝角色，不用承擔現實責任和原罪詛咒。

二、我們真正想要的是什么？

圍繞著人與AI機器、人與人、人與自身之間的三對矛盾展開的故事情節既是科幻電影最引人入勝之處，同樣也是現實社會中人工智能倫理問題的聚焦點。回到智能社會本身，我們去反思AI的發明和制造本來是為了什么呢——我們是想追求一種好的生活（Good life），一種智能機器與人類友好共處的文明社會。

智能社會不是虛擬社會，我們想要的是真實的生活世界。盲目追求科技理性的生活方式，迷失于過度消費的圈套里，我們就會忘記生活的本來面目，不知不覺中過一種“假的生活”。自20世紀以來，特別是現象學打出“面向事情本身”的大旗，人們對科技理性、工具理性的反思和批判就從未休止過。在某種意義上，智能社會正是這樣一種無處不以數字量化來顯示其存在的社會。監控一個井蓋、記錄一輛車的軌跡乃至透視一個人的心思，幾乎任何實體AI都能以簡潔無誤的數字全方位展現給我們。但真實的人類社會不是這樣，人類社會是一個生活世界，人作為生活世界生生不已的力量源泉，是存在先于本質，AI則相反。人是主動的、生成的、創造的、超越的，有生命力的，相應的生活世界是變化的、豐富的，是高于科學世界的。完全以科學世界那種量化方式作為生活方式和思維方式，就會喪失人的主體性和能動性，幸福生活將變得不可能。只有反過來，以生活世界為起點，才能更合理地解釋、理解以智能社會為代表的科學世界。人運用AI，不是為了自保和延續，而是將其作為生活幫手，把人從日常雜多質料中解放出來，更好地發揮創造性，使人有更多閑暇享受生活樂趣和智能社會的便利。

智能社會不是精英社會，我們想要的是每個人自由而全面的發展。智能社會要解放的不是少數社會精英，而是大多數普通人。AI也許會是社會文化區隔的工具，但在斗爭的另一面，人與人之間的矛盾在智能社會中也可能會發生微妙變化。特別是當人和AI的矛盾日益明顯時，就更加凸顯了人與人之間友好交往的必要性。因為人不是AI，人的本質必須是在社會實踐中形成，生活意義的建構也必須來自主體經驗的體悟。只有與人相處（而不是機器），去體驗社會，我們的生活才會更開朗，對生活的記憶才會更深刻，生命的狀態才最自然，幸福的感覺才最親切。我們歡迎更加文明的智能社會的到來，而這樣的社會應該是更注重人與人之間的友好對待關系，更注重社會的公平和正義。

智能社會不是享樂社會，我們想要的是真實的快樂。家務機器人、助老機器人、兒童看護機器人、寵物機器人、性愛機器人等各種新奇的AI產品不斷刺激我們的消費欲望，這些AI在一定程度上免除了身體勞累之苦，滿足各種感官快感。人們常把這種享樂當作伊壁鳩魯式的快樂，但是快樂在伊壁鳩魯那里除了肉體無痛苦外，還更注重心靈無紛擾的狀態。因為純粹的肉體快樂乃是消極快樂，能夠克服人為制造出來的欲望才是真快樂。在智能社會中，真實的快樂絕不會僅停留在感官層面，必定是來自于人精神的充實和寧靜。在這樣的社會中，人能坦誠地面對人之為人的局限和不完美，不被欲望奴役于消極快感中。人就是要過一種理性的生活，一種不偽裝的、人的生活而非神的生活。只有克制欲望，回歸人的理性，才能真正感受智能社會的美好。

三、我們自己的解決方式

智能社會的發展還存在許多矛盾和問題，但是人工智能大潮作為必然態勢已迅猛席卷全球，世界主要發達國家紛紛搶占AI灘頭陣地，美國、德國、英法等均在國家戰略層面制定人工智能發展規劃，競相加大對人工智能的投入力度。我國在2017年出臺的《新一代人工智能發展規劃》明確提出要在2030年搶占人工智能全球制高點。改革開放近40年，身在中國的每個普通人都深刻感受到祖國的巨大變化，真切感受到了智能社會對人日常生活的廣泛影響，不僅享受AI帶給我們的便利，另一面也為其所擾。中國人工智能偉大實踐的大步邁開，離不開其背后相應理論的有力支撐。而這樣的立論支撐必定來自屬于我們自己的民族理論。哲學作為時代精神的精華，作為理論思維的制高點，必須勇于迎接問題、解決矛盾、引領和升華我國人工智能實踐發展。早有學者指出：“在科學家族中，沒有一門學科比AI與哲學的關系更密切……許多沒有出路的AI研究，只是因為對哲學家昔日的時代一無所知，才得以維持。”③因此，人工智能問題絕不僅僅是一個技術問題，它本質上是當代人自身的對立、矛盾、斗爭和解決。這就決定了人工智能問題是除了科技界，還必須要哲學等人文學科參與進來，一起對待的問題。

世界上每個國家對AI的體驗感受和對待解決方式是不同的，我們必須要用自己的理論去發現和解決自己的問題。執古之道，以御今之有。傳統哲學特別是中國哲學中尚有許多可挖掘的寶貴資源可供今人借鑒。老子的辯證思維就為我們提供了一種較為開闊通明的精神境地。老子說：“禍兮，福之所倚；福兮，禍之所伏。孰知其極？其無正。正復為奇，善復為妖。人之迷，其日固久。”④古人看到了事物中矛盾對立的雙方始終是相反相成，相互依存轉化的關系與發展過程。但是人們常常被糾纏著的現實表象所迷惑，無法超拔于事物本質中去做全面、辯證的認識，陷入片面、僵化的認識之中。今天多數人對智能社會、人工智能技術的到來歡呼雀躍，忽視了福禍相依、得失相隨、否極泰來的樸素道理。面對人工智能時代到來，我們要清醒看到，智能社會中的得與失始終是合為一體，相互關聯著的。當AI代替我們去照看孩子、老人，我們也就難以見證和體驗生命的成長和衰落；當AI精確圓滿地替我們完成日常生活，我們的生活沒有事故也沒有了故事，避免了錯誤也不再用反省，無需自己去解決問題就不會有提高，沒有缺陷的生活也便沒有了追求和希望。對任何事物，始終保持辯證思考，就是老子留給我們的最大智慧。

智能社會出現的種種矛盾，本質上都是人的欲望與理性之間的對立和矛盾。在亞里士多德那里，欲望本屬于非理性部分，但是也可能與理性有關，那就是克制欲望。克制欲望，回歸理性，始終不忘形而上的東西，也是老子反復提醒人們注意的地方。當我們歡送物質幸福時代過去，迎接精神豐富的新時代來臨之時，還應該始終注意物質生活與精神生活平衡發展。智能社會的提出，顯然適應了多數普通人追求精神文化生活的時代需求，但是許多AI倫理問題正是出于人過度的精神方面要求。老子講的“虛其心、實其腹，弱其志、強其骨”所針對的正是人的這種“為目不為腹”的過度精神欲求。富貴而驕，自遺其咎。在我們奔向更高水平的小康社會時，要時刻注意精神生活的適度和平衡，保持精神追求的向上性，減少不合理的精神欲求。

四、余論

“人類在走向未來，哲學也必將走向未來。未來導引現實是自由自覺人類發展的本質規定。”⑤未來智能社會和AI技術會發展成何種境況還很難預測，但是想象天馬行空的科幻電影給了我們一個很好的討論視域和平臺。理論研究者特別是人文學者，更應該具備超前眼光和豁達胸懷，勇于為社會未來發展做出警示，規避風險。

科幻電影中的AI夢魘，其實是人類害怕比自己更高級、更接近神性的智慧物種的主宰。人只有充分認識了自己，正確理解了自己的矛盾，合理解決自己的矛盾，才不會對外界許多新的事物和日益強大的AI感到焦慮。可以預見，在可見的未來，無論怎樣發達的智能社會，最智能的、最具智慧的終究只有人類自身。人作為一種“超物之物，超生命的生命，超自然的自然存在”，就在于其具有其他物種所沒有的自覺之精神。智能社會，絕不能是人的精神創造性和超越性被扼殺的社會。黑格爾說：“人既然是精神，則他必須而且應該自視為配得上最高尚的東西，切不可低估或小視他本身精神的偉大和力量。”無疑，人必須要依靠人（而不是依靠機器）的智慧，相信人的精神力量，才能朝向智能社會的美好未來走去。

注釋：

①所謂超級人工智能，實際上就等同于人類智能，甚至遠超于人類智能。

②馬克思恩格斯全集（第23卷）[M].北京:人民出版社,1972:204.

③[英]瑪格麗特·A.博登（Margaret A.Boden）.人工智能哲學[M].劉西瑞，王漢琦 譯.上海:上海譯文出版社,2006:486.

④[魏]王弼,[清]魏源 注.老子道德經[M].上海:上海書店出版社,1986:35.

⑤高清海.高清海哲學文存·續編（第三卷）[M].哈爾濱:黑龍江教育出版社,2003:254.