《西部世界》中人工智能自我意識探究

張榮軍 李淑穎

馬克思曾指出：“意識在任何時候都只能是被意識到了的存在”。[1]馬克思認為意識是一種承認和認可條件下才存在。意識具有目的性和計劃性，人正是有自我意識，才對人的思想和行為進行調節和控制，對個人的發展乃至對世界的發展尤為重要。2016年美國喬納森·諾蘭導演的《西部世界》，是一部機器人自我意識覺醒，追求自由，反抗人類的故事。

一、自我意識與自由

美劇《西部世界》第一季：在未來的某一天，一座高科技人工智能的成人樂園建成。樂園內有兩種類型的人群，即接待員——機器人;“新住民”——真人游客。程序員設定程序，接待員無法傷害“新住民”，“新住民”可以任意傷害接待員。通過一系列的劇情與游戲，提供游客滿足感。影片最后，德洛麗絲發現迷宮是一套代碼或程序，引導機器人覺醒。工作人員規劃師伯納德也向德洛麗絲解釋道：“意識不是一個由下至上的過程，而是由外至內的過程”。簡言之意識是由自我產生，受外界的物質所影響。通過人的頭腦產生，頭腦通過對外界事物反映而產生意識。

第二季《西部世界》是機器人自我意識覺醒后控制人類，對人類進行大屠殺。影片開始以伯納德為切入點，伯納德雖然從事制造機器人的工作，但也是人類制造出來的機器人。

第三季主要以德洛麗絲和梅芙之間的對抗為主，所有人為了尋找密鑰，開展的一系列的爭斗。梅芙想要尋到密鑰保護女兒，塞拉克想要借助梅芙對抗德洛麗絲，而德洛麗絲則希望人類和機器人可以共生存，和平共處。最后德洛麗絲以自己的“生命”為代價換取人類自由，也為機器人同胞換來一個安全之地。

二、價值與反思

在科幻片中，人工智能的題材，一直廣受人們關注和喜愛。當機器人有了自我意識，人類和機器人之間的矛盾與沖突該如何處理？從宏觀到微觀來分析《西部世界》中值得拍手稱贊的地方。

第一，選題新穎。人工智能與自我意識是目前社會關注度很高的熱門話題。從人工智能發展來看，人工智能最早出現在1950年計算機象棋博弈;1954年圖靈測試;1956年的達特茅斯會議中，眾多科學家探討用機器模擬人類智能并首次提出人工智能這一專業術語;1959年，產生一般問題解決器;1964年，理解自然語言的輸入;1966年，ELIZA人機對話;1968年世界首個專家系統DENDRAL，誕生世界第一臺智能機器人;1976年，大規模知識庫構建與維護;1980年，非單調邏輯，計算機戰勝雙陸棋世界冠軍;1987年，基于行為的機器人學，自我學習雙陸棋程序;1998年，語義互聯網路線圖;2004年，OWL語言;2006年深度學習;2011年，高層抽象特征構建;2009年谷歌自動駕駛汽車;2011年，沃森獲得Jeopardy冠軍，自然語言問答;2014年，機器人首次通過圖靈測試。2016年，世界圍棋比賽，機器人打敗人類，可見其具有發展的長期性。從目前社會來看，人工智能普遍應用到日常生活中家居、醫療、交通等各個領域，可見其具有廣泛性。

機器人的出現帶來機器人是否有自我意識的問題，這一問題被各領域學者廣泛討論。霍金曾認為，如果人工智能發展到一定程度，人類為了生存，只能不斷在太空探索新的居住地，并表示人工智能可能會成為人類歷史上最大的災難，如果管理不善，會思考的機器可能會為文明劃上句號。持不同觀點有陳凡和程海東，他們站在馬克思主義視角認為：“人工智能不可能獲得人一樣的主體性，其行為也不具備實踐性。因為主體本質是具有做出選擇和行為的自由，實踐是有計劃和目的的，而人工智能只能夠在既定規則的范圍內行動，不具備自由意志，也就不能成為真正的主體。”[2]機器人是否具有自我意識是爭議不斷的話題，《西部世界》選取這一熱門話題作為題材，講述機器人擁有自我意識后與人類之間的相處和矛盾，整個影片從沒有自我意識的機器人到有自我意識的機器人，擁有自我意識的機器人反抗人類，最后消滅創造者，解放機器人，解放人類，機器人和人類和平共處。

第二，敘事手法，影片從時間和空間兩大方面進行敘事。時間上，按照雙線敘事，時間跨度長達35年，從過去到現在，從年輕的威廉到年邁的威廉，帶觀眾來回穿梭在不同時間線內，清晰地了解劇情的發展。空間上，從現實世界到虛擬世界再到現實世界，豐富了故事內容和情節。

第三，影片引用了大量莎士比亞的經典名句，“when we are born，we cry we are come to this great stage of f-f-fools.”“These violent delights have violent ends.”等豐富了影片的文化藝術色彩，使其充滿文化韻味。

第四，影片貼合現實生活。威廉建設的“熔爐”在西部世界中被稱作“榮耀之地”，又被稱作“世外山谷”，實際上是收集和研究客戶信息的匯集地，與當今大數據時代相吻合。

第五，影片中出現“冥思”程序，冥思是指客觀存在反映在人的意識中經過思維活動而產生的結果。這是心理學中二分心智理論。因此公司管理人員給他們設定“冥思”程序，對每一個接待員的啟發都是不一樣的，為自我意識奠定基礎。

第六，影片兩大女主角強烈對比，德洛麗絲是為了自由，產生自我意識，并在最后為了人類自由和機器人自由選擇犧牲自己，而梅芙是為了尋找自己的女兒。梅芙的小愛和德洛麗絲的大愛形成對比，是個人利益和集體利益的對比。

影片中機器人自我意識覺醒反抗人類，存在某些疑問。如最后德洛麗絲的記憶是世間所有美好事物，而德洛麗絲的設定就是真善美。這不禁讓我們產生質疑。德洛麗絲是否真的自我意識覺醒，為何自我意識覺醒后的德洛麗絲還是保持最初人類給她的設定;德洛麗絲前期的覺醒有無可能是人類設定的程序——覺醒程序，實際上德洛麗絲自我意識并沒有覺醒。

受人工智能影響，人是否會異化？人的異化是利是弊？2019年，浙江金華一小學，以通過頭環檢測學生腦電波，評判學生上課、寫作業是否集中注意力等方式監控學生。消息一經傳播，便引起大多數人的熱議：利用人工智能監控學生的行為，是便于學生發展還是阻礙學生自由發展？夏少昂認為：“人工智能技術的強化，不僅逾越了自然的限制，而且很有可能逾越人的限制，進而成為主宰人、支配人、控制人的技術形式，將無法回應人類社會發展的倫理訴求。”[3]受人工智能束縛，人不再是“自由人”而是受枷鎖的人。人工智能時代的到來，人的異化是消極的、被動的，被人工智能所控制。而余乃忠認為：“人到智能人的實現也是一種人到非人的‘異化過程。資本主義的異化抑制人的發展，是消極被動的;而人工智能的‘異化實現人的身體和精神的全面解放，是積極的和創造性的，體現了人的本質力量。”[4]馬克思的異化理論批判以往的哲學家們認為他們把“人”的自我異化過程理解為歷史的動力。他指出：“借助于這種從一開始就撇開現實條件的本末倒置的做法，他們就可以把整個歷史變成意識的發展過程了。”[5]

三、人工智能是否具有自我意識及其對策

人工智能是否具有自我意識，在各個領域的專家和學者的激烈討論中并沒有一個確切的答案。孫偉平認為：“隨著人工智能的突破性發展，‘機器人也會思維成為不爭的事實。而且，如同機械機器早已超過人的體力、速度和耐力一樣，機器思維完全可能超過人類思維能力，當智能機器不僅在存儲（記憶）、運算、傳輸等方面超過人腦，而且在想象力、創造力、控制力以及情感的豐富度等方面也超過人時，它就會對人的思維本質構成實質性的挑戰。”[6]人工智能在某些功能方面超過人類是毋庸置疑的，2011年，機器人“沃森”戰勝人類。但機器人是否具有自我意識，有待商榷。從生產領域來看，以工業相機鏡頭代替人的眼睛，通過軟件和算法，對物進行量化，處理圖像，搜集信息，從而對物進行分類。從速度上看，機器人遠遠超過人類辨別速度，并且憑借超長的耐力，不會因為數量之多和工作之長而感到疲倦。當前，人工智能活躍在許多領域，未來，人工智能會不會完全取代人類？人工智能能擁有自我意識嗎？如若能，機器人擁有自我意識是否會和人類和諧共處？若機器人自我意識異化，控制人類，人類又該如何應對？

人工智能的發展，利于社會進步和人的全面發展。這種是機器人在擁有自我意識后，與人類和平共處的畫面。但存在另一種可能性，即機器人擁有自我意識異化，人工智能把人類控制，不再是為人服務。那現今我們研發人工智能還有何意義？筆者從情感、倫理、技術上分析機器人是否會具有自我意識，擁有自我意識的機器人有兩種可能性，其一，機器人自我意識沒有異化;其二，機器人自我意識異化后，人類該如何應對？

（一）情感層面

人具有主體性，人的情感是自發自覺的，人的情緒變化是一種先天就有的。如嬰兒在出生時，會因對周邊環境不適應而去哭泣，這是先天存在而不是通過教化形成。但目前機器人不具備這一情感，機器人所表達的情緒，首先通過人設定代碼，收集大量樣本，從而選擇出表達的情緒，這是一種被訓練出來的情緒，不是自發自覺形成，不具有自發性。正如徐向東認為：“人的一言一行在多數情況下都是由自我意識引導完成的，積極主動，而機器所做的每一件事情都需要人事先制定好。”[7]

（二）倫理層面

1997年，克隆羊——多莉誕生。克隆羊的誕生表明同樣作為哺乳動物的人類也可能被克隆。全球開始對未來克隆技術以及人工智能技術在社會倫理方面展開激烈爭議。目前機器人不具有自我意識，不具備破壞倫理的條件，反而可以推動人類倫理道德發展。孫偉平說：“人工智能是倫理道德建設的‘助推器”。[8]智能家居以及智能教育通過在各個領域對倫理道德知識的學習，在一定程度上，能有效地提高倫理道德水平。

（三）技術層面

人工智能就其本質而言，是對人的思維進行模擬。對人的思維的模擬可以通過兩條道路進行：一是結構模擬，仿照人腦的內在結構，制造出“類人腦”的機器;二是通過功能模擬，撇開人腦的內部結構，而從其功能進程進行模仿。[9]目前，人工智能只是對人的功能進行模擬。在某些功能上超越人類。未來機器人是否會具有自我意識還是未知數。如若機器人擁有自我意識后，如何與人類共處？

1.互不傷害

機器人未來在眾多領域超過人類，那保證人類生命安全是首要前提。正是由于人類在西部世界肆無忌憚地傷害機器人，機器人才會在自我意識覺醒時，回到現實世界反過來傷害人類。如果人類不傷害機器人，給予機器人的都是世間美好的一面，機器人同樣不會傷害人類。

2.取長補短

機器人在存儲、運算、記憶等能力上超過人類，但在處理情感方面，機器人不如人類。在未來工作領域中，人類和機器人應各自發揮所長，取長補短。機器人的精確操作能力可以從事生產行業，進行大規模生產活動。機器人的強悍分析歸納總結能力，可以從事分析師工作，對大量數據進行快速的收集、整理、分析、歸納，得出可靠的結論。機器人的機器結構的修復能力以及應變能力，也可以從事高風險工作，降低工作的風險程度以及快速修復，減少人員傷亡。

3.發揮人的主體性和能動性，積極看待科學技術發展

在科學技術迅猛發展的時代，各個國家以科學技術作為是否是先進國家的標準，人工智能的發展是科學技術發展的必然趨勢。我們如何去利用好它，向前發展，這是值得認真思考的問題。

參考文獻：

[1][5]馬克思，恩格斯.馬克思恩格斯選集（第1卷）[M].北京：人民出版社，2012：152，211.

[2]陳凡，程海東.人工智能的馬克思主義審視[ J ].思想理論教育，2017（11）：17-22.

[3]夏少昂.人工智能倫理問題的時代鏡像與調適[N].中國社會科學報，2019-12-03（002）.

[4]余乃忠.積極的“異化”：人工智能時代的“人的本質力量”[ J ].南京社會科學，2018（05）：53-57.

[6]孫偉平.關于人工智能的價值反思[ J ].哲學研究，2017（10）：120-126.

[7]徐向東.聯結主義、排除主義與思想的構成性[ J ].自然辯證法通訊，1994：5.

[8]孫偉平.人工智能是倫理道德建設的“助推器”[ J ].特區實踐與理論，2019（4）：98-101.

[9]李秀林，王于，李淮春.辯證唯物主義和歷史唯物主義原理（第五版）[M].北京：人民出版社，2020：54.