機器意識有無可能

汪 婭

(重慶大學，重慶 400044)

機器是否具有意識的問題，不僅涉及到對人類意識本質的理解，同時也是人工智能取得突破的關鍵。圍棋高手“AlphaGo”以及用于社交并擁有公民身份的“索菲亞”機器人等智能機器的出現，尤其是伴隨智能機器發展的過程中所產生的一些倫理問題以及社會影響，引起了學術界對機器是否能夠擁有意識的討論，首先是是否可以用人工代替生物的問題。

然而，即使拋開人類的偏見，肯定工程上對意識功能實現的積極意義，就人工智能的發展現狀而言不具有實現機器意識的可能。本文并非意在探討機器意識的實現方式，而是以一種調和的方式，綜合工程上與哲學上對意識的理解，依據人工智能的發展現狀分析機器意識的有無問題。

一、機器意識

機器意識通常也被稱為“人工意識”，對機器意識的定義代表學術界對機器意識的不同理解，目前缺乏統一的定論，主要分為以下三種類型：一種是從功能性的考慮出發，主張“機器意識是指那些設計和分析信息機器的人試圖將他們的方法應用于理解意識的各種方式，并檢查意識在信息機器中的可能作用”。[1]另外一種則從哲學層面出發，將機器意識理解為“試圖模擬和實現人類認知的某些方面，這些方面被認為是難以捉摸和有爭議的意識現象”。[2]而第三種則從單詞的屬性出發認為，“意識機器的概念在術語上是矛盾的，因為‘意識’一詞代表自然的東西，‘機器’一詞代表人工的東西。說機器是有意識的是荒謬的。因此，機器意識的概念是一個衍生的概念，在最壞的情況下是一個自相矛盾的概念。”[3]

然而，對意識缺乏統一的定義也是機器意識問題受到熱議的重要原因。目前連蜜蜂也被證明具有情緒、注意力、遠見、自我意識等能力。[4]而按照Porcher的觀點，“沒有科學分支了解意識的本質和來源就不存在否定任何生命形式的依據”，[5]同時他也說明意識能力并不依賴人的大腦。那么機器有無可能實現意識？本文則嘗試結合工程上和哲學上對機器意識的理解來分析機器意識有無可能的問題。

二、基于機器意識的現狀分析

鑒于認識到復制人類意識的好處[6]以及追求科技的進步，近幾年，一些學者創造出了能夠依據自身的經驗身份回答問題的模型ARTSELF、[7]可覺知自身姿勢狀態的本體感受傳感器、[8]會做夢的機器人、[9]能夠在鏡子前識別出自己的Robot-MNS-Model模型[10]以及由細胞組成的可自行復制、恢復和治愈的粒子機器人[11]等意識機器模型。

事實上，當前人工智能在某些方面表現得仍稍遜于孩童，盡管某些機器模型已經在一些領域打敗了人類的世界冠軍。但其中不乏一些繁榮發展的假象，這些假象背后由資本操縱。例如，聰明的聊天機器人客服，可能由真人扮演，這是由資本家為獲得利益而進行的“欺騙”行為，從而發展出的“AI拜物教”。

目前，深度學習作為人工智能的核心驅動力，具有先進性(自主性)、仿腦性及不可解釋性，這些特性通常被視為與人類意識相關。這三種特性往往相互作用，彼此成就。由于我們無法確定人腦是否是實現意識的唯一形式，但根據他者思維問題，我們可以確定作為人類的自己是具有意識的。首先，我們需要探討深度學習究竟有無達到人類意識水平。

“人腦不是一次完成的計算機硬件，他是在社會生活中完善起來成為意識器官的。”[12](P10)人腦在社會中進化改變，并在豐富多彩的活動中發展新的神經分支，深度學習也能夠通過強化學習以及調節權重獲得激勵、不斷完善自身算法，這到底有何不同呢？需要說明的是，無論深度學習在結構功能上與人類大腦如何接近，結構不等于意識。人的優越性在于，“知覺雖然是對當前事物的反映，但是當刺激物提供的信息不足時，人總是以過去的經驗補充當前的知覺活動，使其具有一定結構的整體形象，特別他可以從自身經驗中，也可以從別人的經驗中，從語言刺激中取得信息，以補充當前刺激物提供的信息的不足”。[12](P125)深度學習模型也能夠通過概率算法填補經驗，而人是有選擇地接受刺激，然后加工整理，與人的經驗、思維定勢有關。但概率算法總是難以避免地具有不確定性，“你可以用概率來計算風險，但概率本質上對任何給定的情況都沒有發言權。伴隨著不確定性的影響是存在的。現在的選擇變得充滿了對不確定未來的恐懼”。[13](P4)深度學習的算法特點之一即為概率估計，在很大程度上即使做出最有利的評估與決策，但本質上也具有不確定性和不透明性，故具有不可解釋性，那么這種不可解釋性與人類意識中的某種不可解釋性有何區別呢？

1958年波蘭尼提出一種默會知識，這是一種無法用語言表述的隱性知識。這與賴爾所說的能力之知以及歐克肖特所說的實踐知識類似。王禮鑫認為馬克思主義認識論的實踐觀具有吸收默會知識的條件，分別將感性認識和理性認識對應于默會知識和明述知識，并根據人工智能對先驗知識的依賴認為人工智能不具備形成默會知識的能力。深度學習的“黑盒”問題，究竟在多大程度上與默會知識有關呢？

根據默會知識論的三種知識形式，深度學習的這種不可解釋性并不屬于格式塔的類型，這種知識類型不可解釋性是由背景知識問題所引起，但與局域主義論以及強默會知識論有些相似，即未能或不能充分用語言表達，通常以行動表達的知識。而人的默會知識與深度學習的“不可解釋性”的關鍵區分在于，深度學習是一個有結論、無過程說明的知識形成過程；人的默會知識是一種無結論、有行為(過程)的知識表達。深度學習缺乏一種對其結論的透明性的說明解釋，而人的默會知識伴隨主體的整個實踐、感悟之中。引起深度學習的“黑盒”問題的根源在于其算法的復雜性，而默會知識更像是一種“理解”，其可能高于明述知識的知識表達，受到環境、文化、親身實踐的影響，是更完整意義上的知識所得。因此，深度學習的不可解釋性與人類的不可解釋性有著本質的不同，且它需要被合理地透明化。

再有，深度學習的顯性自主性中內嵌著很強的人類元素，正如帕斯奎內利(Pasquinelli)所說，“即使神經網絡顯示出人類思維無法預見的相關性，它們也在訓練數據集中隱含的(人類)假設和類別網絡內運行，從這個意義上說，它們不能為發明全新的類別做出必要的跳躍”，“當然，他們沒有表現出‘自主智力’或意識的跡象”，這種對人類先驗知識以及人類計算的依賴是影響機器意識發展的重要因素之一。[14]當然，深度學習目前還有其他一些缺陷，例如，非生物性、超個性化、適應性差等。如果克服了這些局限性，深度學習能否實現機器意識呢？

一般來說，機器意識的實現往往以傳統的二元論為理論支撐。而持自然主義二元論的查爾莫斯認為，“意識是自然世界除物理特征之外的另一種獨立的特性，不可能被還原為物理特性。我們不能把意識的存在性問題僅僅處理為解釋某些認知或行為的功能作用問題。”[15]這種觀點強調，心靈既在一定程度上依賴于物質，又存在某種隱秘結構及獨特本原。

人工智能的發展總是受到笛卡爾思維觀的偏見的影響，但思考這樣一個問題，“如果我們能創造出一個‘真正’的自我意識和自我感知的機器人，這個機器人在某種程度上是每個人類都有的，我們怎么知道我們不是造物主創造的有意識的機器人呢？”[16](P365)其中，施魏策爾(Schweizer)通過思想實驗表明了在其他物理介質上復制人類心智本質上具有理論困難。[17](P81-91)拉賈基肖爾·納特也認為，“精神生活及其性質不能由宇宙的物理條件在法理上決定。”[3]

而針對意識和腦的關系問題，在醫學領域，宣布人類死亡的方式中，腦死亡通常比心臟死亡更為科學，腦死亡作為人死亡的關鍵，最終會導致心死亡。現實案例中，存在腦死亡之后，器官功能依然具備刺激反應的情況。一般說來，腦死亡之后，不再具有神經元所提供的功能，則便不再具有意識。那么，為什么在無意識情況下，身體依然存在刺激反應呢？這是否證明行為主義綱領不足以構成實現機器意識研究的充要條件呢？笛卡爾將意識分為有意識活動和無意識活動，其中有意識活動由人腦所產生，無意識活動以“反射”的形式產生。[12](P144)按照笛卡爾的觀點可以說明腦死亡之后，器官即使能夠進行反射也只是一種無意識的活動，盡管笛卡爾持有身心二分的觀點，但這至少肯定了大腦對意識產生所起的關鍵作用。

S.里昂(S.Lyons)指出，“這是一個至關重要的區別，因為在生物學和意識之間有一種假定的(有點不令人驚訝的)聯系，在這種聯系中，沒有人類，或者至少沒有生物大腦，意識就不能存在。”[18](P29)雖然一些實驗結果證明，人的感受不是由同樣的神經狀態引起的，但同樣的可觀測的神經狀態能夠引起相似的感受這一點，可能對實現機器意識來說具有十分重要的意義。

馬克思主義主張物質對意識的決定作用，馬克思主義認識論的偉大之處在于其突破了傳統的意識內在性。近代哲學只能使對象封閉在自我意識當中，馬克思借助黑格爾辯證法的“活動原則”走出意識的內在性，并以實踐的觀點，說明人的活動先行于特定對象，以此構建或設定對象，通過對象性活動表現主體與客體的聯系，其中實踐是聯系主體和客體的中介。正如陳永杰所說，是馬克思的“對象性活動”將“對象”和“我”真正地聯系了起來。[19]因此，馬克思主義的實踐觀對意識內在性的突破是對超自然觀點的有力反駁，同時也蘊含著意識的社會性。

由此可見，在人類意識水平上嘗試去實現機器意識是困難但具有意義的實踐活動。此外，不可忽略在研究機器意識的過程中對社會產生的消極影響。

三、以馬克思主義認識論批判機器意識

馬克思主義主張，意識是作為認識主體的人所獨有的，人應是自由的。而機器意識研究所帶來的消極現象首先是伴隨其發展所衍生出來的主體性問題以及倫理問題。目前與主體性密切相關的自由選擇與自主決策已經漸漸在被人工智能所代替。隨著人工智能的發展，人機融合逐漸成為一種趨勢，在此基礎上，何為認識主體尤為重要。讓·米歇爾認為，“與機器進行融合對人類來說始終是有害的。生物體在自身機能中保有不確定性，有著隨機的部分，而與機器的融合會否定掉生物體的這一特性。”[20](P63)正如喬斯林·麥克盧爾(Jocelyn Maclure)所說“人工智能算法是工具，不是被賦予精神生命能力的眾生。他們存在的唯一理由是讓我們的生活變得更好。”[21]因此，鞏固人類的主體性，避免陷入自我失控境地的問題迫在眉睫。

事實上，技術總是與資本聯系在一起的，科技決定論通常以放棄人性為代價，一般而言，剩余價值無法從人工機器中擺脫出來，技術的進步，不僅加速了資本的發展，同時也加強了人的不自由的程度，從而發展出“技術政治”，尤其是當前存在意識形態隱性傳播的問題，“我們給算法灌輸種族主義、性別歧視和階級偏見，反過來它們又進一步扭曲它們”。[22]此外，盡管資本家與科學家對實現機器意識十分向往，甚至許多學者認為機器意識的實現利大于弊，[6]但相關學者同時也指出，在假設情況下能夠生產復制意識的話，可能會出現資本壟斷，以及加速人類不平等的情況。

此外，機器人傷人事件的頻繁發生，機器意識的研發引發責任追究問題。如2015年7月，在密歇根，維修技師旺達·霍爾布魯克的頭骨被壓碎，原因是Ventra Ionia工廠的機器人進入了她所在的車間，并“將一個拖車附件裝配部件裝到了她的頭上。這個區域的房子通常被安全門隔開，但一個故障使機器人進入了霍爾布魯克的區域，將她困在裝配部件上，當場將她殺死”。相關學者認為，“在威廉姆斯和霍爾布魯克的案例中，責任最終歸咎于存在缺陷的、人為設計的安全措施。”[18](P38-39)彼得·阿薩羅從倫理角度指出，“為了維護人類的道德、尊嚴、正義和法律，我們不能接受一個自動系統做出奪取人類生命的決定。”[23]

因此，為了警惕人類自由意志的喪失，在研發機器意識的同時，需要充分關注相應的倫理問題，使人工智能的發展處于可控制狀態，并促使技術民主化，以確保人類的主體性。

四、應對機器意識問題的策略

為確保人類生存和精神的獨立性、主體性地位以及維護人類的合法權益，本文從以下三個角度考慮，以促進機器意識研究的良性發展，分別為宏觀層面和微觀層面，其中微觀層面涉及對開發過程和使用過程的合理引導。

(一)立法監管

劉憲權認為，盡管目前弱人工智能的發展程度不足以威脅人類社會，但按照深度學習等神經網絡的這種發展勢頭有可能導致強人工智能的實現，因此需要提前立法防范。[24]王楠也從倫理道德角度認為，需要聯合各宏觀層面的權力機構對其編程和程序進行審查，以規范其對社會的影響。[25]尤其是針對刑事犯罪問題，機器意識的有無，機器人的決策結果是否人為授意往往決定誰成為責任追究的對象。因此，健全的責任追究機制亟需得到建立和完善，以促進技術民主化。正如博斯特羅姆和斯圖爾特羅素所認為的那樣，人工智能的發展應優先考慮“控制”或“價值對齊”問題。[26]而法律能夠為此提供外部保障。

(二)技術人員提前檢測及自我約束

技術人員的責任主要分為兩類，規范自己以及監督他人。應避免技術濫用帶來的危險，因此，要確保技術人員擁有良好的職業操守，充分地向機器注入先驗的利他知識，以避免技術人員將具有敵意的函數賦予計算機，同時做好提前檢測，避免在軟件和硬件投入使用時產生負面影響。例如，檢測其算法目標是否與人類目標相一致，是否被賦予了正確的價值觀等，以確保意識形態安全問題。

(三)用戶保持警惕及參與監督

用戶作為計算機的使用者以及人工智能的受益者，應確保自身的主體性地位不受侵犯，同時要認清機器意識的本質以及其背后的資本邏輯，避免陷入異化狀態以及受到負面的隱性價值觀的影響，并主動參與監督，及時反饋，將宏觀層面的監管與微觀層面的監督相結合，共同應對機器意識研發過程中出現的問題。

五、結語

盡管關于機器意識的研究目前出現了眾多可喜的成果，但根據機器意識的研究現狀來看，限于人工智能本身的局限性，其目前并不具備意識實現的可能，因此需要一種合理的路徑來調和工程上對意識功能主義的理解以及哲學上對意識的形而上學的理解，其中馬克思主義認識論中的實踐觀或許能夠為此提供一個啟示路徑，但同時，仍需要結合其他理論，以更全面地看待意識問題。