機器之于人類未來：受控還是替代

王楠

【摘 要】面對愈加頻繁呈現于大眾的“機器人恐慌”，本文嘗試從機器意識與生物意識的角度回答“機器是否會止于模仿人類大腦”的問題，并認為機器無法替代人類的主體性，而一時的“未來學”角度的恐慌可能會掩蓋更重要的問題，即現階段AI發展對社會經濟的影響，對AI的倫理和行為規范方面的政策需要政府、科學家、法律專業人士聯合制定。

【關鍵詞】機器意識；人類意識；人工智能

中圖分類號： TP18-02 文獻標識碼： A 文章編號： 2095-2457（2018）25-0264-002

DOI：10.19694/j.cnki.issn2095-2457.2018.25.121

【Abstract】In the face of an increasing amount of media coverage highlighting ‘Robo-phobia， this paper attempts to address the question ‘Will robots go beyond imitation？ from combined perspectives of biological and machine consciousness. It suggests that human agency cannot be transcended by machines. And the ‘futurist AI apprehension tends to mask a more significant issue： the wider socio-economic impact of AI at present. As regards AI policy-making， joint efforts are entailed among governments， scientists， law theorists and practitioners.

【Key words】Machine Consciousness； Human Consciousness； Artificial Intelligence

1 問題的提出

自智人出現、國家形成、文明更迭以來，無論人類處于何種歷史節點，總會以一種集體的方式抵御自然災難、戰爭與疾病的威脅，這是面對動態與變遷問題時對生存和未來的回應；而在相對靜態與穩定的發展時期，總有一種強大的內驅力催促人類不斷突破現狀，不斷創造與變革。在技術革命的浪潮下，現代意義的機器于18世紀工業資本主義興起后誕生，是完美邏輯的具象化產物，人類社會以一種比以往更加明確的問題解決導向，在數學思想和物理理論的支撐下，以最高級的生物智慧創造機器，持續作用于機器的演化，使它愈加智慧，逼近理性的極致。

毋庸置疑，愈加智慧的機器將其與人類命途聯結在一起，不僅有如硬幣的兩面，這種聯結是多面的，其中一面是人類對“機器意識”是否會自我演化并最終異化于創造者藍圖的擔憂。人們對科技破壞力的思考伴隨工業革命的進程而愈加頻繁，我們頻頻引用的“弗蘭肯斯坦”創作于機械化向電氣化過度的19世紀早期，從“圖靈預言”到Deep Mind團隊開發的新一代圍棋AI——“AlphaGo Zero”，超越算法、故障率和商業價值，人們比以往任何歷史時刻都更加關心機器制造者的動機和“機器意識”。物理學家霍金認為 AI“完全有可能超越人類的智慧水平，AI的全面發展將使其擺脫人類的控制，最終導致人類的終結”；英國機器人專家渥維克斷言2050 年機器人必將統治人類，將把人類關在集中營里（張勁松，2017）。對機器異化的恐慌在現今超級發達的媒體網絡中蔓延，技術本身無法回答內生于技術的問題，關于機器的哲學思考開始拷問機器潛在的“破壞力”。

維基百科將人工智能哲學（philosophy of artificial intelligence）試圖回答的問題總結如下：第一，機器可以做出智能的行為嗎？它可以解決人類通過思考來解決的任何問題嗎？第二，人類智能與機器智能一樣嗎？人類大腦本質上是計算機嗎？第三，機器可以擁有如同人類一般的心靈、心境和意識嗎？機器能夠感知周遭事物嗎？

有鑒于此，本文將所有疑問收斂在兩個問題上，即“機器在未來將以何種方式與人類互動，機器會始終受控、依賴于人、平行于人類社會的發展嗎，還是會“覺醒”，隨之而來的是自我演化、替代人類？人類對機器意識發展的擔憂是否過度，而掩蓋了更重要的制度、法律、倫理問題？”

2 機器意識與生物意識

在過去數十年，意識的本質成為諸多學科的研究焦點，如神經科學、哲學和認知科學，甚至有學者提出“也許在視覺感知、記憶和整個生物學領域最大的未解問題就在與對意識的分析”。

2.1 意識與自我意識

不同學科對意識的解構有不同的側重點：從哲學角度，意識是相對于物質的精神現象；從醫學上講，意識是個體對環境和自我的認知與反應能力；心理學往往從覺知和個體對外部環境和內在心靈的體驗來關注意識；神經科學對意識的研究往往將其視作大腦的一項功能，且意識的產生來自于神經整合（neural integration）。

無論不同學科如何定義意識，其共識在于：意識具有生物性特征，是一種生命個體具備的能力。意識在生命個體中普遍的存在，但生物意識功能的復雜程度與生物個體的智能水平有直接關聯。自我意識正是生物意識序列中的高階意識，是一種內省功能，一種反映個體內心活動的功能，內省使個體持續獲知當前的自我狀態（self-state），始終理解個體的需求以及需求的原因。

2.2 從生物意識到機器意識

人工智能領域對機器意識的設計似乎嘗試使機器意識的發展模仿人類意識發展的模式，即弱的意識與強的意識同時存在，強的機器意識是充分發展了的，能夠如同人類一般解決已知或未知情境中的問題。

周昌樂與劉江偉（2011）對機器意識的研究策略分別進行人工智能哲學和腦科學領域的綜述，認為機器意識的研究主要分為算法構造策略和仿腦構造策略：算法構造策略在不考慮人類腦機制的前提下，單純采用算法進行機器意識研究；仿腦構造策略則借鑒人腦意識的發生機制，利用生物物理原理來進行機器意識研究。該研究同時回顧了Gamez提出的機器意識分類體系：（1）具有意識表現的機器感知模型（MC-P）；（2）具有認知特性及其行為表現的機器意識（MC-C）；（3）具有人類意識相對應機制的意識機器（MC-A）；（4）擁有自我感覺的機器意識（MC-S）；（5）擁有奇妙意識體驗狀態的機器（MC-Q）。最帶有哲學爭議的機器意識體系即為第五種—擁有奇妙意識體驗狀態的機器，這種意義上的機器不僅僅是意識研究的工具，而是真正具有意識體驗的機器。

有學者提出7組機器意識測量的策略；還有學者（Zhang & Zhou， 2013）提出模仿自我意識的模型，包括外部環境、傳感組件、動機組件、自我意識組件、行為組件，并通過機器仿真囚徒困境游戲對以上組件進行檢驗，將意識過程視作黑箱，最終結果顯示傳感組件、動機組件和行為組件被忽略，信息的輸入輸出鏈能夠被理解為具有意識的能動者（conscious agent）。

3 機器無法替代人類的主體性

如果仿腦構造策略能夠強大到通過神經建模使機器具有意向性意識能力（環境感知、認知推理、語言交流、想象思維、情感發生、行為控制），那接下來需要考慮的是未來的人工智能是否有可能替代人類的主體性。

有研究在對人工智能邏輯思維能力提升和感性存在模擬進行分析的基礎上，進而提出“人工智能無法替代人類主體性”的結論（張勁松，2017）：第一，人工智能對于思維能力的強化和延伸是有界限的，無法超越人類思維和意識的整體性，人類制造機器并決定其特性和功能，人類思維和AI永遠是模擬與被模擬、操控與被操控之間的關系，人類大腦是AI可以無限接近但不可逾越的地平線；第二，AI對于人類感官的模擬仍然處于機械化階段，無法產生完整的人類感覺和思維，中文屋（Chinese Room）實驗一方面支持了前文所述MC-Q研究范式的結論，另一方面表明，即便擁有強大的算法，“屋里”的“偽裝者”仍不能理解人類的自然語言，“如果心當真是一臺計算機，它的運算必須用語法來定義，然而思想、意識、感情、情緒以及其他心理特征遠非語法所能定義。不管計算機的模擬能力有多強，它也不能復制那些特征”。

Dubhashi，D.&Lappin;，S.（2017）在對“奇點”（singularity）概念進行駁辨時，指出大量由AI驅動的技術工作實在尋求解決特定的任務，而不是對一般性的人類智能進行建模，大多“人工智能威脅論”描述的既已存在的風險僅僅有賴于邏輯上的可能性，已經是時候對AI倫理和道德問題進行思考，對其社會影響進行評估，需要政府與技術精英、法律專家的聯合，來制定目前或不遠的將來會普遍使用的無人駕駛汽車、醫護機器人的實施政策，需要有明確的制度保障對AI背后的編程過程和程序本身進行倫理審查。

4 結論

本文認為，AI的發展仍處于初級階段，機器之于人類未來的確具有極強的不確定性，但機器無法替代人類的主體性，機器的道德、倫理問題并不新穎，它映射人類社會的道德與倫理，面對“想象中的”或“可能成為事實”的奇點“危險”，人類社會能夠對人工智能的發展做出倫理審查和風險預判，能夠對人工智能與社會、政治、文化的交互影響作出分析，正如同歷次工業（技術）革命對人類社會的影響，人工智能作為新技術革命中的重要構件，或許會成為未來人類文化的重要組成部分，但機器絕非生物，人的邏輯力量和正義感會將非道德性的人工智能技術始終置于人類制度文明的牢籠。

【參考文獻】

[1]張勁松.人是機器的尺度—論人工智能與人類的主體性[J].自然辯證法研究，2017，33，（1）：49-54.

[2]周昌樂，劉江偉.機器能否擁有意識—機器意識研究即其意向性分析[J].廈門大學學報（哲學社會科學版），2011，（1）：1-21.

[3]Arrabales.R.，et.al.Strategies for Measuring Machine Consciousness[J].International Journal of Machine Consciousness， 2009，01，（2）：1-9.

[4]Dubhashi，D.&Lappin;，S.AI Dangers：Imagined and Real[J].COMMUNICATIONS OF THE ACM，2017，（2）：43-45.

[5]https：//en.wikipedia.org/wiki/Philosophy_of_artificial_intelligence.

[6]https：//mp.weixin.qq.com/s/ndhuxanY-Dpyv0eA8G8hWQ.

[7]Zhang，X.Y.，Zhou，C.L.From Biological Consciousness to Machine Consciousness：An Approach to Make Smarter Machines[J].International Journal of Automation and Computing，2013，10， （6）：498-505.