人工智能刑事主體資格研究

曹更瑩

摘? ?要：弱人工智能遵循人類設計和編制的程序，其不具有獨立意識，本質上是便捷人類生活的工具；強人工智能隨著科技發展或許可具有一定“獨立意識”，但這種意識仍然是人類先驗知識的延伸，其不能夠達到人類“自由意識”的高度。所以，基于刑法體系穩定性及社會倫理的考量，不宜將人工智能體納入刑事責任主體范圍內。承認肯定說觀點將意味著刑法體系的“回爐重造”，對于整個刑法理論體系將產生“質變”影響。時下，對人工智能體的風險防范應主要致力于如何確保其未來發展的“可控性”。

關鍵詞：人工智能；刑事責任主體；獨立意識；刑法體系

中圖分類號：D914? ? ? 文獻標志碼：A? ? ? 文章編號：1673-291X（2023）02-0158-03

一、問題的提出

科學技術的進步推動人工智能技術走向成熟，在給人類生活帶來極大便捷的同時，也帶來了不確定性和安全風險。庫茲韋爾在其奇點理論中提到人工智能在未來的某個時刻極大可能出現發展的不可控性，并預測2045年人工智能將超越人的智能[1]。而在此之前也有人做過此類猜想。2004年上映的由艾歷士普羅亞斯執導的電影《機械公敵》將人工智能發展的潛在危險直接展現在銀幕上。該影片從人與智能機器人的關系的角度為未來人工智能的發展敲響了警鐘。當人工智能體具備獨立意識時，極可能對人類產生“反控”風險。為了預防這種風險，有學者從刑法角度探討如何規制此類風險。以影片中智能機器人桑尼為例，如果真的涉嫌故意殺人，能否利用刑法對其處罰？或者智能機器人可否成為刑事主體？對此，學界存在三種不同觀點。肯定說認為，智能機器人通過深人學習產生自主意識和意志，在設計和編制的程序范圍外實施符合犯罪構成的具有嚴重社會危害性的行為時就應當承擔刑事責任[2]。否定說認為，在認知思維、自由意志以及情感動機等方面，人工智能與人類存在很大差異，刑法規制的對象只能是人，人工智能無法具備刑事責任主體資格[3]。折中說則認為，對于人工智能刑事責任主體問題應當區分討論，弱人工智能本質上仍然是研發者意志的擴展，無法獨立承擔刑事責任；但具備獨立意識的強人工智能可以獨立實施刑法意義上的危害行為，亦可以成為刑事責任主體[4]。肯定說與折中說存在的弊端在于，將未來人工智能發展的假設或者推定的命題，以過度前瞻性預防思想進行防范，極大降低了人類對未來世界的主導作用，從而導致該命題被部分學者批判為一個“偽命題”。本文認為，對于人工智能可否成為刑事責任主體，應當保持謹慎、理性態度，對于人工智能的研究應當遵循社會發展現實。在討論該問題時，首先應當明確以下幾個問題。第一，人工智能可否擁有與人類相當的獨立意識？第二，人工智能擁有了獨立意識，是否就可以成為刑事責任主體呢？第三，人工智能納入刑事責任主體的必要性有多大？假如該命題成立會對刑法體系造成什么影響？

二、人工智能刑事主體資格之反思

（一）人工智能獨立意識之反思

根據人工智能發展的不同層次，人工智能分為弱人工智能和強人工智能。弱人工智能遵循設計者編制和設計的程序，其實施各種活動需要在人類設置的指令范圍內進行，因此其無法形成自主意識，仍然屬于人類控制范圍內的一種工具。在當前科技水平發展階段，常見的智能機器人大部分屬于弱人工智能產品，其本身所作的各種決策僅僅是程序開發者意志的體現，或者說他們是人類創造的一種智能工具。因此，對于弱人工智能產品所帶來的刑事風險，尋找規制研發者的刑法策略為最佳預防途徑。而強人工智能是指能夠超出設計和編制的程序范圍活動的智能機器人，具備獨立意識并可實施相應行為，實現自身的意志[5]。這類人工智能體具備獨立意識，能夠獨立實施活動，因而也對人類安全構成潛在威脅。正是由此，學界部分學者希望將該類人工智能體納入刑法規制對象，以防范未來可能出現的風險。但刑罰的對象是人。我們需要關注的是，強人工智能體所具備的獨立意識是否與人類意識相同？

從哲學的角度來看，人腦是人類意識存在的物質基礎，離開人腦，人則無法感知世界，也就無法形成意識。同時，意識的本質特征還在于“意識到必須和周邊的人們來往”，如果不與周圍之人來往，那么他就脫離了社會關系，即使他具備一定的人腦的生理機能，也不會有人的意識[6]。而事實上科學技術發展的有限性及人腦結構的高度復雜性，決定了強人工智能體無法克隆人類完全一樣的大腦，也無法同人類一樣形成穩固的社會關系。很多學者將強人工智能稱為“類人型機器人”，實際也認可了人工智能的發展只能無限接近于人類，而無法實現完全復制。那么，強人工智能擁有的獨立意識在一定意義上仍然是人類意識的體現。

從人的經驗與情感方面來看，人類的經驗具有獨特性和差異性。每個人在生活中的經歷各不相同，因此，他們對同一件事結合個人的經驗、常識、直覺等很可能產生不同的看法或者不同的處理方式。而這一點恰恰是強人工智能無法模擬的。同時，強人工智能具有的情感與人類有較大差距。強人工智能所能體會的“喜怒哀樂”仍然是對數據的分析和處理，即使將來真正出現“情感型機器人”，這種“情感”仍會以人類情感為模板，并非屬于自身的、獨特的、真實形成的一種意識活動。如明斯基所言：“情感是先于理智存在的，人工智能只有智力，沒有情感，不是真正的智能[7]。人類的經驗和情感的不可復制性也決定了強人工智能不能具備人類那樣的意識。綜上，弱人工智能不存在具備人類意識的條件，即便未來強人工智能有一定獨立意識，但與人類自由的意識并不相同。那么，當人工智能擁有一定獨立意識時是否就具備了刑事責任主體資格呢？

（二）人工智能刑事責任能力之反思

強人工智能體即使形成一定獨立意識，但這種意識也非絕對自由的意識。恩格斯曾經指出：“如果不談所謂自由意志、人的責任、必然和自由的關系等問題，就不能很好地討論道德和法的問題[8]”。主體未達到形成自由意志的階段，便意味著對自身行為無法真正具備控制能力。而我國刑法在討論刑事責任能力時，主要考察年齡與精神狀態。這主要因為年齡與精神狀態影響行為人的辨認與控制能力。只有當行為人同時具備辨認能力與控制能力時，刑法對其才具有非難可能性，才能對其處刑罰。而強人工智能自由意志的欠缺決定了它們并不能完全獨立地實施一系列行為，無法真正形成人類一樣的控制能力。同時，刑法上的危害行為必須要求在行為人意志的支配下實施，而強人工智能客觀表現的各種行為舉動并非受特定意志支配，因此，其不具備實施刑法上危害行為的主觀條件，同時，由于不具備對行為的真正控制能力，也就不符合刑事責任主體資格。正如有學者指出的，“人類思維和AI 永遠是模擬與被模擬、操控與被操控之間的關系，人類大腦是AI 可以無限接近但不可逾越的地平線。”[9]人工智能體終究是人類智慧的創造物，因而在任何時候都無法真正脫離人類的控制，其所實施的行為或多或少都會摻雜著人類的意志。

綜上，強人工智能不具備刑事責任能力，也無法滿足刑事責任主體條件。刑法亦是處罰人的法律，人工智能體不能擁有與人類相同的自由意識，不能對自身行為作出是非善惡之分，因而也就不是一個適格的刑事責任主體。

三、人工智能納入刑事主體對刑法體系的影響

肯定說論者以前瞻性觀點對未來人工智能可能實施的危害行為提出完善立法的建議。不可否認，這種追求對法益侵害事先預防的觀點，正符合當下理論界所倡導的積極主義刑事立法觀。但對于一種極為遙遠的可能性問題甚至無法到來的時代，立法的必要性有多大著實有待于商榷。對人工智能領域的風險預防，肯定論提出將人工智能納入刑法規制范圍的設想。但這種設想并非一種積極主義的刑事立法觀，而屬于一種非理性、激進式的立法觀。刑事立法應當考量刑法的體系設置與實施的現實可能性，并非是隨意增設新罪。正如有學者所言，積極主義不是隨心所欲的濫用，也不意味著在社會治理中的首當其沖，相反強調的是與刑法在法體系中的地位和功能相協調下的適度的、理性的犯罪化。如果強行將人工智能體納入刑事責任主體范圍內，那就勢必會對整個刑法體系造成前所未有的沖擊；刑事責任主體的擴張將會導致刑事立法及相關刑法理論的重新構建，其任務量之大必定是立法者及理論界當下及未來很長一段時間內所無法完成的。

刑事立法的修改將直接影響刑法中的具體理論。人工智能納入刑事責任主體范圍，首先要通過刑事立法來具體實現。而這一立法變動對刑法理論有著“牽一發而動全身”的影響。如果持肯定說論者的建議真正實施于立法之中，那么諸多刑法理論也將隨之重新定義，甚至喪失意義。以法益保護原則為例，刑法是通過損害一部分法益（適用刑罰）來保護另一部分法益的[10]。在人工智能可否具備刑事責任主體資格的爭議中，無論持肯定說學者或否定說學者，所關注的焦點都在于對具有自主意識的人工智能對人類造成危害時如何規制，而沒有從相反的角度考慮，亦即假如人工智能可以作為刑事責任主體，那當人類或是人工智能針對人工智能實施的犯罪行為是否需要保護呢？人工智能是否有值得保護的法益？既然肯定說學者認為人工智能應當為其自主意識支配下實施的犯罪行為承擔責任，那其權利同樣也應當得到刑法的保護。權利與義務是一對相互的概念，任何一部法律都不可能僅規定權利或者僅規定義務。同一法律主體對于兩者也屬于兼而有之的狀態。而事實上，部分肯定說論者的討論局限于人工智能犯罪時如何利用刑法規制其犯罪行為。換言之，如何為人工智能制定一套全新的刑法意義上的義務？但是，這種討論基本未對如何保障人工智能的法益有所涉及。根據權利與義務的依存關系，設置刑法上人工智能主體義務的同時，也應當考慮為其制定一套全新的法益保護標準，使得其合法權益得到保障。而事實上這一標準是難以實現的。人工智能所實施的犯罪與自然人的法益，或者自然人所實施的犯罪與人工智能的法益之間的比例性問題本身就是一大難題。例如，當人工智能實施故意殺人，情節特別嚴重時，按照罪責刑相適應原則，應當剝奪其生命權；而實際上，人工智能并不具備這項權利，因為其本身就是非生命體。有學者提出對人工智能開發一套新的刑罰體系，即刪除數據、修改程序、永久銷毀[11]。但是，這種新型刑罰體系真正能夠做到罪責刑相適應嗎？永久銷毀能否等同于剝奪人工智能的生命權，能否起到安撫被害人家屬的作用？刪除數據或者修改程序又與自然人哪種法益具有相當性？這些問題表明了肯定說理論仍然處于不成熟階段，有待進一步探析。而本文認為，即使將來肯定說理論有了新的突破，在不承認自然人與人工智能法律意義上平等的前提下，此類問題仍會如“雨后春筍”般產生。

四、結論

綜上所述，無論弱人工智能或是強人工智能都不宜成為刑事責任主體。因為人工智能不具備人的思維屬性，無法同人類一樣進行感知，而刑罰需是能為人所感知的，它是一種讓人感受到恐懼的強制力，只有如此才能長久地約束和震懾那些犯罪的欲望。人工智能體會不到刑罰帶來的痛苦，也就會降低對刑法的敬畏，從而致使刑罰功能落空。人工智能也無法同人類一樣在社會網絡中與他人交往。刑法所規制的犯罪行為是基于人與人之間的某種關系而產生的。人工智能無論是對知識的獲取、對行為的認知還是對情境的反映等，都是在特定的現實空間或虛擬空間里進行的，并非是參與社會活動的結果，因而不具有社會性，而只具有自然性、反射性[3]。進而言之，人工智能不能擺脫人類的控制，其本質意義上始終是為人類服務的工具。如果說將來人工智能真正實現獨立思考、能夠自主支配行為、對人類能夠實施“反控”時，那么造就這類人工智能體的意義是什么？既然這類人工智能體本身就存在風險，不如趁早將其扼殺在搖籃里。對人工智能“居安思危”固然是沒錯的，但并非一定要利用刑法防御風險。當下，最應當致力于如何保障人工智能在人類可控范圍內發展，這要比增設一個新的刑事責任主體更為簡便。“防患于未然”才是時下最好的一個選擇。

參考文獻：

[1]? ?雷·庫茲韋爾.奇點臨近[M].李慶誠，等，譯.北京：機械工業出版社，2011：80.

[2]? ?劉憲權，胡荷佳.論人工智能時代智能機器人的刑事責任能力[J].法學，2018，（1）：40-47.

[3]? ?葉良芳.人工智能是適格的刑事責任主體嗎？[J].環球法律評論，2019，（4）：67-82.

[4]? ?王肅之.人工智能犯罪的理論與立法問題初探[J].大連理工大學學報：社會科學版，2018，（4）：53-63.

[5]? ?劉憲權，房慧穎.如何劃分智能機器人的刑事責任？[J].公民與法：綜合版，2018，（6）：30-31.

[6]? ?張鶴鳴.意識是人腦的機能嗎[J].學術研究，1986，（3）：51-56.

[7]? ?馬文·明斯基.情感機器：人工智能與人類思維的未來[M].王文革，等，譯.杭州：浙江人民出版社，2016.

[8]? ?馬克思恩格斯選集：第3卷[Ｍ].北京：人民出版社，2012：490－491.

[9]? ?張勁松.人是機器的尺度——論人工智能與人類主體性[J].自然辯證法研究，2017，（1）：49-54.

[10]? ?張明楷.法益保護與比例原則[J].中國社會科學，2017，（7）：88-108，205-206.

[11]? ?劉憲權.人工智能時代刑事責任與刑罰體系的重構[J].政治與法律，2018，（3）：89-99.

[責任編輯? ?興? ?華]