論強人工智能體刑事責任主體之否定

陳帥

摘 要：人工智能不同于人工智能體。從功利主義角度看，人工智能體的行為是先行程序設定的繼續推導，其不具有辨認和控制能力，因而不具備自由意志。同時強人工智能體缺乏法規范遵從能力的意志，對其無法進行刑事苛責和施加刑罰，因此不能作為刑事責任主體;從人本主義視角看，強人工智能體同法人在意志能力、財產權利和刑罰配備上均有很大區別，因此無法類比法人將強人工智能體擬制為刑事主體。理應將人工智能體看作人類社會治理的輔助工具，從而有效規制人工智能體帶來的刑事風險，解決人工智能犯罪的刑事歸責問題。

關鍵詞：人工智能體;主體;功利主義;法人

中圖分類號： D914??? 文獻標志碼： A? ???文章編號：1672-0539（2021）02-0008-05

一、風險社會：人工智能之發展現狀

科技發展是人類發展的一小步，卻是指引人類邁向更大發展的一大步。21世紀以來，科學不斷發展，涌現出生物醫藥、能源汽車、工業互聯網平臺等一系列人工智能化的新興產業鏈。人工智能正逐漸成為人們廣泛討論的焦點，被稱之為人類的第四次技術革命。

2017年3月，人工智能首次被寫入政府工作報告，指出“要培育人工智能新興產業”。2017年7月，國務院印發《新一代人工智能發展規劃》，將人工智能發展作為建設創新型國家和世界科技強國的重要國家戰略。2017年10月，黨的十九大報告提出“推動互聯網、大數據、人工智能和實體經濟深度融合”的發展方針。2018年11月，工業和信息化部出臺《新一代人工智能產業創新重點任務揭榜工作方案》，征集遴選掌握人工智能核心技術、創新能力強的企業“揭榜”攻關，力求突破。2019年政府工作報告再次將“人工智能”升級為“智能+”，促進數字化經濟和工業互聯網平臺的不斷完善。隨著人工智能被納入國家戰略的重要地位，有關人工智能的研發和部署也會高效展開。然而現代社會是一個風險社會，人工智能作為人為創造的技術，其快速發展造福人類的同時必然也會帶來一定的技術風險和制度風險[1]，為了使人工智能產業更好地適應現代社會，必然需要通過規范和法律對該社會風險加以調節。對此，不僅需要通過民法和行政法加強第一性的規制保護，還要通過刑事法制進行第二性的保護。在刑事法領域，人工智能體是否具有刑事責任主體是當下研究的焦點。

需要厘清的是，人工智能與人工智能體不是等同概念，前者強調智能的程序性，是可以脫離實體而存在的編碼，后者強調“體”這一特征，即人工智能所存在的宿體。人工智能作為虛擬編碼，是非實體性的虛擬存在，只具有行為的意識，而不具有行為的能力。相反，人工智能體卻可以在程序內或者依據程序推導做出行為指令，并通過客觀上的宿體將行為的內在邏輯外在表達。因此討論有關人工智能等方面刑事責任主體的問題只能是對人工智能體的刑事責任問題的研究，而不是人工智能的責任問題研究。

根據人工智能的發展階段，可以將人工智能體分為弱人工智能體和強人工智能體。在弱人工智能階段，弱人工智能體作為人類根據程序和編碼設計出適用于某一領域的產品，其不是也不可能是行為主體，此階段的弱人工智能體只是服務于人類發展的工具，比如掃地機器人、智能管家等，不具有作為犯罪行為乃至法律行為的主體。學界對于弱人工智能階段人工智能體的工具本質已達成共識。而在強人工智能階段，此時強人工智能體已然超出原有編碼程序的控制，可以實施設計者生產者編碼外的行為，因此需要獨立對行為負責。學界對于強弱人工智能體刑事責任的有無形成了肯定說和否定說。

本文立足于研究強人工智能階段強人工智能體的刑事責任主體問題，采取人本主義的思想基礎，貫徹科學發展的思維模式，對肯定論者的觀點進行反思，提倡否定強人工智能時代人工智能體的刑事責任主體資格，將人工智能體視為人類發展的工具。下文將分別作闡述。

二、功利主義：強人工智能體刑事責任主體資格的批駁與反思

肯定強人工智能體具有刑事責任主體資格的論者認為，人工智能體具有獨立的意思，可以從事獨立的社會活動，當其活動具有嚴重的社會危害時，出于罪責自負，讓人工智能體承擔刑事責任無可厚非[2]。其邏輯可以歸納為三點，一是具有獨立的意志能力和行為能力，二是罪責自負原則，三是刑罰實施之可能。筆者認為，從功利主義上看，賦予強人工智能體刑事責任主體的資格既無法滿足人類對人工智能體的認識和約束，還徒增立法和司法適用成本，浪費司法資源，不利于現代刑事法體系的構建。故本文從以下幾個方面否定強人工智能體刑事責任主體資格。

（一）強人工智能體缺乏自由意志

人工智能程序是人為設置的程序，程序本身不具有辨認能力和控制能力[3]。智能系統是計算機的內在編碼程序，程序由生產者以及使用者設置，因此人工智能體的意志就是生產者和使用者的意志，即使后續機器人在活動中對周邊環境進行感應，選擇實施某些行為，但這些選擇都是經過大數據的處理，經過電腦計算做出的，也在生產者和使用者的意志范圍之內，而非人工智能體自己的獨立意志。根據杜拉三元交互決定論模型中的個人認知和社會環境之間的關系，人類在日常交往中環境、行為和認知三者交互決定。人工智能體不存在對行為外界規范違反之認知，不具有規范評價意義上的“目的性”。因此，人工智能體做出的無目的行為無法被刑法制裁[4]。此外，自然人之所以能成為刑事主體的另一大因素是因為人具有理性，自然人的理性受到行動控制，行動的做出代表著理性的選擇[5]。自然人可以根據社會的屬性、人類的倫理、一般的公序良俗做出合乎理性的行為。而人工智能體的行為完全是人為設置的參數，不具有理性的辨認能力和控制能力。

（二）強人工智能體缺失主觀要素

現代刑法歸責理論認為主觀罪過是犯罪客觀行為的內在表現形式，自然人之所以是主客體二分世界的主導，是因為人的主觀理性可以由理性控制自己的行為。而強人工智能體作為非生命體，其行為實施時的主觀認識并無法得知，使得其主觀上的罪過難以查明，在對故意、過失、目的和動機的判斷上只能依據法官的主觀判斷，從而陷入主觀入罪的困境。同時在共犯、犯罪未完成形態的認定上，主觀心態的缺失也會導致共犯的成立、從屬性的適用以及未遂和中止的區分在實踐中難以有效界定。如果無法對人工智能體主觀要素進行厘清，則對其刑法規范違反和行為危害程度的認識更多來源于程序編碼做出的應激決定，缺乏辨認和控制上的價值判斷，使得實踐中對其主觀惡性的查明變得極為被動。可以說人工智能體所有的行為都是經過程序的疊加做出的數據化處理，其主觀上不存在規范認識和意思認識，不具有獨立的主觀方面罪過。人腦上的故意和過失在人工智能體此類非生命的個體幾乎無法存在。一旦人工智能體實施了社會危害行為，與其去探究機器人本身是否存在主觀罪過，不如從根本上否定人工智能體的主觀方面，從而降低科技帶來的刑事風險，以更加合理地規制人工智能技術。

（三）人工智能體不具有答責能力

在責任的認識上，存在道德責任論、心理責任論、人格責任論和規范責任論等。我們認為，刑事責任的本質，在于行為人忽視法律規范的適法期待而實施違法犯罪行為。即使強人工智能體在程序設計時錄入了現有的法條規范，但是法條錄入不等于規范習得，即使熟知法條，也無法在特殊情形下基于一般自然人的認知而采取合乎人性的選擇。應當說，理性推導不同于感性認知。人的社會性使得人理解和適用法律都存在一定困難，何況是機械性的錄入學習。對由于法條機械錄入而導致采取違法行為的人工智能體，其本身不具有違法性之認識可能，缺乏法規范遵從期待之可能[6]。即使客觀上造成了法益侵害后果，也不具備刑法上的可歸責性。

（四）刑罰目的難以實現

自然人之所以可以被苛責，在于自然人的感知能力，對其施加刑罰具有法規范強化的預防效果。而強人工智能體作為智能機器的延續，對其施加現有的刑罰不具有報應和預防的目的。從報應上看，由于強人工智能體依賴于程序而做出相應的行為，并不具有財產和自然壽命的損耗，對其無論是施加自由刑、生命刑抑或是財產刑都不能達到報應的目的[7]。從預防上看，對機器人施加拘役、有期徒刑等自由刑并不能達到悔罪改造的社會效應，在其釋放后，內在程序并沒有得到更改，其依然會實施相應的危害行為，達不到特殊預防之目的。立法論上有學者認為可以增加刪除數據、修改程序、永久銷毀[8]三大替代刑罰措施，然而在分則中增設新的刑罰會沖擊我國傳統的刑罰體系，甚至會引起整個刑法結構的坍塌。事實上，人工智能體內的程序編碼十分復雜，各種引起犯罪行為的程序都是經過前期不斷的數據輸入和輸出反復的結果，單單應用刪除數據、修改程序兩種替代措施并不能消除人工智能體再次通過先行的數據計算從而反復生成引起犯罪行為的程序可能性，即此兩種新型刑罰措施無法從根本上消除再犯可能性，不具有特殊預防的功能[9]。只有通過銷毀無人駕駛汽車，方可從根本上解決再犯可能性以及降低刑事風險，但是對所有發生重大交通事故的無人駕駛汽車均予以銷毀顯然是不經濟的做法，增加人工智能技術研發成本，不利于人工智能技術的發展。

（五）缺乏相應配套設施

一旦承認人工智能體刑事責任主體資格，對其配備設施，尤其是刑事訴訟中的配套程序將變得極為復雜。刑事訴訟中貫徹的辯護全覆蓋是否包含強人工智能體，對強人工智能體是否可以采取刑事強制措施和采取什么樣的強制措施，實踐審判時如何保障強人工智能體的答責權利等都會成為實踐上難以銜接刑法的司法困境。同時對機器人審判無疑增加了法院的案件負荷，既無法達成對人工智能體的有效規制和約束，還徒增了司法審判成本。

可以說，賦予人工智能體刑事責任主體資格具有功利的目的，卻采取了不功利的手段。肯定論者強調賦予強人工智能體刑事責任主體資格是為了使強人工智能體成為刑法規制的對象，本質上是通過讓其承受一定義務從而對其設置限制，從而更好地保護人類。然而，賦予強人工智能體刑事責任主體資格，不利于刑法的高效實施。將人工智能體作為刑事責任主體時，不僅在主觀罪過的查明和違法性認識的辨別上會陷入認識困境，而且現行刑罰措施對人工智能體并不適用，在入罪后的刑罰配置上將陷入適用困境。增加新的刑罰手段只會徒增刑法成本，無法達到經濟刑法的功效，浪費司法資源。

三、人本主義：人工智能體的工具定位

在刑事責任主體判斷邏輯上，應當存在行為能力（犯罪能力）和刑罰能力的判斷標準，即刑事責任主體應當是人的下位概念，想要賦予非人一定刑事責任主體資格，只能像單位一樣進行擬制，然而人工智能體同單位不具有等質性。首先，單位的獨立意思來源于其內部組成人員的意思，反映的是單位整體意志，具有外在的辨控能力。而人工智能體反映的是設計者和制造者的意思，其不具有獨立的對外自由意志，對其擬制缺乏基礎和前提。其次，單位有財產權利，對其可以施加現有的刑罰，而人工智能體則不具備此類可被剝奪的民事權利。再次，單位有實踐基礎。我國有關單位擬制的實踐從改革開放時已然顯現矛頭，經過幾十年的實踐洗禮最終才在1997年修訂的《中華人民共和國刑法》中確定，是先實踐再立法的模式。而強人工智能體恰恰相反，現階段強人工智能體尚未在實踐中得以應用，對其擬制缺乏必要的社會基礎。最后，從社會效益上看，賦予單位獨立人格具有社會效益，可以合理規制經濟社會中產生的各種形式犯罪，更好地保護市場經濟。而對人工智能體進行擬制不僅將面臨科技風險帶來的刑事風險，不利于實踐中對人工智能體犯罪進行規制，還會增加司法成本，增加司法人員的負擔。因此，對于人工智能體刑事責任主體的判斷，無法進行主體擬制，對于非生命體的強人工智能體，本文贊成將其作為工具進行對待。

其一，人與強人工智能體最大的區別在于人的智慧不同于機器人的智能，前者包含理性和感性，且情感分析和判斷等非綜合判斷能力為主導。而智能理性推導更像是程序設定。人工智能體深度學習的是智能而非智慧，其通過算法和程序習得的只是機械性的在特定場景采取特定的行為這一模式，在出現程序未設置的場景，強人工智能體無法進行快速反應，其采取的行為難免與人類理性認識具有偏差。因此強人工智能體的行為離不開人類的干預和程序設置，只能作為人類演變社會的學習和推導工具，而不具有獨立的人格。

其二，強人工智能體最大的特點在于程序和模仿。與人的行為的不確定性截然相反的是人工智能體的程序由生產者和制造者設定，即使具有衍生的行為和意思，也是一般程序的繼續推導，具有可預測性。在程序的推導過程中，人工智能體依據先行設定的學習程序，可以對其他行為人的行為進行模仿以適應社會活動，并對周邊環境做出應激性行為。此時強人工智能體的社會危害行為是程序的過度推導，理應由可預測的生產者和制造者對其監督過失進行擔責，遵循民事行政優先解決產品責任，后置追究制造者刑事責任的邏輯，從而實現刑法的效益價值。

其三，刑法規范需要建立在人性的科學基礎上[10]。人工智能體不具有刑法評價意義上行為認識及控制要素的自主性，不具有人理性支配的可答責基礎[11]，對其不存在對應可適用的刑罰措施。如果承認人工智能體的主體地位，則意味著人和人工智能體都可作為刑事主體擔責，這是對人類發展的極大干預。甚至未來可能出現與人工智能體之間發生大規模的沖突。將人工智能體定性為行為人的工具，既可以解決現有無人駕駛車輛發生交通事故時的法律規制問題，又可以緩解人工智能背景下對刑法的沖擊。

四、結語

科技是人推動的產物，人類的最高目標不僅僅是發展應用技術，而是人類的全面發展，技術只是為這個目標服務的工具。全面貫徹科學發展以人為本的人工智能技術規范，加強人工智能產業鏈上游和下游雙重規制，這是時代的必然選擇。人工智能的最終發展必然是為人類服務，是不可超越人類智慧的存在，賦予人工智能體刑事責任主體會導致刑法理念的顛覆，不利于社會刑事法制的穩定。相反，否定人工智能體刑事責任主體資格，將其納為主體的工具在解決具體的刑事案件上反而會更為高效。

參考文獻：

[1]趙運峰.人工智能不應作為刑事責任主體[J].檢察風云，2019，（6）：28.

[2]劉憲權.人工智能時代機器人行為道德倫理與刑法規制[J].比較法研究，2018，（4）：40-54.

[3]Monika Simmler，Nora Markwalder. Guilty robots？-rethinking the nature of culpability and legal personhood in an age of artificial intelligence[J].Criminal Law Forum，2018，（5）：30.

[4]何濤，魏俊斌.人工智能承擔刑事責任的主體地位[J].南海法學，2019，（4）：96-103.

[5]劉艷紅.實質刑法觀[M].北京：中國人民大學出版社，2009：15.

[6]張成東.強人工智能體刑事主體地位之否定[J].時代法學，2019，（5）：54-62.

[7]儲陳城.人工智能時代刑罰歸責的走向[J].東方法學，2018，（3）：27-37.

[8]劉憲權.人工智能時代刑事責任與刑罰體系的重構[J].政治與法律，2018，（3）：96-98.

[9]王肅之.人工智能體“刑事責任”的教義學解構[J].西南政法大學學報，2019，（1）：60-61.

[10]陳興良.刑法的人性基礎[M].北京：中國方正出版社，1999：1.

[11]時方.人工智能刑事主體地位之否定[J].法律科學，2018，（6）：69-71.

Negation of Criminal Responsibility Subject of

Strong Artificial Intelligence Agent

CHEN Shuai

（Law School，Hunan Normal University，Changsha Hunan 410081，China）

Abstract：Artificial intelligence is different from artificial intelligence agent. From the perspective of utilitarianism， the behavior of artificial intelligence agent is the continuation of the previous program setting， with no recognition or control， and therefore no free will. At the same time， the strong artificial intelligence agent body lacks the will to comply with the legal norms， thus can not be convicted and criminally punished. So it can not be regarded as the subject of criminal responsibility. From the humanistic point of view， the strong artificial intelligence agent is quite different from the legal person in the aspects of will power， property right and penalty equipment， so it cant be modeled as the criminal subject by analogy with the legal person. Artificial intelligence agent should be regarded as an auxiliary tool of human social governance， so as to effectively regulate the criminal risk brought by artificial intelligence and solve the problem of criminal liability of artificial intelligence crime.

Key words： ?Artificial Intelligence Agent ; Subject ; Utilitarianism ; Legal Person

編輯：鄒蕊