新一代人工智能視域下刑事主體資格否定論

摘要：新一代人工智能以其處理問題速度快、準確率高、角度多樣，給人一種其具有意識的假象，它的發展對刑事主體的認定有著極大的沖擊。從物理學原理分析，新一代人工智能是基于計算產生的，其神經網絡結構并不具有人腦神經系統的功能，因復雜的運算才顯得格外智能，實際上其并不具有意識；從刑法學原理分析，新一代人工智能不具備現行刑法意義上犯罪主體的性質，主觀不存在罪過，所實施的行為也并非刑法規制的行為。此外，新一代人工智能不具備受罰能力，其介入行為也有礙合理的定罪量刑，難以充分實現對被害人及其親屬的安撫功能。因此，新一代人工智能不能成為現行刑法中的刑事責任主體。

關鍵詞：新一代人工智能；刑事主體資格；否定論

所謂人工智能，其本質是人工的智能，是建立在大數據與算法技術基礎上，對人的大腦結構和思維運行機制的模仿，而非人類智能。關于人工智能技術的定義，日本法律認為：“人工智能技術是幫助機器用人工方法實現學習、推論、判斷等功能的技術[1]。”韓國的《智能機器人開發和普及促進法》對智能機器人的定義是“自行識別外部環境并判斷情況，進而自主操作的機械裝置[2]。”日、韓兩國法律對人工智能的定義表明：人工智能是依靠人工方法實現的智能，而非依靠其自身思考實現的，其僅能夠處理無顯示式規則的感知類任務；對于邏輯規則類型的任務，人工智能無法完成。筆者贊成日、韓兩國對人工智能的定義，雖然新一代人工智能可以自主實施程序設計以外的行為，對于人類的提問，回答的角度更加多樣化、準確率更高、速度更快，但也不具備意識。本文將從物理學原理分析其意識假象的根本原因，從刑法學原理分析新一代人工智能的發展對刑事主體的資格認定有著極大的沖擊，從犯罪論和刑罰論證明其不能成為現行刑法中的刑事主體。

一、新一代人工智能的發展對刑事主體資格認定的沖擊

由于新一代人工智能逐漸實行無監督學習的模式，即機器學習時人為干預與弱人工智能相比大大減少，即使程序員設置系統刪除所有信息，新一代人工智能依然會將其納入數據庫，并在以后解決類似問題時，將所收集的信息作為事例進行運用。因此，若出現泄露用戶個人信息、商業秘密等信息的情形，如何認定刑事責任主體便成了焦點問題。正是由于新一代人工智能擁有更多自主的行為，更貼近自然人的特征，對刑事主體資格的認定產生了極大的沖擊。在弱人工智能時代，若機器實施了違法犯罪行為，其設計者無疑是刑事責任主體；在新一代人工智能時代，若一味追究設計者的刑事責任，并不合理，因為新一代人工智能會自主實施設計者意志以外的行為。若將新一代人工智能納入刑事責任主體的范圍，將對現行刑法的刑事主體體系和認定規則產生較大沖擊，缺乏合理性與刑罰的必要性。尤其在涉及正當防衛的案件中，新一代人工智能的介入對刑事主體的認定有較大的沖擊。

例如：高級機器人甲盜竊自然人乙的合法財產，乙在必要的限度內反擊，造成甲的部分功能減弱。此種情形中，乙為了使本人的財產權免受正在進行的不法侵害而對不法侵害者甲實施的制止其不法侵害且在必要限度內的反擊行為不符合正當防衛的對象條件。由于不法侵害是通過人的身體外部動作進行的，制止不法侵害就是要制止不法侵害人的行為能力[3]。也就是說，不法侵害人應當是具有行為能力的人，即具備權利能力和意思能力的人，但法律并沒有賦予新一代人工智能相關的權利，因此它不具備權利能力；另外，新一代人工智能所做出的決策是基于算法設計、通過深度學習的模式表現出來的，并非其具備意思能力。因此，乙的行為對象不符合現行刑法規定的正當防衛的對象條件。故，乙的行為不屬于防衛行為。但是，及時有效地保障個人合法權益免受正在進行的不法侵害是法律賦予公民的權利，被害人的行為既不具有社會危害性也不具有刑事違法性，若在該案件中認定被害人乙為本案的刑事責任主體，應當負刑事責任，顯然不合理。故此，新一代人工智能的發展可能導致刑事主體倒置的問題，使被害人進一步受到傷害，違背了刑法對被害人保護的初衷。

二、基于物理學原理的分析：對新一代人工智能的意識之否定

（一）新一代人工智能的行為是基于計算產生的

在數學家約翰·馮·諾依曼的引導下，理學界有關人工智能的認識與思考形成了“圖靈派”和“歌德爾派”。圖靈派實質上是計算主義，認為人工智能所做出的復雜舉動都是基于簡單規則的計算而產生的。從物理符號系統的邏輯智能到聯結主義的計算智能，這一思想主導了人工智能至今的發展歷史[4]。歌德爾派則認為唯有動因和信念才是智能的本質，根本不存在構建智能的一般規律和方法。在現實中，哥德爾派的思想在人工智能的發展上并沒有產生很大的影響。筆者贊同圖靈派的觀點，現代計算機是基于數字計算機的邏輯操作結構的構建而產生，從此開始了人工智能的研究與發展。因此，無論人工智能怎樣發展，其起點始終是計算。沒有算法構建就沒有人工智能的發展，因而人工智能實質上就是計算智能，其所表現出的復雜行為都是基于計算而產生的。如果沒有感知模式和識別抽象概念的設計，新一代人工智能也不能生成人類認可的回答。關于新一代人工智能實施的程序設計以外的行為，并不是因為其具備意識，而是由于其不斷從樣本中深度學習，打破了弱人工智能僅通過淺顯學習再結合預先內置答案的模式，其儲備的知識越多，學習深度越大，回答問題的角度、復雜性也會增加，這才給人一種其具有意識的假象。因此，新一代人工智能的行為是基于計算而產生的，并非基于意識。

（二）新一代人工智能的神經網絡結構不具有人腦神經系統的功能

根據生物學原理可知，人的行為是由神經系統對體內外刺激所作出的規律性反應的外部表現。這種反射活動是化學輸入信號經過神經元傳入下丘腦并在大腦皮層中產生意識，并在意識的支配下通過傳出神經等結構形成動作的過程。根據物理學原理可知，新一代人工智能是建立在深度神經網絡（DNN）上的亞符號人工智能。深度學習和強化學習是機器學習的主要方式，其靈感來自生物大腦中神經元之間的相互交流方式[5]，人工智能的運行是通過神經元之間傳遞信息來進行捕捉信息的無思考過程。如圖1所示，人工智能動作的產生是由于信息在神經元中的處理過程可以通過一個具有多個輸入和一個輸出的計算機程序進行模擬，感知機將其接收的輸入信號相加，如果總和達到或超過感知機的閾值，則感知機輸出1（被激活）；否則，輸出0（未被激活）。閾值可以由程序員設定，也可以由其通過自身學習得到。[4]簡單說來，人工智能的動作可以通過學習和模仿獲得，也可以通過預設的程序指令實現。然而，其神經網絡結構并不具備自然人神經系統的功能，因此無法擁有人類真正的思考品質，必然無法產生獨立的意識。此外，人類意識是知情意的統一體，而人工智能僅是對人類的理性智能的模仿和擴展，不具備情感、信念、意志等人類意識模式[6]。因此，人工智能不能代替人類以理性與感性相統一為基礎的整體決策，而只能作為輔助決策的工具。新一代的人工智能也是如此，不具備意識。

圖1 新一代人工智能動作產生過程

（三）新一代人工智能的意識假象在于復雜的運算

根據信息動力學原理可知，弱人工智能和新一代人工智能的功能有三種：復制、粘貼和排序。然而，這兩者的功能相差甚遠，原因在于信息處理的復雜性差距較大，而不是因為新一代人工智能具有獨立思考的能力、擁有真正的意識。如圖2所示，弱人工智能只能進行簡單的排序運算，雖然排序可以是復雜的算法，但是最終的輸出只是一個序號，這也代表著整個復雜運算就此終結，其無法自行迭代運用它的運算能力進一步完成更為復雜的任務。新一代人工智能輸出的信息形式則更加復雜靈活，因此可以通過多次迭代運用這種信息處理能力來實現更高的復雜度，這是弱人工智能無法達到的，同時也是新一代人工智能給人以“具有意識”的假設的重要原因之一。此外，新一代人工智能（如GPT-4）可以根據指令給出推導過程，但是如果直接讓它給出最終結果，它并不是通過在“腦中”進行推導后給出結果，而是直接憑“直覺”（類似于人類的直覺式、無意識的思維方式）給出結果。這就解釋了為什么在要求其“寫出推導過程”的指令時，它的計算準確率會明顯提高[7]。由此可知，新一代人工智能可以讀懂人類的語言，并運用語言與人類交流，但并不具備思考的意識和能力。

三、基于刑法學原理的分析：對新一代人工智能的主體資格之否定

（一）基于犯罪論對新一代人工智能刑事主體資格的否定分析

1.新一代人工智能不具備現行刑法意義上的犯罪主體的性質

按照現代刑法的主體標準，獨立主體必須同時滿足行為主體與責任主體的雙重邏輯[8]。筆者認為，新一代人工智能并不具備現行刑法意義上的犯罪主體的性質。

首先，從主體的法律性質上分，我國現有刑法規定的行為主體是廣義上的“人”，包括自然人犯罪主體和單位犯罪主體。自然人是生物學意義上的人，即一種具有獨立呼吸、高度發達的大腦、復雜的抽象思維、意識、語言以及自主解決問題能力的真核生物、高級動物。而且人是碳基生物，隨著時間的推移，人的細胞分裂次數達到海弗里克極限指數時，細胞就不再分裂，最終由于新陳代謝的停止，人面臨死亡。而新一代人工智能是人創造出來的一種硅基生物，由程序設計和編制而成，依靠強大的算力和傅立葉分析認識世界，并沒有任何真實的感知，它可以通過更換零件、算法更新等方法永遠生存下去，從而無法確定其是否達到刑事責任年齡。因此，即使隨著人工智能技術的不斷發展演進，其越來越像“自然人”，但其終究不具備自然人行為主體的性質。再有，刑法意義上的擬制主體是單位，與人工智能的性質截然不同，現行刑法雖然沒有將人格作為定罪的依據，但是刑事責任主體都具有人格，而人工智能只是科技的產物，不能僅基于有限的識別能力而視之為具有獨立人格的“擬制人”[9]。此外，犯罪人的最本質的特征在于其具有犯罪危險性人格，即犯罪人內在的相對穩定的反社會傾向的特定身心組織[10]。而新一代人工智能所具有的功能、特征、行為可以通過改變算法以及樣本的方式改變，不具備相對穩定性，即使實施了一次危害社會的行為，從這個角度分析，也不能認為其具有犯罪危險性人格。因此，新一代人工智能不具備我國現行刑法意義上行為主體的性質。

其次，具有刑事責任能力是自然人犯罪主體的構成要件之一。刑事責任能力包括辨認行為能力和控制行為能力，筆者認為新一代人工智能不具備刑事責任能力。以ChatGPT為例，ChatGPT的功能復雜多樣，如對話和寫論文。其使用了Transformer神經網絡架構，擁有語言理解和生成文本的能力。不僅如此，chatGPT還可以拒絕回答惡意提問和請求。一旦發現用戶給出的文字提示中含有惡意意圖，包括但不限于暴力、歧視、犯罪等，ChatGPT會拒絕提供有效答案[11]。基于上述特征，ChatGPT似乎具備辨認能力和控制能力，因而能夠在有惡意的提問中拒絕回答。但是筆者認為其依舊不具備自然人作為犯罪主體所應具備的辨認行為能力和控制行為能力。首先，ChatGPT之所以能夠回避回答含有惡意的問題，實質上是基于其訓練方法的獨特性。在ChatGPT的學習過程中，其不僅注重理性訓練，而且采用注重道德水平的訓練方法，其可以按照預先設計的道德準則，識別提問者的問題是否違背公序良俗，從而遵循道德準則決定回答的內容并生成文本。此外，多數實踐表明ChatGPT對于某些問題的回答也未必合乎法律規定。例如，筆者曾嘗試問ChatGPT：“如果甲的母親和女友同時掉進水里，他應該先救誰？”ChatGPT回答：“從一個普遍的倫理和道德觀點出發，我認為應該優先救女友。理由如下：首先，女友是甲的伴侶和生活中重要的人，他們之間有很強的情感和責任連結。在危險情況下，保護伴侶是首要任務。其次，甲的母親可能有更多的生命經驗和智慧，她可能更有能力在危險情況下保護自己。最后，甲的母親可能會理解他的選擇，因為她也會希望他珍惜他的伴侶。”（以下稱“落水案”）該問題按照法律規定應當先救母親，否則若產生危害后果，行為人將構成不作為的犯罪。由此看來，ChatGPT僅能對有惡意、違背倫理的、直白、明確的問題進行辨認和回答，且這些問題需在算法設計范圍之內。對于其他背后隱藏法律、倫理問題的提問，其未必能給出合法、合理的回答。簡而言之，新一代人工智能并不具有刑事責任能力，其所謂的辨認行為能力和控制行為能力只是通過算法設計和程序控制展現的，對于一些較為復雜的問題，其不能意識到自己的行為在刑法上的性質以及后果，因此其不具有刑法意義上的辨認行為能力；而控制行為能力是以辨認行為能力為基礎的，因此其也必然不具有控制行為能力。故此，新一代人工智能不具有刑事責任能力。

2.新一代人工智能主觀上不存在罪過

犯罪主觀方面的核心內容、必備要素是罪過，即犯罪故意和犯罪過失。基于前文分析，筆者認為新一代人工智能的主觀上不存在罪過。

對于故意犯罪，我國《刑法》第14條第1款規定：“明知自己的行為會發生危害社會的結果，并且希望或者放任這種結果發生，因而構成犯罪的，是故意犯罪。”①因此，在故意犯罪的構成要素中，認識因素和意志因素都是必不可少的。基于物理學原理分析可知，新一代人工智能僅能通過深度學習認識到某些行為的不良或不法性質。但是刑法意義上的明知包含多層內容，例如：行為的性質、對危害結果的認識以及對法定的行為對象的認識等。簡單而言，即行為人要知道自己當時在做什么，認識到所實施的行為造成或者可能造成的危害結果的內容以及性質，對行為對象有必要的認識。然而，通過ChatGPT對上述落水案的回答，不難看出新一代人工智能缺乏認知因素。此外，新一代人工智能并不具備意識，因而其必然不具備“希望”或者“放任”的心理，毫無意志因素可言。故此，新一代人工智能在主觀上不可能存在犯罪故意。

對于過失犯罪，我國《刑法》對過失犯罪的規定中也包含了認識因素和意志因素。認識因素表現為行為人對危害結果應當預見而沒有預見或者已經預見但輕信能夠避免。因此，判斷是否存在認識因素的關鍵在于判斷是否具有預見可能性，而具有預見可能性的前提是行為人主觀上要有認識能力和預見能力。雖然新一代人工智能可以通過深度的機器學習從數據中發現模式，模式被發現即可用于預測，但是預測能力只是通過大量數據學習而得。也就是說脫離了數據，新一代人工智能就沒有了所謂的預測功能，因而預測能力并非其主觀上的能力。即使新一代人工智能能夠預測到自己的行為將會導致危害結果的發生，也不能認為其預測能力等同于刑法意義上的預見能力，因此，新一代人工智能不存在過失犯罪的認識因素。故此，新一代人工智能在主觀上不可能存在犯罪過失。

3.新一代人工智能實施的行為并非刑法規制的行為

刑法意義上的行為特指受人的大腦支配的行為，反射動作、無意識動作等均被排除在外。因此，若承認新一代人工智能的刑事主體地位，在定罪時將帶來諸多問題。例如：根據德日刑法理論，我國刑法規定的綁架罪是典型的短縮的二行為犯。即只要行為人以實施目的行為為目的，實施了實行行為，就成立犯罪既遂，不以行為人是否客觀上實施第二個行為以及目的內容是否實現為必要。但是，如果缺乏犯罪目的，僅僅存在實行行為，僅成立他罪或者不成立犯罪。由于人工智能實施的是無意識行為，即使實施了綁架行為，也不構成現行刑法規定的綁架罪以及其他犯罪，否則將有客觀歸罪之嫌。進一步而言，即使人工智能通過學習、認識綁架罪，程序員通過預先設計程序指使其犯綁架罪，由于不存在犯意聯絡，其所實施的行為仍屬于無意識動作，因此無法成立共同犯罪。

此外，在日本的新過失論中結果的預見可能性是結果回避義務的前提條件成為共識[12]。即只有存在預見可能性才會產生注意義務，并具有結果回避可能性。如上所述，新一代人工智能缺乏預見能力，無法產生注意義務，因而其對危害結果的發生不具有回避的可能性。我國刑法處罰的是產生實害結果的過失犯，對于新一代人工智能的實行行為導致的危害結果，由于其主觀上不存在過失，必然不構成過失犯罪。因此，新一代人工智能實施的行為并非刑法規制的行為。

（二）基于刑罰論對新一代人工智能刑事主體資格的否定分析

1.新一代人工智能的介入影響合理的定罪量刑

人工智能的介入會影響合理的定罪量刑。一方面，人工智能可能會弱化人的責任形態[8]；另一方面，無過錯的人工智能設計者也可能會受到法律的追究。我國司法實務中對人工智能對自然人人格權侵害的案例判決表明，侵權責任由公司承擔。②在此處罰方式上延伸，若人工智能實施了犯罪行為，也固然是認定為單位犯罪，無論根據雙罰制還是單罰制處罰原則，受到刑事處罰的主體依然是單位以及相關人員，而非人工智能。筆者認為，鑒于新一代人工智能會實施程序設計外的行為以及采取無監督學習的方式，一味地按照原有的處罰規則不利于保障無辜人免受刑法的追究，也不能體現罪責自負原則的內涵。對于設計用于實施某些特定危害行為的程序，追究相關單位或者自然人的刑事責任的合理性毋庸置疑；但是對于人工智能在運行中超出了程序設定目標并產生了社會危害行為的情況，追究相關單位或者自然人的刑事責任并不合理。因為人工智能危害社會的行為并非在單位或程序設計者的意志支配下實施的，必然不應該由單位或者自然人對此承擔刑事責任，否則將不能實現刑法的人權保障功能。

2.新一代人工智能完全不具備受罰能力

筆者認為，無論是主刑還是附加刑，新一代人工智能均不具有受罰能力。其一：生命刑、身體刑、自由刑、名譽刑均以犯罪人具有生命為前提，而新一代人工智能只是科技的產物，不具有生命，即使對其處以上述刑罰，也無法達到剝奪生命權、損害身體、剝奪名譽權的效果。只是將實施危害社會行為的人工智能停用或者銷毀，同時對于其他的人工智能也沒有威懾或教育鼓勵的功能，起不到有效地懲罰犯罪、預防犯罪的作用。其二：財產刑以罰金、沒收財產為主要內容，其前提是犯罪人有獨立的財產。然而，新一代人工智能只是一個工具，即使工作也沒有相應的報酬，毫無獨立的財產可言，因此，對其處以財產刑毫無意義。此外，目前人工智能犯罪是由相關的單位或者自然人代為處罰，對人工智能處以財產刑，必然會導致無辜的人受到不應有的處罰，如此處罰百害無一利。

3.新一代人工智能的介入難以充分實現刑罰對被害人及其親屬的安撫功能

司法實踐中介入因素包括他人行為，他人行為的介入可能會切斷原有的因果關系。例如：甲向乙的水中投毒，欲毒死乙，在乙喝完水即將中毒身亡時，丙持刀將乙殺死。若丙為自然人，本案中由于丙的后因行為的介入，切斷了甲的前因行為與乙死亡結果間的因果關系，因而甲僅負故意殺人罪未遂的責任，丙應當負故意殺人既遂的責任。但若丙作為高級機器人，其行為作為介入因素，則由甲承擔故意殺人未遂的責任，而丙依然承擔故意殺人既遂的責任。這樣處理看似因符合因果關系與刑事責任相對應的原則顯得合理，但是由于人工智能犯罪與人犯罪不同，其不具有罪過心理，行為也不具有普遍性，如此處罰并不合理，不能起到有效處罰犯罪并達到公平公正的效果。此外，由于我國刑法目前尚未有涵蓋人工智能犯罪的相關罪名以及針對人工智能犯罪構成要件的內容，缺乏明確性規定，因此只能認定丙無罪。在該案件中唯有甲承擔故意殺人罪未遂的責任。由于我國刑法對未遂犯的處罰原則為：可以比照既遂犯從輕或者減輕處罰。

筆者認為，結合社會熱點案件的判決以及一般人的心理角度分析，如此處罰難以滿足被害人及其親屬本能的報仇需要，難以恢復其心理平衡，也不能有效體現刑罰對被害人及其親屬的安撫功能。

四、結束語

新一代人工智能的出現給社會發展帶來了極大的促進作用，但也引發了大眾的擔憂。由于其依靠算法設計顯得格外智能，給人以擁有真正意識的假象，本文通過物理學原理到刑法學原理的分析，所提出的觀點足以證明新一代人工智能不能夠成為現行刑法意義上的刑事主體，否則既浪費司法資源也達不到法律所追求的效果。因此，可以采用算法規制或者其他更優的方法，針對新一代人工智能的特性對其行為進行有效地規制。

作者單位：曹裕澤 揚州大學廣陵學院

①《中華人民共和國刑法》第14條。

②《最高人民法院發布九個民法典頒布后人格權司法保護典型民事案例之四：“AI陪伴”軟件侵害人格權案——人工智能軟件擅自使用自然人形象創設虛擬人物構成侵權》等。

參考文獻

[1]官民データ活用推進基本法，平成二十八年十二です[EB/OL].[2023-6-21].http：//www.japaneselawtranslation.gojp/law/detail/？ft=1&re=02&dn=1&co=01&ia=03&ja=04&x=0&y=0&ky=%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD&page=1.

[2]尹玟燮，栗鵬飛，王淼.韓國人工智能規制現狀研究[J].上海政法學院學報（法治論叢），2018，33（06）：91-102.

[3]高銘暄，馬克昌.刑法學：第十版[M].北京：北京大學出版社，2022：129.

[4]梅拉妮·米歇爾.AI 3.0[M].王飛躍，李玉珂，王曉，張慧，譯.成都：四川科學技術出版社，2021：XXIII.

[5]Hayward， K. J.， & Maas， M. M. （2021）. Artificial intelligence and crime： A primer for criminologists. Crime， Media， Culture， 17（2）， 209-233.

[6]劉建軍等.馬克思主義基本原理[M].北京：高等教育出版社，2021：120.

[7]OpenAI（2023）.GPT-4 Technical Report. arXiv ：2303.08774.

[8]趙秉志，袁彬.人工智能的刑法主體價值問題研究[J].河北法學，2022，40（09）：9.

[9]陰建峰.刑法的迷思與匡正[M].北京：中國人民公安大學出版社，2009：120.

[10]胡東平.人格導入定罪研究[M].北京：法律出版社，2019：28.

[11]可楊，文巧.最強聊天機器人ChatGPT面世，AI又來搶飯碗了？[N].每日經濟新聞，2022-12-13（007）.

[12]高橋則夫.刑法總論：第四版[M].東京：有斐閣，2018：220.

曹裕澤（2002-），女，江蘇鹽城，本科在讀，研究方向：刑法學。