人工智能的刑事責任能力研究

梁湖 童彤 熊睿瑤 吳秀娟 吳柏文

摘要：在人工智能逐漸發展的背景下，一些人工智能犯罪也隨之浮出水面。本文探討了人工智能犯罪的可能性以及人工智能達到何種條件方能具備刑事責任能力。并以此為根據分析哪些情況下應當由人工智能承擔刑事責任。

關鍵詞：人工智能；刑事責任；犯罪

中圖分類號：TP18+B022文獻標識碼：A文章編號：1008-4428（2019）03-0150-02

一、 背景介紹與研究目的

從21世紀開始，在第三次工業革命的驅動下，人類文明的發展翻開了新的篇章。21世紀的最初十年，是互聯網和計算機普及并大規模民用的十年，人類的生活和生產方式也都受其影響產生了天翻地覆的變化，逐步開啟了網絡社會時代的大門。大數據技術應運而生，而人類為了把這些大數據最高效的運用又創造出了AI協助人類，伴隨技術發展，AI開始影響人類生活的每個方面，我們隨之進入AI時代。智能時代的標志也就是Artificial Intelligence，簡稱“AI”，作為研究、開發用于模擬、延伸和擴展人的智能的理論、方法、技術及應用系統的一門新的技術科學。AI開始逐漸接手人類的工作，并以遠超人類的效率和精度去協助人類解決人類解決不了的和人類費時費力的問題。AI在人類的生產生活中所占的比例越來越大，甚至已經逐漸成為人類生產力中不可或缺的一部分。家居產業中有掃地機器人、智能空調等等層出不窮的智能電器，出行方面不少互聯網公司投資研發的無人駕駛汽車已經投入實驗。同時，也有許多新的產業在以之前難以想象的方式默默地改變著我們的生活。未來AI還將進一步普及，并且由現階段的只有簡單處理能力的弱AI逐步進化為有深度學習能力的強AI。但是智能時代給我們帶來機遇和發展的同時，伴隨而來的還有許多挑戰，現行的法律法規是否能夠規范這些新的生活和生產方式是一個值得探討的問題。2018年Uber研發的無人駕駛汽車在美國亞利桑那州撞擊了一名女子致其死亡。這些年工廠中工作的機器人致人重傷或死亡的事件也時有發生。人們終于開始意識到AI不僅是工具，在特殊情況下有可能對人類的生命安全、財產安全造成影響。這種焦慮與不安逐漸蔓延開，是否那些預言機器人會滅亡人類的科幻小說真的會成為現實？從目前或者可見的未來來看，AI已經有能力實施部分刑法所規定的犯罪行為了。在這樣的大背景之下，如果我們能夠提前對AI犯罪進行一些研究，探討其是否真的能如霍金所說成為“第三類人”，一定程度上避免法律的滯后性對社會造成的不良影響，想必是極有意義的。

從犯罪構成四要件的角度來分析：只要AI具有責任能力，那么就可以成為單獨的犯罪主體。同時AI往往是多人的意志集合成一個意志，那么在AI犯罪中可能是編程者們的集合亦或者編程者與AI本身意志的集合。因此AI犯罪主體既可能是單獨的AI本身，也可能與設計者構成共同犯罪主體。對犯罪的認定離不開對主觀方面的判斷。當AI的行為目的超出了設計者的預設目的，那么其行為模式絕大部分情況是由AI自身控制，此時就要考慮它的主觀因素。犯罪意思的來源應成為定罪量刑的標準。從目前或者可見的未來來看，隨著AI的發展其用途也越來越廣泛，其可能侵犯的客體自然也就愈發多樣。不論是人身權利、財產權利、民主權利等都有可能成為其犯罪的客體。從客觀方面來：AI已經具備了獨立工作的能力，獨自實施危害行為產生危害結果。

二、 人工智能刑事責任主體資格論證

有論著認為：“刑事責任能力，是指行為人構成犯罪和承擔刑事責任所必需的，行為人具備的刑法意義上辨認和控制自己行為的能力。”也有論著認為：“刑事責任能力，簡稱責任能力，是指行為人實施危害行為時，能夠理解自己行為的性質、后果和社會政治意義，并能夠控制自己行為，從而對自己所實施的行為能夠承擔刑事責任的能力。”還有論著認為：“刑事責任能力，……，是指行為人認識自己行為的性質、意義、作用和后果，并能夠控制自己行為方向和對自己行為承擔刑事責任的能力。”

不難發現這三個學說的共同點就是都認為刑事責任能力的條件是能夠認識自己行為的性質和控制自己的行為。讓我們回過頭來看AI是否具有這種能力呢？AI得益于傳感器技術其對行為的辨認能力遠高于以往刑法所規定的自然人。現有的AI大多以大數據的分析結果得出模型，將模型與其憑借傳感器所搜集的信息進行比對，篩選出當前環境下最適宜的行動方案，并且很多機器的精度已經遠遠高于手工制作了。因此這類AI具備認識自己行為和控制自己行為的能力，據此可以推斷AI存在成為具備刑事責任能力的可能性。

三、 具備刑事責任能力的人工智能的范圍

但是并不能簡單根據有分析數據得出模型，進而根據模型回應的能力就認為AI具有認識自己行為的能力。因為這種回應的內容有些可能是被編程者預先設定的，而在回應時它并沒有自己的意識和思維，應該被理解為編程者表達意思或者行為的工具。顯然不適合把這類AI認定為具有刑事責任能力。而另外一部分AI僅僅被預設了目的（即設計意圖）和基本工作原理，具體的工作方法和行為的實施均不是設計者可以具體控制的，這種情況下顯然AI已經有了一定程度上的辨認和控制能力。具體區分哪些AI是具有辨認和控制能力，很難從技術角度來分析，因為其很大程度上是一個主觀的概念。根據現在以及可見的未來的技術情況來看，AI都離不開深度學習和機器學習的應用，而深度學習的結果是否屬于編程者的設計意圖和可預見的范圍之內難以確定客觀標準。在特殊情形下可能會出現邊界不明的情況。而AI難以像人類一樣確定刑事責任年齡和精神狀況。原因在于，不同的AI對行為辨認和控制的能力不同，并且AI對社會的接觸方式和生存模式明顯不同于自然人，出于避免AI從事違法犯罪活動的考慮，也使AI違法犯罪時進行處罰具備合理性，法律應當賦予編程者將基本法律規范灌輸給AI的義務。當未盡預防義務的編程者所設計的AI犯罪時，編程者的主觀狀態應當認定為明知道自身的行為可能會導致危害結果而持放任的態度即間接故意，此時AI不應該承擔刑事責任。AI具備刑事責任能力的前提不只有對法律具備一定程度的了解，還應當包括具備獨立實施犯罪的能力（也就是控制能力的外在表現）。其原因在于，即使一個AI對法律具備相當程度的了解，清楚自身行為的性質，但其不具備獨立實施犯罪的能力，則說明其控制能力存在缺陷，是外部因素介入導致最終的危害結果發生。這種情況下顯然AI作為工具的成分更大，不適宜將AI作為刑事責任的主體。

辨別AI的控制能力，不僅僅要考慮其硬件上的限制（比如其本身不具備機器手臂，不可能進行直接操作），還應當考慮其在該領域內的智力水平是否達到實施犯罪的程度（即辨認能力的基礎），否則一旦過大范圍賦予AI以刑事責任能力，AI難免成為部分犯罪分子的“替罪羊”。目前比較可行的考察AI的智能程度的方法是參考自然人測試智商（IQ）的方法測試AI的智商，將測試結果根據某年齡的自然人的平均IQ將AI的智力水平換算為對應的自然人的年齡，以此作為參考確定AI智力水平對應的辨認和控制能力，進而確定該AI是否具備刑事責任能力。綜上訴述，只有被編入了必要的法律規范并且智力達到了可以具備辨認和控制能力的AI才具備刑事責任能力。

四、 具備刑事責任能力的人工智能犯罪之分類

雖然前文中為了確定AI的辨認和控制能力參考了自然人的智力判斷標準，但是AI的刑事責任能力的研究顯然不應該被限定在自然人犯罪的框架之中。其原因在于AI作為被我們創設出的智能，不論是外在表現形式和思維方式都和自然人具有顯著的區別，用約束自然人的法律和思維方式去規范AI難免出現一些問題。具體到刑事責任能力這個方面，設計者的意圖和犯罪結果之間的聯系應當成為定罪量刑的依據之一。之所以把這二者的聯系作為定罪量刑的依據是因為編程者對于AI的控制和監護人對于被監護人的控制雖然有相似之處，但是二者也具有不小的區別。被監護的自然人雖然受到監護人（往往是父母）的監護并且受監護人的撫養和教育，但是被監護人通常仍有其他途徑例如學校等方式來接觸社會和主流意識形態。自然人雖然是父母所生育，其性格思維等等方面受父母影響，但是父母并不能直接控制子女的狀態。AI則不同，在研發階段編程者對AI的控制幾乎是百分之一百的，這也導致了即使編程者可能沒有直接指使AI實施犯罪，但是施加了間接的影響。這種緊密的聯系達到一定程度時即成為因果關系，導致了編程者要承擔更加嚴格的責任。具體來說：當AI所實施的犯罪行為本來就是編程者的設計目的，即使該AI已經具備了辨認和控制能力，設計者應當與有刑事責任能力的AI成立共同犯罪。而假如AI所實施的犯罪行為遠遠偏離了編程者的設計意圖，甚至超過了能夠預料的范圍，那么說明存在難以預料的介入因素，如果介入因素是具備辨認和控制能力的AI本身造成的，則應當由AI本身承擔刑事責任，編程者不承擔刑事責任。

當AI所實施的犯罪行為在編程者意圖之內，并且該案件中的AI無刑事責任能力，此時AI僅僅是編程者表達意思的工具，其狀態和處罰應當參考自然人犯罪中的間接正犯。

還有一種情況是：AI所實施的犯罪行為在編程者設計目的之外，且該AI是無刑事責任能力的情況下實施的犯罪行為。假如參考無刑事責任能力的自然人犯罪的情況，該自然人是不承擔刑事責任的。但是AI畢竟只是人類創設出的智能，人類對于無刑事責任的同類的寬容不應該適用于AI。其原因在于假使其獨立實施犯罪而不承擔刑事責任顯然違背了公平正義的要求，并且該AI既然已經實施了編程者意圖之外的犯罪行為證明其顯然具備一定的危險性，假如不對其加以懲處顯然不符合安全的需要。

在本文開頭已經討論了區分AI的刑事責任能力對于人類的作用，最后需要討論的是承擔刑事責任對AI是否有意義。自然人適用的刑事責任由于其性質顯然不能對AI產生懲罰或者教育的意義。比如：只要不被徹底刪除，AI作為一串代碼幾乎能夠無限的存在下去。因此簡單粗暴的刪除并不能達到相當于人類死刑的效果。而也正是這種幾乎無窮長的“生命”也使得有限度的限制自由對AI幾乎沒有意義。而AI通常也沒有財產和政治權利，財產刑和剝奪政治權利對其也不適用。

五、 結論

刑法理論必須與時俱進，跟上社會發展的腳步。否則無法適應新的社會發展帶來的社會問題。AI時代的刑法理論不應再將刑事責任主體的范圍限定為具有生命體的“人”和單位，那種認為“刑法是以規制人的行為為內容的，任何一種刑法規范，只有建立在對人性的科學假設的基礎之上，其存在與適用才具有本質上的合理性”的觀點，也應當隨著社會的進步而有所改變。刑事責任能力的前提不應再被限定為自然人，而應以辨認和控制能力為標準。雖然這一標準并不存在可以精確客觀量化的標準，但是我們應當嚴守這一界限。既不讓AI成為人類的替罪羊，也不讓編程者和使用者承受無妄之災。因此，AI的犯罪行為是否與編程者和使用者的目的和意圖有關聯應當作為確定刑事責任的依據之一。AI越來越多的深入我們的生活中，筆者認為對AI刑事責任的研究和規定勢在必行。而視而不見導致的法律的滯后性的影響可能是巨大的。

參考文獻：

[1]陳婉婷.網絡服務提供者幫助行為刑事責任模式探析[J/OL].北京警察學院學報：1-9[2019-01-28].https：∥doi.org/10.16478/j.cnki.jbjpc.20190122.006.

[2]劉旭.人工智能體犯罪的刑事歸責——以自動駕駛汽車為例[J].山西省政法管理干部學院學報，2019（1）：82-85.

[3]曾娜，吳滿昌.生態環境損害賠償中的多重責任之比例審查探討[J].武漢理工大學學報（社會科學版），2019，32（1）：110-115.

作者簡介：

梁湖，男，江西景德鎮人，江西財經大學學生，研究方向：法務會計；

童彤，女，江蘇無錫人，江西財經大學學生，研究方向：法學；

熊睿瑤，女，江西南昌人，江西財經大學學生，研究方向：法學；

吳秀娟，女，福建寧德人，江西財經大學學生，研究方向：法學；

吳柏文，男，江西九江人，江西財經大學學生。