人工智能犯罪之刑法應對

尹國 金梅娟

摘要：

大數據時代的到來，人工智能參與人類生活方方面面，并扮演者不可或缺的角色。當前處于人工智能從低級向高級發展的過渡階段，人工智能引發的犯罪案件頻現，如何通過法律對人工智能犯罪的規制是法學學者們激烈討論的話題。在案件中，人工智能所涉及的主體、各主體之間的責任劃分以及是否將人工智能作為刑事責任主體是我們亟需解決的問題，目前我國民法總則、刑法中均未賦予人工智能法律人格，需要借鑒國外各國對人工智能的規定以迎接強人工智能對法律的挑戰。

關鍵詞：人工智能犯罪;法律人格;刑事主體;應對策略

一、人工智能犯罪研究現狀

1950年，圖靈提出：“Can a machine think ？”[1]揭開人工智能發展序幕。經過幾十年的研究與發展，人工智能步入低級向高級過渡期。眾多企業研發與引進人工智能機器人從事流水線工作;達芬奇手術機器人在全球醫院中廣泛應用;谷歌無人駕駛汽車頻在公路現身;大規模人工智能武器的應用等。人工智能技術給人類帶來便捷的同時也帶來諸多風險。日本自1981年至今，發生多起機器人傷人殺人事件;2015年美國一臺機器人揮舞手臂殺死一名汽車廠裝配工;同年在德國大眾汽車廠機器人將技術工人碾壓在金屬板致死;2017年浙江警方破獲首起利用人工智能犯罪案件;2018年安徽蕪湖發生一起機器人傷害工人致死案件……人工智能的危險程度與犯罪風險逐漸提升，對人工智能的法律規制需提上日程。

2010年開始，Hallevy教授發布多篇關于人工智能犯罪的論文并出版《When robots kill ：artificial intelligence under criminal law》對人工智能犯罪進行研究。[2]劉憲權教授分別對弱人工智能與強人工智能犯罪進行分析，對人工智能、人工智能研發者、使用者三者在某一犯罪中的主體責任的劃分研究，并認為人工智能超越人類編程之外的行為可能成為刑事主體。[3]而樸宗根教授認為人工智能犯罪缺乏罪責能力、缺乏違法認識可能性與期待可能性，不能通過法律成為犯罪主體。[4]王肅之教授站在現有的法律角度，利用現有刑法犯罪理論去規制與人工智能有關的自然人與法人。[5]張成東教授認為強人工智能時代刑事立法缺乏必要性，強人工智能不具備獨立意志、規范意識等因素，不能成為刑事主體。[6]人工智能是否能成為刑事主體涉及人工智能犯罪問題中主體認定與責任承擔，正確認識這個問題是規制人工智能犯罪的重要前提。

二、人工智能能否成為刑事主體？

犯罪是否成立，無論是侵害行為還是侵害結果都必須有一個具體的行為者與結果制造者。而這個侵害行為的行為者與結果者就是我們要研究的犯罪主體。人工智能犯罪案件中，判斷人工智能是否為刑事主體是公平劃分刑事責任的前提。當前各國的刑法都沒有關于犯罪主體的法定定義，只有對犯罪主體的具體內容以及刑事責任年齡、刑事責任能力等問題的相關規定，刑法理論上有關犯罪主體的定義沒有統一表述。

（一）人工智能刑事主體之否定論

日本學者山口厚認為：“犯罪的主體在法律條文上是用‘…者來表現的，自然人屬于此。法人不屬于‘…者，僅在具備將法人作為處罰對象的特別規定的場合，方才處罰法人。”[7]刑法尚未對AI規定，AI亦不屬于‘…者表現。日本學者團藤博士從人格行為論出發，認為犯罪行為是“行為人人格的主體性現實化的身體動靜”這種行為是具有生物學的基礎與社會的基礎，是在人格與環境的相互作用中由行為人的主體性態度所實施的。[8]人工智能由一串串代碼組成，人工智能的行為是根據編碼指令抑或深度學習后自身發出的行為指令，難以脫離“人造載體”的局限，不具備生物學的基礎。康德把犯罪看作是一個有理性的人之所為，只有這樣才能加刑于他，犯罪人首先是一個具有刑事責任能力的人。在責任行為中，行為者據此被視為行為結果的作者。[9]人工智能犯罪的情形中，其是都具備責任能力值得考量。張成東教授認為人工智能超越編程外的意志極大可能是程序中的遺漏而非產生的獨立意志，加之其實施行為是在既定程序下進行，且缺乏自主意識有選擇的實施，實然與應然分析出強人工智能無法成為刑事主體。

（二）人工智能刑事主體之肯定論

目前，大多數學者認同人工智能具備刑事主體資格。周詳教授從“權利主體論”角度出發，他認為將智能機器人“人格化”不存在法律上的障礙。[10]其實早在2017年，機器人Sophia 就被沙特阿拉伯授予公民身份。劉憲權教授從賦予人工智能道德與倫理屬性出發，肯定智能機器人的犯罪主體地位，從《刑法》17條入手承認人工智能的主體地位。[11]國外Hallevy教授認為犯罪主體可以從自然人、法人中增加人工智能。彭文華教授研究Hallevy教授有關人工智能犯罪理論，并認為并非所有人工智能都可以賦予法律人格成為犯罪主體。[12]肯定論學者站在科技前沿探索人工智能犯罪的相關問題，但值得注意的是當前人工智能入刑處于萌芽階段，需要究其本源進行研究。人工智能與法律的結合涉及多個學科領域知識，“法律人”的生物學屬性與意識表現是什么？自然人與人工智能的思考方式、思維誕生產生的來源是什么？法律意義上的人格具備哪些要素等…這個問題是需要綜合多學科領域知識，學者們共同的努力才能準確回答。

（三）人工智能刑事主體之我見

2015年開啟人工智能新革命，現在仍處于人工智能過渡期。目前人工智能不具備生物學的特征，其獨立實施的行為也區別于自然人和法人行為的特征。加之人工智能最開始是基于人類的代碼產生，其存在與工作都是根據人類的指令進行，這與能獨立思考，具有自己意志的人截然不同。人工智能的深度學習是基于人類的只是數據庫，暫時不能脫離人類的經驗而行，并且所有的代碼是人類輸入編程。人工智能在一定程度上具有智并不代表它具有人類特有的感情，在過渡期，人工智能尚不能賦予其刑事主體資格。

在未來的強人工智能時代，或許世界上會存在諸多“類人”智能體，而在那時，人工智能在某些方面還是達不到意志自由。以Alpha Go為例，Alpha Go在2016年戰勝圍棋冠軍李世石，與柯潔對戰。Alpha Go之所以贏是研究團隊將目前所能搜集的圍棋路數、棋譜等輸入Alpha Go，使得Alpha Go掌握比棋手更多的路數，且能預先判定對手的下一步，其勝利是編程快速計算的結果。現階段賦予人工智能刑事主體資格還為時過早。在民法領域，楊清望教授認為可以從人類的權利優先為主角度，運用法律擬制技術，賦予人工智能獨立法律人格。[13]朱程斌從倫理角度入手，認為不能賦予人工智能生物人的法律人格，但是可以賦予其法人人格。[14]也有學者根據洛克勞動理論與弗魯姆等期望理論，認為人工智能在民商法中極有可能被賦予擬制法律人格。

近現代的刑法理論是以自然人與自然人行為為中心建立起來的，無論是以行為為中心的刑事古典學派還是以行為人為中心的刑事實證學派，皆倡導個人責任原則、罪責自負等法律適用基本原則。人工智能犯罪行為足以侵害個人、社會、國家的法益，必須進行歸責。 結合民法、公司法以及刑法第17條之規定，人工智能作為一個編碼組成的智能體，其不具備生物人的特征，但具備法律人所需的要素，可以賦予其擬制法律人格，從而追究其犯罪責任。

三、AI時代下刑法之應對

習總書記在十九大報告中提到：“要推動互聯網、大數據和實體經濟的深度融合。”且2017年國務院發布的《新一代人工智能發展規劃》中提到：“制定促進人工智能發展的法律法規和倫理規范”。人工智能時代下，刑法予以規定必不可少，需盡快制定刑法規定迎接新一輪人工智能革命的挑戰。

（一）人工智能犯罪的主體

在弱人工智能階段，軟件研發者往往基于某種目的研發人工智能。科研項目的需要抑或軟件使用者的委托更或是為了謀取非法利益。出于謀求不正當利益，軟件開發者與軟件使用者往往根據自己的意志向人工智能下達某種違法指令來達到某種非法目的，人工智能根據指令實施違法行為，這一過程中，人工智能僅作為犯罪的工具，軟件開發者與軟件使用者是犯罪的主體。

在人工智能犯罪案件中可能會存在這幾種情況：一、軟件開發者編程的人工智能符合法律規定，使用者取巧利用人工智能進行犯罪活動，此時使用者負刑事責任。二、軟件開發者受使用者的委托編程設計用于犯罪的人工智能，若人工智能實施犯罪活動。此時軟件開發者與使用者均是故意，共同承擔刑事責任。三、軟件開發者向使用者隱瞞人工智能會犯罪的部分功能，在使用者未能掌控人工智能下，人工智能的犯罪結果只能由軟件開發者承擔。四、軟件開發者履行其提醒義務與維修義務，使用者疏忽大意或者過于自信所造成的案件責任由使用者承擔;軟件使用者根據使用說明進行操作，軟件開發者未履行提醒義務，人工智能在使用者支配下導致的損失由軟件研發者承擔。

在強人工智能階段，人工智能能夠通過深度學習，突破程序的固定模式，具有自己的“價值觀”，人工智能可以自主的實施具有社會危害性的行為。人工智能在沒有軟件研發者與使用者下達指令的情況下所實施的犯罪結果應根據人工智能、軟件使用者、開發者各自的過錯承擔刑事責任。

（二）應對之策略

人工智能的產生可以參考法人制度，采用備案登記制度，一定的資金作為保障，更需要特別的管理人員。備案登記是為了更快的查找到人工智能的身份與相關責任人;資金是人工智能犯罪或違法后用于補償或賠償受害人損失的保障;管理員對人工智能負有監督和維護義務，在人工智能犯罪時，管理員未盡到相應的義務，同承擔對應的刑事責任。

現有的刑罰主刑包括管制、拘役、有期徒刑、無期徒刑、死刑。針對自然人犯罪與單位犯罪的刑罰很難對人工智能施行，以使其敬畏刑法。可針對人工智能增設新的刑罰措施，例如：刪除其帶有攻擊性的程序，刪除其主要功能或直接摧毀人工智能程序。更或者參考科技電影中給機器人植入特殊程序，一旦人工智能有攻擊人類或危害社會的思維編碼產生，立即啟動自毀程序。且特殊程序必須根植于人工智能的核心程序中，以至于人工智能不能夠屏蔽。

完善相應的人工智能保險制度，鼓勵人工智能保險行業的發展。人工智能的軟件開發者與使用者需要為人工智能購買一定數額的法定保險，類似于“交強險”，一旦人工智能犯罪出現，保險公司會盡快對受害方賠付損失。

四、結語

技術的進步催發新事物的產生，對于人工智能的犯罪研究需提上日程。立足于實際，結合新的技術，刑法學者們應全面的探索人工智能犯罪問題。讓刑法的達摩克利斯之劍懸掛人工智能頭頂，構建起人工智能刑法體系，以維護社會穩定。

[參考文獻]

[1]Alan Turing，Computing Machinery and Intelligence 1950.49（236）mind.433-460.

[2]彭文華.哈利維的人工智能犯罪觀及其啟示[J].上海政法學院學報（法治論叢），2019，34（04）：70-88.

[3]劉憲權.涉人工智能犯罪刑法規制的路徑[J].現代法學，2019，41（01）：75-83.

[4]樸宗根，楊玥.人工智能法律主體資格之刑法評判[J].南寧師范大學學報（哲學社會版），2019，40（05）：168-173.

[5]王肅之.人工智能犯罪的理論與立法問題初探[J].大連理工大學學報（社會科學版），2018，39（04）：53-63.

[6]張成東.強人工智能體刑事主體地位之否定[J].時代法學，2019，17（05）：54-62.

[7][日]山口厚著，付立慶譯.刑法總論（第三版）[M].北京.中國人民大學出版社，2018：35.

[8][日]大塚仁著，馮軍譯.刑法概說（總論）第三版[M].北京.中國人民大學出版社，2002：114.

[9]陳興良.刑法的啟蒙[M].北京.北京大學出版社.2018：166.

[10]周詳.智能機器人“權利主體論”之提倡[J].法學，2019（10）：3-17.

[11]劉憲權.人工智能時代機器人行為道德倫理與刑法規制[J].比較法究，2018（04）：40-54.

[12]同[2].

[13]楊清望，張磊.論人工智能的擬制法律人格[J].湖南科技大學學報（社會科學版），2018，21（06）：91-97.

[14]朱程斌.論人工智能法人人格[J].電子知識產權，2018（09）：12-21.

[基金項目]本文系四川省高等學校人文社會科學重點研究基地基層司法能力研究中心項目：人工智能創作物的知識產權問題研究（項目編號JCSF2018-08）研究成果之一。四川輕化工大學2019年大學生創新創業訓練計劃項目：人工智能法律人格問題研究（項目編號CX2019078）研究成果。

（作者單位：四川輕化工大學? 法學院，四川 宜賓 644000）