人工智能機器人的刑事可罰性

拉塞·夸爾克 王德政

摘?要：為了在人工智能的運用中不形成刑法上的規范漏洞，必須在教義學上討論智能代理的可罰性。無論是出于法律政策還是從刑罰目的理論層面考慮，電子人地位的采用都是有意義和必要的。對實現一般預防目的而言，僅確定可罰性是不夠的，還必須向社會大眾明確說明已實施的不法行為之可罰性，通過盡可能適當的量刑，對罪責非難進行量化，具體包括進行公益勞動、對機器人的身體進行干預、執行算法所違反規范的內容而進行重新編程、關閉機器人。人工智能的可罰性由此成為可能。

關鍵詞：人工智能;機器人;電子人;算法;可罰性

中圖分類號：D924.1?文獻標識碼：A

文章編號：1003-0751（2020）10-0048-05

一、數字革命與法

在亞歷克斯·普羅亞斯的科幻小說《智能機器人》中，有這樣一幕：類人機器人桑尼對那位人類主角說自己“做夢了”。在這一幕中，人與機器之間的界限消失了。不明確的是，桑尼是一個機器人還是一個類人的生物？艾薩克·阿西莫夫著作全集中的短篇小說卷是普羅亞斯小說的淵源，從該著作全集可以看出，最晚從第二次工業革命末，人類就開始思考人工智能及其影響。很多文獻和電影作品都涉及智能機器及其與人類的互動，這些作者和導演所展示出來的幻想一般都是反烏托邦式的。從弗里茨·朗所著的被列入電影藝術類世界記憶項目的《大都會》，到斯坦利·庫布里克的永恒經典《2001：太空漫游》，再到沃卓斯基姐妹的《黑客帝國》，在這些作品中，機器人和超級計算機大多被描繪成對主人公的威脅。

幸運的是，這種風格化其實與自然科學的小說相關。迄今為止，機器和算法始終是人類有益的幫助者，我們多年來在日常生活中是無法忽略其存在的。數字語音助手、自動駕駛汽車、醫用或護理機器人只是少數例子，卻說明當代科技是無處不在的。在美國，算法甚至被用來支持判例的形成。比如，幾年前罪犯埃里克·盧米斯被判處6年有期徒刑，因為算法“Compas”證明他有很高的再犯風險。①

即使上述無論如何都存在疑問的做法導致產生了諸如機器人法官這種值得向往的幻想，所有這些例子也都令人印象深刻地說明，技術在當今所能帶來的一切。這一點可能通過瞬間處理巨量的各種來源的數據而做到，這在專業術語上被稱為“大數據”。在此期間，算法所面臨的任務是處理復雜情況并進行學習。②

（一）人工智能變得自主化

智能系統的學習能力超越了單純的“試驗與錯誤”之范疇。借助于神經網絡和模仿生物性大腦結構的電路，系統能同時在多個層面處理信息。③通過多種關于機器學習的擬設，如強度學習、監督或無監督的深度學習等，神經網絡能得到訓練，甚至能作出決定和基于學習而富于創造性。④系統的能力由此產生，其自主地實施行為，無須人類的幫助就能（可能是無意識的）對很多情況和難題獨立而適當地作出反應。⑤這種靈活性和適應能力蘊含巨大的潛力。然而，人工智能未來對我們社會的具體影響，當前還無法預見。面對幾十年來和近幾年來技術的飛速進步，我們在不太遙遠的將來，會遇到類似于本文開頭提到的極為先進的桑尼機器人，似乎不是不可能的。

無論如何，顯而易見的是，自主化或部分自主化的人工智能通過分擔人類的特定任務或使之更容易完成，會改善我們的生活條件。⑥智能代理造成的法益侵害可能由此無法避免。這尤其適用于以下情況：智能系統不但不斷變得更加自主化，不再始終處于人類的監管之下，而且不斷進入公共區域。智能代理可能實施的越來越多的獨立行為合乎邏輯地導致法益侵害風險的升高。

（二）刑罰的目的是產生人工智能可罰性需要的出發點

那么，一種人工智能，比如以智能機器人的形式，侵害了一個保護法益，誰對此承擔責任？這就成為問題所在。由于人工智能的學習能力和自主性的提升，在不遠的將來，這種情況是可以想象到并且很可能發生的，這種情況下的刑法結果基于各種原因不能再歸責于幕后的人，即編程者、制造者和使用者。該結果是可以想象到的，因為欠缺預見可能性⑦，或者是因為，人工智能的普遍運用和不可能完全排除其導致的損害，人工智能的運用具備社會相當性，由此不再違反注意義務。⑧

自主性的前提恰恰在于，不依賴于人類從外部施加的影響。上述法律后果對智能代理而言是內在的。系統所實施的無法預見的行為是自主性合乎邏輯導致的結果，在這一點上，人類與人工智能相同。⑨因此，法學的任務必然是，為新科技的運用與該運用導致的結果設定法學上的框架條件。這導致兩點：其一，在測試環境之外去運用新科技，編程的法學標準也能得到考慮。其二，法律問題的澄清對運用人工智能的社會認同之形成有決定性的貢獻。⑩

社會大眾形成了這樣一個印象：數字化的進步對法學提出挑戰，法治國原則對此沒有適當的回應，規范秩序的信任受到了撼動。B11對保護法益被侵害缺乏反應是不可容忍的。因為對規范秩序的信任而言，需要的是全面的保護，而非違反計劃的規范漏洞。刑法及其適用者無法對法益受侵害作出相應的反應，這等于使值得保護的法益變相失效。B12沒有人能對一個刑法上的結果負責，這使得法的基礎被撼動。B13

刑法的目的不僅是對既有的不法情況作出反應，還在于通過這種反應防止將來出現此類不法情況。B14這一方面通過作用于行為人而產生特殊預防的效果，另一方面通過展示給社會（刑法適用的對象）——違反法律將導致法治國意義上的回應，從而產生一般預防的效果。B15只有當判例正式將一個行為認定為違法行為并予以處罰時，社會大眾才能全面遵守法律規范。如果人們形成這樣一個印象——可以侵害法益而無須承擔后果，刑法的目的就無法實現。

為了在人工智能的運用中不以責任分散B16的方式形成刑法上的規范漏洞，必須討論智能代理的可罰性。更確切地說，討論這一問題并不取決于，是否人們不僅認為人工智能很可能在外表上立即存在，還認為人工智能的認識能力很可能與人類一致。這要求法學在我們的規范之價值秩序的意義上，參與這一數字化的變革。因此，只有當這一點在法益侵害中表現出來之后才去尋找有關人工智能問題的解決方案，從刑罰的預防目的考慮，是令人無法容忍的。對于這類問題，必須預先在教義學上進行解釋。

二、人工智能的可罰性對刑法教義學的挑戰

關于刑法對智能代理的實際適用性，可以提出三個重要的批評點。這些批評點說明，我們以自然人為出發點的刑法教義學，對于自主運行的人工智能之運用，還沒做好準備。B17這些批評點即：首先，人工智能缺乏一種在刑法意義上實施行為的能力;其次，人工智能缺乏罪責能力;最后，智能代理不是刑罰的合適對象。

（一）有關人工智能的行為概念

對行為能力這一問題而言，重要的是，人們基于既定的概念理解，是多么強烈地想要維護有關人工智能的行為概念。實現這一愿望可能首先取決于，人們在多大程度上規范性地賦予這個概念以內涵。由于人們以至少是潛在的規范理解（此即行為能力的前提）來看待人工智能的能力，所以該能力至少在當前要被否定。B18智能代理還沒有這種能力去義務性地識別未知的感覺沖動以及實施相應的行為。只有當人們僅要求一個舉止是在意志的支配下實施時，行為的認定才成為問題。這種意義上的意志（不同于單純的條件反射）是否必須從因果論的角度去理解，或者說，行為的成立是否要具備目的指向性即目的性，成為問題所在。B19

在此，要討論兩種情況：智能代理在多大程度上有意識地去培養規范理解，或者在多大程度上有能力形成指向目的之意志。技術這個術語說明，我們以人文主義為特征、以自然人為出發點的刑法教義學，只是部分適合于解決有關人工智能的法律問題。刑法是人類為自己創造的。直到幾十年前，人工智能機器還沒有存在于立法者的想象和法學中。因此，人類的概念范疇一開始就欠缺一種直接的可轉用性。然而，如果可罰性與自然人實施的不法行為無關，而與系統或算法實現的不法情況有關，那么，具備人類意義上的意志這一要求，可能就得放棄。B20不同于德國法秩序的其他法秩序放棄了上述要求，其已認識到企業的可罰性。據此，企業的可罰行為并不以人類的代理行為為基礎，而是以其內部結構——企業內部的組織和交流為基礎。B21人類的機關和企業的代理人實施的行為僅是其上一級交流過程的付諸實踐，因此，每個人自己都沒有實施行為，只有企業實施了行為。B22

當前，關于智能代理的討論還有：就企業的行為能力而言，其自我動力重新被提及，以使之能適應相應的算法程序。B23在檢驗可罰性的前提時，行為這一構成要件要素與構成要件結果之間具備因果關系和客觀歸責性。這樣一個后來導致結果發生的法所不容許的風險，可能由于企業的交流結構內的錯誤而被創設，或者由于算法內的錯誤而被創設。該行為概念超越了自然人不法的情況，關于智能代理行為能力的觀點因贊同該行為概念而被駁倒。

（二）智能代理的罪責能力

智能代理必須由于行為或算法錯誤而導致不法情況出現，從而受到直接和間接的非難。其一定是具備罪責能力的。這種意義上的罪責能力的意思是，行為人能夠作出決定不去實施不法行為而實施合法行為，卻有意地不利用這種可能性。B24罪責能力的基本前提是意志自由。因為只有具備自由意志的人才處于這樣一個位置——在認識和理解法律規范的情況下使其行為遵守或不遵守該規范。

1.意志自由是罪責能力的必要前提嗎？

這種意義上的意志自由當然是無法證明其存在的。決定論的支持者在某種程度上甚至否定（至少是懷疑）意志自由在神經科學上存在。B25因此，只有自由作出決定的經歷是真實的，而導致作出決定的過程完全是注定的（被決定了的）。B26該決定是由遺傳易感性、教育和人的社會化導致的結果，是當時的情緒情況、其他情況和諸多其他因素導致的結果。這些因素在細節上并不能完全被人們理解。下述相反的說法也是正確的：就像當前人類的意志自由無法被積極地證明一樣，肯定不能認為，這樣一種意志自由是存在的。

意志自由的這種現實存在應當是可罰性的必要前提，這在上述論斷的背景下顯得不合情理。這樣一個無法證明且由此不具備法的安定性之要素，何以決定是否判處刑罰？為了解決這個問題，對行為人的罪責問題而言，需要一個現實可行的解決方案。僅在以下基礎上才存在自由意志：自身有與人類相同的經歷。如果我自己有自由意志，其他所有人也必定有自由意志。作為可罰性前提的罪責由此對負責性進行了分配。之所以進行這種分配，是因為已實施的不法行為在我們的社會體系內引發了沖突。通過這種分配應當能解決此沖突。B27解決此沖突的社會需要是存在的。這是因為，基于上述原因，如果沒有相應的處罰，不法情況就可能繼續存在。

對罪責的這樣一種功能性的理解實現了對智能代理之負責性的分配。如果基于我們的社會體制，認為算法具有意志自由，則與人類的不當行為一樣，人工智能對法的違反易衍生出一種解決社會沖突的需要。對人類和機器而言，所作出的不法決定是否基于既定的生物或算法過程，或者基于在法律上有瑕疵的自由意志的形成，都是不重要的。

2.對智能機器人地位的思考

只有當智能代理被視為法律意義上的人時，這樣一種基于社會沖突的責任分配才會肯定成功。B28只有當社會大眾這一對象不再被視為物，而是被視為法律主體，同時受到法律上的對待時，刑罰才能產生一般預防的效果。

人工智能具備人類的身份，即人格化。這在20世紀60年代就發生了。計算機科學家約瑟夫·維森鮑姆開發的程序伊莉莎，通過對特定的、人類在電子對話中給出的關鍵詞和預設的詞組作出反應，模擬了一個心理療法上的治療。B29盡管伊莉莎的能力受到很大限制，但這場對話導致一些參與者認為程序能理解它自身的情況。人工智能程序舉止的人格化由此也被稱為伊莉莎效應。B30該效應如果能在一個連圖靈測試都無法通過的程序中發生，對極為先進的、外表更像人類（如有可能）的人工智能而言，其發生更是可想而知。這種社會存在被視為某種事物，其擁有一種超越物的地位。這是極有可能的。此外，這樣一種電子人地位能夠在法律上得到承認。對無論如何都要采用電子人地位進行討論而言，存在政策上的抵觸。例如，2017年歐盟議會要求關心民法問題。B31

電子人并非教義學上的空想，這說明人的概念在法律上存在變異性?；谛淌仑熑文芰?，自然人與法人之間、成年人與未成年人之間的區別或者不同清楚地表明，有一種評價始終存在于不同的人的概念中：相關權利主體有何種社會、法律和道德地位？法秩序想要從中得出何種結論？B32人們已觀察到這種極其重要且將來愈加重要的地位、數字科技的無處不在性以及相關挑戰和法律問題。我的結論如下：無論是出于法律政策還是從刑罰目的理論層面考慮，電子人地位的采用都是有意義和必要的。

（三）智能代理的可罰性

最后也要反對以下論斷：電子人完全無法受到處罰。這里存在的疑問首先是，刑罰有何種特殊特性？其次是，對智能代理而言，刑罰能否適用？在這里，刑罰有三個特征：惡害性、社會倫理上的無價值評價性、否定性。

我們先來考察一下惡害施加?？梢酝ㄟ^刑罰對行為人產生一種效果，行為人將該效果感知為不利的。B33該效果看上去是無害的，事實上并非如此，因為憲法上的保障（如行動自由和個性的發揮）無論如何都受到了限制。在此，要舉一個教科書上的案例——無家可歸者案。該案中的無家可歸者打算在冬天來臨之前讓自己受到關押，以便在有暖氣的監獄里度過這個寒冷的季節。B34這種惡害（即感受到的惡害）如果是罰金刑或者罰款，是否要進行金額上的計算，當然可能讓相關者不太感興趣。B35這同樣適用于自由刑和（作為保安處分中警察拘留的）保安監禁。在所有的情況下，同樣的憲法保障都受到了限制。惡害施加并非刑罰的特殊特性。B36

與惡害施加一樣，社會倫理上的無價值評價性也不是刑罰的特殊特性。B37行為人違反刑法、懲戒法和秩序違反法導致國家對其進行非難——行為人實施了不法舉止。對違規停車這一舉止開具罰單所表達出來的是——該舉止與整體社會中以法秩序為形式的價值共識相矛盾。B38此外，無法確定的是，社會倫理應在何種程度上充當刑罰的特征。它在概念上的可選擇性是很差的。B39最終產生了憲法上的如下考慮：通過這種價值判斷去明確表明刑罰的特征。對刑罰而言，行為人降低了道德倫理的價值是較為重要的。如果有人想要這樣做，國家實施的欺凌就會利用人性尊嚴保障的個人效力要求，降臨到行為人身上。B40。

由此，僅剩下否定性成為刑罰的重要特征，它直接連接刑罰與行為人的罪責。B41個人的可非難性對于國家判處多余的刑罰而言，恰恰不是其前提。該可非難性表明了對刑法上的重要的舉止更高程度的否定，也表明了該舉止導致的刑罰。就像剛才所說的，如果人工智能在負有責任（源自我們的社會現實）的意義上是有罪責能力的，則刑罰也能發揮對人工智能的否定性。

然而，對實現一般預防目的而言，僅確定可罰性是不夠的。必須向作為刑罰對象的社會大眾明確說明已實施的不法行為之可罰性，因此，需要通過盡可能適當的量刑，對罪責非難進行量化。在此，可以考慮進行公益勞動、對機器人的身體進行干預，或者作為最后手段去關閉機器人。B42此外，還可以通過執行算法所違反規范的內容而進行重新編程。B43只要幾個智能代理互相連接并由此全面執行該內容，就會產生最大限度的特殊預防效果，如果可能的話，還會產生最大限度的一般預防效果。人工智能的可罰性也將成為可能。

三、結論

第四次工業革命方興未艾。相關學科要積極參與這場革命以及相互交融，否則，這些學科將落在后面或完全止步不前?；诖朔N原因，法秩序必須對隨之而來的疑問和難題準備好答案。人工智能可罰性的采用由此是長期的，并且是必然的。反對該可罰性的觀點可能遭到教義學上有說服力的反對，通過這一方式，在人工智能領域，一種擴展性的、超越當今以自然人為出發點的刑法教義學的觀點，會在刑法的概念性上得到認可。該觀點涉及行為能力，（尤其是）罪責能力，以及與罪責能力相關的刑罰論。

即使科技的進步在規模和速度方面或許現在有點令人驚恐，這可能是無法阻擋的，也完全不應該去阻擋這種進步。如果及時識別法律和技術上的風險并予以最小化或完全消除，則科技進步的優點無論如何都能超越這些風險。因此，“技術阻礙者”至少不會來自法學領域。在這方面，我想以德國皇帝威廉二世的一句名言作為結尾。他在20世紀初說：“我相信馬。汽車是一個轉瞬即逝的現象?！?/p>

（譯者注：本文譯自德語論文“Zur Strafbarkeit von intelligenten Robotern”，譯者已獲得著者的中文翻譯和發表授權，本文內容系全球首發。）

注釋

①Smith. New York Times v. 22.6.2016， abrufbar unter https：//www.nytimes.com/2016/06/23/us/backlash-in-wisconsin-against-using-data-to-foretell-defendants-futures.html？module=inline （4.2.2020）; FAZ v. 11.6.2019， abrufbar unter https：//www.faz.net/aktuell/rhein-main/algorithmen-werden-in-amerika-bei-gerichtsprozessen-genutzt-16230589.html （4.2.2020）.

②Vgl. Brutigam/Klindt. NJW 2015， 1137 （1138 f.）.

③Styczynski/Rudion/Naumann. Einführung in Expertensyste-me， 2017， S. 132 ff.

④Zu den verschiedenen Prozessen beim Maschinenlernen Grz/Nebel. Künstliche Intelligenz， 2003， S. 108 ff.; Gopnik. SdW kompakt v. 1.10.2018， S. 15 ff.; Wolfangel. SdW kom-pakt v. 17.20.2016.

⑤Hilgendorf. ZStW 130 （2018）， 674 （675）.

⑥Vgl. Kirchschlger. AJP/PJA 2017， 240 （241 f.）.

⑦Dazu Gless/Weigend. ZStW 126 （2014）， 561 （581）; vgl. auch Markwalder/Simmler， AJP/PJA 2017， 171 （177）.

⑧Gless/Weigend. ZStW 126 （2014）， 561 （583 f.）; krit. Gless/ Janal， JR 2016， 561 （566）.

⑨Borges. NJW 2018， 977 （978）.

⑩Sternberg-Lieben. in： Hilgendorf （Hrsg.）， Robotik im Kon-text von Recht und Moral， Robotik und Recht， Bd. 3， 2013， S. 119.

B11Brüning. Das Verhltnis des Strafrechts zum Disziplinar-recht， 2017， S. 186 f.

B12Vgl. Meier. Strafrechtliche Sanktionen， 4. Aufl. 2015， S. 36.

B13Brüning. in： Gesk/Jing （Hrsg.）， Digitalisierung und Straf-recht in Deutschland und China， noch unverffentlichtes Manuskript des Vortrags vom 22.11.2018 an der Universitt Osnabrück.

B14B15B33B34Meier （Fn. 12）， S. 18 ff.， 21 f.， 16， 16.

B16Beck. JR 2009， 225 （227 f.）.

B17②Brüning （Fn. 13）; Seher. in： Gless/Seelmann （Hrsg.）， Intel-ligente Agenten und das Recht， Robotik und Recht Bd. 9， 2016， S. 46 f.

B18Seher （Fn. 17）， S. 48 ff.

B19Roxin. Strafrecht， Allgemeiner Teil， Bd. 1， 4. Aufl. 2006， § 8 Rn. 10 ff.; Heinrich. Strafrecht Allgemeiner Teil， 5. Aufl. 2016， Rn. 96 ff.

B20Brüning （Fn. 13）.

B21Ortmann. NZWiSt 2017， 241 f.

B22Dannecker/Dannecker. NZWiSt 2016， 162 （164）.

B23Vgl. Teubner. AcP 218 （2018）， 155 （157 ff.， 165 f.）.

B24Roxin （Fn. 19）， § 19 Rn. 1 ff.; BGHSt 2， 194 （200）; 18， 87 （94）.

B25Vgl. Marlie. ZJS 2008， 41 （44 in Fn. 47-49）.

B26Vgl. Marlie. ZJS 2008， 41 （44 in Fn. 52）.

B27Markwalder/Simmler. AJP/PJA 2017， 171 （180）; Gless/ Weigend. ZStW （126）， 2014， 561 （574 f.）; vgl. auch Roxin （Fn. 19）， § 16 Rn. 39 ff.

B28Seher （Fn. 17）， S. 58; Zur Frage， ob eine Statusdebatte überhaupt sinnvoll ist， Beck， in： Hilgendorf/Günther （Hrsg.）， Robotik und Gesetzgebung， Robotik und Recht， Bd. 2， 2013， S. 239.

B29Siehe sterreichische Akademie der Wissenschaften v. 1.12.2017， abrufbar unter https：//www.oeaw.ac.at/detail/news/gefangen-im-eliza-effekt/ （4.2.2020）.

B30Vgl. dazu Gless/Weigend. ZStW 126 （2014）， 561 （565）; Herberger. NJW 2018， 2825 （2826）.

B31Entschlieung des Europischen Parlaments von 16. Feb-ruar 2017 mit Empfehlungen an die Kommission zu zivil-rechtlichen Regelungen im Bereich Robotik （2015/2103 [INL]）， abrufbar unter http：//www.europarl.europa.eu/sides/getDoc.do？pubRef=-//EP//TEXT+TA+P8-TA-2017-0051+0+DOC+XML+V0//DE （4.2.2020）.

B32Teubner. AcP 218 （2018）， 155 （168 f.）; Vgl. zum Perso-nenbegriff im Zoll- und Mehrwertsteuerrecht Scheller/ Zaczek， UR 2015， 937.

B35Vgl. Roxin. in： Hassemer/Kempf/Drr/Moccia （Hrsg.）， In dubio pro libertate， Festschrift für Klaus Volk zum 65. Ge-burtstag， 2009， S. 602.

B36A.A. Meier （Fn. 12）， S. 16.

B37B38Brüning （Fn. 11）， S. 547 ff.， 549.

B39Roxin （Fn. 35）， S. 603.

B40Brüning （Fn. 11）， S. 543 f. m.w.N.

B41Brüning （Fn. 11）， S. 547 f.

B42Gless. GA 2017， 324 （328）.

B43Gless/Weigend. ZStW 126 （2014）， 561 （589）.

責任編輯：鄧?林