人工智能風險的刑法思考

宋友艷

摘 要：隨著科學技術的迅猛發展和全球化的持續推進，人類社會發生了廣泛而深刻的變化，人工智能潛在的風險是當代風險社會中新型風險的重要表現形式。因此，刑法將面臨現實挑戰：犯罪危害性難以預測;可能產生新的犯罪形式;刑罰理念亟須轉變。我國刑法應該重視潛在預防與風險防控：增設新罪，嚴密法網;確立智能機器人的刑事責任主體地位;完善刑罰體系。做到未雨綢繆，深度研究探索人工智能時代犯罪的刑法規制路徑。

關鍵詞：人工智能風險;風險社會;刑法應對

中圖分類號：D924.3 ? ? ? ?文獻標志碼：A ? ? ?文章編號：1673-291X（2020）22-0151-02

人工智能的迅猛發展是科技高度發達的必然結果，也為當今社會提供了新的風險誘因。人工智能潛在的風險具有人為性和不確定性，特別人工智能的失控行為對于人類社會安全存在巨大的威脅。人工智能的發展會對我們的刑事司法，尤其是刑事責任認定、刑罰的適用和執行等方面產生影響，需要制定現實性和前瞻性兼具的刑事治理對策，特別是相關刑法規范的規制。所以說，刑法對人工智能風險的應對具有必要性。筆者從風險社會理論視角出發，通過剖析人工智能犯罪追究刑事責任的困境，試圖探究刑法應對人工智能挑戰人類生存安全問題的路徑。

一、風險社會的新課題：人工智能

20世紀80年代以來，隨著科學技術的迅猛發展和全球化的持續推進，人類社會發生了廣泛而深刻的變化，出現了一系列前所未有的令人惶恐不安的風險景象，如恐怖主義犯罪、環境污染犯罪等。德國社會學家烏爾里希·貝克1986年發表其奠基之作《風險社會》，首次提出風險社會的概念，描述充滿人為的、不確定性風險的后工業社會，揭示風險的本質。2004年我國學者引入“風險社會”理論，進而衍生出我國刑法學界當前比較普遍關注和廣泛研究的“風險刑法”理論。依據貝克提出的風險社會理論，人工智能所隱含的風險其實是風險社會中新型風險的重要表現形式，可以適用刑法對風險社會風險的應對策略，當然其應對策略也會有其自身的特殊性。

人工智能是人類社會最重要的科學進步，21世紀人工智能迎來新的發展高潮，在移動互聯網、大數據、超級計算和腦科學等高新科技的驅動下，人工智能已經實實在在地進入了落地實踐階段。世界上第一個仿生人“雷克斯”在英國誕生;Waymo One——全球第一臺無人駕駛出租車正式商用;IBM研發的機器人醫生沃森10秒為患者確診并開出處方。人工智能已經逐步進入我們生活的各個方面中。盡管人類社會對具備超人類邏輯演算能力的人工智能，是否可以認作具備“人”的屬性還存在很大爭議，2017年10月26日，沙特阿拉伯在“未來投資峰會”上授予Hanson Robotics公司研發的人形機器人“索菲婭”合法公民身份，這標志著人工智能已經獲得首個公民的主體身份。

一般認為，根據智能水平的高低，人工智能的發展有三個階段：第一階段弱人工智能階段，該階段的人工智能擅長單一領域的技術和操作;第二階段強人工智能階段，人工智能將會在各個方面與人一樣，特別是具有了獨立解決問題的能力;第三階段超人工智能階段，是指人工智能在認知通識、科學創造力和社交技能幾乎所有領域都超越人類大腦，即可以代替人類成為地球上的主導生命形式[1]。通行觀點認為，我們尚處于弱人工智能時代。目前我國刑法理論界對于人工智能刑事責任問題的研究眾說紛紜，沒有達成共識，如何應對人工智能帶來的刑事責任認定，如何認定智能機器人與相關人類主體之間的刑事責任歸屬與承擔，都是最具爭議性的話題，同時也是亟待應對的法律難題。

二、刑法面臨的現實挑戰

與人工智能的迅速發展相應的是人工智能給社會帶來的犯罪風險，對各國刑事法治發展提出了現實挑戰。

1.犯罪危害性難以預測。首先，一些傳統類型的犯罪數量會逐漸減少，如機器人伴侶的出現，會使人類社會中性犯罪的比例降低;智能機器人在老齡家庭和教育、看護等機構的推廣使用，會降低虐待類犯罪的比例。但是，人工智能技術可以使產品全面智能化，也一樣會使犯罪工具和犯罪手段智能化，相應的，犯罪行為造成的社會危害也會越來越大。不法分子利用人工智能技術全面實現犯罪計劃，一旦犯罪結果發生，很難得到修復。例如，人工智能一旦介入高流通、高風險的金融領域，會導致隨時可能出現的雪崩似的災難性后果[2]。如果人工智能的發展進入強人工智能、超人工智能時代，其犯罪危害性更大，甚至對整個人類社會產生威脅。

2.可能產生新的犯罪形式。人工智能開發的前提是建立龐大的數據庫，但數據的大量集中本身就是一種風險，無論是對個人隱私還是國家安全。一旦不法分子攻擊數據庫，可以快速獲取機密數據，并借助數據實施人類現在難以預測的犯罪活動[3]。例如2017年9月，浙江紹興警方破獲的全國首例利用人工智能技術盜竊公民個人信息的案件，徹底摧毀43個犯罪團伙，抓獲犯罪嫌疑人193人，成功截留被盜的公民個人信息10億余組，繳獲贓款600余萬元。由于現階段人工智能犯罪還僅僅是行為人將人工智能視為作案手段和工具，尚未涉及智能機器人自主犯罪的情形，但是強人工智能超人工智能時代離我們并不遙遠，法律應未雨綢繆，否則當其真正來臨時人類或措手不及。

3.刑罰理念亟須轉變。人工智能帶來的影響還會改變相關犯罪的立法原意，使一些犯罪的構成要件發生變化，并進而影響到刑罰的適用，例如交通肇事罪。在美國，智能汽車被劃分為五個等級，其中五級對應的完全自動駕駛汽車就是無人駕駛汽車。完全自動駕駛汽車通過計算機智能車載傳感系統，感知道路環境，自主規劃行車路線，并到達預定目標。由于各種不確定因素，無人駕駛汽車難免會發生交通事故，甚至在客觀方面產生交通肇事罪的后果。現行刑法所規定的犯罪主體僅限于自然人和單位，對人工智能機器人實施的違法行為，現行刑法中由于犯罪主體不適格，而不能對其規制。而且，未來通過修改刑法將智能機器人作為犯罪主體存在，刑事處罰也存在問題。由于智能機器人不同于自然人和單位，生命刑、自由刑和財產刑無法適用于智能機器人，現行刑法的刑罰種類設置在人工智能的環境下存在缺陷。

三、人工智能風險的刑法應對

為了防止未來出現人工智能脫離控制的風險發生，我國刑法應該重視潛在預防與風險防控。

1.增設新罪，嚴密刑事法網。在人工智能產品的制造過程中，必須將人類社會中的法律，以及道德等規范和價值植入產品的系統中，并履行數據保護義務。基于這一義務的存在，有必要增設新的罪名。首先，增設濫用人工智能罪。濫用人工智能的行為可能將人類置于十分危險的境地。刑法是最后一道屏障，立法者應當謹慎劃定犯罪權。人工智能的行為入刑，人工智能研發或使用過程必然變得更加謹慎，相應的監管過程也必然更加嚴密，人工智能的安全與風險問題也會相對緩解。其次，增設人工智能事故罪。人工智能產品的生產者因為其特殊地位，對人工智能的產品的安全負有特殊義務，如果因為沒有履行這些義務，即使不存在主觀故意，但是人工智能產品造成了嚴重的危害結果，其生產者仍然負有一定的過失責任的。

2.確立智能機器人的刑事責任主體地位。當下，人工智能產品致人損害構成犯罪可以分為以下幾種情形：一是自然人故意利用人工智能產品實施犯罪行為;二是人工智能產品使用者過失操作和管理導致人工智能產品致人損害構成犯罪的;三是人工智能產品質量或者缺陷問題致人損害，構成犯罪的。對于第一種和第二種情形，人工智能產品致人損害行為應當視為其背后相關自然人責任主體行為的組成部分，結合其背后相關自然人責任主體的主觀罪過予以分別處理。對于第三種情形的定罪歸責問題，事實上屬于產品質量責任問題。對于產品質量不合格引發的刑事責任問題，應根據生產者和銷售者的主觀罪過予以分別認定。未來，隨著人工智能的高速發展，只要其通過深度學習產生了自主意識，并在自主意識的支配下脫離人類的控制，便有可能實施算法和設計之外的嚴重危害社會的犯罪行為。此時，智能機器人實現的是自己意志的行為，完全可能成為法律意義上的行為。

3.完善刑罰體系。我國刑法規定了四種刑罰種類：財產刑、資格刑、自由性和生命刑。現有刑罰種類無法適用人工智能機器人的理由歸納為：第一，智能機器人不享有財產權，適用罰金、沒收財產于法無據;第二，智能機器人不享有政治權利和自由，其適用剝奪政治權利毫無意義;第三，智能機器人不享有人身自由權，無法適用管制、拘役、有期徒刑和無期徒刑等自由刑。根據智能機器人的特點構建。機器人犯罪的刑罰體系，包括三種刑罰措施：一是刪除數據，就是將智能機器人實施犯罪行為所依賴的數據信息刪除，使其恢復到實施犯罪行為之前的狀態，也就是相當于抹去智能機器人的犯罪記憶;二是修改程序，就是刪除數據這一手段已經無法阻止機器人主動獲取數據，并實施違法，因而將其獲取外界數據深度學習的能力，限制在程序所設定的范圍內;三是永久銷毀，就是在刪除數據修改程序仍無法降低實施了犯罪行為的智能機器人的人身危險性時，只能將其永遠銷毀。必須承認，以上人工智能犯罪的刑罰體系是對智能機器人刑法適用的有益探索[4]。

總之，面對人工智能技術的發展帶來的風險，刑法學界既不應過度反應，將人工智能技術視為洪水猛獸，禁止或阻礙其發展，也不應對人工智能可能給人類社會帶來的危害漠然置之，我們應該做到未雨綢繆，深入研究，努力探索當代人工智能犯罪的刑法規制路徑，防控人工智能時代的社會風險，對社會秩序的穩定尋求刑事對策，保證人工智能技術為社會帶來正面的價值。

參考文獻：

[1] ?劉憲權，胡荷佳.論人工智能時代智能機器人的刑事責任能力[J].法學，2018，（1）.

[2] ?周玲敏.關于人工智能及其法律問題的思考[J].法制博覽，2016，（17）.

[3] ?吳允鋒.人工智能時代侵財犯罪刑法適用的困境與出路[J].法學，2018，（5）.

[4] ?葉良芳，馬路瑤.風險社會視閾下人工智能犯罪的刑法應對[J].浙江學刊，2018，（6）.