治理與回應：弱人工智能視野下網絡犯罪的行為類型與規制

儲 琪

（北京師范大學刑事法律科學研究院，北京100875）

從西洋跳棋到“深藍”再到Alpha Go，在互聯網、大數據、云計算的共同驅動下，人工智能再一次作為科技最前沿進入公眾視野，迎來第三次發展熱潮。無人駕駛汽車、手術機器人的出現，以前所未有的方式沖擊著傳統社會觀念，給生產生活帶來更新與便利。但是，近些年來頻發的機器人殺人、公民信息泄露事件也讓人們不得不承認，人工智能雖能革新視野、改善生活，卻存在傷害倍增的效果，較典型的便是通過互聯網技術實施的一系列如破壞計算機系統、傳播虛假信息等嚴重危害網絡安全的犯罪事件。

信息化時代帶來的網絡沖擊，把社會組織結構中每一個單元個體的社會活動范圍，以加速度的形式從物理空間擴展到網絡空間[1]。在人工智能迅速占領市場的今天，理性要求我們必須改變對網絡犯罪的固有認知，直面人工智能加速其異化的現實，基于此重新審視罪責問題。

一、人工智能與網絡犯罪概念初探

（一）網絡犯罪相關概念試析

1.網絡空間的定義。

網絡空間一詞首次出現在小說《神經漫游者》中，書中的網絡空間是一個知覺可以擺脫身體束縛自由活動的虛擬空間。伴隨互聯網技術的更新，當下的網絡空間該如何定義？筆者認為，網絡空間在技術層面表現為交互網絡，尤其是以互聯網為代表的通信網絡。它將不同地域內的設備通過通信線路連接起來，在系統、軟件及通信協議的協調下實現資源共享和信息傳遞[2]。意即，當下的網絡空間就是運用信息技術達到資源共享的計算機系統。

2.網絡犯罪的定義。

目前學界關于網絡犯罪的定義頗有爭議，然想要明晰事物的概念，應從其本質特征入手。葉良芳教授認為，網絡犯罪的特質是場域特定性和數字技術的廣泛運用性[3]。故本文研究范圍內的網絡犯罪，是指利用數字技術，全部或部分實行行為在網絡空間內實施的各種侵害法益的行為。

（二）人工智能相關概念試析

1.人工智能并非實體機器人。

手術機器人的出現帶來了顛覆性改變，它將好萊塢電影中的科幻場面變成現實，加之各國開始先后密集發布研究實體機器人的規劃，無形中似乎樹立了一種觀念——人工智能就是實體機器人。然是否具有實體只是依據人工智能的不同形態所做的劃分，物理形體并非必備要素，依靠計算機系統和網絡技術得以運行的算法才是核心。蘋果Siri、刷臉支付等應用已經讓人工智能滲透進人類生活的各個方面，因此請拋開人工智能就是實體機器人的偏見，接納其已無處不在的事實。

2.人工智能的類別。

人工智能在不同標準下有不同的分類。依據發展水平高低，可分為弱人工智能、強人工智能和超人工智能。弱與強的區別在于其是否具有辨認和控制能力[4]，對于超人工智能而言，目前無人可知超越人類最高水平的智慧會表現為何種能力，故暫不存在明確討論的對象。

當下正處于弱人工智能時代，人工智能主要表現為依賴科學技術運行的計算機信息系統。結合前述分析可知，當今網絡空間的構成有兩個核心要素——互聯網技術與計算機系統，這二者也是成立網絡犯罪的必備要件，因此，在弱人工智能時代，侵犯人工智能系統安全的行為以及利用人工智能實施其他侵犯法益的行為，均可納入網絡犯罪體系中評價，故本文將二者視為一體展開討論。因后文涉及到二者稱謂問題，特在此說明。

不難發現，現有文獻關注點集中在對強、超人工智能的刑事主體地位和責任能力的研究上，然而20世紀掀起軒然大波的克隆羊事件告訴我們，在不具備成熟穩定法律關系的情況下，作為最后手段的刑法，理應在狂熱的科技浪潮中保持理性?；诖?，本文試圖研究弱人工智能時代網絡犯罪的行為類型，嘗試在此項下探索相應規制路徑，以期為人工智能的良性發展貢獻綿薄之力。

二、弱人工智能時代網絡犯罪的行為模式

（一）單純侵犯人工智能系統安全的犯罪

這種犯罪行為的作用對象是人工智能系統本身，侵犯的客體是系統安全。

前文提到，當前的人工智能系統主要表現為依賴互聯網技術的計算機信息系統。因此，單純侵犯人工智能系統安全的犯罪，實質上便是侵犯計算機信息系統的犯罪。

（二）違反人工智能安全管理義務的犯罪

一項技術從孕育到實踐，期間大致要經歷技術研發—服務提供—技術應用的過程。未來人工智能將普及社會化應用，但基于種類多、專業程度高等多方面因素的考量，除了要加大監管力度外，技術研發者與服務提供者也應承擔起共同預防或治理人工智能犯罪的協助管理責任。除應用者以外，研發者和服務提供者作為能夠對技術發展樣態起全部或部分決定作用的主體，應在各自職責范圍內對人工智能技術負有刑法意義上的安全管理義務，若違反相關規定或約定不履行上述義務，則可能構成犯罪。

需要強調的是，只有對研發者或服務提供者應當履行、有能力履行卻不履行的行為及其造成的危害后果才能加以刑事追責，不得因網絡犯罪較傳統犯罪相比手段多樣、社會危害性較大便隨意將各類不法行為納入刑法處罰范疇。

（三）利用人工智能系統的“不智能”實施的犯罪

這種犯罪是指在人工智能并非因行為人的行為陷入錯誤狀態時，行為人利用人工智能的錯誤運行（即“不智能”）實施其他的犯罪行為。

目前人工智能的研發正處于探索階段，運行過程中出現技術故障的情況不在少數。以當下最熱門的人臉識別技術為例，據新聞報道，美國某公民2011 年因人臉識別系統故障被無故吊銷駕照數周；英國南威爾士警方在2017 年歐冠聯賽決賽中首次使用人臉識別相機，系統發出的2470 次警報中有2297 次錯誤?？梢?，盡管人臉識別技術在諸多領域有舉足輕重的地位，但角度、光線、膚色乃至發型等因素嚴重影響了系統識別的準確性。實際上，除人臉識別外，指紋解鎖、“掃一掃”等技術在應用過程中也是如此。由于科技發展有限，人工智能往往在不經意間“自動”陷入錯誤狀態中，一些不法分子通常借此良機實施犯罪行為，生活中不乏利用ATM 機故障“順手牽羊”取走機器內部大量現金事件，轟動一時的許霆案便是利用人工智能系統的“不智能”實施犯罪的典型代表。

（四）破壞人工智能系統實施其他犯罪行為的犯罪

該種犯罪是指，行為人通過各種技術手段對既有人工智能系統進行干擾，利用系統陷入錯誤狀態來實施其他的犯罪行為。例如，行為人A 遠程侵入被害人B 的無人駕駛系統秘密破壞傳感器，導致汽車因傳感鈍化而不能正確感知車身周圍的路況信息，發生撞死C 的交通事故；再如，行為人E 通過技術手段秘密入侵某公安局的內部網絡，竊取大量居民的身份信息后轉手販賣給其他犯罪團伙，以此謀取不當利益等。

在前述行為模式中，人工智能不再是簡單用以實施犯罪的輔助工具，更近似于連接犯罪行為與危害結果之間的媒介，破壞人工智能系統行為的實施實則是為后續實施其他犯罪行為服務，前一行為在整個犯罪過程中起鋪墊作用，后一行為的完成才是最終目標。

（五）利用人工智能技術實施其他犯罪行為的犯罪

技術的革新為傳統犯罪提供了“順風車”，人工智能的快速發展使各類犯罪手段呈現智能化、高級化、冗雜化的趨勢，犯罪門檻越來越低，行為的社會危害性卻不降反升。

以詐騙行為為例，傳統的詐騙犯罪中，行為人與受害人之間無論是直接雙向的一對一接觸，還是途徑多道程序的一對一接觸，從欺騙行為的著手到損害結果的發生，犯罪行為實施的全過程均發生在線下，即物理空間領域內；與之不同的是，在借助人工智能技術后，行為人與受害人發生接觸的場所由物理領域向網絡空間延伸，行為人不再僅憑言語交流對被害人實施欺騙，而是通過熟練掌握相關技術，例如利用專門軟件改變人聲、識別驗證碼以偽裝身份、規避監管，迷惑受害人使之陷入錯誤認識，為犯罪目的的達成添磚加瓦?？梢?，立足于人工智能技術的網絡詐騙犯罪利用最小成本實現了犯罪效益的最大化。

實際上，除詐騙行為以外，在人工智能完成由精英技術到平民技術的轉變后，各類不法行為都在前者的依托下實現了量變與質變的雙重飛躍，在廣度和深度上對傳統犯罪的勢力范圍進行了擴張。近些年層出不窮的網絡詐騙、竊取公民個人信息案件表明，利用人工智能技術實施其他犯罪行為是當前網絡犯罪最主要的表現形式。

三、弱人工時代網絡犯罪的規制路徑初探

（一）針對單純侵犯人工智能系統安全的犯罪

因該種行為本質上與侵犯計算機信息系統安全并無差別，故可根據現有條文加以規制：若行為人違反國家規定，實施了法律所禁止的非法侵入等行為造成機器不能正常運行，情節嚴重的，可援引《刑法》第二百八十五、二百八十六條的規定，依據相應的罪名定罪處罰。

（二）針對違反人工智能安全管理義務的犯罪

該種犯罪的行為主體涉及人工智能技術的研發者與服務提供者，故刑責承擔因處罰主體身份不同而有所區別。

對研發者而言，若因疏忽大意或過于自信違反預見義務，則承擔一般過失犯罪的刑事責任；若因科技水平限制，研發時既不可能預見危害結果的發生又盡到了安全管理義務，則按意外事件處理；若故意違反安全管理義務，或在研發過程中對危害結果的發生早有預見卻不采取措施，則認定其對犯罪行為、結果及因果關系的發生有直接或間接的犯罪故意，依據相關條文追究其不作為犯罪之刑責。

對服務提供者而言，在過失犯罪、意外事件的認定上與研發者相同，但鑒于其地位特殊，針對服務提供者故意違反安全管理義務的行為，立法者又專門設立了如拒不履行信息網絡安全管理義務罪等罪名加以規制。從刑法條文可知，該罪被設定為情節犯，只有當出現“致使違法信息大量傳播”“致使用戶信息泄露，造成嚴重后果”“致使刑事案件證據滅失，情節嚴重”或“有其他嚴重情節”四種法定情形之一時才可認定罪名成立，然而從實踐狀況來看，前述規定也存在一些問題。

例如，情形一規定為“致使違法信息大量傳播”，現行立法及司法解釋卻未對“大量傳播”給出明確界定致使實踐認定困難，反觀兩高在有關侵犯個人信息刑事案件的司法解釋中對于“情節嚴重”則給出了具體規定，相比之下不得不說前者存在立法遺憾；再如，情形三規定為“致使刑事案件證據滅失，情節嚴重的”，此處的刑事案件若為重罪尚可理解，若僅是致使輕罪刑事案件的證據滅失，是否還能被評價為“情節嚴重”并動用刑法規制？

鑒于篇幅所限，本文僅起拋磚引玉之勢，未來對于前述問題的解決是通過司法解釋的形式追加規定還是重新確立刑事評價體系？這值得進一步探討。

（三）針對利用人工智能的“不智能”實施的犯罪

這種模式的治理思路可分侵犯財產類和非財產類犯罪兩步走。若行為人利用系統的不智能實施了諸如故意傷害等侵犯非財產類的犯罪行為，依據相應條文認定即可；若實施的是侵犯財產類犯罪例如詐騙的行為，便要探討機器可否被騙的問題。

基于詐騙罪的犯罪構造，欺騙必須作用于被害人的大腦，而有學者認為機器本身不能被騙，但是機器背后的人可以受騙，對計算機詐騙實質上是使計算機背后的人受了騙[5]而間接承認機器可以被騙。這種觀點值得商榷。以利用ATM 機故障取走錢款為例，依據該觀點，是行為人利用故障使機器后的工作人員產生了錯誤認識并支付存款，但依常識便知既然是自助取款，那么機器的運行是靠內部算法的運轉，整個犯罪過程中與行為人發生接觸到最終支付款項的主體均是算法系統，而無工作人員的參與，既然不存在參與主體又何來被騙一說？

被欺騙作為一種主觀意識形態活動，存在的前提是行為主體必須具備能動意識，現階段的人工智能僅是佐助生產生活的工具，與一把刀、一支槍無本質區別，因不可能進行任何意識形態活動而不能被騙，故對利用系統不智能實施的犯罪的處罰，依據相關條文認定便可。

（四）針對破壞人工智能系統實施其他犯罪行為的犯罪

此模式下有兩個行為，一是破壞人工智能系統，二是利用對系統的破壞進而實施其他犯罪，即破壞人工智能系統作為手段行為為另一犯罪的達成服務，這便是我國刑法理論中的牽連犯。刑法總則中沒有規定牽連犯的處罰原則，分則對其的處罰規定卻五花八門。除有特殊規定為數罪并罰外，學界在罪數問題上多堅持“以一罪論處”原則，反對數罪并罰，他們傾向于認為牽連犯是與數罪并罰相對應的一組罪數形態概念中的一個，雖存在個別特殊規定，但這是基于這類行為危害性較大、數行為間的關聯度較低的考慮[6]。

上述觀點值得商榷。既然牽連犯概念設立的初衷，是從社會危害性以及行為間關聯關系強弱的角度將沒有明文規定但具有牽連關系的數行為從數罪并罰中分離出來，那么是否成立牽連犯，便應先從社會危害性和牽連關系兩方面分別評價后再確定處罰原則。

關于社會危害性。儲槐植教授將社會危害性的評價指標分為主客觀兩方面：主觀上包括罪過、主觀惡性和人身危險性，客觀上包括行為及危害結果[7]。近些年案發情況表明，行為人依靠黑客技術肆意猖獗，涉案數額動輒上千萬，受害人數眾多，行為鏈條冗長，隱蔽性高且取證困難，對國民經濟和社會秩序造成了巨大沖擊，目前尚且如此，隨著技術的進一步發展，行為的社會危害性實在不可小覷。

關于牽連關系的判斷，筆者認為應堅持類型說——只有當某種手段通常用于實施某種犯罪時才宜認定為牽連犯[8]，反之則需數罪并罰。以前文所舉的例子來看，行為人A 侵入B 的無人駕駛系統干擾傳感器，利用系統故障撞死C，車輛撞死人是常態，然而通過破壞車輛系統用以殺人并非常見的犯罪手段，二者間因不具備類型化的牽連關系而不能認定為牽連犯，這種情況下對行為人A 應數罪并罰。

因此，針對破壞人工智能系統實施其他犯罪行為的處罰，如果遵循“個案評價”原則，在具備類型化牽連關系時可考慮從一重罪或從一重罪從重處罰，在不具備牽連關系時應數罪并罰，既可體現罪責刑相適應原則，也能一定程度上遏制犯罪白熱化現狀。

（五）針對利用人工智能技術實施其他犯罪行為的犯罪

《刑法》二百八十七條規定，利用計算機實施金融詐騙、盜竊等其他犯罪的，依照相關規定定罪處罰，實際上已為利用人工智能實施其他犯罪行為的制裁提供了思路，在此不做贅述。值得關注的是，大數據時代的到來，公民為了享受人工智能的服務不得不將個人信息讓渡出去，逐漸適應了隱私權被侵犯的現狀。筆者在裁判文書網以“侵犯公民個人信息罪”為關鍵詞進行檢索，發現截止至2018 年9 月，判決文書由一開始的5 份增加至1408 份，可見信息共享使公民個人隱私權的刑法保護問題愈發嚴峻。當下，借助人工智能實施侵犯個人信息的犯罪行為數量攀升，對其是否可以一律套用二百八十七條定罪處罰？未必可行。

依據刑法及司法解釋規定，侵犯公民個人信息罪的客觀行為是指向他人出售或提供，或是購買、收受等，不包含自行利用，實踐中卻不乏行為人非法獲取信息后自行非法利用的情形，譬如充斥購物網站的刷單行為。由于條文規制范圍的狹窄，這些游離于條文以外、卻與犯罪行為具有同等危害性的違法行為無法被納入同個罪名體系內評價，這種情況下是否可以另辟蹊徑為其尋找刑法規制路徑？

以刷單為例，其觸犯的罪名還可能包括但不限于：非法獲取計算機信息系統數據罪，虛假廣告罪，損害商業信譽、商品聲譽罪等[9]。第一個罪的構罪前提是“非法”侵入計算機系統，而行為人利用人工智能侵犯公民個人信息時，可能具有合法的系統登入權，如通信營業廳工作人員可利用職權進入系統攫取公民信息，這種情況便因不符合構罪前提而不被認定。就第二、三個罪名而言，行為人刷單時難免會涉及對商品性能、質量等內容虛假評價，或是將獲取到的公民信息利用在給同行商家惡意刷單上，形式上與構成要件最為貼合，在學理層面可以認定，而經筆者在無訟案例網查詢，自網站開通以來，2018 年以兩罪名起訴的案件數量最多，但各自僅有10 件，所有案件也無一涉及網絡刷單行為?？梢?，實務中真正以這兩個罪名認定的案件極少，究其原因在于該類行為發生在市場交易領域，意思自治是市場交易的基本原則，一旦大面積規制，不利于維護交易秩序的穩定；加之行為處于多法域管轄的交叉地帶，涉及的法律關系錯綜復雜，故只要沒有造成重大損害，買賣雙方多對此視而不見，國家層面也僅動用行政法律法規略施懲戒，如此一來使得理論與實踐背道而馳，罪名形同虛設。

由此看來，借助人工智能實施非法利用公民個人信息行為的刑法規制出現空缺，雖究竟是立法者的疏忽還是基于交叉法域地帶管控難度的考量不得而知，然而放任這類社會危害性較大的行為在刑法邊界之外也似乎并不恰當。進一步是對市場領域的沖擊，退一步則在縱容違法行為的存在，如何妥善處理此種行為模式下衍生的多起沖突，也有待進一步探究。

四、結語

以計算機為單一犯罪對象的犯罪隨著以網絡為犯罪工具和空間的犯罪行為的崛起逐漸退出歷史舞臺，而人工智能技術的崛起又使得當下的網絡犯罪朝著智能化與大數據的方向邁進。限于知識的貧乏與發展前景的未卜，本文只探討了弱人工智能視野下網絡犯罪的行為類型，試圖在現有刑法體系下尋找解決路徑，同時指出部分立法空白之處期以他人回應。雖一直強調應當在人工智能研究的狂潮中保持理性，但這并不代表筆者對于未來的發展持消極態度，因為無論人工智能技術最終的發展前景如何，也不論法律未來是進行改良或是面臨變革，能在技術的幫助下獲取幸福，才是運用它的最終目的。●