論人工智能犯罪的原因及對策

孫浩

關(guān)鍵詞：人工智能;犯罪;原因;對策

中圖分類號：DF792.1 文獻標(biāo)識碼：A 文章編號：1009 — 2234（2019）09 — 0118 — 03

人工智能技術(shù)的迅速發(fā)展，特別是人臉識別和語音識別的廣泛應(yīng)用，將人類社會推向了人工智能的新時代。人類社會的生活和工作方式發(fā)生了翻天覆地的變化，人工智能已經(jīng)成為人類生活和工作中不可或缺的工具。但是，正如埃利澤·尤德考斯基所言：“任何能帶來卓越人類智能的東西（可能采取人工智能、人腦-計算機接口和基于神經(jīng)科學(xué)的人類智能提升的形式）都將在改變世界的競賽中處于領(lǐng)先地位。再沒有什么能與此相提并論。”也正如英國尤因爵士所說的那樣：“工程師的才能被嚴(yán)重濫用，將來可能會被濫用。就某些人才而言，既有眼前的負(fù)擔(dān)，也有潛在的悲劇。人類在道德上對如此巨大的禮物毫無準(zhǔn)備。在道德緩慢發(fā)展的過程中，人類還不能適應(yīng)這份禮物帶來的巨大責(zé)任。在人類不知道如何主宰自己的時候，他們被賦予了主宰自然的權(quán)力”①。目前，對人工智能技術(shù)的濫用已成為受眾人關(guān)注的社會現(xiàn)象。

一、人工智能犯罪研究的必要性

2017年，浙江省紹興市警方成功破獲全國首例利用AI（人工智能）犯罪公安部督“2017.01.03”侵犯公民個人信息案②。首例人工智能犯罪引起了人們對人工智能安全的普遍關(guān)注。吳漢東教授指出，人工智能時代存在社會風(fēng)險，其社會風(fēng)險體現(xiàn)為風(fēng)險共生、風(fēng)險時代和全球風(fēng)險③。然而，人工智能技術(shù)本身的發(fā)展存在倫理、法律、道德和刑事風(fēng)險。其中，刑事風(fēng)險中有三種表現(xiàn)形式：首先，它可能會導(dǎo)致一些傳統(tǒng)犯罪的危害性發(fā)生“數(shù)量變化”。第二，它可能導(dǎo)致新形式的犯罪。第三，人工智能產(chǎn)品可能由于各種原因而脫離人類控制，然后獨立進行嚴(yán)重危害社會的犯罪行為④。人工智能犯罪顯然是刑事風(fēng)險的第二種表現(xiàn)形式，是一種新的犯罪形式，從之前所講到的人工智能犯罪案例來看，人工智能犯罪也具有使部分傳統(tǒng)犯罪的危害性發(fā)生“量變”特點。總之，人工智能犯罪的不可預(yù)測性和危害嚴(yán)重性是其主要特征，如果不對人工智能犯罪加以理論分析，則會面臨理論與實踐脫節(jié)等問題，陷入極大的被動。因此，對于人工智能犯罪的相關(guān)研究顯得尤為必要。

二、人工智能犯罪的原因分析

犯罪原因是一個非常復(fù)雜的系統(tǒng)。對犯罪原因的研究證明了犯罪規(guī)律，提高了控制犯罪的能力;完善社會機制，彌補社會組織的漏洞;指導(dǎo)國家立法和司法工作等重要意義。人工智能犯罪是指自然人直接或間接利用人工智能技術(shù)對數(shù)據(jù)安全、計算機系統(tǒng)、國家、團體和個人造成危害的行為。是一種新型的犯罪，導(dǎo)致人工智能犯罪的原因可分為以下幾種。

經(jīng)濟因素。2016年2月，花旗銀行和牛津大學(xué)聯(lián)合發(fā)布了一份情報報告《工作中的技術(shù)2.0版》①（《TECHNOLOGY AT WORK v2.0》）。這份報告研究表明， 隨著智能化發(fā)展機器人在全球范圍內(nèi)將不同程度替代人類造成失業(yè)。智能化帶來的失業(yè)是一種結(jié)構(gòu)性失業(yè)，不符合高端人才的需求和中低端人才的供應(yīng)。在這樣的背景下，犯罪人數(shù)勢必增加。教育因素。許多學(xué)校將教育的主要精力投放在升學(xué)率上，而升學(xué)率并不能體現(xiàn)學(xué)生的德育教育、法治教育和心理教育等方面，這種教育模式是片面而非全面的。在這種教育模式下培養(yǎng)出的一部分人法律意識相對淡薄，容易游走于犯罪邊緣，危害社會。法律因素。造成人工智能犯罪和犯罪率上長的原因之一，就是法律的不完善，缺乏懲治人工智能犯罪的法律依據(jù)。人工智能犯罪與傳統(tǒng)犯罪有很大不同，無論是犯罪主體或犯罪客體，以及管轄問題乃至訴訟程序等，都體現(xiàn)出它的新特點。然而對于人工智能犯罪，我國刑法沒有明確規(guī)定，只是規(guī)定了計算機犯罪的相關(guān)內(nèi)容②，從刑法規(guī)定中我們不難發(fā)現(xiàn)，我國刑法對于人工智能犯罪的法律規(guī)范并不健全，法律制度并不完善。而除了刑法規(guī)定外，我國民法、商法、經(jīng)濟法等法律也未對人工智能犯罪進行明確規(guī)定。總之，我國人工智能犯罪的法律空間的薄弱，將會是我國人工智能犯罪滋生蔓延的關(guān)鍵原因。

三、人工智能犯罪的對策

我們應(yīng)當(dāng)從技術(shù)角度、社會角度和法律角度三個維度研究人工智能犯罪的相應(yīng)對策。

（一）技術(shù)角度。

首先，從技術(shù)角度考慮人工智能犯罪的預(yù)防問題，應(yīng)采取“師夷長技以制夷”的方法，將人工智能技術(shù)運用到犯罪預(yù)防上。人工智能技術(shù)可在監(jiān)控識別、情報挖掘、數(shù)據(jù)分析等方面幫助犯罪預(yù)防的實現(xiàn)。監(jiān)控識別上，可利用人工智能技術(shù)結(jié)合人臉識別、人像識別及語音識別等優(yōu)勢，與我國“天網(wǎng)”計劃相配合，并依靠其自身強大的識別能力、數(shù)據(jù)挖掘和分析、準(zhǔn)確定位等能力，從而實現(xiàn)虛擬空間中對于人工智能犯罪乃至其它犯罪的預(yù)防。監(jiān)控對于犯罪有著震懾和記錄作用，監(jiān)控安防是人工智能完美落地的天然場景，而人工智能將會推動超級監(jiān)控的實現(xiàn)。未來人工智能+監(jiān)控將會通過目標(biāo)的細(xì)微表現(xiàn)來判斷其社會危害性，從而實現(xiàn)完美預(yù)防，這有利于阻隔人工智能犯罪與現(xiàn)實空間的“連接”。人工智能是網(wǎng)絡(luò)安全的福音，人工智能技術(shù)效率的倍增和IP定位能力有利于人工智能犯罪在虛擬空間中也無處遁形;情報挖掘上，人工智能技術(shù)有利于打破監(jiān)控識別中存在的數(shù)據(jù)孤島并分散的局面。在傳統(tǒng)的安防體系中，各個平臺系統(tǒng)數(shù)據(jù)開放性低，彼此之間共享度低，所以很難開展多維數(shù)據(jù)融合分析。而人工智能技術(shù)的數(shù)據(jù)整合能力可以令追蹤行動一追到底，對于同一個目標(biāo)人物和目標(biāo)物體，人工智能技術(shù)可以鎖定該目標(biāo)并整合附近監(jiān)控設(shè)備尋找目標(biāo)的行蹤，并及時通知辦案機關(guān)，從而令辦案機關(guān)發(fā)現(xiàn)、預(yù)防、追蹤犯罪，避免犯罪的發(fā)生;數(shù)據(jù)分析上，人工智能技術(shù)的應(yīng)用可以通過分析數(shù)據(jù)得出科學(xué)準(zhǔn)確的結(jié)論和取得隱蔽的證據(jù)。無論是神證、人證、還是科學(xué)物證的時代，證據(jù)是打擊犯罪、預(yù)防犯罪的重要一環(huán)，往往一個證據(jù)就能決定一人的生死。證據(jù)中心主義要求人工智能技術(shù)通過數(shù)據(jù)分析找到人工智能犯罪的證據(jù)蹤跡，從而實現(xiàn)打擊和預(yù)防。

（二）社會角度

道德、法制和政府行政是社會宏觀預(yù)防的三種重要力量。道德對犯罪的預(yù)防表現(xiàn)為道德建設(shè)和道德教育，道德建設(shè)是對道德倫理體系的構(gòu)建，構(gòu)建一套完整的人工智能倫理體系是人工智能犯罪的重要基礎(chǔ)。道德教育是政治信念和道德倫理思想的灌輸，人工智能犯罪的預(yù)防需要堅定的人文政治信念和道德倫理思想做支撐，因為人工智能和人類的重要區(qū)別恰恰在于道德的把握。運用道德方式預(yù)防犯罪必須注意道德控制作用的有限性和道德控制的適度性，單憑道德是無法完滿地做到預(yù)防犯罪的，而是需要道德與法治的結(jié)合，而且還需要一定程度的政治力量的介入。道德控制的適度性表現(xiàn)為道德手段必須不能極端，歷史證明，極端緊張的道德控制和極端松懈的道德控制都是對犯罪不利的。法制對犯罪的預(yù)防體現(xiàn)為立法、執(zhí)法和法制宣傳上，立法上，法律應(yīng)適應(yīng)時代的發(fā)展，緊跟時代潮流，制定出一套完整的人工智能犯罪的法律、法規(guī)。執(zhí)法上，加強人工智能犯罪執(zhí)法隊伍建設(shè)，如有必要可設(shè)置人工智能執(zhí)法大隊和人工智能特警。統(tǒng)一執(zhí)法標(biāo)準(zhǔn)，結(jié)合人工智能發(fā)展?fàn)顩r，制定符合現(xiàn)實需要的執(zhí)法規(guī)定。法制宣傳上，要重視法律的威懾作用，震懾犯罪行為，令人工智能犯罪難以滋生。另外，也需要提高法制信用，監(jiān)督法制的實現(xiàn)，人人遵守法，不能出現(xiàn)“刑不上大夫”的情形。政府行政上，政府權(quán)力應(yīng)保持高度的權(quán)威性，進行廉政建設(shè)，提高犯罪預(yù)防打擊部門的工作水平，保持犯罪預(yù)防打擊部門的強度。其次應(yīng)加強行政立法，建立人工智能負(fù)面清單，保持行政工作的高效率和精準(zhǔn)度。最后應(yīng)當(dāng)加強農(nóng)村鄉(xiāng)鎮(zhèn)和城市街道等的基層政權(quán)建設(shè)，充分發(fā)揮基層政權(quán)在發(fā)現(xiàn)人工智能犯罪和預(yù)防人工智能犯罪等方面的作用。綜上所述，道德、法制和權(quán)力（政府行政）等力量是對犯罪的預(yù)防和打擊的重要手段，我們應(yīng)依法統(tǒng)籌三種力量對人工智能犯罪預(yù)防的運用，以確保社會的穩(wěn)定。

社會控制還要從微觀入手，主要包括環(huán)境設(shè)計、群體個人參與和心理預(yù)防三個方面。環(huán)境設(shè)計上，要創(chuàng)造不利于人工智能犯罪的實體空間和虛擬空間。預(yù)防人工智能犯罪的實體空間應(yīng)通過燈光照明或角落監(jiān)控等方式消除犯罪死角，還可以通過組建公公民眾監(jiān)督中心來實行社會監(jiān)督。預(yù)防人工智能犯罪的虛擬空間應(yīng)通過增強網(wǎng)監(jiān)力量或在虛擬網(wǎng)絡(luò)空間增設(shè)“電子眼”追蹤人工智能代碼異常情況來預(yù)防人工智能犯罪;群體個人參與是群體、個人對犯罪預(yù)防的參與，是預(yù)防犯罪國家行動的重要補充。社區(qū)參與是社會控制的重要組成部分，社區(qū)的參與是我國鼓勵預(yù)防犯罪的重要實踐，也是我國預(yù)防犯罪的一個成功做法。群眾自治是群眾組織的有組織的自我管理和自我保護活動，也是我國預(yù)防犯罪的一個重要實踐。因此，預(yù)防人工智能犯罪也可通過人工智能群體自治等手段實現(xiàn)。另外，人工智能技術(shù)人員可以通過自我約束和自我防衛(wèi)等手段與人工智能犯罪行為作斗爭，比如可以研制人工智能犯罪的“疫苗”;心理預(yù)防主要是指對自然人的相應(yīng)心理預(yù)防、治理行為，因為結(jié)合目前的人工智能技術(shù)和當(dāng)今社會發(fā)展的需要，人工智能犯罪是指自然人直接或間接利用人工智能技術(shù)對數(shù)據(jù)安全、計算機系統(tǒng)、國家、團體和個人造成危害的行為。在這里，人工智能犯罪的主體是自然人，只有將人工智能犯罪的主體確定為自然人才有研究的現(xiàn)實意義。綜上所述，社會微觀預(yù)防與社會宏觀預(yù)防的結(jié)合①是預(yù)防人工智能犯罪的重要手段，而對此兩種方式的完美配合和應(yīng)用則是科學(xué)預(yù)防的不二法門。

（三）法律角度

人工智能犯罪的犯罪人一定是自然人。這里的自然人是指具有生物意義的純正自然人。人的生物性和倫理性體現(xiàn)了人的主體性本質(zhì)，及其對權(quán)利的要求。生物意義上的人被確認(rèn)成法律意義上的"自然人"，是法律對人的"主體性"本質(zhì)的尊重，是主體法權(quán)要求的確認(rèn)。從當(dāng)前人工智能技術(shù)的發(fā)展情況來看，機器人目前還無法取代生物人。純正自然人犯罪是指法律規(guī)定的只有自然人才能構(gòu)成的犯罪。不純正自然人犯罪是指既可以由單位構(gòu)成也可以由自然人構(gòu)成的犯罪。故人工智能犯罪的刑罰對象仍限于自然人，不用得到較大調(diào)整。唯一需要調(diào)整的是人工智能產(chǎn)品可適用《侵權(quán)責(zé)任法》的相關(guān)規(guī)定，從而規(guī)制人工智能產(chǎn)品造成的侵權(quán)行為。

其次，制訂科技法。遵循科技發(fā)展規(guī)律，制訂嚴(yán)格有效的科技法，是規(guī)制人工智能犯罪的有效手段也是長遠(yuǎn)之策。這套完整的科技法體系需要科學(xué)技術(shù)領(lǐng)域的專業(yè)人才共同參與制定，以謀求科技發(fā)展與人類發(fā)展的動態(tài)平衡。在科技法制定出臺之前，假如人工智能脫離人類控制，成為犯罪主體，且人工智能體依據(jù)智能化程度而具有刑事責(zé)任能力，那么刑罰就應(yīng)當(dāng)做出較大調(diào)整。在這種情況下，對相應(yīng)犯罪主體的刑罰應(yīng)擴大范圍，增加種類。比如對人工智能體可進行數(shù)據(jù)刪除、產(chǎn)品報銷等方式的處罰。如果人工智能體擁有國家承認(rèn)的政治權(quán)利，那么剝奪政治權(quán)利可成為處罰人工智能體的附加刑。另外，如果超人工智能時代到來，法律對于人工智能體束手無策時，需要及時跳轉(zhuǎn)思維，設(shè)立人機共存秩序，以維護社會的穩(wěn)定。

〔責(zé)任編輯：張 港〕