“工具利用型”人工智能犯罪風險及治理

朱一瑋

（中國人民公安大學，北京 100032）

一、人工智能技術犯罪出現的背景

人工智能這一概念由約翰·麥卡錫（John McCarthy）、馬文·閔斯基（Marvin Minsky）、克勞德·香農（Claude Shannon）、艾倫·紐厄爾（Allen Newell）、赫伯特·西蒙（Herbert Simon）等人于1956年在達特茅斯會議（Dartmouth Conference）中首次提出。經過60多年的發展與沉淀，人工智能已經成為一門廣泛交叉的前沿學科，人工智能技術主要包括計算機視覺、自然語言處理、圖像識別、機器學習等，具有巨大的發展價值。目前許多國家都在搶占人工智能的制高點，全球已經有超過2542家人工智能企業。人類科技發展的歷史告訴我們，科技的發展是爆炸式的，其發展速度呈幾何式提升，我們必將在不久的將來進入到人工智能N.0時代。

但是，機遇與風險總是并存，人工智能技術在快速發展的同時，帶來了貨幣的兩面效應：一方面，技術的發展成熟減少了傳統事故、犯罪發生的風險，但另一方面也增加了引發新型犯罪的風險。以無人駕駛汽車為例，人工智能技術可以減少由于司機的不當操作所引起的交通事故，但在“貨幣”的另一面，一旦人工智能自動駕駛系統出現偏差或者被他人惡意攻擊，又會引起新類型的交通事故或者犯罪。在人工智能的深度學習技術方面，犯罪分子可以利用該技術降低犯罪的門檻，提高犯罪的效率，擴大犯罪的影響鏈條。例如，在我國公安機關于2017年成功破獲的全國首例利用人工智能技術破解互聯網驗證碼的案件中，犯罪分子利用人工智能技術打造出一條從盜號撞庫、破解驗證碼到販賣公民信息、實施網絡詐騙的全鏈條黑產。可以看出，由于人工智能各種新技術的不斷落地，利用人工智能技術實施犯罪的不法行為開始展露頭面。

二、“工具利用型”人工智能犯罪概念及特點

（一）概念探析

在厘清“工具利用型”人工智能犯罪的概念之前，需要了解什么是人工智能犯罪。首先從技術層面出發，人工智能犯罪伴隨著技術的發展會呈現出不同的表現形態。人工智能可以劃分為弱人工智能階段、強人工智能階段以及超人工智能階段。目前，我們仍處于弱人工智能階段。在弱人工智能階段，人工智能并不會產生獨立的思維能力和認知能力，意味著該階段的人工智能犯罪僅僅指利用人工智能技術實施的犯罪，而不是由人工智能的仿真行為引起的犯罪。因此，高銘暄教授在弱人工智能的范疇內，將人工智能犯罪劃分為“工具利用型”犯罪以及“產品缺陷型”犯罪。他認為“工具利用型”犯罪是指行為人利用人工智能實施其他犯罪, 進而造成嚴重危害社會的后果。在這種情形下, 由于第三方行為人才是實施犯罪行為的主導者, 人工智能產品僅因作為犯罪工具才直接作用于被害人。因此，具體來說，“工具利用型”人工智能犯罪是指犯罪分子將人工智能技術工具化，利用人工智能技術實施相關犯罪活動，從而達到犯罪目的，危害社會的一種新型犯罪方式。該種新類型的犯罪將傳統犯罪披上人工智能的外衣，把人工智能技術作為其犯罪的工具，在很大程度上增強了犯罪的隱蔽性、智能性、效率性。

（二）特點

1. 犯罪門檻降低

技術的革新會為人類社會生活帶來便利，促進人類社會的進步與發展，但這種便利是雙面性的。以偵查為例，偵查人員與犯罪嫌疑人處于一個相互博弈的過程，偵查手段可以通過新技術得以改進，為偵查人員辦案提供便利。但與此同時，犯罪分子也會利用新技術更新自身的犯罪手段，降低犯罪成本，提升犯罪能力，使實施犯罪更加容易，也更難被偵查人員所防控。目前，在人工智能技術水平不斷提升的前提下，雖然出現了“人工智能偵查”，但是“人工智能偵查”仍然處于初步發展階段，技術應用尚不成熟，并且許多犯罪分子已經將人工智能技術“犯罪化”，甚至產生了專門利用人工智能技術提供幫助和制造技術工具的犯罪黑產人員，這使得初入門檻的犯罪分子可以通過僅僅購買犯罪工具就能輕而易舉地實施犯罪。例如，曾經火爆地下市場的“Black shades”程序軟件就被形象地稱為“網絡犯罪分子的潘多拉魔盒”, 在“Black shades”的幫助下，使用者壓根不需要懂得任何技術，用戶只需要點擊幾下鼠標便可以實現攻擊。這款惡意軟件不僅可以輕易地讓目標計算機感染勒索軟件，而且還能對目標進行視頻和音頻監控。“工具利用型”人工智能犯罪就是借助人工智能技術，降低了犯罪的門檻，為犯罪分子打通了犯罪的簡易通道，甚至任何一個有創造力的非專業犯罪分子都可以使用。

2. 犯罪效率提升

“君子生非異也，善假于物也”。人類發展史就是一部利用工具提升效率的革命歷史，工具的革新往往意味著效率的提升，這對于犯罪同樣適用。犯罪分子將人工智能技術作為工具，基于其強大的算法能力，即便是面對海量的數據，也可以在極短的時間內完成普通人在很長時間內都無法完成的數據分析工作。以“快啊答題”打碼平臺破解互聯網驗證碼為例，犯罪分子通過運用人工智能技術訓練機器，可以使機器本身不斷自動學習識別驗證碼，極大提升了單位時間內識別驗證碼的數量。在未使用人工智能技術以前，技能最為熟練的打碼人員識別一個驗證碼也需要一秒鐘的時間，而將人工智能運用于打碼，平均一秒就可以實現兩千次識別。由此可以看出，通過利用人工智能技術，不僅省去了高昂的人力資本，降低犯罪成本，犯罪效率也得以大幅度提升，犯罪周期得到大幅度縮短，犯罪的危害性更是呈現出成倍遞增的趨勢。“工欲善其事必先利其器”，犯罪分子將人工智能技術作為犯罪的工具，搭乘科技的順風車，做到了“事半功倍”。

3. 新型犯罪場景頻出

人工智能技術已經廣泛應用于語音識別、圖像識別、自然語言理解等各個方面，涉及到金融、教育、醫療、旅游、物流等各行各業。可以說，人工智能正在潛移默化地影響并改變著我們的生活。但隨著人工智能技術的廣泛應用，新的犯罪場景也正在頻頻出現：利用人工智能深度學習技術將涉黃視頻中色情演員的臉部和其他人進行交換，不僅侵犯個人的名譽權，如果進行惡意傳播還會擾亂社會管理秩序；利用人工智能技術的超級計算能力代替低效率的人工識別驗證碼方式進行驗證碼破解，加速了黑色產業鏈猖獗泛濫的態勢。新型犯罪場景基于人工智能技術的發展而不斷涌現，兩者之間在一定程度上正是“成就”與“被成就”的關系，人工智能技術運用得越廣泛，就會出現越多利用人工智能技術實施犯罪的新型犯罪場景。

三、“工具利用型”人工智能犯罪主要類型及風險分析

（一）色情涉黃類

對于電影制造廠商來說，“換臉術”這一名詞也許并不陌生。《阿凡達》《美國隊長》《速度與激情》等電影均使用了這一技術幫助完成電影的拍攝，將電影中的人物通過計算機合成看起來栩栩如生。電影中的“換臉術”對技術和設備的要求非常之高，投入的人力和資金量也是非常巨大，但是在2017年出現的“Deepfakes”人臉交互技術徹底顛覆了人們的認知。2017年12月，國外網站“Reddit”上發布了一個涉黃視頻，該段涉黃視頻的主演是“神奇女俠”的扮演者蓋爾·加朵，視頻一經發布，立刻引起極大轟動。后來經過查證，該段視頻是網友通過利用“Deepfakes”的人臉交互技術，將蓋爾·加朵和色情演員的臉進行了交換。而該技術正是基于人工智能的圖像識別以及深度學習技術，使得普通人通過電腦就可以將視頻人物的臉部進行修改，替換成為其他人的臉部。“Deepfakes”其實是“Deep machine learning”和“Fake photo”的簡寫，該技術的核心就是一個“自動編碼器”，即一個深度神經網絡，它可以通過接收數據，并對其進行壓縮，然后在這個編碼中重新生成原始的輸入數據，并不斷進行循環往復，模擬學習，進而達到模仿人類學習的目的。而現在“Deepfakes”技術已經在GitHub平臺上開源，人們可以在該平臺上下載該軟件，然后軟件通過人工智能強大的算法對上百張同一人物的表情進行識別學習就可以將視頻中的人物進行換臉。

除了“Deepfakes”，還存在“Face2Face”“Headon”“paGAN”等大量換臉技術。可以看出，人臉交互技術目前已經成為一種“平民化”技術，人人都可以利用這一技術。技術在平民化的同時也帶來了風險，犯罪分子可以輕易地利用這一技術制造他人的淫穢視頻并進行傳播，人們很難發現該視頻是假造視頻，這將會影響受害人的名譽權。如果犯罪分子以牟利為目的，將假造的涉黃視頻進行大肆傳播，可能還會影響到社會公共管理秩序。除此之外，目前國外網絡上已經出現利用人臉交互技術形成的涉及政治人物的視頻，雖然該類型視頻在國外以調侃諷刺等目的為主，但是公安、網信等有關部門要提高警惕，避免該類型視頻在國內大肆傳播，引發不良輿情事件。

（二）黑色產業鏈類

隨著我國互聯網快速發展，利用網絡實施的犯罪持續高發，傳統違法犯罪活動日益向網上發展蔓延，新型網絡犯罪發展迅猛，犯罪手法層出不窮。目前，我國涉及網絡的犯罪已占犯罪總數的三分之一。基于互聯網強大的傳播能力，網絡犯罪的危害性不言而喻，尤其是在侵犯公民信息的案件中較為突顯。同時，網絡犯罪的產業化、鏈條化趨勢也日益加劇，而且各個犯罪之間不再是單鏈條相互關聯，更多的是多個上游與多個下游交叉連接。對黑色產業鏈條進行分析，可以總結出三條核心鏈：信息鏈、資金鏈和技術鏈。信息鏈是指上游犯罪人通過非法手段獲取大量公民信息，然后為下游犯罪提供被害對象的相關信息，以便實現精準犯罪。資金鏈是指利用第三方支付等手段專門轉移違法資金的鏈條。技術鏈，顧名思義，則是在黑產犯罪中提供技術支持的鏈條。而“工具利用型”人工智能犯罪正是處于技術鏈之中，為黑色產業鏈的下游犯罪提供了極大幫助。

在互聯網黑色產業中，不法分子竊取互聯網公司數據庫之后，需要驗證確認賬號和密碼之間的相對應關系，然后篩選出有價值的數據，這在黑色產業中被稱為“曬密”（撞庫）。而互聯網公司為了保護自身數據庫，防御不法分子“曬密”，建立起了驗證碼驗證的安全體系，即需要正確輸入網站顯示的驗證碼（包括文字、數字等）才能登陸網站。黑產人員為了反對抗驗證碼體系，“打碼”平臺應運而生，并與“曬密”軟件合作者合作，建立高效率的信息反饋機制。傳統的“打碼”平臺采用的是人力資源型工作模式，即雇傭大量“打碼”人員通過人眼識別的方式輸入驗證碼，在這種方式下，技能最為熟練的“打碼”人員每秒鐘可以識別一個驗證碼。而利用人工智能的“打碼”平臺將傳統的“打碼”平臺的效率極大提升，黑產人員利用人工智能技術訓練機器，基于其強大的圖文轉換技術和深度學習技術，平均一秒就可以實現兩千次識別。2017年，公安機關破獲了我國首例甚至世界首例運用人工智能破解驗證碼的案件，這是一條完整的黑色產業鏈犯罪。“快啊答題”人工智能“打碼”平臺在此條黑色產業鏈中發揮著巨大作用，該平臺通過上述犯罪機制，接入“曬密”軟件100多款，接入用戶高達一萬余人，在2017年一季度內破解驗證碼259億次，累計破解驗證碼1204億次。從2016年6月到2017年3月，短短8個月的時間平臺資金進賬高達1650萬元。黑色產業以趨利性為典型特征，高額的回報更加刺激了黑色產業的動力。在該案中，共有43個犯罪團伙被摧毀，90余人涉案被采取強制措施，查獲公民個人信息高達10億余條。利用人工智能實施犯罪的“打碼”平臺危害之深可見一斑。

人工智能“打碼”平臺與大量黑色產業勾連，成為數據清洗商重要的幫助工具，嚴重侵害公民的個人信息安全，其下游犯罪還會侵犯到公民的個人財產等其他權益。除此之外，“打碼”平臺還可應用于刷單炒信、“薅羊毛”、“黃牛”搶號、網站“水軍”等需要大批量賬號登陸的違法犯罪行為。而黑色產業鏈中的違法犯罪行為在借用人工智能技術之后，危害性必將爆炸式倍增，呈現出影響擴大化、后果嚴重化的趨勢。因此，利用人工智能的黑色產業鏈違法犯罪行為，其背后的犯罪風險不容忽視。

（三）電信詐騙類

在該類型犯罪中，具體可以分成兩類，一類是是黑色產業鏈類的下游犯罪，其預備行為是人工智能犯罪。例如，在我國首例人工智能打碼的黑色產業鏈犯罪中，就存在被害人因好友QQ賬號密碼被人工智能打碼平臺非法獲取后轉賣給詐騙集團而被詐騙，進而造成財產損失的情況。

第二類是在實施電信詐騙的行為過程中利用人工智能技術偽造、模擬仿真聲音。在央視播出的一檔節目中，一個智能機器人經過訓練就可以模仿特定人的聲音與情緒并與人交流，該智能機器人正是利用了人工智能技術中的自然語言理解技術和自動語音識別技術。只要取得特定人一定數量的語音樣本，并進行模擬學習，就可以發出特定人的聲音，以假亂真，極大縮小了自然語言與人類語言的差距。該項技術可以應用于模擬親人的聲音去陪伴老人或者孩子，甚至可以讓“啞巴”重新說話。但是其背后隱藏著巨大犯罪風險，電信詐騙的犯罪分子如果利用該項技術，偽裝成被害人親友的身份進行詐騙，將在很大程度上提升詐騙的成功率。除此之外，現在的人工智能技術還可輕松地完成對人臉的復制，這意味著該項技術一旦被犯罪分子濫用，身份識別就會成為一個大問題。目前，國外已經公開報道全球第一起人工智能電信詐騙案，犯罪分子通過人工智能技術偽造公司高管聲音與下屬打電話，并要求其將公司賬戶的錢款轉移至特定賬戶，導致公司損失22萬歐元。雖然我國目前還沒有出現將人工智能技術用于偽裝身份進行電信詐騙的案件，但我們并不能忽視人工智能技術在這一方面的風險。必須意識到，當一兩件人工智能犯罪事件浮出水面，就意味著其背后也許成千上萬的人已經遭遇了同類詐騙。

四、“工具利用型”人工智能犯罪治理

“工具利用型”人工智能犯罪可以拆解為人工智能+犯罪，在弱人工智能時代，人工智能技術本身并不存在犯罪與否。因此，針對該類型犯罪，治理的重點并不在于人工智能技術，而是在于消除人工智能與犯罪之間的“+”，所以，要從“使用”和“管理”的博弈角度出發，將重點放置于“管理”上。一方面，繼續鼓勵發展和運用人工智能，不能因為出現利用人工智能實施犯罪的行為就單方面扼殺人工智能，這是明顯不可取的。另一方面，要著重注意對人工智能技術的合理監管，保持好天平的平衡，最大程度控制由人工智能帶來的犯罪風險。簡而言之，人工智能在作為社會治理的一項技術的同時，仍要將其視為社會治理的對象。對于如何做好“管理”，筆者認為可以從以下三個方面努力。

（一）政企互動，共創安全

為了預防人工智能不恰當的應用引發新類型犯罪或者社會問題，應為人工智能的研發和應用設置邊界。首先，在國家大力提倡發展人工智能的前提下，政府和人工智能技術企業要加強合作，政府為技術發展提供便利，企業則要做到合法合規發展，合法合規運用，做到核心技術不外泄，避免被別有用心分子加以利用實施犯罪；其次，政府要為人工智能的發展明確標準，配套相應制度。除此之外，可以采用政府主導形式，倡議各企業聯合建立“偽造數據庫”來檢測這些“深度偽造”的產品。新形勢下，有必要明確人工智能技術發展的標準，為人工智能的發展配套相應制度，建立人工智能安全監管和評估體系，明確“可為”與“不可為”，避免人工智能“工具化”的泛濫使用。

（二）行業自律，保障發展

行業自律主要有兩個角度，一是行業對國家法律法規的貫徹與遵守，二是對行業內部規制本行業行為的行規行約的遵守。從依靠行業自律引導行業發展的角度出發，就要促進人工智能行業自律，目前而言，一是在人工智能法律層面的監管措施需要盡快出臺，加強對人工智能犯罪的法律解釋工作。由于目前人工智能并未發展至強人工智能，所以現行法律體系框架對當前“工具利用型”人工智能犯罪仍具有約束力。但是針對該種新型犯罪，現有的法律條文在具體運用之時存在一定困難，主要是具體罪名的運用，幫助犯的界定，主體責任歸屬等存在爭議，因此，有必要加強對有關人工智能犯罪的罪名的法律解釋工作，幫助公檢法機關更好地使用法律武器，加大對違反法律法規的企業的懲罰力度，加強法律威懾力，保證人工智能行業對法律法規的敬畏。二是要保障人工智能行業內部自身行規行約的有效約束力。鼓勵人工智能行業組建人工智能發展協會，廣泛吸納人工智能企業入會，采取會員制度，對入會會員提供相應的政策優惠，并制定行業發展自律條例，要求入會企業共同遵守，并將違反行規行約的企業納入行業黑名單，采取相應的懲罰措施。同時，還應鼓勵企業內部制定企業發展自律規定，并要求切實遵守。發揮行業自律在人工智能技術發展中的積極作用，對人工智能行業的正確發展具有重大意義。規范行業自律，保障行業發展，當行業自律成為常態之時，人工智能犯罪治理就會更加輕而易舉。

（三）以“技”治“技”，治理犯罪

以“技”治“技”，就是通過人工智能技術治理人工智能犯罪。一是加強人工智能安全技術研發。首先從技術者的思維出發，思考研發出的技術產品可以運用于哪些方面，而一旦將其運用于此，又會帶來怎樣的風險，即從源頭思考犯罪，識別風險。以自然語言處理技術為例，技術者在研發之初是將其應用于語音識別、智能交流等方面。但與此同時，我們應該思考該技術是否會帶來偽裝他人聲音進行詐騙的犯罪風險。其次，在識別風險的基礎之上，應強化人工智能產品和系統網絡安全防護，政府相關部門要加大對人工智能安全管控的各項投入, 建立防范高科技犯罪實驗室, 深入研究、預防此類新型犯罪，并圍繞人工智能技術產品潛在的不確定性和危害性，制定救濟措施，研發相應的安全反制技術，最大程度降低“工具利用型”人工智能犯罪所帶來的犯罪風險。

二是確保人工智能安全技術應用落地。即利用技術者的技術，主要以偵查機關為主體，以人工智能安全技術作為強力保障。在犯罪分子的犯罪技術不斷革新的形勢下，偵查機關治理犯罪的技術也要“順應潮流”。“工具利用型”人工智能犯罪是將人工智能作為犯罪技術，而偵查機關可以將人工智能作為偵查技術以此來治理人工智能犯罪。人工智能走進偵查已經是必然趨勢，作為第五代偵查技術，“人工智能偵查”雖仍處于初步發展階段，但以“技”治“技”的偵查技術所帶來的效益是不可忽視的。人工智能偵查不僅可以創新偵查模式，而且可以豐富偵查技戰法，并進一步提高偵查效率、降低偵查成本。以人工智能技術換臉為例，技術者可以研發出人工智能識別系統，通過人工智能技術識別一般檢測工具根本無法識別的偽造視頻。美國國防部已經研發出“反AI變臉刑偵檢測工具”，該工具專用于檢測換臉造假技術，其工作原理是通過AI分析假視頻一般不會表現出眨眼、呼吸和眼球運動等特征，檢測出圖像或視頻中的臉是真實的還是AI生成的。可以看出，技術本身不分“善意”還是“惡意”。針對“工具利用型”人工智能犯罪，要充分運用人工智能技術，加強與人工智能企業等科技企業的合作，擴大“人工智能偵查”所能應用的場景。

利用技術者的技術，應加強人工智能安全技術的研發，并由偵查機關作為實施主體，將人工智能技術作為治理犯罪的有力工具，轉被動防御為主動防御，不斷增強技術防控識別和治理能力，做到“魔高一尺，道高一丈”。

五、結語

如今，我們已經處于一個即將迎來人工智能時代的節點時期，在這個時期，人工智能技術帶來了大量的不確定性。人工智能猶如一把槍，用在好人手里可以懲奸除惡，用在壞人手里則是為虎作倀。因此，有必要針對人工智能技術本身的應用場景，對其犯罪的背后風險進行分析判斷，提前打好“預防針”，并且采取相關措施，平穩化解人工智能犯罪背后隱藏的風險，維護社會穩定。