人工智能時代公民個人信息的保護(hù)
——以全國首例利用AI實施的特大侵犯公民個人信息案為視角

胡靈芝

（浙江省杭州經(jīng)濟(jì)技術(shù)開發(fā)區(qū)人民檢察院， 浙江 杭州 310018）

2018年浙江省紹興市公安機關(guān)破獲了全國首例利用人工智能技術(shù)實施的“特大侵犯公民個人信息案”，徹底搗毀了一個集盜取、販賣、利用個人信息實施詐騙的產(chǎn)業(yè)鏈，成功截留公民個人信息十億組，共抓獲173人，扣押追繳贓款600余萬。①格爾生活：《全國首例利用AI侵犯公民信息犯罪案告破，黑客破解驗證碼快至毫秒級》，http://k.sina.com.cn/article_6423164131_17ed9b4e3001003k3s.html，最后訪問時間：2019年6月4日14時33分。

該犯罪團(tuán)伙主要是利用社交軟件冒充好友實施代付詐騙，偵查之初，從詐騙嫌疑人員電腦中發(fā)現(xiàn)了大量的公民個人信息，經(jīng)過追查發(fā)現(xiàn)，這些公民個人信息系從一黑客團(tuán)伙處低價購買所得。隨后一個名為“快啊”的打碼平臺浮出水面，該平臺在破解網(wǎng)站、平臺為防止黑客測試賬戶、密碼而設(shè)置的“驗證碼”環(huán)節(jié)，運用人工智能的深度學(xué)習(xí)來自主操作識別圖片驗證碼，輕松繞過互聯(lián)網(wǎng)公司設(shè)置的驗證碼，大大提升了黑客人員獲取公民個人信息的準(zhǔn)確率和速度。

從這一犯罪團(tuán)伙的作案手段可以發(fā)現(xiàn)，人工智能在獲取、破解網(wǎng)站平臺賬號、密碼等公民個人信息等犯罪鏈中起到了至關(guān)重要的作用，這是人工智能對法律與社會倫理的沖擊、對個人隱私的侵犯。2017年7月國務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》中將這種情況歸納為人工智能發(fā)展不確定性帶來的新挑戰(zhàn)。同時，該文件中也明確指出，人工智能是國際競爭中的新焦點，是經(jīng)濟(jì)發(fā)展的新引擎，為社會發(fā)展帶來了新機遇。所以，人工智能是科技發(fā)展的新生物，且利弊共存于一體，我們絕不可因噎廢食，棄而遠(yuǎn)之。筆者認(rèn)為，應(yīng)從技術(shù)和法律兩個層面認(rèn)識人工智能，探析人工智能與公民個人信息保護(hù)之間的辯證關(guān)系，探索人工智能時代加強公民個人信息保護(hù)的途徑。

一、人工智能時代公民個人信息保護(hù)概述

（一）人工智能的概念及特點

對于大多數(shù)人而言，人工智能可能是出現(xiàn)在我們身邊的智能家電、無人駕駛汽車，還可能是出現(xiàn)在科幻影視劇中的超能機器人，但對人工智能這一術(shù)語的理解，還需從其概念及特點談起。

1.人工智能的概念

人工智能是Artificial Intelligence的中文譯稱，英文簡稱為AI，這一概念最早由約翰·麥卡錫（John McCarthy）在1956年提出，“是研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)。人工智能是計算機科學(xué)的一個分支，它企圖了解智能的實質(zhì)，并生產(chǎn)出一種新的能以人類智能相仿的方式做出反應(yīng)的智能機器，該領(lǐng)域的研究包括機器人、語言識別、圖像識別、自然語言處理和專家系統(tǒng)等。”這是從技術(shù)層面對人工智能含義所作的界定，人工智能根據(jù)技術(shù)發(fā)展水平不同，又可以分為弱人工智能、強人工智能和超人工智能三種。

人工智能在法律層面也有相關(guān)研究，如華東政法大學(xué)刑法學(xué)教授劉憲權(quán)就認(rèn)為，人工智能是指使機器像人一樣去完成某項任務(wù)的軟硬件技術(shù)。同時，劉教授還根據(jù)人工智能是否具有辨認(rèn)能力和控制能力，將其分為弱人工智能和強人工智能兩類。①劉憲權(quán)：《人工智能時代的“內(nèi)憂”“外患”與刑事責(zé)任》，https://www.sohu.com/a/215125849_786964，最后訪問時間：2019年6月1日14時37分。

通過對人工智能技術(shù)和法律兩個層面內(nèi)涵及分類的研究，筆者認(rèn)為，可以從結(jié)合技術(shù)和法律兩方面出發(fā)，將“人工智能”界定為，被科研人員賦予了與人類智能相仿的具有辨識和控制能力的技術(shù)產(chǎn)品。

2.人工智能的特點

從人工智能的上述概念中可以看出，人工智能包含以下幾個方面的特點：

第一，人工智能機體的無生命性。人工智能的本質(zhì)是技術(shù)科學(xué)，而非具有生命意義的植物或者動物等生命體，因此，不能當(dāng)然地認(rèn)為人工智能如自然人一樣具有生命性。時下，包括知識產(chǎn)權(quán)法、民法、刑法在內(nèi)，已有學(xué)者呼吁比照“法人”的法律擬制的主體設(shè)立原則，賦予人工智能法律責(zé)任主體地位，在特定的情況下由人工智能承擔(dān)起相應(yīng)的法律權(quán)利和法律義務(wù)。這一探討對于人工智能未來的發(fā)展具有重要意義，但筆者認(rèn)為，對人工智能法律主體資格的探討與人工智能機體本身的無生命性之間并不矛盾，無生命性仍是人工智能的一大特性。

第二，人工智能來源的人類性。人工智能雖然具有與人類智能相仿的智能，甚至在某些層面上擁有超越人類的智能，比如阿爾克戈（AlphaGo）戰(zhàn)勝圍棋世界冠軍李世石。但人工智能的智能并非自動生成的，其智能仍來源于設(shè)計者、研發(fā)者的技術(shù)賦予。引言中所述的“快吧”平臺上的智能軟件雖具有自主學(xué)習(xí)、積累的能力，但該能力來源于設(shè)計者的程序設(shè)計。因此，學(xué)界一些主流觀點認(rèn)為，人工智能的設(shè)計、研發(fā)者應(yīng)當(dāng)對人工智能所實施的行為承擔(dān)相應(yīng)的法律責(zé)任，依據(jù)即在于此。

第三，人工智能行為模式的類人性。人工智能最初產(chǎn)生的目的就是模擬人的行為、思維方式，從而延伸和擴(kuò)展人的力所能及或者力所不能及的范圍，以幫助提高人類的認(rèn)知和活動能力，所以，人工智能行為模式的類人性是人工智能設(shè)計者開發(fā)設(shè)計人工智能產(chǎn)品的目的性體現(xiàn)。如果人工智能失去了行為模式的類人性，其名稱中的“人工”二字便無從談起。

（二）人工智能時代公民個人信息的內(nèi)涵和特點

我國雖然沒有專門的個人信息保護(hù)法，但對于網(wǎng)絡(luò)環(huán)境下公民個人信息保護(hù)的刑法規(guī)范在不斷完善之中。從2009年刑法修正案（七）到2015年刑法修正案（九）對公民個人信息犯罪罪名的增設(shè)到相關(guān)內(nèi)容修改，再到“兩高”《關(guān)于辦理侵犯公民個人信息刑事案件適用法律若干問題的解釋》（以下簡稱《解釋》）對侵犯公民個人信息犯罪認(rèn)定予以細(xì)化，公民個人信息的保護(hù)朝著規(guī)范化的方向發(fā)展。

《解釋》第一條就開門見山地對公民個人信息的概念做出明確規(guī)定，即“以電子或者其他方式記錄的能夠單獨或者與其他信息結(jié)合識別特定自然人身份或者反映特定自然人活動情況的各種信息，包括姓名、身份證件號碼、通信通訊聯(lián)系方式、住址、賬號密碼、財產(chǎn)狀況、行蹤軌跡等。”當(dāng)人工智能技術(shù)介入公民個人信息的收集、使用和保護(hù)后，公民個人信息在收集、保存、使用環(huán)節(jié)中又有自身的一些新的特點，主要體現(xiàn)在以下方面：

第一，信息收集更具目的性和技術(shù)性。人工智能技術(shù)的最大優(yōu)勢即可根據(jù)研發(fā)設(shè)計者的需求，通過技術(shù)性手段，有針對性地抓取數(shù)據(jù)信息，從而使獲取的信息在數(shù)量和質(zhì)量上達(dá)到預(yù)期效果。因此，通過人工智能技術(shù)獲取的公民個人信息具有先天的目的性和技術(shù)性，這是其得以產(chǎn)生的初衷所在。

第二，信息內(nèi)容更具人身性和財產(chǎn)性。最具價值的公民個人信息無外于包含人身和財產(chǎn)內(nèi)容的信息，通過人工智能技術(shù)獲得的公民個人信息也多為關(guān)乎網(wǎng)絡(luò)信息主體身份識別及賬戶財產(chǎn)安全的最隱私的內(nèi)容，這便是人工智能時代公民個人信息具有人身性和財產(chǎn)性的原因所在。

第三，信息使用更具責(zé)任性和可罰性。因人工智能獲取的公民個人信息數(shù)量多，且有較強的人身性和財產(chǎn)性，所以掌握公民個人信息的主體在保管、使用和提供過程中需承擔(dān)更大的責(zé)任，故應(yīng)嚴(yán)格按照法定及信息主體授權(quán)的范圍進(jìn)行轉(zhuǎn)讓、共享或披露，如果實施了非法獲取或非法提供公民個人信息的行為，則應(yīng)受到相應(yīng)法律的懲罰。

二、人工智能技術(shù)與公民個人信息保護(hù)的關(guān)系

引言案例反映出人工智能技術(shù)成為了公民個人信息犯罪的“幫兇”，但人工智能與公民個人信息犯罪的關(guān)系僅限于消極對抗嗎？筆者認(rèn)為，對于人工智能技術(shù)和公民個人信息保護(hù)的關(guān)系應(yīng)辯證看待，首先需認(rèn)清人工智能技術(shù)在公民個人信息保護(hù)中的中立性，進(jìn)而才能分析人工智能時代公民個人信息保護(hù)的緊迫性和必要性。

（一）人工智能技術(shù)在公民個人信息保護(hù)中的中立性

人工智能與公民個人信息保護(hù)之間的關(guān)系歸根到底是科學(xué)技術(shù)與法律制度之間的關(guān)系問題。科學(xué)技術(shù)具有中立性，一項科學(xué)技術(shù)的產(chǎn)生、發(fā)展對法律制度而言，并不必然帶來消極影響。相反，科學(xué)技術(shù)是生產(chǎn)力發(fā)展的直接體現(xiàn)，而任何規(guī)則制度的產(chǎn)生都得益于生產(chǎn)力的發(fā)展，法律自然也不例外。①任婷婷：《法與科技之關(guān)系的全新解讀》，載《山西科技》2007年第5期，第66頁。概括而言，科技發(fā)展對法律制度完善的作用主要體現(xiàn)在三個方面：

第一，科技為法律提供技術(shù)支持。法律是一門開放性的社會科學(xué)，科技領(lǐng)域現(xiàn)有成果的融入，有利于提高法律的運行質(zhì)量和效率，例如智能辦案系統(tǒng)的研發(fā)和運用。

第二，科技發(fā)展擴(kuò)充了法律調(diào)整的社會關(guān)系內(nèi)容。因科技發(fā)展導(dǎo)致了一些新型社會關(guān)系的產(chǎn)生，為更好地適應(yīng)科技給社會生活帶來的變化，法律也增設(shè)了相關(guān)內(nèi)容對這些新的社會關(guān)系予以調(diào)整，例如網(wǎng)絡(luò)安全方面法律規(guī)定的產(chǎn)生就是為了調(diào)整網(wǎng)絡(luò)環(huán)境下新生的社會關(guān)系。

第三，科技發(fā)展導(dǎo)致了法律制度的變遷。為適應(yīng)其他因素帶來的社會環(huán)境的變化，一些法律方面的制度也在不斷更新之中，例如刑事訴訟法對于電子數(shù)據(jù)這一證據(jù)種類的羅列，以及學(xué)界對于人工智能主體地位的探討等。

從上述分析中，我們不難看出，科技自始自終保持著技術(shù)中立性的特點，對于法律制度發(fā)展的總體影響是積極的、向前的，但當(dāng)其為不法分子所掌握和使用之后，就會誘發(fā)嚴(yán)重的消極后果。因此，可以概括而言，人工智能技術(shù)對公民個人信息的保護(hù)而言有兩方面的影響：一方面，人工智能技術(shù)為更快速、便捷地獲取公民個人信息提供了技術(shù)支持，另一方面，人工智能技術(shù)也在一定程度上被不法分子所獲取，用于實施違法犯罪行為，從而產(chǎn)生了侵犯公民個人信息以及其背后的個人人身及財產(chǎn)安全的違法犯罪行為。

（二）人工智能時代加強公民個人信息保護(hù)的緊迫性

在大數(shù)據(jù)的信息海洋中，我們通過網(wǎng)絡(luò)查詢、瀏覽自己需要的信息，同時也通過各種網(wǎng)絡(luò)平臺上發(fā)布信息，而各種平臺則通過人工智能技術(shù)對信息加以搜集、存儲和分析利用。在這個過程中，個人信息不可避免地被不法分子獲取和非法利用，我們每個人既可以是信息的使用者，也可以是信息的創(chuàng)造者，我們更肩負(fù)著信息的守護(hù)者的重任。雖然人工智能技術(shù)具有先天的中立性，但是，從現(xiàn)實情況來看，人工智能技術(shù)對于公民個人信息保護(hù)的巨大沖擊是客觀存在的，一定程度上助推了侵犯公民個人信息的行為。因此，加強公民個人信息保護(hù)極具迫切性，主要體現(xiàn)在以下三個方面：

第一，人工智能導(dǎo)致公民個人信息被侵犯數(shù)量大幅增加、被侵犯速度加快。公民個人信息被泄露或被非法提取并非人工智能時代才出現(xiàn)，泄露、非法獲取和出售公民個人信息的行為其實早有發(fā)生，且多發(fā)于傳統(tǒng)的金融、電信、交通、教育、醫(yī)療等具有先天優(yōu)勢合法獲取公民個人信息的行業(yè)中。這些領(lǐng)域獲取的一手公民個人信息一般都是在不斷積累客戶資源后形成的，其形成時間相對較長，且因領(lǐng)域限制，其信息總量也是有限的，但是，在人工智能技術(shù)被用于公民個人信息的獲取、泄露等行為之后，數(shù)量巨大的公民個人信息可能僅因黑客侵入而在瞬間被獲取，其獲取速度之快、信息量之大是傳統(tǒng)非人工智能手段方式獲取公民個人信息所無法相比的。引言案件中，人工智能對非法獲取公民個人信息的犯罪行為來說如虎添翼，不僅大大提升了破解獲取平臺用戶賬號、密碼等公民個人信息的速度，而且也使被非法獲取的公民個人信息的真實性和準(zhǔn)確性得以強化。

第二，人工智能導(dǎo)致現(xiàn)有網(wǎng)絡(luò)平臺公民個人信息安全度降低。網(wǎng)絡(luò)技術(shù)的快速發(fā)展，最大限度地解放了人們的生活方式，使得人們的生活更簡單易行，但同時，越來越多的個人信息也不可避免留在了網(wǎng)絡(luò)平臺上，如常見的網(wǎng)購APP、外賣APP上個人姓名、電話、收貨地址等，這些信息的真實性、準(zhǔn)確性、即時性極高，均為信息時代個人最重要的信息內(nèi)容。設(shè)想一下，如果有不法分子通過人工智能技術(shù)匹配獲取該些后臺數(shù)據(jù)，之后該些數(shù)據(jù)信息被不法轉(zhuǎn)讓和利用，其后果之嚴(yán)重性可想而知。引言案例中所述的巨大涉案金額只是公民個人信息被侵犯后果的冰山一角。

第三，人工智能導(dǎo)致公民個人信息泄露后其他關(guān)聯(lián)犯罪多發(fā)。純粹的公民個人信息對于他人而言其實并無太大利用價值，所以實際案例中，以購買、交換、出售、泄露等非法方式獲取和提供公民個人信息之人的目的并不單純。近年來備受人們痛恨、公檢法常打不懈的電信詐騙案件中，非法獲取的公民個人信息就體現(xiàn)出了重要價值。嫌疑人均根據(jù)非法獲取的公民個人信息聯(lián)系被害人，被害人多因?qū)ψ陨硇畔⒄鎸嵭缘男湃味潘闪藢τ谙右扇说木瑁⒒阱e誤認(rèn)識而處分財產(chǎn)，使嫌疑人的詐騙目的得逞。山東女大學(xué)生徐玉玉因個人教育信息等被泄露遭遇電信詐騙身亡案、甘肅某鄉(xiāng)村教師遭遇電信詐騙自殺案、清華大學(xué)教師因購買房產(chǎn)的交易信息被泄露遭遇電信詐騙1700萬等案件都是個人信息泄露的鮮活教訓(xùn)。除此之外，侵犯公民個人信息犯罪還與搶劫、綁架、非法拘禁、敲詐勒索等暴力犯罪以及盜竊、信用卡詐騙等財產(chǎn)犯罪聯(lián)系緊密。①鄧漫銀：《侵犯公民個人信息犯罪之現(xiàn)狀》，http://blog.sina.com.cn/s/blog_15e18e8100102wyjc.html，最后訪問時間：2019年6月4日14時45分。目前，以侵犯公民個人信息為中心的犯罪產(chǎn)業(yè)鏈初步成型，對公民合法權(quán)益以及社會信任造成了嚴(yán)重危害。

三、人工智能時代公民個人信息保護(hù)的應(yīng)對舉措

人工智能技術(shù)的發(fā)展是大勢所趨，但人工智能技術(shù)如被不法分子利用，對公民個人信息保護(hù)帶來的消極影響是不可估量的。所以，人工智能時代，防范侵犯公民個人信息犯罪、維護(hù)公民個人信息安全，任重道遠(yuǎn)。當(dāng)下，應(yīng)多管齊下，在強化公民自我保護(hù)意識、打擊關(guān)聯(lián)犯罪、利用技術(shù)手段防范和完善法律制度保障等四個方面進(jìn)一步努力，共同實現(xiàn)人工智能時代公民個人信息的合理利用和保護(hù)。

（一）強化公民自保意識

面對人工智能技術(shù)發(fā)展給公民個人信息帶來的重大侵害，公安司法部門作為違法犯罪行為的打擊主體，應(yīng)通過宣傳幫助公民不斷增強個人信息的自我保護(hù)意識。公民自身是個人信息保護(hù)的重要主體，要構(gòu)筑起公民個人信息保護(hù)的有效屏障，必須做到以下兩點：一方面，增強公民個人自身安全意識。如盡量不瀏覽、登錄一些不可信的網(wǎng)站，必須登錄時，盡量不要提交或者留下個人信息，如必須填寫或注冊網(wǎng)絡(luò)賬號時，如無特殊身份驗證需求，應(yīng)盡可能避免使用真實姓名、詳細(xì)住址等信息，以避免被釣魚網(wǎng)站騙取個人信息。另外，除特殊情況外盡可能不連接公共場所免費WIFI，不掃可疑二維碼，不下載非官方應(yīng)用的APP。另一方面，引導(dǎo)公民在發(fā)現(xiàn)信息泄露時及時提供案件線索。當(dāng)公民在日常生活中接到一些能確定自己身份信息的推銷電話或者可疑電話時，應(yīng)提高警惕，必要時及時報警，以幫助偵查機關(guān)發(fā)現(xiàn)案件線索，如不幸發(fā)生了錢款被騙等情況則應(yīng)及時止損，防止損失進(jìn)一步擴(kuò)大，盡快制止犯罪，以避免犯罪分子利用非法獲取的公民個人信息實施其他犯罪。

（二）強化打擊關(guān)聯(lián)犯罪

利用人工智能技術(shù)獲取的公民個人信息一般是其他下游犯罪的前端行為，上游非法獲取的公民個人信息主要被用于下游的電信詐騙、綁架、敲詐勒索等犯罪目的。因此，偵查機關(guān)在發(fā)現(xiàn)電信詐騙、綁架等下游犯罪線索之后，應(yīng)高度重視，利用個案分析和類案比較的方式對案情信息進(jìn)行整合，發(fā)現(xiàn)偵查突破口，利用偵查手段順藤摸瓜，探尋相關(guān)案件中公民個人信息的來源，以拔出整個犯罪鏈條，嚴(yán)厲打擊侵犯公民個人信息的犯罪。另外，當(dāng)接到一些公民個人信息被侵犯的違法犯罪線索后，偵查機關(guān)應(yīng)高度重視，深挖涉案公民個人信息的去向和用途，以便及時控制、阻止下游電信詐騙等犯罪行為的發(fā)生。

（三）強化技術(shù)防范手段

俗話說“魔高一尺，道高一丈”。以技術(shù)手段來應(yīng)對違法犯罪技術(shù)不失為一項良策。就如騰訊安全專家周正所述，互聯(lián)網(wǎng)行業(yè)的安全防范主要是對抗有規(guī)律、有特點的惡意行為，對抗這種有深度學(xué)習(xí)能力的人工智能犯罪，有必要提升防范等級，增加多維度的安全驗證環(huán)節(jié)。比如，登錄時使用字符型驗證碼，二次登錄用短信或郵件驗證，輔助以滑塊解鎖等方式，“對抗不斷升級的入侵攻擊，提高犯罪門檻，強化動態(tài)機制，是互聯(lián)網(wǎng)安全行業(yè)一直在做的事情。”①劉甦：《人工智能犯罪細(xì)節(jié)首次披露：你的個人信息是這樣被破解的》，載《財經(jīng)雜志》2017年10月30日版。而公安機關(guān)在利用技術(shù)防范措施方面不斷探索，有報道稱公安部在防止公民個人信息泄露方面，將電子身份標(biāo)識載入手機卡。這項電子身份標(biāo)識（簡稱eID）是以密碼技術(shù)為基礎(chǔ)、以智能安全芯片為載體的網(wǎng)絡(luò)身份標(biāo)識，能夠在不泄露身份的前提下在線遠(yuǎn)程識別身份。②《身份證將迎大變革：電子身份標(biāo)識讓你安全“隱身”》，http://www.chinaz.com/news/2017/0926/807994.shtml，訪問時間：2019年5月4日14時7分。所以，隨著技術(shù)防范手段的升級、推廣，技術(shù)隔離防護(hù)網(wǎng)的構(gòu)建將在一定程度上為保護(hù)公民個人信息筑起技術(shù)圍墻。

（四）強化法律保護(hù)屏障

為了打擊和懲治侵犯公民個人信息犯罪，《刑法》以及最高人民法院、最高人民檢察院《關(guān)于辦理侵犯公民個人信息刑事案件適用法律若干問題的解釋》中根據(jù)情節(jié)輕重對各類侵犯公民個人信息行為作出了相應(yīng)的處罰規(guī)定。而從侵犯公民個人信息的現(xiàn)狀來看，該類案件一直處于“野火燒不盡，春風(fēng)吹又生”的狀況，嚴(yán)重影響了社會經(jīng)濟(jì)發(fā)展和不特定廣大人民財產(chǎn)安全。通過個案處理追責(zé)打擊，往往難以應(yīng)對現(xiàn)有公民個人信息受侵害的嚴(yán)峻形勢，所以，只有從類案中總結(jié)經(jīng)驗教訓(xùn)，再從源頭上采取治理措施，才能最大限度地保護(hù)公民個人信息。根據(jù)我們現(xiàn)有制度設(shè)計，筆者認(rèn)為，適時將侵犯公民個人信息行為納入公益訴訟制度范疇，通過檢察機關(guān)介入追責(zé)的方式，賦予公民個人信息在法律上更大的保護(hù)空間。從理論上看，這一做法具有一定的合理性和必要性，是建立全方位公民個人信息保護(hù)法律制度的有效途徑。