人工智能的風(fēng)險防控與法治保障
——專訪天津大學(xué)法學(xué)院院長、天津大學(xué)中國智慧法治研究院執(zhí)行院長孫佑海

文/徐青青/

孫佑海 天津大學(xué)法學(xué)院院長、教授、博士生導(dǎo)師，天津大學(xué)中國智慧法治研究院執(zhí)行院長；天津大學(xué)法學(xué)院互聯(lián)網(wǎng)政策法律研究中心主任；天津大學(xué)數(shù)據(jù)科學(xué)研究院學(xué)術(shù)委員會委員。兼任中國網(wǎng)絡(luò)空間安全協(xié)會網(wǎng)絡(luò)治理與國際合作工作委員會副主任委員；天津市法官檢察官遴選委員會主任委員等。曾任國務(wù)院法制局副司長，全國人大環(huán)境與資源保護委員會法案室主任，最高人民法院研究室第一副主任兼中國應(yīng)用法學(xué)研究所所長，最高人民法院互聯(lián)網(wǎng)司法研究中心主任。人民法院報社黨委書記兼社長。

近年來，人工智能技術(shù)快速發(fā)展，“阿法狗”“無人機”“機器人公民”等相繼進入人們的視野，豐富了人們的生活，促進了經(jīng)濟社會發(fā)展，但同時也帶來諸多方面的風(fēng)險。對此，如何在法治方面進行應(yīng)對與防范是亟待研究和解決的問題。就人工智能技術(shù)帶來的若干法律風(fēng)險以及如何防范等問題，本刊專訪了天津大學(xué)法學(xué)院院長、天津大學(xué)中國智慧法治研究院執(zhí)行院長孫佑海。

《人民法治》：人工智能技術(shù)引領(lǐng)世界科技新潮流，在極大促進經(jīng)濟社會發(fā)展的同時，據(jù)說也可能帶來若干風(fēng)險，請您談一談對人工智能發(fā)展的認識？

孫佑海：人工智能是當(dāng)今社會的熱點。從去年“阿法狗”橫掃世界頂級棋手，到后來“阿法元”100比0全勝“阿法狗”，再到前不久世界首位機器人公民的誕生，人工智能以迅猛的發(fā)展勢頭不斷沖擊著人們的日常生活。人工智能是現(xiàn)代工業(yè)文明發(fā)展的必然產(chǎn)物，其發(fā)展進程始終與工業(yè)文明的發(fā)展相伴而行。當(dāng)人工智能極大地強化了人類能力時，現(xiàn)有的法律制度就會呈現(xiàn)出其局限性。在對待人工智能發(fā)展問題上，如何調(diào)整“促進”與“規(guī)制”人工智能發(fā)展的法律價值目標？如何應(yīng)對人工智能技術(shù)帶來的各類風(fēng)險？如何設(shè)計人工智能時代的調(diào)控規(guī)范體系？都是法學(xué)界面臨的緊迫而重大的課題。

《人民法治》：隨著人工智能技術(shù)日新月異并投入使用，其所引發(fā)的各種法律風(fēng)險也接踵而至。您可以舉例說明嗎？

孫佑海：好的。以無人機的發(fā)展為例。一方面，民用無人機在創(chuàng)新驅(qū)動發(fā)展戰(zhàn)略和軍民融合戰(zhàn)略下具有重要意義，是一個發(fā)展?jié)摿薮蟮某柈a(chǎn)業(yè)，中國在無人機領(lǐng)域處于世界領(lǐng)先地位，因此應(yīng)當(dāng)予以扶持促進發(fā)展，使我國的這個產(chǎn)業(yè)在國際上繼續(xù)處于引領(lǐng)地位。另一方面，民用無人駕駛航空器產(chǎn)業(yè)的迅猛發(fā)展，給我國的國家安全、公共安全、飛行安全以及公民隱私保護和企業(yè)商業(yè)秘密保護帶來了極大的挑戰(zhàn)，我國現(xiàn)有的空域管理體制、法律規(guī)則已經(jīng)遠遠不能適應(yīng)民用無人駕駛航空器發(fā)展。因此，法學(xué)研究要在規(guī)范無人駕駛航空器的生產(chǎn)、銷售、使用以保障國家安全、公共安全、飛行安全以及公民和企業(yè)的合法權(quán)益等方面作出自己的貢獻。再如無人駕駛。無人駕駛汽車非常方便，據(jù)說百度公司大力發(fā)展無人駕駛汽車，認為無人駕駛可以避免人工錯誤，減少事故發(fā)生。但是，無人駕駛也有很大的問題，前不久有無人駕駛汽車在美國公路上行駛，結(jié)果把人撞死了。各種人類不可預(yù)見的事情還有很多。撞死人怎么辦，責(zé)任由誰來承擔(dān)？這些都需要論證。再如機器人。大家用起機器人來十分方便，但也存在風(fēng)險，如發(fā)生機器人傷人事故，責(zé)任由誰來承擔(dān)？這樣的問題今后會發(fā)生很多。其他與人工智能發(fā)展相關(guān)的問題還有很多，例如涉及到種族問題、民族問題、政治問題。由于機器人學(xué)習(xí)能力很強，通過深度學(xué)習(xí)可以訓(xùn)練機器人，如果教它搞民族歧視，教它謾罵政府，就會引發(fā)政治問題。

以上種種實例也告訴我們，發(fā)展人工智能如果不注意防范，會給社會治理、安全保衛(wèi)等領(lǐng)域帶來很大風(fēng)險。

《人民法治》：在人工智能大力發(fā)展的同時，可能有哪些重大風(fēng)險需要我們密切關(guān)注？

孫佑海：我概括了一下，主要注意以下十大風(fēng)險：

（一）意識形態(tài)和國家安全風(fēng)險。通過人工智能深度學(xué)習(xí)的手段，灌輸并傳播錯誤的觀點，這對我們黨的宣傳工作是嚴峻的挑戰(zhàn)。相應(yīng)地，給國家安全也帶來很大的風(fēng)險。（二）軍事風(fēng)險。機器人和無人機的強勢開發(fā)使用，將會大大提升有關(guān)方面的戰(zhàn)斗力，必將給我國的軍事管理和軍力對比，帶來很大的風(fēng)險。（三）公共安全風(fēng)險。機器人勒死人，無人駕駛汽車撞死人，無人機升空進行攻擊，會有很大的風(fēng)險。（四）社會不穩(wěn)定風(fēng)險。現(xiàn)在人工智能大發(fā)展，許多就業(yè)崗位被機器人的各種新設(shè)備取代。很多會議，原來還要請打字員打字，現(xiàn)在不需要了，因為語音設(shè)備去了，打字員職業(yè)逐漸丟失了。人工智能大發(fā)展后，大量裁員的問題會很普遍，這會引發(fā)社會不穩(wěn)定風(fēng)險。（五）倫理風(fēng)險。用機器人搞色情服務(wù)，機器與人類結(jié)婚。去年沙特阿拉伯賦予機器人公民的資格。這些事都涉及到很復(fù)雜的倫理和法律制度問題，引發(fā)大量的倫理道德和法律等方面的風(fēng)險。（六）個人隱私風(fēng)險。無人機等不加限制地使用，泄露個人隱私的問題很嚴重。目前，很多問題都在暴露之中。（七）算法歧視和數(shù)據(jù)歧視。算法就是標準。有些標準，政治上不合格，引發(fā)民族不平等、種族歧視、年齡、性別等問題，帶來很大風(fēng)險。（八）知識產(chǎn)權(quán)風(fēng)險。人工智能時代，剽竊行為更加容易，知識產(chǎn)權(quán)風(fēng)險大大增加。（九）信息安全風(fēng)險。目前很多信息公司搜集大量信息，公民個人的一舉一動都在他們的數(shù)據(jù)庫里。有的家庭剛生了孩子，馬上就有人打來電話，問你要不要購買他們的“月子”產(chǎn)品；剛剛買了房子，馬上就有人打來電話問你要不要購買他們公司的裝修裝飾用品。這是為什么？因為數(shù)據(jù)被搜集之后，個人信息安全遇到巨大風(fēng)險。（十）未成年人身心健康風(fēng)險。未成年人，特別是少年兒童終日沉溺于網(wǎng)絡(luò)和人工智能機器，養(yǎng)成網(wǎng)癮和人工智能癮，不利于他們的成長進步。加之人工智能有深度學(xué)習(xí)功能，如果不抓緊預(yù)防，很容易讓少年兒童養(yǎng)成不良習(xí)慣。

以上，是當(dāng)前已經(jīng)發(fā)現(xiàn)的風(fēng)險。未來還有更多的風(fēng)險，需要我們認真研究對策方案。

《人民法治》：面對人工智能發(fā)展的諸多風(fēng)險，從法治的角度看，我們應(yīng)當(dāng)如何應(yīng)對？

孫佑海：解決上述問題，首先要明確正確的指導(dǎo)思想。第一，指導(dǎo)思想就是“兩手抓”。一手抓人工智能的發(fā)展，這是不可阻擋的趨勢；另一手，我們要防范風(fēng)險。防范風(fēng)險是對發(fā)展最大的支持。第二，法學(xué)領(lǐng)域有兩個重要理論，一是損害者擔(dān)責(zé)，但在人工智能問題上“確責(zé)”比較難。二是預(yù)防為主。也就是說，不要等到問題出現(xiàn)之后，再去處理事故，而要盡量往前趕。第三，人工智能發(fā)展給大學(xué)法學(xué)教育提出更高、更新的要求，各地法學(xué)院要培養(yǎng)以人工智能為代表的高科技的法律人才，培養(yǎng)又懂法律又懂人工智能的高素質(zhì)人才。

《人民法治》：人工智能問題上的“確責(zé)”在實務(wù)方面需要如何去做，以及我們怎樣才做到預(yù)防為主？

孫佑海：在立法執(zhí)法司法領(lǐng)域。一是建議有關(guān)方面加緊研究制定“人工智能發(fā)展與風(fēng)險防范法”。二是落實發(fā)展人工智能的執(zhí)法，主要是制定人工智能領(lǐng)域配套的各種技術(shù)規(guī)范、技術(shù)標準，為執(zhí)法部門開展工作提供依據(jù)。三是司法機關(guān)要及時依法“確責(zé)”和“問責(zé)”。在依法“確責(zé)”領(lǐng)域，首先是刑事、民事審判兩大“確責(zé)”領(lǐng)域，其次是行政審判領(lǐng)域。既要支持行政部門開展工作，又要支持老百姓依法告政府和有關(guān)部門，保障各級政府依法行政。

在守法領(lǐng)域，我主要想強調(diào)一下，作為人民的科學(xué)家，在設(shè)計人工智能產(chǎn)品的時候，應(yīng)當(dāng)對國家、社會、民族和人類的未來有強烈的責(zé)任感和強烈的使命感。企業(yè)家不能唯利是圖。不能市場需求什么就設(shè)計什么產(chǎn)品，應(yīng)該有個道德的底線。