人工智能的法律規(guī)制

【摘 要】 人工智能的發(fā)展是第四次工業(yè)革命的重要分支，理論上對(duì)人工智能的發(fā)展分為弱、類、強(qiáng)、超幾個(gè)階段，以超級(jí)人工智能的出現(xiàn)為分界線，此前人工智能通常是用普通計(jì)算機(jī)程序的手段實(shí)現(xiàn)的類人智能技術(shù)，此后的人工智能擁有幾乎在所有領(lǐng)域遠(yuǎn)遠(yuǎn)超過人類的認(rèn)知能力，這意味該技術(shù)將為人類社會(huì)帶來(lái)巨大風(fēng)險(xiǎn)。本文擬在理解人工智能發(fā)展路徑的基礎(chǔ)上，根據(jù)其階段性特點(diǎn)，探討法律規(guī)制的必要性，進(jìn)一步設(shè)計(jì)規(guī)制框架，發(fā)揮立法的能動(dòng)作用，以期達(dá)到既促進(jìn)發(fā)展，又規(guī)制風(fēng)險(xiǎn)的目的。

【關(guān)鍵詞】 人工智能 超級(jí)人工智能 法律規(guī)制

一、人工智能的發(fā)展路徑

當(dāng)前人工智能在許多領(lǐng)域取得了令人矚目的成果，使人們對(duì)該項(xiàng)技術(shù)的前景充滿期待。機(jī)器智能一路發(fā)展，必定會(huì)逐漸接近并達(dá)到人類智能的水平，最終很可能會(huì)大大超越人類智能，從而帶來(lái)控制問題的隱憂。這樣的擔(dān)憂由來(lái)已久，早在1956年的達(dá)特茅斯學(xué)院夏季項(xiàng)目中，研究人員就提出了要“嘗試發(fā)現(xiàn)機(jī)器是如何使用語(yǔ)言、形成抽象思維與概念、解決人類所面臨的問題以及學(xué)會(huì)自我改良的。”其目的就在于創(chuàng)造出具有人類智能甚至超越人類智能的機(jī)器。六十多年過去了，人工智能的發(fā)展起起落落，近年來(lái)在很多領(lǐng)域取得了超越人類的成就，如曾經(jīng)被認(rèn)為人類不可能被機(jī)器超越的圍棋領(lǐng)域，谷歌研發(fā)的AlphaGo系統(tǒng)連勝人類頂尖棋手，給世人帶來(lái)震撼。但是目前為止的人工智能仍沒有全面達(dá)到人類認(rèn)知能力的水平，更不用說(shuō)超過人類。這與機(jī)器終有一天會(huì)獲得超級(jí)智能并不矛盾，科學(xué)界歸納出的可能實(shí)現(xiàn)路徑有以下幾種：

1、學(xué)習(xí)模式，阿蘭·圖靈首先提出了“兒童思維機(jī)器”的概念，即通過模擬兒童習(xí)得知識(shí)的過程編寫程序，使之在不斷學(xué)習(xí)中達(dá)到成人的智能水平。該理論激發(fā)了“種子人工智能”的靈感，“兒童思維機(jī)器”只能通過積累內(nèi)容來(lái)發(fā)展內(nèi)在潛力，“種子人工智能“則可以改良自己的結(jié)構(gòu)。谷歌公司AlphaGo系統(tǒng)使用的神經(jīng)網(wǎng)絡(luò)就是一種機(jī)器學(xué)習(xí)的方法，神經(jīng)網(wǎng)絡(luò)能夠從經(jīng)驗(yàn)中學(xué)習(xí)，也可以從樣本中找到最自然的概括路徑以及所輸入數(shù)據(jù)隱含的統(tǒng)計(jì)規(guī)律。但是進(jìn)一步提升機(jī)器的學(xué)習(xí)能力還需要理論上的進(jìn)步，如構(gòu)造人工智能系統(tǒng)的獲知能力及處理不確定性和概率信息的能力，這些還需要研究信息傳遞的過程以及人腦內(nèi)部的構(gòu)造。

2、模擬進(jìn)化，該路徑是為了獲得成熟的“兒童思維機(jī)器”。通過人為模擬進(jìn)化過程，提高正向選擇的效率，比如在足夠快的計(jì)算機(jī)上運(yùn)行遺傳算法以得到類似生物進(jìn)化的結(jié)果。但是該路徑要求制造出運(yùn)算能力足以處理龐大的生物進(jìn)化數(shù)據(jù)的超強(qiáng)計(jì)算機(jī)。

3、全腦仿真，以人類大腦作為機(jī)器智能的模板 。實(shí)現(xiàn)全腦仿真需要完成以下步驟：第一，精細(xì)掃描人類大腦;第二，將掃描過的原始數(shù)據(jù)輸入計(jì)算機(jī)，由自動(dòng)圖像處理重建在原先大腦中負(fù)責(zé)認(rèn)知的三維神經(jīng)網(wǎng)絡(luò);第三，在一個(gè)運(yùn)算能力足夠強(qiáng)大的計(jì)算機(jī)上輸出神經(jīng)計(jì)算結(jié)構(gòu)。 如果完全成功，將生成具有記憶和完整人格的初始智能，仿真得到的人類思維便作為軟件存在于一臺(tái)計(jì)算機(jī)中了。要成功進(jìn)行全腦仿真并不需要概念或理論上的突破，但需要一些非常先進(jìn)的技術(shù)，如需要有足夠高的分辨率和相關(guān)檢測(cè)性能的高通量顯微鏡，才能進(jìn)行自動(dòng)圖像分析，將原始掃描數(shù)據(jù)翻譯成對(duì)一種神經(jīng)計(jì)算元素相關(guān)的三維模型的闡釋，然后模擬出得到的計(jì)算結(jié)構(gòu)的強(qiáng)大硬件。[1]

4、借助高級(jí)智能，該路徑是通過提高作為機(jī)器智能研究主體的人類的智能來(lái)間接達(dá)到實(shí)現(xiàn)機(jī)器智能的目的。通過優(yōu)生計(jì)劃、生物醫(yī)藥、基因操縱等方式可以實(shí)現(xiàn)，但是該路徑面臨著巨大的政治和道德風(fēng)險(xiǎn)。

二、人工智能帶來(lái)的風(fēng)險(xiǎn)

從人工智能發(fā)展的階段性特征來(lái)看，關(guān)于機(jī)器智能的前景有技術(shù)“奇點(diǎn)”和“智能爆發(fā)”等術(shù)語(yǔ)，表述的是機(jī)器智能在發(fā)展到一定程度后轉(zhuǎn)化的生產(chǎn)力使得世界GDP飛速發(fā)展，以至于工業(yè)革命以后快速發(fā)展的歷史較之也遜色不少。但要想達(dá)到“奇點(diǎn)”和“智能爆發(fā)”后的超級(jí)智能的程度，必須攻克上述理論上和技術(shù)條件上的難題，可以說(shuō)，該過程需要相當(dāng)長(zhǎng)的時(shí)間。在超級(jí)人工智能到來(lái)之前，相對(duì)低水平的、專注于某個(gè)領(lǐng)域的人工智能方法正逐漸獲得廣泛應(yīng)用。這些已經(jīng)在應(yīng)用中的人工智能技術(shù)，對(duì)于超級(jí)智能的進(jìn)一步研究過程中將出現(xiàn)的新技術(shù)，以及將來(lái)會(huì)出現(xiàn)的超級(jí)智能本身，都會(huì)對(duì)人類生活產(chǎn)生顛覆性的、持續(xù)性的影響。

其影響是矛盾的，在降低一些風(fēng)險(xiǎn)的同時(shí)會(huì)增加另一些。就已經(jīng)或者即將獲得廣泛應(yīng)用的人工智能技術(shù)來(lái)說(shuō)，它們?cè)谔岣呷祟惿钏降耐瑫r(shí)，對(duì)現(xiàn)有的人類社會(huì)秩序也帶來(lái)了沖擊。包括：（1）倫理風(fēng)險(xiǎn)，如機(jī)器人在行動(dòng)中如何維持人類基本倫理秩序，人與機(jī)器人的關(guān)系倫理，智能機(jī)器人對(duì)以人為中心的世界觀的沖擊，以及人工智能的廣泛應(yīng)用可能帶來(lái)的“數(shù)字鴻溝”，貧富差距進(jìn)一步加大等。（2）法律風(fēng)險(xiǎn)：如人工智能更體現(xiàn)“技術(shù)黑箱”，在民事侵權(quán)中判定相關(guān)主體責(zé)任，對(duì)機(jī)器人主體資格的認(rèn)定，人工智能創(chuàng)造出的產(chǎn)品知識(shí)產(chǎn)權(quán)問題，在更加依賴大數(shù)據(jù)的人工智能時(shí)代隱私權(quán)的界定和保護(hù)，以及人工智能應(yīng)用造成的勞動(dòng)力就業(yè)市場(chǎng)萎縮等[2]。

就相對(duì)遙遠(yuǎn)的超級(jí)智能來(lái)說(shuō)，它會(huì)降低很多既存風(fēng)險(xiǎn)，如由自然帶來(lái)的威脅，但也會(huì)帶來(lái)巨大的存在性風(fēng)險(xiǎn)[3]。如果一個(gè)機(jī)器智能項(xiàng)目在競(jìng)爭(zhēng)中遠(yuǎn)遠(yuǎn)領(lǐng)先，很可能獲得決定性戰(zhàn)略優(yōu)勢(shì)[4]，從而沒有其他機(jī)器智能能夠與之抗衡。發(fā)展到這一步的人工智能，人類如果不小心把握其動(dòng)機(jī)與能力都可能造成存在性風(fēng)險(xiǎn)。相比于人類動(dòng)機(jī)，人工智能往往只擁有簡(jiǎn)單的目標(biāo)，但因?yàn)楣ぞ咝阅繕?biāo)[5]的存在，如追求自我保護(hù)、認(rèn)知提升、技術(shù)完善、資源獲取，人工智能很可能將能實(shí)現(xiàn)最終目標(biāo)之外的多余智能用來(lái)不斷追求工具性目標(biāo)，然后用違背人類常理的方式毀滅人類。

三、法律規(guī)制的目的

人工智能的發(fā)展屬于當(dāng)前正在進(jìn)行中的第四次技術(shù)革命的一支，將與其他技術(shù)革新一起，在速度、深度、廣度上對(duì)社會(huì)造成前所未有的影響，甚至改變?nèi)祟愇拿餍螒B(tài)。這樣的變革對(duì)于發(fā)達(dá)國(guó)家或欠發(fā)達(dá)國(guó)家而言都是必須牢牢把握的時(shí)代機(jī)遇，前者可以借此鞏固技術(shù)優(yōu)勢(shì)，后者則可能實(shí)現(xiàn)“彎道超車”。盡管對(duì)于發(fā)展人工智能可能帶來(lái)的短期和長(zhǎng)期風(fēng)險(xiǎn)，有識(shí)之士早已提出警告，但是停止發(fā)展甚至限制發(fā)展都是不可能的，即使超級(jí)人工智能的到來(lái)真的有可能是人類自掘墳?zāi)梗鱾€(gè)國(guó)家也都希望掘墓人是自己而不是其他人，更何況現(xiàn)階段看來(lái)風(fēng)險(xiǎn)是概率事件，收益卻是實(shí)際存在的。目前各個(gè)國(guó)家都逐步開始了對(duì)相關(guān)技術(shù)的規(guī)制，如德國(guó)《聯(lián)邦數(shù)據(jù)保護(hù)法》，加拿大《個(gè)人信息保護(hù)法案》，法國(guó)《數(shù)字共和國(guó)》，英國(guó)《2017年數(shù)據(jù)保護(hù)法案（草案）》，歐盟《通用數(shù)據(jù)保護(hù)條例》等等。我國(guó)也已頒布了《網(wǎng)絡(luò)安全法》，并先后發(fā)布了《國(guó)家信息化發(fā)展戰(zhàn)略綱要》《新一代人工智能發(fā)展規(guī)劃》《智能制造發(fā)展規(guī)劃（2016-2020年）》《高等學(xué)校人工智能創(chuàng)新行動(dòng)計(jì)劃》等等戰(zhàn)略規(guī)劃，相關(guān)立法勢(shì)在

必行。

因此，人工智能的發(fā)展是一件已經(jīng)在進(jìn)行并且會(huì)持續(xù)發(fā)生的事情，法律所能做的就是提供合理的規(guī)制手段，達(dá)到以下目的：在目前處于弱、類人工智能的水平上，促進(jìn)技術(shù)和理論發(fā)展;盡量保證發(fā)展過程的可控，以免小部分研究人員和投資者掌控具有決定性戰(zhàn)略優(yōu)勢(shì)的超級(jí)智能并由此獲利，全體社會(huì)成員只能被動(dòng)承擔(dān)風(fēng)險(xiǎn)。

四、法律規(guī)制的方法

（一）促進(jìn)發(fā)展

國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中已經(jīng)為鼓勵(lì)發(fā)展技術(shù)確定了大的戰(zhàn)略布局，立法應(yīng)當(dāng)對(duì)此作出反應(yīng)。

企業(yè)、高校、科研機(jī)構(gòu)是具體人工智能項(xiàng)目的主要研究者和控制者，政府在這個(gè)過程中擔(dān)任調(diào)控者和監(jiān)督者的角色。前者享有獲取政府資金和政策支持的權(quán)利，負(fù)有合理利用政府提供的資源進(jìn)行研究，將研究成果按法律規(guī)定進(jìn)行轉(zhuǎn)化，配合政府制定相關(guān)規(guī)范等義務(wù)。后者負(fù)有為人工智能發(fā)展提供財(cái)政支持、創(chuàng)造條件的義務(wù)，享有對(duì)人工智能研究、生產(chǎn)活動(dòng)進(jìn)行調(diào)整、監(jiān)控、處罰等權(quán)利。

立法需將相關(guān)主體的權(quán)利及義務(wù)落實(shí)成法律規(guī)范，明確企業(yè)、高校、科研團(tuán)隊(duì)等能夠申請(qǐng)國(guó)家的財(cái)政投資，建議政府完善保障措施，要求提高網(wǎng)絡(luò)基礎(chǔ)設(shè)施、大數(shù)據(jù)基礎(chǔ)設(shè)施、高效能計(jì)算機(jī)基礎(chǔ)設(shè)施的建設(shè)水平，企業(yè)在符合條件的情況下享受稅收等政策優(yōu)惠。在建立人工智能標(biāo)準(zhǔn)的問題上，明確上述主體配合政府就必要的準(zhǔn)入、安全問題參與討論，為國(guó)家層面制定研究和生產(chǎn)標(biāo)準(zhǔn)提供智力資源，使得研究、生產(chǎn)規(guī)范化，并積極參與國(guó)際標(biāo)準(zhǔn)制定，在新一輪科技革命中掌握主動(dòng)權(quán)。

在具體實(shí)施過程中，政府需要為上述主體權(quán)利的實(shí)現(xiàn)提供必要基礎(chǔ)設(shè)施，以及配套政策保證立法目的實(shí)現(xiàn)。包括以立法的形式明確主要責(zé)任部門及其職權(quán)職責(zé)，必要時(shí)設(shè)立一個(gè)專門機(jī)構(gòu)負(fù)責(zé)人工智能的發(fā)展規(guī)劃、財(cái)政劃撥、風(fēng)險(xiǎn)監(jiān)控、國(guó)際合作等事宜，當(dāng)前我國(guó)負(fù)責(zé)科學(xué)技術(shù)發(fā)展的科技部可以通過成立專門辦事處、委員會(huì)的方式來(lái)開展工作。此外，擴(kuò)大和維持人才隊(duì)伍，將資金投向企業(yè)不愿意進(jìn)入的領(lǐng)域，解決私營(yíng)企業(yè)不從事的重要社會(huì)問題、高度加強(qiáng)對(duì)其他國(guó)家人工智能發(fā)展的關(guān)注等，也是政府應(yīng)當(dāng)承擔(dān)的義務(wù)。

在促進(jìn)與監(jiān)管之后，立法需要從知識(shí)產(chǎn)權(quán)保護(hù)的角度出發(fā)，激勵(lì)創(chuàng)新，結(jié)合人工智能相關(guān)技術(shù)的特點(diǎn)設(shè)置權(quán)利保護(hù)、權(quán)利交易、權(quán)利限制等制度，保障權(quán)利主體合法有序地獲得資金支持，加快智力成果轉(zhuǎn)化，促進(jìn)新興產(chǎn)業(yè)發(fā)展。

（二）規(guī)制風(fēng)險(xiǎn)

人工智能的發(fā)展可能帶來(lái)許多新風(fēng)險(xiǎn)，規(guī)制風(fēng)險(xiǎn)要與現(xiàn)有法律做好立法銜接工作，在人工智能的專門立法出臺(tái)之前，解決好新技術(shù)對(duì)原有法律制度造成的沖擊，填補(bǔ)法律漏洞。

對(duì)即將到來(lái)的新立法，要在宏觀層面樹立風(fēng)險(xiǎn)社會(huì)的法律理念。享受技術(shù)革新帶來(lái)的紅利時(shí)，不忘風(fēng)險(xiǎn)如影隨形，如此前工業(yè)革命帶來(lái)的環(huán)境污染、基因技術(shù)、超級(jí)細(xì)菌等等。擁抱人工智能技術(shù)，要確立風(fēng)險(xiǎn)社會(huì)的立法理念，追求效益價(jià)值的同時(shí)，保障安全價(jià)值的實(shí)現(xiàn)。實(shí)現(xiàn)效益價(jià)值要求激發(fā)人工智能技術(shù)的創(chuàng)新活力，促進(jìn)新技術(shù)的轉(zhuǎn)化適用，也就是前述的以立法促進(jìn)發(fā)展。而實(shí)現(xiàn)安全價(jià)值，要在風(fēng)險(xiǎn)社會(huì)理論指引下，從事先預(yù)防出發(fā)，在整個(gè)研發(fā)和應(yīng)用的過程中落實(shí)責(zé)任制度，保障技術(shù)信息適度公開。

做到事先預(yù)防必須完善人工智能研究和生產(chǎn)的準(zhǔn)入機(jī)制和風(fēng)險(xiǎn)評(píng)估制度，立法需要對(duì)相關(guān)主體資格做出限制，對(duì)具體項(xiàng)目?jī)?nèi)容進(jìn)行審批。有可能造成重大風(fēng)險(xiǎn)的人工智能技術(shù)，在著手研究或生產(chǎn)之前，組織相關(guān)領(lǐng)域?qū)＜以敱M論證可行性，必要情況下引入公眾意見。對(duì)于無(wú)法預(yù)防或突然發(fā)生的風(fēng)險(xiǎn)，要及時(shí)反應(yīng)，這就要求建立人工智能監(jiān)測(cè)制度。對(duì)于企業(yè)、高校、科研團(tuán)隊(duì)等，可以財(cái)政投資為條件，要求其定期匯報(bào)研究進(jìn)展。對(duì)人工智能研究成果的商品化、產(chǎn)業(yè)化附以備案登記的程序。對(duì)投入使用的人工智能產(chǎn)品，由地方各級(jí)政府部門在發(fā)現(xiàn)其造成威脅或?qū)嵑r(shí)向責(zé)任部門上報(bào)。由來(lái)自政府、企業(yè)、高校、科研團(tuán)隊(duì)以及社會(huì)公眾聘請(qǐng)的專家組成風(fēng)險(xiǎn)評(píng)估小組，對(duì)于特定項(xiàng)目進(jìn)行評(píng)估，并向社會(huì)公布。責(zé)任制度的落實(shí)，可能因?yàn)槿斯ぶ悄芗夹g(shù)的復(fù)雜性及其相當(dāng)程度上的智能性更加困難（如無(wú)人駕駛汽車侵權(quán)究竟是由設(shè)計(jì)者、生產(chǎn)者還是所有者、使用者承擔(dān)責(zé)任？）侵權(quán)法必須對(duì)這樣的新型法律關(guān)系作出回應(yīng)。

五、結(jié)語(yǔ)

人工智能技術(shù)有著誘人的發(fā)展前景，人類認(rèn)識(shí)世界改造世界的過程是一個(gè)主體和客體互動(dòng)的過程，主體從客體獲取信息，對(duì)信息進(jìn)行加工處理，做出判斷以及策略，再施加于客體，以達(dá)到主觀目的。在這個(gè)過程中，人工智能相關(guān)技術(shù)不斷逼近向全領(lǐng)域、全方位發(fā)揮作用。相關(guān)科學(xué)家預(yù)測(cè)，人工智能超越人類智能之后，能夠以不同于人類的方式高效完成這一認(rèn)識(shí)世界、改造世界的過程。許多人類目前受制于物理上的限制或精神上的限制無(wú)法解決的問題，例如對(duì)于人本身的認(rèn)識(shí)，對(duì)于人類所追求的價(jià)值的探究，都將以超越人類智慧的方式得到解決。

當(dāng)前國(guó)際間的競(jìng)爭(zhēng)態(tài)勢(shì)使任何一個(gè)謀求人民幸福與國(guó)際尊重的國(guó)家在把握這一時(shí)代機(jī)遇的時(shí)候都不甘落于人后。盡管許多專業(yè)人士未雨綢繆地敲響警鐘，依然無(wú)法阻擋人們對(duì)技術(shù)革新的渴望，畢竟歷史演進(jìn)的過程說(shuō)明，新技術(shù)是“雙刃劍”，且往往利遠(yuǎn)遠(yuǎn)大于弊。盡管本文在抽象意義上討論了法律如何應(yīng)對(duì)這樣的挑戰(zhàn)，但在具體的制度設(shè)計(jì)以及配套政策制定上還有很多問題留待解決。

注釋

[1] 尼克·波斯特洛姆：《超級(jí)智能——路線圖、危險(xiǎn)性與應(yīng)對(duì)策略》，中信出版社，2015年2月第1版，第38頁(yè)。

[2] 吳漢東：《人工智能時(shí)代的制度安排與法律規(guī)制》，《社會(huì)科學(xué)文摘》，2017年第12期。

[3] 指威脅到人類生存的風(fēng)險(xiǎn)，在無(wú)法控制超級(jí)智能的情況下會(huì)出現(xiàn)。

[4] 指在技術(shù)方面和其他方面獲得足夠的優(yōu)勢(shì)，使其能夠取得全球統(tǒng)治地位。

[5] 指那些任何超級(jí)智能體都會(huì)去追求的，對(duì)于所有最終目標(biāo)都是有用的中間目標(biāo)。

【參考文獻(xiàn)】

[1] 尼克·波斯特洛姆：《超級(jí)智能——路線圖、危險(xiǎn)性與應(yīng)對(duì)策略》，中信出版社，2015年2月第1版。

[2] 克勞斯·施瓦布：《第四次工業(yè)革命——轉(zhuǎn)型的力量》，中信出版社，2016年6月第1版。

[3] Matthew U.Scherer： Regulating Artificial Intelligence Systems： Risks， Challenges， Competencies， And Strategies， Harvard Journal of Law&technologu， Volume 29，Number 2 Spring 2016.

[4] 何哲：《通向人工智能時(shí)代——兼論美國(guó)人工智能戰(zhàn)略方向及對(duì)中國(guó)人工智能戰(zhàn)略的借鑒》，《電子政務(wù)》，2016年12期。

[5] 鐘義信：《人工智能：概念·方法·機(jī)遇》，《科學(xué)通報(bào)》，2017年22期。

[6] 吳漢東：《人工智能時(shí)代的制度安排與法律規(guī)制》，《社會(huì)科學(xué)文摘》，2017年第12期。

[7] 馬長(zhǎng)山：《人工智能的社會(huì)風(fēng)險(xiǎn)及其法律規(guī)制》，《法律科學(xué)（西北政法大學(xué)學(xué)報(bào)）》，2018年第6期。

作者簡(jiǎn)介：郭曄（1994-），女，碩士在讀，中南財(cái)經(jīng)政法大學(xué)，430000，研究方向：法理學(xué)。