面對人工智能，法律應(yīng)該做什么

趙萬一

智能型機器人的出現(xiàn)和廣泛應(yīng)用無疑是21世紀的一個重大事件，不但會引起新的工業(yè)革命和社會變革，而且會顛覆許多傳統(tǒng)的社會結(jié)構(gòu)和人類觀念。早在1942年，著名科幻小說家艾薩克·阿西莫夫在其科幻小說《環(huán)舞》中就提出了著名的機器人三原則：第一，不得傷害人類；第二，服從人類命令；第三，盡可能地保護自己。筆者以為，這不但是機器人設(shè)計中應(yīng)當遵循的基本原則，而且也是機器人立法中必須充分考慮的原則。面對以人工智能為代表的飛速發(fā)展的現(xiàn)代科學(xué)技術(shù)，人類必須高度關(guān)注技術(shù)對社會關(guān)系和社會觀念所帶來的巨大沖擊，同時充分利用法律的引導(dǎo)、規(guī)制和促進功能，實現(xiàn)法律與技術(shù)進步的良性互動。

利用良好的法律制度促進科技發(fā)展

法律不僅承擔著行為調(diào)控、沖突解決、社會控制、公共管理等功能，而且負有促進社會發(fā)展，引導(dǎo)社會生活的使命。良好的機器人法律制度應(yīng)當是既能夠充分調(diào)動社會主體的創(chuàng)造熱情、促進社會經(jīng)濟發(fā)展的社會財富創(chuàng)造法，又能夠在發(fā)明創(chuàng)造和財富創(chuàng)造之間搭建起便捷轉(zhuǎn)換通道的市場經(jīng)濟催化法。

為此，一方面，要應(yīng)用良好的制度設(shè)計滿足機器人發(fā)展的客觀要求，積極利用機器人解放人的功能，實現(xiàn)人的全面發(fā)展，并積極改善人與自然、人與社會的關(guān)系。另一方面，要充分發(fā)揮法律對科學(xué)研究的價值引領(lǐng)功能。從發(fā)展經(jīng)驗來看，并非所有的技術(shù)成果都能夠造福于人類。因此，不是所有的科學(xué)活動都會得到法律鼓勵（典型的如克隆人技術(shù)、換頭技術(shù)等）。我們在充分肯定人工智能對解放人類生產(chǎn)力所帶來的重大便利的同時，也必須高度重視人工智能對傳統(tǒng)的社會機構(gòu)、社會關(guān)系、人倫關(guān)系所帶來的顛覆性影響，嚴格劃定人工智能作用（活動）的禁區(qū)。由于目前對機器人活動可能對人類帶來的負面影響還缺乏必要的實踐數(shù)據(jù)，加之人類還沒有完全做好與機器人和諧相處的精神準備，因此在早期的機器人立法中，對機器人的自主性活動應(yīng)作較多限制。隨著人工智能技術(shù)的日趨完善和自然人與機器人相處能力的逐步增強，可以通過不斷修改法律逐步放寬對機器人行為的限制。

確立人類優(yōu)先和安全優(yōu)先原則

現(xiàn)代國家確立了以人為本的立法理念。這就要求一切立法都應(yīng)圍繞改善人的生存條件和生存環(huán)境，增進人類福祉，促進人的全面發(fā)展而進行。這既是文明立法的本質(zhì)要求，也是良法善治的應(yīng)有之意。這里的良法，首先要求必須具有公正性，其次要求必須是能夠滿足大多數(shù)人的需要，最后必須符合社會公眾對法律的預(yù)期，符合公序良俗的基本要求。

具體到機器人立法，由于機器人的應(yīng)用不但會帶來深刻的社會變化，而且也會影響到人類自身的發(fā)展，影響到對人本身的認知，甚至會危及人的生存。誠如霍金所說：“人工智能的真正風險不是它的惡意，而是它的能力。一個超智能的人工智能在完成目標方面非常出色，如果這些目標與我們的目標不一致，我們就會陷入困境。因此，人工智能的成功有可能是人類文明史上最大的事件，但人工智能也有可能是人類文明史的終結(jié)！”因此在相關(guān)立法中必須確立人類優(yōu)先的原則和理念，以尊重人的存在、人的生命健康、人的利益、人的安全為根本旨歸。

同時，相關(guān)立法絕不能僅僅關(guān)注機器人的技術(shù)性內(nèi)涵，而更應(yīng)當關(guān)注其文化內(nèi)涵，相關(guān)的制度設(shè)計不應(yīng)是僅具有程序性操作意義的技術(shù)性規(guī)范，而應(yīng)是充滿人文關(guān)懷和倫理精神的技術(shù)性與道德性完美融合的法律。一方面，我們要堅決把違背公序良俗和有可能挑戰(zhàn)人類倫理底線的人工智能技術(shù)產(chǎn)品，排除在法律的保護之外，另一方面，通過政策或法律，對那些有可能影響人類倫理的技術(shù)進行嚴格的管控和必要的限制，對風險不明的技術(shù)應(yīng)用必須留下足夠的安全冗余度，防止因技術(shù)的失控可能給人類帶來的毀滅性打擊。

謹慎承認機器人的法律主體資格

機器人出現(xiàn)之后，其身份和主體資格受到高度重視。2017年，機器人索菲亞（Sophia）被沙特授予公民身份。美國律師約翰·弗蘭克·韋弗于2015年出版的《機器人也是人——人工智能將如何改變法律》一書提出，由于機器人已經(jīng)具備自然人的很多能力，如思維能力、辨別能力、有目的的活動能力和一定的判斷能力與自主決策能力，因此應(yīng)當賦予機器人以和人相同的法律地位。實際上這已不是第一次對人的排他性主體地位提出質(zhì)疑，早在機器人出現(xiàn)之前就已經(jīng)被多次提出，其中最為典型的是對動物主體地位的爭議。

從目前的發(fā)展進程來看，機器人雖然已具備人的很多要素，但還不足以達到和人分庭抗禮的地步。機器人雖然可能會有思維，但卻并沒有上升到有生命的狀態(tài)，不具備生命所要求的能夠利用外界物質(zhì)形成自己的身體和繁殖后代，按照遺傳的特點生長、發(fā)育并在外部環(huán)境發(fā)生變化時及時適應(yīng)環(huán)境的能力。因此從理論上說，機器人作為一種工業(yè)設(shè)計，只具有使用壽命而不具有自然生命，當然也不享有以生命為載體的生命權(quán)。

機器人是按照人類的預(yù)先設(shè)計而生產(chǎn)出來的，因此就其本質(zhì)來說具有可預(yù)知性、可復(fù)制性和可分類性，而可預(yù)期的活動是無法用傳統(tǒng)的法律行為進行解釋和規(guī)范的。此外，機器人沒有自然人所具有的道德、良心、良知、倫理、宗教、規(guī)矩和習慣，只有功能的強弱。因此機器人不可能有道德感，只有基于程序的反復(fù)和預(yù)先設(shè)計而總結(jié)出的規(guī)律，從而也就沒有民事主體所必備的基于內(nèi)心感知（良知）所做出的善惡評判和行為選擇。法律也無法通過對其行為進行否定性評價而實現(xiàn)抑制或矯正其非法行為的效果。最后，機器人并不具有與周圍環(huán)境交互影響的內(nèi)在感知能力，其改造自然的活動均是在人的設(shè)計、命令和指揮下完成的，從這個意義上說機器人并不是人，充其量僅是準自然人而已。機器人也無獨立的財產(chǎn)能力和責任能力，機器人對人類造成傷害之后，只有通過懲罰其實際控制人（設(shè)計人、使用人）的方式，才能真正實現(xiàn)懲罰與保護并重的目的。

充分尊重社會公眾的知情權(quán)

人工智能技術(shù)及其應(yīng)用不僅是簡單的技術(shù)創(chuàng)造，也是一個對人類未來影響深遠且關(guān)涉每一個人切身利益的重大歷史變革。面對功能強大的機器人，每一個行業(yè)、每一個領(lǐng)域的自然人的就業(yè)機會都有可能被剝奪，每一個生命個體的生存空間都有可能被嚴重擠壓。公眾對于信息、知識的獲取，不但是其融入公共生活的一個條件，也是維護自身合法權(quán)益的必然要求。因此，每一個自然人都應(yīng)當對人工智能技術(shù)享有充分的知情權(quán)，都有權(quán)知道機器人被廣泛應(yīng)用之后對自己意味著什么。

在相關(guān)立法中，必須充分保護社會公眾的知情權(quán)和參與權(quán)，重大人工智能技術(shù)的應(yīng)用應(yīng)廣泛征求公眾的意見并進行科學(xué)的論證，應(yīng)強調(diào)任何人工智能產(chǎn)品的開發(fā)和應(yīng)用都不能以損害自然人利益為代價，不能以損害社會公共利益為代價。同時必須有效平衡各方利益，特別是平衡生產(chǎn)者和普通社會公眾之間的利益。相關(guān)的制度設(shè)計一方面要充分保護研發(fā)者的創(chuàng)造積極性，鼓勵其發(fā)明出更多更高質(zhì)量的人工智能產(chǎn)品，另一方面應(yīng)保證社會公眾能夠更多地分享因科學(xué)技術(shù)的進步而產(chǎn)生的社會經(jīng)濟利益和其他人類福祉。

建立符合國情的人工智能法律制度體系

法律是為社會服務(wù)的，任何法律都必須根植于特定的土壤才能發(fā)揮其最大效用。制定符合中國需要的人工智能法律，一方面必須充分尊重人工智能技術(shù)發(fā)展水平，在尚無充足實踐經(jīng)驗指導(dǎo)的情況下，我們暫時無法設(shè)計出具有世界引領(lǐng)意義和示范作用的完備的人工智能法律體系；另一方面也應(yīng)看到，發(fā)展人工智能技術(shù)既是搶占世界新興技術(shù)制高點的需要，也是世界社會經(jīng)濟發(fā)展的大勢所趨。

因此，我們的法律必須積極回應(yīng)人工智能技術(shù)的發(fā)展需要，通過良好的制度設(shè)計滿足人工智能技術(shù)的發(fā)展要求。同時，必須積極借鑒國外在人工智能領(lǐng)域的立法經(jīng)驗和司法實務(wù)經(jīng)驗，盡快完善相關(guān)的法律設(shè)計。當務(wù)之急是盡快制定人工智能基本法、人工智能產(chǎn)業(yè)促進法等法律法規(guī)，明確我國對人工智能和機器人產(chǎn)業(yè)發(fā)展的基本態(tài)度，同時出臺人工智能產(chǎn)品倫理審查辦法、人工智能產(chǎn)品設(shè)計指南等規(guī)章，未雨綢繆，提前用立法防范因機器人應(yīng)用可能帶來的社會問題。

（摘自5月12日《光明日報》。作者為中國法學(xué)會商法學(xué)研究會副會長、西南政法大學(xué)教授）