無人駕駛汽車的倫理困境及法律規制*

楊麗娟， 耿小童

(東北大學 文法學院， 沈陽 110169)

無人駕駛汽車在改變人類出行方式的同時，也給人類社會帶來了巨大的挑戰[1]。當前，我國并未針對無人駕駛汽車進行系統規制。這種局面不僅不利于無人駕駛汽車行業的進步和無人駕駛技術的升級，而且難以保障社會活動行為主體的合法權利。無人駕駛汽車作為一項技術，為人類提供了科技方面的全新體驗，但其引發的社會問題背后具有倫理和價值觀的因素，而解決這些問題需要法律的介入。究其根本，其中的法律問題可視為倫理問題在現實生活領域的投射。而法律可以直接作用于現實生活，從微觀層面對無人駕駛汽車引發的問題進行直接規制，因此可視為解決此類問題的最終手段。若對無人駕駛汽車帶來的倫理難題僅停留在以倫理規約為解決方式的范疇內，則無法應對情況復雜、數量龐大的現實法律問題；若跳過對無人駕駛汽車倫理難題和倫理規約的探討，則無法觸及問題的根本，會失去立法的核心要義和理論基礎，勢必無法適應無人駕駛技術的進一步發展，不利于規避立法本身的滯后性。故只有從無人駕駛汽車的倫理難題入手，建立合理的倫理規約，并對這些倫理難題在立法體系中投射出的問題進行分析，進而進行法律規制，才能形成完整的問題解決鏈條，有針對性地提出法律規制建議，以期促進無人駕駛汽車技術向積極有利的方向發展。

一、無人駕駛汽車引發的倫理難題

1. 技術倫理難題

從科技倫理角度對無人駕駛技術進行分析，則無人駕駛技術相較于其他科學技術面臨的倫理困境在屬性方面有著自身的獨特性。無人駕駛汽車在一定程度上就是通過技術手段表達出的倫理和價值觀，而不僅僅是技術本身。以黑文斯為代表的一些學者認為，AI本身僅僅是被嵌入為實現目的而創造的代碼的器物，由此得出無人駕駛汽車發展過程中不存在倫理困境這一觀點。然而，這種看法恰恰從根源上證明了無人駕駛汽車問題的倫理性。程序員給無人駕駛汽車輸入的代碼和算法無法脫離倫理，同時人類給無人駕駛汽車設定的任務也并非價值無涉[2]。這些代碼和算法體現了設計者的目標和偏好，其正是無人駕駛汽車倫理困境的根源。無人駕駛汽車進行機器的自我學習所習得的倫理規則是一種基于實然的描述性規則[3]，人類需要通過大量的數據植入對無人駕駛汽車進行“教授”。而在此過程中，人類需要確定一種規范性的倫理和價值觀，以應對在汽車行駛過程中可能遇到的“電車難題”①等諸多可能危害到公民合法權利的挑戰。因此，倫理困境貫穿了無人駕駛汽車作為技術的整個發展過程。正如計算機科學家羅素等在《人工智能：一種現代的方法》中指出的那樣，我們不能將人工智能研究同它的道德倫理后果分離開[4]878。

無人駕駛汽車在解決了一些傳統交通領域問題的同時，又帶來了全新的社會問題。換言之，技術本身并不能通過自我完善解決相關的社會問題。誠然，技術的進步能夠為社會發展過程中的個案性問題提供解決辦法，但技術與倫理結合后的產物擁有倫理的復雜性，而此類雜糅了理性以及道德推理的復雜產物早已超越了技術范疇，直接觸發了對倫理問題的探討。無人駕駛汽車產生后即陷入的倫理困境恰恰可以作為實例，佐證技術不足以獨立解決自身帶來的社會問題。應當認識到，價值取向在技術倫理困境的解決過程中起著重要作用，因此不能將問題的解決全部寄望于技術的發展。如沃勒赫、艾倫主張賦予計算機道德推理功能，安德森等主張賦予計算機倫理選擇自主權，都沒有觸及無人駕駛汽車倫理困境的實質。

在無人駕駛汽車發展領域對倫理問題進行考量，則解決問題的關鍵在于：通過無人駕駛技術表達人類價值倫理的過程中，不能放任生產者任意編寫程序，對這一環節的介入至關重要[5]。同時應當認識到，這種介入具有層次上的遞進性：首先應當針對這一技術發展過程中產生的倫理難題建立起一套合理可靠的倫理規約，而后據此制定法律，增強倫理規約的可操作性。

同時，怎樣通過法律規制應對民用無人駕駛汽車帶來的倫理困境，是民用無人駕駛汽車發展過程中遇到的重要問題。一些在此技術規制方面走在前列的國家已經對解決這一問題進行了嘗試。例如，早在2017年德國就已將對個人的保護置于其他一切功利主義之上，出臺了20條自動駕駛倫理規則[6]。目前必須通過法律對這種新型技術進行全方位的約束，否則很容易陷入倫理困境，引發諸多社會問題。換言之，從無人駕駛汽車的生產環節開始就需要對其進行法律規制，以便使之成為體現“善”的技術，解決基于技術局限、操作難題和商業利益偏好的算法的善惡問題[7]，使法律真正發揮保護公民生命財產安全的作用。

2. 風險倫理難題

正如霍金的預言：人工智能日益強大的威力使機器人能夠復制自己，機器人對智能的自我學習能夠導致轉折點或“技術奇點”的來臨。首先，無人駕駛汽車具有算法邏輯基礎不確定的特點。無人駕駛汽車以高度嚴謹的算法為發展基礎，而這種算法的學習方式可以類比人類的學習過程，都是由推理到演繹的兩步走過程——前半程以相關性關系為基礎推導出結論或模型，而后半程以上述結論或模型為基礎對其他現象進行分析[8]。無人駕駛汽車以具有高度不確定性的算法作為基礎，天生具有風險性。

其次，無人駕駛汽車技術的發展過程具有風險性。從總體上來看，技術發展產生的結果可以歸納為兩大類，即“不可預測但在意料之中的(unpredictable but expected)”和“不可預測且在意料之外的(unpredictable and unexpected)”。由此可見，技術發展過程的不可預測性植根于內部，與技術本身相伴相生，無法得到糾正[9]136。在無人駕駛汽車運行過程中，其作為人工智能的典型代表，能夠對行駛過程中的一些事項進行自主決定，如選擇行駛路線、應對行駛中的一些具體事項等[10]。這種自主性隨著無人駕駛汽車的發展逐級遞增，發展到LV5水平的無人駕駛汽車將具備自主意識能力，隨之而來的風險性將更加顯著，但如何防控此種風險在立法領域仍是空白。

最后，無人駕駛汽車所運用的信息具有風險防控的必要性。無人駕駛汽車在運行過程中需要通過大數據系統獲取大量的用戶信息，該技術的發展與對用戶隱私的獲取是密不可分的。無人駕駛汽車在給使用者帶來便利的同時，同樣使其置身于巨大無形的“瀏覽器”之中，產生大量緩存數據。總而言之，無人駕駛汽車技術本身具有風險性和不確定性，在追求確定性的社會生活領域應考慮對其風險進行相對性限制。

二、無人駕駛汽車領域的法律缺位

國務院印發通知強調要“重點開發移動互聯、量子信息、人工智能等技術”(1)《國務院關于印發“十三五”國家科技創新規劃的通知》(國發〔2016〕43號)。，同時強調加快推動包括無人駕駛在內的具體應用領域行業協會的組建和有關標準的制定工作(2)《國務院關于印發新一代人工智能發展規劃的通知》(國發〔2017〕35號)。。但目前我國無人駕駛相關立法基本都是針對無人航空飛行器的規制，尚未針對無人駕駛汽車進行專門立法。目前，我國已經出臺的相關法律法規針對性不夠，如《交通運輸部辦公廳關于貫徹落實交通運輸行業標準〈營運客車類型劃分及等級評定〉(JT/T325—2018)的通知》(3)交通運輸部辦公廳于2018年7月4日發布生效。和《關于印發深化道路運輸駕駛員從業管理改革實施方案的通知》(4)交通運輸部辦公廳于2018年11月9日發布生效。等，仍未將無人駕駛汽車作為倫理和技術的結合體進行規制。

1. 缺乏相關法律法規規制

國務院印發通知強調，在“2020年掌握智能輔助駕駛技術，2025年掌握無人駕駛技術”(5)《國務院關于印發〈中國制造2025〉的通知》(國發〔2015〕28號)。，我國無人駕駛汽車將迎來迅速發展。無人駕駛汽車作為“弱人工智能”，具有自我學習的特點，其發展進化的速度和模式將是顛覆性的。而法律規范基于現實生活而來，且立法過程嚴謹，本身具有滯后性[11]。因此，只有采用前瞻性立法技術，對無人駕駛汽車可能引發的法律問題進行提前規制，才能有效發揮法律的保護作用。當前我國在無人駕駛汽車領域的立法數量嚴重不足，不僅難以有效管理和規制無人駕駛汽車的發展，而且難以解決無人駕駛汽車領域已經顯現的法律問題。國際自動機械工程師學會(SAE)于2014年提出的分級標準，根據無人駕駛汽車的自動化程度將其劃分為6個級別(6)按照汽車控制權歸屬及安全責任可對無人駕駛汽車在理論上進行細分，其中最詳細的是國際自動機械工程師學會(SAE)提出的分級標準。SAE依據自動化和智能化程度的高低將高度自動駕駛汽車劃分為6個不同的等級，分別是人類完全操控駕駛(LV0)、車輛偶爾輔助人類完成部分駕駛任務(LV1)、車輛完成大部分駕駛任務而人類仍需要監控路況(LV2)、車輛能夠完全脫離人類操控但人類仍需要在緊急情況下介入控制(LV3)、車輛既能脫離人類操控亦無須人類緊急介入但該車輛僅能在特定路段和路況條件下行駛(LV4)、在任何條件下都能完全自動駕駛(LV5)。。無人駕駛汽車作為交通領域中“弱人工智能”(7)弱人工智能是指智能機器不能真正地推理和解決問題，即這些機器并不真正擁有智能。目前對人工智能的定義大多可劃分為四類，即機器“像人一樣思考”、“像人一樣行動”、“理性地思考”和“理性地行動”。目前的主流科研集中在弱人工智能上，并且一般認為這一研究領域已經取得可觀的成就。的代表，目前技術水平正處于發展上升階段，未來的發展潛力巨大。到目前為止，全球有能力研制并生產無人駕駛汽車的公司的投產成果大部分處于這種分級體系中二級或三級的位置。自我國首起自動駕駛汽車致人死亡的交通事故[12]發生至今，我國對無人駕駛汽車進行系統規制的法律仍未出臺。盡管無人駕駛汽車引發的事故時有發生，但由于目前無人駕駛汽車的行車數據庫仍不完備，事故中諸多細節難以認定。可見，在目前自動駕駛汽車最高發展水平不超過LV3的情況下，有無人駕駛汽車參與的事故責任劃分難度明顯上升。由此可以合理推斷，當技術發展到LV4乃至LV5水平時，弱人工智能將更加充分地展現出自我分析和判斷的能力，屆時此類案件案情將更加復雜，如果不出臺相關法律進行規制，將更難解決此類問題。在無人駕駛技術不斷發展的同時，無人駕駛汽車帶來的新問題也層出不窮，給人類社會帶來了巨大挑戰。目前我國法律法規規制的缺位顯然不利于未來無人駕駛汽車的產業化發展，當技術發展到LV4、LV5水平后，這樣的法律規制缺位有可能帶來災難性后果。

2. 與現行法律法規銜接缺位

無人駕駛汽車作為“弱人工智能”的典型代表，具有自主學習和決策的特點，可以在特定程序框架下規劃決策、自主行駛。機器以研發者或使用者意志為基礎，能夠不依賴自然人的具體操作而在程序內進行自主判斷，卻不能成為獨立承擔相關責任的法律主體[13]。我國尚未在此領域進行法律性質上的界定。目前，只有《北京市自動駕駛車輛道路測試管理實施細則(試行)》明確表述了無人駕駛汽車的定義，但沒有對其法律地位進行明確，諸如道路通行權賦權與否、無人駕駛汽車能否獲得法律主體地位等問題尚不明確。這種狀況致使無人駕駛汽車導致的加害行為不能被目前的侵權理論所容納。目前《侵權責任法》《道路交通安全法》等法律沒有對此問題進行規制，我國亦尚未出臺專門法律就其法律性質進行界定。總而言之，我國應當盡快在無人駕駛汽車領域填補與現行法律法規銜接的空白，這既是規范相關技術發展的基礎，也有利于解決目前相關技術發展帶來的侵權責任界定等難題[14]。

3. 缺乏系統全面監管

目前，針對我國無人駕駛汽車出臺的法律法規數量極少，且絕大部分是政策性的。無人駕駛汽車當前以及未來可能涉及的法律糾紛類型多樣，廣泛存在于保險、隱私權保護、民事侵權等諸多領域。同時，目前《侵權責任法》《保險法》等傳統法律中并未對無人駕駛汽車進行專門規定，很多方面存在立法空白。因此，目前適用傳統法律解決無人駕駛汽車糾紛只是一定程度上的權宜之計。在針對無人駕駛汽車進行規制的法律出臺之前，對無人駕駛汽車法律糾紛“頭痛醫頭、腳痛醫腳”，不能充分解決無人駕駛汽車引發的存在于多個領域的法律問題。

我國目前主要通過國務院發文對無人駕駛汽車發展進行總體規劃，但這些規劃可操作性有待進一步提高。國內無人駕駛相關立法基本集中于無人航空飛行器領域[15]。只有2017年出臺的《北京市自動駕駛車輛道路測試管理實施細則(試行)》對無人駕駛汽車的道路測試進行了規定，但其法律位階較低，無法對無人駕駛汽車進行有效規制。由此可見，我國亟待出臺系統全面的法律法規對無人駕駛汽車領域進行規制。

三、無人駕駛汽車的倫理規約

1. 制定無人駕駛汽車倫理準則

無人駕駛汽車進行機器學習的過程展示了其自身高度的學習能力，能夠在極具變化性和復雜性的現實生活實例中自上而下地學習到處理各種突發情況的方法，并在學習過程中逐漸對這些實例加以總結和提煉，最終形成嵌入技術內部的倫理模式。學界對人工智能采取“自上而下”和“自下而上”兩種手段嵌入倫理準則的做法展開了廣泛探討。誠然，兩種手段都不是最佳選擇，“自上而下”方式在為技術植入設定好的倫理準則后暴露出更深層次的倫理問題。雖然簡易版的“電車困境”能夠通過現行法律作出裁判，但在理論上對更加復雜的情況進行討論時，無人駕駛汽車倫理問題往往轉化為對功利主義后果論原則的討論，而用一個尚未解決的難題作為另一個難題的答案顯然不是最佳方案。“自下而上”的機器學習也并非無懈可擊，但通過倫理準則建構和法律規制的方式能夠在一定程度上對其缺陷進行規避，在目前的現實條件下有可能實現可操作性和預期效果的最大化。

目前制定人工智能倫理準則在國際上已有先例[16]。我國應當制定無人駕駛汽車相關倫理準則，通過“軟法”的形式將隱性的倫理理論固定為顯性的倫理準則。就倫理準則的內容而言，應正當合理，且應覆蓋無人駕駛汽車機器學習的過程，防止不正當操作案例污染倫理準則形成過程，同時突出強調倫理準則的核心思想，從而促進無人駕駛技術進行積極和善良的表達。

2. 保證技術程序正當

就倫理準則制定的程序而言，應當體現出正當性。合理可靠的倫理建模是無人駕駛汽車進行倫理選擇的基礎，而倫理準則的正確傳達同樣需要正當的技術程序輔助實現。因此，我國應設立有關機構對倫理準則的準確表達進行管理。這一做法在國際上已有先例，如英國科技委員會擬成立的人工智能委員會就具有對倫理問題進行研究和監管的職能[17]。

無人駕駛汽車作為人工智能在交通領域的具體應用，應當受到倫理委員會的管制[18]。倫理委員會應當在制定合理倫理準則的基礎上，對相關技術產品的研發制造和投產使用進行必要的倫理審查，對倫理規則的實施進行監管。一方面，保證倫理規則的制定符合程序正義的原則；另一方面，與技術發展相結合，保證無人駕駛汽車學習倫理準則的技術程序正當。

四、無人駕駛汽車的法律規制

社會學家吉登斯曾預言：“為了防止科技風險給人類社會帶來不可逆的破壞性傷害，人類需要解決科技的外部影響和制約科技進步的規則兩方面問題。”[19]149目前我國相關技術正在摸索中前進，但與之配套的法律規制體系還沒有建立起來，因此，如何對無人駕駛汽車技術進行規制是立法者應當持續關注的問題。本文嘗試對此提出一些建議。

1. 完善與現行法律的銜接

我國的無人駕駛汽車發展正處于初級階段，目前的無人駕駛汽車自主性程度較低，主要責任仍由駕駛員承擔。但根據理論上對相關技術發展的劃分來看，當技術發展到較高水平時無人駕駛汽車自主性較高，此時發生的事故基本上是汽車自身缺陷導致的，則法律責任劃分的方法也應當進行相應調整[20]。由此可見，若在無人駕駛汽車發展過程中以發展程度為據進行劃分，則每個發展階段無人駕駛汽車發展表現出的法律特征、引發的法律問題不盡相同。因此，在進行法律規制的過程中應當充分考慮無人駕駛汽車技術的這一特點，分階段對無人駕駛汽車進行立法。

結合我國無人駕駛汽車的發展現狀，現階段我國相關問題，諸如事故責任不明、道路通行權爭議等主要集中在《道路交通安全法》的管轄領域。因此，我國現階段應當從《道路交通安全法》入手，推動現有法律法規和新技術有效對接。此后可以進一步進行法律規制，如明確無人駕駛汽車的法律主體地位，對駕駛系統研發者、車輛制造商以及車輛使用人的責任進行劃分等，從根源上解決無人駕駛汽車主體資格的法律擬制問題。

2. 構建風險防控機制

在人工智能進行自主“機器學習”的過程中，無人駕駛汽車會不可避免地接收到一些道路行駛中的違法違規行為，如不通過法律途徑關閉這些錯誤的學習通道，無人駕駛汽車就有可能將從這些錯誤案例中學習到的規則融合進其自身的倫理體系中，給交通出行埋下隱患。因此，通過倫理規約的形式將“善惡”進行固定是從理論層面解決無人駕駛汽車倫理難題的開端，而利用法律法規將意識層面的倫理規約確定為規范社會生活的準繩，則是管控無人駕駛汽車發展的關鍵。通過法律對無人駕駛汽車“自下而上”學習過程中的基本原則和相關程序進行規制，能夠有效應對人工智能自我學習帶來的挑戰。

針對目前無人駕駛汽車的開發利用情況，我國應當提前做好無人駕駛汽車風險的防范工作。主管機關在出臺具體治理措施時，應當以“預防勝于補償”為基本原則，預見性地對發展水平較高的無人駕駛汽車進行法律規制，預防無人駕駛汽車技術飛速發展帶來的問題，規避無法可依的風險。應運用法律手段對無人駕駛汽車的風險進行防控，制定具有適當前瞻性的法律填補目前無人駕駛汽車立法領域的空白，以有效應對此類風險。

無人駕駛技術的飛速發展和法律的滯后性之間始終存在著矛盾。為最大限度地規避法律的滯后性弱點[21]，應分階段對無人駕駛汽車進行立法，并使法律規制適當超前。現行的法律法規與無人駕駛汽車的發展速度和進程并不匹配，在完備的法律法規約束缺位的情況下，相關企業可能在利益驅使下利用技術手段進行違背倫理的試探，卻不能受到法律的有效規制。

3. 加強立法與專業技術的結合

從國外的無人駕駛汽車規制實踐來看，實踐中普遍綜合考慮到法律規制與科技發展的平衡問題，采用“適度超前、循序漸進”的立法措施，引導和規制無人駕駛汽車的研發與應用[22]。

從本質上看，法律是對無人駕駛汽車風險的控制，這種控制關系實則是技術和法律兩個價值世界之間的碰撞。無人駕駛技術本身的價值是由其客觀屬性決定的，而其社會價值則由法律進行調整。因此，應當在技術價值和法律價值的交錯中尋求合理的平衡點，以此為落腳點進行價值重構，從而嘗試解決新技術帶來的規范構建難題。我國在進行無人駕駛汽車立法的過程中應該在法律與科技之間尋求平衡，吸收技術專家的專業知識。無人駕駛汽車技術具有高度專業性，在該領域進行的立法與這些專業技術關系緊密。因此，關于技術風險的立法領域普通人難以進入。為保證立法的科學性，應注重立法環節的技術性。

目前，國外相關法律規制內容具有規則的趨同化和統一性特征，這反映了治理的全球化趨勢。我國在立法環節應當學習借鑒域外的先進技術成果，在與國際無人駕駛汽車立法接軌的同時，開創適合我國實際的無人駕駛汽車規制體系和技術標準，建立我國的法治話語權。

4. 保證法律體系的完整性

無人駕駛汽車給目前的法律秩序帶來了前所未有的挑戰。目前無人駕駛汽車在民事主體法、著作權法、侵權責任法、人格權法、交通法、勞動法等諸多方面與現行法律制度存在沖突，顯現出法律制度產品供給的不足。無人駕駛汽車技術陷入倫理困境，表明解決無人駕駛汽車法律問題不可能通過單一的部門來完成。無人駕駛汽車帶來的法律問題是復雜多樣的，因此應在立法過程中務求規制體系的完整性，避免出現立法空白。我國一方面應盡快出臺國家發展戰略，從戰略規劃的高度形成支撐無人駕駛汽車的政策體系，對無人駕駛汽車發展進行整體性謀略和全局性安排，以保證對無人駕駛汽車進行規制的法律能夠覆蓋無人駕駛引發問題的各個社會領域，發揮法律的保護作用；同時又可避免多部法律對無人駕駛汽車進行規制，出現部門法之間的沖突問題。另一方面，應當從無人駕駛汽車引發的不同法律問題入手，從設計生產到事故責任分配就無人駕駛汽車的法律規制提出有針對性的解決方案。

包括核武器、生化武器等在內的許多危險和有倫理爭議的技術，事實上已經處在有效的政治管制下。以往的滴滴打車事件、“快播”案等都證明了技術中立論的錯誤，因此應加快推進針對無人駕駛汽車的完整立法，將無人駕駛汽車涉及的各種類型法律問題都納入法律的規范之下[23]64。

五、結 語

無人駕駛汽車作為人工智能在交通領域具體應用的代表，反映了目前科學技術發展、社會安全與法律規制之間的矛盾。在我國倡導提升國際核心競爭力、推進科技進步的當下，更凸顯出法律對技術進行引導的重要性以及對技術倫理風險進行規制的必要性。分析無人駕駛汽車的倫理困境，梳理其法律規制現狀并提出立法建議，有助于推動無人駕駛汽車法律規制的完善。