自動駕駛算法系統產品責任認定困境與應對

萬琳潔

（華東交通大學人文社會科學學院，江西南昌 330013）

自動駕駛機動車代表著人類未來重要的出行方式，現已成為全球汽車產業發展的新競爭方向。全球自動駕駛機動車企業特斯拉公司董事會主席Robyn Denholm 曾表示：“自動駕駛每400 萬英里發生一次交通事故，人類司機每50萬英里發生一次事故?！庇纱丝梢姡詣玉{駛相對于人類駕駛具有更高的安全性，可以有效降低交通事故的發生，自動駕駛機動車將成為未來交通出行的首選。

發展自動駕駛的初衷是提高車輛行駛的安全性，當前自動駕駛技術處于發展階段，自動駕駛機動車出現交通事故的可能性依然存在。2022年7月22日，國際頂級賽車手林志穎駕駛自動駕駛機動車于中國臺灣省桃園市發生慘烈交通事故的事件沖上熱搜榜首，再次引燃了公眾對自動駕駛機動車侵權責任問題的關注。作為人工智能算法與汽車工業深入融合的產物，自動駕駛機動車兼具普通汽車交通工具的有形化特點和人工智能算法智能化決策無形性的特點，加劇了司法實踐中對其侵權致害產品責任認定的復雜性。

一、問題的提出

自動駕駛機動車，是指裝載車載雷達、視頻攝像頭、激光測距儀、傳感器、人工智能等構成的自動駕駛系統，通過讀取使用人的指令，自動控制行駛、完成運送目的智能機動車[1]。我國在一些政策文件中對自動駕駛機動車有不同的稱謂，如“無人駕駛汽車”“智能汽車”“自動駕駛汽車”“智能網聯汽車”等，但均不能改變自動駕駛機動車的本質功能是輔助或替代人類駕駛的基本定位。普遍認為，通過自動駕駛系統的精確控制，使得自動駕駛機動車的反應速度遠超人類駕駛員，故自動駕駛機動車具備減少交通事故發生的能力。但自動駕駛作為一種新技術，目前還處于發展階段，技術并不成熟，特別是在自動駕駛算法系統方面，不可避免的產生侵權責任訴訟。

2016 年1 月20 日，我國京港澳高速河北邯鄲段發生了世界首例“自動駕駛”致死事故。交警部門認定，死者高某未采取制動和避讓措施，從后方撞上了前車。2016 年7 月，死者父親為了查明兒子真正的死亡原因，將特斯拉在中國的銷售公司起訴至人民法院。其認為，高某系因開啟了車輛的自動駕駛功能，而該“自動駕駛”技術存在缺陷，高某的死亡系因自動駕駛技術缺陷而導致。具體而言，是自動駕駛算法系統缺陷問題，沒能有效識別前方障礙物，導致追尾事故的發生。訴訟期間，原告高某某向法院提交了司法鑒定申請，意欲證明事故發生之時開啟了“自動駕駛”功能。通過鑒定機構和特斯拉公司共同提取車輛數據記錄，并交由特斯拉美國總部完成對數據的解碼后，由專業鑒定機構認定，在該起車禍發生之時，高某駕駛的特斯拉轎車正處于“自動駕駛”狀態。后特斯拉公司又向法院申請了重新鑒定和補充鑒定。時至今日，此案還未有定論。在本案的維權過程中，原告僅完成初步舉證就耗時幾年時間，本案至今未完成庭審，原告的維權之難可見一斑。

此事故發生后，自動駕駛機動車“剎車失靈”“車輛失控”的新聞頻現報端。這使得部分消費者被迫采取“車頂維權”的極端手段來表達自己的訴求。傳統機動車經過了百年的發展，其產生的侵權問題已經有比較成熟的法律規制，但是，自動駕駛機動車因為有人工智能算法的加持，使其不同于傳統機動車，當出現侵權問題時，在產品質量法的法律規制上應具有特殊性。

算法系統相當于自動駕駛機動車的“大腦”，是自動駕駛機動車重要的組成部分。而算法是為了解決問題或者達成目標而采取的一系列步驟[2]。故算法需要依附一個載體而存在，自動駕駛系統實質上是集多種算法的一種軟件，該軟件代表著自動駕駛機動車的核心性能，已成為自動駕駛機動車不可缺少的一部分，汽車生產商將該系統嵌入傳統機動車中，使傳統機動車成為具備自動駕駛功能的智慧型車輛。

隨著自動駕駛機動車逐漸取代人類駕駛，自動駕駛算法系統將對產品責任主體的適用、產品缺陷的認定標準、因果關系等提出新的挑戰。同時，在發展自動駕駛機動車商業應用的過程中，必須正視當前自動駕駛算法系統在侵權認定方面面臨的困境。為了更好地處理自動駕駛機動車的產品質量問題，我國的產品責任法必須進行適當調整。

二、當前自動駕駛算法系統侵權認定面臨的困境

（一）自動駕駛機動車算法系統侵權主體亟待明晰

我國《民法典》沒有對生產者進行界定，《產品質量法》也沒有對“生產者”進行詳細的劃分。從目前我國自動駕駛機動車的生產情況來看，機動車的生產商主要分為三種，第一種是由傳統機動車生產商自主研發自動駕駛算法系統，如長安、上汽公司等；第二種是由自動駕駛系統的生產商改造傳統機動車，如百度、谷歌公司等[3]。最后一種是系統生產商僅作為供應商參與到自動駕駛機動車的生產中，與傳統機動車其他組件的供應商無異。后兩種模式不同于傳統機動車生產，主要的區別是后兩種模式混合了由其他企業開發的自動駕駛算法系統。從技術上看，首先自動駕駛算法系統需要依靠感知算法對環境進行感知，其次對各種數據進行收集和分析，最后再結合機器學習算法（機器學習算法主要用于對場景的理解及預測其他車輛的行為[4]），使自動駕駛機動車達到自主行駛的目的。如果自動駕駛算法系統出現技術錯誤，那么可能會導致機動車在運行的過程中發生事故，從而危及人類生命財產安全。當自動駕駛系統的生產者與汽車本體的生產者不是同一主體時，如果因自動駕駛算法系統缺陷引發了侵權責任，讓不完全了解自動駕駛算法的傳統機動車生產者單方承擔損害賠償責任有失公允。

（二）自動駕駛機動車算法系統缺陷的證明問題

首先，在法律層面，缺陷的證明標準難以適用。在產品責任中，受害人應當證明產品存在缺陷，證明自身的損害是由產品缺陷造成的。在理論上，將產品缺陷分為設計缺陷、制造缺陷和營銷缺陷，《民法典》（第1206 條）接受新的理論觀點，還規定了產品的“跟蹤缺陷”[5]。我國《產品質量法》第46條規定，產品的缺陷包括兩個判斷標準，分別是“不合理危險標準”和“國家或行業標準”，前者是指產品存在危及人身或財產的不合理危險，后者是指產品存在保障人身、財產安全的國家或行業標準的，不符合該標準即存在缺陷。目前，自動駕駛機動車產業還處在發展初期，沒有足夠的國家和行業安全標準，想要證明自動駕駛算法系統不符合“國家和行業標準”是不現實的，人們只能寄希望于證明自動駕駛機動車算法系統對受害人的生命和財產造成了不合理的危險。自動駕駛機動車作為一種高科技產品，在現階段還具有較大的不確定性，以“不合理危險標準”作為產品缺陷的認定標準太過于抽象，缺乏操作性[6]。而且，從比較法上看，《美國侵權法重述（第三版）》也完全放棄了這一標準，現階段主要根據具體缺陷的類型來判斷產品是否具有缺陷[7]。因此，我們也應該思考如何調整“不合理危險標準”，使其更具體且更具有操作性。

其次，在技術層面，算法的不透明性和不可解釋性為舉證帶來了困難。自動駕駛機動車系統是高度專業化和復雜的領域，其核心算法更是在“算法黑箱”之中，即使是專業人士也很難研究。算法黑箱，指算法是一個工作機制非常神秘且復雜的系統，算法設計者和算法使用者以外的人們只能簡單地觀測到它的輸入端與輸出端，而無法得知算法是如何將輸入的內容變成輸出的結果[8]。算法黑箱導致算法的不透明性，算法黑箱產生的最主要根源是算法權利人為使算法不受其他主體的侵犯，通過技術秘密的形式將算法保護起來，加之算法自身具有的高度專業性和復雜性，致使普通民眾并不能理解算法的內部運行機制，這就導致了算法的不透明性。另外，人工智能算法能夠深度學習，使得算法具有自我學習和自我更新的能力，這種能力使同一算法在沒有人類干預的前提之下也能不斷地更新結果輸出，即使算法的設計者也難以預測算法的結果，即算法的不可解釋性。這些都將導致人們難以查明事故背后的原因，并陷入無法證明算法缺陷的尷尬局面。

（三）算法缺陷和損害結果之間的因果關系難以證明

在產品侵權案件中，“誰主張，誰舉證”是普遍的舉證規則，受害人需對產品與損害之間存在著一定的因果關系進行證明。但是，要證實產品的缺陷是損害結果的發生原因是異常困難的。要證實損害與產品缺陷有一定的因果聯系，首先需要證明缺陷產品已經被使用或者被消費，然后證明缺陷產品的使用是造成損害的原因[9]。

自動駕駛汽車致損事故中，涉及的專業性極強，法官一般不具備此類專業能力。對因果關系的判斷極有可能出現偏差，且自動駕駛機動車致損事故的發生原因很可能是多方面的，不僅與算法的缺陷有關，還與事故發生時的路況有關，特別是在人機混合駕駛的情況下，駕駛員可能存在疏忽行為。因此，算法缺陷與損害后果之間可能沒有直接的因果關系，可能存在多因一果的情況，而各方過失的大小及原因力將影響賠償比例。

（四）發展風險抗辯的適用存在分歧

如果根據產品投入流通時的科學技術水平，無法證實該產品具有缺陷，那么即使經過一段時間后的新科學技術水平確定該產品有缺陷，生產者也不承擔責任，這就是產品責任中的發展風險抗辯[10]。在自動駕駛領域，只要生產者能夠證明自動駕駛機動車算法系統的缺陷是產品投入流通時科技水平無法發現的缺陷，那么，生產者就不承擔賠償責任。

學界贊成自動駕駛機動車適用發展風險抗辯的理由是，對于生產者來說，發展風險抗辯可以鼓勵生產，產品不會因為后期出現更先進、更安全的替代產品而被認定為有缺陷，這可以間接地鼓勵生產者進行技術創新。同時，發展風險抗辯作為免責事由，可以在一定程度上緩解產品責任的嚴格責任屬性所帶來的弊端，避免產品責任由嚴格責任向絕對責任轉變[11]。

學界反對自動駕駛機動車適用發展風險抗辯的理由有三。一是此免責事由不利于對受害人進行救濟。通過深度學習算法的應用使自動駕駛機動車擁有類人智慧并產生自主性，有學者認為，這種自主性是機動車投入流通時科技水平所無法發現的缺陷，如果生產者以此作為抗辯理由，則生產者不承擔法律責任將不利于保護受害人。二是是對科學技術水平的判斷時間點不明，現有技術水平標準并不明確。以國內標準還是國外標準為準？標準的確立是適用發展風險抗辯首先要明確的。三是開發風險抗辯是否可以適用于所有類型的缺陷，各國有不同意見。德國聯邦最高普通法院在對發展風險抗辯的歷史和目的考察后指出，該抗辯僅免除了研究和開發的風險，因此不適用于制造缺陷，德國聯邦最高普通法院認為只有設計缺陷才能適用發展風險抗辯[12]。而從我國《產品質量法》的規定來看，發展風險抗辯適用于產品缺陷的類型并沒有限制。

三、自動駕駛機動車算法系統產品責任的應對之策

由于自動駕駛機動車算法系統侵權責任在認定上及因果關系證明上的困難性，故需考慮創新算法系統產品責任的應對策略。

（一）增加自動駕駛系統的生產者作為自動駕駛機動車算法系統產品責任主體

自動駕駛機動車的生產者和銷售者應該繼續承擔自動駕駛算法系統的產品責任，原因有三。一是因為生產者和銷售者需要對自動駕駛機動車提供后續服務。為了確保自動駕駛機動車的運行，需要生產者、銷售者對機動車定期進行更新和檢查，這是消費者購買產品或服務的延續。二是因為自動駕駛機動車的安全運行是多個元器件協同操作的結果。三是來自于自動駕駛機動車產業的良性發展需要。生產者在技術領域不斷深耕，促進我國自動駕駛技術的不斷進步。

筆者認為，可將自動駕駛算法系統的生產者列為產品責任主體。為了明確自動駕駛系統生產者和機動車傳統生產者的法律責任，美國佛羅里達州和密歇根州已經出臺了相應的法律法規，如法律規定，傳統汽車在被第三方企業改造為自動駕駛汽車后，傳統汽車的生產者即不再對該自動駕駛汽車的缺陷負責，除非有證據證明該車輛在被改造為自動駕駛汽車之前就已經存在缺陷。此外，自動駕駛系統生產者對算法程序具有控制力，讓其承擔產品責任，可以確保自動駕駛算法系統生產者持續更新和優化算法，從而進一步增強自動駕駛機動車的安全性能。

如因自動駕駛算法缺陷造成事故的，自動駕駛系統的生產者需要承擔因自身過錯而帶來的責任。自動駕駛機動車混合了機動車本體和自動駕駛系統生產商生產的自動駕駛系統，如果因自動駕駛系統算法缺陷原因致害，則二者均應作為責任主體，對外共同對受害人承擔侵權責任，對內則應當按過錯承擔責任。

（二）健全自動駕駛機動車算法系統產品缺陷的認定標準

消費者合理期待標準是美國《侵權法第二次重述》所提倡的產品缺陷的認定標準，該標準以消費者正常使用該產品時，該產品需滿足普通消費者對產品安全的合理預期，如無法滿足普通消費者對產品安全的合理預期，那么可以認定該產品具有缺陷。上世紀七十年代后，產品責任案件急劇增多，賠償金額也持續增長，挫傷了企業技術開發的積極性。隨著產品功能日漸復雜，消費者難以形成普遍的、合理的、可期待的安全觀念，這種主觀的標準就被認為不具有獨立作用，于是，該標準就不再單獨作為缺陷的認定標準了。之后，美國在《侵權法第三次重述：產品責任》中規定了風險效用標準作為設計缺陷的認定標準，將產品的有用性和危險性進行比較，特別是要求通過對產品的改進成本與現有的風險進行對比，認定生產者是否采取了有效的安全措施，從而判斷產品是否存在缺陷[13]。但是，如果我們對自動駕駛機動車中算法設計缺陷的認定單獨采取風險效用標準，將面臨的問題是，消費者的維權成本可能過高，因為消費者無法提供缺陷產品是否存在替代設計的證據，在自動駕駛系統算法領域由消費者證明替代證據幾乎不可能實現，故風險效用標準在評判自動駕駛系統算法缺陷同樣不宜單獨上適用。

其實，我國《產品質量法》深受合理的消費者期待標準的影響。學者們普遍認為，產品應該具有“合理期待的安全性”，即消費者在使用產品時，會產生一種安全性期待，只要對產品進行合理使用，那么，產品就不能出現安全的隱患。故筆者認為，判斷自動駕駛機動車系統算法是否為缺陷產品，應當將“不合理危險標準”和“消費者合理期待標準”相結合進行綜合判斷，風險效用標準在消費者期待標準不能有效發揮作用的情形下，可以作為消費者期待標準的重要補充，共同作為產品缺陷的認定標準。筆者認為，在自動駕駛機動車算法系統產品缺陷的認定方面，我們可以以“消費者合理期待標準”為主，主要參考人類駕駛員或是其他自動駕駛機動車駕駛行為來判斷。例如，在相同條件下，人類駕駛員或者相同類型的自動駕駛機動車是否能更安全[14]。

我國還應當盡快制定和完善自動駕駛領域的強制性國家標準和行業標準，特別是有關自動駕駛機動車的算法系統的國家標準和行業標準。雖然產品符合國家標準或行業標準也有存在缺陷的可能，但是，國家標準或行業標準是最為直觀的判斷方法。算法系統國家標準或者行業標準建立后，判斷算法產品是否具有缺陷，第一步就是看其是否符合標準，如果不符合標準，那么即可直接認定產品存在缺陷。

（三）引入算法解釋權制度

2019年4月，歐盟發布《可信賴人工智能倫理準則》，負責數字經濟的官員Mariya Gabriel 在解讀該準則時表示，算法作出的任何決定都必須經過驗證和解釋[15]。算法解釋權作為一種新興權利，支持者眾多，但反對意見亦客觀存在。筆者認為，應當通過引入算法解釋權制度，確保自動駕駛機動車算法具有可追溯性、決策具有可解釋性，同時，有利于判斷自動駕駛算法系統是否存在“不合理的危險”。

算法解釋權是指當算法做出的自動化決策對算法交易相對人產生重大影響時，算法交易相對人要求算法背后的行為人對結果的來源（如算法的設計和運行過程）進行解釋的權利[16]。

從法律關系上來看，算法解釋權的權利主體是權益受到自動化決策并產生重大不利影響的個人，義務主體是算法的生產者和設計者，即自動駕駛機動車的生產商或者自動駕駛系統生產商。

通過算法解釋權的設置，首先，可以提高算法決策的透明度和決策結果的公正性；其次，有利于保護相對人的合法權益，弱化相對人在因果關系要件上的舉證責任；最后，通過算法解釋權的設置可以促進自動駕駛算法技術的良性發展。算法解釋的目的是使相對人了解算法自動化決策是如何產生的，在發生算法錯誤侵害時，為相對人提供相應的救濟[17]。

面對算法缺陷造成的不良影響，算法解釋義務主體往往以算法技術復雜性和不可解釋性轉移算法責任。這種將算法責任藏匿于技術盾牌之后，希望避免承擔算法責任的做法已經客觀上成為算法治理的巨大難題。筆者認為，應當通過引入算法解釋權制度，確保自動駕駛機動車算法具有可追溯性、決策具有可解釋性。

（四）引入專業機構參與判斷自動駕駛機動車算法系統缺陷與損害后果之間的因果關系

有學者認為，高新技術產品造成損害的原因不易舉證，可以要求生產者擔負證明產品缺陷不存在，或者缺陷與損害之間不存在因果關系的責任，將受害人證明產品缺陷存在和因果關系的舉證責任轉移到生產者身上。筆者認為，產品責任雖然是嚴格責任，但法律并未規定產品責任適用因果關系推定與舉證責任倒置，也沒有特別規定在高新技術產品中適用舉證責任倒置。就算法律規定高科技產品責任適用舉證責任倒置，在實踐中，如果生產者提出了缺陷與損害之間不存在因果關系的證據，受害人一方可能認為生產者將缺陷產品單方委托他人檢測，容易惡意控制檢測結果，造成檢測結果不真實的情況，導致受害人不認可生產者單方提出的證據，受害人一方將會繼續舉證。筆者認為，可以參考醫療糾紛中醫學會、司法鑒定機構作出醫療損害鑒定意見的方式，在出現無法判斷自動駕駛系統算法缺陷與損害后果之間的因果關系時，生產者和受害人可以共同選定或隨機選定第三方鑒定機構，由第三方機構出具損害結果與缺陷之間是否具有因果關系的意見。

此外，自動駕駛機動車的“黑匣子”存儲了車輛行使過程中的各項數據，對于判斷交通事故的發生原因是極為重要的證據。以往受害者獲取“黑匣子”數據信息相對困難，但通過監管機構的數據平臺對數據進行保留是一種可行的措施。例如，上海市對“黑匣子”數據上傳問題進行了規定，2023年3月21日，《上海市浦東新區促進無駕駛人智能網聯汽車創新應用規定實施細則》中規定，創新應用車輛應實時向浦東新區智能網聯汽車數據平臺回傳信息并自動記錄和存儲各項信息，能記錄車輛發生事故或者失效的狀況發生之前至少90秒的相關數據，并且數據存儲的時間不能少于1年。這種將數據實時記錄并上傳至監管平臺的方式有利于證據的收集和受害者對證據的提取。

最后，在確定人類駕駛員與自動駕駛機動車的責任比例時，引入算法參與度評估作為人機混合駕駛中責任劃分的依據。由于算法決定了自動駕駛機動車的實際運行模式，通過算法解釋權的設置，第三方評估機構可以在了解算法邏輯的前提下，結合“黑匣子”的數據內容，做出專業判斷，最終產生算法參與度評估。算法參與度評估作為一種證據，可以作為裁判的依據，是判定自動駕駛機動車侵權的有效途徑。

（五）優化發展風險抗辯的適用

筆者認為，在自動駕駛機動車的產品侵權中，不應一味排斥發展風險抗辯的適用，應當適當排除生產者對發展風險抗辯的適用，優化發展風險抗辯才更有利于平衡各方利益。

首先，在發展風險抗辯中，應當要明確投入流通時的技術水平應當以當時世界最高科技水平判斷。就自動駕駛機動車而言，我國的技術水平并未顯著落后于世界水平，采用世界最高標準具有現實性。以最高科技水平作為標準能夠為生產商建立起良性的激勵機制；生產商只有掌握最高科技水平或不斷更新研發相關科技，方能增加競爭優勢進而拓展市場份額，用巨大利益作為驅動力，促使自動駕駛機動車生產商自我技術革新。有學者在對《產品質量法》的釋義中曾特別指出，評斷產品是否能為投人流通時的科技水平所發現，不是依據產品生產者自身所掌握的科學技術水平來認定的，應當以當時整個社會所具有的最高科技水平來認定[18]。故筆者認為，在自動駕駛算法系統缺陷中，應當以當時世界最高科技水平作為判斷是否可以適用發展風險抗辯的依據。

其次，應當限制發展風險抗辯的適用范圍，發展風險抗辯不應適用于制造缺陷和營銷缺陷，因為制造缺陷是制造過程中未按照設計方案制作的問題，而營銷缺陷是指警示說明不充分的缺陷，這兩種缺陷都與科學技術無關。

最后，建立發展風險抗辯后的損失分擔機制。發展風險抗辯的適用也需要平衡生產者和受害人的利益，如果適用發展風險抗辯完全免除了生產者的責任，后果全部由受害人承擔，這顯然加重了受害人的負擔。為了最大程度的規避發展風險抗辯帶來的消極影響，最大限度的保護受害人的利益，建立發展風險抗辯后損失分擔機制是非常重要的。

2020年，歐盟在《關于人工智能系統運行的責任立法倡議》中指出，考慮到自動駕駛汽車的高風險屬性，理當強制生產者購買責任保險，以便在一定范圍內解決無法適用產品責任的受害人的損害分擔問題[19]。另外，如果出現責任保險不足以賠償受害人損失的情況，還可考慮由生產者給予受害人適當的補償，以平衡雙方的權益。由于現階段自動駕駛技術尚不成熟，損害賠償問題從由當事人分擔，到發展為整個社會分擔損失的趨勢。這也符合現代侵權法從重點強調承擔過錯的功能轉移到補償損失功能的變化。為此，還需要明確與發展風險抗辯相配套的風險分擔機制，通過風險分擔機制來合理的解決受害人的救濟難題。

四、結語

自動駕駛技術擁有廣闊的前景，在可預見的未來，道路交通必是屬于自動駕駛的舞臺。畢馬威（KPMG）曾向社會發布2020 年度“自動駕駛汽車成熟度指數”報告，旨在評估各國部署自動駕駛汽車的準備情況。該報告在政策、立法、技術、創新等方面對全球25個國家進行了綜合排名，我國在被統計的25個國家中排名第20位，自動駕駛技術排名第19位；我國排名較為落后的一大原因就是立法相對滯后和監管相對保守。時至今日，我國在技術方面已經進入世界領先水平，但現有的法律規范仍然落后于技術發展的步伐，只有厘清當前法律適用中的困境，才能為自動駕駛算法系統的法律規制建設奠定基礎，尋求解決方案。最終目的是通過完善自動駕駛算法系統產品侵權的法律規范，促進自動駕駛機動車產業的發展，使我國在自動駕駛領域處于世界領先地位，真正成為全球人工智能的領導者。