AI產(chǎn)品侵權(quán)歸責(zé)原則的法經(jīng)濟(jì)學(xué)考察

摘要：AI產(chǎn)品是以AI技術(shù)為基礎(chǔ)，以銷(xiāo)售、使用為目的，依賴(lài)研發(fā)者設(shè)定的固定程序，通過(guò)計(jì)算進(jìn)行決策并完成相應(yīng)任務(wù)，被廣泛應(yīng)用于各行業(yè)的動(dòng)產(chǎn)領(lǐng)域；AI產(chǎn)品侵權(quán)歸責(zé)原則大致可分為共同責(zé)任侵權(quán)原則、嚴(yán)格責(zé)任原則和過(guò)錯(cuò)侵權(quán)原則三類(lèi)。在適用侵權(quán)歸責(zé)原則時(shí)，常見(jiàn)的困境包括共同侵權(quán)責(zé)任原則缺乏歸責(zé)上的“共同性”，嚴(yán)格責(zé)任原則具有“片面性”，以及過(guò)錯(cuò)責(zé)任原則難以確定“過(guò)錯(cuò)”與“因果關(guān)系”。此外，責(zé)任主體尚不明確。基于社會(huì)成本與委托代理理論，AI產(chǎn)品侵權(quán)歸責(zé)理論可從制度激勵(lì)、信息不對(duì)稱(chēng)與風(fēng)險(xiǎn)分散三個(gè)維度解析歸責(zé)的基本邏輯，以實(shí)現(xiàn)社會(huì)福利最大化。歐盟《人工智能責(zé)任指令》在一般條款外僅規(guī)定了舉證責(zé)任、證據(jù)披露和因果關(guān)系推定等要素，對(duì)產(chǎn)品侵權(quán)問(wèn)題的規(guī)制存在漏洞，它所確立的嚴(yán)格責(zé)任制度仍具有補(bǔ)充和提升空間。為實(shí)現(xiàn)歐盟《人工智能責(zé)任指令》下的社會(huì)福利最大化，嘗試將過(guò)錯(cuò)責(zé)任原則適用于生產(chǎn)者，將剩余責(zé)任即嚴(yán)格責(zé)任原則適用于駕駛員，即若生產(chǎn)者存在過(guò)錯(cuò)，駕駛員和生產(chǎn)者將以各自的責(zé)任份額分擔(dān)責(zé)任；如果生產(chǎn)者被證明遵循了應(yīng)有的注意義務(wù)，那事故損失必須完全由被適用嚴(yán)格責(zé)任原則的駕駛員承擔(dān)。

關(guān)鍵詞：AI產(chǎn)品侵權(quán)歸責(zé)原則；法經(jīng)濟(jì)學(xué)；委托代理理論；社會(huì)成本理論；歐盟《人工智能責(zé)任指令》

DOI：10.13783/j.cnki.cn41-1275/g4.2024.03.008

中圖分類(lèi)號(hào)：D923.7文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)：1008-3715（2024）03-0039-08

人工智能（Artificial Intelligence，簡(jiǎn)稱(chēng)“AI”）輸入的數(shù)據(jù)與輸出的結(jié)果（即決策、行為等操作）沒(méi)有必然關(guān)系，這與傳統(tǒng)的自動(dòng)化機(jī)器人僅僅通過(guò)輸入特定指令來(lái)產(chǎn)生確定性反應(yīng)的方式不同。AI能夠通過(guò)監(jiān)督學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)逼近人類(lèi)進(jìn)行理性思考和行動(dòng)，并通過(guò)算法做出難以預(yù)測(cè)和解釋的行為。以自動(dòng)駕駛汽車(chē)為例，它通過(guò)將汽車(chē)傳感器監(jiān)測(cè)到的車(chē)輛、障礙物、行人等數(shù)據(jù)輸入算法模型，來(lái)做出相應(yīng)的行動(dòng)。特斯拉、Uber等公司的自動(dòng)駕駛汽車(chē)的普及以及相關(guān)重大事故的發(fā)生，使得自動(dòng)駕駛汽車(chē)的安全問(wèn)題成為公眾關(guān)注的焦點(diǎn)。2022年9月，歐盟通過(guò)《人工智能責(zé)任指令》（簡(jiǎn)稱(chēng)《指令》），旨在針對(duì)廣受關(guān)注的AI潛在侵權(quán)問(wèn)題提出適用規(guī)則。本文運(yùn)用法經(jīng)濟(jì)學(xué)分析方法，探討《指令》及其理論擴(kuò)展中責(zé)任分配的合理與不足之處，并從社會(huì)福利最大化的目標(biāo)出發(fā)，對(duì)AI侵權(quán)責(zé)任制度進(jìn)行探討并對(duì)其潛在問(wèn)題予以剖析，并提供理論支撐。

一、《指令》視角下AI產(chǎn)品的概念與侵權(quán)歸責(zé)及現(xiàn)實(shí)困境

（一）AI產(chǎn)品概念及其界定

1.AI產(chǎn)品的概念

AI產(chǎn)品搭載和融合的AI技術(shù)的核心在于機(jī)器被賦予像人類(lèi)一樣學(xué)習(xí)并做出決策的能力，在產(chǎn)業(yè)發(fā)展中經(jīng)歷了從弱向強(qiáng)的過(guò)渡。［1］強(qiáng)AI①使得機(jī)器能夠在沒(méi)有顯式程序的情況下從數(shù)據(jù)中學(xué)習(xí)新事實(shí)，并使所學(xué)知識(shí)適應(yīng)新情況，這被稱(chēng)為“機(jī)器學(xué)習(xí)”。機(jī)器學(xué)習(xí)主要研究計(jì)算機(jī)怎樣模擬或?qū)崿F(xiàn)人類(lèi)的學(xué)習(xí)行為，獲取新知識(shí)或技能，重新組織已有的知識(shí)結(jié)構(gòu)使之不斷改善自身的性能。［2］

在此基礎(chǔ)上，借鑒歐盟《人工智能法案》（簡(jiǎn)稱(chēng)《法案》），對(duì)AI進(jìn)行了定義，認(rèn)為AI是利用機(jī)器學(xué)習(xí)、專(zhuān)家系統(tǒng)、遞歸貝葉斯估算、統(tǒng)計(jì)等技術(shù)方法開(kāi)發(fā)出來(lái)的，用于實(shí)現(xiàn)明確或隱含目標(biāo)的生成內(nèi)容、預(yù)測(cè)、推薦或決策等，影響物理或虛擬環(huán)境的產(chǎn)出技術(shù)。②

從科技發(fā)展的角度來(lái)看，AI是一種新興技術(shù)，通過(guò)遵循機(jī)器學(xué)習(xí)的邏輯，通過(guò)算法產(chǎn)生決策，從而在不需要人為干預(yù)的情況下執(zhí)行行為。然而，這種技術(shù)的復(fù)雜性和多變性使得搭載AI技術(shù)的產(chǎn)品在運(yùn)行過(guò)程中可能會(huì)出現(xiàn)許多難以確定原因、難以控制的行為，從而成為一類(lèi)潛在風(fēng)險(xiǎn)技術(shù)。根據(jù)我國(guó)的《產(chǎn)品質(zhì)量法》，產(chǎn)品被歸類(lèi)為經(jīng)過(guò)加工、制作并用于銷(xiāo)售的動(dòng)產(chǎn)。從實(shí)際應(yīng)用的角度來(lái)看，能夠應(yīng)用于人類(lèi)社會(huì)生產(chǎn)生活的AI技術(shù)必然依賴(lài)于對(duì)AI技術(shù)的加工、制作，形成特定的外在形態(tài)，將AI技術(shù)研究成果轉(zhuǎn)化為“AI產(chǎn)品”，并將其售出用于社會(huì)生產(chǎn)和生活。AI產(chǎn)品經(jīng)過(guò)更為復(fù)雜的加工和制作，但這些過(guò)程仍然屬于加工和制作的范疇。［3］綜合以上觀點(diǎn)，本文將《指令》中對(duì)AI的定義與實(shí)際應(yīng)用相結(jié)合，將AI產(chǎn)品定義為以AI技術(shù)為基礎(chǔ)，以銷(xiāo)售和使用為目的，依賴(lài)于研發(fā)者設(shè)定的固定程序，通過(guò)計(jì)算進(jìn)行決策并完成相應(yīng)任務(wù)，被廣泛應(yīng)用于各種行業(yè)的動(dòng)產(chǎn)產(chǎn)品（包括計(jì)算機(jī)軟件）。

2.AI產(chǎn)品的界定

《指令》延續(xù)了《法案》對(duì)AI系統(tǒng)的分類(lèi)，并采用了風(fēng)險(xiǎn)分級(jí)的規(guī)制路徑。根據(jù)該規(guī)定，AI系統(tǒng)的風(fēng)險(xiǎn)被劃分為不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、中等風(fēng)險(xiǎn)和輕微風(fēng)險(xiǎn)四個(gè)層次，并針對(duì)不同程度的風(fēng)險(xiǎn)指定了相應(yīng)的監(jiān)管措施。對(duì)于被認(rèn)定為不可接受的風(fēng)險(xiǎn)的AI系統(tǒng)，歐盟認(rèn)為其嚴(yán)重侵犯了基本人權(quán)或違反了歐盟價(jià)值觀，因此應(yīng)被禁止作為服務(wù)投放市場(chǎng)，只有極少數(shù)的例外情況得以允許。產(chǎn)品的區(qū)別特征是具備“經(jīng)加工、制作”和“用于銷(xiāo)售”兩個(gè)條件。而不可接受的風(fēng)險(xiǎn)類(lèi)型的AI系統(tǒng)載體因非為銷(xiāo)售而加工、制作的物品而被排除在AI產(chǎn)品概念外。《法案》亦將監(jiān)管拓展至涉及生產(chǎn)生活多個(gè)領(lǐng)域的“高風(fēng)險(xiǎn)”AI系統(tǒng)，提供者需向主管機(jī)關(guān)詳細(xì)報(bào)備關(guān)于AI系統(tǒng)的必要信息③，

盡管其加工、制作和用于銷(xiāo)售的審核監(jiān)督程序更為嚴(yán)格，但并不因此失去投入市場(chǎng)銷(xiāo)售和使用并成為“AI產(chǎn)品”的資格。最后，被認(rèn)定為“有限或輕微風(fēng)險(xiǎn)”的AI系統(tǒng)，僅憑提供者自愿建立行業(yè)行為準(zhǔn)則，自然可歸于AI產(chǎn)品范疇。因此，本文中的AI產(chǎn)品單指除不可接受的風(fēng)險(xiǎn)外其他風(fēng)險(xiǎn)等級(jí)的AI系統(tǒng)及載體。

（二）AI產(chǎn)品的侵權(quán)歸責(zé)類(lèi)型

上文定義的自動(dòng)駕駛系統(tǒng)是基于人工設(shè)置的算法做出的錯(cuò)誤判斷造成事故。目前與《指令》密切相關(guān)的《產(chǎn)品責(zé)任指令》（簡(jiǎn)稱(chēng)PLD）旨在使消費(fèi)者能夠就缺陷產(chǎn)品造成的損害獲得賠償；而新PLD擴(kuò)大了“加工、制作”本身和賠償損害范圍，PLD的修訂旨在解決與新技術(shù)相關(guān)的責(zé)任問(wèn)題。這會(huì)導(dǎo)致產(chǎn)品責(zé)任方向分散，侵權(quán)情景更為復(fù)雜，而現(xiàn)有的責(zé)任規(guī)則是適用以人類(lèi)為中心的單一因果模型，因而需對(duì)現(xiàn)有制度加以改進(jìn)。學(xué)界主流觀點(diǎn)主張對(duì)AI侵權(quán)參照產(chǎn)品責(zé)任制度處理，前提是明確AI人格權(quán)問(wèn)題。本文認(rèn)為，民法上的人格需具備生理、心理和社會(huì)學(xué)要素。［4］

AI只是由芯片和儲(chǔ)存在芯片中的程序組成，離開(kāi)人類(lèi)設(shè)定的復(fù)雜模型進(jìn)行的決策沒(méi)有任何支撐，只能作為一種工具參與社會(huì)生產(chǎn)，應(yīng)被當(dāng)做“物”或“工具”看待。因此，AI產(chǎn)品侵權(quán)是指運(yùn)用AI技術(shù)的終端產(chǎn)品侵害他人合法權(quán)益造成損害的情形。［5］根據(jù)侵權(quán)要素的不同，AI產(chǎn)品侵權(quán)可分為三種類(lèi)型。

“共同侵權(quán)型”和“單獨(dú)侵權(quán)型”侵權(quán)。具有決策上類(lèi)人性的AI產(chǎn)品既可以與人的行為結(jié)合，作為一種因果關(guān)系中的復(fù)雜的介入因素而對(duì)侵權(quán)責(zé)任認(rèn)定與分配產(chǎn)生影響，又可以單獨(dú)引發(fā)侵權(quán)事實(shí)。本文的AI產(chǎn)品根據(jù)協(xié)作需求程度可被分為“輔助型AI”和“自主型AI”兩類(lèi)。以自動(dòng)駕駛汽車(chē)為例，根據(jù)《指令》延續(xù)了國(guó)際自動(dòng)車(chē)工程師學(xué)會(huì)（SAE）的分類(lèi)方法，根據(jù)AI和人類(lèi)駕駛員在不同角色與交互合作方式下的不同，將其分為L(zhǎng)1（駕駛輔助）、L2（部分自動(dòng)化，AI輔助人類(lèi)，人類(lèi)只起監(jiān)督作用）、L3（有條件自動(dòng)化，AI和人類(lèi)共享控制權(quán)）、L4（高度自動(dòng)化，人類(lèi)作為乘客不干擾系統(tǒng)的決策和控制）、L5（完全自動(dòng)化，AI為唯一駕駛員）5個(gè)階段。在這些階段中，AI產(chǎn)品生產(chǎn)者承擔(dān)的責(zé)任從次要逐漸增加到主要。在L1—L3不完全自動(dòng)化（“輔助型AI”）階段，AI產(chǎn)品與人類(lèi)行為結(jié)合形成“人機(jī)共駕”，可能引發(fā)侵權(quán)行為。在這種情況下，本文探討的侵權(quán)行為屬于“共同侵權(quán)型”，即加害者為人類(lèi)和AI產(chǎn)品，共同侵害他人合法民事權(quán)益，造成損害，因此加害者需承擔(dān)連帶責(zé)任。以2016年特斯拉汽車(chē)（L2）交通事故和2018年3月Uber（L3）的沃爾沃緊急制動(dòng)系統(tǒng)禁用導(dǎo)致的行人死亡為例，引發(fā)了對(duì)AI自毀傾向的思考。在這種情況下，涉及的侵權(quán)類(lèi)型可以被視為“單獨(dú)侵權(quán)型”。這意味著由于內(nèi)部設(shè)計(jì)或外部干擾導(dǎo)致系統(tǒng)決策錯(cuò)誤，由AI產(chǎn)品單獨(dú)引發(fā)的侵權(quán)風(fēng)險(xiǎn)，通常是由于系統(tǒng)自發(fā)性因素，例如“無(wú)監(jiān)督學(xué)習(xí)”等導(dǎo)致的。“無(wú)監(jiān)督學(xué)習(xí)”是指在認(rèn)識(shí)過(guò)程中可能會(huì)挖掘人類(lèi)沒(méi)有挖掘的數(shù)據(jù)，從而呈現(xiàn)超出數(shù)據(jù)輸出前人類(lèi)的預(yù)測(cè)的機(jī)器學(xué)習(xí)方式。系統(tǒng)內(nèi)部設(shè)計(jì)問(wèn)題以及諸如“路牌黑客”這種外界的惡意干擾就屬于這種安全隱患因素。

在AI產(chǎn)品的侵權(quán)情景中，可以區(qū)分為缺陷（生產(chǎn)者過(guò)錯(cuò)）和濫用（使用者過(guò)錯(cuò)以及部分生產(chǎn)者過(guò)錯(cuò)）兩種情況。AI產(chǎn)品的缺陷指的是在程序設(shè)計(jì)階段生產(chǎn)者存在過(guò)錯(cuò)，導(dǎo)致AI產(chǎn)品及其組件在“無(wú)監(jiān)督學(xué)習(xí)”狀態(tài)下造成損害的技術(shù)缺陷。缺陷可進(jìn)一步分為設(shè)計(jì)缺陷（廣義的生產(chǎn)者過(guò)錯(cuò)）和制造缺陷（狹義的生產(chǎn)者過(guò)錯(cuò)）。［6］如2020年英國(guó)公共衛(wèi)生局在統(tǒng)計(jì)新冠病例過(guò)程中發(fā)現(xiàn)Excel竟在沒(méi)有提示的情況下自動(dòng)刪除了超過(guò)上限的萬(wàn)余條記錄。［7］

但《指令》與新PLD沒(méi)有明確規(guī)定生產(chǎn)者對(duì)有缺陷的“組件”承擔(dān)責(zé)任，只提及組件“集成”到產(chǎn)品中或與產(chǎn)品“互連”，組件的定義也沒(méi)有在組件和最終產(chǎn)品之間建立明確的關(guān)系。從另一種分類(lèi)標(biāo)準(zhǔn)來(lái)看，這種可歸因于外部的、駕駛過(guò)程中無(wú)法控制、非自愿的事前隱患被稱(chēng)為“被動(dòng)錯(cuò)誤”。例如，2022年，一輛小鵬汽車(chē)在自動(dòng)輔助駕駛模式下僅因無(wú)法識(shí)別路障而發(fā)生了撞擊。與被動(dòng)錯(cuò)誤相反的是濫用的“主動(dòng)錯(cuò)誤”，即事故根本原因是由駕駛員的主觀懈怠與過(guò)分輕信所引起，即便AI產(chǎn)品的設(shè)計(jì)者和生產(chǎn)者都盡到了注意義務(wù)以避免缺陷存在，侵權(quán)行為仍可能因?yàn)E用而發(fā)生。生產(chǎn)者的濫用行為更傾向于故意，特別是涉及對(duì)AI系統(tǒng)的多種傳感器持續(xù)獲取周邊信息，并將收集的數(shù)據(jù)上傳至數(shù)據(jù)庫(kù)并侵犯?jìng)€(gè)人隱私權(quán)的各種濫用行為。例如，2021年特斯拉擅自查看數(shù)據(jù)庫(kù)中用戶(hù)輸入的路線(xiàn)、地址甚至聊天細(xì)節(jié)等用戶(hù)隱私。

“涌現(xiàn)”的缺陷導(dǎo)致的侵權(quán)與生產(chǎn)、設(shè)計(jì)或使用缺陷導(dǎo)致的侵權(quán)。在可預(yù)期因果分析要素外，也存在與生產(chǎn)、設(shè)計(jì)者的預(yù)設(shè)完全無(wú)關(guān)、由復(fù)雜AI神經(jīng)網(wǎng)絡(luò)交互引起的難以預(yù)料的決策。在研發(fā)、制造和利用AI的全過(guò)程中，通過(guò)模型訓(xùn)練而產(chǎn)生意外、非顯性或非洞察的行為或能力，致使部分造成看似無(wú)關(guān)緊要的偏差，進(jìn)而引發(fā)整體風(fēng)險(xiǎn)的產(chǎn)生，［8］

這就是“涌現(xiàn)”。在生成式AI ChatGPT 之前，最直接的例子是擊敗圍棋冠軍的AlphaGo。其涌現(xiàn)能力表現(xiàn)在采用深度神經(jīng)網(wǎng)絡(luò)和強(qiáng)化學(xué)習(xí)技術(shù)，通過(guò)不斷自我對(duì)弈學(xué)習(xí)圍棋策略，如果AI產(chǎn)品的權(quán)利和義務(wù)都要直接歸屬于AI產(chǎn)品的生產(chǎn)、設(shè)計(jì)和使用者，那么隨著產(chǎn)業(yè)分工的細(xì)化，多個(gè)對(duì)AI產(chǎn)品誕生有重要貢獻(xiàn)的主體對(duì)權(quán)利爭(zhēng)奪和對(duì)責(zé)任規(guī)避的局面也可預(yù)見(jiàn)。《指令》和新 PLD 明確解決了受害者無(wú)法對(duì)與無(wú)形服務(wù)的發(fā)生聯(lián)系產(chǎn)品提出索賠的隱患。例如，自動(dòng)駕駛汽車(chē)的零部件生產(chǎn)者可能要對(duì)影響車(chē)輛安全運(yùn)行的數(shù)據(jù)或地圖故障承擔(dān)責(zé)任。另外，討論可能會(huì)轉(zhuǎn)移到數(shù)據(jù)是否“在生產(chǎn)者的控制范圍內(nèi)”的問(wèn)題，如果缺乏相應(yīng)法律法規(guī)的規(guī)制和責(zé)任分配制度，AI產(chǎn)品的設(shè)計(jì)者、生產(chǎn)者、使用者和第三人等都可能在毫無(wú)過(guò)錯(cuò)的情況下承擔(dān)無(wú)法預(yù)期的風(fēng)險(xiǎn)，無(wú)疑會(huì)阻礙AI技術(shù)發(fā)展。

（三）AI產(chǎn)品侵權(quán)歸責(zé)現(xiàn)實(shí)困境

1.共同侵權(quán)責(zé)任原則的適用缺乏歸責(zé)上的“共同性”

使用共同侵權(quán)歸責(zé)原則的前提是侵權(quán)主體為民法上的責(zé)任主體。雖然AI產(chǎn)品不具有人格，但AI具有類(lèi)人的學(xué)習(xí)決策能力。2023年，一名男子盲目賦予開(kāi)啟自動(dòng)模式（L2，輔助模式）的汽車(chē)以更高權(quán)利，致使其將路面光線(xiàn)識(shí)別為車(chē)道線(xiàn)并撞向路邊圍欄。車(chē)企普遍將“搭載自動(dòng)駕駛芯片”作為宣傳亮點(diǎn)，這一現(xiàn)象也從側(cè)面彰顯出AI技術(shù)在對(duì)車(chē)輛動(dòng)向控制權(quán)重判斷方面的難度。隨著技術(shù)的進(jìn)步，AI產(chǎn)品致?lián)p事故責(zé)任從駕駛員轉(zhuǎn)移到了機(jī)器方，但道德和法律責(zé)任的理論與實(shí)踐并沒(méi)有跟上這種轉(zhuǎn)變的步伐。進(jìn)一步講，假如使用者對(duì)AI系統(tǒng)暴力突破，那么在使用者過(guò)錯(cuò)與AI本身存在缺陷結(jié)合的情境下，過(guò)錯(cuò)的分擔(dān)界限將變得更加模糊。如果AI產(chǎn)品生產(chǎn)者方不承擔(dān)責(zé)任，那就會(huì)導(dǎo)致只要人的行為構(gòu)成侵權(quán)就會(huì)承擔(dān)全部責(zé)任，造成個(gè)人責(zé)任承擔(dān)過(guò)重的窘境。《指令》中并未對(duì)加害行為、損害結(jié)果等其他侵權(quán)要素有技術(shù)性或者規(guī)范性的指導(dǎo)標(biāo)準(zhǔn)，僅涉及對(duì)過(guò)錯(cuò)、不遵守安全規(guī)則和因果關(guān)系等的簡(jiǎn)化，這表明其不愿制定涵蓋侵權(quán)法所有方面的全新責(zé)任制度。這種限制固然有利于各國(guó)享有同等保護(hù)、各國(guó)法律框架相對(duì)穩(wěn)定并保證各國(guó)間法律的自由、協(xié)調(diào)甚至相互借鑒的便利，有利于AI等新技術(shù)誕生之初的規(guī)則部署，但這也遺留了共同侵權(quán)情境認(rèn)定和判斷的規(guī)則模糊的問(wèn)題，無(wú)法依照侵權(quán)要素比對(duì)分配駕駛員和生產(chǎn)者的責(zé)任。

2.嚴(yán)格責(zé)任原則的適用具有“片面性”

對(duì)于AI產(chǎn)品單獨(dú)引發(fā)的“單獨(dú)侵權(quán)型”侵權(quán)，如果適用產(chǎn)品責(zé)任的嚴(yán)格責(zé)任原則，讓設(shè)計(jì)者或生產(chǎn)者承擔(dān)全部責(zé)任顯然有失公允。此外，正如前文所述，AI技術(shù)本身也存在“涌現(xiàn)”問(wèn)題，多個(gè)主體在AI產(chǎn)品的整個(gè)生命周期中，包括設(shè)計(jì)、生產(chǎn)、銷(xiāo)售、使用、轉(zhuǎn)讓等各個(gè)環(huán)節(jié)，都可能產(chǎn)生不可或缺的影響，因此責(zé)任分配的困境是不可避免的。針對(duì)某一AI產(chǎn)品，生產(chǎn)者和設(shè)計(jì)者在制度設(shè)計(jì)中承擔(dān)主要或全部責(zé)任的情況也有可能發(fā)生，這不利于權(quán)利分配的均衡和產(chǎn)業(yè)結(jié)構(gòu)的合理布局。因此，解決“涌現(xiàn)”現(xiàn)象帶來(lái)的權(quán)利責(zé)任歸屬問(wèn)題以及個(gè)體承擔(dān)過(guò)高風(fēng)險(xiǎn)的困境，需要重新考慮對(duì)“過(guò)錯(cuò)”的認(rèn)定。隨著AI系統(tǒng)開(kāi)放程度的不斷提高，追蹤人類(lèi)決策的結(jié)果，并將責(zé)任歸咎于特定參與者也變得愈發(fā)困難。《指令》從舉證責(zé)任承擔(dān)方面對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)設(shè)計(jì)、開(kāi)發(fā)和部署的生產(chǎn)者和設(shè)計(jì)者的證據(jù)披露進(jìn)行規(guī)定，并設(shè)置了有利于被告的舉證程序機(jī)制，但其并未具體解決高風(fēng)險(xiǎn)系統(tǒng)生產(chǎn)者和設(shè)計(jì)者的角色和義務(wù)的問(wèn)題，僅模糊地建議“應(yīng)評(píng)估針對(duì)AI系統(tǒng)嚴(yán)格責(zé)任規(guī)則的適用”。④因而，其對(duì)各主體適用的歸責(zé)原則不具有確定性。

3.過(guò)錯(cuò)責(zé)任原則難以認(rèn)定“過(guò)錯(cuò)”與“因果關(guān)系”

按照傳統(tǒng)的侵權(quán)責(zé)任歸責(zé)標(biāo)準(zhǔn)，責(zé)任由過(guò)錯(cuò)方承擔(dān)。根據(jù)前文所述，AI侵權(quán)行為可以分為缺陷和濫用兩種情形。AI技術(shù)本身具有極大的不確定性，

這種“黑箱”效應(yīng)的復(fù)雜性、不透明性、不可預(yù)見(jiàn)性無(wú)法令設(shè)計(jì)者、生產(chǎn)者和使用者準(zhǔn)確判斷侵害行為的來(lái)源以及如何造成事故、造成何種事故的過(guò)程。

因此，很難論證哪一方對(duì)AI產(chǎn)品的錯(cuò)誤行為具有“過(guò)錯(cuò)”，也無(wú)法確定損害結(jié)果是在沒(méi)有介入因素的前提下由某項(xiàng)侵害行為造成的。《指令》規(guī)定，如果原告證明被告有過(guò)錯(cuò)，并適用歐盟、國(guó)家規(guī)則或法院認(rèn)定，證明具有AI致?lián)p的合理可能以及存在損害，即可判定被告的過(guò)失與AI系統(tǒng)的輸出（或缺乏輸出）之間存在因果關(guān)系，⑤受害者無(wú)需詳細(xì)解釋損害如何由過(guò)錯(cuò)引起，這降低了原告舉證成立標(biāo)準(zhǔn)。這種相對(duì)平衡的舉證義務(wù)既促進(jìn)了科技創(chuàng)新，又遵循了《指令》對(duì)原被告雙方的平衡保護(hù)。然而，受害者仍然處于信息極度不對(duì)稱(chēng)的境地，需要提供具有充分合理性的事實(shí)和證據(jù)才能成功地維護(hù)自身權(quán)益。此外，在協(xié)助受害者證明事實(shí)的證據(jù)披露方面，要求披露證據(jù)的義務(wù)僅適用于AI系統(tǒng)生產(chǎn)者等特定的責(zé)任主體，并不適用于其他被告（如運(yùn)營(yíng)者和服務(wù)提供者）。對(duì)各潛在責(zé)任主體注意義務(wù)的限制一定程度上阻撓了過(guò)錯(cuò)責(zé)任構(gòu)成要件的成立。

二、《指令》下AI產(chǎn)品侵權(quán)歸責(zé)法經(jīng)濟(jì)學(xué)理論解析

法經(jīng)濟(jì)學(xué)是一種制度分析方法，可以借助一定的經(jīng)濟(jì)學(xué)分析工具對(duì)法律制度及其法律行為進(jìn)行經(jīng)濟(jì)學(xué)分析，揭示內(nèi)在經(jīng)濟(jì)動(dòng)因。本文聯(lián)系《指令》和PLD延伸出的歸責(zé)原則不足，從委托代理理論（Principal＼|Agent Model），結(jié)合社會(huì)成本理論（Social Cost Theory）的角度闡釋單獨(dú)適用三種歸責(zé)原則的缺陷：將責(zé)任規(guī)則優(yōu)劣判定立足于能否激勵(lì)當(dāng)事人采取最優(yōu)的預(yù)防水平和行為水平，并能將風(fēng)險(xiǎn)分給對(duì)信息掌控程度高和對(duì)風(fēng)險(xiǎn)不那么厭惡的一方。

（一）AI產(chǎn)品侵權(quán)歸責(zé)兩大經(jīng)濟(jì)學(xué)理論

1.社會(huì)成本理論的基本內(nèi)涵

社會(huì)成本理論主要用于分析和評(píng)估經(jīng)濟(jì)活動(dòng)對(duì)整個(gè)社會(huì)產(chǎn)生的影響。賽斯?fàn)枺ˋ.C.Pigou）在20世紀(jì)初提出，政府可以將社會(huì)成本納入經(jīng)濟(jì)決策考量，通過(guò)稅收和補(bǔ)貼等政策手段彌補(bǔ)市場(chǎng)無(wú)法完全解決“外部性”問(wèn)題。而后，科斯（Ronald Coase）的交易費(fèi)用理論認(rèn)為，一定條件下的私人協(xié)商可通過(guò)交易最大化社會(huì)福利。波斯納（Richard Allen Posner）進(jìn)一步總結(jié)和發(fā)展了該理論，認(rèn)為法律應(yīng)努力使社會(huì)福利最大化而社會(huì)成本最低，支持將責(zé)任分配給最有能力減少事故一方身上的嚴(yán)格責(zé)任制度。首先，法律的主要目標(biāo)應(yīng)該是促進(jìn)效率，即法律應(yīng)按最小化社會(huì)成本設(shè)計(jì)。其次是如何將預(yù)防成本（為了避免事故發(fā)生而產(chǎn)生的成本）、事故成本（事故發(fā)生后的損失）和轉(zhuǎn)移成本（與損害賠償保險(xiǎn)有關(guān)的成本）最小化。再次，風(fēng)險(xiǎn)應(yīng)由能夠使其以最低成本呈現(xiàn)的一方來(lái)承擔(dān)。此外，在市場(chǎng)失效，信息不對(duì)稱(chēng)的情況下，法律應(yīng)當(dāng)介入以糾正市場(chǎng)失效。最后，其對(duì)合同（contract）與侵權(quán)的關(guān)系進(jìn)行分析，認(rèn)為合同可能作為規(guī)避、管理風(fēng)險(xiǎn)的工具。社會(huì)成本理論強(qiáng)調(diào)外部成本，即個(gè)體行為對(duì)第三方產(chǎn)生的不經(jīng)濟(jì)影響。在AI產(chǎn)品侵權(quán)涉及侵權(quán)行為可能對(duì)他人造成損害，社會(huì)成本理論能夠幫助量化這些外部成本。

2.委托代理理論在傳統(tǒng)產(chǎn)品責(zé)任的適用

經(jīng)眾多學(xué)者對(duì)社會(huì)成本理論的改進(jìn)和擴(kuò)展，委托代理理論最終形成。侵權(quán)法的主要目的是通過(guò)分配責(zé)任，引導(dǎo)行為主體做出有效率、使社會(huì)福利最大化的行為選擇。某種類(lèi)型的事故所適用的侵權(quán)規(guī)則可能隨著生產(chǎn)力和生產(chǎn)關(guān)系的調(diào)整發(fā)生巨變。隨著生產(chǎn)供應(yīng)鏈愈加復(fù)雜，生產(chǎn)者和消費(fèi)者相對(duì)平衡的地位也逐漸被打破。20世紀(jì)60年代以前過(guò)錯(cuò)責(zé)任為產(chǎn)品事故的規(guī)則主導(dǎo)，而美國(guó)在“第二次侵權(quán)法重述”中率先引入嚴(yán)格規(guī)則并迅速影響全球立法，如歐盟在PLD中也確立了允許基于產(chǎn)品缺陷追究生產(chǎn)者責(zé)任的嚴(yán)格責(zé)任制度。⑥產(chǎn)品責(zé)任制度的重要變化可以從法經(jīng)濟(jì)學(xué)理論得到解釋。

如果每單位預(yù)防成本為生產(chǎn)者規(guī)避更多預(yù)期損害，生產(chǎn)者當(dāng)然會(huì)為了降低預(yù)期損害投入更多的預(yù)防措施以盡可能提升注意水平（care level）［9］

。嚴(yán)格責(zé)任可以激勵(lì)（deterrence）生產(chǎn)者避免選擇過(guò)高或過(guò)低的注意水平，控制每單位預(yù)防成本與其可以避免的預(yù)期損害相當(dāng)。相較過(guò)錯(cuò)責(zé)任，嚴(yán)格責(zé)任也可引導(dǎo)行為人在注意水平最優(yōu)的情況下優(yōu)化其行為水平（activity level）。一個(gè)行為主體行為的頻率和范圍取決于該行為的效用。個(gè)體差異使法律很難設(shè)定統(tǒng)一標(biāo)準(zhǔn)來(lái)統(tǒng)一行為。不同技術(shù)方案可能帶來(lái)產(chǎn)品效用差異，更可能產(chǎn)生截然不同的事故成本。嚴(yán)格責(zé)任使生產(chǎn)者將所有事故成本內(nèi)化為生產(chǎn)成本，引導(dǎo)其通過(guò)內(nèi)部決策優(yōu)化行為水平，激勵(lì)其改進(jìn)生產(chǎn)行為以減少事故發(fā)生。［10］

一個(gè)產(chǎn)品的總成本包括生產(chǎn)成本、雙方的預(yù)防成本以及事故預(yù)期損害的總和。在過(guò)錯(cuò)責(zé)任下，生產(chǎn)者只需履行法定的注意義務(wù)即可免責(zé)，因此產(chǎn)品的總成本不包括生產(chǎn)者為預(yù)期損害提供的補(bǔ)償金額，這導(dǎo)致市場(chǎng)價(jià)格低于產(chǎn)品的實(shí)際成本。作為供應(yīng)鏈中最終的消費(fèi)者，他們對(duì)產(chǎn)品的前序環(huán)節(jié)了解甚少，存在著雙方信息不對(duì)稱(chēng)的問(wèn)題，無(wú)法準(zhǔn)確評(píng)估產(chǎn)品預(yù)期損害發(fā)生的可能性，因此可能會(huì)低估產(chǎn)品的實(shí)際成本，從而做出更加激進(jìn)的消費(fèi)選擇。［11］嚴(yán)格責(zé)任規(guī)則下，生產(chǎn)者即便盡到注意義務(wù)也無(wú)法免責(zé)，因此產(chǎn)品的價(jià)格中自然會(huì)包括預(yù)期損害金額以彌補(bǔ)生產(chǎn)者承擔(dān)的風(fēng)險(xiǎn)，產(chǎn)品的市場(chǎng)價(jià)格接近產(chǎn)品的全部成本，消費(fèi)者可以通過(guò)合理估計(jì)做出更有效率的選擇。

邊際效益（marginal productivity）是對(duì)生產(chǎn)函數(shù)的一階導(dǎo)數(shù)，是指在各種產(chǎn)業(yè)中每多增加一單位的生產(chǎn)要素（如勞工、資本等）所能增加的生產(chǎn)量。另外，邊際成本（marginal cost，簡(jiǎn)稱(chēng)MC）是指生產(chǎn)者每增加一單位產(chǎn)量所增加的成本。傳統(tǒng)經(jīng)濟(jì)學(xué)模型假設(shè)所有當(dāng)事人都是風(fēng)險(xiǎn)中立的，即每增長(zhǎng)一個(gè)單位的財(cái)富所帶來(lái)的效率是相等的。但不同人對(duì)風(fēng)險(xiǎn)的態(tài)度不盡相同，甚至出現(xiàn)邊際效益遞減的情況。這部分人面對(duì)預(yù)期損害更愿意事前花費(fèi)成本規(guī)避事后可能的更大損失，即“風(fēng)險(xiǎn)規(guī)避型”。不同當(dāng)事人對(duì)于風(fēng)險(xiǎn)的感知和影響程度是不同的，因此存在著一方更傾向于規(guī)避風(fēng)險(xiǎn)的情況。如果一種侵權(quán)規(guī)則不僅能夠促使雙方當(dāng)事人行為更加合理，而且能夠避免將風(fēng)險(xiǎn)全部轉(zhuǎn)嫁給相對(duì)更傾向于規(guī)避風(fēng)險(xiǎn)的一方，那么這種侵權(quán)規(guī)則就被認(rèn)為是更加有效率的。如果侵權(quán)規(guī)則未能達(dá)到這種效果，就需要依靠保險(xiǎn)制度的風(fēng)險(xiǎn)轉(zhuǎn)移功能來(lái)實(shí)現(xiàn)。相較于消費(fèi)者，生產(chǎn)者在風(fēng)險(xiǎn)中更加中立，因此他們不僅可以通過(guò)價(jià)格方式將風(fēng)險(xiǎn)分擔(dān)給消費(fèi)者，還可以通過(guò)購(gòu)買(mǎi)保險(xiǎn)將風(fēng)險(xiǎn)進(jìn)一步轉(zhuǎn)移給對(duì)風(fēng)險(xiǎn)更加中立的保險(xiǎn)公司。因此，實(shí)施嚴(yán)格責(zé)任制度有助于提升社會(huì)福利。

（二）共同責(zé)任原則法經(jīng)濟(jì)學(xué)解析

共同責(zé)任原則是一種廣義的歸責(zé)原則。根據(jù)社會(huì)成本理論，AI產(chǎn)品的過(guò)錯(cuò)方應(yīng)當(dāng)承擔(dān)共同侵權(quán)責(zé)任，即至少承擔(dān)部分損失的賠償責(zé)任。否則，將導(dǎo)致侵權(quán)成本的錯(cuò)誤分配，使得AI產(chǎn)品的過(guò)錯(cuò)方將侵權(quán)成本不斷轉(zhuǎn)嫁給粗心的產(chǎn)品使用者，從而產(chǎn)生巨大的社會(huì)成本。與此同時(shí)，過(guò)錯(cuò)方無(wú)法受到侵權(quán)責(zé)任承擔(dān)的激勵(lì)，也無(wú)法嘗試降低該成本，而這個(gè)成本原本可以用更低的代價(jià)來(lái)避免。另外，過(guò)錯(cuò)方從對(duì)社會(huì)施加的巨大社會(huì)成本中獲益，這就要求他們應(yīng)當(dāng)承擔(dān)與其獲益相適應(yīng)的成本和風(fēng)險(xiǎn)。責(zé)任主體包括AI產(chǎn)品的生產(chǎn)者和使用者兩類(lèi)。在這種情況下，《指令》對(duì)過(guò)錯(cuò)的證明程度相對(duì)較寬松，同時(shí)考慮到保險(xiǎn)覆蓋面和賠償額度較高（《關(guān)于機(jī)動(dòng)車(chē)民事責(zé)任保險(xiǎn)的指令2009/03/C》）。本質(zhì)上，受害方總是會(huì)得到補(bǔ)償。因此，自動(dòng)駕駛汽車(chē)造成事故大多數(shù)是關(guān)于相關(guān)保險(xiǎn)責(zé)任的公平分配問(wèn)題，特別是在L4以上等級(jí)下，大多數(shù)事故由生產(chǎn)者的錯(cuò)誤設(shè)計(jì)引起，這種情況下，應(yīng)考慮費(fèi)用應(yīng)由車(chē)主和駕駛員或生產(chǎn)者承擔(dān)的問(wèn)題。

（三）過(guò)錯(cuò)責(zé)任原則法經(jīng)濟(jì)學(xué)解析

《指令》提出“基于提供者、開(kāi)發(fā)者、使用者的過(guò)失或不作為而提出的賠償責(zé)任”，實(shí)際上確立了以過(guò)錯(cuò)作為歸責(zé)標(biāo)準(zhǔn)的責(zé)任框架。《指令》雖然采取多項(xiàng)措施以維持各方利益平衡，但“過(guò)錯(cuò)”存在與國(guó)家法律概念矛盾的風(fēng)險(xiǎn)。過(guò)錯(cuò)主觀上要求其可歸因于實(shí)施過(guò)錯(cuò)人的自由意志（可預(yù)見(jiàn)性），客觀上要求此人具有評(píng)估和控制行為后果的能力。然而，《指令》并未涉及主觀因素，因此，目前也尚不清楚《指令》及各國(guó)法律法規(guī)中“注意義務(wù)”概念是否也包括可預(yù)見(jiàn)性這種主觀要求。因此，如果過(guò)錯(cuò)的成立不需要當(dāng)事人本身的“可預(yù)見(jiàn)性”過(guò)錯(cuò)，從激勵(lì)的角度來(lái)看，也有可能導(dǎo)致對(duì)當(dāng)事人注意水平的過(guò)低要求，甚至不能引導(dǎo)當(dāng)事人為進(jìn)一步降低預(yù)期損害而優(yōu)化行為水平以達(dá)到避免事故發(fā)生的成本和損害相等的境地。從信息不對(duì)稱(chēng)的角度來(lái)看，生產(chǎn)者一方掌握更多信息，在盡到法律規(guī)定的注意義務(wù)時(shí)即可免責(zé)，而產(chǎn)品的成本也不包括生產(chǎn)者加入的預(yù)期損害補(bǔ)償金額，這導(dǎo)致市場(chǎng)價(jià)格可能比產(chǎn)品的實(shí)際全部成本更低。如果駕駛員無(wú)法準(zhǔn)確估計(jì)商品的預(yù)期損害和發(fā)生概率，就可能低估產(chǎn)品的實(shí)際成本，進(jìn)而做出更為激進(jìn)的消費(fèi)選擇。從風(fēng)險(xiǎn)分散的角度來(lái)看，由于雙方當(dāng)事人都處在低過(guò)錯(cuò)要求的境地下，生產(chǎn)者相較于駕駛員更加傾向于規(guī)避風(fēng)險(xiǎn)，這可能提高了駕駛員作為更為規(guī)避風(fēng)險(xiǎn)的一方承擔(dān)更多風(fēng)險(xiǎn)的可能性。因此，需要考慮將過(guò)錯(cuò)責(zé)任原則與其他歸責(zé)原則結(jié)合，提出新的歸責(zé)方式。

（四）嚴(yán)格責(zé)任原則法經(jīng)濟(jì)學(xué)解析

傳統(tǒng)的PLD確立了嚴(yán)格責(zé)任制度，新PLD的應(yīng)用遠(yuǎn)遠(yuǎn)超出了嚴(yán)格意義上的產(chǎn)品領(lǐng)域。《指令》旨在解決AI發(fā)展問(wèn)題。一方面，這表明政策制定者意識(shí)到越來(lái)越多的AI產(chǎn)品不再被視為純獨(dú)立對(duì)象，而是被視為智能物品甚至“系統(tǒng)”，也需要與《指令》保持一致。因此，應(yīng)該深入分析產(chǎn)品責(zé)任適用范圍擴(kuò)展的后果。在AI的情境下，我們對(duì)人進(jìn)行激勵(lì)，通過(guò)替代責(zé)任引導(dǎo)，能否依然有效地控制AI產(chǎn)品的行為呢？實(shí)際上，在將自動(dòng)駕駛汽車(chē)視為一種物品的情況下，其生產(chǎn)者難以控制其行為。從激勵(lì)的角度來(lái)看，AI技術(shù)造成事故的成本并不一定能夠通過(guò)對(duì)AI產(chǎn)品生產(chǎn)商和開(kāi)發(fā)者施加激勵(lì)來(lái)促使其注意和行為水平達(dá)到最優(yōu)，因?yàn)锳I技術(shù)本身具有極大的不確定性，其如何造成事故、造成何種類(lèi)型的事故對(duì)于生產(chǎn)者來(lái)說(shuō)是處于黑箱中的。因此，相對(duì)于傳統(tǒng)的生產(chǎn)者，AI技術(shù)的生產(chǎn)者對(duì)風(fēng)險(xiǎn)和事故的控制能力有所降低。換句話(huà)說(shuō)，實(shí)施嚴(yán)格的責(zé)任對(duì)于AI技術(shù)生產(chǎn)者的激勵(lì)可能會(huì)低于預(yù)期。從信息不對(duì)稱(chēng)的角度來(lái)看，由于生產(chǎn)者對(duì)事故成本的認(rèn)識(shí)較為模糊，這也意味著即使在嚴(yán)格責(zé)任的情況下，事故成本也可能不會(huì)客觀地反映在產(chǎn)品價(jià)格中。因此，傳統(tǒng)的嚴(yán)格責(zé)任減少信息不對(duì)稱(chēng)的功能，在AI技術(shù)環(huán)境下有所削弱。這也會(huì)導(dǎo)致消費(fèi)者無(wú)法通過(guò)市場(chǎng)價(jià)格獲得產(chǎn)品風(fēng)險(xiǎn)的信號(hào)，從而做出效率不高的選擇。從風(fēng)險(xiǎn)轉(zhuǎn)移的角度來(lái)看，傳統(tǒng)意義上的產(chǎn)品生產(chǎn)者通常是具有一定抵御風(fēng)險(xiǎn)能力的企業(yè)。然而，在AI環(huán)境下，研發(fā)主體逐漸變?yōu)榉稚⒌膫€(gè)體，AI技術(shù)的算法具有較強(qiáng)的私人性。如果對(duì)AI技術(shù)和算法開(kāi)發(fā)者實(shí)施嚴(yán)格責(zé)任，這些主體的研發(fā)積極性可能會(huì)受到一定的抑制。因此，針對(duì)AI技術(shù)開(kāi)發(fā)者實(shí)施嚴(yán)格責(zé)任可能無(wú)法實(shí)現(xiàn)預(yù)期的效率。

三、《指令》下AI產(chǎn)品侵權(quán)的歸責(zé)原則法經(jīng)濟(jì)適用與構(gòu)想

除了《指令》和PLD已提到的措施外，要考慮技術(shù)的進(jìn)步和AI系統(tǒng)自治的復(fù)雜性和特殊性更是長(zhǎng)路漫漫。如果事故概率取決于受害者的注意水平和行為水平及加害者的注意水平和行為水平，最佳責(zé)任分配規(guī)則還無(wú)法確定。根據(jù)上文分析，目前歸責(zé)方式的單獨(dú)適用并不能完全實(shí)現(xiàn)社會(huì)福利最大化而社會(huì)成本最小的目標(biāo)，在某一具體細(xì)化場(chǎng)景中，當(dāng)其效率受到影響時(shí)，需要結(jié)合具體情境和規(guī)則細(xì)分，從而實(shí)現(xiàn)社會(huì)福利最大化的歸責(zé)目標(biāo)。

（一）共同責(zé)任原則單獨(dú)適用

受害者不屬于傳統(tǒng)意義上的侵權(quán)行為人，不需要參與侵權(quán)責(zé)任分配，因此，本部分僅考慮最常見(jiàn)的單邊侵權(quán)場(chǎng)景，此時(shí)受害者的注意水平不影響事故發(fā)生的概率。當(dāng)前對(duì)L3及以下“輔助型”階段汽車(chē)是否適用共同責(zé)任原則已無(wú)過(guò)多爭(zhēng)議。本部分主要探討L4及以上的“自主型”階段的情況。此時(shí)，看似駕駛員對(duì)汽車(chē)的控制程度較低，駕駛員注意水平高低不影響事故發(fā)生概率，然而，駕駛員并非完全脫離對(duì)AI系統(tǒng)的控制，其依然在諸如選擇目的地、駕駛天氣、駕駛環(huán)境等操作下變動(dòng)行為水平。涉及包括生產(chǎn)者和駕駛員在內(nèi)的多個(gè)加害者，在此假設(shè)事故風(fēng)險(xiǎn)僅受AI產(chǎn)品的完善程度（生產(chǎn)者注意水平）以及駕駛員的操作幅度（駕駛員行為水平）影響，事故發(fā)生概率可以被解釋為使用生產(chǎn)者的注意水平和駕駛員的行為水平作為輸入的函數(shù)，單獨(dú)一個(gè)變量的輸入和輸出可用對(duì)生產(chǎn)者注意水平以及駕駛員行為水平的邊際效益進(jìn)行解釋。卡拉布雷西（Calabresi）提出侵權(quán)法中最大的社會(huì)福利要求最小的生產(chǎn)者預(yù)防成本和事故成本（事故概率和事故損失之積）。駕駛員和生產(chǎn)者需要分別選擇使社會(huì)福利最大化的駕駛員的行為水平和生產(chǎn)者的注意水平以實(shí)現(xiàn)效率最大的目標(biāo)。可以從中推出，社會(huì)福利最大化必須平衡駕駛員行為水平帶來(lái)的社會(huì)邊際效益變化和事故概率增加帶來(lái)的更多駕駛員行為水平變化造成的邊際成本；生產(chǎn)者的注意水平必須通過(guò)降低事故概率和提高注意水平的邊際成本來(lái)平衡生產(chǎn)者注意水平增加帶來(lái)的邊際效益變化。進(jìn)而可得出結(jié)論：事故概率取決于生產(chǎn)者的注意水平和駕駛員行為水平，針對(duì)L4及以上的“自主型”駕駛階段，存在生產(chǎn)者和駕駛員兩位被告，可以應(yīng)用共同責(zé)任原則，使生產(chǎn)者和駕駛員承擔(dān)連帶責(zé)任。

（二）過(guò)錯(cuò)責(zé)任與嚴(yán)格責(zé)任混合適用

在上述討論的基礎(chǔ)上，對(duì)于采用L4及以上的“自主型”駕駛階段的駕駛員而言，其面臨著信息不對(duì)稱(chēng)的局限，難以確定適用于具體法律規(guī)則標(biāo)準(zhǔn)。相比之下，生產(chǎn)者掌握的信息更加全面，能夠采取應(yīng)有的注意水平，使其注意水平和行為水平等于社會(huì)福利的最大化水平，而駕駛員則相反。在過(guò)錯(cuò)責(zé)任原則下，生產(chǎn)者和駕駛員的責(zé)任份額分別占據(jù)一定的比例。當(dāng)生產(chǎn)者的責(zé)任份額超出其應(yīng)有的責(zé)任份額時(shí)，駕駛員選擇采用有效的行為水平，而生產(chǎn)者則選擇采用有效但又過(guò)高的注意水平，以達(dá)到責(zé)任份額分擔(dān)的動(dòng)態(tài)平衡。然而，由于信息不對(duì)稱(chēng)的存在，駕駛員可能需要承擔(dān)較高的責(zé)任份額，但這并不能保證社會(huì)福利的最大化。因此，為了實(shí)現(xiàn)社會(huì)福利的最大化，需要進(jìn)行人為干預(yù)來(lái)控制在過(guò)錯(cuò)連帶責(zé)任下的責(zé)任份額分配，將更多的責(zé)任份額分配給生產(chǎn)者，并激勵(lì)所有潛在的加害者采取有效的注意水平，而不是考慮責(zé)任份額。因此，可以考慮僅將過(guò)錯(cuò)責(zé)任適用于生產(chǎn)者。如果將剩余責(zé)任分配給駕駛員承擔(dān)，即對(duì)駕駛員采用嚴(yán)格責(zé)任原則，駕駛員受到激勵(lì)選擇有效的行為水平，而生產(chǎn)者選擇適當(dāng)又平衡的注意水平也是合理的。由于生產(chǎn)者先行承擔(dān)了適當(dāng)?shù)呢?zé)任，駕駛員不至于投入過(guò)度成本采用過(guò)度的行為水平。通過(guò)將過(guò)錯(cuò)責(zé)任歸于生產(chǎn)者，剩余責(zé)任歸于駕駛員：如果生產(chǎn)者將注意水平提升至超過(guò)應(yīng)有限度，其將承擔(dān)全部責(zé)任份額；如果生產(chǎn)者選擇將注意水平降低至低于應(yīng)有限度，則駕駛員將承擔(dān)全部責(zé)任份額。這樣的安排在本質(zhì)上需要讓生產(chǎn)者在平衡狀態(tài)下將注意水平調(diào)整至與應(yīng)有的注意水平恰好相等，使駕駛員承擔(dān)適當(dāng)?shù)氖Ｓ嘭?zé)任。當(dāng)然，在L3及以下的“輔助型”自動(dòng)駕駛階段，生產(chǎn)者承擔(dān)剩余責(zé)任可能是最優(yōu)的選擇。在某些極端情況下，駕駛員可能需要承擔(dān)100%的責(zé)任份額，而生產(chǎn)者的責(zé)任份額為0。在這種情況下，駕駛員需要將所有外部條件內(nèi)化，以最大限度地提升社會(huì)福利。

（三）責(zé)任主體認(rèn)定與雙邊歸責(zé)原則構(gòu)想

隨著社會(huì)分工的細(xì)化，多方主體對(duì)AI的責(zé)任承擔(dān)與利益分配形成爭(zhēng)議。在實(shí)踐中，來(lái)自不同生產(chǎn)者的AI系統(tǒng)組件復(fù)雜的相互依賴(lài)會(huì)引發(fā)嚴(yán)重的安全與兼容性問(wèn)題，例如傳感器和硬件與軟件組件和應(yīng)用程序、數(shù)據(jù)服務(wù)和連接功能交互的情況。自動(dòng)駕駛汽車(chē)風(fēng)險(xiǎn)的關(guān)聯(lián)主體主要有AI系統(tǒng)的生產(chǎn)者、運(yùn)營(yíng)者、使用者及潛在受害者四類(lèi)。生產(chǎn)者和運(yùn)營(yíng)者通常為一體，如特斯拉汽車(chē)系統(tǒng)生產(chǎn)者和運(yùn)營(yíng)者都是特斯拉公司。《指令》表明AI系統(tǒng)的利益相關(guān)者包括遭受損害的受害者、潛在加害者和保險(xiǎn)公司，這使得受害者難以確定致?lián)p責(zé)任人。在單邊侵權(quán)場(chǎng)景下，對(duì)生產(chǎn)者和駕駛員采用混合責(zé)任分擔(dān)路徑。《指令》對(duì)AI產(chǎn)品致?lián)p案件中的原告受害者更為偏袒，允許其援引成員國(guó)法律中更有利的規(guī)則請(qǐng)求獲取涉嫌致?lián)p的特定高風(fēng)險(xiǎn)AI系統(tǒng)的證據(jù)，⑦

同時(shí)推定不保存、不披露證據(jù)的被告不遵守注意義務(wù)；⑧

以具有“可能性”作為因果關(guān)系的確立條件且附帶了“獲取證據(jù)之權(quán)利”。但在放寬受害者舉證責(zé)任的同時(shí)，作為加害者的生產(chǎn)者和駕駛員需要兜底性地承擔(dān)剩余責(zé)任，造成加害者不得不采取有效的注意水平和行為水平，因此又造成可能成為加害者的受害者注意水平過(guò)低。嚴(yán)格責(zé)任原則下，受害者不能受到激勵(lì)采取有效注意水平；過(guò)錯(cuò)責(zé)任原則只能控制加害者及受害者的有效注意水平，因此潛在加害者的行為無(wú)法控制。另外，只要生產(chǎn)者和駕駛員的行為會(huì)影響事故風(fēng)險(xiǎn)，那么其他潛在加害者也會(huì)隨之采取無(wú)法控制的行為。如果加害者為不同角色，本文認(rèn)為也可對(duì)每個(gè)人適用不同的責(zé)任規(guī)則。

綜上所述，在最常見(jiàn)的單邊場(chǎng)景下，本文嘗試探討僅將過(guò)錯(cuò)責(zé)任原則適用于生產(chǎn)者，將嚴(yán)格責(zé)任原則適用于駕駛員。即如果生產(chǎn)者存在過(guò)錯(cuò)，駕駛員和生產(chǎn)者以各自的責(zé)任份額分擔(dān)責(zé)任；但如果生產(chǎn)者被證明遵循了應(yīng)有的注意義務(wù)，那事故損失必須完全由被適用嚴(yán)格責(zé)任規(guī)則的駕駛員承擔(dān)；在雙邊場(chǎng)景下也可參照適用該思路構(gòu)建責(zé)任規(guī)則體系。

注釋?zhuān)?/p>

①?gòu)?qiáng)AI約等于智能人。AI脫離人類(lèi)成為獨(dú)立存在的個(gè)體，不再被人類(lèi)所支配。

②Article 3（1） proposed AI ACT.

③Article 2（9） proposed AI ACT

④Article 5（2） proposed AI Liability Directive.

⑤Article 4（5） proposed AI Liability Directive.

⑥D(zhuǎn)irective on the approximation of the laws， regulations and administrative provisions of the Member States concerning liability for defective products.85/374/EEC.

⑦Article 3 proposed AI Liability Directive.

⑧Article 3（5） proposed AI Liability Directive.

參考文獻(xiàn)：

［1］徐昭曦.反思與證立：強(qiáng)AI法律主體性審視［J］.中共中央黨校（國(guó)家行政學(xué)院）學(xué)報(bào)，2019（3）：80-88.

［2］中國(guó)信息通信研究院.人工智能標(biāo)準(zhǔn)化白皮書(shū)（2018年版）［EB/OL］.［2024-03-15］.http：//www.cesi.cn/201801/3545.html.

［3］楊立新.人工智能產(chǎn)品責(zé)任的功能及規(guī)則調(diào)整［J］.數(shù)字法治，2023（4）：27-39.

［4］楊立新.論智能機(jī)器人的民法地位及其致人損害的民事責(zé)任［J］.人工智能法學(xué)研究，2018（2）：3-20.

［5］于艾思.AI產(chǎn)品侵權(quán)責(zé)任制度的經(jīng)濟(jì)法學(xué)研究［D］.長(zhǎng)春：吉林大學(xué)，2022：25.

［6］許中緣，范沁寧.人工智能產(chǎn)品缺陷司法認(rèn)定標(biāo)準(zhǔn)之研究［J］.重慶大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2022（1）：257-269.

［7］史亞娟.英國(guó)漏報(bào)近1.6萬(wàn)新冠確診病例！背后只是“坑人”的Excel嗎？［EB/OL］.（2020-10-29）［2024-03-18］.https：//baijiahao.baidu.com/s？id=1681845638009143 296amp;wfr=spideramp;for=pc.

［8］莊園.AI有限民事主體資格研究［D］.杭州：浙江工商大學(xué)，2021.

［9］William M Landes，Richard A Posner.A positive economic analysis of products liability［J］.The Journal of Legal Studies，1985（3）：536-567.

［10］Steven Shavel.Economic analysis of accident law［M］.Harvard University Press， 2009：1-2.

［11］Hylton K N.The law and economics of products liability［J］.Notre Dame L.Rev.，2012，88：2457.

（責(zé)任編輯劉成賀）

A Legal and Economics Review of AI Product Infringement Liability Principles

— Comments on the EU’s Artificial Intelligence Liability Directive

JIANG Yanbin， GAO Huiyi

（ "School of Law， Central South University， Changsha， Hunan 410083， China）

Abstract： AI products are based on AI technology for the purpose of sales and use. They rely on fixed programs set by developers to make decisions and complete corresponding tasks through calculations. They are widely used in the field of movable property in various industries; AI product infringement liability principles can be roughly divided into three categories： the principle of joint liability tort， the principle of strict liability and the principle of fault tort. When applying the principle of tort liability， common dilemmas include the lack of “commonality” in liability in the principle of joint tort liability， the “one-sidedness” of the principle of strict liability， and the difficulty in determining “fault” and “causal relationship” in the principle of fault liability. In addition， the subject of responsibility is not clear yet. Based on social cost and principal-agent theory， AI product infringement liability theory can analyze the basic logic of liability from the three dimensions of institutional incentives， information asymmetry and risk dispersion， in order to maximize social welfare. The European Union’s Artificial Intelligence Liability Directive （referred to as the “Directive”） only stipulates elements such as the burden of proof， evidence disclosure， and presumption of causality in addition to general provisions. There are loopholes in the regulation of product infringement issues， and the strict liability system established by the “Directive” still remains. There is room for supplementation and improvement. In order to maximize social welfare under the “Directive”， this article attempts to apply the strict liability， the principle of fault liability to producers and the principle of residual liability to drivers. That is， if the producer is at fault， the driver and the producer will be share responsibility in their respective shares of liability; if the producer is proven to have followed due care， the accident losses must be borne entirely by the driver to whom the strict liability rules apply.

Key words：principles of liability for infringement of AI products; law and economics; principal-agent theory; social cost theory; EU Artificial Intelligence Liability Directive