自動駕駛技術(shù)的倫理風險、事故的歸責模式與責任規(guī)避

中圖分類號：B82-057；U491 文獻標志碼：A 文章編號:1672-9684(2025)04-0080-011

自動駕駛技術(shù)可以追溯到20世紀80年代，它最初只是科研機構(gòu)的實驗室項目，主要依靠傳感器、計算機視覺和機器學習等關(guān)鍵技術(shù)。近年來，隨著人工智能技術(shù)的不斷突破和傳感技術(shù)的日漸成熟，自動駕駛技術(shù)從實驗室走向?qū)嶋H應(yīng)用，在航空、物流、鐵路等領(lǐng)域發(fā)揮作用。如今，自動駕駛系統(tǒng)能夠準確地感知周圍環(huán)境，智能地做出決策，其安全性和可靠性大幅提升，在汽車行業(yè)得到廣泛應(yīng)用，正深刻變革人們的出行方式乃至生活方式。

2019 年，百度公司宣布啟動“蘿卜快跑”項目，開啟了我國自動駕駛技術(shù)的商業(yè)化運營。

基金項目:教育部人文社會科學研究青年基金項目“人工智能語境下科學表征的方法論困境及其趨向研究\"（20YJC720026);山西省優(yōu)秀博士科研啟動金項目“當代馬克思主義科學技術(shù)觀的哲學反思\"（SD1822）;山西醫(yī)科大學校級博士科研啟動金項目“馬克思主義科學技術(shù)觀的現(xiàn)實觀照\"（XD1820）

作者簡介：楊燁陽(1986—)，女，山西臨汾人，副教授，哲學博士，主要從事人工智能與科技倫理研究；王元喆(2000—），男，吉林白城人，碩士研究生，主要從事馬克思主義科學技術(shù)觀研究;蘇果云（1962—），女，山西忻州人，教授，博士生導(dǎo)師，主要從事馬克思主義科學技術(shù)觀研究。

2024年5月，“蘿卜快跑”依托全球首個支持L4 級自動駕駛的大模型Apollo ADFM實現(xiàn)了全無人自動駕駛，并在國內(nèi)11個城市試運行無人駕駛出租車，此舉引起人們廣泛的關(guān)注。然而，自動駕駛技術(shù)的應(yīng)用使事故責任認定面臨挑戰(zhàn)。“蘿卜快跑”作為自動駕駛技術(shù)領(lǐng)域的佼佼者，其在實踐中遇到的問題頗具代表性。自動駕駛車輛由算法控制行為決策，不代表駕駛員的個人意志，而軟件工程師、車輛制造商、銷售商等多方主體共同參與自動駕駛技術(shù)的研發(fā)和推廣使責任主體變得多元化。謹慎審視自動駕駛技術(shù)的事故風險與倫理責任，有助于完善責任體系，保障技術(shù)的可持續(xù)發(fā)展和社會的人際和諧。

一、文獻回顧與問題提出

當前，人工智能廣泛應(yīng)用于數(shù)字教育、智能醫(yī)療、數(shù)智媒體、智慧城市等人類的生產(chǎn)、生活領(lǐng)域，科技倫理問題也為之日益凸顯。其中，作為人工智能應(yīng)用最早落地的領(lǐng)域之一，自動駕駛技術(shù)是人工智能技術(shù)全方位、集成化應(yīng)用的產(chǎn)物，且其發(fā)展速度非常快，產(chǎn)業(yè)基礎(chǔ)相對成熟，是人工智能技術(shù)極具代表性的應(yīng)用場景[1。近年來，學界對于自動駕駛技術(shù)及其應(yīng)用風險的探討熱度頗高，相關(guān)研究主要聚焦于技術(shù)應(yīng)用的現(xiàn)實風險和社會治理問題，而對自動駕駛技術(shù)的安全性與倫理道德、法規(guī)規(guī)制與責任歸屬、技術(shù)融合創(chuàng)新與社會治理等問題的研究尤為突出。

第一，自動駕駛技術(shù)的道德決策問題。自動駕駛技術(shù)本質(zhì)上屬于“非人之物”，同樣面臨著“電車難題”，其核心倫理問題可簡單地表述為：自動駕駛汽車在電車情境中應(yīng)該如何反應(yīng)[2？在技術(shù)領(lǐng)域，學者普遍從實證研究的角度探究算法的優(yōu)化趨向。而在哲學領(lǐng)域，則著眼于探討統(tǒng)一的功利主義設(shè)定的道德合理性和潛在困境，如康提薩的“道德旋鈕”①構(gòu)想。在社會學領(lǐng)域，學者們也對自動駕駛技術(shù)對社會生活的影響進行了廣泛討論，研究呈現(xiàn)出多層次的特征。

第二，自動駕駛技術(shù)責任承擔問題。目前，法律界普遍認為自動駕駛技術(shù)不能作為獨立承擔責任的主體。但是在倫理層面，自動駕駛技術(shù)能否獨立擔責已成為討論焦點。在L4（完全自動駕駛)及以上級別的自動駕駛模式中，已無傳統(tǒng)的人工操作空間，那么作為車輛的實際控制者，自動駕駛系統(tǒng)能否被視為責任承擔主體呢？部分學者認為自動駕駛技術(shù)本質(zhì)上屬于人工智能算法，不能獨立承擔責任而成為道德主體，否則便是對人類主體地位的否認[3];反之，有觀點認為過分對駕駛員進行追責，會導(dǎo)致嚴格責任，甚至引發(fā)“責任離散”現(xiàn)象，不利于確保人類主體的合法權(quán)益[4]。因此，如何界定責任主體成為當前亟待解決的核心問題。

第三，技術(shù)融合創(chuàng)新與社會治理。自動駕駛技術(shù)包括控制、感知、決策三個系統(tǒng)，其中，控制系統(tǒng)和感知系統(tǒng)與高階道德算法沒有直接關(guān)聯(lián)，只有決策系統(tǒng)牽涉高階道德算法[5」。這些不同的軟件、硬件系統(tǒng)如何實現(xiàn)有益交互，對社會治理將產(chǎn)生何種影響，這是當前學界探討的重點問題。有學者認為，規(guī)范自動駕駛系統(tǒng)應(yīng)從技術(shù)融合的角度切入，控制其融合速度與程度，避免過度融合產(chǎn)生技術(shù)異化而帶來負面影響和法律風險[°；也有學者認為，人工智能發(fā)展日新月異，常常帶來意料不到的進展，為經(jīng)濟社會和人類生活提供新的機會，應(yīng)當予以大力支持[1]。筆者認為應(yīng)當審慎對待技術(shù)融合的雙重影響，綜合評估其積極與消極作用，通過合理的方案予以規(guī)范、引導(dǎo)，確保技術(shù)融合能夠兼顧社會責任與倫理底線。

通過梳理現(xiàn)有文獻資料可知，既有研究已取得一定成果，并呈現(xiàn)出多元學科交叉的研究趨勢。但是，仍存在部分問題需要進一步討論：一是倫理問題。現(xiàn)有研究分析較為單一，大多集中于決策層面，而應(yīng)用場景的倫理風險尚待厘清。二是責任規(guī)制。現(xiàn)有研究多從具體法律及地方性條例入手，進行場景化的責任分析，規(guī)制路徑缺乏普適性。三是自動駕駛技術(shù)發(fā)展過程中隱含的“達摩克利斯之劍”②。現(xiàn)有研究缺乏針對性措施以降低其應(yīng)用風險。基于此，對自動駕駛技術(shù)的倫理風險進行多維探析，提出具有可行性的規(guī)制策略和規(guī)避方案，這既是傳統(tǒng)理論擴大應(yīng)用場域的必然要求，也是新技術(shù)發(fā)展背景下解決問題的現(xiàn)實需要。

二、自動駕駛技術(shù)的倫理風險

自動駕駛技術(shù)在交通運輸業(yè)中的廣泛應(yīng)用無疑為我們帶來了便捷的出行服務(wù)。然而，以“蘿卜快跑”為代表的自動駕駛技術(shù)在載人汽車中的應(yīng)用也面臨一系列倫理風險。首要的倫理挑戰(zhàn)在于緊急情況下的道德決策難題。不同于傳統(tǒng)駕駛情境，自動駕駛系統(tǒng)在復(fù)雜多變的交通環(huán)境中迅速做出判斷的底層邏輯是機器的學習力，本質(zhì)上涉及“人機對齊”問題。換言之，基于人工智能技術(shù)的自動駕駛系統(tǒng)能否全方位模擬人類的決策能力，在保護乘客安全與確保外部傷害最小化之間實現(xiàn)最優(yōu)平衡？這種權(quán)衡過程中的微妙關(guān)系會觸及自動駕駛技術(shù)的倫理底線。與此同時，數(shù)據(jù)隱私保護也是不可忽視的倫理議題。盡管“蘿卜快跑”已采取相應(yīng)的數(shù)據(jù)保護措施，但數(shù)據(jù)安全與隱私保護機制仍需不斷探索與加強。另外，自動駕駛技術(shù)的全面推廣還可能引發(fā)就業(yè)結(jié)構(gòu)變化，導(dǎo)致傳統(tǒng)駕駛從業(yè)者面臨失業(yè)風險，加劇社會就業(yè)結(jié)構(gòu)供需失衡的風險。因此，“蘿卜快跑”等自動駕駛技術(shù)的研發(fā)和應(yīng)用必須正視這些倫理挑戰(zhàn)，兼顧技術(shù)創(chuàng)新、倫理責任與社會福祉。

（一）自動駕駛技術(shù)違背倫理規(guī)則的風險

自動駕駛技術(shù)的研發(fā)和設(shè)計既復(fù)雜又精密。技術(shù)的成熟度和完善性直接關(guān)系到自動駕駛車輛的安全性能。在研發(fā)階段，設(shè)計者首先需要輸入現(xiàn)有的交通法規(guī)，并對系統(tǒng)進行預(yù)訓練，從而確保自動駕駛技術(shù)能模擬人類大腦進行決策時的理性思維。然而，人類的決策系統(tǒng)不僅需要調(diào)動大腦的理性機能，還常常借助感性思維以確保決策在合規(guī)律性與合目的性之間的最優(yōu)平衡。因此，自動駕駛系統(tǒng)能否在緊急情況下模擬人類大腦，做出既合法又合乎道德的決策？這無疑是一個頗具挑戰(zhàn)性的問題。2024年7月，一輛“蘿卜快跑”無人駕駛出租車在武漢市漢陽區(qū)鸚鵡大道與國博大道交匯路口發(fā)生交通事故。百度方面回應(yīng)稱事故發(fā)生在綠燈亮起車輛啟動之際，車輛與一名闖紅燈的行人發(fā)生輕微接觸[7]。從正義和規(guī)則的維度來看，闖紅燈的行人無疑是事故的主要過錯方，但是，闖紅燈的過錯行為本身是否應(yīng)當承擔“被撞”的嚴重后果呢？這體現(xiàn)了自動化決策與人類主體自尊之間的沖突，也是算法規(guī)則與倫理道德之間的矛盾。

當前的自動駕駛技術(shù)算法，按設(shè)計思路可以分為兩大類：一類是車輛設(shè)計者和制造者預(yù)先為車輛設(shè)置的“強制型倫理算法”，另一類則是將算法設(shè)置權(quán)交付給車主的“個人化倫理算法”[3]。顯然，“蘿卜快跑”屬于前者，其所面臨的倫理困境就體現(xiàn)在具有普適性意義的倫理規(guī)則難以充分應(yīng)對錯綜復(fù)雜的具體情境。事實上，倫理規(guī)則恰恰是程序設(shè)計必須考慮的重要因素，但多數(shù)企業(yè)受利益驅(qū)動，以盈利為最終目標，缺乏將倫理考量引入研發(fā)設(shè)計階段的內(nèi)生動力。倫理考量的缺位、不足成為誘發(fā)自動駕駛事故的重要因素。從某種程度上講，智能駕駛算法自身的局限性制約了研發(fā)設(shè)計階段的倫理考量人場。同時，自動駕駛車輛需要依靠各種傳感器來感知周圍環(huán)境，并借助先進的算法做出決策。然而，在實際應(yīng)用中，系統(tǒng)可能因環(huán)境因素的復(fù)雜多變而出現(xiàn)誤判或延遲反應(yīng)的情況。例如，“蘿卜快跑”在運營過程中出現(xiàn)的無故停車、低速行駛等問題很可能與感知系統(tǒng)的誤識別或決策系統(tǒng)的不完善有關(guān)。盡管感知算法能借助激光雷達、毫米波雷達、攝像頭等多種高精度傳感器，但其仍然無法與人類的視聽感受相媲美，在諸如道路施工、信號燈失靈等特殊情況下便無法準確判斷。換言之，對自動駕駛系統(tǒng)的感知算法的魯棒性存疑。

另外，研發(fā)設(shè)計階段倫理考量的缺位將導(dǎo)致自動駕駛技術(shù)安全保障機制存在缺陷。隨著車輛與互聯(lián)網(wǎng)的深度融合，自動駕駛系統(tǒng)將面臨越來越多的網(wǎng)絡(luò)安全威脅。確保系統(tǒng)的穩(wěn)定性和安全性、防止黑客攻擊導(dǎo)致車輛失控等安全事故是研發(fā)和設(shè)計階段必須解決的重要問題。一方面，現(xiàn)階段自動駕駛系統(tǒng)尚且無法實現(xiàn)全方位的安全保障。目前，“蘿卜快跑”平臺采取了雙軌并行策略，即部分車輛配備隨車安全員以輔助系統(tǒng)運行，而全無人駕駛車輛則設(shè)有行程專員以應(yīng)對緊急情況，這一舉措體現(xiàn)了當前自動駕駛系統(tǒng)在自主應(yīng)對安全挑戰(zhàn)上的局限性。另一方面，自動駕駛系統(tǒng)在應(yīng)對突發(fā)狀況和復(fù)雜環(huán)境時，應(yīng)急響應(yīng)機制缺乏變通。“女子雨天乘坐無人駕駛車遭困一小時”事件，就暴露了“蘿卜快跑”在惡劣天氣下的安全預(yù)案不夠靈活。盡管平臺解釋這是出于極端天氣下的安全考量，但車輛直接停駐路邊可能引發(fā)的交通事故風險，以及乘客長時間滯留車內(nèi)所面臨的安全隱患均不容忽視。盡管研發(fā)人員在設(shè)計之初已通過算法預(yù)設(shè)了常見的安全問題，但在實際應(yīng)用中，自動駕駛系統(tǒng)的處理方案仍顯得過于機械，缺乏足夠的靈活性和有效性，亟需進一步完善和優(yōu)化。

（二）自動駕駛技術(shù)運行過程中的隱私泄露風險

自動駕駛汽車在運行過程中涉及大量數(shù)據(jù)，包括個人位置信息、行駛軌跡等，數(shù)據(jù)的收集與存儲、傳輸與通信、處理與分析等過程是自動駕駛汽車決策的前提。然而，隱私保護不足是自動駕駛技術(shù)面臨的重大倫理風險之一。

第一，數(shù)據(jù)收集與存儲過程中的隱私泄露。自動駕駛技術(shù)依賴大量的傳感器和數(shù)據(jù)采集設(shè)備，如攝像頭、雷達、激光雷達等，這些設(shè)備在車輛運行過程中不斷收集周圍環(huán)境的信息。另外，無人駕駛汽車在運行過程中需要收集大量個人敏感數(shù)據(jù)，包括位置、軌跡、駕駛員行為、乘客信息等。“大量個人隱私數(shù)據(jù)的收集，觸發(fā)了公眾對于數(shù)據(jù)泄露、數(shù)據(jù)篡改及數(shù)據(jù)濫用等諸多方面的擔憂。”[8]而在數(shù)據(jù)存儲方面，其數(shù)據(jù)量極為龐大。據(jù)估算，一輛自動駕駛汽車每天可能產(chǎn)生高達數(shù)TB 的數(shù)據(jù)，這些數(shù)據(jù)通常需要上傳到云端進行存儲和分析，而云存儲的安全性成為了隱私保護的關(guān)鍵。總之，無人駕駛技術(shù)的普遍應(yīng)用將伴隨著個人隱私的曝光，包括居住地址、出行規(guī)律乃至個人生活習慣等信息，而這些信息可能被不法分子利用從而威脅個人安全。

第二，數(shù)據(jù)傳輸與通信過程中的隱私泄露。自動駕駛技術(shù)不僅依賴本地數(shù)據(jù)，還需要通過車輛間通信（V2V）和車輛與基礎(chǔ)設(shè)施間通信（V2I)實現(xiàn)信息實時交換，以提高行駛的安全性和便捷性。一方面，車輛間通信可能泄露車輛的行駛軌跡、速度、位置等敏感信息。這些信息若被惡意利用，可能對車輛的安全構(gòu)成威脅。另一方面，車輛與基礎(chǔ)設(shè)施間的通信也可能成為隱私泄露的渠道。若通信協(xié)議存在安全漏洞，攻擊者可能利用這些漏洞竊取或篡改通信數(shù)據(jù)。這不僅會威脅到車輛的行駛安全，還可能導(dǎo)致個人隱私泄露。近年來，層出不窮的針對物聯(lián)網(wǎng)設(shè)備的攻擊事件為自動駕駛技術(shù)的通信安全敲響了警鐘。

第三，數(shù)據(jù)處理與分析過程中的隱私泄露。自動駕駛技術(shù)的核心在于對收集到的大量數(shù)據(jù)進行處理與分析，以實現(xiàn)對周圍環(huán)境的感知，從而進行決策與規(guī)劃。數(shù)據(jù)處理環(huán)節(jié)涉及對個人信息的提取與利用。例如，為了提高自動駕駛系統(tǒng)的識別能力，需要對收集到的圖像數(shù)據(jù)進行深度學習訓練，在此過程中，若不對圖像數(shù)據(jù)進行適當?shù)拿撁籼幚恚憧赡軐?dǎo)致個人隱私的泄露。同樣，在數(shù)據(jù)分析環(huán)節(jié)也可能因算法設(shè)計缺陷而導(dǎo)致敏感信息泄露。例如，數(shù)據(jù)分析算法可能通過關(guān)聯(lián)分析了解到用戶的行為習慣、個人偏好等信息。此外，數(shù)據(jù)分析結(jié)果的存儲與傳輸同樣需要嚴格的保護措施，以防止數(shù)據(jù)在傳輸過程中被截獲或篡改。

（三）傳統(tǒng)社會就業(yè)結(jié)構(gòu)供需失衡的風險

自動駕駛技術(shù)的廣泛應(yīng)用將帶來傳統(tǒng)社會就業(yè)結(jié)構(gòu)供需失衡的風險。從勞動力市場的供需不匹配到勞動者技能要求的提高，自動駕駛技術(shù)帶來的結(jié)構(gòu)性供需失衡風險正逐步顯現(xiàn)。

一方面，傳統(tǒng)駕駛崗位減少，新興崗位開始涌現(xiàn)。“蘿卜快跑”的推廣應(yīng)用首先沖擊著傳統(tǒng)的人工駕駛就業(yè)崗位。截至2023年11月，“全國共有334家網(wǎng)約車平臺，各地共發(fā)放網(wǎng)約車駕駛員證633.4萬本”[9]。今年以來，網(wǎng)約車司機數(shù)量還在持續(xù)增加。然而，“蘿卜快跑\"等自動駕駛技術(shù)的成熟和普及將大幅減少對傳統(tǒng)出租車司機、網(wǎng)約車司機的需求，導(dǎo)致這些行業(yè)的就業(yè)壓力增大。與此同時，自動駕駛技術(shù)的發(fā)展也會催生新的就業(yè)機會。以“蘿卜快跑”為例，自動駕駛技術(shù)的研發(fā)、測試、運營、維護等方面都能提供潛在的就業(yè)崗位，包括自動駕駛系統(tǒng)工程師、測試員、數(shù)據(jù)分析師、運維工程師等。據(jù)預(yù)測，到2025年智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)的研發(fā)人才缺口將達到1.3萬至3.7萬人[10]119，而當前市場上具備相關(guān)技能的人才供給卻遠遠無法滿足這一需求。可見，“蘿卜快跑”導(dǎo)致就業(yè)結(jié)構(gòu)失衡的風險體現(xiàn)在對傳統(tǒng)駕駛崗位的替代效應(yīng)和對新興崗位的創(chuàng)造效應(yīng)。

另一方面，勞動者新興技能培訓的需求增加。傳統(tǒng)駕駛崗位需求的減少導(dǎo)致大量勞動者面臨失業(yè)風險；同時，新興崗位對勞動者技能的要求逐漸提高，許多勞動者可能難以勝任。“蘿卜快跑”等自動駕駛服務(wù)的應(yīng)用不僅需要專業(yè)的技術(shù)人員進行研發(fā)、測試和維護，還要求駕駛員具備一定的自動化技能和應(yīng)急處理能力。然而，由于教育、培訓體系的滯后和勞動者自身條件的限制，許多勞動者難以適應(yīng)這種技能要求的轉(zhuǎn)變，從而面臨失業(yè)和再就業(yè)的風險。這種結(jié)構(gòu)性供需失衡現(xiàn)象，不僅加劇了勞動力市場的分化，也引發(fā)了對就業(yè)市場穩(wěn)定性的擔憂。

三、自動駕駛事故的歸責模式比較分析

自動駕駛技術(shù)的算法系統(tǒng)能夠代替?zhèn)鹘y(tǒng)的駕駛員進行操作，“不過，人工智能不具有打破既定規(guī)范的自由意志，但與此同時，我們還需要納人康德的人性法則，給予計算程序進行價值判斷的方向”[11]。傳統(tǒng)交通法規(guī)主要基于人類駕駛員的行為和責任進行構(gòu)建，而自動駕駛技術(shù)的介人使責任主體變得復(fù)雜多樣，涉及車輛制造商、軟件供應(yīng)商、運營方、乘客等多個主體。由于“算法黑箱”等原因，自動駕駛技術(shù)在事故責任界定方面存在難題。

（一）機器人責任模式

傳統(tǒng)的責任倫理觀通常將事故的道德責任歸因于具有基本認知能力的個體。在傳統(tǒng)人工駕駛方式下的交通事故中，控制者與責任主體是一致的。但在無人駕駛環(huán)境中，確定責任主體成為一大難題。那么，能否將自動駕駛系統(tǒng)擬人化，使其成為承擔責任的“電子人”呢？對此存在不同的觀點。肯定的觀點認為，自動駕駛系統(tǒng)具有強大的數(shù)據(jù)運算能力、完全的信息處理能力和獨立的判斷決策能力，在L4及以上自動駕駛模式中，可以代替人類進行全自動駕駛。因此，應(yīng)該將自動駕駛系統(tǒng)定義為能夠承擔法律責任的獨立人格。但是，這種觀點具有明顯的局限性。從唯物論視角看，智能駕駛系統(tǒng)本質(zhì)上不具備人腦這一思維活動的物質(zhì)基礎(chǔ)，不具備人的情感和自由意志，不能等同于現(xiàn)實世界中的“人”，否則就否認了人類的主體地位。從實踐效果來說，對自動駕駛系統(tǒng)的追責形式大于實質(zhì)。“直接造成傷害的是自動系統(tǒng)，但是懲罰一個非人格化的自動系統(tǒng)，就相當于什么都沒有懲罰。”[12]一是人工智能本身沒有獨立擔責的現(xiàn)實基礎(chǔ)，二是過分對人工智能進行追責，便會忽視其他主體即運營商、開發(fā)商等的責任，造成責任主體相互推諉、形成“責任離散\"現(xiàn)象，不利于保護受害者權(quán)益。因此，承擔責任的主體應(yīng)該是隱藏于“人工智能”表面之后的“人”，即商品的生產(chǎn)者與服務(wù)的提供者。

（二)嚴格責任模式

嚴格責任模式指無論行為人是否存在過錯，只要其行為與損害結(jié)果之間存在因果關(guān)系，就應(yīng)當承擔相應(yīng)的法律責任，這屬于英美刑法中一種擴展性的歸責模式。“那么，基于控制責任理論，當人類對自主系統(tǒng)的控制構(gòu)成指導(dǎo)控制時，必然承擔道德責任，但要重新定義‘有意義‘的構(gòu)成條件。”[13]在以“蘿卜快跑”為代表的自動駕駛技術(shù)中，如果車輛在運營時發(fā)生交通事故，無論是因為技術(shù)故障、人為操作失誤還是其他任何原因，相關(guān)責任主體（汽車制造商、自動駕駛技術(shù)提供商、網(wǎng)約車平臺等)都可能承擔嚴格責任。可見，嚴格責任模式并不強調(diào)主觀故意，而更重視客觀后果。在這個模式下，無需證明個體的義務(wù)行為與事實結(jié)果之間存在必然的因果關(guān)系，只要基于客觀后果來判定生產(chǎn)商是否違反了必要的注意義務(wù)從而導(dǎo)致事故就可以對其進行歸責。

嚴格責任模式的優(yōu)勢在于：一是可以促進技術(shù)進步。通過建立嚴格的責任追究制度，可以倒逼汽車制造商和自動駕駛技術(shù)提供商在研發(fā)、運營過程中始終保持嚴謹負責的態(tài)度，對產(chǎn)品質(zhì)量精益求精，慎終如始做好安全保障，全力降低交通事故的風險。二是能夠保障受害者權(quán)益。交通事故的受害者處于相對弱勢地位，在遭受客觀損失的基礎(chǔ)上通常還要承擔舉證等法律成本。在嚴格責任模式下，受害者無需證明責任主體的過錯即可獲得賠償，有助于快速解決糾紛并保障其合法權(quán)益。三是可以推動相關(guān)法律的完善。在自動駕駛產(chǎn)品被廣泛應(yīng)用，但相關(guān)技術(shù)不完全成熟、存在潛在風險的背景下，嚴格責任模式有利于推動立法部門和行業(yè)主管部門盡快厘清擔責的具體標準和方式，推動相關(guān)法律法規(guī)朝著體系化、制度化方向發(fā)展。

但是，嚴格責任模式具有明顯的局限性。首先，該模式下責任主體的界定困難。“蘿卜快跑\"等自動駕駛汽車發(fā)生的事故，往往涉及多個環(huán)節(jié)和汽車制造商、技術(shù)提供商、平臺運營商等多個責任主體，難以準確界定責任歸屬和承擔比例。其次，該模式可能抑制技術(shù)的創(chuàng)新。自動駕駛技術(shù)屬于新興產(chǎn)業(yè)，嚴格的責任追究使相關(guān)責任主體面臨巨大的法律風險和經(jīng)濟壓力，從而抑制了其在該領(lǐng)域進行創(chuàng)新的積極性，阻礙技術(shù)的進一步發(fā)展。再者，嚴格責任模式與我國現(xiàn)行法律中的歸責模式存在明顯差異。不管是否存在主觀過錯，只因客觀后果便追加研發(fā)者或所有人的責任，既可能造成責任追究的擴大化，也不符合公平原則。而且，目前嚴格責任模式也并非國際上類似問題的通行定責范式。2018年美國Uber公司自動駕駛汽車撞死行人，但是美國檢方認為 Uber作為一家公司主體，無需承擔任何刑事責任[14]13。這在一定程度上說明，嚴格責任模式并非最合理的歸責模式，而應(yīng)當秉持具體問題具體分析的原則，客觀分析事故原因，合理劃定事故責任。

(三)過失責任模式

與嚴格責任模式相反，過失責任模式指只有在行為人存在疏忽、過失等主觀過錯的情況下才需要對其行為造成的損害結(jié)果承擔責任。事實上，根據(jù)大多數(shù)歐美國家的現(xiàn)行法律規(guī)定，在“自動駕駛”這一模式下發(fā)生交通事故，作為駕駛員的個體盡管未直接執(zhí)行“駕駛?cè)蝿?wù)”，但駕駛員在很大概率上仍會因疏忽大意而被追究刑事責任。但是，“蘿卜快跑”的特殊性在于其缺失駕駛員這個最主要的責任主體。因此，在劃分責任時，責任主體主要有三類：一是運營平臺，其因設(shè)計缺陷、運營不當?shù)仍蛞l(fā)事故;二是乘客，其因在車內(nèi)做出危險行為或攜帶危險物品等原因?qū)е率鹿?三是其他主體，即在交通事故中，或多或少存在過錯的其他主體也需承擔相應(yīng)責任。

過失責任模式有其合理性，既符合傳統(tǒng)法律觀念和道德標準，又有助于維護現(xiàn)行法律的權(quán)威性，體現(xiàn)了法律的客觀性和公平性。按照過失來劃分主體責任有助于厘清車輛制造商、技術(shù)提供商、平臺運營商、乘客和其他主體之間的過錯大小及因果關(guān)系，避免追責主體范圍擴大化。這既體現(xiàn)了責任認定過程的嚴謹性，也符合我國社會主義法治追求公平正義的內(nèi)在要求。此外，應(yīng)用過失責任模式可以避免一味對企業(yè)進行追責，加重企業(yè)負擔，在一定程度上保護了企業(yè)的科技創(chuàng)新積極性。

因此，現(xiàn)階段對于“蘿卜快跑”發(fā)生的交通事故，應(yīng)當使用過失責任模式對生產(chǎn)商、平臺、乘客等主體合理劃分責任比例，但這在具體實踐中還存在一定的難度。一方面，其理論內(nèi)涵尚待厘清。英美法系學者遵循“自然可能后果”責任理論，認為人類在設(shè)計、使用機器人時，如能預(yù)見可能引發(fā)的損害，則應(yīng)當承擔過失;而大陸法系學者傾向于在個體犯罪的法教義學框架中考察機器人背后的人類參與者的刑事責任。另一方面，其實踐進路存在問題。面對多個不同主體存在共同責任的一般化場景，具體的責任分割不夠清晰，在遵循公平原則的前提下制定詳細、可行的責任劃分方案就比較困難。因此，還需要在實踐中不斷探索，以更好地凸顯過失責任模式中的“公平”這個題中應(yīng)有之義。

四、自動駕駛技術(shù)可能承擔的事故責任及其規(guī)避對策

“蘿卜快跑”等自動駕駛汽車的不斷發(fā)展、應(yīng)用對現(xiàn)行法律規(guī)則提出了更高的要求，必須盡快制定科學合理的法律框架和切實可行的歸責路徑，以確保自動駕駛技術(shù)能夠持續(xù)健康穩(wěn)定地發(fā)展。自動駕駛引發(fā)的事故歸責中的主要問題在于合理確定歸責路徑與各主體之間的責任分配比例。當自動駕駛車輛發(fā)生交通事故并造成人身傷亡或財產(chǎn)損失時，主要存在三種可能的風險規(guī)避路徑。

（一）高度危險責任及其規(guī)避對策

我國《民法典》第1236條規(guī)定，從事高度危險作業(yè)造成他人損害的，應(yīng)當承擔侵權(quán)責任。“高度危險責任由行為自身具有危險性、即使盡到注意義務(wù)并采取安全措施也無法避免損害、不考慮主觀過錯這三個要件構(gòu)成。”[15]因此，對于“自動駕駛”導(dǎo)致的事故責任，可以參照“高度危險責任”進行歸責。但對于何為“高度危險”，民法典并未給出明確定義。另外，自動駕駛系統(tǒng)不應(yīng)簡單被定義為“高度危險”。從內(nèi)涵上看，自動駕駛系統(tǒng)與傳統(tǒng)意義上的“高度危險作業(yè)”有著明顯區(qū)別，作為一種新興交通出行方式，其已深度融入人們的日常生活并被公眾接受;從實踐上看，自動駕駛系統(tǒng)通過傳感系統(tǒng)和智能算法，實現(xiàn)了較高程度的安全保障，相較于傳統(tǒng)的人工駕駛，避免了主觀疏忽導(dǎo)致的事故隱患;從趨勢上看，自動駕駛技術(shù)正處于蓬勃發(fā)展期，國內(nèi)已有許多地方出臺了推廣辦法，其被接受度將進一步增強，不符合“高度危險作業(yè)”的發(fā)展方向。鑒于以上區(qū)別，不應(yīng)將自動駕駛引發(fā)的事故簡單地用高度危險責任進行歸責。

(二)產(chǎn)品責任及其規(guī)避對策

使用者在人工智能體的運行過程中獲益，同樣應(yīng)在其運行過程中負道德責任[16]。根據(jù)我國《產(chǎn)品質(zhì)量法》第46條的規(guī)定，“產(chǎn)品存在危及人身、他人財產(chǎn)安全的不合理的危險”或“產(chǎn)品不符合保障人體健康和人身、財產(chǎn)安全的國家標準、行業(yè)標準”的，屬于缺陷產(chǎn)品，產(chǎn)品的生產(chǎn)者需要為此承擔法律責任。因此，對“蘿卜快跑”生產(chǎn)者追究產(chǎn)品缺陷責任具有合理性：一是強化了生產(chǎn)者的責任意識。商品的生產(chǎn)者在研發(fā)、設(shè)計、生產(chǎn)階段負有合理的風險控制義務(wù)，必須最大限度消除可以預(yù)見的隱患。追究產(chǎn)品責任能促使生產(chǎn)者從外部法律約束轉(zhuǎn)向加強內(nèi)部管理，從而提高產(chǎn)品的安全水平。二是體現(xiàn)了對消費者權(quán)益的高度保護。在自動駕駛環(huán)境中，乘客作為消費者在購買或使用服務(wù)時，如因產(chǎn)品缺陷遭遇事故則有權(quán)要求生產(chǎn)者承擔賠償責任。目前，我國地方性法規(guī)已經(jīng)嘗試從產(chǎn)品責任的角度對無人駕駛汽車事故進行歸責。《深圳經(jīng)濟特區(qū)智能網(wǎng)聯(lián)汽車管理條例》第53條規(guī)定：“完全自動駕駛的智能網(wǎng)聯(lián)汽車在無駕駛?cè)似陂g發(fā)生交通事故造成損害，屬于該智能網(wǎng)聯(lián)汽車一方責任的，由車輛所有人、管理人承擔賠償責任。”[17]由此可見，運用產(chǎn)品責任歸責可以保護消費者權(quán)益，督促研發(fā)、生產(chǎn)者嚴控產(chǎn)品質(zhì)量。

產(chǎn)品責任歸責的實施也存在諸多難點。其中，最主要的難點在于如何證明自動駕駛車輛存在產(chǎn)品缺陷，且該缺陷與事故的發(fā)生存在因果關(guān)系。因此，對于事故發(fā)生原因的分析就顯得至關(guān)重要。其一，復(fù)雜的交通事故往往并非單個原因所致，在劃分責任時，需厘清產(chǎn)品責任在各種事故原因中所占的比例從而合理歸責，避免陷入“嚴格責任模式”。其二，“蘿卜快跑”等自動駕駛產(chǎn)品的生產(chǎn)者和提供者應(yīng)在設(shè)計、研發(fā)、安全測試、運營等全過程承擔高度的注意義務(wù)，對發(fā)現(xiàn)的缺陷產(chǎn)品及時停用或召回。因缺陷產(chǎn)品處置不當造成事故的，適用產(chǎn)品責任進行歸責。但由于自動駕駛產(chǎn)業(yè)正處于蓬勃發(fā)展階段，技術(shù)尚未高度成熟。受當前科技水平等客觀因素的限制，因某些無法預(yù)見的產(chǎn)品缺陷導(dǎo)致事故的發(fā)生時，則不應(yīng)對產(chǎn)品生產(chǎn)者進行追責。

（三)過錯責任及其規(guī)避對策

“在傳統(tǒng)人工駕駛方式下，由車輛所造成的交通事故中，控制者與責任主體是一致的。但是在自動駕駛方式下，情況卻完全不同。”[18]實際上，自動駕駛系統(tǒng)預(yù)先訓練了用于處理從感知到控制的整個過程的神經(jīng)網(wǎng)絡(luò)，以便應(yīng)對各種駕駛場景[19]687-694。那么，如何建立起高效、公平、合理的歸責路徑呢？我國《道路交通安全法》第76條第1款第1項規(guī)定，機動車之間發(fā)生交通事故適用過錯責任原則予以歸責，即按照各自過錯比例分擔責任。但是，此過錯責任指的是機動車駕駛員對于交通事故所承擔的責任。“蘿卜快跑”等L4級以上自動駕駛車輛并不存在“駕駛員”這一責任主體。因此，想要應(yīng)用過錯責任對自動駕駛交通事故進行歸責，就必須明確除駕駛員外的其他幾個相關(guān)主體的責任。

一方面，明確乘客是否需要承擔責任。作為“蘿卜快跑”的乘客，與平臺方形成的服務(wù)合同實質(zhì)上是傳統(tǒng)的運輸關(guān)系，其自動駕駛系統(tǒng)承擔的是“司機”的角色，為乘客提供有償?shù)倪\輸服務(wù)。雖然在這種特殊情況下并不存在“駕駛員”這一人類主體，但也不能過分要求乘客在行程中承擔傳統(tǒng)駕駛員應(yīng)盡的安全責任和注意義務(wù)。因此，由自動駕駛系統(tǒng)問題導(dǎo)致的交通事故，乘車人在沒有主觀故意過失的前提下不應(yīng)對交通事故負有責任。

另一方面，明確“蘿卜快跑”平臺是否需要承擔責任。《道路交通安全法》第76條第1款第2項規(guī)定，機動車與非機動車駕駛?cè)恕⑿腥酥g發(fā)生交通事故的，采用無過錯責任原則予以歸責，原則上由機動車一方承擔責任。同時，這里存在兩種例外：一是有證據(jù)證明非機動車違反交通安全法律法規(guī)，機動車已經(jīng)采取必要措施的，減輕機動車一方責任。二是非機動車故意造成損害，機動車一方不承擔責任。如果責任認定證明“蘿卜快跑”車輛造成事故，由于自動駕駛車輛不能作為獨立的民事或刑事主體，通常認為“蘿卜快跑”平臺對交通事故負有責任。

同時，也要注意區(qū)分兩種情況：一是完全自動駕駛狀態(tài)下出現(xiàn)的交通事故，平臺應(yīng)當承擔主要責任；另一種是在緊急情況下有人工現(xiàn)場或遠程干預(yù)仍出現(xiàn)的事故，應(yīng)科學評判人工干預(yù)對事故發(fā)生的影響，如能證明人工干預(yù)失當導(dǎo)致了事故的發(fā)生，可能需要連帶追究相關(guān)個人的主體責任。

綜上所述，盡管自動駕駛汽車的使用者并不直接進行駕駛活動，但其是自動駕駛汽車的實際監(jiān)管對象，也是能夠遵循復(fù)雜規(guī)則的認知主體，因而必須對自動駕駛汽車承擔管制性控制責任。換言之，使用者應(yīng)為自動駕駛汽車所引發(fā)的事故承擔道德責任。正如“費希爾道德責任理論”所強調(diào)的：“倘若一個人能夠進行引導(dǎo)性控制或進行管制性控制，那么他就要承擔道德責任。”[20]因此，在對以“蘿卜快跑\"為代表的自動駕駛汽車事故進行歸責時，必須充分考慮具體情況，科學劃分責任范圍。屬于研發(fā)階段設(shè)計疏漏的，則應(yīng)追究汽車生產(chǎn)者的責任;如在運行階段出現(xiàn)問題，在完全自動駕駛狀態(tài)下或證實屬于軟件系統(tǒng)責任的，則應(yīng)追究平臺責任；屬于乘客主觀故意的，則應(yīng)追究乘客責任。總之，應(yīng)該按照事故發(fā)生的時間和原因，科學地確定責任主體，合理劃分責任比例，避免陷入“嚴格責任模式”或造成責任離散現(xiàn)象。

五、結(jié)語

以“蘿下快跑”為代表的自動駕駛技術(shù)正不斷地深入發(fā)展，人工智能與人類深度交互的時代已然來臨。與此同時，人工智能系統(tǒng)引發(fā)的問題增加了人們的擔憂，引發(fā)了對這項技術(shù)進行監(jiān)管的審視需求。正如徐英瑾所說，“要讓人工智能系統(tǒng)真正像人類那樣進行緊急避險，我們?nèi)祟愖约菏紫纫赂业厮喝セ\罩在電車難題上的‘無知之幕’，并對其背后的風土知識產(chǎn)生‘元認知’。”[21]

首先，堅持高度支持、嚴格管理的基本原則。自動駕駛技術(shù)作為21世紀科技創(chuàng)新的代表性成果，對社會生產(chǎn)和人類生活都起到了積極作用，其產(chǎn)生符合馬克思主義“新事物”的一般特征，具有較高的發(fā)展?jié)摿ΑΥ詣玉{駛技術(shù)，應(yīng)當秉持開放包容的基本態(tài)度，在政策、資金等方面予以積極支持，推動其不斷發(fā)展與廣泛應(yīng)用。同時，要牢記科學技術(shù)發(fā)展的終極目標是造福人類這一標準。因此，“應(yīng)當在自動駕駛汽車測試、示范運營和商業(yè)運營的管理機制中加人倫理審查環(huán)節(jié)，由主管部門負責召集跨學科、跨行業(yè)、跨領(lǐng)域的人士組成倫理委員會，對自動駕駛汽車算法設(shè)計是否以及如何貫徹了政府的倫理指導(dǎo)意見和行業(yè)的倫理標準進行審查”[22]，避免技術(shù)異化及可能出現(xiàn)的安全問題，給自動駕駛技術(shù)發(fā)展進步構(gòu)建起安全、可靠的外部環(huán)境。

其次，形成多元協(xié)同、清晰明確的歸責機制。世界各國的公共機構(gòu)已經(jīng)開始在國際層面上制定監(jiān)管框架，以監(jiān)督數(shù)據(jù)驅(qū)動系統(tǒng)的活動。例如，歐盟制定了專門的《可信賴人工智能指南》戰(zhàn)略，美國、加拿大、德國、英國、澳大利亞、日本等國也提出了關(guān)于自動駕駛汽車監(jiān)管的指南，以監(jiān)督其在執(zhí)法中的合規(guī)性[23]。對自動駕駛系統(tǒng)，嚴格責任模式和過失責任模式均有利弊，其根源在于風險和責任之間的合理分配。因此，必須厘清相關(guān)主體之間的權(quán)利與義務(wù)，形成合理公平的歸責機制。就“蘿卜快跑”而言，技術(shù)和服務(wù)的提供者理應(yīng)承擔主要責任。同時，應(yīng)當科學劃定乘客、其他交通參與者等相關(guān)涉事主體的責任，確保最大程度上兼顧效率與公平。另外，一切規(guī)則的制定都是為了降低風險、確保安全。在自動駕駛技術(shù)尚未完全成熟的當下，可以考慮引人交通強制險和商業(yè)保險并合理劃定賠償范圍，最大程度減輕事故所產(chǎn)生的損失，避免因賠償壓力而抑制技術(shù)的研發(fā)與應(yīng)用，確保新技術(shù)能夠始終向前和可持續(xù)發(fā)展。

再者，構(gòu)建與時俱進、切合實際的法律體系。2023年12月5日，交通運輸部辦公廳發(fā)布的《自動駕駛汽車運輸安全服務(wù)指南（試行）》成為全國范圍內(nèi)的指導(dǎo)性意見，從八個方面對影響運輸安全的核心要素進行了規(guī)范，為地方政府提供了決策依據(jù)。2024年7月，北京市經(jīng)信局就《北京市自動駕駛汽車條例(征求意見稿)》對外征求意見，在堅守安全底線的基礎(chǔ)上為自動駕駛汽車市場主體提供了清晰、透明、可預(yù)期的制度規(guī)范。這充分體現(xiàn)了我國對自動駕駛技術(shù)的監(jiān)管已經(jīng)實現(xiàn)了從頂層設(shè)計到基層執(zhí)行、從普遍性制度到地區(qū)性規(guī)范的全面覆蓋。可以預(yù)見，未來研究人員將嘗試個性化定制自動駕駛汽車，以便在提升自動駕駛汽車的被接受度的同時運用逆向強化學習方法，使自適應(yīng)巡航控制系統(tǒng)與駕駛員的風格相匹配[24]。隨著自動駕駛技術(shù)的全面推開，其安全隱患以及隨之產(chǎn)生的法律問題還會不斷出現(xiàn)，需要相關(guān)部門高度關(guān)注，及時修訂、有序出臺相關(guān)法律法規(guī)，以構(gòu)建起符合時代要求和實踐需要的法律體系，為自動駕駛技術(shù)不斷推廣提供堅實的法律保障。

[責任編輯：楊 氫]

注釋：

① “道德旋鈕”：旋鈕兩端分別代表“利己主義”和“利他主義”，旋鈕中央則代表“完全中立”，指將道德后果的選擇權(quán)交予使用者，用“預(yù)設(shè)選擇“來代替“預(yù)設(shè)答案”。

② “達摩克利斯之劍”：源于古希臘神話，用來表示時刻存在、很難脫身的危險。

③ “魯棒性”：指控制系統(tǒng)在一定參數(shù)攝動下維持其他某些性能的特性。

參考文獻：

[1]樊春良，吳逸菲.人工智能倫理治理的三維分析框架：核心要素、創(chuàng)新過程與主體責任[J].自然辯證法研究，2023（10）:18-24.

[2]GOGOLLl Jan，MuLLER Julian ．Autonomous cars: in favor of a mandatory ethics setting[J]. Science andengineering ethics，2017(3) :681 -700.

[3] 張學義，王曉雪.“倫理旋鈕”：破解無人駕駛算法困境的密鑰？［J].中國人民大學學報，2023（2）：73-82.

[4] 王樂兵.自動駕駛汽車的缺陷及其產(chǎn)品責任[J].清華法學，2020（2）:93－112.

[5] 李大山.自動駕駛無需高階道德算法［J].自然辯證法通訊，2023（6)：10－17.

[6] 王瑩.法律如何可能：自動駕駛技術(shù)風險場景之法律透視[J].法制與社會發(fā)展，2019(6)：99－112.

[7] 劉佳.自動駕駛的現(xiàn)實挑戰(zhàn)：百度蘿卜快跑撞上闖紅燈路人[N].第一財經(jīng)日報，2024-07－10（A09）.

［8］李含偉，李夢圓.“堵”還是“促”：無人駕駛的社會訴求與政策因應(yīng)——以武漢“蘿卜快跑”為例［J].學習與實踐，2024（8）：32-41.

[9]張茜琦.全國共發(fā)放網(wǎng)約車駕駛員證633.4萬本[N].北京商報，2023-11-21(4).

［10］中國汽車工程學會.智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)人才需求預(yù)測報告[M].北京:北京理工大學出版社，2021.

［11］陳英.自動駕駛電車難題的康德式道德決策［J].求索，2024（2）:117－124.

[12]徐獻軍.人機協(xié)作視角下的自動系統(tǒng)倫理[J].哲學分析，2023（3）：144－155.

[13］俞鼎.“有意義的人類控制”：智能時代人機系統(tǒng)“共享控制”的倫理原則解析［J]．自然辯證法研究，2024(2) :83 -88.

[14]HODULA Mate.Criminal liability of the self driving vehicles under Hungarian criminal law[J].Studia iu-ridica，2023(100):113-125.

[15］宋宗宇，林傳琳.自動駕駛交通事故責任的民法教義學解釋進路[J].政治與法律，2020(11):150－160.

[16]趙子明.人工智能體道德責任歸責問題探析[J].中國礦業(yè)大學學報（社會科學版），2024（3）:98-114.

[17］深圳市人民代表大會常務(wù)委員會.深圳經(jīng)濟特區(qū)智能網(wǎng)聯(lián)汽車管理條例[EB/OL].國家法律法規(guī)數(shù)據(jù)

庫.（2022 -06 -30)[2025 -01 -01]. htps://flk. npc.gov.cn/detail2.html? ZmY4MDgxODE4MjFiM

YyOTAxODIxZmZIMzk3MDFhNzU.

[18］萬丹，詹好.自動駕駛汽車責任主體和道德兩難問題的哲學分析[J].社會科學戰(zhàn)線，2021（11):24-32.

[19]WANG Tsun-Hsuan，MAALOUF Alaa，WEI Xiao，et al. Drive anywhere: generalizable end -to - end autonomous driving with multi-modal foundation models［C]//2O24 IEEE International Conference on Roboticsand Automation(ICRA).Yokohama:IEEE，2024.

[20］顧世春.費希爾道德責任理論視角下自動駕駛汽車使用者道德責任研究[J].自然辯證法研究，2021 (2):113-118.

[21］徐英瑾.人工智能必須考慮風土性因素——以“電車難題”為母題[J].哲學研究，2023（2）:96－107.

[22]鄭戈.電車難題與自動駕駛系統(tǒng)算法設(shè)計中的倫理考量[J].浙江社會科學，2022（12）:37－47.

[23]SHAHIN Atakishiyev，MOHAMMAD Salameh，YAO Hengshuai，et al. Explainable artificial intelligence for autonomous driving: a comprehensive overview and field guide for future research directions[J]. IEEE access，2024(12) :1603 -1625.

[24] SCHRUM M L，SUMNER E，GOMBOLAY M C，et al. MAVERIC: a data-driven approach to personalized autonomous driving [J]. IEEE transactions on robotics，2024(40） :1952 -1965.

Ethical Risks of Autonomous Driving Technology ， Attribution Mode of Accidents，and Responsibility Avoidance

YANG Ye-yang，WANG Yuan-zhe，SU Guo-yun (CollegeofMarxism，ShanxiMedical University，TaiyuanO3ooo1，China)

Abstract : While autonomous driving technology brings new development opportunities ，it also faces a series of ethical risks，mainly including the risk of violating ethical rules，potential risk of privacy leakage in the use of technology，and the risk of supply and demand imbalance caused to the traditional social employment structure.In view of these risks，the authors take“Carrots Run Fast” as an example，and sorts out the three attribution models of robot liability model，strict liability model and negligence liability model，so as to clarify the attribution of liability for accidents related to autonomous driving technology，and provide clear ideas and basis for the subsequent responsibility identification and handling.In order to avoid the accident liability that autonomous driving technology may bear，it is necessary to fully consider and formulate effective avoidance paths in the research and development and design stage of autonomous driving. For highly dangerous liability，it is necessary to strengthen safety standards and supervision.As for product liability，it is necessary to ensure the reliability of technology and reduce product defects.In addition，it is necessary to clarify the responsibilities of all parties and strengthen the popularization of technology and legal education for the negligence liability. Through these measures，we hope to provide a theoretical framework with reference value for the healthy development of autonomous driving technology，and then promote the harmonious coexistence of technological progress and social ethics.

Key Words:automatic driving;Carrots Run Fast; sci-tech ethics ;responsibility model