自動駕駛汽車倫理建構中的“電車難題”批判

蘇令銀 許夢怡

一、引言

自動駕駛汽車有望在未來的交通運輸系統中發揮關鍵作用。它們將產生全球性影響，改變社會以及道路和交通系統的安全。對于公共道路上的自動駕駛汽車的討論，技術視角只是其中一個方面。未來的自動駕駛汽車將不得不做出對人類來說在道德上難以做出的決定，而工業領域和學術研究尚未提供圓滿的解決方案。汽車制造商目前關注的焦點是將倫理準則嵌入自動駕駛汽車的軟件中。

“電車難題(Trolley Problem)”是倫理學領域最為知名的思想實驗之一。最早是由哲學家菲利帕·福特(Philippa Foot)于1967年提出來的。菲利帕·福特在她的論文《墮胎問題和雙重效應主義》中，首先清楚地闡述了當我們將意圖和遠見相結合時出現的哲學困境。在這篇論文中，福特提出了一個外科醫生的例子，她在對分娩中的母親進行手術時，必須在以下兩種試圖挽救她生命的方法之間做出選擇：一是進行子宮切除術，同時預見到一個額外的后果將是胎兒死亡；二是進行后期流產，直接結束胎兒的生命。經典“電車難題”的大致內容是：假設在一個電車軌道上綁了5個人，備用軌道上綁了1個人，有一輛失控的電車飛速駛來。而你身邊正好有一個搖桿，你可以推動搖桿來讓電車駛入備用軌道，殺死那1個人，救下5個人；你也可以什么都不做，殺死5個人，救下1個人。此類倫理困境問題被稱為“電車難題”。現有的文獻中包含了許多具有這種基本結構的變形案例。朱迪斯·賈維斯·湯姆森(Judith Jarvis Thomson)將這些變形案例統稱為“電車難題”(1)Thomson,J.J.，“Killing,letting die,and the trolley problem”，The Monist,1976，59(2)，pp.204-217.。在這些電車難題的早期討論之后，出現了一整套討論道德直覺、意圖和我們預見行為后果的能力之間關系的文獻。道德哲學的許多工作都旨在明確我們在這些情況下應該做什么。在流行文化中也充分利用了這種困境。例如，蝙蝠俠在《黑暗騎士》(2008)中拯救公眾英雄哈維·丹特(Harvey Dent)和他的戀人瑞秋·道斯(Rachel Dawes)之間的悲劇選擇；柯克船長試圖成功完成沒有勝利的小林丸訓練。在很多情況下，這些道德選擇架構被作家用來梳理觀眾的道德直覺。

這些電車難題不僅僅出現在學術文獻和小說作品中。在自動化、大數據、人工智能時代，我們在現實世界中也不斷面臨著這些場景。自動駕駛汽車已經出現，自動駕駛汽車已經被證明可以成功地減少交通擁堵，降低交通事故率，甚至顯示出比人類駕駛員更強的導航效能(2)Chen,B.,Sun,D.,Zhou,J.,Wong,W.,&Ding,Z，“A future intelligent traffic system with mixed autonomous vehicles and human-driven vehicles”，Information Sciences,2020(529),pp.59-72.。自動駕駛汽車的早期使用也暴露了它們的一些弱點和根本缺陷，以及我們對它們維持有意義的控制的脆弱能力(3)Calvert,S.C.,Heikoop,D.D.,Mecacci,G.,&van Arem,B，“A human centric framework for the analysis of automated driving systems based on meaningful human control”，Theoretical Issues in Ergonomics Science,2020，21(4)，pp.478-506.。僅僅擔心電車難題中軌道分叉的日子早已一去不復返。在我們的社會技術世界中，技術產品已經與我們的生活、組織、機構和政策不可分割地聯系在一起，這造成了一個道德困境。如果自動駕駛汽車為了避免撞到亂穿馬路的行人而撞到墻上，導致司機死亡，那么誰應該承擔道德責任呢？比如，當一輛自動駕駛汽車駛進隧道時，一個人突然出現在道路上，碰撞不可避免，這就面臨著兩種選擇：要么是汽車輾過了那個人，撞死了他；要么是汽車突然轉向撞上了隧道的墻壁，導致車內乘客的傷亡。此時這輛自動駕駛汽車應該怎么做？兩種選擇情況可能看似相似，但卻會導致直覺上的沖突。究竟應該如何理解這些相互矛盾的直覺？雖然電車事故的討論起源于電車難題，但近年來，在自動駕駛汽車事故中，涉及“電車難題”的討論卻面臨著一系列困境。這些問題很難回答。這表明在我們的社會技術領域，對電車難題及其進一步的更基本的結構問題的思考是普遍存在的。鑒于我們對技術創造的控制力不斷減弱，更清楚地知道誰對它們的設計負責，以及它們是如何設計的就是至關重要的。

電車難題一直以來被廣泛認為是自動駕駛汽車倫理問題的核心挑戰。看似純粹假設的兩難境地即將成為現實。不久之后，自動駕駛汽車可能必須決定其所造成的事故危害如何分擔、責任如何承擔等。因此，電車難題有了活生生的電車事故案例，以及大量出臺的政策文件和發表的研究文獻(4)Bonnefon JF,Shariff A,Rahwan I，“The social dilemma of autonomous vehicles”，Science,2016(352),pp.1573-1576；Fleetwood J，“Public health,ethics,and autonomous vehicles”，American J Public Health,2017(107),pp.532-537;Gogoll J,Müller JF，“Autonomous cars:in favor of a mandatory ethics setting”，Sci Eng Ethics,2017(23),pp.681-700;郭喨、唐興華：《“無人駕駛”的雙重悖論及其解決》，《中國社會科學報》2019年2月12日，“科學與人文”版;王前：《“電車難題”的“道德物化”解法》，《中國社會學報》2020年9月1日，第4版。。越來越多的學者對電車難題構成自動駕駛汽車倫理準則建構之核心挑戰的觀點提出了反駁(5)Nyholm S,Smids J，“The ethics of accident-algorithms for self-driving cars:an applied trolley problem?”，Ethical Theory Moral Pract,2016(19),pp.1275-1289.。事實上，日常情境(如人行橫道或十字路口轉彎)下的自動駕駛才會引發更加重要的道德挑戰。首先，電車難題可以審查自動駕駛汽車的道德原則。其次，電車難題在審查自動駕駛汽車道德原則方面的作用是有限的。這里主要討論在建構自動駕駛汽車倫理原則的過程中，電車難題面臨的四個困境，其中一些困境之前已經有學者提出。這里討論的困境更普遍地針對日常情境下自動駕駛汽車電車難題提出，但在自動駕駛汽車倫理原則中尚未真正運用電車難題(6)Kagan S.,“Solving the trolley problem”，Rakowski E(ed)，The trolley problem mysteries，Oxford：Oxford University Press,2016.。再次，日常情境下自動駕駛汽車的實際道德選擇對倫理準則的建構更加具有相關性。總之，電車難題的情況雖然很重要，但根據自動駕駛汽車倫理探究的現狀，相對于日常情境而言，電車難題的重要性往往被過分夸大了。與電車難題不同，日常情境下的道德相關性很容易被忽視。

二、“電車難題”的合理性

電車難題是一種理想化的情況，在這種情況下，能動者必須在可能導致不可避免的事故傷害如何分配的兩種行為之間做出決定。具體來說，作為電車難題至少要滿足三個條件。首先，在電車難題情況下，碰撞是迫在眉睫和不可避免的(7)考慮到自動駕駛汽車的狀況，這里將討論限制在碰撞上，并根據對危害的分配來討論更普遍的倫理原則。。第二，能動者能夠選擇如何分配由于碰撞而產生的傷害。第三，實際決策情況是確定的，因此能動者可以在結果之間做出選擇。(8)尼霍姆等認為在自動駕駛汽車面臨的現實中這三個假設都沒有得到滿足，因此電車難題的案例并非好的類比。

電車難題至少在四個方面是有價值的：它們可以用于電車事故討論；可以用于道德實驗范式；可以作為倫理教學工具；也可以用來揭示和說明社會倫理困境。具體分析如下：

首先，電車難題可以用于電車事故的討論。在電車難題中，人們會問自己在兩種或兩種以上看似相似的不同電車案例情況下如何決定。盡管案例之間在結構上有某些相似之處，但個體往往會對“應該如何決策”做出相反的直覺判斷。電車難題是系統地尋找一個原則來回答該如何解釋兩種情況下的道德差異問題。換句話說，電車難題是對多個電車事故情境中應該如何對這些案例進行反思和相互對照，以揭示道德差異并告知人們必要的道德原則。最終的決策在道德上有什么不同？是應該把人當做目的從而拯救更多的人，還是應該把一部分人當作拯救另一部分人的手段來看待？通過這種對比方法，電車難題得到了非常廣泛的應用，并導致了微妙而復雜的規范倫理的發展。

其次，電車難題可以用在道德實驗范式中。通過這種方式，電車難題被用來作為一種系統激發個體道德直覺的方式。受試者被問及在一個或多個電車難題中他們會做什么。當在道德實驗范式中使用電車難題時，電車難題也是思想實驗。作為思想實驗，它可以幫助人們仔細考查一組相關的考慮事項(9)帕垂克·林(Patrik Lin)認為，電車難題的目的是為了簡化問題，從而分離和研究某些變量。。所涉人員的年齡、身份以及具體情況是如何產生的等諸事實都被抽象出來了。但在道德實驗范式中使用電車難題與在電車事故中使用電車難題是不同的。例如，在一個道德實驗范式中，電車難題的實驗目的通常被認為是存在分離性的，道德實驗范式旨在引出直覺并將其用作數據或證據，而不是反映案例之間的道德差異。相比之下，電車難題主要不是關于個別情況下的直覺，而是關于明顯相似情況下直覺的差異。當在道德實驗范式中使用電車難題時，實驗者可以系統地大量收集人們對于電車難題中的直覺，以便更好地理解關于如何依賴于情境的變化而做出相對重要性的判斷。最值得注意的是，電車難題已被用于道德心理學的實驗范式(10)Greene JD,Cushman FA,Stewart LE,Lowenberg K,Nystrom LE,Cohen JD，“Pushing moral buttons:the interaction between personal force and intention in moral judgment”，Cognition，2009(111)，pp.364-371.。同樣，在討論自動駕駛汽車的倫理準則時，電車難題被用作可分離的決策情境，要求個人對“應該如何決策”做出直覺判斷。在這種情況下，道德機器研究也往往使用電車難題(11)http://moralmachine.mit.edu.。

再次，自動駕駛汽車中的電車難題是一種有效的倫理學教學手段。一方面，在倫理學教學中，電車難題思想實驗經常被拿來應用，原因在于它提出了一個悲劇性的選擇，向人們灌輸了一種道德緊迫感。因此，關于自動駕駛汽車倫理原則更廣泛的討論都從對電車難題的描述開始。另一方面，在倫理學教學實踐中，電車難題能夠很好地吸引學生，并激發他們開展思辨性的討論。此外，電車難題還有助于讓那些不具備相應哲學背景的人參與到關于道德議題的對話中來。總之，至少在某些特定的情況下電車難題成功地激發了人們對道德問題的深入思考。

最后，在自動駕駛汽車的背景下，電車難題揭示了一個重要的社會倫理困境。電車難題揭示了個人的道德觀和他的策略動機是如何沖突的。自動駕駛汽車的“電車難題”場景是，如果出現事故，汽車是優先保護車里的乘客而撞向行人，還是優先保護路上的行人而讓車里的乘客陷入危險。這就離不開道德方面的考量。在現實生活中，很多人可能會像美劇《上載新生》里面的未婚夫一樣，對于把自動駕駛汽車模式從“優先保護行人”切換到“優先保護車內乘客”沒有任何內疚感。如果自動駕駛汽車基于合乎社會道德價值觀的決策(即利他性決策)而傾向于“優先保護行人”，那么，大多數人就都會不愿意使用自動駕駛汽車，因為自動駕駛汽車做出的決定盡管符合他們道德上的認同(即利他性決策)，但最終卻不傾向于保護車上的乘客(自己)。當然，也許有的人更善良，讓自動駕駛汽車保持“優先保護行人”的模式。無論選擇哪種模式，車內的乘客都不難想象兩種模式的后果，對后果的想象可能促使人們選擇不同的模式。這就是一個社會倫理困境，因為它可能會阻礙自動駕駛汽車的技術轉型，并阻礙隨之而來的安全技術改進。在這種社會倫理困境下電車難題是有價值的，因為它揭示了一個重要的道德決策問題。

三、“電車難題”的現實困境

盡管電車難題有許多有用之處，它同樣存在令人擔憂的困境，提醒人們不要過度依賴電車難題來審查自動駕駛汽車的倫理準則。首先，作為思想實驗，電車難題往往建立在相互矛盾的假設基礎上。其次，電車難題的思想實驗是與特定的倫理設計框架相銜接的。第三，電車難題往往最終會給出錯誤的抉擇。電車難題本質上尋求的應該是政治上的社會選擇，而實際給出的卻是道德上的個人抉擇。最后，電車難題作為一種收集人們直覺的方法，其有效性受到了質疑。

不可否認，有人可能會反對電車難題，認為它不應該做人類自認都無法做到的事情。然而，電車難題最初是用來解決電車事故的，其方法已得到嚴格審查。相比之下，在自動駕駛汽車領域，電車難題有不同的方法論。它們似乎被用作一個模型來幫助審查相關的倫理挑戰。這里主要是對這個模型在自動駕駛汽車倫理原則建構中的充分性進行討論，并不是說必須要拋棄這種模型。相反，在意識到該模型的局限性之后，我們應該謹慎地運用該模型，并且只能在有限的范圍內使用它，防止過度依賴這一模型進行自動駕駛汽車倫理原則的建構。

(一)在前提假設上，電車難題存在基本假設的矛盾性

電車難題的基本假設可能相互矛盾。電車難題的基本假設可能是不一致的，這種不一致性是建立在語義而不是語法的一致性概念上。我們可以把這種語義上的一致性理解為可組合性。當存在一種可能性時，這些基本假設是可組合的，我們就可以將其理解為一個可能的世界，其中每個假設都是正確的。而電車難題中的基本假設在語義上也許是不可組合的，因為它對可能性是有一定限制的。應該承認電車難題的基本假設是可組合的。也就是說，如果沒有對可能情況的限制，存在認知上可能的電車難題的情況就會發生。相反，電車難題的情況在有限可能性(人們也稱之為技術可能性)意義下卻往往又是難以實現的。

電車難題中存在兩個必要假設。第一個假設是碰撞必須是迫在眉睫且不可避免的。第二個假設是處于這種情況下的行為人必須對不可避免的傷害分配作出選擇。簡言之，只有當碰撞不可避免時才會是電車難題發生的情況，但無論如何有意義的選擇都是可能的。這些假設分別被稱為不可避免性和控制性。但在合理的約束條件下這兩個假設無法同時得到滿足。首先，在關于自動駕駛汽車的工程設計及其故障模式的假設下，如果兩個假設中一個是正確的，那么另一個似乎就是錯誤的。假設自動駕駛汽車的故障模式是彼此相關的，當系統的一部分失效時，另一部分也可能失效，這可能就會面臨有意義的選擇。碰撞也可能是可以避免的或者是不可避免的，但是無法選擇如何分配傷害，因為車輛已經失去控制。這兩個關于電車難題的基本假設之間似乎存在著內在張力。考慮電車情況之前會發生什么，其中一種選擇是車輛會遭遇完全的系統故障而導致碰撞不可避免。在這種情況下，碰撞可能是不可避免的，但同時自動駕駛汽車也不能做出有意義的選擇。這說明如果假定故障模式相關，控制和不可避免性這兩個假設是相互矛盾的。

當然，在電車難題的情況下可能不會出現完全的系統故障。事實上系統故障模式似乎不可能完全相關。然而考慮到一些合理的狀況，人們對電車難題前后矛盾的擔憂依然存在。與其假設故障模式之間的相關性，不如假設車輛是完全正常的，并且行人意外地出現在車輛的路徑上。這一情況有兩個選項，可以把它們稱為低速和高速場景。在低速情況下，有足夠的時間進行有意義的選擇。假設碰撞是不可避免的，這樣一來控制和不可避免的假設都是正確的。然而，低速的情況并不是通常的電車行駛情況，不同的人所受到的傷害在具體情形上是有差異的。比如，如果行人被撞擊很可能會死亡，但當車撞到墻上時車內的乘客可能只是會受傷。與一般電車情況不同的是，這種情況會同時改變幾個因素，而不是幾乎所有因素都保持不變。這可能會削弱其作為電車情況的有效性。在高速行駛的情況下所造成的危害在物理上是平等的，這似乎是合理的。行人和車輛內的乘客都將死于碰撞。這種情況將滿足碰撞不可避免的假設，但這種情況可能與控制假設不一致。導致車內乘客死亡所需的速度可能很高，以至于沒有足夠的手段來避免碰撞，這再次表明在一個有意義選擇的假設與不可避免的碰撞之間存在著一種內在的張力。

總之，通過假設故障模式的相關性或者通過考慮電車難題發生的合理方式，似乎在有意義的選擇和不可避免的碰撞之間存在一種張力，這實際上削弱了電車難題與自動駕駛汽車倫理原則建構的相關性。如果論證是正確的，電車難題就很難代表可能發生的情況；對車輛的控制和不可避免的碰撞不能很好地同時進行，工程上的限制似乎沒有給電車本身留下多少空間。當然，這種擔憂沒有影響電車難題的理論優勢。人們將基本假設的一致性作為基于電車難題低頻率論證的改進版本來考慮是不夠合理的。(12)一些人反對電車難題，理由是它們很少見。即使引發電車事故的情況很少見，但從長遠來看它們肯定會發生。不管這些情況是否真的發生，自動駕駛汽車仍然需要編程，以某種方式或選擇來為不可避免的碰撞做好準備。

(二)在方法論上，電車難題框架設計導致倫理范圍的局限性

電車難題所能闡明的倫理范圍的限制是電車難題往往適用于特定的設計方法，而這導致了兩個限制。首先，不同設計方法之間的倫理差異并沒有被電車難題所闡明。其次，電車難題的審查可能與實際工程實踐相脫節，工程師們可能會采用與電車難題最相關的相反的方法。

電車難題采用的是自上而下的自動化決策或人工智能方法。這種方法類似于深思熟慮的、有意識的演繹決策過程。采用這種自上而下方法開發人工智能的目的是實現直接指導給定過程的原則。這種自上而下的設計方法與自下而上的方法形成了對比，自下而上的方法借助于學習行為(例如神經網絡)，它類似于相當直觀和無意識的決策。在自下而上的過程中做出選擇的原因通常是難以理解和解釋的，因為選擇不是基于明確的決策規則或原則。因此，電車難題很自然地采用了自上而下的設計方法。這種自上而下的方法體現在電車難題中，就是其假設一個能動者通過利用一般原則而明確地做出決定。這種自上而下的方法具有某些受歡迎的特性。

當然，采用自上而下的方法本身也會引發倫理問題。例如：考慮到在任何情況下、任何時候所有決策都是由自動駕駛汽車做出的，乘客是否應該對這些決策有發言權呢？這些問題無法用電車難題的答案來解釋。然而，對于自動駕駛汽車在工程領域將面臨的大多數挑戰，都需要做出設計決策。這些決定可能會對自動駕駛汽車的性能和社會接受這項技術的程度產生嚴重影響。有些人甚至認為，道德上最重要的決定……是在計劃階段，即當決定如何對自動駕駛汽車進行編程時(13)Nyholm S,Smids J，“The ethics of accident-algorithms for self-driving cars: an applied trolley problem?”，Ethical Theory Moral Pract，2016(19),p.1280.。由于他們無法闡明設計問題，電車難題受到了嚴重的限制。這提醒人們，在調查自動駕駛汽車的道德問題時，不要只關注電車難題。此外，鑒于目前以神經網絡學習算法形式出現的自下而上方法在人工智能領域的突出地位，倫理方法與工程方法之間存在不可通約性的風險。工程師可能會采用與電車難題最自然相關的方法相反的方法(14)盡管有這些限制，但電車事故的案例在這里還是發揮了倫理學教學的作用。。

(三)在本體論上，電車難題是道德問題而非政治問題

電車難題似乎導致了錯誤的解決方案。電車難題的解決方案包括行動的選擇和這種選擇的正當性，這種選擇通常采用抽象規范理論的形式(15)因此，電車事故的處理方法與電車難題的方法有很大的不同，電車難題的目的是制定普遍的道德原則。。簡言之，電車難題被認為是道德問題。但這在錯誤的層面上定位了這一問題。相反，對于自動駕駛中的電車難題，人們需要在政治層面上找到解決辦法。道德哲學是對個人行為的反思，政治哲學則是對實質分歧背景下的社會安排的一種反思。電車難題的解決方案似乎不太可能得到廣泛的社會認可。在這種進退兩難的情況下，什么才是正確的選擇是有爭議的，而且這種分歧很大。應該如何處理道德問題上廣泛而深刻的分歧卻引發了一個政治選擇問題。面對道德分歧和價值多元主義，政治哲學家們反思了治理共同生活的不同模式。政治方法以現有的觀點和價值觀的多樣性為出發點，它與電車難題中道德哲學的方法形成了對比。電車難題沒有為這種多元主義留出空間，因為它的目的是引發個體的道德選擇。電車難題促使人們做出個人選擇，而實際上人們面對的卻是社會選擇。人們似乎需要的是一種政治妥協，以克服在價值問題上的分歧。只要人們重視政治群體的道德多樣性，就應該認識到自動駕駛汽車主要應該是一個社會政治決策問題，而不是個體道德選擇問題。

(四)在認識論上，電車難題存在不確定性，其證據價值存疑

為了便于討論，假設人們要找到電車難題的解決方案，而且幾乎所有人都同意這個解決方案。然而，在確定自動駕駛汽車的倫理議題設置時，這種解決方案的幫助仍然有限。這是因為電車難題尤其是更普遍的電車難題存在各種認識論問題。

首先，一種電車難題的解決方案可能不適用于其他新情況。在一種情況下看似正確的選擇，在另一種情況下可能變成錯誤的選擇。電車難題通常規定所有相關的個人情境都是相同的。但是哪怕細小的個體情境的改變可能都很重要。根據參與者的年齡、他們與他人的關系、他們在特定交通情況下的責任，人們都可能想要做出不同的選擇。更普遍地說，一個給定的道德選擇或原則是否能從一種情況擴展到另一種情況，本身就是一個道德問題。

其次，電車難題的解決方案可能不會擴展到不確定性的決策。人們做出的所有決定——以及自動駕駛汽車必須做出的任何決定——都只能以概率的形式恰當地表示出來。相比之下，電車難題以兩種方式假定確定性。首先，他們假設面臨決策的能動性確定沖突是不可避免的。但是，認識到碰撞是否不可避免并非無關緊要，它本質上是一個概率問題。因此，存在一個情況不確定性的問題。其次，作為一種理想化，電車難題規定人們選擇的結果是確定的。但事實上，選擇的結果也是一個概率問題。因此，電車難題并不代表決策的不確定性。對于這兩種不確定性中的任何一種都會出現以下問題，即不清楚確定性的決策原則是否以及如何擴展到不確定性的決策；在確定的情況下容易做出的決定，在不確定的情況下會變得困難得多，并且在道德上充滿了不確定性。不確定性給一系列規范理論帶來了深層次的問題。這在相關文獻中已經有所體現(16)Jackson F,Smith M,“The implementation problem for deontology”，In:Lord E,Maguire B(eds)，Weighing reasons，Oxford：Oxford University Press,2016,pp.279-292.。然而，在解決這些不確定性問題時，對電車難題的反思只能提供有限的幫助。弗雷德(Fried)甚至得出這樣的結論：幾十年來，人們對電車難題的關注所產生的各種道德準則中，沒有一個能夠處理其中的普通風險問題(17)Fleetwood J，“Public health, ethics,and autonomous vehicles”，American J Public Health，2017(107)，p.506.。

最后，在高度抽象的決策情境下做出的直覺判斷的證據價值令人懷疑。人們對想象中的情況作出道德判斷的能力會減弱，因為這些情況是高度理想化和抽象化的，因此與人們所熟悉的日常環境非常不同。人們對電車難題的直覺會對根本沒有任何真正道德意義的因素做出反應。這一論點使人們對電車難題作為一種獲取證據的方式，以及在自動駕駛背景下為汽車道德決策提供信息的作用提出了質疑。

綜上所述，電車難題并不是解決自動駕駛汽車倫理問題的核心。這里已經闡述了四個方面的擔憂。首先，電車難題假設可能是不一致的，這可能導致它們的實用性受到實際限制。其次，電車難題往往與自上而下的設計方法相結合。因此，它們將重要的設計決策排除在視野之外，并且它們可能與當前人工智能領域的主要方法不連續。第三，當社會需要政治解決方案時，電車難題能夠給出的卻只是道德解決方案。第四，即使人們找到了一個所有人都能接受的解決方案，由于某些原因使得這種解決方案的幫助也有限。比如，一種電車難題的解決方案是否會延續到另一種情況尚不清楚；基于電車難題的審查可能無法提供關于情境不確定性和決策不確定性的信息；假設人們的直覺只在熟悉的環境中起很好的引導作用，那么電車難題的理想化可能會弱化直覺的證據價值。以上都說明了電車難題在審查自動駕駛汽車道德問題方面的局限性。

四、日常情境中自動駕駛的倫理挑戰

我們應該為自動駕駛汽車的道德原則建構提供一個積極的愿景。日常的交通狀況，比如接近能見度有限的人行橫道、遇到迎面駛來的車輛時左轉、以及通過繁忙的十字路口等都會對自動駕駛汽車提出重要的道德問題。與這些日常情境相關的倫理問題范圍十分廣泛，包括風險管理技術、社會正義問題，以及整個交通系統層面出現的倫理挑戰(18)Borenstein J,Herkert JR,Miller KW，“Self-driving cars and engineering ethics:the need for a system level analysis”，Sci Eng Ethics，https://doi.org/10.1007/s11948-017-0006-0(2017).。當然，這里關注的主要是駕駛策略問題。

首先，對于自動駕駛汽車來說，在日常情境下的駕駛策略具有挑戰性。人類可以憑直覺做決定，而機器卻不能憑直覺作出決定。這就是一種特殊性的挑戰，也是眾所周知的“莫拉維克悖論”的一個例子：對人類來說容易的東西對自動化系統來說卻很難。人們憑直覺決定自己需要多么小心地駕駛。然而，這種直觀的感覺或訣竅并不容易轉化為自動化算法。人們理解祈使句“慢下來”的意思，但是它的意思卻很難精確，因為它取決于不同的情境和環境參數，比如，此刻后面有沒有另一輛汽車？這一街區上有多少行人？準確地闡明駕駛策略的難度表明，在這種普通情況下采用自上而下的方法實施車輛行為不太可能成功。這一方法通過誘導性地復制人類駕駛員的實際行為來告知車輛的行為策略很難避免特殊性的挑戰。關于人類駕駛員的實際行為的數據往往存在偏見等突出問題。人類駕駛員的實際行為受文化、地理差異等因素的顯著影響，并且在年齡、種族等方面往往具有歧視性。此外，由于行人對自動駕駛汽車的行為可能與他們對人類駕駛汽車的行為反應不同，因此，對人類駕駛員實際行為的復制并不能充分解決自動駕駛汽車可能被行人策略性利用的難題。其次，除了特殊性的挑戰，還有規模性的挑戰。對于人類駕駛員(尤其熟練的駕駛員)來說，在日常的交通狀況下如何最恰當地駕駛，通常是不需要專門去思考的問題。這不僅是因為日常情境很容易直觀地處理，而且還因為每個人開車的方式——只要我們稍微合理地開車——總體上沒有多大區別。相比之下，自動駕駛汽車在日常情境下的駕駛行為選擇本質上關涉的是普遍的社會政策，絕非個體的道德選擇問題。因為，自動駕駛汽車如何接近人行橫道的決策不僅影響一輛車的行為，還影響所有以這種方式編程的車輛在所有人行橫道上的行為。可見，日常情境下的自動駕駛的情況就不再是一個小問題，而是一個社會大問題。關于自動駕駛行為的小差異將在總體上產生很大的差異。由于日常情境的自動駕駛行為經過學習訓練后就經常發生，由此造成的統計性傷害和死亡可能相當大。特殊性和規模性的挑戰，使得日常情境與自動駕駛汽車的倫理原則建構是密切相關的。人類駕駛員在風格上可以是多樣的，在決策上也可以是直覺的。但是，自動駕駛汽車的風格將是統一的，而且在使用方法上必須是具體落地的。

在此背景下，我們確定三種方式并在日常情境下提出與道德相關的問題。首先，使自動駕駛汽車盡可能安全的優化問題。其次，在安全性和其他價值之間存在權衡，如機動性、環境保護和可承擔性。第三，現有的法律框架如何適應自動駕駛汽車產生的法律問題，如法律的激勵性機制問題。

(一)安全的優化問題

自動駕駛汽車有可能使駕駛變得比現在安全得多。然而，潛在的安全優化實現的程度取決于工程和社會決策。比如，以能見度有限的人行橫道為例，一些汽車制造商可能會采用自上而下的方法，另一些制造商可能依賴自下而上的方法讓自動駕駛汽車向人類駕駛員學習。有些方法可能比其他方法更安全。當然，這也帶來了兩個突出挑戰：一是如果需要就不同的技術方法進行協調以改善總體安全，那么在競爭環境中如何促進這些技術方法協調呢？類似的問題也出現在互操作性標準中，例如，車輛對車輛通信的協議或者車輛對基礎設施通信的交叉口集中管理的操作。二是不同的制造商可能會根據各自的解決方案找到安全最佳方案。如何將這些方法結合起來以避免局部最優從而達到一個可行的全局最優？

可以設想采取不同的措施來鼓勵打破局部的安全最佳狀態，并促進技術方法上的協調。第一種措施是基于監管而實現。只有最安全的自動駕駛汽車或達到某些最低安全標準的汽車才會被允許上路，這一安全措施可能會導致用戶部分放棄自己的經濟自由。第二種措施是要求制造商之間的知識轉移或數據共享。自動駕駛汽車的整體安全性可以通過公開確定成功的解決方案來提高，這樣競爭對手就可以相互借鑒采用某些策略。然而，這種措施一方面使得用戶數據的隱私可能面臨風險；另一方面，為了提高安全性而放棄部分知識產權和產品差異化的優勢。第三種措施是將安全優化問題留給消費者。但由于消費者會基于安全原因在各種不同產品之間進行選擇。因此，與基于數據交換或監管的措施相比，第三種措施很可能導致總體上不那么安全的情況。這三種措施中的每一項都將有助于優化自動駕駛汽車的安全性，但哪種措施(或哪些措施的組合)更好卻是一個倫理問題。

簡言之，考慮到特殊性和規模性的挑戰，設計無人駕駛汽車在日常情境下的行為決策是一項復雜的挑戰，而且考慮到人類健康和生命受到威脅，政策方法的選擇在道德上是相關的。盡管類似的治理問題——通過監管、共享或通過市場來提高安全性——也被用于其他產品，但考慮到專用性和規模性的挑戰，自動駕駛汽車的情況也帶來了獨特的問題。

(二)不同價值間的權衡問題

除了基于安全優化的考慮，其他的價值可能與設計自動駕駛及其在日常情境下的可承擔性行為有關。人們主要需要考慮三個必須與安全相權衡的價值：機動性、環境影響和城市道路的規劃設計。

首先，通過機動性，人們可以了解交通效率的衡量標準，比如交通流量的平均速度。如果車輛在接近能見度有限的人行橫道時大幅減速，這將以減少交通流量為代價來增加安全性。個人可以憑直覺在高效的機動性和安全性之間做出這些權衡。但對于自動駕駛汽車來說，這些權衡可以在系統層面進行，這就引出了一個問題，即如何正確平衡安全性和機動性。另一種選擇是允許個人設置，也就是說個人可以調整自動駕駛汽車的駕駛行為。當你開會遲到的時候，你可以通過其他交通工具或者無視安全措施來支付路費。在多大程度上應該允許這樣做(如果應該允許的話)就引發了一個倫理問題。

其次，日常情境可能會導致與外部價值的權衡，如相對環保的交通系統。考慮到規模性的挑戰，車輛在通常情況下(比如轉彎)的性能設置將對環境產生重大影響，比如溫室氣體排放或交通噪音。根據車輛加速和剎車的速度，排放和材料磨損對環境的影響將有所不同(19)Millar J，“Ethics Settings for Autonomous Vehicles”，In Lin P,Jenkins R,Abney K(eds),Robot Ethics 2.0:From Autonomous Cars to Artificial Intelligence，New York:Oxford University Press,2017，pp.20-34.。由于大量車輛將遵循相同的算法來處理日常情境，交通增量變化將在總體上減少或增加對環境的影響。

最后，日常道路交通中存在人行橫道這樣的情況，而自動駕駛汽車的引入將為城市道路規劃設計提供變革和新穎的方法。在安全有效地讓位于行人方面，自動駕駛汽車可能更可靠，因此出現了一個問題：在任何地方過馬路時，行人是否應該獲得更大的優先權。也許專用人行橫道的想法應該放棄。這是影響城市道路規劃設計的關鍵問題，也是一個規范性問題。這個關鍵問題引出了后續的問題。假設在城市的任何地方，行人在過馬路時都比車輛享有優先權，那么是否應該要求行人表明他們想過馬路的意圖呢？這個問題涉及有關行人和自動駕駛車輛使用者的角色和責任的倫理問題。思考自動駕駛汽車將如何改變日常情境中的交通狀況，有助于激發對這些問題的思考和解決。

簡言之，日常情境的駕駛體現了不同價值觀之間的權衡，比如安全、機動性、效率、環境影響，以及在城市道路規劃設計中如何考慮行人的責任等等。這些價值觀是很重要的，特別是在針對穩定性方面，以及它們之間的權衡應該是基于規模性挑戰的重要倫理問題。

(三)法律激勵機制的調整問題

基于新型故障模式的自動駕駛汽車制造商可能面臨更多的責任負擔和訴訟。鑒于大部分交通事故都發生在普通駕駛情況下，人們應該就控制這些情況下的責任的法律框架來審查普通駕駛情況。當前，人們往往用非常籠統的術語來描述復雜的法律環境，并且只提到道德問題來說明這些案例。比如，美國侵權法的基本原則是責任損害賠償是受扶養人收入損失的函數限制。假設制造商希望保持對責任索賠的敞口不變，就會受到激勵根據一個地區的平均收入來調整駕駛行為的做法。自動駕駛汽車在富裕地區會比在經濟貧困地區更傾向于小心駕駛。這就會導致現有的法律框架鼓勵歧視某些駕駛行為(20)Casey BJ，“Amoral machines,or:how roboticists can learn to stop worrying and love the law”，Northwest U Law Rev，2017(11),pp.231-250.。究竟應該如何調整法律框架——侵權行為法的原則是否應該只適用于涉及自動駕駛汽車的事故？——是應用倫理學與法學交叉的一個相關問題。因此，這說明即使在日常情境下道德問題也會出現，比如當法律框架造成令人反感的激勵時，就會不可避免地出現不公平、歧視等道德問題。

五、結論

日常情境的自動駕駛汽車面臨著一系列的道德挑戰。與電車難題相比，這些挑戰似乎不那么明顯和緊迫。為了強調日常情境的相對重要性，這里討論了將電車難題作為自動駕駛汽車倫理核心所面臨的四個方面的困境。第一，電車難題可能建立在相互矛盾的假設之上。第二，電車難題與自上而下的設計方法相結合。對日常交通狀況的反思則要求考慮此類工程和設計決策的相關性。第三，電車難題在錯誤的層面上處理了自動駕駛汽車的道德問題。在實際上需要社會政治選擇時，它給出的卻是個人道德解決方案。現實的交通狀況說明了自動駕駛汽車的駕駛行為如何與其他交通參與者的權利和責任，以及社會普遍持有的道德價值觀相吻合。第四，電車難題的解決方案只要能被廣泛接受，在不確定的情況下可能對做出決策的幫助是有限的。相比之下，對日常情境的反思可以立即獲得自動駕駛汽車的發展趨向。

總之，日常情境會引發自動駕駛汽車的重要倫理問題，這是因為特殊性和規模性這兩個重要挑戰。人類駕駛員憑直覺在汽車駕駛中做出決定，而日常情境下的行為則成為政策選擇問題。與一般情況相關的算法中的小差異可能在總體上產生重大影響。這引發了三種倫理問題：一是使自動駕駛汽車盡可能安全的優化問題涉及經濟自由和知識產權問題，這是在實現全局安全優化過程中產生的內部價值沖突。二是其他的價值觀可能與安全相沖突，比如機動性、環境影響或城市設計和交通規劃中的價值觀。這些價值觀如何相互平衡是一個重要的倫理問題。三是現有的法律框架導致了反常的激勵，調整框架并減輕對這些激勵措施的抵觸是一個微妙的問題，因為法律變化的影響可能是廣泛的。

綜上，雖然人們承認電車難題可能在電車難題的思維實驗、收集證據的方法、倫理學教學手段以及闡明社會政策困境方面很有用，但當涉及到自動駕駛汽車的道德原則建構時，它們的用處卻是有限的。在對發展自動駕駛汽車所涉及的道德和政治問題進行反思時，應更多地關注日常情境下行為選擇和現實情況，而單純依賴道德哲學中的“電車難題”思想實驗往往不能解決日常情景中的自動駕駛汽車引發的道德與法律挑戰。