無人駕駛汽車之電車難題的命運值策略

云太真 潘曉輝

[摘要]無人駕駛汽車技術發展中尚需解決的一個重要問題是緊急避險的規則。問題在于，無人駕駛在緊急避險情況下，如何進行規避，如何選擇碰撞目標，是一個類似于電車難題的倫理悖論。功利主義和義務論的倫理學說提出了對立的選擇規范，無人駕駛汽車的發展要求提出可實現的規則，論文將兩種對立的規范進行折衷，提出一種基于“命運值”的比較策略。

[關鍵詞]無人駕駛；電車難題；概率；功利主義；義務論

[中圖分類號]D922.14；D923；D922.284? ? ? [文獻標識碼]A

[DOI]：10.20122/j.cnki.2097-0536.2023.11.009

隨著自動駕駛技術的不斷發展和人工智能的日益成熟，完全自主、無需人工干預的自動駕駛正在向我們走來。自動駕駛技術從智能輔助駕駛、需干預的自動駕駛到無需干預的自動駕駛，符合技術發展的階段性，也符合社會接受的階段性。未來的趨勢必然是自動駕駛技術完全成熟，發展到無需人類駕駛員，獨立完成駕駛任務。本文談到的無人駕駛汽車，就是這樣完全自動、無需人工干預的自動駕駛形式，也就是L5級的自動駕駛[1]。

當前，無人駕駛技術面臨的一個困境主要是倫理和法律上的。人類駕駛汽車在面臨緊急避險等兩難選擇時，面臨的情況和無人駕駛的情況有很大區別。人們不為難自然人在短時間的選擇，但無人駕駛必須提前對很少發生的瞬時困境做出的選擇進行規定，這就要求對電車難題的解決提出一個可行的方案[2]。

一、無人駕駛與緊急避險

對人類駕駛員來說，駕駛是一種有風險的行為，當這種風險可能造成巨大危險后果時，如果駕駛員做出某種選擇，能使這種風險后果明顯變小，就是緊急避險。從法律上來說，緊急避險是一種在不得已的情況下，損害一方利益以保護更大利益的行為。一般來說，緊急避險不承擔刑事責任，但要承擔民事責任。緊急避險是法律鼓勵的行為，這種行為有利于減小社會總體風險，對社會整體是有益的[3]。一般來說，緊急避險的避讓原則是駕駛員自主掌握的，在緊急情況下，即使駕駛員做出了不太合理的選擇，人們也不會太做計較。畢竟，緊急情況下思考、反應的時間有限，只能依據本能和樸素的感情迅速做出決策。

無人駕駛的情況下，緊急避險的規則有所不同，必須事先制定合理的規范。因為無人駕駛本質上是計算機軟件在計算，程序員必須事先考慮到所有情況，才能讓無人駕駛汽車在特定時刻做出特定的行為，計算機不可能處理程序員沒有預料到的問題。人工智能技術雖然具有學習能力，但對沒有考慮過，也沒有提供相應場景的事件，往往會做出人類難以理解的怪異行為，這是不可接受的。最合適的，顯然是人們事先制定好規則，讓它按規則執行。不過遺憾的是，這里面臨一個倫理困境。

本文根據倫理學中功利主義和義務論兩種對立的學說對這種緊急避險的規則進行了研究，將兩種觀點進行折中，提出無人駕駛緊急避險的一種概率策略。這種策略不是最優的，但卻是一種可行的方案。

二、無人駕駛與電車難題的倫理問題

對無人駕駛技術來說，無人駕駛的緊急避險如何決策是一個值得深思的話題。因為無人駕駛技術是依靠計算機編程實現的，是依靠內置的規則執行的，他不是依據人類本能和樸素的感覺在短時間內判斷的，因而許多避讓的規則必須細化、明確化。畢竟無人駕駛只是一種計算機程序，它并不能真正思考，人們必須事先假定各種場景予以規范，做出決定，由程序員寫成代碼。不過，有些場景容易做出決定并制定規則，有些場景很難做出決定并制定規則。例如假定在某種情況下，汽車高速運行而剎車失靈，唯一能做的就是調整方向。突然發現前方有人和物體的阻攔，應當撞向物；當前方發現人和動物阻擋時，應當撞向動物，因為人的安全是第一位的；但如果在前方能調整的方向上都是人，怎么辦？這就是電車難題的倫理悖論在無人駕駛緊急避險上的表現。

電車難題的原始版本大致可以描述如下：一輛失控的有軌電車在軌道上行駛，前方是一個道岔，道岔旁邊站了一個人，他剛好有機會做出選擇。如果什么都不做，電車將直沖過去，前面的軌道上綁了5個人，他們會被撞死；如果扳動道岔，電車拐到另外一股軌道上，上面綁了一個人，他會被撞死。請問這個人是否應該扳動道岔？很顯然，如果他什么都不做，電車將撞死5個人；如果他扳動道岔，電車只撞死1個人。簡單思考一下，似乎扳動道岔比較有利，死1個人總比死5個人好一些。但生命是無法比較的，那1個人犯了錯，憑什么為那5個人犧牲？如果換一種情況，5個人都是80歲以上的晚期癌癥患者，那1個人是風華正茂的科學家，難道就該反過來嗎？電車難題是沒有答案的，對電車難題的一系列思考，就是對人類倫理本身的反思[4]。電車難題反映到自動駕駛方面，就是無人駕駛的緊急避險規則的研究，這要求規則必須符合倫理的要求，要在倫理角度能站的住腳。

三、功利主義和義務論

電車難題，或者說無人駕駛汽車如何規避和選擇碰撞的規則，倫理學上主要涉及到兩種對立的觀點。一種是功利主義。功利主義要求人們根據行為的后果或結果來判斷行為的好壞，導致結果變好的行為就是好的。對社會整體來說，功利主義要求社會整體的福利最大化和損失最小化。在社會整體功利的角度上來說，對社會價值最大的行為就是好的，對社會損失最小的行為就是好的。另一種觀點是義務論。義務論認為行為本身就有道德性，合乎道德的義務或規則的行為就是好的，違背道德行為就是壞的，這和行為的目的無關。例如撒謊和失信是壞的，不能因為在某些情況下撒謊和失信能帶來好處，就認為這種行為在這些情況下是好的。哪怕說真話和守信會帶來壞處，也不能認為這種行為就是壞的[5]。

功利主義者認為人類的道德規范不是從天上掉下來的，而是在人類社會交往中，發現某些行為對人和社會有好處，從而普遍的將這些對大家有好處的行為定義為好的行為或善的行為；反之，某些行為對人和社會有害，從而將其定義為惡。也就是說，道德來自于行為對人類社會是否有益，利益是行為是善或惡的判斷標準。因此，邊沁提出道德的最大幸福原理，也就是功利主義。需要特別說明的是，這里的“功利”一詞應理解為利益或好處這樣比較中性的詞語，不能簡單的理解為狹隘的個人私利或者個人的低級趣味。

另外，功利主義原理指向的利益包括物質利益和精神利益，它所服務的不只是行為人本人的最大利益，而是社會全體的最大利益。我們知道，高尚的人會因為自己的高尚而感到幸福，高尚的人也會使別人幸福，這對整個社會都是有益的。很多時候，高尚的人在使別人幸福的時候，減少了自己的物質利益，但能使自己感到精神的快樂，這正是因為精神幸福也是利益的一種。很多仁人志士愿意經受痛苦的生活，付出汗水和鮮血甚至生命，正是因為希望舍棄自己的幸福，給自己的同胞帶去幸福的生活。他們的目的是付出自己的犧牲，帶來社會整體的最大幸福和利益。在功利主義看來，一種犧牲如果不能給他人帶來利益，這種犧牲就是浪費，功利主義唯一贊成的自我犧牲，就是這種犧牲能提高他人的幸福[6]。

功利主義認為現存的道德觀念正是人類在長期的社會實踐中發現的一些行為對社會有利，因而認定某些行為是合乎道德的，這種觀念世代流傳，就產生了人類的道德規范。通常情況下，直接遵循這些道德規范并沒有什么問題，但如果遇到難以判斷的道德困境的時候，理解道德的第一原理是很有必要的。

義務論否認行為的后果的重要性，不認為符合個人或者社會最大利益的行為就是合乎道德的。一種行為的道德與它造成的后果無關，行為本身就具有內在的道德價值。義務論認為功利主義為了社會的整體利益，犧牲少數群體的利益是不可接受的。極端的例子是一個城市發生了極其恐怖的謀殺案，現有的證據和線索很難在短期內破獲案件，整個社會恐慌不安。此時，警方抓獲了一個有前科的嫌疑犯，和這個案件只有部分關聯。功利主義的做法是立即將該嫌疑犯定為罪犯處死，這樣整個城市的恐怖氣氛就消失了，社會重新獲得了安全感。義務論堅決反對這種做法。按羅爾斯的說法，每個人都擁有一種基于正義的不可侵犯性，即使以社會整體利益的名義也不能抗衡。為了社會最大利益剝奪一些人的自由和生命是不正當的，不能因為多數人的利益剝奪少數人的自由和生命，自由和生命是不可侵犯的。

關于道德規范的來源問題，羅爾斯提出一種和社會契約論類似的“原初狀態”，在原初狀態下，沒有人知道他在社會中的地位，也就是階級、社會出身、先天資質、能力、智力和體力等因素，在這種“無知之幕”的背景下，所有人都是公平的，基于理性，人們制定的行為規范必定是公平的、正義的。人們不會同意為了讓某些人享受較大的利益而損害他人，哪怕這樣做能讓整體利益最大化。人們會平等的分配基本權利和義務，同時，財富和權力的占有者應當傾向于保護窮人和弱者。羅爾斯明白原初狀態并不存在，但他認為可以通過“無知之幕”屏蔽個人因素，使人們反思從而推導出行為的合理性[7]。

功利主義和義務論類似于發展社會經濟時效率和公平的爭議。在社會發展落后的時候，公平很重要，因為所有人都要生存。在社會公平基本滿足后，人們又希望提高社會生產效率，把經濟總量做大。經濟總量發展一段時間以后，貧富差距變大，又必須回歸社會公平，否則社會就會不穩定，阻礙社會發展。功利主義和義務論就是這樣的一體兩面。

四、無人駕駛電車難題的命運概率策略

對電車難題來說，關鍵是選擇碰撞目標。如果采取功利主義的做法，需要判斷雙方的“價值”，我們可以使用函數和分別表示目標a和b的“價值”。如果>，則撞向b，否則就撞向a。至于和如何取值，可以有很多方案，需要進一步細化。例如，首先，人數是最重要的考量，人多價值就大；其次，要看年齡，老人和小孩的價值不如成年人；再次，罪犯的價值不如普通人。諸如此類的判斷可能有很多規則，但不需要規定過多，因為在很短的時間內，未必能觀察到過多的信息，一般來說，能觀察到人數就不錯了，更多的參數在實踐中恐怕無法獲取到。從單純道德的角度來講，制定這樣的規則似乎很殘酷，但對于功利主義來說，道德最終就是要靠社會最大福利和社會最小的損失來衡量的。從現實的角度來說，法律上的損害賠償最終也是靠類似的規則來支撐的[8]。

對義務論來說，不允許犧牲少數人保護多數人的生命，生命和自由不可比較。實在無法全部保護的情況下，只能選擇抽簽和隨機的辦法，大家都承認抽簽是一種公平的選擇。這在程序設計中實際上是可以實現的，現代程序設計語言和計算機系統中提供了隨機函數，隨機函數可以生成一個0到1之間的隨機數，我們可以利用隨機函數獲得抽簽一樣的效果。具體的，對a和b雙方來說，就是分別運行函數，我們記為和，如果>，就撞向b，否則撞向a。

在電車難題這樣的悖論中，無論采取功利主義的做法還是義務論的選擇，都會引起巨大的爭議，總會有人認為是道德上無法接受的。鑒于這種爭論的客觀存在，本文采取了折衷的做法，就是將兩種對立的方法綜合一下。具體來說，就是根據前面的分析，計算和，如果>，就撞向b，否則撞向a。之所以用乘法，就是我們既要考慮雙方的價值，又要考慮雙方以隨機函數的方式進行的命運抽簽，最終乘法運算出來的就是雙方的“命運值”。最終，以“命運值”的大小比較，來選擇碰撞的目標。

這樣，既考慮了功利的因素，也給了雙方平等的機會。這樣選擇碰撞目標，當然很難說是最好的，但卻是可行的方法，既可以避免紛爭，也是具體可實現、可操作的。

五、結語

無人駕駛技術在面臨緊急避險時，如果遇到不可避免的多個碰撞目標都是人類的情況時，就遇到了“電車難題”的倫理悖論。功利主義的基本選擇是犧牲少數人保護多數人，實現社會損失最小化。義務論則認為生命不可比較，生命都是平等的，只能通過抽簽決定。本文將兩者結合起來，提供了一種比較“命運值”的策略。這種方法可能不是最好的，但卻是一種可行的，能避免紛爭的可操作方法。

參考文獻：

[1]佟日.自動駕駛已來，無人駕駛可期[J].檢察風云，2022（21）：13-15.

[2]楊延超.機器人法[M].北京：法律出版社，2019：416-418.

[3]黎宏，丁文焯.緊急避險視角下自動駕駛中的碰撞選擇[J].湖湘法學評論，2022，2（3）：80-89.

[4]楊麗娟，耿小童.無人駕駛汽車的倫理困境及法律規制[J].沈陽工業學報（社會科學版），2021，14（4）：371-376.

[5]程煉.倫理學導論[M].北京：北京大學出版社，2008：166-171.

[6]穆勒.功利主義[M].北京：商務印書館，2019：7-31.

[7]羅爾斯.正義論[M].北京：中國社會科學出版社，1988：11-39.

[8]肖君擁，李浩驥.無人駕駛道德決策的法理難題及法益調諧[J].湖湘法學評論，2022，2（2）：50-65.

作者簡介：

云太真（1977.1-），男，漢族，河南鞏義人，碩士，講師，研究方向：人工智能法學，數據法學；

潘曉輝（1978.3-），女，漢族，新疆烏魯木齊人，博士，副教授，研究方向：人工智能法學、數據法學。