自動(dòng)駕駛汽車(chē)的“道德主體”倫理原則困境

陳媛

摘 要：在自動(dòng)駕駛汽車(chē)高速成長(zhǎng)的今天，我們也開(kāi)始關(guān)心機(jī)器怎樣進(jìn)行自我判斷，以及怎樣衡量人們對(duì)指導(dǎo)它行動(dòng)的倫理準(zhǔn)則的期望。自動(dòng)駕駛汽車(chē)的核心倫理問(wèn)題是遇到事故時(shí)，關(guān)于道德主體的抉擇，學(xué)者們從各個(gè)角度提出不同的見(jiàn)解，如結(jié)果論倫理學(xué)、義務(wù)論倫理學(xué)、契約論倫理學(xué)，但這些都不能以偏概全的進(jìn)行討論。自動(dòng)駕駛汽車(chē)所面臨的決策后果未知，未來(lái)行動(dòng)的不確定性，甚至自身環(huán)境的不確定性，有了這些不確定性，常見(jiàn)的道德問(wèn)題很快變得“復(fù)雜”。

關(guān)鍵詞：自動(dòng)駕駛汽車(chē) 道德主體 道德困境

Abstract：With the rapid growth of self-driving cars， people begin to care about how machines make their own judgments and how to measure people's expectations of the ethical principles that guide their actions. The core ethical issue of autonomous vehicles is the choice of moral subjects in the event of an accident. Scholars have put forward different opinions from various perspectives， such as consequential ethics， deontological ethics， and contractual ethics. With the unknown consequences of decisions facing autonomous vehicles， uncertainty about future actions， and even uncertainty about their own environment， common ethical issues quickly become “complex”.

Key words：automatic-driving car， moral subject， moral dilemma

1 引言

由于人工智能的迅速蓬勃發(fā)展，導(dǎo)致了人類(lèi)社會(huì)開(kāi)始關(guān)心機(jī)器怎樣進(jìn)行道德決策，以及怎樣量化人類(lèi)社會(huì)對(duì)指導(dǎo)機(jī)器行動(dòng)的倫理準(zhǔn)則的期望。同時(shí)自動(dòng)駕駛車(chē)輛也開(kāi)始在一些路線上進(jìn)行了巡航試驗(yàn)，這也要求人類(lèi)社會(huì)必須就威脅生命的事故無(wú)法避免地出現(xiàn)時(shí)應(yīng)適用的道德準(zhǔn)則進(jìn)行了一致。以百度、谷歌等為代表的網(wǎng)絡(luò)公司，從人工智能的角度切入了自動(dòng)駕駛行業(yè)，把自動(dòng)駕駛車(chē)輛視為一種高度智慧的機(jī)器人體系，采用了自主駕駛技術(shù)的車(chē)輛，其實(shí)質(zhì)上是一種移動(dòng)的智慧互聯(lián)機(jī)器人，并且能夠做到真正的自動(dòng)化和共享化。2021年1月，交通運(yùn)輸部印發(fā)了《關(guān)于促進(jìn)道路交通自動(dòng)駕駛技術(shù)發(fā)展和應(yīng)用的指導(dǎo)意見(jiàn)》的全面實(shí)施，到2025年自動(dòng)駕駛基礎(chǔ)理論研究取得積極進(jìn)展，出臺(tái)一批自動(dòng)駕駛方面的基礎(chǔ)性、關(guān)鍵性標(biāo)準(zhǔn);推動(dòng)自動(dòng)駕駛技術(shù)規(guī)模化應(yīng)用產(chǎn)業(yè)化落地。但就目前來(lái)看，自動(dòng)駕駛汽車(chē)正式進(jìn)入商用階段還面臨一些困難，其中有技術(shù)上的，也有立法和倫理上的;相比之下，后者更為嚴(yán)重和緊迫。

2 自動(dòng)駕駛汽車(chē)的道德主體的倫理學(xué)原則

讓我們?cè)賮?lái)思考一下，菲利帕福特所提出的典型案例"電車(chē)問(wèn)題"：當(dāng)一列失控的電車(chē)突然從遠(yuǎn)處奔駛而來(lái)，假如此時(shí)你是駕駛員，如果按原路徑繼續(xù)向前行駛，將會(huì)碰到前方車(chē)道上的五人，并造成五人死傷，但如果避免這五人，可以把電車(chē)轉(zhuǎn)入另一個(gè)轉(zhuǎn)轍器路，但這將會(huì)導(dǎo)致岔道上的另一個(gè)人死去，那么在這種情況下，該如何選擇呢？在結(jié)果主義者眼中，通過(guò)殺掉一個(gè)人來(lái)挽救五個(gè)人的生活是允許的，也是最佳的選項(xiàng)。不過(guò)，道德義務(wù)論者也指出，故意殺死了一名無(wú)辜的生命，這無(wú)論如何都不是一種道義的行為，是必須制止的，我們也不要把人僅僅當(dāng)成工具而使用。兩個(gè)理論都給人類(lèi)的道義選擇問(wèn)題給出了截然不同或相反的回答，使我們無(wú)法選擇。而目前發(fā)展的自動(dòng)駕駛汽車(chē)的倫理也可能需要兩種或更多的倫理理論的結(jié)合。

2.1 結(jié)果論倫理學(xué)原則

自動(dòng)駕駛車(chē)輛，即便是復(fù)雜的例子，也會(huì)不斷出現(xiàn)碰撞事件，想要降低傷亡，車(chē)輛需要進(jìn)一步衡量自己和別人的風(fēng)險(xiǎn)。即便是單純的機(jī)動(dòng)也要求汽車(chē)判斷對(duì)自己和別人的風(fēng)險(xiǎn)是不是能夠承受，自動(dòng)駕駛汽車(chē)應(yīng)該在任何時(shí)候都盡量減少損害，這提出了一個(gè)結(jié)果主義的倫理體系。我們關(guān)注的一種結(jié)果主義的形式，即功利主義，它分析情景的預(yù)期效用，根據(jù)行為的結(jié)果來(lái)評(píng)估行為肯定道德有效性，并根據(jù)什么能產(chǎn)生最好的來(lái)評(píng)估行動(dòng)的結(jié)果，也就是說(shuō)，“目的證明手段是正當(dāng)?shù)摹薄＿@表明，如果一個(gè)行為的結(jié)果——或者在自動(dòng)駕駛汽車(chē)的情況下，預(yù)期的結(jié)果——使效用最大化，那么這個(gè)行為就是道德的。這種方法的優(yōu)點(diǎn)是易于計(jì)算。然而，很難為結(jié)果定義一個(gè)度量。財(cái)產(chǎn)損失估計(jì)可能會(huì)產(chǎn)生不公平的結(jié)果，因?yàn)樗麄儠?huì)建議與戴頭盔的摩托車(chē)手相撞，而不是沒(méi)有戴頭盔的摩托車(chē)手，因?yàn)榇黝^盔的摩托車(chē)手不太可能遭受昂貴的大腦損傷。這個(gè)例子說(shuō)明了功利主義的另一個(gè)缺點(diǎn)——它通常使集體利益而不是個(gè)人利益最大化，而且沒(méi)有考慮到公平。一個(gè)群體可能會(huì)一直受益（不戴頭盔的騎手），而另一個(gè)群體則是輸家。

結(jié)果論主義，通過(guò)其更具體的功利主義形式，為將倫理決策作為一個(gè)優(yōu)化問(wèn)題提供了基礎(chǔ)。在控制理論中，最優(yōu)控制利用一個(gè)優(yōu)化問(wèn)題來(lái)數(shù)學(xué)上確定一個(gè)最優(yōu)解作為控制動(dòng)作。具體來(lái)說(shuō)，最優(yōu)控制行為（即道德上正確的決策）是使成本函數(shù)最小化的可行解（即力求達(dá)到的期望結(jié)果）。對(duì)于自動(dòng)駕駛汽車(chē)來(lái)說(shuō)，這種成本函數(shù)的一個(gè)例子可能是將對(duì)車(chē)輛乘員的傷害降到最低。最優(yōu)解用結(jié)果主義的術(shù)語(yǔ)來(lái)說(shuō)就是操縱交通工具來(lái)實(shí)現(xiàn)最小化傷害的目標(biāo)。

2.2 義務(wù)論倫理學(xué)原則

另一個(gè)核心的規(guī)范倫理理論是義務(wù)論，義務(wù)倫理學(xué)包含了對(duì)機(jī)器行為的限制，或者一組它不能違反的規(guī)則。義務(wù)倫理學(xué)必須遵循一種準(zhǔn)則，這種規(guī)則決定著人們合理的、道德的行動(dòng)。艾薩克阿西莫夫的機(jī)器人三定律是義務(wù)論倫理學(xué)的一個(gè)經(jīng)典案例，它說(shuō)：

（1）機(jī)器人不能攻擊人類(lèi)，或袖手旁觀，聽(tīng)任人體遭受損傷。

（2）機(jī)器人需要服從人給它的指令，除非與第一定律相沖突。

（3）機(jī)器人需要保證自身的存在，只要這個(gè)保證不能和第一定律或第二定律相沖突

機(jī)器人三定律為阿西莫夫的故事中要遵循的機(jī)器人行為規(guī)則提供了一個(gè)清晰的架構(gòu)，有效地約束了機(jī)器人的行為。只要機(jī)器人在三定律的條件下，它就可以在必要時(shí)進(jìn)行操作。當(dāng)然，阿西莫夫也證明了這種方法的局限性，因?yàn)樗臋C(jī)器人故事往往涉及到這些法則之間的沖突而產(chǎn)生的奇怪行為。因此，義務(wù)論為自動(dòng)車(chē)輛算法的編程提供了一種激勵(lì)結(jié)構(gòu)：可以在道路上定義和遵循的規(guī)則。這些規(guī)則類(lèi)似于決策和控制算法中用于約束和操縱系統(tǒng)行為的條件和約束。對(duì)于自動(dòng)駕駛汽車(chē)來(lái)說(shuō)，這些規(guī)則的例子可以在旨在防止車(chē)輛對(duì)人類(lèi)造成傷害、對(duì)自身或其他物體造成財(cái)產(chǎn)損害、或違反交通法規(guī)的約束條件中找到。

在將復(fù)雜的人的勞動(dòng)價(jià)值問(wèn)題簡(jiǎn)化為計(jì)算機(jī)代碼時(shí)，義務(wù)論的倫理學(xué)也產(chǎn)生了問(wèn)題，因?yàn)橐?guī)范的實(shí)際應(yīng)用往往需要一定知識(shí)，而計(jì)算機(jī)卻可以作出字面理解，這種錯(cuò)誤可能會(huì)造成意想不到的行為在阿西莫夫定律中，一輛自動(dòng)駕駛汽車(chē)在發(fā)生碰撞前可能會(huì)避免剎車(chē)，因?yàn)檫@一行為首先會(huì)給它的乘員以鞭擊，從而違反了禁止傷害人類(lèi)的第一條定律。制定規(guī)則還需要有人闡明人類(lèi)道德，這是一項(xiàng)極其困難的任務(wù)，因?yàn)樵谑菍?duì)是錯(cuò)的問(wèn)題上從來(lái)沒(méi)有完全一致的意見(jiàn)。

2.3 契約論倫理學(xué)原則

為了證明某些倫理決策的困難，哲學(xué)家們會(huì)使用一些看起來(lái)不現(xiàn)實(shí)的例子。電車(chē)問(wèn)題就是一個(gè)常見(jiàn)的例子，在這個(gè)問(wèn)題中，一個(gè)人必須決定是否改變電車(chē)的運(yùn)行軌道，使電車(chē)切換到一個(gè)會(huì)殺死1人的軌道上，以保證5名乘客的安全。正如帕菲特所指出，如果康德式契約論主張每個(gè)人必須遵守所有的每個(gè)人都可以合理地意愿或其被廣泛認(rèn)可的原則上，而且如果人們選用這種原則上的主要理由來(lái)自于一個(gè)不偏不倚的立足點(diǎn)，而且不是訴諸對(duì)于甚么樣的行動(dòng)才是最不恰當(dāng)?shù)牡懒x式信念，而且這些被廣泛認(rèn)可的準(zhǔn)則也可以形成最優(yōu)的結(jié)果，那么就是在這樣的前提條件下所形成的契約論原則。電車(chē)問(wèn)題很受歡迎，因?yàn)樗粌H是一個(gè)難題，而且人們的反應(yīng)對(duì)環(huán)境也很敏感，例如，把一個(gè)人推到軌道上而不是按下開(kāi)關(guān)會(huì)產(chǎn)生不同的反應(yīng)，盡管總體結(jié)果是一樣的。使用假設(shè)性的例子可能表明，道德只有在極其罕見(jiàn)的情況下才需要。然而，谷歌的自動(dòng)駕駛汽車(chē)團(tuán)隊(duì)最近的一份簡(jiǎn)介表明，道德已經(jīng)被考慮在碎片避免方面：“如果一只貓跑到馬路上怎么辦？一只鹿嗎？一個(gè)孩子？除了機(jī)械問(wèn)題，還有道德問(wèn)題，工程師們?cè)谥皬膩?lái)沒(méi)有回答過(guò)這些問(wèn)題。只要有風(fēng)險(xiǎn)就需要道德決策，而風(fēng)險(xiǎn)在駕駛時(shí)總是存在的。有人可能會(huì)說(shuō)，這些都是簡(jiǎn)單的問(wèn)題，例如，不惜一切代價(jià)避免接觸孩子，如果這樣做是安全的，就避免接觸貓。然而，相比之下，電車(chē)問(wèn)題實(shí)際上相當(dāng)直接——它只有一個(gè)決定，每個(gè)選擇的結(jié)果都是已知的。這是非常不現(xiàn)實(shí)的。汽車(chē)所面臨的決策后果未知，未來(lái)行動(dòng)的不確定性，甚至自身環(huán)境的不確定性。有了這些不確定性，常見(jiàn)的道德問(wèn)題很快變得“復(fù)雜”。

人們不禁就會(huì)產(chǎn)生了懷疑，因?yàn)榛蛟S道德正確性的標(biāo)準(zhǔn)并不是一元的，又或者，人們對(duì)于道德正確性的認(rèn)識(shí)本來(lái)便是多元化的。但必須注意的是，假如人們已經(jīng)肯定了這些看法的真實(shí)性，那它就必須肯定了產(chǎn)生難以克服的道德矛盾的可能性。在這些困境下，當(dāng)人們做出了抉擇，就必須會(huì)面臨著兩難的道德處境。當(dāng)我們的現(xiàn)實(shí)生活真的將我們帶入到了這樣的兩難處境中，我們又該何去何從？

3 自動(dòng)駕駛汽車(chē)的道德主體困境的分析

3.1 “道德機(jī)器”對(duì)自動(dòng)駕駛汽車(chē)道德主體的倫理創(chuàng)構(gòu)

人類(lèi)在開(kāi)車(chē)或發(fā)生碰撞事故很少做出道德決策，而自動(dòng)駕駛汽車(chē)不應(yīng)該被同樣的標(biāo)準(zhǔn)來(lái)衡量，任何風(fēng)險(xiǎn)從一個(gè)人轉(zhuǎn)移到另一個(gè)人身上的行為都涉及倫理道德，而自動(dòng)化車(chē)輛應(yīng)該能夠在類(lèi)似的環(huán)境中做出可接受的決定。麻省理工學(xué)院在2016年部署了“道德機(jī)器”這一在線研究平臺(tái)，用以探討自動(dòng)駕駛汽車(chē)所存在的倫理學(xué)問(wèn)題。在道德機(jī)器的主頁(yè)面上，使用者能夠發(fā)現(xiàn)不可避免的交通事故情景，并根據(jù)自動(dòng)駕駛汽車(chē)是突然轉(zhuǎn)變還是持續(xù)駕駛，并由此導(dǎo)向了兩個(gè)截然不同的結(jié)論。交通事故情境主要是有道德機(jī)器所生成的，遵循的研究策略主要集中在九個(gè)因素，以及根據(jù)最終搜集到的來(lái)自世界233個(gè)國(guó)家和地區(qū)的上百萬(wàn)人，用十種語(yǔ)言作出的四千萬(wàn)項(xiàng)選擇，研究結(jié)果表明，在道德機(jī)器實(shí)驗(yàn)中，呈現(xiàn)出了三個(gè)非常強(qiáng)烈的道德傾向，依次是：保護(hù)人而不是保護(hù)動(dòng)物，保留更多的生命，以及保留年輕的生命。在學(xué)者眼中，這三個(gè)偏好都需要被政策制定者著重考量。政策制定者還必須思考，那些違規(guī)過(guò)馬路的行人真的需要受到與合法過(guò)馬路的行人同等的法律保護(hù)嗎？對(duì)它們的法律保護(hù)優(yōu)先度是不是需要降低？

3.2 自動(dòng)駕駛汽車(chē)事故侵權(quán)的道德主體責(zé)任

和人們高度重視自動(dòng)駕駛汽車(chē)的安全性相對(duì)應(yīng)，關(guān)于車(chē)輛的交通事故責(zé)任歸責(zé)提問(wèn)也一直處于社會(huì)輿論的熱門(mén)話題。自動(dòng)駕駛事故的責(zé)任歸責(zé)不但牽涉繁雜的科學(xué)技術(shù)認(rèn)定問(wèn)題，而且包括了倫理學(xué)、法律界對(duì)自動(dòng)駕駛的社會(huì)主體地位及其界定的爭(zhēng)論，但是，從提高人們出行安全以及有關(guān)社會(huì)利益主體研究和應(yīng)用自動(dòng)駕駛系統(tǒng)的積極性的目標(biāo)上來(lái)看，還是具有若干可供社會(huì)廣泛遵循的準(zhǔn)則。“事故歸責(zé)”的理論探討重點(diǎn)圍繞自主駕車(chē)系統(tǒng)是否具備責(zé)任主體作用、是否以及如何擔(dān)責(zé)問(wèn)題進(jìn)行、羅爾斯認(rèn)為計(jì)算機(jī)無(wú)法成為獨(dú)立、自由的知識(shí)主體，因?yàn)橛?jì)算機(jī)只是社會(huì)信息體系的一部分，它并沒(méi)有精神，盡管他們能夠被認(rèn)知為有精神狀態(tài)，同時(shí)計(jì)算機(jī)只是社會(huì)信息體系的一部分，它并沒(méi)有精神，盡管他們能夠被認(rèn)知為有精神狀態(tài)，同時(shí)卻缺乏行動(dòng)的意愿。國(guó)內(nèi)專(zhuān)家學(xué)者張力等人也持同樣看法，指出現(xiàn)階段高度自動(dòng)行駛車(chē)輛在法律上的位置依然是及其，也是說(shuō)它自身是無(wú)能力的。駕駛員也要履行相應(yīng)的注意義務(wù)，而生產(chǎn)出廠和事件產(chǎn)生相互之間的關(guān)系也是一條不清地帶，因此生產(chǎn)者的負(fù)責(zé)也值得商榷。與此相反，在自動(dòng)駕駛的情況下，駕駛者的功能和在一般駕車(chē)情況下已不盡相同，當(dāng)交通事故出現(xiàn)后做出判斷的是自動(dòng)駕車(chē)系統(tǒng)，而不是一般駕駛者。而目前國(guó)家關(guān)于自動(dòng)駕駛汽車(chē)發(fā)展的政策規(guī)定應(yīng)從幾點(diǎn)方面入手：提高交通基礎(chǔ)設(shè)施智能程度，如加強(qiáng)基礎(chǔ)設(shè)施智能開(kāi)發(fā)規(guī)劃研制、有序推動(dòng)基礎(chǔ)設(shè)施智能發(fā)展等;促進(jìn)設(shè)施教學(xué)改造、服務(wù)智能提升，促進(jìn)交通設(shè)施、交通控制與服務(wù)水平、道路交通監(jiān)管體系等的互聯(lián)互通;強(qiáng)化自動(dòng)駕駛技術(shù)研究，不斷推動(dòng)專(zhuān)業(yè)技術(shù)創(chuàng)新能力建設(shè)等。

政策風(fēng)險(xiǎn)，技術(shù)進(jìn)步不及預(yù)期，競(jìng)爭(zhēng)加劇風(fēng)險(xiǎn)。人們普遍相信，無(wú)人值守技術(shù)汽車(chē)是汽車(chē)工業(yè)和人工智能領(lǐng)域的集大成者，直覺(jué)思維和駕駛汽車(chē)的經(jīng)歷使人們感到自動(dòng)駕駛不可思議，但是如果從人工智能的角度來(lái)看無(wú)人值守汽車(chē)，把自動(dòng)駕駛的技術(shù)汽車(chē)視為一部臺(tái)有輪智能機(jī)器人，這種機(jī)器人可以通過(guò)探測(cè)器當(dāng)作“精準(zhǔn)的雙眼”，以學(xué)習(xí)為基本的人工智能當(dāng)作“聰慧果敢的頭腦”，以便進(jìn)行更高速的移動(dòng)。進(jìn)一步，這些“移動(dòng)的智能輪式機(jī)器人”構(gòu)成一個(gè)智能的車(chē)聯(lián)網(wǎng)，可以實(shí)現(xiàn)良好的通信、協(xié)調(diào)、最終實(shí)現(xiàn)一個(gè)高效、安全的變通、出行體系。

4 結(jié)語(yǔ)

從最理想的狀況來(lái)看，人們肯定期待盡早看到完全自動(dòng)駕駛的車(chē)輛代替了現(xiàn)在的全部人駕駛汽車(chē)，但從目前自動(dòng)駕駛科技的發(fā)展進(jìn)度來(lái)看，人們沒(méi)有允許一個(gè)機(jī)器在完全沒(méi)有人實(shí)時(shí)檢測(cè)的狀況下，在一瞬間由自己判斷生死的抉擇。在我們?cè)试S對(duì)汽車(chē)工業(yè)作出道德的選擇之前，我們就必須開(kāi)展一場(chǎng)國(guó)際對(duì)話，向那些設(shè)計(jì)道德算法的公司以及將對(duì)它們進(jìn)行監(jiān)管的政策制定者表達(dá)我們的偏好。道德機(jī)器的實(shí)驗(yàn)向我們展現(xiàn)了面對(duì)極端情況時(shí)，人類(lèi)的三種強(qiáng)烈偏好，它們可以做為討論通用機(jī)器倫理的基石。研究者認(rèn)為，盡管人們能夠讓品德機(jī)械正確地遵循道德偏好，但是并沒(méi)法獲得廣泛的社會(huì)共鳴，因此即使是人們使用品德機(jī)器所表達(dá)的最強(qiáng)烈的道德偏好，也表現(xiàn)出了很大的差異。然而，這并不代表著人們通向共識(shí)以及機(jī)器倫理學(xué)的征程在一開(kāi)始時(shí)就注定要失利，因此我們雖無(wú)從否認(rèn)人們?cè)谌祟?lèi)倫理研究領(lǐng)域中也會(huì)經(jīng)受著內(nèi)心矛盾、人際矛盾分歧以及差異等這些本質(zhì)社會(huì)問(wèn)題，但這種問(wèn)題并不是致命的，在數(shù)據(jù)中我們可以看到世界范疇廣泛地仍然顯示出了某些較為一致的社會(huì)倫理學(xué)傾向。這些質(zhì)疑也從側(cè)面反應(yīng)出很多人還并未做好讓機(jī)器來(lái)決定人類(lèi)命運(yùn)的準(zhǔn)備，就目前而言，給機(jī)器以道德似乎超出了人類(lèi)的心智可以承受的范圍。

參考文獻(xiàn)：

[1]萬(wàn)丹，詹好.自動(dòng)駕駛汽車(chē)責(zé)任主體和道德兩難問(wèn)題的哲學(xué)分析[J].社會(huì)科學(xué)戰(zhàn)線，2021（11）：24-32.

[2]李偉，華夢(mèng)蓮.論自動(dòng)駕駛汽車(chē)倫理難題與道德原則自我選擇[J].科學(xué)學(xué)研究，2020，38（04）：588-594+637.

[3]白惠仁.自動(dòng)駕駛汽車(chē)的“道德責(zé)任”困境[J].大連理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2019，40（04）：13-19.

[4]蘇令銀.論機(jī)器倫理視域中自動(dòng)駕駛汽車(chē)的道德決策[J].科學(xué)技術(shù)哲學(xué)研究，2019，36（03）：82-87.

[5]潘恩榮，楊嘉帆.面向技術(shù)本身的人工智能倫理框架——以自動(dòng)駕駛系統(tǒng)為例[J].自然辯證法通訊，2020，42（03）：33-39.

[6]隋婷婷，郭喨.自動(dòng)駕駛電車(chē)難題的倫理算法研究[J].自然辯證法通訊，2020，42（10）：85-90.

[7]閆坤如.人工智能機(jī)器具有道德主體地位嗎？[J].自然辯證法研究，2019，35（05）：47-51.