無人駕駛汽車的“道德困境”撞SUV還是撞跑車？

假設，一輛無人駕駛汽車正面臨艱難的抉擇——撞向兩個物體中的一個。它可以把方向盤打向左邊撞上沃爾沃SUV，或者打向右邊，無辜的Mini Cooper自認倒霉。如果你來給這輛車編程，原則是將傷害最小化，在上述情況下你會讓它撞哪個？

從物理學角度講，你應當選擇將其撞向一輛更重的車，從而更好地吸收碰撞動能，這么說來就得撞沃爾沃了。另外，被撞的這輛車還應當以安全著稱，這么說，就更得撞沃爾沃了。

別高興得太早，事實這是物理學并非唯一需要考慮的因素。選擇撞一個東西而不是另一個，這本身就是個糟糕的抽簽。從法律和道德層面來講，這都把無人駕駛汽車產業(yè)拉到了危險的境地。

就算造成的傷害并非故意，一些“優(yōu)化撞車”算法天然需要作出精密而系統(tǒng)的識別，撞大型車輛。而被選中的車主得承受這一后果，即使他們什么錯都沒有，錯就錯在他們注重安全，又需要一輛SUV來拉一大家子。這，聽上去合理嗎？

這樣說來，怎樣才算合理的編程設計遇到了道德困境。沃爾沃和別的SUV車主理所應當對那些優(yōu)先撞他們而不是小型車的無人駕駛車制造商不滿，盡管從物理角度上這可能是最佳解決方案。

這算是個現(xiàn)實問題？

某些車輛事故無可避免，甚至無人駕駛汽車也難逃一劫。一頭鹿有可能突然跳到你面前，其他車道的汽車也可能突然沖著你就來了。先不管什么物理的三七二十一，火燒眉毛的事故怎么破才是王道。在這種意義上，一輛無人駕駛汽車能做出最好的選擇。

人類在危急情況下只會以本能作出反應，然而一輛無人駕駛汽車卻是由軟件驅動的，它能目不轉睛地持續(xù)掃描周遭環(huán)境，甚至在我們意識到危險之前就能夠做出許多運算了。它們會爭分奪秒地做出選擇，將碰撞傷害降到最低。不過軟件需要編程，目前還不清楚對于疑難問題該怎么處理。

至于構建邊界情況模型，我們在這里也不試圖模仿真實世界里的情況。因為這些情況非常少見，然而卻無疑暴露了常規(guī)情況下隱匿或潛伏的問題。從上述情景，我們能夠看出碰撞算法可能會被引入歧途，每次我們做出價值判斷，認為一項事物比另一項事物更適合犧牲時，我們都該把它納入考慮背景。

早年，無人駕駛車的應用場景主要控制在高速路上。這是個相對簡單的環(huán)境，車主無需顧慮在市內駕駛時要時時留意的行人，數不清的別的移動標的們。不過，谷歌卻于近期宣布，它在貨真價實的城市街道上邁出了測試無人汽車的人生第一步。隨著無人駕駛汽車的運行環(huán)境更為變幻莫測險象環(huán)生，它們將面對更艱難的抉擇，意即，撞道邊物體，甚至是，行人。

道德，不僅僅牽扯到傷害問題

這一問題在下述場景里將會更尖銳地暴露出來。請再次設想，一輛無人駕駛汽車要撞車已經在所難免了。它有倆選擇：一個戴頭盔的騎摩托車的，一個沒戴頭盔的。編程的正確方式是啥？

以“優(yōu)化撞車”之名，你可以使它撞向可以從事故中最快重新屹立起來的任何物體。在文章開頭的場景里，你該撞那輛沃爾沃SUV。這里，該撞那個戴頭盔的摩托車手。一個好的算法應當知道，沒戴頭盔的騎自行車的被撞死亡概率要高得多，而死人則當然是汽車生產商要竭力避免的了。

不過，我們也能一眼看出這一選擇的不公正性，正如從“優(yōu)化撞車”角度想問題一樣有道理。通過撞那個戴頭盔的騎摩托車的，我們這不就是懲罰他的責任感嗎，因為他戴頭盔了？同時，我們給另一個騎摩托車的開了綠燈，即使他人要不負責任得多，不戴頭盔在美國大多數州都是違法的。

這一區(qū)別對待不僅是不道德的，還是個壞政策。這一“優(yōu)化撞車”設計會鼓勵騎摩托車的不再佩戴頭盔，樹大招風，何必因此變成無人駕駛車的靶子呢，尤其是這種汽車未來會越來越多。就像在上個場景里，以安全著稱的汽車銷量反而會受影響，比如沃爾沃和梅賽德斯奔馳。顧客們可不想成為無人駕駛汽車的靶子啊！

把一切交給運氣

對于這類使人窩火的兩難困境，一個優(yōu)雅的解決方法是，干脆別做那么深思熟慮的選擇了。我們可以設計出一款隨機做選擇的無人駕駛汽車。這是說，如果選擇該撞哪個靶子是有道德缺陷的話，那又為何要算計，隨機多好！無人駕駛汽車編程會產生隨機的數字；奇數一種辦法，偶數另一種辦法。這避免了無人駕駛汽車對大型SUV，負責任的騎摩托車的或種種存在區(qū)別對待的指控。

這一隨機性看上去也沒給這世界帶來什么新的不可控性：運氣常伴左右，好的壞的都是如此。隨機決策也更好地模擬了人類駕駛，直到目前為止，面對危機時人的瞬間反應還是不可預測的，并非基于理智的，因為沒有足夠時間運用人類的理智。

不過，這一隨機的機械可能由于以下幾個原因而不夠完善。首先，模仿人類駕駛有什么了不起嗎？造無人駕駛汽車不就是沖著他們能做出更好的決策嗎？人類錯誤駕駛，分心駕駛，醉駕等等是如今90%甚至更大比例車禍的肇因。美國每年有32000余人命喪馬路。

第二，我們人類司機要是做出一個糟糕的瞬時反應還能被原諒——例如，撞向一輛一整就爆炸的福特Pinto（發(fā)生撞擊后該車油箱會起火甚至爆炸）而非一個更安全穩(wěn)定的物體。無人駕駛車可難辭其咎。世界各地的工程師們可是隨時都能修改Bug的啊。這是謀殺和過失殺人的不同。

第三，在可見的未來，重要的是不僅僅是就難解的道德困境得出“正確”答案。它還應該心思備至，能否為此答案辯護，即秀出你的道德算法。在道德領域，如何考慮一個問題與結果同樣重要。而目前我們討論到的是，無人駕駛汽車隨機做個決策，然后，再推卸責任。它們不是“深思熟慮”，是“考慮不周”，這可能比人們作出本能反應結果釀成事故還要糟糕。

放棄知情權

另一個不那么激進的解決方案是隱藏某些可能導致不必要區(qū)別對待的信息，人稱“無知之幕”。應用到上述場景即，不去識別交通工具的構成和型號，有沒頭盔或其它安全設施。這樣一來，就沒有形成傲慢與偏見的基礎了。

在“優(yōu)化撞車”計算中不使用這一信息還不夠。要在道德立場上旗幟分明，無人駕駛汽車需要做到壓根不去收集這些信息。要是他們有這些信息的話，使用它們就能夠將傷害事件最小化或者拯救生命，這樣一來，如果不使用這些信息就會有法律責任。想象一下，要是一個國家智囊組織掌握了關于恐怖分子陰謀的可靠消息，然而卻沒能阻止襲擊的話，會激起多大的民憤！

不過這種方法也有問題，汽車制造商和保險商會希望收集盡可能多的數據，以更好地理解無人駕駛汽車車禍事件，或者用于其他目的，比如新型的車內廣告植入。因此，讓這些利益相關方們自愿對關鍵信息睜一只眼閉一只眼不知道是否是個現(xiàn)實做法，因為他們收集數據的欲望如此強烈。

So， Now What？！

在未來的無人駕駛汽車里，單單一項車禍避免功能還不夠。有時從物理意義上講一次事故的發(fā)生不可避免，比如因為沒有足夠的時間踩剎車，技術失誤，天氣原因或者單單就是壞運氣作祟。因此，無人駕駛汽車也需要“優(yōu)化撞車”策略。

為此，工程師們需要設計出機會成本公式，賦值，得出不同選項的預期成本，選擇最低成本的那個——而這將決定誰生，誰死。這天然是個道德問題，決策時需要斟酌和透明。作為解決這些挑戰(zhàn)的第一步，創(chuàng)建關于道德和無人駕駛汽車的公開大討論能夠幫助提高公眾和業(yè)界對這一問題的意識，在人們遭受飛來橫禍時也能平息眾怒。（這，能嗎？）