電車難題、隱私保護與自動駕駛

唐興華 郭喨 唐解云

[摘要]自動駕駛將深刻改變我們的生活形態，其帶來的倫理困境與隱私沖突也將集中呈現。倫理困境在個體層面體現為事故時的“電車難題”等倫理選擇問題，可以通過在危機處理時“量化價值”并預先嵌入“道德代碼”，使軟件的行為邏輯符合人類社會的倫理準則;就社會層面而言，可以通過考察和建立多元化協作平臺的方式處理自動駕駛車輛事故及其責任分配問題。在隱私保護方面，乘客需要向自動駕駛這一“透明監獄”交付大量重要的個人信息以換取足夠的便利，涉及網絡隱私保護和信息泄露等問題。可通過成立數據管理組織管理信息的合法使用，從而實現乘客、數據管理組織、政府以及軟件供應商等共同努力保護信息安全和乘客隱私，克服軟件脆弱性導致的信息泄露等問題。自動駕駛的到來難以抗拒，但這些問題必須優先得到解決。

[關 鍵 詞]自動駕駛 ?電車難題 ?價值量化 ?道德代碼 ?倫理困境 ?隱私保護

[基金項目]本文系安徽省社會科學創新發展研究課題攻關項目“人工智能革命及其社會治理”（2018CX125）階段性成果。

[作者簡介]唐興華（1992-），女，山東煙臺人，清華大學科學史系博士生，研究方向：技術哲學、STS、自動駕駛問題;郭喨（1986-），男，湖北鄖陽人，科技哲學博士，浙江大學光華法學院博士后，研究方向：自動駕駛治理; 唐解云（1994-），男，湖南邵陽人，中國人民大學哲學院博士生，研究方向：馬克思主義與STS。

[中圖分類號]U1;B829 ? ?[文獻標識碼]A ? ?[文章編號]1008-7672（2019）06-0073-07

自動駕駛正在重塑我們現在習以為常的生活。

近年來，“自動駕駛”已成為全社會最為關注的人工智能具體應用之一。自動駕駛汽車將取代“智能手機”成為人們生活中“最大的移動通訊工具”，人們可以在自動駕駛汽車上辦公、娛樂、生活，自動駕駛汽車將成為人類新的移動生活空間。自動駕駛汽車正帶來顛覆性、革命性的影響，它將重構我們的生活方式和價值理念。正如人們所預見的，自動駕駛將給人類帶來顯著的利益：（1）在交通方面：減少車禍發生率，從而減少傷亡和污染;（2）在公共資源優化配置方面：自動駕駛汽車及共享自動駕駛汽車的廣泛使用，將促使我們更加有效地重新配置車輛，減少資源浪費，提高資源利用效率;（3）在社群空間方面：將改變人們對空間的認知，住所位置將進一步外延，城市面積將進一步擴大，室內停車場將會重新被規劃為住宅和商業空間;（4）在價值觀等“軟性”方面：人類的娛樂、工作、購物習慣將被全面顛覆，整個社會面臨著人工智能的重新洗牌。？譹？訛我們應當合理預判自動駕駛可能帶來的問題并尋求解決方案，以期為近幾年內即將開啟的“自動駕駛時代”作好準備。

自動駕駛已在法律制度、社會安全方面帶來諸多挑戰，也將在價值、道德等方面引發某些倫理癥候——這意味著一系列復雜的問題。我們有必要前瞻性地討論自動駕駛帶來的機遇和可能引發的問題。例如：在制度層面，自動駕駛發展將促進道路安全、汽車生產及責任事故認定等相關法律法規的修改或制訂;在社會層面，自動駕駛汽車將帶來能源和制造行業轉型、保險和汽車產業變革等;在道德倫理方面，自動駕駛汽車促使我們重新思考事故責任分配、用戶隱私保護、人類駕駛員失業等問題。以上問題中外研究者多已論及，而一種基于深入理解技術的內在主義視角會提出更多值得思考的“真問題”：自動駕駛的“駕駛權”如何在人類與機器之間分配？如何才能相信其他車輛實時生成的高精度地圖？實際上，隨著時間的流逝，這種“前瞻”已經變得越來越緊迫、越來越不那么“前瞻”了。

有必要對自動駕駛技術所引發的新的倫理問題進行全方位思考，提出可操作的建議以促進自動駕駛的良性發展，這是人工智能技術進行社會治理的“核心試點”。自動駕駛目前得到較多討論的是其倫理考量。自動駕駛汽車作為一種“技術人工物”（Technical Artifact），面臨著至少兩種類型的倫理考量。其一是自動駕駛汽車與人類之間的道德沖突;其二是自動駕駛汽車自身產生的道德沖突。在此，暫不探討此類人工物是否終將具備類似于人類的道德推理能力，以及自動駕駛汽車作為汽車本身是否能夠成為自主的道德體等話題。這種終極討論雖有其必要性，但就目前而言太過遙遠，應該先從自動駕駛汽車與人類關系角度去探討自動駕駛汽車普遍上路后引發的人類生活、人車關系中的倫理問題。

自動駕駛技術發展的具體路徑難以精準預測，我們也無力完整預測未來的技術會引發哪些具體倫理問題。隨著科學技術的更新迭代，某些事前看似嚴重的倫理問題會“自然解決”抑或根本不會發生。實際上，“社會—科學”是個復雜的巨系統，我們根本無力完整模擬、詳細描述其相互作用、相互影響的具體細節;然而好在我們可以對其整體演化的方向和核心機制予以較為精確地預測（事實上我們已經對其大致可能的技術路線及其核心問題進行了預測？譺？訛）。在此，筆者從個體層面和社會層面對自動駕駛可能引發的倫理問題進行探討。個體層面的倫理問題主要是倫理選擇難題;社會層面的倫理爭議包括事故的責任歸屬、網絡隱私保護和信息泄露問題。

一、 事故責任、“電車難題”與倫理選擇

事故責任問題是自動駕駛被討論最多的問題。這不僅是倫理問題，更是技術設計中需要應對的重點。？譻？訛自動駕駛汽車面臨的突發事件大致可分為兩種：人類目前可以解決的和人類尚不能解決的。自動駕駛汽車首先要面對的是人類目前可以解決的突發事件（第一種情況），只有自動駕駛汽車在處理問題的“能力”上等于或者超過人類時才會得到大眾的認可。？譼？訛人類駕駛員在駕駛時會面臨諸多突發情況，諸如拐角處沖出來的小黑狗，兩車交匯迎面而來的“遠光狗”等。人類駕駛員必須很好地處理此類情況。不過，即便操作軟件通過學習和模擬能夠準確靈活地處理了人類駕駛員所能處理的各種突發情況（第一種情況），面對人類駕駛員也無力處理的情況（第二種情況），機器又該如何應對？例如，如何面對人類也無力解決的“電車難題”和“隧道難題”？？譹？訛

“電車難題”（Trolley Problem）最早由英國哲學家菲利帕·福特（Philippa Foot）于1967年提出，其完整表達如下：

電車的鐵軌上站著五個人，此時，一輛失控的電車朝他們駛來，若在原軌道上繼續行駛，電車將使這五個人喪失生命。但是電車司機可以選擇拉動電車從狹窄軌道轉向另一條軌道，那么這五個人就可以幸免于難。問題在于，另一條鐵軌上也有一個人。此時，司機面臨著兩難選擇：一是不改道繼續行駛，這將使五人喪生;二是主動操作轉向另一條軌道，使原本安全的一人喪生。矛盾很明顯：無論電車司機開向哪一條軌道，都會有人遇害。面對這種情況，司機應當做何選擇？？譺？訛

面對這種人類駕駛員都難以抉擇的情況，自動駕駛車輛又將如何處置？另一個相似的情況是“隧道難題”（Tunnel Problem），可以理解為更具“自動駕駛”意味的“電車難題”。隧道難題如下：

乘客正坐在一輛行駛在單行道上的自動駕駛汽車上，當汽車行駛到隧道入口時，忽然一個小孩跑到車道中間，堵住了隧道的入口。此時，自動駕駛車輛只有兩個選擇：繼續行駛撞向孩子，或者轉向隧道某一側的墻壁，從而導致車上的乘客喪生。？譻？訛

“電車難題”在一般意義上表征了“自動駕駛”在面對外部目標時的選擇困境，“隧道難題”則把這一困境引向了“車內乘客”（這一情境中同時為“車主”）這一“選擇的選擇”之主體。畢竟，如果一輛車總是試圖“舍己為人”，誰會去買它就成了大問題。這意味著自動駕駛車輛的“困境選擇”將影響消費者的選擇。“隧道難題”與“電車難題”是自動駕駛終將面臨的現實挑戰，但無論如何取舍都會陷入兩難的處境。和鴻鵬認為，“隧道難題”凸顯了車內人員與路人之間的利益沖突，將倫理選擇指向駕駛人員的自我犧牲。？譼？訛這種倫理問題是人類需要面對的，同樣也是自動駕駛汽車需要面對的。更為關鍵的是，這種兩難并不再只是哲學上的“思想實驗”，而是每天都真實地在我們身邊上演著。？譽？訛

無論是電車難題還是隧道難題，共同點都是面對人類目前無法解決的倫理問題，自動駕駛如何處理。或許可以先借鑒人類的“處理方案”：當面對突發情況的“責任事故”時，人類駕駛員通常迅速綜合考慮多方因素，并憑借“直覺”做出“下意識”的判斷，自動駕駛汽車則可使用數據和軟件來計算出“最佳方案”。具體做法是價值量化，對人類道德推理中不可量化、不容量化的要素，比如“價值”進行量化。與此同時，對生命、財產進行賦值，程序員按照大家普遍接受的倫理規范將量化的數值進行編碼形成“道德代碼”，預置到汽車駕駛軟件中。當然，這種預置并不是將情境固定化，而是充分利用深度學習軟件，以大數據為依托，對可能遇到的各種生命體和財產進行賦值，根據具體面對的緊急情境進行“冷靜”而快速的處理。需要培養機器軟件的“直覺”，使其在各種復雜情況下利用數據做出最佳選擇。“即在車禍發生的瞬間，經過程序員的提前預設，軟件的決策邏輯也會發生作用。經過特別的設計，軟件能針對事故做出妥善回應，把破壞程度降到最低。”？譹？訛如果不能完美設計出方案，那就退而求其次追求“損失最小”。

實際上，就事故責任中的倫理選擇而言，在發生緊急情況時自動駕駛在反應速度上有很大優勢。“在我們的主干道上，我們通常與我們前方的車輛保持約1.5秒的時間距離。自動駕駛汽車能夠將該時間距離減少更多，因為計算機能夠立即做出反應，這與人類駕駛員不同。”？譺？訛這主要歸功于5G更快的傳輸速度，？譻？訛以及更好性能的傳感器件和計算能力更強大的GPU。然而，速度上的優勢并不能直接轉化為道德上的優勢，技術上的成熟并不意味著必然被人們所接受，否則我們就該在每年的8月21日紀念尤塞恩·博爾特（Usain Bolt）而不是在每年1月的第三個星期一來紀念馬丁·路德·金（Martin Luther King）了。因此，我們必須繼續提高自動駕駛技術的安全性，使其事故發生率遠低于人類駕駛的對應比率，為普及自動駕駛汽車奠定基礎。

存在這樣一種合理質疑：人類憑什么相信機器做出的決定就是最佳決策呢？除非自動駕駛汽車具有遠超人類的認知和智能，否則我們不會輕易信任它。然而，事實上自動駕駛技術的安全性的確可以遠遠高于人類駕駛員。同時，自動駕駛的車禍發生率很快將遠低于人類駕駛。數據顯示，全世界每年大約有160萬人死于車禍，這個死亡率相當于每年釋放10個廣島級別的原子彈爆炸。如果路面上的汽車90%能夠換成無人駕駛車輛的話，將減少三分之二的死亡人數。？譼？訛隨著技術的進步，自動駕駛所致的車禍可以無限趨近于零。另外，人類駕駛員在面臨緊急情況時依靠直覺和“習慣”做出價值判斷或決定。這通常是無意識的動作操作，然而其實質依然是“比較和計算”，畢竟“智能的本質就是計算”。羅伯特·特拉普（Robert Trappl）指出，人類駕駛員和自動駕駛的一個重要區別在于：“人類駕駛員做出錯誤的決定會被寬恕或原諒，然而自動駕駛汽車做出錯誤的決定就會被指責和懷疑，即便自動駕駛汽車做出錯誤決定的比率遠遠低于人類駕駛員。”？譽？訛為什么憑借人類直覺所做出的判斷能被接受，而自動駕駛的計算邏輯就要被質疑？我們原諒人類駕駛員的錯誤、相信人類的直覺而質疑軟件邏輯并沒有特別的原因，有的只是我們的“習慣”。大衛·休謨（David Hume）認為，“習慣是人生的偉大指南”，而人類經常誤把“習慣”當作“因果必然性”。？譾？訛同理，在道德問題上，人類傾向于把習慣視為“最優的選擇”，樂于依據直覺做出判斷。如果去除對人類“習慣”的先天信任，理性地分析人類與自動駕駛車輛面對緊急情況的兩種方式，就會發現自動駕駛汽車的決策可能更為合理。胡迪·利普森（Hod Lipson）和梅爾芭·庫曼（Melba Kurman）指出：“自動駕駛汽車的駕駛更為合理是因為它能夠快速地進行風險和利益分析，這比一個自私、疲憊的醉漢的決策要好很多;自動駕駛擁有360度的感知器，掌握的信息也更全面。” ？譿？訛事實上，道德問題并非一定要依賴人類直覺才能更好地處理。問題的關鍵也并非自動駕駛車輛是否有道德，而在于它們處理緊急情況的內在邏輯是否符合倫理。自動駕駛汽車“危機處理”的邏輯是：根據發生事故的概率以及其后果的嚴重程度確定對應行動。對事故大小的認定某種程度上是由各利益相關者洽談和商討確定的，符合“商談邏輯”。有學者提議不借助預置的“道德代碼”，而是在具體判斷中使用隨機數生成器來做出“公平”的決策，？譹？訛駕駛者或者行人則服從“內在隨機”的命運裁決。人人都接受“隨機”的決定，這也是一種公平（就像隨機選擇的雙色球一樣）。？譺？訛比較而言，還是“道德代碼”更為可靠。顯然，經過良好“倫理設計”的自動駕駛車輛的“危機處理”可以比人類駕駛員“更理性、更可靠”。

二、 自動駕駛汽車的責任歸屬問題

與“危機處理”緊密相關的一個問題是“責任判斷”，即自動駕駛汽車“危機處理”時或者處理后的責任歸屬問題。當人類駕駛者駕駛的汽車發生責任事故時，責任可以被清晰地劃歸于人類的某一方或者雙方甚至多方;人類是事故的責任主體，相關法律法規對責任的認定是比較清晰的。但是，一旦自動駕駛車輛在道路上馳騁時，發生事故的責任認定就變得復雜了。當沒有司機、方向盤的汽車出現交通事故時，這個責任具體歸屬方是車主（乘客）、自動駕駛汽車的制造商、自動駕駛軟件的提供者還是道路的基礎設施建設者呢？在人類駕駛的車輛中，人類行為導致的后果是有承擔者的，而自動駕駛車輛的“肇事主體”是作為整體的“車”，對事故的發生存在“多因一果”的效應。既然汽車的軟件供應商和硬件供應商可以認領屬于自己部分的責任，那么分別認領多大的責任以及對責任如何進行具體劃分呢？杰弗里·格尼（Jeffrey K. Gurney）認為：“承擔責任的適當方將根據自動駕駛汽車使用者的性質以及該人防止事故的能力而有所不同。”？譻？訛這也是一個亟待解決并需要多方代表集體協商的事情。

自動駕駛汽車的責任歸屬問題，應從多維度權衡。筆者主張：在汽車軟件設計之初就應該將倫理道德嵌入，使得軟件成為承載著“道德代碼”的道德載體，即將道德“物化”。對人和物同時進行倫理考察，正如彼得保羅·維貝克（Peter-Paul Verbeek）所呼吁的：“將裝置道德化，并認為人類應該停止人類之間長久以來的互相道德化，而去開啟技術的道德化。”？譼？訛由于機器人駕駛員會不打折扣地執行計算機程序，因此，程序員在設計程序時就要事先考慮到一切不良后果，而不是事后采取補救措施。

筆者主張，在布蘭登·英格拉姆（Brandon Ingram）所提出的“機器人工程師的倫理準則”的基礎上，具體分析各方的責任。首先，對于自動駕駛汽車硬件供應商而言，應該在汽車出廠之前經過多方面的審查，保證出廠的汽車在特定程度和范圍內沒有質量問題（特殊情況難以全面考察）。其次，對于軟件供應商而言，需要不斷提高汽車的安全性能（即便只是將1萬小時可靠性提高0.01%，對于未來“自動駕駛統治”的世界地面交通系統而言，依然意義重大），同時對自動駕駛系統進行多次檢驗并不斷根據新情況進行修正。建立應急反饋系統，一旦出現軟件做出的決定引發傷亡的情形，必須保證信息及時傳送到周圍的可施救場所，盡量減少人類傷亡;再次，就后期安全維護而言，建立健全道路全網反饋系統，對于道路的改造等規劃及時上傳，敦促自動駕駛汽車及時更新路況信息。最后，還應建立多維合作平臺的責任認定組織，對引發交通事故原因進行全面深刻的分析，以確定責任承擔者（責任承擔者可以是一方，也可以是多方）。

正如菲利普·布瑞（Philip Brey）所言：我們應尋求一種新的方式進行討論，這種方式包含利益相關群體的訴求;同時，采取一種更為深思熟慮的方法，這種方法將尊重相關的道德爭論。？譽？訛未來自動駕駛汽車責任的“分擔”，必然是各方利益相關方“協商”的結果。高奇琦建議搭建一個傳統汽車制造商、自動駕駛技術提供商和出行服務 （共享服務） 提供商的“三維”合作平臺，從而解決事故擔責、事故賠償主體和獲利的問題。？譹？訛這是一個有價值的提議，不過也不排除現有的成熟的汽車市場自己就能在責任明確的情境中消化此類問題。

三、 自動駕駛汽車的新型網絡隱私問題

在自動駕駛汽車中，另一個亟待解決的問題是自動駕駛的網絡隱私安全問題。自動駕駛汽車依賴的是物聯網與數據共享，想要做到安全快速，就要盡可能多地掌握乘客個人信息。自動駕駛汽車會成為人類乘客的“透明空間”，無論你在選擇路線還是進行消費都會被記錄在案，甚至你與女友聊天的內容都可能會被收集存儲起來。此外，自動駕駛車輛使人喪失了相對隱匿的移動能力，這在無形之中將乘車人“監控”起來，形成了“透明監獄”。？譺？訛與自動駕駛車輛相關聯的數據包括乘客上下車的地點、生活習慣、行車時間與行車路線的信息。這些信息極具價值，同時也是巨大的數據資源。不過，最終這些資源由誰監管，乘客是否擁有自治的權利等相關問題亟待解決，這就對乘客、數據管理組織、政府以及軟件供應商提出了新的要求。

首先，對乘客而言，應當允許乘客根據自己的意愿查看自動駕駛汽車收集的數據內容、數據流通的情況和數據流向等，并有權自主決定數據去向。乘客應有維護自己隱私的意識、積極參與制定數據管理規則并有權決定是否將個人數據用于商業用途。麗莎·柯林伍德（Lisa Collingwood）強調：“個人具有保護隱私和做出選擇的自治權，乘客有權利對是否乘車、乘車路線以及數據使用進行自主選擇，避免被入侵者操縱和控制”。？譻？訛其次，對于公眾和公共組織而言，可由接受監督的非營利組織（數據管理組織）來負責數據的收集、使用等問題。我們應將收集來的人臉、指紋等生物特征數據交由數據管理組織，而非數據采集者負責。再次，對于監管機構和立法部門而言，應建立監督數據管理組織使用數據的監管機構，對數據的用途進行監管。立法部門應針對隱私問題提供適當的法律保護。最后，對于軟件供應商和管理車隊的企業而言，要嚴格遵守個人隱私保護指引，加強網絡安全性建設，防止信息泄露。當前，美國加利福尼亞州要求所有自動駕駛車輛保存事故發生前30秒的詳細記錄，同時也要求自動駕駛技術的輸出方提供保證及報告。乘客、軟件供應商、網絡公司和車隊企業等要在數據管理組織的主導下協商構建數據保護和使用規則，并由政府和公眾根據相關行業乘客數據的用途嚴格監督數據的使用，數據管理組織、政府和公眾共同對數據負責。這雖然會增加一些麻煩，但此類數據對許多利益相關行業極具價值。例如運營自動駕駛車隊的公司，他們利用這些數據來分析市場需要投放多少車輛、車輛的實時位置以及何時應該對其充電或加油。

軟件的脆弱性所導致的信息泄露是另一個需要關注的問題。隨著自動駕駛汽車硬件和軟件復雜性的增加，會出現更多的漏洞。任何軟件操作系統都有一定的脆弱性，容易受到錯誤操作影響和惡意入侵的攻擊。至少存在這樣幾種技術解決方案，有助于避免因軟件故障而導致的信息泄露。（1）應當注意在軟件的操作系統中加入適當的冗余設計，添加備用系統和防護設計，使得軟件在遇到危險及信息盜取情況下自動啟動備用系統進行防護。（2）在無人駕駛車輛中采用雙操作系統，這兩個系統之間相互備份、同時運行，以便保障車輛在出現錯誤時仍能平穩行駛。？譼？訛（3）借鑒魯特·布里奇斯（Rutt Bridges）在《我們自動駕駛的未來：天堂還是地獄？》（Our Driverless Future： Heaven or Hell）中給出的解決方案：在無人駕駛汽車中安裝一個智能屏，每位乘客在上車時可以將智能屏抬起，選擇屬于自己的信息存儲區，將自己的行車信息進行存儲，并對其進行加密;乘客下車時選擇將智能屏關閉，即每位乘車者將自己的行程等敏感信息獨立存儲。

有人也許會質疑，如果用戶的信息具有獨立性和隱秘性，是否就增加了更新地圖和發生緊急情況救助的困難？這并不具有必然性。首先，無人駕駛汽車收集到的所有信息都直接到達數據管理組織那里，數據管理組織負責信息的隱私保護，并結合以“黑盒”方式存儲數據，以便在發生碰撞或其他事件時進行檢查。？譹？訛數據管理組織在進行“把關”之后，將信息交給相關行業，如地圖公司、軟件開發商、消費公司等。（當然，乘客可以自己選擇是否將這些信息交給相關部門。）其次，建立緊急事故救助站，這些緊急事故救助站將全面掌握乘客的行程信息，只要行程未結束，他們就會收到完整的信息——其實飽經批評之后“滴滴出行”這方面已經有很大提升。最關鍵的是，隨著科技新時代的技術發展，未來的自動駕駛技術其實不會讓這種“緊急情況”頻繁發生。

關于自動駕駛，應采用一種以未來為導向的思維方式對這些問題進行深刻而全面的分析。本文所探討的是自動駕駛汽車發展可能帶來的個體層面和社會層面的倫理問題，這有益于我們對自動駕駛汽車時代所產生的主要倫理問題形成科學認識和深刻理解，有利于“以技術的手段解決倫理的問題”，有助于促進人工智能時代倫理規則的設立與技術治理的進步。

無論如何，與自動駕駛相關的倫理問題是我們無法繞開、必須解決的問題;自動駕駛將是一個可期的技術（在我國有望于2020年正式啟動），未來將是一個更加智能的時代。

（責任編輯：亞立）

Abstract?Automatic driving will profoundly change our life style， in the meantime， the ethical dilemma and privacy conflict of “automatic driving” will also emerge. The ethical dilemma is embodied at the individual level as ethical choices such as "trolley problem" in accidents. In privacy protection， passengers need to deliver a large amount of personal important information to the prison of automatic driving for sufficient convenience， involving issues such as network privacy protection and information disclosure. By establishing a data management organization to manage the legitimate use of information， passengers， data management organizations， governments， and software suppliers can work together to protect information security and passengers privacy， thus overcoming information leakage caused by software vulnerabilities. The arrival of automatic driving is hard to resist， but these problems must be solved first.

Key words?automatic driving; trolley problem; value quantification; moral code; ethical dilemma; privacy protection