只剩10%技術但還有90%倫理

郭嬌

斯坦福自動駕駛研究中心（Center for Automotive Research at Stanford，簡稱CARS）十年前在斯坦福大學校園誕生，它的孕育可以追溯到2002年由美國國防高級研究計劃局（Defense Advanced Research Projects Agency，簡稱DARPA）組織的一次挑戰(zhàn)賽。

CARS

DARPA是一個神奇的機構，它在互聯(lián)網(wǎng)、人工智能、無人車等領域都誕生了顛覆性技術。比賽于2004年舉行，地點設在美國西部的沙漠，路線總長240公里，獎金高達100萬美元。結果大跌眼鏡——沒有團隊獲獎，甚至沒有一輛車跑完全程，成績最好的卡內(nèi)基梅隆大學無人車只行駛了11公里，不到全程的5%。DARPA沒有放棄，于2005年繼續(xù)舉辦比賽，獎金翻了一番。卷土重來的團隊水平全面提升，有5輛車跑完全程。整個比賽焦點是由特龍（Sebastian Thrun）帶隊的斯坦福大學和由惠特克（Red Whittaker）帶隊的卡內(nèi)基梅隆大學的雙雄對決。斯坦福勝出。

兩年之后的DARPA挑戰(zhàn)賽，行駛路線中包括96公里的城市道路。無人車不僅要遵守交規(guī)，還要根據(jù)路面情況實時判斷，包括雨雪天氣、停車場、其他車輛行駛狀況等。卡內(nèi)基梅隆大學反敗為勝。比賽吸引了科技巨頭，這次比賽也成了DARPA挑戰(zhàn)賽的絕唱，不少團隊領軍人物紛紛加盟谷歌、通用等科技巨頭，或自己創(chuàng)業(yè)。特龍于惜敗的第二年在斯坦福大學聯(lián)合創(chuàng)建了CARS。特龍是一位神奇人物，大學期間主攻計算機科學，通過深度學習與計算機視覺實現(xiàn)自動化駕駛，是谷歌的“無人車之父”，后來還創(chuàng)辦了三大慕課平臺之一的Udacity。CARS初創(chuàng)團隊的另兩位成員，一位是機械工程專業(yè)的格德斯（Chris Gerdes），他通過動態(tài)設計實驗室（dynamic design lab）研究駕駛員輔助系統(tǒng)；另一位是擅長傳播的納斯（Cliff Nass）。計算機科學、機械工程、傳播學，三位創(chuàng)始人的不同專業(yè)背景，奠定了CARS的跨學科DNA。

CARS打通了斯坦福大學法學院、商學院等七大學院，開設的課程及開展的科研項目涉及模擬、能源、人機交互、法律、倫理和商業(yè)等各個專業(yè)。

與CARS戰(zhàn)略合作的企業(yè)共41家，比如汽車大鱷福特、大眾、通用、奔馳、豐田、宏達，高科技企業(yè)3M、intel，保險公司Allstate、Statefarm，電器公司Bosch、松下。每個戰(zhàn)略合作企業(yè)贊助CARS年費3.2萬美元，應邀參加年會，更新每月動態(tài)，獲得打包的簡歷。預計到2030年，無人車全球商機將高達7500億美元，它們收集用戶行為數(shù)據(jù)，用于廣告、保險等業(yè)務。無人車不僅吸引了大鱷們，初創(chuàng)企業(yè)也躍躍欲試。

斯坦福大學開設了課程《自動駕駛的商業(yè)》，同學們在課上完成商業(yè)計劃書，交由評委評價。這門課還邀請Voyage創(chuàng)始人喀麥隆（Oliver Cameron），他結合無人車技術與養(yǎng)老市場，提供專門針對老年人的自動駕駛服務。一位老年盲人曾使用他的App，呼叫無人出租車，在4000多人的校園里行駛了15公里，平安到達目的地。老年癡呆、行動不便的老年乘客都是Voyage的目標用戶。

不論專業(yè)，只要對無人車感興趣，就可以在CARS選修課程或參與教授的相關課題。2017～2018年CARS開設的課程包括視覺計算系統(tǒng)、了解能源、可持續(xù)的城市及地區(qū)交通規(guī)劃、與企業(yè)伙伴開發(fā)軟件、控制設計技術導論、減少溫室氣體排放、反饋控制設計、能源儲存整合（車輛、可回收物及電網(wǎng)）、能量資源（燃料與工具）、電動汽車與飛機、極端能量效率、計算機視覺（從3D重構到辨識）以及高級反饋控制設計等。

CARS的課程以理工科的“干貨”為主，研究的課題則根據(jù)教授的不同興趣，目前進行的研究正是為了“沖刺”，CARS執(zhí)行主任如普夫（Stephen Zoepf）說：“我們已經(jīng)完成了自動化商業(yè)車輛80%到90%的開發(fā)工作，但最后的10%非常困難”。

倫理最后一公里

最后10%在技術上和倫理上仍有巨大問題。

技術上，既困難又刺激的一大挑戰(zhàn)，是計算機與心理交叉的人機交互。

在CARS大眾汽車創(chuàng)新實驗室VR（虛擬現(xiàn)實）仿真劇場的中心地帶，停放著一輛黑色豐田亞洲龍（Avalon），車身環(huán)繞著多個巨型屏幕。由計算機程序控制，屏幕讓車上的人員進入虛擬路面場景，包括對面來車、高架、交通燈、路旁等情況。與此同時，各種傳感器實時監(jiān)控車輛與人員的下意識反應。采集、分析監(jiān)控到的行為數(shù)據(jù)，CARS發(fā)現(xiàn)了不少值得研究的課題：為什么無人駕駛中車上的人會昏昏欲睡？在何種情況下車上的人想搶過方向盤……這些問題屬于人機交互領域的前沿。

在人機交互“最后一公里”的挑戰(zhàn)中，最重要的莫過于讓消費者準備好（consumer-ready），即讓人們接受無人車時代。這個目標并不容易實現(xiàn)。在硅谷，曾開展了著名的“幽靈車手（ghost driver）”課題研究。由于駕駛員穿上了特制服裝，有人會誤以為這是一輛無人車。車在十字路口停下，用攝像頭記錄行人的反應，再通過問卷進一步采集他們的想法。當車依交規(guī)停車，行人反應正常；一旦車出現(xiàn)起步再停的情況，行人的反應五花八門，有繞到車后穿行的，有手舞足蹈的……對無人車工程師而言，他們得訓練這輛車不僅能“看見”反常的動作，還得“理解”并采取適當策略。

“最后一公里”的挑戰(zhàn)也涉及無人車倫理。

很多需要人判斷的場景至今難以被編入無人車的程序。比如左邊是行人，右邊是騎自行車的人，事故難以避免，保全哪一方？再比如乘客與行人間，犧牲哪一方？2016年《科學》雜志曾發(fā)布了一系列這種倫理調(diào)查。調(diào)查團隊由來自法國與美國的科學家組成，包括麻省理工學院媒體實驗室（Media）的研究者。調(diào)查問題的設計相當有水平——假如由你來設計無人車的算法，車上乘客與路上行人只能一人存活，你的選擇是什么？假如能拯救的行人是十人，你是否會改變主意？假如不用犧牲乘客，而是另一個行人，你又會如何選擇？如果車上乘客不是本人，而是朋友或家人，那么結果是否不同？假如你是無人車的潛在用戶，不同算法是否會影響你的購買意愿？假如你是政府決策者，是否要對這些算法進行管制？如果決定進行管制，依據(jù)的倫理準則是什么……調(diào)查結果表明，“減少死亡人數(shù)”這一倫理準則獲得高度認同，大多數(shù)人選擇“犧牲乘客”，只有23%的人選擇以一命（車上乘客）換一命（路上行人），76%的人選擇“以一換十”。大多數(shù)人不愿意購買或乘坐無人車。2017年的皮尤調(diào)查支持這種疑慮——60%的美國人不愿意乘坐無人車。87%的受訪者認為，無人車乘客應該有在緊急情況下駕駛車輛的能力。

如何讓無人車學會人類的道德判斷？如何讓公眾相信無人車的安全？如何制定相關的法律規(guī)定？如何在事故發(fā)生后裁定責任……這些都是要突破的倫理“最后一公里”。

責任編輯：尹穎堯