自動駕駛汽車研發者的道德倫理責任

【摘 要】 隨著人工智能科技革命中自動駕駛技術的演進，人類社會的交通圖景已經發生深刻的變革。從自動駕駛汽車操作系統的研發者角度分析，如果沒有明確的價值指引以及足夠的預期違法成本考慮，則無法保證自動駕駛技術在重大經濟利益面前長期妥善發展。所以除了明晰在研發過程中應遵循的道德倫理準則，還應構建技術研發的動態評估評價體系，明確研發者責任，使得其在設計制造軟件系統時，考慮責任預期并嚴格遵循相關法律規范。

【關鍵詞】 自動駕駛技術 道德倫理準則 研發者責任

一、自動駕駛汽車的倫理困境

自動駕駛領域非常受學界與媒體關注的一個話題就是自動駕駛汽車的兩難困境問題。例如自動駕駛汽車高速行駛至某事故路段時發現兩名事故受害者倒在道路中央，而自動駕駛系統來不及剎車，唯一可以避免碾過兩名受害者的辦法就是向左前方轉向，但該選擇將撞上左前方的第三名行人并致其重傷或死亡。這種困境不僅存在于經典的刑法教課書案例中，也存在于傳統的道路交通環境中。而自動駕駛汽車所面臨的問題相較于傳統車輛更加棘手，其原因有二：第一，因為人類駕駛員的反應時間比較長，從發現道路中央的受害者到采取行動幾乎沒有思考的時間，所以不存在違反注意義務的情況，即使撞死了兩名行人也屬于意外事件。第二，即使存在足夠的反應時間，人類駕駛員為了保全自己決定直行撞死兩名受害者或左轉撞死一名行人，也可能因為符合緊急避險情況而被免責。但自動駕駛系統則不同，自動駕駛系統用0.2秒就可通過傳感器感知緊急情況，而這種反應是通過事先編程來決定價值優先次序。如此一來，在生命與生命之間的取舍取決于兩難困境中編寫自動駕駛碰撞回避的算法程序。這種編程成為極端敏感的問題，引發了公眾對自動駕駛技術的爭議甚至恐懼。

二、自動駕駛碰撞回避算法

（一）功利主義算法。功利主義者算法是基于利益最大化的考慮選擇撞向損害利益較小的一方，也就是允許汽車左轉撞傷或撞死一名行人。該算法看似符合正確的價值觀念，保護利益更大的一方從而最大限度的降低損失，但這種單純衡量受害人數量的所謂最優化模式違反了憲法的人格尊嚴至上與生命權絕對保護原則，與現行法律理論框架無法兼容。

（二）自我犧牲算法。該程序將自動駕駛汽車的駕駛員或乘客視為風險創設者而要求其承擔風險，因此，算法程序被設置為優先犧牲駕駛員或乘客。該程序設置顯然也經不起推敲：第一，引入自動駕駛技術的首先是自動駕駛系統或車輛的生產商，創立風險者并不是使用自動駕駛技術的駕駛員或者乘客;第二，該程序設置不利于自動駕駛技術的推廣，這種自我犧牲程序的設置將大大降低車輛銷量及大眾對自動駕駛技術的消費興趣。

（三）擲色子算法。在兩難困境中，無論算法程序如何選擇都不能免除責任，因此，應當放棄編寫程序任由事態發展，即在自動駕駛汽車直行撞向兩名行人，或者在兩邊人數相同的情況下設置擲骰子程序進行隨機選擇。但這種逃避主義的方案顯然違背人類理性的要求，并且即使設置這種程序似乎也無法免于刑法上不作為的可罰性。

三、對自動駕駛汽車研發者的監管建議

（一）遵循人類倫理規則。人類目前對人工智能的發展表現出極大的隱憂，必須通過倫理與價值的設定以保障人工智能在合理的軌道上前進。2017年，德國公布了針對自動駕駛的道德準則，確立了下述價值準則，對算法邏輯的價值選擇提供了有益借鑒：道路安全優于出行的效率;對于個體的保護優于其他功利主義;法律應當在個人自由與他人自由間取得平衡;對人類權益的保護優于動物權利與財產權利。特別值得說明的是，該道德準則還對生命的“兩難選擇”作出了特別的規定，要求不得對于某些極端情況提前設定標準化的計算邏輯，例如在路人與駕駛員同時在懸崖邊面臨碰撞時，不得提前設定以犧牲路人性命換取駕駛員存活的編程。人類的倫理概念也不是天生的，主要通過兩個途徑獲得，一個是人所有的感覺，另一個就是已相信的事物創造、解釋和衍生結果。因此，極有必要通過算法的頂層價值設計以實現人工智能法益位階的設定，確保人工智能自身邏輯不會突破底線。與之相對，如果研發者違背倫理規則設定算法，應當承擔相應責任。

（二）設立研發者的嚴格責任。人工智能的發展趨勢是逐步成為技術黑箱，即使運算的算法與邏輯可以被公開，但基于該算法可能產生的模型卻無法限定在固定模式內，即便是研發者也無法完全預知其內部的決策運算邏輯。當情況特殊時，自動駕駛汽車在缺乏預設情景設定而獨立作出決策時，以產品缺陷的理由使生產者獨立承擔嚴格責任，顯然是不公平的。因此必須設立研發者的嚴格責任，以便于鏈式機制內的相關主體明確自身權利與義務，并通過算法等技術的頂層設計盡力消除消極后果。從包括規制人類基因技術的應用等高科技法的發展歷程分析，應對自動駕駛技術的禁止開發領域或者應然共有價值選擇作出明確的限制性規定，以避免技術的研發陷入不可控的狀態。

（三）遵循強制性義務。自動駕駛技術研發者還應遵循一些強制性義務，例如創建開發與應用數據記錄系統，強制妥善保存研發核心參數，以便于確定侵權事件的“因果關系”與責任主體。在人工智能的設計研發過程中，必須保證系統滿足動態評估并具有監測危險的能力后再投入市場。技術開發的法律“負面清單”規定由研發者承擔相應民事、刑事及其他責任，通過法律的震懾使得負面技術減少應用效應并將研發者作為承擔侵權責任的主體之一，同時滿足技術批判理論范式下所需的事前預防。

【參考文獻】

[1] 瑞恩·卡洛，邁克爾·弗魯姆金，伊恩·克爾，陳吉棟，董惠敏，杭穎穎.人工智能與法律的對話[M].上海人民出版社，2018.

[2] 袁曾.無人駕駛汽車侵權責任的鏈式分配機制——以算法應用為切入點[J].東方法學，2019，缺失卷（5）：28-39.

[3] 司曉、曹建峰： 《論人工智能的民事責任： 以自動駕駛機動車和智能機器人為切入點》，《法律科學 （ 西北政法大學學報） 》2017 年第 5 期。

作者簡介：石月 （1994-），性別：女 民族：漢族 ，籍貫：遼寧阜新，職務：學生，學歷：研究生，單位：無，研究方向：知識產權