張明誠 吳 勃
武漢大學,湖北 武漢 430072
隨著人工智能、5G通信等技術發展,自動駕駛汽車在交通領域的應用將逐漸顛覆傳統交通運行模式,自動駕駛系統將逐步取代人類駕駛員,接管車輛控制權,但自動駕駛汽車仍可能在行駛過程中引發交通事故。如2016年5月,一輛特斯拉自動駕駛汽車因可能存在的系統漏洞在美國一十字路口撞上前方重型卡車,導致駕駛員身亡①搜狐網.無人駕駛事故發生,引起對智能駕駛高度關注[EB/OL].[2019-06-30].http://www.sohu.com/a/104745544_123145.;Uber自動駕駛汽車也被爆因雷達問題導致在行駛中與一名正在過馬路的行人相撞致其死亡②中華網.Uber自動駕駛撞死行人事故本可避免?被曝減少了激光雷達[EB/OL].[2019-10-08].https://news.china.com/internationalgd/10000166/20180329/32245654_all.html.。由于自動駕駛系統參與,駕駛模式發生變化,自動駕駛汽車交通事故的責任判斷產生一定困難。在自動駕駛模式中,自動駕駛系統掌握汽車控制權,人類駕駛員逐漸讓出汽車駕駛權限致使駕駛主體改變,出現交通事故時,刑事責任可能需由自動駕駛汽車的設計者承擔[1]。因此,自動駕駛汽車交通事故中制造商刑事責任問題開始被學界關注。
在自動駕駛汽車交通事故中,自動駕駛系統替代人類實施駕駛行為,排除其他人為損害和干擾,大部分交通事故的發生符合“制造商過失+產品質量缺陷”模型,即因自動駕駛汽車制造商未盡到出廠檢測、質量安全保障等義務導致產品存在一定質量缺陷。學界普遍認同在傳統刑事主體缺失的情況下,制造商應承擔相應刑事責任,但對制造商責任形式的判斷存在分歧,導致歸責路徑模糊。此外,在大規模缺陷車輛召回事件頻發,我國刑法對產品過失犯罪規制不足的情況下,一旦由“自動駕駛汽車制造商過失+產品質量缺陷”事故模型引發交通事故造成嚴重危害,公民人身安全、財產安全等重大法益將無法得到保障。算法是信息時代人工智能領域的核心產物,具有復雜性、自發性等特征,制造商一般為算法設計者,也使交通事故中對其責任認定更為復雜。因此,本文嘗試重新審視自動駕駛汽車制造商交通事故責任形式及路徑,以增設自動駕駛領域制造商產品安全過失犯罪為切入視角,以期規范自動駕駛產業發展并切實保障公民人身、財產等法益。
人工智能技術介入駕駛領域,導致規制駕駛員行為的交通肇事罪適用困難,學界由此展開自動駕駛汽車制造商在交通事故中的刑事責任爭論。因不同責任形式將直接影響歸責路徑,首先應明確制造商責任形式,目前有交通肇事責任和產品責任兩種觀點。
1.制造商應承擔交通肇事責任。有觀點認為可將責任轉移至制造商,以交通肇事罪追究其刑事責任。但我國刑法規定,交通肇事罪的主體為自然人,制造商作為“法人”不符合交通肇事罪的主體要求。針對此問題,學者提出根據《最高人民法院關于審理交通肇事刑事案件具體應用法律若干問題的解釋》(下稱《解釋》)第7條規定,單位主管人員、機動車輛所有人或者承包人指使、強令他人違章駕駛造成重大交通事故的以交通肇事罪定罪處罰。由此可知,除駕駛人外,這些“可以對交通工具安全行駛施加影響的人”符合交通肇事罪主體要求[2]。還有觀點認為,面對歸責中主體困境,應修改當前交通肇事罪的主體類型,增加“法人”為新責任主體[3],從而以交通肇事罪對制造商歸責。
2.制造商應承擔產品責任。另一種觀點認為,當自動駕駛汽車發生交通事故時,制造商應承擔產品責任。當自動駕駛車輛制造商需要承擔監督責任時,不應以交通肇事罪定罪量刑,而應以《刑法》第146條規定的生產不符合安全標準的產品罪定罪處罰。此外,根據《刑法》第150條規定,單位當然可以構成生產不符合安全標準的產品罪[4]。但生產不符合安全標準的產品罪要求行為人在主觀構成要件上為故意,而在一般交通和自動駕駛領域,制造商故意生產不符合安全標準的產品的情形十分少見,近年頻發的大規模汽車召回事件原因往往是因制造商在生產、檢驗環節存在疏忽大意等過失導致產品質量出現瑕疵。在普通汽車駕駛過程中,駕駛員能夠感知危險并采取應急措施,避免了許多潛在事故。而在自動駕駛領域,由于存在較高技術壁壘,一旦某些關鍵智能部件出現問題,自動駕駛汽車使用者來不及反應和處理,極大提高交通事故發生概率。因此,在面對“制造商過失+產品質量缺陷”引發的交通事故時,適用生產不符合安全標準的產品罪存在一定困難。
制造商在自動駕駛汽車交通事故中應承擔產品責任,且“制造商過失+產品質量缺陷”導致交通事故從而嚴重侵害法益的行為需得到重視。確定制造商在自動駕駛汽車交通事故中的刑事責任形式,關鍵在于明確自動駕駛汽車制造商在交通事故中應盡的注意義務類型。在自動駕駛模式運行過程中,制造商應盡義務是保障自動駕駛系統安全運行。換言之,其注意義務是對自動駕駛產品質量安全的保障義務,而非對駕駛環境中交通運行安全的注意義務。
1.自動駕駛汽車制造商是產品生產者。產品一般定義是由制造商生產并面向市場銷售的物品。在市場營銷學中產品被定義為向市場提供的,引起注意、獲取、使用或者消費,以滿足欲望或需要的任何物品[5]?!吨腥A人民共和國產品質量法》規定:“本法所稱產品是指經過加工、制作,用于銷售的產品。”自動駕駛汽車是由生產商制造、生產并面向市場銷售且符合產品質量安全標準的產品。制造商僅為產品生產者,并不直接參與交通運行。自動駕駛汽車具有高度智能化和自動化,但并不意味著其已脫離產品本質屬性。相較自動洗碗機等類智能化產品,作為人工智能體的自動駕駛汽車只是智能與自動化程度更高而已,即使機器學習、深度學習算法的應用使自動駕駛汽車擁有類人智慧并產生一定自主性和突發性,但本質上算法和一般編程程序相同,屬于實現產品功能的部分,也是產品組成部分。機器行為由代碼決定,其自主性、突發性并不等同于人類自由意志。因此,自動駕駛汽車制造商作為產品生產者,應承擔確保產品質量安全的責任和注意義務,不應成為交通肇事罪非難對象。
2.制造商應盡產品安全保障義務。前述制造商應承擔交通肇事責任的觀點援引的《最高人民法院關于審理交通肇事刑事案件具體應用法律若干問題的解釋》(下文稱《解釋》)第7條規定,理論界已有諸多討論。實質上,該解釋的法理基礎為監督過失責任理論。由于業務及其他社會生活關系,在特定人與人、人與事項間形成了監督與被監督關系。監督者對被監督者的行為,在事前應教育、指導、指示、指揮,事中監督,事后檢查;對所管理事項,應確立安全管理體制。監督過失可分為兩種類型;一是因缺乏對被監督者行為的監督所構成的狹義監督過失;二是因未確立安全管理體制構成的管理過失[6]。《解釋》第7條背后的法理基礎即具有特殊法律身份的單位主管人員、機動車輛所有人或承包人違反相應注意義務,未盡到監督、管理責任,造成一定危害結果。對自動駕駛汽車制造商而言,由于《解釋》限定了主體范圍,導致直接適用困難。拋開制造商不符合《解釋》限定的三個特定主體及特定行為模式等因素,判斷制造商能否適用交通肇事罪的關鍵在于其是否違反了交通運行安全注意義務。
自動駕駛汽車制造商只是交通運行活動間接參與者,直接參與交通運行活動者為其生產的自動駕駛汽車,因此,制造商僅需承擔產品質量安全的監督、管理義務。從SAE3級有條件自動化駕駛到SAE5級完全自動化駕駛,自動駕駛系統在實現自動駕駛功能上發揮的作用一致,只是因技術條件限制導致低級別自動駕駛行為在某些特殊路況及環境條件下無法實現。系統參與監控駕駛環境,并不意味著制造商承擔對交通行駛安全的注意義務。究其本質,所謂自動駕駛系統監控駕駛環境,僅是由自動駕駛系統通過攝像頭、傳感器等硬件收集外部信息,然后通過相應軟件和算法完成的信息處理過程。制造商承擔的仍是監督、保障其生產的硬件及軟件產品安全和風險防范義務,而非對駕駛環境中行駛安全的注意義務。認為制造商應承擔交通肇事責任的觀點實則混淆了產品研發制造行為和行車行為,亦混淆了交通領域的行車注意義務和產品領域內產品安全相關的風險防控義務[7]。
自動駕駛汽車交通事故中,制造商應承擔產品責任。在我國刑法體系中,有關產品犯罪置于破壞社會主義市場經濟秩序罪一章,本章規制的是嚴重侵犯國家、社會與市場主體經濟利益的行為,其保護的法益為社會主義市場經濟秩序。在產品犯罪中,犯罪行為不僅會破壞社會主義經濟秩序,其嚴重后果中往往包含對公民人身、財產等法益的侵害。人工智能產品質量缺陷的危害后果更為嚴重,在自動駕駛汽車交通事故中,產品缺陷不僅破壞經濟秩序,甚至會危害交通管理秩序、公民人身安全與公共安全。但按照現行刑法規范,產品領域規制的大多為故意犯罪,而自動駕駛領域事故發生原因多為“制造商過失+產品質量缺陷”情形,因此無法得到有效規制,造成公民人身、財產等重大法益保護闕如。為保障公民人身、財產安全,規范交通運行秩序,基于人工智能產品的特殊性質,需在自動駕駛領域針對制造商增設產品安全過失犯罪。
1.“制造商過失+產品質量缺陷”模型誘發交通事故。關于自動駕駛汽車制造商刑事責任,我國刑法中僅第146條“生產、銷售不符合安全標準的產品罪”留有適用余地,但該罪在構成要件上要求制造商主觀為故意。在自動駕駛領域涉及制造商刑事責任時,一方面受限于高昂犯罪成本,制造商故意犯罪情形與數量將會受到壓縮。自動駕駛行業具有嚴格準入標準,制造商故意實施犯罪行為,會面臨被激烈的市場競爭淘汰風險。另一方面總結當前自動駕駛汽車交通事故發生原因,大多由“制造商過失+產品質量缺陷”引發。高新技術給人類社會帶來極大便利,但因其具有較高專業要求,對技術設計、使用人員的能力和研發中產品安全注意義務提出更高標準。隨著汽車產品生產、流通環節技術水平不斷提高,流程復雜度加深,風險也在不斷上升,汽車行業從業人員違反注意義務的情形增多。因此,相較于故意犯罪,制造商過失導致法益侵害更應受到關注。若將自動駕駛汽車制造商過失犯罪排除在刑法規制外,將會導致刑法喪失對相關企業的威懾力,影響社會公共安全和經濟秩序。
2.智能交通時代交通運行安全之保障。隨著《中國制造2025》戰略發布,發展智能網聯自動駕駛已上升到國家戰略層面。為搶占交通強國、網絡強國、制造強國的戰略高地,我國自動駕駛技術研發進展迅速。我國工業和信息化部于2018年12月27日發布《車聯網(智能網聯汽車)產業發展行動計劃》文件,強調至2020年,實現車聯網(智能網聯汽車)產業跨行業融合取得突破,具備高級別自動駕駛功能的智能網聯汽車實現特定場景規模應用,車聯網綜合應用體系基本構建,用戶滲透率大幅提高,智能道路基礎設施水平明顯提升,適應產業發展的政策法規、標準規范和安全保障體系初步建立。戰略層面發展需要為規范層面設計提供平臺,規范先行、標準先立才能減少智能時代交通運行風險,使自動駕駛技術被公眾廣泛接受。自動駕駛汽車生產安全涉及算法安全、系統軟件安全及硬件安全等多領域、多維度的產品安全體系,網聯性特征極易擴大事故連鎖反應。我國刑法中規定的犯罪類型總體較少,應增設相應規模犯罪,實現其他法律法規難以達到的社會控制目標[8]。
3.風險社會下法益侵害危險擴張。風險社會概念由德國學者烏爾里?!へ惪颂岢?,風險社會理論作為一種社會學理論,與刑法理論相互獨立,但安全作為其與刑法體系的連接點,對刑法體系變動產生一定影響[9]。作為后發型的發展中國家,我國在現代化進程中面臨諸多風險,如科技進步及資源與生態環境嚴重破壞等帶來的自然風險、科技風險、金融風險和社會風險等,應及時調整刑法,以有效應對風險社會中出現的新情況、新問題[10]。作為科技發展催生的新型交通運行模式,很多國家已在國家戰略層面明確自動駕駛發展必要性。自動駕駛的發展將全面改變當前由人類駕駛員駕駛車輛的交通運行方式,同時也帶來新的危險:車聯網絡癱瘓、黑客攻擊、信息泄露、算法暴走等均可能造成嚴重危害。面對科技發展對社會安全和秩序的挑戰,應積極調整社會治理策略和方式。從一定意義上,現階段擴張犯罪圈為必然,社會快速發展、變動中形成的各種社會矛盾,需要刑法立法給予回應[11]。
刑法作為社會治理的最后手段,應秉持其謙抑性。我國刑法對新型犯罪立法一向呈謹慎態度,但犯罪化并不意味著刑事法制的嚴苛,也并不意味著一切新興事物和產業均應由刑法規制。一方面,對自動駕駛汽車制造商智能產品安全犯罪采取積極的刑法立法觀,是對智能交通時代現實社會需要的反應;另一方面,基于其造成的社會危害結果的嚴重性等特征,刑法對自動駕駛制造商的規制具有合理性。
1.刑罰發動不可替代。刑罰發動的合理性需從以下方面判斷:首先,行為是否具有嚴重社會危害性,這是犯罪的本質特征。其次,刑罰措施是否不可替代。刑罰作為最嚴厲的處罰方式,直接剝奪人的生命、自由、財產,可以其他方式解決則不必動用刑罰,這也是刑法謙抑性要求[12]。自動駕駛系統被連接在網絡中與整個交通運行場域共鳴互動,自動駕駛車輛與現代化交通設施在交通運行中相互影響、相互作用,具有牽一發而動全身的特點。在自動駕駛領域,“制造商過失+產品質量缺陷”引發的交通事故可能導致公民人身、財產及社會公共秩序遭受重大侵害。一旦出現基于制造商過失導致的汽車軟硬件失效,或制造商未履行網絡安全防控義務導致網絡病毒入侵自動駕駛系統等情況均可能造成車輛故障,影響整個網聯系統內自動駕駛汽車運行安全,造成重大人員傷亡及財產損失。此時,因民事賠償或行政處罰均無法彌補事故損害,刑罰發動便不可替代。
2.行為本質等價。自動駕駛改變了駕駛方式,但系統駕駛與人類駕駛在行為本質上并無區別,只是相關責任承擔者由人類駕駛員轉變為自動駕駛汽車制造商或汽車使用者等主體。從宏觀角度而言,在自動駕駛模式下,自動駕駛系統取代了人類駕駛員“駕駛”地位,但汽車在交通運行領域的行駛方式、角色和地位均未發生本質變化。因此,由系統主導的自動駕駛行為與人類駕駛員主導的傳統駕駛行為具有等價性和相當性。本質上,兩種行為的危害結果均侵害了公民人身、財產及交通運行秩序等重大法益,僅規制其中某一行為顯然不合理。因此,因制造商過失導致自動駕駛行為違反相應的自動駕駛管理法規,造成重大人員傷亡,刑法應及時介入。
3.對法益保護的回應。犯罪是侵犯法益的行為,刑法目的是保護法益[8]。在傳統交通運行領域,刑法設置了“交通肇事罪”“危險駕駛罪”等保護公民人身、財產安全及公共交通秩序等法益。在智能交通時代,當自動駕駛系統替代人類駕駛員實施駕駛行為,交通肇事罪、危險駕駛罪等規制人類駕駛員的罪名將無法適用。自動駕駛系統不具有刑事責任能力,制造商作為背后主體,理應成為刑法規制對象。此外,我國刑法規定了生產不符合安全標準的產品罪等罪名,此類罪名對自動駕駛領域制造商產品故意犯罪有一定規制效果。但在自動駕駛場域下,“制造商過失+產品質量缺陷”引發交通事故的常態化可能導致對制造商過失引發交通事故情形的忽視。因此在自動駕駛領域,增設制造商產品過失犯罪,是刑法對交通運行中公民人身、財產安全等重大法益保護闕如的回應。
1.理論支撐。在風險社會背景下,刑法學界對過失犯罪的研究為自動駕駛領域產品過失犯罪立法提供了理論支撐。諸多學者已關注我國對單位過失犯罪的規制不足問題,如針對重大責任事故罪,有學者強調應增設單位為犯罪主體[13]。在食品安全領域,有學者提出,針對《刑法》第144條、146條主觀罪過僅限于故意,此種主觀罪過范圍的狹窄給司法實踐造成了一定困難[14];因過失導致食品安全事故造成的后果,有時并不比故意犯此罪造成的后果輕微,西方國家的刑法關于過失可構成食品安全犯罪的規定也值得重視和借鑒[15]。學界對過失犯罪研究的理論沉淀是對自動駕駛產品過失犯罪立法的有力支撐。立法目的、原理、技術和具體操作等層面諸多理論研究,對設立自動駕駛領域的產品過失犯罪具有較強參考價值。自動駕駛技術尚處發展階段,但前瞻性立法不僅能夠反映交通運行發展趨勢,還能反映犯罪化特點,有利于保障刑法穩定性。
2.符合刑法規定及目的。我國《刑法》第30條規定:“公司、企業、事業單位、機關、團體實施的危害社會的行為,法律規定為單位犯罪的,應當負刑事責任?!痹摋l是《刑法》總則中關于單位犯罪的概括性條款,雖并未明確規定單位犯罪的罪過形式,但在刑法分則條文中已有諸多條款涉及單位過失犯罪,如污染環境罪等。因此,單位犯罪的主觀罪過形式應包含故意和過失,增設自動駕駛汽車制造商產品過失犯罪符合刑法對單位犯罪的相關規定。此外,企業在信息化時代承擔著重要社會責任,在英美等國,法人犯罪范圍極為廣泛,除重婚、偽證、強奸等少數與法人本質不相符的犯罪之外,法人幾乎可以成為所有刑事犯罪主體[16]。雖然各國規定基于國情,但相較之下我國對單位犯罪的打擊面較窄,很多情況下無法達到規制企業違法行為目的。對現行刑法的解釋已無法解決自動駕駛汽車運行過程中法益保護闕如現象,通過立法規制制造商產品過失犯罪,符合刑法以法益保護為目的的內在邏輯,并不違反其謙抑性原則。
根據美國SAE分級,自動駕駛汽車可分為L0-L5六個等級,在L0至L2階段,仍需由駕駛人監控駕駛環境;L3-L5等級自動駕駛中,由自動駕駛系統監測駕駛環境。但在L3階段,系統默認駕駛人會合理回應干預請求,由此存在駕駛員與自動駕駛系統控制權的交互與移轉。在L3階段發生重大交通事故,認定自動駕駛汽車制造商刑事責任的關鍵是厘清事故發生的因果關系,在誘發事故的諸多因素中尋找自動駕駛系統相關因素;在L4-L5自動駕駛階段,自動駕駛系統始終監控汽車駕駛,若汽車在使用自動駕駛技術時發生重大交通事故承擔主要責任,自動駕駛汽車制造商便應承擔相應刑事責任。認定自動駕駛汽車制造商的刑事責任時,排除駕駛員誤用、操作失誤及其他人為因素干擾,在自動駕駛模式運行狀態下因自動駕駛車輛問題發生交通事故的情況主要有三:一是傳感器、攝像頭、車感雷達等硬件設備受損、失靈;二是自動駕駛系統等軟件出現故障;三是算法問題。這些導致事故發生的情況均可歸結為制造商產品安全問題,且可能出現在汽車生產、使用等階段。根據我國刑法通說,過失犯罪本質是違反注意義務,因此應明確自動駕駛汽車制造商在自動駕駛汽車生產、使用等階段的注意義務內涵。此外,算法使用及事故因果關系的多樣性與復雜性,也給自動駕駛汽車制造商產品過失犯罪具體認定帶來諸多困難。
作為產品制造、生產者,自動駕駛汽車制造商的注意義務體現在生產、使用等環節:在生產環節,組裝汽車零配件符合國家質量要求、自動駕駛汽車整車質量符合國家標準,車輛通過整車出廠檢驗;運行過程中,自動駕駛汽車制造商建立的安全管理體制能夠在自動駕駛模式運行下及時發現異?;蛭kU情況,并自動處理或及時提醒車輛使用者,如設置自動警示設備、實施超速強制剎車等。
值得討論的是,在自動駕駛汽車運行過程中,制造商的注意義務程度應達到何種程度。由于網聯性特征,自動駕駛系統在汽車運行過程中搜集的信息、數據被匯總、集中于制造商處。自動駕駛模式運行過程中,制造商通過對車輛情況及周邊環境等數據的收集處理,支配整個自動駕駛過程。若制造商建立相應提醒、警示系統,便需監測自動駕駛系統軟硬件運行狀況。根據工業和信息化部、公安部、交通運輸部關于印發《智能網聯汽車道路測試管理規范(試行)》的通知,實施智能網聯汽車測試的制造商需具備對測試車輛實時遠程監控的能力;且測試車輛需具備車輛狀態記錄、存儲及在線監控功能,能實時回傳車輛位置、速度、加速度等信息。但上述文件是對自動駕駛汽車測試過程的要求,并不涉及車輛使用者隱私等法益,但在實際使用過程中,涉及安全、效率、隱私等價值沖突,自動駕駛汽車制造商收集信息的范圍和內容需被限制。但不允許制造商收集關鍵數據,又會導致無法得知車輛運行狀況,由此無法感知具體危險,影響對其注意義務的判斷。基于安全與效率考量,相關法律規范應尋求數據收集與隱私保護間的動態平衡。
1.事故因果關系判斷。事故因果關系判斷影響制造商歸責。一旦處于系統支配下的自動駕駛模式因產品質量問題導致交通事故或人員傷亡,自動駕駛汽車制造商需承擔相應產品責任。相較于傳統交通事故,自動駕駛汽車引發交通事故的因果關系判斷更加困難。在L3等級自動駕駛汽車交通事故中,存在人車交互行為,引發事故的主體可能有多個,引發事故的原因也存在多樣性。算法參與使歸責更為復雜。機器學習、深度學習算法是自動駕駛系統實現自動駕駛功能的核心,深度學習網絡習慣性被視為黑箱模型,復雜的函數疊加公式及多層神經網絡讓人難以直接理解神經網絡的“思維方式”,從而在算法錯誤引發的交通事故模型中無法查明算法具體錯誤環節。極端情況下,制造商在設計、訓練算法時符合相關法律法規及行業標準,但因算法的復雜性、自發性,仍可能出現算法設計者預計外結果,導致相關主體歸責陷入困境。
對因果關系判斷困難情況,有觀點認為可采共同過失正犯理論,認為多個相關人員共同過失導致事故發生,從而克服了因果關系難以證明導致的過小責任問題[17]。但該理論在我國存在較大爭議。我國刑法明文規定:共同犯罪是指二人以上共同故意實施犯罪行為。否定觀點認為,過失犯罪是否成立共同犯罪是一種刑法制度,其存在與否,取決于刑法上是否具有明文規定[18]。而肯定說則認為,我國刑法僅規定共同故意犯罪的刑事責任,但這并非否定共同過失犯罪的存在[19]。實踐中,承認共同過失犯罪有利于實現刑法社會保護機能和人權保護機能平衡,有利于司法實踐解決相關疑難案件,降低司法成本[20]。筆者認為,肯定共同過失犯罪在自動駕駛領域的運用具有一定積極意義。因果關系作為客觀存在,不應成為相關責任主體規避自身責任的工具。根據上述自動駕駛運行模式發生交通事故的三大類型因素,當無法查清傳感器、攝像頭等硬件設備是因制造瑕疵抑或其他使用者損壞、系統軟件是因制造商未及時更新或第三方侵入修改等具體情形時,適用共同過失理論對解決此類因果關系難題具有一定意義,但在具體適用過程中應遵循刑法謙抑性要求,謹防刑罰濫用。
2.算法黑箱與制造商預見可能性。近年來算法黑箱及其可解釋性成為學界關注熱點,因深度學習算法的復雜性和自發性,其輸出結果可能超出算法設計者設計范圍。自動駕駛系統算法端通過提取傳感器原始數據中有意義信息,了解周圍環境,并據此做出決策,制造商通過對算法端的大量數據輸入訓練算法,模擬并預測人類駕駛員決策行為,從而實現汽車自動駕駛功能。但真實交通環境紛繁復雜,大量訓練數據的輸入及算法算力的制約均會影響算法預測識別,從而影響車輛運行。同時,算法識別與預測并不能達到完全準確,與人類整體、宏觀認知方式不同,算法將整體分解,識別低階要素、標注權重。以識別圖片中的動物為例,人類通過觀察動物身形、毛色等體貌特征判斷種類,而算法則考量不同特征屬性權重。對算法而言,一幅圖像中的每個像素均是輸入要素,它會關注圖片中每一個像素的顯著程度,并賦予相關數值,以此作為識別依據。因沙子的色彩接近于人類膚色,在識別過程中經常出現算法將沙漠圖片識別為色情圖片的情形。自動駕駛在交通領域的相關行政法規應規定自動駕駛算法設計、訓練標準及輸入數據來源、輸出結果準確程度等要素,若自動駕駛系統制造商輸入算法的數據內容違反相關規范、設計程序不符合有關標準導致算法脫離控制范圍引發交通事故,造成重大人員傷亡或財產損失,應考慮對系統制造商歸責。
算法黑箱并不意味著算法不可控,深度學習的神經網絡模型本質上并非黑箱,其黑箱屬性在于無法以常識方式理解模型的具體含義和行為,算法設計者了解參數的具體值及整個訓練過程,深度學習算法的輸出結果本質上由其輸入數據和學習方式決定,使用透明性較強的算法、運用逆向工程學方式探求算法規律等均可增強算法可解釋性[21]。當面對算法黑箱難題時,因算法使用標準不統一,制造商對算法的設計和訓練能力不盡相同,由此導致算法輸出能力及透明度等參數不同。對制造商預見可能性的判斷關系在算法復雜性和自發性導致輸出錯誤引發交通事故時的責任認定。理論上,存在主觀說、客觀說與折中說分歧,筆者認為,基于汽車使用者人身、財產安全價值考量及行業算法技術層面的開源與交流,應在客觀說以一般人一般水平為衡量標準的基礎上,以行業較高標準要求制造商的預見可能性,即制造商不能以其技術水平未達到該較高標準為由脫罪。過失犯往往由從事業務、職務活動的人實施,因此處于該種地位和情況的人,必須具有法律期待的注意能力,否則不能從事該項工作,勉強從事從而造成危害結果的,應承擔責任[22]。
科技發展在為社會生活帶來便捷的同時,風險也附隨而來。為應對人工智能技術發展帶來的重大風險,應完善現有歸責體系。未來,自動駕駛汽車制造商將在交通運行領域扮演至關重要角色,厘清其在交通事故中的責任形式對明確制造商責任、促進自動駕駛產業發展具有重要意義。在防范人工智能重大風險中,刑法應及時回應技術進步、社會發展導致的法益保護闕如,以保障社會公共秩序、公民人身以及財產安全。