摘要:以低空智聯為代表的低空運行系統深刻改變了無人機的運行樣態。以重量、飛行速度、飛行高度等性能指標為基本參數的“機—運”二維無人機分類監管模式正面臨緊迫的數智化挑戰。面對無人機智能化及其運行環境數智化的雙重迭代,無人機監管應當將數據有序流動和安全保障深度融入監管的實質內容,加快推動無人機“機—運”二維監管向“機—運—智”三維監管模式的轉變,并通過法律規范的完善保障監管的實效。低空智聯視域下實現對無人機分類監管的有效法律規制,應當確立包容審慎的規制理念,平衡行業安全與產業發展的不同訴求;細化無人機飛行違法的實時規制措施,實現無人機數據的動態規制;增加對智能化無人機的算法規制,注重人工智能帶來的風險和變化。
關鍵詞:無人機;低空經濟;低空智聯;人工智能;分類監管
中圖分類號:D035;D922" "文獻標志碼:A" "文章編號:1001-862X(2024)06-0106-008
黨的二十屆三中全會通過的《中共中央關于進一步全面深化改革、推進中國式現代化的決定》(以下簡稱《決定》)明確提出“發展通用航空和低空經濟”。低空經濟是以低空空域資源為依托,以民用有人和無人駕駛航空器為載體,以科技和商業創新為動力的綜合經濟形態,既是戰略性新興產業,更是新質生產力的重要代表。伴隨低空經濟的發展,低空智聯的概念和技術應運而生。低空智聯是為滿足高密度、大流量、近實時的低空安全高效應用需求而構建的低空復雜運行系統。其創新應用數字化、網絡化和智能化技術賦能管控服務“云”、空天地三“網”和航空器“端”,可實現低空治理體系的網絡化、數字化和智能化,大幅提升低空資源的使用和治理效率,為低空經濟騰飛提供新動能。[1]低空智聯是低空基礎設施與飛行服務的支撐,已在北京、上海、深圳、合肥、成都等城市進行了業務示范,正深刻改變和形塑我國的低空空域應用模式,并對空域監管提出了新的挑戰。
無人機產業是低空經濟的重要組成部分。針對無人機發展的實踐需求,我國在相關領域加快了立法速度,近年來出臺了《無人駕駛航空器飛行管理暫行條例》《民用無人駕駛航空器運行安全管理規則》等規范,其中,國務院和中央軍委聯合頒布并于2024年1月1日施行的《無人駕駛航空器飛行管理暫行條例》(以下簡稱《暫行條例》)為無人機監管法治化打下了基礎。但是,在數智化技術蓬勃發展的大背景下,以性能、適航空域等機械指標為標準對無人機實施分類監管的傳統模式,難以有效應對無人機應用智能化、網絡化、數字化所帶來的新問題。如何完善無人機分類監管模式,并對其實現有效的法律規制?這是本文的寫作緣起,也是問題之起點和答案之鵠的。
一、民航管制模式下無人機的分類監管及其面臨的數智化挑戰
我國對空域一直施行嚴格的航空管制。無人駕駛航空器的監管延續了傳統民用航空器運行適航的管制模式。無人機主要被作為機械產品,其管理主要針對設計和生產環節進行質量把控,同時,通過飛行審批降低無人機的飛行風險。但是,在數智化浪潮的沖擊下,民航管制模式下的無人機監管已暴露弊端。
(一)傳統民航管制模式下的無人機分類監管
當前,我國對無人機的監管主要是從“機—運”兩個維度展開的,“機”是指無人機本體,“運”是指無人機的運行范圍,在“機—運”兩個維度分別施行分類監管。
針對無人機本體的監管,遵循了傳統的機械體思維和載人民用航空器管理路徑,依據無人機的重量等性能指標將無人機劃分為微型、輕型、小型、中型和大型,并相應給予風險評價,即越大越重的無人機風險越高,需要給予更加嚴格的監管。《暫行條例》延續了上述以重量等性能指標評估無人機風險并差異化管理的思路。例如《暫行條例》第8條規定:“從事中型、大型民用無人駕駛航空器系統的設計、生產、進口、飛行和維修活動應當依法向國務院民用航空主管部門申請取得適航許可”,而從事微型、輕型、小型民用無人駕駛航空器系統的相關活動則無需取得適航許可;第12條規定:“使用小型、中型、大型民用無人駕駛航空器從事非經營性飛行活動,應當依法投保責任保險”,微型和輕型民用無人駕駛航空器則無購買責任保險要求。《暫行條例》還有諸多根據機械性能指標評估風險并差異化管理的條款,此處不一一列舉。
針對無人機運行的監管,我國仍然以重量、飛行高度、飛行速度等性能指標為風險評估基礎,結合適用場景,劃分為開放類、特定類和審定類三類。中國民用航空局于2022年發布的《民用無人駕駛航空法規標準體系構建指南V1.0》在“構建思路”部分的“風險類別”中指出:“綜合考慮民用無人駕駛航空器系統的重量、動能、飛行高度、飛行速度、應急處置等,根據風險將運行和經營分為開放類、特定類和審定類。”2024年1月1日施行的《民用無人駕駛航空器運行安全管理規則》第92.7條對開放類、特定類和審定類運行場景中的運行要求進行了明確區分:開放類運行人只需滿足局方(指民航局和民航地區管理局,下同)規定的一般運行要求,特定類運行人還應當在運行前制定相應的風險緩解措施,而審定類運行人除滿足局方規定的所有運行要求外,還應當在運行前制定完整的風險緩解措施。
綜上可見,我國當前對無人機適用“機—運”二維分類監管模式,根據重量、飛行高度、飛行速度等性能指標分類監管,同時針對無人機的運行,根據風險高低劃分為開放類、特定類和審定類場景,并實施分類監管。
(二)無人機監管面臨的數智化挑戰
數智化是數字化和智能化的有機融合,其邏輯是人機互融、虛實同構、算法主導,該邏輯正從基礎設施層面顛覆人類的生產生活模式。[2]從遙控(無線電遠程控制)轉向程控(計算機程序控制)再轉向智控(人工智能控制),無人機已不僅僅是靜態的機械產品,立基于機械體思維的“機—運”二維分類監管模式在數字化、智能化技術突飛猛進的科技圖景中難免顧此失彼、左支右絀。
以0和1二進制為底層邏輯的數字技術重塑了人類社會,實現了信息的數字化,通過計算機和通信技術經由二進制完成信息的高速存儲、傳輸和讀取。無人機與數字技術已經深度融合,并引發了新型安全風險。例如,無人機結合數字技術,在攝像頭的輔助下可以記錄地面人員的各種信息,比如人臉特征、行動軌跡、家庭住址,并被用于市場營銷和廣告推送。[3]又如,無人機通常將數據存儲在機載存儲器,或者傳輸到地面站或遠程服務器,這些過程可能會因主觀故意或外部攻擊導致數據泄露。無人機功能日益強大,使用范圍和場景愈發廣泛,軍民界限逐漸模糊,通過各類任務不斷采集和傳輸與綜合安全相關的數據,存在威脅國家安全的隱患。特別是重要數據、核心數據非法跨境流出,為境外主體掌握時危害更甚。《中共中央 國務院關于構建數據基礎制度更好發揮數據要素作用的意見》根據數據來源或利益屬性的不同,將數據分為公共數據、企業數據和個人數據(個人信息)三個類別,不同的數據類型在流通中所呈現的風險并不相同。[4]公共數據的泄露如果涉及公民個人數據,會威脅個人隱私,嚴重的會泄露國家秘密,引發國家安全風險。企業數據的泄露一般會侵犯企業的商業秘密,影響企業的正常經營。個人數據的泄露常常導致侵犯隱私權,嚴重的導致電信詐騙等犯罪行為。基于機械性能指標的“機—運”二維分類監管模式并未給予無人機數字化、網絡化、智能化所引發的數據安全問題應有的重視,也難以有效解決數智化進程中帶來的新問題。
無人機從遙控到程控再到大模型算法的智控,人類的過程干預逐漸減少。人工智能與無人機的結合使后者對各類任務獲得一定的自主決策能力。但是,人工智能技術仍處于比較幼稚的階段,即所謂的弱人工智能階段,內在的技術缺陷和弱點尚無法克服,自主能力和自適應能力皆不足,一旦人工智能決策失誤,隨之而來的損害難以通過人工干預來避免。當前,主流人工智能技術是由大數據驅動的,人工智能的訓練亦通過大數據實現模型建構和調參,逐漸在概率上逼近真實世界,故具有天生的概率缺陷,遺漏和失誤難以避免。在當前技術條件下,智能化無人機風險規制的本質是對人工智能開發和使用風險的規制,進一步說,是對人工智能運用到無人機時可能產生的算法黑箱和算法缺陷的規制,這是面向智能化的無人機監管,法律所必須解決的問題。[5]“機—運”二維分類監管模式并未融入對人工智能監管的相關內容,留下了巨大的監管空白。
可見,無人機智能化及其運行環境的數字化發展狀況已經超出了“機—運”二維分類監管模式的作用范圍,將無人機繼續視為機械產品的傳統監管思路無法有效防范數智化催發的無人機風險外溢,必須尋求監管模式的變革才能有力回應數智化挑戰。
二、低空智聯視域下無人機分類監管模式的變革
我國低空經濟的迅速崛起和數智化技術的革命性突破,使得低空智聯復雜運行系統應運而生。低空智聯融合數字技術和人工智能科技,倒逼無人機監管直面數智化挑戰,并從技術和理念兩個向度為無人機分類監管模式的變革提供了指引和保障。
(一)低空智聯的數智化
誕生于5G通信、物聯網、大數據、人工智能等技術基礎上的低空智聯網系統具有強烈的數智化屬性。一是以數據互通為核心。數據是低空智聯網的“血液”,低空智聯的各個節點皆具有數據的搜集、存儲、處理功能,通過各個節點之間的數據流動,低空智聯打通了“空、天、地、人、機”彼此之間的數據流動,提高了數據的使用效率和價值。但是,數據在低空智聯網絡中的傳輸必然引發數據安全問題,需要強化數據安全保護技術,建立數據安全管理制度,采取有效的加密和防護措施,防止數據泄露和濫用。二是以智能化為目標。智能化是低空智聯的發展目標和動力,特別是人工智能的迅猛發展,已經深刻影響低空智聯各個節點的智能化水平,引發低空智聯網整體的智能化躍進。不過,低空智聯網的各個節點的智能化并不同步,一個節點的智能化水平也影響整個網絡系統的運行效率。三是以通感一體化為路徑。通感一體技術將通信與感知功能融合,為低空飛行器提供高效、可靠的信息傳輸和精確的環境感知能力,成為支撐低空智聯的核心技術。[6]一方面,只有實現低空通信的順暢,才能實現數據的互通和對無人機的飛行監控;另一方面,只有通過低空智聯各個節點對外部環境的感知,才能搜集數據,為低空智聯網供應“血液”,同時實現目標識別、軌跡跟蹤、入侵檢測等功能。通感一體化需要硬件和軟件的支持,而軟件又高度依賴算法。四是以多網融合為特點。低空智聯本質上乃多個子網融合而成的母網,具有高度的復雜性。其綜合利用新型信息通信網絡、智能控制技術以及空中交通管理多學科交叉,打造天地一體化的重大基礎設施,通過天基/空基組網、天地互聯的技術途徑實現多網融合。[1]
(二)低空智聯引發無人機存在樣態的質變
低空智聯深深改變了無人機的存在樣態。首先,無人機從個體樣態轉向網絡樣態。長期以來,無人機在飛行過程中都是獨立的飛行工具,只與操作人員之間存在控制和信息關系,此種點對點的飛行樣態比較簡單,個體性突出。但是,低空智聯將無人機融入數個子網,使其成為低空智聯網的關鍵節點,同時,無人機也深度依賴低空智聯網提供的各類服務,并與網絡中的各個節點數據互通,彼此協同。一旦無人機脫離低空智聯網,其飛行安全、航跡規劃、飛行控制、數據傳輸等各個方面皆受到巨大影響,甚至導致任務失敗。因此,個體形態的無人機無法滿足復雜多變的飛行任務,只有融入低空智聯網才能實現數字化生存。其次,無人機從機械體向智能化躍進。早期的無人機是單純的飛行機械體,只能由人通過無線電操控,通過“命令—服從”的模式機械地執行任務,無法在復雜的任務環境中自主決策,缺乏自適應能力。低空智聯融合了5G通信、北斗導航、物聯網、大數據、人工智能等諸多前沿技術,無論服務或監管皆智能化處理。與此相匹配,融入低空智聯網的無人機必須同時自主處理多個任務指令,只能單調機械執行操作人員指令的無人機既難以實現與網絡其他節點的數據互通,也難以利用網絡資源為既定的飛行任務提供幫助。最后,無人機日益成為數據終端。數據終端是指具備拍照、存儲、計算、定位、網絡、通信、數據采集等多種功能的設備,正是因為數據終端的存在,才能實現源源不斷的數據供給,故在低空智聯網中具有重要地位。低空智聯的數據互通客觀上要求無人機成為一個數據終端,通過數據的接收和傳輸,完成對無人機的監管與服務。
(三)低空智聯視域下無人機分類監管模式的變革
前文已述,我國的無人機分類監管模式是根據重量等性能指標將無人機劃分為微型、輕型、小型、中型和大型,并分類監管,同時將無人機的運行劃分為開放類、特定類和審定類分別監管。此種監管模式可以概括為“機—運”二維分類監管。“機—運”二維分類監管模式根植于無人機的機械屬性和個體屬性,忽視了低空智聯對無人機的數智賦能和網絡化改造。一方面,“機—運”二維分類監管模式的底層邏輯無法適應低空智聯的發展和需要。該模式將無人機視為由人任意操控的機械產品,與有人駕駛航空器不存在本質區別,且無人機是相對獨立的飛行器械,主要與操作人員進行數據溝通。在低空智聯系統出現以前,此種監管邏輯有其合理性和必然性,因為各種低空飛行關鍵基礎設施、服務平臺、監管平臺和支撐技術的缺失,無人機呈現為數據孤島,主要接收操作人員的指令并返回數據,難以與其他主體實現數據互通,監管機構只能從前端入手,根據性能指標對無人機進行分類,并從操作人員資格、設計、生產、進口、適航許可、保險、風險評估、風險緩解措施、飛行審批等前端環節實施差異化管理,將風險盡量消弭于無人機起飛之前。但是,低空智聯系統出現之后,無人機運行環境發生了革命性的改變,數字化、網絡化、智能化成為基本要求,“機—運”二維分類監管模式默認的無人機的機械化、個體化與上述要求格格不入。另一方面,低空智聯促進了無人機的網絡化和數智化改造。多網融合是低空智聯的應有之義,接入和利用低空智聯網的無人機必然成為網絡中的一個數據節點,承擔起數據的采集、存儲、傳輸、處理等工作,從數據孤島變身為數據樞紐,實現個體無人機向網絡無人機的轉變。凡是拒絕作出上述改變的無人機不但無法充分享受低空智聯的紅利和便利,也會在市場競爭中遭受失敗,最終承受被市場淘汰的命運。同時,低空智聯系統要求接入的無人機進行數智化改造。數智技術是由人工智能、大數據、云計算、區塊鏈等技術所構成的技術體系。[7]低空智聯聯結了諸多智能終端節點,也融合了基礎設施、飛行、控制、傳輸、監管、服務等諸多網絡和平臺,其順利安全運行體現了較高的數智化水平,必然要求接入的無人機具有相匹配的數智化水平,如此才能保證無人機在整個飛行過程中的安全與便利,相關機構實現對無人機的實時監管也成為可能。可見,在低空智聯視域下,無人機監管需要在“機—運”二維基礎上增加“智”維,構建“機—運—智”三維分類監管模式。
三、低空智聯視域下無人機分類監管的法律規制
黨的二十屆三中全會《決定》強調,“法治是中國式現代化的重要保障”,“全面推進國家各方面工作法治化”。作為保障低空經濟發展的重要組成部分,無人機“機—運—智”三維分類監管模式只有落實到法治層面,實現有效法律規制,才能真正發揮監管的實效。
(一)確立包容審慎的規制理念
安全是民航業的生命線,從保護人民的生命權益考量,對安全的高度重視和極致追求理所當然。但是,如果高舉安全至上的大旗,對民航業不加區分地“一刀切”,特別是將傳統的載人民用航空器的規制理念和做法全面適用于無人機的管理,會導致規制過度和規制不及并存。一方面,罔顧無人機在用途、性能指標等方面與載人民用航空器的本質差異,施行同一尺度的規制,既提高了監管機構的規制成本,也增加了無人機生產者和使用者的依規難度;另一方面,安全至上理念主導下的嚴格規制導致無人機的使用者不耐繁劇,排斥嚴格的飛行審批和其他規制義務,“黑飛”案例屢見不鮮,反向激勵了大量逃避規制的行為,引致諸多無人機的飛行處于規制盲區。雖然低空空域改革的思路和政策是逐漸給無人機松綁,但傳統民航業安全至上的規制理念已經形成強大的制度慣性和思維定勢,與國家大力支持低空經濟和無人機產業發展的政策立場并不能很好地匹配,甚至對后者形成掣肘,無法實現規制理念與發展政策的無縫對接。
行業安全與產業發展需要兼顧,不能偏廢,對于新興產業更是如此。在強調安全的同時,對新生事物和創新活動也予以鼓勵。無人機產業作為戰略性新興產業,客觀上需要產業政策的支持和法律規制的寬容。毋庸置疑,低空智聯加速了無人機的智能化,提高了無人機產業變革和技術革新的速度,加之全球科技競爭日趨激烈,必然需要給予無人機產業更大的自由空間,保護與應用兼顧[8],扭轉一味求穩的管理慣習。包容審慎的規制理念呼應了安全與發展兼顧之需求。2017年1月,國務院辦公廳發布《關于創新管理優化服務培育壯大經濟發展新動能加快新舊動能接續轉換的意見》,首次提出在新興經濟領域貫徹更加包容和鼓勵創新的治理理念,探索動態包容審慎監管制度。隨著新經濟、新業態的涌現,包容審慎的規制理念日益為各級管理部門所接受。包容審慎的規制理念旨在追求效率與安全的動態平衡,要求政府給予新業態必要的發展時間與試錯空間,并根據公共風險的大小進行適時適度干預。[9]包容要求對無人機的規制留下合法合理合乎發展趨勢的風險空間,尤其當低空智聯賦能無人機時,圍繞無人機衍生的新技術、新經濟、新業態層出不窮,疊加低空空域改革的大背景,更須充分尊重監管機構、企業和使用者各自的利益訴求。審慎表明對無人機新興產業的安全問題給予必要關注的同時,在當前利益與未來影響、規制過度與規制不及之間謹慎平衡,避免規制過程中的單一目標取向導致安全與發展之間的失衡。
(二)細化無人機飛行違法的實時規制措施
我國現行法規對無人機的規制主要集中于無人機起飛之前以及事后處罰。以《暫行條例》為例,其規制重心聚焦前端與后端,代表性的規制措施包括如下幾類。一是事先的資質要求。主要的資質包括運營合格證、操控員執照、操作證書,以及中型、大型無人機的設計、生產、進口、飛行和維修必須先取得適航許可。二是事先的信息登記或更新。無人機生產者應當設置唯一產品識別碼,無人機所有者應當實名登記,境外無人機應當進行國籍登記,改變微型、輕型、小型民用無人機系統的空域保持能力、可靠被監視能力、速度或者高度等出廠性能以及參數,應當及時在無人機一體化綜合監管服務平臺更新性能、參數信息。三是事先的飛行申請和審批。組織無人機飛行活動的單位或者個人應當在擬飛行前1日12時前向空中交通管理機構提出飛行活動申請,經批準后才能飛行。四是事先的風險防范措施。組織無人機飛行活動的單位或者個人應當主動采取事故預防措施,使用無人機的單位或者個人應當制定飛行緊急情況處置預案,落實風險防范措施。五是事后的責任追究。《暫行條例》對違反規制的行為規定了一系列行政處罰措施,主要有責令停止違法活動、沒收違法所得、罰款、責令停業整頓、責令改正、吊銷運營合格證、暫扣或吊銷操控員執照、責令停止飛行,等等。
注重前端和后端規制既是傳統安全至上的剛性規制理念的延續,也是飛行過程規制所面臨的客觀困難所致。隨著低空智聯網的搭建和完善,對無人機飛行過程的實時規制在技術上成為可能,相關法規需要細化無人機違反飛行管理規定、擾亂公共秩序或者危及公共安全的實時處置措施。《暫行條例》第42條規定:“無人駕駛航空器違反飛行管理規定、擾亂公共秩序或者危及公共安全的,空中交通管理機構、民用航空管理部門和公安機關可以依法采取必要技術防控、扣押有關物品、責令停止飛行、查封違法活動場所等緊急處置措施。”該條的實時規制處理措施規定模糊,“依法采取必要技術防控”之規定留下了巨大的執法空白,既不利于無人機的實時規制,也不利于保障公民或企業的財產權。一是違反飛行管理規定、擾亂公共秩序或者危及公共安全的劃分標準不一樣。違反飛行管理規定是針對行為,而擾亂公共秩序或者危及公共安全指向結果,故單純的違反飛行管理規定并不一定會擾亂公共秩序或危及公共安全。二是擾亂公共秩序與危及公共安全的社會危害存在差異。擾亂公共秩序侵犯秩序法益,但不一定危及公共安全。三是無人機防控的技術措施主要包括鎖定、迫降、擊落等,這對公民或企業財產權的影響相異。雖然無人機的飛行活動違法,但不能就此否定無人機屬于公民或企業的財產。因此,我們應當分辨違反飛行管理規定、擾亂公共秩序和危及公共安全的差異,承認行政規制便利與公民財產權保護之間的法益沖突,遵循行政比例原則,明確何種情況下可以采用鎖定、迫降和擊落等實時規制處理措施和程序,避免處理措施與違法行為的不匹配。
(三)增加人工智能向度的無人機算法規制
低空智聯背景下無人機與人工智能日益融合,人工智能引發風險的可能性愈發加大,應當增加無人機風險評估中的人工智能維度,并相應進行分級規制。
一是制定無人機智能等級表。無人機的智能化主要體現在兩個維度:無人機飛行的自主性和無人機完成指定任務的自主性。有學者從國際自動機工程師協會(SAE)發布的汽車自動駕駛六級標準獲得啟發,從自主飛行維度提出無人機的智能等級表,即自主飛行適應場景越廣且操作人員干預越少,無人機智能程度越高,反之越低。[10]就人工智能而言,自主飛行只是一項任務,與其他任務并無本質區別,故可根據無人機完成任務(包括飛行任務)的自主化程度高低進行智能分級:完全依賴操作人員完成任務的無人機的智能程度為零;操作人員借助人工智能輔助完成任務的無人機具有較低等級的智能;無人機在操作人員監視下按照事先設定的程序自動完成任務的,智能程度較高;無人機自主完成任務但需要操作人員適時干預的,智能程度有巨大提升;最高智能等級的無人機無需配備操作人員,從始至終皆自主決策并自主完成任務。
二是按照無人機智能等級進行差異化的風險評價,即智能化程度越高風險越大,反之風險越小。雖然歐盟《人工智能法》規定了非常復雜的人工智能風險規制體系,但我國不應簡單效仿。[11]根據重量等物理參數對無人機進行風險評估的做法簡單易行,這也是傳統監管分類的優勢。與此類似,高智能高風險、低智能低風險的分級規制標準簡潔明了,具有可操作性,這也是奧卡姆剃刀原理的應用。針對無人機的智能等級,采取差異化的規制措施,核心內容是等級不同的算法規制。由此,無人機的風險評價和分級規制形成了雙重體系:一方面,根據無人機的重量、飛行速度、飛行高度等性能指標進行風險評級并分級分類規制;另一方面,從人工智能維度對無人機進行不同等級的智能分級和風險評估,并配套相應等級的算法規制。
三是智能化無人機的生產者應當向監管機構完成算法備案。算法備案屬于行政備案,但不屬于行政許可。黨的十八大以來,黨中央和國務院一直大力推動“放管服”改革,即從減少行政審批、加強事中事后監管和優化服務三個維度推動政府職能轉變。如果將算法備案納入行政許可范圍,既與“放管服”改革的主張不匹配,也不利于我國無人機產業的快速發展。行政備案能夠重塑治理理念[12],突出了備案義務主體與備案機關之間的合作治理,一方面讓備案義務主體以更加平等的身份參與政府監管活動,一方面實現行政規制與自我規制的結合[13]。有觀點認為算法備案屬于告知意義的備案,不是對義務人的權利和義務產生實質性影響的行政行為。[14]告知意義的備案主要是破解信息不對稱問題,讓行政機關充分掌握備案義務主體的相關信息。但是,鑒于無人機潛在的社會公共安全風險,無人機算法備案應當成為監督意義的備案。和告知意義的備案不同,監督意義的備案的作用在于通過對備案事項進行的事后審查和監督來保障其對公益的無害,而不僅僅在于獲取行政決策或行政執法的相關資訊。[15]因此,監管機構在算法備案完成后,可以對無人機的算法進行安全評估,一旦發現存在安全隱患,可以要求備案主體采取措施消除。
四是生產者應向監管機構進行算法解釋。算法備案只是消除信息不對稱的基本方法,算法解釋是在算法備案基礎上應監管機構的要求履行的說明義務。算法解釋不宜泛化為生產者的一般性強制義務,而應規定前置條件,即監管機構在監管過程中認為對監管工作確有必要且有證明材料支持的,才能要求生產者解釋算法。這與互聯網服務領域的算法解釋要求存在差異。由于互聯網服務企業直接聯系每一個客戶,算法是客戶享受互聯網服務的中介和橋梁,客戶的合法權益極易受到侵犯,故可以要求互聯網服務企業就算法是否以及如何影響客戶的合法權益向客戶群體進行解釋。但是,無人機與社會個體普遍疏離,兩者缺乏緊密的服務連結,故生產者只是在滿足一定條件下向監管機構就物理撞擊風險和非物理撞擊風險進行算法解釋。有學者針對算法解釋提出了“模型為中心”和“用戶為中心”兩種解釋路徑,前者瞄準算法模型的內在透明性,通過解釋技術盡可能使算法可理解、可信任,后者緊密圍繞用戶的理解需求展開,不再關注算法模型的基本邏輯、參數權重及復雜度控制,給用戶親近算法、理性地信任算法創造了契機,具有“用戶為中心”的特征。[16]由于無人機通常不用于互聯網服務領域,使用的算法與社會個體之間不存在緊密的直接互動,前者對后者的權益不會產生或隱或顯且廣泛的影響,故無人機的算法解釋路徑應以“模型為中心”,其目的不是如互聯網服務企業獲取用戶的算法信任,而是獲得監管機構就無人機的物理撞擊風險和非物理撞擊風險防控中的算法信任。
五是生產者應當或監管機構可以對算法進行安全評估。算法安全評估包括算法自身安全和算法應用安全兩個維度。2024年3月1日實施的《信息安全技術 機器學習算法安全評估規范》(GB/T 42888—2023)從機器學習算法的技術安全與服務安全兩個維度規定了安全要求和評估方法,關注信息安全和數據安全,覆蓋了機器學習算法的設計開發階段、驗證確認階段、部署運行階段、維護升級階段和退役下線階段的安全評估。無人機算法的安全評估并不局限于通常的信息和數據安全。由于無人機的應用范圍隨智能化程度的提高不斷擴展,特定應用場景中的物理撞擊風險和非物理撞擊風險也是算法安全評估的重要內容,即場景化的算法安全評估成為焦點。正如維特根斯坦后期哲學中的語言游戲觀點,語言是自然植根于說話者的實際生活中的,而不是從日常生活中的使用抽象出來的。[17]算法的安全評估也是扎根于其使用場景的,而不是脫離實際使用環境抽象的評估。例如,無人機應用于物流運輸,算法安全評估必然聚焦于物流運輸場景,包括無人機在城鄉上空固定或不固定的飛行航線中的航跡規劃、協同配送、自主飛行、態勢感知、撞擊規避等物理撞擊風險評估事項,以及其在完成物流運輸任務過程中可能存在的侵犯隱私、威脅國家安全等風險評估事項。算法安全評估應當成為無人機生產者的一般性義務。監管機構根據現實需要明確算法安全內容[18],可以委托第三方或親自進行無人機算法的安全評估。凡是無法通過安全評估的,監管機構有權要求對算法進行完善。如果生產者拒絕,基于公共利益,監管機構可以對其實施行政處罰。
無人機的算法備案、算法解釋和安全評估義務應當與無人機的智能等級相匹配。智能等級越高,算法備案和解釋的項目就越多,安全評估就越嚴格;智能等級越低,算法備案和解釋的項目就越少,安全評估也可以有條件地免除。當然,這種規制是動態的,因為算法會迭代,可能導致無人機智能等級的躍升,需要根據相應智能等級的規制要求進行調整,嚴格履行義務。
(四)實現對無人機數據的動態規制
《中華人民共和國數據安全法》第21條規定:“國家建立數據分類分級保護制度,根據數據在經濟社會發展中的重要程度,以及一旦遭到篡改、破壞、泄露或者非法獲取、非法利用,對國家安全、公共利益或者個人、組織合法權益造成的危害程度,對數據實行分類分級保護。”2024年10月1日實施的《數據安全技術 數據分類分級規則》(GB/T 43697—2024)按照數據主體將數據分為公共數據、組織數據和個人信息三大類;根據數據在經濟社會發展中的重要程度,將數據從高到低分為核心數據、重要數據和一般數據三個級別。但是,相關的數據法規或付諸闕如,或語焉不詳。
當前主流的數據規制理念和措施還是一種靜態的數據規制,是將數據采集完畢后再分類分級,并規定相應的規制措施。此種靜態的數據規制對在低空智聯復雜運行系統中執行各類任務的無人機難以發揮出理想的規制作用,因為無人機在任務執行過程中是實時采集和傳送數據,無法對數據實時分類分級。因此,可行的規制路徑是提前根據無人機具體的應用范圍和場景對其可能采集的數據進行分類分級,并規定針對性的規制措施,再由操作人員在飛行過程中動態遵循,監管機構也能據此動態監控。當然,由于無人機用途多樣,執行任務過程中采集的數據五花八門,加之數據的多樣性、瞬時性、非排他性等屬性特征,靜態單一維度劃分數據類型將導致實踐中對數據類型識別困難,難以實現數據規范處理,造成立法與實踐的割裂。[19]如何根據無人機的用途和使用場景進行數據分類分級并完善相應的規制措施須仔細斟酌。另外,低空智聯帶來的數據交互客觀上要求無人機的數據規制是全網規制,故數據規制不能局限于無人機一個點,需要擴張規制范圍,覆蓋整個低空智聯網。
四、結 語
以數據互通、智能化、通感一體和多網融合為特點的低空智聯系統深化了人類與無人機的相互塑造關系,在便利人類生活和增益人類福祉的同時,無人機智能化及其運行系統數智化所引發的人類安全法益訴求愈發顯著。傳統的無人機“機—運”二維分類監管模式難以發揮理想的作用。順應人工智能科技革命的規律和要求[20],應拋棄傳統的機械體思維,不再將無人機視為單純的受制于人的機械產品,增加“智”維,構建“機—運—智”三維分類監管模式,并及時運用法治方式實現保障,從宏觀到微觀、從理念到制度進行改革,在產業發展與安全保障之間實現平衡,完成面向低空智聯的無人機分類監管及其法律規制的變革。
參考文獻:
[1]陳志杰.加強天地融合智聯,助推低空經濟騰飛[J].信息通信技術,2023(5):4-7.
[2]齊延平.數智化社會的法律調控[J].中國法學,2022(1):77-98.
[3]Gokulnath M.Pillai, et al. Privadome:Delivery Drones and Citizen Privacy[J]. Proceedings on Privacy Enhancing Technologies, 2024(2):29-48.
[4]劉艷紅.數據要素全生命周期安全風險的刑事保障制度研究——以數字經濟安全法益觀為視角[J].法學論壇,2024 (1):39-50.
[5]李大朋.論面向人工智能的無人機監管法律變革[J].政法論從,2023 (3):90-101.
[6]金婧,王亞娟,馬良,等.面向低空智聯的通感一體技術[J].信息通信技術與政策,2024 (11):54-62.
[7]李佳軒,儲節旺.數智化知識價值鏈的概念緣起、理論模型與內外動因[J].情報理論與實踐, 2024 (9):70-80,146.
[8]王竹,唐先勇.人工智能時代的《民法典》醫療數據規則體系研究[J].南通大學學報(社會科學版), 2024 (5):88-99,160.
[9]劉權.數字經濟視域下包容審慎監管的法治邏輯[J].法學研究,2022 (4):37-51.
[10]Thomas Lee,et al. Flying Free:A Research Overview of Deep Learning in Drone Navigation Autonomy[J].Drones, 2021(5):52-70.
[11]丁曉東.人工智能風險的法律規制——以歐盟《人工智能法》為例[J].法律科學,2024 (5):3-18.
[12]王歡明,劉毅.多重治理領域嵌入:人工智能技術何以善治[J].行政論壇,2024(2):124-134.
[13]王青斌,王由海.作為規制工具的行政備案:規制機理與效果優化[J].浙江學刊,2022(5):42-53.
[14]許可,劉暢.論算法備案制度[J].人工智能,2022(1):64-70.
[15]朱最新,曹延亮.行政備案的法理界說[J].法學雜志,2010(4):60-64.
[16]安晉城.算法透明層次論[J].法學研究,2023(2):52-66.
[17][英]M.麥金.維特根斯坦的《哲學研究》[M].李國山,譯.桂林:廣西師范大學出版社,2023:66.
[18]鄒開亮,劉祖兵.論類ChatGPT通用人工智能治理——基于算法安全審查視角[J].河海大學學報(哲學社會科學版),2023(6):46-59.
[19]陳兵,郭光坤.數據分類分級制度的定位與定則——以《數據安全法》為中心的展開[J].中國特色社會主義研究,2022(3):50-60.
[20]周建軍.生成式人工智能刑事法律風險發生和存在的基本原理[J].江西社會科學,2024(8):81-89.
(責任編輯 吳 楠)
本刊網址·在線雜志:www.jhlt.net.cn
*基金項目:國家社會科學基金項目“數字經濟時代大數據市場限制競爭行為法律規制研究”(20BFX149)
作者簡介:郭丁銘(1976—),湖南邵陽人,法學博士,云南師范大學法學與社會學學院副教授,主要研究方向:數字法學。