消防監(jiān)督中應(yīng)用人工智能面臨的法律風(fēng)險與對策

摘要：“人工智能+”時代，DeepSeek等生成式人工智能的推廣，各地“AI公務(wù)員”陸續(xù)上線，多地政府宣布政務(wù)平臺接入人工智能，這些探索實踐為消防監(jiān)督模式的發(fā)展創(chuàng)新提供了借鑒。人工智能的快速發(fā)展將有力提升消防監(jiān)督自動化、智能化和精確化水平。但現(xiàn)行法律體系尚未形成與之適配的規(guī)范框架。基于此，探索人工智能在消防監(jiān)督中的應(yīng)用場景，分析人工智能在消防監(jiān)督中可能面臨的法律風(fēng)險，指出人工智能在消防監(jiān)督中的權(quán)責(zé)，提出應(yīng)對策略及建議，旨在有效防范、化解、應(yīng)對法律風(fēng)險，促進消防監(jiān)督事業(yè)高質(zhì)量發(fā)展。

關(guān)鍵詞：人工智能；消防執(zhí)法；法律挑戰(zhàn)；解決對策

科技進步給人類社會帶來了深遠影響，人工智能技術(shù)的廣泛應(yīng)用正在重塑各行各業(yè)的發(fā)展格局。人工智能嵌入行政執(zhí)法是政府治理模式現(xiàn)代化發(fā)展的必然要求。在“人工智能+”建設(shè)背景下，消防監(jiān)督作為行政執(zhí)法的重要領(lǐng)域，人工智能的應(yīng)用為信息處理、監(jiān)督檢查和決策制定等關(guān)鍵環(huán)節(jié)帶來了創(chuàng)新機遇和嚴(yán)峻挑戰(zhàn)。為推動國家治理體系和治理能力現(xiàn)代化目標(biāo)的實現(xiàn)，應(yīng)當(dāng)從多個維度構(gòu)建人工智能參與消防監(jiān)督的全鏈條風(fēng)險防范應(yīng)對機制，以提升行政執(zhí)法工作效率和效能。

1 人工智能在消防監(jiān)督中的可應(yīng)用場景

1.1" 信息處理自動化

信息處理行為是所有實體性行政行為的前提與基礎(chǔ)。從行政過程的角度來看，行政機關(guān)的信息處理行為可進一步細分為信息收集（采集）行為、信息管理行為、信息利用（使用）行為與信息公開行為4種[1]。當(dāng)前的信息處理方式存在一些短板。一方面，信息處理過程耗時耗力，行政機關(guān)需投入大量的人力物力進行審查核對；另一方面，受客觀條件限制，行政機關(guān)全面、及時獲取消防監(jiān)督所需信息的能力有待提高。相比之下，人工智能在信息處理行為上具有顯著優(yōu)勢。在信息收集（采集）行為上，人工智能能夠以遠超人類的速度分析和處理大量數(shù)據(jù)，從中提取有價值的信息。在信息管理行為上，對于采集的證據(jù)資料，人工智能可根據(jù)違法類型、情節(jié)程度、免責(zé)事項等標(biāo)準(zhǔn)進行歸納整理，構(gòu)建大數(shù)據(jù)庫，為精準(zhǔn)、高效地實施消防監(jiān)督提供有力支持。

1.2" 監(jiān)督檢查智能化

在大數(shù)據(jù)時代，政務(wù)信息服務(wù)平臺一體化為人工智能的應(yīng)用與發(fā)展提供了豐富的數(shù)據(jù)資源。借助機器學(xué)習(xí)和深度學(xué)習(xí)算法，匯總分析各類與消防監(jiān)督相關(guān)的信息，如演練檔案記錄、消防制度制定情況等，人工智能能夠自動學(xué)習(xí)和識別風(fēng)險特征，對各類監(jiān)管對象開展風(fēng)險評估，并實行分級預(yù)警。例如，對于消防設(shè)施老化嚴(yán)重、消防制度不健全、用火用電頻繁的區(qū)域或主體，及時發(fā)出高風(fēng)險預(yù)警，提醒行業(yè)監(jiān)管部門予以重點關(guān)注。

1.3" 執(zhí)法決策精準(zhǔn)化

執(zhí)法決策精準(zhǔn)化要求認定事實精準(zhǔn)、定位性質(zhì)精準(zhǔn)、適用法律精準(zhǔn)。《國務(wù)院辦公廳關(guān)于全面推行行政執(zhí)法公示制度執(zhí)法全過程記錄制度重大執(zhí)法決定法制審核制度的指導(dǎo)意見》（國辦發(fā)〔2018〕118號）提出，要積極推進人工智能技術(shù)在行政執(zhí)法實踐中的運用。人工智能憑借高效的數(shù)據(jù)處理能力，能夠顯著減少消防監(jiān)督執(zhí)法中人工判斷的主觀偏差，精準(zhǔn)鎖定違法行為的事實、性質(zhì)、情節(jié)、危害程度和判定依據(jù)，為實現(xiàn)消防監(jiān)督執(zhí)法決策的高效與精確創(chuàng)造了可能。

2 人工智能在消防監(jiān)督中面臨的法律風(fēng)險

2.1" 缺乏法律依據(jù)

現(xiàn)行的《中華人民共和國行政處罰法》《中華人民共和國行政復(fù)議法》《中華人民共和國行政訴訟法》等行政法律體系，在算法決策的效力認定、人工智能應(yīng)用標(biāo)準(zhǔn)等方面有待進一步完善。消防監(jiān)督法律法規(guī)在適配人工智能應(yīng)用時，往往存在制度斷層。人工智能在判斷違法行為、收集證據(jù)、生成文書等消防監(jiān)督執(zhí)法行為的合法合規(guī)性上普遍面臨法律依據(jù)不足的困境，這就導(dǎo)致人工智能技術(shù)應(yīng)用與當(dāng)前立法覆蓋廣度之間形成難以調(diào)和的結(jié)構(gòu)性矛盾，阻礙了人工智能在消防監(jiān)督領(lǐng)域的應(yīng)用和發(fā)展。

2.2" 責(zé)任主體難界定

人工智能決策參與消防監(jiān)督的過程，既涉及調(diào)查取證、審查復(fù)核等多個環(huán)節(jié)，也涵蓋算法設(shè)計者、數(shù)據(jù)提供方、系統(tǒng)使用人員等多個主體。一旦出現(xiàn)錯誤或失誤，責(zé)任歸屬的認定將變得異常復(fù)雜。因此，在執(zhí)法實踐中，確定對應(yīng)責(zé)任主體存在較大難度。當(dāng)人工智能提供的行政決定處理意見出現(xiàn)大范圍偏差或重大錯誤而導(dǎo)致行政相對人遭受不公平對待時，由哪方主體承擔(dān)相應(yīng)法律責(zé)任在現(xiàn)行法律體系中尚無明確規(guī)定。

2.3" 數(shù)據(jù)安全存在隱患

人工智能技術(shù)應(yīng)用于消防監(jiān)督的數(shù)據(jù)采集環(huán)節(jié)，需要收集、分析和處理大量的信息數(shù)據(jù)，信息數(shù)據(jù)中可能涉及國家秘密、商業(yè)秘密和個人隱私等敏感信息。如果保護措施不到位，可能會導(dǎo)致泄密事件，給經(jīng)營主體和個人造成名譽損害、經(jīng)濟損失或合規(guī)風(fēng)險，涉嫌違反《中華人民共和國保守國家秘密法》《中華人民共和國個人信息保護法》，情節(jié)嚴(yán)重的甚至?xí)|犯《中華人民共和國刑法》。此外，當(dāng)惡意攻擊者侵入人工智能系統(tǒng)，非法篡改或竊取重要數(shù)據(jù)時，也會引發(fā)不容忽視的數(shù)據(jù)安全問題，這可能涉嫌違反《中華人民共和國網(wǎng)絡(luò)安全法》[2]。

2.4" 算法的法律屬性不確定

算法是人工智能的靈魂，人工智能的決策機制依賴較為復(fù)雜的算法模型，行政相對人可能難以理解人工智能作出決策的判斷過程和法律依據(jù)，極易引發(fā)爭議沖突和矛盾糾紛。此時，行政機關(guān)可能無法提供符合行政法理論體系的可理解性解釋，導(dǎo)致《中華人民共和國行政處罰法》第四十一條規(guī)定的告知義務(wù)難以履行，造成消防監(jiān)督執(zhí)法工作舉步維艱、陷入困境，顯著增加行政復(fù)議或行政訴訟風(fēng)險。

3 人工智能在消防監(jiān)督中的權(quán)責(zé)

3.1" 主體資格爭議

我國法律框架下人工智能的法律地位呈現(xiàn)“工具性主體”悖論，主要表現(xiàn)在法律人格擬制與行政監(jiān)管效能的沖突。對于人工智能的法律地位，按照將人工智能視為主體或客體，法學(xué)界存在兩種不同觀點。主體論學(xué)說認為，人工智能適用《中華人民共和國行政處罰法》第十七條至第二十一條的“行政行為主體”要件，應(yīng)通過法律擬制賦予人工智能一定的主體資格，例如，智能機器人“阿爾法狗”打敗世界圍棋冠軍以及機器人“索菲亞”在沙特獲得公民資格。客體論學(xué)說認為，人工智能應(yīng)當(dāng)作為法律關(guān)系中的法律客體和工具存在。人工智能的使用是研發(fā)者、制造者和使用者的法律行為，是主體行為借助的工具。2017年，微軟智能機器人“小冰”的原創(chuàng)詩集《陽光失了玻璃窗》正式出版，但由于微軟“小冰”不具備主體資格，因此無法獲得著作權(quán)的主體資格，其著作權(quán)只能由“小冰”發(fā)明者來享有。

3.2" 權(quán)力屬性類型

隨著人工智能技術(shù)不斷迭代進步，在消防監(jiān)督領(lǐng)域，一個令人深思的問題是：人工智能是否享有行政權(quán)？有學(xué)者認為，人工智能算法權(quán)力泛化使得自動化行政逐漸呈現(xiàn)出預(yù)先設(shè)定的算法程序取代法律規(guī)定的趨勢，從而導(dǎo)致依法行政原則日漸式微，相對人陳述、申辯權(quán)等程序性權(quán)利被懸置[3]。應(yīng)用人工智能開展消防監(jiān)督執(zhí)法，意味著將行政權(quán)交予人工智能，此舉存在顛覆傳統(tǒng)行政權(quán)屬性的潛在可能。在執(zhí)法實踐中，部分執(zhí)法機關(guān)將裁量基準(zhǔn)轉(zhuǎn)化為算法規(guī)則，通過人工智能確保裁量標(biāo)準(zhǔn)統(tǒng)一，變相地賦予人工智能以行政執(zhí)法權(quán)。例如，人工智能在交通事故的責(zé)任認定中可依據(jù)歷史案例庫和裁量基準(zhǔn)快速匹配處罰幅度，從而高效作出行政處罰決定。

3.3" 責(zé)任梯度認定

國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》將明確人工智能法律主體以及相關(guān)權(quán)利、義務(wù)和責(zé)任列入未來發(fā)展的一項重點任務(wù)。筆者認為，人工智能不具有自然人的認知和心智水平，其應(yīng)用于消防監(jiān)督領(lǐng)域是基于預(yù)先設(shè)計的程序和已有數(shù)據(jù)庫進行計算；也未擁有獨立的財產(chǎn)，只是被使用的執(zhí)法工具，因此不應(yīng)當(dāng)由人工智能承擔(dān)消防監(jiān)督執(zhí)法責(zé)任。況且，行政執(zhí)法是對行政權(quán)的行使，其直接責(zé)任主體應(yīng)當(dāng)是行政機關(guān)。當(dāng)然，這并不意味著由行政機關(guān)承擔(dān)所有責(zé)任。基于行政委托理論和行政追償責(zé)任制度，在行政機關(guān)對行政相對人承擔(dān)賠償責(zé)任后，根據(jù)致?lián)p因素來源，應(yīng)當(dāng)依法責(zé)令人工智能設(shè)計者、有故意或重大過失的消防監(jiān)督執(zhí)法人員承擔(dān)部分或全部賠償費用。

4 應(yīng)對策略及建議

4.1" 加強人工智能立法保障

人工智能技術(shù)的快速發(fā)展帶來了一系列法律、倫理和社會問題，如數(shù)據(jù)隱私保護、算法偏見、責(zé)任歸屬等。在未來人工智能可能廣泛融入消防監(jiān)督的背景下，強化行政法體系下人工智能相關(guān)條款的立法保障成為防范火災(zāi)風(fēng)險、提升安全治理效能的關(guān)鍵路徑。對此，可以采取如下措施：首先，要加強立法保障，在《中華人民共和國消防法》等法律法規(guī)中增設(shè)人工智能技術(shù)應(yīng)用專章，構(gòu)建適配性法律框架。其次，要完善監(jiān)管體系，針對人工智能在消防監(jiān)督領(lǐng)域的應(yīng)用場景建立差異化監(jiān)管機制，加強對高低大化等重要場所應(yīng)用人工智能開展消防監(jiān)督前的安全風(fēng)險評估，提高人工智能消防監(jiān)管能力。最后，要明確消防部門、人工智能研發(fā)者、使用單位等相關(guān)主體的法定權(quán)利、義務(wù)，確立行為的合法邊界及法律責(zé)任，防止人工智能失控漏管。

4.2" 堅持以人為本的角色定位

人工智能不具備人類積累社會經(jīng)驗、感知證據(jù)、理解案件事實的能力。在消防監(jiān)督中確定人工智能的角色定位應(yīng)堅持“以人為本”的根本理念。當(dāng)人工智能還處于較低發(fā)展水平的階段，需要消防監(jiān)督執(zhí)法人員全程發(fā)揮主導(dǎo)作用，對人工智能應(yīng)用于消防監(jiān)督的各個環(huán)節(jié)進行全面把控，以此確定執(zhí)法類型、方式和程度。例如，在案件事實清楚、證據(jù)充分、爭議較小的簡單的消防監(jiān)督執(zhí)法案件中，可讓人工智能自主決策生成執(zhí)法結(jié)論；而在事實認定復(fù)雜、法律適用疑難或涉及多方利益關(guān)系的消防監(jiān)督執(zhí)法案件中，執(zhí)法人員必須提前介入，嚴(yán)禁完全放任人工智能自主執(zhí)法。

4.3" 彌補技術(shù)安全漏洞

人工智能在應(yīng)用于消防監(jiān)督后可能難以從外部及時發(fā)現(xiàn)潛在的技術(shù)安全漏洞，也缺乏有效渠道進行糾正。消防部門作為主要應(yīng)用者，需加強內(nèi)部網(wǎng)絡(luò)的信息安全建設(shè)，構(gòu)筑更加牢固的防火墻，完善網(wǎng)絡(luò)安全監(jiān)測系統(tǒng)，確保消防監(jiān)督信息的保密性、完整性和可用性。數(shù)據(jù)采集者要高度重視消防監(jiān)督數(shù)據(jù)的安全性，規(guī)范數(shù)據(jù)的收集與儲存方式，加強數(shù)據(jù)庫的安全建設(shè)，從源頭上降低數(shù)據(jù)安全風(fēng)險，保障數(shù)據(jù)的安全可靠。開發(fā)者要加強對人工智能消防監(jiān)督系統(tǒng)的安全檢測和風(fēng)險預(yù)警工作，通過持續(xù)的技術(shù)創(chuàng)新和算法修復(fù)，最大程度地彌補人工智能存在的安全漏洞，保障人工智能系統(tǒng)的穩(wěn)定運行，防止因技術(shù)漏洞引發(fā)的執(zhí)法錯誤和信息泄露等問題。

4.4" 加強消防監(jiān)督數(shù)據(jù)質(zhì)量把關(guān)

人工智能算法訓(xùn)練依賴歷史數(shù)據(jù)，而歷史數(shù)據(jù)常常蘊含歧視性偏見，這導(dǎo)致人工智能面對消防監(jiān)督對象時在性別、種族、年齡等維度上可能產(chǎn)生不公正決策，弱勢群體更易成為監(jiān)控和錯誤風(fēng)險評估對象，挑戰(zhàn)了平等權(quán)和非歧視原則。對此，應(yīng)加強消防監(jiān)督基礎(chǔ)信息平臺建設(shè)，利用人工智能強大的數(shù)據(jù)處理能力，收集特定消防監(jiān)督領(lǐng)域的數(shù)據(jù)信息，以增強數(shù)據(jù)資源的代表性，擴大覆蓋范圍。針對數(shù)據(jù)本身可能隱匿的社會偏見，可采用算法監(jiān)測的技術(shù)治理手段，通過對數(shù)據(jù)和算法的監(jiān)測和分析，及時發(fā)現(xiàn)和糾正潛在偏見，確保消防監(jiān)督執(zhí)法決策的公正性、客觀性和準(zhǔn)確性[4]。

5 結(jié)束語

人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，新一代人工智能的快速發(fā)展與應(yīng)用，為消防監(jiān)督事業(yè)帶來前所未有的變革和發(fā)展機遇。基于此，要大力推動人工智能立法保障，全面加強人工智能學(xué)科教育，提高對人工智能技術(shù)的認知與應(yīng)用能力，強化風(fēng)險防范，力求實現(xiàn)科技發(fā)展與法治建設(shè)的相互契合，以及消防監(jiān)督和技術(shù)進步的和諧統(tǒng)一。

參考文獻

[1]黃宇驍.行政機關(guān)信息管理行為的司法規(guī)制[J].行政法學(xué)研究，2024（3）：69-82.

[2]劉紀(jì)鋮.人工智能大模型引發(fā)的數(shù)據(jù)安全治理挑戰(zhàn)及其應(yīng)對策略研究[J].保密科學(xué)技術(shù)，2024（1）：12-16.

[3]羅世杰，賀國榮.生成式AI階段金融科技數(shù)據(jù)合規(guī)的法律化因應(yīng)[J].金融發(fā)展研究，2023（11）：82-90.

[4]邢超，趙凱.人工智能參與行政執(zhí)法的風(fēng)險與法律規(guī)制[J].法制博覽，2022（18）：25-27.