生成式人工智能在刑事偵查中的應用價值、風險及規制

魏健宇

(華東政法大學 刑事法學院,上海 200050)

一、問題的提出

生成式人工智能作為計算機科學及算法領域的新技術,一經面世便引發了學界和各國政府的高度重視。2022年11月30日,由美國人工智能開發團隊Open AI研發的生成式人工智能ChatGPT(Chat Generative Pre-Trained Transformer) 向社會大眾公布,ChatGPT作為一款通過大模型參數預訓練的人工智能聊天機器人,能夠同訪問者進行擬人化信息交互,并根據訪問者發出的指令生成相應內容,目前ChatGPT最新版本已發展至GPT-4版本。ChatGPT的成功不僅證明了人工智能成為通用目的技術的潛在力量,也成為人類有史以來在通用目的技術領域影響范圍、變革程度最大的通用目的技術[1],身處重大技術變革時代,我們必須重視生成式人工智能發展帶來的機遇與挑戰。

我國已進一步加快推動生成式人工智能領域的專項立法,2023年4月11日,國家互聯網信息辦公室發布關于《生成式人工智能服務管理辦法(征求意見稿)》的通知,作為生成式人工智能專項立法的精準手術刀,征求意見稿第2條規定,生成式人工智能是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術?？梢娢覈壳摆呄蛴趯⑸墒饺斯ぶ悄茏鳛橐环N技術來進行規制。作為一種通用目的技術,生成式人工智能可以為人類社會的發展進步提供強有力的支持,已經有學者從建設“數字政府”的角度提出了開發應用“GovGPT”提供智能政務服務的構想。[2]筆者認為當今社會已進入數字化時代,若將ChatGPT類生成式人工智能應用于司法領域,尤其是應用于刑事偵查,可有效助推中國式法治現代化的實現,在實現犯罪治理的同時,將節約大量司法資源并緩解一線司法工作者的辦案壓力,助推法治中國建設。

司法實踐中使用生成式人工智能并非天方夜譚,2023年在哥倫比亞就有法官使用ChatGPT輔助其作出判決。[3]將生成式人工智能應用于刑事偵查主要涉及偵查啟動程序、偵查程序的運行和偵查程序的終結。例如,在偵查啟動程序方面,將經過預訓練的生成式人工智能大模型接入司法系統,可通過預先設計的算法依靠大數據計算分析已經發生,但尚未被立案偵查的刑事案件,在處理突發的編造謠言引發網絡輿情的事件中,可以利用生成式人工智能技術快速反應并生成相關事件的時間軸、輿情內容、影響范圍等相關信息,根據生成結果為司法機關提供是否立案、偵查方向等行動導向。雖然具有豐富的應用價值,但生成式人工智能應用于司法領域還存在一定問題,在生成式人工智能與司法實踐結合的研究領域中,有學者指出在使用生成式人工智能進行類案處理的過程中,面臨的主要難題是如何使用生成式人工智能建立司法類案裁判的內在機理,以及如何實現算法與類案處理的有機結合。[4]

前述問題看似只關乎技術層面的開發問題,但實際從本質上反應了生成式人工智能算法作為一種技術與法律規制的矛盾所在。司法實踐中,任何社會現實在法律適用中都需要被理解和被解釋,這是由語言學規律所決定的,法律的適用離不開解釋,想要精準把握和嚴格遵守法律規范的價值就必須對法律進行解釋。[5]生成式人工智能運用于司法實踐必然會面臨法律適用的判斷問題,受其預訓練參數模型的影響會產生不同的結論,即使具備擬人化的表達能力,但其仍難以精準把握社會現實的動態變化,無法替代人在司法裁決中的價值判斷作用,因此若過度依賴生成式人工智能來完成司法工作,則會因缺失價值判斷而造成法律適用錯誤,甚至產生冤假錯案的悲劇。

基于前述問題,為了避免生成式人工智能在刑事偵查程序中化身“投幣售貨機”式的簡單工具或直接成為替代司法工作人員的“AI法官”,有必要將ChatGPT類生成式人工智能的運行規律、技術特性與刑事偵查規則的適用標準、價值判斷進行有機結合,以應對潛在風險。本文立足于生成式人工智能在刑事偵查中的輔助性角色,從數字化司法實踐的發展角度出發,探究該技術應用的潛在風險并提出相應的規制對策。

二、生成式人工智能在刑事偵查中的應用價值

生成式人工智能的發展為人類社會的發展注入了更為強勁的能量,生成式人工智能作為通用目的技術能夠在社會的各個領域中發揮強大作用。生成式人工智能正如百年前的工業革命中出現的蒸汽機一般變革著我們的生活,而ChatGPT作為生成式人工智能最新產物中的先進代表,作為一種預訓練的大型生成式人工智能語言模型很有可能成為撬動第四次工業革命的杠桿。[6]

(一)推動法治現代化的重要力量

黨的二十大報告指出,“以中國式現代化推進中華民族偉大復興”[7]。在中國式現代化的發展征途中法治成為實現中國式現代化的關鍵力量,實現法治現代化成為實現中國式現代化的題中應有之義。[8]法治現代化的發展離不開新時代新技術的應用,習近平總書記強調:“當今時代,數字技術、數字經濟是世界科技革命和產業變革的先機,是新一輪國際競爭重點領域,我們一定要抓住先機、搶占未來發展制高點?！盵9]作為數字技術中的先進代表——生成式人工智能已經向我們展現了它強大的功能和應用于社會各領域的巨大潛力,數字化時代司法機關依法履行職能離不開數字化技術的輔助。

生成式人工智能可有效提升法治建設工作的效能,進入數字化時代,我國司法機關借助數字化技術在法治領域已經取得一定成果。例如,在打擊電信詐騙犯罪的專項行動中,司法機關借助大數據技術對異常交易進行監控,通過一系列數字化技術挽回了被害人的巨大損失。生成式人工智能技術的出現成為我國司法機關進一步提升數字化司法水平,提高工作效能的關鍵力量,生成式人工智能若能應用于司法實踐,可以在程序文書撰寫、司法程序監督、刑事預警和犯罪預測等方面發揮巨大作用,為建設法治中國和實現法治現代化,推動實現中國式現代化貢獻力量。

(二)彌補數字化時代背景下傳統刑事偵查的不足

刑事偵查作為刑事訴訟程序中的重要環節,在打擊犯罪維護社會穩定方面發揮了重要作用,通過偵查程序發現、查明犯罪事實、收集犯罪證據,達到事實清楚、證據確實充分的標準,可以將其移送人民檢察院審查起訴進而追訴犯罪行為。數字技術與犯罪手段結合之后改變了傳統的犯罪模式、邏輯和手段,對偵查機關打擊犯罪行為提出了更大的挑戰[10],為了應對犯罪形勢變化,偵查機關必須作出相應調整,而生成式人工智能的出現有利于偵查機關補齊傳統刑事偵查在數字化時代下的短板。

1.傳統偵查程序的啟動過于被動

立案作為刑事偵查的啟動程序,除監察機關管轄和刑事自訴以外的普通刑事案件只有經過刑事立案才能進入刑事訴訟程序,從而實現追訴和打擊犯罪的目的。實踐中偵查機關處理的刑事案件主要來源于被害人、證人等知情人員的控告和舉報,這既有受司法經濟成本方面的限制,也有偵查技術方面的原因。

張全濤提出,由于近年來數字技術不斷發展,大數據和人工智能都取得了長足進步,世界各國刑事偵查都開始利用新型數字技術開展犯罪預測、熱點犯罪案件預警等預測性警務措施,進入風險社會后,我國公安機關利用大數據對犯罪行為進行預測、布控,已經成為推進國家治理能力和治理體系現代化的標志。[11]因此,在偵查機關逐步由被動接受信息轉變為主動對犯罪行為進行預測、感知、布控的主動偵查模式背景下,生成式人工智能成為進一步推動偵查機關發揮主動偵查、積極發現和打擊犯罪的輔助工具。

ChatGPT作為大型預訓練語言模型可以理解和學習人類的語言表達與行為模式,此類型的生成式人工智能若與偵查機關的視頻監控系統和網絡監控系統連接,可通過對所獲取信息與預訓練中學習的犯罪模式進行分析比對,充分發揮大數據處理、運算優勢,及時預測和監控犯罪行為的發生。例如,當生成式人工智能系統在網絡監控系統中發現了異常流動資金和毒品犯罪相關信息后,可以對相關信息源頭進行自動追蹤并向偵查機關生成相應調查報告,為偵查機關及時發現、查清犯罪事實、收集犯罪證據提供幫助。改變傳統的被動偵查模式,數字化時代推行“積極主動偵查模式”既與學界主張的“積極法律監督觀”[12]相銜接對應,又有利于完善我國犯罪治理體系,保障人民安居樂業。

2.傳統偵查技術不足以應對數字化犯罪

隨著數字社會的發展,各類數字技術給我們的生活帶來了翻天覆地的變化,隨之而來的也有犯罪手段、犯罪類型的變化發展,近年來電信詐騙犯罪、網絡虛擬財產犯罪、數據犯罪等新型犯罪層出不窮,嚴重破壞了社會主義市場經濟秩序,侵害人民群眾合法利益,面對數字時代的新型犯罪,傳統偵查技術必須作出相應革新。傳統的偵查模式,偵查行為主要圍繞犯罪的物理空間展開,以犯罪現場為偵查核心,但將數字技術引入偵查后,偵查機關可借助數字技術提升偵查工作效率。[13]

生成式人工智能不同于過去弱人工智能和普通計算機程序,例如ChatGPT就采用了基于人類反饋的強化學習方法(RLHF)[14],偵查機關可通過將生成式人工智能系統接入各類監管平臺,利用生成式人工智能預訓練中學習的犯罪模式對各類監管對象的異常行為進行分析,并生成相應的犯罪預測報告供偵查機關參考。除數據檢測、犯罪預測等功能,生成式人工智能還擁有擬人化的連續對話能力,若能夠將其應用于偵查訊問程序,該項技術可成為偵查人員提高訊問效率的關鍵技術。傳統偵查行為中,偵查訊問一般由具有訊問經驗的兩名偵查人員負責,但由于犯罪嫌疑人心理素質、個人背景、反偵查能力等因素都會妨礙偵查訊問的順利進行,因此對偵查人員的心理學、刑偵學等專門知識提出較高要求,從事訊問工作必須具備較高的訊問水平,但實踐中經驗豐富的訊問人員有限,若將生成式人工智能技術應用于偵查訊問,可使其結合偵查人員與犯罪嫌疑人的訊問內容及犯罪嫌疑人的背景資料及時分析訊問成果并引導偵查人員展開訊問。

(三)推進數字司法建設的契機

我國自2021年進入數字法治發展階段,數字法治經歷了技術應用、智能輔助和重塑再造不斷升級進步的過程。我國司法機關在建設數字司法領域積極探索,在智慧警務、智慧檢察、智慧司法等戰略目標下,實現了“智能化”“網絡化”“陽光化”的司法執法新樣態。進入數字化時代后,學界也圍繞數字法學及數字法治問題開展了深入研討,致力于在數字化時代的浪潮中推動我國數字司法不斷前進。[15]2023年以ChatGPT為代表的生成式人工智能進入大眾視野,在人工智能愈發成熟的今天,生成式人工智能已經成為司法實踐領域不可忽視的一股重要力量。

刑事偵查是刑事訴訟程序的重要階段,為案件的起訴、審判奠定了重要基礎,刑事偵查的結果在一定程度上影響到刑事案件的最終走向,在不斷強調數字司法理念的現代社會,刑事偵查也應與數字技術實現融合發展。刑事偵查與生成式人工智能的融合將會是我國在數字司法領域的一大進步,在數字時代面對大數據犯罪、網絡虛擬犯罪等新型犯罪治理問題,發展數字司法,借助數字技術是必然趨勢,生成式人工智能應用于刑事偵查,能夠推動刑事司法人工智能實踐的發展,為促進數字司法發展進而實現數字法治的總體建設目標添磚加瓦。

三、生成式人工智能應用于刑事偵查的風險

埃隆·馬斯克曾在公開場合表示,為了防止人工智能的發展給人類社會帶來不確定的風險,應當暫停比GPT-4更為先進的人工智能技術研發。技術可以造福人類亦可能傷害人類,我們要認識到生成式人工智能應用于司法實踐的利,也應當認識到可能面臨的弊。筆者認為這類技術應用于刑事偵查可能存在的風險包括三類:一是不當使用可能對國家安全構成潛在威脅;二是生成內容質量、真實度影響偵查機關工作效能;三是生成式人工智能可能導致偵查權過度擴張。

(一)構成國家安全的潛在威脅

數字化時代,各種先進技術的應用改變了文化傳統的傳播方式和形態,使得網絡空間和數字領域成為意識形態斗爭的重點領域,網絡文化安全作為一種非傳統國家安全已經成為我們面臨的主要威脅之一。[16]生成式人工智能作為一項技術是中立的,但受開發人員算法設計的影響可能會出現負面反饋。如果算法設計人員在開發生成式人工智能軟件時故意違反法律規范和社會道德,沒有受到應有約束,這類算法技術會對人類社會造成難以估量的破壞,威脅國家安全。[17]

ChatGPT作為一款由美國人工智能實驗室Open AI開發的生成式人工智能技術,在開發時不免受到西方社會的文化、價值觀甚至意識形態的影響。根據研究顯示,ChatGPT可以根據用戶的反饋和意愿不斷修正自己的答案,在使用不同語言提出統一問題時,ChatGPT的回答內容也會不同,實際使用中ChatGPT存在明顯偏見,可能會在潛移默化中影響用戶,在意識形態層面不斷滲透甚至威脅國家安全。[18]司法權的行使若受到生成式人工智能底層代碼邏輯的不良影響會嚴重損害我國的司法權威甚至威脅國家安全。

目前,微軟公司已經同Open AI開展合作,將ChatGPT移植于必應搜索引擎,若我國偵查機關應用生成式人工智能,絕不可簡單地將ChatGPT這類生成式人工智能簡單移植,應當嚴把算法邏輯關和意識形態觀,既要開發一個適用于刑事偵查的生成式人工智能技術,也要使其與社會主義核心價值觀相匹配。

(二)生成內容存在質量風險

目前,以ChatGPT為代表的生成式人工智能還處于發展階段,許多技術還不成熟,可能在生成內容的質量和真實性方面存在瑕疵。受預訓練模型、自身生成邏輯影響,ChatGPT是一個數學上的概率預測模型,這種概率預測加上隨機擇優,構成了ChatGPT類生成式人工智能的內容生成邏輯,這就是根據提問的請求、投喂的數據和統計計算得出回應(某種結果)的內容。[19]但是,由于ChatGPT在預訓練的學習階段難以辨別參數模型中數據的真實性,投入使用后會產出無意義內容和不真實內容,即出現人工智能幻覺。[20]

由于生成式人工智能在輸出內容方面存在信息來源不明的缺陷,偵查人員難以根據生成內容的信息來源對生成內容的真實性、可靠性進行檢驗。若人工智能系統依據網絡中的虛假信息生成了錯誤內容會嚴重影響司法工作的開展,面對實踐領域存在的“人工智能幻覺”問題,我們必須正視目前生成式人工智能在生成內容質量上還存在不足。生成式人工智能應用于刑事偵查領域,可能會受到網絡上虛假信息和錯誤信息的影響,進而生成錯誤的犯罪預測報告等偵查信息,若偵查機關依據生成式人工智能提供的虛假內容開展偵查活動會嚴重影響偵查效率,甚至會造成貽誤戰機導致犯罪嫌疑人逃跑、證據滅失等嚴重后果。刑事偵查是刑事訴訟程序順利進行的關鍵環節,偵查的結果直接影響到刑事案件的走向,每一樁案件的辦理都關乎司法公正的實現和國家機關的司法公信力,在新技術發展、普及的過程中必須嚴把風險關,維護刑事司法權威和公平正義。

(三)生成式人工智能應用的法理問題

刑事偵查是一場公權力和私權利的博弈,作為行使公權力的司法機關,偵查機關在偵查過程中必須嚴格遵守“法無授權不可為”的基本原則,但是生成式人工智能在提升偵查效能的同時也帶來了偵查權擴張的問題。生成式人工智能的法理問題主要包括兩方面:一是法律規范缺位帶來的正當性缺失問題;二是偵查權隱形擴張直接侵犯公民權利的問題。

1.法律規范缺位帶來的正當性缺失

法律一經制定便落后于社會現實,社會的高速發展使得法律在制定之初就依據類型性理論對可能發生的情形進行規制,但人工智能的高速發展顯然已經超出了立法者的預測,《刑事訴訟法》目前還缺少對于生成式人工智能在刑事訴訟程序中應用的規定。在當前對人工智能技術應用于刑事司法領域缺少相應法律規制的背景下,無論是偵查機關的主動選擇還是生成式人工智能的客觀影響,進一步突顯了法律規制的不足,并進一步加劇了偵查權擴張導致侵犯公民權利的法律風險。[21]

2.偵查權隱形擴張侵犯公民權利

生成式人工智能在信息收集和數據處理兩方面都可能發生侵犯公民權利的情形。在信息收集方面,生成式人工智能如果應用于刑事偵查領域,為了使工作成果滿足時效性的要求,必須將生成式人工智能接入實時互聯網數據庫。生成式人工智能擁有大算力能夠收集和處理互聯網數據庫中的海量信息,但即使是互聯網中公開的公民信息也有可能涉嫌侵犯公民個人隱私,例如個別用戶在社交平臺發布的違規信息,非法“人肉”信息等都有可能被人工智能軟件收集并處理,而這類信息都涉及公民權利的保護問題。

數據處理方面,由于生成式人工智能存在“黑箱效應”,即偵查人員無法知曉生成式人工智能輔助實施偵查行為的運作機制,難以保障公民的知情權。實踐中,美國威斯康星州一法院在使用人工智能輔助量刑時受到了被告人的質疑,被告人認為由于該技術算法未向其公開所以侵犯了他的公民權利。[22]生成式人工智能目前也存在著類似問題,即無法向使用者展示其生成內容的理由和過程。顯然,生成式人工智能的“黑箱效應”使得偵查在一定程度上秘密進行,并且也無法對生成式人工智能生成的內容進行解釋,一方面秘密進行的生成過程侵犯了公民的知情權,另一方面由于無法展示運作過程,當進入審判程序后,被告人也無法對生成式人工智能輔助收集的證據進行質證,既侵犯了被告人的訴訟權利,也產生了證據資格問題。

四、生成式人工智能應用于刑事偵查的風險規制

生成式人工智能的進步與發展對于刑事偵查而言既是機遇又是挑戰。一方面生成式人工智能應用于刑事偵查可以提高偵查效能,克服傳統偵查模式的被動性,積極主動打擊犯罪,維護社會公平正義;另一方面生成式人工智能由于尚未發展成熟,技術方面還存在一定的不足,同時法律規制的缺位也埋下了偵查權過度擴張侵犯公民權利的隱患。未來,隨著生成式人工智能的進一步發展和數字司法理念的成熟,生成式人工智能一定會在司法工作中扮演關鍵角色。面對現存的風險和挑戰,我們既不能因噎廢食也不能盲目發展,必須堅持取其精華、去其糟粕的原則,深入研究規避風險和不利影響的措施,以推動生成式人工智能在刑事偵查乃至刑事司法領域的廣泛適用,促進實現中國法治現代化。

(一)審查層面:實施技術與政治雙重審查機制

生成式人工智能應用于實踐必須經過技術與政治的雙重審查。一方面從技術層面對生成式人工智能本身的可靠性和應用價值進行分析審查;另一方面從政治層面對生成式人工智能所包含的意識形態、道德觀、價值觀和文化內容進行審查。

1.技術審查

據相關研究表明,ChatGPT基于Transformer算法架構的基礎進行研發,克服了循環神經網絡(RNN)、卷積神經網絡(CNN)等NLP模型的局限性,從而具備超大參數處理和創建高效且可拓展語言模型的能力。[23]雖然生成式人工智能在數據處理和算法方面取得了長足進步,但是在實際運行中還存在一定問題,以ChatGPT為例,在內容輸出方面生成式人工智能還是會出現“一本正經的胡說”或輸出低質量內容的現象。目前,在生成式人工智能開發領域,ChatGPT引起了一股熱潮,2023年3月16日,我國百度公司開發的“文心一言”開放用戶測試,4月18日,金山辦公發布了名為“WPS AI”的生成式人工智能應用,生成式人工智能出現了百家爭鳴的局面,但由于生成式人工智能還處于發展階段,各方技術水平參差不齊,因此對于投入刑事偵查領域的生成式人工智能必須進行相應的技術審查,嚴把技術質量關,由專業人員分別從算法邏輯、預訓練參數模型、數據處理能力等方面對擬應用的生成式人工智能進行審查,避免將技術尚未成熟的生成式人工智能引入刑事司法系統。

2.政治審查

根據國家網信辦發布的《生成式人工智能服務管理辦法(征求意見稿)》的要求,生成式人工智能生成的內容應當體現社會主義核心價值觀,不得含有危害國家安全、破壞民族團結、仇恨、歧視、暴力等負面內容,并且要求算法設計、訓練參數模型選擇等內容都不得出現前述負面內容。該辦法還規定生成式人工智能技術產品向公眾提供服務前,應按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估。

前述規范內容都對生成式人工智能在價值觀選擇方面作出了規定,但是在刑事偵查中領域適用的生成式人工智能不同于向社會大眾提供的產品,在國家司法機關層面必須嚴把意識形態關,在普通審查的基礎上組織專門機構和專業人員對生成式人工智能的保密性、政治性內容進行審查和實時監督,優先使用自主開發的生成式人工智能系統,必須嚴防通過生成式人工智能系統實施意識形態滲透工作,避免我國司法權話語體系受到西方價值觀體系和資本主義意識形態的入侵。

(二)理論層面:制定生成式人工智能應用于刑事偵查的特殊規范

人工智能給現代社會帶來了深刻的變革,但人工智能學習結果的不可控性又使其不同于以往的任何技術,具有更大的未知性和風險,因此關于人工智能的法律規制問題引起了廣泛關注和立法回憶。[24]隨著以ChatGPT為代表的生成式人工智能爆火,國家網信辦已出臺《生成式人工智能服務管理辦法(征求意見稿)》,從立法層級來看,此辦法屬于國務院有關部門制定的部門規章,主要針對生成式人工智能的開發與應用進行規制,在一定程度上彌補了我國生成式人工智能法律規制方面的缺漏,但是從未來生成式人工智能的發展角度來看,《生成式人工智能服務管理辦法(征求意見稿)》法律層級不高且缺少特殊性,難以對生成式人工智能應用于刑事偵查領域存在的問題進行規制。

目前,《刑事訴訟法》及相關司法解釋并未對生成式人工智能在刑事程序中的運用作出具體規定,而偵查權事關公平正義的實現和公民人權的保障,因此將生成式人工智能應用于刑事偵查領域必須制定相應的特殊規范。由于在偵查程序中借助生成式人工智能收集犯罪證據會受到“黑箱效應”的影響,且生成式人工智能的運行存在侵犯公民人權,違背正當程序原則的可能,為了確保刑事偵查既能借助生成式人工智能提高效率又能在法治允許的范圍內有效運行,必須針對生成式人工智能在刑事偵查中的具體應用標準、方法作出進一步細化規定。

制定生成式人工智能應用于刑事偵查領域的法律規范,首先,可以在《刑事訴訟法》層面作出原則性規定,即可以在合理范圍內使用人工智能。其次,細化到公安機關部門規章和司法解釋層面,可以明確偵查程序中使用生成式人工智能的范圍、使用標準,尤其要注意細化使用生成式人工智能收集犯罪證據的程序要求,防止因程序瑕疵導致出現證據失權的情形,并明確在使用生成式人工智能時必須堅持“以人為主導,以技術為輔助手段”的理念,絕不能出現技術取代人主導地位的情形,實現以法治偵,確保偵查權與生成式人工智能融合后在法治的軌道運行,防止偵查權擴張侵犯人權現象的發生。

(三)應用層面:堅持輔助性和有限性原則

1.輔助性原則

司法領域完全依賴生成式人工智能是不可能實現的,司法工作人員在法律適用中發揮的價值判斷作用無法被生成式人工智能取代。在人工智能應用于司法領域的過程中,無論是支持“技治主義”還是支持“法治主義”,都不能影響司法工作人員在司法程序中的主導地位。[25]在刑事偵查與生成式人工智能結合的過程中,堅持輔助原則指的是,任何偵查活動的展開必須以偵查人員為主導,偵查措施的采取和偵查方案的決定以及執行應當由偵查人員承擔。

生成式人工智能在刑事偵查中生成的有關犯罪預測、偵查方案、犯罪證據收集等信息應作為輔助性材料而非由其主導偵查活動,偵查人員必須對生成式人工智能的生成內容進行嚴格審核,對于其生成的信息和有關偵查活動的報告應當作為實施偵查的行動參考依據而非絕對真理,要充分發揮偵查人員的主觀能動性,在此基礎上借助生成式人工智能發現、打擊犯罪,而不能依賴生成式人工智能技術來推進偵查活動。

2.有限性原則

生成式人工智能應用于刑事偵查必須堅持有限性原則,這里的有限性指的是生成式人工智能在偵查領域的應用必須限定在特定范圍內,而不能無限制地使用生成式人工智能。從科學角度出發,人類的思維可以分為邏輯思維、形象思維、抽象思維、社會思維等多種方式,其中邏輯思維的研究最為成熟,在邏輯思維方面,數理邏輯構成了人工智能算法的基礎,人工智能技術在數理思維方面有著一定優勢,但在人的思維中除了邏輯思維外,還包含大量其他類型的思維,這是目前人工智能技術所不具備的思維能力。[26]

偵查程序存在著大量必須由偵查人員執行而無法使用生成式人工智能替代的環節。例如,關于證據可采性的判斷問題,通常由偵查人員依據所查獲的其他證據和類案經驗進行綜合分析判斷,經驗豐富且專業素質過硬的偵查人員可以從蛛絲馬跡中發現證據的漏洞、拆穿犯罪嫌疑人的謊言,這些是生成式人工智能依靠數理邏輯而無法做到的。如果將犯罪嫌疑人的供述提交給生成式人工智能來辨別,由于生成式人工智能并不完全具備人的思維能力,單獨依靠數理邏輯無法準確完成此類任務。偵查過程中,有時偵查人員一個突然迸發的靈感和直覺就能實現案件的突破,我們既要重視生成式人工智能帶來的便利,也要重視發揮人的作用,要認識到人類思維與生成式人工智能思維方面的差異性,堅持有限性原則。

結語

在先進的算法和硬件支持下,以ChatGPT為代表的生成式人工智能進入社會大眾的視野,生成式人工智能的廣泛應用已是大勢所趨,進入數字化時代,生成式人工智能應用于刑事偵查領域,既是順應時代潮流推動刑事司法進步的要求,也是建設法治中國的題中應有之義。面對數字時代的網絡犯罪、數據犯罪等犯罪治理問題,生成式人工智能可以成為刑事偵查的重要輔助力量,但在刑事司法領域應用生成式人工智能時,我們也必須認識到技術的兩面性,既要看到生成式人工智能帶來的進步,也要認識到生成式人工智能在應用于刑事司法領域存在的風險。刑事偵查與數字技術結合將是數字化時代的必經之路,面對生成式人工智能在實踐應用中的潛在風險,從審查層面、理論層面到應用層面,我們都必須嚴把關、防風險,在數字化浪潮中推進我國刑事司法事業不斷發展前進。