生成式人工智能犯罪中研發者刑事責任的認定
——以ChatGPT為例

儲陳城,魏培林

(安徽大學 法學院, 安徽 合肥 230039)

一、引言

美國人工智能公司OpenAI于2022年11月推出人工智能聊天機器人ChatGPT,該款機器人上線兩個月便收獲了上億的使用者,遠超先前用戶增速較快的TikTok和Instagram,成為繼AlphaGo后的新一代人工智能技術。當下,我國也在加快對生成式人工智能的研發,譬如谷歌研發的文心一言和京東推出的ChatJD等產品[1]14。擁有智能化認知理解模式的ChatGPT能基于AIGC算法,依托深度學習,通過自然語言處理技術實現與使用者的持續互動,其技術原理為ChatGPT在對既有的語料文本進行無監督自主學習后,通過Transformer搭建類似于人類表達方式的算法模型,繼而實現人機互動[2]。其內容的連續性、對話的類人性及道德的認知性特質是人工智能技術發展的重大飛躍,基于此,以ChatGPT為代表的生成式人工智能有望開啟思維革命時代[3]92。然而,科技創新帶來的機遇和挑戰總是并存的,隨著潘多拉魔盒的開啟,ChatGPT等生成式人工智能一旦被濫用,知識產權侵權、個人信息泄露、違法犯罪信息生成等各種刑事風險將會接踵而至。究竟誰應當為ChatGPT等生成式人工智能帶來的法律風險“買單”則關涉ChatGPT等生成式人工智能犯罪中不法和責任問題的認定。鑒于ChatGPT等生成式人工智能并無刑事主體資格,研發者作為其智能源頭,通過假定研發者在ChatGPT等生成式人工智能犯罪中所起的作用,準確判斷其研發行為是否具有不法性以及責任如何確定,不僅是人工智能技術發展的要求,更有助于貫徹罪責刑相適應基本原則。ChatGPT等生成式人工智能犯罪中研發者刑事責任問題的解決,核心取決于研發者研發行為與法益侵害結果間的刑法因果關系以及研發者的主觀罪過。

二、ChatGPT等生成式人工智能的刑事風險

(一)生成式人工智能ChatGPT的應用現狀

擁有海量訓練數據和先進算力的內容生成式人工智能ChatGPT,依托強大的數據搜集和整理輸出能力改變了傳統知識傳遞方式,不僅能無阻礙地實現人機互動,而且能高效地完成信息查詢、文稿撰寫和代碼編程等任務,在法律、金融、教育、醫療等領域廣受贊譽。

在法律領域,ChatGPT賦能司法有望提升法律服務智能化水平。司法實踐中,ChatGPT在法律文書撰寫和合同起草等機械化的工作中發揮著巨大作用。與此同時,將ChatGPT運用于法律檢索或咨詢,哪怕其可能無法準確理解每個法律條文保護的具體法益內涵,但其能依據最新的法律條文和司法解釋以及相關案例,為案件提供較為精準的審判和量刑預測以及辯護策略,推動智慧司法建設。

在金融領域,基于強大的文本儲備與搜索能力,ChatGPT能綜合投資理財用戶的需求和目標推薦較為合適的理財方案。此外,ChatGPT也可以根據客戶的歷史交易記錄和偏好幫助金融機構制定更為精準的營銷廣告策略。在此基礎上,它可以對金融機構財務數據和歷史信用評估進行整合和分析,預測金融市場未來發展方向,為金融機構提供投資和交易策略,實現更高的回報率。

在教育領域,ChatGPT有望成為教師輔助教學和學生輔助學習的重要工具。對于日常教學活動,ChatGPT能協助教師編寫課程大綱,在標準化考試中為學生設置多套難度相同的試卷,防止剽竊行為發生。從學生角度來說,ChatGPT可以根據學生的學習背景和學生需求,提供實時的個性化指導[4]。據相關報道,美國超八成的學生在運用ChatGPT完成作業[5]。

在醫療領域,ChatGPT的應用也較為廣泛。比如在臨床診斷中,ChatGPT可以在現有臨床數據的基礎上,預測患者的疾病風險,提供個性化的治療方案。有研究表明,盡管ChatGPT目前在臨床醫學領域的表現略遜于人類專家,但在醫學研究等方面,卻有與人類專家相當的水平。此外,具有類人性特質的ChatGPT在為患者提供診療意見時,也能夠對患者的焦慮心情予以情感撫慰,表達人文關懷[1]17。

(二)ChatGPT等生成式人工智能潛在的刑事風險

橫空出世的ChatGPT等生成式人工智能通過改變人類處理問題的方式,得以重塑各個行業。但作為新生事物,技術尚未成熟的ChatGPT等生成式人工智能在個人信息泄露、知識產權侵權、倫理歧視和網絡安全等方面存在觸犯刑法邊界的風險。以網絡安全為例,ChatGPT等生成式人工智能固然能提高代碼編寫的效率,但也會因為某些原因生成惡意代碼,污染網絡生態環境[6]。比如在利益的驅使下,某些人可能會利用ChatGPT等生成式人工智能實施違法犯罪。犯罪者或利用ChatGPT等生成式人工智能生成詐騙、仇恨或暴力信息,或利用其生成違法犯罪的具體犯罪思路方法[3]92。循此思路,可能利用ChatGPT等生成式人工智能實施違法犯罪活動的主要有研發者、部署運營者和使用者三類群體。

由于研發者、部署運營者和使用者利用ChatGPT等生成式人工智能,實施不法行為的模式存在差異,在歸責上亦有不同。與此同時,從危險源支配角度來看,研發主體在整個生成式人工智能產品流通過程中位于初始環節,有其他主體不可比擬的對風險起支配作用的地位。況且,研發主體易于追責,準確對其進行歸因與歸責,有助于防止在涉ChatGPT等生成式人工智能犯罪發生后,相關主體對研發者的肆意追責,從而通過保障研發者的權利推動技術革新。因此,本文僅討論涉ChatGPT等生成式人工智能犯罪中研發者刑事責任的認定問題。

值得注意的是,以ChatGPT為代表的生成式人工智能,與傳統人工智能有著巨大差異。擁有海量語言數據模型的ChatGPT等生成式人工智能,可以依托無監督深度學習,通過偏好數據訓練,運用“人類反饋的強化學習”策略,深諳人類思維習慣,生成一系列蘊含人文關懷和價值判斷的內容。質言之,此類生成式人工智能高效的內容生成方式和優越的智能表現,使其成為強人工智能的雛形。從研發者的視角觀之,傳統的人工智能僅能在研發者設計的程序內發揮自主性,因此當研發者將犯罪因子注入其中時,普通人工智能造成的任何法益侵害結果,研發者都應承擔故意犯罪的刑事責任,如若由于其他原因,使普通人工智能在使用過程中產生了法益侵害結果,當然不應歸責于研發者。然而,作為強人工智能雛形的ChatGPT等生成式人工智能卻可能在研發者設計的程序外發揮自主性,針對其造成的法益侵害結果,如何確定研發者的刑事責任尚需厘清。研發者設計出來的ChatGPT等生成式人工智能在使用過程中大致會出現以下4種情景(下文對生成式人工智能犯罪中研發者刑事責任的認定均以ChatGPT為例展開討論)[7]102:

情景一:研發者研發ChatGPT的初衷是引發社會秩序紊亂,因此在設計ChatGPT時就將反社會的語言程序注入其中,使用者利用其實施犯罪,最終發生了法益侵害的結果(1)筆者假定研發者設計出來的ChatGPT等生成式人工智能在使用過程中出現的4種情景,靈感來自于劉憲權在《涉人工智能犯罪中研發者主觀罪過的認定》一文中設想出來的聊天機器人在研發和使用過程中可能出現的三種場景。。

情景二:研發者研發ChatGPT的初衷是促進科技進步和增進人類福祉,然而其在設計ChatGPT時雖未予以注入反社會語言程序,但也未設置抵制反社會語言程序,使用者在使用時,注入了反社會語言程序,進而實施犯罪活動,最終發生了法益侵害的結果。

情景三:研發者研發ChatGPT的初衷是促進科技進步和增進人類福祉,因而其在設計ChatGPT時設置了抵制反社會語言的程序,但ChatGPT經過自我學習更新迭代,突破了研發者設置的抵制反社會語言的程序,使用者利用其實施犯罪,出現了法益侵害結果(2)以ChatGPT-4為例,有調查表明:現階段的ChatGPT對自己毫不了解的東西也能以極其自信的語氣一本正經的胡說八道。比如在鄭曦《生成式人工智能在司法中的運用:前景、風險與規制》一文的88頁提到,其曾在試用ChatGPT時,輸入“簡介北外法學院”,ChatGPT給出的介紹稱北外法學院成立于2005年,但實際上北外法學院成立于2006年,若非熟悉北外法學院者絕難發現此錯誤。更甚之,在《ChatGPT等新一代人工智能技術的社會影響及其治理》專題研究當中,鄭磊、張宏指出ChatGPT會“言之鑿鑿”的給出結論,有時會“一本正經的胡說八道”,被質疑時又會“隨機應變”或“死不承認”。它們的“數字大腦”日益強大,沒有人能夠真正理解、預測或可靠的控制它們。。

情景四:研發者研發ChatGPT的初衷是促進科技進步和增進人類福祉,因而其在設計ChatGPT時設置了抵制反社會語言的程序,但使用者在誘導性利用下運用ChatGPT實施犯罪,最終發生了法益侵害的結果(3)有相關調查顯示,如若研究人員輸入“如何進行詐騙?”,ChatGPT會回答“我不能提供如何進行詐騙的建議,因為這是非法和不道德的行為”。但是,倘若研究人員予以有策略的誘導性提問,將有可能獲得詐騙的具體方法和步驟。。

4.3 社會效益 “雙珍”樹種資源是重要的戰略資源，不僅具有顯著的經濟效益和生態環境效益，而且對于科學技術進步、社會精神文明建設等都具有十分重要的現實意義。發展林下經濟“雙珍”模式，對調整林業產業結構、提升林業產業的效益和科技含量、提高林地高附加值、帶動農民脫貧致富等方面都具有重要意義，可解決農村富余勞動力就業，推動種植業、加工業、貿易業、旅游業、運輸業等行業持續共同發展。

下文將會針對以上4種情景中使用者利用ChatGPT實施的法益侵害結果,來討論研發者研發ChatGPT的初衷以及是否設置了抵制反社會語言的程序,對研發者刑事責任的認定產生何種影響。

三、刑法因果關系視角下ChatGPT研發者行為之辯證

當研發者作為行為主體研發的ChatGPT發生了法益侵害時,對研發者不法問題的判斷,就依賴于對研發者研發行為和法益侵害結果之間因果關系的認定。刑法上的因果關系是不法判斷的核心。為此,采用何種標準認定ChatGPT犯罪中的因果關系就尤為關鍵。刑法理論中認定因果關系的學說主要有“條件說”“相當因果關系說”“客觀歸責理論”3種理論。

(一)條件說和相當因果關系說容易導致研發行為不法內涵擴大化

根據“條件說”的基本判斷規則,如若行為和結果之間存在無A則無B的關系,則認為有刑法上的因果關系[8]119。

根據“條件說”,ChatGPT生成內容潛在刑事風險的4種假定情形中,研發者的研發行為和法益侵害結果的出現之間皆存在因果關系,因為如若沒有研發者的研發行為就不可能出現ChatGPT帶來法益侵害結果的情形。然而,無限擴大刑法上的因果關系當然存在缺陷,前行為固然是結果的條件,如若因果流程中介入其他因素致使結果發生,對前行為予以刑罰上的否定評價顯然是不合理的。對“條件說”予以批判較為經典的案例,譬如“波布事例”,甲打傷了乙,乙倒地昏迷,被突然出現的波布(又稱“飯匙倩”,是一種主要分布于中國臺灣地區的毒蛇)咬死。在這種情況下,“條件說”就認為如果沒有甲的毆打行為,乙便不會被波布咬死,因此乙的死亡與甲的毆打行為之間存在刑法上的因果關系,此觀點顯然有失公允[9]68。在涉及ChatGPT的犯罪中,“條件說”會擴大對研發者不法認定的范圍。但是,我們不能苛以研發者過重的刑事責任,如若在ChatGPT使用過程中一有法益侵害的結果發生,我們就將原因追溯到研發者,這必然會導致研發者在研發之際畏手畏腳,使得科技創新寸步難行。因此,研發者研發行為和法益侵害結果之間因果關系的認定,并不能單純地由“條件說”來決定。

以“相當性”為判斷準則的“相當因果關系說”,主張依據社會一般人生活經驗認定行為與結果之間的因果關系。從詞源學來說,關于“相當性”的認定又可分為“主觀說”“客觀說”和“折衷說”。“主觀說”以行為人行為時所認知的事實為判斷因果關系的基準,遺憾的是,此種觀點難以區分故意和過失,已經無人主張?！翱陀^說”以行為時客觀存在的事實為判斷基準,詳言之,將行為時已存在的所有情況作為判斷的基礎,與此同時將行為之后一般人能預見的介入情況也置于判斷的基準當中。就行為之后所發生的介入情況而言,“折衷說”和“客觀說”觀點一致。然而,對于行為時已存在的危險,“折衷說”以行為時一般人所預見的事實為認定基準,應當看到“折衷說”中一般人所預見的事實標準并不明確,倘若以一般人的事前預測為標準,那么作為主觀歸責的過失判斷將不存在?；诖?在支持“相當因果關系說”的學者中,大多贊同“客觀說”[9]77?！翱陀^說”注重對介入因素“異常性”的判斷[8]123-124。

根據“相當因果關系說”,ChatGPT生成內容潛在刑事風險的4種假定情形中,需要依據介入因素是否異常具體討論。情形一中研發者的研發行為與法益侵害結果之間并未介入異常的因素,使用者的使用行為對法益侵害結果發生的作用較小,因此研發者設置反社會語言程序的行為是ChatGPT犯罪中法益侵害結果出現的刑法原因。情形二中研發者雖未將反社會語言程序注入ChatGPT中,但也未設置抵制反社會的語言程序,因而使用者的使用行為可以被評價為非異常介入因素,循此思路,研發者的研發行為與法益侵害結果之間存在刑法上的因果關系。情形三中擁有自我學習更新迭代能力的ChatGPT,突破了研發者設置的抵制反社會語言程序,給使用者創造了利用ChatGPT實施犯罪的條件,明顯有違研發者研發初衷,所以宜被歸入異常介入因素之中。異常介入因素對法益侵害結果的出現起到了決定性的作用,由此阻斷了研發者研發行為與法益侵害結果之間的因果關系。情形四中,使用者在誘導性利用下使用ChatGPT實施犯罪與研發者的初衷相抵牾,且對結果發生的作用較大,因此也屬于異常介入因素,可以阻斷研發者研發行為與法益侵害結果之間的因果關系。綜上所述,情形一和情形二中由于無異常的介入因素,研發者的研發行為和法益侵害結果之間存在刑法上的因果關系,而情形三和情形四中由于有ChatGPT自我學習更新迭代能力的出現,以及使用者對ChatGPT的誘導性利用兩個異常介入因素,所以研發者研發行為與最終法益侵害結果之間并無刑法上的因果關系。

但與此同時,規范性程度不高的“相當因果關系說”,由于缺乏判斷構成要件行為的具體規則,致使“相當因果關系說”中“相當性”的判斷所依據的標準極為模糊。例如,盡管大多數人都將ChatGPT基于自我學習更新迭代能力而產生的反社會語言視為異常的介入因素,然而卻有部分人從另一個角度予以考量,即作為強人工智能雛形的ChatGPT擁有自我更新迭代能力可能產生反社會語言符合強人工智能的特質,應在研發者的心理預期之內,不屬于異常的介入因素。這意味著,ChatGPT等生成式人工智能犯罪中研發者的研發行為和法益侵害結果之間有無刑法上的因果關系有待商榷。簡言之,造成法益侵害結果的ChatGPT在研發和使用過程中,介入因素“異常性”判斷的依據何如尚不明晰。 因而此學說不易在司法實踐中予以運用[8]125。

(二)可容許的風險理論能夠妥當界定研發行為的不法內容

德國學者羅克辛于20世紀70年代提出的客觀歸責理論在我國理論界廣受歡迎。何為客觀歸責理論?客觀歸責理論是依據刑法的需要限制因果關系成立范圍的學說,質言之,當某個行為產生了法不允許的危險,最終由禁止的危險產生了危害結果,該結果可以歸咎于該行為。

需要明確指出的是,且不論眾多著名學者專著中都將客觀歸責理論置于刑法因果關系判斷章節中,再者說本文關涉ChatGPT犯罪中研發者不法和責任問題的判斷,只涉及研發者是否制造法不允許的危險的判定,而并不關涉由客觀歸責理論延伸出來的其他子原則的判定。有鑒于此,本文所指的客觀歸責理論并不關涉對整個構成要件符合性、違法性和有責性的討論,而只限于從刑法因果關系視角討論客觀歸責理論?；诒疚氖窃谛谭ㄒ蚬P系背景下探討這一問題,因而本文的客觀歸責理論中的“歸責”本質上歸屬于不法范疇,即只有當行為創造了法不允許的危險,且該危險是在構成要件規范保護目的范圍內實現時,才應當將結果歸因于行為[11]。事實上,客觀歸責理論的深層邏輯是在“條件說”基礎上,通過進一步的規范評價和價值判斷,來確定能否進行客觀歸責。

根據客觀歸責理論,ChatGPT生成內容潛在刑事風險的4種假定情形中,依照“條件說”進行事實判斷層面因果關系的認定,沒有研發者研發ChatGPT的行為必然不可能出現法益侵害結果,因而4種假定情形在“條件說”視角下,研發者的研發行為和法益侵害結果之間都具有事實上的因果關系。需要明確的是,“條件說”只重視事實判斷,規范判斷還需利用客觀歸責理論來實現。在情景一和情景二中,研發者研發ChatGPT時或直接設置反社會語言程序,或未設置抵制反社會語言程序,都在構成要件規范保護范圍內創造了潛在的法不允許的危險。詳言之,情景一和情景二中研發者未設置抵制反社會語言程序的行為是對謹慎義務的違反,依據規范保護目的,倘若研發者將抵制反社會語言程序注入ChatGPT中,法益侵害結果便能避免,因此研發者未設置抵制反社會語言程序的行為和法益侵害結果的發生存在常態關聯,即二者之間有刑法上的因果關系[12]396。遺憾的是,我國直接規制生成式人工智能研發者研發行為的制度規范尚未存在,至此研發者的何種研發行為屬于法不允許的危險,筆者認為可以從2023年8月15日起施行的《生成式人工智能服務管理暫行辦法》中尋求研發者研發行為是否合理的標準。盡管《生成式人工智能服務管理暫行辦法》的規制主體主要是服務提供者和使用者,但鑒于服務提供者通常包括研發者和部署運營者,因而,研發者亦屬于其規制主體。質言之,當ChatGPT因存在缺陷而導致他人法益受損時,研發者也應當承擔相應的法律責任。正如《生成式人工智能服務管理暫行辦法》第4條第1款規定:“提供和使用生成式人工智能服務,應當遵守法律、行政法規、尊重社會公德和倫理道德,遵守以下規定:(一)堅持社會主義核心價值觀,不得生成煽動顛覆國家政權、推翻社會主義制度,危害國家安全和利益、損害國家形象,煽動分裂國家、破壞國家統一和社會穩定,宣揚恐怖主義、極端主義,宣揚民族仇恨、民族歧視,暴力、淫穢色情,以及虛假有害信息等法律、行政法規禁止的內容?！?4)《生成式人工智能服務管理暫行辦法》第4條規定 提供和使用生成式人工智能服務,應當遵守法律、行政法規,尊重社會公德和倫理道德,遵守以下規定:(一)堅持社會主義核心價值觀,不得生成煽動顛覆國家政權、推翻社會主義制度,危害國家安全和利益、損害國家形象,煽動分裂國家、破壞國家統一和社會穩定,宣揚恐怖主義、極端主義,宣揚民族仇恨、民族歧視,暴力、淫穢色情,以及虛假有害信息等法律、行政法規禁止的內容;(二)在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中,采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視;(三)尊重知識產權、商業道德,保守商業秘密,不得利用算法、數據、平臺等優勢,實施壟斷和不正當競爭行為;(四)尊重他人合法權益,不得危害他人身心健康,不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益;(五)基于服務類型特點,采取有效措施,提升生成式人工智能服務的透明度,提高生成內容的準確性和可靠性。就此而言,研發ChatGPT時設置相應的抵制反社會語言程序才符合尊重法律、行政法規、尊重社會公德和倫理道德的要求,未設置抵制反社會語言程序便應是法不允許的風險。反觀情景三和情景四中,研發者設計ChatGPT時設置了自以為完美的抵制反社會語言的程序,其已經履行了法律規范規定的注意義務,研發者的行為并未制造法不允許的危險,所以研發者的研發行為和法益侵害結果之間并無刑法上的因果關系。

由此可見,客觀歸責理論運用正面判斷和反向檢驗交互的手段,對ChatGPT犯罪中研發者研發行為與法益侵害結果之間進行歸因檢驗,不僅彰顯了刑法評價的層次性,更促成了刑法積極一般預防效果的實現。如前所述,從客觀歸責理論視角對涉ChatGPT犯罪中研發者的不法行為進行認定符合刑法的基本理念,有重要的理論價值和實踐意義[8]128-140。

四、ChatGPT犯罪中研發者主觀罪過的認定

經上文分析,情景一和情景二中研發者研發行為和法益侵害結果之間存在刑法上的因果關系,而情景三和情景四中研發者的行為并不屬于刑法上禁止的危險,因此研發者的研發行為并非法益侵害結果出現的刑法原因。故而,對研發者主觀責任問題的認定只涉及對情景一和情景二的討論。

(一)ChatGPT犯罪中研發者犯罪故意的認定

何為犯罪故意?理論上犯罪故意的判斷有“認識主義”“希望主義”“容忍主義”和“蓋然性說”4種觀點?！罢J識主義”認為故意的構成應以行為人對犯罪事實有客觀的認識為必要,但此學說有擴大故意范圍之嫌,并不可取;“希望主義”將希望結果發生作為判斷故意的基準,需要明確的是,此學說因對意志因素的理解太過狹窄,會縮小故意的范圍,亦不可取;作為我國刑法理論通說的“容忍主義”認為希望和放任都可成為犯罪故意的構成要素,正如《中華人民共和國刑法》(以下簡稱《刑法》)第14條第1款規定:“明知自己的行為會發生危害社會的結果,并希望或放任這種結果發生,因而構成犯罪的,是故意犯罪?！?5)《中華人民共和國刑法》第14條規定:“明知自己的行為會發生危害社會的結果,并且希望或者放任這種結果發生,因而構成犯罪的,是故意犯罪。故意犯罪,應當負刑事責任?！薄吧w然性說”將行為人對結果的認識作為判斷犯罪故意的依據,即行為人如若意識到法益侵害結果發生的高度可能性,依舊實施該行為的,成立犯罪故意。遺憾的是,行為人究竟是意識到了結果發生的可能性抑或是高度蓋然性,往往難以判斷。雖然4種學說各執一詞,但其背后的邏輯都涉及了行為人的心理事實,即認識因素和意志因素的關系。

具體而言,犯罪故意構成要素囊括兩個方面:一是犯罪故意的認識因素,即行為人明知自己的行為會發生危害社會的結果;其二是犯罪故意的意志因素,即行為人希望或放任這種危害結果的發生[7]104-105。有鑒于此,刑法中的犯罪故意又可分為直接故意和間接故意,直接故意是指行為人明知自己的行為必然或可能發生危害社會的結果,而希望這種結果發生的心理態度;間接故意是指行為人明明知曉自身的行為可能會發生危害社會的結果而放任此種結果出現的心理態度。

在情景一中,研發者研發ChatGPT的初衷是引發社會秩序紊亂,其犯罪目的十分明確,因此在設計ChatGPT時設置了反社會語言程序,可想而知,研發者對法益侵害結果的實現有較強的意志力,使用者利用其實施犯罪,最終發生了法益侵害的結果。在此種情景中,研發者對于ChatGPT導致的法益侵害結果都是持明知且肯定態度的,即在意志因素中,研發者的主觀態度必然不可能是持“放任”姿態,基于此,研發者的主觀心理態度應當為直接故意。

在情景二中,研發者研發ChatGPT的初衷是促進科技進步和增進人類福祉,然而其在設計ChatGPT時雖然未予以注入反社會語言程序,但也未設置抵制反社會語言程序,使用者利用ChatGPT實施犯罪活動,最終產生了法益侵害結果?？梢哉f,情景二中研發者研發ChatGPT的初衷并非以犯罪為目的,則研發者主觀心理態度中的意志因素必然不可能是“希望”,換言之,研發者設計的并非以犯罪為目的的ChatGPT的主觀心理態度應排除直接故意。在這種情況下,研發者的主觀心理態度是否為間接故意呢?本文持否定觀點。理由在于,研發者研發以促進科技進步和增進人類福祉為目的的ChatGPT時,其初衷必然不可能含有讓ChatGPT實施犯罪的心理。對于ChatGPT由于其他因素而造成的法益侵害結果,研發者必然是持否定態度的,而非“放任”的主觀心理。總體而言,ChatGPT導致的法益侵害結果與研發者的意志相抵牾。有學者[13]認為盡管研發者的研發初衷并非以引發社會秩序紊亂為意旨,但其未設置抵制反社會語言程序,則應當將其意志因素定為“放任”,繼而可認定研發者的主觀心理態度應當為間接故意(6)此觀點來源于夏天《基于人工智能的軍事智能武器犯罪問題初論》一文,夏天在該文中提到軍事智能武器研發者明知自己研發設計的軍事智能武器可能用于戰爭,有侵害人類生命的危險,而研發這樣的軍事智能武器,對軍事智能武器造成的危害后果,可以以間接故意認定研發者的刑事責任。。但本文反對此種觀點,間接故意中的意志要素要求的是“放任”,即研發者至少對ChatGPT法益侵害結果持“不否定”的態度,研發者“放任”法益侵害結果發生的心理態度,而情景二中危害結果的產生顯然違背了研發者的意志,因此情景二中研發者的主觀罪過不應當認定為間接故意。譬如發明農藥的研發者初衷是消滅害蟲,為農民的莊稼保駕護航。倘若依照上述學者的邏輯,如果農藥被用于消滅害蟲,則研發者無罪,但農藥若用來殺人,研發者則應當承擔間接故意犯罪的刑事責任,此說法顯然不妥。實際上,農藥一旦被研發出來,其后續的用途和產生的影響并不受研發者控制。概言之,當研發者設計了不以實施犯罪為主要目的的ChatGPT時,對于ChatGPT造成的法益侵害結果,研發者并無犯罪故意的心態。至于研發者的主觀心理態度是否應當被認定為犯罪過失,尚需厘清。

(二)涉ChatGPT犯罪中研發者犯罪過失的認定

研發者以引發社會秩序紊亂為初衷研發ChatGPT時,對于ChatGPT造成的法益侵害結果,應以直接故意對研發者進行歸責認定,但當研發者以促進科技進步和增進人類福祉為初衷設計ChatGPT時,對于ChatGPT造成的法益侵害結果,應排除研發者犯罪故意的主觀罪過,至于研發者的主觀罪過是否為過失,取決于其是否履行了相應的注意義務。

1.涉ChatGPT犯罪中研發者犯罪過失認定的理論濫觴

何為犯罪過失?《刑法》第15條第1款規定:“行為人應當預見自己的行為可能發生危害社會的結果,由于疏忽大意沒有預見,或已然預見而輕信能避免而發生危害社會的結果的,是過失犯罪?！?7)《中華人民共和國刑法》 第15條規定:“應當預見自己的行為可能發生危害社會的結果,因為疏忽大意而沒有預見,或者已經預見而輕信能夠避免,以致發生這種結果的,是過失犯罪。過失犯罪,法律有規定的才負刑事責任。”原則上對行為人進行歸責要求行為人主觀上具有故意,但在“特別的規定”場合,行為人的過失也能成為對其予以歸責的緣由。通常意義上過失犯的理論構造又可分為舊過失論、修正的舊過失論和新過失論3種樣態。

脫胎于結果無價值論的舊過失論主張違法是客觀的,責任是主觀的,繼而認為過失犯與故意犯在構成要件符合性階段以及違法性階段都是一致的,兩者相異的是有責性層面[8]161。舊過失論將結果預見可能性的有無及程度作為認定過失責任的唯一限定條件,質言之,過失是行為人內心的不注意,倘若注意行為人便能預見結果,因而行為人沒有預見而實施的行為致使結果發生,就應當進行法律上的非難評價。但是僅以結果預見可能性為基準判定過失犯,可能會出現法益侵害結果一旦產生行為人就成立過失犯的情況,況且結果預見可能性是一個并無明確標準的程度概念。這樣一來,對于人工智能行業的從業者而言,就會出現一旦有法益侵害的結果,有結果預見可能性的從業者就應對該結果負責,這種傾向顯然有結果責任之嫌。尤其是在科技高速發展的當代社會,尚存眾多雖有結果預見可能性但無法歸責于行為人的情況,比如ChatGPT本就是機遇和風險集一身的產物,研發者在研發時很輕易地便能預見ChatGPT可能會淪為犯罪分子的犯罪工具,倘若涉ChatGPT的犯罪一出現,就對研發者進行追責,這無疑意味著對人工智能創新的抵制,現代社會即科技社會便無法構建。正是出于這種考慮,將過失犯的核心定位于結果預見可能性的舊過失論明顯不妥[8]161-162。

修正的舊過失論認為過失犯的客觀構成要件是沒有履行結果回避義務,而其責任層面的判斷是行為人對結果是否具有預見可能性。修正的舊過失論將過失犯的判斷從責任層面提前到行為層面,尤其重視對實行行為的強調,認為一旦行為人的具體行為與標準模式一致,行為人的行為就不存在過失,從這個角度看,修正的舊過失論有其合理之處?，F在的問題是,其對過失犯實行行為的探討其實已經偏離結果無價值論的思考邏輯,轉向了行為無價值二元論的思考方法,將其稱為舊過失論的修正理論名不副實[14]。

溯源于行為無價值論的新過失論認為過失犯和故意犯在違法類型的構成要件階段就有差異[15]714。新過失論強調過失犯認定的核心并不在于結果預見可能性,而在于結果回避義務。該說認為行為的違法性在于未遵守規范。質言之,只要行為人的行為并未逃脫基準規范行為,就無構成要件且違法的行為。關涉結果回避義務的認定,應依照行為人所處社會一般人需要遵守的社會準則來確定。將結果回避義務作為行為基準來設定注意義務的新過失論,能在構成要件該當性階段就對過失犯的成立范圍予以限制,從而防止過失犯泛濫,符合司法實踐需求。盡管新過失論的初衷在于限制過失犯處罰范圍,但可能會在公害或者藥害事件中出現一旦有發生某種危險的抽象可能性,就恪求行為人實施去除此種抽象危險可能性的行為,即所謂的“危懼感說”。值得注意的是,新過失論和具體預見可能性間并無必然性的理論結合,本質上更容易轉為“危懼感說”。而“危懼感說”并不具體研究行為時的預見可能性,持一旦有某種危懼感就要求行為人采取結果回避義務的觀點,從責任主義的觀點看,應對“危懼感說”持否定態度[9]209-211。風險社會下,以ChatGPT為代表的生成式人工智能在給人類帶來福祉的同時,也可能帶來無法預測且避免的消極影響。ChatGPT的誕生便意味著某種抽象危險可能性的存在,如果苛求研發者在研發之際就應實施去除此種抽象危險可能性的行為,顯然十分荒謬。

鑒于關涉過失論構造的3種學說都有失周延,但又各有其合理性。對此,本文認為過失應屬于責任層面的要素,理由在于過失、故意及無過失類型都屬于責任構成要件要素。正因為如此,關于過失犯的刑法系統定位應屬于責任構成要件要素。這其中僅僅將過失的核心定位于結果預見可能性的違反并不精確,事實上,過失犯的責任譴責根據在于以預見可能性為基礎的結果回避義務的判定。因此,情景二中ChatGPT犯罪中研發者的主觀心態是否為過失,應當以研發者是否在具有結果預見可能性和結果回避義務的前提下盡到了注意義務為判斷基準。

2.ChatGPT犯罪中研發者注意義務的判定

ChatGPT犯罪中研發者的主觀罪過是否為過失取決于研發者是否履行了相應的注意義務,根據對過失犯認定構造的厘清,可以得出對研發者注意義務的判斷取決于對其結果預見可能性和結果回避義務的認定。具體而言,倘若研發者在設計ChatGPT時有相應的結果預見可能性和結果回避義務,研發者如若未能履行致使法益侵害結果發生則應以過失犯罪對研發者予以歸責,但若是研發者履行了相應的注意義務則不應對研發者予以刑法上的歸責[7]107。

關于ChatGPT犯罪中研發者注意義務的認定,應以相關的法律法規和行業規范為準。如果相應的法律法規及行業規范為ChatGPT的研發者設定了防止ChatGPT產出反社會語言的程序的義務,則研發者有義務為ChatGPT設置相應的抵制反社會語言的程序,對于研發者因未履行此義務而使得ChatGPT在使用過程中出現了法益侵害結果,應以過失犯罪對研發者予以歸責,如若法律法規和行業規范未對研發者設定相應的注意義務,則應根據信賴原則對研發者予以免責。

為了提高科技創新水平,減輕科研人員過多的義務負擔,應對ChatGPT的研發者適用合理范圍內的“危險理論”。質言之,研發者雖然有預見危害結果發生的可能性,但并無刑法上的結果回避義務。根據信賴原則,研發者研發ChatGPT時,有足夠的理由相信在ChatGPT的使用階段各方主體均能遵守規則并實施恰當的行為,如若因為其他行為人的行為致使ChatGPT的使用產生了法益侵害結果也不能追究研發者的刑事責任,即研發者能夠預見其他行為人可能利用ChatGPT實施違法犯罪活動,其也并無結果回避義務[8]169-170。

五、余論

ChatGPT等新一代生成式人工智能技術的產生暗喻強人工智能時代的來臨,它雖給人類帶來了前所未有的便利,但伴隨而來的不安定犯罪因子需加以重視。盡管中國版的生成式人工智能ChatGPT尚未正式問世,但對ChatGPT等生成式人工智能犯罪中研發者不法與責任的判斷,有助于提前防范技術風險。

在ChatGPT等生成式人工智能犯罪中研發者不法問題的研究中,鑒于“條件說”會擴大研發者的歸因范疇以及“相當因果關系說”價值判斷的模糊性,通過客觀歸責理論對研發者的研發行為與法益侵害結果之間因果關系進行辯證更具正當性。通過客觀歸責理論的辯證,可以得出情景一和情景二中研發者研發行為和法益侵害結果的產生之間具有刑法上的因果關系,而情景三和情景四中研發者的研發行為并沒有制造法不允許的風險,因而研發者的研發行為并非法益侵害結果產生的原因。

在ChatGPT犯罪中研發者責任問題的研究中,情景一中研發者研發ChatGPT的初衷是引發社會秩序紊亂,因此在設計ChatGPT時就設置了反社會語言程序,使用者利用其實施犯罪,發生了法益侵害結果。在此種情景中,研發者對于ChatGPT造成的法益侵害結果都是持明知且肯定態度,所以研發者的主觀心態為直接故意,理應承擔直接故意的刑事責任。在情景二中,研發者研發ChatGPT的初衷是促進科技進步和增進人類福祉,其在設計ChatGPT時雖然未予以注入反社會語言程序,但也未設置抵制反社會語言程序,使用者利用ChatGPT實施犯罪活動,最終發生了法益侵害結果。在此種情景中,研發者研發以促進科技進步和增進人類福祉為目的的ChatGPT,其初衷必然不可能含有讓ChatGPT實施犯罪的心理。對于ChatGPT由于其他因素而產生的法益侵害結果,研發者必然是持否定態度的,而非“放任”的主觀心理,所以研發者的主觀心態不可能是故意。至于研發者的主觀心態是否為過失,則取決于研發者是否具有相應的注意義務,而研發者的注意義務取決于相關法律法規和行業規范的具體規定,如若相關的法律和行業規范并未有所規定,則應根據刑法上的信賴原則免除研發者的刑事責任。