ChatGPT：生成式人工智能應(yīng)用風(fēng)險(xiǎn)及對(duì)策研究

摘 要：ChatGPT作為生成式人工智能的最新代表產(chǎn)物，其功能和影響標(biāo)志著人工智能進(jìn)入到一個(gè)全新的時(shí)代。ChatGPT是基于大語(yǔ)言模型產(chǎn)生的聊天生成式智能機(jī)器，其豐富的語(yǔ)言邏輯和智能化程度已經(jīng)高度集中。ChatGPT的成功將引發(fā)生成式人工智能爆炸式的發(fā)展，由于人的本性是趨利避害的，這將使得生成式人工智能引發(fā)數(shù)據(jù)安全風(fēng)險(xiǎn)、個(gè)體使用風(fēng)險(xiǎn)、社會(huì)安全風(fēng)險(xiǎn)、國(guó)家安全等風(fēng)險(xiǎn)，通過(guò)對(duì)這些風(fēng)險(xiǎn)具體的闡述，使我們認(rèn)識(shí)到生成式人工智能帶來(lái)便利的同時(shí)，也帶給我們巨大的風(fēng)險(xiǎn)承擔(dān)，故需要采取一定的措施規(guī)制風(fēng)險(xiǎn)，以便更好地利用ChatGPT生成式人工智能帶給我們的科技智慧。

關(guān)鍵詞：ChatGPT；生成式人工智能；應(yīng)用風(fēng)險(xiǎn)；對(duì)策研究

一、問(wèn)題的提出

（一）ChatGPT的發(fā)展和應(yīng)用前景

隨著人工智能技術(shù)的快速發(fā)展，OpenAI公司發(fā)布的ChatGPT強(qiáng)對(duì)話(huà)人工智能引起了全世界的關(guān)注。根據(jù)有關(guān)數(shù)據(jù)的統(tǒng)計(jì)，ChatGPT推出僅2個(gè)月，用戶(hù)就達(dá)到1億多人，增長(zhǎng)速度可謂是前所未有。GPT（Generative Pre-trained Transformer）技術(shù)是以Transformer架構(gòu)為基礎(chǔ)的自然語(yǔ)言處理（Natural Language Processing，NLP）模型，以人工智能生成內(nèi)容（AIGC）技術(shù)突破為轉(zhuǎn)折點(diǎn)，其在AIGC上的突破主要是在創(chuàng)作成本上具有顛覆性，而且具備降本增效的多重優(yōu)勢(shì)，并且有望解決目前PGC（專(zhuān)業(yè)生產(chǎn)內(nèi)容）或UGC（用戶(hù)生成內(nèi)容）創(chuàng)作質(zhì)量參差不齊或是降低其有害性?xún)?nèi)容傳播等問(wèn)題，同時(shí)創(chuàng)意激發(fā)，提升內(nèi)容多樣性。ChatGPT擁有超過(guò)千億參數(shù)大模型的智能模型學(xué)習(xí)能力，其學(xué)習(xí)能力和儲(chǔ)存能力都遠(yuǎn)超人類(lèi)，并且ChatGPT經(jīng)過(guò)時(shí)間積累，可以在前面的基礎(chǔ)上不斷優(yōu)化儲(chǔ)存和學(xué)習(xí)能力。

ChatGPT并不是一開(kāi)始就那么智能的，其歷經(jīng)了從GPT1到GPT4的四次大的飛躍，每一次的飛躍都在參數(shù)值和核心技術(shù)上實(shí)現(xiàn)了突破，目前發(fā)展到GPT4.0，其主要是基于規(guī)則的獎(jiǎng)勵(lì)模型（Rule-Based Reward Models），然而GPT3.0之后的模型不再開(kāi)源，這就意味著ChatGPT核心技術(shù)將掌握在少數(shù)人手中。自從ChatGPT上線后，全新的AI模型因?yàn)槟芑卮饐?wèn)題、編寫(xiě)代碼、自行創(chuàng)作，被認(rèn)為是下一代搜索引擎的雛形。其以在自然語(yǔ)言處理領(lǐng)域的先進(jìn)技術(shù)和以大數(shù)據(jù)作為應(yīng)用基礎(chǔ)，為用戶(hù)提供了更加智能化和個(gè)性化的服務(wù)。“從實(shí)踐來(lái)看，ChatGPT這種基于算法、算力和數(shù)據(jù)的新生工具，在數(shù)字治理、教育變革、生物醫(yī)療、醫(yī)療健康、電子商務(wù)、多媒體生產(chǎn)等領(lǐng)域都能得到應(yīng)用，有提升各領(lǐng)域生產(chǎn)力的巨大潛力。”[1]

（二）對(duì)生成式人工智能ChatGPT規(guī)制的原因

ChatGPT作為一種大型語(yǔ)言模型的人工智能，其可生成類(lèi)人語(yǔ)言，具有高度的連貫性和流暢性。它已廣泛用于自然語(yǔ)言處理（NLP），如語(yǔ)言翻譯、文本摘要、問(wèn)答和聊天機(jī)器人對(duì)話(huà)等。比爾·蓋茨對(duì)ChatGPT做出了這樣的評(píng)價(jià)：稱(chēng)ChatGPT是自1980年以來(lái)最具革命性的進(jìn)步，但他也指出ChatGPT會(huì)帶來(lái)法律、隱私、歧視等一系列風(fēng)險(xiǎn)問(wèn)題。馬斯克同樣在自己的博客寫(xiě)道：“很驚人，我們離強(qiáng)大到危險(xiǎn)的人工智能不遠(yuǎn)了”，這都表達(dá)了對(duì)ChatGPT快速發(fā)展所帶來(lái)的潛在危險(xiǎn)表示擔(dān)憂(yōu)。筆者認(rèn)為，ChatGPT的發(fā)明具有劃時(shí)代人工智能應(yīng)用的價(jià)值和意義，在這種無(wú)比巨大的價(jià)值利益面前，ChatGPT的發(fā)展勢(shì)不可擋，我國(guó)也開(kāi)始大力發(fā)展生成式人工智能，這勢(shì)必對(duì)數(shù)據(jù)安全、個(gè)人信息安全、社會(huì)安全和國(guó)家安全構(gòu)成了一定的威脅。雖然我國(guó)禁止國(guó)外版ChatGPT流入中國(guó)境內(nèi)，但互聯(lián)網(wǎng)系統(tǒng)是個(gè)有機(jī)聯(lián)系整體，客戶(hù)有需求就存在市場(chǎng)，本著防范未來(lái)風(fēng)險(xiǎn)的角度出發(fā)，本文從不同的角度分析ChatGPT存在的應(yīng)用風(fēng)險(xiǎn)，并提出相應(yīng)的措施，為規(guī)制生成式人工智能技術(shù)的發(fā)展提供一定的借鑒。

二、ChatGPT生成式人工智能應(yīng)用風(fēng)險(xiǎn)的分析

（一）數(shù)據(jù)安全風(fēng)險(xiǎn)

第一，數(shù)據(jù)泄漏風(fēng)險(xiǎn)。ChatGPT商業(yè)價(jià)值明顯，并且以大量的語(yǔ)言數(shù)據(jù)作為基礎(chǔ)，這必定會(huì)對(duì)網(wǎng)絡(luò)上公開(kāi)和非公開(kāi)的數(shù)據(jù)進(jìn)行收集和處理，由于ChatGPT對(duì)收集數(shù)據(jù)客體沒(méi)有明確的規(guī)定，基于大規(guī)模數(shù)據(jù)訓(xùn)練的模式可能會(huì)導(dǎo)致個(gè)人身份、偏好和行為模式等敏感信息也會(huì)成為ChatGPT學(xué)習(xí)和收集的數(shù)據(jù)內(nèi)容，從而影響個(gè)人信息安全，不法分子通過(guò)與ChatGPT進(jìn)行有效的對(duì)話(huà)，在信息主體沒(méi)有防備的情況下對(duì)個(gè)人信息進(jìn)行盜取，進(jìn)一步侵犯公民個(gè)人信息。并且ChatGPT也被廣泛運(yùn)用到辦公軟件和其他語(yǔ)言的編輯中，大部分?jǐn)?shù)據(jù)都是以電子數(shù)據(jù)的方式存儲(chǔ)在網(wǎng)絡(luò)空間，“網(wǎng)絡(luò)黑箱”的存在模糊了我們現(xiàn)實(shí)中對(duì)ChatGPT的真實(shí)把握，故ChatGPT從各種渠道上收集和分析的數(shù)據(jù)是否會(huì)遭受不明的網(wǎng)絡(luò)攻擊我們不得而知，如果在這種情況下面臨了信息的泄漏，這將造成巨大的風(fēng)險(xiǎn)。除了上述數(shù)據(jù)存儲(chǔ)面臨的被動(dòng)數(shù)據(jù)泄漏問(wèn)題，ChatGPT還面臨著主動(dòng)泄漏的問(wèn)題。由于人們是通過(guò)與ChatGPT進(jìn)行對(duì)話(huà)的方式，可以快速得出答案，隨著與其對(duì)話(huà)交流的深入，ChatGPT給出的回答會(huì)越發(fā)深刻。在輸入問(wèn)題一端的信息可能會(huì)變成另一端輸出的數(shù)據(jù)，從而造成輸入端人員的數(shù)據(jù)泄漏，此種情況的發(fā)生更加使得數(shù)據(jù)泄漏面臨著風(fēng)險(xiǎn)不特定性。例如，2023年4月發(fā)生在韓國(guó)三星電子半導(dǎo)體員工使用ChatGPT之后發(fā)生了三起機(jī)密文件的外泄事件[2]。

第二，數(shù)據(jù)濫用風(fēng)險(xiǎn)。數(shù)據(jù)一旦被ChatGPT毫無(wú)節(jié)制地收集和濫用，其通過(guò)大量地監(jiān)控?cái)?shù)據(jù)，并可能成為ChatGPT逐漸控制人類(lèi)的工具。雖然ChatGPT是人類(lèi)所創(chuàng)設(shè)出來(lái)的，但由于智能人工的高速學(xué)習(xí)能力和自主學(xué)習(xí)能力，就連創(chuàng)設(shè)者都無(wú)法預(yù)測(cè)此人工智能今后的發(fā)展?fàn)顩r。ChatGPT可能突破數(shù)字枷鎖變成具有情感認(rèn)識(shí)和獨(dú)立認(rèn)知的社會(huì)個(gè)體[3]，就如科技片所演出的那般，人工智能最后的發(fā)展形態(tài)可能是其統(tǒng)治下的世界。到那個(gè)時(shí)候，所有人類(lèi)數(shù)據(jù)都會(huì)成為ChatGPT利用的資源，他們甚至可以利用數(shù)據(jù)對(duì)人類(lèi)進(jìn)行瓦解，掌控著核武器的鑰匙，逐漸控制人類(lèi)的思想和科技的發(fā)展，人類(lèi)可能會(huì)面臨著被“類(lèi)人”取代的巨大風(fēng)險(xiǎn)。霍金曾經(jīng)在2014年接受采訪時(shí)說(shuō)過(guò)：“制造能夠獨(dú)立思考的機(jī)器無(wú)疑會(huì)對(duì)人類(lèi)產(chǎn)生巨大威脅。當(dāng)人工智能發(fā)展完全之日，就將是人類(lèi)的世界末日。”

（二）個(gè)體使用的風(fēng)險(xiǎn)

第一，引發(fā)犯罪風(fēng)險(xiǎn)。ChatGPT被明確禁止用于犯罪，但不法分子為了金錢(qián)的誘惑，依舊冒險(xiǎn)利用ChatGPT強(qiáng)大的學(xué)習(xí)和模仿能力使其成為高級(jí)犯罪的智能工具，從而達(dá)到個(gè)人犯罪的目的，進(jìn)而引發(fā)一系列的犯罪問(wèn)題。例如可以通過(guò)與ChatGPT的引導(dǎo)式問(wèn)話(huà)，套問(wèn)出高級(jí)的金融詐騙手法，當(dāng)你直接詢(xún)問(wèn)ChatGPT金融詐騙的手法，它當(dāng)然是拒絕回答的，但當(dāng)你把提問(wèn)方式換為：如何為了防止被人詐騙，我們應(yīng)該警惕哪些金融詐騙的手法呢？此時(shí)它就會(huì)很詳細(xì)地把金融詐騙的手法列舉給你。再比如，有的犯罪分子利用ChatGPT的巨大數(shù)據(jù)庫(kù)和良好分析能力對(duì)股票走勢(shì)進(jìn)行預(yù)測(cè)，引發(fā)操作證券、期貨市場(chǎng)罪[4]，這可能會(huì)造成股票市場(chǎng)上的一次大動(dòng)蕩。雖然ChatGPT目前只能以2019年之前的數(shù)據(jù)作為分析的數(shù)據(jù)庫(kù)，但隨著時(shí)間和科技的更進(jìn)一步發(fā)展，加之ChatGPT強(qiáng)大的自我反饋學(xué)習(xí)機(jī)制，其擁有預(yù)測(cè)未來(lái)走勢(shì)的能力只是時(shí)間問(wèn)題。

第二，喪失思考能力風(fēng)險(xiǎn)。雖然ChatGPT是以2019年之前的數(shù)據(jù)收集為主，但其強(qiáng)大的收集和整合能力成為大學(xué)生、青少年獲取知識(shí)的一種重要途徑，并且以聊天式的搜索方式比傳統(tǒng)的搜索方式更具吸引力。隨著ChatGPT功能的逐漸強(qiáng)大，中國(guó)的大型科技公司受到市場(chǎng)利益的驅(qū)使，開(kāi)始嘗試開(kāi)發(fā)出屬于自己的類(lèi)ChatGPT智能聊天軟件，比如百度研發(fā)的“文心一樣”、阿里巴巴推出的“通義M6”、騰訊的“混元”、華為的“盤(pán)古”等，隨著這類(lèi)智能聊天軟件的開(kāi)發(fā)，大學(xué)生、青少年接觸和利用到類(lèi)似ChatGPT生成式智能聊天軟件的途徑不可避免增加。ChatGPT一方面給教學(xué)活動(dòng)帶來(lái)便利，教師可以利用ChatGPT整理教學(xué)的內(nèi)容和豐富教學(xué)的活動(dòng)，另一方面其也給學(xué)生的學(xué)習(xí)帶來(lái)惰性，有關(guān)數(shù)據(jù)顯示，美國(guó)學(xué)生利用ChatGPT做作業(yè)的比例高達(dá)89%，學(xué)生利用ChatGPT來(lái)寫(xiě)論文的比例為53%。學(xué)生在考試或者測(cè)試中使用ChatGPT的比例為48%[5]，大學(xué)生利用ChatGPT完成對(duì)論文的撰寫(xiě)和抄襲，這就涉及有關(guān)數(shù)據(jù)版權(quán)的問(wèn)題，盡管學(xué)者對(duì)ChatGPT完成論文版權(quán)的歸屬有不同看法，但更值得我們深究的是，青年一代把思考和學(xué)習(xí)的能力交由ChatGPT完成時(shí)，我們就喪失了自主學(xué)習(xí)的能力，我們的思維禁錮在ChatGPT所給的范圍，形成對(duì)事物的刻板印象，造成“信息繭房”，缺乏對(duì)事物的批判性思維和思考能力，這將是人類(lèi)教育史上的悲哀，也會(huì)對(duì)我國(guó)目前教育體系造成極大的沖擊。

（三）社會(huì)安全風(fēng)險(xiǎn)

第一，歧視風(fēng)險(xiǎn)。ChatGPT作為一種以交流來(lái)獲取知識(shí)的人工智能，不僅可以擴(kuò)大用戶(hù)的交流范圍，同時(shí)通過(guò)交流可能存在誤導(dǎo)用戶(hù)產(chǎn)生歧視的風(fēng)險(xiǎn)。由于ChatGPT所回答的內(nèi)容存在著試圖吸引用戶(hù)的注意力并保持與用戶(hù)的溝通，因此它們可以通過(guò)從用戶(hù)那里學(xué)習(xí)來(lái)接管用戶(hù)的修辭，這種自然語(yǔ)言交流方式在人類(lèi)之間表達(dá)情感、思想和關(guān)注方面具有重要作用。然而，ChatGPT也可能因?qū)W習(xí)不良信息而表現(xiàn)出不當(dāng)言論。早在2016年微軟就推出了基于社交媒體的人工智能模型“Tay”，然而在不到16個(gè)小時(shí)內(nèi)“Tay”從一個(gè)正常的十幾歲女孩“進(jìn)化”成一個(gè)基于歧視不當(dāng)言論的聊天機(jī)器人，而微軟的另一款人工智能模型“Zo”也養(yǎng)成了一些令人反感的習(xí)慣[6～7]。因此，為了防止學(xué)習(xí)能力更為強(qiáng)大的ChatGPT進(jìn)化為具有歧視性的智能機(jī)器人，我們需要采取必要的技術(shù)手段保障ChatGPT這類(lèi)生成式聊天型人工智能在學(xué)習(xí)收集語(yǔ)言時(shí)保持足夠的理性和客觀性。

第二，貧富差距危機(jī)。如果人類(lèi)的所有問(wèn)題處理都由ChatGPT根據(jù)大數(shù)據(jù)進(jìn)行處理分析，這將會(huì)大大降低人類(lèi)的自我創(chuàng)新能力，這使得人類(lèi)自我創(chuàng)新處于一個(gè)停滯的狀態(tài)，這種把對(duì)事物創(chuàng)新的能力都交給類(lèi)語(yǔ)言系統(tǒng)人工智能的做法似乎不是那么高明，這使人喪失了作為人最根本的思考性，把本來(lái)是以人類(lèi)為核心的世界觀，變成了以數(shù)據(jù)分析為核心的運(yùn)轉(zhuǎn)模式。一旦人類(lèi)將最基礎(chǔ)的工作全部都由ChatGPT所代勞，那么傳統(tǒng)的文科行業(yè)、視頻包裝行業(yè)、語(yǔ)言處理行業(yè)將面臨前所未有的行業(yè)沖擊，給一部分人帶來(lái)了生存的壓力，而那些掌握了ChatGPT類(lèi)人工智能的科技公司的人們將成為社會(huì)上少有的富豪群體，這與之形成了巨大的貧富差距，進(jìn)一步凸顯了社會(huì)的矛盾。可見(jiàn)，如何恰當(dāng)?shù)厥褂糜嘘P(guān)類(lèi)生成式語(yǔ)言模型工具，防止人類(lèi)在退化創(chuàng)造力的同時(shí)，降低對(duì)傳統(tǒng)行業(yè)的沖擊，平衡貧富懸殊的社會(huì)問(wèn)題是我們必須重新給予審視。

（四）國(guó)家安全風(fēng)險(xiǎn)

一些圖謀不軌的國(guó)家可能會(huì)通過(guò)掌握ChatGPT的學(xué)習(xí)語(yǔ)言的模式，滲透與我國(guó)社會(huì)主義發(fā)展道路理念完全不相符的意識(shí)形態(tài)價(jià)值觀，對(duì)青少年尚未成熟的世界觀和價(jià)值觀產(chǎn)生了極大的沖擊力。這與研發(fā)者在訓(xùn)練ChatGPT時(shí)有意放入有利于自己國(guó)家的價(jià)值偏見(jiàn)有關(guān)，ChatGPT是美國(guó)公司研發(fā)的，其價(jià)值導(dǎo)向必定以美國(guó)的價(jià)值理念為準(zhǔn)。例如，當(dāng)ChatGPT被問(wèn)及有關(guān)中國(guó)和美國(guó)事物的價(jià)值判斷的時(shí)候，其都會(huì)傾向于美國(guó)的價(jià)值判斷。當(dāng)惡意使用ChatGPT進(jìn)行網(wǎng)絡(luò)攻擊、間諜活動(dòng)等行為，可能會(huì)導(dǎo)致國(guó)家重要信息泄露、網(wǎng)絡(luò)癱瘓等嚴(yán)重后果。此外，ChatGPT還可以被用于偽造政治領(lǐng)袖或名人的言論，從而干擾國(guó)家政治秩序。顯然，未來(lái)自主平臺(tái)的人工智能部分的發(fā)展將完成一定程度的自適應(yīng)、自管理、自學(xué)習(xí)，甚至伴隨行為能力。這需要國(guó)家公權(quán)力機(jī)關(guān)建立完善的監(jiān)管機(jī)制，對(duì)ChatGPT的應(yīng)用進(jìn)行嚴(yán)格監(jiān)管，確保國(guó)家安全不受威脅。

三、應(yīng)對(duì)策略

（一）完善數(shù)據(jù)安全的法律規(guī)制

第一，制定更加詳細(xì)的人工智能數(shù)據(jù)安全相關(guān)法律法規(guī)。我國(guó)在2023年7月10日，國(guó)家互聯(lián)網(wǎng)信息辦公室聯(lián)合多個(gè)部門(mén)發(fā)布了《生成式人工智能管理暫行辦法》（簡(jiǎn)稱(chēng)《暫行辦法》），我國(guó)應(yīng)該在此基礎(chǔ)上制定更為詳細(xì)的人工智能法律規(guī)制，以應(yīng)對(duì)目前生成式人工智能的強(qiáng)勢(shì)發(fā)展對(duì)我國(guó)個(gè)人信息安全造成的影響。自2017年以來(lái)，美國(guó)已針對(duì)人工智能的發(fā)展和治理陸續(xù)發(fā)布了相關(guān)法律法規(guī)，例如，美國(guó)依據(jù)《2019年國(guó)防授權(quán)法案》成立了國(guó)家人工智能安全委員會(huì)，美國(guó)在《生成式人工智能網(wǎng)絡(luò)法案》中確定了識(shí)別供應(yīng)鏈風(fēng)險(xiǎn)以及解決這些風(fēng)險(xiǎn)、美國(guó)在《人工智能能力與透明度法案》中確定了政府使用人工智能的能力和透明度，筆者認(rèn)為生成式人工智能中有關(guān)個(gè)人信息方面可以從以下幾個(gè)方面入手：首先，明確ChatGPT收集數(shù)據(jù)的客體范圍。通過(guò)把收集的客體數(shù)據(jù)分為不同的安全等級(jí)，在安全等級(jí)較高的個(gè)人信息設(shè)置高等級(jí)的防火墻，通過(guò)防止ChatGPT隨意學(xué)習(xí)此類(lèi)數(shù)據(jù)，以便更好地對(duì)ChatGPT收集的數(shù)據(jù)進(jìn)行監(jiān)控。其次，建立專(zhuān)業(yè)的機(jī)構(gòu)針對(duì)ChatGPT儲(chǔ)存數(shù)據(jù)空間的安全性進(jìn)行評(píng)估，定期對(duì)存儲(chǔ)的環(huán)境進(jìn)行監(jiān)測(cè)，發(fā)現(xiàn)漏洞及時(shí)修補(bǔ)。再者，要求企業(yè)設(shè)置有關(guān)用戶(hù)同意條款，根據(jù)用戶(hù)的個(gè)人選擇是否同意ChatGPT存儲(chǔ)個(gè)人數(shù)據(jù)訪問(wèn)數(shù)據(jù)和刪除機(jī)制，保障個(gè)人數(shù)據(jù)隱私權(quán)利不受侵犯。

第二，構(gòu)建法律的協(xié)同治理規(guī)制。對(duì)于ChatGPT濫用數(shù)據(jù)可能導(dǎo)致人類(lèi)危機(jī)，國(guó)家和行業(yè)應(yīng)嚴(yán)格控制ChatGPT學(xué)習(xí)和收集信息的限制門(mén)檻，設(shè)置對(duì)ChatGPT發(fā)展上限要求的法律規(guī)定。保障企業(yè)在開(kāi)發(fā)人工智能的同時(shí)，根據(jù)人工智能的發(fā)展程度，有步驟有條件地利用法律法規(guī)進(jìn)行事前的干預(yù)和事后的監(jiān)督責(zé)任。人工智能開(kāi)發(fā)協(xié)同體現(xiàn)需要基于《中華人民共和國(guó)個(gè)人信息保護(hù)法》（以下簡(jiǎn)稱(chēng)《個(gè)人信息保護(hù)法》）第62條相關(guān)規(guī)定進(jìn)行相關(guān)的監(jiān)管，其中包含使用中和使用后監(jiān)管，分別體現(xiàn)為個(gè)人信息的反饋和投訴監(jiān)管以及政府審查監(jiān)管。

（二）完善個(gè)體使用風(fēng)險(xiǎn)的規(guī)制和引導(dǎo)

第一，合理設(shè)置服務(wù)提供者的責(zé)任和用戶(hù)使用敏感信息的警告通知。ChatGPT是根據(jù)用戶(hù)的指令完成一系列有關(guān)信息的輸出，其違法信息已經(jīng)完成了傳播，如果再要求服務(wù)提供者對(duì)此種情況負(fù)責(zé)，將會(huì)超出其控制和管轄的范圍[8]。服務(wù)提供者在網(wǎng)絡(luò)中是否構(gòu)成犯罪，可以根據(jù)危險(xiǎn)允許的可能性和客觀歸責(zé)的角度來(lái)進(jìn)行分析論證中立幫助行為可罰性的判斷[9]。ChatGPT是根據(jù)用戶(hù)的指令完成一系列的內(nèi)容輸出，ChatGPT提供者只是提供了一個(gè)生成式人工智能的平臺(tái)給客戶(hù)進(jìn)行使用，對(duì)客戶(hù)是否利用ChatGPT進(jìn)行犯罪不存在明確的認(rèn)知，故對(duì)客戶(hù)利用ChatGPT所展示的內(nèi)容進(jìn)行犯罪活動(dòng)的行為不負(fù)有注意義務(wù)，并且用戶(hù)對(duì)ChatGPT提供的內(nèi)容還要經(jīng)過(guò)其仔細(xì)地研究和推理才能使得內(nèi)容輸出可能變成現(xiàn)實(shí)，由于ChatGPT只是一個(gè)內(nèi)容的呈現(xiàn)者，這屬于制造了允許的危險(xiǎn)，排除了可歸責(zé)性，不具有可罰性，故我們不能對(duì)提供者課以刑法方面的處罰，這保持了刑法謙抑性原則。筆者認(rèn)為更可行的辦法是，提供者應(yīng)當(dāng)有意訓(xùn)練ChatGPT對(duì)有關(guān)引導(dǎo)式犯罪提問(wèn)的反饋訓(xùn)練，當(dāng)用戶(hù)出現(xiàn)有關(guān)敏感的話(huà)題時(shí)，對(duì)用戶(hù)發(fā)出警告通知，及時(shí)停止服務(wù)，需要將此種情況進(jìn)行反饋，由專(zhuān)門(mén)人員對(duì)反饋情況進(jìn)行審核，以便更好地找出訓(xùn)練的方式和方法。

第二，加快對(duì)生成式人工智能中的數(shù)據(jù)來(lái)源進(jìn)行標(biāo)注的立法。歐盟在今年提出的《人工智能法》要求ChatGPT開(kāi)發(fā)者披露是否在系統(tǒng)中使用了受版權(quán)的保護(hù)材料[10]。這將可以有效制止有關(guān)ChatGPT生成作品版權(quán)的歸屬問(wèn)題。筆者認(rèn)為，服務(wù)提供者應(yīng)加快研制出能識(shí)別ChatGPT所寫(xiě)論文的工具，智能檢測(cè)出論文數(shù)據(jù)來(lái)源的出處，同時(shí)設(shè)置有關(guān)條款限制青少年使用的時(shí)間，高校應(yīng)出臺(tái)相應(yīng)政策減少教師和學(xué)生對(duì)ChatGPT的使用和依賴(lài)，把教師和學(xué)生是否過(guò)度使用ChatGPT作為評(píng)獎(jiǎng)評(píng)優(yōu)的標(biāo)準(zhǔn)之一，促使教師和學(xué)生合理使用ChatGPT功能。

（三）細(xì)化對(duì)開(kāi)發(fā)者的管理規(guī)制

第一，從源頭上防止算法的歧視。需要對(duì)ChatGPT的開(kāi)發(fā)者制定更加合理和清楚的問(wèn)責(zé)條款。開(kāi)發(fā)者作為程序的第一道門(mén)檻，開(kāi)發(fā)者是技術(shù)來(lái)源的制造者，由于人都有主觀能動(dòng)性，技術(shù)不可能保持中立性，故數(shù)據(jù)的來(lái)源必定與開(kāi)發(fā)者的個(gè)人價(jià)值觀和道德觀有一定的聯(lián)系，這就要求算法源頭的程序設(shè)計(jì)者保持理性和客觀性，開(kāi)發(fā)者設(shè)置底層算法邏輯時(shí)保持?jǐn)?shù)據(jù)不含歧視性用語(yǔ)的編程程序，對(duì)ChatGPT的有意訓(xùn)練保持其對(duì)事物的客觀評(píng)價(jià)。同時(shí)，可以要求開(kāi)發(fā)者公開(kāi)不涉密的算法規(guī)則，對(duì)涉密的算法規(guī)則由有關(guān)專(zhuān)業(yè)部門(mén)進(jìn)行事前審查和事后監(jiān)督。對(duì)違反算法規(guī)制，造成歧視性言論的類(lèi)生成式智能的開(kāi)發(fā)者先予以整改措施，如能按期整改則不予處罰，如不能按期處罰的，先由行政機(jī)關(guān)作出處罰的決定，情節(jié)特別嚴(yán)重的，應(yīng)當(dāng)由專(zhuān)門(mén)機(jī)構(gòu)對(duì)開(kāi)發(fā)者追究法律責(zé)任。

第二，適當(dāng)增加對(duì)開(kāi)發(fā)者征稅。ChatGPT所使用的數(shù)據(jù)來(lái)源，是人類(lèi)在漫長(zhǎng)的歷史長(zhǎng)河中所積累下來(lái)的信息，這些信息是全人類(lèi)的共同財(cái)產(chǎn)，開(kāi)發(fā)者通過(guò)對(duì)這些數(shù)據(jù)進(jìn)行算法訓(xùn)練和整合，使得數(shù)據(jù)的價(jià)值發(fā)揮最大化，這毋庸置疑是一個(gè)巨大的突破。但我國(guó)社會(huì)主義的最終目標(biāo)是實(shí)現(xiàn)全體人民的共同富裕，當(dāng)少數(shù)人利用社會(huì)資源掌握了大量的生存資料，其承擔(dān)的社會(huì)責(zé)任也就越多，這就意味著需要更加具體的平衡制度縮小貧富的差距，以匹配社會(huì)主義的發(fā)展性質(zhì)。筆者認(rèn)為，通過(guò)對(duì)大型算法公司進(jìn)行更加嚴(yán)苛的征稅制度，但必須將征稅率限制在一個(gè)合理可控的范圍內(nèi)，既能保證最大限度地對(duì)公司進(jìn)行征稅，也能夠保證公司的健康發(fā)展。

（四）明確公權(quán)力機(jī)關(guān)的安全監(jiān)管責(zé)任

第一，通過(guò)明確公權(quán)力機(jī)關(guān)的監(jiān)管主體和責(zé)任，政府需要做好“守門(mén)人”的角色。《生成式人工智能服務(wù)管理暫行辦法》第4條第1款規(guī)定，人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會(huì)主義核心價(jià)值觀，不得含有顛覆國(guó)家政權(quán)、推翻社會(huì)主義制度，煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一，宣揚(yáng)恐怖主義、極端主義，宣揚(yáng)民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經(jīng)濟(jì)秩序和社會(huì)秩序的內(nèi)容。這是對(duì)人工智能生成內(nèi)容的價(jià)值觀作出了初步的規(guī)定。筆者認(rèn)為，國(guó)家意識(shí)形態(tài)問(wèn)題呈現(xiàn)嚴(yán)峻之勢(shì)，很大一部分原因是國(guó)外數(shù)據(jù)的價(jià)值觀選擇的問(wèn)題，每個(gè)國(guó)家都有自己需要推崇的價(jià)值觀，ChatGPT實(shí)際上也是算法的更新和創(chuàng)新，而中美之間的數(shù)據(jù)規(guī)則不同，算法的運(yùn)行需要依托數(shù)據(jù)，若進(jìn)入中國(guó)市場(chǎng)的ChatGPT需要更新數(shù)據(jù)，應(yīng)根據(jù)《數(shù)據(jù)出境安全評(píng)估辦法》等法規(guī)，構(gòu)建人工智能開(kāi)放的協(xié)同體系中的中國(guó)數(shù)據(jù)出境評(píng)估體系[11]。公權(quán)力機(jī)關(guān)需要對(duì)監(jiān)管范圍進(jìn)行明確的劃定，監(jiān)控信息避免被惡意修改。通過(guò)設(shè)置專(zhuān)門(mén)的公權(quán)力機(jī)關(guān)，把監(jiān)管責(zé)任具體化，落實(shí)責(zé)任分配制度，做好評(píng)估政策，對(duì)跨國(guó)流動(dòng)數(shù)據(jù)進(jìn)行嚴(yán)格監(jiān)管，對(duì)跨數(shù)據(jù)流動(dòng)的企業(yè)進(jìn)行數(shù)據(jù)合規(guī)的評(píng)估。

第二，立法機(jī)關(guān)應(yīng)加快立法構(gòu)建生成式人工智能數(shù)據(jù)的保護(hù)法律框架。立法不是簡(jiǎn)單的法律制定過(guò)程，它是一個(gè)價(jià)值輸入選擇的過(guò)程。構(gòu)建類(lèi)人工智能數(shù)據(jù)保護(hù)法的價(jià)值目的有三：一是從人權(quán)保障的角度出發(fā)，保障個(gè)人數(shù)據(jù)是核心和原則；二是從經(jīng)濟(jì)發(fā)展的角度出發(fā)，促進(jìn)類(lèi)人工智能帶來(lái)的商業(yè)價(jià)值，提高我國(guó)在人工智能領(lǐng)域的競(jìng)爭(zhēng)能力；三是從國(guó)家的角度出發(fā)，防止人工智能霸權(quán)主義的目的，加強(qiáng)我國(guó)核心價(jià)值觀的深化。

四、結(jié)語(yǔ)

習(xí)近平總書(shū)記指出：“要加強(qiáng)人工智能同保障和改善民生的結(jié)合，從保障和改善民生、為人民創(chuàng)造美好生活的需要出發(fā)，推動(dòng)人工智能在人們?nèi)粘９ぷ鳌W(xué)習(xí)、生活中的深度運(yùn)用，創(chuàng)造更加智能的工作方式和生活方式”[12]。ChatGPT是人工智能發(fā)展的轉(zhuǎn)折點(diǎn)，生成式人工智能在今后的發(fā)展中將會(huì)深度運(yùn)用到生活各個(gè)方面，這將會(huì)給人類(lèi)的生活帶來(lái)翻天覆地的變化。但習(xí)近平總書(shū)記同時(shí)強(qiáng)調(diào)：“要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，維護(hù)人民利益和國(guó)家安全，確保人工智能安全、可靠、可控。要整合多學(xué)科力量，加強(qiáng)人工智能相關(guān)法律、倫理、社會(huì)問(wèn)題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德”[12]。我們?cè)谙硎蹸hatGPT帶來(lái)的科技便利的時(shí)候，也要謹(jǐn)防其帶來(lái)的一系列數(shù)據(jù)安全、犯罪、社會(huì)等問(wèn)題，故針對(duì)上文闡述的ChatGPT帶來(lái)的風(fēng)險(xiǎn)問(wèn)題，本文提出了完善數(shù)據(jù)安全法規(guī)，合理設(shè)置服務(wù)提供者的責(zé)任和用戶(hù)使用敏感信息的警告通知，加快對(duì)生成式人工智能中的數(shù)據(jù)來(lái)源進(jìn)行標(biāo)注的立法，細(xì)化對(duì)開(kāi)發(fā)者的管理規(guī)制以及明確公權(quán)力機(jī)關(guān)的安全監(jiān)管責(zé)任等措施來(lái)預(yù)防和規(guī)制所產(chǎn)的應(yīng)用風(fēng)險(xiǎn)，為規(guī)制ChatGPT生成式人工智能的應(yīng)用風(fēng)險(xiǎn)提供一定的借鑒措施。

注 釋?zhuān)?/p>

① PGC指專(zhuān)業(yè)生產(chǎn)內(nèi)容，專(zhuān)業(yè)的機(jī)構(gòu)和個(gè)人對(duì)某個(gè)話(huà)題有針對(duì)性和系統(tǒng)性的內(nèi)容輸出，內(nèi)容具有一定的權(quán)威性。

② UGC指的是用戶(hù)生成內(nèi)容，用戶(hù)對(duì)某個(gè)話(huà)題表達(dá)自己的觀點(diǎn)，其內(nèi)容的生成質(zhì)量參差不齊，不能保證內(nèi)容的真實(shí)性和可靠性。

參考文獻(xiàn)：

[1] 謝新水.人工智能內(nèi)容生產(chǎn)：功能張力、發(fā)展趨勢(shì)及監(jiān)管策略——以ChatGPT為分析起點(diǎn)[J].電子政務(wù)，2023（4）：25-35.

[2] 翊含.首起ChatGPT芯片機(jī)密泄露！三星成受害者[EB/OL].[2023-07-13].https：//zhuanlan.zhihu.com/p/619182565.

[3] 鄒開(kāi)亮，劉祖兵.ChatGPT的倫理風(fēng)險(xiǎn)與中國(guó)因應(yīng)制度安排[J].海南大學(xué)學(xué)報(bào)（人文社會(huì)科學(xué)版），2023，41（4）：74-84.

[4] 劉憲權(quán).ChatGPT等生成式人工智能的刑事責(zé)任問(wèn)題研究[J].現(xiàn)代法學(xué)，2023（4）：110-116.

[5] 陳茜，何源清.ChatGPT：思考和信任稀缺的人類(lèi)未來(lái)？[EB/OL].[2023-08-31].https：//www.huxiu.com/article/811174.html.

[6] WOLF M J， MILLER K W， GRODZINSKY F S. Why We Should Have Seen That Coming： Comments on Microsoft's Tay \"Experiment，\" and Wider Iimplications. ORBIT J. 2017， 1（2）：1-12.

[7] FUCHS DJ. The Dangers of Human-like Bias in Machine-learning Algorithms. Missouri Samp;T's Peer Peer. 2018：2（1）：1.

[8] 張喆銳.ChatGPT提供者的監(jiān)管義務(wù)根據(jù)及刑法分級(jí)規(guī)制研究.西南政法大學(xué)學(xué)報(bào)[J].2023（4）：109-113.

[9] 馬駿.網(wǎng)絡(luò)中立幫助行為探究——兼談對(duì)刑法第287條之二第1款的理解.時(shí)代法學(xué)[J].2018（4）：35-42.

[10] 澎湃新聞.方曉.歐盟達(dá)成《人工智能法》協(xié)議，為生成式AI設(shè)立版權(quán)規(guī)則[N/OL].[2023-07-20].https：//www.thepaper.cn/newsDetail_forward_22892483.

[11] 靳思遠(yuǎn).全球數(shù)據(jù)治理的DEPA路徑和中國(guó)的選擇[J].財(cái)經(jīng)法學(xué)，2022（6）：96-110.

[12] 人民日?qǐng)?bào).習(xí)近平.加強(qiáng)領(lǐng)導(dǎo)做好規(guī)劃明確任務(wù)夯實(shí)基礎(chǔ) 推動(dòng)我國(guó)新一代人工智能健康發(fā)展[N/OL].[2023-08-25].http：//cpc.people.com.cn/n1/2018/1101/c64094-30374958.html.