我國Chat GPT 類產品運行中的風險和風險規制問題研究

張晨曦 廣東理工學院馬克思主義學院

一、Chat GPT 類產品合規治理

(一)人工智能產品律法的發展歷程

2012 年影音圖像識別技術和識別精度的提升，讓人們能夠更加便捷地使用軟件將影音圖像進行深度合成，比如人工智能換臉技術，就是將一個人的肖像剪切到另外一個人的頭上。但換臉技術會產生一些道德倫理方面的問題，甚至會有不法分子利用其進行犯罪活動。我國目前對于人工智能這一方面的法規只有一些零星的規定，未能形成系統性的法律法規體系，導致犯罪分子的定罪較為困難。下面五部法規為我國目前對人工智能監管方面進行合規治理的依據：

1.《網絡音頻信息服務管理規定》由網信辦、文旅部和廣電總局聯合發布，2020 年1 月1 日起實施。該規定第十條(具有媒體屬性或者社會動員功能的音視頻信息服務)和第十一條(生成內容標識和不得發布虛假信息)對人工智能生成內容的音頻方面做出了規定。

2.《網絡信息內容生態治理規定》由網信辦發布，2020年3 月1 日起實施。該規定第二十三條指出，網絡信息內容服務使用者和網絡信息內容生產者、網絡信息內容服務平臺不得利用深度學習、虛擬現實等新技術新應用從事法律、行政法規禁止的活動。該規定對網絡信息生成內容生態進行了約束，人工智能利用深度學習、機器學習和網絡虛擬技術所生成的內容都要符合相關主管部門的規定。

3.《民法典》第一千零一十九條規定，任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。《民法典》第一千零二十三條規定，對自然人聲音的保護，參照適用肖像權保護的有關規定。上述規定適用于人的肖像權和聲音的保護。

4.《互聯網信息服務算法推薦管理規定》由網信辦、公安部、工信部和市場監督管理總局聯合發布，2022 年3 月1 日起實施。該規定第二條、第九條和第十三條，均對合成內容做出了規定，特別是規范了算法的適用范疇。

5.《互聯網信息服務深度合成管理規定》由網信辦、工信部和公安部聯合發布，2023 年1 月10 日起實施。該文件對于深度合成服務和產品提出了全方位的合規要求，是我國當前人工智能內容以及人工智能發布平臺進行合規治理最核心的一個依據，也就是深度合成內容的一個管理規定。

(二)產品的牌照和備案

我國實行行業準入制度，在互聯網行業內，互聯網產品在上市的時候需要滿足基礎牌照的要求。我國的主管機關對于互聯網平臺的治理會提出的很高的一些要求，那么存在Chat GPT 類產品的平臺或者軟件運營者又都需要滿足哪些基礎的要求？另外，互聯網平臺一般除了主營業務之外，其他旁支業務也會不斷地進行擴大與發展，衍生出更多的業務線，但基礎要求的前提是其生成的內容是一些相對簡單的文字類的解釋，并且其問答的性質是能不具有文化屬性的，所以業務的升級，則又需要滿足哪些要求？

1.產品上線的基礎要求

(1)基礎牌照。人工智能學習所需要的內容和輸出的內容均屬于互聯網信息。按照《互聯網信息服務管理辦法》第七條從事經營性互聯網信息服務，應向電信管理機構或者國務院信息產業主管部門申請辦理互聯網信息服務增值電信業務經營許可證。Chat GPT 類產品則適用《電信業務分類目錄》B 類增值電信業務項下的B21(在線數據處理和交易處理業務)和B25(信息服務業務，包括信息發布平臺和遞送服務、信息檢索查詢服務、信息社區平臺服務、信息即時交互服務、信息保護和處理服務等)許可證。一個目的是在兩個監管機構存檔，讓他們知道這個網站誰在做，做什么，如何聯系；另一個目的則是為將來的業務發展預留空間。

(2)算法備案。人工智能的深度合成內容有清晰的規定，根據《互聯網信息服務深度合成管理規定》第十九條指出，具有輿論屬性和或社會動員能力的深度合成服務提供者，應該履行算法備案、變更、注銷手續。所以互聯網平臺只要具有社會輿論性質或是具有社會動員能力，產品上線以及運營都需要經過該規定進行備案。

(3)安全評估。在互聯網平臺上線產品前，除了需要遵守《數據安全法》《網絡安全法》《個人信息保護法》外，還需要遵循《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》第三條，聯網信息服務提供者應當依照本規定自行開展安全評估，并對評估結果負責。

綜上所述，我國互聯網平臺上線Chat GPT 類產品時，需要首先申請對應的互聯網信息服務增值電信業務經營許可證，其次是將算法進行備案，最后是根據三大法規及評估規定進行安全評估，均通過后方可上線產品。

2.業務升級的進階要求

(1)網絡文化經營許可證。在互聯網技術和媒體發展推動下，網絡文藝蓬勃發展，網絡文學、網絡影視、網絡綜藝、網絡比賽、網絡動漫、網絡音樂、短視頻等文化藝術類創作不斷迸發。如果Chat GPT 類產品的平臺進行了以盈利為目地的營業性互聯網文藝活動，向上網客戶收費或是網絡技術、廣告宣傳、冠名贊助等方法獲得權益，展出互聯網文化產品以及服務項目的主題活動，就需要辦理《網絡文化經營許可證》。

(2)網絡出版服務許可證。傳統的圖書和音像制品是以物質的形式存在，并且是通過出版社、報紙、期刊、唱片公司進行發行，具有版權，受到法律的保護。經過互聯網的發展，大部分圖書和音響制品不再需要通過其他渠道進行發行，直接上傳至平臺即可，載體從實物轉化成數據，需要獲取網絡出版的版權。所以Chat GPT 類產品的平臺發展不能缺少《網絡出版服務許可證》。

(3)信息網絡傳播視聽節目許可證。網絡視聽節目比網絡文化涵蓋面更廣，包括網絡劇、網絡電影、紀錄片、文藝、娛樂、科技、財經、體育、教育、原創試聽節目等。如今Chat GPT 的接收與輸出也在從圖文類正在向影像類發展，所以也需要《信息網絡傳播視聽節目許可證》來支撐其發展。該證在我國申請難度大，但含金量極高。

(4)互聯網新聞信息服務許可證。用戶在使用Chat GPT的時候會為其提供一些新聞事件的報導或是讓其輸出，相當于向社會公眾提供了互聯網的新聞信息服務，所以應當取得《互聯網新聞信息服務許可》，才可開展互聯網新聞信息服務活動。

(5)數據安全評估。Chat GPT 的本質是一個大的語言模型，之所以Chat GPT 能夠以人類自然語言的形式輸出，是因為它靠的是對于海量內容進行分析所得出來的人類語言的相關規則。因為有數據的交互，所以這里就涉及到數據安全的問題。用戶使用產品的時候，會遺留大量的個人信息，比如所填寫電話的實名信息、接入Chat GPT 時的網絡IP、個人語言習慣等。根據《網絡安全法》標準要求，需要分析網絡運營者相關活動存在的數據安全風險，并對其進行評估。

綜上所述，我國互聯網平臺Chat GPT 類產品業務升級時，應該根據拓展的業務類型，開具相應的資質許可證明及備案，并且進行數據的安全評估，方可繼續發展。

二、Chat GPT 類產品運營風險防控

Chat GPT 類產品主要包含兩個端口，一個是輸入端，另外一個是輸出端。輸入端包含兩種：第一種是用戶的交互型的輸入；第二種是爬蟲主動抓取網上的各種信息，是最主要的輸入來源。輸出端的輸出則為人工智能以自然語言文字或影音圖像為形式給用戶的反饋。Chat GPT 通過分析輸入端的信息進行信息檢索，使用爬蟲來抓取網絡上的各種信息數據，并對信息進行自然語言的加工，在輸出端輸出。比如，用戶詢問關于秦國的歷史問題，Chat GPT 將用戶輸入信息上傳至后端檢索關于秦國的發展歷程、相關事件、關鍵人物、時代典故等進行綜合分析，形成一個清晰完整的脈絡，用自然語言加工后輸出你所需要的回答。如果沒有這些基礎前提，是無法滿足用戶需求的。Chat GPT 不斷循環上述過程，將每次檢索的內容和用戶的反饋存入數據庫，從而達到學習的目的。我們主要探討的是以下兩點：輸入端通過爬蟲所抓取的內容所獲得信息，這個行為存在什么問題和運營風險？輸出端所輸出的內容是否存在侵權、違法信息所在？

(一)輸入端

輸入端通過用戶的交互型輸入從風險角度來分析，用戶把相關內容提供給供給Chat GPT類產品去進行學習知識，尤其是專業論文方面的知識，是一個比較好的方式，所以這種輸入方式風險較小。基于互聯網互聯、互通、公開的基礎理念，Robert 協議里面沒有明令禁止爬蟲抓取相關的規定，所以原則上搜索引擎就可以對數據(如：網絡上的文本數據、社交媒體數據、問答網站數據、新聞站數據、文學作品數據等)通過爬蟲抓取，建立共存共融的網絡生態環境。

上述理念雖然很好，但是這會出現一個互聯網平臺流量無法變現的問題，出現破壞互聯網生態的風險。常規的搜索引擎為互聯網平臺做信息定位，用戶通過搜索引擎的定位訪問互聯網平臺，為后者帶來流量。任何虛擬產業都需要有實體產業的支撐，實體產業通過互聯網平臺投放的大量廣告來增大銷售量，而后返利給互聯網平臺和搜索引擎，從而形成一種共存共融的產業鏈。但Chat GPT 類產品的出現打破了這條產業鏈，它通過爬蟲直接獲取互聯網平臺的數據，雖然通過搜索引擎進入了該網站，但是不會引導用戶進入其中。所以最終結果是搜索引擎無法引導真實的流量，實體產業無法通過互聯網平臺的廣告增加銷售量，最終導致該產業鏈的總資金減少，形成三者俱敗的局面。

輸入端除了上述的問題以外，往更深層次去探究其風險，互聯網平臺會因為無法獲取公共流量帶來的紅利，打破互聯網互聯、互通、公開的理念，封鎖自身的信息，搭建自己的信息孤島，最終破壞了互聯網生態。例如，QQ 和微信是同一個公司的兩款通訊類產品，他們之間的聯系緊密，只要是微信能夠使用的程序，無需額外的渠道去進行對接，直接在QQ 打開也能夠使用，反之亦然。但是微信和短視頻平臺卻無法做到，短視頻用戶想要分享視頻給微信用戶，短視頻用戶需要下載視頻或者微信用戶要打開相應的短視頻APP 才能夠觀看，也就是需要額外的渠道進行連接兩個平臺。這就是Chat GPT 類產品在運營中所存在的風險，讓信息孤島加快形成，大大降低了互聯網的傳輸效率，違背了互聯網互通有無的宗旨。

(二)輸出端

輸出端的問題主要圍繞其輸出的內容來開展。

第一，著作權侵權。Chat GPT 類產品使用的模式，一定是構成侵權的。這就涉及到后端的分析，也就是Chat GPT 抓取進行學習這個行為原則上會和后端結合在一起，并不是孤立的概念。如果從孤立的角度來分析，那就是其是否影響了轉換性的使用。比如某出版社將紙質書籍收錄進了書籍管理系統里面進行線上售賣，它是不構成侵權的，因為該出版社擁有該圖書的版權。但是Chat GPT 類產品在引用這些書籍的時候是沒有版權的，所以其輸出內容(文字、音頻、圖片、視頻)和方式會很大程度上決定它是否著作權侵權，這就是商業風險所在。

第二，不正當競爭。任何網站和平臺的運營都需要大量的資金投入進行開發，并且許多網站需要雇傭大量的創作者為網站創作內容，并且經過長時間的產出，才能穩定其發展。但是Chat GPT 只需要使用爬蟲，便可以極低的成本快速將其創作內容全部抓取，除了涉嫌侵犯著作權之外，還構成不正當競爭。

第三，個人信息侵權。基于個人信息保護法，信息主體可以行使遺忘權，要求相關平臺刪除已經被發布在網絡上有關自身不符的信息，以及此前收集的個人信息。Chat GPT 類產品是在你不知情的情況下將數據存放至數據庫，如果沒有關鍵詞檢索它是不會輸出相關的內容，所以難以界定是否侵犯該權力。

三、Chat GPT 類產品生成內容的法律保護

無論是Chat GPT 產品的研發者，還是用戶將其作為輔助工具去創作，過程都會進行勞動力的投入。我國法律進行保護的前提是具有勞動力價值的投入，無論是物質，還是精神層面損耗，它都需要有對等的等價物的概念，才能夠受到法律的保護。我們將圍繞這幾個關鍵問題展開論述：Chat GPT 類產品生成的文章、影音圖像等內容能否受到法律保護？Chat GPT 產品的本身是否受到法律保護？Chat GPT 產品的著作權人使用其進行創作，生成的內容是否歸屬于著作權人？

我國法律保護的是人的權力，而不是人工智能的權力。根據《著作權法實施條例》第二條規定，“著作權法所稱作品，是指文學、藝術和科學領域內具有獨創性并能以某種有形形式復制的智力成果”。該條例表明了著作權法保護的客體是自然人通過智慧勞動創作出具有獨創性的作品。人工智能雖然可以模擬人的智力活動進行創作，并且生成內容與自然人創作的作品大同小異，但是該創作是依賴于算法的機械運算，所以不能與人類智力勞動相提并論。綜上所述，Chat GPT類產品生成的內容不存在于法律保護的范疇之中。

Chat GPT 是人類智慧勞動所創造出來的產物，屬于計算機類軟件作品。根據《中華人民共和國著作權法》第三條規定，“本法所稱的作品，是指文學、藝術和科學領域內具有獨創性并能以一定形式表現的智力成果”。其中包含計算機軟件，所以只要是軟件的著作權人或者其受讓者，都享有軟件著作權的各項權利，也表明Chat GPT 產品本身受到法律保護。

Chat GPT 產品的著作權人使用其進行創作，不符合主客體屬性邏輯，生成的內容也并非創作者的主觀意志。Chat GPT 產品被軟件制作者創作出來，則有一個明確的主體與客體，制作者為主體創作了客體Chat GPT 產品。Chat GPT創作過程中再將其視為創作主體，這就意味著Chat GPT 同時具有了主體與客體屬性，形成了二元對立的局面，從而無法判斷是否符合法律法規。除此之外，按照著作權體系的基本觀點，獨創性應當反映作者個性、作者思想和情感的表達。從Chat GPT 的創作流程來看，Chat GPT 使用者只是發出指令，并未參與生成內容的形成，使用者并不一定知道最終生成內容是以什么，所以Chat GPT 所生成內并非創作者或者使用者思想、情感的表達。綜合來說，很難在現法律體系中處理涉Chat GPT類產品生成內容的相關問題。

Chat GPT 的誕生及其初步應用，表現出自然語言的大模型已經具備了人工智能生成內容(AIGC)面向通用型人工智能(AGI)的一些特征，在眾多行業領域有著廣泛的應用潛力，技術持續發展和社會廣泛運用已是大勢所趨，有潛力成為計算機領域最偉大的成就之一，并成為技術領域的重要力量。國內想要創造出Chat GPT 類產品到上線還有很長的路要走，但我們也要對未來保持審慎客觀的態度去面對它。