生成式人工智能發展的風險與法律規制

摘要：生成式人工智能技術是一個快速發展的技術領域，是一種利用人工智能技術自動生成內容的新型生產方式。基于大模型、大算力、訓練方法等多方面技術突破，生成性人工智能體現出全新的邏輯特點，亟須相應的全新的法律規范出臺。相比以往的人工智能技術，生成式人工智能體現出強人機交互、強語料依賴等重要特征，在技術發展與風險控制兩方面均提出新的問題與挑戰，生成式人工智能所帶來的法律風險日益顯現，需要政府機關加強法治措施，保障數據合規，明確歸責主體，健全監管機制。

關鍵詞：生成式人工智能；ChatGPT；個人隱私權保護；法律規制

中圖分類號：D9文獻標識碼：Adoi：10.19311/j.cnki.16723198.2024.15.074

1問題的提出

生成式人工智能（generativeAI）泛指機器學習模型通過對大規模數據集的學習，不僅可以分析數據，還能夠自動生成新的圖像、視頻、文字和音頻等原創性內容。ChatGPT是生成式人工智能的代表應用，它具備擬人對話與文本生成的能力。

傳統人工智能的目標主要是進行分類或回歸（ClassificationorRegression），被稱為分析性人工智能。相比之下，生成式AI能夠創造新的內容。然而，這種技術要求模型在首先理解一些現有的數據（如文本指令textinstruction）然后生成新的內容。從這個角度來看，傳統AI可以被看作是現代生成式AI的基礎。在實踐中，生成式人工智能夠在分析原有數據基礎上創造新數據，具有擬主體的特點；同時由于生成式人工智能在繪畫、作曲、文學和對話等領域應用的大量出現與日漸普及，自動生成結果具有的刻板印象與文化偏見的問題也日益突顯，由此引發的倫理爭議等一系列問題對有效治理提出了要求。……