論生成式人工智能與國家創新體系的現實契合與應然互動

摘要：生成式人工智能作為信息技術的創新性成果，是優化國家創新體系建設的新引擎。從現實基礎來看，生成式人工智能參與國家創新體系優化建設是市場的選擇，能夠滿足創新體系高效管理、成果轉化的實踐需要。但是，由于生成式人工智能自身底層技術邏輯不完善、規范基礎缺位，其在嵌入國家創新體系優化的過程中極易衍生基本人權侵擾、意識形態扭曲、規范認定困難等技術制度風險。為進一步發揮生成式人工智能的正向價值，應當以數據安全和算法監管為著力點，搭建以核心共識和科技倫理為價值內核，以完善國內法規體系、對接國際貿易規則為外部保障的框架體系，發揮人才的主體作用，以技術要素整合調配創新資源，提升國家創新體系整體效能。

關鍵詞：生成式人工智能；國家創新體系；數據安全；思想異化；知識產權保護

中圖分類號：TP18;F124.3 文獻標識碼：A文章編號：1007-2101（2024）05-0052-10

在歷經農業革命、工業革命等人類社會的階段性變革之后，現代社會發展已經步入信息革命時代。作為信息革命時代的產物，人工智能因其技術優勢給人類社會的生產生活效率帶來了極大的提升。近段時間以來，ChatGPT的爆火在為人們帶來強人工智能希望的同時，也引發了人類社會對于人工智能的進一步討論。與弱人工智能相比，生成式人工智能（AIGC，Artificial Intelligence Generated Content）在算法設計和外在表現上更接近于自然人，這種技術特征也使其有機會有能力參與到個人、社會乃至國家發展的進程之中。黨的二十大報告指出：“堅持創新在我國現代化建設全局中的核心地位，健全新型舉國體制，提升國家創新體系整體效能，形成具有全球競爭力的開放創新生態。”[1]在全球化的時代背景下，任何國家獲得并保持國家競爭力，就需要不斷地反思和優化國家創新體系。[2]生成式人工智能如何作為有效工具嵌入我國的國家創新體系發展進程中，是理論與實踐兩個層面的重要議題。國家創新體系的發展完善既要充分發揮生成式人工智能的技術優勢，同時也要規避此類新興事物可能帶來的技術風險，“揚長避短qZJoei+N1PCL9krt/ncmPw==”是生成式人工智能應用于國家創新體系的必然要求。

在科技創新舉國體制的理論架構中，國家創新體系不是單一概念，而與市場經濟、社會治理、意識形態建設等領域密切相關。在數字時代，上述領域質效的提升需要以技術創新為依托，通過內部的組織形式和運行方式變革，以內部治理方式的優化帶動外部治理效能的全面提升。一方面，生成式人工智能以其技術優勢直接或間接提升了國家治理能力和創新能力。在數字政府建設領域，周智博指出，ChatGPT模型能夠通過深度對話增強數字政府的親民性，通過技術嵌入實現數字政府的高效性，通過算法融入推動數字政府的智慧性建設，進而提升數字政府的服務效能和治理水平［3］。在知識內容生產領域，張新新指出，生成式人工智能從知識生產格局、知識生產方式、知識生產范式三個維度闡述了其對知識內容生產領域的變革和創新，但是，規范依據的缺位也倒逼著作權保護體系的更新和完善［4］。另一方面，生成式人工智能因其技術漏洞或監管缺位等原因制約著國家創新體系的深度優化。在數字政府建設領域，樊博提到，ChatGPT的應用會引發虛假錯誤信息沖擊價值體系、責任主體模糊挑戰個人信息保護、數字鴻溝加劇主體地位不平等、技術瓶頸威脅信息安全等風險［5］。在意識形態治理領域，代金平、覃楊楊指出，在ChatGPT的應用過程中，資本邏輯和科技霸權的嵌入可能會導致意識形態引領乏力風險，“人機協同”的話語生產與多元化的話語選擇可能會削弱意識形態話語的深度和權威性，進而加大意識形態管理難度［6］。

基于此，筆者以國家創新體系建設為出發點，闡述以ChatGPT為代表的新一代生成式人工智能對提升國家創新能力、優化國家創新體系的關鍵效用和風險隱憂，從而在技術治理、理念建構、法律規制、產業發展、人才支撐等維度探討生成式人工智能的規制方向，實現技術要素對創新資源的優化配置，以期提升國家創新體系整體效能。

二、現實基礎：生成式人工智能與國家創新體系的需求契合度新一代生成式人工智能作為人工智能領域的前沿創新成果，既是國家創新體系進一步完善的產物，也能夠為國家創新體系優化提供助力。生成式人工智能隨著我國經濟環境的變化歷經了一系列發展，市場規模不斷擴大、科技創新能力不斷增強，與技術相關的投資規模也在不斷擴大[7]，這為生成式人工智能介入國家創新體系提供了現實基礎。

（一）發展契合：生成式人工智能是市場的選擇

技術創新是產業進化的根本動力。[8]生成式人工智能技術的發展推動著諸多領域的變革，表現在為傳統產業帶來技術創新以及伴隨新興產業而生的新的經濟發展動力。一方面，人工智能為傳統產業注入了強勁動力，推動著市場經濟的發展變革，這種推動和促進主要體現在生產和消費等社會再生產環節。首先在生產環節，人工智能的出現改變了傳統產業的生產模式。鑒于人工智能的數據化、智能性等特征，大量行業可在其數據統計和計算下產生新的智能生產場景。重復繁瑣的生產場景被智能化設備所取代，“智造”取代了制造，帶來了生產方式上的根本變革。其次在消費環節，人工智能的運用能夠更好地匹配需求，提升商品曝光度，通過提升市場的消費效率和需求推動傳統產業的發展變革。例如數字技術與傳統商業模式的結合大大促進了商業模式的內容創新，電商平臺、直播帶貨等通過大數據分析，能夠精準地識別用戶需求并進行智能化推薦，拓展了商品銷售渠道也提高了市場占有率。既能夠提升生產效率，同時也帶來生產與消費的雙重變革，對傳統經濟發展起到推動作用。

另一方面，人工智能技術的發展和完善還催生了新的經濟和產業形態[9]，為市場注入了新的強勁的發展動力，實現了產業市場“從無到有”的變革。其一，新興事物的出現往往帶來新的社會需求，人工智能的發展和完善為技術提供了新的運用場景，這將進一步激發多樣化的需求。多樣性的需求能夠拓展市場邊界，使市場不易飽和，同時也為中小型企業提供了生存空間，反過來進一步促進了市場的多樣性[10]，形成良性互動。其二，人工智能的發展還將進一步帶來技術自身的創新和變革。人工智能技術一直以提升人類的認知、感知能力為發展目的，在此過程中，智能程度的不斷提升以技術的不斷迭代更新為基礎。與此同時，異質性技術資源能夠使生產者在市場競爭中獲得獨特優勢，從而為其帶來更大的市場規模和效益，這種技術上的競爭也刺激和推動著生產者對智能技術進行更深程度的革新和完善，從而也推動著新產業的誕生。

（二）管理契合：生成式人工智能是高效的工具

改革開放以來，在政府主導扶持下由科研機構、高校、企業等各類創新主體與金融機構等創新參與者在各場域中所構筑的國家創新體系中，[11]各要素之間在開放、協同等方面還存在不同程度的失位與錯配問題，[12]進而制約著國家創新體系的優化與發展。以ChatGPT為代表的生成式人工智能的出現與應用表明，在大數據的強有力支撐下，人工智能在自然語言處理領域實現了重大飛躍，這些技術通過海量學習人類創造的內容，并根據指令進行總結優化，這種擬人化能力的智能產品將改變世界。[13]因此，在國家創新體系優化的過程中，要善于應用新一代生成式人工智能的技術優勢，正如2022年國務院發布的《關于加強數字政府建設的指導意見》所指出的“將數字技術廣泛應用于政府管理服務，推進政府治理流程優化、模式創新和履職能力提升，構建數字化、智能化的政府運行新形態”［14］。

將新一代生成式人工智能介入并充分應用于國家創新體系優化，將在以下三個方面帶來顯著的效率提升：一是在政府內部決策方面，AIGC具有強大的數據處理和分析能力，能夠從大量的政策文本、社會數據中提取出重要的信息，處理政府決策過程中所涉及的大量數據分析和模型預測等工作，從而協助政府制定更為合理和有效的政策。二是在政府公共服務方面，AIGC可以自動處理公民的咨詢和訴求，根據公民的需求和反饋，自動生成和優化服務流程，并預測可能的公共需求變化，進而提高政府公共服務的效率和質量。三是在社會創新支持方面，AIGC可以通過數據分析，獲取創新資源的分布和使用情況，分析經濟社會創新驅動的趨勢和挑戰，以協助政府制定更為有力的政策和措施，進而更好地支持社會創新。總體而言，新一代生成式人工智能通過其強大的數據處理、分析和預測能力，能夠協助政府更有效地進行內部決策、提供公共服務和支持社會創新，從而提升國家創新體系的效果。

（三）創新契合：生成式人工智能助力成果的轉化

創新成果轉化，其本質是把知識形態的研究成果轉變為現實生產力的重要過程。[15]優化國家創新體系，促進創新成果轉化，對于經濟持續健康發展、提高國家綜合競爭力、改善社會福祉以及推動科技進步等方面具有重要意義。黨的十九屆五中全會提出要面向“世界科技前沿”“經濟主戰場”“國家重大需求”和“人民生命健康”，加快建設科技強國，大幅提高科技成果轉移轉化成效。[16]在國家創新體系成果轉化過程中，新一代生成式人工智能能夠顯著地助力成果轉化效果。

首先，在國家戰略層面，生成式人工智能可以提升國家全局性、基本性決策和行動的科學性和有效性。AIGC可以根據國家發展目標和現實需求，通過大數據分析國內和國外經濟社會發展動態，自動生成國家戰略部署所需的發展報告、政策建議等內容，加強與相關部門的交流協作，破除“信息孤島”現象，實現動態優化和適應性調整，優化國家戰略制定過程，提供決策支持。其次，在產業發展層面，AIGC可以幫助支持企業優化生產過程，提升生產效率。AIGC能夠基于企業特點、行業發展動態、政策導向等因素，挖掘和分析海量數據，進而推動產業的持續發展和升級。最后在社會生活層面，AIGC可以為社會服務和文化創造活動提供技術便利。AIGC作為新一代人機交互的語言模型，能夠具有針對性地關注個人偏好，從而進行智能互動和引導，提升人們的生活質量。

三、風險憂思：生成式人工智能在推進國家創新體系中的潛在風險新一代生成式人工智能是指具備更高級別智能和創造性能力的人工智能系統。與傳統的人工智能系統相比，新一代生成式人工智能更加強大和靈活，能夠生成更加復雜、更具多樣化和創造性的內容。由其生產出來的數字化內容有助于在各個層面上推進國家創新體系的深度優化。但由于生成式人工智能的技術新穎性，其潛在的技術漏洞和法律空白還需進一步明確。

（一）以數據安全為代表的基本人權侵擾風險

1.從信息、數據到隱私的全面越級侵擾。以ChatGPT為代表的新一代生成式人工智能從創設之初就一直受到創新數據泄露嚴重和隱私保護不力的詬病。[17]原因在于，在創新數據濫用方面，以ChatGPT為代表的新一代生成式人工智能在創新數據利用環節存在創新數據應用的合規性風險和準確性風險。合規性風險，即與法律法規和倫理準則的不符合。由于AIGC的復雜性和自主性，其決策過程和行為可能難以預測和控制，從而可能違反現有的法律法規和倫理準則。AIGC需要大量的數據來進行學習和決策，但在數據收集和使用過程中可能造成個人隱私的泄露和濫用，這一過程可能會違反個人隱私和數據保護的法律要求。與此同時，如果AIGC使用的數據集存在偏差或不完整，可能會導致不公平的結果，排除某些群體的機會，增加社會不平等和歧視的風險。準確性風險，即指其生成內容的準確性和可靠性可能存在的問題。由于AIGC的復雜性和自主性，其生成的內容可能存在錯誤、虛假或誤導性的情況。AIGC在生成內容時可能受到數據偏差的影響，導致生成的內容不準確或有偏見。AIGC可能受到黑客或惡意用戶的攻擊和操縱，影響AIGC生成內容的準確性。

在算法黑箱中，基于創新數據存在的應用風險，數據的收集和使用往往缺乏監督，從而致使社會公共利益及國家利益遭受一定程度的損失。其一，創新數據應用缺乏監督可能對社會公共利益造成威脅。算法黑箱中數據的分析和決策過程可能存在偏見和歧視，例如，受數字基礎設施建設狀況、算法程序設計標準等因素的影響，數據集中可能忽視了對偏遠地區或數字弱勢群體的信息輸入，導致創新成果的應用地域和群體存在差異。其二，創新數據應用缺乏監督還可能影響國家數據安全。關鍵性的創新數據可能涉及國家戰略規劃和重大決策，若對其應用過程缺乏監督，可能會導致涉及國家機密的數據在跨境流通和應用過程中被泄露，進而威脅國家數據主權和數據安全，為部分國家剽竊我國創新成果提供可乘之機。

2.從技術遮蔽到算法支配的黑箱依賴風險。AIGC的生成過程通常被視為黑箱模型，即輸入和輸出之間的關系很難被直接觀察和理解。這是因為AIGC基于大規模的數據集和模型的訓練生成，而不是人類編寫的規則或邏輯。因此，AIGC的決策過程往往是數據和算法驅動的。同時，AIGC的運行過程通常需要大量的訓練數據和計算資源，涉及大規模的并行計算和優化算法，這使其運行過程變得非常復雜，導致AIGC的生成結果往往難以追溯和解釋。因此，算法輸入數據與輸出結果之間的具體關系無從得知，這對人類社會來說就是算法的黑箱，由此造成了以ChatGPT為代表的新一代生成式人工智能算法的不良支配和控制。

以ChatGPT為代表的新一代生成式人工智能的不良支配和控制主要體現為透明性過低、可解釋性不足兩個方面。其一，透明性問題。算法選取什么樣的數據庫，采取什么樣的標準進行運算，以及運算的具體邏輯都是人類無法洞悉的“隱層”。[18]AIGC的生成過程通常基于深度學習和神經網絡等復雜的模型和算法。這些模型具有大量的參數和層級結構，其決策過程變得非常復雜。由于AIGC的生成過程涉及大量的非線性計算和模式識別，其決策過程往往難以被人理解和解釋，也難以評估算法的準確性、公正性和可靠性，進而增加了算法濫用的風險。其二，可解釋性問題。AIGC的生成過程涉及大量的抽象概念和非直觀的特征表示。例如，在自然語言處理中，AIGC能夠學習到詞向量表示方法及其語義關聯，這些表示和關聯對人類來說并不直觀或易于解釋。因此，我們也很難追蹤和理解算法是如何生成結果的，導致監管機構和相關利益方無法準確評估算法的決策過程和結果，由此算法濫用的行為往往難以被監管和規制。AIGC的不透明性和不可解釋性也可能導致虛假信息的傳播和輿論操縱，惡意使用AIGC生成虛假的內容誤導和欺騙公眾，容易導致輿論的扭曲和社會的不穩定。

（二）以資本腐蝕為代表的意識形態風險

1.因工具便捷性造成創新能力削弱。以ChatGPT為代表的生成式人工智能基于強大的數據庫及先進算法，利用深度學習技術，通過大量的訓練能夠實現快速的文本生成、交互對話等功能，大幅提升了獲得信息的速度。但其自身的工具屬性導致過度依賴人工智能不利于國家創新體系的發展。一方面，生成式人工智能是基于算法的模仿性、縫合式創作，其學習內容局限于自然科學領域，對哲學、倫理等人文學科的抽象知識學習不足。現階段人工智能技術不能自主進行邏輯思考和主觀判斷，對于交互式對話中使用的生活語言和語言所涵括的邏輯思維不能進行及時反映［19］，導致其在對話中可能因誤解而給出錯誤的信息，從而限制創新思維的發散。另一方面，個體在生活、工作和學習中過度使用人工智能，會導致個體喪失學習的自主性，欠缺自主思考解決問題的能力。同時，個體在獲取信息時局限于特定的信息本身，而忽略了信息背后龐大的知識體系，導致個體知識深度和知識寬度發展受限。僅憑“冰山一角”的知識信息，個體無法從根本上理解問題的本質，無法創造性地提出新的解決辦法并發現新的研究方向，知識寬度的局限更使得個體缺乏融合多領域知識產生tcM8LXCHtlIXGsI+xlMvtA==跨學科洞察力進而發揮創造力的能力。在集體層面，人工智能的過度使用減少了集體成員的交流與互動，信息共享的不足削弱了集體信息庫的知識積累，也降低了成員在異質信息交流中碰撞出靈感火花的可能性，對集體創新能力的發展造成阻礙［20］。因而，對人工智能技術的過度依賴不僅弱化了自身的思維感受能力，而且導致了思維固化，甚至削弱了人的創新能力，使人的主體地位發生異化，不利于國家創新體系的優化。

2.因技術粘附性造成意識形態扭曲。以ChatGPT為代表的生成式人工智能在意識形態傳播過程中，發揮工具性作用，但其在技術資本邏輯操控下可能會解構社會成員的價值觀，無形中有損主流意識形態的主導地位，異化國家創新體系的優化方向。其一，以ChatGPT為代表的生成式人工智能在進行信息輸出時，除了文本、音頻等外顯性內容，還蘊含著一定的邏輯判斷和價值觀點的輸出。而在人工智能的信息輸出過程中不可避免地蘊含著創造者的價值預設，也承載著利益相關者的利益傾向，互聯網巨頭利用自身的信息和技術資源，會將迎合資本價值取向的信息推送至信息前沿，不符合資本價值取向的信息則被剔除、沉沒，主流意識形態面臨更多雜音［6］。西方霸權主義也可能通過利用先進人工智能技術，有目的輸出特定政治、經濟、文化的內容，煽動民眾對政府產生不滿，威脅國家主流價值觀［21］。其二，以ChatGPT為代表的生成式人工智能具備精準化的信息推送功能，可以強化個人的價值偏好，無形中加劇了IZhfrkMM2HY9ovFxeWWFug==“信息繭房”效應，弱化了個體對主流價值信息關注的可能性，導致主流文化價值觀認同危機。其三，生成式人工智能還可能存在捏造虛假信息和新聞、假冒身份信息、惡意操縱和制造輿論影響等問題［22］，引發諸多社會問題，影響政府公信力。同時以ChatGPT為代表的生成式人工智能的出現，導致部分單一重復的工作被替代，沖擊著現有組織架構，加劇了社會不平等［5］，危害國家創新體系的建設。

（三）以產權歸屬為代表的規范認定困難風險

1.要件解釋之難。以ChatGPT為代表的新一代生成式人工智能技術闖入公眾視野，由此引發了一系列關于人工智能技術的討論。其中關于人工智能知識產權是否具有保護必要的爭議成為熱點話題之一。部分學者認為，應當對人工智能所創造的產品賦予著作權方面的保護。理由在于保護人工智能產業創造者、實施者的勞動成果，具有促進和繁榮人工智能產業的作用。［23］但另有學者對此表示反對，他們的理由在于，生成式人工智能輸出的內容不符合知識產權保護的創新性要求，生成式人工智能也不具備自主思考意識。［24］筆者支持前種觀點，后種觀點仍然囿于工業時代的傳統認知。進入數字時代后，人類的生活更加數字化。

以ChatGPT、Sora等為代表的新一代生成式人工智能改變了傳統社會的單向運作模式。人類整體生活水平也被注入了新的發展動力。另外，針對有論者認為ChatGPT不具有創新的觀點，筆者認為就ChatGPT的工作邏輯而言，其本身就是一種不斷學習、反復試錯的過程。這個過程的本質就是一種思維創造的過程，而思維又是獨創的，顯然屬于著作權法保護的客體。

即便承認新一代生成式人工智能需要獲得著作權上的保護，但在現有法律框架下，仍然很難確定著作權的歸屬問題。一方面，著作權（或是說所有權利）的主體是人類，在人工智能領域也不能例外。新一代生成式人工智能并不具備公認的法律主體地位，無法實現權、責、利的統一；相反，有學者認為法律主體范圍是一個動態可以調整的范圍，其隨著社會發展而擴大。以ChatGPT為代表的新一代生成式人工智能改變了社會的運作模式，一定程度上具有了與人相似的獨立思維能力，完全可以成為新型法律主體，其生成內容具有可版權性。另外，還有學者在不改變現有法律制度對法律主體范圍的規定下，通過采用擴大解釋的方法，將著作權利歸屬于ChatGPT的提供者或是使用者［25］。

2.核心認定之難。有學者擔憂以ChatGPT為代表的新一代生成式人工智能技術將對現有專利認定制度造成沖擊，專利認定愈發困難，理由主要包括三方面。其一，在現有專利法中，專利的申請主體只能是自然人，因為只有自然人才可以行使相關權利以及承擔相應義務。現有法律制度無法將ChatGPT視為專利權主體。其二，ChatGPT將對“勞動財產理論”構成沖擊。洛克提出的“勞動財產理論”強調保護私有財產，專利權保護的是創作主體的智力勞動成果，屬于無形財產的范疇，與勞動財產理論保護私有財產的核心要義相契合。而ChatGPT并非自然意義上的人，其生成的智力成果并不需要身體上的支配和付出。其工作邏輯是一種數字化的算法過程，身體勞累程度約等于0。其三，以ChatGPT為代表的生成式人工智能技術對現行專利法的平衡邏輯構成沖擊。專利具有稀缺性，如果承認ChatGPT具有獲得專利的權利，那么其產品也都將獲得專利。專利的數量將出現指數級增長，專利不再具有稀缺性，從而導致產生公地悲劇，即在專利獲取和使用方面，個人利益與公共利益顯著失衡①。

四、體系規制：國家創新體系對生成式人工智能的恰當應用新一代生成式人工智能在服務國家創新體系的圖景中表現出巨大價值。為此，法律制度應當在促進其價值最大化的同時，遏制相關風險的發生。這就需要從技術內部出發，從技術運用到產品的生成再至成果的轉換，依賴法律制度化解其中存在的現實風險，加強相關機制建設，實現國家創新體系的深度優化。

（一）以數據作為法律規范體系的發力點

1.完善以數據安全保護為核心的法律規范體系。在生成式人工智能嵌入國家創新體系的過程中，數據的安全性問題主要集中于存儲和使用兩個環節。首先是數據保管的安全性問題。這就要求對大數據中有關用戶隱私的部分嚴格保密，不能隨意泄露。關于用戶隱私的界定，一般認定既包括能直接與特定用戶建立起排他性關系的自然數據信息，如自然人的姓名、年齡、受教育程度、婚姻狀況等；也包括用戶的網絡瀏覽使用痕跡，比如上網網站記錄。其次是數據使用的安全性問題。這一層面主要是為規范數據的可信性以及數據使用的合理性。因此，健全人工智能數據安全法律規范刻不容緩。早在2017年，中央就已經認識到人工智能數據安全治理的必要性，在頂層制度上提出了多維度的規劃和要求。經過六年的法治建設，在宏觀層面上我國基本已經完成了數據安全的統一立法，形成了以《中華人民共和國網絡安全法》《中華人民共和國數據安全法》和《中華人民共和國個人信息保護法》為核心的法律框架。

但既有的人工智能數據安全治理立法仍存在諸多不足，具體而言包括如下兩方面。一是缺少相關配套性規范性文件。生成式人工智能涉及全領域全行業的變革，需要多個分管部門如金融、醫療、教育等共同制定監督規范。此外，還應基于行業的發展實際和基本要求，合力進行法律規制。二是要突出重點，聚焦具體使用場景，進行重點立法。對此，可以參考歐盟于2024年5月21日通過的《人工智能法案》，該法案根據風險水平對人工智能應用進行分類，對高風險系統施以嚴格要求，并禁止被視為不可接受的應用，如預測性執法和社會評分。以此為參考，我國的相關立法要著重關心人工智能技術可能使用的場景，從場景使用的時間、頻率等方面考慮可能存在的數據風險，故還應加強重點行業在應用領域的場景化立法，包括但不限于生物識別、工業互聯網、智能網聯汽車等重要領域，推動建設人工智能技術數據安全法律體系。此外，為推動部門立法和場景化立法工作的開展，應當組織協調制定人工智能數據安全的標準，并以此作為日后工作開展的重要參考。

2.注重算法監管權責配置作為法律重點。人工智能的工作邏輯是通過特定算法指導大數據穩步運行。算法的編寫相當復雜，而現代化的生產格局勢必導致其編寫流程分散于諸多主體。編寫主體不同，可能導致同一算法經過不同程序予以編碼，使理解算法的運行邏輯和追溯算法的原始邏輯出現困難。大數據人工智能算法更是深刻體現出簡單底層規則生成的復雜計算方式的無奈。由于彼此的獨立性，可信度與可靠性大打折扣，甚至存在“算法黑箱”的風險。如電商平臺的算法殺熟、外賣平臺借由算法誘使外賣員違反交通規則等。在數據代碼背后，算法開發和設計者無法避免將自己的主觀偏見寫入算法之中。算法主體的活動目標和價值選擇以計算機代碼或數學公式等形式表達意見，并非是純粹客觀的體現。

因此，為有效規避算法的潛在風險，我們需要從法律和技術規制兩方面雙管齊下規范算法程序。對此，歐盟在《人工智能法案》中規定，直接與用戶互動或生成合成內容的人工智能系統負有透明度義務，要求提供者必須告知用戶他們正在與人工智能互動，并明確標注人工智能生成的內容。從技術規制的角度進行考慮，可以通過明確算法監管機構權責，并統一算法編寫人員的技術標準，來提升相關算法的透明度，限制算法設計者的主觀偏見。從算法監管工具的角度考慮，可使用算法認證、算法評級、算法有限披露等綜合性監管方法，推進過程管理。從法律監督的角度出發，規范的核心在于建立相關問責制度。一方面，應完善專利法規定，以專利權規制算法風險。具體而言，將算法這類技術納入到專利申請公開程序或專利授權公布程序的允許范圍，通過相關程序監督，提升算法透明度。另一方面，可合理適當引入“算法解釋權”制度。當算法明顯、公然地危及到他人利益或社會公共利益時，當事人或行政機關可以要求算法使用人作出解釋，并要求更新數據或修正相關錯誤。

（二）摒棄以絕對中立為前提的價值引領

1.以核心價值觀為根基。堅持發展社會主義核心價值觀對于深化社會主義市場經濟以及實現中華民族偉大復興具有戰略意義。堅持價值引領是新一代人工智能創新的前提，對創新重要性的價值判斷是凝聚社會共識、合力的關鍵途徑。發揮社會主義核心價值觀的引領作用，可以使人工智能新興行業的價值認知與社會主義核心價值觀保持一致，并有效統一。在AIGC創新設計中體現正確價值導向，為優化人工智能技術創新做出貢獻，更好地服務國家發展大局。

2.以道德倫理為約束優化技術應用流程。現代科學技術具有規訓權力的屬性，在其嵌入國家創新體系優化的過程中，“人”兼具操練對象和操練工具的雙重角色。當前，科學技術話語已經彌漫到日常生活中，人們完全委身于科技對社會生活的安排，不自覺地聽從算法推薦，個體的興趣、愛好、欲望和沖動也被異化、操控。不僅如此，這種人們沉浸于受智能技術支配的狀態可能比馬克思批判的資本主義私有制下的勞動異化更具潛在威脅性。馬克思批判資本主義私有制時的勞動異化僅僅是令勞動成為了勞動者的“對立面”，但是在社會信息化、智能化過程中，多數群體則是將直接被否認具有勞動的價值和意義，完全被排擠在智能化勞動的序列之外，生活的意義喪失，存在變得虛無和荒謬化。為了對抗算法的裹挾，有必要賦能技術，讓其為人類所用而非反之，重拾人類主體性，發揮智慧，避免被算法和技術操縱。

基于此，應當通過技術賦能以應對可能出現的異化風險。其一，審慎確立人工智能研發和應用的價值原則，使道德倫理內在制約人工智能技術；其二，賦能人工智能技術的“依賴者”，增強他們對技術的認知，特別是應當強化人工智能的創造者和使用者的主體地位和價值導向；其三，賦能人工智能的“失能者”，盡可能消減數字鴻溝，減少用戶群體的分層，降低人工智能使用門檻，在內容生產和傳播上照顧弱勢群體，實現社會整體認知能力和獲得感的均等化，進而使人工智能為人所用，防范算法操縱和技術異化，使人回歸其主體地位。

（三）結合創新體系之特性實現全過程根基性規范保障

1.平衡既有人工智能創作歸屬認定。生成式AI須通過算法進行批量學習，在此過程中會使用數量龐大且權限不一的已有作品庫，因此生成式AI生成內容的著作權法地位存在理論爭議。應當審慎看待人工智能在知識產權方面的合理配置，公平保障人工智能科技創新成果轉化的正當權益。

從知識產權法角度，應對生成式人工智能的學習文本和數據進行分類，討論哪些意義上的人工智能創作成果具有獨立使用的正當性。對于仍在著作權保護期內的作品，人工智能需獲取授權方可使用；對于已進入公有領域但尚未超出保護期的作品，人工智能可以無需授權使用，但應恪守原作權利，不得隨意修改；如果人工智能僅參考某類思想觀點而非具體材料，根據版權法以表達為主的原則，思想借鑒屬正常創作范圍，即便增加了人類主觀偏好，也應具體問題具體分析。故應完善法律體系，平衡保護人工智能創新成果的轉化與利用，促進人工智能技術健康發展。

2.制定統一規范減少個案帶來的不確定性。我國在人工智能專利的申請數量上與美國旗鼓相當，但關鍵技術的量級指標卻仍存在一定差距。我國人工智能創新成果轉化率不高，一方面與人工智能基礎實力有關，另一方面也與創新成果認定標準有關。建立規范統一的人工智能創新成果認定標準，有利于提升我國人工智能技術實力和國際影響力。

在無人駕駛汽車、服務機器人等領域，我國缺乏系統完善且被國際社會認可的技術標準，人工智能體系融合標準也亟待規范。作為對照，歐盟的《人工智能法案》建立了首個針對人工智能的全面治理框架，通過設立一系列統一機構體系確保該法案在整個歐盟范圍內的一致應用。同樣，我國也應當致力于人工智能標準體系的整合，根據國家政策要求，如《新一代人工智能發展規劃》《促進新一代人工智能產業發展三年行動計劃》等，適當調整成果認定工作方法，按“急用先行，成熟先上”的原則，重點開展人工智能核心術語、參考框架、算法模型等標準體系的制定，并通過完善的激勵政策，推動企業實現人工智能技術國際化，在關鍵標準制定中發出中國聲音，爭取在人工智能國際標準化進程中擁有更多話語權。這既能推動我國人工智能技術快速迭代和成熟，又能加強我國在人工智能國際規則制定中的影響力。

（四）以集群化發展為導向的多元規范體系構建

1.對接國際社會標準。各國基于利益衡量、價值選擇的差異性為協同人工智能資源提供了可能。在北美地區，作為AI研發中心的美國在人工智能芯片設計、計算機視覺領域處于領先位置，而且通過與谷歌、德州儀器等實力公司以及與高等院校合作，能將數字技術和產品迅速進行商業化轉換并投入生產和生活應用，從而帶來了豐厚的經濟效益。在歐洲地區，以德國這類傳統工業國為典型，人工智能技術的發展往往依托于場域理論研究及實驗室技術，但在商業化和市場化方面存在困難。而在亞太地區，韓國和我國是兩大主要的研究和產業驅動中心，但數字技術應用的具體領域有所區別。韓國主要將人工智能技術應用于無人機作戰系統和制造業轉型升級，而我國則將人工智能技術與互聯網綁定，依托互聯網平臺提供人工智能公共創新服務，尤其是在智能家居、智能汽車、機器人等領域有較好的發展，與此同時，我國也在進一步推進計算機視覺、智能化語音處理、生物識別、語言理解和人機交互等關鍵技術的研發和產業化。從各個地區的發展情況來看，不同國家的人工智能技術各有優勢，產業化程度也各不相同。基于此，從促進我國數字技術產業化發展的角度出發，一方面，應考慮針對消費端、生活端人工智能技術發展略差的國家和地區進行產業輸出，通過培養其消費習慣，從而占領人工智能市場；另一方面，對于以技術研究見長和產業化程度高的國家和地區，應考慮通過技術購買、企業或機構合并來吸收消化對方關鍵技術，以此來提升我國數字技術的發展程度，并加強產業優勢。在進行技術輸出以及技術購買時，也應當考慮到相關地區的特定法律體系規范要求，例如歐盟的《人工智能法案》規定為保護公民的基本權利，對于公共實體使用的人工智能系統必須在部署前進行基本權利影響評估。在我國開展人工智能技術輸出的過程中應當注意遵守有關規范。

2.著力推動需求發展。人工智能技術發展應以實踐為導向，相關科技成果不應僅停留在實驗室內，而應當走向市場化、產業化。這要求在研究中強化人工智能科技成果市場屬性，關鍵在于要強化以滿足客戶技術需求為導向的研究意識和研究規劃，激勵研究人員對科技成果進行二次開發，對內推動科研項目立項、運行和結項，促進理論研究和學科發展，有助于培養大批實踐性人工智能技術科研人才；對外直接輸出服務，以提高成果轉化效率，同時有效降低議價、授權、轉讓等中間環節的交易成本，最終提高人工智能產業化程度。總體而言，以客戶技術需求為導向意味著由表及里的改變：從科研運作、銷售方式、服務方式到產業鏈的建構，通過減少冗雜的中間環節，將需求與技術創新直接鏈接起來，降低交易成本同時提高創新技術的轉化效率，形成創新與應用的閉環，以持續推動人工智能產業的發展。

（五）以人才強國戰略助力人工智能產業全球化發展

人才是第一資源，發揮技術創新的效用離不開人才培養體系的構建。

1.注重人才培養自主性的基礎作用。一方面，人工智能產業方興未艾，有許多未知領域仍有待探索，科研創新和產業化發展需要大量的科研和產業人才。另一方面，我國現有的教育體系與市場需求之間存在錯位，人才培養方法與體系無法完全適應市場需求，關鍵崗位甚至可能出現人才斷層現象。現有的教育體系更加側重專業型人才的培養，而忽視了對于計算機、管理學、經濟學等關聯學科知識的學習，無法適應市場對于“通才”的需要。表面的“人才荒”背后是人才儲備不足，這需要通過搭建人工智能人才培養體系、提升人工智能人才自主培養能力，才能給人才池注入“活水”，通過建立流動的人才系統最大限度滿足科研和產業發展的需求。具體而言，在理論上，應當針對科研和產業需求的不同層次，對應建立包括高層次人才、專業技術人才、基礎教育人才等在內的多層次人才培養體系；在實踐中，應當進行調查研究，確定關鍵人才缺口，搭建人才畫像和數據庫，充分發揮我國應用型人才豐富的優勢，同時加大資金和物質的投入，補足研發人才、復合型人才不足的缺漏，實現自主培養人工智能人才。

2.優化行業人才引進機制。在提升我國人工智能科研和產業人才的自主培養能力之外，還應優化國際人工智能人才的引進戰略。人工智能作為新興產業在未來肯定需要大量人才，但我國長期依賴制造業的低人力成本優勢來發展經濟，相應地，我國著重于培養各技術領域的應用型人才，而缺少高精尖的研發人才，在面對新產業時難免出現存量人才隊伍不足、質量難以達標的情況。由此，針對當下人工智能科研和產業發展需求的短期目標，應從促進技術交流合作的長期目標出發，加大研發投入，提高人才待遇，吸引全球頂尖人工智能人才來到或回到國內貢獻自己的力量。

五、結語

在當下新一輪科技革命和產業革命突飛猛進、科學研究范式深刻變革的新時期，要加強基礎研究探索和技術突破，努力構建具有中國特色、中國風格、中國氣派的國家創新體系。生成式人工智能相較于其他人工智能產品來說，在創新體系方面具有極為重要的作用，但是也引發了多個層面的規制難題：第一，生成式人工智能的發展進一步強化了法律空缺和規制需求之間的張力。由于生成式人工智能的智慧性、交互性和個性化特征明顯，現有的法律規范無法對其開發和應用過程進行周全規制，存在部分法律漏洞和法律空白，使得其應用風險大幅擴張。第二，即便是在個案的場景下，生成式人工智能造成的部分利益侵害等也引發了平衡困難，尤其是其借助技術中立的名義，實際上在諸多灰色地帶蘊含著對特定法益的行為。總體來看，生成式人工智能對于國家創新體系產生的挑戰，應當從制度層面進行構想，在穩固思想根基的情況下，結合現實需求，充分考慮發展的情況，確定生成式人工智能對接和進入國家創新體系的路徑以及有關的規制基礎。

注釋：

①公地悲劇是一個涉及交叉學科的研究領域，它圍繞傳統的公地，關注資源的使用和治理，在數字時代擴展為無限的信息資源。公地悲劇強調有限資源的無限使用對于資源管理、經濟理性和社會沖突的影響。拓展到數字產業中，專利法的立法目的在于從法律層面對智力成果施以特殊保護，但若有限的法律保護與無限的專利數量之間的張力愈發明顯，則無疑會釀成公地悲劇。

參考文獻：

［1］習近平.高舉中國特色社會主義偉大旗幟 為全面建設社會主義現代化國家而團結奮斗——在中國共產黨第二十次全國代表大會上的報告［N］.人民日報，2022-10-26.

［2］王大洲，梁慶華.從脫節走向融合——中國國家創新體系結構性變革探析（1992—2006）［J］.自然辯證法通訊，2023（8）：91-104.

［3］周智博.ChatGPT模型引入我國數字政府建設：功能、風險及其規制［J］.山東大學學報（哲學社會科學版），2023（3）：144-154.

［4］張新新.生成式智能出版：知識生成原理、沿革與啟迪——從智慧驅動到數據驅動［J］.編輯之友，2023（11）：36-44.

［5］樊博.ChatGPT的風險初識及治理對策［J］.學海，2023（2）：58-63.

［6］代金平，覃楊楊.ChatGPT等生成式人工智能的意識形態風險及其應對［J］.重慶大學學報（社會科學版），2023（5）：101-110.

［7］趙志君，莊馨予.中國人工智能高質量發展：現狀、問題與方略［J］.改革，2023（9）：11-20.

［8］龔軼，顧高翔，劉昌新，等.技術創新推動下的中國產業結構進化［J］.科學學研究，2013（8）：1252-1259.

［9］林晨，陳小亮，陳偉澤，等.人工智能、經濟增長與居民消費改善：資本結構優化的視角［J］.中國工業經濟，2020（2）：61-83.

［10］荊文君，孫寶文.數字經濟促進經濟高質量發展：一個理論分析框架［J］.經濟學家，2019 （2）：66-73.

［11］陳勁.關于構建新型國家創新體系的思考［J］.中國科學院院刊，2018（5）：479-483.

［12］李正風，武晨簫.中國科技創新體系制度基礎的變革——歷程、特征與挑戰［J］.科學學研究，2019（10）：1729-1734+1751.

［13］於興中，鄭戈，丁曉東.生成式人工智能與法律的六大議題：以ChatGPT為例［J］.中國法律評論，2023（2）：1-20.

［14］國務院關于加強數字政府建設的指導意見［J］.中華人民共和國國務院公報，2022（19）：12-20.

［15］梁紅軍.國家創新體系視域下健全成果評價及轉移轉化機制研究［J］.學習論壇，2021（4）：114-120.

［16］中共中央關于制定國民經濟和社會發展第十四個五年規劃和二○三五年遠景目標的建議［N］.人民日報，2020-11-04.

［17］孫祁.規范生成式人工智能產品提供者的法律問題研究［J］.政治與法律，2023（7）：162- 176.

［18］徐鳳.人工智能算法黑箱的法律規制——以智能投顧為例展開［J］.東方法學，2019（6）：78-86.

［19］郭文靜.人工智能司法適用中事實認定的雙重困境與紓解路徑［J］.昆明理工大學學報（社會科學版），2023（5）：19-25.

［20］劉蕾，張新亞.人工智能依賴對創造力的影響與未來教育發展路徑的省思［J］.廣西師范大學學報（哲學社會科學版），2024（1）：83-91.

［21］薛志華.生成式人工智能對網絡信息內容治理的挑戰及應對［J］.中國廣播電視學刊，2023（10）：13-16+73.

［22］郭小東.生成式人工智能的風險及其包容性法律治理［J］.北京理工大學學報（社會科學版），2023（6）：93-105+117.

［23］盧純昕.法定作品類型外新型創作物的著作權認定研究［J］. 政治與法律， 2021（5）：150-160.

［24］王遷.論人工智能生成的內容在著作權法中的定性［J］.法律科學（西北政法大學學報），2017（5）：148- 155.

［25］張平.人工智能生成內容著作權合法性的制度難題及其解決路徑［J］.法律科學（西北政法大學學報）， 2024（3）：18-31.

責任編輯：艾嵐The Realistic Correspondence and Interaction between Generative

Artificial Intelligence and National Innovation System

——Taking the "Second

Xu Yuan

（Student Affairs Department of Party Committee， Civil Aviation Flight University of China， Guanghan Sichuan 618307， China）

Abstract：Generative artificial intelligence（AI）， as an innovative achievement of information technology， is a new engine for optimizing the construction of the national innovation system. From the perspective of the realistic foundation， the participation of generative AI in the optimized construction of the national innovation system is the choice of the market， which can meet the practical needs of efficient management and achievement transformation. However， due to the imperfection of the underlying technical logic and the lack of the normative foundation of generative AI， it is straightforward to derive technical and institutional risks such as the intrusion of basic human rights， ideological distortion， and difficulties in identifying norms in embedding into the optimization of the national innovation system. In order to further bring the positive value of generative AI into play， we should focus on data security and algorithmic regulation， build a framework system with core consensus and scientific and technological ethics as the value kernel， and a perfect domestic legal and regulatory system and docking with international trade rules as the external guarantee， give full play to the main role of talents， integrate and deploy innovation resources with technological elements， and enhance the overall effectiveness of the national innovation system.

Key words：generative artificial intelligence; national innovation system; data security; ideological distortion; intellectual property protection