生成式人工智能的知識生產及其哲學反思

摘要：生成式人工智能介入人類知識生產幾乎是一種技術必然。智能時代，人類知識生產正迎來“新物態”：以ChatGPT為代表的生成式人工智能既以“數據導向”的“經驗主義”知識生產模式，展現出強大的語境感知與知識聯結能力，凸顯了其作為智能技術的“物性”；又以“突破模仿”作為其“靈性”的主要來源，在推動知識生產主體不斷擴展的同時蘊藏著生成“可信知識”的巨大潛力。生成式人工智能這一“物性”與“靈性”的互動，使其不再只作為一種工具，更成為一種獨特的智能實體。這種技術進步的潮流為人類知識生產提供了前所未有的便利，卻也可能在人類思維方面引發“懶人危機”，在知識產權領域導致“權屬迷局”，甚至在思想文化層面制造“意識形態陷阱”，對人類知識生產產生革命性影響。接受并推動人機協同的知識生產，是人類面對生成式人工智能的理性選擇。

關鍵詞：生成式人工智能；知識生產；ChatGPT；物性；靈性

基金項目：國家社會科學基金青年項目“人工智能算法的倫理嵌入”（23CZX048）

中圖分類號：TP182；B842.1 文獻標識碼：A 文章編號：1003-854X（2025）02-0059-08

生成式人工智能（Generative Artificial Intelligence，GAI）是基于數據算法和規則模型，利用文本、音頻或圖像等創建新內容，通過“分析訓練實例、學習其模式和分布從而生成逼真的人工痕跡”（1）的技術，其核心思想是將人類的認知過程視為信息的生成過程，并通過這一過程實現智能生成，目的是更好地模擬人類的思維方式與認知機制，從而創建一項完善的產生和處理信息的人工系統。因而，人工智能的主要目標不是作為理論體系去解釋世界，而是作為技術手段去改造世界，或“技術地解決某些理論問題”。（2）

在數據處理和信息分析方面，生成式人工智能能夠快速、準確地處理大量數據，并從數據中挖掘價值信息，展現了作為智能技術的“物性”。但其真正的魅力并不限于“物性”，而是在知識生產方面，生成式人工智能通過深度學習和自然語言處理技術不斷模擬人類的思維過程，并由此展現出獨特的“靈性”。生成式人工智能的技術“物性”是技術“靈性”的前提，沒有“物性”的發揮，技術的“靈性”就無從談起；而生成式人工智能的技術“靈性”則是技術“物性”優化的條件和結果，沒有“靈性”的技術“物性”，就無法充分釋放其功能與潛力。

生成式人工智能表現出的對抽象思維和創造性活動的模擬，給人類知識生產帶來了革命性影響，也為其在各個社會領域的垂直應用奠定了技術基礎。

一、生成式人工智能知識生產的“物性”

技術的“物性”是技術固有的屬性和特征，直接關系到技術的性質、機理與功能。物性是一個“根基性命題”，不能缺省，也不能被違背。生成式人工智能的“物性”，其底層邏輯是通過極簡的模型結構與目標函數進行反復的訓練，推動其“生成能力”的涌現與躍遷。這一邏輯是生成式人工智能系統的第一性原理，凸顯了該技術的“物性”特征。

（一）知識生產的“新物態”

在生成式人工智能出現之前，“知識生產”通常被視為人類專屬的活動領域。知識是人類特有的能力表達形式，知識的生產涉及語言、符號和概念的交流與建構，是人類思考和實踐的產物。西方哲學家對知識的傳統看法是，知識是“有證成的真信念”（JTB原則，即Justified True Belief）。“蓋梯爾難題”的出現則引發了哲學界對知識定義的大討論，涌現了一些關于知識JTB定義的替代性說明，通常“以‘真+相信+證成+X’的形式出現” （3），例如過程可靠論（Process Reliabilism）就以“真（信息是客觀存在的真實事實）+相信（主體對信息有真實信念）+證成（信息是通過可靠的認知過程獲取的）+X（證成要素即可靠的認知過程）”對知識進行定義。不過迄今為止依然沒有一種知識定義能夠像JTB原則那樣得到普遍接受。人類通過學習、觀察、交流、實踐等方式獲取知識，這一過程高度復雜且深受個體認知和社會文化的影響。

知識生產是在人類活動中各種類型的知識如真理、思想和信息等的發明、創造過程。傳統的知識生產需要人類具備良好的認知、判斷和適應能力，人類可以根據不同的情境調整自己的思維方式，從而處理模糊和不確定的信息。這種靈活性與適應性是傳統的分析型人工智能（Analytical Artificial Intelligence）難以企及的，因而這種人工智能也就被排除在人類的“知識生產”之外。隨著人工智能的發展，生成式人工智能通過大量的數據訓練來學習和模擬人類的語言表達與思維模式，逐漸參與并融入人類的知識生成和智慧創造中來。這似乎暗示，知識的生產不再是人類的專屬領域，新的“物態”開始闖入進來。

在知識生成方式上，生成式人工智能通過從海量數據中篩選、歸類、整理和分析數據信息，來生成結構化的知識內容。相較于傳統的規則驅動系統，生成式系統具備更強大的學習和推理能力，能夠從非結構化數據中提取關聯、發現規律，從而靈活地處理復雜的知識內容并完成知識生產。在生產的知識呈現方式上，生成式人工智能有語言、圖像、音頻等多種形式的知識表達方式。由于每個模型都有其獨特的語法結構、詞匯和表達方式，因此其知識的生成和表達上容易有所區別。對于同一概念或事實，不同模型的表述方式存在一定差異。一些模型可能使用更復雜或更專業的語言，使得某些知識對于普通用戶來說難以理解；而另一些模型可能更加“用戶友好”，會使用更通俗易懂的語言來呈現知識。整體而言，在人工智能歷史上由麥卡錫發明的LISP語言起到了重要的作用，被譽為人工智能的數學語言。（4） LSIP（List Processor，函數式程序語言）憑借其革命性的創新思維，直接影響了生成式人工智能系統編程語言的發展方向，成為傳統分析型人工智能向生成式人工智能轉向的基礎“語言底座”。生成式人工智能所具備的泛化能力與自然語言處理能力，本質上就是基于大量的數據訓練，通過對話將文本進行合理的延續和擴展。通過這種訓練，生成式人工智能形成了對語言結構和語法的“理解”，而對于詞匯選擇、句法結構和表達風格的模仿也使得生成的知識更趨于符合人類認知的一般特征。這是人類知識生產前所未有的“新物態”。

（二）生成式人工智能“數據導向”的經驗主義及其知識生產

在生成式人工智能系統中，數據被視為信息的基本單元。在計算機科學中，數據是記錄下來的某種可以進行度量和計算的數值，信息則是經過處理后對數據賦予的意義或傳達的含義。而在生成式人工智能系統里，數據不僅是訓練模型的原始材料，也是模型權重的調整依據。在機器學習任務中，算法通過數據學習和訓練來提取規律，以便在面對新一輪輸入時做出準確的預測或進行有意義的輸出；而在訓練過程中，生成式人工智能則通過不斷地與數據進行交互，并根據輸入數據的特征和目標輸出之間的關系來優化內部參數（權重）。因此，豐富且高質量的數據集能夠幫助生成式人工智能更好地理解用戶指令，從而提高回應的準確率；而通過反復的數據訓練，生成式人工智能也能夠逐漸調整其內部表示，使其能夠更好地捕捉輸入與輸出之間的復雜關系。因而，數據是信息的原材料，而信息則是數據處理的產物。

近年來，一系列關于大數據集（passively generated larger datasets）與增強型預測算法（enhanced prediction algorithms）的研究突破表明，生成式人工智能模型能夠更加精準地捕捉數據關聯，其泛化能力與預測性能已經取得了顯著提升。具體而言，生成式人工智能的基本工作原理就是在大型語言模型（Large Language Model， LLM）的基礎上，通過大量的數據學習和訓練，進而以數據投喂的方式不斷自動生成知識內容，這種方法強調了數據的客觀性與可驗證性。因此，數據作為信息管理、處理和分析的基礎，會直接影響到生成式人工智能對知識的理解和生成。比如ChatGPT就具有一種“數據導向”的“經驗主義”傾向。

以ChatGPT為代表的生成式人工智能以通過數據訓練獲得并積累經驗作為知識生產路徑，這種數據導向的方法論與經驗主義有著天然的契合。在數據導向的算法實踐中，數據成為一種直接的、量化的“經驗形式”，而ChatGPT是通過對大量文本數據進行訓練而得到語言模型的。這個模型本身并不具備任何先驗知識，也沒有預設的理論框架，主要以經驗數據的積累來逐漸形成對人類語言世界的理解和認知，并通過觀察和學習文本數據中的語言使用、語法結構、規范表達等獲得對語言的理解。其知識生成則依賴于對數據的深度學習和統計建模，通過學習輸入數據中的模式、規律和語言結構來生成文本，過程中并未注入顯性的規則或先驗知識，這正是典型的“經驗模式”。也因此，ChatGPT的性能和表現能力往往受限于“訓練數據的質量和多樣性”，亦即受限于經驗材料的質量。由于ChatGPT的知識來源于經驗數據，所以在回應人類請求時也更加注重事實和證據。ChatGPT憑借大規模的數據訓練，不斷擴大并積累了豐富的經驗知識，這使其能夠在各種領域中提供較為準確、語義連貫且自然的回答。這種經驗主義的知識生產模式正是ChatGPT成為強大且實用的人工智能模型的重要原因。

ChatGPT揭示了通過語言模型將數據（經驗）納入人類語境的重要意義，預訓練語言模型的出現讓自然語言處理取得了新的突破，呈現出“經驗主義”特征和“數據導向”特色。ChatGPT大模型技術主要由上下文學習技術、思維鏈技術和指令學習技術三部分構成。對語形、語義和語用的處理，必須“將表征的常識知識通過形式化的方法轉化為計算機可以實現的方式”。（5）通過預訓練語言模型的引入與運用，生成式人工智能能夠更好地融入人類語境，甚至培養出一定的“語境敏感性”。這使ChatGPT能夠根據不同的語境生成相應的回答，讓其回答更加符合人類的思維方式和表達習慣，從而更好地適應人類的交流方式。ChatGPT采用了AI Alignment（人工智能“價值對齊”）技術，即讓人工智能模型與人類期望及價值理念相匹配。這種將承載人類價值判斷的先驗知識融入大模型的方法，典型體現了經驗主義（大模型）與理性主義（人類判斷）的融合。ChatGPT“能夠從海量經驗中找到規律，進而讓 ChatGPT 像人類一樣積累經驗并向經驗學習”。（6）簡言之，生成式人工智能通過經驗積累，使模型能夠理解詞匯、語法結構、語境等多層次的語言特征，在自然語言處理任務中展現出更好的性能。同時，“數據導向”的“經驗主義”知識生成也存在一種“技術相對主義”傾向，即模型在分析數據時可能受到特定環境、偏見或數據采集方式的影響，從而導致對知識的理解存在偏差，而這種偏差也類似于人類智能的知識生產所具有的特點。

（三）生成式人工智能的語境感知與知識聯結

從認知建構主義的視角看，知識的生成是主體與環境交互作用的結果。在語境感知的基礎上，個體需要在特定的語境中去理解和解釋信息。知識的載體——人類語言——是高度“語境依賴”的。（7）生成式人工智能優于以往人工智能技術的重要特點，就是能夠更精準地理解知識之間的關系，以利于呈現出不同領域、主題或概念之間的聯系，從而形成更具關聯性的知識結構。語境主義認為，主體對知識的理解和解釋會受到語言環境的影響，而知識“如何關聯”很大程度上則依賴于特定語境。因此，知識的聯結也可以被視為是在語境中所建立的關系網，以賦予信息更豐富、精準的意義。生成式人工智能不斷增強的這種語境感知能力，涉及主體和客體在不同語境中對語言含義的理解與解釋，有助于生成式人工智能在自動生成內容時更好地模擬人類理解上下文的思維過程和表達邏輯。這種能力不僅提高了信息的獲取和傳播效率，還優化了生成式人工智能的文本生成效果，使其能夠生成高度逼近人類語言風格與思維方式的文本——“類人文本”。然而，“類人文本”的出現卻模糊了人類原創內容與機器生成內容的界限，極易導致人們在獲取信息或進行知識生產時混淆文本內容的歸屬及性質，即這些信息或文本內容究竟屬于人類的原創性思考還是機器算法的產物或將難以確定。生成式人工智能帶來的這種模糊性間接地削弱了人類知識生產中對于原創性的重視，將會影響人類知識生產過程的真實性、獨立性和創新性。

生成式人工智能的語境感知與知識聯結能力是其生成“類人文本”的必要條件。個體獲取信息和建構知識的過程始于對語境環境的感知，同樣的信息在不同的語境中可能會被理解和解釋得截然不同。由于知識是高度“語境依賴”的，因此生成式人工智能要想生成類人文本就必須具備強大的語境感知與知識聯結的能力。Transformer模型的出現推動了自然語言處理的變革，其所引入的自注意力機制和AI Alignment技術等能夠讓生成模型更好地理解語境關系。相對于RNN（Recursive Neural Network和Recurrent Neural Network）神經網絡模型而言，Transformer模型對生成式人工智能更具有里程碑意義，它不僅可以捕獲更多語境，將機器處理文本的能力提升到了前所未有的高度，甚至“可以基于既定提示和語境生成類似專業人士回復的內容”（8），為建構一個龐大的神經網絡奠定了強大的技術基礎。在糾錯方面，生成式人工智能也展現出了作為技術的“類人”特征。與傳統基于規則或機器學習（Machine Learning）的糾錯方法相比，生成式人工智能在自動糾錯與反饋機制方面有了顯著提升，不僅可以通過預訓練模型自動檢測和糾正文本錯誤，還可以結合上下文語境提高糾錯準確率，建立自動學習與自適應糾錯模式。而AI 價值對齊和人類反饋的強化學習作為AIGC的核心技術之一，則要求人工智能系統的目標、價值觀及行為與人類社會期望一致，從而有助于大模型在人類的引導下生成更符合人類期望和價值判斷的知識。由是觀之，生成式人工智能對語境感知與知識聯結的處理能力已然從深層意義上超越了技術發展本身，并不斷凸顯出其“類人智能”的能力。

二、生成式人工智能在知識生產中的“靈性”

生成式人工智能表現出了超越常規智能技術的“靈性”，不僅突破了技術“模仿”的層面、擴展了知識生產的主體范圍，也蘊含著生成可信知識的潛力，這種“靈性”有助于轉化為技術優勢從而推動人類知識生產的變革。

（一）生成式人工智能的“靈性”及其來源

“靈性”是指生成式人工智能在智能技術發展過程中涌現出了一種獨特的超越簡單的邏輯、功能性的特質，表現出一種更為綜合、創造性和深度理解的能力。首先，“靈性”體現為生成式人工智能系統的綜合性。簡單邏輯和功能性的系統通常是通過有限的規則和模式來實現特定的功能，因而是單一任務導向的；而生成式人工智能則能處理多樣化的任務和信息，會在執行指令時充分展現其靈活性與全面性。其次，“靈性”表現為生成式人工智能的“創造性”。相較于僅執行固定規則和任務的傳統系統，具有“靈性”的生成式人工智能不僅可以通過對信息的創造性組合與解釋來模仿現有知識，還能嘗試各種可能的組合和變化，并發現新的規律，從而產生新的、不斷適應語境變化的輸出，呈現出對知識的新穎組合與創新性輸出的智能能力。這種智能特質超越了傳統智能技術“模仿人類”的基本面，使其更深刻地融入知識的生產中。

“突破模仿”是生成式人工智能“靈性”的主要來源。首先，生成式人工智能打破了以“模仿人類行為”來解決問題的基本模式，通過學習和理解大規模的訓練數據，能夠捕捉更為復雜的知識結構和數據序列中的長期依賴關系。ChatGPT模型中的“自回歸生成”策略便利用了這一優勢，使自主完成無監督、無干預的知識生成任務成為可能。這種深度學習的能力也使得生成式人工智能不僅不再停留于對已知模式的簡單模仿，而且還能憑借其遷移學習能力和跨領域能力，在一些專業領域迅速實現窄眾化內容生產，充分釋放其在知識生產過程中進行垂直應用的潛力。從角色分工上看，深度學習與理解能力也讓生成式人工智能不再是被動的任務執行者，而是具有一定靈活性與適應性的智能體，這種獨特的能力有望未來在無干預情況下自主完成知識生產。（9）而從現實層面來看，一方面人類具有現有機器所無法替代的情感、創造力與自我意識，這種基于人類行為的“研發”本質上展現的是人類智能的創造性；另一方面，生成式人工智能對“模仿”功能的技術突破不僅實現了信息內容提供“從分散到集成”、服務場景“從單一領域到通用性”以及對話方式從“單向檢索到智能交互”（10）的轉變，也側面揭示了人類智能的“局限性”：即人類大腦難以像機器一樣進行快速、大量的信息存儲、處理與計算。

其次，生成式人工智能具有更好的抽象、推理和自我學習能力，能夠突破傳統規則與樣本匹配，展現出獨特的技術特點。生成式人工智能的崛起正在改變人類看待和使用智能技術的方式，這種類型的人工智能具備對數據信息的深度分析能力，而且在處理較為復雜和專業的概念時表現出色。生成式人工智能能夠依據數據權重深入挖掘事物的內在本質和關聯，進行抽象思考和多維度、多層次的推理，并且能夠在沒有人為干預的情況下，通過自我訓練和學習來不斷完善和優化自身的性能。生成式人工智能還改變了技術研究和應用的傳統方向。傳統的方法通常依賴于規則、模板或者直接的樣本匹配，而生成式人工智能更加注重從數據中學到模式和規律。基于深度學習技術的視角，目前生成式人工智能主要有兩種類型：即生成對抗網絡（Generative Adversarial Networks， GANs）和生成預訓練轉化器（Generative Pre-trained Transformer， GPT）。生成式人工智能能夠在對抗性訓練過程中提高在復雜環境里的知識生成質量，在預訓練生成方面提升其自然語言處理的能力，彰顯出獨特的技術特點。這種特性讓生成式人工智能更像是一個能夠創造、學習和適應的智能系統，而非簡單的工具或技術的模仿者，而這也是目前一般智能技術所無法達到的。

（二）人類知識生產主體的擴展

在生成式人工智能的推動下，人類知識生產的主體正在擴展。傳統意義上的人類知識生產過程由人類這一單一主體完成，盡管可根據具體領域的不同將人類知識生產主體進行細分，比如“科學家”與“哲學家”。但ChatGPT的出現改變了傳統知識生產主體的格局，“已發展出包括人類、機器和人機協同三種共存形態，人類和智能機器的聯接形成了一個強大的超級智能體”。（11）多元化具體表現在知識生產主體之間的合作與互動方面。用戶在使用生成式人工智能時，產生的信息不只是單向的接收，同時也是接續學習的數據源，會參與到模型進化與技術升級的過程中，從而完成新一輪的知識生產。

傳統的知識生產往往依賴于人類，強調人類的思維、判斷力以及在特定領域的專業見解，而生成式人工智能的崛起讓機器也參與到人類的知識生產中來。這一變化不僅為知識生成范式的變革和創新提供了新的方向，也向傳統的知識生產主體提出了挑戰。一方面，生成式人工智能使現有的知識生產主體不再受限于特定領域或專業，其普適性和自適應性能讓更多人群廣泛參與到知識生產中，為非專業人士提供了更多參與知識生產的機會，從而擴展了知識生產主體的范圍。另一方面，當代人類知識生產在某些方面表現出的“精英模式”或將受到較大影響。人類文明的發展與進步依賴于知識的生產與智慧的傳遞。從歷史上看，人類社會中的許多知識都源于普通人及勞動者的經驗總結和積累。例如，神農氏的“始味草木之滋，察其寒、溫、平、熱之性，辨其君、臣、佐、使之義”（12），開啟了“醫道”；從古至今，人們口口相傳的“冬暖多瘟疫、夏冷不收田”等農業諺語，更是勞動者“民間知識”的集成。在當代，知識生產已經顯著地向特定主體，如科學家、研究人員以及工程師等“知識精英”群體集中。這部分人群在現代社會環境下，主導了絕大多數的高端科研與技術創新活動，從而形成了較為專業化的“精英模式”。然而，ChatGPT等生成式人工智能的出現則會使人類，特別是上述傳統意義上的“知識精英”，不再獨占知識生產過程中的主體地位，普通人也可以利用這類技術參與知識的創造與共享，甚至生成式人工智能本身也有望成為知識生產的主體之一。這一變化可能推動知識生產格局趨向多元化發展，從而擴展知識生產主體。

（三）生成可信知識的潛力

“知識可信”是對生成式人工智能進行知識生產的現實要求，“可信知識”是其進行知識生產的內在產品規則。哲學家波普爾指出：“我們的知識有其權威性源泉。”（13）“權威性”是知識“可信性”的一個重要來源。知識并非憑空出現，不僅會受到所處社會與文化環境等外在條件的影響，也會受到個人經驗等內在因素的影響，這些因素均將構成人類社會中知識的權威性源泉，并深刻影響人們對于世界的理解與認知。只有可信的知識才能在實際應用中發揮其應有的價值，從而為社會大眾所信賴、進而利用。生成式人工智能也只有確保生成知識的可靠性和準確性，才能滿足用戶的期望并實現功能。

生成式人工智能之所以具有生成可信知識的潛力，原因如前所述，它是從實際數據中“經驗”地習得的。這便涉及到哲學上的認識論問題，即機器生成的知識能否“真實反映客觀世界”？盡管當前如GPT等生成式人工智能只能根據所接受的訓練來完成任務，但總的來說，其知識生成過程仍是可信的。生成式人工智能所生成的文本內容符合人類語言交流中所遵循的一般規則，具有可讀性和可理解性；而生成符合人類行為邏輯的知識內容則體現在對人類行為的理解與模擬上。生成式人工智能利用大量的行為數據分析并學習人類的行為模式與規律，從而生成具有實用性和可操作性的知識內容。如果一種新的生成的知識與人類既有的可信知識在認知邏輯、行為邏輯甚至心理邏輯上保持了整體的一致，那么我們就有理由認為，這種知識是可信的。

數據質量控制與知識驗證機制是生成可信知識的技術保證。在專業生產內容（PGC）時代和用戶生成內容（UGC）時代，往往存在著大量信息混亂。以ChatGPT為例，ChatGPT所采用的大語言模型有可能利用其先前從訓練數據中發現的語言規律來對現實中并不存在的內容進行合乎規律的捏造，即產生所謂“幻覺”（hallucinations）。（14）因此，對數據質量進行控制是確保生成知識可信度的基礎，而生成可信知識必須要對數據進行清理、預處理和篩選。如果不考慮所獲得的知識是否可信、不衡量其可信度的高低，則在推理鏈較長的情況下，由每一環知識的不可信性所導致的推理累積誤差會越來越大，最終得到的推理結論很可能與正確的結果截然相反。（15）因此必須采取有效的知識驗證方式以提升生成式人工智能的可信度。建立完善的知識驗證機制是確保生成知識可信度的關鍵環節，使用可信知識實證的方式對生成式人工智能所生成的知識內容進行篩選和驗證，有助于增強其知識生產的可信度。實踐中會通過數據來源驗證、事實檢查和驗證、交叉驗證、測試集驗證、專家評審、用戶反饋和監控以及對生成的知識進行過濾等方式來提高知識生產的可信度。

從技術認可到社會認同，ChatGPT類生成式人工智能生成可信知識的社會接受度逐步提升。生成式人工智能可以生成具有邏輯結構與合理性的文本，從而增強人類對其生成知識的信任度。隨著技術進步，其生成能力、語境理解能力以及對話連貫性等方面的性能正進一步提升，對生成式人工智能技術的認可意味著人們對其在處理任務時的效果、準確性和實用性的信任度增加，為社會認同奠定了基礎。盡管生成式人工智能在技術層面已經取得了顯著的進展，但其生成的知識尚未得到社會層面的廣泛接受。未來生成式人工智能的研究可通過加強對其工作原理的透明度和解釋性，建立有效的校驗機制，以及推動相關政策和標準的制定等方式進一步加強把數據、信息轉化為可信知識的能力，促進其社會接受度的進一步提升。

三、生成式人工智能可能導致知識生產危機

知識生產這一傳統上以人類為核心展開的活動，在生成式人工智能的參與后，可能面臨懶人危機、權屬迷局與意識形態陷阱等三重危機。

（一）懶人危機

生成式人工智能影響人類思維的主動性。主動思考，是人類思維的重要特征。（16）生成式人工智能的思維模式并不完全透明，卻能通過反復擴大的數據訓練逐漸弱化人類對知識生產和學習內容的主動性能力。原因并不復雜。生成式人工智能與分析型人工智能（Analytical AI）不同，不僅“超越了‘布勞威爾型號’，變成了‘維特根斯坦2型’（符合后期維特根斯坦哲學），其思維居然有了黑箱”。（17）久而久之，如果人類過度依賴生成式人工智能等工具，人類進行主動思考的機會也會相應減少，這不僅嚴重影響人類知識生產的效率和智力產品的多樣化發展，甚至有可能促使生成式人工智能變成一種“異己的力量”，在人類知識生產領域引發深度的異化現象，從而使人類逐漸依附于機器思維的支配。

生成式人工智能影響人類思維的批判性。由于生成式人工智能的訓練數據集尤其是文本數據庫皆來自于人類現有的知識，因此生成式人工智能進行知識生產的能力（無論是既成知識還是全新知識）都與人為的訓練密切相關。人類的意識活動是一種主觀的經驗和思想，具有明顯的主體性特征，即意識主體通過內在的意識去“觀看”而形成主體的思想。（18）憑借優異的自然語言處理能力，面對智能工具迅速生成且質量尚可的知識內容，人類很難有強烈的動力去質疑或批判所生成的知識——人們往往選擇“接受”而非“拒絕”，遑論“批判”。生成式人工智能將數據信息轉化為知識的能力似乎讓普通公眾找到了學習新知識的新途徑，但當其直面以往耗時耗力生產智力產品和生成式人工智能迅速生成知識內容的巨大差異時，這一部分群體將很容易養成過度依賴的習慣，從而逐步淪為生成式人工智能工具的被動接受者。這不僅深刻影響了人類學習和理解新知識的能力，也減少了人類整體發展和培養批判性思維的機會。

生成式人工智能影響人類思維的多樣性。人類主體和視角的多樣性決定了人類思維的多樣性。生成式人工智能在訓練階段所采用的訓練數據信息通常反映了社會文化中被廣泛接受的看法和觀點，因而在生成內容時可能會強化當代社會文化的主流標準，這可能導致生成的知識偏向于反映已有的社會觀念和價值體系，缺乏對邊緣觀點與多元文化的充分反映。同時，生成式人工智能的知識生產難以充分涵蓋社會思想文化的多樣性，進而限制用戶思維多樣性的發展。此外，由于多數生成式人工智能系統內置使用推薦算法，這種算法會基于用戶的歷史行為和興趣，選擇性地呈現相關內容，使用戶更容易暴露于相似觀點和信息的環境中，導致“人們的價值傾向逐步走向窄化和分化”（19），進而也會減少用戶接觸到多樣思想與觀點的機會。生成式人工智能作為一種技術工具，若不能善用，不僅容易使主體形成思維惰性，導致人類不再適應和主動學習新鮮事物，更會加劇人類思維定勢，讓人類喪失進行獨立思考的能力，從而阻礙人類思維的創新與發展。

（二）權屬迷局

生成式人工智能生成內容的知識產權和其他權利歸屬尚存爭議。生成式人工智能影響了人類社會中知識生產的傳統流程與內容供給模式，由此衍生了一系列復雜的知識產權問題。英美法系版權法理論中對創造性的標準并不要求具有實質性的創造性、藝術美感或是新穎性（20），從工具使用角度看，生成式人工智能利用算法和規則生成內容的方式同人類運用紙筆進行創作一致，因此“版權保護”似乎理所應當。但“基本難題”隨之而來：生成式人工智能的知識產品是否具有知識產權？生成式人工智能可以通過機器算法和數據訓練進行自主學習，最終實現超越預設的算法框架來解決問題并生成新的內容，而“這將使得人在算法規則上的事前設定或數據輸入上的人為選擇作為獨創性來源的做法無法繼續適用”。（21）此外，由于人們在使用生成式人工智能工具時不可避免地會加入一些主觀性因素（如提問者的思想、情感、偏見等），因此一定程度上生成式人工智能所生成的知識產品已然被賦予了自然人的創作因素。那么，人類通過生成式人工智能生產的知識產品應當如何認定知識產權權利歸屬？

不完全清晰透明的數據訓練過程容易產生侵權行為。標準數據是生成式人工智能系統的核心競爭力，訓練數據的獲取相對容易，但也十分容易侵權。以ChatGPT為例，其訓練數據主要來自互聯網上的對話數據、不同用戶間的交互數據、人工編寫案例數據以及現有數據庫等等，可目前為止OpenAI公司并未完全或徹底公開ChatGPT的訓練數據集，而這些已公開的數據在被納入ChatGPT的訓練數據集之前就可能存在侵權問題。因此，當用戶下發任務時，生成式人工智能會通過預設流程進行回應，如果用戶改變任務的問題表達方式，以近似或類似的語言提出相同的問題，那么很有可能“誘導”生成式人工智能自動生成一些涉嫌抄襲等具有侵權可能性的作品。同時，若未經許可擅自使用了特定信息或挪用了他人的智力產品用作數據訓練，那么這一行為的合法性將會受到質疑。部分由人類活動產生的數據若在不知情的情況下被挪作他用，也會涉及用戶隱私保護問題，讓自然人知識產權的應有權利受到侵犯。例如，韓國著名企業三星集團在導入ChatGPT不到20天內，就發生了半導體設備測量資料、產品良率等機密信息的泄露事件，三星內部被迫“進一步收緊內部監管和員工培訓”且考慮禁用ChatGPT。由此可見，自主生成既是生成式人工智能的優勢，但也可能成為其產生虛假信息風險的根源，這就注定了生成式人工智能將更加深度地與人類知識生產“糾結”在一起，而這也將為建構生成式人工智能的知識產權保護規制增加難度，使其成為一個亟需解決的法律問題。

（三）意識形態陷阱

首先，生成式人工智能發展的背后需要警惕數據殖民主義威脅。哲學家芒福德認為，技術只是人類文化中的一個元素，“它起的作用的好壞，取決于社會集團對其利用的好壞”。（22）數據殖民主義催生了一種新的資本主義組織的抽象形式與社會關系——即數據關系（Data Relations），“通過數據關系，人類的日常生活不僅被資本主義吞并，而且還成為了被資本主義持續監視的對象”。（23）個人的數據資源成為能夠被隨意占用的對象化商品，資本主義的殖民統治對象逐步聚焦于數字時代中的個人日常生活。數據關系成為連接當前社會生活與社會關系的紐帶，而人類日常生活中所產生的數據信息將極容易被吸納用于生成式人工智能的數據訓練。生成式人工智能需要源源不斷的訓練數據以增強回應準確率，而對數據來源是否具有充分合法性這一問題卻明顯關心不足。伴隨數字信息技術的加速革新，資本主義正憑借經濟和技術優勢加速實現對數據資源的占有和壟斷，以奪取技術霸權和數字霸權，這將會增加數據殖民主義威脅。

其次，生成式人工智能可能加深社會偏見和歧視，破壞意識形態的安全與穩定。語料庫的使用和選擇容易攜帶偏見。一方面，語料庫中基于某個文化背景的文本多于其他文化背景，那么基于特定語料庫生成的文本就可能表現出特定文化本身固有的偏見（24）；另一方面，盡管生成式人工智能當前無法產生主體意識，但是“其具有的類人性文本生成表現實際上是研發方和用戶進行數據投喂和能力訓練的結果”。（25）因此，由于“經驗主義”的知識生產方式，生成式人工智能不排除基于含有歧視與偏見的原始數據和語料庫信息進行知識生產的可能。而由于缺乏面向公眾需要的、明確的“社會規則算法”，生成式人工智能利用訓練數據構造虛假信息的可能性風險將難以徹底消除。對于使用者而言，生成式人工智能生成的真假參半的信息越多，越有可能誤導公眾對特定群體或事物的看法，從而加深社會中存在的固有偏見。而“通過算法設計、編寫和應用的價值主體，明確地或者隱蔽地體現在相應的算法之中，就可能喪失商討社會公正的基礎，失去消除社會歧視的前提”。（26）這種偏見或歧視一旦形成，就可能影響人們對主流意識形態的認同與接受，進而破壞意識形態的權威。尤其是在戰爭、瘟疫或其他特殊時期，由于智能技術掌握程度和地區差異，生成式人工智能及其相關技術系統將優先作用于科技發達的國家和地區，而在落后的國家或地區，則可能呈現出帶有意識形態色彩的知識內容。比如利用ChatGPT類的生成式人工智能工具生成大量未經查證的“知識”來操控輿論，就可能嚴重威脅特定國家和地區的意識形態安全與穩定。

總之，知識生產是社會發展和人類進步的重要推動力，以ChatGPT 為代表的生成式人工智能以獨特的“物性”與“靈性”為知識生產提供了新的工具和手段，也對人類知識生產產生了革命性影響。生成式人工智能的出現還會在人類社會思維、知識產權和意識形態等方面帶來重大挑戰。正視生成式人工智能對人類知識生產的革命性影響，需要我們以理性的思考和審慎的態度來認識與處理人類智能與生成式人工智能的關系。將生成式人工智能視為人類認知的延展與知識生產的新方式，利用技術理性引導生成式人工智能實現“善用”與“活用”，或許是人類知識生產在生成式人工智能時代的理性選擇。

注釋：

（1） M. Jovanovi?， M. Campbell， Generative Artificial Intelligence： Trends and Prospects， Computer， 2022， 55（10）， pp.107-112.

（2） 肖峰、鄧璨明：《人工智能：接緣技術哲學的多重考察》，《馬克思主義與現實》2021年第4期。

（3） 陳波：《哲學：知識還是智慧？》，《中國社會科學》2023年第8期。

（4） 富強、何華燦：《LISP語言的并行性研究》，《計算機學報》1992年第7期。

（5） 殷杰、董佳蓉：《人工智能的語境論范式探析》，《自然辯證法通訊》2011年第4期。

（6） S. Frieder，L. Pinchetti，R. R. Griffiths，et al.，Mathematical Capabilities of ChatGPT， 37th Conference on Neural Information Processing Systems （NeurIPS）， New Orleans， LA. Advances in Neural Information Processing Systems （NEURIPS 2023）， 2023， 36， pp.27699-27744.

（7） 郭喨：《嚴格指示詞、自然種類名與人類語言》，《自然辯證法通訊》2023年第9期。

（8） Jürgen Rudolph， Samson Tan， Shannon Tan， ChatGPT： Bullshit Spewer or the End of Traditional Assessments in Higher Education， Journal of Applied Learning and Teaching， 2023， 6（1）， pp.342-362.

（9） 除ChatGPT以外，OpenAI公司全新推出的Auto GPT進一步結合了生成式人工智能與自動化工作的優勢。作為一款自主運行的GPT，其運行過程盡可能減少甚至無需干預，完全憑借GPT自主決策結果并結合外部資源執行操作，通過循環評估策略來檢測目標完成程度。AutoGPT的整個執行過程全自動化完成，幾乎無人干預，利用這一技術不僅可以構建其他領域的新型智能體，還能最大程度實現知識生產的自動化發展。

（10） 支振鋒：《生成式人工智能大模型的信息內容治理》，《政法論壇》2023年第4期。

（11） 杜華、顧小清：《人工智能時代的知識觀省思》，《中國遠程教育》2022年第10期。

（12） ［清］吳乘權等輯、施意周點校：《綱鑒易知錄》，中華書局1960年版，第7頁。

（13） 卡爾·波普爾：《猜想與反駁》，傅季重、紀樹立等譯，上海譯文出版社2001年版，第28頁。

（14） 周學峰：《生成式人工智能侵權責任探析》，《比較法研究》2023年第4期。

（15） 趙振、胡乃平、劉敏、嚴雋薇：《基于本體可信模型的知識可信評價理論》，《計算機集成制造系統》2014年第11期。

（16） 劉書文、郭喨：《生成式人工智能重構人類知識生產與思維方式》，《中國社會科學報》2023年4月18日。

（17） 趙汀陽：《GPT推進哲學問題了嗎》，《探索與爭鳴》2023年第3期。

（18） 江怡、董化文：《論人工智能與人類智能的雙向互動》，《自然辯證法通訊》2023年第11期。

（19） 吳瓊、孫程芳：《人工智能時代的國家文化安全風險及其規避》，《南昌大學學報》（人文社會科學版）2023年第3期。

（20） Donald S. Chisum， Michael A. Jacobs， Understanding Intellectual Property Law， Mattew Bender， 1992， pp.4-86.

（21） James Grimmelmann，There’s No Such Thing as a Computer-Authored Work—And It’s a Good Thing Too， Columbia Journal of Law and the Arts， 2016， 39（3）， pp.403-416.

（22） 劉易斯·芒福德：《技術與文明》，陳允明譯，中國建筑工業出版社2009年版，第9頁。

（23） Nick Couldry， Ulises A. Mejias， The Cost of Connection： How Data Is Colonizing Human Life and Appropriating It for Capitalism， California： Stanford University Press， 2019， p.xiii.

（24） 隋婷婷、郭喨：《“常人的神諭”：ChatGPT類生成式人工智能與人類未來》，《江漢論壇》2024年第7期。

（25） 蒲清平、向往：《生成式人工智能——ChatGPT的變革影響、風險挑戰及應對策略》，" 《重慶大學學報》（社會科學版）2023年第3期。

（26） 孫偉平：《價值哲學視域中的算法歧視與社會公正》，《哲學研究》2023年第3期。

作者簡介：劉書文，蘇州大學馬克思主義學院博士研究生，江蘇蘇州，215031。

（責任編輯 胡 靜）