我國發(fā)展生成式AI技術的內(nèi)在邏輯、風險及路徑研究

蔡亞天 桂由英

摘? 要：生成式AI是一種利用大數(shù)據(jù)學習、創(chuàng)造全新數(shù)據(jù)或內(nèi)容的人工智能技術。我國大力發(fā)展該技術，是基于科技創(chuàng)新、制造業(yè)升級、商業(yè)場景優(yōu)化等多重因素的綜合考慮。然而，該技術也面臨著法律、倫理、安全等方面的潛在風險和挑戰(zhàn)。我國應在明確生成式AI技術的法律責任、培育生成式AI技術的創(chuàng)新生態(tài)、應對AI技術對傳統(tǒng)行業(yè)就業(yè)市場的影響等方面持續(xù)加強工作，助推生成式AI技術的高質(zhì)量發(fā)展。

關鍵詞：生成式AI? ? ? 隱私保護? ? ?數(shù)據(jù)安全

生成式 AI 技術是一種利用人工智能算法讓機器不依賴于現(xiàn)有的數(shù)據(jù)，而通過自身的模型產(chǎn)生新的數(shù)據(jù)的技術。相較于判別式 AI ，生成式 AI 技術具有以下特點：第一，可以在沒有大量已有數(shù)據(jù)的情況下生成新的數(shù)據(jù)。第二，可以生成獨特的、全新的數(shù)據(jù)，而不僅僅是基于已有數(shù)據(jù)。第三，可用于圖像、音視頻、文字等多種類型的數(shù)據(jù)生成。隨著深度學習和大規(guī)模訓練數(shù)據(jù)的出現(xiàn)，生成式 AI 技術得到迅速發(fā)展。目前，該技術在創(chuàng)意設計、虛擬現(xiàn)實、視頻游戲等領域已經(jīng)有了廣泛應用，可以快速生成大量的音視頻。在科學研究中，此技術也正被應用于新材料、新藥物的設計和研發(fā)中。

一、我國大力發(fā)展生成式AI技術的內(nèi)在邏輯

我國正大力發(fā)展生成式 AI 技術，開發(fā)了文心一言、通義千問等模型，發(fā)展該技術具有深刻的內(nèi)在邏輯。通過推動該技術的研究和應用，我國可大幅提升在人工智能領域的國際競爭力，更好滿足國內(nèi)外市場的需求。這將為中國帶來長期的經(jīng)濟、社會效益，同時也將促進全球AI技術的進步。

（一）科學技術的發(fā)展與創(chuàng)新

在科學技術領域，生成式AI技術可以提供靈活、高效的解決方案，讓科研人員在數(shù)據(jù)處理、模擬建模、實驗設計等方面獲得更多的創(chuàng)新思路。比如，生成式AI可以快速產(chǎn)生大量模擬數(shù)據(jù)，從而分析某些科研項目的可行性。在設計領域中，生成式AI技術可以幫助設計師更加高效地完成創(chuàng)意工作，在短時間生成大量優(yōu)質(zhì)的設計方案，從而滿足不斷增長的用戶需求和市場需求。設計師可通過該技術，不斷提升設計質(zhì)量和效果，從而在市場中贏得競爭優(yōu)勢。

（二）制造業(yè)轉(zhuǎn)型升級

近段時間，更多企業(yè)開始將生成式AI技術應用于生產(chǎn)鏈中。首先，它能夠在較短時間內(nèi)準確生成所需的產(chǎn)品和樣品，從而提升生產(chǎn)效率。這樣一來，中國的制造業(yè)就可以更好地適應市場需求，為客戶提供更具競爭力的產(chǎn)品。其次，它還可以為企業(yè)品控和監(jiān)測提供有效的解決方案。對于某些需要更高品質(zhì)和準確性的產(chǎn)品（如飛行器的零部件）， 它提供了基于算法的智能化、預測型品控方法，從而改善生產(chǎn)工藝。最后，它還可以降低人工和生產(chǎn)成本，有助于企業(yè)的長效盈利。生成式AI技術對我國制造業(yè)的轉(zhuǎn)型升級非常關鍵，該技術將提升制造業(yè)的數(shù)字化、智能化、自動化水平。

（三）商業(yè)場景的優(yōu)化

該技術具有廣泛的商業(yè)應用前景。在圖像處理方面，可以實現(xiàn)圖像生成、風格遷移、圖像修復等功能，這在廣告設計、游戲開發(fā)、智能家居等領域?qū)⒌玫綇V泛推廣。在音頻處理方面，該技術可應用于語音合成、音頻增強、音符生成等方面，這將改善語音交互、提升音樂創(chuàng)作水平。此外，該技術還可用于模擬仿真、自動編程、醫(yī)療等場景。

（四）提升全球創(chuàng)新競爭力

在全球創(chuàng)新領域中，生成式AI技術已成為一個備受關注的研究方向，這對提升中國在全球的競爭地位至關重要。在電子商務領域，它可以更準確地分析消費者需求、提升市場分析和預測的精準度，從而提高企業(yè)的商業(yè)水平，推動行業(yè)的數(shù)字化轉(zhuǎn)型。在智能制造領域，它也可以協(xié)助企業(yè)完成流程優(yōu)化、自動化調(diào)整，提升企業(yè)的生產(chǎn)效率。

在國防和公共安全等方面，生成式AI同樣可以提供更好的技術支持。在智能安防方向，此技術可實現(xiàn)人員識別、行為分析和情景感知等功能，從而更好地維護國家安全和社會穩(wěn)定。該技術還可用于智能交通、城市規(guī)劃、公共資源管理等領域，提高城市管理、公共安全的效率。

（五）經(jīng)濟需求

面對人口老齡化和勞動力成本上升的挑戰(zhàn)，我國迫切需要更多自動化解決方案。生成式AI技術可以幫助企業(yè)創(chuàng)建軟件代碼、促進產(chǎn)品研發(fā)和有針對性的營銷等，從而減輕員工負擔，提高工作效率。

二、我國發(fā)展生成式AI技術的優(yōu)勢條件

（一）技術實力

AI技術是綜合性的新興科學，涵蓋了語音、圖像、文字、思維等多個方面。我國在自然語言處理、圖像識別等領域，位居全球領先地位。近年來，中國人工智能企業(yè)大量涌現(xiàn)，匯聚了眾多優(yōu)秀AI技術人才。

（二）政策支持

黨的二十大報告指出，加快發(fā)展數(shù)字經(jīng)濟，促進數(shù)字經(jīng)濟和實體經(jīng)濟深度融合。2023年4月11日，《生成式人工智能服務管理辦法（征求意見稿）》出臺并向社會公開征求意見。對比其他國家對該技術的監(jiān)管，中國無疑走在了世界前列?！兑庖姼濉穼ι墒紸I技術、生成內(nèi)容、主體責任、數(shù)據(jù)源和數(shù)據(jù)處理等方面都做出了相關規(guī)定，為我國生成式AI技術高質(zhì)量發(fā)展提供了制度保障。

（三）人才儲備

我國擁有龐大的人才儲備，特別是在計算機科學、數(shù)學等相關領域。我國高等教育體系不僅培養(yǎng)了大批優(yōu)秀人才，而且部分國內(nèi)頂尖高校和科研機構在該領域也取得了可觀的成就。然而，在高端研究人員、跨領域交叉人才等方面尚存一定短板。為此，我國已出臺多項政策和規(guī)劃，支持AI教育和培訓。例如，教育部新增高職（?？疲┤斯ぶ悄軐I(yè)，180所高校也新增相關本科專業(yè)。

三、生成式AI技術的潛在風險隱患

（一）數(shù)據(jù)安全與隱私保護

生成式AI技術在使用過程中，它可能帶來數(shù)據(jù)泄露和個人隱私侵犯的風險。例如，生成式AI模型通常使用大量的公開文本數(shù)據(jù)進行訓練，這些數(shù)據(jù)可能包含個人信息、敏感數(shù)據(jù)或不當內(nèi)容。如果在訓練過程中沒有對此類信息進行充分過濾和脫敏，模型可能會學到這些敏感信息，并在后續(xù)應用過程中將其泄露給其他用戶。此外，該技術可能會產(chǎn)生涉及真實姓名、地點和其他個人信息的輸出，嚴重侵犯個人隱私。

（二）信息誤導

隨著生成式AI的發(fā)展，更多虛假信息和誤導性內(nèi)容被生成和傳播，這可能對社會公眾產(chǎn)生負面影響。部分AI算法可根據(jù)一些已有信息，生成看似真實的虛擬內(nèi)容，甚至可能仿冒現(xiàn)有人物并產(chǎn)生高度逼真的結果。生成式AI技術可能會增加虛假信息的風險，并引發(fā)社會輿論的不穩(wěn)定。這些誤導性內(nèi)容有可能傷害公眾權益，導致社會問題的惡化。另外，一些虛假信息可能會與現(xiàn)實世界中的個人數(shù)據(jù)相似，這可能會誤導用戶認為自己的個人隱私被泄露，引發(fā)用戶的擔憂。例如，生成式AI算法生成的虛假圖像可能深度仿真某一特定人物，如果該人物的隱私信息遭到泄露，就有可能誤導社會輿論，并產(chǎn)生嚴重的負面影響。這還可能導致相關人員陷入不必要的麻煩，進一步影響到社會秩序和國家安全。

（三）倫理問題

生成式AI技術在自然語言處理領域得到了廣泛應用。然而，如果這些算法不受適當監(jiān)管，就有可能產(chǎn)生具有攻擊性或歧視性的內(nèi)容，從而引發(fā)社會爭議和道德問題。例如，在社交媒體上使用該技術生成的誤導性或虛假信息，可能被用于網(wǎng)絡欺凌、騷擾、詐騙中。此外，該技術可能會重復和放大現(xiàn)實世界中的偏見和歧視，進一步加劇社會的不平等。

（四）人工智能失控

生成式AI技術的發(fā)展也給人類社會帶來了挑戰(zhàn)。如果不能及時采取有效措施來監(jiān)管該技術，那么它可能會變得失控。由于該技術的高度復雜性，使得其潛在的危險性也更大。該技術的安全漏洞甚至會對國家安全和生態(tài)環(huán)境產(chǎn)生不可預知的負面影響。

（五）依賴性問題

生成式AI技術的發(fā)展給生活和工作帶來了巨大的便利。但如果人們過度依賴該技術，就有可能喪失獨立思考力和判斷力。首先，此技術可能產(chǎn)生認知慣性和思考惰性。人們會將本該自己思考解決的問題交給AI來完成，從而習慣了簡單地接受AI的建議和結果，而不是針對問題進行深入思考。其次，過度依賴生成式AI技術會進一步導致人類社會的人際關系愈加疏離。這會使人們社交互動的機會減少，可能會降低社會凝聚力。

四、我國發(fā)展生成式AI技術的主要路徑

（一）合理界定生成式AI技術的法律責任

生成式AI技術應用中，法律責任歸屬的明確界定直接關系到整個行業(yè)的發(fā)展前景，需引起高度重視。例如，用戶沒有遵守相關法律法規(guī)，濫用生成式AI技術，導致隱私泄露、知識產(chǎn)權侵犯等問題，用戶需承擔相應的責任。又比如第三方干擾或攻擊，導致生成式AI不能正常工作或輸出結果不準確，導致嚴重后果，需綜合考慮相關方面進行責任界定。

因此，在界定法律責任歸屬時，需考慮到多個維度，以確保生成式AI技術應用的合法合規(guī)和安全可靠。從技術角度看，我們需要對該技術的整個生命周期進行監(jiān)管。這包括數(shù)據(jù)收集、處理、存儲和使用等方面，以及算法模型的開發(fā)、測試和上線等流程。同時，還需要建立完善的技術評估和審查機制，確保該技術的安全性、穩(wěn)定性和可靠性。

從法律角度看，我們需要依據(jù)相關法律法規(guī)和政策規(guī)定，明確各方的權利義務和責任。這包括對數(shù)據(jù)隱私、知識產(chǎn)權、消費者權益的保護，以及對不當行為的懲罰和追責。此外，還需要制定相應的合同條款和協(xié)議，規(guī)范各方之間的關系和義務。

（二）著力培育生成式AI技術的創(chuàng)新生態(tài)

為培育有利于AI創(chuàng)新發(fā)展的生態(tài)系統(tǒng)，我們應該著力推動學術界與產(chǎn)業(yè)界之間的深度合作，共同探索生成式AI技術的潛力與可能性。這種合作應以資源互通和創(chuàng)意交流為基礎，在兵分兩路的情況下共同致力于推動技術研發(fā)和革新。同時，我們也需要加強對相關行業(yè)的研究和探索，尋找與其相輔相成的新機遇。只有深耕精細，建立起一個完整的、高效的協(xié)同創(chuàng)新體系，才能使生成式AI技術獲得更大的成功。

此外，基礎理論研究依然是保障技術進步的核心。如今，AI技術正不斷滲入到各個行業(yè)領域，但真正實現(xiàn)技術的躍升，仍離不開理論基礎的研究和積累。

（三）減輕生成式AI技術隱私風險，保障數(shù)據(jù)安全

在訓練生成式AI模型時，應對訓練數(shù)據(jù)進行脫敏處理，移除所有包含個人信息、敏感數(shù)據(jù)或不當內(nèi)容的文本，從而降低潛在的隱私風險。技術開發(fā)者應通過設置合適的過濾器和約束條件，限制生成式AI產(chǎn)生包含個人隱私或敏感信息的輸出結果，降低泄漏風險。服務提供商應明確用戶協(xié)議和隱私政策，告知用戶如何處理他們的數(shù)據(jù)，以及在與生成式AI交互過程中可能產(chǎn)生的隱私風險。此外，技術開發(fā)者及相關各方應采取更嚴格的數(shù)據(jù)安全措施，對用戶數(shù)據(jù)進行加密和訪問控制，防止未經(jīng)授權的訪問、使用或泄漏。同時要確保在合法合規(guī)的情況下處理用戶數(shù)據(jù)。

（四）有效應對AI技術對傳統(tǒng)行業(yè)就業(yè)市場的沖擊

生成式AI技術可以自動生成大量內(nèi)容，這可能導致部分從事簡單內(nèi)容創(chuàng)作的從業(yè)者失業(yè)。此外，在醫(yī)療、金融等行業(yè)，部分簡單、機械的工作也將被替代。然而，生成式AI技術也給傳統(tǒng)行業(yè)帶來機遇。該技術可以幫助從業(yè)者節(jié)省時間，提升效率。同時，需要創(chuàng)意的相關工作，AI技術也并不能真正替代人類的價值。

為此，相關從業(yè)者需積極轉(zhuǎn)型并提升自身技能，向更有創(chuàng)意和思考性的工作方向轉(zhuǎn)變，從而提升自身競爭力。政府和社會各方也應采取積極全面的技術布局，充分利用生成式AI的技術優(yōu)勢，實現(xiàn)與實體經(jīng)濟的深度融合。

（五）著力發(fā)展通用大模型及垂直領域模型

垂直領域模型是指針對特定領域或任務進行優(yōu)化設計的模型，例如語音識別、自然語言處理、圖像分類等。垂直領域模型的優(yōu)點是可以更好地適應特定場景的需求，提高模型的精度和效率。我國應大力發(fā)展垂直領域模型，從而充分利用中國在各個行業(yè)和領域的海量數(shù)據(jù)，打造出具有競爭力和創(chuàng)新力的AI應用。

發(fā)展垂直領域模型并不意味著放棄通用大模型。我國應在通用大模型和垂直領域模型上都加大投入，兩者相輔相成，從而共同推動生成式AI技術的發(fā)展。

參考文獻：

[1]杜立平，宋燕紅，李曉東，金鑫.GAN在AI領域的應用研究[J].北京電子科技學院學報，2018，26（3）.

[2]芝亭.文心一言，“利刃出鞘”生成式AI時代[J].華東科技，2023，（3）.

[3]顧亞奇，王琳琳.有意義的控制：基于生成對抗網(wǎng)絡的AI藝術及其交互方式[J].裝飾，2021，（8）.

[4]趙志宏.生成式AI開啟生產(chǎn)力新范式[J].銀行家，2023，（4）.

[5]生成式人工智能服務管理辦法（征求意見稿）[J].中國信息化，2023，（5）.

[6]馮群星.全梳理.180所高校新增人工智能專業(yè)，能否填補百萬人才缺口？[EB/OL]. 2020-03-06.

[7]李白詠.面對生成式人工智能：與AI結對還是被AI取代？[J].中國電信業(yè)，2022，（12）.

（作者單位：1.中共內(nèi)江市委黨校；2.內(nèi)江市人民政府辦公室）

責任編輯：康偉