ChatGPT：人工智能時代的雙刃劍

景麗萍 劉健

[摘要] ChatGPT的崛起代表著人工智能的發展進入新階段。現如今，類ChatGPT技術已經展現出非常廣泛的學習能力，并在一些特定領域接近或超越了人類水平。這種新的學習范式為各領域各行業帶來無限機遇，同時也潛藏著不可忽視的風險。加強對ChatGPT風險認知和治理策略的研究，預測并防范其可能引發的失靈、失德等問題，可以為規范人工智能的發展和應用提供更全面、更深入的指導。

[關鍵詞] 人工智能；? 數據隱私與保護；? 法制治理

[中圖分類號] TP18? ? ? ? ?[文獻標識碼] A? ? ? ? ?[文章編號] 0529-1445（2023）06-0046-03

ChatGPT是由美國人工智能公司OpenAI開發的一款聊天機器人程序，也是一款基于互聯網可用數據進行訓練的文本生成深度學習模型。與先前的其他人工智能相比，ChatGPT采用了全新的訓練方式——人類反饋強化學習，即通過學習大量文本數據來模擬人類語言模式，生成符合語境且具有上下文相關性的文本。這一訓練方式使ChatGPT生成的文本更貼合人類的語言習慣，同時能不斷精進回答，展現出了高級的邏輯理解能力。ChatGPT已經在類人智能方面取得了相當高的水平，具有廣泛的應用前景和市場需求。

一場從傳統智能到人機交互的革命

傳統的人工智能算法主要依賴人工經驗和有限的訓練數據來處理任務。與之相比，ChatGPT采用了一種不同的技術路線，即“大數據+大算力+強算法=大模型”，其中包括兩個關鍵要素：基礎大模型和指令微調。1基礎大模型類似于大腦，指令微調是一種交互訓練方法。通過將兩者結合，ChatGPT逐漸接近人類的語言智能水平。

實現海量知識的整合與歸納。ChatGPT本質是一種大型語言模型，其訓練數據幾乎涵蓋了互聯網上所有可以獲取的信息，在知識存儲量級上遠遠超越其他知識引擎。在交互過程中，用戶通過指令提出信息需求，ChatGPT從海量知識中進行檢索并精簡數據，進而高效輸出用戶所需信息。這種高效的知識整合方式對于現代社會具有重要意義。例如，ChatGPT可以幫助研究人員快速獲取大量文獻資料，把節省出來的時間和精力用于挑選最重要和最有價值的信息。

建立高效而可靠的人機交互方式。自然語言理解一直是人工智能領域的難點。即使是最先進的自然語言處理系統，也只是基于對人類詞頻分布的模擬，無法真正理解人類語言。與之相對，ChatGPT通過指令微調和人機對齊技術展現出了強大的語言理解能力。2它可以深刻理解并掌握用戶語言背后的含義和邏輯，對各種命令和反饋做出相應的回應，甚至能夠通過與用戶的對話逐漸學習形成具有個性化特征的反應。

展現出一定的通用智能。ChatGPT之前的人工智能已經能夠執行閱讀理解、機器翻譯、自動問答等任務，但不具備通用性。ChatGPT作為一種聊天軟件，通過自然人機接口，可以完成各種任務，例如文本編輯、數據分析、圖片生成、論文撰寫、代碼生成等。這些任務以往通常由人類完成。ChatGPT所具有的這種通用智能意味著其可以作為一個強大的智力勞動工具，與人類協同工作，提高人類的工作效率和工作質量。

以嶄新姿態深度嵌入未來生活

ChatGPT的應用是人工智能技術的一次突破，為人們帶來更加智能、便捷、高效的語言服務，同時還可以應用于更多領域，例如智能客服、智能翻譯、智能寫作等。這些應用場景將會為經濟社會發展創造更大空間和更多可能性。

ChatGPT的應用對勞動力市場的影響是雙面的。ChatGPT以語言為核心初步實現了“智慧涌現”，為一些領域創造了新的就業機會，如自然語言處理算法工程師的市場需求越來越大。但是，ChatGPT可能也會導致人工客服等就業崗位減少。

ChatGPT的應用能夠提升教育培訓服務質量，為學習提供了更多便利。例如，人工智能教學助手、個性化推薦系統和智能輔導等技術能夠讓學生獲得個性化的學習體驗。

ChatGPT的應用可以促進醫療健康發展，為疾病診斷和治療帶來革命性改變。例如，幫助醫生更精準地識別疾病，提高診斷準確性，制定個性化的治療方案以及通過遠程醫療技術為更多患者提供服務。

ChatGPT的應用有助于豐富社交娛樂活動，對社交和娛樂領域產生廣泛影響。例如，聊天機器人和智能語音助手為人們的日常生活提供更加便捷的社交服務，同時還廣泛應用于游戲、音樂、電影等領域，為用戶帶來更為豐富的娛樂體驗。

ChatGPT的應用可以促進文化交流。現實中，語言和文化的差異客觀存在，給人類溝通交流帶來很大困擾。使用ChatGPT，人們跨越這種障礙變得更為容易。例如，人們可以直接用母語與其他國家和地區的人進行交流，這對于推廣文化和促進國際合作具有重要意義。

ChatGPT的應用可以幫助人類更好地理解和應對復雜的社會問題。當前，人類面臨著越來越多的復雜問題，例如氣候變化、能源危機、環境污染等。借助ChatGPT分析大量的數據和信息，可以幫助人類更好地理解這些問題的本質及形成原因，并提供有效的解決方案。這對于未來人類社會的可持續發展和進步具有重要意義。

對用戶數據及個人隱私保護帶來挑戰

從ChatGPT的功能實現上看，大規模、高質量的數據集起到了至關重要的作用。ChatGPT在帶來驚艷體驗的同時，也面臨隱私泄露、技術濫用、知識造假、社會公平等問題，人們越來越擔心它的數據安全問題。

ChatGPT本身是依靠智能算法進行大規模數據訓練而形成的，而且需要通過不斷地與用戶互動優化自身的“智能水平”。在這一過程中，ChatGPT需要采集、儲存和分析用戶的數據，有可能造成數據泄露和數據丟失，導致用戶的隱私和安全受到威脅。2023年3月，OpenAI發布聲明稱，與任何技術一樣，ChatGPT也會帶來一定安全風險，并介紹了包括尊重隱私在內的六個方面安全部署。這表明技術越先進，安全越重要。

ChatGPT的工作原理是通過學習用戶的對話記錄來生成響應，使用智能算法來分析和處理用戶數據，ChatGPT因此具備一定的邏輯推理能力。這也意味著ChatGPT可能會從用戶輸入中推理出更為私密敏感的信息。這些信息可能會被其他用戶二次使用，從而導致用戶隱私泄漏。鑒于對可能引發數據泄露的擔憂，意大利宣布暫時禁止ChatGPT的使用。

ChatGPT是一種大型語言模型，存儲了大量敏感信息，除了自身保護不周可能引發數據泄露之外，還面臨著不法分子惡意攻擊問題，用戶數據可能會被不道德或不合法使用，繼而引發一些道德和法律問題，如侵犯用戶的隱私權或作品版權等。在這種情況下，一些國家已經開始采取措施限制ChatGPT的使用。例如，意大利個人數據保護局不僅宣布禁止使用ChatGPT，還限制OpenAI公司處理意大利用戶信息，并開始立案調查。

在以上背景下，我國正在加快推進數據安全工作。2023年3月，國家數據局正式組建，負責協調推進數據基礎制度建設和統籌數據資源整合共享和開發利用，以推動數字中國、數字經濟、數字社會的規劃和建設。國家數據局的成立還將為健全數據要素市場安全長效運行機制起到重要的助推作用。在頂層設計層面，國家出臺相關政策文件，強化數據安全作為數字中國建設核心底座的地位。2023年1月，工信部、國家網信辦、國家發改委等16部門印發《關于促進數據安全產業發展的指導意見》。2023年4月，國家互聯網信息辦公室起草《生成式人工智能服務管理辦法（征求意見稿）》，面向社會公開征求意見。

面對挑戰需要設定“邊界”

作為人工智能技術未來的發展趨勢，以ChatGPT為代表的內容生成式人工智能將會滲透到各行各業。同時，隨著數據規模不斷擴大，數據泄露、濫用等風險日益凸顯，防范數據安全風險成為各方共識。

應用的可靠性有待考量。現階段，ChatGPT還是一種實驗性較強的人工智能系統，穩定性尚不足，易于出錯。隨著對人工智能的認識和使用不斷加深，人們越來越注重其系統運轉的可靠性。因此，在正式場合應用ChatGPT時，必須保持高度謹慎，避免出現無法控制的后果。

應用的合法性有待規范。由于ChatGPT生成內容具有模糊性特點，人們很難使用剛性約束對其應答進行合法性限制。這就意味著，基于全網數據訓練的ChatGPT若被不當使用，很容易突破國家法律限制。此外，在國際會議、商業談判、學術研究等場合，如果ChatGPT被錯誤使用，可能會導致決策不科學、法律糾紛頻發和聲譽受損等不利后果。因此，在使用ChatGPT時，必須采取適當的措施來確保其應用的合法性和可靠性。

生成的惡意內容急需規避。ChatGPT的用戶在全球廣泛分布，用戶質量良莠不齊，這意味著一些不良用戶可能會故意提供不準確或有害的數據來訓練ChatGPT，生成惡意內容，給用戶造成物質和精神傷害。更嚴重的是，有些用戶可能會濫用ChatGPT實施網絡攻擊、煽動暴力等違法活動，嚴重危害社會安全和穩定。相關政府管理部門應當及時制定實施監控措施，發現并懲治違法行為，以保護用戶的權益和安全。

[參考文獻]

[1]國家互聯網信息辦公室.生成式人工智能服務管理辦法（征求意見稿）[EB/OL].http：//www.cac.gov.cn/2023-04/11/c_1682854275475410.htm.

（作者簡介：景麗萍，北京交通大學計算機與信息技術學院副院長、教授；劉健，北京交通大學計算機科學系講師）

責任編輯 / 陳? ?思