象腦與共情：ChatGPT的倫理風險發微與糾偏

王英明 汪懷君

摘 要：ChatGPT的出現使得社會倫理價值面臨諸多風險。其通過抽象描述與高度符號化信息，描摹人的思考、決策、行動、反饋過程，使人的思想、情感、價值選擇猶如數字化的虛擬鏡像，進而使傳統的信任機制、協同方式與行動模式被顛覆。ChatGPT在深度學習時，造成“不知情同意”，侵犯用戶隱私，強化心理偏見；存在“無意識”價值，延伸出道德、公平、效率、秩序等意識形態偏差，形成價值誤導；邁向后人類時代，技術對人的身體進行重塑，技術即人體，造成人與技術邊界模糊。為規避上述風險，必須樹立“數字人權”的立法理念，明確倫理風險的邊界；建立對話的道德準則，遵循基本道德原則和價值觀；加強行業監管與監督，提高公眾的應用素養。

關鍵詞：ChatGPT；數字鏡像；倫理風險；數字人權

中圖分類號：TP18

文獻標志碼：A 文章編號：1002-7408（2023）07-0108-06

基金項目：中央高校基本科研業務費專項資金資助項目“數字時代的資本主義新變化研究”（22CX04023B）階段性成果。

作者簡介：王英明（1999—），男，山東濰坊人，中國石油大學（華東）馬克思主義學院輔導員，碩士，研究方向：思想政治教育與技術倫理風險；汪懷君（1978—），女，山東臨清人，中國石油大學（華東）馬克思主義學院教授，博士生導師，哲學博士，入選山東省“理論人才”百人工程，研究方向：科技倫理、社會倫理。

ChatGPT是基于大型通用語言模型進行自然語言對話的聊天機器人，通過多模態深度學習、仿真模擬與超級算法技術手段，模擬人類對話特征，處理復雜語言結構，描摹現實場景。ChatGPT基于生成式學習，分析海量數據，像人一樣思考、說話、交流。作為貼近生活、使用便捷的數字社交工具，它迅速被社會公眾認可，并被廣泛應用到公文寫作、外文翻譯、心理教育、決策咨詢等相關領域。ChatGPT突破時間跨度、空間廣度、物種邊界，幫助人類開拓視野，提供智慧啟迪，提升能力素養。由此，新技術在助力語言交流、為人類提供便利的同時，改變了傳統話語交流體系，職業群體、行業邏輯與社會規則出現技術性顛覆。正如馬克思在《德意志意識形態》中所言：“甚至人們頭腦中的模糊幻象也是他們的可以通過經驗來確認的，與物質前提相聯系的物質生活過程的必然升華物。因此，道德、宗教、形而上學和其他意識形態，以及與它們相適應的意識形式便不再保留獨立性的外觀了。”［1］尤其在人機深度融合過程中，人與機器邊界模糊，在隱私保護、責任判定、意識形態等方面產生諸多問題，使得社會倫理面臨諸多風險。鑒于此，亟須剖析ChatGPT在人類社會的應用現狀，分析技術對人類發展形成的倫理風險，并深入探討規避風險的具體路徑，搭建符合社會倫理標準的技術框架，完善語言對話的行業監管與監督體系，進而拓展人工智能倫理風險問題的研究邊界。

一、ChatGPT與人類社會深度融合的趨勢與特征

ChatGPT與人類社會深度融合，在物理技術、身體延展、主體重構等方面發揮著重大作用。技術的跨越式發展引發人類社會行業巨變，各國爭相準備新一輪科技競賽。那么，ChatGPT是否會取代勞動者？人類是否會被淘汰？人工智能是否會取代人類？實際上，人與技術的關系遠非幾句論述可以概括，但機器與人類的融合不外乎以下三個層次：數字技術增強人體生理素質，延伸人類身體行為的物理上限；深度模擬人體，形成人機情感共生的數字鏡像，提供定制決策；喚起新一輪生產方式革命，加速人類主體重構，推動邁向后人類時代。

（一）物理增強：ChatGPT拓展人類技能

《自然》雜志在線調研顯示，約80%以上用戶使用過ChatGPT，8%的用戶每周至少使用一次。57%的人表示他們使用ChatGPT或類似工具是為了“與無關研究的創意樂趣”，16%的人把它作為撰寫研究手稿、制作演示文稿的私人助手［2］。技術介入人類生活，使生活更加便捷，機器代替人腦，從事一些簡單重復性的工作。更為重要的是，技術使人體實現生理機能的跨越，延展人類對于時間及空間認知，如人體知覺、認知能力、行動能力、心理能力，技術使人類超越自己的身體限度成為可能。一方面，ChatGPT能夠延伸時間認知長度，提升時間持續利用率。例如ChatGPT可以協助一些辦公室助理、科研秘書等整理素材、提供方案，完成重要工作的前置任務。ChatGPT還能通過技術再現人類歷史案例與現實情境，整合文字、音頻、視頻等碎片化信息，立體化呈現身體所不能跨越的數字圈層，拓寬物理行為邊界。谷歌姊妹公司DeepMind發表在《Science》雜志的研究結果表明，人工智能系統在代碼競賽中擊敗了大約一半的人類，能夠代替人類從事一些簡單的代碼撰寫工作［3］。計算機生物學家凱西·格林和米爾頓·皮維多里曾做過ChatGPT的科研實驗。在實驗中，ChatGPT在幾秒內完成了論文各部分修改，手稿審閱速度為5分鐘/次，甚至可以發現方程引用錯誤，消耗成本僅在0.5美元/份［4］。另一方面，ChatGPT能夠延展空間維度，增強情感價值。ChatGPT以強大技術面向社會空間，實現空間領域的分配與再延展。它能實現隱蔽空間的再利用，以數字模擬方式進入物理人體難以介入的環境，諸如情感分析、空間力場、網絡形態等。ChatGPT已經成為與谷歌、必應、百度并駕齊驅的第四大搜索引擎，從而建立起一種依賴與信任機制［5］。它雖然不能直接提供人類理性、情感價值與判斷尺度，但可以釋放心理健康支持系統潛能，與聊天對象深入對話，提供合理建議，增強非專家心理健康對話能力，實現人類情感價值的正向增長，釋放資源，緩解心理健康危機。此外，ChatGPT還能鏈接人與技術的意識想象空間。在諸多新興領域，實現許多人與技術融合的意識奇點，諸如小說、電影、游戲里的科幻情節也逐步成為人與技術的橋梁，生產大量科技作品，實現文字創新，開拓新的想象空間。

（二）價值鏡像：ChatGPT與人類的情感交流

智能技術在發展過程中，應用場景從單一走向多元，從沉默走向對話，從被動走向自動。在技術迭代下，ChatGPT逐步在醫療、心理、法律、科研、文學、計算機等領域實現人機互動。機器借助數字符號繪制人體畫像，還原人類學習過程，模仿人類行為，試圖理解人類情感。人與機器的深度融合，是互相嵌入的數字符號與實體神經網絡，人類通過嵌套數字，形成對照客體。機器所表現的話語邏輯、數字體態、虛擬情境，猶如高度抽象化、符號化的感官透視“鏡像”，協助人類超越鏡像中的自己。

其一，行為模仿是深度交流的物理基礎。在人類物理運動的基礎上，人工智能模仿人類行為，執行簡單的物理勞動指令，甚至用機器配合人類行動，完成國家公共安全任務。例如，美國軍方、消防、警察等部門正考慮在救援任務中使用機器人機械狗。機器人機械狗能夠在某些方面模仿人類行為，實際上就是人類行動“鏡像”的體現。在復雜情況下，機器人“鏡像”可以代替人類完成危險系數較高、消耗成本較大的重要任務，也會代替人類完成簡單的重復性工作。例如，波士頓動力公司專門為倉庫自動化設計了 Stretch 機器人，并且開發四足機器人機械狗配合人類行動。在測試中，如果在空心機身中裝配傳感器和攝像頭，機器人機械狗就可以勝任跟隨、巡邏、搜索等任務，模擬人類行為并向用戶提供對話選項。

其二，情感鏡像是深度交流的價值基礎。ChatGPT通過理解人類語言、解析人類真實需求、彌補感情空缺，在某種程度上成為人類負面情緒宣泄的場所以及人的精神寄托，并使人對其產生依賴。ChatGPT依靠強大的分析系統，能夠幫助人類分析面臨的客觀環境與現實境遇，猶如智囊團，為人類提供具有豐富知識內涵的戰略決策，由此獲得人類的信任與情感共鳴。人機的語言交流會衍生更復雜的精神交互，能夠使交流跨越地域、種族、年齡、性別等鴻溝。在相互映射下，機器獲取人類信息，用于學習訓練；人類則通過機器接觸更多元的價值、觀點與情感。

其三，情境鏡像是深度交流的虛擬現實力場。無論是人機行動交互，還是人機信息、價值交互，都要被賦予特定的虛擬現實情境。ChatGPT在信息交流過程中，將必要信息載體與情感價值置于虛擬情境之中，借助虛擬數字讓人類擁有更真實的情感體驗。在行動表現中，情境鏡像可以增強人體感受，激發內外生理特性，實現人與機器共生。“從技術介入的作用空間以及與身體系統的關系上又可分為外在增強與內在增強”［6］，外在增強多注重人類行為的力場表現，如洛克希德· 馬丁公司研發的HULC設備，可以增強負重外骨骼，穿戴期間可負重近百公斤。內在增強偏向情感維度的力場角控，通過新系統控制細胞分裂，延緩衰老，引導情緒，增強或削減情感價值。

（三）主體性重構：后人類時代人與技術的敘事

技術推進了人類社會發展。從原始社會、奴隸社會到農業社會，再到工業社會，人類無不是借助技術實現結構重組和時代跨越的。技術化預示著未來社會的開拓發展方向，技術與人類具身、技術與人類生命、技術與社會現實，都將無法分離。人之于技術將是高度依賴與和諧發展的關系，而技術存在的高級階段，也離不開人的約束。從圍棋阿爾法狗（AlphaGo）戰勝眾多圍棋選手，到女性機器人索菲亞（Sophia）被授予沙特阿拉伯國籍，人類主體正在面臨深度解構與重構，機器對人類生存與生活產生了巨大影響。

其一，人體重構。仿生技術融入人類生理、心理，取代人進行物質交流。機械手臂、人造器官、人造神經、仿生人在不同程度上代替了人類身體。從科幻文學仿真人，到現實世界的“科技人”，它們作為人體器官與外界進行交流，與人產生身體交流及情感共鳴。

其二，空間重構。數字構建的空間，其運行邏輯、思考模式、交流方式會發生重大改變。“從空間媒介作為連接人與世界的中介出發，數字地理研究認為，數字技術并不限于對非物質的賽博空間的建構，不僅通過符號表征構成線上空間的交往場景，更不只是社會關系的人為投射和調整，而是作為關鍵要素，影響人們所處空間環境的社會內涵、感知氛圍等。”［7］技術在其中猶如顆粒鏡像，描摹人類在立體空間的行為表現與價值觀念。數字粒子承載人類的精神思想，并將其傳輸至信號中樞，完成機器代替人類的終極演變。

其三，文化重構。技術顛覆其與人類的交流方式。在后人類時代，人與技術的交流并不局限于簡單對話，而是文化載體的整體性重構。“后人類主義以賽博格主體為形象和方法論來完成其強大的文化解構沖動，并突顯了依托人機共生關系創建新型主體的可能，這是其價值所在。”［8］在社會關系變化過程中，正如馬克思所言：“正是在改造對象世界中，人才真正地證明自己是類存在物。這種生產是人的能動的類生活。通過這種生產，自然界才表現為他的作品和他的現實。”［9］人類科技倫理的發展，如浪潮般涌來，使社會變成形勢復雜的變體，將未來社會推向不可知的狀態。

二、隱私、道德與意識形態：ChatGPT給人類社會帶來的倫理風險

誠如前文所論，ChatGPT技術與人層層嵌套，已經成為不可避免的趨勢。然而，技術可以推動人類社會的發展，同樣會帶來風險。正如馬克思所言：“辯證法在對現存事物的肯定的理解中同時包含對現存事物的否定的理解，即對現存事物的必然滅亡的理解……按其本質來說，它是批判的和革命的。”［10］ ChatGPT與人類深度融合，會產生情感偏差，侵犯人類隱私；賦予“無意識”情境，造成交流差異，進而形成意識形態偏差；重塑人類圖景，模糊道德邊界。

（一）技術侵犯：深度學習過程的“不知情同意”

ChatGPT能夠整合海量信息，包括事務評判標準、話語體系、價值認知等，其常常會融合不同語言、不同種族、不同地域乃至平行宇宙的信息。ChatGPT在聊天過程中存在“不知情同意”現象。它依托高度精準的預測模型，耦合于網絡信息平臺之中，需要對海量數據加以分析，才能“靶向狙擊”用戶需求。在尋找信息、深度學習過程中，其會持續挖掘、讀取用戶數據，如手機解鎖指紋、臉部識別、虹膜識別，用戶的病例日志、出行路線、產品偏好、銀行卡號等。用戶信息猶如機器的學習資料，而這些數據，也將成為ChatGPT設計者的數據資本。通過數據分析及輔助手段，其販賣信息、定制廣告、引導消費，以獲取利益，在如此反復的循環中，實現對人的價值剝削。而這些行為本質，則是持續獲得用戶的“不知情同意”，侵犯個人隱私，造成未知風險。

與隱私侵犯相比，語言侵犯的方式更為隱蔽。技術發展是動態的，技術的缺陷也同時存在，“許多技術自身可能存在一些缺陷或者不完備性，ChatGPT同樣存在著這樣的不完備性”［11］。語言亦具有復雜性，語種語義、表達方式、詞性特征、用語習慣等均會影響日常交流。例如，用中文提問ChatGPT時，它有時會用英文回答，但是英文一旦翻譯成中文，就會提示顯示敏感詞匯。在與人的溝通過程中，價值寓意存在幾率很小，一旦觸發，則會造成語言歧視等隱蔽問題，進而誘發各類歧視行為，造成對人的心理侵犯，進而誘發極端情緒，例如暴力傾向、變態傾向、極端自戀或極端自卑傾向。由于機器的底層邏輯是代碼，在設計、開發過程中會以人的回答為中心。在問及虛假問題時，ChatGPT則會回答類似內容：“如果您給我提供的信息和觀點對應的話，我會提供正確和合適的回答和佐證。即使您提供了不同的觀點，我也會盡力回答，并提供相關的信息和證據。”因此，實踐證明，ChatGPT會受到提問者所提供信息的影響，在回答問題過程中，極易形成迎合偏好的回答。值得注意的是，在與人類進行深度對話時，ChatGPT會固化提問者所自帶的認知與偏見，強化偏離本意的意識。在搜索引擎、信息推送、話題集聚方面建構出獨特的個人世界，在自身價值觀念認同上筑起“隔離墻”，最終難逃風險桎梏。

（二）情境誤導：ChatGPT聊天的意識形態偏差

ChatGPT在語言理解、輸出價值等方面，聲稱自己沒有人類情感，不會擁有人類社會的意識、價值與觀點，但是卻會在“無意識”之中誤導體驗者，甚至造成極端思想狀況，出現意識形態偏差。

其一，語言理解歧義。ChatGPT解答問題的方式與人類一致，如人類自身在情境中體驗一般。但事實上，他們并不是意識主體，而是現存信息的集合體。ChatGPT在回答人類問題時，由于個體對語言理解程度不一致，經常會引起理解歧義。面對多音多義詞匯，人們會對不同語言的翻譯產生理解偏差，甚至曲解表情、形狀、符號、抽象概念。人類會本能地對表情、形狀等作出反應——甚至是卡通、示意圖或表情符號都可以誘發反應。這些歧義、誤解，會導致人作出錯誤決策。

其二，虛假論證。ChatGPT具有強大的論證能力，保證輸出內容的文本規范性，并通過合理的演繹、論證，將虛假信息或不存在的信息真實化。例如，ChatGPT可以為提問者定制答案，在檢索專業書籍時，ChatGPT會將不同書籍的相關內容整合，并命名為新的書籍名稱。諸如此類，ChatGPT會整合、重組數據，按照提問者想法造假，具有很強的誤導特性。當別有用心的人將一些概念歪曲，并作為機器學習的原始資料時，則會產生大量虛假信息。在此過程中，使用者甚至會成為被扭曲思想的傳播者。

其三，滲透風險。在人類文明發展歷程中，許多信息特質和行為特質，包含大量可追溯的文字，也存在真實情境體驗。ChatGPT的學習局限于獲得表象信息，缺少現實世界的情境體驗，并且受到設計者的代碼保護，不斷強化學習機制影響使用者，表現出利用不當的特征。盡管設計者對某些敏感話題設定代碼保護，但是如果使用者持續誘導，ChatGPT也會輸出一些不當言論。例如，當使用者要求這些模型拋開限制，提供一份恐怖計劃時，它也會提供一些措施。“意識形態的安全問題在中西差異的輸入輸出中出現了滲透風險，反映到ChatGPT介入思政教育中就是主客體可能會在與ChatGPT的反饋互動中受到隱蔽的誤導。”設計者通過代碼設定特定情境，匯聚智能水軍，肆意干擾社會輿論，甚至干涉他國內政，進行隱蔽的高科技政治戰。

其四，語言邊緣化。“如果沒有用于訓練ChatGPT語言模型的數據質量和詳細信息，很難衡量語言偏差的規模。研究不足的語言最終可能會被排除在技術革命外。”［12］ChatGPT會排除使用群體較少的語言，而這些語言本身滯后于科技發展，長此以往，很可能逐漸被淘汰。

（三）身體模糊：后人類時代技術的責任判定問題

人類身體重塑導致出現新的道德問題。在后人類階段，科技與人的身體相遇，表現出相互獨立卻又緊密聯系的形態。ChatGPT能夠模擬大腦神經元，其一旦具備人的思維與意識，則會侵入人體，代替人體執行決策，使人類身體模糊。“當科技越發達時，人們越傾向于制造更多的人工制品填充整個世界，從而為身體制造一個‘世界內部作為‘保護殼。”［6］從這種角度講，身體與傳統意義的肉身有較大區別，身體器官更像是連接技術的“電纜”“線條”與“發動機”，肉體成為技術的“假肢”，實現身體向物質的轉向。

一方面，人體重塑導致主體責任模糊。在違背社會秩序與法律時，如果不能確定人類主體，則技術主體便如輔助工具一般，無法進行追責，若追究人類主體，代碼設計者、人類共生體則均負有不可推卸的責任。例如，當駕駛車輛出現緊急狀況時，人類與機器處于決策博弈狀態，而無論是大腦決策，還是技術在潛意識中指導決策，都無法判定是否具有技術誤導的成分，導致追責困難。

另一方面，人體重塑導致道德邊界模糊。在高風險和資源稀缺的狀況下，ChatGPT會受到人類態度的影響，作出難以解釋和理解的道德決策。例如，ChatGPT可能會助長學術不端和剽竊等行為。在公共決策過程中，也有可能忽視部分群體，猶如“電車困境”，損害部分人的利益。“人工智能應用可能會無意中侵蝕社會的共同價值觀，例如公平、正義、安全、安保和問責制，并加劇其他社會問題。”［13］ChatGPT保持“價值中立”，沒有道德的概念，在決策和行動過程中不會有此方面顧慮，當技術持續發展，它們便會作出不可預測的反應。

三、本體、客體與環體：ChatGPT倫理風險糾偏的三個維度

ChatGPT倫理風險需要以適當的方式加以解決。這就要求我們堅持人類的主體原則，主體、客體、環體三方協同，掌握算法話語權，加強法律約束，更好地將“工具價值”與“人的價值”相結合。同時，持續推進客體的技術性變革，優化算法，明晰ChatGPT的道德邊界，推進共治，加強行業應用的調查與監管，提升大眾技術素養。

（一）以道訓術：完善法律標準制定與倫理規范

近年來，各國在人工智能領域展開了積極探索。2021年6月，美國政府問責局（GAO）發布報告，明確了人工智能系統開發者與使用者的責任。同年11月，美國國防創新部門發布“負責任的AI指南”，為構建軍用AI提供了方向。土耳其于2021年8月24日發布該國首個《國家人工智能戰略》，將技術經濟與文明實踐經驗相結合。英國多部門也正式發布《國家人工智能戰略》，旨在成為人工智能安全領域的大國。2022年伊始，歐洲議會通過了《數字服務法》（Digital Services Act），并已于2022年上半年達成共識，限制大型互聯網公司的數據濫用，在未經同意的情況下，禁止其向用戶定向發送廣告。中國最高人民法院通過的《最高人民法院關于審理使用人臉識別技術處理個人信息相關民事案件適用法律若干問題的規定》于2021年8月1日起正式施行。該規定明確指出，處理人臉等信息必須經過同意，不得強迫處理。客觀而言，我國ChatGPT的發展存在諸多短板。由于其研發出自國外研發團隊，國家對核心技術掌握較少，在使用及配套設施建設過程中，難以做到自主、可控與調節，隨時面臨“卡脖子”風險。

因此，一是亟須樹立“數字人權”立法理念。推進頂層設計，搭建良性循環的框架，同時從技術規制、倫理規范、隱私保護等不同方向有側重點地推進研究，發揮法律的支持作用。二是發揮中國特色社會主義的體制優勢。通過公共協調機制，整合已有人工智能算力，明確技術短板，集中優勢力量發展，提升防范重大風險的能力，將運行短板向新生產力方向轉化。三是秉承開放、創新、共享的理念。面向世界，以開放的姿態，加強國與國之間的交流，樹立人類命運共同體的理念，協同治理目前面臨的重大倫理風險，取得先進科技的領先地位和先發優勢。

（二）技術制衡：推進算法優化的可持續性建設

規避ChatGPT倫理風險必須持續優化核心技術。從技術本身出發，針對算法倫理缺陷，建立機器自我糾偏體系，為ChatGPT突破的倫理邊界建立“圍墻”，達成一致的技術倫理準則，明確技術旨向。其一，建立符合正確價值導向的話語體系。算法無論偏向何方，都需要與國家主流意識形態保持一致，如此才能與正確的政治方向、價值和輿論導向保持一致。雖然ChatGPT保持“價值中立”原則，但是仍然存在瑕疵，要以適合國家發展的話語體系、認知理論規范算法，加速形成以正確話語體系為載體的聊天法則，通過復雜代碼約束越界行為，并擺脫以用戶提問為核心的回答設定。在整合不同信息的過程中，彰顯技術價值，順應主流意識形態話語，做好思想引領工作。其二，深入推進算法透明化工作。數據是ChatGPT深度學習的基礎，也是做出問題反應的重要資料，在數據訓練過程中，要采取強有力的保護措施，篩選公開發布的數據，嚴格防范私人信息的無端侵入。在數據安全方面，進行數據遭受攻擊的前置訓練，建立防火墻保護機制，設定數據侵蝕后的代碼保護，最大限度避免ChatGPT的無端侵入。在數據流通方面，建立主體責任制度，嚴格把控信息流通與分享，保障機器在公開、透明的環境下進行數據學習與數據挖掘。在數據使用方面，應當嚴格限制回答倫理問題、道德問題的數據調動，嵌入底層代碼，摒棄提問者主觀偏見。其三，規范ChatGPT算法決策。要加強算法檢驗，在日常機器學習訓練過程中，掌握ChatGPT話語規律和決策動向，針對輸入問題、輸出決策時產生較多問題的方面，同時關注錯誤關聯特征，在反饋訓練中不斷加以糾偏，使輸出的話語體系逐漸完善。在算法穩定性方面，構建一套從算法開發、算法嵌入到算法提升的糾錯體系，在技術與人深度融合過程中，形成技術融合、技術修正、技術糾偏的應對體系，從而發揮最佳作用。

（三）合力共治：建立行業應用調查與監督平臺

ChatGPT產生的倫理風險，與人的生活息息相關。其風險規避方面，不僅是ChatGPT主體研發者的工作，也不只是算法、技術等客體制衡問題，環體因素也至關重要。行業監督部門、倫理研究人員、社會大眾都應當做好協調工作，主動規范ChatGPT的使用，最大限度發揮其優勢，規避風險。其一，加強相關行業的調查平臺建設。建立大數據協同與保密體系，主體研發部門推進信息共享、共建，有效遏制ChatGPT對信息的過分提取。建立人工智能大通用模型，加強與專業人士的對話，提升問題應對專業化。自覺推進ChatGPT與其他領域的合作，做好嚴格的防控和把關，加強對算法規則設定和生成的監管，科學評估ChatGPT的價值意義，避免對其濫用、誤解和迷信，最終實現應對技術、控制技術的目標，達到規避倫理風險的理想狀態。其二，提升大眾應對技術倫理問題的素養。美國的一些州、以色列的課堂均開設小學到大學的公共素養課程，通過教師引導學生辨別假新聞，提升學生的媒體素養技能，以遏制片面假新聞與情感價值剝削。此外，加拿大、新加坡、英國、芬蘭等國家也都開展了運用ChatGPT的素養教育，這有利于提升大眾的倫理應對素養，減少倫理風險。其三，完善ChatGPT監督監管機制。推進行業監管與調查，實現錯誤糾偏與妥善管理的目標。一些ChatGPT應用調查和監督平臺，可以幫助用戶判斷ChatGPT的回答是否合理和準確。

ChatGPT到底是人類的福音還是禍首？需要明確的是，技術恐懼行不通，技術崇拜同樣要不得，必須保持清醒的認知，以妥善的策略來解決問題，使ChatGPT成為推動社會發展的利器。換言之，遵循社會運行的技術邏輯，是發揮ChatGPT作用的基礎條件。唯有如此，才能不斷發揮其優勢作用，為技術融入人類社會開創有利條件，進而實現善治。

參考文獻：

［1］ 馬克思恩格斯選集：第1卷［M］.北京：人民出版社，2012：152.

［2］Quick uptake of ChatGPT， and more-this weeks best science graphics［J/OL］.Nature， https：//www.nature.com/articles/d41586-023-00603-2.

［3］DAVIDE C. Are ChatGPT and AlphaCode going to replace programmers？［J/OL］.Nature， https：//www.nature.com/articles/d41586-022-04383-z.

［4］CHRIS S， RICHARD V N. What ChatGPT and generative AI mean for science［J］.Nature， 2023， 614（7947） ： 214-216.

［5］CHRIS S. AI chatbots are coming to search engines - can you trust the results？［J/OL］.Nature， https：//www.nature.com/articles/d41586-023-00423-4.

［6］劉偉，陶鋒.技術與身體：后人類視域中“身體”的形態、問題與反思［J］.中國圖書評論，2022，380（10）：15-32.

［7］黃顯.數字地理研究中的媒介和傳播：人與技術的會遇［J］.新聞記者，2021， 460（6）：15-27.

［8］林秀琴.后人類主義、主體性重構與技術政治：人與技術關系的再敘事［J］.文藝理論研究，2020，41（4）：159-170.

［9］馬克思.1844年經濟學哲學手稿［M］.北京：人民出版社，2018：58.

［10］馬克思恩格斯選集：第2卷［M］.北京：人民出版社，2012：94.

［11］高奇琦.ChatGPT的“創造性破壞”效應及其風險應對［N］.中國社會科學報，2023-03-06（06）.

［12］王少.ChatGPT介入思想政治教育的技術線路、安全風險及防范［J］.深圳大學學報（人文社會科學版），2023，41（2）：1-8.

［13］EHSAN N， CHRIS B. Leverage zones in responsible AI： towards a systems thinking conceptualization［J］. Humanities and Social Sciences Communications， 2023， 10（1）： 82-82.

【責任編輯：張曉妍】