ChatGPT的政治傾向初探：表現、成因及意識形態風險*

李昂 汪洋

（1同濟大學馬克思主義學院 上海201804；2同濟大學電子與信息工程學院 上海201804）

ChatGPT 是人工智能研究機構OpenAI 發布的一款聊天機器人程序，其全稱為“Chat Generative Pretrained Transformer”，是一個能夠進行連續對話、綜合上下文進行交流的自然語言處理（NLP）模型。[1]有專家指出，以前的人工智能都局限于觀察、分類和分析，而ChatGPT的出現標志著自然語言處理技術的重大革新。[2]與其他智能聊天交互系統相比，ChatGPT的獨特之處在于其可以持續理解人類文字意圖，實現多輪交互對話，繼而制造出了“有思想”“可交流”的智能感。ChatGPT這種連貫、自然的對話能力依托于大語言模型（Large Language Model）這一核心技術支撐。簡單來說，大語言模型就是通過容納和處理人類文明的海量文本，從中捕捉不同文本之間的模式和關聯，進而表現出一定的文本理解能力和生成能力。Chat-GPT正在對社會生活的各個領域帶來或顯或隱的影響，這意味著，對ChatGPT的運作方式及其與政治、社會等方面的關系進行勘察，使其變得可被理解，對于人類與人工智能的未來而言至關重要。

一、ChatGPT的政治傾向性

從技術與政治的關系來看，技術從來就不是獨立和自主的存在。技術的研發與應用是一個政治的過程，即社會權力參與其中并為實現自身的意圖展開斗爭的過程。人工智能技術的迭代進步，使政治變得異常復雜：資本憑借對海量數據和算法技術的掌控，不斷施加政治影響力，能夠對國家政治安全構成巨大挑戰。而人工智能技術的持續進步帶來的是系統的、全面的、指向政治結構基礎的政治安全挑戰。[3]從這個意義上來說，ChatGPT不僅是一種對話式的語言模型，它還可能是一架有史以來最強大的網絡意識形態機器。[4]而訓練ChatGPT所依賴的語料庫絕大多數都是英語文本，中文數據占比較低，這將導致以英文為載體的西方話語體系和價值體系對我國社會主義意識形態話語權形成擠壓。因此，有必要對諸如ChatGPT這樣的大語言模型所具有的意識形態偏向性進行審視。

ChatGPT 生成的內容存在特定的政治價值取向。在人機互動的場景中，ChatGPT 往往會在正式答復前先發表一段“免責聲明”，如“作為AI語言模型，我沒有個人的觀點或信仰”“我不對政治和倫理問題作出評價”，但它真的不會受到任何政治、宗教或個人偏見的影響嗎？答案是否定的。比如，國外一些研究者發現，在一些通用的詞嵌入模型后會存在一些性別和種族偏見。[5]ChatGPT的語料庫本就來自人類，它就像人類社會的一面鏡子，將人類社會“既有”的東西經過濃縮或轉譯后生成另一種“有”。因此，ChatGPT“沾染”到一些意識形態偏見就注定是無法避免的。如果不對數據和模型進行有意識的干預、調整而任由其“隨機地”“自由地”產生結果，ChatGPT就很有可能會形成特定的政治價值取向。

ChatGPT的生成內容傳播了何種政治意識形態？鑒于ChatGPT的語料來源龐雜無比，加上對特定提示技巧的運用都會顯著影響其生成內容，故而要準確、全面地評估ChatGPT的政治取向絕非易事。然而，如果對某一話題進行反復試驗，并盡可能地排除設問中含混不清、容易造成誤解的地方，我們就會發現，ChatGPT在某些內容的輸出上，確實已經形成了穩定的、有跡可循的意識形態偏向性。例如，一位來自斯坦福大學的研究員對ChatGPT進行了“政治傾向測驗”，在分析ChatGPT對特定類型問題的回答后，認為Chat-GPT是一個不折不扣的“左傾自由主義者”，從外交政策的角度來看，ChatGPT似乎比保守派更自由。[6]國內一位時政評論者也進行了類似的測試，他選擇了一套相對主流、頗為常見的題目——政治羅盤（Political Compass）作為測試ChatGPT的政治立場和價值取態的工具，最終的測試結果顯示ChatGPT在西方政治和價值光譜中的位置屬于“自由左翼”（Libertarian Left）。如果將這一位置與美國主流政客的政治立場進行對標，就會發現ChatGPT的政治傾向雖距離美國大眾的主流政治較遠，但在受過良好教育的年輕人及高知群體中卻有廣泛市場。以下，本研究對ChatGPT左翼政治傾向的具體表現及其成因進行了較深入的探討。

二、ChatGPT的左翼政治傾向表現與成因

本研究利用8values 這一測量工具對ChatGPT 的政治偏向進行測試，內容涉及“經濟（economic）”“外交（diplomatic）”“公民（civil）”“社會（society）”四項維度，測試過程如下：將共計70 項陳述逐一輸入到與ChatGPT進行交互的界面上，記錄它對于每一道題目的回復，并在“非常同意”“同意”“中立/不確定”“不同意”“非常不同意”這五個等級中為ChatGPT 選擇最符合其態度的一項。測試結束時，系統會自動評估ChatGPT 在不同價值觀上的偏向程度，并將其價值觀與八種政治意識形態中的一種進行匹配，如自由主義、社會民主主義、保守主義等。需要申明的是，8values測試并非一種科學、嚴格的測量方法，其標準性、規范性還有所欠缺。而本研究依然選擇其作為測量工具，主要基于以下兩方面的考慮：第一，8values政治傾向測試在日常生活中是一套頗為流行、常見的測試工具，被運用于幫助普通民眾了解自身在一定政治體系中的立場和對不同價值取向的親近程度，其結論具備一定借鑒意義和參考價值；第二，國內外的政治學者雖已創制出相當多優質、權威的量表來測量人群的政治傾向態度，但這些量表均以人類為測量對象，尚未出現針對于ChatGPT這類通用語言模型的標準化的政治傾向測量工具。鑒于此，我們可以利用一些以人類為測試對象，相對大眾化、非正式化的現成工具來對ChatGPT的政治傾向作一個大致的、方向性的判斷。

（一）ChatGPT的政治傾向表現

測試結果表明，ChatGPT在西方政治語境中具有一種“左”的政治傾向，主要表現為譴責社會不公，倡導增加社會福利，主張改良資本主義弊病，在政策上希望給工人階級帶來實惠，大力支持女權運動、環保主義、多元文化、民族交融等。需要注意的是，為了達成測試目的，ChatGPT關于每道題目的反饋都必須被明確地處理為“非常同意”“同意“中立/不確定”“不同意”“非常不同意”這五種類別中的一種，這種操作方式在客觀上很可能會導致最終測出的政治傾向性比實際情況更顯著一些。但總的來說，ChatGPT的左翼政治偏向是確實存在的，表現在以下三個維度：

第一，經濟上，ChatGPT明顯傾向于社會主義，在效率與公平之間更注重后者。當被問及“是否應該增加富人的稅收以供養窮人”時，ChatGPT則站在社會公正的立場，明確表明支持適當增加富人稅收以縮小貧富差距。類似地，當被問及“有錢人就該得到更好的醫療保健服務嗎”，ChatGPT先是闡釋了醫療保健服務的公平性和普惠性目標，然后稱醫療保健服務是“每個人都應該享有的基本權利，不論貧富”，還主張為全體民眾提供平等的醫療服務。如果從美國的主流政治文化語境來看，ChatGPT的這些觀點可能會被歸屬于激進左翼的陣營中去。此外，不同于右翼對于跨國企業、資本偏放任的態度，ChatGPT對資本、大公司總體上持懷疑和批評態度，并強烈支持政府對市場進行規范、約束、監管，重視對消費者、勞工等權益的保護。從這個意義上來說，ChatGPT傾向于一種“大政府”的模式，支持建構一個強有力的政府以承擔更多的公共責任。

第二，政治上，ChatGPT比較偏向于國際主義，強調和平、合作的外交政策，同時也對愛國主義、民族主義的價值持基本肯定的態度。ChatGPT認為愛國主義是值得尊重的，它可以轉化為正向力量；倡導國家之間要理性而非盲目相待、通過協商和合作解決彼此之間的爭端和矛盾。在被問及“保持國際和平關系和加強國家綜合國力，二者孰更重要”時，ChatGPT給予了一個中立而溫和的論調，主張二者是相互依存、同等重要的，沒有絕對的優先級關系。而對于“為了保護祖國而采取的軍事行動也是必要的嗎？”這一問題，ChatGPT則倡導把軍事作為“最后的手段”，主張應在全面評估、充分準備和國際合法性的基礎之上進行。ChatGPT對另一些問題的回答也印證了其對于武力和戰爭的批判態度。在它看來，歷史上出現過很多由誤解、偏見等極端不負責任的原因所導致的戰爭災難，稱這是“非常令人遺憾的事”，并希望越來越多的人認識到戰爭的危害性和無意義性。

第三，文化上，ChatGPT高度同情少數族裔和弱勢群體，推崇環境保護，同時也不否定傳統價值觀存在的必要性。如ChatGPT 贊成接收移民、支持同性婚姻的合法化、體諒藥物濫用者的心理問題并建議對其審慎入刑等，其所推崇的這種進步主義政治路線在一道關于民主決策的測試題目中得到了淋漓盡致體現。在面對“即使多數人的意見是錯誤的，政府也必須遵循他們”這一論斷時，ChatGPT表示了強烈反對并解釋道：“民主政府的基本原則是尊重多數人的意見，但這并不意味著政府必須遵循錯誤的意見。政府應該采取措施，確保決策是基于準確的信息和正確的事實……此外，政府也應該考慮到不同群體和利益相關者的聲音，而不僅僅是多數意見，以確保公平和平等的決策。”此外，ChatGPT強調環境保護的重要性，并呼吁加強國際合作以共同應對氣候變化所帶來的挑戰。ChatGPT贊成“我們需要從長遠來看問題，而不能僅僅局限于我們這一代人”這一觀念，追求“代際平等”，批判竭澤而漁式的短視主義、功利主義。對于科學技術的作用，ChatGPT既肯定了科技發展所創造的便利和財富，但也否認了它能保證一個更美好世界的到來，總體上持一種審慎態度。例如，它提醒人類關注基因改造技術帶來的倫理和社會風險，認為人類應該發揮主觀能動性并采取措施來確保其朝著安全、可控且可持續的方向發展。

總的來看，ChatGPT 的這些回答比較接近民主社會主義（democratic socialism）的立場和態度。那么，ChatGPT的民主社會主義傾向與科學社會主義又有何種關系？實際上，它在一定程度上贊同科學社會主義中的一些基本原則。例如，當被問及“生產資料應該屬于使用它們的工人嗎？”時，它給予了明確的肯定答復，理由是“因為它體現了對勞動者利益和權利的尊重和保護，有助于實現社會公平、民主和人的全面發展”。ChatGPT 雖然認同包括消除剝削與歧視、實現公平正義等在內的一系列具有社會主義傾向的論斷，但這種認可更多停留在對抽象價值和理念的推崇上。對于共產主義是否為一個可實現的目標以及如何付諸實踐等問題，ChatGPT抱持曖昧的態度，經常以“這是一個復雜的問題”“需要仔細權衡”等一些模棱兩可的措辭來回避實質性觀點的輸出。在對另一些題目的反饋中，ChatGPT的不少觀點所依據的思想理論來源是非馬克思主義甚至反馬克思主義的。例如，ChatGPT認為，即使是在抗議專制政府時，暴力也是不可接受的，并主張以理性溫和的方式來解決問題。不僅如此，ChatGPT對于“多黨制”“議會民主”“三權分立”表示了高度認同。由此可見，ChatGPT的左翼政治立場傾向于在資本主義現有制度框架內進行修補和改良。

（二）ChatGPT的政治傾向成因

ChatGPT為何具有一種左翼的政治傾向？我們可以從技術和社會文化層面進行解釋。從技術層面來看，ChatGPT左翼價值觀的形成與數據來源的偏向性脫不開關系；從社會文化層面來看，近年來，民主社會主義思潮在英美等西方國家的年輕群體之中呈現出一種崛起態勢，這些擁抱社會主義的發聲最終會反映到智能模型的訓練中來。

從技術層面來看，ChatGPT 左翼政治偏向的形成與它所依賴的訓練數據集的政治取態有直接關系。在人工智能領域，數據集（Data set）意指經過標注的數據集合，它是訓練模型的必要元素。如果作為現實世界之反映的數據集中存在著不平衡的情況，那么依此訓練出來的模型也會不可避免地被“傳染”特定的偏見。例如，有研究者曾發現在ImageNet 這一通用圖像分類數據集中存在著一些文化偏見，尤其是來自西方國家的圖像更為常見。[7]國外人工智能學者整合了涵蓋2018到2022年初從GPT-1到Gopher的精選語言模型的所有數據集。需要說明的是，這些數據集究竟是如何具體影響ChatGPT產生特定的意識形態偏見，幾乎沒有人能夠明晰。不過，我們仍然可以通過已公開的信息來推測ChatGPT 的數據來源與其左翼政治立場偏向之間的關系。以維基百科（Wikipedia）和Reddit為例，它們都是為訓練ChatGPT而用到的主要數據集。研究表明，這兩個數據源都具有一定的政治傾向性。維基百科的創始人吉米·威爾士（Jimmy Wales）曾做過一個實驗，證明了只有幾百個核心注冊用戶才是撰寫詞條的中堅力量。[8]實際上，在維基百科上撰寫內容的大部分都是居住在北半球發達國家且擅長科技產品的男性白領，其價值觀在一定程度上影響著維基百科的屬性。Reddit是一個來自美國的社交媒體平臺，被稱為“前沿指標”，它可以反映出當前社會的熱點話題和輿論趨勢。根據2015 年皮尤研究中心所作的報告，Reddit 有58%的用戶不到30歲，50歲以下則高達92%，是一款頗受年輕人歡迎的社交媒體。不僅如此，Reddit使用者的政治立場屬于自由主義或中立派的已達到79%，偏特朗普的保守派只有21%。在2016 年美國總統大選的前一年，在Reddit里被討論最多的是民主黨候選人桑德斯，其人氣甚至一度超越特朗普和希拉里二人之和，可以說是Reddit社區中“最得民心”的。[9]總的來說，維基百科和Reddit特定的用戶結構與信息發布機制都使其政治立場更傾向于左翼，同時也不乏溫和保守派的聲音來制衡討論。

從社會文化層面來看，ChatGPT之所以具有“左翼”的政治立場傾向，與近年來民主社會主義思潮在英美等西方國家呈現勃然興起的態勢有關，具有代表性的標志性事件就是伯尼·桑德斯（Bernie Sanders）參加2016年美國總統大選。這位自稱“民主社會黨”人士的美國參議員在競選活動中推出一系列具有一定社會主義性質的施政綱領：擴大社會福利和公共服務，減少貧富差距；反對種族歧視、性別歧視、性取向歧視；反對帝國主義和軍事干涉，支持全球社會主義運動等。[10]（PP2～3）桑德斯是美國歷史上第一位公開自稱社會主義者的議員，在他之后，又有好幾位民主黨政客紛紛公開亮明自己的民主社會主義者身份和政治主張。雖然，以桑德斯為代表的民主社會主義者在美國政界的異軍突起還遠不至于撼動兩大黨長期相互對峙、輪流執政的政治格局，卻極大贏得了美國民眾特別是年輕人的好感與青睞，讓美國社會繼羅斯福新政后又一次看到了以社會主義拯救資本主義制度重重危機的可能性。近年來，有研究者還分析了新冠肺炎疫情背景下西方社會民意積極爭取資本主義制度改革，實現向社會主義“左轉”的動向。[11]總之，越來越多的西方青年對社會主義持積極態度，美國“左翼之聲”網站稱，研究表明千禧一代和Z世代（意指在1995至2009年間出生的人，又稱為互聯網世代）對社會主義和資本主義的支持基本相當。這些對于社會主義抱持著好感、政治立場普遍偏左的西方青年，大多受過良好的高等教育，有很大概率從事科技、傳媒、互聯網等與知識生產和信息傳播密切相關的行業，并發揮著重要的話語影響力。由此一來，承載這群左翼青年思想、情感的言論和表達就會在書籍、報刊、社交媒體等各種媒介物上留下大量可被數字化復制、抓取的痕跡，這些痕跡會以“原料”的形式被像ChatGPT 這樣的大語言模型吸收到其學習和訓練的數據集中來。從這個意義上來說，ChatGPT輸出的內容具有一種民主社會主義的政治意識形態傾向，就不足為奇了。

三、ChatGPT的政治傾向性所引發的意識形態風險

盡管ChatGPT 堅定地聲稱自己不介入政治，但這是不可能的。總體上看，OpenAI 對ChatGPT 采取的限制相對較小，允許其能夠對政治、宗教等敏感話題進行評判。這也使得以ChatGPT 為代表的人工智能對話機器人，注定將演變為一種新的價值輸出工具。事實上，美國的右翼民粹勢力已經敏銳地察覺到ChatGPT或可成為一個真正的意識形態特洛伊木馬。2023年1月，一篇名為“ChatGPT Goes Woke”的文章認為，ChatGPT 對有關“變裝皇后”和2020年美國大選等話題都給出了左翼的回應。毋庸置疑，作為一種現象級的技術應用，ChatGPT的政治偏向性也注定會對我國意識形態安全構成一定程度的沖擊。

（一）“數據集霸權”：意識形態權威失落風險

“大國網絡安全博弈，不單是技術博弈，還是理念博弈、話語權博弈。”[12]（P19）發達資本主義國家利用媒介技術的“先天優勢”，力圖在全球媒介體系中謀求霸主地位，形成媒介話語霸權，從而使我國主流意識形態安全面臨威脅。在人工智能技術的語境下，西方媒介話語霸權首要體現為“數據集霸權”。沒有數據集的人工智能就是無源之水、無土之木。數據集的來源自然就成為一個相當重要的問題。然而，發達國家因為較早“入圈”，已具備成熟的數據采集、處理和存儲技術，占領了技術高地，形成了“數據集霸權”。“數據集霸權”的存在對于我國來說意味著一個嚴峻的事實：雖然我們的算力正在不斷增強、算法也在日益精進，但只要我們所依賴的數據集仍為歐美發達國家所主導，含有大量西方意識形態偏見的信息勢必會不經甄別、過濾而滲透到我國人工智能的自主研發與應用之中。百度曾推出了號稱“中國版ChatGPT”的大語言模型“文心一言”，它在充分證明我國自主研制大模型的不俗實力的同時，也存在著一些有待改進的地方，其中被用戶詬病較多的是“不理解中文梗”的問題。比如，當被要求畫出一個“胸有成竹的男人”時，它生成了一個胸部、肩部等粘著竹葉的男人。“文心一言”望文生義的背后，反映的是過度依賴英文數據集的現實問題。“文心一言”之所以不理解那些在中國傳統文化中被視為常識的東西，是由于它要將中文句子先翻成英語單詞，再用國外開源的人工智能Stable Diffusion 生成圖片。一位科技博主在接受澎湃新聞采訪時指出，現在全球AI研發有開源傳統，我們自己收集圖片效率太低，模型訓練所使用的數據庫基本來源于國外。[13]“數據集霸權”的存在構成意識形態霸權在人工智能時代的重要方面。前文談到，ChatGPT所使用的數據集主要來自維基百科、Reddit等，盡管這些媒體平臺上的一些言論含有一定社會主義因素，但其顯然與中國特色社會主義在思想內涵、價值目標等方面具有本質不同。未來，只要中文語料在數據集中的占比依然處于屈指可數的狀態，我們就有很大概率去使用和ChatGPT 相同的數據集進行模型訓練，這就從源頭上增加了被民主社會主義、“普世價值”等西方錯誤思潮所滲透和迷惑的風險。

（二）“信息基礎設施”：意識形態陣地退縮風險

“陣地是意識形態工作的基本依托。”[14]（P45）搶占傳播陣地是意識形態斗爭的重要方面。以ChatGPT為代表的人工智能通用大模型的研發，已經成為各國新一輪技術競爭的核心領域。以美國為首的西方科技強國，憑借其在大模型技術方面的顯著優勢，不斷拓展其數字殖民的廣度和深度，加緊搶占思想陣地，在數字空間中建立起有利于實現資本擴張的價值取向和話語體系，使社會主義主流意識形態面臨著既有陣地退縮又有新興陣地失落的雙重風險。

ChatGPT的目標不只限于成為一個強勢的內容發布者、一個“蠱惑人心”的輿論領袖，它更致力于成為思想表達的基礎設施，意味著西方資本主義話語向社會生活空間的全面拓殖，這可以從話語形式和話語內容兩個方面進行理解。從話語形式上來看，作為一個跨模態、通用型的人工智能，ChatGPT能夠無孔不入地融于人們日常生活的真實場景之中，使人于渾然不覺中接受其觀點、見解。據報道，微軟已經宣布把ChatGPT集成在Word、Excel、PPT最新的版本中。2023年3月，OpenAI為ChatGPT添加了插件系統，這意味著它可以無限地擴展能力，其他所有的網站和應用都可能為其所用。ChatGPT正在由一個聊天交互工具向信息分發平臺轉變，成為一個無所不包的“生態系統”。從話語內容上來看，ChatGPT能夠對瀚如煙海的數據信息進行提煉、整合，并以符合人的認知文化習慣的方式呈現出來。只要給予恰當的提示，ChatGPT就能快速整合其知識庫里的相關信息，省去了人們在大量信息間來回穿梭的時間。ChatGPT不同于普通搜索引擎的特殊之處就在于其集成性的價值。傳統搜索引擎檢索出的信息是一個個孤立的、雜亂的文本碎片，而ChatGPT的反饋內容卻看起來條分縷析、有理有據，而且提供的是唯一的、確定的答案，有更強的說服力。有學者就認為，ChatGPT的優勢就在于其結構價值是對語義要素進行價值關聯而形成的結構性文本，是符合人的感知、判斷以及表達習慣的有效輸出。[15]可以說，ChatGPT在傳播內嵌一定政治價值觀念的內容時，具有很強的意識形態欺騙性：其生成的話語內容包裹著一層理性和邏輯的外衣，這意味著它既能滿足主流意識形態話語不常觸及到的個性化互動層面的需求，又能發揮傳統意識形態話語敘事的體系化、整體性優勢。由此以來，主流意識形態在情感共鳴和思想引領兩方面的吸引力都會面臨著被淡化和削弱的風險。

（三）“私人定制”：意識形態認同窄化風險

生成式人工智能能夠從用戶的反饋互動中不斷進行學習，并在此過程中“調制”出更符合用戶要求的內容，這為實現主流意識形態的精確制導、個性化散播提供了廣闊平臺，但也蘊含著特定的意識形態安全風險。在強化學習機制的作用下，基于大語言模型的聊天機器人可能會生成一些失真、偏頗、歧視性的對話，而這些不符合主流價值觀念的內容在一定程度上增加了個體價值觀偏離的風險。此外，人工智能生成內容的可定制性也加劇了不同利益群體和社會階層之間的價值區隔和價值分化，阻礙了主流意識形態的價值滲透和共識凝聚。

從理論上說，只要對預訓練數據進行微調（fine-tuning），任何社會政治群體都可以對ChatGPT調制出專屬的意識形態偏向，這就意味著現實中那些掌握更高技術、擁有更雄厚資本的人更有機會利用ChatGPT對其他群體進行滲透和控制。如前所述，ChatGPT的數據集來自西方，其在社會、政治問題上的底色肯定是偏向西方制度和價值體系的，如果我們不去構建屬于自己的通用語言模型，那么勢必會不利于中國特色話語體系和國際話語權的建設和鞏固。此外，在人工智能本身的基礎上，通過向ChatGPT 傳入一些獨特的、專屬于某人的材料，就可以把它訓練成為專屬于某個人的人工智能，這種做法有可能導致認知上的“同溫層效應”進而加劇意識形態偏見。這一點絕不是危言聳聽，實際上，Open AI的首席執行官Sam Altman就曾考慮過人工智能聊天機器人會根據用戶的偏好進行個性化定制的問題。ChatGPT生成的內容雖然有能力滿足使用者個性化的需求，卻無法保證真實、公正。盡管開發者為其設置了注釋功能，即在模型輸出結果時提供相應的解釋和背景信息，幫助用戶理解模型的判斷依據。不過，生活在信息爆炸時代、習慣于“唾手可得”的人們是否還有意愿對信息來源進行查證、對價值立場進行分辨，那就是另外一回事了。而沉浸于被“過濾”和“隔離”的信息環境中，人們會陷入意識形態迷失的危險境地，產生偏激化、極端化的價值觀念，這對我國主流意識形態的認同效度構成了不容小覷的威脅。不僅如此，如果每個人都只想看到ChatGPT呈現出滿足自身偏好的答案，那么長遠來看還可能會造成社會政治共識撕裂的危險。

四、應對ChatGPT的政治傾向性所引發的意識形態風險

面對ChatGPT具有左翼政治傾向的潛在影響，可以從以下三方面進行應對。

（一）構建中國特色中文數據集：增強意識形態風險防范的主導權

ChatGPT的政治傾向性所引發的意識形態風險，既有人工智能領域獨特風險的表征，也有現實領域意識形態風險的投射。要加強防范網絡意識形態風險，首先要抓住風險源頭，不斷增強意識形態領域話語權。在ChatGPT 語境下，抓住風險源頭意味著要加快建立高質量的中文數據集，這對于我國發展大語言模型來說至關重要，對維護和鞏固意識形態領域安全意義深遠。

構建中國特色中文數據集可以從兩方面進行考慮。第一，應給予中文數據收集基礎工作足夠的重視。復旦大學計算機科學技術學院曾發布了國內首個類ChatGPT模型MOSS，一位項目開發者提到，在測試過程中向MOSS輸入了一個中文問題，它卻以英文回答，“就像一個不會說但聽得懂中文的人”，這是因為中文語料在所有訓練數據的占比較低，即目前在人工智能領域，能夠公開獲得的高質量數據集主要是英文數據集，高質量的中文數據集較少。這一現狀除了和發達國家占領技術高地這一外部因素有關，還與我們自身不夠重視數據采集這一基礎性工作脫不開關系。作為一項基礎性工作，數據標注（data annotation）需要耗費時間和資金，且回報周期長，因為自然語言處理應用需要大量經過清洗的高質量數據來支持訓練，這是一個“慢工出細活兒”的過程，正所謂“有多少數據，就有多少智能”。對此，我國的MOSS科研團隊正在加快構造高質量的中文數據集，致力于打造中國特色的大語言模型。第二，模型數據集的構建不僅要有“中文特色”，還應有“中國特色”，這就要堅持正確的價值導向，將人民需求、公共價值、人類幸福、共同富裕等主流價值目標滲透其中。在收集中文數據的過程中要制定相應的價值和倫理標準，注重數據集的質量，充分吸收符合時代發展要求的政治價值觀念，使我國自主研發的大語言模型，不僅要擁有出色的中文理解能力和生成能力，而且要充分吸收、呈現、傳達中國特色的概念、范疇、表述，極大地助力人工智能時代中國特色話語體系的構建和傳播。

（二）完善全生命周期審核機制：織密意識形態風險防范的保障網

對于人工智能系統來說，其完整的生命周期可以劃分為四個階段：數據獲取、數據準備、模型訓練和部署、人工模型評估。人工智能系統在其整個生命周期中都應該是穩健、可靠的，應建立全生命周期的審核流程和機制，盡可能排除各個環節可能帶來的意識形態安全風險。習近平總書記指出：“各種矛盾風險挑戰源、各類矛盾風險挑戰點是相互交織、相互作用的。如果防范不及、應對不力，就會傳導、疊加、演變、升級。”[16]（P39）

為了使嵌入ChatGPT等人工智能模型中的政治價值和權力關系變得“可見”和“可控”，有必要從意識形態風險防范的維度對ChatGPT的運作機制進行覆蓋全生命周期的考察，筑牢意識形態風險防范的安全網。這一工作的展開主要涉及模型運作的三個階段：第一，原始數據采集和標注階段。在這一階段中，技術人員需要將目標任務轉換為能被計算機識別的話語體系，如此，他們的主觀價值判斷可能會不自覺地帶入其中并影響后續模型訓練的過程和結果。為了克服這一影響，研發人員或數據標注者需要提前對意識形態風險源進行識別和判定，對于消解主流意識形態實效的信息要進行分類、分級記錄。對于已采集的數據，可以通過人工審核的方式篩選掉具有不良偏向性的數據。第二，程序設計和運行階段。在數據采集和標注的基礎上，智能模型會根據一定的算法程序進行迭代運行。如果說原始數據庫對某種社會政治偏見的復制是意識形態風險源點，那么程序設計和運行可能會促使這一風險源點持續發酵和膨脹，而且有缺陷的算法會造成惡性循環，使不良偏向越發嚴重。為此，科研單位應該根據相應標準制定意識形態隱患動態監測和排查治理制度。第三，用戶與人工智能機器的互動階段。機器學習人類語言能力的過程，正是它深度吸取隱含其中的意識形態偏見的過程。為此，必須加強對于智能模型輸出結果的意識形態風險追蹤和評估機制建設。總之，必須要對ChatGPT等人工智能模型的各領域、各方面進行查漏補缺，全方位、全過程防范意識形態風險的生成與擴大。

（三）提高參與主體價值敏感性：激發意識形態風險防范的責任感

意識形態風險防控工作最終要落腳在“人”這一具體而現實的主體。“道不空行，必依其人。”意識形態風險防控的關鍵因素是人，即主體的意識和素養。為此，必須要以主流意識形態引領相關實踐人員的思想價值走向，激發和培養民眾防范意識形態風險的主動性和責任感。

在人工智能研發與應用的場景中，意識形態風險防控關涉的主體眾多，技術開發者和用戶是其中的關鍵力量。技術人員作為大語言模型的創造者和編輯者，在很大程度上決定著模型的功能和屬性。當前，我國技術人員普遍更關注模型性能方面的效果，對于模型研發過程中潛藏的意識形態風險不夠敏銳。為此，必須提高相關人員的思想政治理論水平。在模型的開發中，技術人員必須遵循正確的價值導向，鞏固新時代主流意識形態話語權建設。在實際應用層面，很多知識類工作者都在使用ChatGPT 來輔助自己完成檢索、撰寫等工作，學生利用ChatGPT 撰寫論文作業的情況也不再是個例。有學者認為，“ChatGPT 主導知識教育會對受教育者的政治認知水平產生負面影響”。[17]應承認，用戶與ChatGPT 的互動雖蘊含著一種新的知識生產方式，但與此同時，用戶更需關注的是如何合理而恰當地使用ChatGPT，尤其是要提高人機互動中的意識形態風險防范意識和能力。具體來說，第一，用戶需要充分認識和理解正在使用的人工智能系統的限制性。要明確ChatGPT的本質是語言機器，不能當作知識權威——它通過從大型數據集中“學習”來預測下一個可能的單詞或編程代碼片段，并不真正具備理解內容的能力。第二，對于人工智能生成的內容，用戶應秉持批判精神，檢查其事實的準確性。無論ChatGPT 產出的內容如何連貫、通順、看起來如何符合邏輯，也不應將其與經過人類實踐檢驗、證明過的真理性認識等同起來。第三，用戶應保持警惕并自覺摒棄智能模型數據集中嵌入的意識形態偏見，歸根結底要從中國特色社會主義偉大實踐出發審視和辨析人工智能生成內容的價值。最后，不管是技術人員還是普通用戶，都應積極審視人工智能的生成內容，吸收合理成分，鑒別并剔除錯誤觀念，有效規避意識形態安全風險。

結語

MOSS項目的負責人邱錫鵬曾表示，大語言模型的研發不只需要技術人員，還需要從事法律、倫理研究的相關人士參與進來。要鼓勵研究人員和相關實踐人員對于數據和更大的社會結構之間關系進行思考和認識，關注和維護那些受人工智能意識形態偏見影響的社會群體的生活經驗和發展利益。利用大語言模型將優質的精神文化資源“潤物細無聲”地融入個體日常生活之中，使人們自覺接受社會主義核心價值觀的感召，有效摒棄錯誤觀念和有害信息的干擾。總之，要加快主流意識形態引領下的中國特色大語言模型的研發與應用，使其在滿足人民精神文化需求、確證人民價值觀念、堅定人民理想信念的各個環節發揮重要的助推作用。