內容、算法與知識權力：國際傳播視角下ChatGPT的風險與應對

王沛楠 鄧詩晴

【內容提要】聊天內容生成預訓練程序（ChatGPT）的興起帶來人工智能內容生成領域的蓬勃發展。但在國際傳播層面，ChatGPT通過信息篩選和內容生產影響用戶認知，并作為一種新興且帶有霸權色彩的知識權力崛起。從知識權力的視角審視ChatGPT，可以看出它在國際傳播中會帶來非監督學習狀態下的算法歧視風險，監督學習狀態下的內容操縱風險，并通過嵌入到搜索引擎和開放API接口成為內容生成領域的數字基礎設施，進而造成國際傳播中的話語權力風險。因此，需要對ChatGPT在國際傳播層面的潛在風險進行有針對性的關注和回應，在數字化、智能化語境下推動構建國際傳播新格局。

【關鍵詞】ChatGPT 國際傳播 人工智能 知識權力 算法歧視

2022年11月，開放人工智能公司（OpenAI）推出了基于大模型數據訓練的聊天內容生成預訓練程序（ChatGPT，以下簡稱ChatGPT）。它一經上線便在一周內達到全球注冊用戶數量超過100萬人次的成就，成為全球最快擁有100萬人次用戶的數字應用。①與傳統的聊天機器人不同的是，ChatGPT基于大模型具有初步的邏輯思維能力，使得它能夠實現信息檢索、內容生產甚至情感陪伴等多種復雜語境下的人機互動和對話。②

迅猛的用戶增長和強大的互動能力，使得ChatGPT迅速引發了國際社會和全球傳媒業的高度關注。曾經為OpenAI提供風投的微軟則進一步強化了與OpenAI的合作，共同推出了ChatGPT嵌入的新型搜索引擎新必應（New Bing），帶來搜索引擎領域的革命性進步；OpenAI則在不久前開放了ChatGPT的API接口，使得全球數字開發者都可以將ChatGPT接入到自己開發的數字應用中。

這一系列舉措，推動ChatGPT開始深度嵌入到全球互聯網和數字媒介的環境中，成為人工智能生成內容（AIGC）領域具有壟斷性的數字基礎設施，在國際傳播和跨境信息流動的過程中開始扮演日益重要的角色。當ChatGPT通過信息篩選和內容生產影響用戶認知，并作為一種新興且帶有霸權色彩的知識權力崛起時，如何在技術驅動的知識和話語權力結構層面理解ChatGPT的出現，對于人工智能語境下的國際傳播和中國國際傳播能力建設具有重要而迫切的現實意義。

一、作為知識權力的國際傳播內容生產

從傳媒業的角度來看，無論是新聞報道文本還是影視娛樂內容都包含了知識和觀念話語生產的過程。在國際傳播中，這種知識和觀念話語生產則呈現為議題敘事、國家敘事或者國際體系敘事的建構過程。③從福柯對于話語和權力分析的視角來看，知識生產是一種話語實踐行為，（話語）隸屬于或來自于同一構成系統的一套陳述，或從屬于不同領域但遵循相同功能規則的一攬子陳述，這些規則不僅是語言的或形式的，而且還產生一定數量的具有背景決定性的區分，如理性/非理性、科學/非科學。④

由此可見，國際傳播中的價值判斷和意識形態并非抽象的概念，而是具體的體現在媒體和公眾生產的話語結構中。在不同的話語博弈和沖突的過程中，特定的話語逐漸將自己塑造成為羅蘭·巴特所說的“神話”，成為一套被普遍認知和接受的共識性知識。在傳統媒體時代，少數西方媒體對于新聞事件的闡釋建構了全球受眾對議題的普遍認知，而在ChatGPT作為一種“技術神話”出現之后，它所產生的陳述逐漸被視作一種具有影響力和權威性的話語，進入到了國際傳播的話語體系生產結構中。

特別是ChatGPT連接搜索引擎并開放API接口之后，它能夠隱蔽地嵌入到不同類型的數字應用中，以不可見的方式輸出文本和話語。這一過程為全球用戶在無形中構建了一套有人工智能生成和輸出的知識體系，為公眾提供知識的概念和定義從而構建了一種由技術驅動的話語權力。更為關鍵的是，技術的遮蔽使得用戶傾向于認為ChatGPT生成的是客觀的現實闡述而非帶有價值偏向的主觀判斷，進而更傾向于認同和接納其內容，推動ChatGPT所生成的內容演變成一套全球性的公共知識。

當ChatGPT在全球數字平臺上得到廣泛運用，它就由一個人工智能自然語言處理應用演變成為了具有基礎設施性質的話語和內容平臺。但在“公共知識”的外表下，ChatGPT內容生產的算法黑箱存在巨大的不確定性，其內容的穩定性和可靠性也備受質疑。當技術權力與知識權力在ChatGPT中形成合謀，需要引發我們對人工智能生成內容技術帶來的國際傳播話語和知識權力層面的風險給予更多的關注。

二、ChatGPT在國際傳播中的多重風險

雖然ChatGPT的出現引發了國際傳媒業在信息檢索和內容生產領域的革命性變化，⑤但它在技術和內容層面都存在明顯的不確定性。當它開放API接口并為搜索引擎和其他內容生產引用提供支持時，ChatGPT所蘊含的算法歧視風險、內容操縱風險和話語權力風險將會逐漸浮現，通過影響用戶的信息環境和知識認知沖擊既有的國際傳播話語體系。因此，需要對ChatGPT催生的不同層面的風險進行密切的關注與深入的剖析。

（一）算法歧視風險

由于人工智能本身并不具有認知和判斷，它們對所有問題的理解和判斷都源于歷史訓練數據。因此，基于機器學習算法訓練的人工智能存在著由于歷史訓練數據的偏向引發的歧視問題。⑥這一現象被概括為“算法歧視”。在此前的研究中，學者發現算法歧視會造成刑事司法中風險評估工具的種族偏見、性別歧視以及社會援助資格審查中傾向于懲罰窮人等歧視偏見的存在。特別是在人工智能開始被廣泛運用于參與社會決策的背景下，這種技術驅動的歧視會更為隱蔽而普遍地存在。

ChatGPT在本質上也是通過學習算法和數據獲取信息并形成判斷的自然語言處理模型，因此，ChatGPT同樣存在著容易受到訓練數據暗含的偏見和歧視的風險。例如ChatGPT所使用的算法模型GPT-3在回答有關穆斯林的議題時，傾向于將穆斯林群體更多與“暴力”相關議題聯系在一起，而涉及到猶太人群體時，算法則更多傾向于將其與“金錢”相關議題聯系。⑦雖然這些刻板印象在國際社會中廣泛存在，但人類社會通常能夠給予倫理判斷減少此類刻板印象的影響，但對于ChatGPT這樣的自然語言處理系統，它們則會略去價值判斷直接照搬自己所學習到的語義。由此產生的歧視與偏見可能會在缺乏算法理解能力的群體眼中被視作刻板印象的合法化和正當化。

基于對ChatGPT進行“政治羅盤”（political compass）的意識形態光譜考察，ChatGPT在政治、經濟和社會倫理等議題中普遍帶有鮮明的左翼自由主義立場，并且在跨文化的議題中傾向于站在“西方中心”的視角思考和回應。⑧由此可見，ChatGPT在未進行人工干預和標記的前提下會顯著受到預訓練的數據集的影響，在國際議題的內容呈現中則演變為以其核心訓練集——西方主流媒體和輿論的話語和態度——作為答案的主題構成。這種算法歧視機制一旦被嵌入到搜索引擎和數字應用中并演變為具有公共性的知識，很大程度上重構和強化了“西方中心”的觀念和視角，對于建立國際傳播話語結構的新秩序構成威脅。

（二）內容操縱風險

ChatGPT在推出前更多接受的是無監督學習，即沒有人工干預的自主學習過程。但《時代》雜志記者比利·培瑞克（Billy Perrigo）在調查后發現，ChatGPT正在肯尼亞雇傭一批外包數據標注工人，以每小時不到2美元的時薪要求他們參與ChatGPT生產內容準確性和倫理合法性的標注。⑨這意味著ChatGPT所輸出的內容事實上是可以被操控和影響的，通過賦予特定內容優先級和顯著性的差別，ChatGPT能夠控制對于特定問題的回答。一旦ChatGPT被利用于進行內容層面的操縱，可能會在隱蔽的情境下實現對于用戶觀念和態度的操縱。

此外，ChatGPT的人機協同性和不能判斷對錯的特性，可能會導致認知固化和態度極化的風險。ChatGPT相對于其他語言模型的顯著優勢在于ChatGPT可以實現連續性的人機協同，用戶可以在個人賬號中保存人機對話記錄，并基于該記錄達成長期連續性對話，從而提升人機協同的效能。⑩但是ChatGPT高度依賴文本和用戶的指令（prompt），因此容易受到用戶影響。在對ChatGPT進行政治傾向測試時，即使最初得到了相對中性和客觀的回答，但只要用戶對結果進行質疑和引導，ChatGPT就會放棄原有答案提供符合用戶引導價值觀方向的答案。當用戶開始對ChatGPT進行人工干預訓練之后，與技術的互動可能會強化具有偏見性的認知，進而加深態度極化的趨勢。

最后，作為具有公共性質的知識和內容生產工具，ChatGPT的私人所有的特性可能在傳播中帶來內容操縱的風險。在商業利益層面，ChatGPT的所有者始終是OpenAI而非全球用戶。即使長期以來標榜非盈利和社群共識協商驅動的維基百科（Wikipedia）都不可避免地陷入到對于詞條解釋權的意識形態的爭論中，ChatGPT無法避免在觸及到私人利益的時候陷入價值困境。11特別是當ChatGPT作為搜索引擎和API接口進入全球互聯網空間中，帶有公共知識屬性的基礎設施與技術和產品私人所有之間必然會產生直接的矛盾。12

（三）話語權力風險

從預訓練模型中衍生出的算法歧視風險和從人工干預中衍生出的內容操縱風險共同構成了ChatGPT在國際傳播層面最為關鍵和直接的風險：改變國際傳播內容生產和知識傳播的話語權力結構。傳統的國際傳播格局中，國際媒體和社交媒體平臺主導了國際傳播的話語和敘事生成。但ChatGPT作為以內容輸出為核心目標的人工智能算法，其出現以及對全球互聯網的深度嵌入，將會引發算法權力驅動話語權力轉變的挑戰。

ChatGPT通過預訓練、人工監督標記數據、專家調整模型、用戶互動等一系列程序生成內容并構建知識，在不受政府和市場完全控制的制度之下，向全球的用戶輸出內容和知識。這種知識在多數認同的情況下成為公共知識。根據福柯對于權力的闡釋，這種公共知識和權力結構同樣密不可分。在ChatGPT迭代演進的過程中，種族歧視、性別歧視等歧視或偏向性內容不斷在既有的預訓練內容與用戶生產的對話文本之間博弈，可能會對原有的偏見歧視內容產生一定的修正，但它從整體上來看仍然是全球互聯網的主導意識形態——“西方中心主義”的投射。

ChatGPT的內容生成是一種重要的話語實踐行為，通過文本和話語的生產影響著人們看待世界的行為方式。因此，作為知識生產者的ChatGPT具有話語建構的權力，其內容生產的行為既是政治性也是社會性的知識建構行為。在國際傳播中，對于關鍵概念的界定和意識形態的偏向會影響到個體對他國的認知和判斷，從而影響他國的形象，ChatGPT所具有的話語權力將成為國際傳播中的風險來源，然而這種偏向在技術的華美包裝下，隱匿在日常的使用中。依賴于ChatGPT的用戶，可能會在無意識的情境下受到ChatGPT的影響，形成技術驅動的價值滲透。

三、ChatGPT與國際傳播新格局的風險應對

面對ChatGPT帶來技術驅動下國際傳播話語權和傳播機制的轉型，我們需要在國際傳播層面進行有針對性的關注和應對。首先應提高人工智能媒介素養，避免路徑依賴，警惕意識形態滲透。ChatGPT在其人工智能的技術包裝背后，存在著算法歧視和內容操縱的風險，同時這種風險伴隨著意識形態的偏見。若全球互聯網用戶在未來對此應用形成資料收集與處理的路徑依賴時，“西方中心主義”的意識形態必將在中文學習規模擴大后或缺乏監督的情況下形成滲透。因此，需要對ChatGPT為代表的西方人工智能應用保持警惕，避免陷入技術包裝的意識形態滲透的陷阱中。

其次，在解構西方話語權力陷阱，掌握在國際傳播中的“麥克風”方面，應積極引導中國互聯網企業主動納入國際視野，開發本土全語種智能語言模型應用。目前，中國主要互聯網企業都接連宣布未來將測試并推出人工智能驅動的聊天機器人應用。但大多旨在構建面向本土受眾的中文服務，忽視了更大規模的國際用戶。應當引導和鼓勵本土互聯網企業在繪制產品服務藍圖時主動納入全球視野長線布局，在全球多語言輿論場中構建中國自主技術體系，糾正“西方中心主義”的偏頗話語生態。

最后，作為新興的媒介傳播形態，ChatGPT為代表的人工智能生成內容（AIGC）尚處于混沌未開的狀態中。全球范圍內圍繞技術標準、技術倫理等問題的討論則方興未艾。作為國際傳播話語權的重要組成部分，技術規則層面的話語權亦具有相當分量。政府和互聯網企業應當積極參與人工智能生成內容領域的國際對話，創新發展內容人工智能生成內容的技術能力，提高內容生成的準確性和速度。同時盡快開放API接口，引導國內外數字平臺接入使用。一方面在技術能力上實現與西方國家的接近與并軌，另一方面注重參與相關技術規則和倫理標準的建立，為我國相關技術的發展和未來技術在全球范圍內的廣泛應用提供良好的制度和政策環境。

四、重思作為知識權力的ChatGPT

2023年3月15日，OpenAI發布了最近一版的預訓練大模型——GPT-4。相比于ChatGPT所依賴的GPT-3，GPT-4超越了單純文字層面的人機對話，實現了圖片、視頻、音頻等多模態內容的識別和互動。這使得OpenAI在人工智能生成內容領域又向前邁進了一大步。本文從知識生產的角度探討ChatGPT作為知識生產工具，在國際傳播中的可能存在的風險，具體表現為非監督訓練模式下的算法歧視風險和監督訓練模式下的內容操縱風險。在算法歧視和內容操縱的語境下，ChatGPT作為一種公共的知識生產工具可能帶來一套有技術操縱和驅動的話語權力轉型，進而對當前的國際傳播內容生產和知識生產結構形成沖擊。

除此之外，ChatGPT與必應（Bing）搜索引擎的結合及其API接口的開放，雖然在信息檢索和生成的效率上帶來了革命性發展，大大提高了內容搜集和整理的便捷性和效率，但技術的雙刃劍效應使得我們不得不警惕ChatGPT在嵌入到搜索引擎和數字應用之后可能帶來的、被技術遮蔽和掩蓋的“西方中心主義”式不平等話語的再生產。當它被冠以“人工智能生成”或“系統自動輸出”的名號后，會隱蔽地影響到缺乏算法素養的受眾的認知，進而沖擊和影響國際傳播中本就處在不利地位的全球南方國家的地位。

因此，需要從技術祛魅的視角理解重新審視ChatGPT的興起，理解ChatGPT的內容生產和信息檢索實質是嵌入到一套由算法技術和既有國際傳播偏見性話語整合而成的知識權力體系內，并充分理解ChatGPT的普及可能對于國際傳播中的內容、知識和話語形態的直接影響。基于此，一方面應當密切關注ChatGPT可能對既有國際傳播格局帶來的挑戰和對于全球南方國家帶來的風險，另一方面則需要大力推動國內人工智能生成內容技術的發展與產品的革新，在數字化、智能化語境下推動國際傳播新格局的有效建立。

王沛楠系清華大學人文學院講師，伊斯雷爾·愛潑斯坦對外傳播研究中心研究員；鄧詩晴系清華大學新聞與傳播學院碩士研究生

「注釋」

①ChatGPT sets record for fastest-growing user base - analyst note. By Krystal Hu https：//www.reuters.com/technology/chatgpt-sets-record-fastest-growing-userbase-analyst-note-2023-02-01.

②何天平、蔣賢成：《國際傳播視野下的ChatGPT：多元場景與多維交互》，《對外傳播》2023年第3期，第64-67頁。

③史安斌、廖鰈爾：《國際傳播能力提升的路徑重構研究》，《現代傳播（中國傳媒大學學報）》2016年第10期，第25-30頁。

④朱振明：《福柯的“話語與權力”及其傳播學意義》，《現代傳播（中國傳媒大學學報）》2018年第9期，第32-37、55頁。

⑤王沛楠、史安斌：《“持久危機”下的全球新聞傳播新趨勢——基于2023年六大熱點議題的分析》，《新聞記者》2023年第1期，第89-96頁。

⑥Barocas， S.， & Selbst， A. D （2016） Big Datas Disparate Impact.， California Law Review， 104（3）， 671–732， DOI： https：//doi.org/10.15779/Z38BG31.

⑦Abid， A.， Farooqi， M.， & Zou， J （2021） Large language models associate Muslims with violence.， Nature Machine Intelligence， 3（6）， 461-463， DOI： 10.1038/s42256-021-00359-2.

⑧《人類“3. 0”意識形態戰場——C h a t G P T的政治化終局C h a t G P T的價值觀及立場（四）》，騰訊網，h t t p s： // m p.we i x i n . q q. c o m /s / kx8HyZ1NWzuaibm7P3f0wQ0，2023年3月8日。

⑨Exclusive： OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. By Billy Perrigo. https：//time.com/6247678/openaichatgpt-kenya-workers/.

⑩史安斌、劉勇亮：《聊天機器人與新聞傳播的全鏈條再造》，《青年記者》2023年第3期，第98-102頁。

11甘蒞豪：《規約與博弈：維基百科自組織知識編纂中的命名政治》，《新聞與傳播研究》 2022年第12期，第53-69頁。

12王沛楠：《跨國數字平臺的基礎設施化：結構轉型與規制》，《青年記者》2022年第21期，第96-98頁。

責編：霍瑤