對機言說：信息論視角下的人機交流困境、路徑對策

摘要：【目的】 ChatGPT為代表的聊天機器人爆火，引發了大眾對人機交流未來的無限遐想，其中產生的人機交流困境也值得關注探討。【方法】 文章基于香農信息論視域，對人機信息交流的現實困境進行探討，從信息熵角度解讀人機交流的信息不確定性成因?！窘Y果】研究發現算法語料庫缺陷、價值遮蔽、算法強魯棒性、現實維度多模態語料缺失均可導致人機交流的信息熵增?！窘Y論】需從信息完整性、準確性、時效性等方面考慮信息熵減對策，以實現人機交流的高效暢通。

關鍵詞：信息熵；人機交流；聊天機器人；信息論；ChatGPT " " " " " " "中圖分類號：G276.5 " " " " 文獻標識碼：A

文章編號：1671-0134（2023）06-087-05 " " " " DOI：10.19483/j.cnki.11-4653/n.2023.06.018

本文著錄格式：李翼然，王琪方，鄭達威.對機言說：信息論視角下的人機交流困境、路徑對策[J].中國傳媒科技，2023（06）：87-90，103.

1.信息熵、噪音和人機交流的概念辨析

香農在《通信的數學理論》一文中提出了信息熵的概念，他認為信息熵是計算隨機信息的不確定性或無序度的量度。[1]信息熵理論拓展了熵的含義與應用范疇，作為廣義熵的信息熵從單一的物理學研究拓展至信息科學和社會科學等多學科領域，以度量任一系統運行的不確定性或無序程度。噪音則是香農提出的另一個概念，在信息論中，噪音是指由于技術故障或技術不完善造成的非有意傳送而附加在信號上的任何東西，并使得發出信號與接收信號之間出現信息失真，即對正常信息傳遞的干擾。[2]廣義上的人機交流，也指人機交互（Human–Computer Interaction），是一門研究程序系統與用戶之間的交互關系的學問。[3]隨著相關技術水平的發展提升，人與機器的交互，已經從界面的交互轉向信息甚至情感的交互。而“機”的概念范疇既包含了計算機在內的機器設備，也包括機器人和人工智能。聊天機器人（chatbot）是一種通過自然語言同人進行交流的人機交流對話智能系統（conversational agent）。[4]信息熵是算法技術的基礎，借助算法技術對人和事物相關信息的抓取和分析，可以消除對其的不確定性，實現信息系統的和諧發展。[5]本文重點探討的人機交流僅限定于人與聊天機器人進行的信息互動與交流，以信息熵和噪音作為理論分析的兩大重要概念依據，試圖研究人類與聊天機器人間交流過程中的不確定性和失真性問題。

2.人機交流中的信息熵增與噪音生成

2.1 " 算法語料庫缺陷導致的信息熵增

算法語料庫是為算法根據詞語間信息量或者詞語共現頻率計算詞語相似度而收集和整理的大量文檔的集合。[6]目前AI聊天機器人的語料庫多來源于預先編入的知識庫，或通過與用戶交互和搜索網絡來獲取。在這種技術框架下，由于聊天機器人的商業性，用戶隱私安全性等問題，大量數據難以實現共享成為其語料擴充的局限性問題，即便存在數據割裂的情況，現有人工智能算法技術面對海量的訓練參數仍然顯得有些吃力。同時，存在于現實維度中多模態語料被排除在AI學習模型的語料庫之外，也將成為未來聊天機器人通用化的難題。

2.1.1 "“數據孤島”導致的信息熵增

“數據孤島”起源于“信息孤島”理論，即數據信息被分割儲存于不同主體或部門手中，成為無法互聯互通、相互分享和整合利用的單獨數據集。[7]數據的可復制性使其具有天然的可共享性，可“數據孤島”的形成有其現實必然性。數據所有權的離散直接導致了不同利益主體的訴求迥異，數據在經濟活動中的具體權利界定尚處于法學界的探討階段。[8]無論是數據利益主體的多樣訴求，還是現階段數據經濟權利的法律局限性，算法模型在原始語料上的選擇范圍便遭受到了不同程度的掣肘。

理論上擁有無限容量的算法受困于“數據孤島”的現實無奈而被迫選擇性吸收數據，算法語料庫缺失必然導致其信息容量相較于信息全集的完整性不足，極大增加了信息概率的不確定性并加劇信息系統混亂度，帶來了信息熵增。

2.1.2 " “數據膨脹”導致的信息熵增

人工智能算法執著于提升語言模型回應信息范圍的廣度，語料庫中訓練參數的不斷擴充導致算法確定一個事件所需的信息量也在不斷膨脹，其信息熵值愈發增加，但算法本身的機制和邏輯仍不夠完善和成熟，數據與技術的割裂表現為人工智能語言模型在回應信息時反應時間延長，輸出有效信息的概率降低，輸出的語言信息混亂度上升。但另一方面，想要提升人工智能語言模型回應信息的準確度和靈活性，就要減少確定一個事件的信息量，即縮小訓練參數的數量和范圍，提高系統內部的有序性，信息熵值減少，從而增強人工智能語言模型反饋信息的深度，但也意味著人工智能語言模型可回應的能力范圍縮小，難以回應時代需求。

2.2 " 價值遮蔽導致的信息熵增與結構性失語

機器生產文本無法對具體問題進行針對性的答案匹配，只能對特殊問題進行一般化提煉，利用通用信息萬金油式解答，以此提高算法模型的輸出效率、加快響應速度。因此，聊天機器人所生產的機器文本在參考選擇時，往往偏愛傳播廣泛的權威信息報道，對百科詞條等高信息密度的公開資料青睞有加。機器生產文本的信息參考來源得到了算法的加冕，被賦予知識權威地位、獲得大量網絡曝光，聊天機器人的信息整合能力改寫了網絡信息傳播的秩序，成為網絡海量信息的新把關人。作為算法“撒播”的交換，科技傳媒巨頭掌握的海量高品質信息數據構成了人工智能生產內容（AIGC）的信息基石，由此算法開發者與數據信息所有者之間的利益實現了深度耦合，形成了彼此依賴、目標一致的共生主體關系。

作為標準化權威答案的代價，機器生成式文本消解了對客觀事實的多元意義闡釋空間，深度、差異化的解讀被算法認定為“小概率事件”遭到遮蔽雪藏，認知客觀事物的多元路徑遭到阻塞，單向度“信息共識”在聊天機器人的編制下以“完美事實”的面貌呈現，機器語言交流單一性與客觀事實豐富性之間的巨大罅隙引發了人機交流中的信息熵增。機器文本內容“對齊統一”的表征背后彰顯了算法技術在網絡空間中的強力話語闡釋能力。算法過濾下，小眾群體陷入了結構性失語的窘境，長尾效應所揭示的價值空間遭到選擇性隱埋。

2.3 " 算法強魯棒性導致的無效信息與噪音生成

華裔科幻作家（Ted Chiang） 在紐約客（New Yorker）撰寫的專題文章中指出：ChatGPT改寫了網絡原始材料，而不是逐字引用，它像個學生用自己的話來概括文本，而不是簡單照搬讀過的內容，這造成了一種錯覺——ChatGPT能夠理解文本材料。[9]基于transformer架構的ChatGPT是預訓練語言模型的成果，其本身不具備對人類知識符號的認知理解能力，而僅僅是在機器邏輯下對既有儲存信息的機械性元素遍歷與概率性符號排布。當算法無法對用戶輸入的語言文本進行有效識別時，其計算出的概率學結論往往偏離用戶所輸入的原始信息，甚至生搬硬造出偏離常識性的內容，看似頗有道理的答復，實質上是由于算法過于追求強魯棒性（Robust）所生成的偏離乃至違背事件的噪音。

谷歌高級副總裁兼谷歌Search負責人普拉巴卡 "爾·拉加萬（Prabhakar Raghavan）在接受采訪時表示，當面對由人工智能驅動的聊天機器人呈現的結果時，人們始終需要保持警惕。[10]看似“微小”的數據變化卻可能導致事實與機器的答案相去甚遠，而這種隱藏的不確定性風險會導致用戶對信息的確定性和可靠性產生懷疑，尤其是當該問題不屬于提問者熟悉的專業領域時。在檢查內容真偽性與確認信源準確性的過程中，人機信息交流的質量與效率大幅降低。

2.4 " 現實維度多模態語料缺失導致的信息熵增

受限于算法技術和邏輯，現有的人工智能聊天機器人往往只能連接文本性語料庫，通過單一視覺模態來模擬人的語言輸出行為，即生成人類可以理解的話語文本，而難以將聽覺、觸覺、嗅覺等多模態感知通道的符號內容轉譯成訓練參數中，以及多模態符號系統表達，這在一定程度上限制了聊天機器人的表達和傳遞信息的詮釋空間，而在現實空間存在的人類用戶卻無時無刻不受到多模態話語的影響。當人工智能聊天機器人進行大范圍的普及應用后，不同文化背景和知識結構的用戶輸入的差異化語言文本也會增加了機器“理解”人類自然語言的難度，進而降低AI聊天機器人在處理復雜語言文本時輸出有效信息的概率，這種數據庫語料與現實語料的偏差使得人機交流之間的信息不確定性增加，即人機交流中的信息熵增。

要實現人工智能算法的多模態語料的補充還需要多學科的共同支持和發展。首先，人工智能聊天機器人需將具象的、立體的、動態的多模態符號轉譯為代碼數據進行算法訓練，同時又要保證輸出的多模態話語信息的完整性和準確性。其次，多模態話語的語法分析缺乏嚴格語法意義上的標記和線性關系，因此帶有強烈的主觀性，在定義和理解多模態中不同組成部分的語義關系上，人們受不同的文化背景和知識結構影響可能會產生分歧。最后，由于各模態系統之間的互動關系和互補關系具有不確定性，需要人工智能算法估量不同語境下各模態系統成分之間的語義互補作用，并輸出有效表達特定信息的多模態語篇。[11]

3.人機交流信息熵減的路徑對策

3.1 " 提升信息完整性

根據最大熵原則，算法模型的底層語料庫應該盡可能包含所有實體的數據信息[12]，這要求算法的大數據語料庫在信息來源上保障廣泛性和深入性。在對網絡數據信息進行深度挖掘的同時，數據語料庫也要廣泛吸收各種非網絡公開的信息，以確保其信息涵蓋面足夠豐富，如針對實體書籍、報刊進行數字化資源轉換，將圖片、音視頻等數據進行融合處理等。該過程中商業利益沖突、隱私風險等諸多問題是難以避免的，這對算法的開發者提出了新的挑戰。信息完整性是實現信息熵減、提高人機信息交往效率的基礎，唯有建立起多維度深入挖掘的數據庫，未來算法模型才能夠不斷發展突破，并在足夠量級的數據語料支撐下發掘真正符合用戶要求的完整答案。

3.2 " 保障信息準確性

信息準確性主要體現在信息理解與內容輸出兩個維度。信息理解的準確性側重于用戶表達信息的精準解讀，從人際交流中吸收經驗。人在與人對話中，對于不理解的內容可以通過對方的進一步解釋而理解，人工智能在與人“交流”中或許也可以如此，對用戶的輸入內容，不僅可以通過自身大量數據庫進行語義判斷，也可以將其中不確定的信息向用戶進一步詢問而確定，進而更準確地回復用戶。內容輸出的準確性側重于信息來源的可靠性與可溯源性。微軟推出的New Bing聊天機器人通過搜索引擎的強大內容定位爬取能力與GPT的自然語言處理能力相結合，以實時更新的網絡信息為聊天機器人不斷注入新的知識，對用戶的問題進行全網搜索和思路答案整合，在信息溯源上提供了現實可行的樣本范例。

3.3 " 強化信息時效性

信息內容具有極高的時效性，新近發生的事件具有較高的信息價值，但其價值伴隨時間流逝而急速衰減，尤其是社會突發新聞、市場交易走勢、交通天氣情況等實時更新的數據信息。[11]擁有海量的數據知識是聊天機器人算法模型的基礎，而實時更新則使得人機交流的時空障礙進一步縮小，進而提升了交往效率。要滿足用戶對這類即時信息的需求，聊天機器人不僅需要海量的數據知識，更需要具備快速采集、整合、加工、傳輸信息的能力。將信息整合反饋的時間降至最低才能夠保障用戶的良好體驗。微軟和谷歌都在自家搜索引擎的基礎上嘗試嵌入聊天機器人模塊，能夠根據搜索引擎抓取的實時數據進行內容信息的動態調整，相較于以離線語料庫為信息來源的ChatGPT而言，強時效性的在線語料庫無疑是巨大的突破。

3.4 " 重新審視冗余信息

受限于技術發展水平，當下的聊天機器人往往存在邏輯混亂、信息粗泛冗長的不足。為了突破這種局限，人們通常認為冗余信息最少是人機交流的最佳狀態，這種精簡主義式的追求反而使人們陷入了工具理性主導下的思維定式。實際上，冗余信息并不是字面意義上“冗長多余”的無用信息，而是為了保證信息的完整性和準確性在信息傳輸或存儲過程中添加的額外信息。[12]費斯克等學者認為，“冗余信息”的功用主要表現在有助于進行精確編碼和加強社會聯系，在人際傳播中對抵消噪音、糾察錯誤等方面具有重要作用。[13]同樣，在人機交流領域中優化算法模型、提高信息效率的同時，也要適時停下步伐，重新審視轉譯過程中冗余信息的價值，關注冗余信息在人機交流中發揮的潤滑作用。在原有的數據文本基礎之上，適當利用冗余信息反倒能夠減輕文本信息密度過大、晦澀難懂的問題，增強用戶對信息的深入理解，從另一個角度實現信息熵減。

4.人工智能聊天機器人的未來展望

4.1 " 領域細分化

ChatGPT是OpenAI向公眾展現技術實力的有益嘗試，但ChatGPT的商業藍圖是以通用算法模型為最終目標而展開的，其目的便是成為算法開發的底層基礎設施所有者，對任何細分領域的程序開發保持通用和兼容，目前的核心商業訴求是為企業和個人提供付費自然語言處理的API集成接口。為此需對通用型人工智能做出全新的定義，通用型人工智能算法無法實現人們對機器人“全知全能”的幻想，而只是為精細化分工的人工智能機器人提供初步的自然語言處理與人機交互能力，具體算法的發展傾向和差異依舊由自身的目標任務屬性主導，“大一統”式的通用人工智能模型并不能在實踐層面做到真正的全知全能，只是推動了算法開發中底層框架的統一。從個人開發者角度考慮，現成的遠程API端口確實避免了程序編寫者陷入編寫語言功能代碼的反復勞動中，讓程序開發重心回歸業務功能的需求本身，在這種模式下開發的細分領域聊天機器人，只需向人工智能語言模型投喂特定領域的訓練參數，對自己的私有數據集內進行深度優化和模型調教，即可將大數據預訓練的邏輯思維與特定數據內容的精準調用相結合，通過云端算力輸出與本地數據調用的聯動組合，打造高效的單領域專精化聊天機器人，提高特定領域問題的回答專業性和準確性。屆時的聊天機器人不再只是“聊天”，而是真正能發揮其強大的邏輯處理和分析歸納能力，在軍事偵察、商業預測、教學輔助等細分領域都有著廣泛的應用場景。

4.2 " 多模態擬真化

從單模態的文字助手，到語音文字雙模態的語音助手，再到具象化多模態擬真的虛擬形象聊天機器人……縱觀人機交流的技術發展史，多模態、擬真化、場景化的人工智能語言模型似乎一直是人們追逐的目標和時代發展的必然趨勢。從根本上來說，人工智能大數據語言模型的本質是實現人的世界全要素的價值重構。它的第一步是實現人的語義世界的價值重構，接下來更為關鍵的突破，應該是指向語義以外世界的人類實踐領域的全要素的價值重構——這恰恰應和了元宇宙對于數字文明時代社會要素重構、關系規則重構、現實場景重構的要求。[14]基于多模態的數據分析和處理呈現的立體化形象化的語言模型，可使得語言與其他相關的意義資源整合起來，如結合圖片、表情、動作、聲音等其他符號系統進行語義表達，不僅可以增強機器對用戶表達的語言符號系統在意義交換過程中所發揮的作用，也使用戶對機器表達話語意義的解讀更加全面、更加準確。如果能將這種語言模型進行擬真化呈現，也將會為人機多模態互動交流提供更多的應用空間。

4.3 " 場景定制化

當下的聊天機器人之所以不能夠準確理解用戶問題需求，很大程度上是由被動孤立的信息輸入導致的。用戶在與聊天機器人進行交流的過程，是一問一答式的語言符號交換，聊天機器人缺乏對用戶非語言交流符號的有效感知，這導致機器只能從文字表意機械地解答用戶的真實需求，無法領會話語背后的特定語境與深層含義。而基于場景化的人機交流則能夠突破人機一問一答式的僵化交流，在移動設備、社交媒體、大數據、傳感器、定位系統組成的“場景五力”加持下[15]，將用戶所處的復雜現實情境實時量化為多維度互通的信息流，為聊天機器人搭建個性化場景提供數據支撐。由此，聊天機器人便能夠擺脫被動信息接收—整合處理—輸出的機械化流程，通過主動搭建、動態調整場景要素，營造個性化、沉浸式的交流體驗。機械、孤立的人機交流會因場景化重構而變得自然、廣泛。與此同時，共享數據和沉浸式體驗帶來的倫理問題也需要納入考慮范疇，魅力無限的場景需要建立在“以人為本”的邏輯之上。

結語

ChatGPT的全球爆火使得人工智能技術又一次高調回歸大眾視野，聊天機器人也一夜間成為人類效率機器角色的版本答案。聚焦于聊天機器人這一人機交流的小切口，圍繞“信息熵”與“噪音”的核心概念，對人機信息交流的階段困境與未來可能展開探討。聊天機器人的自身功能定位決定了其將以高效自動化為主軸，朝著滿足人類多元化需求的方向發展邁進。在技術創新發展周期的伊始階段，商業邏輯主導的算法開發無疑有助于加快發展進程，但代價是因商業利益驅使而傾向于被工具理性主導，聊天機器人作為人工智能技術的工具屬性則會進一步強化工具理性的支配傾向。海德格爾認為僅對技術做一種工具性的解釋，會忽視技術的價值性。技術已經不再是“中性”的，而作為“座架”支配著現代人理解世界的方式。[16]但這并不等同于聊天機器人的未來完全由工具理性所主導，相反，工具理性和價值理性既是對立的，也是可以在技術理性的發展中得到統一的。[17]這意味著價值理性在聊天機器人的未來發展過程中具有決定性的指導作用，無論是從人類的社交、情感抑或是工作效率出發，人始終是目的本身，而非工具與手段，聊天機器人的未來發展方向必須以人的尊嚴和需求為本質要求，以人類中心主義的立場原則出發，確保人的主體性不被機器所裹挾消解，避免人被機器所奴役、馴化。伴隨聊天機器人技術商業化進程的如火如荼，價值理性被壓抑的程度會愈發嚴重，如何實現價值理性與工具理性的有機統一，打通人與機器間的交往隔閡，讓聊天機器人成為真正意義上人機交流的橋梁，這值得人們審慎的思考。

[1]王展昭，唐朝陽. 基于全局熵值法的區域創新系統績效動態評價研究[J]. 技術經濟，2020（3）：155-168.

[2]曹勝. 政府信息失真對政府權能的影響及其對策探析[J]. 中國行政管理，2009（7）：18-21.

[3]陸柳杏，石宇，李濟遠，等. 人機交互研究中的眼動追蹤：主題、作用、動向[J]. 圖書情報工作，2020（1）：113-119.

[4]王功孝，吳渝，李偉生. 基于粗糙集和集成學習的聊天知識抽取算法[J]. 廣西師范大學學報（自然科學版），2008 （3）：88-91.

[5]林愛珺，陳亦新.信息熵、媒體算法與價值引領[J].湖南師范大學社會科學學報，2022（2）：125-131.

[6]李慧. 詞語相似度算法研究綜述[J]. 現代情報，2015（4）：172-177.

[7]葉明，王巖. 人工智能時代數據孤島破解法律制度研究[J]. 大連理工大學學報（社會科學版），2019（5）：69-77.

[8]任瀏玉. 公開商業數據爬取行為的規制路徑[J]. 知識產權，2022 （7）：110-126.

[9]The New Yorker.ChatGPT Is a Blurry JPEG of the Web[EB/OL].https：//www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web.2023-02/2023-03-08.

[10]Die Welt.Maschine liefert überzeugende，aber komplett frei erfundene Antwort[EB /OL].https：//www.welt.de/wirtschaft/article243709293/KI-Google-warnt-vor-unbedachtem-Einsatz.html？icid=search.product.onsitesearch.2023-02/2023-03-08.

[11]朱永生. 多模態話語分析的理論基礎與研究方法[J]. 外語學刊，2007（5）：82-86.

[12]金堅. 大數據時代信息熵的價值評價研究[D]. 長春：吉林大學，2019.

[13][美]約翰·費斯克（John Fiske）.關鍵概念[M]. 北京：新華出版社 ，2003（12）：235-237.

[14]京師認知神經傳播學實驗室.“出道即巔峰”的ChatGPT如何引發傳播革命與媒介生態的重構[EB/OL].https：//mp.weixin.qq.com/s/jSFGLygG7RUCGOHRkd-_Aw.2023-03/2023-03-08.

[15][美]羅伯特·斯考伯，謝爾·伊斯雷.即將到來的場景時代[M].趙乾坤， 周寶曜譯.北京：北京聯合出版公司，2014.

[16]李微，張榮軍. 價值理性視域下的人工智能及其倫理邊界[J]. 貴州社會科學，2022 （5）：13-20.

[17]趙建軍. 超越“技術理性批判”[J]. 哲學研究，2006 （5）：107-113.

作者簡介：李翼然（2002-），男，安徽黃山，本科在讀，研究方向為網絡新媒體傳播；王琪方（2002-），男，河南周口，本科在讀，研究方向為網絡新媒體傳播；鄭達威（1981-），男，河南開封，副教授，博士，研究方向為媒介經濟、新媒體技術、網絡傳播、語言文化。

（責任編輯：張曉婧）