信息與用戶雙重視角下的智能媒體AI倫理治理研究

摘" "要：智能媒體作為人工智能（AI）驅動的信息生態系統，其運行依賴信息與用戶的協同作用。目前，信息生產、傳播和用戶反饋3個關鍵環節面臨全新AI倫理挑戰，亟需相適應的AI倫理治理框架以維護信息生態平衡、保護用戶權利。文章通過文獻調研和邏輯思辨，對AI倫理的概念與內容進行梳理，回溯智能媒體發展歷程，并立足信息與用戶雙重視角，分析具體AI倫理挑戰，有針對性地提出包含主體定位和治理路徑的治理框架。研究發現，AI倫理包括AI系統、社會福祉、素養提升和責任溯源4個層次共19項內容；智能媒體正經歷著從技術驅動到人智交互的重要轉變。信息生產、信息傳播和用戶反饋3個關鍵環節中存在虛假信息泛濫、隱私與數據保護等10項AI倫理挑戰。AI設計和開發者、智能媒體運營者、用戶、政府、社會組織5大治理主體可以通過以用戶為本、數據集公正性評估等19條路徑實現智能媒體AI倫理的落地。

關鍵詞：AI倫理；AI倫理治理；信息生態系統；用戶研究；智能媒體

中圖分類號：B82-057" "文獻標識碼：Ａ" "DOI：10.11968/tsyqb.1003-6938.2024062

A Study of AI Ethical Governance in Intelligent Media under the Dual Perspective of Information and User

Abstract Intelligent Media， as an AI-driven Information Ecosystem， relies on the synergy between information and users for its operation. At present， the 3 key links of information production， dissemination and user feedback are facing new AI ethics challenges， and there is an urgent need for a compatible AI ethical governance framework to maintain the balance of the information ecosystem and protect the rights of users. Through literature research and logical discernment， the article combs through the concepts and contents of AI ethics， retraces the history of intelligent media， analyzes specific AI ethics challenges based on the dual perspectives of information and users， and puts forward a targeted governance framework that includes the positioning of main bodies and governance paths. The article argues that AI ethics include 19 items at 4 levels： AI system， social well-being， literacy enhancement， and responsibility traceability; intelligent media is undergoing an important shift from technology-driven to HAII. There are 10 AI ethics challenges in the 3 key links， such as the proliferation of 1 information， privacy and data protection， etc. The 5 main governance bodies， namely AI designers and developers， intelligent media operators， users， government， and social organizations， can realize intelligent media AI ethical governance through 19 paths， such as user-oriented， dataset fairness assessment， and so on.

Key words AI ethics; AI ethical governance; information ecosystem; user study; intelligent media

AI作為引領新一輪科技革命的戰略性技術，已深度嵌入社會信息生態系統。其通過機器學習、深度學習、神經網絡等，達成整合、推理、自動生成等目標，加速了信息鏈中事實、數據、信息、知識、情報的層層轉換［1］，極大推動了信息生產、知識交流、價值創造，在信息生態系統中發揮著核心驅動作用。媒體作為處于歷次科技革命前沿之潮的信息生態系統，形態已在AI及其相關技術的推動下由社會化媒體轉向智能媒體［2-3］。傳統媒體信息生態中的信息生產、傳播和用戶反饋環節被重塑，信息的自動化生成、精準化和個性化傳播成為常態。這種AI賦能的模式不僅極大豐富了媒體功能，而且推動了媒體信息生態的重大變革。

然而，AI也帶來了前所未有的倫理挑戰，對智能媒體信息生態的平衡性和穩定性帶來了嚴峻挑戰。虛假信息泛濫［4］、個人信息泄露［5］等問題已引起業界高度關注。根據Statista對全球百余家媒體機構的調查，82%的受訪者表示他們非常擔憂AI對編輯質量的影響［6］。這反映出目前智能媒體信息生態AI技術接納和融入機制的失靈，也是AI技術發展與社會倫理尚未完全實現銜接的必然后果，亟需AI倫理提供一條道德軌道，以維持智能媒體信息生態的穩定和可持續運轉，實現技術創新與社會價值的相互融合。

作為社會信息傳播和提供知識服務的重要介質，智能媒體天然承擔著促進信息向知識轉換，并實現知識和用戶需求及時、精準匹配的任務［7-8］。這一任務的實現，依賴于信息和用戶雙重要素的協同作用。相應地，智能媒體中AI倫理治理的實踐，也需從信息與用戶的雙重視角出發，以服務于智能媒體社會任務的有效實現。信息是智能媒體AI倫理治理的核心對象，而用戶是智能媒體AI倫理治理的權益實現者和能動主體，兩者的協同作用構成了智能媒體AI倫理治理框架的邏輯起點與理論支點，構建起智能媒體AI倫理治理的完整通路。

基于此，本研究從信息和用戶雙重視角出發，聚焦智能媒體的AI倫理治理。在總結和歸納現有的AI倫理的概念與內容、梳理智能媒體緣起與發展歷程的基礎之上，深入探討了智能媒體中信息生產、信息傳播和用戶反饋中所面臨的AI倫理挑戰，并構建智能媒體AI倫理治理框架。該框架以AI倫理內容為指引，在明確AI倫理治理主體的前提下，指引了各主體治理實踐的具體路徑，為智能媒體AI倫理風險的確責和治理奠定了理論基礎，旨在維護智能媒體信息生態系統的平衡與穩定，以AI倫理促進AI技術與社會價值的協同發展，服務于“安全便攜的智能社會”建設［9］。

1" "AI倫理與智能媒體崛起

1.1" " AI倫理概念與內容

隨著AI交互性和能動性的不斷增強，其在智能媒體中不僅是信息流動和用戶交流的中介［10-11］，而且成為信息生產主體和用戶交流的對象［12］。這一轉變使信息、用戶與環境之間的動態關系更加復雜，呈現出前所未有的多重多維狀態，這凸顯了在現有社會倫理基礎上納入AI相關的倫理考量的重要性。厘清這些新型社會關系，是分析智能媒體AI倫理挑戰并提出治理路徑的前提和基礎。

倫理（Ethic）作為道德的“承擔者和基礎”，指向人與人之間的行為準則［13］，AI倫理（AI Ethics）則是與開發和使用AI相關的互動準則［14］，包括開發AI的原則、AI以道德的方式與其他AI或人類互動的規則，以及AI在社會中道德運作的規則3個方面［15］。學界已經對AI倫理內容進行了多樣化詮釋（見表1），依據不同學者所提出的AI倫理方面和內涵，本研究進一步概括為4個AI倫理層次：AI系統維度、社會福祉維度、素養提升維度、責任溯源維度。

其中，開發AI的原則對應AI系統維度，包括AI設計原則和AI系統目標；AI以道德的方式與其他AI或人類互動的規則對應社會福祉維度、素養提升維度，約束主體分別為AI和人類；AI在社會中道德運作的規則對應責任溯源維度，解決AI社會風險的控制和處理問題。在此基礎上，本研究進一步深化發展，提出更為全面的AI倫理內涵概念框架（見表2），作為本研究所討論的AI倫理基礎。

除多樣的AI倫理內容外，在AI系統中檢驗AI倫理的工具也已推出，新加坡信息通信媒體發展局（Infocomm Media Development Authority，IMDA）和個人數據保護委員會（Personal Data Protection Commission，PDPC）推出的AI Verify作為世界上第一個AI倫理治理測試框架和工具包已在10余家AI公司中進行測試［35］，這為AI倫理內容融入實踐提供了技術解決方案，也能夠為智能媒體的AI倫理治理提供借鑒。

1.2" " 智能媒體緣起與發展

智能媒體是AI嵌入社會的前沿場景，承擔著社會溝通和知識交流任務，也是理解智能社會中信息、用戶與環境交互關系的重要窗口。智能媒體相關研究與AI及其相關技術的發展、AI倫理內容的豐富密不可分，正在經歷從技術驅動到人智交互的躍遷。

第一階段的智能媒體研究聚焦于AI技術在寫作、編輯、分發等信息生產和傳播流程中所發揮的作用以及用戶反饋研究，實際上探究的是“AI+媒體”的運作［36］。這與符號主義AI和連接主義AI的廣泛應用密不可分，符號主義AI以專家系統、知識圖譜等為代表技術，通過符號來模擬認知過程，能夠用于機器寫作以及多模態信息生產。連接主義AI起源于神經網絡，以機器學習為核心技術，通過對大規模數據樣本的學習獲得“智能”［37］，能夠用于新聞挖掘、內容效果分析等更廣泛的信息生產環節，但虛假新聞［38］、著作權爭議［39］等倫理問題也隨之浮現。同期的用戶研究以分析、感知用戶和提升用戶體驗為目標［40］。第二階段的智能媒體研究轉向“人智交互”，AI和用戶在功能和角色上深度融合，形成更加緊密的協同關系，這與行為主義AI以及神經符號計算的思想密不可分。行為主義AI以“感知-行為”為獲得智能的核心，強調與環境的互動，而神經符號計算融合符號主義中符號推理的核心思想和連接主義中神經推理的理念，是通向相當于人類智慧的通用AI的未來路徑［41］，在該范式之下真正意義上的“智能”媒體將出現，這也為分析用戶到探索“人智交互”奠定了技術基礎。

基于智能媒體的技術特點和應用場景，本研究將智能媒體概括為以AI及其相關技術（物聯網、云計算、區塊鏈等）為支撐的，具備自動化、自適應性的信息生產和傳播能力，通過人智交互不斷優化信息服務，建立在虛實共生的融合場景之上的信息生態系統。這種復雜的生態在信息和用戶雙重要素的協同作用下運轉，信息的生產和傳播環節決定信息的真實性、多樣性、時效性等特征，直接影響信息生態的平衡與健康；用戶則通過數據和行為反饋等方式，不斷推動信息生態的動態調節與優化。理解這種復雜的生態運行過程，是分析智能媒體AI倫理挑戰的理論基礎，也為治理框架構建提供了內在邏輯。

2" "智能媒體中的信息與用戶AI倫理挑戰

智能媒體信息生態的運行依賴信息和用戶雙重要素的協同作用，從信息與用戶雙重視角出發，是系統梳理與全面分析智能媒體AI倫理挑戰的關鍵路徑。信息生產、信息傳播環節是智能媒體的業務基礎，用戶反饋環節強化了信息生態的動態特征。這三個環節是信息與用戶互動最為頻繁，也是技術與倫理沖突最為突出的核心節點，是進行智能媒體AI倫理挑戰分析的關鍵抓手。

基于此，本研究以AI倫理內容為基線，探討信息生產、傳播與用戶反饋三個環節中的具體的AI倫理挑戰及其成因、危害性，以實現重點覆蓋和有序整合，為構建智能媒體AI倫理治理框架提供理論指引。

2.1" " 智能媒體信息生產中的AI倫理挑戰

在智能媒體中，AI不僅能夠輔助信息生產者完成挖掘觀點、內容寫作、熱度監測等活動，而且自身也將成為重要的信息生產者，其以數據作為生產素材，以算法作為處理方式，自動生成新聞、評論等信息。同時，智能媒體中的AI倫理挑戰也隨之而來，其中以虛假信息泛濫、知識產權爭議、算法偏見與歧視、生產決策權錯位為典型代表，造成了廣泛的社會影響。

（1）虛假信息泛濫。就虛假信息本身而言，其并不局限于文本信息，虛假圖片、語音、視頻等多模態信息也應被囊括在內。文本類的虛假信息主要由生成式AI制造，以ChatGPT為例，其在海量數據無監督學習的基礎上開展人工微調和人類反饋強化學習，具有出色的自然語言處理能力，然而由于訓練數據集本身的質量問題以及自回歸生成模型技術無法及時糾錯、貪婪搜索和束搜索等技術特點［42］，令人難以分辨的虛假的“幻覺”數據難以避免，這與可靠性的AI倫理內容相違背。而圖片、語音、視頻類的虛假信息則與深度合成技術的使用密切相關，這一技術的典型應用即“AI換臉”，人們發布在網上的照片極有可能未經同意成為“AI換臉”的素材，而經由“AI換臉”生成的虛假圖片、視頻的用途無法由自身掌握，不特定群體將成為潛在的被侵害對象，公共信息安全岌岌可危［43］，這違背了以人為本的AI倫理內容，造成了對用戶生活的現實侵擾。

（2）知識產權爭議。AI自動生成內容將在未來成為主流，據Narrative Science預測，在未來15年內，AI將生成90%以上的新聞稿［44］，這類內容的著作權問題是緊迫的現實挑戰。然而現階段智能媒體中的AI自動生成內容仍面臨著作權保護上作品獨創性和主體資格兩個關鍵問題的模糊［45］。AI生成的內容主要基于算法對訓練數據的形式展開，在著作權思想與表達二分的前提下，AI生成內容是思想觀念還是表達方式的重組目前仍然只能在個案中進行具體判斷。此外，智能媒體現階段所大量運用的AI仍是算法程序的集合而非真正意義上的“智能體”，這也與著作權保護中的人身權和財產權之辯相呼應，承認AI生成內容的著作權是對人的主體性的打擊，由此或可從財產權的視角出發對AI生成內容進行多元利益分配［46］等方式在激發AI創造活力的同時也保護人的主體性，實現以人為本和人類福祉的AI倫理內容。

（3）算法偏見與歧視。智能媒體中的歧視和不平等問題事實上是現實世界中偏見的一種延伸。數據是現實世界中被發現的事實的編碼表現［47］，隱含在數據中的人類固有偏見將被AI學習［48］。此外，數據標注者和算法開發者在工作過程中也會將自身偏見帶入［49］，進而導致智能媒體情境中AI模型本身的偏見性，其生成的信息本身自然也成為現實世界偏見的倒影和映射，這種包含偏見信息的生成和交互擴散將使性別、種族、地理和代際層面的不平等持續擴大［50］，偏離了AI倫理的包容性內容。

（4）生產決策權錯位。在智能媒體中，信息生產和內容生產的決策越來越多地依賴數據呈現，即根據數據熱度來挖掘話題，而非傳統根據話題來提升熱度。加之AI自動生成內容，生產決策的流程可以實現由數據驅動、系統自動進行，整個環節中用戶的參與度逐漸降低，AI倫理內容中人類的決定權面臨著AI的搶奪。同時，AI也會制造機器流量，大量的機器人用戶出現在智能媒體中，其行為的實質是具有商業目的的數據欺詐［51］，這種虛假的流量會導致生產決策的誤判，影響智能媒體正常的信息生產活動秩序。

2.2" " 智能媒體信息傳播中的AI倫理挑戰

智能媒體信息生產中的AI倫理由AI技術本身和訓練數據的局限性造成，而智能媒體信息傳播中的AI倫理問題成因在技術和數據之外，也涉及人為的商業操縱和不當使用，由此責任溯源的AI倫理內容也應被納入考量。

（1）審核與過濾偏見。在信息傳播過程中，智能媒體首先需要對信息進行審核和過濾。AI的信息審核和過濾方式以建立敏感詞詞庫和語義識別協同進行，敏感詞詞庫主要有選擇使用開源詞庫和自建詞庫兩種，開源詞庫來源于從網絡中爬取大量質量參差不齊的公開數據，也存在現實世界的偏見映射，自建詞庫也存在因智能媒體標注員自身的偏見或者因語言、文化差異而導致的差異理解問題［52］，導致不當審核和過濾問題，這偏離了包容性的AI倫理內容。

（2）個性化推薦操縱。完成信息審核和過濾后，智能媒體將經由算法進行個性化的精準信息分發。個性化推薦的實質是信息內容特征和包括人口統計學、興趣偏好、環境等在內的用戶特征的匹配，但算法中“召回”和“預測”的過程對用戶而言是不透明和難以理解的［53］，也容易被操縱。這種操縱一方面來自商業層面，現有研究已經證明作為消費者的用戶極易受到這種商業性的有傾向的個性化推薦影響［54］，在智能媒體情境之下，廣告主會持續利用個性化推薦這一機制達成商業目的。另一方面來自群體觀點和情緒的引導，智能媒體的個性化推薦需要通過人與AI之間的互動來不斷優化模型，而在這種互動中，高精度的AI模型反而能夠自動捕捉負面信息的情緒，增加負面信息推薦的概率，實現放大負面情緒的效果［55］，這種群體觀點和情緒引導是技術局限性導致的偏差，而且容易受到數據和算法掌握者的操縱，進而造成群體極化事件以及錯誤的、有偏見價值觀的持續傳播，這與透明度、以人為本和包容性的AI倫理內容相悖。

（3）責任歸屬不明。在信息傳播層面，AI倫理所面臨的挑戰加入了人為因素的干預，由此責任歸屬問題也變得格外重要。智能媒體情境由AI以及相關技術所打造，是AI的一類下游應用場景，涉及社會利益和商業利益的博弈，復雜的場景狀態對AI倫理內容中的可競爭和問責形成了挑戰。其中的困難和風險主要在于責任主體的難以確定，這由AI的復雜技術生態所造成［56］，智能媒體不是單一的媒體單元，而是一整個信息生態系統，AI也不是單一技術而是多重技術的復合。智能媒體中存在不同的AI技術應用者，同時文字、圖片、視頻等復雜的多模態信息往往需要不同的技術提供者進行處理，而技術提供者又可以分為基礎設備提供者、數據存儲者、算法設計者等多個主體，引發社會風險的技術問題很有可能是多重主體共同所造成的，向誰追責和在何種程度上追責就成了一個懸而未決的問題。

2.3" " 智能媒體用戶反饋中的AI倫理挑戰

用戶參與以及人智協同是智能媒體研究的重要視角。在智能媒體中，用戶可以參與到生產和傳播過程中，而非僅僅作為被動的信息接收者而存在。而人智協同是智能媒體的重要新特征，人與AI互動中所引發的AI倫理挑戰具有必要性和現實性。

（1）隱私與數據保護。在用戶對信息生產過程的反饋中，用戶既可以通過自然語言、動作、表情等方式與智能媒體直接進行交流，也能夠讓數據作為自身意愿的表征被AI所理解，這意味著用戶反饋的不僅是需求本身，而且包括與需求相關或不相關的一切用戶背景信息，也由此引發了關于智能媒體中個人隱私與集體隱私保護的AI倫理討論。在高度互聯的智能媒體情境下，理解用戶不能僅從個體維度出發，而且要關注具有共同特征的群體以及它們之間的連接。個人隱私是個人精神世界私人空間的安全屏障，集體隱私是個人隱私、其他信息所有者的隱私和群體存在、社會關系以及群體內的互動的集合［57］，保護智能媒體中的個人隱私和集體隱私就是捍衛智能社會中的個人和集體安全。在智能媒體中，理解人的思維和情感、預測人的行為是交互式AI最重要的目標，而這樣的訓練需要通過海量的高質量的個人信息數據集才能完成，除開源數據集外，用戶反饋所形成的數據集就是最精確有效的訓練數據，由此，AI將不可避免地獲取作為個人信息表征的個人數據以完成個性化的精準信息推送、個性化的內容生成等活動。然而，在個人數據的收集完成后，數據泄露事件卻頻頻發生，如ChatGPT在2023年3月因開源庫錯誤而導致的個人信息泄露，1.2%的用戶在與ChatGPT交互時能夠窺見其他用戶的聊天記錄標題以及支付信息等個人信息［58］，且現有高精度的AI可以輕易識別群體特征，進而造成更大范圍的、有針對性的隱私泄露［59］。

（2）信息繭房和社會風險。在用戶對信息傳播過程的反饋中，基于用戶個人或者群體特征的個性化推薦除了會對信息傳播過程本身造成AI倫理挑戰外，對用戶也會造成認知負擔。對用戶個人而言，主要會導致信息獲取的窄化和同質化，進而形成觀點和態度的同質化［60］。而在智能媒體中，跨平臺用戶偏好數據的交流與整合更為頻繁，同質化信息將在不同使用場景間形成傳播閉環。用戶會因為沉浸式體驗的疊加效果而進一步強化其既有認知框架，甚至形成對多樣化觀點的習慣性抗拒，“人類自主”的倫理內涵被算法控制所侵蝕，用戶在信息生態中的能動性逐漸喪失，陷入由AI驅動的認知被動化局面。除此之外，群體推薦是個性化算法中的重要范式［61］，其基本思想是智能媒體用戶的分組，本質上實現的是群體的個性化而非真正聚焦于用戶個體，這種推薦將導致用戶以群組的形式被劃分，群體的信息獲取將呈現同質化，進而形成共同的社會感知和社會理解，群體與群體之間則會形成認知、心理上的斷裂帶，這無疑會導致社會整體的公共性缺失和社會風險升高。

（3）信息過載與認知負擔。智能媒體通過AI實現信息高效生產與精準分發，但這種高效率也帶來了信息過載，導致用戶信息處理效率降低，陷入社交網絡疲憊和信息焦慮［62］。此外，文本、音頻、視頻、圖像等融合多模態信息是智能媒體中信息呈現的最常見形式。這在豐富用戶體驗的同時，也增加了信息處理的復雜性，分散了用戶的注意力資源［63］。用戶需要同時解讀和整合不同模態的信息內容，認知系統面臨過度刺激，不僅難以從中提取關鍵信息，還可能因信息重復和冗余而產生額外心理負擔。

3" "信息與用戶雙重視角的智能媒體AI倫理治理框架構建

智能媒體AI倫理挑戰集中在信息生產、信息傳播和用戶反饋這三個關鍵環節，治理框架的提出也應從信息與用戶雙重視角出發，以有針對性地解決問題。較之AI倫理治理的一般框架，智能媒體AI倫理挑戰涉及技術和應用上下游的多元主體，更具分析復雜性。以信息生態系統理論為統籌，本研究結合其中的“信息人”概念，在解決三個關鍵環節的治理主體定位的基礎上，以AI倫理內容為指導，為各主體踐行AI倫理提供可行路徑。

3.1" " 智能媒體的AI倫理多元治理主體

智能媒體作為一類信息生態系統，由信息、信息人、信息技術和信息環境四個因子構成［64］。其中，信息人是生態系統的主體，也是具備能動性的AI倫理治理主體，包括信息生產者、傳播者、接受者和管理者［65］。具體到智能媒體信息生態，分別對應為：AI設計和開發者；智能媒體運營者；用戶；政府；社會組織。

具體而言，AI的設計和開發者為生態系統技術因子的支持者，向智能媒體運營者提供技術解決方案和后期維護服務，宜作為基礎管理者首先納入考慮；智能媒體運營者既是傳播者，也承擔著部分專業信息生產任務，還負責為用戶提供服務，并進行整個生態系統的配置管理；用戶是智能媒體最為重要的生產者、接受者和傳播者，通過其行為、偏好和數據化表征，直接參與信息生成和傳播，并通過反饋機制實現信息生態的動態調節；政府是AI倫理的管理者，可以通過制定法律法規、政策文件等方式將AI倫理嵌入到智能媒體之中，并積極開展對算法的技術、合規和風險審計；社會組織是AI倫理的提倡者和管理者，可以通過建議書、框架倡議等方式參與到AI倫理的社會治理過程中，推動AI倫理的社會共治。

這五個主體在各自領域的功能定位相互補充，為生態系統的穩定、健康發展提供了重要支撐。而明確主體定位，是主體確則的前提，也是落實AI倫理具體路徑的指引。根據智能媒體運行過程和各信息環節中的AI倫理挑戰，本研究將對治理主體的定位進行整合。

在智能媒體信息生產階段，AI設計者和開發者是最重要的AI倫理治理主體。這主要是由于該階段的虛假信息泛濫、算法偏見與歧視、生產決策權錯位等AI倫理挑戰主要產生于現有AI訓練數據標注和數據質量、訓練方法等的技術局限性，只有從技術層面入手才能從源頭上把控和解決問題。在AI設計者和開發者完善智能媒體系統設計和功能的基礎上，智能媒體運營者、用戶和政府可以在具體流程把控上采取AI倫理治理實踐。

在智能媒體信息傳播階段，商業利益的博弈愈加突出，各主體在智能媒體中形成了復雜的社會關系，政府和社會組織、運營者、設計者和開發者都成為主要的AI倫理治理主體。政府主要規制信息傳播階段突出的個性化推薦的商業操縱問題，而AI設計者和開發者為信息傳播階段的AI倫理治理提供透明度基礎，也即公開包括源代碼、訓練數據集和測試數據在內的信息，以及智能媒體運營者等相關利益主體利用這些代碼和數據生成信息的過程，以進一步明確AI倫理的責任歸屬，提升用戶信任［66］。

在智能媒體用戶反饋階段，用戶和AI共同完成這一交互過程，而智能媒體運營者作為這一過程的平臺提供者、環節監控者和利益獲得者，應成為最主要的AI倫理治理主體。隱私泄露不僅是技術問題，更多的是人與組織之間的邊界控制問題，用戶反饋信息生產和信息傳播的本質就是通過讓渡一定的隱私來獲得更為個性化和精準化的信息服務，而這一過程的把控事實上由智能媒體運營者完成，通過界面誘導、拒絕服務等方式獲取用戶隱私，用戶處于相對弱勢地位。此外，信息同質化和公共性缺失也是因智能媒體運營者為了商業目的濫用算法推薦技術而導致的嚴重后果。由此，智能媒體運營者必須承擔起在用戶反饋階段的AI倫理治理主要責任，而用戶也應充分發揮自身的主動參與性，在社會組織的協助下不斷提升自身AI素養。

3.2" " 智能媒體AI倫理多元主體治理路徑

在明確智能媒體生態系統中治理主體的定位問題后，各治理主體應開展相應的AI倫理治理實踐，各司其職，共同協作以實現智能媒體中的AI倫理嵌入（各主體的治理路徑見圖1）。

（1）AI設計者和開發者：保持技術透明，實現數據公平。AI設計者和開發者的AI倫理治理實踐應以AI系統維度為指導，不斷修正和完善AI系統和功能。其應遵循以下幾點：一是以用戶為本的AI系統設計理念。這是AI系統設計與開發的根本準則，是AI系統能夠服務于用戶的基礎，也是避免在智能媒體運營過程中出現因技術局限性而壓抑和限制用戶能動性的前提。二是采用系統倫理設計方法。即在設計AI系統時就融入倫理內容和倫理設計方法，從源頭上減少AI應用中的倫理風險，通過技術手段為智能社會的倫理搭建底層架構，如價值敏感設計（Value Sensitive Design，VSD）就可以貫徹在設計構思、程序實現、數據處理、結果呈現各個階段，以確保算法技術糾偏和價值彌合［67］。三是數據集公正性評估。針對現有的數據集、訓練方法等技術層面所引起的AI倫理挑戰，AI設計者和開發者在數據集的構建過程中可以通過引入不同的數據源、重復采樣等方式來進行數據集的公正性評估，盡可能避免歧視和不平等。四是完善倫理算法開發。通過開發倫理算法可以盡可能降低智能媒體情境下的倫理風險，現有的基于注意力機制、消融（Ablation）、TM機器（Tsetlin Machine）等訓練方法和可解釋的AI系統已能夠服務于單模態和多模態的虛假新聞監測［68］，通過算法本身來改進算法所帶來的風險才能從源頭上解決問題。

（2）智能媒體運營者：保護用戶權益，履行社會責任。智能媒體運營者應以社會福祉維度的AI倫理內容指導自身的AI倫理治理實踐，可以分為平臺運營和媒體責任兩條路徑。就平臺運營路徑而言，智能媒體運營者首先應加強用戶個人信息的控制權。在智能媒體平臺規則的制定中，智能媒體運營者應使用戶可以自行設置信息披露的邊界［69］，以保護用戶的隱私和數據安全，加強用戶在智能媒體中獲得生存和發展必要的安全感。其次，不斷提升智能媒體政策與規則的透明程度。即避免隱規則和冗長繁雜的條文，減輕用戶的理解負擔，使用戶在使用智能媒體時有規可依，強化用戶對智能媒體的信任。就媒體責任路徑而言，智能媒體運營者則應強化媒體公共空間的功能，牢記作為媒體的社會責任，尤其是在面對算法分割社會群體時，在積極為具有同質特征的用戶個人搭建聯系平臺的同時，也為特征異質的用戶群體架起溝通橋梁，打造生態良好的公共空間，秉持公平和包容的心態，鼓勵多元創新的內容和表達。

（3）用戶：主動接納學習，規范媒體參與。智能媒體用戶的AI倫理治理實踐需要以社會福祉和素養提升維度的AI倫理內容為指導，在通過智能媒體提升學習工作以及溝通效果的同時，也能在各類風險和挑戰中保護自己。一是積極接納智能媒體。在面對這一新的媒體形態時，能夠以開放的心態進行嘗試和使用，借由日常生活中的智能媒體使用步入智能社會。二是主動學習智能媒體的使用。智能媒體的使用需要一定的AI知識作為認知基礎，這需要用戶主動地了解和學習，否則將因智能知識缺乏而落入新一輪的智能鴻溝。三是自覺遵守智能媒體規則。在面臨智能媒體的重重風險時，部分用戶也在挑戰倫理底線，通過制造虛假信息、盜取他人個人信息等方式謀取商業利益，或通過發表歧視性言論等行為宣泄不滿情緒，這要求用戶自覺遵守智能媒體規則，規范自身的智能媒體使用行為。四是監督智能媒體倫理風險。在智能媒體中可能遭遇風險或察覺到潛在的風險時，積極向智能媒體運營者進行反饋，將風險行為遏制在未發生之時或降低其危害后果，為智能媒體AI倫理的實現盡最大化努力。

（4）政府：建立健全法規，培育公眾素養。政府的AI倫理治理實踐的指導是AI倫理內容中的責任溯源、社會福祉和素養提升維度，不僅應在宏觀層面對AI倫理治理做出規劃，而且需要對各主體的AI倫理治理實踐進行協調。一是完善智能媒體相關法律體系。法律法規體系的建立是AI倫理風險責任溯源和治理的基礎，但同時其制定應在平衡風險規制和鼓勵創新的基礎上開展，避免因監管過早介入而影響技術創新和迭代。二是智能媒體常態化監測和監管。這主要針對信息傳播階段突出的個性化推薦商業操縱等問題，如美國的《減少在線用戶欺騙體驗法案》（Deceptive Experiences To Online Users Reduction Act，DETOUR）以及歐盟、中國的不正當競爭中都已將這一問題納入考慮范疇［70］。三是引導智能媒體運營者行業自律。在以法律法規作為智能媒體挑戰的底線和紅線之外，政府還可以積極引導智能媒體運營者開展行業自律，以行業的自我監管來配合監管，如可以借鑒個人信息保護中的安全港制度（Safe Harbors），智能媒體運營者先以行業或社會組織名義向政府報批自律規則，遵守獲批后的自律規則即可被視作遵守了法律法規。四是實現素養提升。AI意識和認知是AI素養的重要部分［71］，而意識和認知的前提是接觸AI。這就需要政府彌合AI設施鴻溝，大力投入AI基礎設施、普及智能媒體場景，縮小因AI技術普及率不同而導致的智能鴻溝和知識鴻溝。五是知識產權公有實踐。針對智能媒體中泛濫的知識產權歸屬不明問題，或可以從技術開發上就明確將AI生成作品投入公有領域［72］，并結合法律標準和技術標準對人智協作生成的作品進行獨創性判斷，以解決生成程序開發者與運營者、用戶之間的知識產權糾紛。

（5）社會組織：倡導行業自律，普及公眾教育。社會組織的AI倫理治理實踐與政府一致，以責任溯源與素養提升維度的AI倫理內容為指導，同時也是各治理主體間的聯動橋梁。一是建立行業自律規則。社會組織可以凝聚行業的一線實踐力量，積極配合政府的監管，達成良性互動，形成AI倫理治理的合力。二是開拓用戶反饋渠道。將智能媒體用戶反饋的問題集中向政府和智能媒體運營者進行反映，為智能媒體用戶維護權利、表達需求、建言獻策提供發聲渠道。三是組織和開展智能媒體風險評估。這是社會組織社會監督功能的體現，其可以定時對智能媒體中的風險問題和改進行為開展第三方評估，督促智能媒體運營者落實法律法規以及有關政策。四是開發AI素養課程。這是社會組織自身整合資源、社會協調優勢的體現，通過開發和在智能媒體中普及AI素養課程能夠幫助政府和智能媒體運營者普及智能知識，同時也為智能媒體用戶提供簡便的學習途徑。

4" "結語

智能媒體作為智能社會的媒體形態，是AI技術的快速發展和廣泛應用的前沿領域，信息生產、傳播方式和用戶反饋模式被全面重塑。然而，技術局限性與AI倫理缺失所引發的虛假信息泛濫、歧視和不平等、用戶隱私泄露，以及商業利益驅動下個性化推薦的濫用，正對信息生態的健康發展和用戶權益構成威脅。這些問題不僅動搖了公眾對技術的信任，也對社會倫理提出了深刻挑戰。為此，亟需構建與智能媒體相適應的AI倫理治理框架，以協調技術創新與社會福祉之間的關系。

信息和用戶作為智能媒體這一信息生態系統的核心要素，在信息流動的各個環節中分別扮演著基礎性與能動性角色，為實現AI倫理治理提供了關鍵抓手。信息的生產和傳播是智能媒體運轉的不竭之源；用戶則通過深度參與和互動賦予信息新的意義，為信息生態賦予活力?；诖?，本研究從信息與用戶雙重視角出發，提出了多元治理主體參與的智能媒體AI倫理治理框架。該框架旨在明確智能媒體AI倫理治理主體及其責任分擔，提出具體可行的踐行路徑，推動智能媒體信息生態的穩定與健康，保障用戶的信息權益，最終實現AI技術在倫理軌道內的可持續發展，為智能社會的構建注入社會倫理與人本關懷的深層力量。

參考文獻：

［1］" 朱禹，陳關澤，葉繼元.人工智能生成內容（AIGC）的本質屬性及其對信息資源管理學科的影響［J/OL］.信息資源管理學報，1-13［2024-09-19］.http：//kns.cnki.net/kcms/detail/42.1812.G2.20240918.1335.002.html.

［2］" 董慶興，張夢毅，熊思珗.信息生態視閾下的社交媒體錯誤信息分享研究：從相信到轉發［J］.情報科學，2023，41（11）：72-84.

［3］" 程明，程陽.論智能媒體的演進邏輯及未來發展——基于補償性媒介理論視角［J］.現代傳播（中國傳媒大學學報），2020，42（9）：1-5.

［4］" Dwivedi Y K，Kshetri N，Hughes L，et al.“So what if ChatGPT wrote it？”Multidisciplinary perspectives on opportunities，challenges and implications of generative conversational AI for research，practice and policy［J］.International Journal of Information Management，2023，71：102642.

［5］" Cheng X，Su L，Luo X，et al.The good，the bad，and the ugly： Impact of analytics and artificial intelligence-enabled personal information collection on privacy and participation in ridesharing［J］.European Journal of Information Systems，2022，31（3）：339-363.

［6］" Statista.Concerns about the Ethical Implications of Artificial Intelligence in the Newsroom among News and Media Organizations Worldwide as of July 2023［EB/OL］.［2024-09-25］.https：//www.statista.com/statistics/1472605/ethical-concerns-about-ai-in-the-newsroom-worldwide/.

［7］" 張鈞.基于用戶畫像的圖書館知識發現服務研究［J］.圖書與情報，2017（6）：60-63.

［8］" 程秀峰，畢崇武，王雪杰.多維度視角下的高校館移動閱讀服務質量評價體系［J］.圖書館論壇，2017，37（8）：91-97.

［9］" 國務院.國務院關于印發新一代人工智能發展規劃的通知［EB/OL］.［2024-09-25］.https：//www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm.

［10］" Just J.Natural language processing for innovation search-Reviewing an emerging non-human innovation intermediary［J］.Technovation，2024，129：102883.

［11］" Hancock J T，Naaman M，Levy K.AI-mediated Communication：Definition，Research Agenda，and Ethical Considerations［J］.Journal of Computer-Mediated Communication，2020，25（1）：89-100.

［12］" Sundar S S.Rise of Machine Agency：A Framework for Studying the Psychology of Human-AI Interaction（HAII）［J］.Journal of Computer-Mediated Communication，2020，25（1）：74-88.

［13］" 辭海.倫理［DB/OL］.［2024-05-01］.https：//www.cihai.com.cn/detail？q=%E4%BC%A6%E7%90%86amp;docId=5453858amp;docLibId=72.

［14］" Khan A A，Akbar M A，Fahmideh M，et al.AI Ethics：an Empirical Study on the Views of Practitioners and Lawmakers［J］.IEEE Transactions on Computational Social Systems，2023，10（6）：2971-2984.

［15］" Siau K，Wang W.Artificial intelligence（AI） ethics：ethics of AI and ethical AI［J］.Journal of Database Management，2020，31（2）：74-87.

［16］" Kazim E，Koshiyama A S.A High-level Overview of AI Ethics［J］.Patterns，2021，2（9）：1-12.

［17］" Jobin A，Ienca M，Vayena E.The Global Landscape of AI Ethics Guidelines［J］.Nature Machine Intelligence，2019，1（9）： 389-399.

［18］" Hagendorff T.The Ethics of AI Ethics： An Evaluation of Guidelines［J］.Minds and Machines，2020，30（1）：99-120.

［19］" Kaur D，Uslu S，Rittichier K J，et al.Trustworthy Artificial Intelligence： a review［J］.ACM Computing Surveys（CSUR），2022，55（2）：1-38.

［20］" Pant A，Hoda R，Tantithamthavorn C，et al.Ethics in AI through the Practitioner’s View： a Grounded Theory Literature Review［J］.Empirical Software Engineering，2024，29（3）：67.

［21］" Ozmen Garibay O，Winslow B，Andolina S，et al.Six Human-centered Artificial Intelligence Grand Challenges［J］.International Journal of Human-Computer Interaction，2023，39（3）：391-437.

［22］" 吳丹，許浩.“以人為本”的數據科學教育：圖書情報學科的新發展［J］.圖書情報知識，2021，38（6）：12-20.

［23］" Liu H，Wang Y，Fan W，et al.Trustworthy AI：A Computational Perspective［J］.ACM Transactions on Intelligent Systems and Technology，2022，14（1）：1-59.

［24］" Balasubramaniam N，Kauppinen M，Rannisto A，et al.Transparency and Explainability of AI Systems：From Ethical Guidelines to Requirements［J］.Information and Software Technology，2023，159：107197.

［25］" Díaz-Rodríguez N，Del Ser J，Coeckelbergh M，et al.Connecting the Dots in Trustworthy Artificial Intelligence：From AI Principles，Ethics，and Key Requirements to Responsible AI Systems and Regulation［J］.Information Fusion，2023，99：101896.

［26］" Drage E，McInerney K，Browne J.Engineers on responsibility：feminist approaches to who’s responsible for ethical AI［J］.Ethics and Information Technology，2024，26（1）：4.

［27］" Fiske A，Henningsen P，Buyx A.Your Robot Therapist will See you Now：Ethical Implications of Embodied Artificial Intelligence in Psychiatry，Psychology，and Psychotherapy［J］.Journal of Medical Internet Research，2019，21（5）：e13216.

［28］" Milossi M，Alexandropoulou-egyptiadou E，Psannis K E.AI Ethics：Algorithmic Determinism or Self-Determination？The GPDR Approach［J］.IEEE Access，2021，9：58455-58466.

［29］" Thiebes S，Lins S，Sunyaev A.Trustworthy Artificial Intelligence［J］.Electronic Markets，2021，31（2）：447-464.

［30］" 蔡迎春，張靜蓓，虞晨琳，等.數智時代的人工智能素養：內涵、框架與實施路徑［J］.中國圖書館學報，2024，50（4）：71-84.

［31］" 郭亞軍，寇旭潁，馮思倩，等.人工智能素養：內涵剖析與評估標準構建［J/OL］.圖書館論壇，1-9［2024-08-27］.http：//kns.cnki.net/kcms/detail/44.1306.G2.20240826.1624.002.html.

［32］" 蘇文成，郭浩然，盧章平，等.我國高校學生群體人工智能素養評價指標體系構建及實效性驗證［J/OL］.圖書館建設，1-25［2024-06-25］.http：//kns.cnki.net/kcms/detail/23.1331.G2.20240624.1801.004.html.

［33］" Lyons H，Velloso E，Miller T.Conceptualising Contestability：Perspectives on Contesting Algorithmic Decisions［J］.Proceedings of the ACM on Human-Computer Interaction，2021，5（CSCW1）：1-25.

［34］" Du S，Xie C.Paradoxes of Artificial Intelligence in Consumer Markets：Ethical Challenges and Opportunities［J］.Journal of Business Research，2021，129：961-974.

［35］" Infocomm Media Development Authority.Singapore Launches World’s First AI Testing Framework and Toolkit to Promote Transparency; Invites Companies to Pilot and Contribute to International Standards Development［EB/OL］.［2024-09-05］.https：//www.imda.gov.sg/resources/press-releases-factsheets-and-speeches/press-releases/2022/sg-launches-worlds-first-ai-testing-framework-and-toolkit-to-promote-transparency.

［36］" 喻國明，蘭美娜，李瑋.智能化：未來傳播模式創新的核心邏輯——兼論“人工智能+媒體”的基本運作范式［J］.新聞與寫作，2017（3）：41-45.

［37］" 陳銳，江奕輝.作為生成式人工智能核心驅動力的訓練數據的治理研究［J］.情報資料工作，2024，45（4）：87-95.

［38］" 陳昌鳳，師文.智能化新聞核查技術：算法、邏輯與局限［J］.新聞大學，2018（6）：42-49，148.

［39］" 沈思言，劉建.人工智能數據新聞作品著作權歸屬問題探析［J］.中國出版，2019（8）：52-55.

［40］" 王芳.歷史主義視角下情報學的學科起源、結構與屬性［J］.情報理論與實踐，2024，47（11）：1-12.

［41］" IBM Research.Neuro-symbolic AI［EB/OL］.［2024-06-26］.https：//research.ibm.com/topics/neuro-symbolic-ai.

［42］" 陳銳，江奕輝.生成式AI的治理研究：以ChatGPT為例［J］.科學學研究，2024，42（1）：21-30.

［43］" 最高人民檢察院.“AI換臉”侵犯公民個人信息，檢察機關提起民事公益訴訟［EB/OL］.［2024-09-05］.https：//mp.weixin.qq.com/s？__biz=MzA4MjQ5MzIxNQ==amp;mid=2650912245amp;idx=1amp;sn=2ad61eb387c6314caac03b5a56de3f7bamp;chksm=8471ff85b3067693610fa3f520194d69b80ad7d36e78bb293da1df7105dc7dbf6cc27e538553amp;token=1206007914amp;lang=zh_

CNamp;scene=21#wechat_redirect.

［44］" 人民網.機器人寫稿首獲版權，智能寫作走向何方？［EB/OL］.［2024-08-26］.media.people.com.cn/n1/2020/0501/c40606-31695347.html.

［45］" Teixeira da Silva J A，Tsigaris P.Human-and AI-based authorship：Principles and ethics［J］.Learned Publishing，2023，36（3）：453-462.

［46］" 馮曉青，潘柏華.人工智能“創作”認定及其財產權益保護研究——兼評“首例人工智能生成內容著作權侵權案”［J］.西北大學學報（哲學社會科學版），2020，50（2）：39-52.

［47］" 岳劍波.情報學的學科地位問題［J］.情報理論與實踐，2000（1）：5-7，38.

［48］" 姜婷婷，許艷閏，傅詩婷，等.人智交互體驗研究：為人本人工智能發展注入新動力［J］.圖書情報知識，2022，39（4）：43-55.

［49］" 吳丹，劉靜.人工智能時代的算法素養：內涵剖析與能力框架構建［J］.中國圖書館學報，2022，48（6）：43-56.

［50］" 賈詩威，閆慧.算法偏見概念、哲理基礎與后果的系統回顧［J］.中國圖書館學報，2022，48（6）：57-76.

［51］" 廖秉宜，姚金銘，余夢莎.智能媒體的倫理風險與規制路徑創新［J］.中國編輯，2021（2）：29-34.

［52］" 張欣.面向產業鏈的治理：人工智能生成內容的技術機理與治理邏輯［J］.行政法學研究，2023（6）：43-60.

［53］" 王晰巍，烏吉斯古楞，劉宇桐，等.面向智能推薦的AI人機交互：研究熱點及未來機會［J］.情報學報，2023，42（4）：495-509.

［54］" Xiao B，Benbasat I.An Empirical Examination of the Influence of Biased Personalized Product Recommendations on Consumers’Decision Making Outcomes［J］.Decision Support Systems，2018，110：46-57.

［55］" Wu C，Wu F，Qi T，et al.Removing AI’s Sentiment Manipulation of Personalized News Delivery［J］.Humanities and Social Sciences Communications，2022，9（1）：1-9.

［56］" 黃锫.數字平臺算法侵害的行政法律責任論綱［J］.比較法研究，2023（6）：184-198.

［57］" 馮亞飛，孫永強.社交網絡平臺用戶共有信息披露中的集體隱私應對行為研究［J］.圖書情報工作，2023，67（11）：25-38.

［58］" OpneAI.March 20 ChatGPT Outage：Here’s what Happened［EB/OL］.［2024-08-05］.https：//openai.com/blog/march-20-chatgpt-outage？ref=rumengai.com.

［59］" Majeed A，Khan S，Hwang S O.Group Privacy：An Underrated but Worth Studying Research Problem in the Era of Artificial Intelligence and Big Data［J］.Electronics，2022，11（9）：1449.

［60］" 張珗，莊碧琛，李青宇，等.同質化困境：信息繭房概念解析與理論框架構建［J］.中國圖書館學報，2023，49（3）：107-122.

［61］" 張海濤，徐海玲，張梟慧，等.國內外圖書情報領域用戶畫像研究現狀及展望［J］.圖書情報工作，2019，63（7）：127-134.

［62］" 張安淇，李元旭.互聯網知識共享平臺信息過載效應與弱化機制——基于知乎的案例研究［J］.情報科學，2020，38（1）：24-29，41.

［63］" Matusz P J，Broadbent H，Ferrari J，et al.Multi-modal distraction：Insights from children’s limited attention［J］.Cognition，2015，136：156-165.

［64］" 王晰巍，吳彥婷，李珗琪.社交機器人驅動的信息迷霧：傳播機理、社會風險與治理路徑［J/OL］.［2024-10-14］.http：//kns.cnki.net/kcms/detail/11.1762.G3.20241023.1902.002.html.

［65］" 孫守強，李青青.基于情報感知的智慧圖書館網絡輿情服務體系構建［J］.情報科學，2023，41（7）：146-152.

［66］" Shin D，Zhong B，Biocca F A.Beyond user experience：What constitutes algorithmic experiences？［J］.International Journal of Information Management，2020，52：102061.

［67］" Klenk M.Ethics of generative AI and manipulation： a design-oriented research agenda［J］.Ethics and Information Technology，2024，26（1）：9.

［68］" Athira A B，Kumar S D M，Chacko A M.A Systematic Survey on Explainable AI applied to Fake news Detection［J］.Engineering Applications of Artificial Intelligence，2023，122：106087.

［69］" 陳素白，韋娟.自我效能感的“代價”：智能媒體用戶隱私保護行為悖論研究［J］.現代情報，2024，44（5）：58-69.

［70］" 張海汝，李勇堅.數字平臺的誘導、操縱風險與暗模式監管——流量劫持、算法俘獲與界面設計陷阱［J］.財經問題研究，2022（12）：36-45.

［71］" 尹開國.人工智能素養：提出背景、概念界定與構成要素［J］.圖書與情報，2024（3）：60-68.

［72］" Gervais D J.The Machine as Author［J］.Iowa L.Rev，2019，105：2053.

作者簡介：程卿玄，女，北京大學新媒體研究院博士研究生，研究方向：新媒體與人機傳播；梁少博，男，武漢大學信息管理學院副教授，研究方向：用戶信息行為、人機交互；許浩，男，北京大學新媒體研究院講師，研究方向：用戶信息行為、人機交互。

*本文系國家自然科學基金重大研究計劃-培育項目“人機交互視角下數據與知識雙驅動的可解釋智能決策方法研究”（項目編號：92370

112）研究成果之一。

收稿日期：2024-10-16；通訊作者：許浩（JosephXuPKU@pku.edu.cn）；責任編輯：劉婷