中國語境下的人工智能新聞倫理建構

文/蔣曉 韓鴻 蘭臻

以數據和智能化技術為基石、以人機協作為特征、以提升內容生產傳播效率為目標的智媒形態，正在成為新聞媒體的思維方式和發展方向。它在改變人們信息獲取和社交方式的同時，也在挑戰傳統媒體的生產關系和生態格局，同時帶來了一系列讓人擔憂的問題，如虛假新聞、算法偏見、責任主體及隱私安全等。這些問題要求我們在倫理意義上重新審視新聞與新聞工作者的價值和職責，并找到人工智能新聞應用的合理框架。新聞業一直是媒體倫理中最早也是最完善的領域之一。新聞業的技術發展塑造了道德和道德訴求的話語，以及新聞業的社會責任。隨著人工智能技術進入新聞制作領域，傳統的媒體倫理受到了計算機倫理和信息倫理的影響。雖然來自國內外多個領域的學者對數據的來源和濫用、數字霸權、虛假新聞、算法權威、客觀性、透明度和問責制等問題進行了討論，但人工智能新聞的倫理框架尚未被分析和建構。目前所見的多是些零星的、局部的研究。

本文關注和討論的問題是如何在中國語境和人工智能技術的二維坐標系中構建新聞倫理。一方面針對人工智能新聞應用引發的新議題，從倫理基石、基本原則、政策制定、責任主體、道德規范、技術路徑等方面搭建人工智能新聞倫理的基本框架；另一方面將重點放在中國話語的建構上，針對我國特有的政治意識形態、社會發展階段、價值觀念及媒介體制，分析中國方案的特殊性和差異性。

倫理基石

倫理道德作為一種具有滲透力的規范力，為個人行為和組織政策劃定邊界。在中西方倫理學的研究中有很多學派，它們的不同之處不僅在于它們提供的答案不同，而且在于它們提出的關于如何理解世界以及如何應對道德挑戰的基本問題的方式不同。

在西方，三種主要的道德理論有助于概括新聞倫理中的道德問題，特別是在處理算法新聞時。首先，有基于后果的倫理理論，如邊沁的功利主義，以實際功效或利益最大化作為道德標準。功利主義的影響在計算機科學、經濟學和決策制定的許多領域都能感受到，特別是以效用主義為基礎的博弈論在人工智能中經常被用于理解個體或群體的相互作用，為算法的倫理分析和目標設計提供研究視角。其次，康德的基于義務的道義論，認為人的行為必須遵照某種道德原則或按照某種正當性去行為。該理論側重道德行為動機的“善”，訴諸一定的行為規則和標準。潛在的問題是，規則如何應用于決策？正確的規則是什么？后一個問題涉及機制設計，即，為了達到目標，我們應該制定什么樣的規則？最后，亞里士多德的美德倫理學，關注的是個體和局部，圍繞培養習慣和性情來組織，這些習慣和性情有助于一個人實現自身的目標。該理論為新聞參與者的職業道德、社會責任、媒介素養提供支撐。

中國有關倫理道德的思想源遠流長。在2000多年的歷史進程中，不同的思想流派提出了各自的倫理觀點。其中，有儒家宣揚的“中庸之道”，認為維持事物穩定發展的最好方法是采用中庸的方式。即在認識事物時，要求通過研究這個事物在可能的發展趨勢中，在其不及和過頭兩個極端之間找出適中合宜的地方。這種中庸調和的思想，要求不偏不倚，有時又全面而靈活，為人工智能發展戰略和政策制定提供方法論指引。有墨家提倡的“兼愛”思想，主張“兼相愛，交相利”，即人人互愛互利，注重從經驗中的實際效果判斷行為的善惡，以利人作為具體內容。這是對人工智能技術施加倫理規范的目的和依據。此外，主張“義以為上”“先義后利”，要求“見利思義”。“義”是指國家和民族的集體利益，“利”是指個人利益。強調社會利益高于個人利益。今天，社會主義核心價值觀是中華民族傳統美德的繼承，倡導富強、民主、文明、和諧，倡導自由、平等、公正、法治，倡導愛國、敬業、誠信、友善。

相較而言，西方國家的新聞理論包括新聞倫理和法規是建立在個人主義、自由主義、歐洲中心和啟蒙思想基礎上的。而中國傳統倫理思想，則強調建立一種和諧協調的人倫關系，強調個體對整體的道德義務。這是一種植根于社會文化的群體精神，進而擴展到整個民族和國家的集體主義精神。任何一種倫理理論都有它的力量和限制，這種限制體現在不同的社會環境中的不適用性。我們在借鑒西方經典倫理思想的同時，應立足于本土和民族的社會現實，注入自身獨特的品格。特別是在中國社會轉型期，面對意識形態領域思想多元、輿論生態復雜多變的嚴峻形勢，信息領域倫理道德具有特殊的內在緊張和外在沖突。中國人工智能新聞倫理的構建，應該在堅持馬克思主義新聞觀，秉持中國傳統倫理學中的合理內核情況下，吸收發展新聞學中的思想和訴求，以促進國家和社會的整體發展為優先目標。

構建原則

1.平衡工具理性和價值理性。人類技術的運用和發展的目的應是推動社會的整體進步，實現人類物質和精神的整體發展。在新聞實踐層面，雖然智能技術顯著提高了新聞制作與傳播的效率，但效率并不是新聞業追求的唯一目標，“諸如對新聞真實性的追求，對美德的堅守，對問題的質疑等，這些精神才是新聞領域的基礎價值判斷，更是符合人類共性的價值理性”。因此，在人工智能的新聞倫理構建中，需要平衡價值理性和工具理性的關系，既要最大程度發揮人工智能新聞實踐的應用潛力，又要秉承新聞專業精神的核心觀念。

2.注重普適性和特殊性。人工智能作為推動全球傳媒產業轉型變革中的一個底層技術，在西方發達國家和中國新聞媒體中的應用具有同步性，其基于技術層面的實踐倫理具有通約性。但是新聞學的理論和實踐又具有較強的意識形態屬性。一方面新聞行業具有本身固有的專業倫理，另一方面又深植于不同國家的特殊政治、經濟、社會、文化環境中，不同的政治意識形態、價值觀念、媒介體制，不同的新聞運作方式，導致不同國家新聞倫理存在較大差異。我國新聞傳媒具有意識形態和產業的雙重屬性，受到意識形態工作規律、新聞傳播規律、市場運作規律的共同制約。在構建中國人工智能新聞倫理過程中，既要建基于人類的基本價值觀和道德原則，為業界認可；又要具有鮮明中國特色，將黨性原則、服務人民大眾、以人為本等原則納入其中，做到恰當的平衡。

3.避免柯林格里奇悖論（Collingridge dilemma）。所謂柯林格里奇悖論是指：科學監管的實現有待于技術的發展，以便賦予社會規劃者足夠的知識。然而，當監管者獲得必要的知識時，技術已經得到鞏固，采取行動可能為時已晚。目前人工智能技術快速迭代，難以準確預測下一步技術發展和突破方向。其可能產生的倫理道德問題和社會風險也較難提前預測，導致在人工智能開發過程中難以提前制定合理的規范和監管措施。良好的監管將有效增強技術的安全感和控制力，規避新風險。但糟糕的監管（包括監管不足、監管過度和低能監管）則有可能阻礙人工智能新聞實踐的探索。因此，為避免柯林格里奇悖論，需盡可能將對技術評估的過程和時間前置。

4.避免膝跳反射調節（Knee-jerk regulation）。即對人工智能新聞應用中產生的風險和問題采取自然反射式的低效過度調節，導致人工智能新聞應用的發展受到阻礙。應該堅持道德體系構建的“最少化”原則。即道德條文不是越多越好，而是越少越好。避免對規約對象束縛過多而無所作為。

構建路徑

人工智能新聞倫理屬于技術倫理學的分支，因此本文借鑒了技術倫理學的兩種研究視角——外在主義進路（externalism）和內在主義進路（internalism），對人工智能新聞倫理的構建提出建議。

1.外在主義進路。技術倫理學自誕生以來一直為外在主義進路所主導，主要把道德視為技術活動之外的一種規范力量。其基本模式是對技術的后果進行倫理的反思和批判，倫理的職責是外在的監督，關注的焦點是下游的應用。遵循這種研究進路，在構建人工智能新聞倫理框架時，關注的內容主要為新聞工作者的行為準則、倫理責任及法規監管等問題。

（1）制定政策框架。美國、英國、歐洲、日本等國家已經在學界、業界、政府各個層面針對人工智能的發展問題展開了廣泛的討論，并形成了詳細的政策框架和研究報告。就當前的政策框架而言，雖然各個國家的政策著力點不同，但其共同的政策目標都更傾斜于推動技術創新、提升國家競爭力，其政策選擇也更傾向于遵循“無需批準式（permissionless）”的監管邏輯，即對人工智能的發展及其所引發的挑戰持普遍的包容與開放態度。同樣，在人工智能發展與應用的關鍵時期，我國的政策制定也應該更多地支持推動技術的創新和發展，以保證國家競爭力的提升。然而，要想最大程度發揮人工智能的應用潛力，并將潛在的威脅和風險最小化，需要在發展與監管之間找到平衡，實現激勵發展與合理規制的協調。因為技術發展的速度和復雜性遠遠超過政策發展的速度，監管不足、監管過度和低效監管都將抑制技術的發展、創新和競爭力。為避免“膝跳反射調節”與“柯林格里奇悖論”，建議聯合決策者、技術專家、研究人員和業界工作者共同致力于人工智能政策框架和道德體系的構建。一方面預判和跟蹤人工智能應用的風險和挑戰，密切監控和回應來自產業界和學術界的反饋，一方面針對性地協調產業政策、創新政策、社會政策與相關倫理法規。

（2）成立倫理監督委員會。國外在學界、業界和政府各個層次成立了人工智能倫理監督委員會或研究中心，研究人工智能應用的倫理學問題，探索人工智能技術的倫理規范路徑，并圍繞技術和科研政策問題制定相關倫理指導守則。在我國，尚未形成具有影響力的人工智能研究中心或研究報告。但就新聞傳媒而言，2015年底，中國記協新聞道德委員會成立。截至目前，除個別省份外，全國和省一級新聞道德委員會架構初步形成。因此，本文建議我國由科技部牽頭，聯合國家互聯網信息辦公室、人大、中國記協新聞道德委員會、學界和行業協會組建人工智能新聞倫理監督委員會，共同探索建立行業自律、外部監督的長效機制。對人工智能新聞倫理規范、法規進行廣泛的討論和起草，對新聞機構及新聞從業人員違反職業道德行為進行監督，對建立健全人工智能新聞法律法規和行業管理制度提出建議，組織開展媒體社會責任報告工作、組織開展人工智能新聞職業道德培訓和理論研究，每年發布倫理研究報告。

（3）明確倫理主體和主體責任。隨著人工智能技術的應用，新聞制作中倫理的主體和責任發生了重大轉移。記者個人不再是主要的道德主體，因為其他行為者，無論是新聞工作者還是非新聞工作者，都參與了不同層次的新聞制作，如：媒體/技術機構、算法/機器人、程序員/項目經理、數據/服務提供商甚至受眾。因此，個人的重要性正在下降，而媒體/技術機構和媒體系統作為倫理主體的重要性正在上升，參與其中的每一個主體應分別承擔不同層級的對應責任。首先，在組織領域，機構是導致技術倫理困境的制度性主體。中國媒體機構的社會責任應優先于其權利和自由，媒體必須把國家的發展目標放在重要的位置上，以促進國家政治、經濟、社會、文化的建設。其次，在專業領域，新聞從業者的職業倫理包括個人倫理和職責倫理。前者包括個人的品德結構、道德認識（如全心全意為人民服務，實事求是）、道德情感、道德意志，以及道德能力，即具有“明顯推理”（explicit reasoning）能力和面臨倫理困境的“隱含推理”（implicit reasoning）能力。后者包括真相的深度闡釋能力、“人機協同”能力、信息環境把關能力及專業內容把關能力。最后，在社會層面，公眾責任是倫理構建過程中的重要組成。

（4）制定倫理規范準則。需要在國家的宏觀政策框架下，由倫理監督委員會組織，聯合決策者、技術專家、研究人員和媒體工作者共同制定一套具有技術操控性和價值合理性的規范體系。這方面國外的實踐較為成熟。2017ASILOMAR會議“阿西洛馬人工智能原則”，從安全性、故障透明、審判透明、個人隱私、設計者職責、價值觀一致、自由、共享利益、共享繁榮、人類控制權、非顛覆、避免人工智能軍備競賽、維護共同利益等方面，談及了人工智能應遵循的道德標準、價值觀念及相關的基本規則。借鑒國內外針對人工智能倫理原則的探討，結合我國傳統新聞倫理和社會主義核心價值觀，我們認為人工智能新聞倫理的基本原則應包括：自由、真實、客觀、責任、仁愛、共享，并建議在此基礎上，對《中國新聞工作者職業道德準則》進行修改。

2.內在主義進路。內在主義進路考察如何在技術設計中嵌入道德要素，對技術使用前的設計、開發、制造過程進行哲學、倫理學分析；把倫理的職責從外在的監督轉變為內在的介入；把關注的焦點從下游的應用轉移到上游的設計。根據內在主義研究視角，我們更多從數據和算法的方面考慮道德嵌入，以及如何以技術的手段來消除技術帶來的社會問題。

（1）數據治理。一是數據的規范性。通過政府、企業、中介組織、個人等多主體的良好互動，綜合運用互聯網、物聯網等收集和積累海量數據；開發新的框架和機制，如數據可移植性和數據信任，形成統一的數據格式和應用接口規范。二是數據的共享機制。應建立合理的激勵、開放、共享、分配等機制以促進數據共享，讓數據發揮價值；建立數據保護立法，防止擁有大量數據的大公司變得過于強大。三是數據的使用邊界。應從設置數據開放等級制度和建立健全個人隱私保護制度等方面，不斷完善人工智能發展中的隱私保護制度。四是數據的使用時限。除了出于科學研究、檔案管理、公共安全或其他特殊的既非盈利也不面向一般公眾的目的，個人和企業不應該存儲、分析、使用和傳播超出一定年限的數據。

（2）算法治理。一是算法的透明公開。新聞機構應采用完全透明的署名策略，向受眾告知算法新聞的數據源、算法等特殊信息。可分情況采取不同的署名策略。二是算法的目標優化。通過價值敏感設計，在整個設計過程中以有原則和全面的方式考慮人類價值和社會核心價值，而不能僅僅以點擊率或推薦最大化作為算法的目標。

（3）技術工具。技術產生的問題也可以通過技術本身的優勢來解決。我們需要把對技術的功能性/工具性運用轉變為在倫理法規實施過程中發揮設計/構建的本體性作用，納入對人工智能新聞的倫理治理體系建設中。未來今日研究所（Future Today Institute）在《2018年影響傳媒業的新科技趨勢報告》中預測了影響傳媒業的75個重要技術，其中許多技術既可影響新聞生產又可用于風險治理。如：新聞業區塊鏈（Blockchain For Journalism）可以用來編碼和核實內容，通過構建新聞公共賬戶——一個可以交換可信新聞、篩出假新聞的網絡系統，保證信源、圖像、視頻的真實性。