算法新聞的倫理審視

不斷發展的人工智能正推動著諸多領域的革新，也帶來新聞傳播的范式革命。隨著算法、大數據、傳感器、云儲存等實踐的不斷成熟，算法新聞優勢凸顯，成為人工智能時代的新聞新寵。然而，新技術的出現引發權利的變革，也必定會帶來新的問題。算法新聞所涉及的倫理問題，正是當下亟待關注并需提出有效預案的重要議題。

算法新聞的緣起與現狀

算法新聞又稱機器人新聞、數據新聞、自動化新聞、計算新聞，是指建立在算法、人工智能、程序平臺以及自然語言衍生技術基礎上的新型新聞生產模式，其主要特征是新聞的文字及部分視覺內容可由算法直接自動生成。

（一）發展背景

算法新聞的“計算范式”可追溯到20世紀60年代美國的精確新聞報道。相較于傳統調查新聞，精確新聞的改變在于新聞調查不再是基于主觀意識將定量分析與調查抽樣結合，而是秉承“計算主義”的理念，利用計算機采集、處理數據，融入調查、實驗、內容分析等社會科學研究方法，將新聞傳播學和計算機科學結合。這一理念隨著計算機科學技術的不斷發展而更加突出。進入21世紀，人工智能、算法模型、大數據和云儲存平臺不斷成熟，秉持“計算主義”范式的算法新聞迎來更廣闊的發展空間，在新聞傳播領域逐漸得到廣泛應用。美國各大傳媒巨頭紛紛推出自己的算法新聞作品，諸多科技公司也專注于算法新聞領域里的模型開發。在新聞傳播領域，算法新聞正引領著一輪技術、范式和權利的革命。

（二）技術基礎

人工智能之所以“智能”，首先在于其算法，算法模型的計算能力決定著其智能的程度；其次在于大數據，大數據的多元、豐富、匯聚為算法提供充足的原始材料。多元匯聚的大數據樣本容量大、種類多，通過云儲存構成超級數據庫，為新聞作品的生產提供了內容和信息。現階段的超級算法通過自身的算法模型處理數據，其過程完全不受人工干預，因而有學者認為這是完全沒有主觀偏向操作的新聞生產。

數據挖掘是算法新聞為用戶提供不同風格產品的依據。喻國明認為，數據挖掘在概念的層面上主要分為三個階段：數據源數據的收集、對于數據源數據的處理以及最終的有效數據的表示。通過數據抓取，對用戶上網習慣與行為的分析，對用戶上網時環境特征的記錄，以及對用戶在社交媒體上交往的社會圈層、表現出的興趣和需求，通過算法模型來定位用戶偏好。

數據源數據處理，主要是根據機構的算法模型對抓取到的數據進行分析計算。祝建華認為，數據處理涉及存儲、提取和統計分析，目前的大數據處理能力還處在初級階段。理想的數據儲存建立在云儲存技術之上，數據處理的速度與效率與此有關，初期的儲存能力還需要不斷提升。盡管如此，數據的提取與分析卻已經展現出內在優勢，在體育新聞、財經新聞等一些與數據相關度高的領域都具有良好的表現。

（三）發展現狀

當前，歐美各大主流新聞機構均建立起一定程度的智能平臺，算法新聞正作為一股新生勢力推動著人工智能在新聞傳播領域的實踐。國內則有專門的技術公司通過算法模型建立起智能化的新聞匯聚與頒發平臺。人工智能的不斷升級促進了算法新聞在各個方面的拓展：算法新聞正從體育新聞、財經新聞這些與數字關聯大的領域向更多更廣的其他新聞領域發展，實現多類型全方位的新聞生產；算法新聞能根據用戶的偏好與習慣生產出個性化的新聞風格和口味，實現定制化新聞生產；算法新聞不再是科技想象，而是年產上億條規模化新聞生產的方式；早期的算法新聞可讀性差，而目前算法新聞在某些領域已實現人機無差，十分接近高水平記者的寫作能力；算法新聞也被賦予一定“新聞敏感”“新聞洞察力”的期望，通過算法實現對除數字以外新聞事件的敏銳思考。通過語音識別、傳感技術和交互技術等一系列技術的進步，算法新聞有望生產出更加富有人機交互體驗的新聞作品。

算法新聞的倫理問題及研究進展

算法新聞作為人工智能在新聞傳播行業的衍生，法律條文還未能及時作出規制，行業規范也很不健全，拋開現階段技術本身的問題，單就倫理層面來講，面臨著隱私權侵犯、算法黑箱、價值偏向、缺乏人文關懷與社會責任感，以及未來強人工智能階段所涉及的機器倫理等問題。

（一）算法新聞涉及的隱私問題

算法新聞運行的技術基礎在于對大數據中新聞信息的抓取與計算分析，而大數據本身是通過匯集存儲在數據庫里的每一個數據生成。數據庫保留的這些數據涉及每位用戶上網信息，一方面這些信息為算法新聞的生產提供了原始材料、為推送鎖定了目標群體，另一方面這些信息卻也隱藏著侵犯公民個人隱私的風險。

互聯網巨頭企業往往擁有著龐大的用戶數量，掌控著用戶上網的龐大行為數據，以及由這些數據匯聚起來的可供算法進行分析得出的更多信息。每位用戶在使用網絡工具時貢獻著數據，也暴露著自己的個人信息，暴露在數據抓取的模式之下：一切行為、心理、習慣、喜好都可被毫無保留地窺見。雖然對隱私權保護的訴求一直被呼吁，國家權力機關、組織和機構也一直致力于對這些企業進行監督，但丑聞依然不斷爆出。與此同時，盡管這些企業將部分數據開放給了公眾，但真正的目的是將用戶的資料、活動和 UGC內容轉化為公司資產，實現個性化的廣告推送和精準營銷。

個人隱私在不被告知的情況下被記錄，這與公民隱私訴求是相悖的，大數據的數據抓取與個人信息隱私權的碰撞在不斷顯現。從法律層面上說，不斷被關注的隱私權是公民基本合法權利中重要的一項，許多國家和地區不斷通過加強對“個人信息保護”相關法條的頒布、修訂和實施，試圖將隱私權的邊界加以擴展。從單純的“私密領域”到對權力主體的“信息自主”，尤其是近年來對“被遺忘權”的關注和討論，隱私保護的議題始終是大數據倫理問題的重點。盡管隱私保護備受重視，但究竟隱私信息包括哪些信息、哪些信息可以被公開、如何被公開，以及公共信息中含有的公民個人信息是否屬于隱私，卻頗具爭議。

大數據時代，以上規制很難實現對公民個人隱私信息的保護。究其原因，從技術層面出發，大數據技術只需要抓取用戶的碎片化信息就可得到用戶“全貌”。據卡內基梅隆大學隱私專家的研究：“即使沒有姓名、沒有社會安全號，只要通過性別、生日和郵編3個數據項，數據挖掘的技術就能夠成功地識別全美87%的人口。”因此，大數據時代的隱私權不再是傳統隱私權的法律條文可規制的，只要用戶上網行為被記錄，隱私就存在被算法計算分析后暴露的風險。基于此，各國近年來修訂相關法條、各機構組織出臺各種相關規范，力圖為人工智能時代劃清隱私權的倫理底線，但由于技術實踐與倫理規制之間仍有許多模糊的邊界需要被明確，對數據公開和數據保護的程度、對有數據抓取行為的企業的行業監督規范，以及用戶隱私權被侵犯后的維權，都是學界和業界仍需努力解決的問題。

（二）算法技術所涉及的倫理問題

算法新聞的出現，起初被認為有利于捍衛新聞專業主義，因為其生產者（算法模型）和消費者之間不存在利益糾葛，采集數據的過程是由算法在數據庫中抓取現有資料，不帶記者的主觀偏見，而且分析計算也是由算法完成，不會受到記者道德水準和價值取向的影響。

然而，越來越多的學者質疑算法過程的不透明而導致的主觀性或許更甚于記者。記者會受到職業素養和職業道德的約束，每次署名都意味著對自己報道內容的真實性、客觀性負責，而算法新聞的生成，無法知曉其采編的具體數據來源，“黑箱”的存在也意味著不清楚算法在其中分析的邏輯、計算的模型和運行的路徑。從技術上看，算法新聞通過抓取的數據來實現內容分析，如果抓取的數據本身有差錯，得出并推送的不確切的新聞是無法被算法自我糾偏的，并且讀者也無法對“算法模型”追責。同時，算法背后的機構可通過算法模型控制讀者能讀到什么內容、以什么方式讀到這些內容，存在有償新聞推送的可能。喻國明等學者大膽質疑：算法所屬機構是否會操縱算法權威，通過算法新聞的推送讓民眾看到其所屬機構想讓大眾看到的新聞內容，從而進行議程設置、達成社會共識。

算法不透明、其所屬機構責任不明確，是現階段算法技術存在的倫理漏洞。學界有人提出，是否應當公開算法模型，使其在更加透明的機制下運行？算法新聞行業人士卻強調，透明的算法模型意味著信息高風險的暴露，也存在著更多被篡改、攻擊的可能。筆者認為，更理性的聲音是對算法模型多元化的追求，并考慮算法設計時應寫入“道德”代碼，加入語境資料、預置糾偏機制，以技術的方式解決技術的問題。與此同時，除了國家權力機關對相關行業進行管制，行業技術專家對行業的監督以及行業的自我規范尤為重要。現階段算法新聞的所有行為并不具備自我意識，而由其所屬的機構幕后操控，因此當發生侵權行為時，算法所屬機構應當承擔起責任，建立一個可追責的安全算法時代。

（三）算法價值偏向所涉及的倫理問題

如果說算法技術所涉及的倫理漏洞可通過技術的不斷升級、技術理性的不斷強化而得到修補，那么算法新聞由于價值偏向所導致的倫理問題更需要全社會加以關注。

大數據時代信息量龐大、數據類型眾多、碎片化嚴重，用戶不可能自己對信息進行篩選，個性化推送成為用戶獲得信息最有效的渠道和方式。在個性化推送的過程中，算法模型根據用戶上網行為習慣推送與其價值取向相符的內容，選擇與用戶興趣愛好相關的信息，甚至采用用戶偏好的風格模型編輯新聞。長此以往，用戶所獲得的信息都是與自己既有價值觀一致的，個人的思想和觀念會進一步被固化和封閉，同一價值取向的群體會更加彼此認同，而不同價值取向的群體會更加彼此抵觸，用凱斯·桑斯坦的話來說，每個用戶會被與自己價值取向相同的訊息所牢牢包裹，導致“信息繭房”的出現。“信息繭房”會帶來眾多共意群體，但群體與群體之間卻未必能夠彼此接納，這對公共領域的形成、社會共識的達成、公共決策的制定都極其不利。

算法分析行為本身雖然看起來公正客觀，沒有人為偏向，但實際上由于算法模型本身的設定，以及數據來源的問題，也許輸入的原始數據本身就帶有某種偏向，數據的可信度、完整性都會影響到數據被使用后得出的結論或結果。加上前文所提及的算法黑箱，在公眾無法清楚計算機運行邏輯的情況下，自然也就不會知道算法對數據的分析究竟是否真的能做到設想中的客觀公正。算法新聞的推送同樣帶有一定程度的“歧視”，看似個性化的信息定制實際上早已注定信息獲得的不對稱。更應注意的是，算法新聞的推送會在各大新聞機構和社交網絡中重復進行，偏向會在無法自我糾偏的情況下迅速蔓延。加之算法模型看似中立，其數據轉化自然語言衍生模板卻仍是人類構建，表達上是否會有所偏向卻尚未可知。

有論者認為，算法新聞似乎使記者和新聞機構將權利讓渡給了更具機器理性的模型和代碼，民眾試圖能得到更多的信息自由和社會公平。然而，這只不過是一個美好的愿景。用博伊德和克勞福德的話來說：“大數據被視為令人不安的‘獨裁者’，諸如侵犯隱私、減少公民自由、增加國家和公司的控制能力等。”馬修辛德曼也在《數字民主的迷失》一書中強調公共訊息的重要性，認為個性化的算法推薦實際上剝奪了公民傳播的自由。

現階段的算法沒有自我意識，在其背后掌握數據的組織和機構才是真正掌握更多權力的主體，數據鴻溝的出現使得更多的數據被更少的組織機構所掌控，數據的私有化、商業化使算法新聞成為為資本主義服務的工具，并非實現新聞理想、追求公平正義的武器。從現實來看，算法新聞要做到公民自由、社會公正、觀點客觀還有很長一段路要走。

對算法新聞未來及其倫理的展望

現階段的人工智能還處于初級階段，算法無法對抓取的數據進行自主思考，機器不具自我意識，更談不上對人類社會的人文關懷。作為人類社會意識交互的重要環節，新聞傳播業如果只是單純的信息傳播而沒有對社會的關懷，那么所傳播內容的價值或許要大打折扣。弱人工智能時代的算法，還處于完成人類所布置的學習和任務的階段，即便給予的數據和模型不具人文關懷，甚至違反人道主義精神，機器仍然會按照指令完成輸出和推送。當社交媒體假新聞、謠言出現，負面情緒彌散時，機器抓取數據后反饋的報道只會加深謠言和不良情緒的程度。現階段的算法無法承擔起作為新聞媒體對社會應有的責任感，因此作為用戶就更應該對接收到的訊息保持理性和反思，全社會都應參與到提高自身的算法素養的行動中來。

盡管強人工智能時代還未到來，但其所涉及的算法倫理問題卻已在學界引起關注和討論。強人工智能不再是單純被動的接受和學習，再去執行指令，而是具備自我“意識”，通過自我學習而實現獨立思考。這就意味著，算法也可能會有其獨立的“人格”。屆時，算法黑箱那摸不透的邏輯會讓人類無法掌控機器人傳播的訊息，而大量的用戶數據會被保留在云端為機器人所用，強人工智能帶來的算法新聞的倫理風險更加巨大。

盡管現階段對于算法新聞本身出臺的規范還比較少，然而關于人工智能和機器人倫理的規范和標準卻已在各發達國家紛紛出臺：早在1998年，日本就制定了《機器人法律十原則》；2012年，韓國頒布《機器人倫理憲章》；2012年，隸屬英國政府的“工程與物質科學研究委員會”提出具有法律和倫理雙重規范性的“機器人原則”；2016年9月，“英國標準協會”頒布《機器人與機器人系統設計與應用倫理指南（BS8611）》；2016年，歐盟啟動“機器人法”項目，以應對“人機共生社會”所將面臨的法律及倫理挑戰。尤其值得關注的是，2017年1月在阿西洛馬召開的“有益的人工智能”會議上提出的“阿西洛馬人工智能原則”，強調應以安全、透明、負責、可解釋、為人類做貢獻和多數人受益等方式開發人工智能。這樣的倫理標準對于現階段以及未來人工智能時代的算法新聞也是同樣適用的。

算法新聞逐漸成為學界和業界關注的焦點，樂觀之余更應對新技術保持謹慎。初級階段的人工智能算法技術還不成熟，如何倡導數字民主以避免“信息繭房”以及相應的群體極化，如何避免其背后的機構通過掌握的數據權利進行民意操縱，如何避免算法歧視真正實現社會公平和公民信息自由，都是值得關注的。強人工時代雖然還未到來，對其關注和思考卻應有預見性，增強全社會公民的社會責任感，安全、透明、負責，以全人類繁榮發展為一致目標的倫理準則，值得任何時期的算法新聞去遵守與追求。