哈佛大學肯尼迪政治學院：打擊假新聞的研究議程與行動方針(編譯)

方師師譯

（上海社會科學院新聞研究所，上海 徐匯 200235）

哈佛大學肯尼迪政治學院：打擊假新聞的研究議程與行動方針(編譯)

方師師譯

（上海社會科學院新聞研究所，上海 徐匯 200235）

2017年5月，哈佛大學肯尼迪政治學院媒介、政治與公共政策中心發布《打擊假新聞：研究議程與行動方針》的研究報告。該報告分為四個部分：第一部分描述了當前媒體生態系統中錯誤信息的傳播狀態；第二部分概覽了關于假新聞的心理學與社會系統傳播的研究；第三部分討論了學術界針對假新聞可以采取的三種行動方針；最后預測了將來可能會提高我們處理錯誤信息能力的研究領域。

假新聞；錯誤信息；研究；行動

2017年5月，哈佛大學肯尼迪政治學院媒介政治與公共政策中心（Shorenstein Center on Media, Politics and Public Policy）、民主治理與創新中心（Ash Center for Democratic Governance and Innovation），東北大學NU實驗室（NULab for texts, Maps and Networks）、網絡科學研究所（Network Science Institute）聯合發布了《打擊假新聞：研究議程與行動方針》（Combating Fake News： An Agenda for Research and Action）研究報告。該報告主要基于2017年2月由哈佛大學和東北大學聯合籌備的研討會成果，集中體現了當前美國主流學界、媒體、研究機構對于假新聞問題的前沿研究、核心觀點和未來方向。參加此次會議的研討陣容堪稱豪華，一批耳熟能詳且卓有影響力的學者、記者、官員以及相關互聯網公司負責人均出現在名單當中。具體如下：

尤查?本克勒（Yochai Benkler，哈佛大學），亞當?貝林斯基（Adam Berinsky，麻省理工），海倫?博登（Helen Boaden，BBC），凱瑟琳?布朗（Katherine Brown，對外關系委員會），凱利?格林希爾（Kelly Greenhill，塔夫茨大學與哈佛大學），大衛?拉茲（David Lazer，東北大學），菲利波?梅切爾（Filippo Menczer，印第安納大學），米里亞姆?梅茨格（Miriam Metzger，加州圣巴巴拉分校），布蘭登?尼漢（Brendan Nyhan，達特茅斯學院），埃利?帕理澤（Eli Pariser，UpWorthy網站），戈登?彭尼科克（Gordon Pennycook，耶魯大學），洛瑞?羅伯遜（Lori Robertson ，FactCheck.org網站），大衛?羅斯柴爾德（David Rothschild，微軟研究院），邁克爾?舒德森（Michael Schudson，哥倫比亞大學），亞當?夏普（Adam Sharp，前推特經理），史蒂文?斯洛曼（Steven Sloman ，布朗大學），凱斯?桑斯坦（Cass Sunstein，哈佛大學），艾米麗?索爾森（Emily Thorson，波士頓學院）和鄧肯?沃茨（Duncan Watts，微軟研究院）。

媒介生態系統最近的變化暴露出民主社會抵抗假新聞的脆弱性和公眾遏制假新聞能力的有限性，從而引發全社會的擔憂。假新聞作為一種錯誤信息（misinformation）在當今媒介生態系統中，特別是在社交媒體平臺上快速傳播。大量的在線信息使得個體嚴重依賴的啟發式（heuristic）和社交性的線索來確定信息的可信性，形塑自身信念，而這些信念反過來又極難糾正或改變。相對而言，那些數量雖不多，但是在社交媒體上不斷變化并生產錯誤信息的消息源，既是對實時檢測算法的挑戰，也為更有針對性的社會技術干預帶來希望。

第一節 錯誤信息的傳播狀態

方師師 (1984-)，女，上海社會科學院新聞研究所。新聞學博士，社會學博士后，助理研究員，上海社會科學院互聯網研究中心副主任。

越來越多的研究表明，在2016年美國大選前的政治話語中假消息是普遍存在的。初步的報告表明，在社交媒體上，一些被最廣泛分享的故事都是假的；其他調查結果表明，美國人從難以置信和可疑的來源分享的信息量與來自單個主流新聞源的信息量（如《紐約時報》）相當。

目前的社交媒體系統為錯誤信息的傳播提供了沃土，這對民主社會中的政治辯論特別危險。社交媒體平臺為任何想要吸引追隨者的個體都提供了擴音器。這種新的權力結構使少數擁有技術、社會或政治知識的個人能夠分發大量虛假信息或“假新聞”。社交媒體上錯誤信息特別強勢和危險主要有兩個原因：有豐富的來源和建構“回音室”。由于信源的激增，帶有不可靠社會線索的信息急劇增加，評估社交媒體上信息可信度的挑戰越來越大。“人以類聚”的傾向導致形成“回音室”（echo chamber）和“過濾泡”(filter bubble)，加劇了社會的極化。由于沒有相互競爭的信息來對抗孤立的社會團體中虛偽或普遍的共識，最終結果就是共享現實（shared reality）的缺乏，造成危險的社會分裂。在其他險境中，這種情況可能使帶有歧視性的和煽動性的思想進入公共話語，被視為事實。而一旦嵌入，這些想法可以反過來被用于制造替罪羊，使偏見正常化，使“咱們跟他們不是一伙”（us-versus-them）的心態更加強化，甚至在極端的情況下會催化暴力和論證其是正當的。

對于社交媒體（比如臉書）的角色，一個類似的或者更大擔憂在于，它們可以遠遠超出黨派意識形態的范圍抵達那些更加政治疏離和碎片化的公眾，這些人更難抵御與其政治觀點相左的意見，更容易被具有意識形態傾向的新聞說服。這可能不會發生在意志堅定的黨員身上，而對獨立人士和政治動機較差的美國人來說可能影響很大。

經由新技術手段擴大的錯誤信息對全球開放社會構成了威脅。來自俄羅斯的宣傳運動公然影響選舉，破壞自由民主國家的穩定，而政治光譜中的極右勢力正在尋求對我們更大的控制。而即便在今天，雖然技術提出了新的挑戰，但假新聞這一現象根本就不是新鮮事，赤裸裸地訴諸公眾的恐懼和企圖利用信息行動來影響政治的結果也并不新奇。

第二節 假新聞的社會基礎

1.假新聞的心理學

我們大多數人都不會親眼目睹新聞事件，也不會直接接觸政治工作。相反我們依靠別人的描述，我們聲稱所知道的大部分內容實際上都是被他人獲取、存儲、傳輸的分布式知識。同樣，我們大部分的決策制定都不是源于個人理性，而是共享的群體敘述。因此，我們對信息和錯誤信息的接受度并非主要依賴于我們對理性評估的期待，而更多地取決于啟發式的和社交性過程。

首先，信源的可信度深刻地影響著信息的社會解釋。人們信任那些知名或熟悉的信息來源，以及與其世界觀相一致來源的信息。第二，人類是有偏見的信息尋求者。我們傾向于接受確認我們現有觀點的信息。這些屬性結合起來使人們對政治議題進行不對稱的更新。當信息來源被認為是可信的或信息確認了先前的觀點時，個人傾向于對其不加批判地接受。而當信息不熟悉或來自相反來源時，可能會被忽略。

因此，糾正錯誤信息并不一定會改變人們的信仰。事實上，為人們提供具有挑戰性的信息可能會引發“逆火效應”（backfire），進一步鞏固人們的初始信念。而即使一個個體相信了修正的信息，錯誤信息也還會持續傳播下去。這一點的重要意義在于，即使是在駁斥它的情況下，任何對錯誤信息的重復都有可能是有害的。這種持續性是由于我們認知過程中的熟悉度和流暢性偏差：個體聽到一個故事越多，對它越熟悉，就越有可能相信它是真實的。因此，接觸錯誤信息可能會產生長期影響，而修正只是暫時的。

影響信息接收的另一個要素是社會壓力。人們大多數的行為源于社會信號和聲譽保護。因此，分享一條被同伴認為是虛假的消息，是令人尷尬的真正威脅。針對這種威脅，社交媒體上開發的事實核查工具提供了一個路徑，比如臉書正在開發的彈出式警告。這種工具似乎減少了對有爭議的文章的分享，但它不可能對人們的信仰產生持久的效應。這些工具提供了一種機制來表明一個人正在向其同伴分享假消息，而另外一種干預機會則是轉移同伴的線上消費。鼓勵與不相類似的人進行交流可能是減少政治問題兩極分化和事實扭曲的有效途徑。

2.假新聞如何蔓延

假新聞通過網站、社交媒體和機器人組成的復雜生態系統從信源抵達消費者。社交媒體的參與功能，包括易于分享和重新連接社交關系，使它們容易受到高度活躍的和有黨派傾向人員（和機器人）的操縱，這些人員（和機器人）成為強大的錯誤信息來源。

在社交媒體上觀察到的極化和分離結構之所以不可避免，是因為網絡共享的兩個基本機制：社會影響力和好友刪除（unfriending）。回音室效應的結果是高度同質化的，為選擇性接觸和偏向性確認創造了理想的條件。它們極為密集和高度匯聚，使得消息可以非常有效地傳播，并且每個用戶都接收到許多源頭相同的消息。惡作劇型的信息在這些隔離的社區中有更高的機會進行病毒式傳播。

即使個人喜歡分享高質量的信息，但有限的個人注意力和信息過載也會妨礙社交網絡系統基于質量來區分消息，低質量的信息同高質量的信息得以同樣的傳播。這可以解釋為什么在線假新聞的曝光率那么高。

可以利用結構、時間、內容和用戶特征來檢測社交機器人。這說明社交機器人可能會變得相當有影響力。機器人旨在擴大假消息的覆蓋面，并利用我們在認知和社會偏見上的弱點。例如，他們創造出流行的草根運動形象來操縱注意力，并定位有影響力的用戶來引導他們轉發錯誤信息。

在推特上，真實人士分享的假消息集中在一小部分網站和高度活躍的“機器人”用戶上。這些用戶自動從一組來源（無論有沒有閱讀過它們）分享新聞。與傳統精英不同，這些個體雖然有時候只有有限的社會-政治資本，但是可以發揮他們對平所具功能的知識為那些極端化的和誤導性的內容制造追隨者。不管怎樣，這些人可以并試圖借助社交機器人來獲得政治精英的關注。例如，唐納德?特朗普（Donald Trump）就收到過數以百計的關于三百萬非法移民投票選舉的假新聞推文鏈接，大部分都來自機器人。這表明社交媒體的動能在某些情況下被扭轉了，導致錯誤的信息從地位較低的個體流向了精英階層。

與流行的直覺相反，包括新聞在內，信息無論真假，其傳播并非常常是“病毒式的”，即暗示其是通過漫長信息瀑布（long information cascade）而傳播開的。也就是說，絕大多數分享的內容并不會在一般人中長時間流傳。通常是來自名人和媒體的消息——具有大量追隨者的賬號——到達率最多，并且是通過非常淺的擴散鏈來實現的。因此，傳統精英可能不是假新聞內容的最大分享者，但可能是阻止假新聞傳播的最重要的節點。

大多數分享假消息的人，無論其是否受歡迎，一般都會分享很多新聞。政治活動的數量是迄今為止預測個體是否會分享假新聞的最有力的指標。由于錯誤信息與其他內容混合在一起，而且許多報道很少得到人們的關注，這一事實就意味著傳統的質量檢測方法并不能夠區分錯誤信息和真實情況。除此之外，人們的某些特征與更多分享假消息的可能性相關聯：老年人，政治光譜上更極端的個人，似乎比別人更多地分享假消息。

具有國家和政治動機的組織一直是虛假信息的始作俑者。當代和歷史的證據表明，具有影響力的虛假信息之所以得以流行很少是由于簡單的誤解。相反，虛假信息往往是為特定的政治或軍事目的而精心策劃的戰略性活動。例如，英國在第一次世界大戰期間，針對所謂的德國暴行開展了卓有成效的假消息宣傳，以動員國內和全球輿論反對德國。但在二戰期間，這一行為產生了事與愿違的結果，因為關于假消息的回憶導致公眾對第二次世界大戰期間大規模謀殺報道心懷疑慮。

我們必須承認，關注新聞報道的公正性還是新近的事情。從歷史上看，直到20世紀初，現代新聞業的事實核查和公正性規范才在美國開始成型。通過強烈反對“黃色新聞”——一種風靡19世紀90年代由赫斯特和普利策報業帝國推廣的煽情報道——才推動新聞業開始走向專業化和制定道德準則。

最后，雖然任何一個團體都可以相信虛假信息，但目前錯誤信息主要是右派的問題，而極右聲音一直不斷地在攻擊主流媒體。一些保守的選民甚至懷疑事實核查網站，這使得他們特別容易受到錯誤信息的影響，而這些錯誤信息實際上也是由極端聲音制造和重復的。話說回來，至少有一些軼事證據顯示，當共和黨掌權時，左派變得越來越容易受影響去傳播和接受假新聞。有這樣一個案例，主要是由左派在布什主政期間散布的陰謀論，認為政府應該為“9?11”事件負責。由此可以預計，未來幾年我們可以看到左派發布的假新聞會增加。無論如何，打擊假新聞的任何方案都必須考慮到這種不對稱，而政治光譜的不同部分會受到不同的影響，我們需要采取不同措施來應對。

第三節 遏止假新聞的行動方針

經由對上述材料的討論產生了解決錯誤信息的幾條直接途徑：

1.開展兩黨雙方參加的討論

將更多的保守派人士納入對錯誤信息的審議過程，是打擊假新聞并公正科學地對待該研究課題的關鍵一步。重要的證據表明，至少在現在，假新聞和錯誤信息主要來自政治右派。研究表明，當對假新聞的糾正來自于同聲相應的同黨派人士時，這種糾正最有效。因此，保守派與自由派之間合作，共同找到一致認定事實的基礎，將會提高這種努力的可信度，即使對事實的解釋可以各自不同。本次會議期間還提出了一些直接的做法，比如去接觸法學學者，研究假新聞商業模式的經濟學家，對媒體信譽的降低持反對態度的個體等。還可以去關注那些中右翼的私人研究機構（比如卡托研究所，科赫研究所）和新聞媒體（比如《華盛頓時報》《每周標準》《國家評論》）。

2.讓真相“更大聲”

我們需要加強與可信信源的聯系，設法支持并與媒體合作，增加高質量的事實信息的報道覆蓋面。我們提出幾個具體的方法來開始這個過程：

首先，我們需要將現有研究成果轉化為可以被媒體人和面向公眾的組織所能理解的形式。即使是在社會科學家中（包括上面提到的科學家），其十分可靠的研究結果還不是很廣為人知。一個直接的方式是制作一份簡短的白皮書，總結我們目前對錯誤信息的理解——包含其形成的主要因素和防止其傳播的最佳做法。研究可以為媒體人提供指導方針，說明如何在撰寫報道和制作標題時避免常見的陷阱——比如通過首先提出事實，避免重復虛假內容，尋找受眾信任的受訪者，并使用可視化來糾正事實等。同樣我們知道，通過情感聯系和不斷重復，可以建立對機構和事實的信任。新聞機構可以通過講故事、重復事實（如跟蹤以前的故事）和公正的報道等方式來增強與觀眾的聯系，并使他們更好地了解情況。

第二，未來我們應該在研究人員和媒體之間尋求更強有力的合作。一種選擇是支持他們在新聞編輯室工作（這里的“他們”是指研究人員，改后的句子讀起來“他們”是指媒體），研究人員可以作為內部專家，為應用研究收集數據。另一種途徑是向記者提供降低他們生產數據新聞成本的工具。例如，會議建議建立一個類似于維基百科的平臺，向媒體人提供關于新出現的新聞故事的眾包服務和策劃數據。該資源將為媒體人提供便宜且可靠的信息來源，以便讓資料豐富的報道超越社交媒體上的錯誤信息。這些工具還可以指示數據源，幫助理解富有意義的統計數據背景、市政信息或者特定主題的咨詢專家名單。

第三，假消息的流通具有明顯的集中特性，這使得平臺對于假消息的識別和干預非常簡單。雖然有一些假新聞網站憑空出現，但實際上大多數假新聞都來自少數幾家網站。因此確定平臺的責任、使其積極主動地參與任何打擊假消息的重大戰略至關重要。如果平臺阻止了來自某幾家網站上的信息傳播，假新聞問題可能會一夜之間落幕。此外，假新聞的傳播似乎主要受到外部操縱的驅動，例如機器人和機器人賬戶（cyborg，及個體將其賬戶交由app控制）。通過平臺的檢測和響應操作，可以自然而然地抑制假新聞的傳播。

最后，由于地方新聞既是寶貴的也是被廣泛信任的，所以即便預算緊張，我們還是應該支持和加強地方報道。在政府層面上，這種支持可以是對當地新聞媒體的補貼，這有助于使其獲得非營利的地位。大學則可以擴大校報對當地社區的報道。

3.建立社交媒體研究的共享性基礎設施

作為學術界人士，我們需要更好地了解社交媒體平臺上錯誤信息的呈現與傳播方式。為了理解當今的技術，置公共利益于公司利益和其他利益之上，學術界作為一個整體需要對這些系統進行研究。但非常典型的是，受制于平臺約束，無論是共享數據還是整體數據量，可用于研究的數據訪問都是不可能或很困難的，因此后續很難進行新的研究或復制以前的研究。與此同時，越來越多的關注在于，在此次大選過程中平臺的算法促成了錯誤信息的傳播，并且在未來可能會繼續下去。

為了追尋社交媒體傳播錯誤信息這一問題的一系列解決方案，學者們應力求更好地、更準確地獲取數據以便進行研究。當然，這種尋求必須接受與平臺提供商進行不同立足點的合作。即使在缺乏合作的情況下，學者們仍然可以聯合起來組織一系列民眾行動，比如基于移動和非移動終端的多種來源的在線運動（例如MediaCloud，志愿者科學，IBSEN，TurkServer）。當然，與領先的社交媒體平臺（如臉書和推特）的合作也是可能的。推特提供使公共數據可用的API，但需要簽共享協議來收集大量數據樣本。此外，臉書需要自定義API。為了研究目的，有更多的可訪問性的數據，學者們可以幫助平臺為社會新聞消費設計更有用和更豐富的工具。

具體而言，學者應該著重開發數據集所必需的社會、制度和技術的基礎設施，這些數據集有助于研究在線錯誤信息的傳播，并且可以分享和復制。這就需要新的方式給社交媒體公司施壓，迫使其分享重要的數據。

第四節 未來的研究方向

首先，我們必須擴大對社會和認知干預的研究，盡量減少錯誤信息的影響。有些研究提出了對事實核查作用和信息糾偏有效性的懷疑，但目前還沒有其他替代方案。社會干預對減少錯誤信息的傳播效果有限。展望未來，該領域旨在確定維系真相文化的社會因素，并設計干預措施，協助獎勵來源優質的新聞。

一般而言，技術發展特別是社交媒體給處理錯誤信息帶來了新的挑戰，但也提供了更有效地減輕這種挑戰的潛力。臉書最近正與事實核查機構進行合作，在人們分享有爭議的文章之前預警，這就是通過技術干預限制虛假信息傳播的一個例子。然而，關于事實核查方法的可擴展性以及如何在假新聞受到爭議之前最大限度地減少其影響，仍然存在疑問。此外，還需要進行更多的研究以探索社會-技術干預措施如何不僅能阻止錯誤信息的流動，而且能夠緩解錯誤信息對于人們信念的影響。概括地說問題在于，如果想要鼓勵一種重視和傳播真相的文化，哪些是社會信息系統的必要成分？

解決常見誤解（misperception）背后的根源問題，可以幫助人們認清眼前的議題并消除圍繞他們的大量錯誤信息。這項教育工作有助于改善對于公共政策的理解，是建立公民社會中對機構信任的必要組成部分。促使個人可以超越群體思維的一個方法是，要求其解釋某些過程或議題的內在運作機制。

此前的研究成果強調，干預措施成功的關鍵在于兩個社會性因素：干預的來源和目標社區的規范。文獻表明，直接的對抗會適得其反，而如果以威脅的方式進行，它反而可能導致鞏固個人之前的信仰。而如果言論來自某些與彼相似的來源，特別是其言論并非出于自身利益，則可以減輕這種威脅。此外，人們根據他們在社區觀察到的共同敘述來回應信息；如果想要改變意見，就有必要改變圍繞這些意見的社會規范。一種可能性是“羞辱”分享假消息這一行為——鼓勵制作真實信息，制止那些提供虛假內容的人。

另一個替代方案是通過跨社區連接促進制作更加公正無偏和符合事實的內容。至少有些研究證明，彼此之間進行互動的人會傾向于變得彼此相似，因此跨文化溝通至關重要。然而，這樣做時很重要的一點是要遵守現代社會心理學對于相關條件的理解，只有在這種條件下，這種社會互動才可能有積極的效果。

最后需要說明的是，并不是所有的人都會被輕易干預。人是不對稱的更新者：持極端觀點的人可能只接受支持他們觀點的證據。而持溫和觀點的人更容易根據新的證據從正反兩方面更新自己的觀點。專注于后一類人可能會帶來最有成效的干預形式。或者，爭取黨派人士的認同可能會從根源上消除錯誤信息，從而成為打擊假新聞的一種更強有力的長期策略。

Abstract: The report named Combating Fake News: An Agenda for Research and Action, released by Shorenstein Center in Harvard Kennedy School is organized as follows. Section 1 describes the state of misinformation in the current media ecosystem. Section 2 reviews research about the psychology of fake news and its spread in social systems. Section 3 synthesizes the discussions held during the conference into three courses of action that the academic community could take in the immediate future. Last, Section 4 describes areas of research that will improve our ability to tackle misinformation in the future.

Key Words: Fake News, Misinformation, Research, Action

(責任編輯：鐘宇歡）

Combating Fake News: An Agenda for Research and Action

FANG Shi-shi

G211

A

1001-4225（2017）09-0098-04

本文系2014年度教育部人文社會科學研究青年基金（項目號：14YJC860005）、2015年度國家社科基金青年項目（項目號：15CXW002）階段性成果。本文受到上海社會科學院互聯網研究中心、復旦發展研究院傳播與國家治理中心研究支持。