新技術革命背景下自動化信任國外學術新進展

摘要：信任是搭建人機協作的橋梁，適當的信任程度可以最大化地發揮科技力量，提高社會生產率。為了更好地應對日益凸顯的人機信任問題，文章運用文獻計量方法，使用CiteSpace和VOSviewer分析軟件對1987—2022年間國外自動化信任文獻進行梳理和可視化分析，從自動化信任研究的一般信息、文獻知識庫及研究熱點和前沿3個方面客觀描述了自動化信任的研究現狀和趨勢。研究發現，自動化信任的研究熱點和發展趨勢主要包括信任、前提和影響、人機交互、醫療保健、決策支持和控制及人工智能。最后，圍繞用戶接受度、自動駕駛、人工智能及個體差異4個學術前沿提供未來研究建議。

關鍵詞：自動化信任；文獻計量分析；可視化分析；研究前沿

中圖分類號：F2"""""""文獻標識碼：A""""""doi：10.19311/j.cnki.16723198.2025.11.013

0"引言

自動化是工業、農業、國防和科學技術現代化的重要條件和顯著標志，已廣泛應用于工業、農業、軍事、科學研究、交通運輸、商業、醫療、服務和家庭等各個方面。隨著科技的發展，自動化的內涵從程序自動化轉向了自主系統，這一轉變給人機協同控制帶來了許多新的挑戰，面對日新月異的人機交互模式，操作者的不恰當信任和自主系統的不透明性大大增加了系統失控的風險[1]。為了解決這些自動化問題，人們對信任進行了大量的研究，并逐漸成為一個熱門話題。

過去的研究表明，對于不同智能水平的自動化系統，人們的信任不能一概而論。過度信任可能導致自動化的濫用，而信任不足可能導致放棄使用自動化[2]，造成技術浪費。只有建立適當的信任，才能充分發揮自主技術的潛力[3]。

以往自動化信任的回顧性分析多采用文獻回顧或Meta-analysis方法。研究內容多來自單一層面，如自動化信任的前因研究、修復研究、神經機制研究。在研究對象方面，更多關注特定背景或典型自治系統下的信任問題，如探索人工智能中的信任和社會輔助康復機器人的信任?；谥R圖譜方法，全面、客觀地揭示信息科技的出版趨勢、國家、機構、期刊和作者的影響力、知識庫、研究熱點和前沿很有必要。因此，本文基于"Web"of"Science"數據庫，利用CiteSpace和VOSviewer對1987—2022年自動化信任的文獻計量和可視化分析，探究該領域的研究熱點及發展趨勢，以期為后續研究提供參考和借鑒。

1"材料與方法

1.1"數據來源

所有數據均來源于Web"of"Science核心合集，構建的檢索公式為TS"="（“automation”OR“automated"system”OR“autonomy”OR“autonomous"system”）"AND"TS"="（“trust”），檢索時間從其記錄到2022年12月31日。文章類型限于“Article”和“Review”。檢索到5129份出版物。篩選后，收集1454篇出版物，將文獻數據被導入到Citespace中，進一步剔除重復數據，最終得到1452條有效發表數據。

1.2"研究方法

本研究主要利用Citespace和Vosviewer實現自動化信任的文獻計量和可視化分析。首先，通過分析年度出版物、國家/地區、機構，量化和識別自動化信任研究的一般信息。其次，通過分析期刊和作者來揭示自動化信任的知識庫。第三，通過對關鍵詞和突發詞的分析，發現自動化信任的研究熱點和前沿。

2"文獻計量分析

2.1"年度發文量分析

發文量在一定程度上反映了該領域的受關注程度及發展水平。圖1顯示了過去36年有關自動化信任的文獻發表數量。1987年以來，關于自動化信任的文獻發表數量總體呈上升趨勢。自2015年起，每年發表論文數量呈爆炸式增長，到2020年達到高峰，達到176篇。這表明近年來自動化信任引起了研究人員的廣泛關注。

2.2"發文國家與發文機構分析

共61個國家的964個機構撰寫了1452份自動化信任相關文獻。發表論文最多的是美國（655篇）、德國（149篇）、英國（148篇）、澳大利亞（83篇）和中國（81篇）。高中心態如美國（0.51），英國（0.43），說明這兩個國家與其他國家合作密切，美國不僅是最早從事自動化信任研究的國家，也是導致革命性發現的重要轉折點。

根據發表的論文數量，University"of"Central"Florida是最多產的大學（41篇），其次是Clemson"University（37篇）和Georgia"Inst"of"Technology（26篇）。中心性最高的機構是Air"Force"Research"Laboratory（0.08），此外，在排名前十的機構中，有9所來自美國，1所來自日本，這再次證明了美國機構對自動化信任研究的杰出貢獻。

2.3"期刊分析

學術期刊是展示和傳播研究成果的重要載體。《Human"Factors》對自動化信任相關文獻的貢獻最大。使用Citespace繪制共被引期刊地圖，節點越大，共被引數越高，表明期刊在該領域的影響力越大。據統計，共被引指數在500以上的期刊分別是《Human"Factors》（1003）、《Ergonomics》（691）和《International"Journal"of"Human-computer"Studies》（551）。

2.4"作者分析

學科的發展和演變得益于研究者的貢獻。共有3181位作者撰寫了1452篇自動化信任文章。Lyons"JB（21）的論文貢獻最多，其次是Itoh"M（17）和Chen"JYC（16），未來的研究人員可能需要密切關注這些作者的研究趨勢。其中，最引人注目的作者是Lee"JD，共被引次數為749次，并呈逐年上升趨勢，其次是Parasuraman"R（631次）和Muir"BM（364次）。

2.5"關鍵詞分析

關鍵詞是作者對文章核心內容的高度精煉和集中的描述，反映了文獻的研究主題和方向。使用Vosviewer繪制關鍵字共現圖，圖中節點越大，共現頻率越高。圖中3個最突出的節點是“信任”“自動化”和“性能”，它們位于網絡的中心。圖表中節點的顏色由深色變為明亮，表明關鍵詞共現年份越來越近?！叭斯ぶ悄堋薄白詣玉{駛汽車”等黃色節點代表了最新的研究方向。

構建關鍵字聚類圖可以更直觀地顯示研究熱點。使用Citespace內置的對數似然比（LLR）對關鍵字進行聚類，關鍵字聚類圖如圖3所示。在圖3中，網絡模塊化指數“Modulariy"Q”的值為0.7691，網絡同質性指數“Mean"Silhouette”的值為0.7504。兩個值均大于0.5，說明關鍵詞網絡聚類是合理的。圖3將關鍵詞劃分為8個集群，分別為自主性、人機交互、影響、醫療、決策、用戶體驗、自動駕駛、人工智能，代表了自動化信任領域的研究熱點。

3"研究熱點

3.1"自動化信任

在未來，人與自動化系統可能更傾向于發展成“隊友”關系。除了自動化信任的客觀屬性外，它還包含主觀信任屬性，類似于人類的道德屬性。例如，Hou等人[4]開發了信任模型IMPACTS，強調需要更加關注透明、溝通和共享的意向心理模型，這對于建立人與自治系統之間的相互信任至關重要。

3.2"前提和影響

自動化信任的前因可分為3類：自動化、操作員和環境。與自動化特性和能力相關的影響因素一直是研究的重點。大量證據表明，高度可靠的自動化系統促進了信任的增加。一項研究表明，對自動化的理解是影響信任的最強因素，其影響甚至大于自動化的可靠性和能力。用戶體驗已經成為一個獨立的集群，如果體驗是無效的，甚至是負面的，它會降低用戶對自動化的信任[5]。

此外，在信任對其他因素的影響方面也取得了一些進展。例如，研究表明，操作員監控的自動化程度隨著信任的增加而降低[6]，信任校準培訓有利于提高人力團隊績效，更高的信任會增加人工控制恢復的響應時間。

3.3"人機交互

Chen等人[7]提出了基于動態貝葉斯網絡的人與多機器人團隊計算信任模型。人際信任中的信任修復方法（如道歉和否定）已經在人—機器人信任中得到了初步驗證：當信任的喪失歸因于機器人能力不足時，道歉可以有效地修復信任，當導致信任喪失的行為被機器人認為是故意的時，否認這種故意比道歉更有效。

3.4"醫療保健

由于醫學背景下的自動化技術直接關系到患者的生命和健康，醫療系統中自動化技術的應用比其他應用背景存在更復雜的信任問題。臨床醫生的信任決定了其是否會被用于患者的康復護理部署，也會提高患者對機器人的信任和接受度。信任是患者與機器人互動的核心條件，對醫療人工智能“黑匣子”特性的擔憂成為信任障礙的重要原因[8]。提高透明度和可解釋性，適當培訓醫生并改進診斷過程可以促進信任。

3.5"決策支持和控制

自動化決策支持系統可以支持操作員在復雜和任務飽和的環境中做出決策。當自動決策顧問和人類顧問都被描述為具有高水平的感知專業知識時，對人類顧問建議的信任度更高[9]。在決策控制方面，未來的一些智能決策系統越來越希望實現與人類的點對點合作，人類和代理對系統的決策控制也應該是共享的。人與機器之間決策控制的有效過渡依賴于共享的態勢感知、雙向信任、合作關系等因素，駕駛員擁有最終的控制權。

3.6"人工智能

信任是開發、部署和使用人工智能的先決條件。許多研究人員提出了可信賴人工智能的原則，包括但不限于可解釋性、魯棒性、問責性、可驗證性、透明度、可持續性等。未來AI系統的界面設計需要充分考慮信息的呈現和內容，呈現合理的透明度，從而建立適當的信任[10]。一項研究表明，與沒有解釋或只有文本原因相比，在AI診斷系統中提供視覺信息和基于案例的解釋可以提高患者的滿意度和信任度。

4"研究前沿

4.1"用戶接受度

用戶對自動化技術的接受程度與信任密切相關，缺乏信任會影響使用程度。一些研究側重于影響自動化系統信任和接受度的各種因素，如自動駕駛系統的擬人化和會話顯示，社交機器人的對話內容，會話主動性和凝視行為，人工智能的可解釋性和因果性等。有研究者基于技術接受模型框架或擴展模型對自主技術的接受意愿進行研究。

4.2"自動駕駛

目前關于自動駕駛汽車駕駛員信任的研究主要有兩個主流方向。一是研究如何在駕駛環境中校準信任，例如，過度信任會影響接管績效，但增加接管經驗可以提高駕駛員對系統的信任，因此可以在自動駕駛訓練中考慮接管模擬。二是探索影響消費者初始信任和接受度的因素，以改進自動駕駛汽車的設計，促進自動駕駛汽車的商業推廣。例如，擬人化和周圍環境的顯示界面等界面設計因素會影響信任和接受度。這些研究為未來自動駕駛汽車的界面設計提供了有益的啟示。

4.3"人工智能

隨著人類將越來越多的決策委托給人工智能，越來越依賴人工智能技術來保護重要的人類產品，如交通、醫療和安全，開發可信賴的人工智能變得更加緊迫。值得注意的是，透明或可解釋的人工智能已逐漸成為一個重要的研究領域，然而，更高的透明度并不總是導致更高的信任。值得信賴的人工智能應該準確傳達什么樣的信息和線索，這仍然是一個有待研究的問題。

4.4"個體差異

如果期望機器從其作為工具的傳統角色轉變為人類隊友和合作伙伴，那么就有必要認識到個體差異在人類自動化信任中的作用。因為自主系統測量和建模的個體差異可能是人與自動化機器交互中適應性變化的觸發因素。人類用戶的教育水平、社會經濟地位和年齡等人口因素將有助于區分不同應用設置的用戶之間的個體差異，有必要識別更多的個體差異，這可能會影響未來的人機交互。

5"結論

本研究基于WoS核心數據庫，利用Citespace和Vosviewer對1987—2022年自動化信任的相關文獻進行分析，得出以下結論。

（1）自動化信任的研究正處于快速發展的階段。美國是該領域的研究骨干，佛羅里達大學、《人為因素》雜志和兩位作者（Lyons"JB和Lee"JD）作出了杰出貢獻。

（2）當前的研究熱點主要包括與自主性相關的信任問題、自動化信任的前因和影響，以及人機交互、醫療、決策支持與控制、人工智能、自動駕駛等具體應用領域的信任討論。

（3）目前的研究前沿集中在4個方面：接受度、自動駕駛汽車、人工智能及個體差異。與傳統文獻相比，本研究提供了新的客觀視角。研究結果有利于掌握該領域的研究現狀，確定研究熱點和前沿。

參考文獻

［1］Endsley"R"M.From"Here"to"Autonomy[J].Human"Factors：The"Journal"of"Human"Factors"and"Ergonomicsnbsp;Society，2017，59（1）：527.

[2]Parasuraman"R，Riley"V.Humans"and"Automation：Use，"Misuse，"Disuse，"Abuse[J].Human"Factors，1997，39（2）：230253.

[3]Du"N，Huang"K"Y，Yang"X"J.Not"All"Information"Is"Equal：Effects"of"Disclosing"Different"Types"of"Likelihood"Information"on"Trust，Compliance"and"Reliance，and"Task"Performance"in"HumanAutomation"Teaming：[J].SAGE"PublicationsSage"CA：Los"Angeles，CA，2020，62（6）：9871001.

[4]Hou"M，Ho"G，Dunwoody"D.IMPACTS：a"trust"model"for"humanautonomy"teaming[J].HumanIntelligent"Systems"Integration，2021，3（2）：7997.

[5]Krber"M，Baseler"E，Bengler"K.Introduction"matters：Manipulating"trust"in"automation"and"reliance"in"automated"driving[J].Applied"ergonomics，2018，66：1831.

[6]William，Payre，Julien，et"al.Fully"Automated"Driving：Impact"of"Trust"and"Practice"on"Manual"Control"Recovery.[J].Human"factors，2016，58（2）：229241.

[7]Chen"M，Nikolaidis"S，Soh"H，et"al.TrustAware"Decision"Making"for"HumanRobot"Collaboration：Model"Learning"and"Planning[C]//HumanRobot"Interaction.ACMPUB27New"York，NY，USA，2020.

[8]Juan"Manuel"Durán，Jongsma"K"R.Who"is"afraid"of"black"box"algorithms？On"the"epistemological"and"ethical"basis"of"trust"in"medical"AI[J].Journal"of"Medical"Ethics，2021，47（5）：329335.

[9]Hatherley"J"J.Limits"of"trust"in"medical"AI[J].Journal"of"Medical"Ethics，2020，46（7）：medethics2019105935.

[10]Alam"L，Mueller"S.Examining"the"effect"of"explanation"on"satisfaction"and"trust"in"AI"diagnostic"systems[J].BMC"medical"informatics"and"decision"making，21（1）：178.