你信賴機器嗎？

克里斯·巴拉紐克

自動駕駛需要人類對機器完全信賴。

當法航447號班機以近300公里的時速墜向大西洋時，飛行員皮埃爾–塞德里克·博寧在全力與飛機控制系統搏斗。故障原因很明顯，由于飛機部件結冰導致自動駕駛系統突然關閉，之后博寧和他的機組成員接管了飛機。當時的情況需要飛行員進行手動操作。

飛行員對這種狀況缺乏經驗，他們掙扎著想把飛機穩住。駕駛艙的電腦不斷涌現出混亂的信息和警報，而且電腦沒有提示他們飛機已經處于失速狀態。黑匣子記錄下了博寧的最后一句話：“我們要墜機了——這不可能。到底怎么回事？”

那天是2009年6月1日，機上的乘客和機組成員全部遇難。當發生這種人類和機器都牽涉其中的事故時，它的根源通常是多方面的。但是，分析人員把法航447航班空難的部分原因歸咎于對機器的過度依賴和信任——飛行員期望自動駕駛系統會一直正常運轉、信息系統始終能提供精確的信息。而過度依賴技術造成人員傷亡的案例遠遠不止這一起。

科學家對“自動化偏見”的現象進行了深入研究，發現它有時還會導致“自動化自滿”，即當計算機主導工作時，人們較難發現其中的故障。不過，令人驚訝的是，人類過度信賴機器的傾向或許直接受到了數百萬年來生物進化的影響。

俄克拉荷馬大學的帕特里夏·阿德雷在一本關于人類為何過度信任機器的書中寫道：“過分信賴技術導致的錯誤比例高得令人吃驚。”她認為，人們普遍缺乏判斷一項具體技術的可靠性的能力。它的影響是雙向的：我們有可能在計算機對我們有利時拒絕它的幫助;也可能盲目信任這種設備，直到它最終傷害我們的利益乃至生命。

作為與人類親緣關系最近的物種之一，黑猩猩的行為或許能提供一條線索，幫助揭開我們不擅長評估機器可信度的原因。這可能是因為，相比機器，我們更傾向于評估其他的同類。

最近，研究人員在肯尼亞的一個動物保護區進行了一項實驗，他們制作了一個設備讓黑猩猩可以拉動機器上的繩子獲得食物獎勵。拉動第一根繩子會得到基礎的獎勵——一片香蕉;拉動第二根繩子的獎勵更誘人，是兩片香蕉和一片蘋果，可能由機器發放，也可能由黑猩猩的同伴發放。

日本一家動物園試圖讓黑猩猩學習使用自動售貨機。

第二根繩子的另一端有時是機器，有時是另一只黑猩猩，但是兩者不會同時出現。然而，有時機器會不發放獎勵，有時另一只黑猩猩會選擇把獎勵獨吞掉。因此，拉動第二根繩子可能獲得更多的獎勵，但這卻是一個更具不確定性的選擇。

這樣，參與實驗的黑猩猩面對的條件可能是社會性的或者非社會性的。如果想有機會獲得更多的食物獎勵，它們就需要信任那臺機器或者另一只黑猩猩。

研究表明，當由黑猩猩的同伴負責遞出食物時，黑猩猩們不太傾向于選擇第二根繩子。它們拒絕參與社會性實驗的次數占12%，而在機器掌控的非社會性實驗中，它們抗拒的次數只占4%。也就是說，它們更信賴機器。

馬克斯·普朗克人類發展研究所的洛烏·豪克斯和同事們設計并進行了這項實驗。她說：“當黑猩猩們發現它們面對的不是機器而是另一只黑猩猩時，它們會更加猶豫不決。”實驗表明，社會風險在黑猩猩和人類生活中發揮著重要的影響——目前只有為數不多的研究揭示了這一點。

這種心理被稱為“背信規避”，豪克斯解釋道：“害怕被另一個人（或者另一只黑猩猩）欺騙的心理會引起更強烈的情緒。”她打了一個比方：如果你把錢投進自動售貨機，它卻沒送出你要的飲料，毫無疑問，你可能會生氣。但不妨想象一下，假如酒保收了你的錢，然后當著你的面喝掉了你點的可樂，你是什么感覺？你大概會氣瘋了。這是當然的，因為自動售貨機沒有自作主張欺騙你，它只是沒有成功發出商品;而酒保把你點的東西喝掉時，他是知道這會讓你生氣的。

不過，研究團隊并沒有止步于此。他們又進行了另一個涉及黑猩猩的實驗。由于參加過第一個實驗，黑猩猩們已經理解當它們選擇不確定的選項時，有多大可能獲得更多的食物獎勵。實際上，不確定的選項已經不再是完全不確定的了——黑猩猩們已經意識到它們在冒什么樣的風險。

但這時，出人意料的結果出現了。黑猩猩們不再區分社會性和非社會性的選項，它們對機器似乎不再表現出比對同類更多的信任了。

生活中，盲目相信導航系統可能會讓人陷入麻煩。

“這就是為什么我們覺得這個發現令人振奮，黑猩猩們竟然能夠在面對很多不確定性的情況下區分社會世界和非社會世界。”豪克斯說。

佛羅里達理工學院的心理學家達比·普羅克特認為，只要思考一下與社會環境打交道對靈長類動物有多重要，這就說得通了。

“當面對機器時，不存在對未來的影響。”她解釋道，“你不必擔心額外潛在的社會成本。”畢竟，參與實驗的黑猩猩們往往在實驗結束后還要回去和它們的同伴相處——任何因參與實驗而引發的不愉快都可能對它們的關系產生后續影響。

普羅克特和同事們之前進行過類似的測試，他們同樣發現，相對于同伴，黑猩猩在尋找食物獎勵時更容易相信物品。普羅克特提到，當一只黑猩猩沒能從同伴那里得到本該屬于它的食物獎勵時，沮喪的黑猩猩會向同伴吐口水來表達自己的感受。她說：“這是一種常見的不高興的表現。”

普羅克特對實驗中的黑猩猩是否真的更信任機器持保留態度。畢竟，這種現象也可以被描述為，只要沒有社會同伴參與，個體就不會對糟糕的待遇反應那么激烈。

“我們并不是相信機器一定會給我們好的回饋，有可能只是認為機器不具備情緒，所以我們只是更傾向于在非生命物品這里賭一把。”她猜測道。

無論如何，進化似乎影響了靈長類動物面對不確定性時的意愿——它取決于我們是否感到自己承擔了社會風險。

圖盧茲高級研究所的弗朗西斯卡·德·佩特里羅從事靈長類動物研究，她認為，進化并沒有讓我們意識到，被機器背叛的代價可能相當慘痛。在過去的數百萬年中，我們并不需要像評估同類一樣去評估機器，因而沒有進化出這項能力。而如今，技術已經能對人類生活產生巨大影響，我們可以說還是需要評估機器的能力的。

這其中還涉及一些其他的因素。除了進化，我們是否愿意信賴機器還受到個人相關知識儲備和文化期望的影響。2019年的一項研究表明，人們在打字聊天時，如果認為自己是在和電腦而不是和另一個人溝通，那么他們在對話中泄露自己信用卡信息的可能性會提高29%。研究人員發現，對那些先入為主地認為機器比人類更可靠的人來說，這種影響甚至更加明顯。

話說回來，有時候人們也會對技術表現出強烈的不信任感。許多調查結果表明，人們往往對自動駕駛車輛或者把工作移交給機器完成感到不適。我們總是對新技術懷有疑慮是有多方面的原因的——可能是害怕被自動機器取代后會失去自己的部分角色;也可能是不相信計算機在執行任務時具備足夠謹慎的態度和靈活的技巧。如果你看過上百個機器人摔倒的視頻，或者遇到過一臺頑固地拒絕正常運轉的計算機，就會覺得人們對機器的抗拒并不令人驚訝。

德國比勒費爾德大學的社會心理學家菲利普·庫爾姆斯曾經研究過影響個體對某項技術信任程度的因素。他和一名同事開發了一個類似俄羅斯方塊的電腦游戲，其中，電腦在與玩家組隊時也可以控制一些拼圖碎片。如果電腦玩得很好，人類玩家就能獲取更珍貴的碎片，他們的團隊就能得到額外加分，這種情況下玩家更傾向于信任電腦隊友，也更有可能為了合作與之交換碎片。這種信任是通過游戲的運作方式形成的。

庫爾姆斯說：“我們能操縱的這組變量非常有限，但它們顯然夠用，這讓我們很驚訝。”

人們通常缺乏評估機器可信度的能力，因為從進化的角度來看，我們只獲得了根據社會線索判斷可信度的能力——如果我們接受上述觀點，那么這就說得通了。與之呼應的還有其他的研究結果：當賭博使用的老虎機在設計上具有擬人的特性時，賭徒會賭更多的錢。

也就是說，我們不僅不善于衡量機器的可信度，而且當機械物品表現得有點像一個以我們的最佳利益為重的社會伙伴時，我們也很容易被它們誘惑。

因此，與那些因為電腦反應遲鈍而氣惱，進而不信任所有機器的人相比，學會了對某些系統（比如飛機自動駕駛儀）寄予信任的人可能很難理解機器怎么可能出錯，即使它們就是錯了。

佩特里羅提到，她跟蘋果的Siri或者亞馬遜的Alexa等聲控助手互動時，對計算機產生了信任感。“我會假設它們是以我的最大利益為原則行事的，所以我不需要質疑它們。”她說。

庫爾姆斯的研究表明，只要機器看起來能夠勝任工作并且表現出一定的友善，對包括佩特里羅在內的許多人來說，他們對機器的信任就會繼續下去。庫爾姆斯指出，這就是為什么機器設計者一定要確保他們的系統合乎道德、功能透明。

極為諷刺的是，在一臺看似值得信賴的機器背后，可能隱藏著一個心術不正的人。對一臺有缺陷的機器盲目信任就已經夠危險的了，更不用說一臺專門用來騙人的機器。

“在風險相同的前提下，假如我們面對的不是機器而是一個人，我們可能更習慣去思考潛在的負面結果會是什么。”普羅克特說道。她和豪克斯都認為，還需要做大量工作才能弄清楚研究中的黑猩猩到底有多信任機器，以及這個結論能多大程度上揭示關于人類行為的真相。

不過，人類對機器表現出的過度信賴或許受到了一個簡單事實的影響：我們是在一個原本沒有機器存在的世界里進化成社會動物的。而現在，機器出現了。我們把我們的錢、個人信息，甚至是我們的生命都置于機器每時每刻的監管之下。信賴機器不一定有錯，只是我們往往不善于判斷什么時候應該這么做。

[編譯自BBC網站]

編輯：馬果娜