被嚇壞的汽車

日益精進的科技正步步為營地將控制權從人類手里竊取過來，轉交給機器

我開車行駛在我家和太平洋之間蜿蜒的山路上。帶有陡坡的急轉彎隱沒在高聳的紅杉林之間，兩側是舊金山海灣和太平洋。這是非常美妙的駕駛，車子游刃自如地應對挑戰，面對急轉彎也優雅自如。

然而，我注意到妻子很緊張：她被嚇到了，腳緊扣地板，肩膀弓起，手臂靠在儀表板上。“怎么了?”我問道，“冷靜一點，我知道我在做什么。”

現在來想象另一種情形。我還是開著車駛過同一條蜿蜒曲折的山路，但是我注意到我的車很緊張：它被嚇到了。座位伸直，安全帶繃緊，儀表板沖著我嘟嘟叫，剎車也自動開啟了。“哇哦，”我想，“我還是減速比較好。”

你是否認為一輛被嚇壞了的汽車只是想象?并非如此。故事中描述的情形已經在一些高端豪華汽車身上實現，某些汽車甚至對駕駛擁有更多的掌控。當你偏離車道時汽車會發出警告：振動車輪或座位，也可能后視鏡閃光。甚至，某汽車公司正實驗如何讓汽車在某種程度上自動回到車道。

問題出現了，當我們開始賦予身邊事物更多能動性、更多智慧以及更多感情和個性時，這對我們與其他人的關系會產生怎樣的影響?當我們更聽機器而不是人的話時我們的社會已經發生了怎樣的變化?

答案很復雜，但最終歸結于交流。當妻子抱怨時，我可以問她什么，然后要么贊同她要么安撫她，同時通過對她的緊張的理解來修正我的駕駛，使她不再困擾。當我的汽車抱怨時，我能做什么?沒有辦法與我的車進行交流：所有的溝通都是單向的。

這就是與機器相處的方式。機器沒有人類那樣的能力，所以它們更有力量。很矛盾?是的，但也是真理。

誰在談判中最有力量?如果你想在兩個強有力的大公司的商務談判中做成最有利的生意，應該派誰去：CEO還是一名下屬?答案與人們的直覺相反：下屬往往做成好的生意。

為什么?因為不管反對意見多么強烈或條件多么誘人，只要沒有成交的權力，哪怕面對強大且令人信服的論證，談判代表也只能說：“對不起，在請示我的上級之前我不能給你答案。”他們只能在第二天回到談判桌上說：“對不起，我沒有辦法說服我的老板。”而一個有權力的談判代表反而很可能被說服進而接受條款，即使在稍后后悔不迭。

成功的談判代表都知道這個討價還價的手段，絕不會讓其對手從中逃脫。但面對機器缺無法討價還價，在大多數情況下我們其實別無選擇：不能與之反駁或理論，只有服從或拒絕，沒有討論與修正。有時我們甚至沒有被拒絕的機會：它們只會“服從”。

“你喜歡你的新車嗎?”我問開車送我去機場趕赴一場會議的Tom。“你喜歡導航系統嗎?”“我愛這輛車，”Tom說，“但是我從來不用導航系統。我不喜歡它們：我喜歡自己決定走哪條路線。這東西不給我發言權。”

看看Tom的困境。他向導航系統詢問路線，它給他指出一條路。聽上去是簡單的人機交互，但Tom所說的“它不給我任何發言權”，這才是切入事物核心的觀察。在人與機器之間，沒有雙向、反復的討論這樣真正的溝通所具有的特點，有的只是兩段獨白，兩個單向交流：人們命令機器，機器根據人類的指示行動用信號顯示它們的狀態，兩段獨白并不能構成對話。

但有時機器的舉動是很有價值的：在自動駕駛這個例子中，它們或許能救我們的命。在家居生活的例子中，它們能使我們的生活變得更輕松。甚至帶有瑕疵的導航系統有時也有巨大的價值。所以問題在于我們應該如何改變與機器的交互方式，以便能更好地利用它們的長處，同時又能避免我們不喜歡的行為。現在，我們還沒有能力迫使改變發生。機器(還有它們看不見的隱藏設計者)擁有全部的權力。

當我們的科技變得更強大時，協作與交流上的失敗曼得更致命。信任是一種脆弱的關系，要經過體會與理解才能形成。面對那些自動的、所謂的智能設備，有時并不值得付出信任，或應當有所保留。我相信真正的問題在于缺乏交流。設計師不懂得他們的工作是提高人機雙方的協調與合作水平。相反，他們認為目標是讓機器全班接手，完成所有的任務，除非機器出了問題，或是忽然間變成人類聽命于機器。通常，人不能有效掌握控制權，要么因為要求被忽視；要么盡管機器有瑕疵，人類仍然對其保持著一種非理性的信心；要么只是還沒有足夠的時間來理解情勢的復雜性并在損害發生之前糾正錯誤。奇怪的是，當機器處理任務失敗時人類會被要求迅速接管，如果交接不順利，事故的過失都會怪在人類頭上。

(作者為美國西北大學計算機系、心理學系、認知科學系教授)

反饋：askdon@jnd．org