AI系統如何不遭人恨

齊夫·卡蒙 羅姆·施里弗特 克勞斯·韋滕布羅赫 楊海洋

大數據分析、機器學習、人工智能的結合是如今全球經濟中最耀眼的閃光點。但也有人不看好人工智能應用，第一個原因就是侵犯數據隱私。人工智能是靠數據驅動的，人們不清楚自動化技術掌握了什么隱私信息，也不明白了解到的信息要派什么用場，由此產生了擔憂和不安。

第二個原因就是侵犯用戶的自主決定權。當顧客認為服務供應商能夠基于他們過去的選擇，預測其未來傾向時，他們通常會選擇次優方案。也就是說，消費者會有意違背自己的偏好，做出有悖于預測的選擇，以重建個人自主權。

企業要想開發不會引起顧客仇視的人工智能技術，需做到以下幾點。

保護顧客的個性特點 自主權的一個重要方面就是個性。當人們遇到問題需要幫助時，他們渴望得到人工客服的關注，而不喜歡機器人提供千篇一律的解決方案。人們在生病的時候也更希望見到醫生或護士，而不是具備醫護功能的機器人，因為他們覺得自己的病情有獨特的地方，機器考慮不到這種細微的個體差異。

不過人工智能的機器人可以小步推進，讓每一次互動變得人性化。在一項隨機對照測試中，如果算法對拒絕顧客交易的原因做了簡單說明，那么顧客撥打服務中心電話的可能性就會低于沒有任何解釋說明的情況。

保護顧客不愿被預測的自由 自由的一個主要方面就是個人可以改變想法，放棄一貫的行為模式。消費者越是覺得公司期待他們按照過去的選擇走出下一步（比如商家根據其購買記錄或瀏覽歷史，有針對性推送商品），就越想擺脫這樣的選擇定式。

謹慎選用推送措辭會有所幫助。如果把消費者行為描述成“前后一致”（表達正面含義），而不是“可預測”（傳遞負面含義），那么在消費者心里，這種對自主決定權的威脅可能就沒那么大。例如，消費者在亞馬遜上買了《指環王》系列叢書中的一兩本，那么接下來他們會收到邀請來“繼續領略托爾金的作品魅力”或“全面了解本套叢書”。這種推薦方式會無形地鼓勵他們按原先選定的道路前行，而不會迫使他們做出改變來彰顯自己的獨立自主性。

保護顧客的隱私 去年，《紐約時報》報道稱，美國至少有75家公司從多達2億部移動設備中收集極其精確的位置信息。美國東北大學的研究者發現，有9，000多個安卓應用得到授權，可以調用所安裝設備上的麥克風與照相機。

利用算法來推導人的行為，有時會很愚蠢，令人氣憤甚至心碎。2018年，一位任職于《華盛頓郵報》的視頻編輯流產了，但線上的孕婦產品廣告還是源源不斷地推送給她，一次又一次撕開她內心的傷口。因為有了社交媒體，這類嚴重侵犯個人隱私的事情很容易就被公之于眾。企業應當小心謹慎，避免過度利用相關數據。

齊夫·卡蒙 羅姆·施里弗特 克勞斯·韋滕布羅赫 楊海洋

大數據分析、機器學習、人工智能（AI）的結合是如今全球經濟中最耀眼的閃光點。根據麥肯錫全球研究團隊（McKinsey Global Research）的估算，到2030年，人工智能的使用給全球經濟的貢獻總量將高達13萬億美元。對人類而言，人工智能帶來的非經濟利益也同樣可觀，它能夠讓世界更加安全（減少毀滅性的人工錯誤），提高人們的生活質量（開車、購物等單調重復事務占用時間更少）。很多人擔心即將到來的自動駕駛會給勞動力市場帶來顛覆性影響。即便如此，我們的生活總體來說還是會變得更好。

但并不是所有人都接受這一點。不看好人工智能應用的預測主要集中在兩大領域，彼此關聯但相對獨立。第一項事關數據隱私。不管怎么說，人工智能是靠數據驅動的，人們不清楚自動化技術掌握了什么隱私信息，也不明白了解到的信息要派什么用場，由此產生的惶惑不安是可以理解的。數字時代的隱私問題已經有人做了廣泛的研究和論述。相關企業正越來越關注如何減輕顧客的擔憂情緒。

然而，有一點許多企業還沒有認真考慮過，那就是自主性。盡管自動技術應用的范圍很廣，而且會越來越廣，但如果超過一定限度，就會威脅到用戶的自主權與自由意志，換句話說，用戶是否還擁有自由選擇生活方式的決定權。最近一項研究發現，當顧客認為服務供應商能夠基于他們過去的選擇，預測其未來傾向時，他們通常會選擇次優方案。也就是說，消費者會有意違背自己的偏好，做出有悖于預測的選擇，以重建個人自主權。

技術與自由意志之間的沖突關系久已有之。費奧多爾·陀思妥耶夫斯基（Fyodor Dostoevsky）在1864年創作的小說《地下室手記》（Notes From Underground）中，借與社會疏離的主人公“地下人”之口對此做了描述。這位主人公認為，即使在一個烏托邦社會，人類也會做出反抗，目的只是想證明“人仍然是人，而非鋼琴琴鍵”。

不幸的是，技術對人的威脅可能會隨著技術創新的加速，以及自動設備不斷進入顧客生活的全新領域而進一步加劇。我們是在最近對哲學、營銷、經濟以及其他一些領域的不同觀點做了調研之后得出上述結論的。但好消息是我們經過分析，還提出了幾條建議，幫助企業開發不會引起顧客仇視的人工智能技術。這些建議可以分成以下三類。

保護顧客的個性特點

自主權的一個重要方面就是個性，個性的意思就是我們每個人都有與眾不同的核心特點，人與人不可能相互取代。這一思想在西方發達社會尤為突出（當然也并不局限于西方）。但現在我們生活在算法的時代，算法可以根據大眾數據對個人的偏好與行為做出準確預計，這對消費者的個性意識構成了挑戰。

舉例來說，現在企業越來越多地使用人工智能驅動的客戶服務機器人，對顧客遇到的問題或咨詢提供基本答案。對許多顧客而言，這些機器人使用起來更方便，相比呼叫中心的客服代表，機器人服務對象更多，同時耗時更少。然而，有些消費者對人機互動還是抱有抵制態度。當人們遇到問題，需要幫助時，許多人渴望得到人工客服的關注。他們可能是受到了早期技術低級、體驗不佳的影響，比如呼叫中心可能只是安排他們走完一套標準化的選項菜單，從不讓他們與人工客服對話。從更廣的范圍來看，許多人不喜歡這種標準化的做法，仿佛他們的問題都大同小異，完全可以用機器人來提供千篇一律的解決方案。

最近一項研究發現人們在生病的時候還是更希望見到醫生或護士，而不是具備醫護功能的機器人（即使有人告訴他們機器人診斷更加準確），因為他們覺得自己的病情有獨特的地方，機器考慮不到這種細微的個體差異。（的確，相比一般的消費行為，醫療決策關系重大，但適用原則并無二致）

一部分技術派人士認為這個問題可以自然得到解決，因為人工智能應用很快就能進化到讓消費者看不出人機差別的程度。但這種靠技術完善來解決問題的策略有時也會事與愿違。谷歌曾經推出的虛擬助手Duplex能夠模仿人類說話，精度之高，令人稱奇，但很快就遭到公眾的撻伐。

不過如果設計手段正確，企業或許都不需要做特別的說服工作。比如，AI機器人可以小步推進，讓每一次互動變得人性化，從而消除用戶對于自主決定權受到侵犯的擔憂。有時候雖然只是一點點人性化改進，收效卻很明顯。2016年的一項研究發現，消費者在選購一些像咖啡、水筆等產品時，如果制作者（人工咖啡師或企業代表）能喊出顧客的名字，一下子就能提高顧客對產品的親切感。另一些正在進行的研究發現，在隨機對照測試中，如果算法對拒絕顧客交易的原因做了簡單說明，那么顧客撥打服務中心電話的可能性就會低于沒有任何解釋說明的情況。

同樣，企業可以設計一些互動環節（和AI機器人互動也行），讓用戶感覺自己對過程有控制權，從而保護他們的個性。著名的宜家效應也是基于此理，顧客買來平板包裝的家具組件，自己動手組裝，他們與所購商品之間由此產生了一種更加緊密的聯系。如果企業努力把互動做得無比順暢便捷，那么消費者就沒有機會表達自己的個性和自主權，也無法加深與相關產品和服務的聯系。如果人工智能可以讓用戶感覺到自己的使用體驗與眾不同，那么就容易得到顧客的青睞。

有些企業可能想用模擬互動的方式來走捷徑，達到同樣的效果。在一項研究中，某個牙醫診所告訴病人在感覺疼痛的時候，可以通過按某個按鈕告知醫生。研究發現病人就醫過程中其實很少撳下按鈕，但擁有自主權的感覺著實讓疼痛有所緩解。

我們從這個實驗中知道，代表選擇權的控制桿，即使是擺設，也能夠滿足人們擁有對環境控制權的愿望。但是一旦這種把戲被揭穿，絕大多數顧客不會喜歡被騙的感覺，因此控制效果無論多小，還是要有一些，這好過完全弄虛作假。說到底，在請顧客參與這件事上，做不做與怎么做，前者肯定更重要。

保護顧客不愿被預測的自由

自由的一個主要方面就是個人可以改變想法，放棄一貫的行為模式，用哲學家的話來說，就是“另辟蹊徑的自由”。對于人工智能的開發者而言，這個問題如影隨形，因為即使是最精細的機器學習算法也難以預測人類的任性作為。消費者越是覺得公司期待他們按照過去的選擇走出下一步（比如商家根據其購買記錄或瀏覽歷史，有針對性推送商品），就越想擺脫這樣的選擇定式。

謹慎選用推送措辭會有所幫助。我們正在進行的一些研究表明，如果把消費者行為描述成“前后一致”（表達正面含義），而不是“可預測”（傳遞負面含義），那么在消費者心里，這種對自主決定權的威脅可能就沒那么大。考慮到這種差異，企業在推薦商品時，如果以邀請顧客完成某項任務，或獲得更多深層知識的形式提出來，那就不大容易激起顧客的反感。例如，消費者在亞馬遜上買了《指環王》（Lord of the Rings）系列叢書中的一兩本，那么接下來他們會收到邀請來“繼續領略托爾金（Tolkien）的作品魅力”或“全面了解本套叢書”。這種推薦方式會無形地鼓勵他們按原先選定的道路前行，而不會迫使他們做出改變來彰顯自己的獨立自主性。

話雖這么說，有時跳出舊習窠臼對消費者是最有利的。舉例來說，有一位近來對身體狀況非常在意的消費者出于健康考慮，減少了含糖蘇打水的攝入。可是當他回到家，發現亞馬遜根據他之前的購買記錄，利用算法自動為他訂購了之前鐘愛的品牌飲料，這時他可能覺得技術在瓦解他的意志力。同樣，一位煙民如果通過App提示或郵件了解到電子煙促銷信息，他可能會很氣憤，感覺戒煙更困難了。

但人工智能是系鈴人，也是解鈴人，它可以幫助消費者擺脫不好的舊習，提升他們的自主意識和消費忠誠度。的確，我們所做的研究認為，算法經過訓練可以找到那些計劃有所改變，讓自己更加積極健康，但落實到行動還需要一點點推動的人。這類消費者的購買行為特別能說明問題，研究者將其定義為“預承諾”。舉例來說，有些消費者擔心自己意志力不夠，抵御不住誘惑，于是他們會給自己做規矩，提高犯錯的難度和代價。比如，“預承諾”的消費者為了減少食用垃圾食品，不再購買那些性價比高的大包裝零食，而改選那些小包裝、單價高的同類商品。還可以再舉一個有代表性的例子，有些設定了高難度目標的人會到stickK.com網站上尋求承諾兌現工具，提高因堅持不下去而付出的代價。

如果消費者傳遞出了“預承諾”信號，而公司想加以利用，那該怎么做？它們可以設計一種算法找到這部分消費者，用更加正規、嚴謹的選項，幫助他們持續改善生活方式。同時對于下決心要有所改變的消費者，公司還可以助推一把，鼓勵他們將長期目標和更高的生活愿望公之于眾。當然，提建議要考慮用戶感受，要用明確的語言告訴用戶，這并非必選項，任何時候都可以禁用或刪除。當人們開始使用這一產品或服務平臺時，人工智能還可以發現在哪些關鍵節點，消費者會更愿意嘗試相關選擇，從而與他們之前聲明的長期目標保持一致。

研究顯示，當人們審視自己的行為時，他們會更加趨近于自己內心根深蒂固的偏好。一項針對美國選民的調查發現，盡管許多選民認為“政策包含什么內容”比“哪個政黨支持某項政策”更重要，更值得考慮，但在投票時，他們還是會選擇政黨。這時如果有人要求他們再仔細考慮究竟該把票投給“政策”還是“政黨”，他們又可能轉變為根據政策內容來做決定，因為這樣更符合他們真正的偏好。選民只需對自己的投票行為多些反思，就會更理解自己做選擇的方式。一個根據消費者過去習慣訓練而成的算法是發現不了這種可能性的。因此，人工智能除了要讓消費者意識到并表達“另辟蹊徑”的自由，幫助他們將種種選擇變得簡單明了，還要給消費者更多機會宣示他們的抱負，或者說“底層偏好”，從而造福他們。

保護顧客的隱私

隱私和自主權是相對獨立但又彼此重疊的關聯概念。在人們想做一些事情，又不希望別人知道的時候，如果必要的保密做不到，那么當事人的決定肯定會受到影響。沒有一定程度的隱私，獨立自主的人就會感到不安全。臉書、谷歌以及其他互聯網公司都提供了隱私設置，算是對隱私有了一丁點兒保護，當然前提是用戶知道如何操作這一設置。

從更普遍的意義而言，互聯網模糊了個人公共歸屬和私人領域的界限。我們拿著數字設備工作的同時，一些個人信息自動傳遞了出去，包括谷歌搜索、約會軟件Tinder配對、YouTube瀏覽、Siri問詢、Alexa請求，以及我們在線做的一切，所有這些都有可能被攔截、被利用，給我們造成不利影響。盡管如此，我們還是心無掛礙地向手里的設備吐露心聲。這一方面證明了當今工程師、設計師善于誘惑人心，另一方面也表明人類容易對一些問題熟視無睹，哪怕它們越來越觸目驚心，直到臨界點的出現。

現在我們已經過了這個臨界點，因為人們越來越意識到，個人網上隱私所面臨的威脅不僅僅來自那些網絡罪犯。去年，《紐約時報》（The New York Times）報道稱，美國至少有75家公司從多達2億部移動設備中收集極其精確的位置信息，個人用戶每天被追蹤的次數多達1.4萬次。美國東北大學（Northeastern University）的研究者發現，有9，000多個安卓應用得到授權，可以調用所安裝設備上的麥克風與照相機。研究人員還發現有些應用程序可以隨意獲取用戶的個人活動數據，并且把這部分數據傳輸給第三方。

最近美國聯邦貿易委員會（U.S. Federal Trade Commission）對YouTube處以1.7億美元的罰款，因為后者收集了不滿13歲的兒童個人信息，用于優化在線廣告的推送。

利用算法來推導人的行為，有時會很愚蠢，令人氣憤甚至心碎。2018年，一位任職于《華盛頓郵報》（The Washington Post）的視頻編輯流產了，但線上的孕婦產品廣告還是源源不斷地推送給她，一次又一次撕開她內心的傷口。

因為有了社交媒體，這類嚴重侵犯個人隱私的事情很容易就被公之于眾。如果哪家公司的人工智能解決方案最終給消費者造成了情感上的傷害，那么它也會反受其害。

由于對數字化隱私的關切已經到了臨界點，力量的天平正在從科技公司向用戶傾斜。歐盟的《通用數據保護條例》（General Data Protection Regulation， GDPR）就是一個很好的例子。我們的建議是，面對趨勢轉變，公司不應該抗拒，而應該積極擁抱變化，主動尋找辦法讓用戶對于個人數據的使用擁有更大的掌控權。蘋果公司（Apple）CEO蒂姆·庫克（Tim Cook）已經把妥善處理顧客隱私作為品牌差異化的重要手段。如果措施得當，更平等、更透明的隱私政策將讓所有人受益。

保護好隱私和自主權，需要人們重新思考敏感信息如何得來，最終用途何在。盡管發生了幾樁臭名昭著的侵權事件，但算法在互聯網搜索、社交媒體點贊等信息輸入的基礎上，將會越來越準確地預測出用戶所需。企業應當小心謹慎，避免過度利用相關數據，它們還是要繼續讓用戶感到喜歡什么是自己的事，而且別人不會知道。

一項正在進行的研究項目顯示，消費者如果覺得自己在做決定時，一直受到監視，他就會認為他的自主決定權受到了嚴重威脅。相比之下，已決定好的事情，別人把它透露出去，這給當事人帶來的影響則要輕微一些。有鑒于此，當給顧客推薦商品時，說“根據您之前的購買記錄”要比“根據您之前的瀏覽歷史”好一些，前者對消費者自主意識的威脅要小。我們的研究發現，對消費者而言，跟蹤已經完成的購買（相當于公開表達對某些產品和服務的需求）相對公平，而界定模糊的在線監控則有失公平。

安撫“地下人”

讓我們把話說明白：我們并不認為基于算法的創新應該停止前進，或放慢腳步。相反，我們的觀點是，有了這些新技術，人們的生活與經濟發展才不斷得以改善，其影響之深遠，已超出人們的想象。

但是，公眾對技術越來越心存恐懼和顧慮，互聯網企業不能對此再不聞不問。人類需要自主決定權，但技術對此構成了威脅。如果科技行業解決不了這個問題，就可能會激起消費者的持續憤怒，并招致后續的嚴格監管。例如，現在越來越多的政府官員要求算法有更高的透明度，這將是對創新的強大約束。相比之下，我們在本文中提出的幾項用于保護自主決定權的措施則要溫和得多。

激進的變革并無必要。但如果只是把一兩件小事的控制權交到消費者手里，那也明顯不夠。借用陀思妥耶夫斯基的話來說，要真正將“地下人”安撫好，我們要避免有任何舉動威脅到人們對自主決定權的需求，同時把一些旨在幫助用戶重獲自我意識的應用特點與功能整合起來，避免使人淪為鋼琴琴鍵。