AI系統如何不遭人恨

齊夫·卡蒙 羅姆·施里弗特 克勞斯·韋滕布羅赫 楊海洋

大數據分析、機器學習、人工智能的結合是如今全球經濟中最耀眼的閃光點。但也有人不看好人工智能應用，第一個原因就是侵犯數據隱私。人工智能是靠數據驅動的，人們不清楚自動化技術掌握了什么隱私信息，也不明白了解到的信息要派什么用場，由此產生了擔憂和不安。

第二個原因就是侵犯用戶的自主決定權。當顧客認為服務供應商能夠基于他們過去的選擇，預測其未來傾向時，他們通常會選擇次優方案。也就是說，消費者會有意違背自己的偏好，做出有悖于預測的選擇，以重建個人自主權。

企業要想開發不會引起顧客仇視的人工智能技術，需做到以下幾點。

保護顧客的個性特點 自主權的一個重要方面就是個性。當人們遇到問題需要幫助時，他們渴望得到人工客服的關注，而不喜歡機器人提供千篇一律的解決方案。人們在生病的時候也更希望見到醫生或護士，而不是具備醫護功能的機器人，因為他們覺得自己的病情有獨特的地方，機器考慮不到這種細微的個體差異。

不過人工智能的機器人可以小步推進，讓每一次互動變得人性化。在一項隨機對照測試中，如果算法對拒絕顧客交易的原因做了簡單說明，那么顧客撥打服務中心電話的可能性就會低于沒有任何解釋說明的情況。

保護顧客不愿被預測的自由 自由的一個主要方面就是個人可以改變想法，放棄一貫的行為模式。消費者越是覺得公司期待他們按照過去的選擇走出下一步（比如商家根據其購買記錄或瀏覽歷史，有針對性推送商品），就越想擺脫這樣的選擇定式。

謹慎選用推送措辭會有所幫助。如果把消費者行為描述成“前后一致”（表達正面含義），而不是“可預測”（傳遞負面含義），那么在消費者心里，這種對自主決定權的威脅可能就沒那么大。例如，消費者在亞馬遜上買了《指環王》系列叢書中的一兩本，那么接下來他們會收到邀請來“繼續領略托爾金的作品魅力”或“全面了解本套叢書”。這種推薦方式會無形地鼓勵他們按原先選定的道路前行，而不會迫使他們做出改變來彰顯自己的獨立自主性。

保護顧客的隱私 去年，《紐約時報》報道稱，美國至少有75家公司從多達2億部移動設備中收集極其精確的位置信息。美國東北大學的研究者發現，有9，000多個安卓應用得到授權，可以調用所安裝設備上的麥克風與照相機。

利用算法來推導人的行為，有時會很愚蠢，令人氣憤甚至心碎。2018年，一位任職于《華盛頓郵報》的視頻編輯流產了，但線上的孕婦產品廣告還是源源不斷地推送給她，一次又一次撕開她內心的傷口。因為有了社交媒體，這類嚴重侵犯個人隱私的事情很容易就被公之于眾。企業應當小心謹慎，避免過度利用相關數據。