人工智能商業(yè)環(huán)境下消費者信任研究綜述

李丹丹

[摘 要]伴隨著人工智能的快速發(fā)展，消費者信任成為人工智能商業(yè)應用的主要障礙。文章在對國內(nèi)外關于人工智能消費者信任相關研究文獻梳理的基礎上，分別從消費者信任與人工智能商業(yè)應用的關系研究、消費者信任與人工智能風險因素研究、消費者信任與透明化人工智能發(fā)展研究三個方面進行了綜述，并對我國人工智能環(huán)境下消費者信任研究提出建議。

[關鍵詞]人工智能;消費者信任;風險;透明化

2019年10月23日英國《自然》雜志刊登了谷歌關于實現(xiàn)“量子霸權(quán)”的論文，文中說谷歌公司量子計算機200秒的計算量，當前最先進的傳統(tǒng)超級計算機需要花費1萬年時間[1]。與此同時，一批來自谷歌及加拿大高校、研究所的專家正在通過圖神經(jīng)網(wǎng)絡來“訓練”人工智能的嗅覺，同時研究人員還嘗試讓機械臂獲得觸覺。人工智能的各個方面都在飛速發(fā)展，而人工智能基于算法的自主決策系統(tǒng)早已被廣泛應用于數(shù)據(jù)挖掘、搜索引擎、自然語言處理、生物特征識別、醫(yī)學診斷、新聞、教育、就業(yè)、保險、投資、廣告、治安和機器人等領域[2]。據(jù)2016年美國自由職業(yè)者網(wǎng)站Time ETC研究顯示，盡管人工智能為人類生活帶來很多便利，人們與人工智能的互動也變得越來越頻繁，但許多美國人并不信任它們，54%的美國人甚至稱從未與人工智能接觸過[3]。雖然我國“互聯(lián)網(wǎng)+”、數(shù)字經(jīng)濟已經(jīng)處于世界領先地位，但人們對“貼心”推送廣告的擔憂，以及人工智能可能的風險甚至對超人工智能“奇點”來臨的恐懼[4]，使得許多消費者不信任人工智能或者對人工智能保持警惕。因此，如何讓消費者信任人工智能已經(jīng)成為人工智能商業(yè)應用的關鍵核心問題。

1 消費者信任及其與人工智能商業(yè)應用的關系研究

如果將消費實踐簡化為消費者與商家之間的交換行為，那么消費者信任是交易行為得以成功的前提[5]，只有有了信任人們才可能去實施某一行為[6]。經(jīng)濟學家認為消費者信任是經(jīng)濟交換的潤滑劑。傳統(tǒng)現(xiàn)實消費中，消費者信任會通過感官系統(tǒng)等方式對交易雙方真實信息不斷地掌握、驗證、鞏固，但人工智能環(huán)境下，原有的消費者信任模式被打破，消費者信任不僅變?yōu)榛诜柡托畔⒌呐袛嘈越煌訌碗s的是交往對象也由傳統(tǒng)消費單一的交易主客體關系演進為既包含傳統(tǒng)主客體關系又包含消費者與人工智能環(huán)境關系的兩種關系，且在消費者信任建立過程中這兩種關系不是獨立的，而是相互關聯(lián)影響的。

消費實踐中產(chǎn)生的不確定性和風險是消費者信任產(chǎn)生的根本原因，在完善的契約關系中消費者信任是沒有必要存在的，消費者信任可以降低交易過程中的不確定性和風險。在人工智能商業(yè)環(huán)境下，存在著較高的不確定性和風險，許多的研究發(fā)現(xiàn)消費者信任是消費者智能網(wǎng)購意愿的決定因素[7]。由此可知，人工智能商業(yè)應用的核心是消費者信任建設，消費者信任是人工智能商業(yè)應用發(fā)展的當務之急。

2 消費者信任與人工智能風險因素研究

2.1 消費者感知風險

感知風險概念是由哈佛大學的鮑爾從心理學引入營銷學的，他將感知風險定義為：由消費者的行為產(chǎn)生的、而他自己不能明確預期的后果[8]。感知風險的后果有兩種類型：一種是產(chǎn)品本身性能屬性的不確定性;另一種是購買產(chǎn)品后帶來的時間、貨幣、心理等損失的不利后果。人工智能既是產(chǎn)品又是環(huán)境的雙重屬性，使消費者能夠同時感知到兩者。隨著人工智能由弱人工智能走向強人工智能直到超人工智能，以及人工智能不透明的“思考決策”過程，消費者首先感知到人工智能環(huán)境可能帶來“被控制”的不利后果;同時人工智能產(chǎn)品可能產(chǎn)生的隱私侵權(quán)甚至人身傷害權(quán)責混亂風險，也使得消費者同時感知到人工智能產(chǎn)品“不安全”的不確定性。基于感知風險對消費者信任有負向影響作用，[9]因此，消費者會因為人工智能感知風險大而降低對人工智能的信任度。

2.2 消費者被控制風險

現(xiàn)代人已經(jīng)生活在人工智能算法時代，隨著人工智能算法的不斷演進，算法代替人類做決策越來越多，全球經(jīng)濟政治的運行模式正在發(fā)生改變。人工智能算法不僅是一項新技術(shù)，它已經(jīng)是新的生產(chǎn)要素，更可能是新的權(quán)力形態(tài)，財富和權(quán)力可能會逐步集中在“數(shù)字精英”手中。Google（谷歌）、Facebook（臉書）、阿里巴巴、百度等科技企業(yè)都是短時間積累了千億、萬億資產(chǎn)的科技型企業(yè)，它們無一例外的在人工智能領域投入巨額資金并已經(jīng)擁有了較大的技術(shù)領先優(yōu)勢。目前，消費者被人工智能算法控制的主要體現(xiàn)是隱私被記錄、意識被誘導，即所謂的“懂你的人傷你最深”[10]。如果未來人工智能算法不透明問題沒有完全解決，消費者被控制風險有可能上升到消費者階級被控制，造成前所未有的社會及政治不平等[11]。再往后甚至有可能演變?yōu)橄M者種群被控制。因此，消費者普遍對被控制風險表現(xiàn)出擔憂甚至恐懼[3]，所以現(xiàn)階段消費者對人工智能的信任度較低。

2.3 消費者責任風險

人工智能的快速發(fā)展，在商業(yè)應用中必然會逐步替代人類勞動。目前，人工智能自動駕駛交通事故、無人機錯判誤殺平民等現(xiàn)象就遇到了權(quán)責混亂、無法追究的問題，人工智能“給我們帶來無盡欣喜與期望的同時，也逐漸挑戰(zhàn)著我們既有的法律、倫理與秩序”[12]。 即使將人工智能的錯誤或不當行為都歸咎到設計師、程序員，然而“程序有可能是由眾多的人共同開發(fā)的，程序的產(chǎn)生可能無法追蹤到某個具體的個人或組織”[13]。因此，消費者使用人工智能產(chǎn)品的責任風險較大，使得消費者對人工智能產(chǎn)品的信任度偏低。

科研人員發(fā)現(xiàn)，人們對人工智能的錯誤很“敏感”[14]，人們會帶著各種“偏見”放大人工智能的風險因素。在消費者的意識里人工智能的各種風險會成倍增長，這種狀態(tài)困擾著消費者并始終揮之不去，其結(jié)果是許多消費者選擇不信任人工智能或者對人工智能保持警惕。

3 消費者信任與透明化人工智能發(fā)展研究

人工智能崛起，要么是人類歷史上最好的事，要么是最糟糕的[15]。人類如何“引導”人工智能決定了其未來的發(fā)展方向，現(xiàn)有人工智能風險并非它的天然屬性，而是技術(shù)發(fā)展不確定性因素導致負面效應的體現(xiàn)[16]。理論上來講人工智能的問題都可以通過新的技術(shù)發(fā)展得到解決，難點在于如何影響技術(shù)向某個方向發(fā)展。透明化人工智能就是在人工智能消費者不信任的背景驅(qū)動下，通過新技術(shù)發(fā)展讓人工智能全部的“思考、判斷”過程都能被消費者看到、聽到、感覺到，讓消費者對人工智能“知人知面又知心”。

3.1 人工智能軟件透明化

人工智能環(huán)境以及智能產(chǎn)品都由智能軟件實際管理運作著。人工智能軟件又被稱為“算法黑箱”，這是因為消費者既看不到它的思考邏輯，也看不出它什么時候思考、思考什么內(nèi)容，只有完全打開“算法黑箱”才能實現(xiàn)人工智能軟件透明。加利福尼亞大學伯克利分校和馬克斯普朗克信息學研究所的研究提出了一種能夠自我解釋的算法，有助于人類理解人工智能的決策過程。人工智能軟件技術(shù)發(fā)展不僅要能實現(xiàn)100%透明運行，還要能讓消費者自由的參與，比如允許消費者對軟件算法進行適當?shù)男薷摹?/p>

3.2 人工智能硬件透明化

人工智能產(chǎn)品硬件透明化更多的是為了配合軟件透明技術(shù)進行的硬件選材。比如智能產(chǎn)品硬件可以采用全透明材料制作，內(nèi)部選裝光、聲、溫度、煙等感應設備，這樣既可以將軟件反饋信息的字符直接顯示在透明機體上，又可以將軟件運算狀態(tài)、反饋信息通過光、溫度、聲音等方法直接、準確地“表達”出來。同時，透明的智能產(chǎn)品材質(zhì)可以使消費者直觀的看到系統(tǒng)“思考區(qū)域”，有效地避免了人工智能產(chǎn)品去中心化衍生的責任安全問題。

百度創(chuàng)始人李彥宏說，“‘悶頭憋軟件的移動互聯(lián)網(wǎng)時代已經(jīng)結(jié)束，軟硬件結(jié)合的人工智能時代已經(jīng)來臨”[17]。透明化人工智能通過強大開放的軟件和先進透亮的硬件的結(jié)合，真正實現(xiàn)了人工智能既擁有超強能力又獲得消費者信任的設計目標。

4 總結(jié)

目前國內(nèi)外對人工智能的研究主要集中在技術(shù)研究、倫理建設等角度，從消費者視角探析人工智能商業(yè)應用中消費者信任問題的研究比較少。本文從消費者信任與人工智能商業(yè)應用的關系入手，重點分析了消費者視角下人工智能的風險因素以及透明化人工智能發(fā)展的必要性。雖然影響人工智能發(fā)展方向的因素有很多，但是上述研究論述無疑證明了透明化人工智能發(fā)展對消費者信任以及對人工智能商業(yè)應用的重大意義。

我國人工智能的研究幾乎與世界同步，但人工智能商業(yè)應用卻走在了世界的前列，在智能支付、智能共享等經(jīng)濟領域，科技創(chuàng)新結(jié)合巨量市場已經(jīng)打造出了世界第一的人工智能市場經(jīng)濟。筆者在國內(nèi)外已有研究基礎上，結(jié)合我國人工智能發(fā)展現(xiàn)狀來研究人工智能環(huán)境下消費者信任情況，構(gòu)建中國基于消費者信任的人工智能發(fā)展理論，這對正確引導我國國民和企業(yè)制訂科學合理的發(fā)展計劃具有重要的理論意義和現(xiàn)實意義。

參考文獻：

[1] 王露露.新的計算機時代已到來？英媒：谷歌宣稱實現(xiàn)量子霸權(quán)[EB/OL].（2019-10-25）[2020-08-07].http：//www.cankaoxiaoxi.com/science/20191025/2393802.shtml.

[2] 汝緒華.算法政治：風險、發(fā)生邏輯與治理[J].廈門大學學報（哲學社會科學版），2018（6）：27-38.

[3] 郭浩.研究顯示美國人不信任人工智能系統(tǒng)[EB/OL].（2016-05-31）[2020-08-07].http：//tech.163.com/16/0531/18/BODOG9NC00097U7R.html.

[4] 瑪格麗特·博登.AI：人工智能的本質(zhì)與未來[M].孫詩惠，譯.北京：中國人民大學出版社，2017：175.

[5] BRANN PETER，F(xiàn)ODDY MARGARET.Trust and the consumption of a deteriorating common resource[J].Journal of Conflict Resolution，1987，31（4）：615-630.

[6] NIKLAS LUHMANN.Trust and power [M].London：Polity，2017：101-105.

[7] JARVENPAA S，TRACTINSKY N，VITALE M.Consumer trust in an internet store [J].Information Technology Management，2000，1（1）：45-71.

[8] 馮建英，穆維松，傅則田.消費者的購買意愿研究綜述[J].現(xiàn)代管理科學，2006（11）：7-9.

[9] 江若塵，徐冬莉，嚴帆.網(wǎng)絡團購中感知風險對信任及購買意愿的影響[J].現(xiàn)代財經(jīng)：天津財經(jīng)大學學報，2013，33（1）：87-96.

[10] 翟冬冬.大數(shù)據(jù)殺熟：最懂你的人傷你最深[N].科技日報，2018-02-28.

[11] 尤瓦爾·赫拉利.未來簡史[M].林俊宏，譯.北京：電子工業(yè)出版社，2017：290.

[12] 騰訊研究院.人工智能：國家人工智能戰(zhàn)略行動抓手[M].北京：中國人民大學出版社，2017：322.

[13] 王利明.人工智能對民法的挑戰(zhàn)[N].中國城市報，2017-09-11（22）.

[14] 倪偉波.人工智能的信任危機[J].科學新聞，2018（2）：51-53.

[15] 李醒民.人工智能技性科學與倫理[J].社會科學論壇，2019（4）：179-203.

[16] 張衛(wèi)良，何秋娟.人工智能時代異化勞動的技術(shù)形態(tài)及其揚棄路徑[J].理論探索，2019（3）：28-35.

[17] 余來文，封智勇，劉夢菲，等.智能革命[M].北京：經(jīng)濟管理出版社，2017.