人工智能背景下交互設計倫理研究

宗威 徐安妮

關鍵詞：人工智能;交互;設計;倫理;原則

如今交互無處不在，人們在聊天、游戲、駕車、旅行、工作、學習、醫院看病等一切生活活動中都需要與不同的對象、以不同的方式進行交互。隨著人工智能不斷地拓寬交互的視野和維度，交互設計也為人們帶來了更加便利和良好的體驗。但是，面對快速發展的交互設計，不應只看到其益處，也應時刻審視其被掩蓋的弊端，讓具有社會視野的設計肩負起社會責任。

1 人工智能概述

人工智能最早是在1956 年的Dartmouth 會議上首次被提出的概念。雖然始終沒有統一的定義，但其中的技術和內容并無差異。目前的人工智能是與人類智能相對應的機器智能，可以直接繼承和模仿整個人類群體的智慧成果，并將智慧成果集中在一個載體上，如手機、工具、機器人等。它是一種能夠感知環境，最大限度地完成任務的設備。人工智能通過機器主動感知，刪減和優化用戶的非必要任務路徑，提供最優方案來幫助用戶高效地完成任務[1]。利用人工智能可以完成同質性、重復性和模仿性的工作。

現階段，人工智能的內容大致有四個部分，即機器學習、圖像識別、自然語言處理和人機交互。機器學習是人工智能的關鍵技術，其核心是算法，如深度學習是使人工智能其他技術得以發展的基礎。圖像處理技術可以讓機器識別人類眼中的圖片，對圖片做出分析和提取，從而識別目標對象。自然語言處理是指計算機模擬人類的邏輯思維理解分析，可建立人與機器之間的語言轉換，也可用于文本轉換、分類識別和語音轉換。人工智能也促進了交互技術的發展，如語音、人臉識別、手勢識別等。在智能時代背景下，交互無處不在，人類感知現實世界、與機器互動的能力得到加強和延伸。運用語音、文字、圖像、手勢、動作等進行交互，成為生活中隨時發生的一種自然交互現象。

2 交互設計概述

交互設計最早是針對各類軟件或程序的顯示選擇界面的設計，依靠顯示器、鍵盤和鼠標等設備達到通過人類的輸入與計算機的輸出完成交流的目的。隨著交互技術的發展，不斷拓寬交互設計的視野和維度。基于觸摸、語音、體感、眼動和生理信號等形式的自然交互不斷發展完善;交互流程與模型也不斷優化，打破了從感知到認知再到交互行為的解構與重構的交互設計過程，從傳統“輸入—反饋”的單向從屬關系過渡到“推薦—選擇”的雙向訓練關系[2]。目前，只要是通過互動來實現功能、滿足人們需求的設計，都可以被稱之為交互設計[3]。其目標可分為“可用性”和“用戶體驗”兩個層面，關注以人為本的用戶需求。設計重點由實體層面轉向信息層面，設計師不僅創造產品，更創造信息交流方式，包括定義產品的行為和使用密切相關的產品形式、預測產品的使用如何影響產品與用戶的關系，以及用戶對產品的理解。

3 設計倫理概述

設計倫理一方面建立在社會思想發展的基礎之上，另一方面建立在科學技術的發展之上。早期中國古代的造物思想就受中國哲學思想的影響，如道家的“道法自然”是關于設計中人與自然和諧相處的真知灼見;墨子提出的“兼相愛，交相利”要求設計不僅要“利己”，還要利于他人、利于社會、共謀福利等[4]。最早從西方國家誕生的設計倫理這一概念，則是工業時代設計發展的必然結果。20 世紀60 年代，美國設計家維克多· 帕帕奈克反思自工業革命以來的設計，在《為真實的世界設計》中首次提出了設計倫理的概念，使設計師們逐漸意識到設計的社會責任。我國的設計倫理研究從近二十年開始，多數是圍繞設計價值屬性的研究和拓展，整體論述我國早年設計中存在的問題。但隨著時代技術的發展，設計的研究對象已經從有形產品發展到無形產品，工業時代背景下的設計倫理已經不能適應人工智能時代的快速變化，受技術發展影響的設計倫理亟需更新，尤其是對于受時代影響較大的設計細分領域，如有關交互設計的倫理研究則是當前所缺少的。

4 人工智能背景下交互設計倫理現存問題分析

4.1 微觀倫理問題

4.1.1 交互設施對生理的影響

早期的人機交互設施是鍵盤和顯示器。操作員通過鍵盤輸入命令，操作系統收到命令后通過顯示器顯示結果。鍵盤與顯示器一直是人機交互的主要媒介之一，在帶來交互便利的同時也潛移默化地對使用者造成了危害。2008 年福布斯評選出的給用戶造成傷害的七大技術之一就是計算機鍵盤設計的不合理性。由于使用者操作時需要長時間保持同樣的姿勢，不符合人機工程學的交互設施很容易造成頸椎病、鼠標手、局部肌肉發達、頭痛等生理問題。

互聯網教育時代迎來了新的教學考試方式，即通過點擊鼠標、敲擊鍵盤進行答題互動，且大部分交互信息通過視覺進行傳達。不僅導致越來越多的人提筆忘字，書寫能力喪失，而且隨著人們接觸電子設備的時間頻率不斷增加，出現視力問題的人數也隨之增加。如果在使用不當的情境下，如睡前在黑暗中長時間對著發光的屏幕，會抑制褪黑素的生成，從而導致人處于淺睡眠狀態，造成慢性勞損;橫躺時給眼睛的壓迫力還會造成視力偏差、干眼病等問題。

4.1.2 交互反饋機制對心理的影響

《連線》前主編凱文· 凱利曾說道：“人類在信息網絡里的注意力不斷分散，生活完全碎片化。”2000 年，微軟加拿大公司報告說，普通人的注意力跨度是12 秒。2013 年，隨著智能手機和社交網絡的興起，這一數字降至8 秒。應用的各種消息通知、社交應用的無限下拉刷新消息源、視頻網站下一集的自動播放、資訊應用總有熱門的話題標簽...... 這些現象不斷占用用戶的時間和注意力，造成用戶的行為上癮，生活娛樂發生變化，逐漸都走向“單向度的人”。心理學博士亞當· 奧爾特在《欲罷不能》一書中總結了上癮行為的六個要素分別是誘人的目標;不可抗拒的積極反饋;毫不費力的進步;不斷升級的挑戰;未完成的緊張感;令人癡迷的社會互動。而這些令人上癮的因素在游戲、娛樂視頻及社交軟件的交互設計上都有體現。

1） 游戲交互的影響。近幾年火爆的單機小游戲幾乎都有這樣的特征，首先，操作簡單，玩家可以擁有發現游戲秘密的快感和幾乎毫不費力的進步。如“跳一跳”只有一個點按屏幕的動作，通過幾次嘗試反饋就可以掌握規則，并能越跳越遠不斷刷新自己的記錄。其次，有簡單明確的目標且能得到及時反饋，形成心流體驗。如“消消樂”的目標是要在規定步數內將三個以上相同形狀連線，就能累積積分解鎖下一關。每次動作都能帶來視覺上的障礙消除、聽覺上的愉悅贊賞以及可視化積分累加的激勵，即使沒有過關，得到的反饋也是在溫和地告訴玩家“距離過關就差一步”，鼓勵再次嘗試。最后，玩家在游戲體驗中能夠獲得減輕日常生活壓力的輕松感。如“合成大西瓜”的核心體驗就在于連鎖反應合成時釋放了前期積攢的壓力，仿佛隨著音效“砰”的一聲變小的不是大西瓜而是自己身上的壓力。總之，這類休閑游戲從視聽元素的設計到簡單規律化的規則設置都會使玩家一旦開始就很難停下來。

一些移動、PC 端聯網游戲如“王者榮耀”“英雄聯盟”的交互設計中，引發上癮的原理也是相似的。在這種游戲中任何預期行為都時刻被施加一種正向強化反饋。如操作某一按鍵就能看到相應的技能被釋放，且絢麗多變的技能與技能屬性的語義表達相匹配;擊打敵人造成的傷害會通過數字顯示和血量的變化構成更加細致的圖文動態反饋;擊殺敵人后還會有金幣數量、經驗數值等可視化的獎勵提升，這些反饋體驗都會帶給玩家足夠強大的正向刺激。另外，這類游戲還會通過段位積分等排名機制的變動激發人們競爭的本能。邀請好友組隊的設置不僅可以拉近人們關系還可以賦予一種不同于現實世界的社會認同感。無論是何種游戲都是通過這些甚至玩家都意識不到的交互細節及背后的心理刺激并控制著玩家的行為。

2） 視頻軟件交互的影響。以“抖音”為例，在“抖音”的推薦頁面，在每次手指上滑出現新頁面前，永遠都不能準確猜到下個視頻是什么內容，這種不可預測的內容反饋就充分調動了人們的好奇心，不斷產生想要知道下一個視頻是什么的循環。另外，人工智能算法可以在交互設計中搭建智能推薦系統，創建不同需求的用戶模型。隨著推薦系統的完善，交互形式從傳統的“輸入—反饋”單項反饋過渡到“推薦—選擇”雙向反饋，用戶刷到的視頻多與自己喜歡的內容相關，加上背景音樂，在視覺與聽覺的雙重刺激下不僅會帶來沉浸式體驗，而且增加了視頻整體的容錯率，即便視頻內容或背景音樂不受觀眾喜愛，也不會產生過多的負面情緒。“抖音”里一個重要的交互就是自動循環播放。手指剛一上劃，大腦的底層感官就會第一時間接收到聽覺和視覺的刺激，全屏顯示并配有個性化背景音樂的視頻撲面而來，而負責理性思考的大腦前額皮質則會慢上半拍。因此，人們總會先接收到視頻的圖像和音樂，接著才會去思考這個視頻表達的內容及需要對其作出的反應是點贊或是滑走。另外，“抖音”里的“點贊”被放在了一個最方便手指接觸到的位置，點擊“點贊”按鈕后，一顆紅心會跳出來填滿按鈕。無論是反饋形式中的動態表現、愛心形式或是明亮的紅色，都可以及時給到點贊者一個積極的反饋。

3） 社交軟件交互的影響。點贊功能自出現起一直被國內外各大社交平臺沿用至今，但這個設計也不斷影響著用戶的情緒。他們在自己的新動態被贊后會產生暫時的滿足感，也會期待更多的點贊，隨著期待值的增加會更加關注點贊數量，不斷刷新界面期待著更多人的點贊反饋，而一旦沒達到期望則會產生更大的焦慮，人們的情緒變得愈發脆弱。

社交軟件增加了人們遠距離的交流體驗，但也減少了與真人面對面溝通的時間和經驗，成為如今社交恐懼癥群體增加的社會背景。早年的社交軟件只通過文字進行交流，內容可以在發送前多次刪改，也可以很好地隱藏情緒。隨著語音識別技術的發展，出現了語音交流，雖然語音中可以流露一些情緒，但及時取消發送的功能卻給了用戶整理情緒與梳理邏輯的機會。語音通話與傳統打電話并無區別，視頻通話與面對面交流相比，隔著屏幕會給用戶更多的安全感。文字、語音交流是目前人們的主要交流方式，其可延時回復的特性給了表達者更多準備的時間。這也導致越來越多的人喜歡隱藏自己，能夠視頻就不見面、能語音通話就不視頻、能逐條發語音就不實時語音通話、能發文字就不發語音，人們更愿意隱藏自己的情感和深思熟慮的表達。

4.2 宏觀倫理問題

4.2.1 交互過程對老年群體的影響

在2021 年全國人民代表大會、中國人民政治協商會議上政協委員就適老化提案指出“很多數字產品在設計之初，忽視了老年人的用戶體驗”問題。智能時代的產品外形日益簡化，內容卻越來越復雜，不僅不符合老年用戶的認知，還會造成記憶負擔，他們很容易在界面層級和交互動作中不知所措;在年輕人中流行的語音、手勢交互也并不符合老年群體的生活習慣;缺少物理反饋的觸屏操作只有視覺反饋，這對視力惡化的老年人而言也是糟糕的體驗[5]。目前，市場上多數智能產品或是各領域中的服務設備，其交互系統很少以老年群體為測試標準，這些與老年人生理特征、認知特點、生活習慣等方面不符的交互設計使老年群在這個時代的生活舉步維艱。

4.2.2 交互過程中的責任風險問題

在醫療健康領域，隨著醫療系統的智能發展，提前探討其中的倫理風險是必要的。如果醫療過程中因機器功能障礙隱患導致病患受到影響，該如何避免又或是在什么程度上被允許。再如，一個提醒病人吃藥的智能產品，在病人拒絕服藥時他應該如何處理？順從病人會影響病人的身體康復;堅持讓病人服藥則會損害病人的自主權。在一些特殊的兩難選擇時，交互設計倫理應該從哪種維度進行道德價值評估、可以下達怎樣的指令才算合理，這些懸而未決的問題都應該被提前探討，以降低交互過程中的危害及爭議。

在交通出行領域，自動駕駛輔助系統是汽車人工智能領域最熱門的方向。它利用計算機視覺和語音識別技術感知行車環境，識別車內人員，了解乘客需求，顛覆了傳統的人與汽車之間的交互關系。但由于物體的種類具有多樣性和復雜化，所以機器對于人與物的體貌特征的識別并不具備較高的準確性，因此目前自動駕駛輔助系統還難以處理隨著全息交互而不斷變化的人與自然環境的關系。在未來，駕駛者與汽車該呈現怎樣的交互關系、在遇到極端的困境時自駕系統該做出怎樣的反應，都需要在設計時提前考量。

5 人工智能背景下交互設計倫理原則

5.1 以延續基本交互設計原理為原則

針對工業產品：首先，要確保其安全性，預計可能發生的安全問題，避免因設計造成安全隱患;其次，要符合人機工程學，確保工作效率。針對生活產品：首先，要達到可用性，便于記憶、理解和使用;其次，要保障良好的用戶體驗，即生理上，盡量保證身體和感官的舒適度;心理上，提升感知美學體驗，提供情感正反饋，具有一定自我價值的體現，提高使用滿意度。

5.2 以給予老年群體更多關懷為原則

給出更具有針對性的交互策略，刪減無用交互步驟、適當隱藏一些非核心功能，避免增加他們的使用負擔;盡量保證交互時的語義傳達與交互方式符合他們的認知習慣;以他們的身心特征為基礎，恰當地利用各感官通道之間的補償機制，以達到最適合的交互效果，給予他們更多的關懷。

5.3 以防止用戶沉迷上癮為原則

設計者應從產生有益價值，而不是制造上癮的出發點去設計產品。將這些容易致癮的交互方式多用在學習類產品的交互設計中，使用戶從沉迷娛樂轉向愛上學習。具體講，可以為不斷地下拉刷新和沒有盡頭自動循環的推薦視頻設置一個“暫停頁”，給用戶一個察覺自己深陷其中應及時抽身的機會，適當控制用戶的使用時間。減少不重要信息的推送，弱化不重要信息的推送提醒，減少對用戶注意力的吸引頻率。由于通過色彩進行視覺刺激是屏幕上吸引注意力的簡單方式，如紅色的未讀消息提醒，因此在一些不重要的交互色彩中可以用冷色或是適當將色彩抽離用灰度降低對用戶的強制吸引。

5.4 以增加設計中的情感交流為原則

通過交互式體驗，依托產品功能和使用方式，對使用者的情緒進行接納吸收，引導、鼓勵使用者的情感宣泄和釋放。通過參與式設計， 給用戶自己DIY 的機會或適當增加用戶可以自定義的功能，以滿足用戶群的個性化需求，增加用戶與產品間的專屬情感。通過共享服務設計，促進人與人之間的交流。由于共享設計所服務的群體具有多樣化的特點，可以使擁有不同年齡、生活經歷的人有機會接觸彼此，用設計將人們連接起來，人人參與，強化自身的社會認同感。

5.5 以提高設計責任為原則

在協同發展的時代，人與智能機器和諧的前提是要不斷對其進行道德約束，從機器的內在機制考慮如何讓其學會人的評判標準，產生合理結果。盡量對道德標準量化評估，提前考慮一切可能出現的風險，并公開責任倫理指標。另外，要提升設計師的社會責任感，因為就目前而言，解決人工智能產品的設計倫理問題，只能建立在產品設計者的倫理自覺上[6]。這就需要設計者在設計時普遍提高對設計責任的認知，著眼于長遠利益，平衡人、環境、社會的三者關系，發揚人性中的真善美。

6 結語

在人工智能背景下，交互設計已經成為一把懸在每個人頭頂的雙刃劍，在帶來便利體驗的同時也帶來危害，作為執劍的設計者不應一味地設計而不進行道德反思。交互設計的發展不是為了滿足人們的貪嗔癡念，而應該是通過機器更好地將人們與世界連接，讓機器更好地為人們服務，形成符合人類價值的交互設計。因此，通過交互設計倫理研究期望培養設計者自省力與責任感，促使人機交互和諧發展、社會向善發展。