論情緒識別技術的倫理風險及其防控

謝 小 飛，吳 家 華

(安徽大學 馬克思主義學院，合肥 230601)

情緒識別(Emotion Recognition)是一種利用公眾個體的面部表情、身體姿態、語音語調等特征來進行心理活動監測的新技術，它能夠捕捉到人類難以察覺的細微變化，計算出人的壓力、焦慮度、侵略性等參數，進而通過算法完成“情緒理解”。面對情緒識別技術逐步嵌入經濟社會生活的新情況，如何審視情緒識別技術催生的倫理風險危機，詮釋其倫理風險的生成原因，并在此基礎上提出規避倫理風險的實踐方案，便成為我們在人工智能時代亟須回應的焦點議題。

一、情緒識別技術的最新應用進展

德國著名社會學家烏爾里希·貝克指出：“風險是不可見的。暗含的因果關系常常維持著或多或少的不確定性和暫時性。”[1]這就意味著，我們只有在明確技術可行性的基礎之上，才能夠進一步探討技術的倫理可接受性。因此，我們想要將情緒識別技術置于倫理層面來予以詮釋，就必須首先明晰情緒識別技術的應用價值和最新進展。就其應用的最新進展情況來看，情緒識別技術應用領域十分廣泛，對于經濟社會發展具有重要價值。

(一)為公共安全提供了強大的技術工具

一是在刑事審訊場景中，情緒識別技術能夠幫助工作人員實時掌握犯罪嫌疑人的情緒變化，顯著提高審訊效率。目前，一些審訊機關已經推出了智慧警務系統，搭建起以情緒識別技術為核心的智能分析平臺。例如，江蘇省宜興市人民檢察院早在2014年就開設了微反應實驗室，多次憑借情緒識別技術取得了案件的突破性進展[2]。

二是在交通出行場景中，情緒識別技術能夠在駕駛員出現異常情緒時發出實時提醒，輔助人們安全出行。目前已有汽車廠商在車上配置了情緒感知功能[3]，一旦駕駛員出現疲勞、激動、憤怒等異常情緒，這種汽車就會在第一時間發出警報來加以提醒，從而在一定程度上規避險情的發生。

三是在輿論監測場景中，情緒識別技術能夠協助工作人員實時“閱讀”人們的情緒變化，及時發現輿情風險。當前，情緒識別技術日趨智能化、微型化、遠程化，在網絡意識形態安全維護中發揮著重要作用。

(二)為智慧課堂提供了前沿方案

情緒識別技術可以實時監測教學參與者的情緒狀態，對人的心理壓力和學習強度進行總體性評估，反饋出教育教學的專注度和活躍度。當前，情緒識別技術主要以“智能助教系統”“課堂呵護系統”“教學質量監測系統”等名目介入教育教學實踐。一是“智能助教系統”。情緒識別技術能夠直觀揭示學生的情緒狀態，幫助教師及時調整教學進度以及教學方案，進而顯著提升教學效率。二是“課堂呵護系統”。情緒識別技術能夠幫助教育者提高自身的情感連接能力，促使師生之間建立起情感依賴，進而充分激發受教育者的想象力和創造力。三是“教學質量監測系統”。“竹間智能已經推出了一款用于監測老師行為的新產品，通過分析老師的影像，計算正向情緒占比與細分指數”[4]，這表明，情緒識別技術不僅可以用來監測學生的學習狀態，還可為教學管理者監管教師教學質量提供技術支持，給教育者提供科學的教學建議。

(三)在商業領域建樹非凡

情緒識別技術在商業決策、商業生產、商業營銷環節均已成功應用。在商業決策環節，商業公司可以憑借情緒識別技術，盡可能地掌握潛在客戶的情緒波動，進而根據精準的信息數據作出明智的商業決策。在商業生產環節，情緒識別技術不僅能夠幫助生產者獲得更多的商業信息，提供精準的生產計劃，還可以實時監管產業工人的情緒狀態，提高生產效率。在商業營銷環節，商業公司可根據消費者的不同情緒狀態，及時調整營銷手段，以巧妙的營銷策略激發潛在客戶的消費欲望，實現精準營銷。當前，包括微軟(Microsoft)、亞馬遜(Amazon)在內的一些科技公司已在積極推廣情緒識別技術，據估計，情緒識別技術行業的市場價值將會高達數百億美元。[5]

(四)在醫療衛生領域的應用和發展值得期待

在醫療衛生領域，情緒識別技術可以幫助醫生實時監測患者的情緒狀態，進而根據患者的情緒變化為其提供相應的醫療幫助。例如，一些抑郁癥、焦慮癥患者會對心電、腦電等傳感設備產生心理抗拒，不利于醫生進行疾病診療。而情緒識別技術能夠在不用患者配合的情況下悄然判斷患者的情緒狀態，從而能讓患者在較為放松的狀態下接受診療。此外，情緒識別技術還可為保持人的身心健康提供技術支持。例如，用戶可以通過情緒識別技術了解自身的焦慮水平和壓力指數，在第一時間調節自身的情緒狀態，逐漸養成科學健康的生活習慣。

二、情緒識別技術潛在的倫理風險

辯證地看，作為一種技術創新，情緒識別技術的廣泛應用在給人類社會帶來發展機遇的同時，也會給人們的社會生活帶來諸多風險和挑戰。以人工智能為代表的技術發展與人類生存的倫理審思是現代倫理學關注的核心議題，這在科學急速發展的智能社會顯得更為突出。[6]因此，在情緒識別技術方興未艾的當下，對其可能帶來的倫理風險加以必要的審視和反思，已經刻不容緩。

(一)倫理關系失調風險

正如康德所言，“人，實則一切有理性者……在他的一切行為上，總要把人認為目的”[7]。任何技術的創新和應用都應充分考慮人的尊嚴和價值，既不可給人的社會生活造成負面影響，也不可把人當工具看待。然而，不難預見，情緒識別技術的無序發展必然會影響人與人之間的倫理關系，給人的社會交往帶來消極影響。

其一，情緒識別技術涉嫌侵犯人的自主性。社會實踐深刻地證明，基于外部技術而建構的社會關系未必是真正富有自主性的倫理關系，完全掌控他人情緒的社會交往行為也未必是完美的社會交往實踐。情緒識別技術運用于人，意味著要在一段時間內對人進行不停歇的監測。這不僅會使被監測者感到不被信任、不被尊重，還會抑制交往主體真實地表達自我的意愿和勇氣，導致倫理關系中人的自主性缺失。用情緒識別技術來計算和理解交往對象的潛在心理狀態，會生成一個以精準識別為起點的技術主義陷阱，使本該自由而親密的人際倫理關系異化為壓抑而冰冷的科技倫理關系。

其二，情緒識別技術危及人的主體尊嚴。人作為擁有思維能力和溝通能力的理性存在者，理所當然應當是科學技術的服務對象，而不該成為技術壓制之下他人的監測對象或逐利工具。情緒識別技術只是人類的智慧結晶，但如果人類真賦予人工智能機器理解情緒的能力，使人的情緒變化在人工智能機器面前暴露無遺，那么人的主體尊嚴和個性發展必然會受到擠壓。人的主體尊嚴原本一直建構在人與人之間天然而固定的倫理關系之上，而今，情緒識別技術的介入使人的情緒信息變成了“二進制代碼”，維護人的主體尊嚴便成為一個嶄新的倫理關系難題。

其三，情緒識別技術容易誘發人的社交恐懼。情緒識別技術所造成的社交恐懼主要源于這一新興技術的潛在性和透視性。情緒識別技術的潛在性主要體現為這一技術能夠悄無聲息地搜集和分析人的情緒信息，這會使被監測者產生強烈的恐懼感。而情緒識別技術的透視性則是指這一技術能夠直抵人的內心深處，使人產生困惑感、迷失感以及深深的焦慮感。

(二)倫理規范失控風險

情緒識別技術把人的情緒信息作為激活本技術的關鍵，使技術介入了人本身，改變了人與技術之間邊界分明的“操作與被操作”關系，顛覆了人與人、人與社會之間的傳統道德，給人類社會帶來了倫理規范失控風險。

一方面是對知情同意原則的挑戰。《中華人民共和國個人信息保護法》明確規定，信息處理者處理個人信息時，首先需要“取得個人的同意”。可見，知情同意作為一種倫理規范，因充分尊重人的自主權利而得到了人們的普遍認可。情緒識別技術使人的情緒信息公開化，理應嚴格遵循知情同意原則。然而，情緒識別技術能夠悄然搜集和匯總人的情緒信息，并將人的情緒信息置于數據庫中進行比對和分析，使被監測者難以知曉自己的情緒信息被用于何事。這種技術目的的不確定性不僅使被監測者的自主性難以得到尊重，還造成了對知情同意原則的嚴重挑戰。

另一方面是責任歸屬困境。傳統的責任倫理主張根據行為后果來鎖定責任主體，并在此基礎上開展“對與錯”的責任追究。然而，情緒識別技術顛覆了傳統的責任倫理規則，使責任規避和責任轉嫁有了更為廣闊的生成空間。究其原因，主要是情緒識別技術的可應用領域極其廣泛，技術的研發者、投資者和實際運用者之間存在著復雜的利益糾葛，任一行為主體都難以確保這一技術在實際應用中作出最有利于人類的選擇，這就導致了后續的責任追溯難以鎖定明確的責任對象。

(三)倫理價值失衡風險

科學技術的不均衡發展會引發倫理價值的失衡，危及人類社會的公平正義。就最新進展來看，情緒識別技術雖然應用領域廣泛，但其核心技術仍然掌握在少數人手中，這就導致技術優勢群體有可能壓迫和威脅到技術劣勢群體。在數字鴻溝加大的人工智能時代，情緒識別技術極易對社會弱勢群體造成負面影響，我們必須高度重視其潛藏的倫理價值風險。

第一，情緒識別技術所導致的倫理價值失衡首先表現為技術壟斷。憑借情緒識別技術，相關的資本占有者會將自身的資本優勢轉化為技術優勢，賦予社會其他成員一種“科學”的情緒標簽。而這無疑為算法偏見創造了尋租空間，性別歧視、種族歧視、年齡歧視等一系列算法偏見被包裝成技術推算的“科學”結果。技術的不對稱性造成了巨大的權利不對稱，嚴重損害了社會公平正義。

第二，情緒識別技術導致倫理價值失衡的另一表現是市場壟斷。在情緒識別技術運行過程中，情緒信息的生產者是每一位提供情緒信息的被監測者。然而，由于被監測者數量龐大，對于數據庫整體而言，單個的被監測者所提供的情緒信息并不具有很大的邊際貢獻。因此，被監測者通常不會去追究情緒信息的所有權、使用權問題。這當中的倫理價值沖突主要體現在，情緒信息由被監測者生產，但是單個被監測者沒有能力去使用情緒數據庫資料。而當技術優勢群體全盤接管了情緒數據庫之后，該群體就會在資本增殖的利益驅動之下想方設法地實現自身利益的最大化，將技術壟斷轉變為市場壟斷，嚴重破壞市場競爭的公平性。

第三，情緒識別技術所導致的倫理價值失衡還表現為社會控制的加劇。隨著情緒識別技術的迅猛發展，在不久的將來，人的一切情緒變化都可能會被當作數據信息，接受他人的搜集、匯總和分析，這也就意味著德勒茲所預言的“控制社會”[8]加速成為現實。試想，當人們置身于個體情緒完全透明化的“解析社會”之中時，人的注意力以及個體欲望必然難以擺脫技術的捕捉和調制，人的自主性也就難以避免地成為他者加強社會控制的犧牲品。

(四)倫理行為異化風險

美國技術哲學家唐·伊德開創的后現象學技術哲學深入討論了人、技術、世界三者之間的四種關系，即“具身關系”“解釋關系”“它異關系”“背景關系”[9]，能夠為我們深入探討情緒識別技術的倫理風險提供理論借鑒。

從“具身關系”看，情緒識別技術改變了人們參與世界的方式，在一定程度上會干擾人的倫理判斷。當人們通過身體器官來理解他人情緒時，人們通常會基于自己的生活經驗和知識水平來作出相對獨立的倫理判斷。而情緒識別技術改變了理解情緒的常規方式，拓寬了人的情緒理解渠道，使人與人之間的情感交流走向間接化，這就可能導致人在技術的支配下逐漸失去理性思考能力而作出缺乏批判性的倫理行為。

從“解釋關系”看，當人們根據情緒識別技術呈現出的數據結果來間接地理解他人情緒時，人可能會陷入一種隱蔽的被操縱狀態。在情緒識別技術運行過程中，情緒識別機器成為人類情緒的解構者，它向人們展現的是一種經過數據處理的表象。換言之，人通過情緒識別技術而覺察到的并不是情緒本身，而是一種間接性結果。這就導致技術使用者隨時可能陷入一種隱蔽的被操控狀態，技術研發者、投資者甚至被監測者都有機會利用情緒識別技術來展現出自己想要表達的“情緒信息”。

從“它異關系”看，情緒識別技術在運行過程中能夠“擺置”人的倫理行為。“座架把人匯集到技術展現中，即喚起他的限定方式的全部思想、追求和努力，并使它們只集中在這一種方式的展現上……在我們的時代，不僅僅人，而且所有的存在者，自然和歷史，鑒于他們的存在，都處于某種要求之下。”[10]在海德格爾看來，人在技術的支配下將逐漸成為異化的人。情緒識別技術使人成為技術的對象物，讓人的情緒成為一種象征著財富的信息資源，正在使海德格爾的憂慮部分地成為現實。

從“背景關系”看，情緒識別技術通常會以“不在場”的幕后狀態存在，對人的倫理行為產生隱性的影響。情緒識別機器在接受指令之后會自主識別被監測者的情緒狀態，這日益成為人類不自覺的技術背景。然而，情緒識別技術越是隱性化，就越容易削弱人的知覺和判斷，使人日益陷入“技術繭房”之中。

三、情緒識別技術倫理風險的成因

情緒識別技術倫理風險的生成原因是復雜而多元的，其中既包括情緒識別技術本身的內在因素，又包括社會倫理環境等外在因素。具體而言，情緒識別技術的倫理風險成因主要包括以下幾個方面：

(一)倫理觀念的相對滯后

英國社會學家安東尼·吉登斯指出：“科學也造成新的不確定性——其中許多具有全球性。對這些捉摸不定的因素，我們基本上無法用以往的經驗來消除。”[11]在全球風險時代，情緒識別技術引發的倫理風險極有可能引發“蝴蝶效應”，給人類社會造成不可預見的后果。然而，從時間維度看，人類社會的道德標準和價值判斷通常具有恒久的持續性、穩定性，很難在較短時間內作出改變來適應新興技術的飛速發展。因此，在情緒識別技術面前，傳統倫理資源所提供的根深蒂固的倫理觀念自然會展現出一定的滯后性和局限性，以致人們對情緒識別技術的倫理風險往往缺乏足夠的警覺性和敏感度。此外，從空間維度看，“全球風險社會”使得情緒識別技術的倫理風險極可能演變為一種全球性問題，這就導致傳統的區域性倫理觀念遭遇了很大的挑戰。總之，情緒識別技術與傳統倫理觀念之間的不對等關系導致了人們倫理觀念的相對滯后，加大了情緒識別技術倫理風險爆發和擴散的機會。

(二)資本增殖的利益驅動

情緒識別技術原本是為了滿足人的美好生活需要而誕生的新興工具手段，但是這種技術一旦被逐利者掌握，就會演變為服務于資本增殖的技術工具。“資本的邏輯是求利的邏輯，技術內在追求利益和利益最大化的特點和資本追求增殖本性形成內在的共契，甚至可以說是共謀。”[12]在市場經濟中，能否取得經濟效益是技術研發者所要考慮的首要因素。可以說，正是由于情緒識別技術本身所具有的經濟價值決定了這項技術的存活發展。然而，“技術的勝利，似乎是以道德的敗壞為代價換來的”[13]。情緒識別技術一旦蛻化為資本的附庸，就會按照資本的邏輯來運行，忘卻其本應服務于人類的倫理價值。如果單純把情緒識別技術看作一種獲取經濟利益的工具，那么即便這種技術引發巨大的倫理風險，在一些逐利者看來也在所不惜。優化情緒識別技術的用戶體驗，使這一技術占據更廣闊的市場并創造更多的經濟效益，才是逐利者眼中最重要的事情。這無疑會使情緒識別技術的倫理風險遭到忽視，使情緒識別技術在開發和應用過程中逐漸背離以人為本的科技倫理原則，引發一系列倫理風險。

(三)技術本身的不確定性

情緒識別技術的廣泛運用讓人類理解他人情緒的方式方法有了更多的可能性。但是，情緒識別技術需要多種人工智能技術的支撐，其中主要包括人臉識別技術、語音監測技術、數據處理技術等。每一項相關技術都成熟運用，才能確保情緒識別技術的安全性和可靠性。多種技術的交互運用顯著地增加了情緒識別技術本身的不確定性。而不確定性正是引發倫理風險的主要原因之一。可以說，情緒識別技術倫理風險的產生與該技術本身的不確定性有著千絲萬縷的聯系。在運用技術手段來完成對人的情緒理解之后，我們仍然需要在諸多不確定因素中面對各種風險。例如：情緒識別的技術結果是否具有客觀性？監測結果能否得到科學運用？這些不確定性的存在無疑加大了情緒識別技術倫理風險的可能性。此外，情緒識別技術使用者的自律問題也是影響情緒識別技術倫理風險的主要因素之一。面對可能帶來巨額收益的情緒識別技術，逐利者通常會逐漸放松道德倫理層面的自我約束。這就進一步增強了情緒識別技術的不確定性，使其倫理風險有了更大的生長空間。

(四)倫理規約的制度缺陷

倫理規約在技術發展過程中扮演著重要的角色，能夠促使技術更好地服務于人，引導技術走向可持續發展。但是，由于情緒識別技術本身的不確定性，與該技術相關的倫理規約往往存在著難以避免的制度缺陷。以個人信息保護為例，應該說，現有的倫理規范較好地保障了人的信息安全，近期更是通過立法的方式構建起大數據時代背景下個人信息保護的制度里程碑。但是，面對情緒識別技術這一新興技術，仍有諸多疑問亟待現有的倫理規約作出進一步回應。例如：人的情緒是否屬于個人信息？人的情緒泄露是否應該維權？情緒泄露造成的損失又該如何衡量？此外，由于情緒識別技術本身的復雜性和專業性，這一技術的運行過程不可能像傳統的簡單技術那樣由單一的社會成員就能夠完成，而是必須通過多人開展團隊合作才能完成。因此，在情緒識別技術的開發、測試和應用過程中，每一位技術研發者都只不過是整個技術運轉鏈條上的一環而已。這就意味著，每一位技術研發者都是情緒識別技術倫理風險的制造者，但又都不用承擔全部的倫理風險責任，甚至不構成獨立的責任者。這就給情緒識別技術的倫理規約帶來了責任追究的難題，導致了倫理風險的擴大。

四、情緒識別技術倫理風險的防控

為了廓除情緒識別技術的倫理風險，既要更新知情同意機制，也要提高倫理失范成本，更要合理架構法律體系，從公眾觀念、責任倫理、制度規約等方面同向推進，形成有效防控情緒識別技術倫理風險的多維合力。

(一)更新知情同意機制，提高公眾的倫理風險感知能力

情緒識別技術所構建的情緒理解模式讓技術使用者自以為掌握了情緒的解鎖密匙，但人類真實而復雜的情緒并不能完全轉化為數據符號，人與人之間的社會交往也并不一定需要完全透明化的情緒表達。公眾只有保持這種倫理風險感知能力，對情緒識別技術慎思明辨，才能為情緒識別技術的未來發展開辟一條澄明之路。相反，倘若公眾對情緒識別技術倫理風險認知較少甚至存在盲區，輕則可能產生技術恐慌，重則可能導致情緒識別技術倫理風險的加劇。因此，更新知情同意機制，革新社會倫理觀念，提高公眾的倫理風險感知能力，有助于情緒識別技術的倫理風險防控。

首先，情緒識別技術研發者一定要遵循公開透明原則，在情緒識別程序啟動時明確告知被監測者即將與具備情緒識別能力的系統進行交互。就好比某些通話會提醒“本次通話可能被錄音”一樣，在涉及情緒識別時，提示用戶“本次程序運行過程中您的情緒可能被監測”。

其次，在情緒識別技術運行過程中，情緒識別程序要采取語音、圖像等多種方式，引導公眾尊重人的主觀能動性和主體價值性，讓技術使用者深刻地意識到，情緒識別技術意圖通過算法歸納、數據庫對比來開展情緒理解，僅僅是對人類情緒的簡單化、低層次的復現。

最后，在情緒識別完成后，情緒識別程序要充分尊重被監測者的知情同意權利，除了要明確、醒目地告知被監測者情緒識別結果的用途，還應當向被監測者披露情緒識別技術數據處理的基礎邏輯以及程序運行可能給被監測者造成的影響，將情緒識別結果的數據處置權完全賦予被監測者本人，增進公眾對于情緒識別技術不確定性和復雜性的理性認識，盡可能地獲取公眾的支持和理解。

(二)提高倫理失范成本，強化技術研發者的風險防控意識

情緒識別技術研發者的倫理行為是由其利益動機所決定的。因此，可通過提高倫理失范成本來強化情緒識別技術研發者的風險防控意識。

第一，要完善情緒識別技術相關行業的準入和退出機制，以此來提高情緒識別技術研發者的倫理失范成本，維護情緒識別技術應用市場的良性競爭環境。完善情緒識別技術相關行業的準入機制一方面是要支持和鼓勵具有創新能力的情緒識別技術研發機構進入市場，另一方面則是要提高情緒識別技術相關行業的準入門檻，加大資格審查力度，將遵循倫理規范作為情緒識別技術應用的前提條件，嚴把情緒識別技術相關行業的市場準入關。完善情緒識別技術相關行業的退出機制一方面是要明確情緒識別技術相關行業退出的程序和標準，形成規范化、制度化的行業退出機制，另一方面則是要充分發揮市場在情緒識別技術相關行業資源配置中的決定性作用，實現情緒識別技術應用市場生態的自我凈化。

第二，要針對情緒識別技術而建立專門的倫理審查機構，實施嚴格的倫理審查制度，明確告知情緒識別技術研發者可能擔負的倫理風險。基于國內外新興技術倫理風險防控的成功經驗，我國有必要自上而下地建立起新興技術倫理審查機構，通過建立常態化的監管機構來告知和督促情緒識別技術研發者遵從技術研發的倫理規范。

第三，要通過提倡職業道德、加強社會監督來提高情緒識別技術倫理失范成本。除了加強對專業機構的審查工作，我們還要大力宣傳科技倫理對技術研發者個人職業生涯發展和技術高質量發展的正負面影響，將與情緒識別技術倫理問題類似的典型科技倫理失范案例編纂成冊并出版發行，以此來警示情緒識別技術研發者，切實強化他們的倫理風險防控意識。

(三)合理架構法律體系，運用法律來約束具體技術行為

加強倫理道德建設是增強情緒識別技術道德底蘊、促進該技術健康發展的重要渠道，但是我們也不能因此而忽視情緒識別技術發展的法治環境。而優化法治環境，首先就是要合理架構與情緒識別技術最新應用進展相匹配的法律體系。我國雖然已于2021年11月1日起正式施行了《個人信息保護法》，但就情緒識別技術的最新應用進展而言，我國針對這一領域的立法仍然相對滯后。情緒識別技術直接面向公民的個人敏感信息，其引發的倫理新挑戰已然在一定程度上打破了傳統的法律假設。因此，當前我國需要加大力度，合理架構適應情緒識別技術最新應用進展的法律體系，針對情緒識別技術的具體細分領域而靈活地調整治理策略，以明確的法律規定來應對情緒識別技術的不確定性。

第一，應當堅持禁止性規定與賦權性規定之間的并存和聯動。情緒識別技術本身具有極強的專業性和復雜性，堅持禁止性規定與賦權性規定之間的并存和聯動有利于增強司法實踐中的可操作性。對于情緒識別技術運行過程中的被監測者，法律應當作出賦權性規定，充分保障被監測者的知情同意權利、信息支配權利以及自由自主權利。對于情緒識別技術的開發者和實施者，法律應當作出相應的禁止性規定，明確情緒識別技術運行過程中的責任主體。

第二，應當堅持公私法律制度之間的內在協調和互補。我國針對情緒識別技術這一領域進行立法時，應當做到公私兼顧，一方面憑借行政執法來維護社會群體的公共權利，另一方面通過民事法律的介入來實現私權保障，對情緒識別技術運行中的被監測者給予民事權利保護和救濟。在明確被監測者的權利內容之外，還應當就情緒識別技術應用紛爭的訴訟時效、訴訟主體、過錯舉證責任等內容作出明確規定，力求實現內容科學、體系完備的法律安排。