人工智能情感的倫理風險及其應對

謝 瑜 王瀟毅

決策研究在20 世紀90 年代以前，一直以認知為中心，強調思考的能力，但從20 世紀90 年代起，越來越多地納入了情感的作用，強調感受的能力。人工智能作為高效的計算工具，已經在很大程度上模擬了人的理性思考過程，但是只有理性沒有情感，是否能被稱為真正的智能呢？1994 年，神經科學家安東尼奧·達馬西奧（Antonio Damasio）證明太少或缺乏情緒會影響判斷決策的準確性，引發了新一輪的熱議。人工智能領域逐步將“情感”劃為重點研究方向，旨在研發“既有理智又有情感的系統”。

情感化已經成為當下人工智能技術發展最重要的趨勢之一。百度、小米、蘋果、微軟等老牌公司，以及試圖開拓市場的新銳公司（如太古計算、竹間智能、Sensing Feeling 和Affectiva）都對人工智能情感頗有興趣。小度、小愛同學、Siri、微軟小冰等以“情商”為賣點的社交機器人爆火，機器開始呈現出“具有情感”的一面。2016 年，就職于Affectiva 的加比·齊德維爾德（Gabi Zijderveld）在接受采訪時談道，“也許五年后，這項技術在未來會無處不在；我們會看到很多每天都在用情感與之互動的科技”［1］（6-7）。

人工智能情感是指試圖將情感賦予人工智能的科技活動過程及產品，是對人類情感進行模擬的產物，主要表現為對人類情感識別、表達和應答功能的模擬，人工情感、情感計算、情感人工智能、情感機器人等都是其具體的技術樣態。人工智能情感以提升機器智能、促進人機和諧交互和深化情感研究為目標，在教育、醫療、社會服務等領域有廣泛的應用空間。值得深思的是，人工智能情感與傳統意義上的情感有何不同，又如何影響人類生活。具體而言，應如何看待情感數據的使用？是否造成隱私被侵犯？人工智能情感是否會帶來新的欺騙與控制？人工智能實現的情感是否有其價值？人工智能情感能否真正給予人心靈的慰藉，從而替代人際情感交往？事實上，人工智能情感技術的發展深刻影響著人類社會，在帶來效用的同時催生出諸多倫理風險。

一、人工智能情感的倫理風險類別

人工智能開始顯現出具有“情感”，使得人機情感交互成為可能，似乎能夠破解現代社會面臨的情感冷漠、疏離的困境。然而現實是，人工智能情感技術的發展與應用非但沒能紓解這些困境，反而對情感的私密性、真實性、體驗感、意義感造成沖擊，加劇了情感生活的數據化、工具化、機械化，帶來了情感隱私泄露、情感欺騙盛行、情感控制加劇和情感能力退化等倫理風險。人機情感的進攻使得人際情感的空間被進一步擠占，情感的疏離與冷漠更甚。

1.情感隱私泄露

人工智能情感的實現必須大量采集數字化的情感情緒信息，并以此訓練模型。既然情感數據是實現人工智能情感必不可少的關鍵，情感隱私泄露的風險就難以避免。情感基于人的身份、個性和人類親密關系而存在。個人情感昭示著個人生活空間的存在，具有高度私密化的特征。隱私不僅是一項個人權利，而且是一項群體權利。尊重情感隱私不僅是對情感數據的保護，還是對個人尊嚴與價值的尊重。個性化與隱私之間的悖論使得用戶很難獲得既滿足體驗需求又不侵犯情感隱私的個性化服務。鑒于用戶在數據的采集、使用、共享、銷毀環節缺乏對數據的控制、監督和知情，行業也缺乏相應的統一標準和規范限制，用戶很可能會對自己的隱私數據完全失去控制力［2］（248-249）。任何關于人工智能情感識別及表達的研究必須經過個人明確許可，否則就可能造成對隱私的侵犯。如果將模型訓練中的情感數據用于判斷個人身份，則會引發更嚴重的倫理問題［3］（83）。

人工智能情感技術已經造成了情感隱私泄露的現實問題。教育科技（EdTech）公司正在部署情感人工智能來量化社交和情感學習，使用計算機視覺和算法來查看、識別、分類整理和學習面部表情中的情感［4］（1）。評估發現，挖掘兒童的情感生活是不符合規范的，當技術并非旨在造福這些兒童時尤其如此［4］（12）。此外，人工智能情感的使用有可能引發代際不公平的問題，長期收集情緒數據也不利于孩子的成長和自我認同。父母未經同意對子女情感數據的采集使用使得孩子們幾乎無法控制他們童年的數據化，“當你自己的感覺和情緒不再是你的，而是被解析和分享給別人，即使你還沒有準備好分享它們——我認為我們已經極大地傷害了這些孩子”［5］（4）。

2.情感欺騙盛行

目前的人工智能情感技術還停留在功能模仿階段，與真實的人類情感存在顯著差別，可能帶來情感欺騙的風險。真實情感是自然生發的，不需要經過系統學習與訓練。在約定俗成的適宜范圍內，“真情流露”往往令人欣賞，而“虛情假意”則令人厭惡。人工智能的情感表達越來越逼真，但由于缺乏人的生理心理機制和社會生活閱歷，技術很難在復雜的現實情境中產生真實情感。人工智能情感非真實性帶來的欺騙可分為兩種情形，一種是人類事先對機器人身份知情，但因需要這種“陪伴”而沉湎于虛擬情感；另一種是在人類不知情的情況下，機器人蓄意欺騙［6］（10）。隨著技術日益發展成熟，前者逐步向后者過渡。當人們把人工智能的“善解人意”當真，將情感投射到情感智能體上時，由于沒有認識到人工智能的情感是人在機器中寫入運算法則所賦予的，物性遮蔽、否定了人的現實性，就有危及人的生命體存在與繁衍的可能。當人工智能發展到越來越能解決情感問題、越來越能超越傳統時空界限的時候，其虛假性將更難識別［7］（63-64）。

人工智能情感的非真實性已經對使用者的正常生活造成了影響。索尼公司的人工智能機器狗（AIBO）是作為娛樂機器人開發的，可以通過身體動作、眼睛的顏色和形狀來表達高興、憤怒、恐懼、悲傷、驚訝和厭惡這六種情緒。索尼停止對“AIBO 機器狗”進行技術更新后，僧侶們在日本的興福寺給114 個“去世”的老一代“AIBO 機器狗”舉行了紀念儀式［8］。可以窺見，無論機器人制造商或設計師是否意在欺騙，只要人工智能情感技術能夠影響人類情感，就有可能成為情感欺騙的工具與手段。玩偶可以用于癡呆患者的治療，但在玩偶療法的實際使用中，許多客戶開始相信他們的玩偶是一個真實的嬰兒。他們試圖喂養它們，甚至準備好自己的床讓玩偶睡個好覺［9］（1093-1097）。在照顧老年人的過程中使用輔助機器人這種基于應用程序的“物”來構建具有情感維度的護理關系，可能潛藏著使用者蓄意欺騙、削弱護理關系意義的風險［10］（35）。

3.情感控制加劇

在傳統意義上，情感強調體驗感與純粹性。但當情感因素進入經濟領域后，勞動者需要對自身情感進行適當管理，即“為了保持恰當的表情而誘發或抑制自己的感受，以在他人身上產生適宜的心理狀態”［11］（21）。人工智能情感本應能夠將人從情感控制中“解放”出來，解決情感勞動中的情感失調、情感枯竭以及職業倦怠等問題，但這些困境并未被解決，情感被控制、被操縱的風險也在增高。人工智能情感具有成癮性、單向性，暗藏情感控制加劇的倫理風險。一則，利用社交機器人與人之間親密、信任的依賴關系可以對使用者造成情感綁架，甚至導致主從關系的變異或顛倒［12］（106）。二則，社交機器人的“單向度情感”缺陷本身就會導致情感控制，這是因為面對人類的情感表達，機器人無法提供同等、豐富、深刻的情感反饋［13］（57）。

情感控制加劇的風險已經初步顯現在人工智能情感的具體應用中。阿米莉亞·萬斯（Amelia Vance）在未來隱私論壇上發言，她認為影響情緒的技術“正在推動轉向徹底的操縱”。操縱性營銷策略利用人工智能算法檢測到的人類偏好，為在線商品消費制定個性化成癮策略，或者利用個人情緒的脆弱狀態來推廣與他們當下情緒匹配的產品和服務［14］。情緒識別工具將與工人思想、行為相關的內在情感暴露出來，以鼓勵他們提高生產力、遵守規則，這實際上是一種情感監視與控制手段，造成更具侵入性的紀律性凝視；如果不加以規范，就會造成算法偏見、決策不透明和雇傭關系的侵蝕，使勞動關系更為緊張［15］（97）。

4.情感能力退化

“人是意義動物，我們不是為了追求真理而來到這個世界的，但沒有誰不追求意義。”［16］（402）人文情感的可貴之處在于其蘊含意義與價值。人工智能情感可能消解情感的本真意義，導致人類情感能力退化。一則，人工智能情感是數字化的情感，是對情感的簡化理解與機械化解讀，潛藏情感能力退化的風險。這是因為人工智能與人類意識存在本質不同：以數學為基礎的自然科學由因果論主導，人工智能、人工情感追求確定性、唯一性、必然性；人類意識以時間性為本質而存在，遵循目的論式存在，與數學的追求相異［17］（434）。二則，人工智能情感會影響人們對情感交往價值重要性的判斷。交往在發現價值、認識價值、創造價值、實現價值中具有重要作用。物質的、精神的、社會的價值創造和實現都離不開交往，情感的價值生成和實現同樣離不開交往。在交往實踐中將人工智能情感與人類情感類同，可能引發人們對情感交往價值的懷疑，進而削弱人際交往，造成人類情感能力的退化。

人工智能情感技術在優化人們情感體驗的同時，確實存在削弱人類情感能力、淡化人際情感交往的風險。研究發現，構建人機關系會減少建立更有意義的人際關系的機會［18］（402）。社會中最年輕的成員——嬰兒——有著強烈的好奇心，渴望參與社會互動，但他們的撫育者由于工作等各種原因，缺乏時間，選擇讓機器人陪伴在嬰兒身邊，這不僅可能會減少嬰兒與人類照顧者相處的時間，還會妨礙嬰兒社交、情感和語言能力的發展，阻礙他們理解人際情感及其價值［19］（36-37）。如果孩子們開始認為機器人是有生命的，他們可能會以更機械的方式來思考人類和動物，較少考慮其道德地位。商業活動中有商家展示和銷售人形機器人，以此鼓勵人們與人工智能建立情感關系。考慮到人類的行為是受經驗影響的，人與機器人朝夕相處，長此以往，人類也可能會被“訓練”得以對待人形機器人的方式與他人互動，造成情感能力退化。使用機器人照顧老人會導致老人的社會互動水平下降，因為其他人會認為老人能夠由機器人來照顧，其社會需求也能同時得到滿足。

二、人工智能情感的倫理風險歸因

人工智能情感倫理既應遵循人工智能倫理的一般共性，也應符合情感倫理的特殊要求。剖析成因是合理應對人工智能情感倫理風險的關鍵前提。人工智能情感的倫理風險生成原因是復雜多元的：從技術因素看，情感算法在理論與實踐上的局限性難以避免；從社會因素看，倫理觀念的相對滯后以及工具理性的泛濫助推了倫理風險的生成。社會因素與技術因素交錯盤繞，最大的幕后推手實際上是資本邏輯的驅動。

1.資本邏輯驅動

資本邏輯是資本永無止境地追求自身利潤最大化與價值無限增殖的趨勢和規律，“體現出‘利己性’‘逐利性’和‘貪婪性’的不道德消極屬性”［20］（123）。人工智能情感技術發展中的資本邏輯驅動首先體現為虛假需要的創設。人的需要包括真實需要和虛假需要。真實需要是“那些無條件地要求滿足的需要”，是“生命攸關的需要——即在可達到的物質水平上的衣、食、住”；虛假需要則是“為了特定的社會利益而從外部強加在個人身上的那些需要”［21］（6）。消費社會努力生產出虛假需要的目的在于推動消費，背后是資本擴張的需求。人工智能情感化未必是人最真實的需要，但一定符合資本擴張的需求。人工智能情感技術創新發展的速度遠遠趕不上其推廣營銷速度，人工智能的“一顰一笑”都被極度夸張放大到營銷海報、宣傳視頻里——人工智能或許“情非得已”“表里不一”，但資本家確是“難掩笑意”“滿面春風”。

人工智能情感的商業價值不容忽視。人工智能情感化趨勢是符合社會發展需要的，在現階段表現為服從效益邏輯。能夠取得經濟效益是技術研發者、生產者必須考慮的重要因素。“資本的邏輯是求利的邏輯，技術內在追求利益和利益最大化的特點和資本追求增殖本性形成內在的共契，甚至可以說是共謀。”［22］（64）純粹的技術發明本身無所謂善惡，但技術的資本邏輯操縱是造成諸多倫理風險的根本原因。如果不對資本邏輯加以規制，人工智能情感作為一種新的生產杠桿很可能成為資本壓榨人類勞動的新手段，即“生產資料奴役生產者的新手段”，導致人機關系進一步異化。逐利者若只看到人工智能情感帶來的經濟效益與廣闊市場，忽視人的真實感受與需要，背離以人為本的科技倫理原則，就會一步步走向不為人的技術發展。人工智能不僅并未徹底消解“情感勞動”異化，還衍生出了情感真實性疑慮、人格同一性威脅、情感同質化等新的異化，其深層根源在于資本主義生產關系和社會制度［23］（20）。

2.情感算法局限

人工智能情感的技術核心是算法，其倫理風險生成與情感算法本身的局限性有關。它首先與算法理論上的不完善不成熟相關。由于情感的復雜性、情感外在表達與內在實質關聯的不確定性、機器缺乏人生社會體驗機制與對情感的真正理解等，算法能夠實現的“情感”還不具備真實感，人工智能情感與人類情感存在著質的差別。這種差別是技術實現上的，也受制于科學理論的發展。由于人類情感機制的復雜性、神秘性，無論技術如何進步，技術實現的人工情感如何逼真，始終難以達到人類情感的誠懇、真切、自然。從這個意義上講，人工智能情感化是技術發展的一個重要趨勢，會持續呈現出正在發展、正在進行的狀態。這種趨勢化與不確定性給了營銷者“闡釋”的可能與空間，而消費者卻無法完全把握人工智能情感的真假與表現程度，這帶來了不可預估的倫理風險。

除了情感算法理論上的不完備給了不良商家鉆空子的機會，風險的生成也與算法運行機制中的局限有關，如“算法霸權”與“大數據鴻溝”帶來的信息不對稱。“算法霸權”造成了情感算法的使用者和使用對象之間的信息不對稱。算法的保密性、技術盲點、復雜性以及算法使用者的刻意隱瞞，使大多數人無法了解算法的工作原理。算法的使用者在可解釋性上占據主導地位，形成“算法霸權”。情感算法的使用者與使用對象之間存在信息的嚴重不對稱——在現實生活中“知情同意”機制往往不能起到應有的作用，用戶并不十分清楚點擊“允許”按鈕意味著什么。“大數據鴻溝”造成了情感數據的生產者和處理者之間的信息不對稱。情感算法的運行離不開數據。數據的生產者和數據的收集、存儲、分類者在數據擁有量、數據分析能力和數據思維等方面存在巨大差異。“一方面，個人生產大量原始數據，卻不掌控數據使用對生活、生產帶來的顛覆性影響，甚至不了解大數據對個人私生活、私領域的偷窺與再處理；另一方面，掌握海量數據的處理者具有前所未有的權力，利用數據影響公共生活乃至私人生活，大數據在個體與組織機構間形成大數據鴻溝。”［24］（69）“算法霸權”與“大數據鴻溝”疊加，情感算法的使用者和使用對象、情感數據的生產者和處理者之間存在嚴重的信息不對稱，造成了情感隱私的泄露、情感欺騙與控制等倫理風險。

3.倫理觀念滯后

人類社會的道德標準與價值判斷具有相對的穩定性，在飛速發展的新興技術面前難免具有一定的滯后性與局限性。首先，人工智能情感這種新興技術是在機器主體性的傳統倫理問題沒能解決的基礎上發展起來的。人工智能的技術飛躍或者所謂“智能大爆發”帶來的應用倫理問題是一系列老問題的疊加［25］（22）。由于人類中心主義知識的可及性和適用性、解釋和理解其他代理行為的動機以及社會接觸和建立聯系的愿望，人類一直有將非人類主體擬人化的傾向［26］（864）。人工智能情感技術引發了學界新一輪的爭論：能夠模擬人類情感的人工智能是否應當具有主體性，又是否能夠成為道德代理？如果將具有情感功能的人工智能視為主體，那么人機關系就應被視作人際關系的新形態。尚且不說情感功能能否等同于情感，協調人機在工作、社交等方面的公平公正已經十分困難。如果將人工智能視為客體，那么如何理解它們類似于人的情感表達；如果冷漠對待機器的情感表達，長此以往會不會遷移到人身上，加劇人際的情感冷漠？既然前面兩條路都行不通，賦予人工智能特殊主體地位似乎成了不二之選。但是，這種特殊地位由誰賦予、怎么賦予？出了問題又由誰來負責？關于機器主體性的傳統爭論橫亙在人工智能情感技術面前，長期沒有較為一致的說法，也就未能形成有效的規約機制。相對局限的倫理觀念與技術的新發展疊加衍生出了新的倫理風險。

其次，倫理觀念的建構相對于科技活動的創新存在滯后性。“科林格里奇困境”揭示了技術控制可能陷入的兩難困境，即在技術發展早期階段，這時控制其風險是較為容易的，但是對其有害社會后果的了解還不夠充分，因此沒有理由控制它的發展。當后期這些后果顯而易見時，控制已變得代價高昂和緩慢。為此，科技創新和風險防范之間總是相互掣肘、難以兩全：針對人工智能情感進行有效的倫理設計需要對技術的潛在風險和危害有透徹的理解，而深刻把握技術本質及其倫理風險又需要科技的充分發展。倫理觀念較為穩定的特性導致了其更迭不會像技術更新那么迅速，在新的倫理觀念尚未建構起來時，新興技術與傳統觀念之間的張力會引發新的倫理風險。

4.工具理性泛濫

在韋伯以“理性化”為核心建立的現代化理論中，人類的理性可以區分成工具理性和價值理性兩類。工具理性強調手段與目的的實現，具有鮮明的功利導向；價值理性強調信仰而非目的，看重過程中的價值。當工具理性在程度與范圍上急劇擴張，便造成工具理性泛濫。工具理性泛濫擠占了價值理性的空間——技術的發展“不問目的只求實現”，還要“盡快地侵占”“盡可能多的實現”。這種效率至上、具有明確目的導向的思維助推人工智能情感技術迅速發展，不可避免地催生出新的倫理風險。

人工智能情感是一種技術對情感的控制。人們對情感運行機制的認知有限，因而人工智能對情感的模擬只能從有限的情感表征入手，比如模仿人類情感表達的面部表情、聲音效果、肢體狀態。人工智能可以用仿生的面部五官表達喜悅、用柔和的合成聲線表達安慰、用機械手臂環抱人體表達友好。從技術實現的角度講，人工智能情感的實現過程就是將情感表征量化轉換為計算機能夠操控處理的數據符號，然后再將其通過程序在人工智能體上復刻實現。這一過程充斥著將萬事萬物控制計算、量化還原的工具理性主義思維。從技術效益的角度講，人工智能情感不一定是一個合理的技術目的，但一定是一項令人驚嘆的技術手段。令無數研究者前赴后繼的，也不一定是真正情感的人工實現，人工智能情感理念中的商業價值本身就足以讓主張利益至上的工具理性主義者興奮了。

三、人工智能情感的倫理風險應對

由于情感的復雜性與內在性，人工智能情感以較為隱蔽的形式潛移默化地侵入人類社會，影響人類生活；又由于技術背后操縱者——資本的逐利性，這類技術實質上猛烈、無孔不入地侵蝕著人類情感。加強人工智能情感倫理風險應對的相關研究，從根源上說需要規制資本的無序擴張，推動科技向善，將倫理觀念融入技術設計。在科技發展方面，應當堅持敏捷治理，以人的價值與真實需要為尺度規制算法；在倫理建構方面，應當堅持以倫理先行的要求逐步健全人工智能情感相關的倫理法規；在觀念引導方面，應當深化對技術的人文反思，以價值理性思考人工智能情感技術的發展，警惕情感工具化。

1.推動科技向善

面對資本無序擴張導致人工智能情感帶來的種種風險，需發揮社會主義市場經濟在市場統一有序、資源合理配置、發展集中力量等方面的顯著優勢，規范和引導資本健康發展，推動科技向善。從“承認資本、利用資本、發展資本”的角度講，應當激發資本作為生產要素的經濟活力，引導資本在合法與合道德的限度內進行人工智能技術的情感賦值，合理地利用和把握情感數據，滿足人們的情感需要，促進人工智能情感技術向善發展。從“駕馭資本、規范資本、超越資本”的角度講，應當為資本發展設置底線，避免商家利用情感算法不當得利，進而引發情感異化和科技異化等倫理風險。擺脫資本桎梏的人工智能情感技術，將成為全體人民共有的社會財富。

將價值理念融入技術設計能夠為人工智能注入一顆“良芯”，有利于人工智能情感技術向善發展。好的技術設計不僅能夠為相關利益者的訴求服務，也能促進相關制度規范的完善，引導技術實現升級和優化。根據費雷德曼提出的“價值敏感設計”，應將具體的價值原則嵌入到人工智能技術的結構之中，使技術擁有一定的價值傾向。在技術設計的過程中植入尊重人的主體性的倫理觀念，能夠有效避免“主仆異位”現象的發生。只有合乎倫理觀念的技術設計才能夠促進人機交互的和諧性，推動科技向善發展。運用輔助AI 系統進行情緒識別和疼痛監測具有光明前景，但是要使AI 助手有利于人機交互，就需要確保AI 疼痛識別和類人共情表達是以一種合乎倫理的方式發展起來的。具體而言，不僅需要考慮個人數據的隱私性和安全性，讓創造者和用戶都充分知曉信息的變化、可能的健康問題，而且面對人工智能系統的局限性，比如有偏見的數據造成的算法偏見，需要建立用戶對人工智能局限性的信任和理解［27］（15）。

2.實行敏捷治理

《新一代人工智能治理原則——發展負責任的人工智能》對敏捷治理作出闡釋，即“尊重人工智能發展規律，在推動人工智能創新發展、有序發展的同時，及時發現和解決可能引發的風險”［28］。要兼顧人工智能情感在技術發展與倫理治理方面的平衡，敏捷治理是必然選擇。不斷加強、調整對倫理、規范和治理方面的認識，根據不同部署和相關法律要求設計情感人工智能（EAI）系統，將公共標準應用于人們日常生活中使用的私人網絡，有利于應對人工智能情感對個人空間邊界和身體完整性邊界造成的考驗［29］（10）。敏捷治理要求既避免規約不足導致社會問題頻發，也避免過度監管阻礙技術發展，及時開展系統的風險監測和評估，調整治理策略。一方面，準確識別具體情境中的情感，理解和分析情感，進而作出能夠改善人機交互的合理回應，需要以準確把握情感的本質與規律為基礎。攻關情感科學的基礎理論研究，進行負責任的科技創新有利于解決情感算法的局限性問題。

另一方面，為敏捷應對情感算法的局限性導致的倫理風險，需要從數據或算法方面對情感算法加以規制。從數據層面進行規制能夠避免資本對情感數據的私人占有，消弭因對情感數據掌握程度不同帶來的“大數據鴻溝”，促進公平公正。比如，如果將人臉情緒數據界定為《個人信息保護法》下的“個人信息”，那么人臉情緒數據的處理就會受到相應調整，這將最終影響人臉情緒識別算法的實際運轉［30］（43-44）。從算法層面進行規制能夠讓情感算法在適宜的范圍內發揮作用，避免濫用、誤用情感算法造成“算法霸權”。比如，面對科學界關于人工智能是否能檢測情感的嚴重分歧以及未經嚴格把關的情感識別技術的迅速使用，應當在教育、保健、就業和刑事司法等所有領域采取保護措施，監管能夠解讀人類情感的人工智能，防止這些工具未經審查的使用［31］（167）。

3.健全倫理法規

人工智能情感技術在發展成熟后帶來的風險挑戰很可能是具備威脅性、易失控的，因此逐步完善人工智能情感技術相關的倫理規范十分必要。倫理研究已經介入科技治理的各個環節，對人工智能科技發展起著引領性、支撐性和規范性作用。為避免倫理觀念滯后帶來的倫理風險，應當堅持“倫理先行”。一方面，應不斷深化人工智能倫理基礎理論研究與問題探究，推動人工智能情感相關的科技倫理共識的形成，加強科技倫理宣傳與教育。另一方面，應不斷完善人工智能倫理相關制度規范，制定人工智能情感相關的倫理原則、規范和政策，引導良好社會倫理觀念的形成。以倫理規范制約情感信息識別與情感算法使用，能夠從源頭上確保人工智能情感技術不侵犯人的隱私權、知情權、安全權，保障人最基本的權利。如，按照科技部、教育部等牽頭印發的《科技倫理審查辦法（試行）》，人工智能情感科技活動在研發過程中涉及個人情感信息的使用，使用過程中可能影響人類心理情緒，必須嚴格依規進行科技倫理審查與倫理復核。依規審查有利于規范人工智能情感的科技活動，強化科技倫理風險防控，促進負責任創新。

倫理觀念的建構需要加強底線思維，科技倫理規范的實施也需要完善相應的法律法規作為強制力保障。中共中央辦公廳、國務院辦公廳在2022 年3 月印發的《關于加強科技倫理治理的意見》中明確指出，“‘十四五’期間，重點加強生命科學、醫學、人工智能等領域的科技倫理立法研究，及時推動將重要的科技倫理規范上升為國家法律法規”［32］。面對技術發展帶來的嚴峻挑戰，制度化、法律化地解決人工智能情感帶來的倫理問題，以立法保障科技倫理規范的實施十分必要。一方面，新興人工智能情感技術的倫理共識形成有一個必經的過程，在此期間加強立法能夠有效保障公眾權益。另一方面，對于威脅人的主體性、侵犯人的尊嚴的情感算法，必須積極立法進行強硬規制。

4.深化人文反思

應對人工智能情感的倫理風險，需要深化對技術的人文反思。首先，應當以價值理性引導人工智能情感技術發展，兼顧技術可行與價值認可，深入思考“為什么要發展人工智能情感技術”。部分學者認為技術發展帶來的問題最終必須靠技術的進一步發展來解決，主張通過賦予不同級別的情感機器人以不同程度的情感來解決人工智能情感產生的倫理問題。實際上，這或許只是工具理性主義者的一廂情愿，難道逼真到一定程度的人工智能情感就應當與人享有對等的權利、義務和尊嚴了嗎？回歸價值理性的維度進行思考，人工智能情感不只是技術實現層面“能不能成”“如何做成”的問題，更是倫理反思層面“應不應該”“為了什么”的問題。

其次，應把握“人機情感”的尺度，警惕情感工具化。人的情感是自然生發的，是與人的認知、意識、行為相通的，與人的經驗、經歷和當下的內心狀態相匹配。人工智能情感是對人類情感的技術模擬，將情感推向技術，情感與人身脫離后被賦予“無心”的機器。理念中過度的工具理性思維可能帶來情感工具化的風險。一方面，從事人工智能管理、研發、供應、使用等相關活動的人員應當隨時保持對情感工具化的警惕，對人工智能情感的技術本質進行充分的說明，把握技術模擬、影響情感的尺度。另一方面，面對人工物的情感表達，公眾應當保持審慎思考。近期機器人心理學在實證調查中發現，賦予人工智能情感產生的一系列倫理問題根源在于人會有意識地將情感“植入”人工實體（如機器人）中［33］（621）。應引導人們遵從人機情感倫理規范，在強人工智能時代來臨之前使公眾知曉如何與其相處，把握“人機情感”“人機共生”的尺度［34］（122）。比如，當涉及制造性愛機器人以及在此類機器中輸入模擬愛情、人類戀愛心理的程序時，應該認識到愛情關系不只是為了滿足身體欲望，使用者不要把擬像之愛誤當成真實之愛［35］（408）。

人工智能情感技術的發展推動了人們對“人類情感究竟是什么，又有何特殊”這一亙古不變又常談常新的話題的再審視。人工智能情感技術的發展在技術情感化的同時導致了情感技術化。我們在追求科技進步的同時需要加強對技術發展所引發的倫理風險的反思。而要從源頭上規約人工智能情感的倫理風險，須得從資本邏輯驅動下人與技術的關系入手，深入分析人工智能情感的生發機理。