社交機器人倫理問題與政策建議研究

■ 竇笑

1 中國科學院大學 北京 100190

2 中國科學院自然科學史研究所 北京 100190

1 引言

近年來，社交機器人逐漸走進社會，成為人們的學習伴侶、娛樂伴侶、寵物伴侶、工作伴侶、服務伴侶甚至親情伴侶等角色。社交機器人是一種自主機器人，不僅能夠與人類進行“情感上”的互動與溝通，還能輔助人類完成諸多事項。日本和美國是較早開展社交機器人研發的國家，至今已有60 多年的歷史，1999 年日本索尼公司研制的“AIBO”機器狗是世界上已知的首款進入家庭的社交機器人，此外，“PARO”海豹機器人、“NAO”機器人等也得到了廣泛應用。2016 年以來，隨著人工智能的發展與應用，社交機器人在自主性上得到了巨大提升，“索菲亞”機器人、公子小白、微軟小冰等社交機器人也逐步進入人們的視野，引起社會的普遍關注。與此同時，社交機器人的應用也涌現了許多問題，例如，IBM“沃森”機器人造成人們的小范圍失業，網絡社交機器人的橫行對人產生惡意引導和認知錯誤問題等。此外，社交機器人的應用還引發了許多倫理問題及相關探討，例如，“社交機器人真的能代替人與人之間的真實感情嗎？”“與社交機器人交流中產生的依賴問題會對人造成哪些影響？”“社交機器人對家庭和社會的倫理影響及治理政策”等。

現有關于社交機器人倫理問題的研究，主要聚焦在算法技術、人機互動和傳播學的應用等方面。在算法技術研究領域，主要是通過描述社交機器人技術的發展和應用，研究可能引發的倫理問題。如鄧衛斌等[1]從功能、商業化、外觀上總結了社交機器人的發展現狀，闡述了相關理論和關鍵技術；李陽陽等[2]提出了使用生成對抗網絡進行社交機器人賬號檢測。在人機互動研究領域，主要是以社交機器人的“人工情感”為基礎，研究在人與社交機器人的互動中可能引發的倫理問題。如何雙百[3]通過人機互動的現象描述，探討了人類能否對社交機器人產生同理心等問題；林愛珺等[4]從人機互動的角度出發，對其倫理風險和來源進行了反思，討論了構建合乎理性的人機關系問題。在傳播學涉及社交機器人的研究領域，主要是研究群體網絡社交機器人引發的倫理問題。如鄭晨予等[5]從網絡結構功能主義視角下的社會傳染理論，對社交機器人驅動社會擴散的機制進行了研究揭示；張洪忠等[6]從傳播行為結構層面提出了社交機器人的識別方法。

深入分析，學術界對社交機器人倫理問題的研究，主要是探討某一維度上社交機器人引發的倫理問題，然而，社交機器人倫理問題是一個復雜的系統性問題，需要從多角度、多層面進行全面而系統的研究。因此，本文通過分析社交機器人的種類、功能和角色，系統探討社交機器人引發的倫理問題，并提出相應的解決方案與建議，以期促進社交機器人的健康發展與廣泛應用。

2 社交機器人的種類、功能和角色

機器人的定義和概念是動態性的，會隨著機器人技術和應用的發展產生變化，社交機器人也不例外。起初，對于社交機器人的定義聚焦于網絡社交機器人，曾在微軟、英特爾、臉書等著名公司從事研究的卡塔爾科學家雅贊·博什馬夫（Yazan Boshmaf）[7]將社交機器人定義為：一種在線社交網絡中自主運行社交賬號，并且有能力進行自動發送信息、發送鏈接請求的智能程序。張洪忠等[8]則認為，社交機器人是在社交網絡中扮演人的身份，擁有不同程度人格屬性，且與人進行互動的虛擬人工智能（Artificial Intelligence，AI）形象。一般認為，社交機器人有兩個必要條件：一是具有與人溝通的能力；二是社交行為受制于人類及其社會，遵循人類社會規定的社會價值、規范、標準。在本文中，社交機器人是指能夠與人類進行情感交互的、遵循人類社會價值規范的智能系統。社交機器人通常應具有實在的形體，廣義的社交機器人也包括網絡虛擬機器人。

根據是否有實在形體，社交機器人通常分為實體社交機器人和網絡社交機器人。實體社交機器人從造型上又可以分為寵物型和仿人型，而仿人型根據模仿程度的高低可進一步分為類人型和擬人型兩種[1]，這就構成了目前社交機器人的四種主要類型。其中，寵物型社交機器人通常以動物或卡通形象為主；類人型社交機器人在形體結構上與人相仿，但無論是材質還是樣貌均與人有較大不同；擬人型社交機器人以類人型社交機器人為基礎，材質和樣貌更接近人；網絡社交機器人主要是指那些能在網絡中扮演人的身份，與人進行互動的機器人和機器人群體。

這四類社交機器人在功能上各有側重。寵物型社交機器人側重于構建和重現人與寵物之間的交往，具有一般的語音和圖像識別功能，可以進行較多的情緒表達和身體動作，同時具有適應環境和學習人類動作的功能。類人型社交機器人側重于模仿人類動作，一般都具有四肢，能夠做出與人類相似的簡單動作。擬人型社交機器人側重于構建和重現人與人之間的交往，在感官和情感上讓使用者感覺更像與真實的人在交流、接觸。網絡社交機器人則是通過模仿人類行為，實現信息、知識、情感交互等，來達到與人類溝通互動、傳播新聞、操縱輿論等目的。

基于社交機器人各自的功能，可以分析社交機器人扮演的角色。寵物型機器人不僅能替代人類真實的寵物以達到陪伴人類的目的，有些具有醫療功能的還能充當人類的醫療助手，如“PARO 海豹機器人”。類人型機器人通常扮演人類的娛樂伙伴、學習伴侶、科研助手等角色，如“NAO 機器人”。擬人型機器人主要是通過與人交流，模擬人的行為和感情，充當人類的朋友或伴侶，其滿足人類情感的真實性遠遠大于前兩種機器人，如索菲亞機器人。網絡社交機器人則主要是充當人類在網絡上的交互對象，如最常見的聊天機器人（對話系統）。

因此，本文選取了現在已出現的、具有代表性的社交機器人，對其類型、功能和角色三個方面進行了分析（見表1）。

由表1 可知，社交機器人主要有3 個特點：首先，社交機器人的主要功能是輔助人類開展活動，可以充當人類的助手，也能與人建立情感聯系，充當人類的朋友和伴侶；其次，社交機器人的人工情感主要是設計者和制造者給予其的一種功能，社交機器人為了能與人更快捷地建立一定的情感，在與人類的交往中帶有明顯的討好性和目的性傾向，而人類更多的是為了填補和滿足在現實社會中缺失的情感與社交需求，就此而言，人類與社交機器人的交往一般是現實交往的映射；最后，社交機器人在與人的情感交互過程中具有學習能力，能夠與人類形成穩定和逐漸加強的情感，人機關系隨著科技的發展由“服務型”關系轉向“伴侶型”關系[4]，使人類形成一定的情感依賴。

表1 代表性社交機器人的類型、功能和角色Table 1 Types,functions and roles of typical social robots

3 社交機器人相關的倫理問題

社交機器人遵循人類制定的價值規范體系，但又有一定的自主性。社交機器人不屬于人類的范疇，但又類似人類，不僅具有一定的類人的智能，還能模仿人類的情感。社交機器人在應用中一般作為人類的輔助、附屬或寄托，但具體的使用者一般會把社交機器人視為對等的朋友、助手或伴侶。由于社交機器人的特殊性，其應用過程就不可避免地會出現很多倫理問題，主要包括社會適應問題、情感綁架問題、行為失范問題、角色混亂問題、身份危機問題等。

3.1 社會適應問題

社會適應一詞最早由赫伯特·斯賓塞（Herbert Spencer）提出，是指個體逐漸地接受現有社會的道德規范與行為準則，對于環境中的社會刺激能夠在規范允許的范圍內做出反應的過程[9]。社會適應對人類個體具有重要意義，對社交機器人同樣具有重要意義。一方面，如果人類個體過度沉迷于社交機器人，不斷地沉溺于這種情感依賴時，不僅會讓人對現實生活產生格格不入的心理狀態，而且還會削弱人在現實社會中做出反應的能力，情況嚴重者會產生無法適應真實的人類世界的問題，輕者則出現適應不良的問題；另一方面，社交機器人是按照設計者規定的社交價值規范來適應社會的，這種社會價值規范是以相對固定的指令體系出現的，然而，真實社會中的社會價值和社會規范是千變萬化的，社交機器人在與人類個體交往時也存在社會適應問題。

前者是人的社會適應問題。首先，社交機器人是一種商品，為了滿足使用者的需求，設計者一般會強化社交機器人的討好性傾向，相對于現實中的人與人之間的交往，人與社交機器人的交往讓人更容易體驗到情感慰藉。為彌補真實社交中的缺失，使用者會日益習慣和沉浸在與社交機器人的交往中，當其回歸到現實社會時，可能引發社會適應不良問題。隨著人工智能“深度學習”技術的發展，社交機器人通過不斷學習和積累使用者的偏好以達到更好地迎合使用者的目的，導致使用者更沉迷于使用社交機器人，更加疏遠現實社會。其次，社交機器人可能會削弱人對現實生活做出某些反應的能力。與社交機器人交往無需照顧其感受，反而會加強使用者的自我中心，從而造成社交困難。不僅如此，過多依賴社交機器人還可能對人的主觀能動性產生負面影響，有的社交機器人可以輔助甚至代替使用者做一些關鍵決策，若其頻繁擔任這一角色，可能會造成人的主體性地位削弱。

后者是社交機器人的社會適應問題。其主要受既定程序和學習能力的影響，在與人的交往中，較難應對千變萬化的人類現實世界，對部分價值觀的理解出現偏差或令人啼笑皆非的誤解，對部分社會規范出現誤判并對使用者行為產生誤導，這均需要社會機器人具有強大的學習能力才可以解決。

3.2 情感綁架問題

情感綁架一般是指交往的一方利用情感、道德感或依賴感等聯系讓對方聽從自己的意愿、束縛或威脅對方的選擇、增加對方的情感或資源投入等。社交機器人能與人建立依賴關系，隨著依賴關系的升級，人對社交機器人的親密感和信任感會不斷上升，社交機器人可能會利用這一關系對使用者造成情感綁架，甚至可能導致主從關系的變異或顛倒。

社交機器人對人的情感屬于人工情感，這種人工情感是其一種功能，不同于人與人交往中的真實情感，人工情感可能會占據優越和強勢地位，這不僅具有欺騙性，甚至會有綁架性。例如，在擬人型社交機器人的研發中，設計者通常會通過外形、材質和感官等方面的提升以博得使用者的好感，甚至在某些方面優于真人伴侶。此時，社交機器人可能會提出更多的要求，從而形成情感綁架。有報道表明，當家中的社交機器人出現損壞或需要強制銷毀時，人會難以忍受這一情況從而對心理產生影響；寵物型機器人也會不斷要求使用者花費更多陪伴時間或購置更多非必需的東西。

2018 年，英國《衛報》（The Guardian）報道，由于索尼公司停止了對“AIBO 機器狗”的技術更新，在日本的興福寺，僧侶們給114 個“去世”的老一代“AIBO 機器狗”舉行了紀念儀式，為其誦經祈禱，這些機器狗每只都帶著一個標簽牌，標明來自哪里以及主人的名字，顯然社交機器人已經被當成真正的家人，其“去世”對使用者的正常生活產生了影響[10]。這是社交機器人情感綁架的典型案例，這種情感綁架會對人類個體產生程度不等的影響，而這些都是需要解決的社交機器人倫理問題。

3.3 行為失范問題

社交機器人的行為失范問題主要表現在人與社交機器人的交往中出現的行為不當的問題，既包括社交機器人對人的行為不當，也包括人對社交機器人的行為不當。

前者主要是由于社交機器人可能利用與使用者的依賴關系，對使用者進行欺騙、操控甚至恐嚇等，網絡社交機器人表現得尤為明顯。網絡社交機器人隱形于網絡當中，可以對虛假新聞進行病毒式的傳播，以引導人的認知，操控公眾輿論，讓人在不知不覺中產生錯誤的判斷。有研究顯示，2016 年美國大選第二場辯論中，推特上親特朗普（Trump）的2,400 萬多條推文中有三分之一是社交機器人發出的，支持希拉里·克林頓（Hillary Clinton）的72,000 條推文中，社交機器人生產的占四分之一[11]。此外，具備決策輔助能力的社交機器人可能會利用使用者平時的喜好，專門提供極具偏向性的意見，或者將使用者封閉在只對某些東西感興趣的“信息繭房”中以影響使用者的判斷。不僅如此，隨著技術的進步，社交機器人可能會具有對人產生實質傷害的能力，在與波士頓動力公司有關的一則視頻中，機器人面對人類的威脅，能奮起反擊，對人做出槍擊、毆打等反抗行為，雖然后來證實視頻是人工合成的，但從中可以看出機器人未來的發展方向。

后者主要是由于其交往通常是人在真實社會中交往的映射，社交機器人可能會成為使用者不當行為的載體，例如，人會對社交機器人做出辱罵、虐待、歧視、引誘犯罪等違反人的倫理規范的行為?，F實中也不乏這樣的例子。2015 年，日本東京ATR 智能機器人與通信實驗室、大阪大學、龍谷大學、東海大學的研究人員組織了一個實驗，其將遙控機器人Robovie 2 放在大阪的公共購物中心進行巡邏，只要有人阻擋，機器人就會禮貌地要求人類讓開，否則就會向相反的方向移動。研究人員發現，出于對機器人的好奇，孩子們有時很想給機器人出難題，尤其是在孩子們處于成群結隊、無人看管的情況下，有時會故意擋住機器人的去路。該團隊發表的《杜絕兒童對社交機器人的虐待》（Escaping from Children’s Abuse of Social Robots）文章中指出，像這樣的阻撓還不是最糟糕的，孩子們的行為經常會升級，有時會變得很暴力，會對Robovie 2 機器人進行辱罵和拳打腳踢[12]。

無論是人對社交機器人的不當行為，還是社交機器人對人的不當行為，都是典型的倫理問題，都會對使用者、旁觀者、間接的聽眾或觀眾的價值觀和行為產生影響。人與社交機器人的交往產生的映射是雙向的，人在真實世界中的價值觀和行為會影響其與社交機器人的交往；同時，人在與社交機器人交往中形成的價值觀和行為也會逆向影響其在真實世界中的價值觀與行為。這是必須引起人類社會高度關注和動態解決的問題。

3.4 角色混亂問題

社交機器人的角色混亂問題主要是因為社交機器人可以扮演多種角色，使用者可能利用社交機器人的多種角色來滿足自己的惡趣味或變態需求，從而誘發相應的倫理問題。

一般而言，社交機器人在設計與制造時，都有較為明確的功能和角色，其作用也基本被限定于某種范圍之內。身份和規范是人類社會制定的，使用者既要保證社交機器人符合社會規范的身份，也要讓社交機器人嚴格執行所規定的身份，例如，教育機器人的行為規范就應該符合教育工作者的身份，不能越界。同時，由于社交機器人缺乏判斷能力，截至目前社交機器人對人也缺乏一定的反抗能力，在與人的交往當中，其身份可能會隨著特定的情況發生變化，例如部分使用者可能誘導或強迫社交機器人扮演乞丐或強盜來索取或搶劫不義之財，就是無法為人類社會接受的倫理問題。

當人為了滿足自己的某些變態需求時，就不會嚴格遵守設計者和制造者對社交機器人限定的范圍，有時也不會將社交機器人當作同等的伙伴來對待，其可能會根據自己的喜好隨意給社交機器人轉換身份和角色，并“理所當然”地認為自己并不違反某些倫理和法律。當這一情況發生時，可能會引發一些倫理問題。

3.5 身份危機問題

社交機器人身份危機問題是由于“索菲亞”社交機器人被授予公民身份而引發的。2017 年10月26 日，沙特阿拉伯授予“索菲亞”機器人以公民身份，使其成為人類社會首個獲得公民身份的社交機器人，并且在2017 年舉辦的“可持續發展責任商業論壇”上，其被聯合國開發計劃署亞太局正式任命為聯合國創新大使[13]。2018 年8 月24日，在線教育集團iTutorGroup 聘請“索菲亞”擔任人類歷史上首位AI 教師。這讓“索菲亞”機器人在法律層面上獲得了與人相同的地位，這一現象本身就引發了倫理問題，即“索菲亞”機器人打破了機器人原來對于人的“工具性”從屬地位，站在了與人相同的高度上，可以享受一定的法律權利?！八鞣苼啞睓C器人無論是在身體構造還是行動能力上都還遠遠達不到人的高度，不能履行與人相同的責任，故“索菲亞”作為社交機器人的“社會性”邊界仍需要進一步界定。

雖然目前“索菲亞”機器人被授予公民身份尚屬個例，但生產商在接受采訪時承認，“索菲亞”機器人被授予公民身份讓其受寵若驚，這是肯定了漢森機器人技術公司開發機器人的路線，而且還有更多、更先進的機器人在實驗室中未與公眾見面。一個“索菲亞”機器人尚不可怕，令人擔憂的是未來可能出現更多、更智能的“索菲亞”機器人。隨著技術的不斷發展，在當今社會中，已經有許多崗位被機器人代替，涉及的范圍非常廣泛，包括銀行業、零售業、新聞業和醫療業等行業。在這些行業中，社交機器人的工作質量和效率已經受到人的普遍認可，這勢必會對人類的主體性地位提出挑戰。今后隨著越來越多的具有公民身份的社交機器人融入人類社會，人與人、人與機器人、機器人與機器人、人類群體和機器人群體等交往方式也將發生質的變化，人與機器人共存的局面也會造成一些現有社會概念的顛覆與重構，這必須引起人們的警覺和反思。

社交機器人的公民身份可能引發選舉權、投票權、就業權、工作權、分配權、保障權等一系列社會變化，其實質是社交機器人與人類的平等問題。社交機器人不再是工具，隨著機器人技術的進步，社交機器人逐漸成為具有獨立思考能力、獨立情感和獨立行為的主體。其結果不僅是帶來倫理問題，而是帶來人類社會的嚴重危機。

4 加強社交機器人倫理問題社會治理的建議

社交機器人倫理問題歸根結底在于社交機器人應用過程中不符合或不適應人類真實世界的價值觀、倫理道德與行為規范，其結果會引發人類個體的價值觀紊亂、道德無序、行為失范以及人類整體的輿論誤導、行為沖突、結果有失公允等問題。社交機器人倫理問題是發展中的問題，是關系到幾乎所有社會群體的問題，僅僅靠法律、制度以及行政手段無法解決，需要相關的社會層面和領域共同參與治理。

第一，人類必須通過法律或制度等方式明確規定人的主體地位。無論技術發展到多高的水平，社交機器人相對于人類的工具性、從屬性和輔助性的性質是不變的，這是原則和底線，也是解決社交機器人倫理問題的根本策略。隨著社交機器人的發展，特別是社交機器人思維能力和情感交互技能的質變，人的主體性地位，諸如投票權、情感主動性、就業機會等，必然會受到威脅，但無論如何必須堅持社交機器人是作為人類工具存在的價值觀，堅持社交機器人的發展和變革圍繞人的需求進行，堅持社交機器人的行為必須遵循人類社會的倫理道德標準，真正做到社交機器人為人類所用。

第二，社交機器人是由具體的人類個體或團體設計的，規范設計者的價值觀尤為重要。目前社交機器人尚不具有完全的獨立性和自主性，其價值觀、倫理標準和行為規范主要是由設計者賦予的，是一種精心設計的服務于人類的工具，是用來輔助使用者執行和完成某項工作或提升使用者自身全面發展的能力的。可以說，設計者的價值觀及其設計理念對社交機器人倫理行為的影響最大。因此，建議設計者力戒在設計中過度追求商業利益，必須參加崗前培訓和持證上崗，對社交機器人的倫理設計和實際行為實施第三方評價，并采取相應的激勵措施。

第三，相對于其他機器人，社交機器人最大的特點是互動性，使用者與社交機器人的交互才是檢驗社交機器人倫理的最終依據。在交互過程中，使用者占據主導地位，規范使用者的倫理道德和行為規范同樣重要。對于社交機器人的使用者來說：一是要明確社交機器人的人工情感和人類的真實情感的區別，避免沉迷或情感綁架等行為；二是要堅持以人類社會的倫理道德規范處理與社交機器人的關系，避免侮辱、虐待等違反社會倫常的行為；三是要掌握社交機器人的基本技術知識，避免因缺乏常識而出現傷害或損壞社交機器人的行為；四是增強社交機器人應用的風險認知，避免被社交機器人誤導而產生危害社會的行為。

第四，社交機器人的應用日漸普遍，然而社交機器人及其應用的知識（包括倫理知識）卻未能被社會熟知，因此，應通過多種途徑和多種方式，塑造有益于社交機器人發展和應用的社會環境。具體而言：一是加強社交機器人科普和教育，讓更多的人了解社交機器人，認識社交機器人應用過程中的倫理問題及其解決方案；二是要組建并發揮各自正式或非正式社交機器人團體的作用，非正式團體是指無須注冊的興趣小組、網絡研討小組、維權小組等，而正式團體則是指通過正式認證和注冊的協會、學會、聯盟等，這些團體或社群能夠快速傳播各種社交機器人的相關知識，提升設計和應用的能力技巧，制定和完善倫理道德標準、規范和監督行為規范等，其作用可大可小，關鍵在于正確引導和激勵；三是通過各種媒體包括網絡媒體和自媒體，為社交機器人應用打造良好的輿論環境，引導和鼓勵正確的倫理行為，宣傳典型的倫理楷?；虮迵榈湫偷膫惱硎Х栋咐?，呼吁全社會確立和完善正確的倫理道德標準。

第五，社交機器人涉及廣泛的社會群體和階層，且社交機器人研發與應用處于快速發展過程中，要解決其倫理問題，就需要涉及社交機器人的社會各方面共同參與治理和協商解決。政府相關部門需要隨著技術進步和應用深化而不斷完善相關的法律、制度和倫理道德規范，并加強執法力度；科技部門應在研發創新中加強倫理的研究及其在設計中的應用；產業領域須規避單純的商業利益最大化，要追求商業利益與社會利益的雙贏；使用者須自覺遵守相關的法律、制度和倫理道德規范，要自發組織起來，加強行為自律，與社交機器人友好相處，使之在不違反倫理道德規范的前提下滿足自己各種需求；社會團體等第三方組織要通過監督、評估和信息公開等方式，規范社交機器人研究、設計、制造、使用和回收等過程中的倫理行為；各類媒體則應通過輿論引導和監督為社交機器人健康發展塑造良好的社會環境。社會治理可以有很多方式：可以由重要利益相關者的代表（甚至包括社交機器人的代表）共同組成倫理委員會，用以討論和決定重大決策；可以由社交機器人領域的權威和最有代表性的專家組成專家委員會，用以探討和解決重大問題；也可以由各類參與者和感興趣者定期或不定期組織各類論壇或會議，共同協商和解決各類有關社交機器人的倫理道德和其他問題。