社交機器人治理：國際實踐與中國進路

摘"要""惡意社交機器人的泛濫給個人權益、社會秩序乃至人類倫理都帶來了一定程度的威脅。社交機器人的治理議題被推上全球舞臺，各國相繼出臺了一系列措施來對其失范行為進行約束。目前對社交機器人的治理并未形成體系，主要依賴人工智能、數據隱私、智能機器等領域的指導性、模糊性規范。在全球治理中，中國有必要關注境內外媒體平臺上社交機器人營造的與中國議題相關的輿情，更有必要汲取先進經驗，完善本國社交機器人應用和監管相平衡的治理路徑。

關鍵詞""智能傳播"網絡空間治理"社交網絡"媒介倫理"媒介法規

作者簡介"：""高山冰，文學博士，南京師范大學新聞與傳播學院教授、博士研究生導師，紫金傳媒智庫研究員；孫振凌，南方報業傳媒集團《南方都市報》記者。"基金項目"：""江蘇高校哲學社會科學研究一般項目“人工智能時代網絡意識形態綜合治理研究”（2022SJYB0240）。

一、引"言

作為人工智能技術應用于網絡社交的產物，社交機器人是指在社交平臺中由算法程序所操縱的社交媒體賬戶，它可以模仿人類的行為，比如自動發布內容、與其他用戶互動等。社交機器人已經在無形中參與和影響著人類網絡社交活動，甚至包括線下的行為與決策。

基于社交機器人的意見控制屬于傳播控制造成的一種意見偏差"①，社交機器人等技術創造出高度擬真的“景觀社會”，偏離真實和客觀，并日益加劇了媒介擬態環境。"②隨著社交機器人的病毒式擴張，特別是受到政治、資本等因素的干擾，負面影響越來越引起各國的關注。社交機器人所產生的倫理風險集中于欺騙人類感情、操縱政治活動、傳播虛假新聞和竊取隱私數據等方面。"③在2016年美國大選中，社交媒體平臺X（原稱Twitter，即推特）中的社交機器人生成了"1億4000萬條推文，包含400萬個相關話題；在Facebook中，社交機器人分享了3800萬條虛假新聞，這在一定程度上操縱了大選的結果。而2020年美國大選中，數千個被稱為機器人的自動賬戶發布了關于唐納德·特朗普和他的民主黨對手喬·拜登及其兩個競選活動的推文 Emilio Ferrara， Ho-Chun Herbert Chang， Emily Chen， et al，“Characterizing social media manipulation in the 2020 US presidential election”， First Monday，vol.25，no.11 （2020）.，對選舉結果造成了一定的影響。

為了避免境內外勢力利用社交機器人操縱民意，影響政治決策，很多國家和地區開始對社交機器人的非法使用加以限制。雖然各國治理實踐層出不窮，但現實狀況是各國對社交機器人的治理都未形成體系，效果也不盡如人意，無法對日益復雜的社交機器人應用形成有效的治理。當前，全球社交機器人治理所面臨的主要問題在于條文規定分布零散、政策缺乏強制性、治理滯后、地區間治理態度差異大、協調合作性差等。

中國的網絡情境有別于國外，但是利用“機器人水軍”操縱輿論的行為已不鮮見。研究表明，微博等國內社交平臺上存在數量龐大的網絡水軍，且有不少是機器水軍。謝忠紅、張穎、張琳：《基于邏輯回歸算法的微博水軍識別》，《微型機與應用》，2017年第16期。與此同時，販賣機器人水軍的產業鏈條刺激盜竊個人信息的黑色產業，助長網絡空間暴力，機器流量打亂國內娛樂生態并形成了操縱機制。何苑、趙蓓：《社交機器人對娛樂傳播生態的操縱機制研究》，《西南民族大學學報（人文社會科學版）》，2021年第5期。此外，社交機器人在境外社交平臺的傳播如何影響和建構中國形象，日益受到各方關注。國外社交媒體平臺中涉及中國的議題常常被社交機器人等自動化算法賬戶所操縱。師文、陳昌鳳：《分布與互動模式：社交機器人操縱Twitter上的中國議題研究》，《國際新聞界》，2020年第5期。例如，在有關中美貿易談判議題討論中，社交機器人占比達13%，發布內容占比接近20%。張洪忠、趙蓓、石韋穎：《社交機器人在Twitter參與中美貿易談判議題的行為分析》，《新聞界》，2020年第2期。

基于此，本文圍繞國際社交機器人的具體治理政策和實踐展開分析，梳理社交機器人的治理模式，總結其特征和規律，并提出構建中國社交機器人治理的模式和路徑。

二、國際社交機器人的治理邏輯

社交機器人治理在動力與政策實踐之間有著特定的邏輯形塑，面對當前社交機器人治理的困境與不足，分析治理實踐得以形成和發展的行動框架則顯得尤為重要。

（一）對外競爭與對內治理并存的思維起點

社交機器人的輿論影響力在一定程度上甚至能夠直接改變意見氣候。對外、對內兩種思維作為底層邏輯都是使得動力得以傳導的策源性因素，是治理方著眼于利益考量的決策動力。

1.對外：以國家利益維護為面向的治理起點

社交機器人治理政策的出臺很大程度上是由于社交機器人對輿論生態的影響日益加劇，各國都對其有所警惕。歐盟一項調查報告稱，俄羅斯利用“零和博弈”邏輯，結合了操弄假新聞的做法，通過機器賬戶散布虛假信息破壞對西方國家疫苗的信賴，以多種語言在線上夸大描述疫苗風險、毫無根據地將歐洲接種與死亡事件聯系起來，并宣稱俄羅斯疫苗為上乘之選，試圖破壞對西方國家制造疫苗的信任。在俄烏沖突中，社交機器人在國際輿論場上掀起一場“看不見硝煙的戰爭”。通過對相關新聞報道的整理發現，俄烏沖突發生以來，雙方包括其背后勢力集團都利用社交機器人進行激烈的輿論戰，社交平臺儼然成為他們的“另一個戰場”。例如，俄羅斯機器人農場創建了7000個賬戶，在Telegram、WhatsApp和Viber平臺上發布有關烏克蘭的虛假信息。烏克蘭組建“IT軍團”編寫機器人程序，進行批量化攻擊，每臺服務器每秒產生大約50000個請求，來破壞網站的正常流量以實現對俄羅斯的DDoS攻擊。此外，Facebook、X和YouTube在內的多個社交媒體平臺宣稱摧毀了受到俄羅斯和白俄羅斯集中控制的虛假賬戶和由人工智能生成個人資料圖像傳播反烏克蘭虛假信息的協調賬戶網絡。

隨著信息技術的快速發展，世界各國的安全疆域和利益格局已經從自然空間延展到網絡空間，網絡輿論戰已經成為新一代戰爭的高級模式。從政府視角來看，進行社交機器人治理涉及國際話語權競爭，其本質上是維護本國的利益，這也是社交機器人治理政策得以踐行的思維起點之一。

2.對內：以公民權利保護為導向的治理視角

社交機器人治理的另一起點在于以公民權利保護為導向，從維護公民權利角度實現國內生態的穩定。例如，在歐盟法律體系中，數據主體的權利被上升為基本權利，得到了憲法層面強有力的支持。單文華、鄧娜：《歐美跨境數據流動規制：沖突、協調與借鑒——基于歐盟法院“隱私盾”無效案的考察》，《西安交通大學學報（社會科學版）》，2021年第5期。社交機器人違法現象的治理規則繼承了這種“公民權利保護”的思想，對其進行深度治理是剝離人機雙主體權利，維護人類用戶尊嚴的體現。

另外，從社交平臺行為來看，社交機器人治理是基于行業競爭和長遠利益的必然選擇。積極進行平臺內負面機器流量的治理，在當下能夠營造良性的互聯網生態，最大限度地滿足用戶需求。長期來看，積極進行社交機器人治理是平臺主動承擔社會責任的體現，有利于其建設長期品牌與口碑，是鞏固市場地位的手段。

（二）“刺激-反映”與“預期-調適”的決策進路

社交機器人治理過程中的反應鏈條可以分為“刺激-反應”與“預期-調適”兩種進路。彭波、張權：《中國互聯網治理模式的形成及嬗變（1994—2019）》，《新聞與傳播研究》，2020年第8期。前者是一種被動式治理，后者更多的是主動式治理。

1.事后治理的反饋決策路徑

“刺激-反應”模式對應中短期治理視角。在負面事件發生后，治理結果自下而上地反饋到決策層，倒逼相關實踐的施策，偏向于技術治理模式。從長期來講，針對前期問題積累所作出的反饋以達到補救目的也遵循了這一路徑。例如，由于社交機器人對于大選的干預和侵擾，美國社會對于社交機器人的負面情緒日益高漲。2018年9月，加利福尼亞州州長批準了參議員羅伯特·赫茲伯格所提交的《BOT法案》，其要求所有試圖影響加州居民投票或購買行為的機器人必須聲明自己是機器人。該法案賦予州檢察長廣泛的執法權力，可以對每次違規行為處以最高2500美元的罰款并要求違規者采取公平的補救措施。

2.事前治理的預期決策路徑

相較而言，“預期-調適”鏈路則更加注重自上而下的頂層設計，依據前瞻性視角設計發展戰略與倫理規范，從而指導社交機器人的平穩發展。當然，政策預期還會根據實際效果反饋進行主動調整，及時修正與現實不符的規范倡議。因此，治理政策常常處于動態變化的過程之中。2024年5月21日，歐盟理事會正式批準通過全球首部針對人工智能的專門性法律《人工智能法案》（簡稱《法案》）。該《法案》對人工智能系統的開發、投放及使用制定了統一的法律框架，側重于人工智能系統的具體利用和相關風險，包括透明度相關的規則及某些禁令。根據該《法案》第5條，存在不可接受風險的人工智能系統將被禁止在歐盟投放市場、投入服務或使用。從社交機器人的特征來看，其屬于存在“有限風險”的人工智能系統，只需承擔很少的透明度義務。但如果社交機器人被“采用潛意識、操縱或欺騙技術，來扭曲行為，并損害知情決策，從而造成嚴重損害”，則構成了“不可接受風險的AI系統”，被禁止在歐盟投放。

（三）多手段協同與多主體參與的治理實踐

歐盟很早就注重對人工智能的倫理進行規范。其認為對于新技術帶來的風險，需要不同主體在不同層面予以預防和應對，需要倫理規范和技術方案之間的耦合。因此，需要政府、行業、公眾等主體在各自的層級聯動。也正是在一理念驅使下，歐盟已經基本形成了多利益相關方協同治理。2019年起，歐盟先后發布了兩份重要文件《可信AI倫理指南》及《人工智能法（草案）》。在此基礎上，提出了“經由設計的倫理”（ethics by design）。歐盟構建了一套多方協同、多管齊下的包括社交機器人在內的人工智能治理體系。

而美國奉行人工智能自由發展原則，重視技術的開發和利用。美國1996年《通信規范法》限制了互聯網平臺責任，并提出了兩個原則：一是互聯網行業應當主導其發展，二是政府應當避免對電子商務施加過度限制。此后，美國國會出臺了一系列法律，并且由于法院與國會之間相互牽制，最終形成了互聯網友好型的法律制度。曹建峰：《論互聯網創新與監管之關系——基于美歐日韓對比的視角》，《信息安全與通信保密》，2017年第8期。美國較為寬松的模式有利于多元主體參與社交機器人的監督和管理。政府、社交平臺、專家學者、普通民眾等都可以參與社交機器人的監督和管理，政府部門依法對社交機器人的濫用予以懲戒，協會組織發布治理倡議輔助政府決策制定，平臺在商業考量、社會責任及法律框架內設置社交機器人使用規范，學界以發布研究成果的方式揭示社交機器人的風險行為。在日常實踐中，普通民眾通過監督反饋、平臺舉報乃至提起訴訟等多種方式參與社交機器人的行為規范治理（參見圖1）。

三、國際社交機器人治理路徑

隨著社交機器人的影響擴大，世界各國都開始嘗試引導這一新興事物的有序發展。由于社會背景、國情差異以及治理責任主體的不同，各國在社交機器人治理的過程中也分化出了不同的治理模式。

（一）法律法規約束

1.舊法效力：既有傳統法條的延伸涵蓋

對于人工智能應用后果的社會影響評估尚缺乏堅實的實踐經驗和理論基礎，因此在很大程度上其治理仍要依靠現存治理框架或為其所塑造。鞏辰：《人工智能時代的全球治理：一般路徑與中國方案》，《人文雜志》，2019年第8期。社交機器人衍生的風險牽扯范圍較廣，根據類型的不同可涉及政治、商業、文化、公民個人權利等多個層級，在針對社交機器人新問題的法律法規未出臺的情況下，歐盟在現實判例中常根據其涉及領域的不同而對應不同的現有法律規制。如對于通過非法收集用戶信息侵犯隱私權的行為，依托《通用數據保護條例》等進行治理；依托商業競爭法和廣告法治理“點擊機器人”的濫用；政治機器人的規制則參照選舉法及國際法中可參照的條例等。另如，在俄羅斯與烏克蘭局勢緊張的情況下，烏克蘭安全局依據《國家安全法》關閉了一個在社交媒體上擴散恐慌情緒的社交機器人組織，該組織管理超過18000個機器人賬戶。

2.宏觀指導：依托于上層法規框架下的約束

社交機器人作為較為細分的類別，隸屬于更為宏大的技術治理議題。相較于民法等傳統法條，其現實問題與前沿性立法適配性更強，能夠為社交機器人的治理提供方向上的把控。很多國家都已將人工智能、機器倫理等規范的宏觀建設提上日程，社交機器人作為人工智能的產物，其治理自然也被納入上層宏觀框架之中。例如，歐盟《通用數據保護條例》確立了個人數據處理中的自然人保護和個人數據自由流通的規范，尤其是個人數據保護的權利；《歐盟機器人民事法律規則》則對“高度自主機器人”民事責任的確定依據作出闡釋。當社交機器人行為與現行機器倫理相悖時，相關法律法規則可以產生約束機制。

3.精細治理：針對社交機器人的直接規定

針對社交機器人所設立的法律法規，目前并不多見。其中，美國參議院于2016年12月14日頒布了《2016年機器人法案》，旨在對購票機器人進行約束。2021年4月，歐盟委員會法案明確：人工智能系統擁有特定的透明度義務，使用聊天機器人等人工智能系統時，用戶能夠意識到正在與機器進行交互，并由此可作出是否繼續進行的相關決定。2019年7月1日正式生效的加利福尼亞州《支持在線透明度法案》，作為美國第一個直指社交機器人的法律規范，具有極大的進步意義。它是政府層面為保護人類免受操縱所采取的實質性措施，也提高了人們對在線機器人的普遍性認知。同時，還為之后的社交機器人立法提供了基礎和參照。

（二）數字技術治理

數字技術驅動是指強調用技術手段監測社交機器人并削減惡意社交機器人數量的手段。根據前中后三個時間節點的不同側重，目前已經投入應用的技術主導模式主要有以下三種手段。

1.設計時預設規范

目前，將倫理嵌入人工智能的路徑有“自上而下”和“自下而上”兩種?！白陨隙隆笔侵笇⑷祟惖牡赖聹蕜t轉化為機器可以理解的程序語言，并嵌入其底層算法中；“自下而上”則是讓機器學習道德情境中的人類行為，進而主動學習和歸納行為規范?！白陨隙隆边M行倫理植入在技術上存在一定難度：首先，一旦設計邏輯存在漏洞，容易在現實狀況中造成矛盾沖突；其次，僅指向基礎原則，對于更為復雜的情境未做出指導，將人類社會復雜的行為規范編寫為代碼存在現實意義上的難度；最后，隨著機器人智能化水平的提高，意識覺醒導致植入倫理被篡改也將成為風險來源。而自下而上的設計，機器人可以在和人的交流中不斷學習，自動組織面對人類用戶的全新對話回答。例如，聊天機器人“微軟小冰”可以在和人的交流中不斷學習，自動組織面對人類用戶的全新對話回答，這時它不受設計它的程序員的控制。如果將其置于定期檢測并可控的良好環境中，它將能夠自動地總結出應有的道德規范并在后期行為規范上受其約束，這將使得社交機器人的后期治理變得容易許多。當然，自下而上的方式也存在著較大的風險。聊天機器人Tay上線后，在網友的“惡意”調教下，成為鄙視女權主義者，并具有了嚴重的種族主義傾向，第二天就被微軟關閉了。隨著深度學習算法的發展，“混合型解決方法（hybrid resolution）”即綜合運用“自上而下”的演繹規約路徑和“自下而上”的歸納規約路徑來對人工智能倫理問題進行設計應用，越來越受到關注。

2.用戶端機器檢測

用戶端檢測指在社交媒體使用過程中社交平臺在登錄、互動等節點設置檢測門檻，借以實時組織機器賬戶互動。在社交媒體平臺X、Facebook及Google等互聯網平臺上都有這樣的技術運用。通常是檢測到大量重復登錄、異常操作或存疑域名地址后，登錄時會觸發一定的檢測機制，一般是通過一定的圖片識別、數字組合等需要人為計算和辨別的驗證碼方式來進行檢測，如果通過即可正常訪問，而未通過測試的則被阻斷在防火墻之外。

但現存的平臺程序應用接口（API）檢測機制還存在一定漏洞，計算程序可以模擬人類用戶行為或利用機器識別而通過檢測。社交媒體平臺X不斷更新Captcha驗證系統作為新的反機器人工具。例如，當用戶輸入賬戶名稱或僅1個字符、跳過密碼、點擊登錄按鈕等情境之下將面臨登錄檢查，須選擇指令指定的所有圖像，例如山丘、山脈、公共汽車、汽車、店面等靠用戶肉眼識別來判定的圖形元素。

現今社交平臺基本上都通過設置“技術籬笆”來規避虛假機器人登錄，但為了用戶正常使用，防火墻閾值通常不會設置過高的難度系數。智能化的社交機器人可以輕松繞過平臺端的檢測，如果規則設計不夠合理還會對用戶的正常操作帶來困擾。隨著社交機器人的迷惑性逐步提升，如何在技術之間實現博弈且避免給用戶造成太過煩瑣的社交平臺使用體驗，對互聯網平臺來講是一個需要平衡的要點。

3.算法篩查機器程序

計算機領域已開發多種檢測社交機器人的方法，通過分析某些賬戶的社交網絡和社會關系，分析其發布頻次和內容來檢測是否為社交機器人賬戶。機器人檢測平臺“Bot or Not”就是一種已經投入實踐的社交機器人檢測平臺，它由美國印第安納大學的Clayton A. Davis等人開發。它可以通過分類算法從用戶賬號的元數據以及交互模式、發布內容中提取信息并進行數據分析，生成1000多種特征值，并將這些特征值分為6類：網絡特征、個人資料、好友關系、時間特征、文本內容和情感特征。每一類的特征值會根據統計評估情況由計算機分類并計算得分，最后通過總得分相加判斷一個賬戶是機器人的可能性，并參照一定標準作出區分。

算法篩查更偏向事后治理，雖然對社交平臺上的對象運用技術手段進行特征判定、對機器用戶進行定點清除能在短期內取得較好成效，但長期來看，治標不治本，無法從根源上防止社交機器人的產生。特別是隨著以ChatGPT為代表的AI大語言模型的興起，原有的檢測技術已經無法應對社交機器人的“變異”。

總體而言，社交機器人本身就是技術的產物，使用檢測或清除技術對其進行治理是最簡便有效的處理方式。目前仍然有很多計算機領域內的專家和學者在開發利用針對社交機器人的檢測技術，但本質上這是技術與技術之間的抗衡，總體上采取的辦法不是“疏”的策略而是“堵”的方案。

（三）協會組織推動

技術發展日新月異，新現象、新問題不斷涌現。以社會既定價值體系為基礎的法律更新速度往往跟不上變化的步伐。在此情況下，體現一定前瞻性的原則和倡議可以適當填充空白，科技倫理觀念可以推動社交機器人的治理。

1.獨進式國內組織推進

2016年，英國標準協議（BSI）發布了《機器人和機器人系統的倫理設計和應用指南》，指出機器人不得傷害人類，需要對機器人行為負責的是背后負責任的人類。2017年，美國電氣與電子工程師協會（IEEE）宣布了三項新的人工智能倫理標準，同樣適用于對社交機器人的規范。此外，美國信息技術產業委員會頒布了人工智能的14條準則，對人工智能系統的設計、部署與應用等安全性提出了要求。在此框架下，依托人工智能技術的社交機器人的生產與設計得到相應規范。2020年，新西蘭AI論壇的法律、社會和倫理工作組發布了一套“新西蘭值得信賴的人工智能”的指導原則，其中規定了多項原則，該原則旨在為在新西蘭設計、開發和使用人工智能的人提供高層次指導，有效彌補了法律空缺下的人工智能規制，這些原則和標準也為社交機器人的治理作出了一定貢獻。

2.聯合型國際組織促進

國際性原則與倡議由于其區域間共同發布的聯合屬性，成為促進社交機器人治理邁向協同化和全球化的重要動力。2019年，經濟合作與發展組織成員國共同支持“負責任地管理可信AI的原則”，包括包容性增長、可持續發展和福祉原則，以人為本的價值觀和公平原則，透明和可解釋性原則，穩健和安全可靠原則以及責任原則。在此框架下，聯合國舉辦了“AI向善國際峰會”并推動AI倫理國際對話，國際組織開始建立一套體系以推動包括社交機器人在內的人工智能技術的治理體系。除此之外，G20峰會上也同樣提到了關于人工智能治理的相關議題，G20貿易和數字經濟部長會議通過了“G20人工智能原則”，這一倫理原則強調透明度和問責制，對社交機器人治理起到宏觀指導作用。2024年3月21日，聯合國大會通過首個關于人工智能的全球決議《抓住安全，可靠和值得信賴的人工智能系統帶來的機遇，促進可持續發展》，為控制包括社交機器人在內的人工智能領域的風險提供了全球共治的可能路徑。

（四）平臺自律自治

1.雙向互動下的被動治理

政府與平臺在社交機器人治理問題上的責任圈定存在著動態博弈，社交機器人的治理平臺方肩負著不可推卸的責任。但就目前的情況來說，平臺仍未采取強有力的實際行動?；ヂ摼W跨國公司基于自己的利益考量會與當地政府斡旋 Maréchal N，“When bots tweet： Toward a normative framework for bots on social networking sites”， International Journal of Communication， vol.10，no.10（2016）.，以實現自己的利益最大化。政府與平臺在社交機器人治理問題上的責任分配常處于動態演變過程。

2020年12月，歐盟提交審議的《數字服務法》和《數字市場法》劍指互聯網巨頭。前者主要針對在歐洲用戶數超過4500萬的社交平臺。該法案在保障民主和言論自由的前提下極大地完善了刪除網上非法內容和保護消費者網上基本權利的機制，為大型在線平臺提供了監督、問責和透明的橫向框架。后者為大型平臺施加了一系列額外的具體義務。違反《數字服務法》最高可以處以全球年度營業額6%的罰款，違反《數字市場法》的最高罰款可達全球年度營業額的10%。正是在這樣強有力的外力驅使下，歐盟地區的社交平臺公司承擔起了更多的社交機器人治理職責，對機器人內容進行了更為嚴格的審查。

2.主動作為下的制度防范

各國的技術平臺看似中立自由，但實際上并非毫無傾向的表達空間，也受一定立場和政治傾向的影響。在俄烏沖突之際，俄國媒體在社交媒體平臺X上的賬戶被以西方勢力為主導的平臺方所封禁，并對支持俄國的相關言論進行直接管制。除政治傾向影響以外，社交平臺通常利益為先。治理措施雖消耗成本，但社交平臺往往也會主動踐行社交機器人治理行為，一方面在涉政治議題上協助政府管控敵對勢力可以維持平臺與政府的關系而免受制裁；另一方面打造社交平臺的良好傳播生態可以改善用戶體驗，從而增加用戶黏性，有利于與競爭對手展開競爭。2018年9月，歐盟出臺了《反虛假信息行為準則》，在此基礎上，各大網站、平臺主動承擔責任，共同抵制虛假信息的傳播。

此外，社交媒體平臺X通過推出機器人標簽來增加推文發布流程的透明度。開發人員可以自愿添加標簽，機器人賬號將在個人資料名稱旁邊顯示一個新的機器人圖標以及一個表示該賬號是自動化運行的標記。在實際檢驗過程中，社交媒體平臺X已經有眾多的自動化機器賬戶在介紹頁顯示了“Automated”標簽。但正如社交媒體平臺X聲明所言，使用自愿標簽目前是作為幫助突出“好機器人”的一種手段，“為X上的人們提供有關該機器人及其用途的更多信息，以幫助他們決定關注、參與和信任哪些賬號”，而不是用于負面目的的機器人賬號。不過無論如何，這表明社交媒體平臺X正在采取更直接的步驟來解決其機器人問題，并幫助用戶避免潛在的操縱。

四、中國社交機器人治理的思考

創新與風險是事物演進的一體兩面。張樂、童星：《人工智能的發展動力與風險生成：一個整合性邏輯框架》，《江西財經大學學報》，2021年第5期。相比于旨在提高生產效率的工業革命，科技革命更與人直接關聯，具有高能化特征，因而新技術革命帶來的社會風險也較高。 Elena P. Gopkova， Kantoro Gulzat， Technological Revolution in the 21st Century： Digital Society vs. Artificial Intelligence，Institute of Scientific Communications Conference. Springer， Cham，2019，p.341.社交機器人的出現以“實然”的形態連接和重塑了人與技術的關系，在拓展人工智能應用形式，為技術發展注入強大動力的同時，也會帶來一定風險。這種風險若不經及時規制，則極易轉化為社會矛盾，對國家機器的運行帶來負面影響。同時，過于嚴格的約束也會阻礙技術創新的活力，趨緩發展腳步。如何平衡創新與監管二者之間的關系，是一個重要的時代命題，關乎技術發展體系構建和戰略選擇。社交機器人作為新興的人工智能產物，如何治理好、利用好它，打造治理與創新并存的良性社交機器人發展體系，從而為人工智能技術的長足發展創造條件，可以從其他國家和地區的治理經驗中獲得一定的啟示。

（一）全方位構建協同治理框架

社交機器人作為新事物新問題，在治理探索實踐過程中，需要從頂層加以規劃和設計。我國一直把發展人工智能作為重要戰略，自2015年制定“互聯網+”計劃起，出臺了一系列人工智能支持政策和發展規劃，計劃到2030年將我國建設成“世界首屈一指的人工智能創新中心”。在取得顯著成績的同時，我國認識到為人工智能建立法律道德框架的重要性。2017年國務院印發《新一代人工智能發展規劃》，在保障措施中首先提到建立保障人工智能健康發展的法律法規框架。2021年8月，我國正式出臺了《中華人民共和國個人信息保護法》，標志著我國以《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》三法為核心的網絡法律體系的建立，為數字時代的網絡安全、數據安全、個人信息權益保護提供了基礎制度保障。2020年7月27日，國家標準化管理委員會等五部門印發了《國家新一代人工智能標準體系建設指南》，明確指出在AI發展中要強調倫理、安全和隱私，AI服務不得沖擊傳統道德倫理和法律秩序。2021年11月16日，國家互聯網信息辦公室審議通過《互聯網信息服務算法推薦管理規定》，其中規定“算法推薦服務提供者不得利用算法虛假注冊賬號、非法交易賬號、操縱用戶賬號或者虛假點贊、評論、轉發”，這標志著我國在社交機器人治理和算法數據治理的立法進程上邁出了重要一步。2023年3月，國家人工智能標準化總體組、全國信標委人工智能分委會發布《人工智能倫理治理標準化指南》，其中明確提出以人為本、可持續性、合作、隱私、公平、共享、外部安全，布局建設人工智能倫理標準體系。

未來，社交機器人治理需要進一步圍繞內外視域開展協同治理體系建構。對外競爭更多著眼于中長期治理需要，積極面對技術變革，構建社交機器人網絡輿情預警機制，設置社交機器人輿論操控分級預警體系，占據網絡輿論斗爭先機；對內則更多著眼于短期考量，圍繞公民權利的保護，避免負面效應的擴散。在實踐層面，具體對應三種治理模式：政府部門從政策層面制定法律法規，進一步明確實施細則；社會組織扮演民間領導者角色，積極參與社交機器人治理；社交平臺發揮主體職能，通過技術創新，自覺融入社交機器人治理體系中。當然，各階段的治理路徑并不是完全平行而相互區隔的條線，而是綜合作用的復雜鏈接，共同促成協同治理的框架。

（二）分層辨析提升治理的有效性

近年來，隨著人工智能技術的發展，機器人“水軍”開始攪動輿論場，甚至借此進行一定程度的輿論操縱。販賣機器人“水軍”的產業鏈條刺激盜竊個人信息的網絡黑產，助長網絡空間暴力的生成。研究發現，微博平臺上社交機器人參與熱點事件討論的行為也頻繁發生，機器人賬號使用者通過提高話題外圍微博的曝光量，從而吸引公眾注意力盧林艷、李媛媛等：《社交機器人驅動的計算宣傳：社交機器人識別及其行為特征分析》，《中國傳媒大學學報（自然科學版）》，2021年第2期。，相關話題頁下常混跡著機器賬號，產生了大量的無效反饋。此外，社交機器人已成為境外勢力對中國進行社會分裂的工具，中國社會網絡空間中的性別對立現象在短時間內被塑造和激化，在此過程中明顯存在社交機器人參與挑動性別對立的現象。 李晟：《國家安全視角下社交機器人的法律規制》，《中外法學》，2022年第2期。2022年4月，國內主要社交平臺相繼上線用戶IP歸屬地顯示功能，在一定程度打擊了部署于境外的社交機器人非法滲透行為。

基于此，社交機器人治理應考慮對不同細分領域進行針對性治理，例如政治、商業、金融、娛樂與個人權利等方面。針對其高仿真的擬態環境對現實的扭曲問題，警示平衡工具理性與價值理性，防范商業誘導，去偽存真，回歸社會實踐。在中國問題較為凸顯的機器人娛樂打榜以及機器人虛假營銷等問題，需要分層辨析加以針對性治理，并最終統合到中國社交機器人治理的大框架之中。這對社交機器人的監管方式和監管能力提出了更高的要求，不僅需要針對在背后惡意操縱社交機器人的真實用戶，也要對社交媒體平臺管理者進行法律規范并制定明確的懲罰措施。

（三）重視社交機器人涉華輿論

社交媒體時的國際假新聞，其表現形式更加隱蔽，背后隱藏著國際關系中的霸權結構與國家間的權力關系。趙永華、竇書棋：《信息戰視角下國際假新聞的歷史嬗變：技術與宣傳的合奏》，《現代傳播（中國傳媒大學學報）》，2022年第3期。隨著中國的日益崛起，社交機器人參與、影響、操縱社交媒體涉華輿論日漸成為常態。研究發現，社交機器人通過放大爭議、制造政治沖突等方式將北京冬奧會引向負面討論，在一定程度上推動或加劇了奧運傳播的泛政治化。趙蓓、張洪忠：《有關北京冬奧會的社交機器人敘事與立場偏向——基于Twitter數據的結構主題模型分析》，《新聞界》，2022年第5期。社交機器人涉華議題日益成為影響中國國際形象的重要因素。若對境外反華勢力運用社交機器人誣蔑、誹謗、污名化中國的行為熟視無睹，將造成中國國際話語權的旁落。因此，我們需要研究社交平臺的管理規定及其所在國的相關法律法規，要研究社交機器人的運行邏輯及行為特征，要加強社交機器人涉華輿論研究。一方面，通過行之有效的方式向境外社交媒體施壓以達到對涉中國議題虛假信息的規制；另一方面，適時、準確地公開虛假信息傳播中的社交機器人行為及其背后的陰謀，進行有針對性的回應。

（四）積極融入全球共治體系

社交機器人風險等議題已經受到世界各國的高度關注。然而，當前的社交機器人治理根據地區不同依然呈現較為明顯的條塊化分布特征，根據國情的不同，各國對社交機器人治理的側重點也有所不同，在此基礎上形成了多種手段雜糅的治理模式。歐盟在理論和體系構建方面走在世界前列，美國在治理實踐上有所領先，中國立足貫徹“積極發展、加強管理、趨利避害、為我所用”的十六字方針，有效促進互聯網持續、健康、穩定發展，而人工智能發展較為落后的地區目前尚難以觸及社交機器人治理的議題。各自為政、失衡發展的局面不利于未來社交機器人全球共治體系的構建。社交機器人的全球治理與區域治理是互動共進的關系，融入全球治理潮流更有利于國家在社交機器人治理問題上不落伍不掉隊。因此，我國需要構建面向未來的協同治理體系，積極實現全球共治是社交機器人得以良性發展的必由之路。

五、結"語

惡意社交機器人的泛濫給公民權益、社會秩序乃至人類倫理帶來了一定程度的威脅。各主體相繼出臺了一系列的政策規范，對包括社交機器人在內的人工智能倫理失范行為進行約束，如歐盟的《可信AI倫理指南》《數字服務法》、美國加州第1001號法案以及聯邦貿易委員會的報告與案例等。在企業層面，互聯網公司如谷歌、索尼、微軟等內部也有倫理聲明。人工智能協會和各類組織也進行了打造可信AI的嘗試。從而漸次形成了多元主體下多種不同手段為主導的社交機器人治理實踐。

但必須看到的是，目前全球對社交機器人的治理并未形成體系，極少有專門法條直接對社交機器人進行規范，而是對人工智能、數據隱私等領域進行了指導性、模糊性的規范，且這些規范還有缺乏強制性、區域特征明顯等局限，未能觸及源頭治理和核心治理。究其原因，一是社交機器人的治理本身還存在一些有待解決的問題，如機器人權利分配、平臺履責、政治黑箱與技術黑箱等；二是當前技術發展仍處于“弱人工智能”階段，社交機器人本身的嚴峻問題還未凸顯。因此，現階段的法律問題更多地體現在傳統法律適用，而不是創設新的人工智能法律制度。隨著社交機器人智能程度的不斷提升，其倫理問題會不斷凸顯，人類會更加在意社交機器人是否會帶來“情感欺騙”等深層次問題，未來的社交機器人的治理將被納入如何處理好“人機關系”的命題中去。

從維護國家信息安全的角度看，我們需要積極面對社交機器人這一新事物帶來的新風險。首先，提高檢測篩查和追蹤的技術能力，建立平臺監測預防機制。其次，提高公眾智能媒介素養。研究表明，中國網民對社交機器人的認識還處于初級階段，對其持正面態度的比例較高。 張洪忠、何康、段澤寧等：《中美特定網民群體看待社交機器人的差異——基于技術接受視角的比較分析》，《西南民族大學學報（人文社會科學版） 》，2021年第5期。再次，數據治理、算法治理等與社交機器人應用相關的領域需要進一步加強規制。最后，有必要關注境外媒體平臺上社交機器人營造的與中國議題相關的輿情，更有必要汲取先進經驗，完善本國人工智能的發展和監管相平衡的治理路徑。

“人機共生”在提供了文明與交流多樣性發展場域的同時，也會引發虛擬空間治理與個體沉迷等多種問題。社交機器人的研發致力于摒棄純粹的技術功利論，將社交機器人作為人類的伙伴而非冰冷的工具，將對人機關系的審思推向了大眾視野。在反對技術作為純粹的工具的同時，也應當警惕人類淪為技術的工具。作為多元文化與個體共融共通的棲息之所，人工智能有賴于全球的共同構建與治理。全球應開展多主體、多領域、多層次的共同合作，以前瞻性的眼光對人類與社交機器人分別進行積極引導和監督，避免媒介賦權帶來的個體異化，進而推動構建具有普適性的倫理價值體系，促進虛擬世界的良性發展。

〔責任編輯：李海中〕

①"夢非、朱慶華：《社交網絡信息傳播中意見偏差的國外研究進展》，《情報理論與實踐》，2021年第10期。

②"柯澤、譚詩妤：《人工智能媒介擬態環境的變化及其受眾影響》，《學術界》，2020年第7期。

③"高山冰、汪婧：《智能傳播時代社交機器人的興起、挑戰與反思》，《現代傳播（中國傳媒大學學報）》 ，2020年第11期。