論算法治理視域下的未成年人網絡保護

楊秀 李芬

摘 要：

算法已然成為當前社會運轉的一個重要技術元素，而伴隨著媒介成長起來、被稱為“數字原住民”的未成年群體，在享受技術紅利的同時，也不可避免地面臨著諸如成人化、信息繭房、全景監視、娛樂模仿以及階層分化等算法風險。我國日漸成型的算法規制體系在制度供給、司法執行以及業界實踐過程中給予了未成年人特殊的關照與保護，但仍然在監管條件、配套規則、對象界定、技術實踐以及家庭教育等方面存在缺陷。這需要多主體在多環節協作配合，通過相關立法的完善、監管框架的優化、標準文件的出臺、階段保護的落實以及算法問責的強化，來妥善回應算法濫用及異化帶給未成年群體的挑戰，幫助未成年人構建友好型網絡生態，推動我國網絡強國的建設。

關鍵詞：

算法；未成年人；網絡保護；法律

中圖分類號：D902

文獻標識碼：A

文章編號：1673-8268（2023）02-0076-09

技術的發展必然會對社會運行模式施加影響。作為大數據技術在信息傳播中的應用，算法推薦服務將人們從海量信息中解救出來，實現了信息與人之間的高效匹配，大幅提升了信息傳播的效率。學界關于算法的相關研究最早可追溯到20世紀，但是它成為新聞業的傳播方式則是發生在近十年，并且發展勢頭迅猛。算法與媒體的正式結合源于2002年9月推出的谷歌新聞［1］；而在我國，自2012年“今日頭條”開啟算法分發的嘗試以來，不僅新聞資訊類平臺，而且類似于抖音、快手的視頻類平臺，包括微博、微信在內的社交平臺以及淘寶、京東類的交易平臺，都開始運用算法推薦機制來進行信息分發并影響人們的決策。

2021年11月16日，國家互聯網信息辦公室審議通過了我國第一部以算法作為專門規制對象的部門規章——《互聯網信息服務算法推薦管理規定》（以下簡稱《規定》），其中指出算法推薦技術包括生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等五大類別。各類型算法推薦服務在人們的不同生活場景中發揮著作用。作為計算機程序實現數據分析、面向特定目標的一套指令［2］，算法逐漸成為媒介化社會中的基礎性技術元素，改變了信息傳播邏輯的同時，還促進了經濟運行與國家管理方式的變革，并對當代未成年人的生活與成長環境產生了深刻影響。當前社會中的未成年群體多為伴隨互聯網成長起來的“數字原住民”，他們在算法作用機制下獲取信息、了解世界、構建認知、作出決策，也在更大程度上面臨著算法誘發的風險挑戰。我國現有的算法規制體系能否給予未成年人足夠的關照？當下社會應當如何幫助未成年人在算法推薦服務普遍運用的環境下實現“安全”與“發展”的雙軌成長？這些都是值得探討的問題。

一、未成年人面臨的算法風險審視

近年來未成年網民規模持續增大，觸網低齡化趨勢也愈加明顯。截至2022年6月，我國網民規模為10.51億，19 歲以下網民占全國網民人數的17.7%［3］。算法技術越早入駐未成年人的生活，也就將其越早地暴露在技術應用的風險中。基于未成年群體特殊的心理機制與行為模式，他們在享受算法推薦服務帶來的好處時，也正在被植入的算法邏輯渲染上數字色彩，從認知到行為，都被埋下了受技術殖民的隱患。具體來說，算法推薦服務帶給未成年人的風險主要包括五個方面。

（一）倍速中成長

媒介文化研究者尼爾·波茲曼曾提出，童年并非是由生物學決定的概念，而是一個社會學概念；書籍和閱讀往往限定了相應的門檻要求從而實現了兒童與成年人的區分，因此書籍和閱讀的普及創造了童年。但是，電視影像時代不設界限的傳播方式卻導致了童年的消逝，“新媒介的自由化視像語法摧毀了成人與兒童之間由讀寫能力孕育的文化分野，‘成人化的兒童與成人一起，在簡單化的觀看之中，漂浮在娛樂消費的文化表象之上”［4］。現代社會已然是一個“算法時代”，由于媒介設備的易得性、算法應用的普遍性以及把關人的缺失，未成年人被偏重“工程傳播邏輯”的算法削弱了群體特殊性，成年與未成年的分野因技術手段而變得模糊。一方面，一些網絡服務平臺在用戶注冊信息時并未強制要求實名認證，這便給予了未成年人在入池階段隱瞞自己真實年齡的機會，錯誤的用戶標簽使得他們接觸的信息超出其本應置身的未成年內容池，而開始延伸至更大范圍的成年人可讀內容。另一方面，基于現實社交關系的精準分發以及流量池疊加推薦等操作，都無疑會使得成人世界的“秘密”不再被遮蔽，而成為繁雜信息中推向大眾的滄海一粟，從而致使具有較強好奇心以及較低辨別能力的未成年人在潛移默化中被催熟，并開啟倍速成長模式，漸趨“成人化”。

（二）繭房中生存

“信息繭房”這一概念最早由美國學者凱斯·桑斯坦在《信息烏托邦》中提出，他認為用戶在接觸互聯網信息時，往往只會選擇自己感興趣的內容，而刻意無視并排斥其他內容，長此以往就形成了“信息繭房”［5］。算法技術本身是基于信息爆炸的現實圖景應運而生，甚至可以被解釋為是人們在信息過剩時代的某種自我保護，是現代人以個體為基礎信息消費的必然結果［6］；它將人們從海量信息帶來的迷茫、焦慮與壓力困境中解救出來，放縱用戶的獨異性需求，降低信息檢索成本，幫助受眾更快定位自己所需要的資源。理想狀態下，未成年人本應借由強大的信息技術接受多元信息并全面了解世界，在觀點的碰撞之下形成自己的價值觀，不斷進行自我提升，現卻因為對算法的不當應用而使自己無休止地被同質化內容飼養，導致視野的偏狹和觀念的固化。對未成年人而言，算法推薦服務能把他們與擁有相同興趣、關注共同話題的人集聚起來，從而讓自己迅速獲得群體歸屬感與滿足感。但是，這也使其只接觸并關注自己認同的信息，而下意識屏蔽、排斥其他觀點和內容，從而造成了信息繭房的固化。而且，未成年人往往在自主意識方面難以擺脫算法的“知心”服務，于是在媒介使用方面難以自控，由此患上媒介依賴癥。算法對于用戶興趣的精準掌控，無疑會加深這種依賴，如此循環之下，便會使未成年人深陷技術漩渦與信息繭房之中。

（三）監視中“裸奔”

人工智能算法的實質是算法系統處理和利用用戶存在于網絡之中的個人信息［7］，因此算法推薦機制得以運行的基礎在于對個人信息數據的獲取與處理；用戶在平臺上停留的時間越長、暴露的數據越多，算法為用戶所刻畫的畫像就會更精確。邊沁曾提出圓形監獄理論，指出由外圍環形建筑和中心瞭望塔兩部分組成的建筑結構能令處于中心瞭望塔的獄警完全監視到犯人們的一舉一動，使其毫無隱私可言［8］。而在當前的媒介環境中，算法技術對于用戶信息的獲取在某種程度上也產生了一種隱性的監視機制。技術的背后往往附帶相應的利益訴求和價值觀念。不具備專業技術知識的普通用戶對于自己同意被采用的數據，除了了解其將被作為信息分發的依據之外，對于其是否被作為他用以及數據存儲機構能否保證數據庫安全不受侵犯，往往沒有進行全面的了解。特別是處于技術黑箱中的未成年人，對平臺背后的工程邏輯了解較淺，在自身隱私信息保護方面警覺性也相對較低，因而很少刻意采取相應的措施來規避算法監視。在此意義上，由于現在的未成年人觸網年齡越來越小，其數字生命相較于成年人而言會更長；隨著時間的累積，他們被獲取的數據會更多，卷入隱私風險的可能性也越大。

（四）娛樂中模仿

新媒體時代的技術賦權，完成了傳播流程的去中心化，任何個體都可能成為傳播中心。算法的推送機制更是解構了傳統社會中的權力結構，那些帶有娛樂性質的傳播內容往往能夠獲得更多的瀏覽與點擊率，并在下一個流量池中“俘獲”系統的自動加權，實現更大范圍內的內容分發與傳播。基于未成年人的心理機制，帶有強烈趣味性、偏向娛樂化的信息對其更加具有吸引力。而未成年人長期瀏覽娛樂化內容，使得算法在持續的自我馴化過程中為其建立相應的標簽，并在之后的服務實踐中繼續加大娛樂內容的傳播比重。由于當前的娛樂化信息中不乏低級低俗、價值觀扭曲的內容，且具有人文關懷的把關人在算法推薦過程中缺席，而以工具理性為導向的算法又不具備分辨內容價值的能力，因此，僅以未成年人自身興趣為推送衡量標準往往會造成不良信息以畸形的“合理性”乘虛而入，在導致未成年人沉迷網絡的同時，也在其建立價值觀的重要階段產生誤導。此外，出生于數字時代的未成年群體有其特定的娛樂需求與社交需求，在接受算法推薦的過程中，也在扮演傳播角色。可變現的流量與被關注的渴望，驅使許多孩子孵化網紅理想，而模仿行為則會是大部分未成年人“打拼事業”的第一步。但是，處于認知建構環節的未成年人，會疏于對其所模仿的內容進行甄別，而對包含暴力、性暗示、畸形審美等高風險、惡趣味、錯誤價值導向的行為進行模仿，這無疑會阻礙未成年人健康成長。

（五）偏見中分層

算法技術的數據模型以及運行標準是人為設定的，設計者個人的道德觀念以及利益集團的資本追逐訴求，都會在某種程度上影響受眾的信息獲取，并在更長遠范圍內影響其社會認知。算法廣告中的種族歧視、性別歧視以及“大數據殺熟”背后的價格歧視，是生活中常見的幾種算法偏見［9］。這些社會歧視反映在算法推薦環節中，會使得處于成長過程中的未成年人延續既有的社會偏見，加深刻板印象。并且，同質產品與服務的長期投放，使得用戶難以接觸多元觀點，在窄化其認知的同時，也致使其失去獲得新資源的機會，從而阻礙了社會階層的流動，這無疑扼殺了未成年群體成長發展的更多可能性。此外，基于現實社會客觀存在的階層分級，未成年群體對媒介信息的接觸與使用會因為環境條件的不同而呈現出差異，這種差異多由家庭、教育等因素決定。在接受算法推薦服務時，

未成年群體在獲得來自父母、長輩、老師甚至是同齡人的引導方面，經濟條件富裕的會比經濟條件貧瘠的更好，從而能夠有效實現算法這項新技術在開拓新知、資源整合以及行為決策方面的正面效應。諸如留守兒童等群體卻往往面臨著更大的算法風險，他們因技術使用缺乏家長引導與監督而更加追逐新技術的娛樂功能、忽視其發展功能，長此以往就逐漸成為“數字鴻溝”下知識貧瘠的一端。

二、算法治理中對未成年人的多維關照

隨著算法技術背后的風險漸漸引起社會各界的重視，我國開始引導算法向善，深入探索算法治理路徑，并在這個過程中不斷體現出關照未成年人的取向，以促使技術增進人類福祉。當前，我國在算法治理過程中對于未成年的關照主要體現在以下三個方面。

（一）制度關照

“制度供給是通過法定程序設立和創新行為規則的過程，其本質就是明確經濟社會運行規則；要針對經濟社會生活中出現的新情況新要求，增強制度供給的及時性。”［10］為了規制算法推薦技術應用可能存在的潛在風險，我國致力于為算法治理提供制度支撐。《規定》作為我國首個針對算法推薦服務制定的專門法律文件，標志著我國算法治理事業初步邁入體系化軌道。繼《未成年人保護法》《兒童個人信息網絡保護規定》等法律文件之后，《規定》的出臺和實施為我國未成年人網絡保護制度增設了重要內容，且在算法治理領域對未成年群體表現出明確的制度關照。作為未成年的權益保護專條，《規定》第18條提出了算法推薦服務提供者在未成年人網絡保護方面應當履行的責任義務，明確要求他們通過開發未成年人模式、提供適合未成年人的特定服務等方式履行積極義務，并界定了算法推薦服務提供者在把控甄別不良信息、預防未成年人網絡沉迷等方面的消極義務，以此在算法領域提供了未成年人網絡保護和發展并行的中國智慧。

（二）司法關照

個人信息的收集與處理是算法執行邏輯的前提，因而算法技術的不當運用會造成未成年人個人信息的濫用。在此過程中，鑒于算法技術隱蔽而復雜的“黑箱機制”，算法推薦服務的潛在風險不易被未成年人及其監護人察覺；即便有所察覺，由于算法服務提供者與使用者之間對于專業技術知識的掌握存在明顯參差，個人維權面臨著成本過高、流程冗長等問題，這都會使得普通大眾讓渡自己的權益訴求以獲取生活便利。因此，為了更好地維護公民利益，我國在司法執行層面規定可由相應的國家機關提出公益訴訟，拓寬救濟范圍，遵循兒童利益最大化原則，并促進互聯網行業健康發展。2021年新修訂的《未成年人保護法》在其第106條中規定：“未成年人合法權益受到侵犯，相關組織和個人未代為提起訴訟的，人民檢察院可以督促、支持其提起訴訟；涉及公共利益的，人民檢察院有權提起公益訴訟。”這為解決算法侵權糾紛提供了司法依據。當前，我國司法實踐中，已經出現了運用公益訴訟保護未成年人權益的司法案例，如“杭州市余杭區人民檢察院訴某短視頻平臺未成年人保護民事公益訴訟案”。該案系全國首例有關兒童個人信息網絡安全保護的民事公益訴訟，其中指出，“某短視頻APP在未再次征得兒童監護人有效明示同意的情況下，運用后臺算法，向具有瀏覽兒童內容視頻喜好的用戶直接推送含有兒童個人信息的短視頻”，以及“信息處理者對兒童用戶進行畫像，未獲監護人同意默認開啟個性化推薦，運用算法進行內容推送”，這些行為被認定為違法處理兒童個人信息。在法院調解下，該案公益訴訟起訴人與被告某科技公司達成調解協議，被告需履行停止侵權、進行整改、接受審查、賠禮道歉以及交付罰款等調解事項［11］。此案為通過公益訴訟在算法推薦服務領域保護未成年人權益的司法實踐提供了示范。

（三）平臺關照

無論是應國家相關法律法規要求的被動行為，還是基于社會責任感的主動履行，作為提供互聯網服務與運用算法推薦服務的重要角色，平臺在對未成年人保護的過程中都發揮著舉足輕重的作用，體現出愈加強烈的關照趨勢。對未成年群體進行優先、特殊的網絡保護，保護其隱私信息并為其提供優質內容，運用合理的算法推薦模式，為其構建友好、健康的網絡空間，已經成為互聯網企業的普遍義務。自2007年4月我國網絡游戲正式進入防沉迷時代開始，從網絡游戲到各個短視頻平臺、直播平臺，乃至社交軟件，未成年人保護模式的應用場景陸續拓寬，實名認證制被不斷普及且要求更為嚴格細致；各大網絡平臺也逐漸開始制定“兒童隱私保護條款”，運用技術手段增設相關的“青少年保護模式”“防沉迷系統”以及“專屬內容池”，對未成年人的網絡在線時長、使用時段、內容類別、消費層級以及披露范圍進行規范。在此過程中，平臺借助“監護人或家長同意”機制，合力保護著未成年人在網絡環境中的健康與安全。

三、算法治理中未成年人保護困境探析

為了應對算法推薦技術給傳播、經濟、政治、文化以及大眾生活帶來的風險，我國從上層制度出發，不斷完善平臺服務者以及行政監管者的責任義務，加大對算法設計者、學校、家長等多元主體的呼吁力度，初步構建了中國算法推薦技術應用治理體系；并在此過程中，關注重視未成年人這一特殊群體，旨在幫助未來網絡強國的接班人健康、安全地成長。但是，面對“算法”這一新興事物，我國在該領域對未成年人開展的保護工作依然存在一些問題。

（一）監管執行門檻高

《規定》作為我國首個針對算法推薦服務制定的專門規定，主要面向包括各級網信部門、電信、公安、市場監管等有關部門在內的政府機關以及作為算法推薦服務提供者的企業平臺，明確了各自的信息服務規范、用戶權益保護以及監督管理責任，從而為我國算法安全管理提供了制度供給，具有國際示范性。值得注意的是，有規可依只是我國開展算法治理的第一步，如何落實才是重中之重。然而，我國現有的實踐脈絡并不清晰，面對算法技術這一新興事物，監管部門在履行相關責任的過程中面臨著技術門檻過高的問題。因為，要對算法推薦服務進行監管，就意味著包括各級行政機關在內的政府部門要掌握對等、甚至高于監管對象的技術能力，即需要配備一定的技術團隊并提供相應的經濟支持；現實情況卻是：除了經濟發達地區，其他地區并不具備這樣完善的條件，這就從技術層面阻礙了算法服務監管的有效落實。

（二）配套規則不完善

《規定》提出了貫穿算法推薦服務提供過程的事前、事中、事后監管體系，具體包括分級分類安全管理、算法備案制度、算法安全評估機制以及算法監督檢查等；但是，對于監管體系內的具體流程、具體標準以及落地實施，我國目前還處于起步階段，各主體的責任義務相對模糊，配套規則并不完善。《規定》第23條將算法推薦服務的輿論屬性、社會動員能力、內容類別、用戶規模、算法推薦技術處理的數據重要程度、對用戶行為的干預程度等作為建立算法分級分類管理制度的關鍵要素，隨后對具有輿論屬性或者社會動員能力的算法推薦服務提供者提出了更嚴格的管理要求。值得注意的是，此處雖然對于分級分類的相關要素進行了羅列，但是關于“社會動員能力”“用戶規模”“重要程度”以及“干預程度”的具體界定標準卻并未明確，并且該條款主要聚焦于具備較大影響力的算法推薦服務者，對于中小規模企業的監督管理路徑也并不清晰。此外，《規定》第8條要求算法推薦服務提供者自行對其采用的算法機制機理、模型、數據和應用結果等進行定期審核、評估與驗證，但是由于算法推薦的效果大多需要一個時間的積累，如何確認審核工作的完成，什么樣的結果是符合標準的，誰來設置標準，等等，這些都有待進一步界定。

（三）保護對象存局限

在我國既有的算法治理制度設計中，對于未成年人的保護多集中在十四周歲以下的群體，“兒童”與“未成年人”概念的差異性致使十四至十八周歲的未成年群體保護存在局限。《個人信息保護法》第15條明確了關于個人信息處理的同意撤回規則，《規定》第17條則進一步確定了算法應用的拒絕權，指出算法推薦服務提供者應當向用戶提供便捷的關閉算法推薦服務的選項。由于對個人信息進行處理是算法運行的基本邏輯，因此在個人信息處理方面的法律法規文本設計也在一定程度上為算法推薦服務的應用治理提供了依據。在此意義上，《個人信息保護法》第31條對不滿十四周歲未成年人個人信息的處理作出了特殊規定，要求個人信息處理者在處理時應當取得其父母或者監護人的同意，并且需要制定專門的處理規則。如此看來，這一條款默認年滿十四周歲而不滿十八周歲的未成年人擁有“同意能力”，可以獨自拒絕或同意個性化推薦算法處理自己的數據［12］。但現實中，這個階段的未成年人在“數字年齡”與“社會年齡”之間存在嚴重不對稱，讓他們完全自行決定是否接受或拒絕算法推薦，實際上是充滿風險的。由于這個范圍內的未成年人多處于中學階段，媒介設備普及率明顯高于十四周歲以下群體，信息技術使用能力又高于其父母，因而，相較于傳統媒體時代兒童對社會的關注度和理解力，“童年的消逝”使得他們更趨于成熟［13］，信息主體意識顯著提高，也具備更完善的條件與更強烈的積極性來進入媒介構筑的“擬態環境”。但是，由于他們三觀尚未成型，無論是在文化素養、社會閱歷，還是認知判斷方面，都與真正意義上的成年人存在斷層，放任他們接受算法飼養，可能導致其難以清晰區分現實與網絡，從而脫離正確的三觀建設道路。

（四）技術實踐有缺陷

網絡生存已然成為當代未成年人社會化的重要途徑，對未成年群體進行網絡保護也逐漸在社會各界達成共識，相關的網絡服務提供商在此過程中被賦予了更多的責任義務，

并且越來越多地借助技術手段開啟青少年保護模式。2022年11月30日發布的《2021年全國未成年人互聯網使用情況研究報告》顯示，雖然青少年保護模式對減少未成年人網絡依賴發揮了積極作用，且八成以上未成年人和家長知道該模式，但對此設置過的人不到五成［14］。從現實來看，這種技術實踐目前仍舊存在許多缺陷，包括：界面顯示不顯著，監護人難以注意到模式的存在；模式設置環節多，因消磨家長耐心或者超過家長的媒介使用能力而使其放棄設置；模式容易被破解，已設置的模式可通過卸載重裝、購買相應代碼以及手機驗證等方式繞過或取消；此外，還存在著身份冒用的問題，即使有的平臺設置了實名認證，但是部分未成年人會冒用身邊成年人的身份信息或者直接運用家長的媒介設備獲取互聯網服務，主動將自己放置到算法推薦的場域之中。即使現有大數據技術已相對成熟，可通過用戶媒介使用軌跡判定其年齡，但這類技術并沒有在互聯網行業普及，且部分平臺為了追逐利益，疏于執行“監護人或家長同意”機制，即使檢測到用戶疑似未成年人，也不會做出相應舉措。以上技術實踐都有待解決和完善。

（五）家庭教育關照少

隨著媒介設備的下沉市場不斷增大，當前大多數未成年人都擁有自己的移動設備，或是有條件獲取媒介設備。加上近年來疫情的影響，未成年人接受線上教育的頻率大幅增加，接觸互聯網的時間明顯增長，家長在進行未成年人網絡保護的過程中顯然需要承擔比以往更大的責任。然而，目前，對于家庭教育在幫助未成年人規避算法風險方面，我國所給予的重視程度并不夠。一方面，雖然《未成年人保護法》第17條、第64條以及第71條規定了家長在未成年人網絡保護中的職責，但并沒有明確其法律責任，法律對家長這一主體的要求更多體現為柔性規范。另一方面，2021年通過并實施的《家庭教育促進法》也對家長進行未成年人網絡保護的關注不夠，主要提到了家長在預防孩子網絡沉迷方面的責任，而未涉及他們在新技術應用層面對孩子的引導義務。此外，在媒介使用方面，作為“數字原住民”的未成年群體與作為“數字移民”的家長監護人在一定程度上存在數字鴻溝，部分家庭甚至需要通過技術反哺，即孩子教給家長傳播知識來幫助其適應現行媒介化社會，這就限制了家庭教育作用的發揮。

四、算法治理中未成年人保護路徑的優化

作為未來網絡強國的主力軍，未成年人是否健康地成長生活，這關系到后繼人類社會的福祉。較之傳統媒體時代，當代社會中的未成年人迎來了新技術促發展的時代機遇，卻也面臨著新技術增風險的時代挑戰，算法對未成年人施加的影響貫穿了其認知、行為乃至社會化全過程。因此，在現有的算法規制體制下，更加細致、全面地對未成年人進行保護，是我國重要的時代要務。

（一）健全相關立法，提升規范位階

算法技術的運用已然成為當前社會各行各業運轉的一個重要脈絡，并且這種趨勢大有愈演愈烈之意。《規定》作為中國第一部聚焦算法推薦服務安全治理的部門規章，對于我國算法規范與技術發展具有重要意義。但是，由于它僅為部門規章，且主要面向“算法推薦”，而未來算法應用不會局限于“推薦服務”這一應用場景，因此其效力有限，場景窄小，也在未成年人保護的重要性與實際效力方面存在脫節。立法如果停留于部門規章層級，則不僅難以對算法亂象進行全面規制，而且容易導致針對一種違法行為制定一種規則的滯后性問題［15］。因此，基于算法應用場景必將持續擴大的趨勢及其對人民生活的重要影響，對算法進行專項立法是必要的，且在專項立法中需要對未成年人面臨的算法風險進行專款規制。鑒于現有的制度供給情況，對于算法的專項立法必然還需要經歷很長時間的磨合與商榷，為了更及時地幫助未成年人規避算法風險，同時節省司法成本，可在既有的《未成年人保護法》《家庭教育促進法》等法律中增設“算法使用”的相關條款，從更高的法律層級，以更強大的法律效力提請人們留意、關注并付出實際行動以保護置身算法應用中的未成年人，同時為算法監管、問責等流程的有效推進提供強有力的法律背書。

（二）優化監管框架，充實監管力量

算法推薦服務依賴于持續性的自我學習與進化，它的運作程序總是處在變化之中，其技術邏輯決定了對它進行全生命周期動態監管的必要性。《規定》強調了行政部門與算法推薦服務提供者在監管算法安全過程中的責任義務，但由于算法從設計到應用的全流程包含了多主體，因此，無論是現有的監管框架還是監管力量，都亟待更合理的優化。具體來說，可從三個階段結合不同主體進行有效監管。首先，算法應用前，可由通過了資質認證或者國家授權的第三方機構事先進行算法審計，避免專業壁壘導致監管門檻過高的問題；審計對象主要包括算法代碼、模型、數據等，關注其有無設置未成年人特殊推薦機制，必要時可對相關算法程序采取試運行的方式，來判斷算法推薦服務提供者意圖采用的算法是否符合國家法律政策要求以及社會公共善原則。其次，在算法應用過程中，除了要求專業機構定期審查算法運行過程、測試平臺采用的算法是否存在異化轉向之外，還可以在這個階段強調算法推薦服務提供者的自檢責任，要求其定期進行自我評估并抄送報告以用于行政機關備案或者專業機構輔助抽查。最后，在算法的輸出結果層面，行政機關由于受到客觀的技術條件限制而主要負責定量監管。其監管內容包括：算法推薦服務提供者的算法使用強度、范圍與頻率，是否嚴格落實實名認證機制，是否對疑似未成年人的用戶進行有效甄別并采取措施，是否創建未成年人專屬內容池，是否設定未成年人算法推薦模式，以及是否實現算法推薦與“隨機內容”雙流推進［16］。也就是說，在運用算法技術的過程中，算法推薦服務者應該有意識地將未成年人不感興趣但具有社會意義的新聞、與其觀點不同的評論以及必要的科普信息等按照一定比例進行分發，為其創造多元化信息環境。

（三）細化配套規則，出臺標準文件

《規定》的出臺構建了較為完善的算法推薦服務監管體系，但其中的配套規則亟待更為細致的完善。《規定》設立了未成年人保護條款，因此，鎖定未成年群體，并出臺具體的分級分類標準、安全評估標準、算法備案標準以及監督檢查標準是必要的。關于分級分類標準，其一，應當依照平臺自身屬性，即是否專門面向未成年用戶提供服務而區分未成年人平臺與成年人平臺；其二，由于絕大多數平臺受眾范圍并不局限于未成年群體，因此可對照《規定》中涉及到的“社會動員能力”“用戶規模”“重要程度”以及“干預程度”等要素，結合平臺內的未成年用戶使用情況，對于市面上現有網站與APP進行分級。關于安全評估標準，則可以根據分級分類的相關結果，將平臺劃分為“重大”“中等”“微小”等不同風險等級。關于算法備案制度，則應當要求算法推薦服務提供者在備案時明確報告其算法推薦服務中設置的未成年人專屬程序、風險糾偏、敏感文本過濾等情況，以此在事前以及運行過程中固定問責點，以便后期的問責程序能快速定位相關依據。而關于監督檢查標準，則可以依據前面的安全評估情況以及算法備案情況，對不同風險等級的平臺進行區別監管。比如，那些專門針對未成年人或者包含大量未成年人的平臺，會被界定為“重大風險”級，需要受到嚴格的監管，包括多機構審查、定期檢查以及不定時抽查；隸屬于其他風險等級的，則可以依據具體情況在監管主體、監管周期方面靈活設置。

（四）實施階段區分，進行差異保護

我國現有制度對于十四周歲以下未成年人采取父母知情同意原則，而給予十四至十八周歲未成年人個人自治的權利，這種制度設計無疑使得十四至十八周歲的未成年人在算法治理領域存在保護空檔。因為這部分未成年人同樣面臨著不良誘導、信息繭房、算法歧視以及隱私泄露等算法風險，甚至相較于得到法律以及社會更多關照的兒童，他們受到算法傷害的可能性更大。因此，不應使其置身于完全的信息自決狀態，而可采取以十四周歲為界限的區分保護：平臺在無法準確獲知用戶年齡的情況下，應當默認關閉算法推薦服務選項，這項服務需在實名認證之后再開啟。對于十四周歲以下的未成年人，應當奉行嚴格的準入門檻，對于算法推薦服務的接受與否需要得到其家長明確的同意；“同意”獲取途徑包括但不限于人臉識別、支付認證以及電子簽名等不易偽造的方式，甚至可以不定時以發送郵件的方式提醒家長未成年人保護模式的存在，并盡量簡化該模式的設置過程。而對于十四至十八周歲的未成年人，鑒于其信息主體意識的提高，可賦予他們一定的自由決定權，但仍舊需要發揮父母輔助決定的作用；輔助決定的途徑包括通過郵件獲取家長同意，或者定期發送行為軌跡報告，以便家長及時對孩子進行行為糾偏。輔助決定的必要性可根據算法推薦服務應用的具體場景進行區分，如“教育類”與“商業類”是兩種不同的情形，對前者可給予孩子足夠的自我同意權，對后者則需要家長輔助決定［17］。

（五）強化算法問責，督促主體履責

算法問責的有效落實，有利于督促相關主體擔起責任，促使算法監管與治理工作落到實處。算法問責的相關依據不應只局限于重大社會損害事實，還可來源于專業機構或者第三方機構撰寫的審計報告、行政部門的檢查結果、算法推薦服務提供者與備案有出入的評估報告以及民眾的舉報信息。算法問責對象主要面向以下主體：一是算法推薦服務提供者，問責場景包括其違背相關的法律政策與社會公共善原則惡意操縱算法、沒有盡到合理注意與通知義務以及其他沒達到的應當行為和禁止行為；二是行政機關，問責主要指向其不監管、不履行、不盡職行為。同時，鑒于算法侵害事實的廣泛性與隱蔽性，“公益訴訟”無疑是現有社會環境下幫助未成年群體應對算法風險挑戰并維護權益的重要途徑。但是，目前我國運用“公益訴訟”開展未成年人網絡保護的司法實踐模式并不成熟，所能提供的示范經驗也較為有限。因此，在侵權范圍廣泛或者收到人民舉報卻沒有做出相關行為的情況下，相應的檢察機關也可被納入問責對象范圍。此外，對于作為未成年人權益維護的重要責任人的家長，現有法律主要通過柔性規范來規制，因而廣大家長還未意識到算法推薦服務帶給未成年人的影響之大以及自己在幫助孩子規避算法風險方面的責任之深，對此可采取罰款、訓誡等相應的問責手段以督促家長積極履責，正確開展家庭教育。

五、結 語

算法推薦服務的普及與大規模運用，促進了大眾信息接收、企業生產方式以及文化傳承路徑的變革，也在改變著年輕一代的成長環境。對未成年群體進行優先、特殊地保護關系到社會穩定與人類福祉，因此，以促進算法向上向善為原則對未成年人進行合理、健康地引導與保護，是相當必要的。當前，我國已經在算法治理領域初步實現了有規可依的階段性進步，構建了算法運行環境下未成年人網絡保護的基本框架。但是，其效果的局限性明顯，現有制度設計與監管實踐均不成熟，且制度與制度、制度與實踐之間本身就存在脫節。納入多元主體，細化階段環節，開展多維治理，是現階段實現算法技術持續發展與未成年人健康成長共贏的主要邏輯理路。至于未來如何在法律層面實現涵蓋“算法安全”與“未成年人保護”文件的有效銜接，如何在技術層面創新專門的“算法”來監督平臺算法，如何在實踐層面執行嚴格的審計流程以及如何在認知層面普遍提高全民算法素養，這些都是值得進一步持續探討的問題。

參考文獻：

［1］ 景佳琦.國內媒體個性化算法推薦研究熱點分析——基于CNKI的文獻計量分析（2016-2019年）［J］.新媒體研究，2020（13）：7-10.

［2］ SEDGEWICK R， WAYNE K. 算法［M］.謝路云，譯.4版.北京：人民郵電出版社，2012：1.

［3］ 中國互聯網絡信息中心.《第 50 次中國互聯網絡發展狀況統計報告》［R/OL］.（2022-09-26）［2022-10-19］.http：//www.cnnic.net.cn/NMediaFile/2022/0926/MAIN1664183425619U2MS433V3V.pdf.

［4］ 趙霞.童年的消逝與現代文化的危機——新媒介環境下當代童年文化問題的再反思［J］.學術月刊，2014（4）：106-114.

［5］ 凱斯·R·桑斯坦.信息烏托邦：眾人如何生產知識［M］.畢競悅，譯.北京：法律出版社，2008：8.

［6］ 喻國明，曲慧.“信息繭房”的誤讀與算法推送的必要——兼論內容分發中社會倫理困境的解決之道［J］.新疆師范大學學報（哲學社會科學版），2020（1）：127-133.

［7］ 麥買提·烏斯曼，阿不都米吉提·吾買爾.人工智能算法個人信息利用刑法規制與個人信息安全刑法保護——從新型權利轉向新型法益談起［J］.重慶郵電大學學報（社會科學版），2022（1）：48-60.

［8］ 福柯.規訓與懲罰——監獄的誕生［M］.劉北成，楊遠嬰，譯.北京：生活·讀書·新知三聯書店，2003：224.

［9］ 張力，鄭麗云.算法推薦的歧視與偏見［J］.中國報業，2020（13）：48-49.

［10］丁偉.增強地方立法供給的有效性和及時性［EB/OL］.（2018-01-28）［2022-09-20］.https：//mp.weixin.qq.com/s？_biz=MjM5MjIxMzE0Ng==&mid=2651783877&idx=7&sn=fa2d1e50f43b07391ee9c2eda7a9d5f6&chksm=bd5213308a259a262ddbbbc068e91ab53975ae93cd7531be0912dfb6061e27803ae013dc1bdb&scene=27.

［11］杭州中院.個人信息保護十大典型案例｜杭州互聯網法院5周年［EB/OL］.（2022-08-19）［2022-10-23］.https：//mp.weixin.qq.com/s？_biz=MzA4ODk5OTQwOQ==&mid=2698618431&idx=1&sn=7c2dd2ccfcba5a6f7e9e46edba0a9a26&chksm=b50c92a1827b1bb78ad4a4da3e2e52482fe139165e9f2dfbdfeb25fcdca17549c5e937d7127f&scene=27.

［12］林洹民.個性化推薦算法的多維治理［J］.法制與社會發展，2022（4）：162-179.

［13］華劼.論《兒童個人信息網絡保護規定》之完善——以美歐兒童網絡隱私保護立法的比較和借鑒為視角［J］.重慶郵電大學學報（社會科學版），2021（1）：56-63.

［14］共青團中央.《2021年全國未成年人互聯網使用情況研究報告》發布［EB/OL］.（2022-11-30）［2022-12-02］.https：//baijiahao.baidu.com/s？id=1750980106630135317&wfr=spider&for=pc.

［15］任穎.算法規制的立法論研究［J］.政治與法律，2022（9）：98-111.

［16］馬紅麗.有“規”之后算法推薦如何監管？［J］.中國信息界，2022（1）：49-52.

［17］王者鵬，王肅之.論未成年學生個人信息制度保護的層次化［J］.教育科學研究，2020（10）：31-34+40.

On Minors Network Protection from the Perspectiveof Algorithm Governance

YANG Xiu， LI Fen

（School of Journalism & Communication， Chongqing University， Chongqing 400044， China）

Abstract：

Algorithm has become an important technical element in the current social operation. With the growth of media， the underage group， known as “digital aborigines”， is also inevitably faced with algorithm risks such as adulthood， information cocoon room， panoramic surveillance， entertainment imitation and class differentiation while enjoying the technological dividend. The increasingly mature algorithm regulation system in China has given special care and protection to minors in the process of system supply， judicial implementation and industry practice， but it still has defects in regulatory conditions， supporting rules， object definition， technical practice and family education， which requires the cooperation of multiple subjects in multiple links. Through the improvement of relevant legislation， the optimization of regulatory framework， the introduction of standard documents， the implementation of staged protection and the strengthening of algorithm accountability， it will properly respond to the challenges brought by algorithm abuse and alienation to the minors， help them build a friendly network ecology， and promote the construction of Chinas network power.

Keywords：

algorithm; juveniles; network protection; law

（編輯：刁勝先）

收稿日期：2022-11-20

基金項目：重慶市社科規劃項目：《民法典》實施與新聞傳播法治建設的關系研究（2020YBCB121）

作者簡介：

楊秀，副教授，博士，博士生導師，主要從事新聞傳播法學、策略傳播等研究，E-mail：yangxiubj@126.com；李芬，碩士研究生，主要從事新聞傳播法學研究，E-mail：2579062112@qq.com。