算法應用爭議及其治理路徑研究

秦文艷 趙澤旭

摘要：隨著智能時代的逐漸到來，算法技術幾乎開始浸潤到互聯網場景的每一個角落，與此同時，算法的全面性、系統性規制卻一直是世界數字制度建設的空白。目前，我國已在算法治理領域建立了初步的立法體系，但對于算法在新應用領域出現的爭議事件，尚且需要在理論和實踐中展開進一步探索。“首例算法風控系統侵權案”中法院指出涉案平臺在提供算法服務的同時履行了與之相匹配的注意義務，在算法應用侵權責任認定上具有一定指導意義。其中涉及的媒體、平臺、相關部門等多類行為主體也展現出算法協同治理的大趨勢。本文嘗試從媒體、平臺、法治等多個角度對算法治理路徑展開分析，為實現算法多元共治提供有效實踐經驗。

關鍵詞：算法；框架理論；風控系統；注意義務

一、案例引入

隨著智能時代悄然到來，算法技術幾乎開始浸潤到互聯網場景的每一個角落，逐漸發揮出驚人的作用。但在算法在各領域得到廣泛應用的過程中，諸如“算法黑箱”“注意義務”“過錯認定” 等一系列問題同樣引人深思。截至目前，我國已初步建立起算法治理的立法體系。頂層設計上，《“十四五” 數字經濟發展規劃》指出加快構建算力、算法、數據、應用資源協同的全國一體化大數據中心體系。各類具體的算法活動也有相應的規范，如算法在風控領域的應用：《互聯網信息服務算法推薦管理規定》第九條中明確算法推薦服務提供者需按照網絡信息內容生態治理有關規定對不良信息乃至違法信息做出有效處置。但對于平臺算法應用等行為的注意義務以及平臺參與社會治理的合理邊界等，相關政策與法律法規尚未有明確的適用標準和規范，還需在實踐中進一步展開探索。

2022年8月29日，北京互聯網法院就李某訴某公司網絡侵權責任糾紛案作出一審判決。此案主要圍繞被告運營的某征婚交友平臺展開，爭議焦點在于該平臺所采取的涉案算法風控行為是否存在主觀過錯。審理中法院基于被告算法風控行為的相關法律依據并參考其算法邏輯機理、技術水平等情況認定被告設置“預防性風控系統” 算法應用的同時盡到了與之相匹配的注意義務，其系統誤判系技術水平所限而非主觀過錯。本案為全國首例涉及算法風控系統引發人格權侵權糾紛的案件，具有廣泛社會影響力和關注度。學界肯定了“首例算法風控系統侵權案” 在算法應用于“風險控制” 領域引發的侵權責任認定上的指導意義，認為其在算法風控方面明確了合理的注意義務標準以及具體認定因素，是平臺治理領域的典范。另外，媒體、平臺以及相關部門等多類主體在此次案件中的參與無疑也為算法治理路徑提供了新思路。筆者認為可以嘗試從媒體、平臺、法治等多個角度入手，在理論和實踐的探索中逐步建立起算法協同治理的良好秩序。

二、理論梳理與文獻回顧

（一）新應用領域下的算法爭議

相對于以往對表層信息流轉的控制，新應用領域中的算法爭議進一步地深入到對公眾社會生活的規訓。對于算法爭議，傳統研究多圍繞算法技術舊有應用中存在的一些問題展開，如算法推薦、信息繭房等。具體到新聞傳播領域，相關研究大多集中于算法新聞倫理、算法新聞推薦等方面；對于算法在新興應用領域所引發的相關爭議如算法風控運用誤傷用戶權益等，還大多停留在對算法內在局限與社會影響的分析上。另外，對于算法爭議背后的實質核心，不同學者給出了不同見解：包括算法權力擴張導致媒介倫理困境；[1]傳播權力再分配；[2]對工具理性的推崇、信息體驗的追逐以及算法技術本身不完善[3]等。

（二）框架選擇與把關差異

1974年戈夫曼（Goffman）在《框架分析》中首次將框架（Farming）這個概念引入文化社會學的范疇，將其定義為“一種認知、呈現事物、反映思想的架構”。1980年托德·吉特林（T·Gitlin）在《新左派運動的媒介鏡像》中將框架解釋為選擇、強調和排除。傳入我國后，框架理論多被用來對媒體報道內容進行質化和量化分析，借以闡述媒體報道所傳播和呈現的意義。其中有部分研究關注到了媒體報道框架之間存在的差異對公眾乃至相關公共政策的影響。[4]

媒體的報道框架多體現在新聞報道的標題、導語、引文、重要段落的組織和事實提供的先后順序上，從而為受眾提供不同的視角、思路和評判標準。甘姆森（Gamson）等人認為，媒體框架（mediaframe）意味著媒體對人和事物的意義范圍的限制，是人們用以解釋社會現象的一套內在結構。媒體對社會事件在報道上的取舍，易受到個體、行業規范、組織、其他社會組織、社會意識形態等因素的影響，最終的把關結果將直接體現在報道框架上的差異。

（三）算法協同治理

算法在新興應用領域中的諸多爭議更多還是技術與社會、政治關系之間的問題，而技術與人文的調和必然要涉及多種行為主體，算法的協同治理已是大勢所趨。對此，越來越多學者意識到算法廣泛應用背后的系列問題并基于不同角度給出治理路徑。袁映雪、陳虹認為可以通過技術路徑和傳播機制的雙重約束，形成多元把關防范和信息互動相輔的算法協同治理趨勢；[5]曾白凌認為平臺責任在技術“切近性” 到來與面對“信息繭房” 時顯得更為迫切與必要；[6]彭桂兵、丁奕雯指出可從法治層面系統性明確平臺的法律責任界限。[7]綜上所述，當前就算法多角度協同治理展開研究，已具備一定社會背景與理論基礎。

三、案例分析及其治理路徑

（一）媒體報道

1.框架分析

本文以“算法” 等為關鍵詞對各類媒體報道進行全文搜索，獲得樣本70篇，多集中于2022年11月到12月，剔除關聯度相對較低的文本29篇，有效樣本共計41篇。本文對這41篇文本進行框架分析，報道框架涉及三個方面：發布來源、新聞文體以及文本的價值取向。

其中黨政媒體關于此案的報道共5篇。作為權威話語主體，黨政媒體重點從宏觀角度切入，通過對案件意義、政策、相關法律法規的解讀以及進一步的指導性建議傳達對民眾算法相關合理權益的重視與關注，充分體現了其表達國家立場、引導主流價值的官方發言者身份。

政務媒體關于此案的報道共25篇。關注于我國相關法律制定和案件審理的具體過程以及結果，以事實情況為主要報道點。其文本內容與黨政媒體有一定的重復內容。相似度較高的部分主要集中于兩方面：一是在報道內容中中性詞匯的大量使用；二是對與此案相關的法律政策和案件審理結果的著重解讀，以此響應黨政媒體的權威性解讀，達到傳播效應上的擴散。與黨政媒體不同的是政務媒體增加了法官乃至相關行業專家的針對性分析，在事實情況外又增添了新的解讀視角；此外作為政務媒體，其文本內容在體量上要更為簡短精練，主題表達上也更直接集中。

市場化媒體關于此案的報道共7篇。注重從多個角度解讀案例內容和審理過程，并增加了對案件公正處理以及其意義的評論，如對后續類似案例的樣本價值等。

專業媒體關于此案的報道共1篇。主要從算法技術、規則和法律專業的角度深度分析案件審理方向，總結算法治理的相關策略。

自媒體發布的有關文本共3篇。聚焦點更細化，表達形式更多元（包括短視頻的使用），主要通過兩個方面來表達觀點：一是進行信息陳述，對官方傳達的案件信息進行復述轉發，引導公眾關注轉向上述媒體的具體報道；二是通過提問的形式，對生活中“算法烏龍”“算法誤傷” 的具體現象展開討論，以期引發公眾對算法應用及其爭議現象的新一輪熱議。

2.問題所在

對于算法在新興領域的應用乃至因此產生的新型算法爭議，媒體的關注度有所欠缺。在僅有的一些相關報道中也存在著報道內容同質化的現象，即使在市場化媒體這一類中也缺乏對于事件本身的觀點輸出，整體比較保守。對此，媒體應更有的放矢地進行主流價值的認知引導，提高社會整體的算法認知維度，積極參與到算法協同治理的過程中來。

（二）平臺

1.自治前提

平臺對算法的應用過程具有披露義務。一方面是“算法黑箱” 的問題。算法應用過程本身就存在技術隱蔽性，其運行決策原理大多隱藏在數據模式的迭代演變與復雜代碼之中，而算法設計規則、主體利益和意志導向偏差、使用者隱私權和社會公共利益保護也使得算法在主觀和客觀上必然會有一定的不透明性。另一方面對算法應用侵權責任認定的重要因素就是判斷涉案平臺是否有盡到與涉案算法風險相匹配的注意義務，其依據之一就是涉案算法運行的機制機理。本案中，涉案平臺積極履行披露義務，針對其算法運用的具體機理予以充分說明，證實涉案侵權行為系算法技術不足所致。但需要注意的是此目的并不在于消除算法本身的不透明性，更多是借此來規范平臺的主體行為，使平臺的不透明性合理合法合規。

平臺需要提高自我監督的責任意識。算法治理的本質在于信息的合理利用，這一點離不開平臺的自我監督與責任意識。基于平臺的多重屬性以及其參與社會治理過程中國家的行政賦權，平臺行為混雜著公權和私權的錯位與模糊。對此，平臺需要提高自我監督的責任意識，保障運營過程的合理合法。而自身行為目的和主觀意圖、行為手段和性質以及身份特點所附注意義務正是其自我監督所需要關注的重點。

2.自治手段

在本文案例中平臺盡到了與涉案算法行為相匹配的注意義務，但平臺自治還要求平臺及其背后的相關企業以謹慎、專業的態度正確審視算法應用，注重技術可靠性和可控性，在算法開發和設計過程中通過多種手段充分保證算法決策的規范性和有效性；建立算法中的驗證糾錯機制，不斷完善和優化算法設計；及時采取預防侵權的合理措施，在糾紛發生后更要及時處理，對受到權益損害的個體予以相應補償。

（三）法治：算法多元共治的基礎

1.規制前提

雖然我國已經在算法治理領域建立了初步的立法體系，但對于平臺算法應用等行為的注意義務以及平臺參與社會治理的合理邊界等具體方面，相關政策與法律法規尚未完善。對此，本文案例就上述內容做出了一定探索。一是明確標準：包括算法在不同應用情境下的合理注意義務標準及具體認定因素；二是平衡利益：本案中的要點之一在于用戶權益的充分保護與網絡平臺依據法律要求履行打擊電信詐騙等治理義務的行為之間的矛盾，法院從兩者平衡角度出發做出判決，在保障平臺可以繼續采取有效措施防范電信詐騙風險的同時又補充了被算法“誤傷” 后的救濟途徑，對于構建共治共享的算法安全秩序具有借鑒價值。

2.法治保障

一方面由于算法的不可預判性，即便當下算法規則審查合理，但隨著算法本身外延式的延伸，算法結果依舊不可確定；另一方面算法應用將平臺多重屬性的對立進一步放大，其公權與私權之間的矛盾與沖突不可避免。因此，在平臺自我監督的同時也需要法律角度的調節與規范：在立法上明確平臺責任，規范其參與社會治理的過程；強化對平臺問責權力的獨立性，嘗試由有關部門聯合相關領域專家以及第三方行業代表共同對平臺算法應用情況展開定期審核評估；從法律層面保障算法技術的積極發展與運用，鼓勵其正向價值傳播，讓網絡發展成果惠及廣大人民群眾。

四、結束語

“首例算法風控系統侵權案” 深入分析了算法應用于“風險控制” 領域構成侵權的責任認定因素以及注意義務標準，也展現出算法協同治理的大趨勢。應當看到，雖然我國已經在算法治理領域建立了初步的法律體系，但對于算法在新應用領域出現的各類糾紛，尚且需要展開進一步探索補充。對此，媒體應增加對新興領域算法應用的關注，做好主流價值的認知引導，提高社會整體的算法認知維度；平臺應重視自身義務，不斷發展技術減少誤差、做好自我糾偏和侵權預防；在法治層面明確適用標準，對平臺算法應用做出規制與監督的同時平衡好各行為主體的利益。通過多途徑、多角度的算法協同治理，實現算法技術正向發展與應用。

參考文獻：

[1] 吳飛，李含含.算法權力的獲得、運行隱患與規制[J].未來傳播，2021，28（5）：2-9+128.

[2] 尤紅.媒體融合智能化演進中的算法權力與風險防范[J].南京社會科學，2019（7）：120-125+134.

[3] 尹凱民，梁懿.算法新聞的倫理爭議及審視[J].現代傳播（中國傳媒大學學報），2021，43（9）：64.

[4] 常健，郝雅立.新聞議題框架對公共沖突治理的作用機制及其管理[J].國家行政學院學報，2018，115（04）：63-68+149.

[5] 袁映雪，陳虹.把關人視角下的算法技術認知與治理出路研究[J].新媒體與社會，2022（01）：220–233.

[6] 曾白凌.媒介權力：論平臺在算法中的媒體責任[J].現代傳播（中國傳媒大學學報），2021，43（10）：31–38.

[7] 彭桂兵，丁奕雯.智能傳播中短視頻平臺版權爭議及其治理路徑：兼評“首例算法推薦案”[J].新聞記者，2022（9）：86–96.