基金項目:江蘇省高校哲學社會科學課題:習近平法治思想視角下省域法治建設與治理現代化關系研究(2024SJSZ0890);鹽城市社會科學研究課題:鹽城社會治理中的“楓橋經驗”實踐與數治激活(24SKB363)
作者簡介:黃竹智,高級工程師,主要從事法理與數字行政法學研究,E-mail:4848018@qq.com;王之,北京中銀(成都)律師事務所執業律師,主要從事刑事訴訟法和司法制度研究,E-mail:wangzhimm@126.com。
摘 要:隨著信息技術的智能化精進,智能算法逐步應用于包括解決人類娛樂問題在內的諸多領域。網絡游戲沉迷問題在智能算法對社會生活的量級影響變化下,也進一步向更多娛樂內容、更廣人員范圍擴散。以具身理論對游戲關系的生存、娛樂與資本的脈絡進行深入分析,可以發現,盡管數字時代人的身心的完全數字化契合了資本增值的邏輯,盡管已有立法和行政措施對未成年人網絡游戲沉迷進行了治理,但問題并非限于此。現有規制機制仍面臨算法知識鴻溝和監管罅隙的挑戰,個人亦被蒙蔽于自主沉淪的論調中,運行在算法基礎上的網絡游戲沉迷機制對普遍個體與社會造成的侵害日益加劇。針對橫亙于立法機關、執法部門與市場主體間的問題,互聯網算法管理規定觸發的整體算法監管已成趨勢。為應對網絡游戲沉迷算法對個人權益、家庭關系及社會秩序造成的持續性影響,要著眼于充分激發權利、權力與能力的系統法治思維,依托網癮侵權損害責任的構建,以公益訴訟機制彌補個體認知缺陷,并以算法行政能力的規范提升來填補監管罅隙。
關鍵詞:游戲沉迷算法;網絡游戲;算法行政能力;法律治理
中圖分類號:D922.1
文獻標識碼:A
文章編號:1673-8268(2024)06-0055-10
一、問題的提出
在信息技術與應用場景的雙向升級中,隨著社會生產、生活從移動互聯向萬物互聯、萬物智聯智能跨越,人工智能及其背后的算力發揮出越來越重要的作用。一般網絡應用主要承載著信息獲取、社會交往與事務處理的功能,但是網絡游戲的應用功能卻主要集中于娛樂。資本越專注于網絡游戲功能的發揮,越容易在算力支撐下造成網絡游戲玩家沉迷。針對網絡游戲成癮問題,未成年人是重點保護對象。經過多年的法治建設和治理,我國已形成政府主導、家校協同、借力社會、壓實平臺、提高自律的未成年人網絡游戲沉迷問題綜合治理格局。中國網絡社會組織聯合會定期調研并發布的《未成年人網絡保護現狀研究報告》(2022年版)顯示,我國政府已經從立法政策與行政執法層面部署了相當完善的管制措施。學術研究方面試圖統籌研究全場景網絡游戲沉迷問題,研究對象也主要集中在未成年人方面[1]。
盡管社會實踐與理論研究都對網絡游戲沉迷現象表現出足夠的關注,但現實生活中網絡游戲沉迷的現象并未被有效遏制。不僅未成年人在網絡游戲中沉迷,而且成年人更容易因缺乏約束與回避壓力而沉迷成癮。對成年人而言,一旦沉迷網絡游戲,其社會義務就難以履行,其個人生活及其參與其中的社會秩序所遭受的負面影響也更大。故時至今日,面對加速的算力發展,應將研究視野拓展于整個社會,不僅將網絡游戲沉迷的研究對象集中于未成年人,還應及時、客觀地觀察全社會的網絡游戲沉迷現狀,推動相關社會效益的有效達成。
隨著科技的不斷革新,游戲開發者不斷推陳出新,游戲創作日益精進,游戲質量和體驗感追求極致體驗,網絡游戲市場高度活躍。這為網絡游戲經營者創造了客觀的商業價值和前景,以至于一旦缺乏強有力的監管,網絡游戲市場便極容易出現以形式合規掩護游戲算法的“吸金能量”,而這往往又是監管漏洞所在。盡管行政始終未忽視對監管漏洞的縫補,但網絡游戲經營者與政府或社會監管之間不斷的割據與博弈,反映了鼓勵算法創新與推動算法監管之間存在內在沖突。要在兩者間尋求相對的平衡,僅僅有社會和政府的關注是遠遠不夠的,還有賴于立法部門對算法知識的深刻理解與運用,針對消費者被誘導過度消費而遭受的損害建立相應的救濟機制,等等。
二、網絡游戲沉迷算法的激活機理與危害
深刻認識算法知識在網絡游戲中的運用是了解網絡游戲沉迷算法運作機制的必要前提。游戲已從最初的身體與感知的協同參與,演化到感知對身體參與的支配,二者在參與中從同一走向了分離[2]。這一進程的完成得益于算法對開啟游戲數字化時代的激活作用,同時,其所展現的強大無限復制性與執行效率,也使得網絡游戲者在這場算法盛宴與資本角逐中僅成為控制變量。
(一)身心的游戲控制契合資本的數字控制
游戲最初的主要目的在于健塑身軀、維持生存,需要游戲參與者身體和感知的同時參與,即游戲與生存同一、身體與認知同一,這使得游戲參與者沉溺游戲缺乏必要的物質基礎。游戲現象并不單純存在于人類,也同時存在于其他高等動物種群中。這與高等動物的運動系統和高級神經系統生命運動的內在功利目的相一致[3],因為游戲超出純粹肉體活動或純粹生物活動的范圍,具有關涉游戲者生存并對游戲者種群與個體有意義的功能[4]。從對動物幼仔的游戲活動的觀察發現,動物幼仔能夠借此熟悉周圍環境和辨識不同的同伴。身體是它們游戲的主要工具,通過自我嬉戲打鬧錘煉天賦和技能,為未來的復雜生存做好準備。動物在游戲中,沖動和欲望是分不開的,“沖動的目的正是它自己的原始本性,它企求它的自我保存”[5]。這個層面的游戲要求游戲參與者的沖動、欲望與身體保持同一性。因此,正是在游戲中,成就了動物與初期人類的生存。身體作為游戲場域,即使沉溺于身體在場的游戲娛樂中,其自身作為游戲的工具與對象,也無法背離自然存在;在自然規律支配下的游戲中,游戲者獲得的是健碩的身軀以及優越的生存基礎。
人類在經歷了以生存為唯一目的的游戲后,成為更擅長游戲的動物,并逐漸掌握游戲的控制屬性。至此,游戲與生存分離,生理與心理分化,游戲價值呈現出二重性[6]。人類開始能夠掙脫物質的枷鎖,從簡單的物質游戲中升華,向兼具超然與審美的高質量游戲新階段飛躍[7]。依賴智力升級的生存優化既強化了人類的欲望,也加劇了人類群體的競爭與爭斗,雖然競爭與爭斗可以在身體之外的場域進行,但其最終結果仍需表達在人身及其關系中。由此,以智力升級為形式、推動生存優化為目標的人類開始泛游戲化。游戲提供者對游戲的內涵進行了極大擴展,能夠通過各種政治、經濟、技術的方式控制游戲,使得一部分人在享受游戲成果的同時,另一部分人成為游戲的對象。另外,游戲的形式也在模仿式學習之外,發展出殘酷的競技式格斗、混亂式戰爭。圍棋作為中國最傳統的游戲,起源于排演戰陣、研究戰略的需求[8],但那些沉迷其中的戰爭狂人卻利用它給當時的人類帶來了無盡的災難。在身退心進的游戲趨勢中,沉迷游戲的物理與生理基礎逐步具備,出現了通過特定方法誘導個體在賭博、縱情聲色等方面成癮的案例。人類開始掌握并應用促使他人沉迷游戲的手段,而沉迷游戲作為一種控制術,開始顯現出負面影響。
數字技術促進人的身心數字化,使數字身心與游戲在數字場域中再度統一,而身體與認知卻急劇分離,數字空間成為控制論高效運轉的操作場域。網絡游戲沉迷算法服膺資本增值的邏輯,依托控制論技術,能夠輕易將數字身心打造成為資本增值的符號。隨著腦機接口與嵌入式數字設備的發展,數字技術不單將人的身份信息與行為數據化,而且使一個完全的數字身心時代即將展開。娛樂化游戲中離場的物理身體在資本化的游戲中進一步退場,而數字化身心成為資本借以增值的海量數據資源。隨著游戲產業化、游戲產業資本化,資本越來越貪婪,資本化的游戲也越是加大對數字身心的控制,使每一個癮都成為資本控制盈利的毛孔。對身體物理機能要求的不斷降低,是網絡游戲市場化、資本化的最大特征。為了激活游戲的最大價值,資本甚至將毛孔擴充到醫療領域,基于“思維控制:腦電圖技術、神經反饋和腦機接口”,數字游戲被發明為治療類似帕金森綜合征以及軀體殘疾類疾病的藥方[9]。虛擬現實技術使數字空間生發出社會臨場感,并將數字“空間”激活為數字“地域”,一舉將電子游戲空間轉化成對現實元宇宙的暢想[10],使數字身心在元宇宙類游戲中徹底與物理身心分離,從而使得眾所周知的快樂游戲到了現代后,將游戲者生產成數字化的“設計與控制的對象”。為了更大程度地挖掘數字化游戲者的市場價值,資本推動游戲產業無限滿足游戲者的多樣化需求,并借助算法技術持續催生、創造新的游戲需求。這種由游戲者身心數字化所激發的資本增值沖動,能夠輕易沖破滯后于科技進步的社會法律與倫理運行機制。
(二)個體權益被任意算計使社會創造力受損
2018年9月,國家衛生健康委員會發布了《中國青少年健康教育核心信息及釋義(2018版)》,其中對網絡成癮進行了專業界定:網絡成癮是指在無成癮物質作用下,對互聯網使用沖動的失控行為,這種失控行為會導致明顯的學業、職業和社會功能損傷。盡管這種規范判斷可能遮蔽青少年網絡行為的主觀意圖,并引發管理主義傾向和控制式干預手段[11],但不可否認的是,學業、職業和社會功能的健康是社會活力的基礎,也是社會發展的健康期待。網游算法通過內容、標簽、深度學習、推薦與協同過濾等技術,為心智本應處于無限拓展的開放階段的未成年人提供了經過篩選的信息。然而,這種信息規訓可能導致未成年人被動接受算法推薦的內容,而非接受《中華人民共和國義務教育法》所規定的全面教育,從而成為網游算法的“囚徒”[12]。這種隱形的對受教育權利的侵犯,實質上是對國家法律制度的顯性違反。對于成年人而言,我國憲法明確規定了勞動的權利和義務,以及父母撫養教育未成年子女、成年子女贍養扶助年老父母的義務。這些規定是國家、社會對成年人社會責任承擔的合理期待。然而,網游算法與數據在現代控制論的技術轉型下,開始形成新的“數字控制”,使勞動者在“自由”的表象下,不自覺地服從算法追逐的利益導向[13]。這種情況下,憲法賦予的勞動權成為能夠被算法算計的對象,勞動權益一旦被網絡游戲沉迷算法過度侵蝕,就將直接影響前述勞動者憲法責任的承擔與落實。
中國音數協游戲工委和中國游戲產業研究院發布的《2023年16月中國游戲產業報告》顯示,我國游戲用戶規模已達到歷史新高點的6.68億,同比增長0.35%。游戲記者羅布·費伊曾經的預言“避無可避:很快,人人都會變成游戲玩家”[14]近乎成真。在網絡游戲創造巨大社會價值的同時,對其侵蝕個人價值的研究還相當淺顯。當前對未成年人網絡成癮危害的研究相對較多,對于成年人網絡成癮危害的研究則大多限于大學生群體。據對中國大學生網絡成癮發生率的Meta分析,自2011至2018年間,中國大學生網絡成癮發生率為11.7%,且整體呈上升趨勢[15]。結合國家統計局的數據,全國高等學校有3 100萬在校生的規模[16-17],這意味著可能有超過300萬大學生面臨網絡成癮的問題。如果進一步放大到全國的成年人群體,這個數字背后的問題將更為嚴峻。盡管未成年人網絡成癮的具體數據尚不全面,但考慮到未成年人上網普及率已接近99.9%的飽和數據[18],成癮的危害性及其廣泛影響不容忽視。隨著億量級的數字主體成為游戲資本追逐利潤的對象,數字技術借由算法任性展開精密高效的計算,個體的主體性價值、法定權益成為能被任意計算的數值。而被算計成癮的群體從未成年人向青年、中年人集中,所展現的不僅是這個群體中個體因成癮而在學業、職業和社會功能上遭受損害,更值得擔憂的是,這個群體最大的社會特征“創造力”在網絡游戲沉迷算法的批量自動運行中被極大損傷。
三、網絡游戲沉迷算法的立法論障礙
互聯網,包括其重要應用網絡游戲,都是科技不斷創新的成果。它們秉承自由與開放的“基因”,同樣在科技與社會價值體系之間面臨著倫理、道德的考量,甚至存在法律意義上的困境[19]。然而,網絡倫理和道德自律并未能有效遏制資本追逐利潤的沖動,反而容易為網絡治理設置技術、利益和立法的認知性障礙。
(一)立法機關、行政部門與市場間存在知識鴻溝
在我國的法律法規體系中,除《互聯網信息服務算法推薦管理規定》對算法驅動網絡游戲服務提供者在游戲中誘導、激勵用戶甚至設置“算法陷阱”[20]導致游戲者沉迷、成癮、無節制消費的行為進行規范外,尚缺乏更加精準明確的行為準則施以監管。從立法規范的角度考察,針對算法機制、模型、數據和應用結果所導致的“誘導用戶沉迷、過度消費”問題,由于技術鴻溝的存在,目前只能暫時將審核、評估、驗證職責賦予算法推薦服務提供者進行自律管理。根據算法分級分類管理的要求,相關監管規定僅對“具有輿論屬性或社會動員能力的算法”提出了備案要求。而規定中禁止利用算法實施的行為,如“算法虛假注冊賬號、非法交易賬號、操縱用戶賬號或進行虛假點贊、評論、轉發,以及不得利用算法屏蔽信息、過度推薦、操縱榜單排序、控制熱搜或精選等干預信息呈現”,主要聚焦于“影響網絡輿論或規避監督管理”的行為。從規范效力層面分析,《互聯網信息服務算法推薦管理規定》作為部門規章,盡管由網信辦、工業和信息化部、公安部與市場監管總局聯合制定,但在當前立法、行政體系與市場主體之間存在顯著算法能力鴻溝的背景下,其對“誘導用戶沉迷、過度消費”的監管顯得相對乏力。此外,游戲經營者還可能不直接采用算法,而是利用腳本、人工部署或更復雜的多層級算法來規避相關監管,這表明相關法規的執行力度欠缺,反映出立法、行政部門與市場之間存在著需要跨越的治理知識鴻溝。
網絡游戲作為一個市場驅動的持續發展產業,已從單純依賴的計算機技術領域拓展至多學科綜合交叉的深度融合領域,其中不僅包括傳統的數字圖像處理技術、視音頻轉化處理技術、網絡通信技術,而且不斷融入表達真實感知特性的虛擬現實技術、人工智能技術等。基于復雜的計算科學、數據分析與認知心理學等領域的知識,網絡游戲進一步強勢涉獵人類感知的所有領域,并在此基礎上,為元宇宙開發迭代出無限可能的空間。在市場邏輯的推動下,企業和研究、教育機構紛紛聚焦于信息技術、計算技術、人工智能技術等領域的專業知識與人才儲備。但現代法治政府及其背后的民主政治體系為維護市場繁榮,需將關注點后移,更多關注法律規范及政策的制定和公共服務的供給,相應地著重于這些方面的技術與人才儲備。市場參與者為獲取競爭優勢,自然形成了直面產業信息的優勢地位;政府只能從與市場參與者的互動中取得有限的信息認知。在非市場直接參與者亦非信息直接關注者的角色定位下,面對高度分工以及各種知識專門化的現代社會,其“擁有的絕不是信息優勢,而是信息劣勢”[21]。盡管政府可以通過人才引進短期改善一定的信息非對稱格局,但政府與市場之間運作機制的差異,以及對公共利益與私人利益關注的異同,決定了在社會動態發展過程中,尤其在科技進步日新月異的情況下,立法和行政部門在其工作中必須正視和克服其與市場之間的“信息鴻溝”。
(二)社會價值遮蔽了沉迷算法危害
網絡游戲具有極強的娛樂傳播屬性,能夠持續較長時間為個體提供豐富的消費內容。這不僅創造了巨大的經濟價值,還對社會穩定起到了積極作用。激活網絡游戲功能的數字信息技術進一步激發了網絡游戲的娛樂傳播屬性,使得“游戲已經成為這一代甚至未來幾代人重要的娛樂方式之一”已是不爭的事實[22]。得益于此,網絡游戲產業在國民經濟中的地位日益凸顯,其經濟貢獻率持續攀升。手機等便捷式移動設備的便捷性優勢結合移動通信技術不斷提高的信息傳送速度,使游戲為最具活力的青年一代、不穩定因素較多的社會群體提供了穩定的情緒宣泄出口。社會穩定作為具有重要公益價值的社會目標,其實現離不開穩定的國際國內環境,而改革開放的巨大成就正是建立在這樣的穩定基礎之上。網絡游戲作為維持不安定群體的一種穩定因素,透過社會穩定的視角觀察,很容易被認為其社會價值大于其社會危害。2021年時任中國音數協游戲工委秘書長的唐賈軍在談及網絡游戲發展時就表示:“游戲不是原罪,應該抱著客觀、理性的態度去看游戲產業發展。而游戲企業在加強未成年人保護的同時,更要充分發揮出游戲的正向作用和社會價值,滿足廣大人民的精神文化需求。”[23]這一觀點體現了政府、市場和社會對網絡游戲寄予的厚望,也強調了游戲產業在促進社會和諧、滿足人民精神需求方面的重要作用。
游戲作為一種推動知識與技術不斷進步的載體,在脫離其作為生存手段的階段后,就逐步顯現出過度娛樂化以及沉迷成癮對個體與社會的不良影響。進入數字時代后,數字化既激活了游戲的傳播屬性,又使其負面成癮的危害在算法算計下被成倍激發。值得注意的是,“作為精神疾病研究對象的網絡沉迷僅指網絡游戲障礙,而網絡賭博、網絡色情及過度使用社交媒體、過度瀏覽網絡信息等還沒有進入醫學研究的視野”[24]。即便如此,“一方面,網絡游戲成癮、網絡游戲過度消費等問題仍層出不窮,另一方面,網絡游戲產業又是互聯網經濟的重要組成部分”的認知已經非常普遍[25]。進入娛樂階段的游戲的個人價值與社會價值不再完全重合,游戲的娛樂屬性愈明顯,其社會價值就愈偏向于個人價值,這種趨勢在數字傳播的推動下愈發突出。產業資本的介入加速了游戲市場的數字化擴張,使游戲產業成為高度可設計與可控制的領域。而所有的設計與控制都是以個體為基礎,算法對游戲產業的計算也最終實質化為將游戲者設計成預期的對象。算法技術使得網絡游戲不再像“偶然的誘惑”那樣無關痛癢,而總是讓玩家“玩游戲時往往會有這樣的心理:再玩一陣就可以升級或者得到什么東西了,似乎獎勵總是觸手可及的”[26]。而這觸手可及的個人價值,僅僅是被資本驅動的無休止自動運行的算法監控數據。游戲者順從于算法的撫慰,成為沉溺于享受技術管理及規訓的受眾與監視網絡的參與者[27],而網絡游戲外圍的觀眾更是為游戲產業數據的狂飆突進而歡呼。
(三)自由意志蒙蔽成癮因果認知
黑格爾借助對象,主張自由意志能將“普遍物覆蓋于它的對象之上,把它的規定貫穿滲入,而在其中保持著與自己的同一”[28]。未成年人由于心智發展不成熟、行為能力不健全,也就無法將自己的所有規定貫穿滲透于其對象并保持與自身的同一。對包括游戲在內的各類娛樂形式誘導未成年人用戶沉迷、過度消費的監管,在自由意志層面能達成形式與實質的共識。相較而言,成年人具有成熟的心智和健全的行為能力,其若沉迷網絡游戲并過度消費,則容易被其“自由意志”所遮蔽,或被普遍解讀為成年人缺乏自制力的表現,屬于“自甘墮落”。成年人沉迷網絡游戲的過程中其人身是絕對自由的,并擁有基于數字技術發展衍生出的個人信息權利,這也強調了對信息權利人選擇自由的尊重[29]。但由此是否能推斷出成年人有權在自由意志支配下自主選擇沉迷,仍值得商榷。作為契約“生命”的自由,至少應當包括締約自由、選擇締約人自由、解約自由。信息技術推動的具身認知向離身認知的分離,使得締約自由、選擇締約人、解約自由的意志成為控制論能夠精準計算的數值;算法誘惑替代了偶然遭遇,能發動持續的數據侵擾,使得具有人身自由的個體成為“算法牢籠”中的“囚徒”。基于個性化的推薦本質上是一種正常商業活動認知下的行為,而市場主導下的觀點認為,個性化推薦理應不會直接影響用戶的法律狀態或其他類似狀態。是故,立法與行政對于個性化推薦形式的創新應當保持謙抑,給予正常狀態的個性化推薦算法充分的創新應用空間[30]。需要探討的不是包括網絡游戲在內的眾多互聯網領域是否需要廣泛形成算法推薦機制,而是面對網絡游戲沉迷算法,游戲者在游戲的整個進程中是否具備選擇與進退自如的自由。
入口方面,游戲經營者采用算法推薦機制精準吸引玩家,破壞了締約自由的契約基礎。隨著智能設備的普及與數據的積累,
網絡游戲服務提供者在“實名制”等政策紅利的充分激發下,通過網絡游戲廣告漫天撒網成為其在前算法時代的選擇,在與潛在用戶對接階段就啟動了算法上陣。依托大數據應用,用戶畫像技術“將海量用戶的網上行為數據化,分析挖掘用戶的愛好習慣和社交興趣圖譜”[31],算法推薦機制隨時隨地“利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法技術”詳見《互聯網信息服務算法推薦管理規定》第2條第2款。,向用戶精準推送足以撼動其自由意志的網絡游戲產品。這表明,并非游戲者選擇了游戲,而是游戲選擇了游戲者。出口方面,網絡游戲服務提供者運用各類算法技術構建防脫離機制,以消解玩家自由退出的意愿,此舉破壞了解約自由規則。防脫離機制立足于大數據模型,運用智能算法設計出自動化程式,旨在防止玩家離開或長時間不參與游戲,通過大數據模型分析玩家的行為并予以預測,采取相應措施引導玩家,以提升游戲的用戶留存率和消費轉化率。防脫離機制與算法推薦機制共同構成了游戲平臺吸收和截留玩家的核心營運支撐體系。內容方面,網絡游戲服務提供者并非單純借助算法推薦機制封堵游戲的進出口,他們還借由算法控制為玩家精準篩選量身定制網絡游戲內容,將多巴胺量化成針對游戲者定向投放的消費指標;根據玩家的游戲行為和偏好生成個性化的游戲內容,動態實時反饋玩家游戲行為,以此調整挑戰的數量、難度和分布,增強游戲的挑戰性和趣味性;通過機器學習和數據挖掘技術對玩家的未來行為進行預測,并據此精準推薦相應的游戲內容和道具。他們在玩家進入游戲的全生命周期中進行計算,并在關鍵節點提高玩家的參與度和黏性,最終以提供用戶沉浸式體驗予以合規回應。網絡游戲沉迷算法等外在控制因素對游戲者的侵擾不應被忽略,游戲者的沉浸并非其自由表達,因此,需要對知識鴻溝、社會價值與自由意志所蒙蔽的侵擾行為的性質、程度、損害予以法治回應。
四、網絡游戲沉迷算法的法律治理
人工智能技術的不斷進步加劇了網絡游戲沉迷算法對游戲者的影響,這是行政領域在新科技發展中面臨的持久議題。要解決這一問題,既需要行政體制、機制作出與技術進步相適應的持續優化,也需要不斷提升數字時代與算力發展相適應的算法行政能力,并探索權利、權力、算力三者之間綜合制衡的法律治理機制。
(一)以侵權損害責任構建權利制衡機制
1.科學制定網絡成癮障礙標準,規范侵權損害責任認定。戒酒的人可以選擇徹底避開酒吧,可是正在戒除網癮的人們面臨的卻是避無可避的數字生存[32]。網絡游戲沉迷者“隨著年齡的增長成癮的癥狀逐漸減輕或消失的自愈性”[33]窗口期已經消失。對于將誘導成年人用戶沉迷、過度消費的游戲經營行為作為規制對象的模糊態度,導致法律規范難以將該行為設置為規制客體,最終導致規制中“內容辨析將多種多樣,制度規定將難以協調,必然會產生各種制度規定互相沖突的問題”[34]。盡管國家衛生健康委員會發布了界定網癮的相關信息與釋義文件,為網絡成癮界定提供了相對權威的定義及診斷標準,但是該釋義文件僅是醫療衛生主管部門針對青少年健康教育制定的教育資料。這雖然在一定程度上反映了國家對相關問題的認知與重視,但還難以滿足《互聯網信息服務算法推薦管理規定》的執法需求。作為一種程序性的規范機制,標準化可通過強制性標準或推薦性標準實現剛性行政關注與市場多元化發展的雙重目標。通過標準化,可以實現以一種非強制的形式勾連行政程序與算法程序的路徑,這既是彌合知識與需求之間差異性鴻溝的綜合手段,也可以為自動化行政提供法治基礎。因此,宜進一步明確相關立法計劃,授權醫療行政主管部門依托中國健康教育中心等智庫部門的現有研究,確立網癮障礙的相關認定標準并為其定性,以作為相關行政部門執法以及個人提起侵權責任認定的配套依據。
2.完善侵權責任構成要件,激活游戲者權利以制約網絡游戲沉迷算法權力。自我控制能力是與網絡游戲沉迷呈負相關關系的重要評價指標[35],但網絡游戲沉迷算法借助人工智能技術,并非單純地對游戲者自我控制能力的挑戰。網絡游戲服務提供者與游戲玩家之間除了具有單純的“人人”關系外,還因人工智能技術借由離身認知成為一種外在意志滲透其中而形成復雜的“人技術人”關系模型;在此模型中,國家公力與市場私力之間表現出算法力量的失衡,法律與算法、倫理與技術之間產生現實差距,“需要重建‘善’的維度,以平衡‘權利優先’論;需要在法律技術意義上迎回‘義務本位’,以矯正‘權利本位’,解決‘權利失能’問題”[36]。鑒于網絡游戲服務提供者對游戲者的侵害是在雙方的互動關系中形成的,并且網絡游戲內含公共利益屬性,故需要客觀認識此種共同作用導致“明顯的學業、職業和社會功能損傷”的機理,以科學評價侵權責任。外在考量因素須達到導致成癮的障礙標準,即導致游戲者付出了過度消費或者已影響其正常勞動,從而導致財產損失進而產生救濟需求。此種需求無法通過行政責任的承擔予以滿足,故應在行政監管機制以外借助民事侵權責任的構建予以補救。由于損失的產生既應著重考量外界因素的誘導,也需關注自我控制能力的缺失,而雙重因素作用考量容易造成責任分配認定的困難,是故此種責任以過錯責任為宜,即網絡游戲服務提供者存在以智能算法持續誘導游戲者過度沉迷之故意為侵權損害責任認定的前提。鑒于網絡游戲服務提供者與游戲者之間的非對稱地位,以及網絡游戲沉迷算法的非透明性與復雜性,游戲者或其監護人的證明責任應限于網癮障礙損害的存在,而關于游戲服務行為與網癮障礙損害結果之間因果關系的舉證責任,則宜倒置,由網絡游戲服務提供者承擔無過錯舉證責任。
(二)以公益訴訟制度激活權力制衡機制
處于特定語境中的具身游戲沉迷者,是很難在對“自尊的體認與自我控制能力”缺乏認知的情境下,認識到自身的網癮障礙以及相應損傷結果的。“體驗只能是一種具身性的活動,也即以一個動態的身體與特定的語境發生交互,以身體為媒介在交互中獲取知識的過程。”[37]“網游線索作為成癮觸發點,其實直接觸發的是成癮者的沖動性。沖動性阻礙了理性控制,因而驅使成癮者從事成癮行為。”[38]然而,技術博弈卻意外地促成了市場共贏的局面。為網癮障礙所做的進一步的心理科學領域相關研究,卻容易被網絡游戲服務提供者所利用,其借由大數據畫像與人工智能算法,輕易將游戲者按照其成癮線索觸發點引發的沖動性類型予以界分,對各種類型的游戲者給予相應的成癮觸發點敏感性刺激。被大數據激活的算法,既能在成癮觸發點附近精準刺激,也可能由于貝葉斯概率而觸發失誤并形成其他沉迷成癮障礙。然而,問題是成癮者即使深陷其中也無法自我認知和自我擺脫這種困境。此外,網絡游戲服務提供者通常使用固定的算法進行運營,一旦算法設置出現錯誤或未能及時更新,就將迅速積累大量的侵權行為。對于網絡游戲服務提供者而言,他們對于算法失誤的修正動機常常會被游戲者沉迷網絡游戲的巨大利益所消解。因此,即使建立了相應的網絡成癮障礙標準和侵權損害責任制度,要有效維持權力制衡機制,還需要一定的權力制約機制來將其激活。
檢察公益訴訟肩負著對不特定人利益或權益侵害的社會公共利益救濟職責[39],它既是有效的權力制衡機制,也是激發權力制衡機制的有效驅動力。為適應新時代未成年人檢察工作的挑戰,最高人民檢察院于2020年印發了《最高人民檢察院關于加強新時代未成年人檢察工作的意見》,強調針對“網絡信息傳播侵害眾多未成年人合法權益的,結合實際需要,積極、穩妥開展公益訴訟工作”。將此類公益訴訟工作拓展至全體網絡用戶群體,不僅是對游戲沉迷者維護自身權益困境的化解,也是對數字時代公共利益保護需求的滿足。針對網絡游戲沉迷問題開展的公益訴訟,可以充分發揮國家公權力的作用,解決個體游戲者與網絡游戲服務提供者之間的權力失衡,彰顯檢察機關作為法律監督者的地位,并有效監督網絡游戲服務提供者履行各類法律法規所規定的義務。在游戲者難以有效提起網癮侵權損害之訴的背景下,公益訴訟的提出有助于突破司法中立的局限,以能動檢察助力司法機關建設典型案例,激活權力制衡機制。為此,應充分激活與擴展前期為未成年人權益侵害建設的公益訴訟機制,充分利用現有的法律保障與機構組織,明確并全面規范網絡成癮公益訴訟的原告資格、訴訟程序、賠償標準等,為檢察機關、未成年人保護協會、消費者協會等機構組織,賦予其提起公益訴訟及管理相關事務的權利與義務,并提供必要的人員與經費保障。
(三)以算法行政能力的提升來構筑算力制衡機制
作為最后一道防線,針對網絡沉迷算法的司法救濟需求,需進一步提升我國的數治能力,推動其發揮前置的保障作用。從“善”的維度對法治理念的重建,對法律技術意義上“權利失能”問題的解決,既依賴于數治政府算法行政能力的提升,也依賴于對此種數治能力的規范。首先,以深度學習為代表的人工智能算法的具體決策本身不具備直觀的解釋可能性,《互聯網信息服務算法推薦管理規定》所要求的備案義務,并不足以消弭立法機關、行政部門與市場間在算法理解與應用上的鴻溝。其次,提升算法行政能力不僅需要加強國家行政機關與行政算法專家間的協同工作能力,還需預防“算法官僚”犯錯[40]。針對網絡游戲服務提供者運營算法的監管,除要求其加強自身算法透明性與可解釋性等措施外,行政監管同樣可能借由缺乏解釋性與透明性的人工智能算法技術予以監管。因此,科技資本與社會公眾乃至公共行政權力之間的知識鴻溝,促使現代政府從基于行為的監管轉向更為精準、基于數據的依法監管。在向數據監管轉向的過程中,要求作為社會控制手段的法律針對算法深度應用產生的鴻溝作出回應。為確保對“不得設置誘導用戶沉迷、過度消費等違反法律法規或者違背倫理道德的算法模型”的有效監管,既需要從數治政府算法行政能力的提升入手,還需要對互聯網信息服務提供者運營的算法采取規范化監管的具體措施,確保監管的全面性、有效性和公正性。
為對網絡游戲沉迷算法實施精細化的監管,應著力提升算法行政能力,并規范和構建“行政算法”以監管“市場算法”的算法制衡機制[41]。首先,應激活多元主體參與深度剖析游戲前的算法推薦機制、游戲中的沉浸式誘導機制以及退出后的防脫離機制,幫助其理解沉迷成癮機制不只是由特定算法所決定,推動社會與算法的跨系統、跨情境溝通并以此為基礎提升其他相關算法的規制實效。其次,應重視智庫組織的算法專業能力建設,充分發揮諸如中國健康教育中心等公益類事業單位在算法治理中的專業作用,應用專業組織對網絡游戲分級分類的成果,根據游戲類型、成癮程度模型等不同情況提出相應的監管建議或算法監管模型。再次,需明確算法推薦機制應用紅線,嚴禁網絡游戲通過推廣應用算法進行精準推薦以侵害用戶自主消費權。加強網絡游戲監管平臺建設,綜合利用網絡游戲用戶的游戲信息,加強對成癮者的游戲投入的管控,以消解網絡游戲對用戶形成的任性“時間捆綁”。最后,針對在受算法應用影響的主體間存在的知識鴻溝,不能期待通過算法完全的透明性來彌合,而需要借助算法技術的規范應用予以彌合。此外,為規范算法行政權力,立法機關應在授權層面構建起從法律至行政法規、地方性法規、部門規章、地方政府規章的體系性授權通道,確保低層級立法與高層級立法授權的銜接。在依法授權采取算法智能化電子行政監控措施后,各級人民代表大會仍需積極履行法律監督職能,針對利用自動化電子行政監控設備進行的執法行為實施專項執法監督,確保其監管的合法性和有效性。
五、結 語
包括游戲娛樂在內的關乎人類生存的各個方面,正在不斷被科技所塑造,這推動了人類社會的發展與進步。法律在游戲娛樂領域所面臨的科技挑戰,與信息技術推動的數字化、智能化極度相關。面對挑戰,我們不單要琢磨法律語言文字的含義,還要理解其中涉及的利益沖突的機理與邏輯。在數字時代,隨著資本對游戲產業的持續滲透,該產業所呈現出的對社會公益以及個人利益侵蝕的法治難題,既需要關注權利失能與權力失能,還需關注賦能后的權力的規范運行及個體在權利矯正后的主體性價值,以實現個體人格、網絡與社會角色及自我意識的和諧統一。在算法驅動下,數據已成為新時代最重要的生產力要素之一。隨著網絡安全、數據安全領域基本法的制定,算法相關領域的社會治理無疑亦成為立法的重要關注點;而算法相關法律的制定與實施既關涉國家行政能力的提升,又要關注算法本身的“準”立法性質。
參考文獻:
[1] 高英彤,王在亮.美國對青少年參與網絡游戲的監管經驗探析——以教育為視角[J].社會科學戰線,2012(1):223-226.
[2] 李恒威,肖家燕.認知的具身觀[J].自然辯證法通訊,2006(1):29-34.
[3] 劉驍純.從動物快感到人的美感[M].濟南:山東文藝出版社,1986:89.
[4] 約翰·胡伊青加.人:游戲者[M].成窮,譯.貴陽:貴州人民出版社,2019:1.
[5] 黑格爾.哲學史講演錄:第3卷[M].賀麟,王太慶,譯.北京:商務印書館,1959:30.
[6] 陶煒,馮強.大學生網絡游戲成癮的影響因素及作用機制——風險感知、學習自我效能感和游戲成癮的關系探析[J].教育學術月刊,2019(10):84-90.
[7] 弗里德里希·席勒.審美教育書簡[M].馮至,范大燦,譯.上海:上海人民出版社,2021:141.
[8] 袁曦.淺談圍棋的起源、發展與定型[J].體育文史,1987(1):55-59.
[9] 譚樂.腦機革命:引領未來的新科技新產業[M].周先武,趙夢瑤,倪雪琪,等譯.北京:中信出版社,2021:40.
[10]周逵.虛擬空間生產和數字地域可供性:從電子游戲到元宇宙[J].福建師范大學學報(哲學社會科學版),2022(2):84-95.
[11]張銘銳,閆志明,張昕.人文理解的遮蔽與復歸:青少年網絡沉迷干預之困及其紓解[J].中國遠程教育,2023(10):51-61.
[12]彭蘭.算法社會的“囚徒”風險[J].全球傳媒學刊,2021(1):3-18.
[13]陳龍.“數字控制”下的勞動秩序——外賣騎手的勞動控制研究[J].社會學研究,2020(6):113-135.
[14]麥戈尼格爾.游戲改變世界[M].閭佳,譯.杭州:浙江人民出版社,2012:12.
[15]劉奕蔓,李麗,馬瑜,等.中國大學生網絡成癮發生率的Meta分析[J].中國循證醫學雜志,2021(1):61-68.
[16]中華人民共和國教育部.高等教育本專科分舉辦者學生數[EB/OL].[2024-06-03].http://www.moe.gov.cn/jyb_sjzl/moe_560/2022/quanguo/202401/t20240110_1099518.html.
[17]中華人民共和國教育部.高等教育分舉辦者研究生數(普通本科學校)[EB/OL].[2024-06-03].http://www.moe.gov.cn/jyb_sjzl/moe_560/2022/quanguo/202401/t20240110_1099528.html.
[18]方勇,季為民,沈杰.青少年藍皮書:中國未成年人互聯網運用報告(2022)[R].北京:社會科學文獻出版社,2022:4.
[19]劉丹鶴.賽博空間與網際互動——從網絡技術到人的生活世界[D].上海:復旦大學,2005:120.
[20]孫明華,王繼勇,董雷,等.“算法”江湖——“算計”的是非與新生態[J].創新世界周刊,2022(7):20-43.
[21]張青波.自我規制的規制:應對科技風險的法理與法制[J].華東政法大學學報,2018(1):98-111.
[22]龔道軍.中國游戲產業發展問題淺析[J].高科技與產業化,2021(7):62-67.
[23]溫夢華,朱鵬,李佳寧.中國音數協游戲工委秘書長唐賈軍:健康的游戲內容是產業發展首要問題 實現健康的同時還要強調高質量[N].每日經濟新聞,2021-09-16(4).
[24]彭伶.未成年人網絡沉迷治理研究[J].預防青少年犯罪研究,2020(6):53-64.
[25]劉賽,譚旭東.未成年人網絡游戲行為問題的成因及其對策[J].少年兒童研究,2022(11):34-40.
[26]陳皓,桂偉.MOOC自主學習平臺的設計——網絡游戲激勵對MOOC設計的啟示[J].電腦知識與技術,2017(32):180-181.
[27]徐曉露.“圓形監獄”:大數據時代的隱憂[J].青年記者,2014(1):33-34.
[28]黑格爾.法哲學原理[M].范揚,張企泰,譯.北京:商務印書館,2011:39.
[29]麥買提·烏斯曼,阿不都米吉提·吾買爾.人工智能算法個人信息利用刑法規制與個人信息安全刑法保護——從新型權利轉向新型法益談起[J].重慶郵電大學學報(社會科學版),2022(1):48-60.
[30]林洹民.個性化推薦算法的多維治理[J].法制與社會發展,2022(4):162-179.
[31]趙雙閣,岳夢怡.新聞的“量化轉型”:算法推薦對媒介倫理的挑戰與應對[J].當代傳播,2018(4):52-56.
[32]亞當·奧爾特.欲罷不能:刷屏時代如何擺脫行為上癮[M].閭佳,譯.北京:機械工業出版社,2018:7.
[33]佐斌,馬紅宇.青少年網絡游戲成癮的現狀研究——基于十省市的調查與分析[J].華中師范大學學報(人文社會科學版),2010(4):117-122.
[34]李夢,肖燕雄.論我國網絡游戲規制中的制度失調問題[J].廣西大學學報(哲學社會科學版),2018(5):55-59.
[35]KIM E J,NAMKOONG K,KU T,et al.The relationship between online game addiction and aggression,self-control and narcissistic personality traits[J].European Psychiatry,2008(3):212-218.
[36]齊延平.論人工智能時代法律場景的變遷[J].法律科學(西北政法大學學報),2018(4):37-46.
[37]華維慧.邊界突破與真實重構:論VR新聞的真實性邏輯[J].編輯之友,2021(2):71-75.
[38]賀金波,仇雨亭,鄭陽.網絡游戲成癮的心理治療方法及其原理綜述[J].中國臨床心理學雜志,2019(4):848-853.
[39]張衛平.民事公益訴訟原則的制度化及實施研究[J].清華法學,2013(4):6-23.
[40]段哲哲.控制算法官僚:困境與路徑[J].電子政務,2021(12):2-16.
[41]黃竹智.算法行政權力及其法律規制[J].合肥工業大學學報(社會科學版),2022(6):42-49.
Research on the legal regulation of the algorithm about online game addiction
HUANG Zhuzhi1, WANG Zhi2
(1. Yancheng Transportation Bureau, Yancheng 224000, China;
2. Beijing Zhongyin (Chengdu) Law Firm, Chengdu 610000, China)
Abstract:With the advancement of intelligent information technology, smart algorithms are increasingly applied across various domains, including addressing human entertainment issues. The problem of gaming addiction has spread to a broader range of entertainment content and a wider audience, exacerbated by the substantial impact of algorithms on social life. A deep analysis of the relationship among existence, entertainment, and capital through the lens of embodied theory reveals that while the complete digitization of individuals in the digital age aligns with the logic of capital appreciation, existing legislative and administrative measures targeting minors’ gaming addiction are insufficient. The regulatory mechanisms face challenges such as the knowledge gap surrounding algorithms and oversight gaps, while individuals often find themselves trapped in narratives of voluntary indulgence. The mechanisms of gaming addiction, powered by algorithms, increasingly harm individuals and society at large. In response to the issues spanning legislative bodies, enforcement agencies, and market entities, the trend towards comprehensive algorithmic regulation triggered by internet algorithm management regulations is emerging. To address the sustained impact of gaming addiction algorithms on personal rights, family relationships, and social order, it is crucial to adopt a systematic legal mindset that fully activates rights, powers, and capacities. This includes establishing liability for internet addiction infringements through public interest litigation mechanisms to remedy individual cognitive deficiencies, and enhancing algorithmic administrative capabilities to bridge regulatory gaps.
Keywords:game addiction algorithm; online games; algorithm administrative ability; legal governance
(編輯:刁勝先)