999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

網絡內容治理的主體結構理論研究

2024-05-21 08:18:03丁福金何明升
重慶社會科學 2024年4期

丁福金 何明升

編者按:國家治理體系和治理能力是一個國家制度和制度執行能力的集中體現。黨的二十大報告把“國家治理體系和治理能力現代化深入推進”作為未來五年我國發展的主要目標任務之一。新時代新征程上,必須進一步全面深化改革,堅持和完善中國特色社會主義制度,深入推進國家治理體系和治理能力現代化,更好地把我國制度優勢轉化為治理效能。

本期繼續開設“國家治理現代化”專題,邀約華東政法大學高等教育與教育法制研究所丁福金博士團隊、中共重慶市委黨校經濟管理教研部耿小燼博士、華東理工大學化工學院高藝霞博士團隊,分別就“網絡內容治理的主體結構理論”“新時代推動中國特色金融治理現代化”“社會治理共同體視閾下基層社會心態秩序失衡及其重塑”展開研討,現刊出有關成果。

(策劃:文豐安? 易曉艷)

摘 要:網絡內容治理包括國家及政府部門、互聯網企業和行業組織、網民和社會組織等多元主體,各主體所扮演的治理角色、承擔的治理責任、參與治理的途徑各不相同。這些主體間以不同的位置關系組合在一起則形成了不同的治理結構,各種各樣的治理主體結構可以抽象概括為以新加坡、韓國為典型的層級式結構,以美國、英國為代表的多中心結構,以及混合結構。三種結構形態并無絕對優劣之分,但各有適用的情形和領域。塑造符合我國網絡內容治理實際需求的主體結構,關鍵是確定各治理主體的位置以及他們之間的功能性分權,其中最重要的是確定廣義政府的位置。同時,在治理結構塑造的過程中,要針對不同的治理對象設置不同的結構,并建立起結構之間變換的制度性機制。

關鍵詞:網絡內容治理;治理結構;結構化;法治化

基金項目:國家社會科學基金重大項目“中國特色網絡內容治理體系及監管模式研究”(18ZDA316)。

[中圖分類號] C93 ? ? ? ?[文章編號] 1673-0186(2024)004-0038-017

[文獻標識碼] A? ? ? [DOI編碼] 10.19631/j.cnki.css.2024.004.003

當今時代,網絡空間成為人類活動的新空間,網絡治理是一項系統工程,網絡內容治理成為網絡治理議題的重要組成部分。如何在網絡內容治理領域建構一個科學且符合國家社會發展實際需求的治理體系是一個緊迫的課題,其中,最為核心的是治理主體的結構問題。即,針對網絡不良內容的不同特性和場域要素,能否找到一種可分型處置的治理結構并將其納入法治化軌道?本文試圖在深度觀察不同國家在網絡內容治理領域的實踐探索和經驗總結的基礎上給出一個回答。網絡內容治理是針對網絡不良內容的多主體協同行為,多個主體單元的位置與關系變換能夠形成具有可通約性的基本治理結構。這些治理結構是否有高低優劣之分?有沒有統一的普適性的結構代表著網絡時代內容治理的方向?這需要分析每種治理結構,分析它們有無獨特的行為邏輯和適用對象,分析他們具體運作過程中的治理主體選擇、治理對象認定、治理依據建立。進而才能分析治理結構是否受一個國家的歷史、經濟、政治、社會發展的影響從而有國家民族特色,還是以問題為導向針對類似問題各國都具有可通約性的做法。在總結分析不同的結構之后,本文嘗試從法治化的角度提出符合我國實際情況、適合不同問題領域的結構組織建議和法治建設建議,以推動我國網絡內容治理的結構化和法治化。

一、網絡內容治理的主體單元

網絡內容治理是針對網絡不良內容的多主體協同行為,這些主體包括國家及政府部門、互聯網企業、互聯網行業組織、網民和社會組織等,各主體所扮演的治理角色、承擔的治理責任、參與治理的途徑各不相同。

(一)國家及政府部門

在各種治理理論中,國家都是最本初、最重要的主體之一,必然扮演著重要的角色,承擔著不可替代的職責。但是在網絡內容治理領域,國家則是一個“歸來者”的角色,在互聯網發展的前期,狂熱的自由主義者首先就將國家排除在管理者的范圍之外。隨著互聯網信息技術的發展,網絡社會已經越來越融入人類的生活,各種各樣的網絡自生問題和衍生問題已經泛濫于網絡社會,并且侵入現實社會生活。在這種情況下,世界上各個國家都加大了對于互聯網的管理,對于網絡內容的管理也不例外,加強網絡內容管理幾乎變成了所有國家的普遍做法和全球的主流趨勢。很多國家加強立法和政治機構建設,有的專門出臺法律法規,有的擴大原來法律法規的適用范圍,逐步把互聯網納入國家的整體治理進程之中。在自由主義最為盛行的美國,政府的介入已經非常深入。例如,2002年,美國政府通過了一項行政命令,由總統授權美國國家安全局對全體美國公民的國際電話和國際通信進行監聽。歐盟早在2006年就通過了一項數據存留指令,“所有成員國通過電信公司留存其所轄范圍之內的如通信雙方姓名、通信時間、IP地址與用戶名等記錄,留存時長在6個月到2年不等”[1] 。電信公司受政府數據留存部門監督,如果政府提出要求,必須立即把這些數據交給執法部門以協助處理嚴重犯罪問題。

作為網絡內容治理主體的國家是一個廣義的概念,包括了所有行使國家權力的機關,而且在不同的國家政治生態中,其內涵和外延還有所區別。在西方三權分立的國家,如美國,國家這個治理主體包括參眾兩院、法院、政府等,而政黨作為選舉工具則不包含在這個主體當中。在中國,作為治理主體的國家則包括執政黨、立法機關、行政機關、司法機關、監督機關等。執政黨是領導角色,不僅將自己的政策轉變為國家法律,還在具體的決策、執行、監督體制中全方位參與。“從我國網絡社會治理的現狀看,人大和政府制定的網絡相關法律、行政法規等是進行追責的主要依據,這也是當下網絡社會‘自上而下治理模式的直接體現。政府在網絡社會治理上扮演著最主要和最關鍵的角色。”[2]

在廣義政府這個主要的主體中,行政機關又是最重要的主體。行政機關內部有橫向和縱向的具體架構。如新加坡政府設立國內安全部、資訊通信發展局、媒體發展局等機構負責網絡的安全發展問題,其中媒體發展局是互聯網主管機構,主要職責包括互聯網的開發與規劃,以及對互聯網企業的管理。在我國,行政機關在黨委的領導之下運作,治理網絡內容的機關也在逐步完善變革之中,自接入國際互聯網之后經過了三個階段的發展歷程,目前已經形成了以國家網信辦為核心,兼有公安、新聞出版廣電、文化等諸多部門配合的政府治理主體,即所謂的“1+N”主體模式。

(二)類型化的互聯網企業

企業是市場經濟的主體,也是推動技術變革和社會發展進步的重要引擎。全球范圍內,網絡治理都將企業納為重要的主體。首先,企業的原生動力就是追求利潤最大化。從這個角度理解,互聯網企業主動進入治理領域,能夠謀求市場的優勢地位,從而取得更好的競爭優勢。因為治理的重要內容就是制定規則,互聯網企業參與制定某種網絡服務或者商品交易的標準或規則,能夠讓他們理解治理之道,更好地謀取市場優勢地位。其次,互聯網企業不同于一般的市場主體,它本身具有獨特的文化屬性和精神生活屬性,自我意識較強,必須主動承擔社會責任,維護社會良性運轉。按照提供的服務內容以及在整個網絡運行中的地位,主要的互聯網企業可以分為兩大類,即互聯網服務提供商(Internet Service Provider,以下簡稱ISP)和互聯網內容服務商(Internet Content Provider,以下簡稱ICP)。由于目前的學術界并沒有權威的分類,ISP和ICP在不同的學者研究甚至官方文件中,都有不同的外延。

ISP是最重要的互聯網企業,主要提供接入服務、平臺服務和應用服務,其在互聯網時代中處于一個關鍵位置。有學者認為,ISP協助網絡安全管理是網絡社會治理的關鍵[3]。

首先,ISP提供的平臺是網絡信息內容傳播的中樞,它實現了網絡信息內容的搜集、儲存、分布和發布等工作的一體化服務,是各種網絡內容生產者和使用者的中轉站;其次,ISP擁有強大的網絡技術能力,這能夠有效應對網絡社會帶來的復雜變化,同時這種技術的運用必須受到規制,以防止“技術利維坦”的出現;再次,網絡信息內容的傳播具有無限放大的效應,幾何級增加的受眾使得有害信息的破壞力也呈幾何級遞增,ISP具有其獨特的技術優勢,比如可以斷開連接、屏蔽相關內容、刪除違法信息等,這可以有效達到網絡內容治理的目的[4]。

向廣大用戶綜合提供互聯網內容業務的互聯網企業ICP也正逐步承擔治理角色。隨著互聯網技術的發展,ICP的構成類型越來越多樣化,成了為廣大公眾生產、傳播網絡內容的重要主體。一般而言,ICP以采集、生產、傳播網絡內容為主,其角色主要應該是網絡內容治理的對象,而不是治理的主體。但隨著互聯網社會的深度發展,ICP越來越多地承擔了信息中轉站的角色,特別是自媒體時代,ICP自己生產的網絡內容的比例越來越低,反而是利用ICP傳播網絡信息的網絡用戶比例大幅度提升,這意味著ICP應該承擔越來越多的治理主體的角色。

(三)互聯網行業組織

行業組織是一種介于政府與企業之間,對其成員進行服務、協調、監督的社會組織,是一種致力于實現行業自律、完善行業治理的組織形式。行業組織被形象地比喻為社會交融的“融合劑”,社會矛盾的“稀釋劑”,社會沖突的“緩沖劑”,政府的“減肥劑”和市場的“增效劑”[5]。行業組織在一個行業中處于特殊地位,常常能夠扮演重要的“民間”監管者角色。美國的行業協會普遍有制定行業標準、協調行業關系、交流行業信息以及進行行業培訓和再教育等基本職能。日本的行業協會包括協調、壟斷、扶助、協助等四種職能。在我國行政分權和行政主體多元化的背景下,行業協會也逐漸成為重要的管理治理權承接主體。在特定領域,行業協會相較于政府管理而言更具專業性、直接性和有效性,它能夠充分調動公民和社會組織的積極性,從而降低政府管理社會的制度成本和經濟成本。

網絡治理是一種系統安排,在集群的網絡治理中行業協會是作為治理主體的身份出現的[6]。經過社會治理幾十年的發展歷程,互聯網行業組織在網絡治理中承擔著越來越重要的治理職責,發揮著越來越重要的作用。我國的互聯網行業組織包括中國互聯網協會、中國互聯網上網服務行業協會、中國網絡視聽節目服務協會、中國互聯網金融協會等全國性組織,以及各省互聯網協會等地方互聯網行業組織。在中國互聯網協會的章程中,就有內容治理的條款,基本任務第10條規定,“開展網絡文化活動,引導網民文明上網。根據授權受理網上不良信息及不良行為的投訴和舉報,協助相關部門開展不良信息處置工作,凈化網絡環境”[7]。

(四)網民和社會組織

在網絡社會,作為個體用戶的普通網民也在承擔著網絡內容提供者的角色,微信、微博、抖音等,都為個人用戶提供了便捷、快速的入網手段,個體用戶成為網絡內容的重要提供方。不管是作為網絡內容的消費者還是生產者、傳播者,為了維護自身的合法權益,網民必然要參與到網絡內容治理的過程中來。此外,隨著社會逐漸變成一種在線生存,虛擬社會成為人們生活的重要部分,對于虛擬社會的良好生態和秩序的追求,必然也成為網民參與網絡內容治理的道德動力。作為網絡治理主體,網民可以通過以下兩種方式參與治理進程。第一種是自律,即網民自覺遵守國家制定的各種法律法規和現實社會中的道德規范,加強自身能力建設,警惕、辨識和抵制各類網絡不良內容。第二種是律他,即與網絡的不法行為做斗爭。與自律相比,這更是一般意義上的治理,是以積極的作為的方式參與治理,現如今互聯網上“朝陽群眾”的舉報已經成為查處網絡不法的重要途徑[8]。此外,網民也可以結成網絡社群參與網絡內容治理。網絡社群能夠為治理政策的執行反饋提供工具性支持,能夠成為執行助手,糾正執行中的行為偏差。近年來,網絡社群自發進行的“網絡問政”“網絡反腐”“網絡監督”等已經形成了一定的規模,但如何引導依然是一個關鍵的問題。

現代社會中,社會組織是社會的重要組成部分,是國家之外的重要共同體。網絡內容治理領域,相關的社會治理也能夠扮演重要的協調者、監督者、宣教者等角色,成為繼國家、企業、行業組織之外重要的治理主體。社會組織在網絡內容治理中的職能主要是通過教育宣傳,使網民充分認識到不良信息的危害性,繼而提高自身素養約束自己的行為,營造良好的網絡氛圍。同時公益組織積極響應政府號召重視對青少年心理健康的維護,通過多種措施教育引導青少年正確使用網絡,免受不良信息的侵害。比如在社會組織體系比較發達的美國,存在各式各樣的社會組織關注網絡內容治理,新澤西州的“網絡天使”就是一個由青少年組成的旨在為青少年和家長傳授如何識別、防范和規避網絡不良內容的志愿組織[9]。新加坡的“觸愛社區服務”(Touch Community Services)也是典型的案例,它已經成為政府部門非常好的合作治理伙伴。在其運作過程中,它能夠為學校提供網絡教育課程,為有相關需要的家長、學生、社區工作者提供服務,傳播健康上網的理念,幫助廣大網民安全地使用網絡[10]。

另外,在未成年人網絡保護中,學校和家庭是網絡內容治理中至關重要的主體。從家庭保護的角度看,未成年人的監護應該實時在線,將未成年人置于充分的保護之下,同時,可以采取一些技術手段,在美國,很多家庭在電腦上安裝了防護軟件關系分析引擎(ERA),在英國,很多家庭使用了“內容分析引擎”(ECA),通過技術手段來分析未成年人觸網行為中的不良內容。從學校的角度看,學校作為知識傳播的搖籃,負責培養全面發展人才,需要與時俱進,比如使用先進的網絡監控技術,建立清朗的校園網絡環境,也要充分建設和利用互聯網工具與學生建立較為緊密的實時聯絡,掌握學生動態。也可以開通黨支部微博,及時發布相關活動信息,引導學生主動參與活動,向學生傳遞正能量,幫助學生樹立正確的價值觀和人生觀[11]。還可以開設一些網絡教育課程,視頻公開課等教育教學資源,開發適合新興媒體傳播的網絡應用等,提高校園網絡文化的吸引力。

二、基于主體單元的治理結構分型

網絡內容治理的主體是多元的,這些主體間以不同的位置關系組合在一起則形成了不同的治理結構。運用結構功能主義理論提供的社會系統分析視角,根據不同結構中主要單元的數量、位置、排列原則,結構的運作機制和運行特點,本文將網絡內容治理的結構模型抽象概括為層級式治理結構、多中心治理結構和混合式治理結構。

(一)層級式結構

1.一般結構模型

層級式網絡內容治理結構作為三種模式中的一種,主要是各主體在結構中的排列原則顯示層級分明的特性,該結構的排列原則是等級制或者以權力為原則的,即從上到下按照權力邏輯層層領導(圖1)。每一層都是執行上一層或者再上一層的政策和意志,層級的數量,每一層主體的數量,主體的功能和能力配置決定整個體系的運轉效率。

層級式主體結構下存在一個主導主體,一般而言是廣義政府,而其他治理主體主要是執行政府的政策和命令,配合廣義政府采取相關的治理策略。主體之間的地位是不平等的,甚至廣義政府之外的其他治理主體都不能稱為典型意義上的“治理主體”。一般而言,采用這種模式的國家,其政治制度和社會管理都具有濃厚的層級式色彩,如新加坡、韓國等,其網絡內容治理結構是嵌入政治體制之內的。

2.主體間關系

層級式網絡內容治理結構中各主體的排列原則是不平等的原則,各主體主要依據法律所賦予的權力進行排列。本文以新加坡和韓國為例進行具體分析。

居于層級式網絡內容治理結構頂端的是廣義政府,其能夠對之下的各級主體產生直接作用,各主體都要接受廣義政府制定的法律法規政策和行政命令。廣義政府的這種公權力主要體現在立法權和執法權上。首先是網絡內容治理相關法律法規和政策的制定權。在對網絡內容進行治理的過程中,新加坡不斷制定新的法律法規以回應網絡空間特殊環境下爆發的新情況、新變化,比如專門針對網絡內容治理的法律法規——《廣播法》第28章第9條“廣播(類別執照)公告”和《互聯網操作守則》[12]。除專門法外,其他法律法規中也會依情況延伸到網絡內容治理領域,比如《刑事法典》《內部安全法》《維護宗教和諧法》《防止騷擾法》《煽動法令》等也能夠適用于網絡內容治理領域[13]。其次,政府掌握網絡內容治理的執法權。新加坡的安全部門擁有特殊的調查權,在其調查過程中,如果認定某種內容及其內容后面的行為可能會危及國家安全,比如涉及恐怖主義、政治暴動、顏色革命等,安全部門可以對相關人員采取緊急措施[14]。

處于第二層級的是接受政府領導的網絡行業組織。政府指導行業組織,主要通過制定行業組織的自律規則來實現,一般情況下,行業組織相關規則的制定是在政府的直接指導下進行的。政府倡導行業自我管理,鼓勵ISP、ICP組成行業組織,制定相關規則,促進行業自律。2001年2月,在政府的直接指導下,新加坡網絡內容服務企業充分協商之后制定了包括公平競爭、自我監管、用戶服務等三方面內容的《行業內容操作守則》[13]。這些規范雖然作為自律規范并不具有法律的強制性,但是只要接受了該守則,則ISP和ICP都必須受其指導履行好自身的義務。

處于第三層級的是重要的執行主體ISP和ICP。ISP和ICP主要服從政府的法律法規政策和命令,同時也要遵守行業組織制定的規則,接受行業組織的督導和監管。ISP和ICP以技術為支撐,能夠對違法信息停止傳輸,對敏感關鍵詞進行屏蔽,能夠對違法信息進行記錄封存和報告。韓國政府要求對互聯網有害信息采用實名制控制的辦法,因此互聯網企業要采取多種有效措施對政府的規定進行貫徹和落實,其具體形式主要有:(1)限制“有害信息”接入。通過防火墻來限制色情或“令人反感”網站站點的接入。(2)阻止違法信息下載。通過暗號使用法,開發多功能屏蔽軟件,阻止網民從國外網站下載并轉載淫穢視頻,并對上傳淫穢視頻的個人和存在管理漏洞的網站運營商進行法律制裁[15]。

處于第四層級的是網民。在層級式結構中,網民并不是網絡內容治理的主要主體,網民作為治理對象的意義往往甚于作為治理主體的意義。作為治理的對象,網民要接受政府對互聯網法律法規和政策的規定,在網絡環境中自覺遵守各類社會規范,約束自己的行為,客觀理性發表言論。作為治理的主體,作為網絡社會的成員,網民當然擁有維護網絡安全和秩序的義務,當其發現網絡不良內容時,有向相關機構舉報的義務。社會組織等其他組織是更次一級的主體,并不直接參與網絡內容治理活動,但有義務營造良好的網絡空間、宣傳教育引導網絡行為者遵守法律。

總體而言,在層級結構中,政府是最為重要的治理主體,是治理結構中的最頂層,其他各主體都在政府的統一領導、指導或者支配下進行治理活動;行業組織服從于政府的領導,同時以“自律的形式”對互聯網企業管理;互聯網企業服從于政府的管理,也需要配合行業組織的相關指令;網民既是治理的對象也是治理的主體之一,負有監督義務。公益組織以及其他社會組織在這個體系中屬于“弱連接”狀態,以自身的功能影響網絡內容治理。網絡內容治理層級結構圖如圖2所示(實線為強聯系,虛線為弱聯系)。

(二)多中心結構

1.一般結構模型

多中心式網絡內容治理結構是去中心,每個中心的地位是平等的,沒有高低之分,或者說其排列原則是“自助制”的(圖3)。當然,多中心網絡內容治理結構也有主要的中心或者居于最重要地位的中心,國際政治領域用“中心—邊緣”結構來描述這種關系。多中心網絡內容治理結構下主要行為體的數量,主體的功能和能力配置,彼此間的協調和互動機制的完善程度是決定系統是否能夠有效運行的主要因素。

2.主體間關系

多中心式網絡內容治理結構的核心在于去中心,即不存在某一主體主導治理過程或者在治理中作為發號施令者。各個中心主體互相獨立又互相聯系,這里的聯系不同于層級式網絡內容治理結構下的直接命令和服從,而是在大原則下的合作和協調,各主體獨立行動而又相互影響。

采用多中心式網絡內容治理結構進行網絡內容治理的國家在參與主體上也各有特色。如美國“逐步形成了立法規范為基、行業自律為主、政府指導為輔、公眾自我約束、社會多元參與的網絡內容監管與治理模式”[16]。“英國也劃分出了以OFCOM為代表的行政監管和以IWF為代表的行業自律兩種監管模式。”[17]多中心式網絡內容治理結構下,政府并非在互聯網誕生伊始就承擔監管責任,而是互聯網的爆炸式應用產生了在當時依靠行業自治無法解決的問題以及監測審查技術的成熟將政府也變成了互聯網治理的責任主體。現如今,即使是在根據RWB指數(衡量世界各國互聯網審查嚴格程度的指數)被歸類為“無需互聯網審查”的西歐國家和美國,政府也采取了措施試圖對網絡空間進行限制[18]。

由于各主體在協作過程中決定由誰占主導地位的不同,形成了以政府為主導、以行業為主導和各主體平等的三種細分結構。如圖4所示,類似于一個多邊形的構造,各主體處于多邊形的頂點位置,兩兩之間相互聯結、相互制約,各方在博弈和合作的過程中不斷改變這個多邊形的構造。

而在各主體的相互作用中,主體與主體之間的聯系程度略有不同(如圖4所示,虛線表示弱聯系,實線表示強聯系)。圖4-1的結構以美國為代表,在該多中心式網絡內容治理結構下,政府的角色處于后方,主要通過立法的方式進行原則性的規定,扮演的是將多方其他主體組織起來進行商討的角色和引導性角色。企業和行業組織自行制定標準和具體措施,決定對什么樣的網絡言論采取監管以及如何處理這些言論。圖4-2是以英國為代表的,政府主導下的多中心式網絡內容治理結構。在這種模式下,各主體同樣可以獨立決策和行動,但政府的管控更加嚴格,通過立法明確了行業主體的責任。英國對網絡內容的治理,正在從“依法處理非法,自行處理有害”發展為“依法處理非法有害”內容,擴大了網絡內容法定治理范圍[19]。圖4-3的結構下,政府、行業協會、企業、社會四大主體在擔任治理角色時責任相當,不存在某一主體居于主導地位的情況。本節主要以美國為例討論多中心治理模式。

(三)混合式結構

1.一般結構模型

混合式治理結構即是層級式治理結構和多中心治理結構的混合,首先,存在多個中心,亦即存在多個主要的治理主體;其次,多個主體中有一個或者是居于領導或者主導地位的,類似于元治理理論中的“同輩中的長者”[20];第三,領導和主導地位的治理主體與其他主體之間的關系并不是平等的、僅僅是分工不同的關系,而是領導與被領導、主導與被主導的關系;第四,領導主體、主導主體和其他主體關系的不同會有不同的具體運行模式。在混合式治理結構下主要行為體的數量也很重要,但更重要的是領導或者主導主體的數量,不同主導主體之間的協調關系,不同主體的功能和能力配置決定著系統是否能夠有效運行(圖5)。

在網絡內容治理領域,首先,以上各相關主體都是主要的治理主體。其次,有一個或者幾個居于主要地位的主體,一般而言是政府或者執政黨。第三,各個治理主體在治理體系中的排位是不一樣的。在不同的混合式治理結構下,政府的地位和權威各不相同,也并不和其他主體是平等的關系。第四,主導主體的數量、主導主體和其他主體之間的關系以及其他主體之間的關系的不同會形成不同形態的具體結構。

執政黨在治理體系中占據重要的地位,比如可以實行政治、思想和組織的領導。這包括確立互聯網發展的政治原則,制定互聯網發展路徑,將黨的意志通過立法的方式轉化為政府決策,通過頂層設計、戰略規劃,創造有利于網絡強國建設的市場環境與社會環境。政府作為現實社會管理中的主導主體,當“國家歸來”成為主導趨勢后,自然成了主導主體。政府的執政理念和對網絡社會的宏觀態度,決定了這個國家對待網絡內容治理的總體設計。不管是在對網絡媒體的治理,還是在對網民及集體行動的治理、對網絡政治性使用的治理、對互聯網利益集團的治理中,政府都扮演著“在場”的角色(圖6)。

黨政之外的其他主體居于下層的外圍,不同程度參與其中,既有層級式網絡內容治理結構的等級屬性,也有多中心共治的屬性,形成了獨特的“圓錐形”治理結構。在這個治理結構中,會有一個組織居于頂層,通過居上進行總體規劃與統籌協調,其他各級政府機構通過政府內的層級式體制參與網絡內容治理,互聯網行業協會等行業組織在黨委和政府的指導下發揮行業自律的功能,網絡服務提供商企業作為平臺企業通過“政企發包”的模式中對網絡內容進行審查,網絡內容提供商企業作為內容提供方通過自查模式對網絡內容進行自我審查,其他組織如學校、家長、意見領袖等通過各自途徑參與內容治理,普通網民則是在政府提供的平臺和企業提供的技術支持之下進行相互監督。

2.主體間關系

在這種混合式網絡內容治理結構的網絡內容治理下,有一個或者多個居于主導地位。主導主體與其他治理主體之間的關系,其他治理主體彼此之間的關系如何構成是混合式網絡內容治理結構跟層級式和多中心式網絡內容治理結構的關鍵。

首先,主導主體必定是處于中心地位。在這個主體間關系構成的網絡中,如果各個主體構成對等的關系網絡,擁有對等可比的網絡紐帶,這種紐帶可能具體內容不同,但是鏈接的性質是相同或者相似的,那么各個主體就會在整個系統的結構中占據相同的地位或者相似的地位。在混合式網絡內容治理結構的結構中,各主體所形成的結構網絡是不對等的,這種不對等性就是所謂的“中心性”,這種中心性如何,將是影響結構的重要決定因素。這種中心性的測量相當復雜,比如可以通過主導主體與其他主體的直接聯系的模式來衡量,也可以通過主導主體與其他主體的間接聯系來衡量。鮑威爾和史密斯·多爾(Powell & Smith-Doerr)將這種中心性總結成兩種模式(圖7)。第一種中心性模式為直接的緊密的聯系,是一種直接聯系的中心性,主導主體直接與其他主要治理主體取得聯系,交換政策、資源、信息。第二種中心性模式是一種擴展網絡聯系的中心性,是一種間接聯系的中心性,這種模式中主導主體跟部分治理主體形成直接聯系,跟大多數治理主體形成間接聯系。比如中國的強政府模式下,在網絡內容治理上我們認為采用的是第一種中心性模式,當然在一些邊緣的治理領域,和一些非主要的治理主體,也存在第二種中心性模式。

其次,主導主體與其他主體的關系。混合式網絡內容治理結構中,主導主體與其他主體是一種不平等的關系。主導主體要負責網絡內容治理整個的制度供給,也要對其他主體進行指導和協調。政府是公權力的代表,是唯一有強制力的治理主體,所以一般以政府作為主導主體。

最后,非主導主體的排列原則采用分工原則。互聯網行業組織是互聯網成員利益的代言人和維護者,是一種民間的非營利組織,其代表整個互聯網行業的利益,承擔促進互聯網行業健康發展的作用。互聯網企業是市場經濟的主體,主要承擔網絡技術創新、網絡服務和網絡內容供給,同時作為執行和實施政府決策的主要部門,具體承擔專業瑣碎的網絡內容治理工作。公民社會作為政府和私營部門的補充,網民在建設網絡空間、營造良好的互聯網環境起到了重要作用。這些非主導的治理主體在各自分工范圍內,在政府的統一規劃和主導下發揮作用。形成了一個互聯網內容治理的合理結構。

三、針對性治理結構的設置與變換

網絡內容治理是一個復雜的領域,面臨著不同的挑戰,不同的危機和挑戰需要不同的治理主體結構來應對,而不存在一種適合所有治理分領域和個案的普適性的治理結構。所以在治理領域也有“適應性治理”(Adaptive Governance)之說,這種思想的核心是“以管理制度變遷來應對環境變化產生的復雜性與不確定性”[22]。在當今的中國治理領域,網絡不良內容傳播的起因、過程和結果都遵循著復雜的邏輯,我們需要采取的治理結構需要具備這種應對復雜系統挑戰的能力,本文嘗試著以結構的理論構建中國特色的針對性治理結構。

(一)網絡內容治理主體的位置確認

1.廣義政府的位置確認

在中國特色的政治制度中,最重要的網絡內容治理主體是廣義政府,即黨和國家的統合整體。中國的執政黨與西方的政黨有本質的區別。在以英美為典型代表的西方國家,所謂政黨主要是“發揮代表與表達的功能”[23],政黨是選舉工具,主要是通過選舉機制進入到國家系統達到參政執政的目的。在中國,執政的中國共產黨不僅是國家的執政者而且也是國家的構建者,不僅發揮著推薦候選人、集中廣大民意的功能,而且是整個國家機體的核心部位,“黨和國家同屬于一個政治結構和政治過程,二者根本的行為目標具有一致性”[24]。黨和國家鑲嵌運行,成為一個整體。黨行使的是國家的職能,“黨和國家”其實是一個統一的有機體,亦即“廣義政府”[25]。中國共產黨借助強大的黨組織體系,全面嵌入國家治理體系之中。“借助黨義(意識形態)、黨章(綱領和組織架構)、黨規(紀律、規章和制度)、黨組(中央、地方和基層組織)、黨員(政治精英分子)實現對國家和社會各個領域的領導,形成了具有中國特色的‘以黨領政、黨政分工的黨政關系。”[24]

廣義政府在和各個主體組成的結構的位置關系中處于絕對的主導和核心地位。廣義政府可以實行政治、思想和組織的領導,包括確立互聯網發展的政治原則,制定互聯網發展規劃,通過頂層設計、戰略規劃,創造有利于網絡強國建設的市場環境與社會環境,制定網絡治理的法律法規規章制度體系。無論是在對網絡媒體的治理,還是在對網民及集體行動的治理、網絡政治性使用的治理、互聯網利益集團的治理中,廣義政府都扮演著“元治理”的角色,在各個層面發揮著決策者、執行者和監督者的角色,是網絡內容治理體系中的主導者。在我國現行的政治體系當中,于網絡內容治理有專門的國家機構,即中央網信辦和國務院網信辦,這兩個機構其實是兩塊牌子一套班子,以黨政合署辦公的方式成為中國網絡內容治理的最高機構。通過授權,國家網信辦負責全國互聯網信息內容管理工作并負責監督管理執法,國家網信辦、省級網信辦、市級網信辦三級機構依照屬地管理原則進行網絡內容治理,而其他機關如公安、新聞出版廣電、文化等諸多部門需要在各自的職責范圍內配合網信辦進行治理行為。

廣義政府的這種主導主體并不意味著在所有的治理領域都以一種同樣的姿態參與,而是可以靈活調整自己的位置來適應治理的需要。如果在層級式治理結構中,廣義政府處于最頂層的位置,通過科層的執行體系將其理念、意志、政策貫徹執行下去。在多中心結構中,廣義政府是力量最大的一個中心,可以在領導者、組織者、協調者、保障者、配合者之間自由切換。而在不同的混合式結構形態中,廣義政府可以有不同的參與方式融入整個體系,掌握、把控整體的前進方向,提高治理的實際效能。

2.ISP等其他主體的位置確認

廣義政府之外的其他主體居于下層的外圍,根據不同的結構形態不同程度參與治理活動。互聯網行業協會等行業組織在廣義政府的指導下發揮行業自律的功能。首先,可以參與網絡不良內容標準的制定,參與相關具體操作規則的制定;其次,可以承擔互聯網行業的管理職能,如以多種形式推進行業自律,開展互聯網行業企業信用評級評價;再次,還可以搭建網絡監督平臺,方便其他主體固定性地參與治理行動。

ISP作為平臺企業通過“政企發包”的模式中對網絡內容進行審查,它首先是一個準入的審查者角色,積極把好準入關,在第一個關口防止網絡不良內容進入網絡傳播環節;其次是一個監管者的角色,對于本平臺中出現的不良內容負有監管職責;同時,很多ISP兼具多種功能,不僅作為平臺,而且也作為內容生產者的角色,則具備自我審查的義務。ISP需要積極主動執行廣義政府制定的各項法律法規和規章制度,配合開展相關行動,進行技術開發為廣義政府的執行行動提供技術支撐。ICP作為內容提供方通過自查模式對網絡內容進行自我審查。ICP是內容的生產者,是網絡不良內容的源頭,從邏輯上看,所有的不良內容的傳播最終的原因來自生產。作為治理主體的ICP和作為治理對象的ICP其職責是完全不一樣的。

此外,網絡用戶個體或者群體也是重要的治理主體。比如網絡內容的使用者也是網絡內容治理的主體之一,以投訴、舉報、建議等方式靈活多樣地與網絡內容治理,形成了一種治理領域的“長尾效應”。一種新的趨勢是,公民以志愿者身份積極投身于公共服務中,自身既是公共文化服務的提供者,也是公共文化服務的接受者,同時也是公共文化服務的評判者[26]。

在這樣多主體的密切配合過程中,還可以“借助‘技術降維模式的應急手段、‘把關人2.0模式的技術過濾方法,采用運動式治理(如凈網行動)、行政約談、觀念制度(如網絡文化宣傳)等靈活機制和政策工具,對結構化、制度化治理模式進行補充與修正”[27]。

(二)以功能性分權為基礎的治理結構變換

功能性分權需要實現雙重目標,提高治理效率和防止公權力的濫用與專斷,提升治理效率必須達到集權和分權有機統一且各分權部分相互協調,防止公權力的濫用與專斷則需要各分權之間的相互分立和相互制約[26]。在網絡內容治理范疇內,“安全和發展之爭”成為理論和實踐的焦點,這是兩種基本的價值向度。維護網絡治理中的安全價值與提高治理效率具有內在一致性,保護互聯網的發展態勢則和防止公權力的濫用與專斷具有內在一致性。

1.治理結構變換的機制

網絡內容治理結構中主體關系在決策過程—執行過程—監督過程中存在制約與協調關系,根據制約與協調的強弱可以建構起三種主要結構的圖譜(圖8)。在不同政治背景之下,面對不同的網絡內容治理任務,需要通過結構的合理設置和過程的適合性調整來達到這種平衡。在功能性分權基礎之上的網絡內容治理結構需要以決策權—執行權—監督權的設置調整為核心進行建構和變換。這種變換具有內生的基本驅動力。

第一,治理目標的驅動。在中國的治理語境之中,廣義政府承擔起了關鍵和核心角色。具體到網絡內容治理領域,廣義政府設定明確的目標,帶領其他治理主體確定目標的實現。“有意識地運用整體知識,制定國家規劃,引導資源配置,以推動目標實現的公共治理方式,”[28]廣義政府的這種以目標為先導的治理是基于其對整個網絡治理的認知性把握,對網絡治理內部和外部環境變換的及時反應。第二,治理成本的驅動。治理過程中存在多種多樣的成本因素,“在企業之外,價格變動決定生產,這是通過市場交易來協調。在企業內部,市場交易被取消,企業家來指揮生產,顯然,存在著協調生產的替代方法”[29]。任何治理活動必須考慮其成本因素,這種成本包括事前成本和事后成本,或者也可以將這種成本歸類為“實施成本”“協調成本”“激勵成本”“風險成本”等,而不管如何,治理主體結構的變換是節約制度成本的關鍵。第三,制度慣性的驅動。網絡內容治理是新興的治理領域,跟傳統現實社會的治理和傳統媒體的治理具有一定的邏輯一貫性。面對新興事物時,舊有的制度和機制具有天然的擴張性,如實務中,很多按照“功能等同、現實對應”的原則來安排治理方略,制度慣性包括現實治理結構對網絡內容治理結構的影響,也包括一種網絡內容治理結構對其他內容治理的影響。

2.主要治理結構的切換

本文主張,按照侵犯法益的不同來確定網絡內容治理的結構。針對危害國家安全利益的網絡不良內容的治理結構應當采用層級式結構,危害國家安全利益是國家最難以容忍的底線,是所有國家治理目標中的首要目標,現實社會的治理機制可以有效對應到網絡社會,而這其中的成本因素是考慮比較靠后的因素。在這種治理結構中,需要注意強化廣義政府的決策權和決策行動,強化廣義政府的監督權和監督行動,確保廣義政府的理念、意志、治網方略和具體策略得到充分貫徹。強化其他主體對于廣義政府制定的法律、法規、規章制度的執行力度,確保在執行中不走樣、不變樣。同時,嚴格界定行業協會、ISP/ICP企業的監管職責,將廣義政府的治理理念、治理目標嚴格落實。行業協會對于互聯網企業有重要的監管責任。ISP/ICP等對于網絡用戶具有法定的監管責任。而其他主體對于廣義政府的監督制約權則放在次要位置。

針對危害社會公共利益的網絡不良內容的治理結構應當采用形態多樣的混合結構,在強調廣義政府的領導地位和指導職責的同時,更為強調各種其他治理主體治理能力的培育,重視各種主體在治理過程中的協調和配合。同時重視不同主體之間的制約機制。社會公共利益界定比較復雜,有些沒有確定的標準,如果任由這些不良內容發展和泛濫,必定給不特定的社會利益帶來難以挽回的損失。社會利益是國家治理目標中需要保障的重要利益。廣義政府在針對危害社會公共利益的不良內容的治理時也需要強調自身的治理職責。而社會組織、行業組織等組織性力量需要充分發揮其在決策—執行—監督整個功能性權力行動的過程中的作用,并重視對于其他主體的協調和制約功能發揮。

針對危害私人利益的網絡不良內容的治理,由于私人利益構成復雜,性質各異,體量驚人,且訴求各不相同,廣義政府雖然有保護私人利益不受損害的職責,但應該更多地發揮其他治理主體的主觀能動作用,所以需要采取多中心結構,注重廣義政府和其他組織和個體主體的協調和配合。對于私人利益損害,因為有明確的被侵權方,民事訴訟中很多時候遵循“不告不理”的規則。對于網絡內容治理領域而言網絡社會的個體和群體此時應該更多地承擔治理職責。但是個體甚至是群體的力量畢竟是有限的,一旦進入社會治理的結構中,多方力量需要相互配合和協調。

四、代結語:我國網絡內容治理結構優化的策略

網絡內容治理是國家治理體系和治理能力現代化的重要組成部分,其結構優化自然也遵守中國法治現代化的基本邏輯。在這種法治邏輯下反思我國的網絡內容治理結構,可以探究其優化的途徑和策略。

第一,治理法律法規的優化。網絡內容治理的相關法律法規的內容應該符合“網絡空間命運共同體”的基本訴求,必須反映國家網絡內容治理的實際需求,必須符合網絡社會發展的客觀規律和國家網絡治理的客觀規律;法律法規的規定必須反映廣大人民群眾的根本意志,保障廣大人民群眾的基本權利。營造清朗的網絡空間是人民的美好意愿,但網絡內容治理領域不能走向限制人民網絡言論的方向,妨礙人民基本權利的行使,使得“善治”變成“惡治”。法律法規的優化中,最核心、最關鍵的要素是制定更加明確的“負面清單”及認定程序和標準。“負面清單”是網絡內容治理的前提,必須由法律規定最基本的原則和標準。違法內容相關法律有明確規定,核心要件是確定違法信息確認的標準、主體和程序。狹義的不良內容現實中非常容易引起爭議,需要制定出明確的劃分標準。比如網絡色情內容、網絡暴力內容、違背公序良俗的內容等,都需要有具體的標準。色情內容的評判是否有關鍵的核心標準等都需要制定出具體的標準。同時,對于“法律保留原則”需要進行明確,哪些內容、哪些程序必須由法律保留。

第二,構建清晰的廣義政府權力邊界。各個治理主體的權力需要清單化,這是劃分權力的基礎。要以權力清單的形式系統標明廣義政府、行業組織、ISP、ICP、社會組織、網民等不同治理主體的治理權力,讓主體的權力行使范圍、行使手段、行使方式都合理清晰,確保主體合法。在網絡內容的權屬認定上,需遵循“私權—經濟范式”,以此平衡網絡安全與經濟效率、統攝數據確權的人格權路徑和財產權路徑[30]。在互聯網企業責任特別是作為平臺的ISP責任界定上,要構建科學合理的ISP責任體系,明確其基本的責任和義務。廣義政府內部也需要建立機制,比如可以著重健全兩類機制:一是加強廣義政府內部的治理信息共享機制建設,建立統一的網絡數據監管執法平臺,消除信息孤島,強化信息共享,降低政府監管成本;二是健全跨區域、多部門聯動執法機制,促進不同層級、不同單位和不同地域政府部門之間信息交流的常態化、機制化,破除監管執法的部門與地域障礙,提升政府對網絡平臺數據的監管能力[31]。

第三,要大力培育互聯網行業協會等行業組織,加大其治理的職責和功能,充分發揮行業組織的自律能力。行業組織目前發揮的作用太有限,已經成為一個可有可無的媒介。要加大行業協會的獨立性,根據2015年中央辦公廳和國務院辦公廳聯合印發的《行業協會商會與行政機關脫鉤總體方案》,真正做到獨立運行。首先是要推動出臺相關法律,真正做到職能脫鉤,形成權力定位準確、職能界定清晰、主體運行獨立的形態。其次,也需要加強對行業協會的規制和監管,健全相關法律,降低行業協會謀求不正當利益的空間,提高其違法成本[33]。

第四,加大網民的治理能力,特別是網絡社群對于網絡內容的治理能力。網絡社群內部需要形成一種公共動員機制,網絡社群雖然是一種弱關系,但是隨著網絡社會的進一步發展,個體之間的關系會進一步加深,如果充分發揮網絡社群的動員能力,產生的集體力量也是很驚人的。這種力量可以形成對其他權力的平衡,特別是對于執行行為和監督行為而言。網絡社群可以實時監督其他主體特別是廣義政府主體的治理行為,將其治理行為中的偏差進行糾正,實現治理的目的。

第五,要充分借鑒三種結構的優點。前文分析的三種治理結構模型,即層級結構、多中心結構和混合結構,各自有治理的情景和適用的領域,其功能的發揮在對待不同的網絡不良內容時有不同的效能。可以充分考察基本特征,結合相關國家的治理實踐,借鑒他們的長處和優勢。

參考文獻

[1]? 劉建偉.國家“歸來”:自治失靈、安全化與互聯網治理[J].世界經濟與政治,2015(7):107-125+159.

[2]? 孫秀成,韓璞庚.論網絡微內容傳播的糾偏主體與責任建構[J].新疆社會科學,2018(3):151-155.

[3]? 劉文杰.網絡服務提供者的安全保障義務[J].中外法學,2012(2):395-410.

[4]? 王利明.論互聯網立法的重點問題[J].法律科學(西北政法大學學報),2016(5):110-117.

[5]? 孫濤.當代中國社會合作治理體系建構問題研究[D].濟南:山東大學,2016:39.

[6]? 鄭小勇,趙立龍,陳學光.制度理論視角下行業協會的功能解析與建設要求——基于利益集團理論、治理理論與合法性理論的研究[J].重慶大學學報(社會科學版),2011(6):55-64.

[7]? 中國互聯網協會.中國互聯網協會章程[EB/OL].[2021-09-09].https://www.isc.org.cn/article/9661147578101760.html.

[8]? 張丹,張真理.中國互聯網治理的主體[J].現代商業,2011(32):44-45.

[9]? 張化冰.互聯網內容規制的比較研究[D].北京:中國社會科學院研究生院,2011:65.

[10]? Leading non-profit in cyber wellness training and advocacy work[EB/OL].(2021-02-25).https://www.touch.org.sg/about-touch/our-services/touch-cyber-wellness-homepage

[11]? 雷輝,王鑫,王亞男,等.行動者網絡主體的網絡正能量協同治理研究[J].湖南大學學報(社會科學版),2015(2):58-62.

[12]? 黃先蓉,儲鵬.新加坡網絡內容治理及對我國的啟示[J]. 數字圖書館論壇,2019(4):2-8.

[13]? Singapore's Cyber security Strategy 2016[EB/OL].[2016-10-10].https://www.csa.gov.sg/Tips-Resource/publications/

2016/Singapore-Cybersecurity-Strategy

[14]? 劉恩東.新加坡網絡監管與治理的組織機制[J].理論導報,2016(9):46-47.

[15]? 陳曉云.韓國網絡治理現狀及啟示[J].新聞與傳播研究,2010(6):23-28+109-110.

[16]? 劉恩東.美國網絡內容監管與治理的政策體系[J].治理研究,2019(3):102-111.

[17]? 黃志雄,劉碧琦.英國互聯網監管:模式、經驗與啟示[J].廣西社會科學,2016(3):101-108.

[18]? BARNEY WARF. Geographies of global Internet censorship[J].GeoJournal, 2011(1): 1-23.

[19]? 周麗娜.英國互聯網內容治理新動向及國際趨勢[J].新聞記者,2019(11):81-89.

[20]? 江必新,王紅霞.社會治理的法治依賴及法治的回應[J].法制與社會發展,2014(4):28-39.

[21]? Freeman, L.C..Centrality in social network sconceptual clarification. SocialNetworks, 1979(3): 215-239.

[22]? 張樂.新興技術風險的挑戰及其適應性治理[J].上海行政學院學報,2021(1):13-27.

[23]? 喬萬尼·薩托利.政黨與政黨體制[M].王明進,譯.北京:商務印書館,2006:57.

[24]? 陳國權,盧志朋.功能性分權與中國特色權力監督體系——陳國權教授與景躍進等教授的學術對話[J].中共杭州市委黨校學報,2020(3):52-58.

[25]? 陳國權,皇甫鑫.功能性分權體系的制約與協調機制——基于“結構-過程”的分析[J].浙江社會科學,2020(1):4-12+155.

[26]? 羅云川,阮平南.公共文化服務網絡治理:主體、關系與模式[J].圖書館建設,2016(1):28-32+38.

[27]? 彭波,張權.中國互聯網治理模式的形成及嬗變(1994—2019)[J].新聞與傳播研究,2020(8):44-65+127.

[28]? 鄢一龍.目標治理:看得見的五年規劃之手[M].北京:中國人民大學出版社,2013:60.

[29]? 羅納德·哈里·科斯.企業、市場與法律[M].盛洪,陳郁,譯.上海:上海三聯書店,1990:30.

[30]? 鄭智航.網絡社會法律治理與技術治理的二元共治[J].中國法學,2018(2):108-130.

[31]? 陳榮昌.網絡平臺數據治理的正當性、困境及路徑[J].寧夏社會科學,2021(1):72-80.

[32]? 王新紅.行業協會對社會信用的影響:中國問題及其法律解決[J].東南學術,2019(4):224-231.

A Theoretical Study on the Subjective Structure of Network Content Governance

Ding Fujin? ?He Mingsheng

(Strategic Planning Office, School of Social Development, East China University of Political Science and Law, Shanghai 201620)

Abstract: Network content governance includes multiple subjects such as state and government departments, Internet enterprises and industry organisations, netizens and social organisations, etc., and each subject has different governance roles, responsibilities and ways of participating in governance.The combination of these subjects in different positions forms different governance structures, and the various governance structures can be abstractly summed up as the hierarchical structure typical of Singapore and South Korea, the polycentric structure represented by the United States and the United Kingdom, and the hybrid structure. There is no absolute superiority or inferiority among the three types of structures, but each of them has its own applicable situations and fields. The key to shaping a subject structure that meets the actual needs of China's online content governance is to determine the position of each governance subject and the functional decentralisation among them, the most important of which is to determine the position of the government in the broad sense. At the same time, in the process of shaping the governance structure, it is necessary to set up different structures for different governance objects and establish an institutional mechanism for transforming between the structures.

Key Words: network content governance; governance structure; structure optimization; legalization

(責任編輯:易曉艷)

作者簡介:丁福金,華東政法大學高等教育與教育法制研究所、教育法研究院助理研究員,法學博士,研究方向:法理學、法社會學、教育法學;何明升,華東政法大學社會發展學院教授,博士生導師,管理學博士,研究方向:網絡社會學、社會管理。

主站蜘蛛池模板: 57pao国产成视频免费播放| 亚洲福利视频网址| 国产在线观看91精品| 国产成人一区免费观看| 国产无码精品在线播放| 色天堂无毒不卡| 动漫精品啪啪一区二区三区| 国产乱子伦视频在线播放| 婷婷午夜天| 欧美日韩va| 国产黄在线免费观看| 一级毛片无毒不卡直接观看| 伦精品一区二区三区视频| 欧美日韩v| 国产亚洲精品自在线| 91成人在线免费视频| 在线观看亚洲天堂| 亚洲欧美国产高清va在线播放| 日韩国产亚洲一区二区在线观看| 国产91九色在线播放| 欧美成人日韩| 亚洲国产精品国自产拍A| 狠狠做深爱婷婷久久一区| 成人精品免费视频| 999在线免费视频| 久爱午夜精品免费视频| 色综合天天娱乐综合网| av色爱 天堂网| 日本欧美视频在线观看| 99热这里只有成人精品国产| 亚洲一级毛片| 精品视频一区二区观看| 日韩美毛片| 男女猛烈无遮挡午夜视频| 国产精品自在在线午夜| 日本不卡在线视频| 欧美一区二区精品久久久| 国产在线啪| 欧美在线中文字幕| 国产va在线观看免费| 亚洲 欧美 日韩综合一区| 日本高清成本人视频一区| 久久精品日日躁夜夜躁欧美| 美女毛片在线| 婷婷色一二三区波多野衣| 欧美亚洲网| 精品国产成人av免费| 综1合AV在线播放| 一级香蕉视频在线观看| 亚洲国产系列| 亚洲免费毛片| 91原创视频在线| 99精品国产电影| 久青草网站| 国产精品免费p区| 性激烈欧美三级在线播放| 国产欧美视频综合二区| 精品一区二区三区水蜜桃| www.狠狠| 国产亚洲精久久久久久久91| 日本在线国产| 免费人成黄页在线观看国产| 国产黑人在线| 91福利在线看| 欧美激情,国产精品| 茄子视频毛片免费观看| 亚洲天堂网在线播放| 日韩无码精品人妻| 国产大片喷水在线在线视频| 日韩一区二区三免费高清| 国产一级妓女av网站| 五月婷婷亚洲综合| 亚洲制服丝袜第一页| 欧美自慰一级看片免费| 91精品国产91久久久久久三级| 国产无遮挡猛进猛出免费软件| 高潮毛片无遮挡高清视频播放| 色噜噜中文网| 亚洲欧美国产高清va在线播放| 成人福利在线观看| 国产精品乱偷免费视频| 在线va视频|