圖文內容識別技術在青少年上網監護中的應用

王晶瑩 張媛媛 王新元 劉煜松

摘要：如今互聯網正在高速發展，信息的傳播方式不斷發生轉變，網絡上的信息量也在急速膨脹，雖然降低了網民獲取資源的門檻，但為網絡中不良文化的滋生和傳播提供了條件。如今大量青少年觸網且上網年齡不斷低齡化，但青少年各方面不夠成熟，辨別是非能力差，缺乏自我保護能力，法律意識薄弱，很容易受到負面影響。現今在計算機視覺領域中，圖文內容識別技術發展迅猛，識別準確率高、速度快、成本低。圖像識別技術能夠有效地應用于青少年上網監護過程中，達到高效監護的效果。

關鍵詞：青少年上網監護;內容識別技術

中圖分類號：TP391? ? ? 文獻標識碼：A

文章編號：1009-3044（2021）36-0148-03

開放科學（資源服務）標識碼（OSID）：

1 背景

根據中國互聯網絡信息中心（CNNIC）報告顯示，2019年未成年人互聯網普及率達93.1%，并且青少年上網年齡還在持續低齡化。紛繁復雜的網絡信息非常容易影響缺乏辨別是非能力的未成年人，很容易誤入“歧途”[1]。據《社會藍皮書》調查顯示，在青少年的成長中父母的陪伴起到重要的作用，父母的在場很大程度上可以防止少年兒童過度上網[2]。本項目致力于將監護人的引導置入青少年健康教育的環節中，實現監護人對青少年反常上網行為的監管。為監護青少年安全上網，通過自動定時截圖、人工智能識別、反饋瀏覽信息等環節，實現對青少年上網時長、上網時段、瀏覽內容等實時監護。促進監護人與青少年之間的溝通，對青少年身心健康的保護更有效，減少不良信息對青少年成長的影響，保護青少年身心健康，同時也能夠大幅度降低人工審核成本。

2 青少年上網狀況

2.1 教育與學習

隨著互聯網的發展和生活水平的提高，電腦越來越普及，各類行業都以互聯網為基礎建立起廣泛的應用。其中，教育行業也更加深入地與互聯網科技結合，形成“互聯網+教育”的新型教育形式。網上授課、網上答題、網上考試等各種教學形式變得更加日常化，上至大學生，下至小學生，更加頻繁地使用電腦或移動設備等在微信、學習通等教學平臺上完成老師布置的學習任務。 青少年獨自接觸手機電腦的機會大大增加，而網絡上的信息復雜且不可控，容易分散青少年的注意力，反而影響青少年的健康成長。

2.2 游戲

除了必須進行的學習任務以外，游戲行業的普及也成為青少年接觸電腦和手機的重要原因。各類游戲利用人類心理需求或弱點吸引了大批用戶，游戲受眾人群年齡跨度大、熱度高、討論范圍廣。未成年人難以禁受誘惑，常被各種游戲吸引，耗費大量時間、金錢、精力等。并且部分游戲中充斥著大量不利于青少年成長發展的價值觀，諸如攀比、貪婪、暴力、不切實際、自私、報復心、逐利等，長期在此類游戲環境下耳濡目染，很有可能造成青少年的價值觀扭曲以及與現實世界產生隔閡等不良后果。

3 家長監管困難的原因

3.1 電腦等上網設備的普及

隨著經濟的發展，人們的生活水平不斷提高，電腦等可聯網設備越來越普及。如今，幾乎每個家庭都會有一臺電腦，為青少年上網提供了設備基礎。青少年上網更加方便，上網的機會更多。

3.2 網絡環境發達且難以管控

互聯網的高速發展使中國互聯網網民數量高速增長，在各類網絡通信技術的進步下，各行各業包括工業、金融、醫療、教育等進入新型科技產業行列。中國進入“互聯網+”時代，因此青少年在很多時候會不可避免地接觸網絡，時刻受到網絡信息的影響。各類廣告也因此層出不窮，出現在各種頁面彈窗和綁定程序中，令人防不勝防。

3.3 青少年觸網低齡化

在互聯網時代生長的青少年，觸網年齡不斷減小。未成年人生理和心理都尚未發育成熟，還處于模仿階段，在接觸到部分網絡信息時容易受其影響從而進行模仿。未成年人因此更容易學習到更多內容，但其中不免有不利于青少年身心發展的部分，如果這類內容也讓未成年人爭相效仿，就會使其誤入歧途，后果不堪設想。此外，未成年階段判斷能力尚不足，這一點容易被心懷不軌的不法分子利用，諸如欺騙兒童盜刷父母支付寶微信、誘騙兒童暴露自己的隱私部位等。

3.4 家長無法時刻陪伴青少年

青少年需要上網的時段不固定，由于青少年自身自控力不強，自己無法控制上網時長，導致獨自上網時使用電腦時間過長。而家長常常因為有工作或其他事務，無法無時無刻地監督青少年上網情況。

4 圖文內容識別監護流程

此項目致力于確保青少年健康安全上網，項目由電腦應用程序和手機App組成，由電腦應用程序定時截取青少年的電腦屏幕，對截取的圖片進行分析鑒定，當鑒定到青少年瀏覽不良內容時，監護人使用的移動端App會收到消息提醒，以此來起到監督和提醒的作用，家長還可以通過手機App獲取青少年上網時長等信息。

此項目的功能實現主要由為三個模塊組成：定時截取屏幕，內容識別分析鑒定，手機端App接收反饋。

4.1 定時截取屏幕

圖文內容識別監護的第一步是在青少年上網時，使用Win32 API自動定時調用屏幕截圖來獲取計算機界面顯示的青少年當前瀏覽的內容，通過屏幕內容發生變化的時間來計算青少年的上網時間，并將截取的屏幕圖片傳輸到圖像文字內容識別分析模塊進行下一步的操作。監護人可以設置截圖的間隔時長，來滿足不同程度的監護需求。截取屏幕流程如圖1所示。

4.2 圖像文字內容識別分析鑒定

通過調用圖文內容識別接口，由于截取屏幕頻率高、數據大、人工審核存在速度慢、成本高等問題。內容安全識別使用深度學習算法，有效降低人工成本，智能識別違規內容，大幅度提高審核的效率[3]。根據審核返回的結果判斷當前所瀏覽內容是否健康，如果發現瀏覽內容不適合青少年或檢測結果不確定，則向手機端App發送通知信息;發現青少年上網時長反常等異常問題，及時向手機端App發送消息通知。內容識別流程如圖2所示。

4.3 手機端App接收反饋

手機端App由青少年的監護人下載使用，當App收到來自OCR圖像文字分析鑒定模塊發來的反饋時，代表青少年目前所觀看的內容可能并不適合于他們，App會以彈窗的形式提示監護人，并將瀏覽的不良內容反饋給監護人，起到監督和提醒的作用。通過手機App可以規定青少年的上網時間，如果電腦應用程序檢測到上網時間超出規定時間，手機App同樣會收到提醒。手機端接收反饋流程如圖3所示。

4.4 整體運行流程

青少年用戶在PC端啟動桌面程序。如果已有賬號則直接登錄，如果沒有賬號，則在注冊后進行登錄。登錄成功后，系統記錄下用戶的上線時間，下線后系統記錄用戶的下線時間，通過用戶的上線與下線時間來計算用戶的上網時長和上網時段等上網信息。如果出現超時情況，則發送違規消息至App。在用戶上網期間系統自動定時截圖并使用內容識別功能進行分析鑒定，如果出現違規或不確定的內容時，則發消息至監護人App通知監護人，由監護人進行判斷或與青少年展開溝通教育等。

5 研究方法及創新點

1）目前許多網絡平臺推出了“青少年模式”、防沉迷系統，但難以起到切實監控與對青少年身心健康實施保護的作用，該項目為保護青少年觸網身心健康提供了一個新的解決方案[4]。通過監控青少年上網數據，規范青少年上網行為，為青少年合理上網提供來自監護人的管理和約束，有效促進青少年與監護人之間的溝通，保護青少年身心健康。

2）該監護流程中運用了人工智能內容識別技術[5]，實現對PC端頁面內容的實時監測。基于深度學習，對青少年瀏覽界面中的圖片、文字進行內容風險智能識別和審核，大幅度降低人工審核成本，實現對用戶瀏覽界面中可能出現的涉及色情、暴恐、涉政等違規內容的監督預防。

3）青少年網絡健康機制將屏幕截取與內容安全識別技術有效結合，本產品中使用win32 GDI圖形設備接口實現截圖功能。GDI連接了顯示圖像和物理設備，使用基于函數的編程方式提升編程效率。

4）將通過自動定時截取屏幕獲取的上網時長、上網時段、上網內容等數據以圖像化的形式展現，向監護人清晰有效地傳達上網數據，能夠更加直觀地了解青少年當前的上網習慣，從而制定更好的上網方案。

5）使用ASP.NET Web Api框架開發，作為桌面應用和移動設備的后臺，進行識別結果處理等[6]。應用uni-app開發技術實現App信息傳達，實現實時有效的監控、提醒和安全等目的，并提供一套友好的人機交互功能。

6 優勢及作用

將圖文內容識別技術應用于青少年上網監護系統中能起到多方面作用。

6.1 有效監護

目前市場上已出現的“青少年模式”此類青少年防沉迷系統，主要限制的是用戶對應用的使用權限，但在用戶自制力等多方因素的影響下變得形同虛設。本系統不同于已有的防沉迷系統，更多地從對青少年這一類用戶的監護角度出發，注重對青少年使用電子產品的外部約束。通過監護人對青少年的制約影響，來達到對青少年上網時長、上網時段、上網內容等方面的有效監護。

6.2 促進溝通

采用監護人監護這一方式，一定程度上促進了青少年與監護人之間的溝通。在征得使用者同意后，監護人可以獲知一部分青少年的瀏覽內容，更好地察覺青少年成長過程中的心理變化。從而及時地有針對性地與青少年進行溝通，避免正處于不成熟階段的青少年過度地受到網絡中不良信息的影響或過長時間沉溺于網絡世界所導致的心理障礙產生、身體素質下降、人生觀和價值觀的扭曲、受到網絡欺詐甚至犯罪等情況。青少年監護人是在青少年成長階段中親密且信任的人，對青少年心理指導可以起到關鍵性作用。

6.3 合理上網

本產品對使用者上網時長、上網時段、上網內容等方面進行有效監護，監護人可以直觀地通過圖像化的形式結合相關數據觀察青少年的上網習慣，并以此為依據對青少年進行合理的上網規劃。

6.4 高效識別

本產品對使用者內容的識別由人工智能完成，幫助發現青少年上網內容中可能涉及色情、暴恐、政治敏感等的內容，能夠降低人工審核的成本，并提高識別效率。本產品還能夠將無法界定的內容發送給監護人，避免錯誤判斷。

7 結束語

將圖文內容識別技術應用在青少年上網監護中，可以實現對青少年上網情況的有效監護，一定程度上確保青少年不受紛繁復雜的網絡環境的負面影響，解決監護人無法隨時陪伴在孩子身邊的痛點問題。還可以加強青少年與家長之間的溝通，拉近監護人與青少年之間的距離，讓監護人走進青少年的內心世界，減小代溝。

參考文獻：

[1] 謝忠保.互聯網對青少年的影響[J].青年研究，2000（9）：8-13.

[2] 昝玉林.國外應對青少年網絡成癮的對策及啟示[J].中國青年研究，2007（2）：80-83.

[3] 黃元飛，張景璐，古利勇.綠色上網及相關技術發展趨勢[J].電信科學，2006，22（9）：1-5.

[4] 尹瑞鳳.如何加強學生的網絡德育教育[J].新課程（下），2011（2）：114.

[5] 鄭遠攀，李廣陽，李曄.深度學習在圖像識別中的應用研究綜述[J].計算機工程與應用，2019，55（12）：20-36.

[6] 王仲洲，楊曉洪，王劍平，等.基于REST風格的WEBAPI架構研究[J].微處理機，2016，37（5）：52-55.

【通聯編輯：謝媛媛】