人工智能時代網絡內容治理面臨的新挑戰和解決策略研究

曾志毅 田野

摘 要 進入21世紀以來，隨著社會的發展和生活水平的不斷提高，互聯網技術也得到了進一步發展，算法推薦平臺應運而生，在滿足網民需求的同時，也深刻地影響了我國的互聯網內容生態。但是，由于純粹算法推薦本身的價值陷阱，網絡內容建設不可避免地出現了一些新變化和新問題，給政府互聯網治理帶來了一些新的挑戰，主要表現為馬太效應、低俗內容泛濫、易受平臺操縱、網絡水軍影響力擴大等等。據此，文章提出，政府應通過法制建設、技術手段建設、優質內容建設、輿情引導等手段加強網絡內容建設，以建設一個生態良好的網絡空間。

關鍵詞 人工智能；網絡內容；互聯網治理

中圖分類號 TP3 文獻標識碼 A 文章編號 1674-6708（2019）229-0166-02

近年來，隨著大數據、人工智能、云計算等互聯網技術的發展，以今日頭條、抖音、快手為代表的算法推薦平臺迅速崛起，在滿足網民需求的同時，也深刻地影響了我國的互聯網內容生態。但是，由于純粹算法推薦本身的價值陷阱，網絡內容建設不可避免地出現了一些新變化和新問題，給政府互聯網治理帶來了一些新的挑戰。

1 人工智能時代網絡內容建設出現的新變化和新問題

1.1 算法推薦平臺迅速崛起

隨著互聯網技術的不斷發展，算法推薦應運而生并且迅速應用于各大平臺。新浪、優酷、微博等門戶網站、視頻網站、社交媒體都會利用用戶提供的基本信息，對用戶進行內容推薦。隨著社會的發展以及各個媒體基礎設施的不斷更新，人工智能算法已經得到普遍應用和推廣。鳳凰新媒體總裁岳建雄曾說過，人工智能算法已經成為各個媒體所具備的基礎能力，而不是核心競爭力，因此，各媒體在此基礎上要不斷開發探索具有競爭力的算法。[ 1 ]近年來，迅速發展壯大的今日頭條、抖音、快手更是將人工智能算法推薦運用到了一個新的高度。今日頭條資深算法架構師曹歡歡2018年1月公布了頭條使用的5種推薦算法，包括傳統的協同過濾模型，監督學習算法Logistic？Regression模型，基于深度學習的Factorization？Machine，以及DNN和GBDT。據其透露，主要有4類最重要的用戶特征，將會輸入給算法，影響到頭條推薦算法的工作。第一類是關聯性特征，根據用戶信息來評估與相關內容屬性之間的關系。第二類是環境特征，包括地形、氣候、時間。第三類是頻率特征。主要是指一個話題出現的頻率和熱度，反映了用戶的算法偏向。第四類是協和特征，它可以從舊算法轉變為新算法，并將其推廣到更廣泛的領域[2]。

1.2 算法推薦帶來馬太效應和低俗內容泛濫等弊端

優秀的算法推薦節省了網民尋找優質內容和感興趣內容的時間成本，同時也讓平臺對網民的詳細信息有了更加全面的掌握，有助于調整平臺發展策略、內容生產定位和廣告精準投放，實現了網民和平臺的雙贏。不過，基于人工智能的純粹算法推薦的弊端也是非常明顯。

1）容易導致平臺內容出現較大的強弱差距，使得一部分優質內容無法有效展示。比如，在抖音平臺上，某用戶拍攝上傳一個視頻，初期平臺會適當給予一定流量，視頻上傳完成后，會得到其他用戶的關注，其他用戶根據個人喜好對該視頻進行瀏覽、點贊、評論和轉發，通過用戶的轉發和點贊可以判斷出該視頻的受歡迎程度，抖音平臺會根據視頻的受歡迎程度給予第二次流量，同時獲得二次傳播機會。如果該視頻受歡迎程度低，那么抖音平臺為了傳播質量，不會給予第二次傳播機會，這種情況會導致上傳的視頻失去流量，也難以大火[3]。？也就是說，如果一個視頻第一輪表現不佳，也就不會進入下一輪。很多優秀的視頻內容可能因此被埋沒。

2）平庸、低俗的內容可能獲得更多的傳播，出現泛濫的情況。以今日頭條、抖音和快手等為代表的互聯網應用以人工智能的算法推薦，作為主要推薦方式，代替了原有的編輯推薦制，只是根據用戶需要推薦相關內容，卻不顧內容的真實性和質量，這種方式反而迅速贏得了網民的喜愛，也贏得了市場，但是因為過度商業化的原因，內容低俗、娛樂過度、虛假信息等眾多問題也一直困擾著這些平臺的發展。尤其是今年以來，各大網絡平臺的播放質量尤其低下，導致網絡平臺市場陷入混亂狀態，值得一提的是，2018年4月由于各大網絡平臺為了吸引用戶眼球，賺取流量和人氣，播放早戀、早孕等視頻，甚至這些主人翁通過此次平臺傳播而成為了網紅，使得更多未成年少女為了獲取人氣爭相早戀早孕，帶壞了社會風氣。針對這些不良事件的發生，國家廣播電視總局也對各大平臺進行了警告處理，并且勒令其進行全面整改，積極傳播正能量事件，堅決杜絕此類事件的再次發生[4]。？這些平臺雖然賺足了流量和人氣，但是無疑喪失了道德底線。

3）算法推薦下信息存在被平臺操控的可能。為了增加用戶，獲得更大的商業價值，互聯網平臺往往都在不斷地開發和測試新的算法，在這個過程中，不可避免加入人的判斷。今日頭條資深算法架構師曹歡歡曾經說過，互聯網平臺的算法推薦并不是只有機器操控，其中還摻雜了許多人為因素，這就容易導致產生算法推薦的信息不夠精準的風險。在大數據時代，這個操控可能會更有針對性。因為你所有的數據幾乎都在平臺的監視之下？[5]。在2016年美國大選中，美國的媒體、意見領袖和民眾就紛紛發聲，認為Facebook提供了假新聞，對人們形成誤導，影響了大選。

1.3 智能寫作獲得巨大進步和機器人水軍泛濫

隨著社會的發展和科技水平的不斷提高，機器人寫作越來越廣泛。就寫作水平而言，目前計算機能夠完成結構比較清晰、格式固定的新聞稿。

隨著機器人寫作的廣泛應用，許多機器人水軍為了從中獲取利益擾亂網絡平臺秩序，導致網絡平臺內容安全受到威脅?！熬W絡水軍普遍從事編造虛假信息、誹謗攻擊、非法推廣等違法活動，嚴重侵害公民的人身財產權利，并且容易侵蝕網絡正能量、破壞網絡正常生態。

網絡水軍成為互聯網輿論中一股不可忽視的力量，通過對目標對象進行分析，進行有針對性地發文，通過對帖子的惡意追捧，營造虛假輿論，大量占據網絡信息傳播資源，快速擴散消極負能量的帖子，引導輿論導向朝著負面方向發展。通過相關調查研究發現，人類觀點的轉變往往和網絡平臺播放的內容有關，也就是說，機器人水軍在一定程度上影響了人們的觀點。

2 人工智能時代政府加強網絡內容建設的對策

2.1 加強創新，依法加強網絡內容治理

互聯網不是法外之地，針對當前網絡內容存在的問題，我國必須創新和完善相關領域的立法工作，依法加強網絡平臺管理，樹立積極正能量的網絡文化。在網絡信息技術快速發展的過程中，可能會出現一些不可抗力因素或者法律之外的情況，因此，我國相關部門應該對于新興網絡技術方面嚴加管理，詳細調查，為了試網絡平臺更好更健康的發展下去，我國相關部門根據調查情況，結合現有網絡信息技術的發展情況，制定順應社會發展的法律規章制度。

2.2 提升能力，利用新興技術加強監管

互聯網時代，面對數據的爆炸性增長和不斷發展的網絡技術，網絡內容治理也必須不斷創新，利用新的技術手段和工具，加強網絡內容的管理。通過云計算、大數據、人工智能等新興信息技術對網絡上出現的違法違規內容，做到第一時間的監測發現、分析判斷、防范處置，通過新興技術對網絡中的違法亂紀現象進行加強管理，從而提升網絡空間治理能力。

2.3 鼓勵原創，加強優質內容的版權保護和傳播

傳媒行業最重視的就是內容質量，隨著互聯網技術和算法推薦平臺快速發展，優質原創內容價值越加凸顯，對網絡內容版權的保護有必要盡早提上日程。另外，優質內容也應當在網絡平臺中起到帶頭作用，通過對優秀網絡內容進行平臺優選和創作支持，加大對優秀網絡內容的傳播力度，以此來沖淡負面作品的社會影響，向社會廣泛傳播正？能量。

2.4 大力發聲，把握輿情引導權

目前，網絡平臺的機器人水軍日益增加，對網絡平臺的輿論導向產生了極其惡劣的影響，針對這一現象，我國相關部門應該對機器人水軍進行重點關注，及時掌握其動態，根據機器人水軍的運行規則，制定相關解決措施，并且在官方平臺積極發聲，引領正確的輿論導向，特別是嚴重損害我國主權完整和國家利益的聲音，應該及時予以駁斥和？澄清。

參考文獻

[1]中國青年網.“人工智能+新媒體”論壇聚焦媒體智能之道.[2018-11-13].https：//baijiahao.baidu.com/s？id=161 7006460982543973𝔴=spider&for;=pc.

[2]36氪.今日頭條用了哪五種推薦算法？資深架構師曹歡歡首次公開揭秘.[2018-1-12]. https：//baijiahao.baidu.com/ s？id=1589381367542792109𝔴=spider&for;=pc.

[3]聽潮一哥.從零到萬的粉絲，抖音推薦算法是怎樣的.[2018-5-17]. https：//baijiahao.baidu.com/s？id=160070107164 1513252𝔴=spider&for;=pc.

[4]觀察者網.今日頭條、快手被約談平臺回應：全面清查暫停新用戶上傳.[2018-4-15]. https：//www.guancha.cn/ society/2018_04_05_452733.shtml.

[5]維克托·邁爾-舍恩伯格，尼思·庫克耶著.盛楊燕，周濤，譯.大數據時代：生活、工作與思維的大變革[M].杭州：浙江人民出版社，2013：195.