生成與操控：人工智能時代的信息內容風險與治理

隨著人工智能技術的蓬勃發展和深度嵌人社會運行體系，信息內容的生成方式和傳播樣態迎來了前所未有的變化，但同時也面臨內容質量、認知安全、信息失序等復雜挑戰。本專題系的系列階段性成果，聚焦人工智能帶來的“生成與操控”問題，分別從內容生成、認知影響、信息疫情治理和網絡暴力治理四個方面，剖析人工智能時代信息內容風險與治理難題，為人工智能時代的信息治理提供多角度的思考。

人工智能作為一種強大的內容生產工具，使得生成文本、圖像、音視頻等多模態信息的門檻大幅降低，人們不再需要專業背景或高昂成本即可實現各種類型信息內容的自動生成。《內容缺乏原創性：AIGC 的學術知識生產》一文從知識生成的視角出發，提出人工智能盡管帶來信息內容數量爆炸式增長，但其間無法回避的是這些內容缺乏原創性和洞見力，在整體上拓寬人類認知邊界的能力有限。

在人工智能技術的驅動下，通過對人的心理與行為模式的深度學習并據此生成的信息內容，正在使人工智能本身成為操控認知、影響判斷與行為的新興手段。我們的認知領域在遭受著精準內容推送和情緒引導的同時，從未像今天這樣開放而脆弱。《人工智能時代認知戰的安全風險》一文從認知安全的視角出發，基于人工智能武器化的群體操控和個體認知重構兩個維度，剖析了人工智能武器化可能引發的認知安全風險，這不僅是信息內容安全的問題，更是人作為認知主體的安全問題。

當下正確信息與錯誤信息的過載使得人們面對復雜情景時難以識別值得信任的信息和做出理性判斷，而在人工智能時代，虛假信息生成與傳播的門檻降低使得信息疫情愈加泛濫。《AI時代信息疫情的挑戰升級與協同治理》一文在辨析信息疫情概念基礎上，認為人工智能時代信息疫情的挑戰升級凸顯在虛假信息工業化生產和傳播，以及群體認知免疫系統的結構性崩潰問題上。

網絡暴力治理是信息內容治理中的一個重要議題。人工智能既可能成為“辨暴濾惡”的利器，也可能在被濫用時“助紂為虐”，當然我們更希望看到人工智能為信息治理帶來新的創新可能。《生成式人工智能賦能網絡暴力治理：邏輯、風險與應對》一文從賦能邏輯上，提出人工智能在動態化監測網絡暴力信息、全景式防治網絡暴力風險、全流程嵌入網絡暴力治理等方面的巨大潛力，從而強力支撐建設清朗有序的網絡空間。

本專題旨在提供一個多角度、跨學科的思考平臺，推動對人工智能生成信息內容的一些認識和碰撞。希望這個專題能夠展示人工智能時代信息內容所面臨的一種變遷：內容不再是單向“生成”的傳遞物，而是一種“操控”的設計結構。同時也希望本專題能夠激發更廣泛的關注和討論，共同探索人工智能時代的信息內容議題，為網絡空間治理注入更多理論支點。