圖書館人工智能生成內(nèi)容技術的應用和防護研究

摘要：文章闡述了人工智能生成內(nèi)容技術在圖書館的應用現(xiàn)狀，包括智能化館藏資源管理、智能化借閱推薦、古籍資源的活化利用、知識圖譜的構建、虛擬講解和智能在線問答服務等；分析了人工智能生成內(nèi)容技術會產(chǎn)生數(shù)據(jù)處理不規(guī)范、內(nèi)容生成的偏差性、API接口漏洞等風險，采用分布式學習、差分隱私技術、人機協(xié)同審查機制、API控制等措施應對風險；最后提出通過邊界防護、數(shù)據(jù)加密、內(nèi)部監(jiān)控、外部協(xié)助、應急響應和館員培訓等方式構建全方位圖書館信息安全防護體系。

關鍵詞：人工智能生成內(nèi)容；圖書館；信息應用與安全；安全防護

中圖分類號：G250.7 "文獻標志碼：A

0 引言

人工智能生成內(nèi)容（Artificial Intelligence Generated Content，AIGC）是在專業(yè)生成內(nèi)容（Professional Generated Content，PGC）和用戶生成內(nèi)容（User Generated Content，UGC）之外，當前第三種重要的內(nèi)容生成模式，目前缺乏統(tǒng)一規(guī)范的定義。它是通過人工智能算法對數(shù)據(jù)或媒體進行生產(chǎn)、操控和修改，自動生成內(nèi)容的一種技術集合和生產(chǎn)方式。AIGC技術涉及自然語言處理、計算機視覺、音頻生成等多個信息技術領域，可以生成文本、圖像、音頻、視頻等多種形式的內(nèi)容。近年來，隨著生成式人工智能的跨越式進步，越來越多的圖書館引入了AIGC技術，文獻信息管理與服務效能獲得了較大提升。但是，與此同時，日益復雜的信息安全也影響著圖書館的信息應用安全，如何防范AIGC技術帶來的風險也是一個重要問題。對此，胡晗光［1］剖析了南京圖書館面臨的網(wǎng)絡安全問題，據(jù)此提出了若干策略性建議。潘文佳等［2］探討了AIGC在推動圖書館信息建設方面的作用以及需要規(guī)避的法律風險。王秋云［3］分析了圖書館系統(tǒng)安全漏洞特征和引發(fā)的風險，提出應對措施。總體而言，國內(nèi)對AIGC技術在圖書館信息應用與風險方面的研究相對較少。在此背景下，本研究結合AIGC在圖書館的應用現(xiàn)狀，剖析了圖書館所面臨的網(wǎng)絡安全挑戰(zhàn)，以期為圖書館的網(wǎng)絡安全防護策略提供借鑒與參考，促進圖書館服務與管理的高質量發(fā)展。

1 AIGC技術及其在圖書館的應用現(xiàn)狀

1.1 智能化館藏資源管理

AIGC技術通過智能算法高效地管理紙質和數(shù)字文獻資源，優(yōu)化館藏結構，提升館藏資源的檢索和利用效率；通過減少人工干預來提高服務的便捷性，構建智慧化借閱系統(tǒng)和文獻投遞服務平臺。比如，蘇州市公共圖書館智慧服務平臺（“蘇州·書倉”共享平臺），利用人工智能、大數(shù)據(jù)和物聯(lián)網(wǎng)等技術，在線上平臺統(tǒng)籌調(diào)配全市館藏圖書資源，讀者網(wǎng)上借書可以各館互通互訪，提升了圖書資源的利用效率。此外，該線下平臺依托蘇州市總分館體系、智能書庫和網(wǎng)絡借閱投遞點，打通了圖書流通服務鏈條，提高了讀者的滿意度和閱讀體驗度［4］。

1.2 智能化借閱推薦

傳統(tǒng)的館藏書目推薦多采用專家薦書、大眾選書等模式。將AIGC技術應到圖書館的智慧化推薦系統(tǒng)中，分析讀者線上線下留下的閱讀歷史行為和數(shù)據(jù)，如書目瀏覽、書目咨詢、關鍵詞檢索等，利用機器學習和自然語言處理技術，生成個性化的書單和信息推送，不僅提高了讀者查詢的精準性，還可以指導讀者拓展閱讀領域，延伸閱讀興趣的“觸面”。比如，上海圖書館的數(shù)字資源個性化推薦服務，依托大數(shù)據(jù)等技術，根據(jù)讀者借閱圖書的特征，借助智能預測和決策手段提供相應的推薦，讓讀者擴大借閱信息的知曉范圍。AIGC技術可以讓更多人享受到精準化服務，推動公共圖書館借閱服務模式從個人被動“借”轉到圖書館主動“薦”，促進了公共圖書館閱讀服務水平的快速提升［5］。

1.3 古籍資源的活化利用

AIGC技術可以被用于對館藏古籍等重要文獻的數(shù)字化處理中。AI古籍修復模型通過光學字符識別（Optical Character Recognition， OCR）技術將古籍文獻轉化為電子文本，提取實體信息，如人名、地名、事件等元數(shù)據(jù)；AI利用檢索增強生成技術（Retrieval Augmented Generation，RAG），讓線上訪問數(shù)字化古籍資源的讀者獲得更準確、可靠、權威的資料文獻；AI利用基于自然語言處理（Natural Language Processing，NLP）技術自動識別和分類文本內(nèi)容，快速確定并提取文獻主題，促進古籍的閱讀和研究。例如，由字節(jié)跳動和北京大學數(shù)字人文實驗室、國家圖書館聯(lián)合推出的古籍數(shù)字化閱讀平臺“識典古籍”，通過AI技術開發(fā)了文字識別、自動標點、命名實體識別等多項功能，為古籍研究學者和文獻專家的豐富經(jīng)驗賦能，推動古籍文獻在修復、數(shù)字化、活化方面實現(xiàn)跨越式發(fā)展。

1.4 知識圖譜的構建

AIGC技術引入知識圖譜為圖書館知識服務帶來了新的發(fā)展空間，進一步提高了可視化知識網(wǎng)絡的“清晰度”，幫助讀者深度挖掘知識信息資源。讀者能夠更加直觀地看到文獻資源的關聯(lián)結構，理解某一領域的核心研究熱點和發(fā)展脈絡；圖書館可以智慧化地將文獻資源中的信息抽取成實體（如關鍵詞、作者名、機構名等），利用語義分析技術建立各實體之間的關聯(lián)，讓讀者能夠厘清所查閱文獻之間的隱藏關系和相關交叉點；讀者也可以通過知識節(jié)點快速地跳轉，鏈接到所需要的周邊文獻資源。比如，北京大學圖書館將國內(nèi)外學術數(shù)據(jù)庫與本校學術資源相結合，利用AIGC技術通過元數(shù)據(jù)分析構建知識節(jié)點，為師生提供所研究內(nèi)容的核心主題演化路徑、課題選題建議，促進了學科研究的交叉與融合，增強了師生與圖書館的互動［6］。

1.5 虛擬講解和智能在線問答服務

圖書館通過AIGC技術可以根據(jù)特定主題的圖像和音頻生成講解內(nèi)容，利用數(shù)字終端向讀者介紹相關展覽展示等活動內(nèi)容，營造沉浸式的呈現(xiàn)氛圍。比如，安徽省圖書館利用AIGC技術創(chuàng)建了虛擬講解服務，面向公眾開放虛擬展覽，使讀者獲得深度的導覽體驗［7］。

此外，由AIGC技術建立的24 h 問答服務，能夠統(tǒng)籌管理圖書館的海量資源，面對讀者的提問，快速、準確抽取相關信息，給出準確答案，提高了讀者對自助問答服務的滿意度。比如，上海外國語大學圖書館推出的AI館員，可以支持語音與文字問答模式，能有效解決日常咨詢問題和讀者反饋意見，還能集成機器閱讀、機器翻譯、相似度查詢、視頻理解等功能，實現(xiàn)智能化、多元化和便捷化的非接觸式服務［8］。

2 公共圖書館利用AIGC技術產(chǎn)生的風險和技術應對

2.1 技術風險

以南京圖書館為例，僅2024年上半年，該館遭受的網(wǎng)絡攻擊次數(shù)就高達848萬次，涉及攻擊者數(shù)量多達2.56萬個。通過分析，產(chǎn)生的相關風險有以下幾個方面。

（1）數(shù)據(jù)處理不規(guī)范。目前，圖書館致力于智慧化建設，在重點推出的智能化推薦或個性化服務上，如果數(shù)據(jù)收集、存儲和處理上有所疏漏，就可能產(chǎn)生隱私泄露風險。即使匿名化數(shù)據(jù)，不法分子也可能通過關聯(lián)推理再現(xiàn)讀者的隱私信息。比如，韓國三星公司引入ChatGPT，在20天時間里被曝發(fā)生3次芯片機密泄露［9］。

（2）內(nèi)容生成的偏差性。圖書館存儲了豐富的文獻資源，作為信息輸出地，每天都會向外釋放眾多的信息資源。當AIGC技術引入其中，不排除實際應用中會產(chǎn)生生成內(nèi)容偏差。訓練數(shù)據(jù)輸入的片面性、算法的局限性以及讀者輸入問題的本身導向性，都會使得AI生成內(nèi)容出現(xiàn)問題。比如，微軟聊天機器人TAY，在訓練時被極端內(nèi)容“污染”，生成了種族歧視、性別歧視等不當內(nèi)容［10］。

（3）越來越多的圖書館通過開放API接口提供AIGC服務，但API接口的開放性很可能被惡意利用。如未授權的用戶通過API大規(guī)模抓取圖書館數(shù)據(jù)甚至利用API接口作為攻擊入口。若開放的API缺乏技術保護，很容易受到分布式拒絕服務（Distributed Denial of Service，DDoS）攻擊、遭遇數(shù)據(jù)竊取或服務濫用等問題。比如，F(xiàn)acebook之前長期向第三方應用開發(fā)者提供API接口，便于他們構建相關的數(shù)據(jù)應用，但后來發(fā)現(xiàn)大量用戶數(shù)據(jù)遭到竊取［11］。

2.2 技術應對措施

（1）圖書館可以采用聯(lián)邦學習等分布式學習技術，將用戶數(shù)據(jù)分散存儲，通過設備終端的本地數(shù)據(jù)來訓練AI模型，保護用戶隱私；還可以通過跨設備的數(shù)據(jù)協(xié)作，確保在多終端環(huán)境下數(shù)據(jù)傳輸和生成內(nèi)容的安全性。此外，還可以利用差分隱私技術，在訓練AI模型的過程中加入噪聲（如隨機擾動），使數(shù)據(jù)在統(tǒng)計意義上仍然保持整體特性，但在個體讀者的單獨數(shù)據(jù)點上不再準確，從而減少AI模型對個別讀者的關注，防止在生成內(nèi)容時泄露具體數(shù)據(jù)信息。

（2）圖書館要加強人機協(xié)同審查機制，在AI模型生成內(nèi)容后準備推送階段，由人工或通過其他算法審核，將知識圖譜作為事實校驗的基礎，對人工智能生成的內(nèi)容與館藏數(shù)據(jù)庫中的已知事實進行比較，檢測內(nèi)容的準確性。但是，利用事實校驗技術一定要確保知識圖譜的動態(tài)更新，確保數(shù)據(jù)庫的完整和安全。

（3）圖書館在API網(wǎng)關要加強接口流量控制，通過身份驗證和訪問控制，確保只有授權讀者可以訪問相關文獻信息資源；通過速率限制和IP黑名單制度，來防止DDoS攻擊，保障API的安全性。此外，圖書館要秉持“永不信任，始終驗證”的原則，基于零信任安全架構深度偽造防護，結合多因子身份驗證，不斷驗證用戶身份和設備的合法性。利用零信任中的微隔離技術，將圖書館的網(wǎng)絡分為多個安全區(qū)，將關鍵數(shù)據(jù)和應用隔離開來，堵住開放的API接口漏洞。

3 基于AIGC技術構建全方位的圖書館信息安全防護體系

隨著人工智能技術的進一步發(fā)展，公共圖書館在AIGC技術應用上還將面臨更加復雜的發(fā)展形勢，因此，須要構建更嚴密的多個層級的信息安全防護體系。

3.1 邊界防護

部署先進的防火墻和入侵檢測/防御系統(tǒng)（Intrusion Detection System/Intrusion Prevention System，IDS/IPS）。防火墻和入侵檢測或防御系統(tǒng)能對流入與流出的數(shù)據(jù)包進行實時過濾，及時識別和阻止惡意攻擊行為。圖書館應通過IDS/IPS，結合自身的網(wǎng)絡架構部署下一代防火墻。下一代防火墻不僅要支持基于IP和端口的訪問控制，還要具備應用層控制、威脅情報集成等功能，動態(tài)識別和阻止異常流量。此外，圖書館技術部門要定期對NGFW和IDS/IPS進行漏洞掃描、補丁更新與配置優(yōu)化，確保其能夠應對快速演變的諸如DDoS或者零日漏洞攻擊等網(wǎng)絡攻擊手段［12］。

3.2 數(shù)據(jù)加密

應用端到端的加密技術，保障數(shù)據(jù)傳輸與存儲安全。圖書館應當采用對稱加密算法來保護館藏存儲數(shù)據(jù)的完整性和安全性，在數(shù)據(jù)傳輸中應用傳輸層安全協(xié)議等加密協(xié)議，確保端到端加密，防止傳輸數(shù)據(jù)遭到泄露。此外，針對敏感數(shù)據(jù)，圖書館要利用哈希加密（例如SHA-256和SHA-512等散列算法）提高安全性，定期更換和管理加密密鑰，使用密鑰管理系統(tǒng)集中化管理密鑰，防止密鑰泄露導致安全風險［13］。

3.3 內(nèi)部監(jiān)控

建立全面的安全審計與日志分析機制。這是識別潛在威脅、追溯攻擊來源的關鍵技術手段。通過實施安全信息與事件管理系統(tǒng)，圖書館可以將各類安全事件、用戶行為等活動日志統(tǒng)一存儲和集中分析，還能實時監(jiān)控網(wǎng)絡和系統(tǒng)中發(fā)生的安全事件，通過機器學習等手段識別異常行為，提前發(fā)現(xiàn)潛在威脅。對于產(chǎn)生的日志數(shù)據(jù)，圖書館應及時備份和存檔，以滿足法律法規(guī)要求和審計追溯需求。建立日志數(shù)據(jù)的定期清理和歸檔制度，防止數(shù)據(jù)過載導致系統(tǒng)性能下降。

3.4 外部協(xié)助

聯(lián)合第三方專業(yè)的信息安全機構，定期對信息系統(tǒng)全面掃描和測試。通過諸如白盒、黑盒或灰盒滲透測試等措施，深入識別可能存在的漏洞、配置錯誤或弱點，及時修復系統(tǒng)漏洞，消除安全隱患。同時，技術部門要定期對掃描和測試結果進行定量和定性分析，總結和歸納系統(tǒng)的薄弱環(huán)節(jié)，形成相關報告，為未來的信息安全策略提供科學的調(diào)整依據(jù)。

3.5 應急響應

制定和演練網(wǎng)絡安全應急預案，圖書館要對可能發(fā)生的網(wǎng)絡安全事件（如數(shù)據(jù)泄露、惡意軟件感染等）制定詳細的應急預案，包括事件發(fā)現(xiàn)—隔離—分析—解決—恢復一系列完整的流程，要有專門的部門或團隊負責處理。要定期開展信息安全演練，在有效性評估基礎上優(yōu)化預案。

3.6 加強館員數(shù)據(jù)安全培訓

以南京圖書館為例，目前僅有約20%的員工接受了專業(yè)的信息安全技能培訓，其余大部分員工在信息安全方面的知識儲備則相對薄弱。在實際工作中，館員可能由于缺乏足夠的網(wǎng)絡安全意識，無意中泄露敏感信息或是對潛在信息安全問題不能及時察覺，從而對圖書館的信息安全防護埋下巨大隱患。因此，信息安全防范的最后一環(huán)也是最關鍵的，往往就是館員自身。

4 結語

AIGC技術對圖書館信息應用與安全防護是一個復雜而重要的課題。本文通過分析AIGC技術在圖書館的應用以及信息安全防護面臨的挑戰(zhàn)，提出了一些建議，為圖書館構建信息安全防護體系、加強數(shù)據(jù)安全和隱私保護、提升應急處置能力，幫助圖書館更好地應對信息迭代帶來的安全挑戰(zhàn)，保障信息資源和用戶數(shù)據(jù)的安全性和完整性提供了參考和借鑒。隨著人工智能技術的不斷發(fā)展和網(wǎng)絡環(huán)境的變化，圖書館在信息安全上面臨的挑戰(zhàn)可能會更加多樣化和復雜化，因此，須要持續(xù)關注AIGC技術在圖書館應用的最新趨勢，不斷更新和完善安全策略與措施。

參考文獻

［1］胡晗光.公共圖書館網(wǎng)絡安防現(xiàn)狀與優(yōu)化策略分析：以南京圖書館為例［J］.無線互聯(lián)科技，2024（19）：111-114.

［2］潘文佳，蔡俊，胡晗光.公共圖書館AIGC應用研究：作用、法律瓶頸及突破路徑［J］.新世紀圖書館，2024（9）：47-54.

［3］王秋云.圖書館信息安全風險及應對措施研究：基于系統(tǒng)安全漏洞分析［J］.圖書館界，2024（1）：67-74.

［4］錢海盈.智慧圖書館開啟智享閱讀新體驗我省兩項目入選文旅部創(chuàng)新應用優(yōu)秀案例［EB/OL］.（2024-04-17）［2024-11-01］.https：//baijiahao.baidu.com/s？id=1796543730907275359amp;wfr=spideramp;for=pc.

［5］上海圖書館.上海圖書館推出電子圖書個性化推薦服務［EB/OL］.（2021-01-06）［2024-11-01］.https：//www.mct.gov.cn/whzx/qgwhxxlb/sh/202101/t20210106_920497.htm.

［6］李文杰.北京大學在圖數(shù)據(jù)庫和知識圖譜上的探索與實踐［EB/OL］.（2023-04-24）［2024-11-05］.https：//baijiahao.baidu.com/s？id=17640222068976 49577amp;wfr=spideramp;for=pc.

［7］陳牧.智慧服務體驗來了安徽省圖書館AR導覽正式上線［EB/OL］.（2023-02-20）［2024-11-05］.https：//ct.ah.gov.cn/zwxw/gzdt/8772567.html.

［8］上海外國語大學圖書館.AI館員開通試用開啟數(shù)智閱讀新體驗！［EB/OL］.（2024-09-19）［2024-10-05］.https：//mp.weixin.qq.com/s？__biz=MzIwMzI0MTc5OA==amp;mid=2649996509amp;idx=2amp;sn=34a8dc8b8d774af6eb5f3efdfd1eb7deamp;chksm=8f7bed 88b2164b589e0616efa45da0a3ad1a9f106b97f0710854a0 6f42732e78d552671ba082amp;scene=27.

［9］鄭麗媛.三星引入ChatGPT不到20天，被曝發(fā)生3次芯片機密泄漏［EB/OL］.（2023-04-03）［2024-11-05］.https：//36kr.com/p/2199588798164105.

［10］科技日報.小心！聊天機器人也會被“教壞”［EB/OL］.（2017-02-20）［2024-10-05］.https：//smart.huanqiu.com/article/9CaKrnK0DQo.

［11］嗹國學長.Python實現(xiàn)的Facebook數(shù)據(jù)泄漏檢測［EB/OL］.（2024-09-28）［2024-11-05］.https：//blog.csdn.net/weixin_33068055/article/details/142644026.

［12］ASHIKUZZAMAN M D .Read-write-defend： a guide to cybersecurity in modern libraries［EB/OL］.（2023-11-22）［2024-10-20］.https：//www.lisedunetwork.com/a-guide-to-cybersecurity-in-modern-libraries/#google_vignette.

［13］SHEERAZ M，DURAD M H， PARACHA M A，et al.Revolutionizing SIEM security： an innovative correlation engine design for multi-layered attack detection［J］.Sensors，2024（15）：4901.

（編輯 王雪芬編輯）

Research on the application and protection of library artificial intelligence generation content technology

CAO" Xiaowen

（Nanjing Library， Nanjing 210018， China）

Abstract： The article elaborates on the current application status of AIGC technology in libraries， including intelligent collection resource management， intelligent borrowing recommendation， activation and utilization of ancient book resources， construction of knowledge graphs， virtual explanations， and intelligent online Qamp;A services; It analyzes the risks of non-standard data processing， biased content generation， API interface vulnerabilities， etc. that AIGC technology may cause. Measures such as distributed learning， differential privacy， human-machine collaborative review mechanism， API control， etc. should be adopted to address these risks; Finally， it is proposed to establish a comprehensive library information security protection system through boundary protection， data encryption， internal monitoring， external assistance， emergency response and librarian training.

Key words： artificial intelligence generation content; library; information application and security; security protection