摘要:本文基于馬克思主義異化理論關于技術異化的本質透析,分析人工智能賦能檔案事業創新發展可能存在的異化風險,包括:技術認知偏差,使檔案事業轉型升級面臨困境;責任主體缺失,使檔案內容安全風險與日俱增;自主性削弱,使檔案工作者對職業身份無所適從。在此基礎上,提出應通過堅守檔案工作者的主體性地位,建立以人為本的“人技互構”觀,筑牢人工智能技術應用中的檔案數據安全防線,加快人工智能技術在檔案工作應用中的自主研發等途徑來防控其賦能檔案事業創新發展的技術異化風險。
關鍵詞:人工智能 馬克思主義異化理論 技術異化 異化風險 檔案管理
Abstract: From the perspective of the es? sence of technological alienation based on Marx? ist theory, the paper analyzes the possible risk of alienation brought about by the empowerment of AI in the innovative development of the archival cause. The risks include the potential existence of technical cognitive biases that have placed the transformation and upgrading of the archival cause in a difficult situation; the increasing risk of content security of archives due to the lack of re? sponsible subjects; the weakening of autonomy that may make archival workers confused about their professional identity. While leveraging the positiveeffectsofartificialintelligence,we should prevent the risk of its distorting the innova? tive development of archives by adhering to the dominant position of archives workers; establish? ing a \"human-technology interdependence\" view that puts people first; safeguarding the data secu? rity of archives using AI technology; and acceler? ating the independent research and development of AI technology in archives work.
Keywords: Artificial Intelligence; Marxist the? ory of alienation; Technological alienation; Alien? ation risk; Archives management
當前,人工智能技術已進入實用階段,從高質量的信息整合到跨任務場景的通用處理,再到全領域的知識體系覆蓋,人工智能技術正以日新月異的深度、廣度,持續為我國各行各業高質量發展注入新動力、提供新動能、創造新優勢。習近平總書記強調:“人工智能是新一輪科技革命和產業變革的重要驅動力量,加快發展新一代人工智能是事關我國能否抓住新一輪科技革命和產業變革機遇的戰略問題?!盵1]基于此,積極探索人工智能如何更好賦能檔案事業轉型升級、創新發展,以滿足新時代人民群眾的檔案需要,是對檔案工作者提出的新要求與新使命。
從中國知網的文獻調查情況來看,目前有關人工智能賦能檔案事業的研究主要體現為兩個方面:一是理論探索層面,剖析人工智能對檔案事業發展帶來的機遇、挑戰與應對策略,如有學者認為,人工智能可以輔助文件分類匯總、檔案數據采集,甚至提升檔案各個業務環節的自動化和智能化水平,[2]也有學者認為,在人工智能的裹挾下檔案工作者將面臨職業消亡的尷尬境地,[3]而就應對策略而言,學者們主要聯系檔案事業發展實際,從理念更新、制度規范、技術迭代、人員培訓等方面提出可行性建議;二是實踐應用層面,探討人工智能技術嵌入檔案事業發展的適用性與實用性,如關于人工智能如何助力照片檔案修復[4]、輔助檔案編研[5]、服務檔案用戶[6]等的討論與闡釋。
總體上看,國內檔案界對人工智能的理論探索與應用研究,關注度日趨升溫,且已敏銳察覺到:人工智能對檔案事業發展的影響是不可抗拒的,只有順應時代潮流和技術進步,才能實現檔案事業更高質量、更可持續、更為安全的發展。但當前從跨學科的視角探討人工智能應用于檔案領域的研究成果仍相對較少,更鮮有學者從馬克思主義視角來反思人工智能賦能檔案事業發展可能存在的機遇與挑戰。事實上,人工智能在當下“是一種探索中的、遠未成熟的高新科學技術,一種革命性、顛覆性的前沿科學技術”[7],將其應用于檔案實踐領域中,既要在模型研發、基礎設施布局、教育和技能培訓等方面強化應用,也要防范應對數據隱私保護、算法公平、技術濫用等難以預料的各種安全風險。對此,必須加以反思與審視,方能未雨綢繆、行穩致遠。
習近平總書記在哲學社會科學工作座談會上的講話中強調,“馬克思主義揭示了事物的本質、內在聯系及發展規律,是‘偉大的認識工具’,是人們觀察世界、分析問題的有力思想武器”[8]。而且,他多次要求全體黨員干部能夠“創造性地運用馬克思主義立場觀點方法去分析和解決我們面臨的實際問題”[9]。馬克思生活的時代還沒有出現人工智能,但人工智能時代需要有馬克思主義的指導思想。基于馬克思主義異化理論來分析,有利于我們更加全面客觀辯證地直面人工智能賦能檔案事業創新發展的技術異化風險,并及時有效地做好針對性防控。
當前,世界范圍內的人工智能技術創新與變革不斷涌現,成為驅動經濟社會發展的強大動力引擎。與此同時,人工智能的發明與應用也引發了隱私保護、數據安全、倫理道德等系列社會問題,促使人們不斷對主體失落、價值失衡、技術失控等現象進行反思。在這樣的背景下,回到馬克思主義異化理論關于技術異化的本質透視中,對規避人工智能的廣泛應用帶來的異化風險具有重要的理論和現實意義。
(一)技術異化的概念內涵與實踐指向
異化在近代西方是一個重要的哲學和社會學概念。從詞源上看,異化(alienation)一詞最初是從宗教教義中引申至世俗生活場景,有轉讓、疏遠、離間、讓渡等意。在人類社會邁向現代化的進程中,異化被視為一種慣常存在的普遍現象,頻繁被用作一個批判現代性的關鍵術語,即但凡有悖于人的自由全面發展的現象,都可以用異化的理論分析框架來剖析與反思。
馬克思關于異化現象的探討,主要是圍繞“異化勞動”這一核心概念展開。在《1844年經濟學哲學手稿》中,馬克思通過描述“工人在勞動中耗費的力量越多,他親手創造出來反對自身的、異己的對象世界的力量就越強大,他自身、他的內部世界就越貧乏,歸他所有的東西就越少”[10]這一現象,進而將私有制下勞動的異化歸納為四種具體的表現形式,即人與自己的勞動產品相異化、人與勞動活動相異化、人與人之間的關系相異化、人與自己的類本質關系相異化。機器化大生產提高效率的同時,也容易使工人淪為機器生產的一環,工人需要重復機械地配合機器標準化操作,其結果是工人既無法占有勞動產品,也無法在勞動中肯定自我。原本由人生產的科技發明卻加重了人在勞動活動中異化現象的出現?;诖?,“異化作為社會現象,與階級一起產生,是人的物質生產與精神生產及其產品變成異己力量又反過來統治人的一種社會現象”。[11]
對應異化的概念而言,技術異化則是指人所創造的技術產品、技術體系等,演變為限制人、壓抑人甚至支配人的反人類異己力量。也就是說,技術異化表現為技術之于人其價值的負向實現。將技術異化這一概念觀照智能時代可以發現,人工智能的內在性質與外在使用所存在的技術壟斷、算法歧視、人性缺失等問題,已經一定程度上偏離了人類的目的,相應地應用于檔案事業領域也難免衍生出一系列的異化風險。
(二)技術異化的產生根源與消解途徑
深刻理解技術異化產生的根源,有利于從根本上找到解決問題的途徑。當前,關于技術異化何以產生,存在一種較為普遍的看法,就是將諸如信息泄露、道德滑坡、人性遮蔽等現象,歸責于技術的發明與應用。技術作為一種工具,本身并無善惡。正如愛因斯坦所言:“科學是一種強有力的工具,怎樣用它,究竟是給人類帶來幸福還是帶來災難,全取決于人自己,而不取決于工具。刀子在人類生活中是有用的。但它也能用來殺人。”[12]如果將技術異化的形成簡單歸咎于技術本身,賦予技術以“原罪”性質,既不符合客觀事實,也與馬克思主義異化理論相違背,容易走向“技術崇拜”“技術萬能”和“技術排斥”“技術恐慌”兩種極端。
基于馬克思主義異化理論來分析,技術異化現象的產生根源不在于人與物之間的疏遠與對立,因為純粹的物或者技術,既無生命也無意識,不具備主觀能動性,不會自動偏離和反對人,也不會與人的需求無端背道而馳。馬克思在《1844年經濟學哲學手稿》中就指出:“如果人對自己的勞動產品的關系、對對象化勞動的關系,就是對一個異己的、敵對的、強有力的、不依賴于他的對象的關系,那么他對這一對象所以發生這種關系就在于有另一個異己的、敵對的、強有力的、不依賴于他的人是這一對象的主宰?!盵13]可見,技術作為人類勞動與智慧的結晶,之所以會產生背離人類初衷、導致異化現象的出現,根源還在于一個人與另一個異己的人之間。在馬克思看來,技術之所以與人的需要相背離,是在于“機器的資本主義應用”[14]。由于資本的逐利性,導致技術很多時候淪為壓榨人、剝削人的工具,由此使技術的發展喪失了應有的人文關懷。因此,關于技術異化的產生,必須認清技術反對人只是一種直觀的表象,為了實現某種利益,人反對人或者人通過資本操控技術反對人,才是問題產生的根源。
那么,究竟該如何克服技術發明與應用中的異化現象呢?基于馬克思主義異化理論,路徑主要有兩條。其一,要從主體的因素進行考慮。技術是人類自主活動的產物,映射著人自身的目的、需要等價值導向與利益訴求。只有端正技術發明者、技術使用者的價值偏差與提升他們的思想覺悟,才能更好地避免技術異化。其二,要從制度的因素進行考慮。如馬克思所言,“手推磨產生的是封建主的社會,蒸汽磨產生的是工業資本家的社會。”[15]技術使用的消極后果不在技術本身,而在制度文化、意識形態、階級訴求等。如果說發展人工智能代表了工具理性,那么以制度建設為規約則代表了價值理性。不斷探索體制機制優化,才能開辟人工智能應用的理性之路。
隨著檔案工作走向現代化,人工智能在檔案信息深層加工和利用中的應用必將越來越普及,由此可能產生各種技術異化的新現象。立足馬克思主義異化理論,對人工智能及其應用于檔案領域進行哲學反思,剖析存在的異化風險,是檔案工作者面臨的一個重大時代課題。
(一)技術認知偏差,使檔案事業轉型升級面臨困境
樹立正確認知,是人工智能賦能檔案事業創新發展的關鍵。如果不清晰人工智能的技術定位,過度放大其引入威脅或者過度依賴其技術便利,會形成對人工智能的多層認知偏差,進而影響檔案部門人工智能使用政策的制定,不利于檔案事業轉型升級。一方面,技術恐懼心理易讓檔案事業管理錯失智能化發展機遇。技術恐懼指的是人們對新技術的不信任、焦慮、擔憂甚至恐慌,從而產生排斥、拒絕和抵制新技術的心理和行為。[16]由于人工智能運作的核心在于“大數據”和“算法”,這就意味著檔案領域必將面對隨之而來的算法黑箱、算法歧視、數據隱私等不確定因素造成的種種風險與挑戰。由此,可能導致某些檔案部門為了防止人工智能對原始記錄的竊取而放棄具有創新性的技術轉型升級方案,直接影響檔案數字化、智能化轉型發展的成效。另一方面,人工智能技術的過度沉溺與依賴現象也已浮現,此態勢可能導致檔案治理領域人文情懷的缺失。隨著技術迭代,未來或將由更多機器取代人力成為服務主體,查檔過程轉變為與缺少情感維度的智能一體化設備的交互,這無疑淡化了人與人之間直接的情感交流。此外,也要警惕智能“面子工程”,防止脫離檔案內容的技術形式。馬克思講過:“如果形式不是內容的形式,那么它就沒有任何價值了?!盵17]人工智能如果只是聲光電轟炸“炫技”式的數字體驗,而缺乏檔案內容的挖掘和重構,則無助于檔案價值的真正實現。
(二)責任主體缺失,使檔案內容安全風險與日俱增
人工智能并非僅僅屬于一般性的純粹技術范疇,而是一種日益展現出類似人類智能、趨向高度自主并能獨立執行復雜任務的顛覆性技術。[18]人工智能的自主決策能力、自我適應性正持續得到強化,可能借由自主升級將檔案場景中的技術應用置于巨大的不確定性和風險之中。加之,人工智能上下游產業鏈異常龐雜,往往由多個主體合作協同開發形成,且各種模型開源、衍生開發、個人API層出不窮。這意味著人工智能引起損害的危險源、風險點具有多元性、開放性,承擔責任的主體也非常多樣。以ChatGPT運行原理為例,其核心在于通過接入廣泛且多樣化的語料庫資源,以此為基礎進行模型的深度訓練。這一過程涉及語料庫數據的精確采集與預處理、語言模型的深度訓練與優化,以及數據的高效存儲與管理等多個關鍵環節,每個環節都伴隨著對海量數據的精細處理與分析。從技術專業的角度來看,ChatGPT的設計與開發團隊或相關參與者,理論上具備了在數據采集、模型訓練、數據存儲等任一核心環節進行不當操控的技術能力,這種潛在的操控行為可能對全球范圍內其他主權國家的數據安全及隱私權益構成嚴重威脅,展現出一種不容忽視的技術風險與挑戰。[19]因此,人工智能作為一種技術工具,并非處于一種完全無偏見的理想狀態。其對于外部世界的“認知框架”與“理解模式”,深刻植根于其內置的算法邏輯之中,并受到算法設計者主觀意圖與決策偏好的深刻影響。值得引起重視的是,“檔案是原始性、基礎性的國家資源,檔案安全是國家安全戰略中的必要構成部分”,[20]檔案部門在引入人工智能技術時,無論是人工智能生產研發端還是人工智能部署應用端都有可能使檔案內容安全面臨巨大風險。
(三)自主性削弱,使檔案工作者對職業身份無所適從
人工智能正在重塑我們生活的許多方面,尤其是許多職業從業者的自我認同感。就人工智能在我國檔案管理中的應用現狀而言,無論是檔案收集整理、檔案價值鑒定、檔案修復保護與安全管理,還是檔案自動化歸檔保存、檔案檢索與檔案服務,都已能從中窺見人工智能的“身影”。[21]對此情形,隨著今后人工智能應用的拓展深化,檔案工作者可能會感到職業身份受到威脅,出現焦慮和不安的心理。并且,由于數據處理快、自主適用性強,且使用便捷、無需休息等方面的巨大技術優勢,在某些檔案業務場景中,人工智能超越甚至取代檔案工作者的角色,似乎并無技術上的明顯障礙。檔案工作者所扮演的角色及其不可替代性,正面臨全新挑戰與重新審視。這不僅僅是一個關于技術如何重塑傳統職業工作者的問題,更是對檔案工作本質、功能及其在人類知識傳承、記憶建構與文明發展中所占據地位的深刻反思。
人工智能的實際應用容易超越設計者的意圖,對檔案事業的應用帶來各種異化風險。智能時代,唯有以馬克思主義異化理論為方法論指引,充分發揮檔案工作者的主觀能動性,從主體性、制度與技術層面采取相關措施,才能合理化解和消除相關異化風險,對人工智能的具體應用作出有效的引導與規范。
(一)堅守檔案工作者的主體性地位
人工智能雖然賦能檔案事業創新發展帶來了技術效益,在檔案事業轉型升級中愈加不可或缺,但關于“智能機器人是否會取代檔案工作者”的討論引人焦慮??陀^而言,無論人工智能如何發展,人類的主體性不容置疑,檔案工作者也不會完全被智能機器人所取代,檔案管理活動仍以人類為主導。
從馬克思主義異化理論來看,一方面,人工智能技術就其本質而言是人類勞動的對象化產物,是“人的手創造出來的人腦的器官”[22]。人工智能雖然能模擬人類智能,但其智慧生成仍然是靠人類采取的算法提供。另一方面,機器思維無法模擬人的抽象思維。人工智能完全替代檔案工作者進行“收、管、存、用”各環節管理時,是缺乏人文情懷的,不能以“人工智能”完全取代傳統的、行之有效的群眾工作方式方法。尤其是在把握檔案內容的思想深度與情感溫度方面,人工智能更多只是助手,有效和有意義的檔案挖掘和展覽傳播仍無法離開檔案工作者的勞動。
比如,在人工智能時代,做好檔案資政服務依舊需要專業的檔案人員踐行。深入挖掘檔案的價值內涵,串聯起多份檔案背后關于某一人、某一事、某一物所隱藏的前因后果與現象規律,并能為當下的人們提供經驗啟示與智慧借鑒,離不開檔案工作者的主觀能動性?!熬邮刮铮粸槲锸??!盵23]檔案工作者需要意識到,在人工智能面前,人始終是占據主導地位的,既不用“技術恐慌”也不用“技術崇拜”,而能否保持自身自主的、能動的創造性檔案實踐活動,才是彰顯檔案工作者地位與價值的必要前提。
(二)建立以人為本的“人技互構”觀
馬克思主義異化理論啟示我們,消除技術異化,要從技術與社會的互動中把握技術對人的效應。技術異化如何解決,最緊要的還是技術以外的人文關懷。技術終究是人發明創造的,其最初目的是為人的生產勞動需要而服務的。因而技術的生產、引入和應用,只有秉持以人為本,才能彰顯為人服務的初衷。正如我國發布的《全球人工智能治理倡議》中提出,“發展人工智能應堅持‘以人為本’理念,以增進人類共同福祉為目標,以保障社會安全、尊重人類權益為前提,確保人工智能始終朝著有利于人類文明進步的方向發展?!盵24]
第一,檔案工作者要轉變觀念,接受人機共生的客觀事實。人工智能賦能檔案事業創新發展的第一步,就是要接受已然出現甚至今后會不斷加強的相互依存的人機共生關系,要以理性平和的心態去直面技術的發展,唯有準確識變、科學應變、主動求變,才能在檔案事業發展中掌握主動權,抓住新機遇。換言之,在“數智”時代浪潮中,傳統的檔案服務方式,如檔案查閱、檔案咨詢、檔案編研、檔案展覽等,已難以滿足檔案用戶對服務便捷化、知識內容深度化與利用價值個性化的迫切期待與需求,[25]只有主動強化創新精神與數字思維,推動人工智能與檔案工作深度融合,才能避免因技術掣肘出現的異化現象。
第二,在人工智能賦能檔案事業創新發展時,要堅持技術理性和價值理性的統一。在檔案管理中引入人工智能技術,檔案部門和檔案工作者必須審視其適用的環節和流程,同時保持應有的人文關懷。比如,檔案館應用虛擬數字人技術時,除了簡單的問答對話,還要利用情緒捕捉、情緒分析、意圖判斷等算法,使人機互動更具人情味。此外,對一些老年人、殘障人士等的用檔需求,要充分考慮當機器智能滿足不了時,如何更好地通過人為途徑為他們提供個性化的無障礙檔案服務。
第三,強調個體自覺,遵守智能時代的倫理準則。2021年9月我國發布的《新一代人工智能倫理規范》,標志著國家已將人工智能倫理審查納入重點工作。對此,要通過開展與人工智能相關的倫理教育活動,明晰人工智能賦能檔案事業創新發展進程中,其管理、研發、供應、使用等特定活動的具體倫理要求,通過不斷增強檔案工作者的人工智能倫理意識與行為自覺,確保人機關系的和諧共生。
(三)筑牢人工智能技術應用中的檔案數據安全防線
檔案數據有其特殊性,其不僅涉及個人信息、個人隱私、個人合法數據權益,而且還涉及許多企業機密、知識產權和主權安全。尤其是涉及政治、軍事、外交、科技等方面的檔案數據具有極高的情報價值,直接關系到黨和國家的核心利益。傳統的紙質檔案轉化為數字檔案后,由于數據的無形性、難追溯等特點,使檔案數據在存儲、流通、刪除、銷毀等環節都更加需要關注其潛在風險。在檔案領域,無論是相關人工智能技術的研發還是應用,都必須慎之又慎,必須把檔案數據安全置于黨和國家工作大局中來把握。
一方面,筑牢數據安全防線,離不開制度支撐。正如習近平總書記強調:“數據基礎制度建設事關國家發展和安全大局,要維護國家數據安全,保護個人信息和商業秘密,促進數據高效流通使用、賦能實體經濟,統籌推進數據產權、流通交易、收益分配、安全治理,加快構建數據基礎制度體系?!盵26]隨著人工智能的深度應用,迫切需要檔案部門因時制定與“數智化”轉型相適應的檔案數據基礎制度體系,優化人工智能在檔案數據應用中的制度設計。當前,我國已出臺《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律法規,2020年修訂的《中華人民共和國檔案法》新增“檔案信息化建設”章節,也首次從國家法律層面對檔案信息化做出指導。但如何細化與人工智能應用相關的檔案數據產權制度、檔案數據安全治理制度等,仍需要進一步審慎思考,以確保更好規避人工智能在檔案中的應用出現因數據竊取、篡改、泄露等帶來的風險。
另一方面,注重檔案數據安全絕不意味著要把檔案數據鎖死。進一步發揮檔案方便利用、為民服務的社會功能,就必須在技術的加持下,讓檔案數據流通起來。為此,要厘清檔案數據流動治理中的各相關機構、部門的職責邊界,積極制定和實施相應的檔案數據流動監管政策和措施。一是要建立起檔案數據合理分類分級的相關制度,對涉及個人隱私、知識產權、國家安全的敏感類檔案數據,應實施最嚴格的訪問控制和脫敏處理措施,確保檔案數據不被人工智能的算法非法竊取或濫用;對公開的、不具敏感性的檔案數據,要在遵守相關檔案數據公開制度的前提下,促進其在更大范圍內的共享和應用。二是要建立健全與其他數據部門之間的協調機制,推動檔案數據開發流通、深度共享,進一步在人工智能的數據應用中,確??绮块T、跨區域的檔案數據流動的安全性與合規性。比如,京津冀三地檔案部門簽署的民生檔案跨區域共享利用合作協議,就強調通過建設統一平臺,制定互通互認的數據標準,加強館藏民生檔案資源建設,規范異地查檔手續和流程,實現“跨館查閱、異地出證”,做到“數據多跑路,群眾少跑腿”,成為智能時代用好檔案數據的一個典型。[27]
(四)加快人工智能技術在檔案工作應用中的自主研發
當前,眾多領先的科技企業均將人工智能視為自身的核心競爭力,并紛紛加大投資力度以搶占先機。例如,微軟公司戰略性地投資了OpenAI,谷歌則選擇了DeepMind作為其人工智能領域的合作伙伴,展現了兩大巨頭在這一領域的深遠布局。在國內,百度自主研發了文心一言這一人工智能產品,展現了其在自然語言處理領域的強大實力。與此同時,國內的其他人工智能企業也在積極行動,如研發出DeepSeek等創新產品,不斷推動人工智能技術的邊界拓展與應用深化。這些企業的舉措不僅彰顯了人工智能技術的巨大潛力,也預示著未來科技競爭的新格局。國際數據公司(IDC)的數據顯示,2022年全球人工智能(AI)IT總投資規模為1324.9億美元,并有望在2027年增至5124.2億美元,年復合增長率(CAGR)為31.1%。[28]人工智能對各行業、各領域的廣泛賦能作用,已經是大勢所趨。如何順勢而為避免因技術落后而阻礙檔案事業發展,也是需要檔案部門提前規劃并積極思考的命題。
首先,檔案部門要掌握人工智能發展主動,就必須加強人工智能技術的自主創新。對人工智能技術的運用能否真正貼合檔案部門的實際需要,其標志就在于能否借此打造出符合檔案工作特色、具有一定知識產權的新產品,并形成檔案管理專有技術。基于此,檔案部門要高度重視技術引進的適用性問題,要基于自身單位的技術條件、人員素質、財務狀況綜合考量,引進的技術是否對賦能自身檔案事業發展確有必要,否則既浪費了時間與資金投入,又加大了人力成本。其次,要結合檔案館需要與館藏特色,加大人工智能相關的技術積累,只有將技術引進與自主創新有機統一,才能推進人工智能全方位、深層次融入檔案工作的重點領域、核心環節,進而更好實現人工智能技術產品與自身檔案事業發展應用需求的精準對接。
此外,人工智能技術的加速迭代,對培養檔案人才的綜合能力提出新的要求。檔案人才愈發需要具備人工智能相關的信息技術應用能力,以及相應的法律與倫理素養。為此,必須通過加快實施新時代檔案技能人才培育工程,優化檔案拔尖人才培養資源與服務供給;構建梯隊合理的檔案人才隊伍,健全適應檔案事業高質量發展的人才激勵機制;充分發揮人才評價“指揮棒”作用,健全檔案專業人才多元化評價機制等舉措,來全面提高檔案人才自主培養質量。[29]如此,才能更好避免今后檔案部門的人才梯隊因不懂甚至不了解人工智能這項技術,而遭遇處處掣肘的尷尬局面。
人工智能技術的迅猛發展如同一把雙刃劍,既帶來了前所未有的機遇,也潛藏著難以預料的挑戰。當檔案部門無法駕馭人工智能的技術滲透時,它帶來的異化風險將是不可預知的未來。正如習近平總書記強調:“科技是發展的利器,也可能成為風險的源頭。要前瞻研判科技發展帶來的規則沖突、社會風險、倫理挑戰,完善相關法律法規、倫理審查規則及監管框架。”[30]本文從馬克思主義異化理論中找尋解決技術異化的思想來源和精髓要義,為防控人工智能的檔案應用將會出現的異化風險提供思路,以避免人工智能在賦能檔案事業創新發展中陷入“科林格里奇困境”[31]。
*本文系北京市社會科學基金青年項目“數字賦能北京紅色資源育人開發利用模式研究”(項目編號:23KDC024)的階段性研究成果。
注釋及參考文獻:
[1]習近平在中共中央政治局第九次集體學習時強調加強領導做好規劃明確任務夯實基礎推動我國新一代人工智能健康發展[N].人民日報,2018-11-01(1).
[2]陳曉婷,徐擁軍,胡嘯林.人工智能時代下檔案工作的變革:機遇、挑戰與應對策略[J].檔案學研究,2024(5):4-13.
[3]李子林,熊文景.人工智能對檔案管理的影響及發展建議[J].檔案與建設,2019(6):10-13;9.
[4]陸夢漪,張建明,高黎娟.人工智能在照片檔案修復中的應用研究[J].浙江檔案,2024(6):53-56.
[5]周海.生成式人工智能輔助檔案編研工作的實現路徑構建[J].北京檔案,2024(6):45-48.
[6]李諾.虛擬數字人賦能檔案館用戶服務的場景與進路[J].北京檔案,2024(8):22-27.
[7]孫偉平.人工智能與人的“新異化”[J].中國社會科學,2020(12):119-137;202-203.
[8]習近平.在哲學社會科學工作座談會上的講話[M].北京:人民出版社,2016:9.
[9]習近平.認真學習馬克思主義經典著作不斷推進中國特色社會主義事業[N].人民日報,2011-05-14(4).
[10] [13] [15]馬克思恩格斯選集(第一卷)[M].北京:人民出版社,2012:51,59,222.
[11]馮契.哲學大辭典[M].上海:上海辭書出版社,1992:702.
[12]愛因斯坦文集(第3卷)[M].北京:商務印書館,1979:56.
[14] [22]馬克思恩格斯選集(第二卷)[M].北京:人民出版社,2012:222,785.
[16]趙磊.積極應對人工智能技術恐懼[N].中國社會科學報,2024-10-29(8).
[17]馬克思恩格斯全集(第一卷)[M].北京:人民出版社,1995:288.
[18]孫偉平.人工智能與人的“新異化”[J].中國社會科學,2020(12):119-137;202-203.
[19]鈄曉東.論生成式人工智能的數據安全風險及回應型治理[J].東方法學,2023(5):106-116.
[20]覃兆劌,孟月.論檔案與國家軟權力[J].檔案學研究,2019(3):10-15.
[21]贠疆鵬,加小雙,王妍.人工智能在我國檔案管理中的應用現狀與對策分析[J].檔案與建設,2023(2):62-65.
[23]管仲.管子[M].吳文濤,張善良,編.北京:北京燕山出版社,1995:341.
[24]中央網絡安全和信息化委員辦公室.《全球人工智能治理倡議》[EB/OL].(2023-10-18)[2024-12-17].https://www. cac.gov.cn/2023-10/18/c_1699291032884978.htm.
[25]金波,楊鵬.大數據時代檔案數據治理研究[J].檔案學研究,2020(4):29-37.
[26]習近平主持召開中央全面深化改革委員會第二十六次會議強調加快構建數據基礎制度加強和改進行政區劃工作[N].人民日報,2022-06-23(1).
[27]李立.京津冀民生檔案將實現“跨館查閱異地出證”[N].中國檔案報,2025-2-24(1).
[28]IDC.中國生成式AI投資增長加速,五年復合增長率達86.2%[EB/OL].(2024-3-27)[2024-12-16].https://www.idc. com/getdoc.jsp?containerId=prCHC51997124.
[29]徐擁軍,王興廣.強化新時代檔案事業高質量發展的基礎性、戰略性支撐[J].中國檔案,2023(3):10-11.
[30]習近平談治國理政(第4卷)[M].北京:外文出版社,2022:201.
[31]英國技術哲學家大衛·科林格里奇在《技術的社會控制》(1980)中指出,一項技術如果因為擔心不良后果而過早實施控制,那么技術很可能就難以爆發。反之,如果控制過晚,已經成為整個經濟和社會結構的一部分,就可能走向失控,再來解決不良問題就會變得昂貴、困難和耗時間,甚至難以或不能改變。這種技術控制的兩難困境,就是所謂的科林格里奇困境(Collin? gridge’s Dilemma)。
作者單位:北京航空航天大學馬克思主義學院