人工智能設(shè)計解離

隨著科學技術(shù)發(fā)展浪潮逐漸蓬勃，人類社會進入了算法社會。在算法社會中，人與人的關(guān)系呈現(xiàn)為設(shè)計算法的人以及允許被算法支配的人，算法已經(jīng)全方位融入人類生活，迸發(fā)出巨大的便利和收益，然而在這層復雜的統(tǒng)治關(guān)系背后卻有著種種權(quán)利的割裂和隱形的傷害。人工智能越來越了解人類，而人類對算法網(wǎng)絡(luò)的制造卻逐漸呈現(xiàn)出無人知曉的境界。人們在技術(shù)異化導致的主體性缺失中信賴甚至崇拜算法，在人工智能和技術(shù)開發(fā)者出現(xiàn)可能逐漸解離的趨勢中，人工智能技術(shù)拜物教的出現(xiàn)值得更多批判的審視目光。

" 一、人工智能設(shè)計解離：技術(shù)異化背后的隱憂

馬克思在關(guān)于“勞動異化”的學說中指出，“技術(shù)異化”是由于資本的介入，在生產(chǎn)過程中變成了一種壓迫和剝削的力量?？茖W技術(shù)作為人類勞動的結(jié)晶，在其發(fā)展過程中，卻日益脫離人的控制，成為一種異己的力量。這種異己的力量同樣出現(xiàn)在算法與算法設(shè)計師之間，算法由設(shè)計師開發(fā)，卻逐漸因為龐大的用戶信息的驅(qū)動而偏離工具理性，甚至導致工具理性泛濫，由此產(chǎn)生的解離現(xiàn)象，給人工智能的發(fā)展帶去了不明朗的基調(diào)。算法在各種不同的應(yīng)用場景中展現(xiàn)出多樣化的權(quán)力異化形式，這種異化表現(xiàn)為權(quán)力的轉(zhuǎn)移和分配。然而，其根本原因在于算法技術(shù)自身的運作機制，以及背后推動這些技術(shù)發(fā)展并確保其盈利模式得以持續(xù)的算法邏輯。算法黑箱由于缺乏透明度和可解釋性，導致了人們對于算法如何影響決策過程和結(jié)果的不確定性，進而引發(fā)權(quán)力關(guān)系的不平等與不公正。在由算法主導的“權(quán)力時代”中，人們既無法否認數(shù)字革命帶來的深遠影響，也難以阻擋它前進的步伐，仿佛人類面對自然界的力量時那般無力抵抗。當算法權(quán)力開始顯現(xiàn)其異化，即權(quán)力的濫用和扭曲，我們需要采取一種更加審慎和負責任的態(tài)度。通過法律手段，為算法權(quán)力劃定明確的界限，防止權(quán)力被誤用或濫用。這樣，我們不僅能夠保護個體權(quán)益不受侵害，還能促進社會整體的和諧與進步。算法作為社會治理規(guī)則，涉及公共秩序和公共利益，如何將算法關(guān)進制度的籠子里，我們每一個人在作為算法的客體，同時也作為算法的主體時，都有權(quán)參與到算法規(guī)制的活動中。將數(shù)字信任體系置于社會監(jiān)督中，我們才不會產(chǎn)生算法恐懼，更有益于工具價值和人類價值的拉平對齊。

" 二、馬爾庫塞意識形態(tài)理論視角下的技術(shù)拜物教

馬爾庫塞在《單向度的人》一書中指出：“技術(shù)理性這個概念本身可能就是意識形態(tài)的。不僅技術(shù)的應(yīng)用，而且技術(shù)本身，就是（對自然和人）統(tǒng)治——有計劃的、科學的、可靠的、慎重的控制。統(tǒng)治的特殊目的和利益并不是“隨后”或者外在地強加于技術(shù)的；他們進入了技術(shù)機構(gòu)的建構(gòu)本身。技術(shù)總是一種社會—歷史的工程；一個社會和它的統(tǒng)治利益打算對人和物所做的事情都在它里面設(shè)計著。”馬爾庫塞對現(xiàn)代技術(shù)理性的批判揭露了一個深刻的事實：技術(shù)理性的發(fā)展已經(jīng)演變成為一種技術(shù)拜物教，這種現(xiàn)象不僅將科學技術(shù)本身當作是神圣不可侵犯的對象，更進一步把科學技術(shù)這一技術(shù)實踐領(lǐng)域上升為一種意識形態(tài)，從而對人類社會進行了全面地控制和影響。在馬爾庫塞看來，科技作為一種新式的意識形態(tài)，包含著一種權(quán)利的“暴力美學”，因此，要想真正打破這種權(quán)力關(guān)系超越技術(shù)理性，即要穿透表面的技術(shù)表象，洞悉那些被隱藏起來的權(quán)力機制，從而幫助我們理解如何在這個由技術(shù)構(gòu)建的社會結(jié)構(gòu)中尋找到解放的途徑，追求真正的自由平等和尊嚴。只有對算法權(quán)利的機制進行反思和斗爭，反思它作為資本的一種異化邏輯對人愈來愈重的異化，我們才有可能真正讓技術(shù)成為推動社會進步繁榮發(fā)展的積極力量，而非是鑲嵌于人類本身的枷鎖。

" 三、超越技術(shù)拜物教：構(gòu)建以人為本的算法社會

數(shù)字智能技術(shù)的獨特性在于其高昂的沉沒成本和使用階段的邊際成本較低，以及知識產(chǎn)權(quán)的壟斷性特征，共同構(gòu)成了其在資本市場上的獨特優(yōu)勢。因此，由數(shù)據(jù)驅(qū)動的智能經(jīng)濟的良性運轉(zhuǎn)更需要硬性和柔性的規(guī)則體系，以人為本的算法社會需要建立社會群體尤其是數(shù)字科技開發(fā)者更多的數(shù)字素養(yǎng)賦予其更具體的內(nèi)涵和外延，例如，對人的基本人權(quán)的尊重，對用戶隱私的保護，對技術(shù)使用中的平等機會的重視，以及保持良好的社會關(guān)系等。享受技術(shù)發(fā)展紅利的同時，算法治理也亟待推進。算法綜合治理體系的建立首先需要多元主體的治理模式，從而從根本確保數(shù)據(jù)的合法合規(guī)使用和用戶權(quán)益的保護。同時還需要注意，警惕數(shù)字經(jīng)濟狂歡，加強法律監(jiān)管保障算法向上向善。以人為本強調(diào)人是算法的目的而非工具，它意味著在算法設(shè)計、部署、應(yīng)用的全流程中，應(yīng)當時刻將人的需求和福祉放在首位。發(fā)展“以人為本”的人工智能應(yīng)當滿足可知、可信這兩個重要特征。所謂“可知”，是指確保人工智能系統(tǒng)的透明度，使其行動邏輯和決策過程對所有人來說都是透明的，易于被人類理解和掌握。所謂“可信”，則意味著人工智能系統(tǒng)能夠得到不同群體或個體的共同認可，具備高度的可驗證性，避免出現(xiàn)算法鴻溝和算法歧視。只有兼具可知可信的兩個特征，算法社會才能真正更加人性化和良善化，由此可以避免發(fā)生更多領(lǐng)域的人機協(xié)同不和諧的聲音出現(xiàn)，更好地造福社會，拉動經(jīng)濟健康、安全、有序、可持續(xù)發(fā)展。

" 四、人類未來與人工智能的共生之路

在這個人機共生時代，人們認知世界的方式都隨著人工智能作為新的生產(chǎn)力而發(fā)生改變，在數(shù)字時代生活，我們更加需要認識到，算法理應(yīng)聚焦于人的核心地位，而非單純以人的數(shù)據(jù)為軸心旋轉(zhuǎn)；它的目標應(yīng)是讓人回歸本真，活出自我，而非淪為工具或數(shù)據(jù)的附屬品；它致力于維護人的自主能動性與創(chuàng)造力，而非任由機器對人性的侵蝕與主宰；它旨在促進人的自由全面發(fā)展，讓每個人都能按照自己的意愿和潛能去生活，而非將人類異化為智能技術(shù)的奴隸，失去獨立思考與情感體驗的能力?？萍既羲饶芤凿镐讣毩鞯淖藨B(tài)滋養(yǎng)萬物，也能匯聚成海，掀起波瀾壯闊的變革。面對這樣一股強大的力量，我們必須以開放與批判并存的心態(tài)去審視與接納，唯有如此，我們才能消解技術(shù)拜物教的盲目崇拜，理性看待數(shù)字科技所帶來的全新體驗，關(guān)注到人本身的存在形態(tài)與生存境況，走好與人工智能共生并存之路。

（作者單位：西安科技大學馬克思主義學院）