人工智能背后的倫理秩序建構

王林生

人工智能技術在文化領域的廣泛應用，提升了文化生產的效率，豐富了內容呈現的形式。2022年10月，工信部發布實施《虛擬現實與行業應用融合發展行動計劃（2022—2026年）》，意味著新一代智能信息技術將在生產、生活中發揮更大的作用。同時，需要高度警惕的是，智能虛擬技術作為一種異質性因素，在融入文化生產、傳播、消費的使用中會產生不可回避的倫理和社會問題，如鄧麗君虛擬人演唱會、“一鍵換臉”、臉書（Facebook）“AI語音失控”事件等，預示著人工智能背后的倫理觀的建構已迫在眉睫。

一、人工智能技術應用陷入“技術中立”原則的困境

以“一鍵換臉”為代表的人工智能虛擬技術的應用，之所以能成為一個事件而引起軒然大波，其對傳統倫理觀念中文明底線、安全底線和信任底線的挑戰，體現出人工智能在發展與實踐中的倫理缺失。究其本質，這些案例彰顯出所謂“技術中立”原則在人工智能發展與實踐過程中或隱或顯的存在。

從技術發展史的進程來說，“技術中立”原則并非是新近才出現的判定標準。“在整個技術創新的歷史中，技術巨匠們常常否認自己的道德責任。”[1]如何認識技術在人類社會經濟發展中的作用，始終關乎對技術應用的價值選擇。20世紀中期以來，世界對技術究竟是“天使”還是“魔鬼”的探討達到了一個新高度。對技術持有的截然相反的認識態度，體現出人們對技術效應的不同理解，而在認定技術的責任劃分方面，“技術中立”都作為重要的原則為技術辯護。總體來說，“技術中立”原則鼓勵技術創新，在內涵上堅持“功能中立、責任中立和價值中立”[2]，在新技術的應用中，新技術的創造者和使用者也往往借用“技術中立”之名推卸自己的道德倫理責任。1984年，“環球電影制片公司訴索尼公司案”使“技術中立”原則在司法責任認定中得到充分彰顯，該案判決認為“為了在家庭中‘改變觀看時間’使用錄像機錄制電視節目構成對版權作品的‘合理使用’；索尼公司出售具有‘實質性非侵權用途’的錄像機并不構成‘幫助侵權’。”[3]此案確立的“技術中立”原則為此后涉及技術侵權的案件頻繁引證。在有關“一鍵換臉”等人工智能的實踐與討論中，其研創者也借用“技術中立”原則為自己辯護，技術中立主要體現在功能、責任和價值三個方面：

（一）技術研創環節強調功能中立

功能中立是從技術研創或生產層面堅持技術本身的功能性創新，強調功能本身的特性及其創新性，而忽略其可能存在的負面效應。過分強調功能中立，會造成片面側重功能與技術的結合，彰顯技術在社會經濟生活中的決定性地位，最終功能的中立會導致科技知識的異化。“擁有超級智能后，人工智能會變成神一般的存在”“人工智能成為世界的統治者”等相關言論，常見于各網絡媒體，盡管這些標題不免具有一定吸引眼球、引流量的噱頭，但也體現出整個社會或業界對人工智能功能推崇的傾向，彰顯了社會的“技術性”特征和“技術性”需求。而一旦社會的一切“需求”得到技術的“充分關照”，那么語言、消費、生活、認識等各領域均會成為被技術“設計”的對象，為人常知的“大數據殺熟”已展現出現代互聯網智能信息技術對人們日常生活的“掌控”。

（二）程序運行環節強調責任中立

責任中立是從技術程序運行層面堅持技術功能與實踐后果的分離，即技術的創制者并沒有主觀做惡的意圖，因此，不必承擔技術作用于社會所產生的負面效果。上述提及的“環球電影制片公司訴索尼公司案”中錄像機的自主錄制，以及“泛亞訴百度音樂盒侵權案”中百度音樂盒歌詞搜索服務”等事件，被訴方均以“技術中立”為原則為自己辯護。而“一鍵換臉”的某軟件更是在其協議中寫明：“若您侵害他人名譽權、肖像權、知識產權等合法權利……我方可以訴諸行政執法機構或司法機關，追究相應法律責任。若因您違反本協議或本平臺的其他規則導致任何第三方損害的，您應當獨立承擔法律責任并承擔損害賠償責任；本平臺及其關聯公司遭受損失的，您也應當一并賠償。”[4]易言之，如果用戶使用該軟件被人起訴侵犯他人肖像權，與這款軟件本身的技術無關，侵權并非其主觀意圖，無需負相關法律責任，造成侵權或應負法律責任的是軟件本身的用戶。可以說，這些案例將程序應用的技術設計、數據收集、內容處理、產品生成等流程與實踐后果直接分離，未正確援用“責任中立”，忽略技術本身作為一種具有工具性和目的性的編碼系統在社會經濟發展中的中介作用。

（三）社會效益環節強調價值中立

價值中立是從技術的經濟社會效益層面表現出不以盈利為目的，或表面上呈現出不能盈利的表象。有論者認為：“技術的價值涉及一個變動的和無法窮盡的評價領域，合理的價值判斷需要適當的價值理論和方法論。”[5]這意味著衡量人工智能價值的標準多種多樣，判斷標準不同所得的結果也不盡相同。在所有價值標準選擇中，經濟上是否牟利是最為常用的標準之一，而這一價值標準在“一鍵換臉”案例中也得到體現。盡管“一鍵換臉”的某軟件的開發者有通過該軟件增加營收的目的，希望以其社交產品拉動用戶增長，給營收注入強心針[6]，但卻在其微博上不斷“賣慘相”。“賣慘相”雖然有與用戶互動的色彩，但在文字內容上卻傳達出運營不易、入不敷出的信息，消弭了其在經濟效益上的價值追求。其實，無論是“不賺錢”還是“賣慘相”，都是在經濟價值效果上有意為自己標明“價值中立”的手段，以抵制人們對其作出道德倫理的評判，進而將技術本身與社會生活實踐割裂開來。

整體而言，“功能中立”“責任中立”和“價值中立”在技術的研創、運行和效益三個層面為“技術中立”原則提供了倫理架構和合法性辯護。其實無論是哪種維度，相關案例中人工智能的研創者都是獨立地把人工智能技術從社會生活實踐中脫離出來，將其視為一個純粹的、脫離社會經濟實體的變量，“工具—獨立”成為“技術中立”原則堅持的出發點和立足點。

那么，在“工具—獨立”的整體導向下，有意或無意忽視信息技術作為社會秩序重要組成部分的存在，就會成為一種現實。但是，世界是相互關聯的，技術不可能脫離于社會生產生活實踐，尤其是萬物互聯的時代，人工智能將以前所未有的速度融入并影響我們的生活。馬爾庫塞認為：“技術的‘中立性’的傳統概念不再能夠得以維持。技術本身不能獨立于對它的使用；這種技術社會是一個統治系統，這個系統在技術的概念和結構中已經起著作用。”[7]因此，應在社會經濟的整體語境中思考人工智能與經濟社會發展的復雜關系，而不是回避人工智能植根于決定其社會應用的制度安排之中的現實，更不應輕視技術在整個社會經濟生產方式和文化生活方式中所發揮的作用和應負的道德倫理責任。恰如哈姆林克所說：“是否會利用信息通信技術的潛力來支持人類發展，這更取決于對技術的制度組織，而不是其技術特性本身。”[8]某種程度上，人工智能技術實際的社會使用受各種制度總體性安排的影響，因此“一鍵換臉”等案例暴露出僅孤立地堅持“技術中立”原則，實是當今社會日益把科學技術作為純粹追求目的、提升效率手段的集中體現。

二、人工智能倫理秩序的建構維度

人工智能是一種社會性存在，受社會整體政治經濟文化制度總體性安排的制約，因此，正視人工智能技術及其相關產業的倫理訴求，盡可能杜絕“一鍵換臉”等不良現象引發的人們對人工智能的抵制與質疑，是推進人工智能與其他產業深入融合，賦能“萬物互聯”的重要保障。

本文認為，人工智能倫理秩序的構建，要把技術建立在社會經濟文化發展的基礎之上，強調倫理道德在互聯網空間的作用發揮，并依據具體的歷史文化傳統、風俗習慣、行業規范、法律法規以及美德，對具體情境中的技術產生的后果進行認定。強調技術與社會生產生活、改善民生之間的互動關系和緊密聯系，倫理責任的選擇與認定是一個反復和動態的過程，依據時間、空間以及技術實現條件的變化而變化。整體而言，具體內容包含生產關聯、運行關聯和效應關聯三個層面的旨向。

（一）生產關聯責任層面，注重技術研創者的動機

生產關聯責任是指從技術研創角度，強調研創者的生產動機對技術本身所負的責任，這是構建倫理規范的一個重要組成部分。技術研創是社會再生產的起點，決定著技術產品的傳播、應用等。技術是人類創造的直接結果，反映人類科技進步和社會經濟發展水平。生產關聯責任側重生產研創的合目的性與合法性，從倫理角度規范技術生產主體的行為及其應肩負的責任，集中體現為生產研創者主體的道德倫理修養。愛因斯坦認為：“在我們這個時代，科學家和工程師擔負著特別沉重的道義責任，因為發展大規模破壞性的戰爭手段有賴于他們的工作和活動。”[9]因此，技術的生產研創主體要有“道義責任”，在合乎一般社會道德倫理規范的框架內進行技術研發。如果開發者以一種自我安慰、自我放逐和自我麻痹的方式對待人工智能技術，其創造出的成果必然會受人詬病。

即要強調技術創造者與技術本身之間的關聯責任。“由技術支持的非正式社會控制能夠為網絡行為提供公平有效的規范，但是，其前提是代碼的編制者和使用者對他們的行為負責。”[10]技術研發者對研發行為負責，有助于從源頭上規避技術給人類帶來的負面影響。所以，要構建圍繞個人、團隊，以公共利益、專業信譽、安全健康等為準則的倫理規范，以使人工智能開發者在面臨標準沖突時，為開發者運用道德判斷作出符合倫理準則與專業實踐行為選擇提供依據。

（二）運行關聯責任層面，注重技術運行的公正性

■ 行走山間｜凌福平/攝

運行關聯責任是從技術產品本身的角度，突出技術產品在啟動、收集、篩選、操作、處理、生成和推薦相關信息時應肩負的責任。產品運行層面的倫理秩序的構建，要強調產品運行的公正、公平和公開性，不能侵犯他人隱私，不能損害他人利益。對于人工智能而言，運行關聯責任的主體是智能算法，其核心是構建算法倫理。算法作為實現人工智能的核心方法，“‘算法倫理’通過將倫理道德嵌入到算法當中，以此建立負責任的算法，從而使算法實現社會價值，幫助人類進行正確的決策。”[11]某種程度上，在算法中預設了怎樣的價值觀和利益訴求，人工智能就會做出怎樣的選擇判斷。在實際的操作中，這種價值觀和訴求體現為設計者本人所具有的不可避免的前見和偏見，于是設計者在沒有惡意的前提下就會導致數據結果出現一定的偏好或歧視。“Facebook偏見門”“滴滴打車大數據殺熟”等事件，就是根據記錄和收集到的數據而對用戶實行的選擇歧視行為。可以說，以算法為核心支撐的人工智能并不是絕對可靠，嚴重動搖人們對算法和數據的絕對信任，因此要強調運行關聯責任，防范算法黑箱的潛在風險，促進算法的透明化設計。

（三）效應關聯責任層面，注重技術發揮的社會效應

所謂效應關聯責任，是指技術必須為技術產生的后果負責，不能把技術作為純粹工具與其帶來的后果割裂開來。因此，在這個層面上，效應的內涵和外延已超過前文述及的“價值中立”中“價值”的涵蓋范圍，而是泛指一切可能造成的結果。在已經發生的許多案件中，涉案對象都企圖借用“技術中立”之名逃避給社會帶來的不良影響，認為需要規范和修正的只是利用技術手段或要實現的目的。如“百度魏則西事件”中，百度認為搜索結果的排序是由計算機系統綜合質量度、信譽評價等因素計算得出的，非百度刻意為之。但人工智能的發展根植于具體的社會情境，為時代政治經濟文化制度的總體性安排所決定。因此，人工智能的效應關聯責任也必須在具體的社會情境中根據其造成的具體效應進行責任認定，即不僅要關照技術的功能運行，也應兼顧其所產生的社會影響。

總之，生產關聯、運行關聯和效應關聯為人工智能倫理秩序構建起一個可參照的操作性方案，有助于確保將技術濫用的危害降到最低程度。但是需要指明的是，任何道德倫理的選擇都沒有一個理想或絕佳的方案，任何道德倫理的選擇都是可以被質疑的。人工智能是復雜的，這種復雜不僅在于人與技術的辯證關系是永恒的話題，更在于當今時代人工智能的發展得益于人工智能自身的深度學習使其具有了自我構建邏輯的能力。因此，人工智能倫理秩序的建構是一個逐步探索的系統性工程。