論技術向善何以可能

孫田琳子

摘 要：隨著人工智能與教育應用的深度融合，人工智能的教育倫理問題逐漸引起人們的關注。文章發端于對技術向善美好圖景的倫理目標審度，站在技術哲學立場分析人工智能教育倫理的邏輯起點，從倫理旨趣、建構依據、實踐路向等方面探討人工智能教育倫理實現的可能性、合理性和有效性問題。研究發現，教育領域中的技術向善關鍵是要建立“人-技術-教育”的內在一致性，通過生成技術道德化引導教育主體的道德行為和倫理規范，形成主體與技術聯結的道德共同體，最終實現智能技術手段與人本教育價值的統一。

關鍵詞：人工智能;教育倫理;倫理規范;技術哲學;道德物化

近年來，隨著人工智能技術（Artificial Intelligence，簡稱AI）在各領域的融合應用日趨廣泛，人工智能的倫理問題也逐漸引起人們的關注。自2019年起，社會各界開始相繼采取積極策略應對AI倫理風險。日本頒布了《以人類為中心的人工智能社會原則》，提倡正確看待“人機關系”，構建安全應用的“AI-Ready社會”;歐盟委員會發布的《人工智能倫理準則》提出以“可信賴”的人工智能為愿景準則，以提升人們對AI產業的信任;我國新一代人工智能治理專業委員會發布的《新一代人工智能治理原則》強調要發展“負責任”的人工智能，旨在協調AI發展與治理的關系，確保人工智能安全可控可靠。可見，推動技術向善、建構人工智能倫理規范成為未來人工智能發展的重要議題。反觀教育領域，人工智能在教育中的創新應用也影響了原有的教育生態，面對“AI+教育”融合后引發的一系列倫理問題，作為教育者需厘清人與技術的關系，建構AI教育倫理規范，實現人工智能賦能教育信息化持續健康發展的美好圖景。本文將站在技術哲學立場，回溯人工智能教育倫理的邏輯起點，即從“何謂向善”、“何以可能”、“何以可為”三個方面探討人工智能技術應用于教育的倫理目標及其實現，核心在于教育領域需要什么樣的人工智能技術、為什么可以實現以及怎樣建構這種倫理規范。

一、何謂向善：人工智能教育倫理的內在旨趣

首先，我們需明確教育人工智能的倫理旨趣。換言之，教育應用中究竟什么樣的人工智能是符合倫理規范的，這是我們在建構AI教育倫理規范之前需要討論的元問題。該維度之審視既包含對已有倫理失范現象的總結反思，又涵蓋對未來教育人工智能發展的美好構想。

（一）倫理問題的實然表征：技術異化導致教育生態失衡

從尼爾·波茲曼的技術壟斷論到西爾弗斯通的技術反向馴化，再到唐娜·哈拉維的后人類主義賽博格隱喻，似乎都在提醒人們警覺媒介時代的技術性壓迫，防患人文價值的失落。反觀“AI+教育”生態，人工智能憑借其高性能、精準化的技術優勢為教育領域帶來了新的生機，實現了個性化學習、智能導師、自適應推送、大數據分析、智慧校園管理等智能化功能，填補了傳統教學的不足。然而，人們對智能技術的過度依賴也將滋生某些潛在的倫理風險。從浙江小學生佩戴“緊箍咒”監測頭環事件到美國亞馬遜語音機器人Alexa失控嚇人事件，人工智能這面現實“黑鏡”使人們再次陷入科技侵蝕生活的恐慌，進而反思并尋求技術倫理的制約，重構人工智能的倫理秩序。特別是將人工智能引入教育實踐更需要倫理道德的引導，由于教育試錯的成本太高，一旦使用不慎將會對學生個人、社會發展造成不可估量的負面影響。從已有的實踐經驗來看，目前教育人工智能的倫理失范現象大多集中表現在這幾個方面：一是數據泄漏、個人隱私安全、算法可表征化、機器情感識別、人類意識極限等技術層面問題;二是師生角色定位、人機關系模糊、主觀能動性降低、代際數字鴻溝、人格培養片面等主體層面問題;三是教學模式固化、數據主義評價、教育價值偏頗、社會責任缺失等教育層面問題。整體而言，人工智能在教育應用中的倫理問題可表征為“主體-技術-教育”之間的角色博弈，當技術一方被過分倚重時將會引發整個教育生態的失衡。人工智能的教育倫理問題其實是人對技術倫理和教育倫理的綜合考量，教育者在技術應用過程中需研判三者之間的權重關系，避免技術異化剝奪教育主體對教育現實的參與，從而致使教育形態異化。

·教育基本理論·論技術向善何以可能

（二）倫理規范的應然追求：建立教育中技術的合目的性

雖然學界對AI介入教育的不良效應存在不少質疑與批判，但究竟理想語境下的“可信任”、“負責任”、“友好的”教育人工智能是怎樣的一幅圖景、技術向善之謂“善”具體內涵指向什么還懸而未決。確立人工智能教育倫理規范是當代教育變革的應然要求，也是我們亟待解決的首要問題。蘇格拉底指出善的意義在于和諧、秩序、有益的、有用的;柏拉圖將善的理念比喻為理念世界的太陽，是知識和真理的源泉;亞里士多德把善看作隱藏在事物中的內在目的，符合其內在目的就是善，反之即不好，他將這種自足目的的實現、實踐理性的對象稱為“幸福”。[1]“善”的意義在古希臘三杰的哲學演繹下逐漸明晰，康德在此基礎上提出了以人的意志自由為出發點的至善學說，并認為“善”是德性與幸福的統一。德性是指人一向都能遵循道德法則而行動的狀態，幸福即是對“一切偏好的滿足”，前者是理性追求的對象，后者是感性的欲求。[2]當我們不斷平衡這兩種反思概念之間的內在張力，這種價值與目的的一致性即為合目的性。合目的性的理論意蘊指出事物的形成與發展取決于其內在必然性，善的理念在于人們尋求達成共識的共通感，從而形成目的與價值、形式與質料、知性與理性的統一。因此，從應然視角來看，教育場域中的技術向善歸根結底應是聯結技術手段與教育價值的內在一致性，技術的內在目的需與教育的最終追求相吻合，才能達到實現人們幸福生活的至善境界。在人、技術、教育三者構成的生活世界中，如若過于強調技術的價值將導致工具理性對價值理性的僭越，若過于注重知識技能的灌輸將造成教師主體性的弱化和學生人格培養的缺失。唯有建立“人-技術-教育”的內在一致性，匡正人工智能介入教育的合目的性，才能使“技術向善”的教育世界洞見可能。

二、何以可能：人工智能教育倫理的建構依據

在明確人工智能教育倫理的應然追求基礎上，我們將進一步對技術向善何以可能的存在邏輯進行考察與追問，即探討其倫理規范建構的合理性問題。為建構“人-技術-教育”的內在一致性，在此分別從技術本身、人技關系、教育價值等視角逐一分析。

（一）技術本質論：技術意向性引導技術道德化

荷蘭技術哲學家彼得·保羅·維貝克（Peter - Paul Verbeek）基于“后人類主義”視角提出“道德物化”思想，認為技術自身具有道德意蘊，為實現技術向善的理想境遇提供一種新的倫理實踐進路。傳統的技術倫理學立足于人本主義的立場，將技術視為工具性角色;當代技術哲學發生了后現象學的轉向，技術中介理論揭示了技術設計中的內在道德維度，表明技術總是有助于基于道德決策構建人的行為和解釋。[3]維貝克認為當一個技術物被使用時它就促進了人與現實的牽連，并且技術物共塑著人在其世界中如何被呈現以及世界如何呈現給他們，使用中的物能被理解為人與世界關系的調解者，積極主動地共塑著人在其世界的方式：人的知覺和行動、體驗和存在。[4]即是說，技術人工物作為道德能動者能夠對人類產生倫理引導和規范作用，通過知覺調解和行為調解影響人對現實世界的感知以及道德行為。技術調解作用肇始于“技術意向性”概念，即技術物在組織知覺過程中的“指向”，技術物通過規定使用技術時該如何行動的腳本來調節行動。技術不是中性的工具，它在人與世界的關系中發揮著主動性作用，也有學者將由技術的意向結構所規定的這種價值取向稱為“技術的邏輯”。[5]維貝克從理論和實踐兩個層面解釋了“道德物化”的背景，一是理論上拋棄了傳統技術倫理學二元論框架下的工具主義路徑，將技術物納入倫理學的評估范疇之中;二是指明實踐中可將抽象的道德理念融入技術設計之中，在人們的使用情境中進行引導和規范。[6]

教育應用中的人工智能作為現代技術的一種表現形式，同樣具有技術意向性特質，人工智能在被使用過程中的指向是否“向善”是評判該技術是否符合倫理規范的維度之一。智能導師系統、自適應學習系統、大數據學情分析等“AI+教育”應用需把握其在研發與使用過程中是否具備道德導向，若能為優化教育教學而生、為減輕師生負擔而用，且不存在傷害人們利益的風險，則從技術本身視角來看是符合倫理規范的。而像“監測頭盔”這類極具爭議的智能技術，雖設計初衷是為了收集學習行為數據以改善教學，但實際運用中破壞了學生的隱私安全，把活生生的人當作機器一樣測量有悖人性倫理，那就可能變成“戴著”服務學習的“帽子”、實則束縛人們的工具。這種看似合理的人工智能應用卻存在技術導致的偏見與歧視，人的外在附屬物對人的奴役在以某種看似合理化的形式支配著人的存在。[7]故此，為實現“人-技術-教育”的內在一致性，首先應從技術自身道德化做起，從技術自身出發勸導人們遵守道德規范，指向教育本質與人的發展，規避技術異化的倫理風險。

（二）人技關系論：復合意向性塑造道德共同體

隨著智能技術的廣泛應用，人與技術的關聯也日趨內化，在人與技術共在的語境中人自身的本質和技術的本質產生倫理維度的構連，包含人對技術的倫理審視，以及技術對人類倫理觀念的調節。[8]維貝克認為意向性存在于人與非人之中，不僅技術具有意向性，人也具有意向性，它們彼此關聯的“人—技術”整體構成了“復合意向性”。“復合意向性”是將技術的意向性延伸到人類意向性的擴增形式，它將人與技術間的解釋學關系“人→（技術—世界）”擴展為“人→（技術→世界）”，形成一種復雜的人與非人元素在一起的混合關系。在后現象哲學看來，我們都是被技術“調節”的人，技術調節著我們的體驗、認知和行為，也幫助我們重新審視倫理價值判斷。美國哲學家唐·伊德將人與技術的關系分為四種，即具身關系、解釋學關系、它異關系和背景關系。維貝克在伊徳的四種關系基礎上提出了第五種“人—技術”關系，即“賽博格關系”，他將人和技術看作不可分割的整體，從而描述為“（人/技術）→世界”的表達式。[9]一直被認為科幻世界里才存在的人與機器的融合體正在成為現實，技術不再調節人類行動和決策，而是與人類主體混合在一起，導致了技術介入人類后形成主觀與客觀、人與非人、身體與非身體交織在一起的后人類主義——“賽博格”的混合實體。[10]因此，道德決策不是單方面僅由人或技術物做出的，而是由人與技術人工物共同作用的結果。人本身就是具有道德能動性和德性差異化的個體，而技術物的道德意蘊有助于引導人的道德決策，從道德調節到技術調節，人與技術要建立起內在關聯，共同承擔起社會責任，共同遵守道德規范。

一般來說，人與機器之間的異化關系主要表現為兩種形式，即“人的機器化”和“機器的擬人化”，其癥結在于二元論視角下導致的人與技術的分離，當技術凌駕于人類主體之上就會導致以假亂真的紊亂，當人們過于依賴技術手段會致使人類智能的機械化。正所謂，造出像人一樣的機器并不可怕，可怕的是培養出像機器一樣的人。[11]將人工智能引入教育實踐需正確把握人與技術的依存關系，一方面人工智能可以幫教師分擔一些重復性的知識傳遞工作，提高教學效率;另一方面，有關知識創造等創新性工作則離不開人類智能的參與，教育主體的獨特性無可取代。人工智能與人類智能應取長補短、互相配合，將使用者的自主性裹挾技術價值，組成相互關聯、具有共同愿景的道德共同體，才能使教育效益最大化，形成一個完整的、平衡的、倫理自洽的教育活動。

（三）教育價值論：技術介入教育的同質化發展

此前，我們談到人工智能的教育應用需統一技術手段與教育價值的內在一致性，故此需進一步厘清智能技術時代教育價值的本質內涵。古希臘時期奴隸主階段的思想家主張培養“治國人才”的精英教育;中世紀在宗教控制下的經院式教育關注知識傳統的繼承，忽略人性、推崇神學;到文藝復興、啟蒙運動時期，盧梭等教育家提倡追求人的自由、平等、理性的自然教育;直到19世紀的自由教育，康德、黑格爾等哲學家高舉“理性”大旗，認為人是理性的主體和最終目的;20世紀前期，實用主義哲學代表杜威提出教育即經驗的不斷改造，注重人與社會的相互作用。可見，17世紀后到20世紀之前，教育哲學的主題大體被設定為認識論問題，研究主體如何超越自身臻達客體，以完成對世界的認識;而后人們意識到人的存在被認識遮蔽的現實，哲學家海德格爾、薩特、雅斯貝爾斯等從關注認識問題轉向至人的存在問題，開始在存在視域中研究真理問題。[12]隨著社會歷史的發展，回溯教育思想的演變，可以看出人的主體性地位正得到不斷提升，他們從被動獲得教育意識到主動選擇教育權利，人的發展逐漸成為衡量教育價值的根本尺度。教育雖具有社會性、文化性、政治性和經濟性等多元化價值，可不論是哪種教育觀，教育的教育性價值地位不可否認。換言之，教育是培養人的活動，促進人的發展是教育的基本目的和功能。[13]

人工智能時代，新興技術在教育領域中的融合應用需立足教育本質的價值追求，唯有以“造福人類、服務社會、促進人的全面發展”為內在倫理尺度，才能與教育生態共同可持續發展。教育培養的是公民，理想的公民在承擔公共事務和責任時要具有基本道德能力、理性能力和個人的基本美德。[14]現代技術作為具有意向性的道德能動者可以引導和解釋人們道德實踐的方式，使其自身更合乎道德、遵照倫理的被設計與被應用。因此，“人工智能+教育”面臨的倫理挑戰在于技術與教育是否同質化發展。對工具理性的盲目崇拜會致使“以人為本”的價值理性被遮蔽，為規避風險而“因噎廢食”、放棄使用技術也將走向另一個文明倒退的極端。當智能技術遵循道德規范的同時推動教育實踐持續優化，教育的道德化發展離不開人工智能的輔助監督，二者在良性互動中逐漸達到內在本質趨于一致，教育與技術日趨一體化，則技術向善的愿景才得以可能，是實現教育之真、善、美統一的邏輯前提。

三、何以可為：人工智能教育倫理的實踐路向

既然技術向善不是遙不可及的“海市蜃樓”，那么我們作為教育者該如何在教育活動中把握和實踐這種技術規范性？基于“AI+教育”美好圖景的可行性與局限性分析，我們進而深入探尋教育實踐中的具體行動指南，在技術道德化的理論視角下，分析人工智能教育倫理實踐的可能路徑。

（一）預設教育產品道德腳本，開展設計與引導的調節行動

技術調解理論將技術倫理的考量從效果階段前置到設計環節，從外部治理深入至內部建構，走向主客體互相調節的設計哲學。“道德法則在我們心中，也在我們的技術中，為了闡述我們行動的正確性、信任感和延續性，我們需要增加技術的隱我，即技術背后隱藏的某種自我。”[15]行動者網絡理論提出者拉圖爾強調，可以將倫理注入技術設計之中來調節人的行為，通過技術中介構筑基本的道德框架。他提出“腳本”的概念來描述技術物對人們行為的影響，如同電影或劇場演出的腳本，技術規定其使用者在使用它們時該如何行動。譬如，馬路減速帶的腳本是“當你靠近我時，請減速”;一個塑料紙杯的腳本是“用后請扔掉我”。產品設計的腳本是在設計語境與使用語境之間建立聯系，從技術被使用的角度來設計產品，利用技術產品自身的局限性來約束使用者的行為范疇。腳本規定了技術調解的情境性，設計者需授權技術物的道德能動者角色，并為其設計展開引導人類行為的現實情境，使人們在特定情境下不自覺地遵守其腳本隱藏的道德規范。

基于該技術實體論立場，我們可延續這種“激勵”或“抑制”的技術調解機制，將技術的向善性融合于教育人工智能產品的設計之中，通過賦予技術人工物合乎倫理的價值取向，間接構建AI教育倫理規范。例如，當運用人工智能采集學生學情數據時，需有提前征求學生意愿的程序，以保護他們的隱私安全;當學生長時間使用技術學習而可能造成疲勞性身體損傷時，需通過技術設置提醒使用者勞逸結合、合理規范學習時間;在智能評價學生學習效果時，應綜合考量學生的學習態度和隱性知識獲得，而非單憑某次測驗成績做出判斷，其內在設計腳本應是何種教育價值觀的體現;當學生利用智能教育產品自動生成作業而侵犯到他人權益時，可依托問責追蹤的技術以培養學生的社會責任感和法律意識。智能教育產品的設計者需了解用戶需求與使用場景，深諳當下社會文化與法律責任，立足公正良善的設計動機賦予技術產品向善的道德腳本，從當前的設計活動投射到后續的使用過程中，將產品或技術的預期影響與用戶行動決策結合起來，在技術源頭上促進引導教育中人們的倫理實踐。

（二）優化具身學習設計應用，融合主體與技術的雙重邏輯

后現象學進路下的技術哲學經驗轉向超越了現象主義的主客二分，伊徳繼承和發展了海德格爾的“上手”與“在手”狀態，開始關注人與技術之間的關聯而非將人類主體與技術客體作為獨立實體進行思考。他提出的“人—技術”四種關系中，具身關系是最基本、最常見的一種形態，引領了當代技術哲學研究的“身體轉向”。人與技術的具身關系表明人的知覺經驗由于技術中介而發生改變，人通過技術認識世界，技術作為身體的延伸顯現自身存在價值，二者形成融為一體的統一體。[16]不論是梅洛-龐蒂的“手杖”還是伊徳的“眼鏡”都闡釋了人的技術性存在，技術具身使得技術成為人體的一部分，影響著人與外部世界的關系。在道德物化的分析視野下，人與技術構成了相互規約的道德共同體，技術具身是技術倫理的前提和歸宿，通過強化技術與人的具身關系有助于形成內在道德目標的同一性，融合主體意識與技術實踐的雙重行動邏輯。

人工智能技術賦能下的智慧教育實現了學習者多感官信息協同下的身體參與，使得具身學習成為日益普及的一種新學習理念。特別是虛擬現實技術將學習中的具身關系體現得淋漓盡致，通過模擬人體的視覺、聽覺、觸覺等多模態信息，借助可穿戴設備將學習者代入充滿各種可能的虛擬世界，并與虛擬場景中的對象進行實時互動，從而產生身臨其境的學習體驗。當學習者感覺不到技術的存在、虛擬現實技術“透明化”地發揮作用時，人與技術就構成了一種具身關系。[17]智能技術支持下的具身學習，一方面將人類認知植根于身體行動，通過技術手段調動學習者的在場體驗感，提升課堂教學效果;另一方面將教育主體與智能技術視作行動一致的共同體，通過技術的道德設計與合理應用引導主體的行為規范。因此，優化智能技術的具身體驗是實現教育人工智能倫理規范的方式之一。技術設計者需強化學習者與技術設備的交互性，讓學生在使用過程中產生技術透明的“上手”狀態，潛移默化地發揮技術道德化作用，保障規范行為的自然發生。

（三）技術賦能教育道德環境，加強內在與外在的雙向建構

道德物化實現的關鍵不僅在于技術的設計情境，還與技術的使用情境密切相關。技術哲學家伯格曼認為技術人工物的設計本是為了減輕人們負擔，但這一減負作用也削弱了人們參與現實的機會，降低了人與技術產品交互的親密度，鼓勵人們在使用技術過程中建立二者之間的紐帶關系。技術在社會調節中扮演了說服者與被說服者的雙面角色，隱性的行為規范和道德原則物化在人工技術物中使人類自我意識得到外在顯現，而外在的技術評估與倫理原則也將有助于技術自身發展的規范化，從內而外，相輔相成，共同構成主體與技術之間相互作用的道德環境。鑒于此，技術道德化的實現路徑不能只落腳于技術的設計、開發等初始階段，更應伴隨技術的選擇、使用、管理、評估等各個環節，從而形成完整持續的倫理規范體系。

因此，在教育活動中，我們不僅需要依靠技術的內在調節作用影響人的道德行為，還要通過技術評價、技術管理、問責機制等外在約束手段強化技術使用過程中的向善性。如今，人工智能技術的變革應用也為教育場域帶來了許多新問題。例如，當人工智能代替了教師的部分工作時，機器輸出的智能化決策和自動化行為后果由誰負責;具有情感功能的強人工智能能否代替教師的培養和陪伴;基于計算主義的智能評價體系是否符合應然的育人本質等。面對這些新的倫理挑戰，我們需重新審視人工智能和教育之間的交互作用，重塑人工智能在教育應用中的倫理秩序和評價指標，形成內在指向與外在約束相互依存的道德環境，是實現“人工智能+教育”健康發展的雙重保障。具體而言，要根據不同的教育場景、教學內容和學習群體選擇合適的人工智能技術和產品;明確該技術由誰使用、怎么使用和使用時的注意事項;建立倫理失范后的問責機制、明晰人工智能教育的社會責任與價值觀念等;制定出符合教育人工智能倫理規范的評價指標，供技術開發者和教育者參考和衡量。

綜上所述，要實現技術向善的美好圖景關鍵在于建立“人-技術-教育”的內在一致性，技術與人、技術與教育價值邏輯相互規約，共同構成教育場域中技術向善的邏輯起點。本文通過對人工智能教育倫理向度的思考，探尋教育中技術向善的可能性、合理性和有效性，面對智能技術介入教育的倫理困境，呼吁挖掘技術推動道德進步的物化驅動力，真正達到技術手段與教育價值的內在統一。

參考文獻：

[1]高原.論康德的至善學說[D].長春：吉林大學，2013.

[2]李科政.康德的至善觀念：德性與幸福的統一[N].中國社會科學報，2019-10-15（2）.

[3]陳煒，劉酈.勸導技術道德化實踐探索[J].自然辯證法研究，2020，36（1）：44-49.

[4][9]彼得·保羅·維貝克.將技術道德化：理解與設計物的道德[M].閆宏秀，楊慶峰，譯.上海：上海交通大學出版社，2016：9-13，175-179.

[5]吳國盛.技術哲學講演錄[M].北京：中國人民大學出版社，2016：9.

[6]陳凡，賈璐萌.技術倫理學新思潮探析：維貝克“道德物化”思想述評[J].科學技術哲學研究，2015，32（6）：54-59.

[7]馮銳，孫佳晶，孫發勤.人工智能在教育應用中的倫理風險與理性抉擇[J].遠程教育雜志，2020，38（3）：47-54.

[8]閆宏秀.可信任：人工智能倫理未來圖景的一種有效描繪[J].理論探索，2019（4）：38-42.

[10]HARAWAY D.A Cyborg Manifesto：Science，Technology，and Socialist-Feminism in the Late Twentieth Century[M].New York：Routledge.1991：81-149.

[11]孫田琳子，沈書生.論人工智能的教育尺度：來自德雷福斯的現象學反思[J].中國電化教育，2019（11）：60-65.

[12]石中英.教育哲學[M].北京：北京師范大學出版社，2007：20.

[13]袁振國.當代教育學[M].北京：教育科學出版社，2004：65.

[14]金生鈜.教育的多元價值取向與公民的培養[J].教育理論與實踐，2000（8）：2-8.

[15]LATOUR B.Morality and Technology：The End of the Means[J].Theory，Culture & Society：Explorations in Critical Social Science，2002（19）：254-255.

[16]唐·伊徳.技術與生活世界：從伊甸園到塵世[M].韓連慶，譯.北京：北京大學出版社，2012：79.

[17]孫田琳子.虛擬現實教育應用的倫理反思：基于伯格曼技術哲學視角[J].電化教育研究，2020，41（9）：48-54.

（責任編輯 劉第紅）