人工智能倫理教育的三重境界

摘要：人工智能人才是數(shù)智時代新質人才培養(yǎng)的重要構成，倫理教育是人工智能人才培養(yǎng)的重要環(huán)節(jié)，但目前對于“認識與評價”這一人工智能倫理教育的方向性問題尚沒有清晰的把握。基于人工智能倫理的學科交叉屬性，學科交叉度能夠為明晰人工智能倫理教育的“是”與“應當”提供理論視角。人工智能倫理教育根據(jù)學科交叉程度由弱到強可分為多學科、跨學科、超學科三種類型。以獨立倫理課程為表征的多學科類型是當前人工智能倫理教育的主流形式，代表人工智能倫理教育的現(xiàn)實境界。以嵌入式倫理模塊為表征的跨學科類型主張將倫理教育融入技術課程，能夠彌合多學科類型在教育目標達成度方面的不足，代表人工智能倫理教育的發(fā)展境界。超學科類型雖尚未實現(xiàn)落地，但其因具有“跨界合作-知識整合-解決問題”的核心特質，能夠突破跨學科類型的效果上限，代表人工智能倫理教育的理想境界。基于教育效果與開展難度的綜合考量，人工智能倫理教育應以達到跨學科層次為基本要求，并在此基礎上探索超學科層次的達成路徑。

關鍵詞：人工智能倫理；人工智能倫理教育；多學科；跨學科；超學科

中圖分類號：G434 文獻標識碼：A

* 本文系2022年度國家社科基金教育學青年課題“‘雙減’背景下技術賦能學校、家庭、社會協(xié)同育人體系構建研究”（課題編號：CAA220306）研究成果。

新質人才培養(yǎng)是數(shù)智時代教育的全新使命，其中人工智能人才培養(yǎng)最具代表①。人工智能倫理作為保障人工智能向善發(fā)展的價值基礎，是高水平人工智能人才的必備素養(yǎng)。教育部2022年提出要將踐行倫理規(guī)范列為人工智能教育品德素養(yǎng)培育的目標之一[1]，美國將“社會責任感和倫理意識”與“專業(yè)知識與技能”置于同等地位作為兩大人工智能專業(yè)核心培養(yǎng)目標[2]，法國將倫理教育視為實現(xiàn)“國家人工智能加速戰(zhàn)略”目標的基礎[3]。在此背景下，人工智能倫理教育在全球高校相關專業(yè)快速鋪開。但正如內森·彼爾德（Nathan Beard）等人所言，“如果說人工智能教育尚處于發(fā)展的初級階段的話，那么人工智能倫理教育就還是個胚胎”[4]。盡管倫理教育已成為全球人工智能人才培養(yǎng)的共識，但對其“是”與“應當”尚沒有一個清晰的把握。如何認識與評價當前人工智能倫理教育、未來人工智能倫理教育應當向何處去，是人工智能倫理教育亟需解決的方向性問題。

一、學科交叉度：三重境界的劃分視角

學科間的交叉滲透是當今大科學時代的一大特征，這在人工智能倫理領域尤為明顯。人工智能倫理的學科交叉屬性體現(xiàn)在兩個方面。研究對象上，人工智能具有多學科交叉融合、滲透力和支撐性強的特點，不僅基礎理論涉及計算機科學、數(shù)學與統(tǒng)計學、信息科學，在應用研究方面還涉及認知科學、哲學、社會學、法學等眾多學科。要對人工智能相關的倫理議題進行分析，就需要在掌握基礎理論的同時熟悉特定領域的專業(yè)知識。研究方法上，作為應用倫理的一支，人工智能倫理并不依賴傳統(tǒng)規(guī)范倫理將普遍價值作用于具體實踐的“自上而下”方法，而是主張情境主義方法。這意味著在面對具體人工智能倫理問題時，需要充分考慮其所處的歷史、文化、法律等社會背景，采用學科交叉協(xié)作、利益相關者參與等“多元共建”的方法以更好地達成道德共識。研究對象與研究方法的學科交叉特征對人工智能倫理教育的開展有著直接影響。

人工智能倫理的學科交叉屬性決定了其教育實踐的邏輯主線。在教育領域，人工智能倫理的學科交叉屬性也被稱為“人工智能倫理的橫向性”（Transversality in AI Ethics）。伊諾盧瓦·黛博拉·拉吉（Inioluwa Deborah Raji）等人指出，不同于傳統(tǒng)計算機科學領域，人工智能倫理教育不僅僅是技術或道德問題，而是橫向問題，橫向問題不等同于跨學科問題，它的解決方案不單是在給定的學科之間找到的，還應考慮潛在或已受其影響的利益相關者，及對倫理技能、教學方法、教學主體的分析、評價與選擇[5]。目前，學科交叉及其橫向協(xié)作已成為人工智能倫理教育的發(fā)展共識。我國《人工智能領域研究生指導性培養(yǎng)方案（試行）》強調要“鼓勵各校在學科交叉、跨界融合、加強實踐、個性化培養(yǎng)等方面，積極探索人工智能領域研究生培養(yǎng)新模式”[6]。法國成立人工智能跨學科研究所，致力于培養(yǎng)“人工智能+”人才并提倡高校開展嵌入式倫理教學[7]。美國伊利諾伊理工學院和卡內基梅隆大學等高校通過搭建非實體平臺建設人工智能多學科綜合的教師隊伍、推進研究與教學的跨學科合作[8]。但目前對于人工智能倫理教育的學科交叉與橫向屬性尚沒有劃分與評價依據(jù)。

學科交叉度（Interdisciplinarity）可作為人工智能倫理教育的劃分視角。學科交叉度指代兩門或兩門以上學科的交叉融合程度。這一程度在科學計量學領域以具體數(shù)值表示，科學哲學領域則根據(jù)知識學科交叉的強度與廣度、知識跨學科分布與擴散情況、跨學科研究群體樣態(tài)等方面劃分不同的類型。目前被廣泛接受的類型劃分由羅森菲爾德（Rosenfield）于1992年提出，其根據(jù)學科交叉整合程度由低到高依次劃分了多學科（Multidisciplinary）、跨學科（Interdisciplinary）、超學科（Transdisciplinary）三種類型[9]。該劃分于1998年得到OECD進一步肯定并于隨后的三十余年在個人觀點整合程度、研究者之間合作程度、學科領域貢獻程度等方面得到廣泛應用。2023年，哈佛大學特里斯坦·格策（Trystan Goetze）將羅森菲爾德的分類框架應用于計算機科學領域，證明了該框架分析技術倫理教育的適切性[10]。

根據(jù)人工智能倫理教育的學科交叉屬性與劃分視角，結合人工智能倫理教育的實踐情況與未來展望，可以認為人工智能倫理教育從低到高依次存在三重境界（如圖1所示）：多學科在當前數(shù)量與占比最高，代表人工智能倫理教育的現(xiàn)實境界；跨學科發(fā)起于對多學科現(xiàn)實問題的反思與優(yōu)化，代表人工智能倫理教育的發(fā)展境界；超學科作為突破跨學科效果上限的發(fā)展方向，代表人工智能倫理教育的理想境界。基于教育效果與開展難度的綜合考量，人工智能倫理教育應當以達到跨學科層次為基本要求，并在此基礎上探索超學科層次的實現(xiàn)路徑。

二、多學科：人工智能倫理教育的現(xiàn)實境界

多學科人工智能倫理教育起始自2014年斯坦福大學“人工智能中的哲學、倫理及其影響”課程的開設，并于2017年起在全球范圍內快速發(fā)展，其因體量與比重最大，代表人工智能倫理教育的現(xiàn)實境界。

（一）作為實踐主流的多學科人工智能倫理教育

多學科是將多個相對獨立的、矩陣塊狀的學科知識進行聚集，各學科領域因匯聚而變成更龐大的研究領域[11]。由此開展的多學科合作雖然吸收了不同的學科知識但并未對其進行整合，各學科之間仍然是一種平行關系，表現(xiàn)為“從特定的學科基礎并行或按順序來解決目標問題”[12]。作為多學科合作的教育表征，多學科人工智能倫理教育指代技術或人文學科對人工智能倫理議題從各自學科角度開展教育實踐，通常由技術院系（如計算機科學、數(shù)學與統(tǒng)計學）自身或交由人文院系（如社會學、哲學、教育學）開設并由該院系教師負責，且在教育過程中不進行或較少進行院系協(xié)作。與一般多學科合作類似，多學科人工智能倫理教育存在并行與順序兩種實踐邏輯。并行邏輯主張倫理教育與技術教育平行開展，以通識性人工智能倫理課程為代表。順序邏輯主張在完成基本技術教育后開展倫理教育，以包含倫理、法律、社會等綜合要素的“人工智能與社會”或其相近課程群為代表。但無論是并行邏輯還是順序邏輯，其本質均屬于倫理與技術分離的獨立人工智能倫理課程。

獨立人工智能倫理課程不單在國內占據(jù)相當比重，更是當前全球人工智能倫理教育的主流形式，這可在相關教學大綱①分析中得到證明。教學大綱分析因具有“可統(tǒng)計大量樣本、數(shù)據(jù)收集偏差較小、數(shù)據(jù)濃縮大量有價值信息，信噪比高” [13]等優(yōu)點，已被國外學者廣泛應用于人工智能倫理教育的形式與內容評估。目前抽樣分布與統(tǒng)計結論具有代表性的教學大綱分析主要有娜塔莉·加勒特（Natalie Garrett）等人[14]與伊諾盧瓦·黛博拉·拉吉（Inioluwa Deborah Raji）等人[15]的文本分析，以及洛伊斯·萬赫（Lo s Vanhée）等人的隱含狄利克雷分布（Latent Dirichlet Allocation，LDA）建模[16]。由上述研究的元信息統(tǒng)計（如表1所示）可以看出，獨立人工智能倫理課程在美國、北美乃至全球范圍內均占據(jù)主流地位。

獨立人工智能倫理課程在當前不僅數(shù)量占優(yōu)，內容亦十分相似。鑒于教學大綱維度相對固定，除元信息外，教學大綱分析大多包含了教學主題、教學內容、教學方式、課程考核四個方面。對各研究的共性結論進行歸納（如表2所示）可以勾勒獨立人工智能倫理課程的整體畫像：獨立人工智能倫理課程通常圍繞社會倫理問題、哲學倫理學理論、倫理與法律規(guī)范、人工智能技術發(fā)展等主題，以專業(yè)出版物、媒體報道、文學影視作品、倫理案例為內容，以教師講授、材料閱讀、討論匯報、案例研究為方式，通過個人報告、倫理評估、溝通研討、測驗檢測等手段考察學生的學習情況。

（二）多學科人工智能倫理教育的現(xiàn)實問題

不可否認，多學科人工智能倫理教育在實施難度與內容廣度上存在優(yōu)勢。獨立倫理課程不需要對現(xiàn)有培養(yǎng)方案及其課程體系進行重大調整，能夠迅速在相關專業(yè)鋪開。同時，獨立倫理課程能夠相對全面、深入地向學生講授人工智能的道德框架與倫理理論。但正如人工智能領域“跨課程倫理運動”所主張的那樣，多學科人工智能倫理教育存在明顯的局限。

多學科人工智能倫理教育的局限體現(xiàn)在對教育目標的達成度上。厘清這一局限首先需要明確人工智能倫理教育的目標。當前人工智能倫理教育目標尚沒有細粒度共識。從宏觀層面看，我國《人工智能領域研究生指導性培養(yǎng)方案（試行）》指出人工智能倫理教育應當使學生“能夠了解人工智能技術的安全和倫理問題，并了解相關的治理規(guī)范和防御方法，助力人工智能技術的健康發(fā)展”[17]。歐美國家則大多以計算機協(xié)會（ACM）和電氣與電子工程師協(xié)會（IEEE）計算課程聯(lián)合工作組發(fā)布的《CS2013課程標準：計算機科學本科學位課程指南》為藍本。特里斯坦·格策（Trystan Goetze）將這一藍本提煉概括為能夠了解價值觀與社會價值體系、分析并提出道德論據(jù)、描述社會影響、識別技術嵌入的價值觀、熟悉價值規(guī)范和專業(yè)標準五點，并補充“整合道德與技術”這一綜合性目標[18]。基于宏觀要求與相關教學大綱分析，人工智能倫理教育目標至少涉及理解、思維、能力三個層面。理解層面包括了解人工智能的技術與社會影響、相關道德知識、倫理與法律規(guī)范；分析層面指提升倫理責任感并能夠批判性地評估人工智能系統(tǒng)與應用，識別其潛在倫理問題并提出合理觀點；應用層面指能夠在人工智能設計中應用倫理原則或提出倫理問題的解決方案。

多學科人工智能倫理教育因倫理與技術分離，在內容質量、態(tài)度塑造、能力培養(yǎng)三個方面制約教育目標的達成。內容質量方面，在獨立倫理課程中，技術院系授課教師缺乏對倫理學和社會科學領域的深入了解，人文院系授課教師則無法提供倫理要素在實際應用方面的指導和建議，其結果不僅是技術領域內部的反饋循環(huán)，更是學科特權的持續(xù)聚合，盡管聲稱能使學生同時擁有技術和倫理知識，但后者實際上并不深入。態(tài)度塑造方面，實證研究表明，當倫理教育以一次性課程的形式開展時，學生未必會相信這些內容對他們的職業(yè)生涯很重要[19]。獨立人工智能倫理課程會給學生留下這樣的印象：倫理并不是人工智能不可或缺的一部分，而是一項獨立任務，道德問題與技術問題本質上是分開的。這種印象與培養(yǎng)責任感的教育目標相對立。能力培養(yǎng)方面，倫理議題總是與技術工作的特定方面有關，高度濃縮的一次性倫理教育人為地分隔了倫理與技術的有機聯(lián)系，學生很難將倫理學習內容與他們日常接觸的技術要素聯(lián)系起來，不利于培養(yǎng)在技術決策中應用倫理的實踐能力。“如果讓學生在整個技術學習過程中接觸與該主題相關的各種學科、技能和方法，道德教育效果將得到極大提升”[20]，人工智能倫理教育還需在多學科的基礎上探索學科間結合更為緊密的教育方式。

三、跨學科：人工智能倫理教育的發(fā)展境界

應用跨學科倫理教育補充或取代多學科倫理教育以提升教育效果在計算機科學領域素有傳統(tǒng)。1996年，美國國家科學基金會（NSF）資助的一項計算機科學倫理課程研究項目報告建議，倫理內容應納入核心計算機科學課程，這是比簡單開設獨立倫理課程更好的解決方案[21]。作為對多學科人工智能倫理教育的反思與優(yōu)化，跨學科人工智能倫理教育起步于2017年哈佛大學Embedded EthiCS計劃，并在此后得到越來越多高校的響應與探索，代表人工智能倫理教育的發(fā)展境界。

（一）作為效果提升的跨學科人工智能倫理教育

跨學科是在獨立的學科板塊之間建立聯(lián)系與共生，包括從簡單的觀點交流到概念、方法、過程、理論等內容的互構[22]。與多學科合作相反，跨學科合作要求各學科研究者聚焦同一個或同一組問題，并在研究過程中綜合不同學科的背景、概念及所應用的技能。跨學科人工智能倫理教育是跨學科合作在教育領域的表征，也是對多學科人工智能倫理教育的超越。不同于多學科一次性、獨立的倫理課程，跨學科人工智能倫理教育主張采用分布式教學法（Distributed Pedagogy）將倫理教育模塊嵌入原有技術課程，這些模塊通常由跨學科團隊與任課教師合作開發(fā)并應用，既超越單一學科教師開展倫理教育的局限，又能夠使學生在學習特定技術的同時接觸與該技術相關的倫理內容，并在對不同模塊的反復接觸中形成復合效應，促進學生在學習階段養(yǎng)成倫理思考的習慣并強化“技術與道德不可分割”的認知，從而規(guī)避多學科人工智能倫理教育存在的問題。根據(jù)內容與形式的區(qū)別，倫理模塊可分為理論型倫理模塊與應用型倫理模塊兩類，單獨或結合應用于技術課程。

理論型倫理模塊旨在提供與技術主題匹配的倫理知識教學。理論型倫理模塊致力于在講授特定技術主題的同時引入相關倫理主題，如在數(shù)據(jù)科學或機器學習課程中討論偏見和匿名化，在計算機視覺課程中討論隱私等（如表3所示）。近年來，越來越多的高校開啟了理論型倫理模塊的設計探索，如卡內基梅隆大學重大挑戰(zhàn)研討計劃、布朗大學社會責任計算倡議、多倫多大學嵌入式道德設計等。這些項目通常由哲學、心理學、社會學等多個學科背景的專家、教師、博士后組成的核心團隊與課程教師合作，共同開發(fā)和實施與技術課程匹配的倫理模塊。開發(fā)階段，由團隊成員討論框定模塊主題、教學目標與教學方式，并由任課教師、課程助教預測需要特別解釋的倫理概念及實施過程可能出現(xiàn)的問題以對模塊進行完善與定型。實施階段，通常從課前任務開始，包括閱讀介紹基本概念的材料與視頻，以及檢查理解情況的小測驗等。正式授課以小型講座、討論匯報與模擬分析相結合的方式開展。授課結束后，學生會被要求完成一項反思任務。對此類模塊有效性的初步調查表明，其可以加深學生對特定技術倫理問題的針對性理解和對倫理內容的興趣，以及將倫理考慮納入其技術工作的自我效能感[23]。

應用型倫理模塊旨在提供將倫理要素融入技術實踐的練習任務。應用型倫理模塊源于對理論型倫理模塊的反思與補充。其主張者認為，人工智能倫理的本質是一種實踐智慧，相較于“獨立”與“嵌入式”倫理教育的區(qū)別，更應關注的是“將道德要素置于技術背景”與“使用道德要素指導技術實施”的區(qū)別，雖然理論型倫理模塊是教授針對性倫理知識的有效方法，但這些方法并沒有教會學生注意他們的日常技術和決策如何以不可預見的方式影響他人，因此需要在技術課程中添加納入倫理的實操練習[24]。應用型倫理模塊的開發(fā)一般包括確定道德背景、匹配技術重點與道德成分、構建具體任務要求、評估任務可行度四項步驟[25]。目前具有代表性的模塊有要求學生使用循環(huán)和列表技術處理候選人數(shù)據(jù)，確保算法在篩選評估候選人時不偏袒特定群體或性別的公平招聘算法設計任務；要求學生根據(jù)一個特定的數(shù)據(jù)集（如人臉識別數(shù)據(jù)集）分析其中可能存在的隱私問題和偏見的數(shù)據(jù)倫理審查任務等。應用型倫理模塊已被證明能夠在技術概念與現(xiàn)實問題之間建立聯(lián)系，提升學生的倫理規(guī)范實踐轉化的責任意識和操作能力[26]。

（二）跨學科人工智能倫理教育的推廣阻礙

跨學科所主張的嵌入式倫理模塊能夠彌合獨立人工智能倫理課程的現(xiàn)實問題，達到跨學科層次應成為人工智能倫理教育的基本要求與近期發(fā)展方向。但正如各教學大綱分析結果表明的那樣，將道德模塊嵌入技術課程開展倫理教育在當前并非主流。探索起步較晚是一方面原因，但更為關鍵的是其存在內部關系與外部保障兩個方面的阻礙，限制了嵌入式倫理模塊的開發(fā)、應用與推廣。

內部關系阻礙一方面表現(xiàn)為如何保障單個模塊的自身開展。倫理模塊的內容選擇、過程設計與實踐開展依賴專業(yè)倫理知識與教學技能，而技術教師往往缺乏正式的倫理背景或培訓，提升了倫理模塊開發(fā)與應用的難度。同時，在有限的課時量中，添加倫理模塊與保留核心課程材料之間存在緊張關系，造成時間、精力和責任等操作困難，降低了教師接納倫理模塊的意愿，盡管他們認為這很重要。內部關系阻礙另一方面表現(xiàn)為如何處理多個模塊的相互關系。實證研究初步表明，嵌入式倫理模塊的效果會隨著時間的推移而減弱，需要通過對多個模塊的反復接觸進行鞏固，但如果倫理模塊分布過于密集的話，各模塊內容之間會存在重復，導致單個模塊的邊際效益不高。這反映了嵌入式倫理模塊規(guī)模與效果的平衡問題：倫理模塊的理想數(shù)量是多少，它們在學位課程中應當怎樣分布，如何評估這些模塊的有效性？目前尚沒有針對上述開展前提性問題的系統(tǒng)性研究與共識性判斷，制約了嵌入式倫理模塊的布局與推廣。

外部保障阻礙源于嵌入式倫理模塊自身的跨學科性質。跨學科人工智能倫理教育本質上屬于資源密集型方案，其開展牽涉到多個學科領域和院系之間的協(xié)調與合作，極其依賴高校的財政與行政支持。一方面，倫理模塊開發(fā)涉及博士后與助教招聘、教職人員薪酬、設備技術支持等多個方面的投入，大學的財政支持是確保項目順利運作和高質量開展的重要因素，但當前部分高校財在跨學科、跨院系協(xié)作方面存在預算分配不均、預算結構固化、行政程序復雜等問題，較難滿足跨學科合作的支持需求。另一方面，同其他跨學科合作一樣，嵌入式倫理模塊在組建開發(fā)團隊、組織模塊開發(fā)、管理項目材料庫（包括迷你模塊和評估材料）等方面都需要高校的行政支持。同時，在一些高校，教學內容的修改需要得到課程委員會的審核與批準。而當前高校在資源分配、人事調動、績效認定、流程優(yōu)化等方面往往對此缺乏正式的制度規(guī)范或支持。

（三）跨學科人工智能倫理教育的保障措施

為促進人工智能倫理教育由多學科向跨學科躍升，提升教育效果，需要針對性解決跨學科人工智能倫理教育的內部關系阻礙與外部保障阻礙，可將以下兩個方面作為破解上述阻礙的發(fā)展方向。

針對內部關系阻礙，應針對嵌入式倫理模塊設計、應用、歸檔各個階段進行優(yōu)化與保障。設計階段，在學期開始前就應討論確定模塊倫理主題，為設計團隊和任課教師熟悉相關技術或倫理知識預留時間。同時，開展小型試點確定倫理模塊的最優(yōu)數(shù)量，如哈佛大學Embedded EthiCS計劃試點后確定納入倫理模塊的技術課程數(shù)量為每學期三到四門[27]，并通過課程教師之間的溝通協(xié)調減少各倫理模塊的內容重復。應用階段，探索適切的短期評估方法，在課前與課后對倫理模塊的有效性進行調查以及時調整教學內容。歸檔階段，“物”的方面可以建立開放訪問存儲庫，納入相對成熟的倫理模塊以供重新使用或作為未來模塊開發(fā)的參考模型，還能作為其他院系或高校的借鑒素材，降低將倫理模塊納入技術課程的推廣難度。“人”的方面則可以構建交流平臺，如歐洲聯(lián)盟人工智能（AI4EU）項目的重點工作之一便是建立供人工智能倫理教師分享經(jīng)驗的交流社區(qū)[28]。

針對外部保障阻礙，應構建跨學科人工智能倫理教育的制度保障。長期形成的學科規(guī)范塑造了不同學科內部制度的邊界性與保守性，這使得跨學科人工智能倫理教育難以自發(fā)達到穩(wěn)定狀態(tài)，需要外部制度的支持。基于跨學科人工智能倫理教育的外部保障阻礙，制度保障需要從以下四個方面入手。一是鼓勵流動的用人管理制度。以倫理模塊建構需要為引導，組建跨院系、跨學科開發(fā)團隊并設立跨學科崗位，采用“雙聘制”聘用跨學科倫理模塊開發(fā)人員，并給予傾斜政策支持其工作。二是保障學術聲譽的成果歸屬制度。根據(jù)不同學科參與者在倫理模塊開發(fā)與應用中的貢獻度及參與度制定成果分配標準，規(guī)避成果署名與學科單位歸屬問題。三是去院系化的績效獎勵制度。以倫理模塊開發(fā)團隊為單位，從團隊整體與成員兩個方面進行績效考評，并根據(jù)考評結果確定是否續(xù)聘相關個人及其團隊。四是豐富高效的財政支持制度。在高校內部財政支持的同時拓展籌款渠道以多元化資金來源，同時簡化財務審批程序，提高經(jīng)費使用及時性與靈活性。

四、超學科：人工智能倫理教育的理想境界

基于教育效果與開展難度的綜合考量，跨學科可作為當前高校人工智能倫理教育的基本要求。但需要指出，跨學科存在自身難以克服的內在局限，其并非人工智能倫理教育的最優(yōu)方案。作為跨學科人工智能倫理教育的“高級階段”，超學科人工智能倫理教育的觀念萌芽于2020年前后，雖尚未出現(xiàn)落地的整體性實踐，但其理念為塑造全新人工智能倫理教育范式、補正跨學科人工智能倫理教育內在局限、培養(yǎng)可信賴人工智能設計師勾勒了“可能性”，代表人工智能倫理教育的理想境界。

（一）為何人工智能倫理教育不應止步于跨學科

緊隨技術發(fā)展、反映社會價值、指導人員實踐是人工智能倫理的根本訴求，因而其教育必然要與現(xiàn)實世界密切關聯(lián)。跨學科人工智能倫理教育雖然對于傳授倫理知識、培養(yǎng)倫理意識、鍛煉倫理實踐能力有著可觀效果，但其因局限于學校范圍內而面臨“倫理鴻溝”（Ethical Gap）挑戰(zhàn)。倫理鴻溝指在倫理研究中，研究主體、研究內容、影響群體因所處維度不同而產生的錯位，其在跨學科人工智能倫理教育中表現(xiàn)為因“象牙塔”內生型學術模式簡化世界的復雜性導致的倫理知識差距，包括倫理知識滯后于技術發(fā)展、倫理知識對利益相關者關注不足、倫理知識對行為意愿影響有限，框定了跨學科人工智能倫理教育的發(fā)展上限。

首先是倫理知識滯后于技術發(fā)展。人工智能倫理知識與技術的聯(lián)系受制于“技術發(fā)展-倫理建構-教育轉化”傳導過程。一方面，在人工智能領域，技術與倫理之間存在明顯的“步調問題”（the Pacing Problem），即人們對倫理問題的認識與反思滯后于技術的更新迭代，導致科學技術發(fā)展與倫理規(guī)范回應之間存在時間差[29]。另一方面，人工智能倫理觀念、理論與規(guī)范轉化為供倫理模塊選擇的教育內容還需進行“知識純化”（Knowledge Purification），涉及信息的收集與篩選、加工與整合、修正與更新等多個環(huán)節(jié)，拉長了人工智能倫理價值觀訴諸教育的時間周期，這突出表現(xiàn)為目前專門的人工智能倫理教材數(shù)量嚴重不足。與醫(yī)學倫理、工程倫理相比，目前人工智能倫理僅有莫宏偉、徐立芳《人工智能倫理導論》，古天龍《人工智能倫理導論》及寶拉·博丁頓（Paula Boddington）《人工智能倫理》等為數(shù)不多的教材投入使用。

其次是倫理知識對利益相關者關注不足。人工智能倫理教育的終極目標是保障人工智能技術作為“向善”的力量持續(xù)造福人類和人類社會，這一目標實現(xiàn)與否的一項重要衡量標準便是實際受人工智能技術影響的社會群體的感受與評價。換言之，他們對于人工智能應用的倫理見解能夠為設計道德人工智能系統(tǒng)的開發(fā)人員和在社會環(huán)境中實施此類系統(tǒng)的決策者提供信息，人工智能倫理的知識構建及教育不能脫離社會利益相關者。這也與人工智能社會選擇倫理所主張的“人工智能倫理建構與傳遞應根據(jù)社會的總體觀點行事，即遵循‘一致的外推意志’（Coherent Extrapolated Volition）與‘自下而上的倫理’（Bottom-up Ethics）”觀點契合[30]。然而，嵌入式倫理模塊的整套流程，包括團隊構建、內容設計、知識傳遞等均發(fā)生于學校范圍，可能導致教育者選擇與學生理解的倫理要素無法滿足受人工智能影響群體的倫理訴求，制約技術向善目標的達成。

最后是倫理知識對行為意愿影響有限。人工智能倫理知識滯后于技術發(fā)展、對利益相關者關注不足意味著，學生進入工作崗位后必然會面臨倫理教育未曾涉及的倫理情境，此時倫理行為的作出必然依賴學生對倫理知識的解讀決策與實踐意愿，而這兩項又是嵌入式倫理模塊較難涉及的方面。解讀決策方面，道德心理學的實證研究表明，認可道德原則和擁有明確的倫理知識并不能提升應用這些原則的一致性或克服道德判斷偏見的穩(wěn)定性[31]。實踐意愿方面，“知識與道德的關系”這一道德教育的經(jīng)典元理論問題已經(jīng)表明，僅有關于倫理問題和理論的知識并不能影響行為。對五家人工智能企業(yè)研發(fā)人員的調查發(fā)現(xiàn)，雖然他們均了解人工智能倫理原則并承認其重要性，但被問及是否會在開發(fā)實踐中考慮道德時，所有調查對象的回答都是“否”[32]。總之，如果人工智能倫理教育忽視學生認知偏見、道德脫離等問題及對品格、動機與性格傾向的培養(yǎng)，將無法進一步減少人工智能實踐中的不道德行為。

（二）作為局限超越的超學科人工智能倫理教育

超學科自1972年由埃里克·詹奇（Erich Jantsch）提出概念設想后[33]，因超越傳統(tǒng)學術共同體范疇而逐漸從跨學科中分離出來，代表一種更高等級的學科交叉形式。超學科不是徹底地超越學科，亦非某種具體學科或規(guī)模龐大的超級學科，而是一種系統(tǒng)觀念影響下的，起于解決生活世界復雜問題的，反對將科學與社會、知識與實踐分裂，反對專業(yè)化、學科化導致知識的碎片化而興起的新型研究形式、知識生產方式及教育①理念[34]。與多學科、跨學科教育相比，超學科教育具有三個核心特征：（1）由橫跨多個學科和領域的復雜問題所驅動并致力于問題解決；（2）強調教育與科學、社會等領域的互補性、協(xié)同性及目標一致性合作；（3）致力于實現(xiàn)教育者之間、教育者與利益相關者之間知識的整合與擴大再生產。超學科教育“跨界合作-知識整合-解決問題”的核心特征尤其適用于人工智能倫理教育，基于這一特征構想的超學科人工智能倫理教育（如下頁圖2所示）能夠超越跨學科層次的倫理鴻溝。

超學科人工智能倫理教育起源于現(xiàn)實世界問題的多主體參與。超學科人工智能倫理教育不起始于倫理知識的系統(tǒng)闡述或倫理知識與技術課程的一對一匹配，而是諸如道德判定障礙、社會偏見刻板化、用戶數(shù)據(jù)去隱私化等現(xiàn)實倫理問題。由于起始于現(xiàn)實問題，與跨學科不同的是，超學科人工智能倫理教育不僅涉及多個學科的教育者，還涉及“人工智能行動者”（AI Actor），即“任何參與人工智能技術活動或受其影響的實體”[35]，包括公眾、技術企業(yè)、政府、非政府組織等群體，他們有著自己的經(jīng)驗、訴求和價值觀，并以自己的方式影響著人工智能倫理的認識、研究與發(fā)展。基于此，超學科人工智能倫理教育指代一種教育過程的集體或群體參與程序，通過有序協(xié)同機制將現(xiàn)實倫理問題涉及的人工智能行動者們進行整合。學生將與他們一同探索教育內容與培養(yǎng)方案，并在培養(yǎng)過程中受其共同指導。教育場域亦不再局限于傳統(tǒng)課程范圍，而是學校、企業(yè)、社會乃至學生日常生活環(huán)境綜合的超學科教育場域。

超學科人工智能倫理教育聚焦于多主體參與下的知識整合。多主體參與的知識整合旨在形成系統(tǒng)、完整的人工智能倫理知識視圖，最大化地滿足各利益相關者的普遍需要和特殊期望。根據(jù)埃貢·貝克爾（Egon Becker）的劃分，超學科人工智能倫理教育的知識包括系統(tǒng)知識（System Knowledge）、目標知識（Orientation Knowledge）與轉化知識（Transformation Knowledge）三類，并構成相互依賴的三角關系[36]。其中，系統(tǒng)知識指代關于當前狀態(tài)的知識，主要涉及人工智能技術的應用形式、對社會的倫理影響及在生活世界中的具體表現(xiàn)。目標知識指代關于應然狀態(tài)的知識，主要涉及各利益相關者對人工智能倫理影響的變革需求與期望目標，及對目標產生影響的價值觀念與倫理、行為規(guī)范。行動知識指代實現(xiàn)由當前狀態(tài)發(fā)展至目標狀態(tài)的知識，主要涉及消解人工智能倫理問題或引入所期望實踐與變革的技術、法律手段、社會手段等。知識整合則通過不同利益相關者的知識共享、觀點交流和思想碰撞的“超學科教學法”（Transdisciplinary Pedagogy）實現(xiàn)。

超學科人工智能倫理教育實現(xiàn)于整合知識的內化與現(xiàn)實問題的解決。超學科人工智能倫理知識屬于“回歸主體的知識”（巴薩拉布·尼科萊斯庫稱之為“體內知識”），其整合后并不以學科知識的形式出現(xiàn)，而是直接內化于教育對象用以解決實際問題。對此，帕布羅·蒂加尼（Pablo Tigani）形象地指出，“超學科是將多種科學匯入在一個人身上的藝術，這個人將廣泛知識領域交織為一體，旨在解決復雜問題。因此，超學科決策者所做出的決策唯一具有全局視野，他們致力于制定問題的綜合解決方案，以確保不遺漏任何重要線索”[37]。需要注意的是，相較于以牛頓模式為代表的第一種知識生產方式，超學科人工智能倫理教育的知識整合屬于邁克爾·吉本斯（Michael Gibbons）所指的第二種知識生產方式，這種方式及其生產的倫理知識以解決問題為導向，是與背景有關的、發(fā)明的、折中的和短暫的[38]。因此，超學科人工智能倫理教育并非一役之勞，而是“整合-內化-再整合”的循環(huán)過程，它隨著當前問題的解決情況評價與改進、技術的發(fā)展與應用、新問題的產生、政策的變革、社會的認識轉變等持續(xù)開展。

（三）超學科人工智能倫理教育的達成路徑

超學科人工智能倫理教育的落地建立在實現(xiàn)知識整合、知識內化、效果評價三個關鍵方面的基礎之上，其中任一方面的實現(xiàn)均存在極大的理論或實踐難度，這也是將跨學科而非超學科定位為人工智能倫理教育基本要求的直接原因。這也說明人工智能倫理教育由多學科、跨學科向超學科轉變，不可能一蹴而就，其構建與落地還需逐步、務實地思量。

知識整合方面，需要構建可持續(xù)的多主體合作模式。超學科知識整合效果取決于與利益相關者的合作程度[39]，涉及兩個關鍵點。一是要構建具有可操作性的知識整合架構。超學科人工智能利益相關者的聚合不具備自發(fā)性，需要設立共同目標、建立有效溝通渠道、制定協(xié)作機制等措施促進。同時，知識整合是一個持續(xù)的過程，這需要明確其發(fā)生場域與開展周期，超越以課程為中心的倫理教育模式。二是要打破學科與學科之間、學科與社會之間的知識壁壘。即便各利益相關者之間具有知識整合的共同愿景，仍會因術語概念與關注點差異等情況產生誤解或形成壁壘。如“隱私”在各利益相關者處存在側重，技術從業(yè)者關注加密技術、數(shù)據(jù)匿名化和其他安全措施的應用，倫理學研究者注重隱私權作為基本倫理原則的內涵及重要性，公眾則更多地將隱私與個人信息泄露、數(shù)據(jù)濫用及監(jiān)控侵權等現(xiàn)實問題相關聯(lián)。這就需要在考慮專業(yè)人士和非專業(yè)人士的實際能力、尊重其各自知識儲備的基礎上構建統(tǒng)一的人工智能倫理話語體系。

知識內化方面，需要構建提升學生內在動力的教育模式。內在動力是指脫身于十二項“技術美德”[40]（Technomoral Virtue）的“人工智能美德”（AI Virtue）。目前國際認可度較高的人工智能美德要素由德國倫理學家蒂洛·哈根多夫（Thilo Hagendorff）于2022年提出，包括正義（Justice）、誠實（Honesty）、責任（Responsibility）、關懷（Care）四項①。作為內在動力的人工智能美德指代一種性格傾向，當其被人工智能從業(yè)者內化時，這種性格傾向會內在激勵他們在行動中“自動”地執(zhí)行倫理價值觀所要求的事項[41]。例如，一個正義的人會“自動地”構建不歧視任何群體的人工智能應用，且不受外部因素的影響；一個誠實的人會公開錯誤，不隱瞞技術缺陷，使設計的人工智能易于理解和解釋。從培養(yǎng)方式來看，美德形成于個體的生活世界，依賴于習慣性的、重復的行為實踐與反思性的自我審視，涉及劃分日常行為、強調道德行為、意識到角色多樣性、將微事件與“大局”聯(lián)系四個方面。為此，可采取“確定美德類目與操作思路-將美德培育嵌入技術課程-明確課程美德培育的設計、開展與評估環(huán)節(jié)”這一宏觀、中觀、微觀貫通的人工智能美德培育方略。

效果評價方面，需要構建過程與內容明確的評價模式。朱莉·克萊因（Julie Klein）提出過超學科評價的七項一般原則，超學科人工智能倫理教育應重點落實其中“在全面系統(tǒng)中迭代”與“有效性與影響力”原則，分別指涉過程與內容。過程上，不同于現(xiàn)有人工智能倫理教育論文撰寫、書面考試、項目設計的總結性評價，超學科人工智能倫理教育應采用伴隨整個教育過程的形成性評價并至少包含知識整合、知識內化、問題解決三個評價方面。同時，評價并非一次性的，需要在倫理教育過程中多次反復，并在各評價結果中不斷比較。內容上，由于評價目標、評價主體以及評價過程差異很大，超學科人工智能倫理教育無法像現(xiàn)有評價一樣制定單一、嚴格的評價指標與評價標準，而是要根據(jù)教育環(huán)節(jié)的變化選擇不同的評價內容。如知識整合環(huán)節(jié)關注學生、研究者、公眾等知識主體的參與程度與參與效果，知識內化環(huán)節(jié)側重于學生對整合知識的理解、掌握與運用情況。相對而言，效果評價是難點環(huán)節(jié)，因為超學科人工智能倫理教育的社會影響具有滯后性。為此，可參考馬丁·巴克斯頓（Martin Buxton）的回報框架與杰克·斯帕本（Jack Spaapen）的“生成性”互動框架等宏觀超學科協(xié)作影響力評價框架進行提前布局。

參考文獻：

[1][6][17] 教研司[2022]6號.關于印發(fā)《人工智能領域研究生指導性培養(yǎng)方案（試行）》的通知[Z].

[2][8] 林健，鄭麗娜.美國人工智能專業(yè)發(fā)展分析及對新興工科專業(yè)建設的啟示[J].高等工程教育研究，2020，（4）：20-33.

[3][7] 鄭雅倩，田芬.法國人工智能時代高等教育改革新趨勢——基于馬克龍政府“國家人工智能戰(zhàn)略”系列文本的分析[J].比較教育研究，2023，45（7）：14-24.

[4][14] Garrett N，Beard N，F(xiàn)iesler C.More than “If Time Allows” the role of ethics in AI education [A].Markham A.Proceedings of the AAAI/ACM Conference on AI， Ethics， and Society [C].New York：ACM，2020.272-278.

[5][20][15] Raji I D，Scheuerman M K，Amironesei R.You can’t sit with us：Exclusionary pedagogy in ai ethics education [A].Isaac W. Proceedings of the 2021 ACM conference on fairness， accountability，and transparency [C].New York：ACM，2021.515-525.

[9][12] Rosenfield P L.The potential of transdisciplinary research for sustaining and extending linkages between the health and social sciences [J].Social science medicine，1992，35（11）：1343-1357.

[10][18] Goetze T S.Integrating Ethics into Computer Science Education：Multi-， Inter-，and Transdisciplinary Approaches [A].Doyle M.Proceedings of the 54th ACM Technical Symposium on Computer Science Education [C].New York：ACM，2023. 645-651.

[11][22] 王雁，徐強，尹學鋒.從多學科到超學科：學科交叉的生長邏輯和實踐路徑[J].高等工程教育研究，2024，（1）：99-105+137.

[13] Goodwin A，Chittle L，et al.Taking stock and effecting change： curriculum evaluation through a review of course syllabi [J].Assessment Evaluation in Higher Education，2018，43（6）：855-866.

[16] Javed R T，Nasir O，et al.Get out of the BAG！ Silos in AI ethics education：unsupervised topic modeling analysis of global AI curricula [J]. Journal of Artificial Intelligence Research，2022，73（1）：933-965.

[19] Saltz J，Skirpan M，et al.Integrating ethics within machine learning courses [J].ACM Transactions on Computing Education（TOCE），2019，19（4）：1-26.

[21] Martin C D，Huff C，et al.Implementing a tenth strand in the CS curriculum [J].Communications of the ACM，1996，39（12）：75-84.

[23] Horton D，Liu D，et al.Is more better when embedding ethics in CS courses [A].Doyle M. Proceedings of the 54th ACM Technical Symposium on Computer Science Education [C].New York：ACM，2023.652-658.

[24][26] Brown N，South K，Wiese E S.The shortest path to ethics in AI：An integrated assignment where human concerns guide technical decisions [A]. Vahrenhold J.Proceedings of the 2022 ACM Conference on International Computing Education Research [C].New York：ACM，2022.344-355.

[25] Brown N，South K，et al.Designing Ethically Integrated Assignments：It’s Harder Than it Looks [A].Fisler K.Proceedings of the 2023 ACM Conference on International Computing Education [C].New York：ACM，2023.177-190.

[27] Grosz B J，Grant D G，et al.Embedded EthiCS：integrating ethics across CS education [J].Communications of the ACM，2019，62（8）：54-61.

[28] Stavrakakis I，Gordon D，et al.The teaching of computer ethics on computer science and related degree programmes.a European survey [J]. International Journal of Ethics Education，2022，7（1）：101-129.

[29] 白鈞溢.國際教育人工智能倫理框架研究的回顧與鏡鑒[J].清華大學教育研究，2024，45（2）：50-59.

[30] Baum S D.Social choice ethics in artificial intelligence [J].Ai Society，2020，35（1）：165-176.

[31] Schwitzgebel E，Cushman F.Expertise in moral reasoning Order effects on moral judgment in professional philosophers and non‐philosophers [J]. Mind Language，2012，27（2）：135-153.

[32] Vakkuri V，Kemell K K，et al.Ethically Aligned Design of Autonomous Systems：Industry Viewpoint and an Empirical Study [J].Electronic Journal of Business Ethics and Organization Studies，2022，27（1）：4-15.

[33] Jantsch E. Inter-and transdisciplinary university：A systems approach to education and innovation [J].Higher education，1972，1（1）：7-37.

[34] 趙奎英.“新文科”“超學科”與“共同體”——面向解決生活世界復雜問題的研究與教育[J].南京社會科學，2020，（7）：130-135.

[35] 薛桂波，趙建波.從“應當”到“是”：人工智能倫理規(guī)范實踐策略探析[J].自然辯證法研究，2023，39（1）：88-96.

[36] 蔣穎.超學科研究評價：理論與方法[J].國外社會科學，2021，（4）：128-139+161.

[37] 王小棟，苑大勇.跨越學科認知邊界：超學科的理念表征與現(xiàn)實適用[J].比較教育學報，2022，（2）：131-146.

[38] Gibbons M，Limoges C，et al.The New Production of Knowledge：The Dynamics of Science and Research in Contemporary Societies [M]. London：Sage Publications，1994.1-16.

[39] Meyer J，Mader M，et al.Training sessions fostering transdisciplinary collaboration for sustainable development：Albania and Kosovo case studies [J].International Journal of Sustainability in Higher Education，2017，18（5）：738-757.

[40] Vallor S.Technology and the virtues：A philosophical guide to a future worth wanting [M].Oxford：Oxford University Press，2016.120.

[41] 白鈞溢，于偉.教育人工智能倫理原則的有限性及其補正——兼論“原則-美德-法律”框架[J].中國電化教育，2024，（2）：23-31.

作者簡介：

白鈞溢：在讀博士，研究方向為教育哲學。

于偉：教授，東北師范大學率性教育研究中心主任，研究方向為教育哲學。

Triple Realm of Artificial Intelligence Ethics Education

Bai Junyi， Yu Wei

Faculty of Education， Northeast Normal University， Changchun 130024， Jilin

Abstract： Artificial intelligence talents play a crucial role in the cultivation of new talents in the digital intelligence era， and ethical education is a critical component of nurturing these talents， yet there is currently no clear grasp on the directional issue of “understanding and evaluation”in artificial intelligence ethics education. Based on the interdisciplinary nature of artificial intelligence ethics， the degree of interdisciplinarity can provide theoretical perspectives for clarifying the “is” and “should be” of artificial intelligence ethics education. According to the degree of interdisciplinary crossing， artificial intelligence ethics education can be divided into three types： multidisciplinary， interdisciplinary， and transdisciplinary. The multidisciplinary type represented by independent ethics courses is the mainstream form of current artificial intelligence ethics education， representing the practical realm of artificial intelligence ethics education. The interdisciplinary type represented by embedded ethics modules advocates integrating ethics education into technical courses， bridging the gap in educational goal achievement seen in the multidisciplinary type， representing the developmental realm of artificial intelligence ethics education. Although the transdisciplinary type has not yet been implemented， its core characteristics of “cross-border collaboration - knowledge integration - problem solving” can break through the effectiveness limit of the interdisciplinary type， representing the ideal realm of artificial intelligence ethics education. Based on a comprehensive consideration of educational effectiveness and implementation difficulty， artificial intelligence ethics education should have achieving interdisciplinary levels as a basic requirement and explore paths to achieve transdisciplinary levels on this basis.

Keywords： AI ethics； AI ethics education； multidisciplinary； interdisciplinary； transdisciplinary

收稿日期：2024年11月29日

責任編輯：宋靈青

① 近年來，國內外各大高校紛紛開設“人工智能”專業(yè)或“人工智能+X”專業(yè)。截至2022年，我國已有499所院校獲得建設人工智能本科專業(yè)的資格。

① 此處的“教學大綱”是Syllabus一詞的中譯，源自希臘語Syllibos，指代具體課程開展的結構化與官方性文本。這不同于我國“指導教學活動及教材編寫的綱領性文件”的教學大綱概念。為進行區(qū)分，我國學者亦將Syllabus譯作“課程實施大綱”。

① 早在1979年，美國哲學家約瑟夫·科克爾曼斯（Joseph Koevermans）便將超學科定位于科學技術的哲學和教育維度，并致力于使教育和研究更具社會相關性。參見Hadorn，Gertrude Hirsch，et al.，eds. Handbook of transdisciplinary research [M].Dordrecht：Springer，2008.400.

① 美德是“穩(wěn)定、深刻和持久的性格的集合，這些性格定義了我們是誰，并塑造了我們典型的思考、感覺和行為方式”，因此，并不存在單獨指涉特定領域的人工智能美德，之所以強調上述幾種美德，是因為它們是激發(fā)個人踐行超學科人工智能倫理知識的動力，而適用于人工智能倫理領域。