我國人工智能倫理教育的缺失及對策

（中國科學技術大學人文與社會科學學院）

一、導 言

新興科技發(fā)展引發(fā)了諸多倫理、法律和社會問題。倫理是未來科學技術發(fā)展的一個重要組成部分，需將其嵌入科技發(fā)展議程之中，對從事基礎研究、技術開發(fā)和應用的各類人員提出建議和要求。而如何使他們關注、接受和實踐這樣一些倫理原則和規(guī)范？無疑，倫理教育是其中至關重要的工作。倫理教育已經(jīng)成為科學教育的重要內(nèi)容，在理學類、工學類、農(nóng)學類、醫(yī)學類等專業(yè)課程中，科學倫理、工程倫理、生態(tài)環(huán)境倫理、生命倫理、醫(yī)學倫理等倫理教育一般被作為人才培養(yǎng)的重要部分。

以人工智能為例，2006 年以來，隨著以深度學習為代表的機器學習算法在機器視覺和語音識別等領域取得極大成功，人工智能迎來快速發(fā)展期。與此同時，人工智能尚處于初期發(fā)展階段，安全、倫理、隱私的政策、法律和標準問題值得關注，不僅關系到領域的持續(xù)健康發(fā)展，也直接影響社會與人工智能工具交互經(jīng)驗中對人工智能技術的信任。隨著人工智能的大力發(fā)展，各個國家在制定人工智能發(fā)展戰(zhàn)略時，也紛紛提出了人工智能發(fā)展應該遵循的倫理原則和規(guī)范。人工智能原則和規(guī)范的普及和實踐的一項重要工作，是推進人工智能倫理教育。國外高校較早便開展了這方面的工作。根據(jù)對國外目前100 多項人工智能相關的倫理課程統(tǒng)計，其主要內(nèi)容有以下幾個主題：法律與政策、隱私與監(jiān)控、哲學、AI 與算法等，橫跨了人工智能的科研和應用領域，并且較為完整地覆蓋了人工智能的各類倫理問題[1]。

相比之下，我國高校人工智能倫理教育發(fā)展較緩，與國家人工智能快速發(fā)展的局面和形勢難以相襯。2020 年3 月國家決定推行“新基建”，其中人工智能相關的建設被列入重點推進計劃之中。以往只是存在于局部的人工智能倫理問題可能逐步發(fā)展為全局性問題。2020 年人工智能被列入教育部2020 年度研究生擴招的重點專業(yè)。人工智能相關人才的培養(yǎng)將會是這一政策的重點，而作為人工智能教育中重要一環(huán)的倫理教育，其重要性也將日益凸顯。加強學校教育在人工智能倫理方面的投入，提高學生對人工智能倫理的關注度和認知度，顯然對于我國人工智能未來人才的培養(yǎng)具有積極的作用。但目前，我國高校人工智能教育還面臨著許多問題，亟待研究和解決。

二、我國高校人工智能倫理教育現(xiàn)狀

隨著我國人工智能領域的快速發(fā)展，人工智能倫理教育日益成為一個值得特別關注的問題。“高校在上馬人工智能專業(yè)、規(guī)劃其課程的同時，應有意識地納入人工智能倫理道德課程的學分和學時，為未來的人工智能專業(yè)人才把好舵”[2]。可以說，高校對推進人工智能倫理教育已有一定的認識，但相比于生命科學、醫(yī)學等學科，人工智能的倫理課程建設明顯滯后，教育方式與人才培養(yǎng)模式不符，高校人工智能教育難以覆蓋人工智能研發(fā)人才培養(yǎng)和人工智能產(chǎn)業(yè)發(fā)展需求。

據(jù)教育部2020 年3 月公布的2019 年度普通高等學校本科專業(yè)備案和審批結果顯示，180 所高校新增了“人工智能”專業(yè)[3]。但是除了北京大學、中國科學院大學、浙江大學、西安交通大學等少數(shù)高校以外[4]，國內(nèi)目前相關的人工智能倫理類課程較少，而這導致了專業(yè)學習人數(shù)增加和倫理課程數(shù)量呈現(xiàn)出明顯的斷層，少量的課程并不能滿足不斷增長的學生數(shù)量。

與生命倫理、醫(yī)學倫理、工程倫理相比，人工智能倫理缺乏規(guī)范化的教材，這使得教學人員在大多數(shù)情況下需要自編教材，從而缺乏對人工智能專業(yè)學生進行統(tǒng)一的、規(guī)范的倫理教育。另外，由于案例庫的缺乏，也需要教學人員自尋案例，但由于倫理問題的可解釋性空間較大，可能存在同一案例的不同解釋，這對于形成一般性的對人工智能倫理問題的一致性認知是不利的。

由于上述問題的存在，高校人工智能教學和研究從業(yè)人員存在較為嚴重的對倫理問題認識不充分的情況，同時對于如何將倫理理論與實踐結合依然存在大面積的認知空白。

人工智能的發(fā)展存在諸多不確定性因素，可能對法律系統(tǒng)、社會倫理、國際關系等造成巨大的不可控的影響。增強對這些問題的認知同時擴大倫理教育在人工智能人才培養(yǎng)中的影響，將有助于防范不可控的消極后果，避免走“先污染后治理”的老路。

三、國外高校人工智能倫理教育概觀

相比較而言，國外高校目前人工智能倫理課程開設大學多、系所多、主題多，在課程設計等方面有不少可借鑒之處。在2020 年美國第51 屆ACM 計算機科學教育技術研討會[1]上，來自科羅拉多大學博爾德分校和馬里蘭大學的研究人員對國際上的技術倫理課程發(fā)表了一份報告，其中對高校開設人工智能相關課程進行了統(tǒng)計分析。目前國際上已經(jīng)有90 多所高校開設了與人工智能相關的倫理課程，其中美國大學開設的數(shù)量最多。同時開設相關課程的系所呈現(xiàn)多樣化，不僅有傳統(tǒng)的計算機系開設相關的課程，比如斯坦福大學、伯克利大學等等；亦有哲學系、歷史系、法律系、經(jīng)濟學系開設相關課程等等，比如愛丁堡大學、喬治敦大學等等。除此以外，在課程內(nèi)容上，也呈現(xiàn)出多樣化的特征，涵蓋了法律與政策、隱私與監(jiān)控、哲學、AI 與算法、社會與環(huán)境影響、商業(yè)與經(jīng)濟、科研倫理等多個話題[1]。

在專業(yè)化和規(guī)范化的人工智能倫理教育上，針對與實踐相結合，培養(yǎng)人工智能研發(fā)人才，應對產(chǎn)業(yè)發(fā)展需求，目前國外有兩種教學方式非常有借鑒意義。這兩類教學方法可以使AI 專業(yè)學生從學習階段就開始識別和解決倫理問題，并且可以讓學生對倫理理論在實踐上形成較為直觀的認知，從而推動學生在倫理認知上的深入。同時，將理論和實踐相結合，將能為學生提供識別、面對和處理倫理問題的寶貴經(jīng)驗，使得其在踏上工作崗位之前已經(jīng)具備了一定的處理倫理問題的經(jīng)驗。

1.嵌入式倫理教學

嵌入式倫理學（Embedded EthiCS）是一種將倫理學融入計算機科學教育的新方法，與以往大課類型或者單獨設立的倫理課程不同，嵌入式倫理教學方法嘗試將自身與原有課程相融合，從而使學生可以在學習特定技術的課程時，同時學習由該技術造成的相關倫理問題。它將有效地促進學生在學習階段養(yǎng)成倫理思考的習慣，并在將來的工作中依然能夠有良好的倫理考量，同時它能夠在避免開新課的同時滿足學生對倫理考量的需求[5]。目前哈佛大學的計算機科學課程已經(jīng)采用了此方法（見表1）[5]。

根據(jù)嵌入式倫理，每門課程都有一名助教，一般是哲學領域的博士生或博士后并且具有很強的倫理學知識和豐富的教學經(jīng)驗。助教與教師課程負責人合作設計一個倫理模塊，讓學生通過特殊的問題獲得進行倫理思考的實際能力。這些小模塊旨在為學生提供三項核心道德推理技能：識別和預測計算機技術開發(fā)和使用過程中的道德問題的能力；單獨或與他人合作對這些問題和潛在解決方案進行推理的能力，運用道德哲學中的概念和原則；以及有效溝通他們對解決這些問題的理解和方法的能力。這些單元強調(diào)“主動學習”活動和作業(yè)，教學生將所學的哲學思想應用到具體的、現(xiàn)實的道德問題中，如最近的道德教育研究所建議的那樣。它們旨在幫助學生在上下文中鍛煉他們新近獲得的倫理推理技能[5]。

表 1 哈佛大學計算機科學課程[5]

2.模擬倫理實驗方法

一般實驗是自然科學類學生較為普遍采用的教學方法之一，而這也能夠給予當前的AI 倫理教學以一種新的視角，即如何將倫理思想與自然科學教學緊密結合起來。模擬倫理實驗要求學生能夠?qū)⑻囟ǖ膫惱碛^點植入到某項實驗作品的制作中，同時通過積極的反饋給與對該項作品以倫理上的評價，使得學生能夠通過一項具體的實驗完成倫理理論與實際應用的結合。

以微軟AI 學校（Microsoft AI School）為例，它設計了一個負責任的會話AI（Responsible Conversational AI）實驗，通過給出一系列背景知識（諸如一般的利益相關者）以及需要注意的責任命令（Responsibility imperatives），讓學生去設計一種能夠會話的AI，同時通過考核該AI 的可靠性、易用性以及可能帶來的（負面）后果，讓學生去理解何為責任及相關的倫理原則[6]。

在上述兩種教學方法之外，國外也采用諸如游戲教學、沉浸式劇場等方式對學生進行倫理教育[1]，這些教育方式都可以在很大程度上加強學生對人工智能倫理問題及其后果的認知，修補其知識系統(tǒng)內(nèi)可能存在的對人工智能理解上的漏洞，并且能夠有效提升學生對倫理問題的意識與警覺性。

四、加強我國高校人工智能倫理教育的建議

目前國內(nèi)的教學方法多以大課講授+討論組成[7]，這對于人工智能發(fā)展和我國人工智能戰(zhàn)略發(fā)展是不夠的。我們需要提高人工智能的倫理教育水準，培養(yǎng)優(yōu)秀的、具備高道德水平的人工智能人才。這就需要不斷加快課程設計，加速推進人工智能倫理課程的設立，提升學生理論聯(lián)系實際的能力，推進人工智能倫理的技能化訓練進程。針對當前我國高校人工智能倫理教育，可以從以下幾個方面入手：

（1）人工智能倫理教材的規(guī)范化。推進統(tǒng)一化教材的編寫工作，同時加強對教學人員的培訓，提高倫理課程的質(zhì)量與深度。由于倫理問題涉及到多個學科，需要加強學科間的交叉合作與研究。目前人工智能倫理涉及到哲學、法律、經(jīng)濟等多個學科領域，在豐富對AI 倫理問題認知的同時，必須加強多學科合作教學。

（2）高校人工智能倫理應聚焦學生的實踐需求，加強對學生未來可能直接涉及的實踐中的倫理問題的教學，借鑒國外人工智能倫理教學方法，探索實踐新的教學方法，在提高學生倫理意識的同時，加速推進理論與實踐的深度結合，避免出現(xiàn)理論與實踐脫節(jié)的狀況[8]。

（3）人工智能倫理教育需高校與企業(yè)聯(lián)手共育。目前國內(nèi)和國際上許多企業(yè)已經(jīng)成立了人工智能倫理相關委員會或者制訂了倫理準則。企業(yè)在人工智能倫理實踐中積累的經(jīng)驗能夠?qū)Ω咝５膫惱砝碚摻虒W形成增益性補充，同時加快學生從倫理思考轉(zhuǎn)向倫理應用的過程，推動產(chǎn)學研一體化。

（4）對標國際和領域發(fā)展，同時關注中國的人工智能倫理問題。人工智能是一個快速發(fā)展的領域，這是新興科技的顯著特征。教學上需要跟蹤人工智能領域的最新進展和倫理問題，關注國際上的倫理討論焦點。倫理問題有在地化（localization）特點，且具有強應用性，需要關注中國人工智能突出的倫理問題和應對思路，使人工智能倫理課程更能符合中國的實踐。除此以外，由于倫理準則存在相對性，這將導致人工智能實踐存在區(qū)域差異，需要在教學中予以強調(diào)，以此提高學生對倫理準則的敏感性。