以智能為核心搭建一個思考德育的新框架

摘 要智能時代所代表的第四次工業革命與歷次工業革命的不同在于它將實現智能的大規模生產，將帶來我們思考道德和道德教育的新的邏輯起點和思考框架。智能機器正在成為在人類、其他智慧生物和超自然存在之外的新道德主體、道德客體和道德代理，我們需要以“智能”為核心重構新型人機關系，基于“智能”的維度重新定義道德和道德教育，將我們的道德關懷擴展到更具包涵力的“智能體”，并以此為框架思考道德原則。基于“智能”的新維度構建新的個人和智能體之間的關系倫理，創新道德教育體系。

關鍵詞 智能時代；人機關系；機器伙伴；道德教育體系

作者簡介 譚維智，曲阜師范大學中國教育大數據研究院院長，教授、博士生導師

今天我們討論“智能時代德育數字化”問題，當我們說“智能時代”，以“智能”界定一個時代，這到底意味著什么？智能時代所代表的第四次工業革命與之前歷次工業革命的極大不同在于，它不同于第一次工業革命的蒸汽機和機械生產、第二次工業革命的電子和交流電生產、第三次工業革命的軟件生產，這一次的劃時代性革命在于它將實現智能的大規模生產。這不僅僅是一種時代的劃分或者技術演進的劃分，對教育研究、特別是德育研究來說，是一個思考問題的邏輯起點、一個決定研究框架的奠基性概念。與歷次工業革命相比，它將對教育產生更為深遠的影響。在農耕時代、工業時代，我們思考道德、思考道德教育的邏輯起點是“人”，以“人”為核心構建思考道德問題的框架，涉及的是人與自我、人與他人、人與社會的關系。以“人”為中心構建起來的道德理論或模型已無法解釋人機共生共存環境下復雜的道德問題。今天我們思考道德問題要從“智能”入手搭建新的思考框架，將碳基生命的人和其他智慧生物，以及硅基生命的智能機器納入一個共同的、更具包容性的框架之內來思考，從“智能”的維度定義倫理關系、思考道德教育。

一、以智能為核心重新闡釋人機關系

智能不是一種孤立的、單項的能力，智能是多維的、差異化、個性化的，它包含多種成分。作為人工智能的研究對象，智能的反映、知識、感性、理性、符號等都不是單獨發揮作用的。我們的生存圈存在著不同的智能，人和各種智慧生物，以及人類創造的人工智能都是智能體。隨著科技發展和人類認知能力的提升，智能生命的譜系會變得越來越寬泛、復雜多樣?？焖侔l展的人工智能給人類的存在和價值觀帶來了諸多新的挑戰，人類的存在究竟有何獨特意義？我們如何確保人類的下一代延續當代的價值觀？我們如何確保人類所創造出的“新生命”善待彼此和我們？如何判斷哪些我們所創造出來的智能體具備了真正的理解能力、責任感和道德觀念？這些都是在傳統的以人為中心構建的倫理體系下無法解釋的新現象、新問題，隨著人工智能創建的內容充斥互聯網，我們還將面臨更多的道德困境。我們不應以既有的思維方式解決新的知識生產方式下的道德問題。更長遠地看，我們不應該過度專注于當前的技術以及它可能對我們造成的影響，而是更應該關注對人類本質和未來發展的定位。

人工智能就像是人生產的電能、核能、風能一樣，是用人工的方式、用機器制造出的“智能”，是操控、驅動工具，比工具更為根本、更上位的為工具和機器提供動力和能量的工具。按照智能在驅動工具的過程中所發揮的作用可以將人機關系的演變分為農業時代、工業時代和智能時代三個時期。

農業時代的工具既需要人以自身體力提供動力也需要人提供智能，這個時期的人機關系主要表現為人類智能和體力對工具的直接驅動，工具的價值在于借用自然界的物質結構放大了人所能提供的體力。工業時代，蒸汽機、電的發明使機器從需要人力驅動的工具演化為可以替代人的體力的動力工具，機器雖然有了機械動力但是沒有智能、不會思維，仍然需要人的智能驅動，這個時期的人機關系主要表現為人類智能對機器（動力工具）的驅動，機器工具的價值在于對人的體力的延伸和替代。智能時代是一個“用機器人來體外延伸人類智力并滲透進動力工具的時代”。智能從人類身體中釋放到體外，被俘獲或者封裝進動力工具中，與工業時代的動力機器相比，智能機器自身具有了一定智能而成為智能驅動的做類腦工作的機器，智能機器的價值在于對人類智能的延伸和替代。

人工智能開創性地使機器具有了智能，也帶來了人機關系的革命性變化。機器智能可以通過學習和接受教育脫離對人的智能的依賴而獲得獨立性和自主性，由此人與機器之間的溝通與聯系將發生一種全新的變化，馬克思、海德格爾、唐·伊德等人關于“人類身體的延伸”“上手”“具身”等人機關系模型已經不能解釋全新的人機關系。機器智能成為與人類智能并行的離身智能，可以離開人的身體而獨立運作，智能機器成為不再需要依賴于人的工具，人工智能也不再是馬克思和麥克盧漢意義上的“人體器官的延伸”。人工智能進入了一個與伊德的技術具身和工具具身完全不同的發展階段，人第一次與技術達成離身關系。人工智能不再是人腦的延伸，它獲得了獨立自主性，從而可以斷開與人的智能、人的思維的聯系而獨立運行。

二、基于智能的維度重新定義道德

人工智能正在對教育產生重大影響。但是我們對人工智能在道德教育領域的研討，還停留在“工具”思維、工具視角的層面，主要關注如何應對人工智能工具削弱主體、去中心化、信息繭房、碎片傳播等問題和挑戰，關注人工智能工具的使用是否合乎道德，以及其工具價值的發揮。從智能的維度，人工智能更可以作為人的學習伙伴、一個道德學習者，智能時代使學習者可以通過教他者（智能機器）而學習道德。我們更應該超越工具思維，關注智能機器正在或未來所可能承擔的道德角色。這就是，智能機器正在成為在人類、其他智慧生物和超自然存在之外的新道德主體、道德客體和道德代理。它能夠做出影響人類客體結果的決策，或在無人監督下解決道德困境，其行為也可能受到人類決策的影響，人類主體和客體可將其派遣為代表參與道德互動。我們需要在新的框架下展開對人類與智能機器互動時所產生的道德問題的思考。在線機器人教師、人工智能輔助教學以及在教育治理方面的應用，都引發了關于信任、偏見和價值取向的重要道德問題。我們應該如何對待它們？它們將如何對待我們？它們會如何改變我們彼此之間的相處方式？作為道德主體，機器被隱含或明確地賦予了教育過程中道德決策的責任，我們應該如何使人工智能驅動的決策與人類價值觀保持一致？作為道德客體，機器成為人類道德行為的對象，無論是合作還是競爭、同情還是惡意，我們應該如何與人工智能進行合作？在道德代理的角色中，可以用機器在人們對待同胞人類的行為中充當道德中介，人們應該如何利用機器來美化或執行他們的道德意志？

面對智能時代的道德困境，我們需要基于智能的視角重新界定“道德”，將道德納入智能的范疇之中。無論是人類、還是其他智慧生物，或者是人類創造出來的智能體，無論其智能源自何處，我們都可以在智能的維度下發現一些具有穩定性、普遍性的特征。從智能的視角看不同的生命體，生命是一個對我們的身體和外部環境不斷建構意義的過程。人類的演化就是一個智能不斷升級的過程。我們需要不斷從關于過去的記憶結構中重建有關世界和我們自己的新解釋，以最適合當前環境的方式解讀大腦和身體中留下的各種信息。這種記憶和解釋的可變性或者可塑性，正是發生在生成式人工智能身上的所謂“幻覺”問題：人工智能會虛構事實，甚至錯誤頻出、胡說八道等等。這些都是任何智能體學習和成長過程中的正?，F象。智能的核心并不在于信息的確定性，而在于對信息的創造性重組。這些在傳統的以人為中心的道德范式中顯示出來的各種“道德”問題，可能本質上只是一個智能問題，道德問題只是智能的不同表現方式之一。未來生命體的多樣性以及人類自身演化成多種具有感知能力的智能體的可能性，需要我們重新思考人類自身在世界上的定位，重新思考我們是什么、改變意味著什么、我們未來將如何演變以及我們應該珍視什么這些存在論層面的至關重要的問題。思考“面對如此多值得進行道德考量的生命體，我們如何才能彼此關愛？構建何種智能體之間的倫理關系才能確保我們未來走在一條正確的道路上？”概言之，我們需要以“智能”為核心重新界定道德，而不是基于某種確定性或固定不變的關系去處理智能時代的道德新現象和新問題。

我們需要將我們的道德關懷擴展到更具包涵力的智能體，并以此為框架思考道德原則。在農耕時代和工業時代構建起來的與簡單機器互動的方法和原則，已經不能用來處理當下人與各種智能體之間的關系。我們需要用不同于農耕時代和工業時代的新的范式和框架取代我們古老的、以人類為中心的“物我之分”的零和智能觀，以全新的視角辨別那些與我們具備某些相同特征的具身化智能的同類，在新的智能觀和道德框架之下思考各種智能體作為智能的具身化存在的定位，思考我們如何理性地向他人和其他智能體展現同情心。人與人之間交往的道德判斷標準和德育體系，也需要適應智能時代的“智能”生產所帶來的新變化，不再依賴傳統的“自然”與“人為”的劃分或是以“物我關系”為邏輯起點構建道德關系，摒棄“只愛同類”的道德思維模式，將我們思考倫理關系、道德原則的范疇從人類圈、生物圈拓展到智能圈，將我們的善意、關懷、道德原則延伸、覆蓋到包含一切生命體、智能體等更寬廣的范疇。面對未來可能如天文數字一樣多的、人類創造出來的智能體，問“它能像人一樣思維嗎”的問題，既不能化解倫理風險，也無助于形成新的道德關系。我們需要從智能的視角切近、構建與各類智能體的關系，轉換舊的倫理體系下形成的由恐懼和自私驅動的人類中心的道德理論和模型造成的處理人機關系的思維方式。

三、基于智能的維度創新道德教育體系

既然傳統的人與人之間的倫理關系、道德關系原則已經無力引導我們處理與其他智能體之間的關系，那么就需要基于智能的新維度構建新的個人和智能體之間的關系倫理，形成與人工智能的新型合作關系。人與人工智能之間就像人與人之間一樣，需要合作、互動才能創造出更好的未來。AI不同于其他時代的機器的關鍵特征在于其自身已經具備智能，但是，這并非意味著AI將所有的問題都解決了，人只需要坐享其成就可以了。人工智能仍然需要通過與人的實時交互進行完善和成長，而不是完全依靠預訓練、預編程一次性完成。人工智能像人一樣，可能永遠是一個未完成的狀態。人需要做AI的引導者，需要準確地制定提示，引導AI生成更好的答案。人的提示或引導是對AI新的編程。人與人之間的合作實際上也是在互相編程，與合作伙伴的溝通、引導就是彼此在給對方做提示工程，彼此進行編程。對話是人類溝通的自然表達，對話過程中會不自覺地代入情感，面對AI，我們也需要用到人的各種原始情感，如果我們給AI一些積極的情感反饋，它就會給我們更好的、質量更高的答案。這是一種新的人機之間的道德關系。

人類通過模仿人的大腦生成智能的方式來運用機器生成、制造智能，人類學習和教育中的規律性也在人工智能訓練中得到體現。教育理論和教育方法在機器學習中發揮出的重要作用證明了教育學在人工智能研究中的有效性。智能機器具有了自主學習能力和自主思維之后，教育就具有了發揮更多作用的空間。智能機器接下來遇到的問題，不是語料庫的問題，也不純粹是算法、算力的問題，人工智能的下半場已經不再是依賴數據、算法、算力來解決的技術問題，而是通過教育方法來解決的教育問題。人工智能下半場是用教育人的方式來教育機器，教機器像人一樣思考，用人的思維做事，而不是以機器思維做事。對機器的教育不僅僅是知識的教育，也包括如何“賦予”機器價值觀、道德、情感等問題。人在教育機器的過程中會獲得與機器相處、如何看待機器的一系列價值觀、道德、情感，以此支配智能時代的新型人機關系，并以這種在教育機器的過程中形成的價值觀、道德、情感確立人在智能時代的地位、保持人之為人的本真，而不至于在新型人機關系中喪失自我。

道德的問題上，只能是人教機器而不是機器教人。隨著電影、電視、計算機、人工智能等的發明，人們關于技術教育應用的暢想大都是用機器替代人、替代教師，希望有一天機器會像人教育人那樣替代教師去完成對人的教育。智能機器自我意識、自主學習和自主思維能力的不斷增強，涌現出超越人類的能力之后，將進一步激發人們用機器人教師、虛擬教師、智能機器替代人類教師的“暢想”。人特別是心智尚未成熟的未成年人很難區分智能機器所表達的認知共情和人類表達的情感共情，很難分辨智能機器所表達的美丑善惡，很難判斷真假。我們需要制定限制偽裝教師或偽造教師的相關法律法規，在教育領域部署機器人教師或虛擬教師要經過一定的安全檢查。在沒有通過安全檢查和獲得批準的情況下，不能將智能機器人用于教育，不能將智能機器偽裝成教師與學生交談。我們必須清楚，教師與學生交談意味著什么，如果學生在與某位教師交談，一定要知道它是人還是人工智能，要將對學生的教育限定在人與人之間。機器教人還是人教機器，是一個具有本質差異的問題。一切教育過程的背后都或多或少地隱藏著教育者對受教育者的規訓與教化。在人機共生的智能時代，我們不能再像“工廠模式”的教育范式那樣對學習者進行規訓與教化，不能再培養學習者服從與順從的個性。避免機器對人的奴役、規訓與教化的一個重要的方式是將人置于教育者的地位，由人對機器進行教育，而不是相反。機器教人，只會導致人對機器的服從、崇拜、依賴甚至恐懼；人教機器，會讓人像熟悉家里的冰箱、空調一樣熟悉、了解、控制機器，有利于打破可能出現的對智能機器力量的崇拜、恐懼，能夠在面對智能機器的時候確保人的主體性、自主性，認清智能機器智能生產的本質原因，破除對人工智能的“暈輪認知”和權威幻象。傳統的道德教育均發生在人與人之間，教育對象、教育主體都是人。智能時代的道德教育除了發生在人與人之間外，還發生在人機之間，教育對象、教育主體從人擴展到智能機器。教育機器事關人工智能的進一步發展，未來人類如何獲得具有透明性、安全性、準確性、可靠性、可信性、客觀性、真實性、多樣性、符合倫理道德的人工智能，取決于如何教育它。賦予智能機器以道德、解決倫理問題的路徑不是代碼或算法，計算機技術無法讓人工智能擁有道德、進行價值判斷。智能機器的發展與應用所帶來的倫理問題、風險問題、學習問題需要教育學出場，這些問題是教育學的擅場。

在基于智能的新型道德教育體系中，人可以通過教一個機器他者進行道德學習。傳統的學校道德教育體系中，道德的學習者大多通過被“教”的方式進行道德學習。智能技術的快速發展，新一代人工智能具備了可交互、會學習、自成長的能力，具有了“可教性”，可以作為“機器學生”、機器伙伴進入道德教育體系。作為道德學習者的人類學生就可以同時轉換為一個機器教育者的角色，對硅基智能體進行道德教育。學生可以通過教一個機器伙伴學習道德，這種學習方式也就是《學記》中所說的“學學半”，也稱為“費曼學習法”，教他人是自己學習的一個重要方式。

責任編輯︱郭鑫超

*本文系作者根據2024年5月15日在第50期中國德育·明德講堂“智能時代德育數字化研究”所做的講座整理而成。