人工智能時(shí)代的品德評(píng)價(jià)：技術(shù)機(jī)遇、倫理風(fēng)險(xiǎn)及其規(guī)避

● 班建武

學(xué)生品德評(píng)價(jià)是德育工作的重點(diǎn)，也是難點(diǎn)。長(zhǎng)期以來(lái)，不管在理論還是在實(shí)踐領(lǐng)域，人們都高度關(guān)注品德評(píng)價(jià)的科學(xué)性和有效性問(wèn)題，并對(duì)此開展了諸多的理論研究和實(shí)踐探索。這些研究和探索在一定程度上推進(jìn)了品德評(píng)價(jià)的發(fā)展和進(jìn)步。客觀地講，不管在理論層面還是在實(shí)踐層面，學(xué)生品德評(píng)價(jià)的科學(xué)性和操作性等方面均明顯弱于其他教育教學(xué)的評(píng)價(jià)。當(dāng)前，人工智能等新興技術(shù)的不斷發(fā)展，為品德評(píng)價(jià)科學(xué)性、操作性的提高提供了前所未有的技術(shù)支持。一些地方和學(xué)校也開始嘗試采用人工智能技術(shù)來(lái)增強(qiáng)其品德評(píng)價(jià)的可靠性。但是，作為一項(xiàng)新興的品德評(píng)價(jià)工具，人工智能與品德評(píng)價(jià)相結(jié)合的技術(shù)優(yōu)勢(shì)和其中可能存在的倫理風(fēng)險(xiǎn)并未得到充分的學(xué)理性論證。如果缺乏必要的學(xué)理性分析，人工智能在品德評(píng)價(jià)中的倉(cāng)促應(yīng)用就有可能引發(fā)極大的社會(huì)爭(zhēng)議，并有可能造成諸多負(fù)面的教育后果。因此，在積極探索人工智能對(duì)于提升品德評(píng)價(jià)的技術(shù)優(yōu)勢(shì)的同時(shí)，我們也要深入研究其可能帶來(lái)的倫理風(fēng)險(xiǎn)。這樣才能更好地發(fā)揮人工智能的技術(shù)優(yōu)勢(shì)，提升品德評(píng)價(jià)的實(shí)效性。

一、品德評(píng)價(jià)的技術(shù)難點(diǎn)和倫理困境

品德由于其自身的特殊性，帶來(lái)了品德評(píng)價(jià)的困難。這些困難一方面來(lái)源于現(xiàn)有評(píng)價(jià)技術(shù)的限制，另一方面則源于品德自身的內(nèi)在倫理張力。

（一）品德評(píng)價(jià)的技術(shù)難點(diǎn)

品德評(píng)價(jià)要想有效，必須確保其所采集到的品德信息的客觀真實(shí)性。而品德與人的其他素養(yǎng)不一樣的地方就在于，它具有鮮明的情境性、內(nèi)隱性和發(fā)展性等特征，這就決定了品德信息的采集會(huì)遭遇到客觀性和真實(shí)性的現(xiàn)實(shí)挑戰(zhàn)。

1.品德表現(xiàn)具有情境性。所謂品德表現(xiàn)的情境性，主要指的是在不同情境空間中，個(gè)體在同一德目上的表現(xiàn)會(huì)有很大的不同。關(guān)于這一點(diǎn)，20 世紀(jì)美國(guó)心理學(xué)家哈桑和梅所開展的“誠(chéng)實(shí)情境測(cè)驗(yàn)”結(jié)果表明：一個(gè)人是否誠(chéng)信，主要取決于其所處的具體情境。在一個(gè)情境中表現(xiàn)為誠(chéng)實(shí)的個(gè)體，有可能在另外一個(gè)情境中就表現(xiàn)為不誠(chéng)實(shí)［1］。由此可見，品德的表現(xiàn)與特定的情境有著非常密切的關(guān)系。現(xiàn)有學(xué)生品德評(píng)價(jià)中的表現(xiàn)數(shù)據(jù)，往往只能夠采集到特定情境下的數(shù)據(jù)，而不能全面覆蓋學(xué)生在多個(gè)情境中的表現(xiàn)情況。這就使得品德評(píng)價(jià)中所采集的數(shù)據(jù)，特別容易受到情境的干擾而失真。

2.品德樣態(tài)具有穩(wěn)定性。如果說(shuō)品德表現(xiàn)的情境性更多地是從空間維度來(lái)審視品德的特點(diǎn)，那么穩(wěn)定性則主要展示的就是品德在時(shí)間上的特殊性。品德作為個(gè)體人格結(jié)構(gòu)中具有穩(wěn)定傾向的道德品質(zhì)，它不是個(gè)體道德生活中的偶然性表現(xiàn)，而是一種一以貫之的人格特征。因此，個(gè)體在特定時(shí)間中的偶然性表現(xiàn)不能夠客觀反映其真實(shí)道德狀況。要想對(duì)個(gè)體的品德狀況有客觀地把握，就必須在一個(gè)相對(duì)長(zhǎng)時(shí)段的范圍內(nèi)把握其中相對(duì)穩(wěn)定的道德特質(zhì)。這就要求品德評(píng)價(jià)不能就某一個(gè)具體時(shí)間所采集到的數(shù)據(jù)信息來(lái)作為評(píng)價(jià)其道德狀況的真實(shí)數(shù)據(jù)，而是需要從一個(gè)長(zhǎng)時(shí)段的區(qū)間來(lái)采集信息。而當(dāng)前的品德評(píng)價(jià)更多的是以某一具體時(shí)間節(jié)點(diǎn)獲取的數(shù)據(jù)來(lái)評(píng)價(jià)學(xué)生，這些基于特定時(shí)間節(jié)點(diǎn)獲取的數(shù)據(jù)并不能保證評(píng)價(jià)可以真實(shí)反映個(gè)體品德的穩(wěn)定特征。

3.品德存在具有內(nèi)隱性。品德固然表現(xiàn)為一個(gè)人外在可見的言談舉止，但是，品德這一可見的言談舉止并不必然代表一個(gè)人真實(shí)道德水平的客觀表現(xiàn)。在現(xiàn)實(shí)中，個(gè)體的品德狀況極有可能出現(xiàn)“知行脫節(jié)”或“言行不一”的情況：一個(gè)人外在的道德表現(xiàn)與其內(nèi)心真實(shí)的道德狀況并不一定一致，其外在的符合道德的表現(xiàn)也許更多的是一種道德表演。這實(shí)際上表明，一個(gè)人的品德具有非常明顯的內(nèi)隱性，其外在行為有可能符合其內(nèi)心真實(shí)道德，也有可能不符合其真實(shí)道德。同時(shí)，品德存在的內(nèi)隱性還意味著個(gè)體的品德具有“潛在”的特征，“所謂的潛在，就是尚不具備現(xiàn)實(shí)性，它也是內(nèi)在地處在實(shí)現(xiàn)過(guò)程之中的”。［2］在這種情況下，現(xiàn)有的品德評(píng)價(jià)更多的只是采集到其外在的道德表現(xiàn)，而對(duì)于其真實(shí)的、潛在的內(nèi)在道德信息卻很難獲得。

4.品德評(píng)價(jià)的社會(huì)稱許性。社會(huì)稱許性（Social Desirability，簡(jiǎn)稱SD）主要是指?jìng)€(gè)體在對(duì)自我進(jìn)行評(píng)價(jià)時(shí)，通常會(huì)以社會(huì)認(rèn)可的方式做出評(píng)價(jià)反應(yīng)的一種偏向或心向，從而使自己看起來(lái)更符合社會(huì)的期待。這一情況在品德評(píng)價(jià)中更容易出現(xiàn)。被評(píng)價(jià)者往往為了維護(hù)自我的社會(huì)形象、獲得社會(huì)認(rèn)可，而在品德評(píng)價(jià)中表現(xiàn)出明顯的社會(huì)稱許性。社會(huì)稱許性在品德評(píng)價(jià)中的存在，必然會(huì)極大地干擾評(píng)價(jià)真實(shí)信息的獲得。而現(xiàn)有的品德評(píng)價(jià)更多地是采用自我報(bào)告的方式進(jìn)行，因而很難避免社會(huì)稱許性的出現(xiàn)。

5.品德評(píng)價(jià)的主觀性。品德評(píng)價(jià)數(shù)據(jù)目前基本上是靠人來(lái)采集。雖然參與品德評(píng)價(jià)數(shù)據(jù)采集的每一個(gè)個(gè)體都會(huì)接受專業(yè)培訓(xùn)，以避免個(gè)人主觀性的影響。但是，作為活生生的人，數(shù)據(jù)采集者對(duì)于品德的理解往往會(huì)受到其閱歷、偏好、性別、文化等因素的影響。因而，在具體的品德評(píng)價(jià)過(guò)程中，數(shù)據(jù)采集者實(shí)際關(guān)注的重點(diǎn)也會(huì)有所不同。在這種情況下，雖然每個(gè)人都是按照統(tǒng)一的標(biāo)準(zhǔn)和流程來(lái)采集相關(guān)評(píng)價(jià)信息，但是，其中的個(gè)體差異性是很難完全避免的。這同樣會(huì)影響到品德數(shù)據(jù)采集的客觀性。

（二）品德評(píng)價(jià)的倫理張力

品德評(píng)價(jià)除了會(huì)遭遇以上技術(shù)難題外，還會(huì)遭遇到其他各教育評(píng)價(jià)所不會(huì)遭遇的倫理張力。總體而言，這些倫理張力主要表現(xiàn)為以下幾個(gè)方面。

1.關(guān)于“好品德”的倫理爭(zhēng)議。品德評(píng)價(jià)毫無(wú)疑問(wèn)必須建立在具有共識(shí)性的科學(xué)評(píng)價(jià)標(biāo)準(zhǔn)之上。這實(shí)際上就需要回答什么樣的品德才是“好”的品德。但是，在這一關(guān)鍵問(wèn)題上，倫理學(xué)的看法并不一致。從義務(wù)論的倫理學(xué)來(lái)看，“好”品德的標(biāo)準(zhǔn)在于一個(gè)人的善的動(dòng)機(jī)，而不是其外在行為和結(jié)果。康德就是這方面的代表人物。而效益論倫理學(xué)則認(rèn)為，“好”的品德主要指的是那些能夠?yàn)榻^大多數(shù)人帶來(lái)幸福的行為，即看重的是行為的后果，而不是個(gè)體行為的動(dòng)機(jī)。邊沁、密爾等人則是這一理論的主要倡導(dǎo)者。在德性論倫理看來(lái)，“好”品德主要是體現(xiàn)為個(gè)體的內(nèi)在品質(zhì)，而不是從個(gè)體的動(dòng)機(jī)和行為后果上去評(píng)價(jià)。這方面的代表人物是當(dāng)代倫理學(xué)家麥金太爾。由此可見，從不同的倫理學(xué)出發(fā)，人們會(huì)構(gòu)建出不同的品德評(píng)價(jià)標(biāo)準(zhǔn)。品德評(píng)價(jià)標(biāo)準(zhǔn)的這種多樣性，會(huì)給品德評(píng)價(jià)標(biāo)準(zhǔn)的構(gòu)建帶來(lái)很大的倫理挑戰(zhàn)。

2.品德評(píng)價(jià)權(quán)重分配的模糊性。關(guān)于品德的構(gòu)成要素，學(xué)界有“三要素”“四要素”“五要素”等不同認(rèn)識(shí)。但不管是何種認(rèn)識(shí)，都承認(rèn)品德至少包括認(rèn)知、情感、行為三個(gè)基本要素。總體而言，當(dāng)前的品德評(píng)價(jià)，基本上都圍繞品德的認(rèn)知、情感、行為三個(gè)基本要素進(jìn)行。從現(xiàn)有的評(píng)價(jià)技術(shù)來(lái)看，圍繞這三個(gè)要素的單項(xiàng)評(píng)價(jià)都分別有與之相適應(yīng)的評(píng)價(jià)手段和方法。比如，測(cè)查道德認(rèn)知可以采取柯爾伯格的道德兩難測(cè)試法進(jìn)行。但是，人們很難確定各要素在評(píng)價(jià)結(jié)果中的權(quán)重，因而難以形成對(duì)一個(gè)人品德狀況的總體評(píng)價(jià)，即很難將個(gè)體在道德認(rèn)知、情感、行為三個(gè)要素上的具體得分情況進(jìn)行一種權(quán)重的分配，從而難以合成一個(gè)人合理的品德總分。品德評(píng)價(jià)權(quán)重分配的這種倫理上的難題，也客觀上導(dǎo)致品德評(píng)價(jià)的真實(shí)性和操作性不高。

3.品德評(píng)價(jià)結(jié)果解讀的文化性。即使品德評(píng)價(jià)完成了，其評(píng)價(jià)結(jié)果的解讀同樣會(huì)遭遇倫理方面的挑戰(zhàn)。特定文化對(duì)特定品德的要求，在很大程度上存在明顯的地方或者空間上的顯著差異。在某一文化中被認(rèn)可和接受的品德，可能在其他文化中則被認(rèn)為是非道德甚至是反道德的。比如，東西方文化就對(duì)集體主義、個(gè)人主義的認(rèn)識(shí)存在很大的文化分歧，中國(guó)社會(huì)內(nèi)部同樣存在著城鄉(xiāng)、民族、宗教、性別等文化差異性。因此，品德評(píng)價(jià)結(jié)果的解讀必須充分考慮這些因素的影響，否則極有可能導(dǎo)致品德評(píng)價(jià)出現(xiàn)公平倫理問(wèn)題。

由此可見，品德評(píng)價(jià)與其他各教育評(píng)價(jià)相比有著非常突出的獨(dú)特性。這一獨(dú)特性就使得一般的評(píng)價(jià)方式和方法很難解決品德評(píng)價(jià)中的技術(shù)難題和倫理張力。這里的技術(shù)難題，突出表現(xiàn)為如何確保品德評(píng)價(jià)所獲取數(shù)據(jù)之“真”；而倫理張力則是體現(xiàn)在如何充分保障品德評(píng)價(jià)之“善”。

二、人工智能之于品德評(píng)價(jià)的技術(shù)機(jī)遇

品德評(píng)價(jià)中的“真”與“善”難題，顯然僅靠現(xiàn)有的評(píng)價(jià)技術(shù)是很難真正解決的。人工智能的出現(xiàn)則為這些問(wèn)題的解決提供了一個(gè)可能的技術(shù)機(jī)遇。

（一）確保品德評(píng)價(jià)的可能之“真”

如前文所述，品德自身的情境性、內(nèi)隱性等特征使得品德評(píng)價(jià)在評(píng)價(jià)數(shù)據(jù)采集方面遇到的最大技術(shù)挑戰(zhàn)，就在于其所采集的數(shù)據(jù)特別容易在真實(shí)性方面存在問(wèn)題。在評(píng)價(jià)數(shù)據(jù)真實(shí)性獲取方面，人工智能作為一種依據(jù)數(shù)據(jù)算法邏輯構(gòu)建起來(lái)的技術(shù)形態(tài)，有著非常重要的技術(shù)優(yōu)勢(shì)。

1.人工智能作為“第三持存”，可以較好地實(shí)現(xiàn)評(píng)價(jià)的連續(xù)性。第三持存又被形容為“技術(shù)的痕跡（trace）”，是斯蒂格勒在胡塞爾的第一持存（感知的心理持存）、第二持存（記憶的心理持存）的基礎(chǔ)上提出的，意指可以在主體之外使思想和行為發(fā)生時(shí)的蹤跡得以保存。它使記憶及知識(shí)可以通過(guò)外置化的技術(shù)方式存在，從而可以有效地避免第一、第二持存所不可避免的遺忘問(wèn)題。顯然，人工智能的記憶具有明顯的“第三持存”的特性，它可以將各種記憶固化為可以檢索的數(shù)據(jù)存儲(chǔ)于設(shè)備之上，因而可以確保品德評(píng)價(jià)信息的獲取是一個(gè)連續(xù)的而并非斷點(diǎn)式的過(guò)程。在這方面，一些研究者就采用深度知識(shí)追蹤模型（Deep Knowledge Tracing）、動(dòng)態(tài)鍵值對(duì)記憶網(wǎng)絡(luò)模型（Dynamic Key-Value Memory Networks for Knowledge Tracing）、基于圖的知識(shí)追蹤模型（Graph-based Knowledge Tracing）等多種深度學(xué)習(xí)模型，對(duì)個(gè)體過(guò)往的學(xué)習(xí)歷史軌跡進(jìn)行研究，并據(jù)此預(yù)策其在后續(xù)練習(xí)中的表現(xiàn)［3］。這些技術(shù)的使用表明，人工智能是可以長(zhǎng)時(shí)段地獲取個(gè)體發(fā)展的有效信息，以進(jìn)行歷時(shí)性的分析和評(píng)價(jià)。這毫無(wú)疑問(wèn)對(duì)于克服當(dāng)前品德評(píng)價(jià)很難長(zhǎng)時(shí)段獲取個(gè)體品德信息的局限，有著非常重要的技術(shù)優(yōu)勢(shì)。通過(guò)人工智能的應(yīng)用，人們可以較長(zhǎng)時(shí)段地對(duì)一個(gè)人的品德情況進(jìn)行連續(xù)性的信息采集，從而相對(duì)準(zhǔn)確地從中提煉出具有一貫性的穩(wěn)定品質(zhì)，并將之作為品德評(píng)價(jià)的對(duì)象。

2.人工智能的“全息攝入”，可以確保品德評(píng)價(jià)的全景監(jiān)測(cè)。品德表現(xiàn)的情境性表明，人們要想獲得關(guān)于個(gè)體的真實(shí)品德信息，就需要在評(píng)價(jià)的時(shí)候覆蓋其主要生活空間，這樣才能確保數(shù)據(jù)的全面性。長(zhǎng)期以來(lái)，品德評(píng)價(jià)數(shù)據(jù)的采集基本上都是以學(xué)生在校的表現(xiàn)為信息來(lái)源點(diǎn)，這些數(shù)據(jù)很難涵蓋學(xué)生在其他生活空間中的品德狀況。這樣一種定點(diǎn)式的評(píng)價(jià)必然導(dǎo)致相關(guān)品德信息采集的片面性，從而不能夠很好地反映一個(gè)人的真實(shí)道德狀況。而人工智能是可以全面覆蓋個(gè)體生活的方方面面，具有“全息攝入”的特點(diǎn)：人工智能憑借大數(shù)據(jù)和算法的支撐，依靠遍布各個(gè)角度的攝像頭，可以輕而易舉地獲取有關(guān)學(xué)生思想動(dòng)態(tài)、真實(shí)想法、道德發(fā)展、心理特征、網(wǎng)上言論等結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)，有效地將過(guò)去因條件不充分而無(wú)法覆蓋的領(lǐng)域范圍都囊括進(jìn)來(lái)［4］。總之，人工智能可以全方位地將個(gè)體的所有信息（含品德表現(xiàn)的信息）全部采集，最大程度地反映一個(gè)人在不同情境中的真實(shí)表現(xiàn)，從而有助于人們對(duì)其品德狀況做出更客觀的評(píng)價(jià)。

3.人工智能的“數(shù)字記憶”，可以有效避免評(píng)價(jià)者主觀偏好的影響。主觀偏好是影響評(píng)價(jià)科學(xué)性的重要因素。人的主觀偏好往往是與其記憶的選擇性和經(jīng)驗(yàn)性有著很大的關(guān)系。但是，人工智能是基于算法的物理運(yùn)動(dòng)，其記憶是一種“數(shù)字記憶”，而并非“生物記憶”。美國(guó)學(xué)者戈登·貝爾（Gordon Bell）和吉姆·戈梅爾（Jim Gemmell）指出了生物記憶和數(shù)字記憶的明顯分殊：前者是主觀的、帶有感情色彩的，具備主觀寫意、自我過(guò)濾的特質(zhì)；后者是客觀的、不摻雜假象的，具備高度的精準(zhǔn)性［5］。人工智能的數(shù)字記憶不會(huì)受其過(guò)往經(jīng)驗(yàn)的影響，也不會(huì)受其主觀偏好的作用，因而具有相對(duì)客觀性和真實(shí)性。通過(guò)人工智能所采集到的個(gè)體的品德信息，是以一種“數(shù)字記憶”的方式存在于人工智能中。這無(wú)疑有助于評(píng)價(jià)數(shù)據(jù)的真實(shí)性保留。

4.人工智能的“日常性存在”，可以最大程度地減少社會(huì)稱許性對(duì)品德評(píng)價(jià)的影響。人工智能可以存在于人們衣食住行的方方面面，與個(gè)體的生活完全融為一體。由于通過(guò)人工智能所進(jìn)行的品德評(píng)價(jià)具有突出的日常性特點(diǎn)，可以有效地減少在特定時(shí)間、特定空間所專門進(jìn)行的品德評(píng)價(jià)的正式性。它更多地是采用一種維度更多、頻度更密、粒度更細(xì)的信息采集方式，這種采集方式還具有實(shí)時(shí)性、連續(xù)性和自然性。這些海量的過(guò)程性信息是在無(wú)人參與的情況下，通過(guò)智能設(shè)備自動(dòng)采集的，不會(huì)對(duì)學(xué)生的行為造成人為干擾。這保證了評(píng)價(jià)不會(huì)因?yàn)閷W(xué)生的抗拒、迎合或應(yīng)付心理而失真［6］。這就使得基于人工智能的品德評(píng)價(jià)的發(fā)生，在很多情況下是個(gè)體所沒(méi)有意識(shí)到的。因而，所謂的社會(huì)稱許性在個(gè)體無(wú)意識(shí)的狀態(tài)下就幾乎不會(huì)發(fā)生。這無(wú)疑可以大大提升數(shù)據(jù)采集的真實(shí)性。

此外，當(dāng)前人工智能集大成者——ChatGPT 的出現(xiàn)，為交互性品德評(píng)價(jià)的大規(guī)模應(yīng)用提供了技術(shù)可能。傳統(tǒng)的交互性評(píng)價(jià)由于需要教師與學(xué)生進(jìn)行“一對(duì)一”的對(duì)話來(lái)實(shí)現(xiàn)。其優(yōu)點(diǎn)在于它可以通過(guò)與個(gè)別學(xué)生深度交流來(lái)獲得有關(guān)學(xué)生品德的深層次信息，從而可以提升評(píng)價(jià)的準(zhǔn)確性和針對(duì)性。但是，由于這樣一種交互性評(píng)價(jià)有耗時(shí)長(zhǎng)、不同教師主體存在主觀偏差等缺陷，很難普適化為一種日常的品德評(píng)價(jià)方法。而ChatGPT 作為一種高度智能化的人機(jī)對(duì)話程序，可以同時(shí)面對(duì)規(guī)模龐大的學(xué)生群體進(jìn)行個(gè)別化的深度交流，從而可以在很大程度上克服現(xiàn)實(shí)中教師與學(xué)生“一對(duì)一”、面對(duì)面交流的局限性。

（二）確保品德評(píng)價(jià)的可能之“用”

品德評(píng)價(jià)歸根結(jié)底，是為了進(jìn)一步優(yōu)化學(xué)校德育工作，提升學(xué)生的思想道德水平。長(zhǎng)期以來(lái)，品德評(píng)價(jià)最大的弊病之一就在于人們認(rèn)為品德評(píng)價(jià)不準(zhǔn)，因而當(dāng)前的品德評(píng)價(jià)很難發(fā)揮其學(xué)校教育改進(jìn)和學(xué)生品德發(fā)展的促進(jìn)功能。人工智能的出現(xiàn)，毫無(wú)疑問(wèn)可以增強(qiáng)品德評(píng)價(jià)的實(shí)效性，使其可以更好地發(fā)揮育人功能。

1.人工智能可以確保評(píng)價(jià)結(jié)果的實(shí)時(shí)反饋，增強(qiáng)其教育改進(jìn)的時(shí)效性和針對(duì)性。一旦我們將德育評(píng)價(jià)的指標(biāo)和要求以算法的形式轉(zhuǎn)變?yōu)槿斯ぶ悄埽敲矗@個(gè)品德評(píng)價(jià)數(shù)據(jù)的采集、處理和分析將會(huì)實(shí)現(xiàn)實(shí)時(shí)化的呈現(xiàn)方式，這必將大大提高德育評(píng)價(jià)對(duì)于德育改進(jìn)的效率。學(xué)校可以根據(jù)數(shù)據(jù)終端及時(shí)了解學(xué)生品德發(fā)展的基本情況以及出現(xiàn)的問(wèn)題，做出及時(shí)的回應(yīng)。這會(huì)有效地避免評(píng)價(jià)結(jié)果反饋的遲滯性所引發(fā)的各種可能嚴(yán)重后果。也就是說(shuō)，基于人工智能的品德評(píng)價(jià)，在很大程度上可以成為整個(gè)學(xué)校德育運(yùn)行的質(zhì)量監(jiān)測(cè)系統(tǒng)，及時(shí)反饋教育中的各種現(xiàn)實(shí)問(wèn)題，從而提高教育的有效性。

2.人工智能可以提升品德評(píng)價(jià)的循證性，增強(qiáng)其服務(wù)政策制定的科學(xué)性和可靠性。對(duì)學(xué)生品德現(xiàn)狀的準(zhǔn)確把握，是相關(guān)德育政策制度的重要依據(jù)。在很大程度上，對(duì)學(xué)生品德真實(shí)狀況理解上的任何偏頗，都會(huì)帶來(lái)德育政策制定的諸多不良實(shí)踐后果。基于人工智能的評(píng)價(jià)，在本質(zhì)上是一種循證（evidencebased）評(píng)價(jià)。這是一種基于客觀數(shù)據(jù)和方法上的評(píng)價(jià)，而不是基于個(gè)人經(jīng)驗(yàn)和主觀判斷的評(píng)價(jià)。這樣一種基于人工智能的循證式品德評(píng)價(jià)，可以最大程度地反映個(gè)體品德的真實(shí)情況，從而可以為相關(guān)德育政策的制定提供必要的科學(xué)基礎(chǔ)。

3.人工智能可以促進(jìn)品德評(píng)價(jià)的精準(zhǔn)性，增強(qiáng)德育指導(dǎo)的針對(duì)性和個(gè)體性。要想提高德育實(shí)效，就必須做到因材施教。因材施教的前提是對(duì)個(gè)體品德的獨(dú)特性有準(zhǔn)確的理解。長(zhǎng)期以來(lái)，德育實(shí)效不高的一個(gè)重要原因就在于，德育之于個(gè)體的針對(duì)性是遠(yuǎn)遠(yuǎn)不夠的。我們?cè)谔幚韺W(xué)生德育問(wèn)題時(shí)，往往只是從抽象的道德原則來(lái)解決，而沒(méi)有充分考慮學(xué)生品德的特殊性對(duì)于德育內(nèi)容、方式、方法的特殊性要求。也就是說(shuō)，現(xiàn)有的德育很難根據(jù)學(xué)生各自的品德特性開展更有針對(duì)性的個(gè)別教育。而基于人工智能的德育評(píng)價(jià)，顯然是可以通過(guò)技術(shù)的手段精準(zhǔn)地評(píng)價(jià)個(gè)人的品德發(fā)展特點(diǎn)，也可以形成具有明顯個(gè)體特征的品德評(píng)價(jià)和分析報(bào)告。這對(duì)于德育因材施教的真正落地，有著非常重要的意義。

總而言之，人工智能在品德評(píng)價(jià)中的應(yīng)用，可以使得品德評(píng)價(jià)的日常化、立體化、個(gè)別化推進(jìn)更為扎實(shí)，品德評(píng)價(jià)的教育診斷、政策咨詢和個(gè)體發(fā)展的作用也因此變得更加實(shí)在。

三、人工智能之于品德評(píng)價(jià)的倫理風(fēng)險(xiǎn)

不可否認(rèn)的是，雖然人工智能從技術(shù)層面為品德評(píng)價(jià)的有效推進(jìn)提供了前所未有的可能性，但是人工智能本身在品德評(píng)價(jià)中的應(yīng)用同樣存在著諸多需要我們警惕的倫理風(fēng)險(xiǎn)。其中，最大的風(fēng)險(xiǎn)就來(lái)自人工智能基于算法所獲得的“真”與品德評(píng)價(jià)所內(nèi)含的“善”之間所存在的一定張力。

（一）人工智能是何種意義上的“真”

從前面的分析可以看出，品德評(píng)價(jià)要想有效，就必須獲取學(xué)生品德發(fā)展?fàn)顩r的真實(shí)數(shù)據(jù)。沒(méi)有這些真實(shí)數(shù)據(jù)的獲取，品德評(píng)價(jià)就失去了其基本科學(xué)性前提。人工智能表面上可以借助深度學(xué)習(xí)的幫助而實(shí)現(xiàn)算法的自動(dòng)迭代升級(jí)，從而可以最大程度地依靠遍布生活各個(gè)領(lǐng)域的數(shù)據(jù)采集點(diǎn)獲取相對(duì)及時(shí)且真實(shí)的學(xué)生品德發(fā)展的信息。值得注意的是，人工智能行動(dòng)的基本底層邏輯是需要依靠一套算法來(lái)予以保證的。也就是說(shuō)，就目前人工智能的發(fā)展階段而言，它仍然是在人所賦予的算法之下來(lái)開展相應(yīng)的活動(dòng)的，算法背后依然是人的因素在起作用。這就使得基于人所賦予的算法而行動(dòng)的人工智能，還是未能完全脫離開人的主觀偏好的影響。在這種情況下，其所獲得的信息必然也帶有人的價(jià)值烙印。

1.誰(shuí)的道德算法具有品德評(píng)價(jià)的合法性

算法是人設(shè)計(jì)并賦予人工智能的。這實(shí)際上意味著，人工智能并不是價(jià)值中立的，“它攜帶有他者的意志”［7］。因此，設(shè)計(jì)算法的人的價(jià)值立場(chǎng)就會(huì)在很大程度上決定人工智能采集信息的價(jià)值方向。這里涉及一個(gè)重要的倫理問(wèn)題，即并不是所有的人都可以成為算法的有效供給者。在很大程度上，算法的供給者基本上都是一些“技術(shù)精英”；普羅大眾由于其技術(shù)素養(yǎng)以及技術(shù)話語(yǔ)的缺乏，是很難在人工智能的算法世界里占有一席之地的。也就是說(shuō)，基于算法的人工智能從其誕生之日起就帶上了一定的道德偏見，是很難周全地反映不同區(qū)域、文化、階層、性別的人的道德生活的。因此，誰(shuí)有資格成為人工智能算法的供給者，這將是一個(gè)涉及道德評(píng)價(jià)的公平性、正義性的社會(huì)問(wèn)題。

2.何種道德算法具有品德評(píng)價(jià)的合理性

誠(chéng)如前文所述，道德本身也是有著不同的“算法”，既有義務(wù)論的，也有功利論的；既有集體主義的，也有個(gè)人主義的，等等。每一種不同的道德“算法”背后所折射出的都是人們對(duì)“何為善”的不同理解。這些不同的道德“算法”都從不同維度回答了“何為善”“何為好生活”的倫理問(wèn)題。但是，它們各自也很難單獨(dú)地有效解決人類道德生活的諸多問(wèn)題，而且它們之間也存在著一定的倫理沖突，因而這需要人們綜合地、批判地、建構(gòu)地來(lái)應(yīng)用這些不同的道德“算法”。但遺憾的是，在如何合理地綜合運(yùn)用各種不同道德“算法”這一問(wèn)題上，人們尚未達(dá)成一致的看法。這就使得哪種道德“算法”可以成為品德評(píng)價(jià)的主流，也成為一個(gè)有待研究的重要倫理問(wèn)題。

3.何種邊界的數(shù)據(jù)獲取具有品德評(píng)價(jià)的有效性

提高品德評(píng)價(jià)的科學(xué)性，當(dāng)然需要盡可能全方位、多角度、長(zhǎng)時(shí)段地獲取關(guān)于個(gè)體品德狀況的諸多數(shù)據(jù)。但是，當(dāng)我們借助人工智能對(duì)生活的全面滲透獲取個(gè)體的品德信息的時(shí)候，不得不考慮一個(gè)重大倫理問(wèn)題：如何確保這樣一種信息的獲取不侵犯?jìng)€(gè)體的隱私權(quán)？也就是說(shuō)，我們?cè)诙啻蠓秶⒍啻蟪潭壬峡梢越柚斯ぶ悄軄?lái)獲取個(gè)體的品德發(fā)展信息？這是一個(gè)需要謹(jǐn)慎處理的倫理問(wèn)題。如果信息獲取面太窄、太單一，恐怕不能真實(shí)反映個(gè)體的品德狀況，影響品德評(píng)價(jià)的真實(shí)性。但是，如果為了評(píng)價(jià)的真實(shí)性而將評(píng)價(jià)的觸角過(guò)多地介入其私生活領(lǐng)域，則會(huì)導(dǎo)致侵權(quán)問(wèn)題。因此，如何平衡好數(shù)據(jù)信息采集的公私邊界，是一個(gè)需要處理好的倫理問(wèn)題。

總體而言，人工智能的運(yùn)轉(zhuǎn)是建立在數(shù)據(jù)的采集和處理的基礎(chǔ)之上的，本質(zhì)上是一種數(shù)據(jù)的邏輯關(guān)系的推演。因而，基于人工智能的品德評(píng)價(jià)實(shí)質(zhì)上也是一種數(shù)據(jù)的運(yùn)算。但是，這里存在的一個(gè)最大問(wèn)題就在于，人的品德在多大程度上可以用數(shù)據(jù)化的方式來(lái)呈現(xiàn)？在很大程度上，數(shù)據(jù)化的評(píng)價(jià)是很難真正深入教育最本質(zhì)性的東西的，即人的生命存在本身。而人的生命是不可估算、不可估價(jià)的［8］。因此，當(dāng)把個(gè)體豐富的道德生活簡(jiǎn)化為一系列數(shù)據(jù)的時(shí)候，這些數(shù)據(jù)與個(gè)體真實(shí)的道德恐怕還是有一定差異的。

（二）人工智能是何種意義上的“善”

人工智能在品德評(píng)價(jià)中的應(yīng)用，毫無(wú)疑問(wèn)可以提高評(píng)價(jià)的科學(xué)性，增強(qiáng)其對(duì)教育改進(jìn)、政策制定、個(gè)體發(fā)展等諸多方面的積極作用。但是，人們?cè)谥鲃?dòng)應(yīng)用品德評(píng)價(jià)的同時(shí)，同樣需要思考這樣一種基于人工智能的品德評(píng)價(jià)的應(yīng)用倫理邊界。

1.如何處理算法的確定性與品德評(píng)價(jià)的不確定性之間的關(guān)系

人工智能所賴以生存的算法世界是一個(gè)確定性的世界。不管是何種算法，都是以海量的數(shù)據(jù)或信息作為其運(yùn)動(dòng)的基本前提。這就決定了所謂的“智能”更多地是來(lái)源于已有經(jīng)驗(yàn)世界的意義賦予。也就是說(shuō)，基于人工智能的品德評(píng)價(jià)基本上只能作用于事先設(shè)計(jì)好或者在已有數(shù)據(jù)和信息世界中存在的問(wèn)題。一旦在數(shù)據(jù)庫(kù)中找不到對(duì)應(yīng)的數(shù)據(jù)，那么，基于算法的人工智能就很難做出相應(yīng)判斷。而品德評(píng)價(jià)所面對(duì)的個(gè)體品德恰恰是一個(gè)有著無(wú)限可能性的、動(dòng)態(tài)發(fā)展的意義世界，具有很大的不確定性。這就會(huì)導(dǎo)致算法的確定性與品德的不確定性之間出現(xiàn)諸多張力。如果只追求算法的確定性而忽視了品德的不確定性，就會(huì)在很大程度導(dǎo)致技術(shù)對(duì)人的僭越，把人的豐富性降格為一系列數(shù)據(jù)符號(hào)。因此，人們?cè)诿鎸?duì)基于人工智能所獲取的評(píng)價(jià)數(shù)據(jù)的時(shí)候，恐怕需要做必要的倫理反思和修正，為人的豐富性留下必要的可能空間。

2.如何處理數(shù)據(jù)采集的真實(shí)性和評(píng)價(jià)對(duì)象的知情權(quán)之間的關(guān)系

人工智能下的品德評(píng)價(jià)之所以具有較好的科學(xué)性，歸根結(jié)底是因?yàn)槠渌@取的品德信息的真實(shí)性。而要確保信息的真實(shí)性，就要盡可能減少品德評(píng)價(jià)的重要難點(diǎn)——社會(huì)稱許性的影響。為此，人工智能可以借助其在學(xué)生品德生活中的全方位滲透，讓學(xué)生在無(wú)意識(shí)狀態(tài)接受相應(yīng)的品德評(píng)價(jià)，從而減少其社會(huì)稱許性的影響。但是，這樣一種在技術(shù)上可行的做法，從倫理的角度來(lái)看，有兩個(gè)問(wèn)題是需要我們高度關(guān)注的：一是這樣一種匿名化的評(píng)價(jià)，是否可以完全免去對(duì)被評(píng)價(jià)對(duì)象——學(xué)生的告知義務(wù)？二是評(píng)價(jià)的無(wú)處不在，是否會(huì)形成福柯所說(shuō)的“全景敞視”和無(wú)處不在的“權(quán)力的眼睛”？

3.如何避免人成為人工智能評(píng)價(jià)下的“算法動(dòng)物”

品德評(píng)價(jià)是一項(xiàng)高利害性的評(píng)價(jià)，既涉及人的諸多外部利益的實(shí)現(xiàn)，也關(guān)乎人之為人的基本資格。因此，品德評(píng)價(jià)歷來(lái)都受到人們的高度關(guān)注。雖然人們特別關(guān)注品德評(píng)價(jià)，但是由于品德評(píng)價(jià)自身的科學(xué)性一直得不到有效解決，因此，人們對(duì)于品德評(píng)價(jià)的結(jié)果會(huì)有自我解讀和批判的空間。一旦品德評(píng)價(jià)借助人工智能全面滲透于個(gè)體的日常生活，并以一種科學(xué)的姿態(tài)展示出來(lái)，此時(shí)個(gè)體面對(duì)這樣一種基于“科學(xué)”的評(píng)價(jià)結(jié)果就失去了其主動(dòng)質(zhì)疑的合法地位。在這種情況下，所謂人工智能的品德評(píng)價(jià)就成了一種新的社會(huì)主宰，成為決定個(gè)體社會(huì)聲譽(yù)、升學(xué)就業(yè)等重大利益問(wèn)題的重要依據(jù)。為了在這樣一套人工智能的品德評(píng)價(jià)中獲得“好”的結(jié)果，個(gè)體便會(huì)以人工智能評(píng)價(jià)的道德算法來(lái)進(jìn)行自我道德形象的整飾。一旦如此，這樣一種看似先進(jìn)的品德評(píng)價(jià)，就有可能將作為主體而存在的個(gè)體降格為一種失去反思和批判能力的“算法動(dòng)物”——個(gè)體主要是按照人工智能的道德算法生活，而不是按照自我的道德意志來(lái)處事。

人工智能的進(jìn)化在很大程度上是算法的自動(dòng)演變。如果這種演變完全交由智能系統(tǒng)本身自然發(fā)展而不加以人工干涉，那么，其演變結(jié)果有可能會(huì)突破現(xiàn)代倫理規(guī)則。例如，微軟人工智能機(jī)器人Tay 由預(yù)設(shè)“天真型人格”反轉(zhuǎn)為種族主義者，搜索引擎的智能會(huì)在更大概率上將黑人姓名與犯罪記錄聯(lián)系在一起［9］。因此，如何防止人工智能在品德評(píng)價(jià)過(guò)程中出現(xiàn)突破人類現(xiàn)有倫理規(guī)則的邊界，同樣是一個(gè)需要人們重視的現(xiàn)實(shí)問(wèn)題。

四、人工智能時(shí)代品德評(píng)價(jià)倫理風(fēng)險(xiǎn)的規(guī)避

不可否認(rèn)，人工智能時(shí)代的到來(lái)給品德評(píng)價(jià)諸多難題的解決帶來(lái)了技術(shù)上的可能。如何在更好地發(fā)揮人工智能的技術(shù)優(yōu)勢(shì)的同時(shí)，有效規(guī)避其中的倫理風(fēng)險(xiǎn)，是人工智能時(shí)代品德評(píng)價(jià)的重大時(shí)代課題。總體而言，對(duì)人工智能時(shí)代品德評(píng)價(jià)倫理風(fēng)險(xiǎn)的規(guī)避，需要著力處理好以下幾個(gè)問(wèn)題。

（一）算法邏輯和價(jià)值邏輯的統(tǒng)一

品德評(píng)價(jià)既是一個(gè)科學(xué)性問(wèn)題，但同時(shí)也是一個(gè)價(jià)值性問(wèn)題。人工智能所仰仗的算法邏輯本質(zhì)上是求“真”的。“人工智能的進(jìn)化，本質(zhì)上是算法的設(shè)計(jì)，遵循的是真理原則。如棋牌博弈軟件會(huì)打敗所有的對(duì)手，而不論對(duì)手是男女老幼、爺孫友朋。”［10］因此，在智能化的品德評(píng)價(jià)中，所有的個(gè)體在面對(duì)同樣的算法邏輯的時(shí)候，都會(huì)被簡(jiǎn)化為一系列的數(shù)據(jù)符碼。但是，人的品德的成長(zhǎng)與發(fā)展，除了需要遵循“真”的邏輯外，還有著非常重要的“善”的標(biāo)準(zhǔn)，恰恰是后者構(gòu)成了人與其他生物相區(qū)別的重要標(biāo)志。因此，品德評(píng)價(jià)可以充分利用人工智能在信息采集和處理方面的客觀化優(yōu)勢(shì)來(lái)提升評(píng)價(jià)本身的科學(xué)性；在這個(gè)過(guò)程中，也要充分意識(shí)到其依據(jù)算法所獲得的信息之“真”不能完全成為其主宰一切的標(biāo)準(zhǔn)。人工智能算法的求真邏輯需要在合目的性的規(guī)約下運(yùn)轉(zhuǎn)。

這實(shí)際上是要求我們?cè)陂_展品德評(píng)價(jià)的時(shí)候，不能夠把對(duì)學(xué)生的品德評(píng)價(jià)完全交由人工智能來(lái)完成。當(dāng)前，一些學(xué)校購(gòu)買了所謂智能化的德育評(píng)價(jià)軟件、APP 等，將之作為評(píng)價(jià)學(xué)生品德的基本依據(jù)。這樣一種簡(jiǎn)單的做法是存在極大的科學(xué)性和倫理性風(fēng)險(xiǎn)的。這些軟件開發(fā)背后的道德算法是需要進(jìn)一步的專業(yè)審查的。如果其基本的算法前提在專業(yè)上、價(jià)值取向上有問(wèn)題，那么，基于這樣的智能化軟件所做出的評(píng)價(jià)也必然是有缺陷的。因此，利用而不是迷信智能化的品德評(píng)價(jià)系統(tǒng)，保持人作為評(píng)價(jià)主體的主體性，是人工智能時(shí)代品德評(píng)價(jià)應(yīng)該有的基本立場(chǎng)。

（二）確定性和可能性的結(jié)合

我們利用人工智能開展品德評(píng)價(jià)，最重要的訴求之一就是解決當(dāng)前品德評(píng)價(jià)的諸多模糊性和隨意性問(wèn)題，讓品德評(píng)價(jià)變得更具有確定性。這樣一種關(guān)于品德評(píng)價(jià)的確定性追求顯然是合理的，也是必需的。但是，我們也不能因執(zhí)著于對(duì)這種評(píng)價(jià)確定性的追求，而遺忘了人作為一種可能性存在這一基本事實(shí)。尤其是對(duì)于成長(zhǎng)中的學(xué)生而言，不確定恰恰是其存在的最大魅力。正是因?yàn)槠渖形创_定，他們因而有著無(wú)限多種的發(fā)展可能性。學(xué)生品德的發(fā)展也同樣如此。但是，人工智能作為一種技術(shù)，其最大的發(fā)展動(dòng)力就在于追求確定性，試圖克服人由于不確定性所可能帶來(lái)的種種風(fēng)險(xiǎn)和生存焦慮。

從人類技術(shù)的發(fā)展史來(lái)看，幾乎每一項(xiàng)新興技術(shù)的出現(xiàn)，都在一個(gè)方面增強(qiáng)了人的生活的確定性。大到氣候變化的預(yù)先判斷，小到個(gè)人生活的自動(dòng)化，這個(gè)世界因技術(shù)的廣泛使用而變得越來(lái)越有確定性。人的確定性的每進(jìn)一步，實(shí)際上都意味著人的可能性減少一分。而人的可能性的減少就會(huì)危及作為主體的人的主動(dòng)性、能動(dòng)性和創(chuàng)造性。一旦每個(gè)人在智能化的品德評(píng)價(jià)之下，都被其道德算法規(guī)約成了一個(gè)在道德上完全確定的人，那么，個(gè)體在道德上的可能性和能動(dòng)性將會(huì)受到極大損害，這有可能動(dòng)搖人之為人的根本。因此，怎樣在充分發(fā)揮人工智能在品德評(píng)價(jià)方面的確定性優(yōu)勢(shì)的同時(shí)，為人的存在的可能性留下必要的空間，是人工智能時(shí)代品德評(píng)價(jià)需要解決的現(xiàn)實(shí)問(wèn)題。對(duì)此，有學(xué)者就明確提出，德育評(píng)價(jià)需要回歸其本體價(jià)值（Ontological value），即德育評(píng)價(jià)需要回歸其培養(yǎng)健全人格的人這一根本目標(biāo)，將人置于目的而不是手段來(lái)看待［11］。這實(shí)際上就意味著在品德評(píng)價(jià)中，“人不應(yīng)該被當(dāng)作可估算、可估價(jià)的工具性物體”［12］，而是應(yīng)被視為具有個(gè)體性和能動(dòng)性的價(jià)值主體。因此，哪怕是人工智能時(shí)代的品德評(píng)價(jià)，也依然要為人的主體能動(dòng)性留下必要空間。

（三）有所為與有所不為的調(diào)適

相比于人的其他素養(yǎng)的評(píng)價(jià)而言，品德評(píng)價(jià)是具有高利害性的。個(gè)體在智力、身體、審美、勞動(dòng)等方面的素養(yǎng)欠缺，都不會(huì)影響到人之為人的根本問(wèn)題。比如，我們不會(huì)評(píng)價(jià)一個(gè)數(shù)學(xué)學(xué)不好的人不是人，也不會(huì)因?yàn)橐粋€(gè)人審美趣味的低下就斥之為禽獸。只有當(dāng)一個(gè)人的品德修養(yǎng)方面出了問(wèn)題的時(shí)候，人們才會(huì)從做人資格的角度去評(píng)價(jià)他是不是一個(gè)人。由此可見，品德評(píng)價(jià)的高利害性還不僅僅在于外在的聲譽(yù)或其他利益方面的獲得，更是關(guān)乎到一個(gè)人做人的基本資格問(wèn)題。這就需要在品德評(píng)價(jià)方面慎之又慎。

總體而言，雖然技術(shù)的進(jìn)步在很大程度上提升了人工智能的智能化水平，但是人工智能依然處在“弱人工智能”階段，其未來(lái)發(fā)展前景還有許多需要破解的技術(shù)和倫理問(wèn)題。在這種情況下，將人工智能應(yīng)用于具有如此高利害性的品德評(píng)價(jià)，這一做法就不宜操之過(guò)急；人們一方面加大人工智能的技術(shù)研究，另一方面則同步加大對(duì)其發(fā)展邊界的倫理研究。沒(méi)有倫理邊界的技術(shù)開發(fā)與應(yīng)用是可怕的。這實(shí)際上是需要我們?cè)诿鎸?duì)人工智能的品德評(píng)價(jià)應(yīng)用的時(shí)候，要有足夠的倫理定力，要有所為而有所不為。有所為，主要指的是品德評(píng)價(jià)要主動(dòng)應(yīng)用新技術(shù)、新方法；有所不為，則主要指的是品德評(píng)價(jià)一定要服務(wù)于人的存在狀態(tài)的優(yōu)化這一目的，凡是有可能危及人的存在本身的做法，都應(yīng)該暫緩其在品德評(píng)價(jià)中的應(yīng)用。

“評(píng)價(jià)不是為了證明（prove），而是為了改進(jìn)（improve）。”［13］人工智能在品德評(píng)價(jià)中的“可為”，應(yīng)以人類道德善的“應(yīng)為”作為其基本的行動(dòng)邊界。我們“永遠(yuǎn)不要把人工智能擺放在人類‘主體’的位置，必須立場(chǎng)鮮明地將其視為機(jī)器”［14］。尤其是在ChatGPT 等越來(lái)越高度智能化的技術(shù)面前，我們更應(yīng)堅(jiān)守人的主體地位。這樣才能夠在充分發(fā)揮人工智能的技術(shù)優(yōu)勢(shì)的同時(shí)，盡可能規(guī)避其可能給品德評(píng)價(jià)帶來(lái)的諸多倫理風(fēng)險(xiǎn)。