人工智能算法的倫理危機與教師行動

馮敏慧

(商丘學院 人文學院, 河南 商丘 476000)

當前,人工智能算法的發展速度極其迅猛,成為社會廣泛關注的重要議題。人工智能算法在學界被普遍認為是一套有規律的技術性指令或程序,其在帶領人們實現美好生活上擁有巨大潛力,但這一潛力的發揮必須以規避惡果而導向美善為倫理前提和保障條件[1]。國家一直強調在大力發展人工智能的同時,必須高度重視其可能帶來的安全風險挑戰,加強前瞻預測與約束引導,最大限度降低風險,確保人工智能安全、可靠、可控發展[2]。教育是一項培養人的事業,正確處理人與人工智能算法在教育行動之中的關系具有重要意義。教師是建構教育過程中人與算法關系的主要行動者,探索教師在新情境、新發展態勢下的行動方向,有利于規范人工智能算法在教育中的具體使用,提升教師對教育教學實踐的主動掌控力,更好地在智能教育環境沖擊下把握教育本質、守護教育本真。

一、人工智能算法的教育倫理危機表現

人工智能算法是一種程序性技術,它象征著一套解決問題的固定行為規則,通過具有操作性的符號表征影響著教育過程中教育者和學習者的行動方向和方式,進而影響事物本身存在的整體狀況。人工智能算法誕生與發展過程中出現的層出不窮的“新”、構造本質中的“簡”、效果實現中的“塑”等各種操作傾向在其使用的過程中都潛藏著倫理風險,對教育本質、教育過程和教育目的容易產生技術性的不良沖擊,削減人通過技術實現全面發展的自主性。

(一)新與舊的對抗:人的角色地位面臨沖擊

技術是一種工具,但如果只將其視作一種工具,則容易忽略它背后可能產生的價值沖擊。歷史上各種工具的出現,只要在人的社會關系中存在與被使用,便產生了它的社會性,我們真正感到害怕的不是沒有生命意義的人工智能算法這種技術性程序,而是擔心它的運行對人所生存和生活的社會環境所產生的生命沖擊。人工智能算法的運行能夠超越個體的勞動能力,以類人的思維方式和行為模式在短時間內完成高效的數據整合、匹配和提取,減弱人類勞動的繁重性和復雜性。伴隨著算法的不斷升級,人工智能機器能夠基于算法和數據挖掘的知識發現新模式,實現認識主體、認識客體、認識工具等認識活動要素內涵和范圍的不斷擴張[3]。人工智能算法力量的強大讓人驚嘆,按照目前算法的發展邏輯,算法憑借其對規則程序的遵從和對大量數據的自動整理、分析、提煉表現出對人類勞動未來取代性的強烈信號。人的勞動開始出現異化,人的勞動產品逐漸成為與人自身相對立并反過來支配人的力量[4]。保障以人為中心的教育未來美好生活實現,人工智能的出現對人類智能提出了更高的要求和挑戰。人工智能算法的使用意味著人的勞動形態和角色的轉變或即將轉變,但并不能意味著人的價值意義感的消逝,從某種發展意義來講,人因環境的變化而發生新的變化和被賦予新的內涵是時代發展的必然性所在。

(二)簡與繁的對抗:教育的生命感逐漸消逝

以目前的人工智能算法設計水平來看,無論一種算法被設計得多么高級,與人類生命的思維意識和發展可能性相比,始終存在局限性。一種算法一旦被設計出來,在某種程度上就意味一種相對確定性的成型,彰顯著來自設計者先前頭腦中對于事件發生發展的初步預料。智力天生就不能理解生命,這是智力的典型特征[5]。教育永遠對于生命的本真實現有著執著的追求,教育追求著不確定性的魅力,這給人的生存和發展留下發自自然本能的永恒希望。應當警惕人工智能算法的程序確定性和操作表層性對教育原生魅力的折損。

當前,技術治理成為教育重要的形態表征。人工智能算法的使用是教育過程中技術治理的一大趨向。一旦人工智能算法成為教育教學的唯一操作性工具材料,有些不被人工智能算法設計所包含在內,但對于教育而言非常重要的事情就會被拋棄,算法呈現的結果則會趨向于成為教育甚至人的價值的唯一評判,這對于認識與了解學生、教師、教育管理者等各種角色所具有的教育生命內涵是非常不利的。人工智能算法的使用應有合理的限度,不應為了追求教育過程的便捷度和教育形式的科技化而盲目追求教育智能化,在教育實踐中不顧實際效果而大肆配備使用人工智能設備,使教育智能化失去了其應有的生命發展引導功能。與此同時應當認清,人工智能算法在一定程度上能夠緩解當下存在的教育問題,但最根本的教育問題絕不是技術能夠予以解決的,由人而出發的問題也必將由人自身來解決。精準而煩瑣的技術依賴,容易導致教育問題的本質被遺忘。教育主體在失身于對智能技術的依賴和盲從中,也在“自覺或不自覺”中交出了自身“內在的自由”和獨立思考、選擇、決定與行動的權利[6]。所有這些共同導致了教育生命感的逐漸消逝。

(三)塑與生的對抗:人的最終實現趨向變質

放任人工智能算法的運行而不加以來自人的意識的控制,將會使人成為一個附屬性、被塑造、單向度的人。首先,附屬性意味著人的權力交付和轉移,智能機器以類人式思維的算法表現出類人的行為方式,形成對人類原來勞動的取代,人看似依舊在掌控著人工智能算法的運行,實質上人已經將“做事”的權力讓渡給具體的算法,依靠算法來進行實踐活動,從而成為算法的附屬品。其次,權力的讓渡導致人在實踐中的責任感和行動力減弱,進而形成在算法運行過程中人被算法所塑造的結果。如果接受人工智能計算出的結果的評判而不加以來自人的再考量,就相當于把人降格為一個可隨時對其加以“監控”和“分析”的客體,使得作為客體的技術人造物升格成了教育主體[7]。最后,算法本身設計的不完善最終也會使人的發展成為片面的發展。算法象征著一套標準化的程序,這種程序所代表的發展可能性是單一的,算法歧視、信息繭房、大數據殺熟等都在表明作為受眾的人類時刻都可能面臨著算法運行下的單一化風險,這種風險不考慮人是否能夠全面發展,而只憑自己的程序算法判斷來提供資源包圍著人發展的社會環境,影響著人的社會性發展。

二、教師應對人工智能算法教育倫理危機的挑戰

將人工智能算法在教育教學實踐中投入使用,可以幫助教師更大限度上借助算法來表現自我的某種訴求和行事的規則。然而,人工智能算法的使用越是普遍,其發展越是快速,潛在問題也越多地浮現。教師作為教育教學的主導者,在應對人工智能算法使用過程中潛藏的危機、引導正確的教育方向方面具有關鍵作用,但與此同時教師本身也在面臨著算法風險,導致了其教育行動的困難。

(一)我是誰:自我價值的迷失

首先,教師職業的價值性。大多數人都會同意,現代世界在我們這一百年里的發展,伴隨著一種持續的,在深度和廣度上不斷加重的權威危機……這個危機最意味深長的征兆(同時也顯明了危機的深重)是,它已經擴展到兒童的培養和教育這樣的前政治領域中[8]。人工智能算法提供了巨大的可及信息量和一系列便捷性可操作行為規則,對于教師建基于相對有限性的知識、道德和能力而形成的個體權威造成了一定威脅。如果人工智能算法的使用替代了教師的勞動,學生按照人工智能算法的程序設計即可接受到完整的教育,甚至這種教育比由教師本人提供的教育更加豐富、多元和廣闊,那么教師存在的價值意義就會被質疑。其次,教師職業的風險性。從教師內在發展來看,任何失去自我價值判斷的行動無論表象上看上去多么有邏輯層次,其終歸是缺乏精神內核的,價值判斷的喪失會使教師產生對于教育的極不自信,對長時間的教育教學工作產生疲憊和倦怠心理。從教師外在發展來看,當快速、高效達到某一個可以量化的目標成為教育的追求,按照這一目標邏輯,人工智能算法的優勢展露無遺,而教師在這種評判氛圍中極易丟失自我對于教育的正確認知,進而在算法的使用過程中成為算法的順應者,從一種勞動形態轉化到另一種勞動形態中,并且后者意義薄弱。正如阿倫特所言,這個社會是一個即將從勞動的鎖鏈中解放出來的勞動者社會,并且這個社會不知道還有什么更高級、更有意義的活動存在,值得它去為之爭取從勞動中解放出來的自由[9]。

(二)如何做:行動力量的脆弱

教師作為教育教學的主導者,是決定人工智能算法與教育教學運行關系的關鍵。目前,教師對于人工智能算法在教育中的使用所表現出的自我行動力整體較弱,其中,過度遲疑和盲目“內卷”這兩種現象是教師自我行動力量脆弱的主要表現。第一,教師行動的過度遲疑。當教育者和學習者對智能教學系統的分數計算規則、評價理由和預測的依據未知時,他們會質疑智能教學系統的可信度與有效性,這種信任缺失會妨礙教育者、學習者與智能教學系統之間的交互[10]。無論可以拿出多少理論上的證據證實教育的未來發展趨勢,依舊要回到實踐中仔細考慮教師的態度。它所表達的教師深層次的需求——教師不只是在抗拒、害怕和恐懼,他們還在懷疑,完全技術化的教育與先前教育的理想狀態向往是否一致,對實現好教育是否真的有意義,在實踐未能充分證明最后的結果之際,反復遲疑導致教師面對人工智能算法不斷出現在教育中這一境況時行動的滯后性。第二,教師行動的盲目“內卷”。與遲疑恰恰相反,面對人工智能算法使用的不斷普及,潛在的威脅和同質化的環境逼迫著教師不得不接受著來自人工智能算法的安排和使用。算法的強大提供了高超的教育教學的便捷性,促使教師從繁重的教育活動中得以解放,但同時也極易造成教師行動上對于算法的依賴,這種依賴是一種放棄自我權力的依賴,從根本上削弱了教師自身的行動力。行動力量的脆弱進一步促進了人工智能算法在教育中出現倫理危機的可能性成為現實。

(三)為了誰:價值旨歸的動搖

人的自由發展是教育的終極目標,是教師工作的價值旨歸。人工智能算法所產生的重要教育沖擊之一就是通過對教育過程的改變而使教育的終極價值旨歸發生變化。第一,教師成為借助人工智能算法培養知識人的促進者。人工智能算法是人類智性的凝聚物,它通過自身內在的知識運作和產生方式,產生知識人。塑造知識人是一個根深蒂固的教育信條,這一信條的人性設定是把知識、求知看作是人的唯一規定性,它顛倒了知識與生活的關系[11]。我們不斷地改造物質環境,以此來優化人的生活條件,期待著能夠帶給人更多的可行性自由,但事實上,如果人一旦迷失在人工智能算法的便捷和舒適里而失去價值判斷,就相當于通過對能夠影響自身的社會環境的改變,為自身設計了更加精巧的牢籠枷鎖并嘗試迎合這個牢籠枷鎖來使自己的生活與之相適應。第二,學生成為人工智能算法的被評判者。當人工智能算法的使用成為一種象征著現代好教育的重要評判時,這極大地促進了教師對算法的使用,算法在教育中的使用主要受眾是學生,學生接受來自算法的引導進行知識的學習和理解,程序算法很大程度上將成為學生思維形成的引導者,從而潛在地影響學生看待、分析問題的主要視角,這個過程是學生被算法評判的過程。由此,教師和學生的力量并沒有因為算法的使用而被增強,反而算法因對教師和學生行動的間接掌控而獲得力量上的關鍵加持,繼而得以在教育現實中不斷擴張。

三、保證教育倫理性在場的教師行動策略

倫理規則是對人工智能“有所為”與“有所不為”的倫理規定,但凡涉及人類社會生活與生產活動的科學技術皆應在人類的倫理規則內運行[12]。倫理性缺失對于教育這項培養人的事業來講具有毀滅性風險。教師必須采取行動,以便使自己的決定將會造成的不可預見的后果具備可預見性,從而控制不可控的事情,通過采取預防性行動來戰勝種種副作用[13]。從大環境的不可逆轉,到中觀環境中的互動實踐,到微觀上態度心理上的轉變,從挑戰到行動,人工智能算法潛在的倫理性危機要求教師克服人的脆弱性,捍衛教師在教育中的自主地位。

(一)厘清教育終極價值,明確自我對守護教育倫理所負的責任

第一,喚醒自我意識,積極回應自然本能。無論個人的社會行動或社會的社會行動,都是有意識的、有目的的、有系統的[14]。行動本身具有意識性,是主體內在意識的外在顯化。即使是“無意識”的行動,本質上也屬于深層次潛意識的驅使。對于人的真正行動而言,它出自人意識深處的追求,這與動植物所表現出的行為有本質區別。人類本能不是低俗的,它擁有和理智相同高貴的特性,意味著生命發展的永恒可能性。如果將本能和理智看作是相對立的行動方向代表,理智對本能的壓制潛藏有深刻的社會規訓,一旦規訓出現被質疑的情況,人的理智將不知何去何從,本能就會占據上風,成為人行動的主導標準。所以,在規訓還沒有出現嚴重地被質疑的時候,理智應主動積極地和本能達成友好合作。真正的理智,無論是對人工智能算法還是教師來講,它都不會導致人自身精神分裂式的斷崖,而應是,越是具有高層次的理智,越是懂得敬畏生命本身,越是能通透地符合自我意志地判斷生命的行動方向。教師應努力在象征著理智的人工智能算法中找到自我本能角色,歸還教育生命色彩。

第二,合理處理“機器意志”與教師意志的沖突。如果我們把機器看作一種意志的象征,那么最終意志的選擇和決定就是一個互動和建構的過程,是教師本人與機器背后潛藏的人的對話和交流。那么,沿著這個邏輯,要形成教師和機器之間的全過程相對和諧,應當在智能算法的設計之初、使用過程、效果反饋方面實現教師與算法設計者之間的良性溝通,就教育的實際需求、實際問題、實際效果和智能技術的發展水平和方向進行雙方信息的及時獲取,形成跨學科的同一事件多層次、多方面的共同商議與決策。同時,在算法的使用過程中,教師應警惕對算法形成不可撤回的依賴,時刻保持有風險意識,不斷提升自身教育教學素養,提升個人教育教學能力,豐富教育機智,養成教育智慧,確保自身能夠靈活切換于智能教學環境與非智能教學環境中,對教育環境具有全面深刻的洞察力,從而能夠更好地使用人工智能算法而不為其所用。

(二)力行教育教學實踐,揚長避短式甄別人工智能算法的運行

技術僅是一種手段,它本身并無善惡。一切取決于人從中造出什么,它為什么目的而服務于人,人將其置于什么條件之下[15]。教育是一個運行著的社會子系統,人工智能算法的使用賦予教育以新的血脈和動力。對人工智能算法進行教育范圍上的應用考慮,要求其必須接受教育本身特性的浸入,使智能技術被賦予上教育色彩,算法的使用接受教師的主導,它蘊含有教育力量。

首先,教師應對人工智能算法具有辯證性的認識和使用能力。人工智能的最大優勢在于對教育的時間、空間和人力的突破。人工智能算法在教育領域的深化應用,創設了強感知、高交互、泛在的學習環境,為學生的知識建構活動提供了良好條件,為創新型教學模式的發現和運用提供了空間[16]。同時,虛擬空間和實體空間從來不是分割的,亦無法取代對方。虛擬教育可以突破實體教育的限制,實體教育是虛擬教育的基礎保障,虛擬是實體的映照,但從來不是實體本身。教師應當注意在利用虛擬空間的同時,也要發揮可用的實體物理空間優勢,利用教育場域的真實性,打造可觸且溫情的教育生命空間,提升教育質量,增強現實的教育具身體驗和獲得感。

其次,教師應在教育內部建立人工智能算法使用的共識性行動規約。我們不能為了躲避有可能發生的未來風險,就放棄人工智能算法在教育中的研究和發展,但必須承認應當在人工智能算法使用的過程中對其予以倫理上的考量和規約,避免盲目的算法卷入。教師的行動發生在社會關系的建立過程中,教師通過行動在公共領域當中與他人產生有意義的聯系,關注他人就意味著對自我的行為加以限制,警惕自我對人工智能算法的使用可能對他人造成的危害,守護教育內部保護人的基線。同時,也應警惕自我行動不應過度盲從和附和來自他者的期望,無論是社會的功利化追求,還是單方的利益表達,都不應當成為使用人工智能算法的主要決策參照源。教師應持續性地基于倫理所昭示的方向追求人類高層次幸福的實現,區分自我和他者的身份界限,保證行動生命的相對獨立性。生命的功能和力量是通過人的種種行為表現出來的,在缺乏知識的情形下,是直覺彌補了知識的不足,為生命做出及時判斷和選擇提供支持[17]。教師應極具勇氣地使用生命直覺進行教育行動上的嘗試,促使人類智能與人工智能在教育中的融合。

(三)堅守人的價值位序,堅持人的實質性自由發展實現為目標

人的主體性及其實現是智能技術融入學校教育的邏輯起點和行動指向[18]。教育的全過程應堅持以人為本的教育理念,教育能夠獲得最輝煌的發展根本絕不在于大量智能技術的使用,而更多是在教育中看到人、發展人、成就人的行動過程煥發了教育的本真活力,人是教育最值得挖掘的優勢所在。而用來評判智能算法使用好壞的標準,也不應當圍繞某種技術的水平多么高級或者高超,能夠產生多么絢麗的場面,能夠突破什么樣的人力不可為,而應當在于算法的使用與教育中人的本能的契合、與教育本性的契合,以及它的使用在多大程度上促進了人的發展,帶給了人實質性的自由獲得。

第一,確保算法促進人的發展。首先,教育的起點在于人的意志。它憑借的是教師對于教育正當的本質理解,對教育過程有邏輯清晰的規劃和設計,對好的教育目的有持之以恒的向往,也即在人工智能算法使用之前,教師頭腦當中就應當有一套清晰的教育設計藍圖,在這一藍圖中恰當地表達出了人工智能算法的使用在整個過程中的角色扮演和功能,那么接下來教師就有可能在自己所了解的人工智能算法信息基礎上,選擇出更加適合教育過程的算法進行使用,從而避免了教育圍繞算法設計做出被動調整。其次,教育的過程應當始終堅持守護算法的角色。平等一詞不應盲目地應用在人與他者任何關系的任何建立當中,當關系的對象是智能算法時,無生命特性使其并不具有倫理意義上的生命平等,而是作為人的附屬物才具有其存在的價值。最后,教育效果應當圍繞人的生命質量。我們應當順應時代潮流在教育過程中融入智能機器的使用,通過提升教育條件突破教育活動的限制,實現過程資源的利用最優化,豐富培養人的條件,為人的行動提供更多的可行性,最終人的發展應當變得更加有質量、生活更加幸福、個人獲得感更加強烈。倘若在此過程中人不幸成為算法的奴役,喪失自我的主動權而淪為機器的縮影,則應引起教師自我深處的警覺,重新判斷算法的使用在人的發展過程中的定位和角色,重新回歸以人為本的教育起點,拋卻不合時宜的速度和效率。

第二,確保算法導向好的教育。在教育當中,無論技術發展到哪一步,誰可以使用技術,誰最需要技術,在什么場景下可以使用技術,場景對技術的需求度,技術對使用場景的適應度等,這些都是需要厘清的前提問題。我們可以短暫地將對這一前提的猶豫拿到實踐中進行檢驗,判斷其真理性的相對邊緣,但不應該在長期沒有厘清基本前提的條件下持續性地進行技術的擴張、開發和使用。從智能機器的使用當中獲益不應是少數人的特權,更應該是弱勢教育群體實現階層突破的利器,應當看到,智能算法在實現教育成員共同福祉方面的優越性,教師應時刻注意教育弱勢群體因智能算法使用的素養缺乏而造成的生存劣勢,明確智能算法的使用在于彌合與縮小差距,促使算法的使用對人類智能的增強,而不在于擴大教育信息資源的分布不均衡和潛在內部矛盾。

人是人工智能出現的動因,但人和人工智能最后的關系形態還存在眾多未知,人類思維與人工智能算法的關系網中糅合著復雜的意志,人如果有意控制自我這個“因”,則“果”將在大概率上具有相對確定性。在人工智能飛速發展的時代,不時澄清教育領域內所發生的一切新變化,以昨日之初心和明日之理想指引今日之步伐,時時糾偏、調整智能機器使用視野下具體的教育行動,技術的發展與人的發展才能最終實現互利、共生、共贏。