人工智能研究中的探索空間與倫理界限

邢晶晶

【摘? 要】 教育在人工智能的加持下，促進了教與學效率的提高。人工智能在教育領域的應用具有巨大的探索和發展空間，但是也存在著不可逾越的倫理界限。秉持發展“以人為本”的生成性人工智能，要在探索的同時不越界，做到保護隱私、尊重人格等。

【關鍵詞】 人工智能；探索空間；倫理界限

人工智能（AI）是一個技術科學領域，其研究和開發包括理論、方法、技術和應用系統，旨在模擬和增強人工智能。人工智能分為強人工智能與弱人工智能，本質區別在于是否擁有自主意識。人工智能賦能教育的現象比比皆是，比如電子書包、多媒體交互、VR虛擬等技術。以及2022年發布的聊天機器人程序GPT，其功能強大，甚至被學生用來“解放”頭腦和雙手，代寫作業和論文。人工智能研究需要辯證看待。要在將人工智能應用于教育中時發揮其正向的作用，同時避免跨越其反向的邊界線。因為在涉及與人相關的研究時，人工智能技術的應用是存在限制的。人工智能隨之帶來的一系列倫理挑戰，我們需要積極應對其隱患。做到發展“以人為本”的生成性人工智能，更好地為人類服務。

一、人工智能的底層邏輯：大數據、算法和算力

我們想要知道人工智能涉及的倫理問題，就需要解開人工智能的“黑匣子”，了解人工智能的底層邏輯。為什么都是設定好的程序，預先寫好的算法，還會出問題呢？人工智能因為沒有人為因素介入通常被人們認為是公平的。但是實際的情況并卻不如人所愿。人工智能中也會出現對種族的歧視和女性的厭惡，也就是說人工智能中也是存在偏見和歧視的。那么，究竟是什么原因導致的？人工智能的偏見主要源于算法和數據。它的算法和數據使得它對某些特定的種族和性別表現出了負面偏見。人工智能和大數據是密不可分的關系，大數據是人工智能的能量來源，而算法則是推動人工智能發展的引擎。算法是計算機根據大數據歸納得出的識別邏輯、解決問題的方法。算力是計算機處理信息的能力。隨著互聯網的高速發展和信息時代的運轉，產生的是一個數據爆炸的結局。計算成本降低與算力進步使得處理和分析海量數據成為可能。例如當你走進一家4S店時，經理似乎對你不感冒，你上前詢問理由，經理回答：“當你走進門的那一刻，我們的攝像頭已經對你進行面部識別，你的月工資、工作單位、最高消費水平等都一覽無余。”可以說，算法在幕后重新建立了一種秩序，幾乎所有的經濟運行流程或人們的活動都受其影響。算法社會的前提條件是將萬物都數據化，包括了人的數據化。

二、人工智能研究中的探索空間

（一）腦機接口技術

腦機接口是可以連接機器外部設備與大腦的技術。目前了解到的腦機接口技術被用來幫助高位截肢的病人開球；幫助漸凍人實現意念打字；以及幫助出車禍的患者實現意念喝水等等。這項與人工智能有關的技術在教育、醫療、娛樂、健康等領域都多有應用。舉一個貼近現實的例子：腦機接口中最廣泛應用的技術是“人工耳蝸”。它能夠將接收到的聲音轉化為電信號，并將這些信號傳輸到耳蝸中的電極上。電極通過刺激耳蝸神經來激活大腦的聽覺功能。腦機接口技術把一些不可能變成了可能。

腦機接口技術還可以分為兩類技術路線：侵入式和非侵入式。腦科學本身就是復雜的科學，收集的腦電信號是十分微弱的且易受噪音干擾。現在廣泛應用的是非侵入式技術。但是，當一些高位截癱患者需要功能恢復時就只能依靠植入腦機接口。利用侵入式技術，可以實現對視聽功能的重塑，從而輔助治療帕金森病和阿爾茨海默病等疾病；而非侵入式技術則可以用于監測和改善睡眠質量等問題。

（二）智能化課堂

當人工智能融入教育，是康莊大道還是荊棘密布的小路？

人工智能已經開始進入教育領域，豐富了人們的教學方式與獲取知識的方式。但是過多的碎片知識涌入、眼花繚亂的智慧學習模式，與教育的本質是否一致？AI在學習的過程中，應該扮演什么角色？傳統的課堂教學往往是老師和學生之間的互動，學生大多是被動聽課，而且教學過程中缺乏實時反饋和互動。通過人工智能技術，可以實現智能化課堂，提高教學質量和效率。例如智能教室通過視頻監控、語音識別等技術，對學生的表情、動作、語言等進行實時監測和分析，幫助老師更好地了解學生的狀態，調整教學內容和方法，提高教學效果。

目前，一些大學已開始嘗試將人工智能引入課堂，與傳統教學方式結合，以改進教學主體之間的互動，有效提升學生的主體性，并推動傳統教育向智能教育的轉變。例如利用智能終端和即時反饋系統改造了智慧教室，為師生提供高效的教學與學習環境，并借助語音識別和圖像識別技術為學生提供智能化的自主測評平臺等。

現在，智能教育平臺的類型有很多，主要包括自動化教學平臺、智能化教學平臺和在線教育平臺。自動化教學平臺主要面向教師，幫助教師實現課程的自動化管理和授課；智能化教學平臺主要面向學生，幫助學生實現課堂學習的智能化；在線教育平臺主要是面向在校學生和在職人員，幫助他們實現遠程在線學習。

（三）個性化學習

個性化學習是指收集和分析學生的學習數據，使用人工智能描述每個學生的學習風格和特點，然后自動調整教學內容、方法和節奏，使每個孩子都能接受最適合自己的教育。

雖然教育倡導個性化教學，但教師在面對眾多學生的情況下，很難感知和分析每個學生的學習情況。因此，實施個性化教學變得較為困難。現有的在線教學大都不是真正的個性化教學，只是將傳統教室移到了手機和電腦等電子設備上，仍無法及時有效地關注學習者的學習狀況。然而，隨著人工智能的出現，有望有效解決這一問題。

隨著人工智能技術的普及和應用，個性化學習資源的獲取和利用得以加速。慕課等在線教育平臺作為我國教育領域的重要代表，已經積累了大量的教育數據，為廣大學習者提供了豐富的學習資源。然而，學生在挑選課程時，往往會依據個人的興趣和現有的知識水平進行選擇，這一現象在一定程度上可能導致信息過載，甚至引發學生的興趣喪失。通過利用人工智能的機器學習方法，結合學生的知識水準、興趣喜好、學習習慣和學習情緒等數據信息，可以對學生的行為進行分析，對學生進行個性化的篩選和推薦。因此，大學教育可以使用人工智能來推動學生對具有個性化的專業領域資源的選擇，并開展個體化的教學。

三、人工智能研究中的倫理界限

（一）隱私保護的“最后一個堡壘”

腦機接口技術涉及對個人大腦活動的數據采集和分析，如果這些數據被濫用或泄露，將對個人的隱私權產生威脅。因此，在使用腦機接口技術進行教育應用時，必須確保學生的個人隱私不受侵犯，并采取相應的安全措施。目前人工智能的廣泛應用已經明顯顯示出隱私保護問題。首先，教育過程中使用腦機接口來實時監測學生的腦波動并及時反饋，這是否真正有利于教學效率提高，還是會阻礙學生進入高度集中的學習狀態？其次，腦機接口是否會取代傳統的學習方式，使學生不再需要努力學習？如果我們能夠實現知識的直接傳輸，這無疑會進一步加強教育的機械性和技術化程度。再次，對于腦機接口技術的操作和控制，需要建立一套完善的道德和倫理準則。例如在教育應用中使用腦機接口技術來解讀學生的思維和情感狀態，需要確保這一技術的使用是基于學生的知情同意，并且盡可能避免對學生產生不必要的倫理壓力。此外，教育者需要在利用腦機接口技術時充分尊重學生的選擇權，避免過度干預學習過程和結果。最后，腦機接口技術在教育應用中的使用也需要考慮到公平和公正原則。如果腦機接口技術只被少數特定群體所掌握和應用，將會加劇教育資源的不平等分配問題。因此，有必要建立相應的監管機制和教育政策，確保腦機接口技術的應用不會加劇社會不公平問題。

（二）“全景監獄”

首先，個人隱私和數據安全是智能化課堂面臨的重要問題。在收集學生的學習數據和行為信息時，需要確保學生的隱私得到保護，防止數據被濫用或泄露。

其次，智能化課堂還可能加劇教育不平等問題。雖然智能化技術可以提供個性化的學習內容，但是對于那些沒有機會接觸到智能化課堂的學生來說，他們可能會面臨學習資源不足的情況，從而進一步拉大教育差距，出現教育鴻溝。

再次，事實上，在智能課堂中，對學生的學習行為數據的采集屬于一種外部監控，它涉及監控對象的意愿度、監控事務范圍、監控數據的應用去向和監控評價質量等方面的倫理風險。從局限的數據調查，一般情況下會演變為全方位、全過程、全員覆蓋的常規化和合法性的數據監督，而調查的對象也會逐步喪失其道德主體的身份，而成為數據透明的客體對象。人工智能技術對學生的學習過程進行實時全過程監控，記錄學生的表情、動作、語言，對學生的性格有消極的作用，會對學生造成很大的心理負擔，有侵犯學生個人隱私的嫌疑。甚至有可能將學生變為“表演型”人格的人。

最后，智能化課堂的應用也需要謹慎對待。雖然智能化技術可以提高學習效果，但是過分依賴智能化系統可能削弱學生的自主學習能力和創造力。因此，在智能化課堂的設計與實施過程中，需要充分考慮如何平衡智能化技術和傳統教學方法，以確保學生全面發展和個性發展的需求得到滿足。

（三）個人信息泄露的危機

師生關系冷漠化。比如慕課的大量使用，導致在傳統的教育中，教師和學生的二元關系變成了機器、學生、教師的三元關系，在空間上對教師和學生的對話產生了影響，使學生無法直接感受教師的情感、態度、價值觀，學生逐漸成為缺少感情色彩的知識接受者。機器是冰冷的，只有具有人文關懷的教師才是學生的引導者。在大數據的推送下，學生接受的信息過量，信息迷航導致學生壓力倍增，會損傷身心健康。個性化學習需要收集和分析大量學生的個人數據，也可能涉及敏感信息的獲取和使用，如學生的姓名、年齡、學生成績等。在個人數據的收集和使用過程中，必須確保學生數據的安全和隱私。個性化學習還可能陷入算法偏倚和認知限制的困境。個性化學習系統依賴于算法來分析學生數據并做出學習推薦，但算法的設計和實現可能存在偏倚和錯誤。如算法可能過分關注學生的某些學科，忽略其他學科的重要性。

人工智能教育的發展促進了大數據在教育領域的拓展。教育機構利用各種數據采集設備和數據分析系統獲取學生的各種信息，并利用強大的算法對這些海量數據進行深入分析。不僅可以對學生成績進行排名，還可以“計算”出一個人的道德品質、政治素養、思維能力、心理健康狀況、行為習慣等，甚至可以“讀懂”其隱藏的伎倆。可以說，在人工智能時代，一切都有可能被記錄，一切都可以成為大數據，智能算法系統比我們更了解自己，人們毫無保留地暴露在數據智能分析之下。

學生在平時使用人工智能應用時，表面是風平浪靜的個性化學習，背后卻是將學生的所有數據收集起來被數據公司利用，被智能教育商分享和使用，甚至他們已經創建了一個教育用戶數據庫。這使得數據和個人信息的“所有權”變得毫無意義。

四、結語

文章首先梳理了人工智能的底層邏輯，明晰人工智能是如何實現目標的，講清楚了人工智能的操作邏輯和基本原理。人工智能在教育中的應用越來越廣泛和深入，與教育的融合也越來越普遍。人工智能與傳統教育的融合推動了高等教育的改革。人工智能在教育中的應用可以實現跨時空學習，提升學習和教學效率等。在人工智能的時代下，高等教育中的主體，也面臨著挑戰和不容忽視的倫理問題，我們必須充分利用人工智能帶來的技術優勢，以推動社會進步和創新發展。然而，我們也要著重關注倫理邊界，確保人工智能技術的教育應用不會對人類產生負面影響。同時，應以教育技術的理性態度，客觀地評估人工智能技術的效果和潛在風險，以確保其發展符合社會的共同利益和人類價值觀。只有在正確的引導下，人工智能才能成為社會發展的強有力支撐，為人類帶來更多福祉。

參考文獻：

［1］ 孫佳晶，馮銳. 人工智能教育應用的倫理風險研究［J］. 大眾文藝. 2020（03）：248-249.

［2］ 鄭忠梅. 教育技術理性的倫理意蘊——基于Web2.0的網絡教育文化視角的分析［J］. 中國電化教育，2011（03）：8-11+32.

［3］ 董云川，韋玲. 人工智能促進高等教育發展的倫理糾偏［J］. 重慶高教研究，2021，9（02）：51-58.