人工智能背景下教育風(fēng)險(xiǎn)的規(guī)避策略研究

楊歡　劉世清

摘要：人工智能的快速發(fā)展，是目前科研人員和教育工作者的研究熱點(diǎn)。尤其是近年來(lái)，人工智能與教育的結(jié)合，給教育帶來(lái)了新一輪的變革，人們普遍關(guān)注人工智能給教育帶來(lái)的機(jī)遇，卻很少有人關(guān)注其背后隱藏的教育風(fēng)險(xiǎn)。該文對(duì)人工智能背景下隱藏的教育風(fēng)險(xiǎn)進(jìn)行梳理，并提出一些規(guī)避策略，以期人工智能可以更好地為教育教學(xué)服務(wù)，這對(duì)人工智能以及教育信息化的發(fā)展具有重要意義。

關(guān)鍵詞：教育人工智能;教育大數(shù)據(jù);互聯(lián)網(wǎng)+教育;教育風(fēng)險(xiǎn)

中圖分類號(hào)：TP18? ? ? 文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1009-3044（2022）08-0081-02

人工智能（Artificial Intelligence，簡(jiǎn)稱 AI），是由McCarthy在1956 年的Dartmouth 學(xué)會(huì)上正式提出的，是計(jì)算機(jī)學(xué)科的重要分支之一[1]。人工智能實(shí)際上是人類器官的延伸，幫助人類走得更快、看得更遠(yuǎn)，做一些過(guò)去只有人類才可以進(jìn)行的工作，在一定程度上解放了生產(chǎn)力。教育中的人工智能（Artificial Intelligence in Education，AIED），又稱“AI + 教育”，將教育與人工智能融合在一起，創(chuàng)造具有適應(yīng)性的學(xué)習(xí)環(huán)境，開(kāi)發(fā)智能工具來(lái)促進(jìn)教育的發(fā)展[2]。

1 人工智能的教育應(yīng)用問(wèn)題

人工智能在教育中的應(yīng)用，主要集中在兩方面：一方面開(kāi)展人工智能教育，讓學(xué)生進(jìn)行有關(guān)人工智能的學(xué)習(xí)，當(dāng)今很多高校都設(shè)有如編程類課程、機(jī)器人教育課程等人工智能課程，教授學(xué)生專門學(xué)習(xí)、研發(fā)如何制作智能機(jī)器人;同時(shí)還創(chuàng)建有人工智能學(xué)習(xí)小組等。另一方面要求學(xué)會(huì)運(yùn)用人工智能技術(shù)，進(jìn)行“人工智能+”背景下的教育，促進(jìn)教育教學(xué)的變革。比如，基于人工智能下的新型教學(xué)模式、個(gè)性化教學(xué)評(píng)估等，即如何將人工智能與教育進(jìn)行有機(jī)融合，促進(jìn)“人工智能+教育”的賦能發(fā)展。下面就這一方面的應(yīng)用進(jìn)行論述。

1.1基于人工智能的課前準(zhǔn)備

課前準(zhǔn)備是針對(duì)師生雙方的。課前教師可以利用人工智能技術(shù)，收集、分析以往的課堂情況，生成一份教學(xué)指南;還可以獲得每一份學(xué)生的學(xué)情報(bào)告，這樣教師可以更具有針對(duì)性地進(jìn)行教學(xué);同時(shí)，教師還可以利用翻轉(zhuǎn)課堂、微課等技術(shù)為學(xué)生推送一些簡(jiǎn)短的學(xué)習(xí)小視頻等，供學(xué)生課前學(xué)習(xí)，學(xué)生在課前可以接收到適宜的預(yù)習(xí)內(nèi)容，有助于課程的導(dǎo)入，這樣既節(jié)省了教學(xué)時(shí)間，又使教學(xué)任務(wù)變得更加明確;此外，在提升教學(xué)效果的層面上，人工智能可以為教師提供虛擬課堂課前演練，有虛擬的教室和學(xué)生，可供教師課前試講并改進(jìn)教學(xué)。

1.2基于人工智能的教學(xué)過(guò)程

伴隨人工智能與教育的深度融合，涌現(xiàn)出了許多線上課堂，比如“MOOC”“空中課堂”等。與傳統(tǒng)的教學(xué)過(guò)程不同，大量的網(wǎng)絡(luò)課程可供教學(xué)，真正實(shí)現(xiàn)了教育的“4W”模式，即人們?cè)谑裁磿r(shí)間（what time）、什么地點(diǎn)（where）、以何種方式（how）學(xué)習(xí)什么內(nèi)容（what）。信息化時(shí)代，人們可以選擇各種各樣的資源進(jìn)行學(xué)習(xí)，真正做到隨時(shí)隨地進(jìn)行碎片化學(xué)習(xí)。人工智能技術(shù)在教育中的應(yīng)用，還可以做到追蹤學(xué)生的學(xué)習(xí)軌跡、記錄學(xué)習(xí)過(guò)程、生成學(xué)習(xí)檔案。教師可據(jù)此為學(xué)生選擇適合的個(gè)性化課程資源;還可采用“真人老師+人工智能助教”的新型教學(xué)模式，人工智能助教負(fù)責(zé)教授給學(xué)生一般的知識(shí)，而真人教師負(fù)責(zé)對(duì)學(xué)生進(jìn)行精細(xì)輔導(dǎo)和情感關(guān)懷，彌補(bǔ)人工智能的不足;此外，還涌現(xiàn)出如 “同步課堂”“互聯(lián)網(wǎng)+教育”“線上送教”等眾多人工智能下的新型教學(xué)形式，進(jìn)一步拓寬了學(xué)生獲取知識(shí)的渠道，也在一定程度上緩解了教育不均衡的局面。

1.3基于人工智能的課后輔導(dǎo)

人工智能技術(shù)真正變革了“教與學(xué)”的形式，在很大程度上解放了教師、家長(zhǎng)和學(xué)生。人工智能與教育的結(jié)合，還可以為學(xué)生提供精準(zhǔn)的課后輔導(dǎo)服務(wù)。學(xué)生課后可以進(jìn)行網(wǎng)絡(luò)課程學(xué)習(xí)，可通過(guò)網(wǎng)絡(luò)獲取學(xué)習(xí)資源或向老師等尋求幫助，還可用電子產(chǎn)品下載類似“作業(yè)幫”“小猿搜題”等搜題解題軟件，這些人工智能為教育帶來(lái)的機(jī)遇，均可為學(xué)生提供隨時(shí)隨地的解答與輔導(dǎo)。除此之外，還出現(xiàn)了智能學(xué)習(xí)機(jī)器人，能夠?qū)W(xué)生的學(xué)習(xí)進(jìn)行智能輔導(dǎo)，還附帶解題過(guò)程、思路、視頻講解等;人工智能技術(shù)還可以對(duì)學(xué)生進(jìn)行學(xué)情分析，根據(jù)學(xué)生的個(gè)性化需求，為學(xué)生推送適合學(xué)生的一系列學(xué)習(xí)內(nèi)容，對(duì)學(xué)生的學(xué)習(xí)進(jìn)行查漏補(bǔ)缺;人工智能可以在學(xué)生學(xué)習(xí)過(guò)程中，對(duì)學(xué)生實(shí)時(shí)監(jiān)督，進(jìn)行智能糾錯(cuò)，生成個(gè)性化分析報(bào)告等，真正促進(jìn)學(xué)生的深度學(xué)習(xí)。

1.4基于人工智能的信息化評(píng)價(jià)體系

以往的教學(xué)評(píng)價(jià)來(lái)源于老師課堂的觀察以及作業(yè)等級(jí)與考試得分等，對(duì)學(xué)生的學(xué)習(xí)過(guò)程關(guān)注度不夠。人工智能背景下的評(píng)價(jià)體系，使教師可以根據(jù)實(shí)際教學(xué)情況和每位學(xué)生的不同需求，實(shí)現(xiàn)個(gè)性化組卷，組合成適合不同班級(jí)、不同水平的學(xué)生試卷，并在學(xué)生完成考卷后，進(jìn)行自動(dòng)統(tǒng)計(jì)數(shù)據(jù)，生成個(gè)性化評(píng)估報(bào)告，助力精準(zhǔn)教學(xué)。對(duì)于評(píng)價(jià)過(guò)程中的監(jiān)督模式，除了和以往一樣的教師監(jiān)考外，還可用電子屏蔽儀、考場(chǎng)監(jiān)控等進(jìn)行輔助，更大程度上確保測(cè)試的真實(shí)性。通過(guò)對(duì)學(xué)生學(xué)業(yè)的信息化精準(zhǔn)評(píng)價(jià)，針對(duì)學(xué)生的差異，也可更好地為學(xué)生匹配適合其學(xué)情的老師。人工智能背景下的評(píng)價(jià)，不僅更高效、更準(zhǔn)確，也更全面。

1.5基于人工智能的教育管理體系

教育管理是教育教學(xué)中的重要組成部分，人工智能技術(shù)在教育管理中也有很廣泛的應(yīng)用。如智能選課系統(tǒng)的出現(xiàn)為教育提供了便利，學(xué)生可根據(jù)興趣、學(xué)業(yè)需求，進(jìn)入選課系統(tǒng)選擇課程。此外，針對(duì)學(xué)生上課簽到的問(wèn)題，點(diǎn)名簽到軟件節(jié)省了教師點(diǎn)名的時(shí)間，提高了課堂利用率;教學(xué)軟件也層出不窮，比如“對(duì)分易”“雨課堂”等，可以便捷地管理班級(jí)成員、發(fā)布消息、上交作業(yè);校園安全監(jiān)控系統(tǒng)的廣泛使用，極大方便了教育管理者的管理工作，如教室內(nèi)外、食堂、校園里的監(jiān)控錄像、門禁控制系統(tǒng)等，幫助管理者實(shí)時(shí)監(jiān)督教學(xué)、生活狀況，將學(xué)生的學(xué)習(xí)與生活過(guò)程可視化，有助于教師更全面地了解學(xué)生，促進(jìn)教育教學(xué)質(zhì)效的提高。

2 人工智能背景下隱藏的教育風(fēng)險(xiǎn)

2.1 侵犯隱私，泄露數(shù)據(jù)

教育人工智能倫理是教育人工智能發(fā)展不可忽視的現(xiàn)實(shí)議題。[3]進(jìn)入人工智能時(shí)代，各種信息通過(guò)網(wǎng)絡(luò)可以方便、快捷地傳輸，人們?cè)谙硎鼙憷耐瑫r(shí)，也承擔(dān)了一定的風(fēng)險(xiǎn)。教育領(lǐng)域中的人工智能需要教育大數(shù)據(jù)，但是教育大數(shù)據(jù)的采集、存儲(chǔ)和處理對(duì)人們的威脅很大，尤其是私密信息的泄露[4]。人們的個(gè)人信息、位置信息等，很有可能被別有用心的人利用，竊取隱私、泄露數(shù)據(jù)、頻繁的騷擾電話，以及量身定制的推銷都表明隱私已經(jīng)存在泄露。在大數(shù)據(jù)時(shí)代， 學(xué)生全時(shí)段的校內(nèi)外活動(dòng)軌跡及其家庭背景、社會(huì)交往等個(gè)人信息， 在教師和教育管理者面前“一覽無(wú)余”，而學(xué)生卻處在教育管理鏈的末端，因此，保護(hù)好學(xué)生的隱私信息就顯得尤為重要[5]。在教育中使用人工智能，在提高教育質(zhì)量，提升教育效率的同時(shí)，可能也對(duì)人們的信息安全造成了隱患。

2.2 不良信息，誤導(dǎo)學(xué)生

伴隨著人工智能與教育的深度融合，網(wǎng)絡(luò)上出現(xiàn)了豐富的學(xué)習(xí)資源以幫助學(xué)生進(jìn)行自主學(xué)習(xí)、碎片化學(xué)習(xí)，但這些信息良莠不齊，學(xué)生面對(duì)海量的信息資源進(jìn)行學(xué)習(xí)的同時(shí)，很容易被不良信息誤導(dǎo)。學(xué)生年齡較小、社會(huì)經(jīng)驗(yàn)不足，對(duì)事物的認(rèn)知能力有限，難以分辨信息的好壞，同時(shí)也缺乏對(duì)不良信息的抵制能力。面對(duì)開(kāi)放的學(xué)習(xí)資源，學(xué)生可能獲取不到自己真正需要的、適合自己的信息，反而會(huì)被不良信息誤導(dǎo)，受到不良信息的侵害。

2.3 忽視情感、態(tài)度與價(jià)值觀

進(jìn)入人工智能時(shí)代，教育教學(xué)組織形式發(fā)生了變革，但長(zhǎng)此以往會(huì)出現(xiàn)師生不能及時(shí)互動(dòng)、問(wèn)題得不到及時(shí)解決、教師關(guān)注不到學(xué)生的情感等問(wèn)題。在傳統(tǒng)課堂上，教師課上拍拍學(xué)生的肩膀?qū)τ趯W(xué)生來(lái)說(shuō)都是極大的鼓舞;而在人工智能背景下，追求高效、便捷的課堂，幫助學(xué)生收獲知識(shí)的同時(shí)，忽視了對(duì)學(xué)生情感、態(tài)度和價(jià)值觀的培養(yǎng)。此外，一些智能學(xué)習(xí)機(jī)器人、解題類App等，在傳遞教學(xué)資源的過(guò)程中，也難以兼顧到學(xué)生個(gè)性化的情感、態(tài)度等。

2.4 缺乏監(jiān)督，學(xué)生學(xué)習(xí)松懈

如今已經(jīng)進(jìn)入開(kāi)放學(xué)習(xí)、自主學(xué)習(xí)、終身學(xué)習(xí)的新時(shí)代，在豐富的信息資源下，學(xué)生可以借助網(wǎng)絡(luò)，自主學(xué)習(xí)許多內(nèi)容。但也正因如此，學(xué)生缺乏教師的監(jiān)督，自主學(xué)習(xí)被放大，可能在一定程度上造成對(duì)自己的學(xué)習(xí)松懈，特別是對(duì)于一些自制力不高甚至缺乏自覺(jué)性的學(xué)生。比如，以前教師布置作業(yè)學(xué)生都要認(rèn)真思考才可以做出來(lái)，而現(xiàn)在學(xué)生只需要打開(kāi)“百度”或者下載諸如“作業(yè)幫”等的App，拍照便可搜題找到答案，易于導(dǎo)致他們不加思考就把答案抄上去，來(lái)完成教師所布置的任務(wù)。

2.5 學(xué)生形成表演型人格

隨著人工智能進(jìn)入校園，在學(xué)校的各個(gè)角落，師生幾乎都受到了無(wú)死角的監(jiān)控。一些教室開(kāi)始配備人臉識(shí)別系統(tǒng)，用來(lái)更方便地記錄學(xué)生出勤情況，也避免了代替同學(xué)“答到”的不良行為，起到了督促學(xué)生學(xué)習(xí)的作用。但同時(shí)，這也意味著，要實(shí)現(xiàn)數(shù)據(jù)采集，從動(dòng)作分析到表情、情緒及肢體分析、眼球追蹤等，學(xué)生的一舉一動(dòng)都將暴露在人臉識(shí)別系統(tǒng)之下[6]。然而，這種評(píng)價(jià)無(wú)法真實(shí)判斷教學(xué)是否在“表演”，學(xué)生細(xì)微的表情變化是否能夠真實(shí)表現(xiàn)學(xué)生對(duì)所學(xué)內(nèi)容的理解程度？對(duì)臉部無(wú)表情的學(xué)生怎樣判斷[1]？在有監(jiān)控的環(huán)境下和無(wú)監(jiān)控的環(huán)境下，所做出的表現(xiàn)是不一樣的，長(zhǎng)期被系統(tǒng)監(jiān)測(cè)，學(xué)生容易形成“表演性”人格，長(zhǎng)此以往，會(huì)讓學(xué)生隱藏自己的本性，不利于學(xué)生的人格發(fā)展。

3 人工智能背景下教育風(fēng)險(xiǎn)的規(guī)避策略

3.1 利用信息技術(shù)，構(gòu)建安全屏障

人工智能在教育中的應(yīng)用產(chǎn)生了許多教育大數(shù)據(jù)，大數(shù)據(jù)由各種代碼組成，容易被一些黑客攻破并盜取信息。“比如，在信息泄露方面，通過(guò)智能系統(tǒng)對(duì)教育數(shù)據(jù)的保密性、真實(shí)性和完整性進(jìn)行維護(hù)，依賴于教育數(shù)據(jù)的存取和免受攻擊”[4]。基于目前網(wǎng)絡(luò)開(kāi)放、資源共享的特點(diǎn)，為了進(jìn)一步加強(qiáng)網(wǎng)絡(luò)信息安全，可以從以下幾個(gè)方面入手：一是大力加強(qiáng)數(shù)據(jù)保護(hù)，如使用更先進(jìn)、復(fù)雜的解鎖機(jī)制，對(duì)數(shù)據(jù)進(jìn)行嚴(yán)格加密，可有效阻擋黑客;二是采用用戶安全分離機(jī)制，若一個(gè)網(wǎng)絡(luò)用戶受到侵害，便不會(huì)像以前一樣迅速蔓延，導(dǎo)致集體中毒，可以及時(shí)降低損失;三是加強(qiáng)技術(shù)的改進(jìn)，開(kāi)發(fā)出更強(qiáng)勁的殺毒軟件，讓病毒、黑客無(wú)機(jī)可乘，從而有效保護(hù)網(wǎng)絡(luò)信息安全，使隱私不被泄露。

3.2 創(chuàng)建綠色環(huán)境，為學(xué)生護(hù)航

加大對(duì)互聯(lián)網(wǎng)的凈化力度，對(duì)網(wǎng)絡(luò)信息實(shí)行更嚴(yán)格的把控，保證網(wǎng)絡(luò)環(huán)境是安全的，健康的。實(shí)時(shí)進(jìn)行網(wǎng)絡(luò)監(jiān)測(cè)，對(duì)一些虛假消息、謠言，設(shè)置自動(dòng)識(shí)別、過(guò)濾;設(shè)置網(wǎng)絡(luò)追蹤系統(tǒng)，一旦追蹤到不良信息發(fā)布者、傳播者，給予一定的懲罰。此外，各平臺(tái)還可以采用實(shí)名認(rèn)證的方式，對(duì)未成年的學(xué)生提供青少年模式，保證所接觸到的內(nèi)容都是適合他們年齡階段的;同時(shí)，學(xué)校也要對(duì)學(xué)生加強(qiáng)信息素養(yǎng)的培養(yǎng)，安排信息化課程，指導(dǎo)學(xué)生如何查找信息、辨別信息、篩選信息、使用信息，增強(qiáng)信息意識(shí)。

3.3 豐富機(jī)器情感，教師給予輔助

人工智能與人類相比，畢竟是機(jī)器，雖然在許多方面，人工智能已經(jīng)特別先進(jìn)，但在情感方面，人工智能仍無(wú)法和人類相比。如果師生之間的交流被虛擬世界所阻隔，僅傳播一些抽象化的符號(hào)與程式化的活動(dòng)，將會(huì)導(dǎo)致人文關(guān)懷的情感缺失[7]。在人工智能背景下，同樣需要關(guān)注學(xué)生的情感培養(yǎng)。如教會(huì)機(jī)器人對(duì)學(xué)生的面部表情進(jìn)行精細(xì)識(shí)別，識(shí)別學(xué)生表情背后蘊(yùn)藏的情感，如微笑、沮喪等;也可以從語(yǔ)言、聲音、動(dòng)作等方面進(jìn)行識(shí)別，以此給予及時(shí)地鼓勵(lì)或安慰，達(dá)到情感喚醒的結(jié)果。如此，可以實(shí)現(xiàn)對(duì)學(xué)生的全面化培養(yǎng)。此外，在“人工智能+教育”時(shí)代，機(jī)器、網(wǎng)絡(luò)占據(jù)了學(xué)習(xí)的很大比重，但傳統(tǒng)教師的角色作用仍然不能被弱化。教師、家長(zhǎng)應(yīng)該更加關(guān)注學(xué)生的情感發(fā)展，幫助學(xué)生在學(xué)業(yè)進(jìn)步的同時(shí)，形成完善的人格和正確的價(jià)值觀。

3.4 嚴(yán)格把關(guān)資源，家校加強(qiáng)監(jiān)督

“人工智能+教育”時(shí)代，資源獲取具有很大的便捷性，造成學(xué)生很可能不動(dòng)腦筋就把作業(yè)“寫”完了的局面。為避免這種情況，建議一些類似于“作業(yè)幫”等的學(xué)輔軟件加強(qiáng)對(duì)資源的把控。在學(xué)生解題的過(guò)程中，需要學(xué)生具備一些相應(yīng)的基礎(chǔ)知識(shí)，按照指引一步一步思考，與機(jī)器共同完成答題，在答題的過(guò)程中思考，得到更多收獲;或者需要完成一些與目標(biāo)資源相近的小任務(wù)，任務(wù)完成后，才可以獲取目標(biāo)答案和解題指引，如此便可以避免學(xué)生閉著眼睛完成作業(yè)的情況。帶動(dòng)學(xué)生按步驟尋找答案，比直接將完整的答案呈現(xiàn)給學(xué)生更加有利于學(xué)生進(jìn)步;在此過(guò)程中，鞏固學(xué)生知識(shí)的同時(shí)，也可以在很大程度上避免學(xué)生偷懶、松懈。此外，家校之間應(yīng)進(jìn)行協(xié)作，加強(qiáng)對(duì)學(xué)生學(xué)習(xí)的監(jiān)督、輔助，幫助學(xué)生形成良好的學(xué)習(xí)習(xí)慣。

4 結(jié)語(yǔ)

“人工智能+教育”時(shí)代的到來(lái)，為教育帶來(lái)機(jī)遇的同時(shí)，也帶來(lái)了挑戰(zhàn)。人們應(yīng)該正確把握“教育人工智能”的內(nèi)涵，以發(fā)展的眼光審視它。面對(duì)教育信息化的高速發(fā)展，廣大科研人員和教育工作者應(yīng)保持理性，警惕人工智能在教育上可能隱藏的一些風(fēng)險(xiǎn)，并積極采取相應(yīng)的措施加以規(guī)避，推進(jìn)人工智能與教育形成更深程度的融合。

參考文獻(xiàn)：

[1] 孟翀，王以寧.教育領(lǐng)域中的人工智能：概念辨析、應(yīng)用隱憂與解決途徑[J].現(xiàn)代遠(yuǎn)距離教育，2021（2）：62-69.

[2] 王嵐，王凱.教育中的人工智能：應(yīng)用、風(fēng)險(xiǎn)與治理研究[J].黑龍江高教研究，2020，38（6）：45-49.

[3] 趙磊磊，姜蓓佳，李凱.教育人工智能倫理的困境及治理路徑[J].當(dāng)代教育科學(xué)，2020（5）：3-7.

[4] 薛慶水，李鳳英.人工智能教育應(yīng)用的安全風(fēng)險(xiǎn)與應(yīng)對(duì)之策[J].遠(yuǎn)程教育雜志，2018，36（4）：88-94.

[5] 胡弼成，鄧杰.大數(shù)據(jù)時(shí)代的教育變革：挑戰(zhàn)、趨勢(shì)及風(fēng)險(xiǎn)規(guī)避[J].教育科學(xué)研究，2015（6）：29-34.

[6] 劉斯文.人工智能進(jìn)校園風(fēng)險(xiǎn)何在[N].北京商報(bào)，2019-09-10（16）.

[7] 馮銳，孫佳晶，孫發(fā)勤.人工智能在教育應(yīng)用中的倫理風(fēng)險(xiǎn)與理性抉擇[J].遠(yuǎn)程教育雜志，2020，38（3）：47-54.

【通聯(lián)編輯：唐一東】