國際人工智能教育治理政策規(guī)劃和創(chuàng)新路徑研究

摘" "要：人工智能教育治理是世界各國教育面臨的共同議題。厘清人工智能給教育帶來的潛在風(fēng)險(xiǎn)，制定國際人工智能教育治理的政策規(guī)劃，探明推動(dòng)人工智能教育治理國際合作的創(chuàng)新路徑，有助于促進(jìn)人工智能技術(shù)全方位賦能教育，推動(dòng)人工智能教育治理學(xué)術(shù)共同體構(gòu)建。2023年11月，在首屆人工智能安全峰會(huì)上，來自中國、美國、歐盟等28個(gè)國家和國際組織的代表，共同簽署了《布萊奇利宣言》，這也是全球第一份針對(duì)人工智能技術(shù)的國際性聲明。采用文本分析和內(nèi)容分析法對(duì)該宣言出臺(tái)的政策背景和研究目的進(jìn)行分析，從人本主義批判視角著重探究國際人工智能教育治理的政策規(guī)劃，并反思其對(duì)我國人工智能教育治理創(chuàng)新路徑的啟示：構(gòu)建開放且透明的人工智能教育治理體系、建立動(dòng)態(tài)化的人工智能教育治理監(jiān)管機(jī)制、推動(dòng)人工智能教育治理國際合作多邊機(jī)制、提升人工智能賦能教育安全風(fēng)險(xiǎn)預(yù)判能力，以及秉持共同、綜合、合作、可持續(xù)的安全觀，以期加速我國人工智能教育治理現(xiàn)代化，為國際人工智能教育治理總體規(guī)劃的制定貢獻(xiàn)中國方案。

關(guān)鍵詞：ChatGPT；生成式人工智能；人工智能安全；教育治理；人工智能教育

中圖分類號(hào)：G434" " " " "文獻(xiàn)標(biāo)志碼：A" " " " "文章編號(hào)：1673-8454（2024）03-0043-09

一、問題提出

隨著人工智能技術(shù)的飛速發(fā)展與廣泛應(yīng)用，教育領(lǐng)域進(jìn)入新的技術(shù)變革時(shí)期。人工智能作為引領(lǐng)教育創(chuàng)新的內(nèi)生力量，在為教育賦能的同時(shí)也衍生出一系列不容忽視的教育風(fēng)險(xiǎn)，如數(shù)字貧困加劇、未經(jīng)同意使用內(nèi)容、模型輸出無法解釋、人工智能生成的內(nèi)容污染互聯(lián)網(wǎng)、產(chǎn)生更深層次的深度造假等問題，需要更加審慎地看待人工智能技術(shù)教育應(yīng)用的限度[1]。在人工智能與教育治理深度融合方面，理論層面存在頂層設(shè)計(jì)缺乏、監(jiān)管框架缺位、政策框架缺失等問題；實(shí)踐層面缺少相對(duì)科學(xué)完善的應(yīng)用指南、監(jiān)管認(rèn)證工具、創(chuàng)新實(shí)施方法和行動(dòng)措施，嚴(yán)重削弱了人工智能技術(shù)全方位賦能教育數(shù)字化轉(zhuǎn)型的能力，制約著人工智能技術(shù)與教育治理實(shí)踐的深度融合。因此在人工智能與教育相互融合的進(jìn)程中，科學(xué)治理尤為關(guān)鍵[2]，加強(qiáng)人工智能的教育安全治理已成為維護(hù)世界安全與穩(wěn)定的迫切需求。

人工智能教育治理是當(dāng)今世界各國關(guān)注的焦點(diǎn)。中國是人工智能技術(shù)創(chuàng)新與應(yīng)用領(lǐng)域的領(lǐng)先者之一，對(duì)國際人工智能教育治理作出了重要貢獻(xiàn)。2019年6月17日，國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出人工智能治理的框架和行動(dòng)指南。之后國家科技倫理委員會(huì)正式成立。2021年，該專業(yè)委員會(huì)又發(fā)布《新一代人工智能倫理規(guī)范》，標(biāo)志著我國已初步形成人工智能治理的總體價(jià)值指引[3]。2023年，我國出臺(tái)《全球人工智能治理倡議》，提出要加強(qiáng)全球人工智能治理，促進(jìn)合作共贏，確保安全可控，防止偏見歧視。目前，我國人工智能教育應(yīng)用研究理論層面仍存在監(jiān)管框架缺位、監(jiān)管措施不足等諸多現(xiàn)實(shí)問題[4]。

國內(nèi)學(xué)術(shù)界對(duì)人工智能教育治理也開展了深刻討論和前沿探索，聚焦人工智能教育應(yīng)用中的倫理規(guī)范建設(shè)、治理模式變革、政策框架架構(gòu)、治理路徑提出等方面[5-8]，形成豐富的認(rèn)識(shí)視角和治理思路[9]。然而，我國人工智能教育安全治理在國內(nèi)和國際層面上仍面臨雙重困境：國內(nèi)困境主要包括數(shù)據(jù)隱私暴露、倫理規(guī)范缺位、法律法規(guī)缺失等方面的挑戰(zhàn)；國際困境主要包括技術(shù)競(jìng)爭(zhēng)激烈、標(biāo)準(zhǔn)制定滯后、國際合作缺乏等方面的難題[10]。為加速我國人工智能教育治理和教育數(shù)字化轉(zhuǎn)型進(jìn)程，亟需了解國際前沿人工智能教育治理的政策規(guī)劃，在頂層制度設(shè)計(jì)和宏觀戰(zhàn)略規(guī)劃兩個(gè)層面，統(tǒng)籌制定符合我國人工智能教育安全治理的政策總體規(guī)劃，保障更健康的人工智能教育發(fā)展，為國際人工智能教育治理貢獻(xiàn)中國方案和中國智慧。

值此關(guān)鍵節(jié)點(diǎn)，首屆人工智能安全峰會(huì)于2023年11月1日至2日在英國布萊奇利園舉行，來自中國、美國、歐盟等28個(gè)國家和國際組織的代表，共同簽署了《布萊奇利宣言》（The Bletchley Declaration，以下簡(jiǎn)稱《宣言》）[11]。《宣言》強(qiáng)調(diào)了以人為本的人工智能發(fā)展理念，呼吁各國科研機(jī)構(gòu)、企業(yè)等在人工智能設(shè)計(jì)、開發(fā)和使用過程中，始終以人的福祉為出發(fā)點(diǎn)和落腳點(diǎn)，確保人工智能技術(shù)為人類帶來實(shí)實(shí)在在的利益。同時(shí)，《宣言》也警示了人工智能發(fā)展過程中可能帶來的傷害，要求各方通過建立健全法律法規(guī)等手段，防范和化解相關(guān)風(fēng)險(xiǎn)。

本研究采用文本分析和內(nèi)容分析法，介紹了《宣言》的發(fā)布背景和研究目的，從人本主義批判視角著重探究國際人工智能教育治理的政策規(guī)劃，思考我國前沿人工智能教育治理的創(chuàng)新路徑，以期為我國加速人工智能教育治理和教育數(shù)字化轉(zhuǎn)型，推進(jìn)前沿人工智能與教育深度融合提供實(shí)踐參考。

二、國際人工智能教育治理的政策規(guī)劃

人工智能教育治理攸關(guān)全人類命運(yùn)，是世界各國面臨的共同議題。發(fā)展人工智能，應(yīng)當(dāng)積極倡導(dǎo)以人為本，智能向善，加強(qiáng)技術(shù)風(fēng)險(xiǎn)管控，并在遵守相互尊重、平等互利原則的基礎(chǔ)上，鼓勵(lì)各方協(xié)同共治，增強(qiáng)發(fā)展中國家在人工智能教育全球治理中的代表性和發(fā)言權(quán)，不斷彌合智能鴻溝和治理能力差距。基于此，首屆人工智能安全峰會(huì)發(fā)布《宣言》，提出了國際人工智能教育治理的政策規(guī)劃（見圖1）。

（一）采取行動(dòng)在全球范圍內(nèi)安全發(fā)展人工智能教育

1.以負(fù)責(zé)任且安全的方式設(shè)計(jì)和開發(fā)人工智能教育

人工智能為全球發(fā)展帶來了巨大機(jī)遇，人工智能技術(shù)應(yīng)用于教育領(lǐng)域，可以幫助教師調(diào)整教學(xué)策略，優(yōu)化教育教學(xué)流程，提高教育教學(xué)效果，還可以幫助培養(yǎng)學(xué)生的智能思維，提高學(xué)生的創(chuàng)造力、協(xié)作能力、溝通能力、批判性思維等智能素養(yǎng)。人工智能教育應(yīng)用潛力無限，然而人工智能技術(shù)的快速發(fā)展和迭代更新也給人工智能教育治理帶來一系列挑戰(zhàn)。為應(yīng)對(duì)這些挑戰(zhàn)，保障公民利益，一方面，要以更加安全的方式設(shè)計(jì)、開發(fā)、部署和使用人工智能，培養(yǎng)公眾對(duì)人工智能教育系統(tǒng)的信任，以充分發(fā)揮人工智能的潛力；另一方面，要倡導(dǎo)國際社會(huì)加強(qiáng)在人工智能教育治理方面的合作，以促進(jìn)人工智能和教育的深度融合，推動(dòng)人工智能教育應(yīng)用健康、可持續(xù)發(fā)展。

2.遵循以人為本的行動(dòng)理念發(fā)展人工智能教育

人工智能系統(tǒng)已在日常生活的許多領(lǐng)域應(yīng)用，其在教育領(lǐng)域的應(yīng)用更是越來越廣泛。因此，必須認(rèn)識(shí)到采取行動(dòng)確保人工智能教育應(yīng)用安全發(fā)展的必要性，精準(zhǔn)把握人工智能帶來的教育變革機(jī)會(huì)，以便在全球范圍內(nèi)以更加包容的方式推動(dòng)教育發(fā)展，促進(jìn)聯(lián)合國可持續(xù)發(fā)展目標(biāo)的實(shí)現(xiàn)。同時(shí)，只有通過立即采取行動(dòng)在全球范圍內(nèi)安全發(fā)展人工智能，才能確保人工智能教育應(yīng)用安全、穩(wěn)定、公正地發(fā)展。

3.解決人工智能帶來的重大教育風(fēng)險(xiǎn)必要且迫切

人工智能在給教育領(lǐng)域帶來機(jī)遇的同時(shí)，也帶來了諸多風(fēng)險(xiǎn)和挑戰(zhàn)。為此，亟需作出相關(guān)努力，在現(xiàn)有論壇和其他相關(guān)舉措中審查和解決人工智能系統(tǒng)的潛在影響，并認(rèn)識(shí)到解決人工智能的透明度、公平性、問責(zé)制、包容性、隱私泄露、人權(quán)保護(hù)等問題的迫切性。此外，在教育教學(xué)中，人工智能操縱內(nèi)容或生成欺騙性內(nèi)容的能力也可能會(huì)帶來不可預(yù)見的風(fēng)險(xiǎn)，因此解決人工智能帶來的重大風(fēng)險(xiǎn)必要且迫切。

4.加深對(duì)人工智能賦能教育潛在風(fēng)險(xiǎn)及應(yīng)對(duì)行動(dòng)的理解

前沿人工智能的應(yīng)用可能會(huì)出現(xiàn)特殊風(fēng)險(xiǎn)，例如能力強(qiáng)大的通用人工智能模型（包括基礎(chǔ)模型），可以執(zhí)行各種各樣的任務(wù)，但在執(zhí)行任務(wù)的過程中狹義的人工智能可能存在造成傷害的風(fēng)險(xiǎn)。此外，潛在的故意濫用或與人類意圖相關(guān)的意外控制也可能會(huì)產(chǎn)生重大風(fēng)險(xiǎn)。在教育領(lǐng)域中，這些潛在風(fēng)險(xiǎn)可能會(huì)對(duì)教育教學(xué)產(chǎn)生不可估量的惡劣影響。然而，這些問題的產(chǎn)生在一定程度上是因?yàn)槿藗儗?duì)人工智能造成傷害的能力沒有充分理解。因此，我們不僅需要關(guān)注人工智能教育應(yīng)用的網(wǎng)絡(luò)安全問題，還需要預(yù)防前沿人工智能教育系統(tǒng)可能存在的放大虛假信息等風(fēng)險(xiǎn)。無論是故意的還是無意的，人工智能模型都可能會(huì)造成嚴(yán)重甚至災(zāi)難性的傷害。在技術(shù)投資加速的背景下，鑒于人工智能技術(shù)變化速度飛快且難以確定，加深對(duì)人工智能教育應(yīng)用潛在風(fēng)險(xiǎn)的理解并采取行動(dòng)應(yīng)對(duì)這些風(fēng)險(xiǎn)尤為緊迫。

（二）以包容的國際合作應(yīng)對(duì)人工智能教育風(fēng)險(xiǎn)

1.加強(qiáng)國際合作應(yīng)對(duì)人工智能教育應(yīng)用的相關(guān)風(fēng)險(xiǎn)

人工智能帶來的許多教育風(fēng)險(xiǎn)本質(zhì)上是國際性的，因此最好通過國際合作解決。為應(yīng)對(duì)人工智能帶來的教育風(fēng)險(xiǎn)，各國需以包容的方式共同努力，確保以人為本、值得信賴和負(fù)責(zé)任的教育人工智能可持續(xù)發(fā)展，并通過現(xiàn)有的國際論壇和其他相關(guān)舉措促進(jìn)國際合作。在此過程中，各國應(yīng)考慮適度治理和實(shí)施監(jiān)管措施的重要性，以及人工智能在教育應(yīng)用中的相關(guān)風(fēng)險(xiǎn)，根據(jù)國情和適用的法律框架對(duì)前沿人工智能教育應(yīng)用最有可能出現(xiàn)的風(fēng)險(xiǎn)進(jìn)行分類，如人際疏離、技術(shù)濫用、個(gè)人隱私泄露、人工智能偏見等，并通過現(xiàn)有國際論壇和其他相關(guān)舉措，包括未來的國際人工智能安全峰會(huì)，加強(qiáng)和維持與其他國家的合作，并擴(kuò)大合作范圍，以包容的國際合作解決人工智能教育風(fēng)險(xiǎn)。

2.充分發(fā)揮各利益攸關(guān)者在確保人工智能教育安全方面的作用

國家、企業(yè)、社會(huì)組織機(jī)構(gòu)和學(xué)術(shù)界等領(lǐng)域的參與者都可在確保人工智能教育安全方面發(fā)揮作用。例如，對(duì)人工智能技術(shù)應(yīng)用于教育所產(chǎn)生的倫理風(fēng)險(xiǎn)，各國政府、非政府組織以及個(gè)體都應(yīng)參與到解決過程中，協(xié)作配合，共同治理，通過商談達(dá)成道德共識(shí)，制定相應(yīng)的研發(fā)與使用規(guī)章，確立促進(jìn)人工智能教育健康發(fā)展的倫理原則[12]。此外，應(yīng)認(rèn)識(shí)到更具包容性的人工智能和彌合數(shù)字鴻溝的重要性，重申國際合作應(yīng)努力讓更多的合作伙伴參與，鼓勵(lì)提出有助于發(fā)展中國家加強(qiáng)人工智能能力建設(shè)的發(fā)展導(dǎo)向、方法和政策，并利用人工智能的促進(jìn)作用，支持可持續(xù)發(fā)展和縮小發(fā)展差距。

3.前沿人工智能開發(fā)者對(duì)確保人工智能教育安全負(fù)有重大責(zé)任

人工智能技術(shù)應(yīng)用于教育，必須在整個(gè)人工智能生命周期中確保那些強(qiáng)大且具有潛在危害的人工智能教育系統(tǒng)的安全性，尤其是前沿人工智能的開發(fā)者，對(duì)確保這些人工智能教育系統(tǒng)的安全負(fù)有重大責(zé)任，可以通過安全測(cè)試系統(tǒng)、評(píng)估系統(tǒng)和其他適當(dāng)措施來保障人工智能教育應(yīng)用的安全。同時(shí)，鼓勵(lì)所有參與者在其計(jì)劃中提供適當(dāng)?shù)耐该鞫群蛦栘?zé)制度，以衡量、監(jiān)測(cè)和減輕人工智能在教育應(yīng)用中的潛在危害和可能出現(xiàn)的相關(guān)影響。此外，教育機(jī)構(gòu)需與生成式人工智能的研發(fā)企業(yè)在倫理原則和法律底線上達(dá)成共識(shí)，積極尋求并聽取參與人工智能教育安全風(fēng)險(xiǎn)討論的利益攸關(guān)者和專家群體的意見，促進(jìn)人工智能研究人員、決策者和其他利益攸關(guān)者之間的跨學(xué)科對(duì)話，構(gòu)建倫理準(zhǔn)則，確保人工智能技術(shù)造福社會(huì)[13]。

（三）建立國際前沿人工智能教育安全科研合作網(wǎng)絡(luò)

1.確定共同關(guān)注的風(fēng)險(xiǎn)，以制定基于各國國情的治理政策并酌情開展合作

在采用更廣泛的全球方法來理解人工智能對(duì)社會(huì)影響的背景下，識(shí)別各國共同關(guān)注的人工智能教育風(fēng)險(xiǎn)，建立對(duì)這些風(fēng)險(xiǎn)的科學(xué)和基于證據(jù)的共同理解至關(guān)重要。針對(duì)已知風(fēng)險(xiǎn)，各國應(yīng)制定相匹配的政策，以確保人工智能教育治理的安全開展，并積極開展國際合作。同時(shí)各國應(yīng)認(rèn)識(shí)到采用的方法可能因國情和適用的法律框架而不同，具體方法包括提高私營開發(fā)者開發(fā)的人工智能教育應(yīng)用的算法透明度、研制適當(dāng)?shù)脑u(píng)估指標(biāo)、建設(shè)安全測(cè)試工具，以及發(fā)展人工智能教育治理能力和進(jìn)行科學(xué)研究。

2.建立包容性的國際前沿人工智能教育安全科研網(wǎng)絡(luò)，以提供最佳的科學(xué)證據(jù)

人工智能在教育領(lǐng)域的應(yīng)用剛剛起步，許多風(fēng)險(xiǎn)都很難評(píng)估。然而，如果等到人工智能教育的安全隱患明顯出現(xiàn)或者爆發(fā)，才去制定相關(guān)教育治理規(guī)則，那么人類會(huì)為此付出慘重的代價(jià)。國際社會(huì)有必要對(duì)人工智能進(jìn)行嚴(yán)密而謹(jǐn)慎地審視，人工智能教育治理規(guī)則的制定也必須要有一定的彈性，以便隨時(shí)根據(jù)實(shí)際情況進(jìn)行調(diào)整。為推進(jìn)這一議程，可建立一個(gè)具有國際包容性的前沿人工智能安全教育科學(xué)研究網(wǎng)絡(luò)，通過現(xiàn)有的國際論壇和其他相關(guān)舉措，為政策制定和維護(hù)公共利益提供最佳科學(xué)依據(jù)。

3.開展包容性的全球?qū)υ挘酝苿?dòng)前沿人工智能教育國際討論和安全研究

人工智能教育安全治理要達(dá)成全球性共識(shí)還面臨不少挑戰(zhàn)，各國由于國情、發(fā)展的差異，在人工智能教育安全治理方面存在不同的利益訴求。當(dāng)前，人工智能教育安全領(lǐng)域在原則和倫理層面比較容易達(dá)成共識(shí)，但在技術(shù)規(guī)范、治理標(biāo)準(zhǔn)等具體領(lǐng)域難度較大。但無論如何，國際社會(huì)保持開展包容性的全球?qū)υ挕⑴c現(xiàn)有的國際論壇和其他相關(guān)舉措，推動(dòng)廣泛的前沿人工智能教育國際討論和安全研究，均有助于全球人工智能教育治理在發(fā)展和安全之間求取最大的平衡，以確保各國能夠負(fù)責(zé)任地利用人工智能技術(shù)造福人類。

三、我國人工智能教育治理的創(chuàng)新路徑

（一）構(gòu)建開放且透明的人工智能教育治理體系，促進(jìn)人工智能教育健康持續(xù)發(fā)展

隨著人工智能技術(shù)的快速發(fā)展和廣泛應(yīng)用，人工智能教育治理已成為各國共同關(guān)注的熱點(diǎn)問題。數(shù)字時(shí)代，確保人工智能安全、透明和負(fù)責(zé)任地使用成為一項(xiàng)緊迫任務(wù)。在這一背景下，我國亟需采取一系列積極措施，構(gòu)建一個(gè)更加開放透明的人工智能教育治理體系，促進(jìn)人工智能技術(shù)健康可持續(xù)發(fā)展，為社會(huì)創(chuàng)造更多的福祉。

首先，需要根據(jù)人工智能教育治理的國際標(biāo)準(zhǔn)，制定符合我國實(shí)際的人工智能教育治理相關(guān)標(biāo)準(zhǔn)，以適應(yīng)和引導(dǎo)人工智能技術(shù)的健康發(fā)展[14]。針對(duì)人工智能技術(shù)的國際治理，加強(qiáng)國際合作，根據(jù)人工智能技術(shù)的最新發(fā)展，結(jié)合人工智能技術(shù)應(yīng)用過程中已經(jīng)出現(xiàn)或潛在的、可預(yù)測(cè)的問題及風(fēng)險(xiǎn)，修訂人工智能教育治理相關(guān)國際標(biāo)準(zhǔn)，以使我國的人工智能教育治理體系更加開放透明且符合現(xiàn)實(shí)情況。

其次，政府部門需要加快構(gòu)建人工智能教育技術(shù)的監(jiān)管框架。一方面，人工智能教育安全風(fēng)險(xiǎn)的治理，既要從技術(shù)設(shè)計(jì)研發(fā)的源頭入手，又要在技術(shù)的運(yùn)用過程中科學(xué)研判，并及時(shí)解決出現(xiàn)的問題[15]。因此，政府部門要在安全、開放、透明等倫理原則的基礎(chǔ)上，重視對(duì)人工智能前端開發(fā)者資質(zhì)和行為的審核，并要求其構(gòu)建數(shù)據(jù)風(fēng)險(xiǎn)評(píng)估認(rèn)證機(jī)制，以提高風(fēng)險(xiǎn)防范能力。另一方面，要在實(shí)踐層面加強(qiáng)數(shù)據(jù)安全治理，例如在人機(jī)交互過程中涉及用戶個(gè)人信息時(shí)，需要提前告知當(dāng)事主體并取得同意。

最后，需逐步建立和完善專門針對(duì)人工智能教育治理的法律法規(guī)。隨著人工智能技術(shù)應(yīng)用的越來越廣泛，其蘊(yùn)含的風(fēng)險(xiǎn)問題也逐漸顯露。因此，迫切需要制定并實(shí)施專門針對(duì)人工智能教育治理的法律法規(guī)[16]，加強(qiáng)教育領(lǐng)域標(biāo)準(zhǔn)規(guī)范、教育信息數(shù)據(jù)開放共享、數(shù)據(jù)算法監(jiān)管問責(zé)等課題研究，逐步形成和完善教育治理體系，以實(shí)現(xiàn)對(duì)人工智能法律風(fēng)險(xiǎn)的源頭治理，促進(jìn)人工智能技術(shù)健康可持續(xù)發(fā)展和廣泛應(yīng)用[17]。

（二）建立動(dòng)態(tài)化的人工智能教育治理監(jiān)管機(jī)制，確保人工智能技術(shù)研發(fā)的安全性

人工智能技術(shù)正以前所未有的速度和規(guī)模重塑著教育生態(tài)系統(tǒng)，人工智能在教育領(lǐng)域中的應(yīng)用，不可避免地會(huì)出現(xiàn)算法歧視與偏見、教育透明度下降、教育不確定性擴(kuò)大等問題，這將打破技術(shù)創(chuàng)新與安全管控之間的平衡，給監(jiān)管提出前所未有的挑戰(zhàn)。因此，亟需建立動(dòng)態(tài)化的人工智能教育治理監(jiān)管機(jī)制，確保人工智能技術(shù)研發(fā)的安全性，推動(dòng)人工智能教育安全治理有序進(jìn)行。

首先，實(shí)施動(dòng)態(tài)的風(fēng)險(xiǎn)監(jiān)測(cè)機(jī)制。人工智能技術(shù)在教育領(lǐng)域的創(chuàng)新應(yīng)用究竟會(huì)產(chǎn)生何種類型或何種程度的風(fēng)險(xiǎn)并不清楚，只是在其應(yīng)用過程中探索治理方法難以在事前作出明確的制度安排。因此，需將人工智能教育風(fēng)險(xiǎn)治理的視角從“預(yù)測(cè)”轉(zhuǎn)向持續(xù)“監(jiān)測(cè)”，監(jiān)管機(jī)制從“結(jié)果”轉(zhuǎn)向“過程—結(jié)果”[18]，并設(shè)立獨(dú)立的監(jiān)管機(jī)構(gòu)，明確其職責(zé)范圍和任務(wù)[19]。

其次，注重倫理風(fēng)險(xiǎn)的源頭治理。人工智能教育治理需秉承技術(shù)賦能治理的理念，以“合規(guī)科技”推動(dòng)監(jiān)管的高效落實(shí)，以“賦能科技”補(bǔ)充或替代執(zhí)行面向全鏈條、全過程的治理。具體而言，應(yīng)將人工智能倫理原則作為基準(zhǔn)，推動(dòng)研究人員在生成式人工智能研發(fā)過程中主動(dòng)設(shè)計(jì)，從技術(shù)研發(fā)前端介入，確保人工智能技術(shù)研發(fā)的安全性[20]。

最后，加強(qiáng)偏見問題監(jiān)測(cè)和歧視問題治理。對(duì)于偏見問題監(jiān)測(cè)，可從數(shù)據(jù)選取、比例修正、精度調(diào)查等方面及時(shí)干預(yù)，同時(shí)也要檢查算法特定偏見、系統(tǒng)性忽視、模型測(cè)試等問題，進(jìn)行偏見問題的及時(shí)規(guī)避[21]；對(duì)于歧視問題治理，要綜合多種措施和標(biāo)準(zhǔn)進(jìn)行約束，如通過社會(huì)實(shí)驗(yàn)、企業(yè)預(yù)估、師生參與協(xié)同守護(hù)教育公平，構(gòu)建多主體、多學(xué)科的綜合多元評(píng)價(jià)標(biāo)準(zhǔn)，同時(shí)利用技術(shù)賦能加強(qiáng)監(jiān)測(cè)、建立優(yōu)化機(jī)制，以及堅(jiān)持學(xué)生主體的事前、事中、事后算法治理[22]。

（三）推動(dòng)人工智能教育治理國際合作多邊機(jī)制，共同應(yīng)對(duì)跨國界的人工智能挑戰(zhàn)

人工智能技術(shù)的快速發(fā)展為教育領(lǐng)域帶來新的安全挑戰(zhàn)，加強(qiáng)人工智能教育治理國際合作多邊機(jī)制建設(shè)成為當(dāng)務(wù)之急。由于人工智能教育引發(fā)風(fēng)險(xiǎn)的世界波及性、影響的地區(qū)不均衡性、倫理標(biāo)準(zhǔn)的區(qū)域差異性和危害預(yù)測(cè)的知識(shí)不充分性，有必要構(gòu)建多邊、民主、透明的人工智能教育全球治理體系，推動(dòng)人工智能教育治理多邊合作，共同應(yīng)對(duì)跨國界的人工智能教育安全挑戰(zhàn)。

首先，推動(dòng)人工智能教育治理國際合作。一方面，應(yīng)同各國尤其是技術(shù)大國共同制定適用于人工智能教育的國際準(zhǔn)則和標(biāo)準(zhǔn)，以確保人工智能技術(shù)安全、可靠和負(fù)責(zé)任地開發(fā)和應(yīng)用。另一方面，加強(qiáng)本國監(jiān)管和監(jiān)督機(jī)制，在加強(qiáng)國內(nèi)立法，制定相關(guān)法律法規(guī)以保障人工智能的道德、隱私和安全的同時(shí)，也應(yīng)在國際層面推動(dòng)信息共享和情報(bào)合作，以便及時(shí)發(fā)現(xiàn)和應(yīng)對(duì)潛在的安全漏洞[23]。

其次，在借鑒和吸收歐盟、美國等人工智能教育安全治理制度經(jīng)驗(yàn)的基礎(chǔ)上，將加強(qiáng)對(duì)人工智能教育的監(jiān)管納入國家數(shù)字化戰(zhàn)略，充分發(fā)揮我國人工智能教育領(lǐng)域的技術(shù)優(yōu)勢(shì)，逐步實(shí)現(xiàn)我國人工智能教育領(lǐng)域的國際化。同時(shí)，應(yīng)秉持開放的理念構(gòu)建人工智能時(shí)代的命運(yùn)共同體[24]。如積極廣泛地參與聯(lián)合國教科文組織在教育、文化、科學(xué)等平臺(tái)的合作，聯(lián)手制定人工智能監(jiān)管規(guī)范，維護(hù)公平競(jìng)爭(zhēng)的國際市場(chǎng)環(huán)境，為人工智能監(jiān)管發(fā)出中國聲音。

最后，加強(qiáng)國內(nèi)人工智能教育技術(shù)研發(fā)和創(chuàng)新，提升自主可控能力，積極參與人工智能教育國際治理，確保核心技術(shù)和關(guān)鍵資源安全的同時(shí)，建立完善的人工智能教育風(fēng)險(xiǎn)評(píng)估和監(jiān)測(cè)機(jī)制，及時(shí)發(fā)現(xiàn)和應(yīng)對(duì)潛在的安全風(fēng)險(xiǎn)。通過建立國際合作平臺(tái)和共享機(jī)制，增進(jìn)與其他國家的交流合作，共同應(yīng)對(duì)跨國界的人工智能教育安全挑戰(zhàn)[25]。

（四）提升人工智能賦能教育安全風(fēng)險(xiǎn)預(yù)判能力，保障人工智能教育安全有效治理

作為第四次工業(yè)革命基石的人工智能技術(shù)，在當(dāng)今時(shí)代蓬勃發(fā)展并廣泛應(yīng)用于社會(huì)的各個(gè)領(lǐng)域，但其應(yīng)用也引發(fā)了倫理風(fēng)險(xiǎn)、隱私泄露、數(shù)據(jù)安全等一系列治理難題，成為世界各國熱議的話題。深入研究數(shù)字技術(shù)發(fā)展趨勢(shì)及潛力，探索智能環(huán)境下教育教學(xué)的新理論、新技術(shù)和新模式顯得尤為迫切[26]。為此，我國應(yīng)把握人工智能技術(shù)應(yīng)用產(chǎn)生的各類風(fēng)險(xiǎn)，研判應(yīng)對(duì)這些挑戰(zhàn)的最佳方式，提升技術(shù)安全風(fēng)險(xiǎn)預(yù)判能力，進(jìn)而對(duì)人工智能未來發(fā)展趨勢(shì)有更加清醒的認(rèn)識(shí)。

首先，面對(duì)人工智能技術(shù)對(duì)教育產(chǎn)生的安全威脅，應(yīng)采取積極應(yīng)對(duì)的態(tài)度，秉持“早發(fā)現(xiàn)、早治療、早升級(jí)”的理念，促進(jìn)人工智能教育的良序發(fā)展。可建設(shè)具有國家戰(zhàn)略高度的人工智能教育風(fēng)險(xiǎn)防控系統(tǒng)或成立實(shí)體研究機(jī)構(gòu)，切實(shí)加強(qiáng)人工智能教育安全應(yīng)用平臺(tái)建設(shè)和人工智能學(xué)科專業(yè)建設(shè)與人才培養(yǎng)，形成以政府為主導(dǎo)、企業(yè)為主體、市場(chǎng)為導(dǎo)向的產(chǎn)學(xué)研相結(jié)合的模式。

其次，明確多主體權(quán)責(zé)，建立技術(shù)研發(fā)、應(yīng)用實(shí)踐等全流程問責(zé)機(jī)制。在這個(gè)過程中，充分發(fā)揮社會(huì)、政府、學(xué)校等多元支持聯(lián)盟的協(xié)同力量，圍繞算法規(guī)則、數(shù)據(jù)標(biāo)準(zhǔn)、安全機(jī)制等內(nèi)核，持續(xù)提升協(xié)同治理能力。例如，聯(lián)動(dòng)政府決策功能，預(yù)判人工智能技術(shù)對(duì)教育生態(tài)變革的影響趨勢(shì)。同時(shí)，結(jié)合不同區(qū)域的學(xué)校特色，建立“技術(shù)解鎖學(xué)習(xí)—網(wǎng)絡(luò)升級(jí)學(xué)習(xí)—改革重塑學(xué)習(xí)—?jiǎng)訖C(jī)激發(fā)學(xué)習(xí)”的一體化治理體制[27]。

最后，提升人工智能教育規(guī)范化程度，構(gòu)建人工智能治理體系。互聯(lián)網(wǎng)數(shù)據(jù)良莠不齊，為提高人工智能技術(shù)的公正、透明和可控性，我國應(yīng)積極發(fā)展面向人工智能的教育治理科技，形成以“人工智能治理人工智能，以代碼約束代碼”的教育治理體系[28]。當(dāng)監(jiān)測(cè)到有誤信息或不當(dāng)言論時(shí)，代碼能自動(dòng)攔截，使虛假信息還未產(chǎn)出就被攔截，從而提升人工智能教育信息的準(zhǔn)確性。

（五）秉持共同、綜合、合作、可持續(xù)的安全觀，實(shí)現(xiàn)全球人工智能教育協(xié)同治理

隨著新一代人工智能在教育領(lǐng)域的廣泛運(yùn)用，其技術(shù)不足與局限產(chǎn)生的負(fù)面效應(yīng)也逐漸顯現(xiàn)。盡管國內(nèi)現(xiàn)行的法律法規(guī)在規(guī)避人工智能風(fēng)險(xiǎn)的過程中起到了一定的積極作用，但在現(xiàn)有立法策略之下，人工智能教育安全治理仍面臨諸多問題，亟需尋求多方參與，實(shí)現(xiàn)全球人工智能教育協(xié)同治理。

首先，我國應(yīng)秉持共同、綜合、合作、可持續(xù)的全球安全觀，貫徹人類命運(yùn)共同體理念，摒棄強(qiáng)權(quán)霸道邏輯，擺脫意識(shí)形態(tài)偏見，最大限度地增強(qiáng)合作機(jī)制、理念、政策的開放性和包容性，構(gòu)建人工智能教育全球治理的負(fù)責(zé)任格局；推動(dòng)共治共享，創(chuàng)建人工智能教育治理多方參與的開放性平臺(tái)，通過跨學(xué)科、跨領(lǐng)域、跨地區(qū)、跨國界的交流合作，鼓勵(lì)相關(guān)各方遵循基本科技倫理，把進(jìn)步的價(jià)值取向嵌入人工智能教育治理模型，形成人工智能向善的力量，推動(dòng)人工智能教育治理的最佳實(shí)踐，促成各方積極參與、共治共享的良好局面[29]。

其次，要促進(jìn)人工智能教育的綜合治理。人工智能技術(shù)的全球性特征，決定了其安全問題需要各國共同應(yīng)對(duì)。在治理過程中，要發(fā)揮各國政府組織的引領(lǐng)作用，促進(jìn)各國政府、企業(yè)、學(xué)術(shù)界共同參與，形成綜合性的教育治理體系。一方面，應(yīng)關(guān)注政府組織與技術(shù)之間的良性協(xié)同，加強(qiáng)同各國在數(shù)據(jù)處理、人才培養(yǎng)、權(quán)利保護(hù)、準(zhǔn)則制定等方面的戰(zhàn)略合作，推動(dòng)實(shí)現(xiàn)人工智能技術(shù)的健康發(fā)展；另一方面，搭建讓每個(gè)國家都可以平等對(duì)話發(fā)聲的平臺(tái)，在構(gòu)建人類命運(yùn)共同體理念的指引下，發(fā)揮負(fù)責(zé)任大國的作用，與國際社會(huì)共同營造開放、公平、公正、非歧視的人工智能教育發(fā)展環(huán)境[30]。

最后，加強(qiáng)人工智能教育治理監(jiān)管國際合作，積極開展國際聯(lián)合研究，共同攻克技術(shù)難題，建立國際合作組織或平臺(tái)，并借助這些組織或平臺(tái)來保障人工智能技術(shù)決策和算法的透明性、可追溯性，防范人工智能技術(shù)壁壘、不公平競(jìng)爭(zhēng)，以及人工智能濫用對(duì)人類尊嚴(yán)、平等和自由權(quán)造成的損害，從而筑牢人工智能安全屏障，為構(gòu)建人類命運(yùn)共同體作出更大的貢獻(xiàn)[31]。

注釋：本文部分內(nèi)容來自The Bletchley Declaration，報(bào)告網(wǎng)址： https：//www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023

參考文獻(xiàn)：

[1]李金臻，夏金星，江山.人工智能教育應(yīng)用失范審視及消解策略研究[J].中國教育信息化，2023，29（12）：26-33.

[2]李世瑾，王成龍，顧小清.人工智能教育治理：邏輯機(jī)理與實(shí)踐進(jìn)路[J].華東師范大學(xué)學(xué)報(bào)（教育科學(xué)版），2022，40（9）：55-66.

[3]董汀，黃智堯.人工智能國際治理與“不確定性”[J].信息安全與通信保密，2023（8）：10-22.

[4]蘭國帥，杜水蓮，宋帆，等.生成式人工智能教育的工作機(jī)理及監(jiān)管框架構(gòu)建研究[J/OL].西北工業(yè)大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），[2024-02-04].http：//kns.cnki.net/kcms/detail/61.1352.C.20231222.1504.006.html.

[5][12]羅生全，譚愛麗，鐘奕軍.人工智能教育應(yīng)用中的倫理風(fēng)險(xiǎn)及其規(guī)避[J].中國教育科學(xué)，2023，6（2）：79-88.

[6]王佑鎂，王旦，梁煒怡，等.敏捷治理：教育人工智能倫理治理新模式[J].電化教育研究，2023，44（7）：21-28.

[7]盧迪，段世飛，胡科，等.人工智能教育的全球治理：框架、挑戰(zhàn)與變革[J].遠(yuǎn)程教育雜志，2020，38（6）：3-12.

[8]馮雨奐.ChatGPT在教育領(lǐng)域的應(yīng)用價(jià)值、潛在倫理風(fēng)險(xiǎn)與治理路徑[J].思想理論教育，2023（4）：26-32.

[9]龍坤，徐能武.人工智能軍事應(yīng)用的國際安全風(fēng)險(xiǎn)與治理路徑[J].國際展望，2022，14（5）：123-141，165-166.

[10]朱榮生，馮紫雯，陳琪，等.人工智能的國際安全挑戰(zhàn)及其治理[J].中國科技論壇，2023（3）：160-167，179.

[11]UK.The Bletchley Declaration[EB/OL]. （2023-11-02）[2023-11-11]. https：//www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023.

[13]張黎，周霖，趙磊磊.生成式人工智能教育應(yīng)用風(fēng)險(xiǎn)及其規(guī)避——基于教育主體性視角[J].開放教育研究，2023，29（5）：47-53.

[14]周慎，朱旭峰，梁正.全球可持續(xù)發(fā)展視域下的人工智能國際治理[J].中國科技論壇，2022（9）：163-169.

[15][30]容志，任晨宇.人工智能的社會(huì)安全風(fēng)險(xiǎn)及其治理路徑[J/OL].廣州大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），[2023-11-14].http：//kns.cnki.net/kcms/detail/44.1545.C.20231027.1043.004.html.

[16]畢文軒.生成式人工智能的風(fēng)險(xiǎn)規(guī)制困境及其化解：以ChatGPT的規(guī)制為視角[J].比較法研究，2023（3）：155-172.

[17]陳磊，劉夏，高雪春.人工智能視域下教育治理的現(xiàn)實(shí)挑戰(zhàn)與路徑選擇[J].中國教育科學(xué)，2020（6）：24-30.

[18]蘭國帥，杜水蓮，宋帆，等.生成式人工智能教育：關(guān)鍵爭(zhēng)議、促進(jìn)方法與未來議題——UNESCO《生成式人工智能教育和研究應(yīng)用指南》報(bào)告要點(diǎn)與思考[J].開放教育研究，2023，29（6）：15-26.

[19]張璐.通用人工智能風(fēng)險(xiǎn)治理與監(jiān)管初探——ChatGPT引發(fā)的問題與挑戰(zhàn)[J].電子政務(wù)，2023（9）：14-24.

[20][28]張欣.生成式人工智能的算法治理挑戰(zhàn)與治理型監(jiān)管[J].現(xiàn)代法學(xué)，2023，45（3）：108-123.

[21]沈苑，汪瓊.人工智能教育應(yīng)用的偏見風(fēng)險(xiǎn)分析與治理[J].電化教育研究，2021，42（8）：12-18.

[22]倪琴，劉志，郝煜佳，等.智能教育場(chǎng)景下的算法歧視：潛在風(fēng)險(xiǎn)、成因剖析與治理策略[J].中國電化教育，2022（12）：93-100.

[23][26]張丁.全球安全倡議下的中國人工智能治理路徑[J].信息安全與通信保密，2023（8）：34-45.

[24]張揚(yáng)，張舒，袁莉.教育2122：百年愿景和實(shí)施路徑——未來智能教育國際論壇綜述[J].中國教育信息化，2022，28（12）：3-12.

[25]趙志君，莊馨予.中國人工智能高質(zhì)量發(fā)展：現(xiàn)狀、問題與方略[J].改革，2023（9）：11-20.

[27]朱永新，約翰·庫奇.技術(shù)如何釋放終身學(xué)習(xí)者的潛能？——朱永新與約翰·庫奇關(guān)于未來教育與學(xué)習(xí)升級(jí)的對(duì)話[J].華東師范大學(xué)學(xué)報(bào)（教育科學(xué)版），2020，38（3）：1-15.

[29]陳星，吳葉林.人機(jī)協(xié)同教育治理的障礙與突破[J].現(xiàn)代遠(yuǎn)程教育研究，2022，34（1）：40-47.

[31]趙志君，莊馨予.中國人工智能高質(zhì)量發(fā)展：現(xiàn)狀、問題與方略[J].改革，2023（9）：11-20.