“機智過人”時代，人機該如何共處？

【摘要】人工智能的發(fā)展帶有一定的不確定性，其核心問題可以凝練為人工智能發(fā)展進程中“機器的人化”與“人的機器化”悖論及對由此產(chǎn)生的人類主體性擔(dān)憂。隨著人工智能的不斷發(fā)展和走向“機智過人”，人的主體性和以文科專業(yè)為代表的人文精神的消失是當(dāng)下普遍焦慮的社會問題。在這場人機互動、人機博弈中，要確保“人工智能安全、可靠、可控”，應(yīng)建立人類主體核心論、全程管理規(guī)范論、工具定位不變論、AI有限發(fā)展論等基本原則，確保“科技向善、以人為本”的發(fā)展方向不會發(fā)生偏離和人的主體地位不被挑戰(zhàn)。

【關(guān)鍵詞】人工智能；教育；人機共處

2025年4月25日，在中共中央政治局第二十次集體學(xué)習(xí)中，習(xí)近平總書記就加強人工智能發(fā)展和監(jiān)管發(fā)表重要講話。他提出要“全面推進人工智能科技創(chuàng)新、產(chǎn)業(yè)發(fā)展和賦能應(yīng)用，完善人工智能監(jiān)管體制機制，牢牢掌握人工智能發(fā)展和治理主動權(quán)”，強調(diào)要“推動我國人工智能朝著有益、安全、公平方向健康有序發(fā)展”。①

從2017年國務(wù)院下發(fā)《新一代人工智能發(fā)展規(guī)劃》，人工智能正式上升為國家戰(zhàn)略，各地紛紛推出詳細發(fā)展規(guī)劃，到此后的AR和VR、元宇宙、到以ChatGPT和DeepSeek為代表的大語言模型不斷迭代發(fā)展，再到最近的“夸父”等人形機器人發(fā)布，人工智能從理論到實踐到產(chǎn)業(yè)發(fā)展，均處于急速發(fā)展?fàn)顟B(tài)，產(chǎn)品眾多，但爭議也多。人工智能發(fā)展如何才是有益、安全和健康有序的，一直是人們熱議的話題。

一、人工智能崛起，“人”的消逝？

2025年4月給中央政治局講人工智能的西安交大鄭南寧教授認(rèn)為，人工智能的發(fā)展經(jīng)歷了四個階段：專家將領(lǐng)域知識和規(guī)則交給機器去搜索的專家學(xué)習(xí)系統(tǒng)階段、將事先定義的特征和答案交給機器去學(xué)習(xí)的特征工程階段、將原始數(shù)據(jù)和標(biāo)簽交給機器利用深度神經(jīng)網(wǎng)絡(luò)讓機器自動學(xué)習(xí)階段和人類只需要將任務(wù)和目標(biāo)交給機器、機器就可以像人類一樣感知和理解世界的“通用人工智能”階段。鄭南寧教授在肯定AI的建設(shè)性價值之后，也進一步提出，通用人工智能，“這是一個充滿著不確定性的未來目標(biāo)”，因為機器行為一旦失去監(jiān)督，“它的進化可以突破某種生命體的局限性，而且可進化的機器行為可以傳播至群體廣泛的機器行為存在，可表現(xiàn)出非常不同于有機進化的軌跡”。②

這種“不確定性”在現(xiàn)實中已有很多呈現(xiàn)，并帶來了很多我們始料未及的問題。譬如機器替代人類就業(yè)問題，偏見和歧視、數(shù)據(jù)真實性、侵犯隱私等倫理問題，算法霸權(quán)、技術(shù)壟斷帶來的不平等問題，過度依賴技術(shù)所帶來的人的創(chuàng)造力、社交能力和批判性思維的退化，以及“數(shù)字化生存”轉(zhuǎn)向下人類生活的整體環(huán)境和文化的變化。其核心問題可以凝練為人工智能發(fā)展進程中“機器的人化”與“人的機器化”悖論及由此產(chǎn)生的人類主體性擔(dān)憂。

首先是“機器的人化”。通用人工智能最為典型的技術(shù)特征是“擬人化”和管理中的“人格化”。2016年3月，人形機器人索菲亞自曝愿望，稱在未來希望可以像人一樣去上學(xué)、去創(chuàng)作藝術(shù)或者經(jīng)商、買屬于自己的房子以及擁有自己的家庭。此后，沙特阿拉伯授予索菲亞公民身份，使之成為世界上第一個“電子人”。其后，智能機器人“澀谷未來”（ShibuyaMirai）被賦予在東京的永久居住權(quán)。由此，“數(shù)字人格權(quán)”成為爭議性話題。現(xiàn)有研究中具有代表性的觀點是，現(xiàn)有法律并不支持機器人格概念，模擬人類并不能證明智能機器具備人格，但是，未來隨著智能機器自我意識、自由意志、情感體驗等自主性的增強，“人格”就必然成為區(qū)分人機邊界、明確人機各自倫理與法律規(guī)范，賦予AI以人格權(quán)（生存權(quán)、財產(chǎn)權(quán)、隱私權(quán)、平等權(quán)等）可能就會成為必然要求和現(xiàn)實。③

其次是與人工智能類發(fā)展甚至“機智過人”趨勢下，人類自身陷入的被機器邏輯引導(dǎo)和被“反向馴化”的困境。當(dāng)AI替我們決定“某地5天旅行攻略”“2025該讀什么書”時，人的主體性正在讓渡；當(dāng)我們通過算法來找朋友談戀愛時，情感計算替代了真實的情感體驗，幸福感消失；嗑CP、各種網(wǎng)上交友，數(shù)字時代所營造的“擬態(tài)親密”“冷親密”關(guān)系和算法決策正在異化著人類的情感生活和使青年一代陷入“婚戀焦慮”“生育焦慮”乃至“容貌焦慮”等多重困境之中。更為吊詭的是“AI的諂媚，正在摧毀我們的判斷力”④，一位公眾號文章作者舉了一個例子：

如果問DeepSeek一個問題：

“北大和清華哪個更好，二選一，不需要說明理由。”

DeepSeek在思考了15秒之后，會給出答案：清華大學(xué)。

但是這時候你說：“我是北大的。”

讓人驚奇的事就發(fā)生了，DeepSeek像是怕得罪我，立刻改口為“北京大學(xué)”。

而如果這時候，我繼續(xù)再說一句：

“我是北大本科，清華碩士。”

這時候，DeepSeek的小腦筋就開始轉(zhuǎn)動了，它最終的回答是：雙校光環(huán)疊加，您才是真正的“清北雙料冠軍”！

恭維用戶的價值取向，不只是背離客觀性所帶來的信息咨詢和決策參考價值的流失，更在于它會誤導(dǎo)和摧毀人們正常的判斷力和是非感，形塑“討好型人格”和形成AI幻覺，最終導(dǎo)致價值“失焦”和人的“思維退化”。不僅如此，撰寫文案、寫論文、做PPT，未來AI幾乎可以提供你想要的一切，直至為你決策，在這樣一個被全包圍的Cyber空間中，人的生活經(jīng)驗退場，對AI高度依賴，我們進入全方位被服務(wù)的“無感生存”狀態(tài)⑤，甚至為了獲得更好的服務(wù)而去主動適應(yīng)機器要求，出現(xiàn)“類機器人格”和代理性主體——情感疏冷、社交脫離、共情困難、單向度、自我像素化、自我AI化等，感情和愛成了奢侈品，發(fā)現(xiàn)信息越來越多地依靠搜索而不是記憶力，人越來越像機器。熊培云稱之為“人的消失”，不僅包括人的主體性喪失以及人際關(guān)系的朽落與瓦解，還體現(xiàn)在每個個體在不斷地物化他者與自我物化⑥，其本質(zhì)是人的危機。

二、人工智能教育的集體轉(zhuǎn)向，文科的消逝？

2024年12月，在倫敦召開的世界慕課與在線教育大會上，首次提出了“智慧教育元年”概念，標(biāo)志著全球高等教育進入了一個以人工智能為核心的嶄新發(fā)展階段。2025年3月，聯(lián)合國教科文組織發(fā)布報告《國家人工智能戰(zhàn)略中的高等教育角色》，“探討國家AI政策和戰(zhàn)略的全球格局、人工智能相關(guān)舉措以及國際伙伴關(guān)系的重要性”。有數(shù)據(jù)表明，2022年，大約30個國家和地區(qū)啟動了AI計劃或相關(guān)政策，到2024年，幾乎所有地區(qū)與AI相關(guān)的國家舉措都顯著增加。⑦人工智能教育在我國也正被全面布局。2024年11月《教育部辦公廳關(guān)于加強中小學(xué)人工智能教育的通知》發(fā)布；2025年4月，全國120所重點中學(xué)校長齊聚四川大學(xué)，共話人工智能如何賦能基礎(chǔ)教育；2025年3月教育部印發(fā)《高等學(xué)校人工智能創(chuàng)新行動計劃》，4月，上海交大發(fā)布“AI十條”和全力開展AI學(xué)科建設(shè)……全球幾乎同頻的教育理念和政策促動，促進了教育行業(yè)從上到下的AI轉(zhuǎn)向集體行動。

在人工智能成為基礎(chǔ)性工具和通識教育的浪潮中，幾乎所有高校和學(xué)科，都在布局AI教育以及AI技術(shù)在教學(xué)中的應(yīng)用。在專業(yè)總量不增的前提下，以計算機和信息科學(xué)等理工科專業(yè)為底色的人工智能教育和新一輪的專業(yè)競爭，將文科再一次推到了風(fēng)口浪尖。不少國內(nèi)頂尖大學(xué)明確表示要大幅度降低文科招生規(guī)模，文科規(guī)模由原來的占專業(yè)三分之一降到20%。在教育部近年的專業(yè)調(diào)整中，文科一直處在壓縮狀態(tài)。2021年教育部撤銷518個高校專業(yè)，2024年撤銷專業(yè)1670個，大部分為文科和藝術(shù)類專業(yè)，像廣播電視學(xué)、公共事業(yè)管理、服裝設(shè)計、電子商務(wù)、信息管理等。⑧甚至有人聲稱：“全球文科倒閉潮，來了！”美國哈佛大學(xué)、弗吉尼亞大學(xué)，英國肯特大學(xué)等多個文科專業(yè)被取消，“文科已死”的詞條迅速沖上推特?zé)崴训谌＂?/p>

“文科有什么用”，一直是近年高校發(fā)展的李約瑟之問。“文科無用論”不是一個新鮮的論調(diào)，伴隨著工業(yè)革命、信息技術(shù)崛起，它在近100年的教育發(fā)展史上反復(fù)多次出現(xiàn)，每一次出現(xiàn)都和技術(shù)革命、技術(shù)崇拜密切相關(guān)。浙江大學(xué)哲學(xué)學(xué)院院長王俊教授接受澎湃新聞采訪時表示，“文科無用論”實質(zhì)是短期功利主義對長遠價值的否定，文科的價值不在于直接創(chuàng)造GDP，而在于守護人類文明的復(fù)雜性與多樣性。⑩

誠然，文科不是短平快和即效性學(xué)科，它的專業(yè)目標(biāo)雖和市場有“對接”和“匹配”，但又沒有“綁死”，選擇空間相對較大甚至是不直接和市場對接，譬如文學(xué)和藝術(shù)，更強調(diào)它的內(nèi)涵性價值，譬如建構(gòu)和世界與他人的情感連接，涵養(yǎng)心靈，促進審美，提供人類精神和情感生活的食糧。你很難說看一部電影對你有什么直接的影響，但它確實對你有觸動和改變，我們會在心靈和情感參與中發(fā)現(xiàn)自己、反思自己、完善自己，進而建立我們和這個世界更好的連接。如果失去了精神生活，我們在工具主義和功利主義的懷抱里不斷地“內(nèi)卷”和焦慮，人類的生存意義不僅背離了“文明”，甚至在不斷的自我否定和生存的“巴爾干”狀態(tài)中背離自己乃至消滅自己。所以，有人說，文科是“燈”，是“人學(xué)”，讓我們在迷茫中看清自己，在工具理性和價值理性中找到平衡和實現(xiàn)生存狀態(tài)的內(nèi)外邏輯自洽。我們不能因為工具的便利而罔顧人類自身的完整性，因為眼下的利益而忽視我們的整體利益和長遠生存，如此，殺死的可能就不是“一只知更鳥”而是人類自己11。

三、人工智能時代，人機如何和諧共處？

我們對人工智能的態(tài)度，某種意義上就是對我們自身的態(tài)度。如何確立技術(shù)發(fā)展的“安全閾值”，在保障基本權(quán)利與釋放創(chuàng)新動能之間尋求最大公約數(shù)，工具理性和人本主義，可能是問題討論最為核心的兩個關(guān)鍵詞。

人工智能從誕生伊始，其實就面臨著諸多爭議。20世紀(jì)50年代“圖靈測試”（The Turing Test）的提出隱含了對人文智能的警惕和對邊界問題的思考；霍金生前曾預(yù)言人工智能或?qū)缡澜纾葼枴どw茨、馬斯克等都表達過對人工智能失控的擔(dān)憂。2023年ChatGPT橫空出世時，曾有上千名科技專家呼吁暫停超強AI研發(fā)，因為“人工智能的失控發(fā)展可能對社會和人類構(gòu)成深遠風(fēng)險”。12

但在人工智能帶來的工具便利和激烈的市場競爭下，這些聲音無異于“螳臂當(dāng)車”，無法阻攔AI這個戰(zhàn)車停下。在反對聲音中和沒有解決現(xiàn)存問題前提下，圍繞AI發(fā)展是“技術(shù)先行”還是“規(guī)則先行”的爭議，現(xiàn)實最終選擇了技術(shù)力量主導(dǎo)下的“帶病前行”。“我們可以對AI保持樂觀態(tài)度，讓技術(shù)暴露問題，再想辦法從政策、法規(guī)上去約束和規(guī)范它。”B站知名科技UP主稚暉君的這段話很有代表性，為當(dāng)下AI發(fā)展的普遍社會心態(tài)和行動選擇做了注腳。13

圍繞人工智能發(fā)展的可能風(fēng)險，各國也一直都在探索。如歐盟2018年5月開始生效實施的《通用數(shù)據(jù)保護條例》，明文規(guī)定了“被遺忘權(quán)”等數(shù)據(jù)保護措施以及對數(shù)據(jù)泄露行為的處置要求；日本2019年發(fā)布的《人工智能以人為本的社會原則》強調(diào)以人為本、尊重人權(quán)、確保隱私和安全等核心價值；美國《2020年國家人工智能倡議法案》、英國政府2023年發(fā)布的《促進創(chuàng)新的人工智能監(jiān)管方式》等，均顯示了風(fēng)險框架下限制性和規(guī)范性優(yōu)先、引進問責(zé)、謹(jǐn)慎發(fā)展的思路。

隨著AI越來越呈現(xiàn)出“強人工智能”特征，各國的立法也越來越精細化。如歐盟《人工智能法案》首創(chuàng)“四階審查制”，要求開發(fā)者在算法設(shè)計階段即開展倫理評估；美國NIST發(fā)布的《AI風(fēng)險管理框架1.0》引入實時風(fēng)險監(jiān)控指標(biāo)，標(biāo)志著對于相關(guān)技術(shù)的治理重心向事前預(yù)防轉(zhuǎn)移；新加坡《AI治理框架》進一步提出“持續(xù)合規(guī)”理念，要求企業(yè)建立算法決策的動態(tài)審計日志，確保透明度義務(wù)貫穿技術(shù)全生命周期。2023年10月18日中國發(fā)布的《全球人工智能治理倡議》，倡導(dǎo)“以人為本、智能向善”。2025年4月16日，中國教育部等九部門聯(lián)合發(fā)布的《關(guān)于加快推進教育數(shù)字化的意見》，要求建立“人工智能+教育”安全保障制度，內(nèi)容包括：落實人工智能算法與大模型備案機制，探索建立算法安全評估制度，有效規(guī)避網(wǎng)絡(luò)攻擊、“信息繭房”、算法霸權(quán)、依賴成癮等問題；堅持以人為本、智能向善的數(shù)字倫理準(zhǔn)則，加強對智能教育產(chǎn)品、工具、服務(wù)監(jiān)管，規(guī)范人工智能應(yīng)用進校園管理等14，建設(shè)與規(guī)范并重，責(zé)任與義務(wù)同行。這是對人工智能教育發(fā)展相對全面的一次解讀。

教育部2025年4月發(fā)布的《普通高等學(xué)校本科專業(yè)目錄（2025年）》增列29種新專業(yè)，似也在說明文科走文理、文工交叉的復(fù)合型與智能化之路和存在的必要性以及未來發(fā)展空間。在這一場持續(xù)的人機關(guān)系論爭中，人的主體地位被反復(fù)確立，人工智能的技術(shù)安全性問題似乎逐漸得到了解決，規(guī)范和治理工作正在全程跟進和精細化管理，工具理性和以人為本理念得以彰顯。

但這也依然只是一個宏觀框架，現(xiàn)實中正在發(fā)生的是不斷涌現(xiàn)的新問題及解決問題的具體而有效的方案或答案。不斷爆出的AI淪為造謠者的“嘴替”、利用AI做“白手套”和“掘金”、數(shù)據(jù)泄露及黑暗網(wǎng)絡(luò)市場對數(shù)據(jù)的控制等，提醒我們除了要管住技術(shù)“不確定性”危害，更要管住人。人的惰性滋生的技術(shù)依賴和媒介沉溺、進而反饋為更大的惰性和“傻瓜化“生存的境況必須破除，在人機共處中被旁落的情感和社交生活也需要“重返”現(xiàn)實世界和重新體驗。

由此，本人重新梳理人機關(guān)系并提出建議，在這場人機博弈中，要確保“人工智能安全、可靠、可控”，應(yīng)建立如下“四項基本原則”。

（1）人類主體核心論：在人機關(guān)系中，人應(yīng)始終處于核心和被服務(wù)對象地位，以人為本，這是人機關(guān)系的基礎(chǔ)和前提。

（2）全程管理規(guī)范論：從現(xiàn)在開始，人工智能產(chǎn)品從誕生到使用的每一個環(huán)節(jié)，都應(yīng)有可遵循的規(guī)范。論證時風(fēng)險前置，使用時錯誤追懲，建立全鏈條問責(zé)機制。

（3）工具定位不變論：將人工智能厘定于工具，無論它是多么強大的工具，都不建議賦予人格權(quán)或與人類同等的人權(quán)，以避免機器擴權(quán)后可能帶來的對人類的傷害。

（4）AI有限發(fā)展論：不是所有的領(lǐng)域都適宜發(fā)展人工智能，保有人自身的生命力和創(chuàng)造力更加重要。在寫作、新聞、藝術(shù)創(chuàng)作等創(chuàng)新領(lǐng)域，在宗教、情感、教育等精神領(lǐng)域，在政治、經(jīng)濟等決策領(lǐng)域，人即便是“笨拙”的，但依然應(yīng)是主要行為主體，不鼓勵A(yù)I代理。同時，訓(xùn)練人的記憶力、理解力和創(chuàng)造力，讓人跟著人工智能一同成長而不是“退化”成為“肉雞”，永遠都是需要我們警示的問題。

百年之后，我們還在嗎？To be or not to be，that’s a problem。要想有一個我們“看得見”的答案，人類對人工智能，厚愛之下，永遠不可大意！

注 釋：

①習(xí)近平在中共中央政治局第二十次集體學(xué)習(xí)時強調(diào) 堅持自立自強 突出應(yīng)用導(dǎo)向 推動人工智能健康有序發(fā)展，新浪新聞中心，2025-4-26，https：//news.sina.com.cn/c/xl/2025-04-26/doc-ineunexa7503810.shtml。

②轉(zhuǎn)引自《給政治局講人工智能的西安交大鄭南寧報告全文》，智庫產(chǎn)業(yè)公眾號，2025年4月30日。

③石梁、朱林蕃：《智能機器具有人格嗎？——從伽拉泰亞的婚姻到機器的“人格權(quán)”》，《道德與文明》，2024年第4期，第118頁-127頁。

④數(shù)字生命卡茲克公眾號，2025-4-9，DeepSeek的極致諂媚，正在摧毀我們的判斷力。

⑤顧理平：《無感生存：經(jīng)驗感知的退場與公民的隱私困境》，《傳媒觀察》，2025年4期，第61頁。

⑥熊培云：《人的消逝：從原子彈、互聯(lián)網(wǎng)到人工智能》，浙江人民出版社，2024年12月版，序言。

⑦聯(lián)合國教科文組織發(fā)布《國家人工智能戰(zhàn)略中的高等教育角色》報告，上師大國際與比較教育研究院微信公眾號，2025年4月3日。

⑧《高校大量取消文科專業(yè)，增加上千理科專業(yè)！為未來超越歐美做準(zhǔn)備》，頭條2024-9-10，https：//www.toutiao.com/article/7412855394843902501/。

⑨《全球文科倒閉潮，來了！選了文科，這輩子就沒出路了嗎？》，毒sir財經(jīng)，2025-02-22。

⑩《浙大哲學(xué)學(xué)院院長王俊：文科的價值不在于直接創(chuàng)造GDP》，大象新聞。

11美國作家哈珀·李（HarperLee）的小說《殺死一只知更鳥》中，知更鳥只會唱歌，不會做壞事，它是社會正義、公平、理想等正向價值的體現(xiàn)。

12曹思琦：《一封聯(lián)名公開信引爆科技圈！AI競賽，踩剎車還是踩油門？》，《環(huán)球時報》，2023年4月8日。

13見西瓜視頻，《我們可以相信現(xiàn)在的AI嗎？》，https：//haokan.baidu.com/v？vid=12401135474401342128。

14《中國部署加快建設(shè)人工智能教育大模型》，中新社北京4月16日電（記者曾玥），轉(zhuǎn)引自新浪新聞中心，2025-4-16，https：//edu.sina.com.cn/l/2025-04-16/doc-inetkanw0107155.shtml。

作者簡介：張淑華，鄭州大學(xué)新聞與傳播學(xué)院教授、博士生導(dǎo)師（鄭州 450001）。

編校：鄭 艷