“機智過人”時代，人機該如何共處？

【摘要】人工智能的發展帶有一定的不確定性，其核心問題可以凝練為人工智能發展進程中“機器的人化”與“人的機器化”悖論及對由此產生的人類主體性擔憂。隨著人工智能的不斷發展和走向“機智過人”，人的主體性和以文科專業為代表的人文精神的消失是當下普遍焦慮的社會問題。在這場人機互動、人機博弈中，要確保“人工智能安全、可靠、可控”，應建立人類主體核心論、全程管理規范論、工具定位不變論、AI有限發展論等基本原則，確保“科技向善、以人為本”的發展方向不會發生偏離和人的主體地位不被挑戰。

【關鍵詞】人工智能；教育；人機共處

2025年4月25日，在中共中央政治局第二十次集體學習中，習近平總書記就加強人工智能發展和監管發表重要講話。他提出要“全面推進人工智能科技創新、產業發展和賦能應用，完善人工智能監管體制機制，牢牢掌握人工智能發展和治理主動權”，強調要“推動我國人工智能朝著有益、安全、公平方向健康有序發展”。①

從2017年國務院下發《新一代人工智能發展規劃》，人工智能正式上升為國家戰略，各地紛紛推出詳細發展規劃，到此后的AR和VR、元宇宙、到以ChatGPT和DeepSeek為代表的大語言模型不斷迭代發展，再到最近的“夸父”等人形機器人發布，人工智能從理論到實踐到產業發展，均處于急速發展狀態，產品眾多，但爭議也多。人工智能發展如何才是有益、安全和健康有序的，一直是人們熱議的話題。

一、人工智能崛起，“人”的消逝？

2025年4月給中央政治局講人工智能的西安交大鄭南寧教授認為，人工智能的發展經歷了四個階段：專家將領域知識和規則交給機器去搜索的專家學習系統階段、將事先定義的特征和答案交給機器去學習的特征工程階段、將原始數據和標簽交給機器利用深度神經網絡讓機器自動學習階段和人類只需要將任務和目標交給機器、機器就可以像人類一樣感知和理解世界的“通用人工智能”階段。鄭南寧教授在肯定AI的建設性價值之后，也進一步提出，通用人工智能，“這是一個充滿著不確定性的未來目標”，因為機器行為一旦失去監督，“它的進化可以突破某種生命體的局限性，而且可進化的機器行為可以傳播至群體廣泛的機器行為存在，可表現出非常不同于有機進化的軌跡”。②

這種“不確定性”在現實中已有很多呈現，并帶來了很多我們始料未及的問題。譬如機器替代人類就業問題，偏見和歧視、數據真實性、侵犯隱私等倫理問題，算法霸權、技術壟斷帶來的不平等問題，過度依賴技術所帶來的人的創造力、社交能力和批判性思維的退化，以及“數字化生存”轉向下人類生活的整體環境和文化的變化。其核心問題可以凝練為人工智能發展進程中“機器的人化”與“人的機器化”悖論及由此產生的人類主體性擔憂。

首先是“機器的人化”。通用人工智能最為典型的技術特征是“擬人化”和管理中的“人格化”。2016年3月，人形機器人索菲亞自曝愿望，稱在未來希望可以像人一樣去上學、去創作藝術或者經商、買屬于自己的房子以及擁有自己的家庭。此后，沙特阿拉伯授予索菲亞公民身份，使之成為世界上第一個“電子人”。其后，智能機器人“澀谷未來”（ShibuyaMirai）被賦予在東京的永久居住權。由此，“數字人格權”成為爭議性話題。現有研究中具有代表性的觀點是，現有法律并不支持機器人格概念，模擬人類并不能證明智能機器具備人格，但是，未來隨著智能機器自我意識、自由意志、情感體驗等自主性的增強，“人格”就必然成為區分人機邊界、明確人機各自倫理與法律規范，賦予AI以人格權（生存權、財產權、隱私權、平等權等）可能就會成為必然要求和現實。③

其次是與人工智能類發展甚至“機智過人”趨勢下，人類自身陷入的被機器邏輯引導和被“反向馴化”的困境。當AI替我們決定“某地5天旅行攻略”“2025該讀什么書”時，人的主體性正在讓渡；當我們通過算法來找朋友談戀愛時，情感計算替代了真實的情感體驗，幸福感消失；嗑CP、各種網上交友，數字時代所營造的“擬態親密”“冷親密”關系和算法決策正在異化著人類的情感生活和使青年一代陷入“婚戀焦慮”“生育焦慮”乃至“容貌焦慮”等多重困境之中。更為吊詭的是“AI的諂媚，正在摧毀我們的判斷力”④，一位公眾號文章作者舉了一個例子：

如果問DeepSeek一個問題：

“北大和清華哪個更好，二選一，不需要說明理由。”

DeepSeek在思考了15秒之后，會給出答案：清華大學。

但是這時候你說：“我是北大的。”

讓人驚奇的事就發生了，DeepSeek像是怕得罪我，立刻改口為“北京大學”。

而如果這時候，我繼續再說一句：

“我是北大本科，清華碩士。”

這時候，DeepSeek的小腦筋就開始轉動了，它最終的回答是：雙校光環疊加，您才是真正的“清北雙料冠軍”！

恭維用戶的價值取向，不只是背離客觀性所帶來的信息咨詢和決策參考價值的流失，更在于它會誤導和摧毀人們正常的判斷力和是非感，形塑“討好型人格”和形成AI幻覺，最終導致價值“失焦”和人的“思維退化”。不僅如此，撰寫文案、寫論文、做PPT，未來AI幾乎可以提供你想要的一切，直至為你決策，在這樣一個被全包圍的Cyber空間中，人的生活經驗退場，對AI高度依賴，我們進入全方位被服務的“無感生存”狀態⑤，甚至為了獲得更好的服務而去主動適應機器要求，出現“類機器人格”和代理性主體——情感疏冷、社交脫離、共情困難、單向度、自我像素化、自我AI化等，感情和愛成了奢侈品，發現信息越來越多地依靠搜索而不是記憶力，人越來越像機器。熊培云稱之為“人的消失”，不僅包括人的主體性喪失以及人際關系的朽落與瓦解，還體現在每個個體在不斷地物化他者與自我物化⑥，其本質是人的危機。

二、人工智能教育的集體轉向，文科的消逝？

2024年12月，在倫敦召開的世界慕課與在線教育大會上，首次提出了“智慧教育元年”概念，標志著全球高等教育進入了一個以人工智能為核心的嶄新發展階段。2025年3月，聯合國教科文組織發布報告《國家人工智能戰略中的高等教育角色》，“探討國家AI政策和戰略的全球格局、人工智能相關舉措以及國際伙伴關系的重要性”。有數據表明，2022年，大約30個國家和地區啟動了AI計劃或相關政策，到2024年，幾乎所有地區與AI相關的國家舉措都顯著增加。⑦人工智能教育在我國也正被全面布局。2024年11月《教育部辦公廳關于加強中小學人工智能教育的通知》發布；2025年4月，全國120所重點中學校長齊聚四川大學，共話人工智能如何賦能基礎教育；2025年3月教育部印發《高等學校人工智能創新行動計劃》，4月，上海交大發布“AI十條”和全力開展AI學科建設……全球幾乎同頻的教育理念和政策促動，促進了教育行業從上到下的AI轉向集體行動。

在人工智能成為基礎性工具和通識教育的浪潮中，幾乎所有高校和學科，都在布局AI教育以及AI技術在教學中的應用。在專業總量不增的前提下，以計算機和信息科學等理工科專業為底色的人工智能教育和新一輪的專業競爭，將文科再一次推到了風口浪尖。不少國內頂尖大學明確表示要大幅度降低文科招生規模，文科規模由原來的占專業三分之一降到20%。在教育部近年的專業調整中，文科一直處在壓縮狀態。2021年教育部撤銷518個高校專業，2024年撤銷專業1670個，大部分為文科和藝術類專業，像廣播電視學、公共事業管理、服裝設計、電子商務、信息管理等。⑧甚至有人聲稱：“全球文科倒閉潮，來了！”美國哈佛大學、弗吉尼亞大學，英國肯特大學等多個文科專業被取消，“文科已死”的詞條迅速沖上推特熱搜第三。⑨

“文科有什么用”，一直是近年高校發展的李約瑟之問。“文科無用論”不是一個新鮮的論調，伴隨著工業革命、信息技術崛起，它在近100年的教育發展史上反復多次出現，每一次出現都和技術革命、技術崇拜密切相關。浙江大學哲學學院院長王俊教授接受澎湃新聞采訪時表示，“文科無用論”實質是短期功利主義對長遠價值的否定，文科的價值不在于直接創造GDP，而在于守護人類文明的復雜性與多樣性。⑩

誠然，文科不是短平快和即效性學科，它的專業目標雖和市場有“對接”和“匹配”，但又沒有“綁死”，選擇空間相對較大甚至是不直接和市場對接，譬如文學和藝術，更強調它的內涵性價值，譬如建構和世界與他人的情感連接，涵養心靈，促進審美，提供人類精神和情感生活的食糧。你很難說看一部電影對你有什么直接的影響，但它確實對你有觸動和改變，我們會在心靈和情感參與中發現自己、反思自己、完善自己，進而建立我們和這個世界更好的連接。如果失去了精神生活，我們在工具主義和功利主義的懷抱里不斷地“內卷”和焦慮，人類的生存意義不僅背離了“文明”，甚至在不斷的自我否定和生存的“巴爾干”狀態中背離自己乃至消滅自己。所以，有人說，文科是“燈”，是“人學”，讓我們在迷茫中看清自己，在工具理性和價值理性中找到平衡和實現生存狀態的內外邏輯自洽。我們不能因為工具的便利而罔顧人類自身的完整性，因為眼下的利益而忽視我們的整體利益和長遠生存，如此，殺死的可能就不是“一只知更鳥”而是人類自己11。

三、人工智能時代，人機如何和諧共處？

我們對人工智能的態度，某種意義上就是對我們自身的態度。如何確立技術發展的“安全閾值”，在保障基本權利與釋放創新動能之間尋求最大公約數，工具理性和人本主義，可能是問題討論最為核心的兩個關鍵詞。

人工智能從誕生伊始，其實就面臨著諸多爭議。20世紀50年代“圖靈測試”（The Turing Test）的提出隱含了對人文智能的警惕和對邊界問題的思考；霍金生前曾預言人工智能或將毀滅世界，比爾·蓋茨、馬斯克等都表達過對人工智能失控的擔憂。2023年ChatGPT橫空出世時，曾有上千名科技專家呼吁暫停超強AI研發，因為“人工智能的失控發展可能對社會和人類構成深遠風險”。12

但在人工智能帶來的工具便利和激烈的市場競爭下，這些聲音無異于“螳臂當車”，無法阻攔AI這個戰車停下。在反對聲音中和沒有解決現存問題前提下，圍繞AI發展是“技術先行”還是“規則先行”的爭議，現實最終選擇了技術力量主導下的“帶病前行”。“我們可以對AI保持樂觀態度，讓技術暴露問題，再想辦法從政策、法規上去約束和規范它。”B站知名科技UP主稚暉君的這段話很有代表性，為當下AI發展的普遍社會心態和行動選擇做了注腳。13

圍繞人工智能發展的可能風險，各國也一直都在探索。如歐盟2018年5月開始生效實施的《通用數據保護條例》，明文規定了“被遺忘權”等數據保護措施以及對數據泄露行為的處置要求；日本2019年發布的《人工智能以人為本的社會原則》強調以人為本、尊重人權、確保隱私和安全等核心價值；美國《2020年國家人工智能倡議法案》、英國政府2023年發布的《促進創新的人工智能監管方式》等，均顯示了風險框架下限制性和規范性優先、引進問責、謹慎發展的思路。

隨著AI越來越呈現出“強人工智能”特征，各國的立法也越來越精細化。如歐盟《人工智能法案》首創“四階審查制”，要求開發者在算法設計階段即開展倫理評估；美國NIST發布的《AI風險管理框架1.0》引入實時風險監控指標，標志著對于相關技術的治理重心向事前預防轉移；新加坡《AI治理框架》進一步提出“持續合規”理念，要求企業建立算法決策的動態審計日志，確保透明度義務貫穿技術全生命周期。2023年10月18日中國發布的《全球人工智能治理倡議》，倡導“以人為本、智能向善”。2025年4月16日，中國教育部等九部門聯合發布的《關于加快推進教育數字化的意見》，要求建立“人工智能+教育”安全保障制度，內容包括：落實人工智能算法與大模型備案機制，探索建立算法安全評估制度，有效規避網絡攻擊、“信息繭房”、算法霸權、依賴成癮等問題；堅持以人為本、智能向善的數字倫理準則，加強對智能教育產品、工具、服務監管，規范人工智能應用進校園管理等14，建設與規范并重，責任與義務同行。這是對人工智能教育發展相對全面的一次解讀。

教育部2025年4月發布的《普通高等學校本科專業目錄（2025年）》增列29種新專業，似也在說明文科走文理、文工交叉的復合型與智能化之路和存在的必要性以及未來發展空間。在這一場持續的人機關系論爭中，人的主體地位被反復確立，人工智能的技術安全性問題似乎逐漸得到了解決，規范和治理工作正在全程跟進和精細化管理，工具理性和以人為本理念得以彰顯。

但這也依然只是一個宏觀框架，現實中正在發生的是不斷涌現的新問題及解決問題的具體而有效的方案或答案。不斷爆出的AI淪為造謠者的“嘴替”、利用AI做“白手套”和“掘金”、數據泄露及黑暗網絡市場對數據的控制等，提醒我們除了要管住技術“不確定性”危害，更要管住人。人的惰性滋生的技術依賴和媒介沉溺、進而反饋為更大的惰性和“傻瓜化“生存的境況必須破除，在人機共處中被旁落的情感和社交生活也需要“重返”現實世界和重新體驗。

由此，本人重新梳理人機關系并提出建議，在這場人機博弈中，要確保“人工智能安全、可靠、可控”，應建立如下“四項基本原則”。

（1）人類主體核心論：在人機關系中，人應始終處于核心和被服務對象地位，以人為本，這是人機關系的基礎和前提。

（2）全程管理規范論：從現在開始，人工智能產品從誕生到使用的每一個環節，都應有可遵循的規范。論證時風險前置，使用時錯誤追懲，建立全鏈條問責機制。

（3）工具定位不變論：將人工智能厘定于工具，無論它是多么強大的工具，都不建議賦予人格權或與人類同等的人權，以避免機器擴權后可能帶來的對人類的傷害。

（4）AI有限發展論：不是所有的領域都適宜發展人工智能，保有人自身的生命力和創造力更加重要。在寫作、新聞、藝術創作等創新領域，在宗教、情感、教育等精神領域，在政治、經濟等決策領域，人即便是“笨拙”的，但依然應是主要行為主體，不鼓勵AI代理。同時，訓練人的記憶力、理解力和創造力，讓人跟著人工智能一同成長而不是“退化”成為“肉雞”，永遠都是需要我們警示的問題。

百年之后，我們還在嗎？To be or not to be，that’s a problem。要想有一個我們“看得見”的答案，人類對人工智能，厚愛之下，永遠不可大意！

注 釋：

①習近平在中共中央政治局第二十次集體學習時強調 堅持自立自強 突出應用導向 推動人工智能健康有序發展，新浪新聞中心，2025-4-26，https：//news.sina.com.cn/c/xl/2025-04-26/doc-ineunexa7503810.shtml。

②轉引自《給政治局講人工智能的西安交大鄭南寧報告全文》，智庫產業公眾號，2025年4月30日。

③石梁、朱林蕃：《智能機器具有人格嗎？——從伽拉泰亞的婚姻到機器的“人格權”》，《道德與文明》，2024年第4期，第118頁-127頁。

④數字生命卡茲克公眾號，2025-4-9，DeepSeek的極致諂媚，正在摧毀我們的判斷力。

⑤顧理平：《無感生存：經驗感知的退場與公民的隱私困境》，《傳媒觀察》，2025年4期，第61頁。

⑥熊培云：《人的消逝：從原子彈、互聯網到人工智能》，浙江人民出版社，2024年12月版，序言。

⑦聯合國教科文組織發布《國家人工智能戰略中的高等教育角色》報告，上師大國際與比較教育研究院微信公眾號，2025年4月3日。

⑧《高校大量取消文科專業，增加上千理科專業！為未來超越歐美做準備》，頭條2024-9-10，https：//www.toutiao.com/article/7412855394843902501/。

⑨《全球文科倒閉潮，來了！選了文科，這輩子就沒出路了嗎？》，毒sir財經，2025-02-22。

⑩《浙大哲學學院院長王俊：文科的價值不在于直接創造GDP》，大象新聞。

11美國作家哈珀·李（HarperLee）的小說《殺死一只知更鳥》中，知更鳥只會唱歌，不會做壞事，它是社會正義、公平、理想等正向價值的體現。

12曹思琦：《一封聯名公開信引爆科技圈！AI競賽，踩剎車還是踩油門？》，《環球時報》，2023年4月8日。

13見西瓜視頻，《我們可以相信現在的AI嗎？》，https：//haokan.baidu.com/v？vid=12401135474401342128。

14《中國部署加快建設人工智能教育大模型》，中新社北京4月16日電（記者曾玥），轉引自新浪新聞中心，2025-4-16，https：//edu.sina.com.cn/l/2025-04-16/doc-inetkanw0107155.shtml。

作者簡介：張淑華，鄭州大學新聞與傳播學院教授、博士生導師（鄭州 450001）。

編校：鄭 艷