人工智能學科人才培養中人機信任關系的重要性

付宇鵬 閆文君 凌青 朱子強

摘要 隨著現代信息技術的快速發展，與實戰相結合的人工智能學科研究生高層次人才培養，已經成為信息化戰場向智能化戰場發展的迫切要求。文章從人機信任關系的角度探討了目前人工智能學科研究生人才培養面臨的問題和挑戰，基于人機信任的人才培養模式的作用和意義，從科研理論創新、深入部隊調研和引導身份轉換三個方面對軍事院校研究生人才培養給出建議，為提高軍事院校研究生人才培養成效提供了新思路。

關鍵詞 人機信任；人工智能；研究生培養；軍事院校

中圖分類號：G642文獻標識碼：ADOI：10.16400/j.cnki.kjdk.2023.6.025

隨著人工智能、大數據、云計算等高新科技力量的迅猛發展，未來戰爭的作戰方式必然更趨于信息化和智能化[1]。人機關系也正在發生深刻變化，人的角色逐漸轉變為武器裝備共享控制的合作者，由此引發的人工智能技術信任問題也成為實現人工智能軍事應用所面臨的最大挑戰之一。隨著武器裝備智能化、無人化趨勢日趨明顯，軍事環境的風險、脆弱性和不確定性，導致人工智能技術信任問題越來越受到重視。軍事院校是軍事人工智能技術、裝備應用實現的前沿陣地，軍事院校研究生學員更是這一過程的見證者和參與者，也是未來部隊裝備研發和教育教學工作的核心人員，因此人工智能學科人才培養必須切實響應實戰化人才培養改革要求[2]。目前軍事院校研究生人才培養模式未能從更深層次的創新型和應用型思維模式給予引導。前教育部副部長杜占元在未來教育大會上提出，“在機器能夠思考的時代，教育應著重培養學生的自主學習能力、提出問題的能力、人際交往的能力、創新思維的能力及籌劃未來的能力。”以此為啟發，本文試析“以人為中心”的人工智能學科課程建設中人機信任關系的重要性和所面臨的主要問題。

1基于人機信任關系的人才培養背景

人工智能已逐漸成為帶動生產力和科技進步的戰略性技術。在人工智能時代，重構人機關系，對于構建和諧共生的人機環境、“人機命運共同體”和美好和諧社會具有重要意義[3]，也是所有人工智能領域從業人員面臨的哲學問題。人機信任關系的發展大致經歷了單向度的信任關系階段、單向度的不信任關系階段與雙向度的不信任關系階段三個階段，揭示了復雜智能算法向混合式智能算法的轉變[4]。

以空戰智能博弈理論軍事應用背景為例，早在20世紀60年代美國國家航空航天局就開展了基于專家規則的智能空戰系統研發，這一階段可看作單向度的信任關系階段；近些年隨著算力的提升和技術的進步，以深度學習為代表的空戰智能決策模型表現出巨大優勢，表現出超越人類的水平[5]，人機關系也向不信任階段發展。盡管機器學習類方法在解決空戰決策問題方面潛力巨大，然而人工智能技術真正在實裝項目落地仍面臨較大困難，一方面前沿人工智能技術應用的成熟度較低，存在輸入的數據質量低，算法缺陷、偏見等問題；另一方面技術應用部門對數據和人工智能在實戰化訓練中的可行性和效果缺乏理解和信任，導致了目前諸多人工智能技術“不能用、不敢用、不抗用”。該問題反映在軍事院校教育體系中，直觀表現為“戰味”不夠，在“學術化和實戰化問題上還存在一些認識偏差”等問題[6]。從思維認知上講，與從業人員對人機信任關系理解不透徹有著密切關系。因此教員應重視引導研究生學員主動思考，幫助其建立基本的以人為本、以實戰為中心的思維模式。

2基于人機信任關系的人才培養面臨的問題

2.1理論體系不完善

人機信任關系問題正成為人工智能領域研究和討論的一個活躍課題。信任問題的研究起源于心理學、社會學等行為科學，其概念模型或解釋模型能否運用于人機合作的信任研究中尚不明確。從現實角度講，人機信任并非越高越好，而是與具體應用需求和智能體的智能水平息息相關。針對“什么因素影響了人對人工智能系統的信任，如何準確測量人對人工智能系統的信任”等問題的研究仍處于起步階段，尚缺乏實證研究或缺乏嚴謹的行為科學實驗方法[7]。因此，在目前的人工智能研究領域，人機信任關系的研究側重于研究如何構建、實現和優化人工智能系統面對特定任務的計算能力與處理能力，實現人與智能體的單向或雙向溝通，從而實現價值對齊。這也是基于人機信任的學科建設和人才培養模式研究面臨的主要問題。

2.2部隊調研不透徹

《軍事人工智能》報告指出，未來作戰方式會因為人工智能的崛起而發生質的變化。未來15年，人工智能技術的高速發展必將對戰爭帶來重大而深遠影響。與此同時，人工智能技術的軍事應用存在缺陷，決策能力并不完全可靠，且尚不具備政治判斷能力；在敵我雙方均使用人工智能的情況下，戰爭走向和后果尚不可預知。因此作戰部隊和科研人員應對人工智能技術軍事應用保持謹慎態度。目前人工智能學科課程和研究工作缺乏切實的部隊調研，未能充分考慮政治、軍事、技術、作戰人員思想等多維度的影響因素，導致建模仿真環境不逼真、專家經驗知識庫不完備等問題。諸多人工智能技術應用停留在理論文章、課本示例中，成果轉化弱，基于人機信任導向的課程建設和人才培養模式缺乏有效數據支撐，課程教學資源建設、實驗環節設計等不充分。

2.3學研結合不緊密

“在科研和實踐中培養”是培養研究生的基本模式。“學研”結合范式是研究型課程教學活動的核心，教員和學員都應著眼于相關研究領域的應用背景、技術發展、未來走向[8]。但目前各課題組和研究團隊并未充分調動課程中的研究生學員資源，課堂中，教員以“講”為主，而課堂時間所傳授內容與各類線上資源相仿，學員缺乏思考和實踐，課下學員缺乏任務牽引的學習動力；課程涵蓋面寬泛，知識主線不清晰，學員理解容易分散，人工智能導論、機器學習、大數據原理等課程盡管涉及知識面較廣，內容紛繁，但學員在日后工作中研究方向收斂，大量知識未起到作用；工程和科研項目訓練中，導師和教員指導有限，學員往往缺少全局意識，不了解任務需求而傾向于優化個別點的性能，容易陷入思維盲區或鉆牛角尖。這些因素導致學員對技術應用背景和存在的問題不敏感，側面制約了人機信任關系這一更高層次問題探討的作用和深刻意義。

3基于人機信任關系的人才培養實踐方法

3.1立足科研創新，以理論為基礎

人機信任關系不僅僅是一個社會學、心理學問題，也是人工智能研究領域的一個重要課題，在有人無人協同、自動駕駛等領域有著重要研究價值，直接影響未來大規模部署的可行性。目前，人機合作的研究采用“以人為中心”的理念。在空戰智能博弈領域，有人機―無人機協同訓練是重要的子課題之一，在未來智能化戰場增強人機信任具有重要意義，以此為契機開展人機信任關系研究工作。人際信任關系作為跨學科、深刻、復雜的問題，必須扎根理論基礎，落到科研實處，才能使理論深入淺出，使學員學以致用，能力得到培養。例如，培養過程中以課題組在有人無人協同空戰領域的科學研究和任務場景下人機信任關系的研究經驗為示例，從軍事應用背景，部隊需求，人工智能技術發展、原理、實現方法，人因等多維度，對需要考慮的指標進行量化和建模，厘清影響技術落地的因素和探索未來技術的發展走向，并形成指標量表和量化方法，講解如何實現基于數據建立動態信任關系模型，課程主旨緊貼以應用為導向的人才培養要求，引導學員思考“以人為中心”的人工智能技術實現所經歷的研究過程，提高學員對理論問題、人機關系、思維創新的理解。

3.2深入部隊需求，以實戰為牽引

長期以來，軍事院校借鑒地方研究生培養的經驗，注重培養高層次學術型人才[9]，研究生學員中專業技術人才多、懂技術能指揮的復合型人才少，對學術前沿了解多、對部隊現實需求研究少。應注意到具備指揮學和工程學背景二者優勢的軍事院校研究生學員人才培養在未來軍事指揮和裝備研發中將發揮重要作用，人才培養模式和課程建設應認真貫徹落實軍委提出的“把培養應用型人才作為研究生教育發展的重點”的指示精神，緊跟信息化建設需求，緊盯新興技術領域和新質戰斗力生成，提高研究生學員軍政綜合素質、戰略思維能力和領導管理水平。課題組承擔模擬器建設和模擬飛行訓練任務，與飛行學員和各訓練單位長期保持深入溝通和密切合作，為研究生學員搭建了良好的溝通調研平臺，保障研究生學員及時了解承訓任務、訓練需求、人員動態等“人因”要素，并通過訓練反饋掌握模擬器裝備、智能體模型等存在的問題和需求，為學習和科研打下基礎。通過這一環節，研究生學員能夠認識到人機信任在部隊訓練和實裝落地中的重要性，對人工智能學科的軍事應用也會有更深層次的理解。

3.3引導身份轉變，以問題為導向

人機信任的人才培養模式和課程建設的基礎在于學員對應用問題的準確把握，同時具有獨立學習和研究的能力。在現有的培養模式下，學生以“聽”為主，缺乏獨立思考，側重單一知識結構的系統學習和理論層面的科研創新，造成學術型人才多、應用型人才少，研究生的知識轉化能力、崗位實踐能力、解決實際問題的能力相對薄弱[10]。一方面學員對自身科研人員身份的轉變不及時，認為學員以學為主，被動式地接受知識；另一方面教員的教學方法仍普遍存在“填鴨式”的傳統問題，沒有從組員、同行的角度對待學員。因此應突出學員作為課程建設和人才培養方案中主體的地位，相較于本科學員，研究生學員具有更高的自主學習、探索和實踐的能力，人工智能學科各課程、研究前沿、學術材料的網絡資源豐富，教員應充分調動研究生學員的能動性，自主學習相關技術理論知識，課堂、實踐等環節則更多的是為教員和學員提供探究性學習的良好平臺，以科研項目承擔者的角度引導學員思考未來在科研崗位中的身份定位；以項目實施中的實際問題為導向，引起學員對“以人為中心”的人工智能技術應用和發展的共鳴。

4結語

新時代軍事院校教育中，人工智能學科高層次應用型研究生人才在我國科技強軍的進程中發揮著重要作用。目前人才培養模式中對人機信任的作用和意義尚缺乏深度挖掘。本文從人機信任面臨的問題和挑戰入手，淺析了人才培養模式和課程建設中引入心理學、社會學等領域成熟的實驗研究范式的思考，優化人才培養模式。

參考文獻

[1]邵希文.中國特色現代軍校保障體系構架建設研究[J].國防，2018，394（12）：30-36.

[2]劉輝，李志輝，吳向君，等.以能力為導向的實戰化課程教學改革與實踐[J].實驗室科學，2021，24（6）：108-113.

[3]余玉湖.重構人工智能時代“人機關系”的哲學思考[EB/OL]（2022-01-11）. http：//marx.cssn.cn/mkszy/yc/202201/t20220111_5387881.html.

[4]何江新，張萍萍.從“算法信任”到“人機信任”路徑研究[J].自然辯證法研究，2020，36（11）：81-85.

[5]孫智孝，楊晟琦，樸海音，等.未來智能空戰發展綜述[J].航空學報， 2021，42（8）：35-49.

[6]陳曦.“戰研訓”融合式專業學位研究生課程體系探究[J].高等教育研究學報， 2020， 43（3）：3-39.

[7]朱翼.行為科學視角下人機信任的影響因素初探[J].國防科技， 2021，42（4）：4-9.

[8]唐田田，王海鵬，郭強，等.淺析大數據時代下的軍事院校教學改革[J].科技咨詢，2021（3）：40-43.

[9]王文龍，沈同強.試析軍校研究生培養的四個轉變[J].海軍院校教育，2018，28（3）：71-72.

[10]魯強，王智廣.人工智能復合型本科人才培養方案探索[J].教育現代化，2021， 8（27）：56-58.