前言

以深度學習為代表的人工智能取得突破性進展，然而海量的參數與復雜的處理機制，使得人類很難追溯與理解推理過程，導致這類端到端的黑箱學習方法不可解釋，造成“知其然，不知其所以然”.由此引發人們對算法可信性、公平性產生質疑，甚至造成倫理、法律等問題，影響了黑箱人工智能方法在無人駕駛、精準醫療、智能交通等高風險決策工程中的大規模應用.可解釋性問題是打開黑箱人工智能方法、構建新一代人工智能理論的關鍵問題之一.可解釋智能學習方法既要給出結果，同時也能提供計算推理過程所形成的證據鏈.

本期專題得到同行的廣泛關注，通過公開征文收到36篇高質量投稿稿件和1篇特邀稿件，這些論文涉及可解釋的機器/深度學習模型、決策過程及預測結果的解釋、符號規則與深度學習的融合等多個主題研究，闡述了可解釋智能學習方法及其應用的重要研究成果，展示了其與多領域深度融合的發展前景.本專題的審稿嚴格按照期刊審稿的要求進行，特邀編委先后邀請了20余位相關領域的專家參與評審，歷經初審、復審、終審等階段，最終遴選出8篇高質量的論文入選本專題.內容涵蓋了可解釋智能方法在無人駕駛、智能拆解、在線學習、智慧醫療、就業推薦、智能問答等方面的應用，在一定程度上反映了當前國內學者在可解釋智能學習方法的代表性應用.

小樣本學習旨在從極少的幾個樣本中學習樣本特性,張玲玲等作者的論文“基于對比約束的可解釋小樣本學習”提出一種基于區域注意力機制的小樣本分類網絡INT-FSL,旨在揭示小樣本分類中的2個關鍵問題:1)圖像中哪些關鍵位置的視覺特征在決策中發揮了重要作用;2)這些關鍵位置的視覺特征能體現哪些類別的特性.此外,作者還嘗試在每個小樣本元任務中設計全局和局部2種對比學習機制,利用數據內部信息來緩解小樣本場景中的監督信息匱乏問題.實驗結果表明INT-FSL模型不僅能提升當前小樣本學習方法的分類性能,還具備良好的過程可解釋性.

無人駕駛系統綜合了軟件和硬件復雜的交互過程,深度強化學習常常被應用于無人駕駛系統決策中.然而,在面對沒有經驗的場景和復雜決策任務時,基于黑盒的深度強化學習系統并不能保證系統的安全性和復雜任務獎勵函數設置的可解釋性.王金永等作者的論文“面向無人駕駛時空同步約束制導的安全強化學習”提出了一種形式化時空同步約束制導的安全強化學習方法.首先,提出了一種形式化時空同步約束規約語言,接近自然語言的安全需求規約使獎勵函數的設置更具有解釋性.其次,展示了時空同步自動機和狀態動作空間遷移系統,保證強化學習的狀態行為策略更加安全.然后,提出了結合形式化時空約束制導的安全強化學習方法.論文通過無人駕駛汽車在高速場景變道超車的案例對方法進行了驗證.

建立完善的動力電池回收利用體系是我國新能源汽車高質量發展需要突破的瓶頸問題之一,研究和發展智能化、柔性化、精細化的高效拆解技術是其中的重要環節.任偉等作者的論文“基于神經符號的動力電池拆解任務與運動規劃”基于神經符號學理論對動態環境中動力電池的拆解任務進行研究,設計并實現了一套任務和運動規劃系統，并基于該系統實現了在復雜多變的拆解工作環境中動力電池連接約束件的智能拆解.

知識追蹤任務通過建模用戶的習題作答序列跟蹤其認知狀態,進而預測其下一時刻的答題情況,實現對用戶知識掌握程度的智能評估.劉坤佳等作者的論文“可解釋深度知識追蹤模型”提出了一個可解釋的深度知識追蹤框架.首先引入習題的上下文信息挖掘習題與知識點間的隱含關系,得到更有表征能力的習題與知識點表示,然后建模用戶答題序列獲得其當前知識狀態,并以此學習個性化注意力,進而得到當前習題基于用戶知識狀態的個性化表示.最后,對于預測結果,依據個性化注意力選擇一條推理路徑作為其解釋.孫建文等作者的論文“基于多層注意力網絡的可解釋認知追蹤方法”提出一種基于多層注意力網絡的認知追蹤模型.通過挖掘題目之間多維度、深層次的語義關聯信息,建立一種包含題目元素、語義和記錄等3層注意力的網絡結構,利用圖注意神經網絡和自注意力機制等對題目進行嵌入表示、語義融合和記錄檢索.特別是在損失函數中引入提升模型可解釋性的正則化項與權衡因子,實現對模型預測性能與可解釋強度的調控.

深度學習是當前醫療多變量時序數據分析的主流方法，但是臨床輔助決策關乎病人生命健康,需要模型具有足夠的可解釋性.馬連韜等作者的論文“Dr.Deep：基于醫療特征上下文學習的患者健康狀態可解釋評估”提出了一種多通道健康上下文表示學習方法,將各變量的時序特征分別編碼,利用多頭去協同的自注意力機制學習不同特征之間關聯關系;通過基于壓縮激勵機制的特征跳連編碼,提升模型對最新病情變化的敏感性.實驗表明,Dr.Deep在重癥監護患者膿毒癥預測、新冠肺炎重癥患者出院時間預測等任務中相比業界方法性能有提升,且可以針對不同患者的不同指標自適應學習其重要性作為可解釋性的關鍵因素.

基于協同過濾和隱因子模型的大學生就業推薦方法對推薦結果的可解釋性需求不夠友好，朱海萍等作者的論文“基于互惠性約束的可解釋就業推薦方法”設計并構建了基于互惠性約束的可解釋就業推薦方法.通過引入注意力機制與模糊門機制,提取并自適應聚合學生與就業單位雙向的偏好與需求,緩解“能力失配”問題;并提出一種面向就業意圖和就業特征的推薦解釋方法.

知識圖譜問答中,自然語言問句結構與知識圖譜結構之間的語義匹配是一個具有挑戰的研究問題.孫亞偉等作者的論文“基于圖匹配網絡的可解釋知識圖譜復雜問答方法”提出一種基于圖匹配網絡的知識圖譜復雜問答方法TTQA.首先,通過語法分析方法構建一個與知識圖譜無關的未定查詢圖；然后,依據未定查詢圖和給定的知識圖譜,構建一個與知識圖譜相關的已定查詢圖,通過結合預訓練語言模型和圖神經網絡技術，再利用注意力機制,從而得到更加豐富的結構匹配表示,用于已定查詢圖預測.實驗結果表明TTQA生成的未定結構圖和已定查詢圖增強了問答系統可解釋性.

承蒙各位作者、審稿專家、編輯部各方面的全力支持，本專題得以順利出版.在審稿過程中難免出現不盡人意之處，希望各位作者和讀者包容諒解，同時也請各位同行不吝批評指正.期望本專題的出版能給廣大相關領域研究人員帶來啟發和幫助.