概念表示增強的知識追蹤模型

摘 要：知識追蹤模型以學習者的歷史學習行為數據作為輸入，通過概念表示來描述學習者的概念掌握狀態，從而預測學習者未來的學習表現。然而在概念的外延表示方面，當前知識追蹤研究的概念外延信息被限制在一階相關的范疇內，無法表征概念的一階以上外延信息。為了解決這一問題，提出方法首先使用圖結構描述概念內涵信息及其相互關系；其次使用圖神經網絡的池化操作等提取概念的外延表示，這保證了概念的外延信息來源于多階相關關系；再與概念的內涵表示進行融合；最后預測學習者未來的答題情況。為了驗證該模型的有效性和效率，選取了四個主流知識追蹤模型作為對比模型，在四個常用的知識追蹤數據集上進行實驗。結果表明，提出模型在若干評價指標上均取得了一定的優勢，說明了它的有效性；在模型性能方面，提出模型達到最優評價指標所需的迭代次數最少，說明了它的效率；在實際應用方面，以該模型為基礎實現了一個智能學習平臺，在三門線下課程的教學過程中判斷和預測學習者未來答題情況，取得了優于其他知識追蹤模型的表現。

關鍵詞：知識追蹤；圖卷積；概念

中圖分類號：TP183 文獻標志碼：A 文章編號：1001-3695（2022）11-017-3309-06

doi： 10.19734/j.issn.1001-3695.2022.04.0170

Concept representation enhanced knowledge tracing

Zhang Kai， Liu Yue， Qin Zhengchu， Qin Xinyi

（School of Computer Science， Yangtze University， Jingzhou Hubei 434000， China）

Abstract：Knowledge tracing models take the learner’s historical learning behavior data as input， describe the learner’s concept mastery state through the representation of the concept， and thus predict the learner’s future learning performance. However， in terms of the epitaxial representation of concepts， the conceptual epitaxial information in the current knowledge tracing research is limited to the scope of first-order associations， and cannot represent the epitaxial information of the concept above the first order. To solve this problem， the proposed method first used the graph structure to describe the conceptual connotation information and its interrelationship. Secondly， it used the pooling operation of the graph neural network to extract the epitaxial representation of the concept， which ensured that the epitaxial information of the concept could be derived from the multi-order correlation relationship. Then integrated with the connotation representation of the concept. And finally it predicted the lear-ner’s future answers. In order to verify the effectiveness and efficiency of the model， four relevant mainstream knowledge tra-cing models were selected as comparative models， and experiments were conducted on four commonly used knowledge tracing datasets. The results show that the proposed model has achieved certain advantages in several evaluation indicators， which shows its effectiveness， and in terms of model performance， the proposed model requires the least number of iterations to achieve the optimal evaluation index， which shows its efficiency. In terms of practical application， based on this model， an intelligent learning platform is realized， which judges and predicts the future answers of learners in the teaching process of three offline courses， and achieves better performance than other knowledge tracing models.

Key words：knowledge tracing; graph convolution; concept

基金項目：國家自然科學基金資助項目（62077018）

作者簡介：張凱（1980-），男（通信作者），湖北武漢人，教授，碩導，博士，主要研究方向為圖神經網絡、貝葉斯深度學習、知識追蹤、知識圖譜（kai.zhang@yangtzeu.edu.cn）；劉月（1998-），女，湖北十堰人，碩士研究生，主要研究方向為知識追蹤；覃正楚（1998-），男（土家族），湖北宜昌人，碩士研究生，主要研究方向為知識追蹤；秦心怡（1998-），女，湖北京山人，碩士研究生，主要研究方向為知識追蹤.

知識追蹤模型利用學習者的歷史學習記錄，如練習的題目、答案的正確與否、是否使用提示、作答時間等，刻畫學習者當前的概念表示及其動態變化過程，從而預測學習者未來的學習表現。在智能教學環境，如edX、Coursera、學堂在線等，知識追蹤模型用來評價學習者的學習情況，為個性化的教和學提供支撐與依據［1～6］。

描述和表示概念是知識追蹤模型的核心任務。對于概念的表示，當前研究的工作主要集中在三個方面：a）概念的內涵表示，主要描述概念中對象的特有屬性；b）概念的外延表示，主要描述概念所反映的特有屬性的對象；c）概念的動態更新，主要描述概念在學習者在完成題目前后的變化。其中，在概念的外延表示方面，當前的工作多使用循環神經網絡模型，但這種建模方式將概念的外延限制在一階相關范疇內，無法表征一階以上的外延信息。

為了更加準確地表征概念的外延信息，在前人工作的基礎上，本文提出了一種使用圖神經網絡模型對概念的多階鄰居進行操作來描述概念外延信息的方法，再將概念的內涵信息與外延信息進行融合，實現更加完備的概念表示，最終更好地描述學習者的知識掌握狀態，提升知識追蹤模型的效果。

1 相關工作

1.1 概念的內涵表示

BKT［7］是概率圖模型應用于知識追蹤的首次嘗試，為后續概率模型的引入起到了重要作用。但它僅使用“已學會”和“未學會”兩種掌握狀態來表示概念的內涵信息，且未建模概念之間的相關關系，概念的狀態不會相互作用和影響，所以不能表征概念的外延信息。TLS-BKT［8， 9］在BKT的基礎上，為概念的表示增加了一種“正在學習”的掌握狀態。BF-BKT［10］在BKT中加入了行為節點和遺忘因素。知識追蹤擴展模型［11］加入了遺忘因素。KTLR［12］沿用了BKT的概念內涵表示方法。

DKT［13］是深度學習模型應用于知識追蹤的首個模型，為后續研究奠定了堅實的基礎，但它僅用一個向量就建模了所有概念的表示， 無法解釋具體到每一個概念，更加無法區分某一個概念的內涵信息和外延信息。IDKT［14］在概念表示方面與DKT一致。DKT-CF［15］是DKT在推薦場景中的應用。DKVMN［16］相對于DKT的改進在于：為每個概念的表示分配了一個向量， 來表示概念的內涵信息；MSKT［17］、LFKT［18］在概念表示方面與DKVMN一致。GKT［19］使用圖結構表示概念之間的關系，在此基礎上更新概念的內涵表示，但并未提煉出概念的外延表示。GIKT［20］把題目和概念均建模為圖中的節點， 將概念與題目關聯起來，而概念之間沒有直接相關關系，表示的是概念的內涵信息。HMN［21］表示了概念內涵信息在記憶系統中不同區域的存儲和轉移機制。EKT［22］融入練習文本信息增強表示了概念的內涵信息。

上述概率和深度知識追蹤模型的工作重點在于，從不同的角度增強表征了概念的內涵表示。但這些模型都沒有表征概念之間的相關關系，無法描述概念之間的外延表示。

1.2 概念的外延表示

使用概率圖模型表示概念外延信息的模型有DBN［23］，它雖然沿用了BKT的兩種狀態表示概念的內涵信息，但同時還建模了若干概念之間的層次關系，在某種程度上反映了概念的外延表示中的一階層次信息。

使用深度模型表征概念外延信息的有：MAFKT［24］在多個尺度層面表征概念的外延信息；TCN-KT［25］將學習者的先驗基礎與遺忘融合來建模概念的內涵信息，使用TCN提煉出時間窗口內的概念外延信息；KTSA-BiGRU［26］使用雙向GRU建模概念的內涵信息，雙向GRU還提供了長時記憶的影響，在一定程度上建模了概念的外延信息。這類工作的優點是時間窗口為概念的外延信息提供了穩定的表示來源；但其表示的仍然是一階相關信息。在SAKT［27］中使用注意力機制通過權重關系建模了題目的外延信息，并不是概念的外延信息。

1.3 概念的動態更新

隨著學習者不斷地練習，其概念的掌握程度會發生動態變化和更新。知識追蹤模型需要建模這一過程。

在BKT［7］、TLS-BKT［8，9］、BF-BKT［10］、知識追蹤擴展模型［11］等概率模型中，概念的動態更新機制是，利用概率公式計算單個概念下一時刻的表示，概念之間相互獨立，沒有建模概念之間的相關關系。類似地，KTLR［12］使用logistic 回歸方程計算概念狀態的更新。

基于深度模型更新概念表示的有：DKT［13］、IDKT［14］、DKT-CF［15］、LFKT［18］、GKT［19］、GIKT［20］、HMN［21］、EKT［22］、 MAFKT［25］、TCN-KT［26］、KTSA-BiGRU［27］。這些模型的概念動態更新過程主要使用模型本身的更新機制，在沒有建模概念相關關系的基礎上完成概念表示的更新。DKVMN［16］、MSKT［17］在表示概念的動態更新過程中建模了概念間的相關權重，但它將所有概念均視為一階相關關系，無法建模概念間二階以上的相關關系。

為了更加準確地表示概念的外延信息，本文使用圖結構建模概念及其相互關系，利用圖神經網絡的卷積等操作提取概念的多階外延表示，通過與內涵表示進行融合，最終實現預測學習者未來學習表現的功能。主要創新和貢獻在于：

a）根據題目對概念的作用和影響不同，設計出一個全新的概念內涵表示方法，能夠更加精確地反映概念的內涵信息。

b）基于圖神經網絡的卷積等操作，設計出一個概念多階外延表示方法，能夠通過與其他概念的相關關系提取概念的外延信息。

c）基于圖神經網絡的若干操作，設計出一個學習者概念更新方法，能夠從整體上刻畫學習者對所有概念的動態更新過程。

2 概念表示增強知識追蹤模型

2.1 模型提出的思想

在知識追蹤模型中，某概念的表示由嵌入矩陣映射為向量，映射過程一般沒有與其他概念發生關聯，所以此向量描述的是概念所反映的事物的特有屬性，表示的是概念的內涵信息。另一方面，概念除了內涵信息之外還有外延信息，概念的外延表示與內涵表示不同，描述的是具有概念所反映的特有屬性的事物。概念的學習除了受到其內涵表示的影響外，也受到其外延表示的影響，比如，對漢字“江”這一概念的掌握狀態會影響對漢字“河”這一概念的掌握狀態，因為這兩個漢字同屬于偏旁部首“三點水”概念的外延；對“等腰三角形”這一概念的掌握狀態也會影響對“直角三角形”這一概念的掌握狀態，因為這兩類三角形同屬于“三角形”概念的外延。可見外延信息會對學習者的概念掌握狀態產生作用。

概念的內涵表示是當前知識追蹤研究所用到的主要概念表示方法，它們一般通過神經網絡將內涵表示映射到全新的向量空間，最終預測學習者下一道題目回答正確與否。然而另一方面，在概念的外延表示方面，當前的研究僅在一階相關的范疇內表征外延信息，不能建模一階以上的外延信息。

綜上所述，為了表示概念的外延特征，融合概念的內涵表示與外延表示，本文以概念的內涵表示向量為節點，以這些向量之間的相似性為邊，構建概念的圖表示，稱為概念圖。以概念圖為基礎，學習者的知識追蹤任務就可以轉換為：應用圖神經網絡方法在概念圖上進行推理，得到概念圖中各節點和邊的嵌入表示；應用圖神經網絡的卷積等方法得到概念的多階外延表示；再融合概念的內涵與外延的表示，以此來預測學習者未來表現，并同步更新未來概念圖的過程。

2.2 模型設計

模型架構如圖1所示。

2.2.1 概念圖

概念圖定義如下：

其中：V為概念圖中的節點集，表示所有概念的集合，有V={v1，v2，…，vN}，N表示概念的總數，vi表示第i個概念；vi∈dc×1指任一概念均由一個dc維的向量表示，該向量是概念的內涵表示，其中既包括概念本身的表示，又包括學習者對此概念掌握狀態的表示；E為概念圖中的邊集，表示所有概念之間關系的集合，有E={eij|1≤i，j≤N}，其中一條邊eij連接一對節點vi和vj，有vi，vj∈{v1，v2，…，vN}。默認地，初始概念圖沒有邊，隨著學習者不斷地練習來更新概念圖的邊。概念圖記號如表1所示。

3.2 實驗數據集

本文的實驗使用了知識追蹤領域常用的四個公共數據集。ASISTments2009 （Assist09）、ASISTments2015 （Assist15）和ASISTments2017 （Assist17），這三個數據集是2009—2010年度、2014—2015年度、2017—2018年度三個學年度來自在線智能導學系統 ASISTments中的數據。其中Assist09原始數據集中存在數據重復問題，本文實驗中使用了其修訂版本。Assist15數據集中的學習者人數在四個數據集中最多，但每個學習者的平均作答記錄最少。Assist17數據集中的交互記錄是四個數據集中最多的。Statics2011 （Statics11）來源于一門工程力學課程，其特點是每個學習者作答的概念數量是四個數據集中最多的，且每個學習者的練習的平均題目數量最多。

上述四個公共數據集的詳細數據信息如表3所示，包括學習者數量、題目數量、概念數量。從表中可以直觀地看出，Assist15數據集統計的學習者記錄最多，Assist17數據集統計的題目記錄最多，Statics11數據集統計的概念數量最多。

在訓練模型時，依據隨機順序分割數據集。其中，訓練集占全部數據的70%，測試集占全部數據的30%。

3.3 實驗結果數據對比

本文使用AUC （area under ROC curve）、準確率（accuracy，ACC）、精確率 （precision）三個指標來評價CRKT的有效性。其中，AUC是受試者工作特征曲線（ROC）與坐標軸圍成的面積，其取值為［0.5，1.0］，AUC的數值越大，說明模型的預測效果越好。ACC是模型預測正確的樣本數與樣本總數之比，ACC的數值越大，說明模型的預測效果越好。precision是模型預測為正的樣本中真正的正樣本所占的比例，同樣地，precision的數值越大，說明模型的預測效果越好。

圖2展示了CRKT模型與四個基線模型在四個數據集上的AUC評價指標上的結果對比，橫坐標為實驗采用的四個數據集，縱坐標為AUC值。

圖3展示了CRKT模型與四個基線模型在四個數據集上的ACC評價指標上的結果對比，橫坐標為實驗采用的四個數據集，縱坐標為ACC值。

圖4展示了CRKT模型與四個基線模型在四個數據集上的precision評價指標上的結果對比，橫坐標為實驗采用的四個數據集，縱坐標為precision值。

從圖2～4中可以看出，通過與四個基線模型的對比，本文CRKT模型在實驗采用的四個數據集上都取得了最好的結果，說明了CRKT模型的有效性。值得注意的是，所有模型在Assist15數據集上的表現均低于在其他數據集上的表現，這與Assist15數據集平均作答記錄少導致的稀疏問題有關。

3.4 實驗過程數據對比

為了找出CRKT模型性優于四個基線模型更深層的原因，本文深入模型內部，從模型可解釋性的角度，通過得到各個模型給出的概念表示，計算出概念間的相似度這一實驗過程數據，以此來對比各個模型建模概念能力的優劣。

選擇概念相關度的原因是，它有利于更好地表征概念的掌握程度，能夠提高模型的預測準確性。原因在于，如果兩個概念的相關度很高，那么當學習者掌握了其中一個的時候，則很自然地認為該學習者也能夠很好地掌握另一個。

具體實驗方法如下：首先，在數據集中應用隨機抽樣算法選取若干概念，得到這些概念在CRKT模型和四個基線模型中的表示向量；其次，根據皮爾森相關系數公式計算出這些概念的兩兩相關性，不同模型對同一對概念計算出的相關度大概率是不同的；最后，對比這些相關性與事實相符的程度，以此來說明模型表示概念的能力。

本文把數據集中出現的概念看做均勻分布，從中隨機抽取了若干概念如表4所示。

從表4通過隨機算法采樣到的若干概念中，選取一對相關度較高的概念c3和c16，和一對相關度較低的概念c14與c17，再來觀察各個模型對這兩組概念相似度的表示結果。

圖5描述了DKT模型對概念c3、c14、c16和c17相似度的表示。其橫坐標和縱坐標均為概念，橫縱坐標的交叉點數據表示橫縱坐標概念的相似度，如0.41表示的是概念c3與c16的相似度。相似度越高，顏色越深。

從圖5中可以看出，DKT表示的概念間相似度整體上呈現出與事實相反的狀態。比如：c3和c16這兩個概念的相似度客觀上是比較高的，但是DKT計算出它們的相似度卻最低。相反地，c14與c17兩個概念的相似度客觀上是比較低的，但是計算出它們的相似度卻較高。

圖6描述了SAKT模型對概念c3、c14、c16和c17相似度的表示。其橫坐標和縱坐標均為概念，橫縱坐標的交叉點數據表示橫縱坐標概念的相似度，如0.59表示的是概念c3與c16的相似度。相似度越高，顏色越深。

從圖6中可以看出，由SAKT表示的概念間相似度整體上呈現出整體偏低的狀態。其結果是：可以較好地建模不相關的概念，如c14和c17；但建模相關概念卻不太好，如c3和c16。

圖7描述了GKT模型對概念c3、c14、c16和c17相似度的表示。其橫坐標和縱坐標均為概念，橫縱坐標的交叉點數據表示橫縱坐標概念的相似度，如0.81表示的是概念c3與c16的相似度。相似度越高，顏色越深。

從圖7可以看出，由GKT表示的概念間相似度整體上呈現出整體偏高的狀態，其結果是：可以較好地建模相關的概念，如c3和c16；但建模不相關概念卻不太好，如c14和c17。

圖8描述了CRKT模型對概念c3、c14、c16和c17相似度的表示。其橫坐標和縱坐標均為概念，橫縱坐標的交叉點數據表示橫縱坐標概念的相似度，如0.89表示的是概念c3與c16的相似度。相似度越高，顏色越深。

從圖8可以看出，由CRKT表示的概念間相似度，在若干概念上呈現出與事實較為符合的狀態，其結果是：既可以較好地建模不相關的概念，如概念c14和c17；也可以較好地建模相關的概念，如概念c3和c16。

3.5 實驗訓練數據對比

除了對比實驗結果和實驗過程數據，本文還從訓練過程方面對比分析了CRKT模型與基線模型。在四個數據集上，對比各個模型在達到各自最好AUC、ACC和precision值所需的迭代次數。迭代次數反映了模型達到最優性能所需要的訓練時間。迭代次數越低，模型的訓練效率越高。

從圖9可以看出，CRKT在四個數據集上達到最優的AUC值所需的迭代次數最高不超過300輪，其中在Statics11數據集上僅需100輪左右即可達到最優AUC值。圖9說明就AUC指標而言，CRKT模型的訓練效率最高。

從圖10可以看出，CRKT在四個數據集上達到最優的ACC值所需的迭代次數有所提高，其最高值超過300輪迭代，最低出現在Assist09數據集上需要200輪迭代以上。圖10說明就ACC指標而言，CRKT模型的訓練效率仍然是最高的。

從圖11可以看出，CRKT在四個數據集上達到最優的precision值所需的迭代次數類似于在ACC指標上的表現。圖11說明就precision指標而言，CRKT的訓練效率最高。

4 結束語

本文提出了一個概念表示增強的知識追蹤模型CRKT，致力于解決現存知識追蹤模型研究中，概念的外延信息受限于一階相關范疇內的問題。使用圖神經網絡的方法，提煉出概念的多階外延信息表示，與概念的內涵表示融合，完成對概念的綜合表示，最終實現的知識追蹤模型與四個基線模型在四個數據集上的對比結果上顯示，本文CRKT模型達到了更好的效果和效率，驗證了本文對概念的外延信息表示的必要性和可行性。未來將在概念的內涵表示、概念的外延表示、概念的動態更新三個方面繼續開展進一步的研究工作。

參考文獻：

［1］劉鐵園，陳威，常亮，等. 基于深度學習的知識追蹤研究進展 ［J］. 計算機研究與發展，2022，59（1）： 81-104. （Liu Tieyuan，Chen Wei，Chang Liang，et al. Research advances in the knowledge tracing based on deep learning ［J］. Journal of Computer Research and Development，2022，59（1）： 81-104.）

［2］Liu Qi，Shen Shuanghong，Huang Zhenya，et al. A survey of know-ledge tracing ［EB/OL］. （2021） ［2022-04-07］. http：//arxiv. org/pdf/2105. 15106. pdf.

［3］張暖，江波. 學習者知識追蹤研究進展綜述 ［J］. 計算機科學，2021，48（4）： 213-222. （Zhang Nuan，Jiang Bo. Review progress of learner knowledge tracing ［J］. Computer Science，2021，48（4）： 213-222.）

［4］梁琨，任依夢，尚余虎，等. 深度學習驅動的知識追蹤研究進展綜述 ［J］. 計算機工程與應用，2021，57（21）： 41-58. （Liang Kun，Ren Yimeng，Shang Yuhu，et al. Review of knowledge tracing preprocessing based on deep learning ［J］. Computer Engineering and Applications，2021，57（21）： 41-58.）

［5］盧宇，王德亮，章志，等. 智能導學系統中的知識追蹤建模綜述 ［J］. 現代教育技術，2021，31（11）： 87-95. （Lu Yu，Wang De-liang，Zhang Zhi，et al. A review of knowledge tracing modeling in intelligent tutoring systems ［J］. Modern Educational Technology，2021，31（11）： 87-95.）

［6］李菲茗，葉艷偉，李曉菲，等. 知識追蹤模型在教育領域的應用： 2008—2017年相關研究的綜述 ［J］. 中國遠程教育，2019，534（7）： 86-91. （Li Feiming，Ye Yanwei，Li Xiaofei，et al. Application of knowledge tracking models in education： a review of relevant research from 2008 to 2017 ［J］. Distance Education in China，2019，534（7）： 86-91.）

［7］Corbett A T，Anderson J R. Knowledge tracing： modeling the acquisition of procedural knowledge ［J］. User Modeling and User-Adapted Interaction，1995，4（4）： 253-278.

［8］Zhang Kai，Yao Yiyu. A three learning states Bayesian knowledge tracing model ［J］. Knowledge-Based Systems，2018，2018（148）： 189-201.

［9］Zhang Kai. A three-way C-means algorithm ［J］. Applied Soft Computing，2019，2019（82）： article ID 105536.

［10］黃詩雯，劉朝暉，羅凌云，等. 融合行為和遺忘因素的貝葉斯知識追蹤模型研究 ［J］. 計算機應用研究，2021，38（7）： 1994-1997. （Huang Shiwen，Liu Zhaohui，Luo Lingyun，et al. Research on Baye-sian knowledge tracking model integrating behavior and forgetting factor ［J］. Application Research of Computers，2022，38（7）： 1994-1997.）

［11］葉艷偉，李菲茗，劉倩倩，等. 知識追蹤模型融入遺忘和數據量因素對預測精度的影響 ［J］. 中國遠程教育，2019（8）： 20-26. （Ye Yanwei，Li Feiming，Liu Qianqian，et al. Incorporating the variables of forgetting and data volume into knowledge tracing model： how does it impact prediction accuracy？ ［J］. Distance Education in China，2019（8）： 20-26.）

［12］徐墨客，吳文峻，周萱，等. 多知識點知識追蹤模型與可視化研究 ［J］. 電化教育研究，2018，39（10）： 53-59. （Xu Moke，Wu Wenjun，Zhou Xuan，et al. Research on knowledge tracing model for multiple knowledge points and visualization ［J］. e-Education Research，2018，39（10）： 53-59.）

［13］Piech C，Bassen J，Huang J，et al. Deep knowledge tracing ［C］// Proc of the 29th Annual Conference on Neural Information Processing Systems. 2015： 505-513.

［14］劉坤佳，李欣奕，唐九陽，等. 可解釋深度知識追蹤模型 ［J］. 計算機研究與發展，2021，58（12）： 2618-2629. （Liu Kunjia，Li Xinyi，Tang Jiuyang，et al. Interpretable deep knowledge tracing ［J］. Journal of Computer Research and Development，2021，58（12）： 2618-2629.）

［15］馬驍睿，徐圓，朱群雄. 一種結合深度知識追蹤的個性化習題推薦方法 ［J］. 小型微型計算機系統，2020，41（5）： 990-995. （Ma Xiaorui，Xu Yuan，Zhu Qunxiong. Personalized exercises recommendation method based on deep knowledge tracing ［J］. Journal of Chinese Computer Systems，2020，41（5）： 990-995.）

［16］Zhang Jiani，Shi Xingjian，King I，et al. Dynamic key-value memory networks for knowledge tracing ［C］// Proc of the 26th International Conference on World Wide Web. New York： ACM Press，2017： 765-774.

［17］宗曉萍，陶澤澤. 基于掌握速度的知識追蹤模型 ［J］. 計算機工程與應用，2021，57（6）： 117-123. （Zong Xiaoping，Tao Zeze. Knowledge tracing model based on mastery speed ［J］. Computer Engineering and Applications，2021，57（6）： 117-123.）

［18］李曉光，魏思齊，張昕，等. LFKT： 學習與遺忘融合的深度知識追蹤模型 ［J］. 軟件學報，2021，32（3）： 818-830. （Li Xiaoguang，Wei Siqi，Zhang Xin，et al. LFKT： deep knowledge tracing model with learning and forgetting behavior merging ［J］. Journal of Software，2021，32（3）： 818-830.）

［19］Hiromi N，Yusuke I，Yutaka M. Graph-based knowledge tracing： modeling student proficiency using graph neural network ［C］// Proc of IEEE/WIC/ACM International Conference on Web Intelligence. New York： ACM Press，2019： 156-163.

［20］Yang Yang，Shen Jian，Qu Yanru，et al. GIKT： a graph-based interaction model for knowledge tracing ［C］// Proc of ECML-PKDD. Cham： Springer，2020： 299-315.

［21］Liu Sannyuya，Zou Rui，Sun Jianwen，et al. A hierarchical memory network for knowledge tracing ［J］. Expert Systems with Applications，2021，2021（177）： article ID 114935.

［22］Liu Qi，Huang Zhenya，Yin Yu，et al. EKT： exercise-aware know-ledge tracing for student performance prediction ［J］. IEEE Trans on Knowledge and Data Engineering，2021，33（1）： 100-115.

［23］Kaser T，Klingler S，G Schwing A，et al. Dynamic Bayesian networks for student modeling ［J］. IEEE Trans on Learning Technologies，2017，10（4）： 450-462.

［24］段建設，崔超然，宋廣樂，等. 基于多尺度注意力融合的知識追蹤方法 ［J］. 南京大學學報：自然科學，2021，57（4）： 591-598. （Duan Jianshe，Cui Chaoran，Song Guangle，et al. Knowledge tracing based on multi-scale attention fusion ［J］. Journal of Nanjing University：Natural Science，2021，57（4）： 591-598.）

［25］王璨，劉朝暉，王蓓，等. TCN-KT： 個人基礎與遺忘融合的時間卷積知識追蹤模型 ［J］. 計算機應用研究，2022，39（5）： 1496-1500. （Wang Can，Liu Zhaohui，Wang Bei，et al. TCN-KT： temporal convolutional knowledge tracking model based on fusion of personal basis and forgetting ［J］. Application Research of Computers，2022，39（5）： 1496-1500.）

［26］李浩君，方璇，戴海容. 基于自注意力機制和雙向GRU神經網絡的深度知識追蹤優化模型 ［J］. 計算機應用研究，2022，39（3）： 732-738. （Li Haojun，Fang Xuan，Dai Hairong. Deep knowledge tracking optimization model based on self-attention mechanism and bidirectional GRU neural network ［J］. Application Research of Computers，2022，39（3）： 732-738.）

［27］Pandey S，Karypis G. A self-attentive model for knowledge tracing ［C］// Proc of the 12th International Conference on Educational Data Mining. 2019： 384-389.