基于機器學習J1-J2反鐵磁海森伯自旋鏈相變點的識別方法*

王偉 揭泉林

(武漢大學物理科學與技術學院,武漢 430000)

通過序參量來研究量子相變是比較傳統的做法,而從機器學習的角度研究相變是一塊全新的領域.本文提出了先采用無監督學習算法中的高斯混合模型對J1-J2反鐵磁海森伯自旋鏈系統的態矢量進行分類,再使用監督學習算法中的卷積神經網絡鑒別無監督學習算法給出的分類點是否是相變點的方法,并使用交叉驗證的方法對學習效果進行驗證.結果表明,上述機器學習方法可以從基態精確找到J1—J2反鐵磁海森伯自旋鏈系統的一階相變點、無法找到無窮階相變點,從第一激發態不僅能找到一階相變點,還能找到無窮階相變點.

1 引言

機器學習算法的改進和更快更強的硬件能夠讓研究者從龐大的數據中提取出有用的信息,現在已廣泛應用于許多研究領域,這些發展對物理科學也產生了廣泛的影響,特別是在分類量子相變上[1-10].量子相變是系統在絕對零度下發生的一種相變,它僅僅由系統的哈密頓量變化帶來的量子擾動引起[11,12].在量子力學中,系統的物理狀態可以表示為希爾伯特空間的一個矢量,由于量子態通常已經歸一化,研究者經常使用保真度(兩個量子態的內積)來研究量子相變,它能反映兩個態之間的相似程度,保真率反映的是這種變化的速率,這是一個純粹幾何學上的概念,分析認為機器學習方法應該也能從態矢量中提取信息來反映系統相變,其與保真度不同的是,輸出結果是該態矢量與模型訓練數據中的所有同類態矢量的相似程度.研究量子相變,除了能進一步豐富人們對低溫磁性材料、鐵電材料、超導體的認識外,對其他學科和量子計算技術早期的實踐都具有重要意義.在一個很大的晶格中,計算序參量來判斷相變需要很大的計算量,也需要有先驗知識來構造一個合適的序參量.機器學習為我們提供了一種新的識別相變點的方法.

Walker 等[13]使用無監督機器學習有效識別了材料結構變化的轉變溫度,Jadrich 等[14]研究表明不需要有任何先驗知識來構造一個合適的序參量,使用主成分分析法就能自動發現序參量來分類相,從而簡化了對相的常規分析.Canabarro 等[15]使用無監督機器學習識別了軸向次近鄰伊辛模型的3 個主要相.Carrasquilla 等[16]研究表明神經網絡能夠被用來編碼物質相和識別強關聯多體系統的相變.Ahmadreza 等[17]使用卷積神經網絡高精度的定位了二維伊辛模型的相變點.

大量研究表明機器學習能夠有效識別相變點,然而當面對一個全新的系統時,使用無監督學習得到的分類點是否是相變點仍需要計算序參量加以佐證,當不知道相變點時,也無法選擇合適的分類點,給訓練數據集貼上標簽,訓練神經網絡模型.這時就需要將非監督學習和監督學習結合起來,可以先使用無監督學習算法找到分類點,再使用稍微遠離分類點的兩側數據集進行訓練.發現如果無監督學習得到的分類點為相變點,通過增加分類點一側的訓練數據或者調整訓練集的分布區域,該點位置一般不會發生變化,若其不是相變點,其位置必發生變化,由此,就可以不需要任何先驗知識,不需要計算任何序參量,直接通過機器學習的方法找到相變點.本文采用上述機器學習方法可以從基態精確找到海森伯J1-J2模型的一階相變點、無法找到無窮階相變點,從第一激發態不僅能找到一階相變點,還能找到無窮階相變點.

2 模 型

本文研究的系統是一維反鐵磁海森伯自旋鏈.其哈密頓量是:

其中,J1表示最近鄰相互耦合作用,J2表示次近鄰相互耦合作用,〈i,j〉表示取遍所有的最近鄰,〈〈i,j〉〉表示取遍所有的次近鄰,N表示鏈長.選擇周期性邊界條件.此模型最近鄰和次近鄰之間存在競爭,在熱力學極限下有兩個相變點.Qian等[18-21]研究表明在J2/J1=0.5 時,此模型發生一階相變,該模型變為Majumdar-Ghosh 模型,此相變是由平移對稱性破缺引起的,在J2/J1=0.241時,此模型發生無窮階相變,當J2/J1＞ 0.241 時,體系是二聚化相,當J2/J1＜ 0.241 時,體系是自旋液體相.由圖1可知,此相變點對應于第一激發態的能級交叉點,此時基態無能級交叉,無法反映此相變.需要特別說明的是,本文計算的是有限長的系統,因此由于系統的局限性,從圖1可以看出,除了在此模型的相變點處有能及交叉外,不同鏈長的系統在不同的地方也出現了能級交叉點,這些假的相變點并沒有反映真實的物理,本文不做討論.下文討論的機器學習方法的輸出結果也反映了此情況,這雖然在一定程度上對研究造成了干擾,但并沒有妨礙對系統真實相變點的識別.

圖1 不同鏈長的 J1-J2海森伯自旋鏈系統基態與第一激發態能量隨J2/J1的變化 (a) N=8;(b) N=10;(c) N=12;(d) N=16Fig.1.Ground and first excited energy level diagram in J1-J2Heisenberg spin chain system with chain length:(a) N=8;(b) N=10;(c) N=12;(d) N=16.

3 無監督學習和深度學習方法

采用無監督學習識別分類點的方法為高斯混合模型(GMM),GMM 是單一高斯概率密度函數的延伸[22,23],一維高斯分布模型的概率密度函數為

其中μ為數據均值,σ 為數據標準差,多維高斯分布模型的概率密度函數如下:

其中μ為數據均值,∑為數據協方差,D為數據維度.

GMM 是由K個單高斯模型組合而成的模型,其概率密度函數為

其中πk為混合系數,滿足

GMM 類似于聚類,每一個高斯模型可以看作一種類別,輸入一個樣本,即可通過高斯概率密度函數計算其值,然后通過比較其屬于每個高斯模型的概率大小來判斷高斯模型的類別.使用GMM是因為高斯分布具備很好的物理性質以及良好的計算性能.

先通過GMM 找到分類點,然后通過卷積神經網絡(CNN)進一步驗證該點是否為相變點.CNN包括:輸入層、卷積層、池化層、全連接層和輸出層.數據集進入網絡與卷積層多個卷積核卷積生成特征圖,池化層對特征圖下采樣,生成新特征圖,全連接層將池化層生成的多個特征圖融合、分類,輸出分類結果.

本文采用的CNN 共包含5 層[24,25],第1 層為輸入層,輸入數據為一維反鐵磁海森伯模型的態矢量,第2 層為卷積層(卷積核大小為4× 4),卷積后生成16 個大小為2N/2× 2N/2的特征圖(本文采用Relu 激活函數).第3 層是池化層,采用最大池化操作(采樣窗口大小為2× 2,步長為2),所以輸出特征圖尺寸減半,即此刻特征圖大小為2N/4×2N/4,但特征圖數量仍為16 個,池化層的輸出數據展為一維矢量后輸入第4 層全連接層(神經元個數設置為128).為了避免系統參數更新過快導致過擬合,本文在全連接層添加了dropout (dropout率設為0.5),全連接層輸出數據輸入第5 層輸出層,輸出層神經元個數設置為n(n為類別數,選取的訓練數據為無監督學習得到的分類點兩側的數據,采用獨熱編碼(one-hot)將分類點一側的訓練數據標記為0,另一側標記為1,因此本文n為2),激活函數采用softmax 函數[11],表達式為

為了得到泛化能力較好的模型,采用交叉驗證的策略.在交叉驗證中,將樣本集隨機劃分為10等份,使用其中的1 份作為驗證集而其余9 份作為訓練集,通過正確率和交叉熵損失函數來衡量模型對于未知樣本的預測能力.

采用遠離相變點的訓練集和驗證集數據來訓練和評估模型,使用訓練好的模型對測試數據進行預測.

4 結果與討論

4.1 從基態尋找相變點

使用J2/J1∈[0,1)(鏈長N=16 的取J2/J1∈[0,0.53),因為取J2/J1∈[0,1)會優先識別隨系統尺寸變化而改變的相變點J2/J1=0.534)的海森伯J1-J2模型基態態矢量作為訓練集,生成n為2 的GMM,再用該模型對海森伯J1-J2模型基態態矢量分類,得到如圖2(a)所示的分類結果,可以看出J2/J1=0.5 是它的一個分類點,其不隨系統尺寸變化而改變.

接下來采用稍微遠離J2/J1=0.5 的數據集作為訓練集和驗證集,對該點是否是相變點進一步驗證.我們采用標記分別為0(采用one-hot 編碼)的J2/J1∈[0.35,0.45)和為1 的J2/J1∈[0.55,0.65)的基態態矢量作為訓練數據和驗證數據(鏈長N=16的取J2/J1∈[0.51,0.61),因為取J2/J1∈[0.55,0.65)會識別隨系統尺寸變化而改變的J2/J1=0.534 相變點),訓練CNN 模型.之后使用該模型對海森伯J1-J2模型基態態矢量進行預測,預測結果如圖2(b)所示,發現神經元輸出在J2/J1=0.5 處發生跳變,接下來采用標記分別為0 的J2/J1∈[0.3,0.4)和為1 的J2/J1∈[0.55,0.65)的基態態矢量和標記分別為0 的J2/J1∈[0.2,0.3)和為1 的J2/J1∈[0.55,0.65)的基態態矢量作為訓練數據,分別訓練兩個CNN 模型,再用模型對基態態矢量進行預測,預測結果如圖2(c)和圖2(d)所示,發現前后使用不同訓練數據集訓練的CNN 對測試數據集的預測結果幾乎沒有發生變化,因此,基本就能確定J2/J1=0.5 為該系統相變點.這樣就在沒有任何先驗知識,不知道系統哈密頓量,能量的條件下從基態態矢量中直接找到了J1-J2海森伯自旋鏈系統的一階相變點.

圖2 (a) 訓練數據為J2/J1∈ [0,1)的海森伯J1-J2模型基態矢量生成的GMM 對基態矢量的分類結果;(b)采用標記為0 的J2/J1∈[0.35,0.45)和為1 的J2/J1∈ [0.55,0.65);(c)標記為0 的J2/J1∈ [0.3,0.4)和為1 的J2/J1∈ [0.55,0.65);(d)標記為0 的J2/J1∈ [0.2,0.3)和為1 的J2/J1∈ [0.55,0.65)的基態態矢量作為訓練數據,訓練所得的CNN 模型對基態態矢量的預測結果Fig.2.(a) Ground state vector classification results of the GMM generated by the Heisenberg J1-J2model ground state vector with the training data of J2/J1∈ [0,1);(b) using the ground state vector of J2/J1∈ [0.35,0.45) marked as 0 and J2/J1∈ [0.55,0.65)marked as 1;(c) J2/J1∈ [0.3,0.4) marked as 0 and J2/J1∈ [0.55,0.65) marked as 1;(d) J2/J1∈ [0.2,0.3) marked as 0 and J2/J1∈[0.55,0.65) marked as 1 as training data,the prediction results of the ground state vector by the trained convolutional neural network model.

同樣使用J2/J1∈[0,0.5)的海森伯J1-J2模型基態態矢量作為訓練集(GMM 模型給出的不同鏈長的分類點不盡相同,但其結果基本一樣,所以僅以鏈長N=10 的態矢量的分類結果為例進行討論),生成n=2 的GMM,再用該模型對海森伯J1-J2模型基態態矢量分類,得到如圖3(a)所示的分類結果,其在J2/J1=0.305 處出現分類點.然后,分別采用標記分別為0 的J2/J1∈[0.25,0.3)和為1 的J2/J1∈[0.35,0.4)的基態態矢量作為訓練數據,采用標記分別為0 的J2/J1∈[0.2,0.25)和為1 的J2/J1∈[0.35,0.4)的基態態矢量作為訓練數據,和采用標記分別為0 的J2/J1∈[0.2,0.25)和為1 的J2/J1∈[0.35,0.4)的基態態矢量作為訓練數據(標記為1 的數據是標記為0 數據的5 倍),分別訓練3 個CNN 模型,之后使用模型對系統基態的態矢量進行預測,預測結果如圖3(b)—(d)所示.可以看出,CNN 給出的分類點隨訓練數據集數據的變化而發生改變,不能給出確定的相變點,因此不能通過該方法從基態態矢量中找到無窮階相變點,但能夠有效排除無監督學習給出的假的相變點.

圖3 (a) 訓練數據為J2/J1∈ [0,0.5)的海森伯J1-J2模型基態態矢量生成的GMM 對基態態矢量的分類結果;(b) 分別為采用標記為0 的J2/J1∈ [0.25,0.3)和為1 的J2/J1∈ [0.35,0.4);(c)標記為0 的J2/J1∈ [0.2,0.25)和為1 的J2/J1∈ [0.35,0.4);(d)標記為0 的J2/J1∈ [0.2,0.25)和為1 的J2/J1∈ [0.35,0.4)(標記為1 的數據是標記為0 的5 倍)的基態態矢量作為訓練數據,訓練所得的CNN 模型對基態態矢量的預測結果Fig.3.(a) Ground state vector classification results of the GMM generated by the Heisenberg J1-J2model ground state vector with the training data of J2/J1∈ [0,0.5);(b) respectively usingthe ground state vector of J2/J1∈ [0.25,0.3) marked as 0 and J2/J1∈ [0.35,0.4) marked as 1;(c) J2/J1∈ [0.2,0.25) marked as 0 and J2/J1∈ [0.35,0.4) marked as 1;(d) J2/J1∈ [0.2,0.25) marked as 0 and J2/J1∈ [0.35,0.4) marked as 1 (the data marked as 1 is 5 times as much as the data marked as 0)as training data,the prediction results of the ground state vector by the trained convolutional neural network model.

4.2 從第一激發態尋找相變點

同樣,使用J2/J1∈[0,1)的海森伯J1-J2模型第一激發態態矢量作為訓練集,生成n為2 的GMM,再用該模型對海森伯J1-J2模型第一激發態態矢量分類,得到如圖4(a)所示的分類結果,可以觀察到J2/J1=0.24和J2/J1=0.5 可能是它的相變點.接下來,采用稍微遠離J2/J1=0.5 數據集作為訓練集和驗證集,對該點是否是相變點進一步驗證.采用標記分別為0 的J2/J1∈[0.35,0.45)和為1 的J2/J1∈[0.55,0.65)的第一激發態態矢量作為訓練數據,采用標記分別為0 的J2/J1∈[0.3,0.4)和為1 的J2/J1∈[0.55,0.65)的第一激發態態矢量作為訓練數據,和采用標記分別為0 的J2/J1∈[0.35,0.45)和為1 的J2/J1∈[0.55,0.65)的第一激發態態矢量作為訓練數據(標記為0 的數據是標記為1 數據的5 倍),分別訓練CNN 模型,訓練得到的3 個CNN 模型預測結果如圖4(b)—(d)所示,發現訓練好的CNN 可以從測試數據中精確找到一階相變點,且其對測試數據集的預測結果幾乎沒有發生變化,由此,也可以通過第一激發態態矢量數據,在沒有任何先驗知識,不知道系統哈密頓量,能量的條件下,確定J2/J1=0.5 為J1-J2海森伯自旋鏈系統相變點.

圖4 (a) 訓練數據為J2/J1∈ [0,1)的海森伯J1-J2模型第一激發態態矢量生成的GMM 對第一激發態態矢量的分類結果;(b)分別為采用標記為0 的J2/J1∈ [0.35,0.45)和為1 的J2/J1∈ [0.55,0.65);(c)標記為0 的J2/J1∈ [0.3,0.4)和為1 的J2/J1∈ [0.55,0.65);(d)標記為0 的J2/J1∈ [0.35,0.45)和為1 的J2/J1∈ [0.55,0.65) (標記為1 的數據是標記為0 的5 倍)的第一激發態態矢量作為訓練數據,訓練所得的CNN 模型對第一激發態態矢量的預測結果Fig.4.(a) The first excited state vector classification results of the GMM generated by the Heisenberg J1-J2model first excited state vector with the training data of J2/J1 ∈ [0,1);(b) using the first excited state vector of J2/J1∈ [0.35,0.45) marked as 0 and J2/J1∈ [0.55,0.65) marked as 1;(c) J2/J1∈ [0.3,0.4) marked as 0 and J2/J1∈ [0.55,0.65) marked as 1;(d) J2/J1∈ [0.35,0.45)marked as 0 and J2/J1∈ [0.55,0.65) marked as 1 (the data marked as 1 is 5 times as much as the data marked as 0)as training data,the prediction results of the first excited state vector by the trained convolutional neural network model.

同樣,采用稍微遠離J2/J1=0.24 數據集作為訓練集和驗證集,對該點是否是相變點進一步驗證.采用標記分別為0 的J2/J1∈[0.1,0.2)和為1的J2/J1∈[0.3,0.4)的第一激發態態矢量作為訓練數據,訓練CNN 模型,再用訓練好的CNN 模型對海森伯J1-J2模型第一激發態態矢量的類別進行預測,預測結果如圖5(a)所示,我們發現訓練好的CNN 可以從測試數據中精確找到無窮階相變點,接著我們又采用標記分別為0(的J2/J1∈[0,0.1)和為1 的J2/J1∈[0.3,0.4)的第一激發態態矢量作為訓練數據,訓練CNN 模型.再用訓練好的CNN模型對海森伯J1-J2模型第一激發態態矢量的類別進行預測,預測結果如圖5(b)所示,發現訓練好的CNN 對測試數據集的預測結果幾乎沒有發生任何變化.由此基本就能確定J2/J1=0.24 為J1-J2海森伯自旋鏈系統相變點.這樣就在沒有任何先驗知識,不知道系統哈密頓量,能量的條件下從第一激發態態矢量中找到了該系統無窮階相變點.

圖5 (a)采用標記為0 的J2/J1∈ [0.1,0.2),標記為1 的J2/J1∈ [0.3,0.4);(b)標記為0 的J2/J1∈ [0,0.1),標記為1 的J2/J1∈ [0.3,0.4)的第一激發態態矢量作為訓練數據,訓練所得的CNN 模型對第一激發態態矢量的預測結果Fig.5.(a) Using the first excited state vector of J2/J1∈ [0.1,0.2) marked as 0 and J2/J1∈ [0.3,0.4) marked as 1;(b)J2/J1∈ [0,0.1)marked as 0 and J2/J1∈ [0.3,0.4) marked as 1 as training data,the prediction results of the first excited state vector by the trained convolutional neural network model.

使用J2/J1∈[0,0.24)的海森伯J1-J2模型第一激發態態矢量作為訓練集(GMM 模型給出的不同鏈長的分類點不盡相同,但其結果基本一樣,所以僅討論鏈長N=10 的態矢量的分類結果),生成n為2 的GMM,再用該模型對海森伯J1-J2模型第一激發態態矢量分類,得到如圖6(a)所示的分類結果,可以觀察到J2/J1=0.125 可能是該模型的相變點.采用標記分別為0 的J2/J1∈[0.05,0.1)和1 的J2/J1∈[0.15,0.2)的第一激發態態矢量作為訓練數據,采用標記分別為0 的J2/J1∈[0,0.05)和1 的J2/J1∈[0.15,0.2)的第一激發態態矢量作為訓練數據,分別訓練CNN 模型,訓練得到的兩個CNN 模型對測試集的預測結果如圖6(b),圖6(c)所示,我們觀察得到CNN 模型的預測結果在J2/J1∈[0,0.24)區域內未出現明顯的間斷點,且預測結果隨訓練數據集的變化發生改變,因此J2/J1=0.125不是該模型的相變點.說明監督學習能夠有效排除無監督學習模型提供的假相變點,有效提高僅通過機器學習找系統相變點的準確率.

使用J2/J1∈[0.25,0.5)的海森伯J1-J2模型第一激發態態矢量作為訓練集,生成n為2 的GMM,再用該模型對海森伯J1-J2模型第一激發態態矢量分類,得到如圖6(d)所示的分類結果,可以觀察到J2/J1=0.385 可能是該模型的相變點.仍采用上述方法,使用不同訓練數據分別訓練CNN 模型,用訓練所得的CNN 模型對測試集進行預測,同樣可觀察得到CNN 模型的預測結果在J2/J1∈[0.25,0.5)區域內未出現明顯的間斷點,且預測結果隨訓練數據集的變化發生改變,因此J2/J1=0.385 不是該模型的相變點.

圖6 (a) 訓練數據為J2/J1∈ [0,0.24)的海森伯J1-J2模型第一激發態態矢量生成的GMM 對第一激發態態矢量的分類結果;(b),(c)分別為采用標記為0 的J2/J1∈ [0.05,0.1)和為1 的J2/J1∈ [0.15,0.2);標記為0 的J2/J1∈ [0,0.05)和為1 的J2/J1∈ [0.15,0.2)的第一激發態態矢量作為訓練數據,訓練所得的CNN 模型對第一激發態態矢量的預測結果;(d) 訓練數據為J2/J1∈ [0.25,0.5)的海森伯J1-J2模型第一激發態態矢量生成的GMM 對第一激發態態矢量的分類結果Fig.6.(a) The first excited state vector classification results of the GMM generated by the Heisenberg J1-J2model first excited state vector with the training data of J2/J1 ∈ [0,0.24);(b) (c) respectively using the first excited state vector of J2/J1∈ [0.05,0.1)marked as 0 and J2/J1∈ [0.15,0.2) marked as 1;J2/J1∈ [0,0.05) marked as 0 and J2/J1∈ [0.15,0.2) marked as 1 as training data,the prediction results of the first excited state vector by the trained convolutional neural network model;(d) he first excited state vector classification results of the GMM generated by the Heisenberg J1-J2model first excited state vector with the training data of J2/J1∈ [0.25,0.5).

4.3 可視化態矢量

采用線性函數歸一化方法將態矢量里的值都轉換到[0,255]的范圍,公式為

將得到的每一個數據轉換為2N/2× 2N/2(N為鏈長,本文N=10)的灰度圖(全黑為0,全白為255).

J2/J1=0.44,0.49,0.51,0.58 的基態態矢量灰度圖如圖7所示,觀察發現基態矢量灰度圖在相變點前和相變點后都變化緩慢,但在相變點前后發生了突變.第一激發態態矢量灰度圖如圖8所示,觀察得到第一激發態態矢量灰度圖在無窮極相變點和一階相變點前后也都發生了突變.由此能通過態矢量灰度圖直接觀測到一維次近鄰海森伯J1-J2模型的相變點.機器學習方法也正是因為能提取出態矢量這些特征信息的變化,才能夠有效找到相變點.

圖7 海森伯 J1-J2模型基態態矢量變換而來的灰度圖 (a) J2/J1=0.44;(b) J2/J1=0.49;(c) J2/J1=0.51;(d) J2/J1=0.58Fig.7.Gray scale images transformed from the ground state vector of the Heisenberg J1-J2model:(a) J2/J1=0.44;(b) J2/J1=0.49;(c) J2/J1=0.51;(d) J2/J1=0.58.

圖8 海森伯J1-J2模型第一激發態態矢量變換而來的灰度圖 (a) J2/J1=0.24;(b) J2/J1=0.25;(c) J2/J1=0.49;(d) J2/J1=0.51Fig.8.Gray scale images transformed from the first excited state vector of the Heisenberg J1-J2model:(a) J2/J1=0.24;(b) J2/J1=0.25;(c) J2/J1=0.49;(d) J2/J1=0.51.

5 結論

本文將無監督學習與監督學習結合起來,從一維次近鄰海森伯J1-J2模型的基態中找到了該模型的一階相變點,從第一激發態不僅找到了一階相變點,還找到了無窮階相變點,間接說明了第一激發態可能比基態蘊含更多信息,將態矢量可視化說明了機器學習算法的可靠性.

研究結果表明,機器學習能夠在沒有任何先驗知識、不知道系統哈密頓量、能量的條件下,直接從龐大的態矢量樣本集合中找出一些可能存在的相變點,這可能為研究未知系統時提供一些幫助;監督學習能夠對無監督學習給出的相變點加以驗證,去除假的相變點.

由于本文僅研究了一維海森伯J1-J2模型,此方法的魯棒性和推廣能力還未知,需要進一步研究.