基于長短期記憶網絡的重力測量誤差補償法

蔡體菁,胡嘯林

(東南大學 儀器科學與工程學院，江蘇 南京 210096)

0 引言

重力測量對于人們了解地球重力場、地球內部物質分布等具有重要意義，其中得到高精度的重力值是重力測量的關鍵。為了充分發揮海空重力儀測量效率，對其工作初始段測量數據精度研究具有重要意義。為此本文提出了一種基于長短期記憶網絡的重力測量誤差補償方法，用于提高海空重力儀初始段測量精度。1997年長短期記憶網絡(LSTM)被提出，LSTM有過許多版本(如Coupled LSTM、Peephole LSTM、GRU等)，其適用于時間長序列的處理要求。近年來LSTM在諸多領域取得了發展，如預測水質變化[1]，實現水庫旱雨季水位的預測[2]，在股市中期貨指數預測[3]方面也發揮了很大作用。在結合重力測量與數據處理方面，程一等[4]提出了一種基于深度學習的航空重力梯度測量事后誤差補償方法。結合對于長時間序列數據的處理要求，LSTM具有很大的優勢。在LSTM結構中的重要性依次排列為遺忘門、輸入門與狀態更新、輸出門，LSTM通過內部的門機制，在處理信息時可以選擇性地記住或忘記一些信息；同時為了最小化訓練誤差，使用梯度下降法，每次循環結束時修改權重，最終達到較好的預測效果，很好地進行數據分析擬合，達到較高的實驗精度。

1 方法

1.1 LSTM方法

長短期記憶網絡源自循環神經網絡，是一個鏈式結構，一個基本的LSTM結構圖如圖1所示。

圖1 長短期記憶網絡結構圖

1.1.1 遺忘門

遺忘門的含義是對于上一單元中LSTM的信息進行選擇性舍棄。其中遺忘門輸出值為ft。圖1中遺忘門的狀態調整式為

ft=σ(Wf·[ht-1,Xt]+bf)

(1)

在獲得輸入Xt后，LSTM會將當前的輸入與上一單元的輸出ht-1整合，即[ht-1,Xt]，設置Sigmoid為激活函數，通過誤差反向傳播來調整參數Wf、bf大小。Sigmoid能夠將輸入信息整合至[0,1]區間，若該集合中的子集通過Sigmoid后變為0，即代表該子集需要舍棄，若通過Sigmoid后變為1，即代表該子集需要完全保留。

1.1.2 輸入門與狀態更新

數據信息通過遺忘門進行選擇性遺忘的同時也需要對部分信息選擇性記憶，輸入門輸出值為it，則圖1中輸入門調整式為

it=σ(Wi·[ht-1,Xt]+bi)

(2)

狀態更新式為

(3)

1.1.3 單元狀態

在圖1中LSTM的單元狀態Ct為經過t時刻后當前單元的信息集合，其中包含遺忘門輸出信息、輸入門與狀態更新輸出信息、輸出門輸出信息。單元狀態表達式為

(4)

1.1.4 輸出門

在圖1中輸出門為對處理后的信息選擇性輸出，輸出門輸出值為ht，其計算過程與遺忘門、輸入門類似，故不再贅述。其中輸出門狀態調整式為

ot=σ(Wo·[ht-1,Xt]+bo)

(5)

ht=ot·tanh(Ct)

(6)

1.2 計算步驟

考慮到神經網絡模型無具體數學公式表達式，若需實現實時溫漂誤差補償功能，則不能以加速度計輸出來分析建模。而應以加速度計輸出溫漂誤差來分析建模，模型設計思路：根據已知加速度計數據計算出對應溫漂誤差，以誤差結合溫度進行訓練，得到未來誤差的預測，通過對比預測值與實際值可判斷模型預測精度。建模步驟如下：

1) 加載數據。設置對應的學習數據與實際對比數據。

2) 數據標準化。對原始數據進行縮放以達到更好的擬合。

3) 確定變量和響應。

4) 設計LSTM具體結構。采用一次預測一個時間步長，設置網絡訓練次數、初始學習率、迭代周期等。

5) 對比實際值和預測值，更新LSTM網絡的輸入數據和傳遞狀態。

6) 得到預測值后，進行誤差補償。

該模型與一般神經網絡不同之處在于程序設計中使用預測值更新網絡狀態，使網絡能根據當次計算誤差不斷修正預測值，建模流程圖如圖2所示。

圖2 實驗流程圖

2 實驗結果

現以加速度計X向分量為例，采用LSTM模型對加速度計X向進行溫漂誤差建模分析，其效果如圖3所示。

圖3 加速度計X向分量溫漂誤差預測效果對比

該模型對加速度計X、Y、Z向分量溫漂誤差預測計算如表1所示。

表1 LSTM模型預測溫漂誤差

由表1可知，該LSTM模型對加速度計X向分量溫漂誤差總體預測誤差為1.17 mGal，對加速度計Y向分量溫漂誤差總體預測誤差為0.98 mGal，對加速度計Z向分量溫漂誤差總體預測誤差為2.18 mGal，對加速度計三軸溫漂誤差預測精度均能穩定在毫伽量級，實現了對溫漂誤差較高精度的預測。

現以該模型為基礎，通過Matlab實際數據仿真出具體的隱藏層個數、梯度閾值、學習速率等信息在導航計算機中構建LSTM溫漂誤差模型。該模型對加速度計X向溫漂誤差補償如圖4所示。

圖4 模型對加速度計X向溫漂誤差補償

經LSTM模型補償前后的加速度計在不同溫度下輸出均值與標準差如表2～4所示。

表2 加速度計X向分量誤差補償前后對比

表3 加速度計Y向分量誤差補償前后對比

表4 加速度計Z向分量誤差補償前后對比

經計算，補償前加速度計X向分量全溫輸出標準差為0.001 315 m/s2，補償后其全溫輸出標準差為0.000 069 m/s2，輸出標準差降低了94.75%；補償前加速度計Y向分量全溫輸出標準差為0.000 558 m/s2，補償后其全溫輸出標準差為0.000 034 m/s2，輸出標準差降低了93.91%；補償前加速度計Z向分量全溫輸出標準差為0.002 697 m/s2，補償后其全溫輸出標準差為0.000 150 m/s2，輸出標準差降低了94.44%，這表明該長短期記憶網絡模型對初始段溫漂誤差具有較好的的抑制效果。

3 結束語

長短期記憶網絡訓練模型，根據數據量的大小、離散程度、影響因子等確定輸入層、隱藏層的具體結構，確定訓練數據與測試數據。設置指定步長的訓練序列，在每一個時間步長，長短期記憶網絡都學習預測下一個時間步長的值，確定學習速率的合適值。經過海空重力儀初始段實測數據，驗證了該方法具有很好的誤差補償效果，提高了海空重力儀的測量精確性。