深度學習在機器人領域的應用進展

仇秋飛，周武源，雷良育，吳葉青，崔銀江，陳 登

(1.浙江省科技信息研究院，浙江 杭州 310006；2.浙江農林大學 工程學院，浙江 杭州 310006)

0 引 言

深度學習(Deep Learning，DL)是機器學習的一種，其算法基于對數據進行表征學習，能夠發現大數據中的復雜結構，利用反向傳播指導機器如何從前一層網絡計算表征，從而改變每一層的內部參數[1]。深度學習的目的是讓機器人(Robotics)具有與人一樣的分析學習能力，因其能夠增強機器人的感知、決策與控制能力[2]，在機器人的圖像識別[3]、目標識別[4]、姿態估計[5]、路徑規劃[6]、人機交互[7]等方面具有廣泛的應用前景，并取得了很多成果。

隨著人工智能(Artificial Intelligence，AI)、大數據、云計算等技術的興起，機器人技術經歷了從預編程式，到自主式，再到智能式的三階段發展歷程，現已進入智能機器人發展時代[8]。深度學習與機器人學的交叉學科(Deep Learning in Robotics，DL-R)是近五年來極其活躍的研究領域，學術成果呈爆發式增長。深度學習技術的發展將進一步推動機器人的智能化發展，已有相關文獻對此進行了綜述，如Pierson等人[9]介紹了DL在機器人學應用的研究進展，討論了DL的優點及局限性；王乾銘等人[10]基于DL設計了個性化聊天機器人的對話系統，使用了深度LSTM結構并且加入注意力機制使其能更好地適應不同長度的問句。這些綜述主要針對領域內的研究內容進行鋪陳式敘述和梳理，未能指出DL在智能機器人中應用的整體發展態勢，挖掘出DL-R交叉學科的研究重點與熱點。

由愛思唯爾(Elsevier)推出的新一代科研分析管理工具(SciVal)可為科研決策提供循證依據，已見于學科分析、人才績效評價等方面的應用[11]。文中擬利用SciVal平臺分析深度學習在智能機器人中的發展態勢，對加強科技發展戰略謀劃和系統布局，把握大趨勢，下好先手棋具有重要意義。

1 研究方法

為研究全球DL-R交叉學科的發展態勢，文中以“深度學習”和“機器人”為主題制定檢索策略，檢索時間為2020年11月25日，共檢出8 509條記錄，其中2015-2019年為5 922條；接著采用SciVal對2015-2020年發表的科研論文進行進一步分析，獲得學術產出現狀、研發格局、機構與學者排名，通過文本聚類重點探討了研究熱點與發展趨勢，之后提出促進DL-R領域研究發展的對策建議。由于2020年的數據并不完整，本研究部分分析對象為2015-2019年的數據。

2 研究結果

2.1 全球DL-R交叉學科學術產出現狀

隨著尖端、前沿的研究不斷突破單一學科的限制，交叉學科因其能提供更多元的理論基礎和視角，更容易產生創造性成果，中國近期新增交叉學科作為新的第14個學科門類，賦予交叉學科與傳統學科同等的地位。領域權重引用影響力指數(FWCI)是考察國家、機構、學者等的論文影響力的指標，其平均水平為1.00。DL-R交叉學科2015-2019年的FWCI分別為3.65、4.17、3.07、2.21和1.72，5年平均為2.25，說明近5年本領域出版物的引文表現高出全球同類出版物平均水平125%，這一指標體現DL-R整體研究活躍度水平較高。

重要的深度學習算法依次為深度強化學習、深度神經網絡、卷積神經網絡(Convolutional Neural Network，CNN)、循環神經網絡(Recurrent Neural Network，RNN)、深度機器學習、尖峰神經網絡、長短期記憶等，重要的機器人學應用依次為無人機、移動機器人、智能機器人、計算機視覺、抓取、姿勢估計、機器人導航、仿人機器人、同步定位和測繪、運動規劃等，可以視為深度學習與機器人交叉學科的核心領域。

1．組織投入專門人力物力，服務在院培訓學員安裝使用。在主要的教學樓宇擺放了印有平臺上線消息的易拉寶，吸引學員下載安裝；課前進入重點培訓班發放宣傳冊，播放宣傳片并協助大家安裝使用；精心策劃運營了領導力、行動學習、十九大精神解讀等主題學習活動，在教室張貼季度主題活動海報，學院師資在平臺上與學員互動，通過院刊、學院網站發表活動消息，得到學員熱情參與。

古樹名木是一種自然資源，也是一種文化遺產，具有重要的經濟、生態、科研、歷史、紀念等價值。古樹名木作為森林資源，可涵養水源、保持水土、除塵抑菌，具有穩固的生態功能[4]；是珍貴的活文物，與城鎮和宗教文化發展息息相關，具有深刻的歷史文化價值[5]；是自然科學研究的活標本，具有重要的科學價值[6]；具有獨特的觀賞價值，是自然景觀和文化景觀的結合，是絕佳的旅游資源[7]。對古樹名木的現狀進行調查分析，并探討相應的保護策略具有重大理論和現實意義。

表1 全球DL-R交叉學科學術績效總覽

表2 中國DL-R交叉學科學術績效總覽

2.2 全球DL-R交叉學科學術產出國家排名

分析DL-R交叉學科研究的總體格局(2015-2020年)，如表3所示，前10位的國家排序為中國、美國、英國、日本、德國、韓國、印度、意大利、澳大利亞、加拿大。中國的學術產出以2 497排第一，但FWCI僅為1.71，后續的美國和英國則分別高達3.8和3.15；從被引頻次看，美國高達24 258，英國則以580的學術產出，獲得了8 279次引用，接近中國的10 277，這讓人對中國的學術質量產生一定的憂思。英國、日本、德國分別以五百多的學術產出不分伯仲，但日本的FWCI特別低，為1.19，且被引頻次也較低；后續的韓國和印度學術產出相近。

表3 DL-R學術產出排名前10位的國家

此外，其他排名相對靠前的國家中歐洲占據了絕大多數，同時從FWCI可以看出歐洲國家的學術質量普遍較高，如：瑞士和瑞典雖然學術產出數量不多，但平均被引頻次高于10次，FWCI也在3以上，體現了高質量的學術水平。反觀亞洲國家除排名前十的中日韓外，僅有新加坡排名相對靠前，且亞洲國家學術質量普遍較歐美國家低，平均被引頻次5次左右，FWCI也在2以內。

2.3 全球DL-R交叉學科學術產出機構排名

東西部扶貧協作和對口支援，是推動區域協調發展、協同發展、共同發展的大戰略，是加強區域合作、優化產業布局、拓展對內對外開放新空間的大布局，是實現先富幫后富、最終實現共同富裕目標的大舉措。根據國家東西部扶貧協作部署，福建省福州市連江縣對口幫扶甘肅省定西市隴西縣，2017年初完善結對、幫扶對象瞄準貧困村和建檔立卡貧困人口，精準聚焦于產業合作、勞務協作、人才支援、資金支持等方面開展幫扶工作。

表4 DL-R交叉學科前20科研機構排名

從FWCI指標看，中國機構中僅清華大學為4.46、排名第10的浙江大學為2.02，其他機構均不足2，而國外機構的FWCI值普遍較高，引用次數指標也基本上反映了這一特點，這說明中國機構的學術產出質量仍有較大的進步空間。

此外，學術論文產出機構絕大部分為大學和科研院所，企業僅谷歌母公司Alphabet一家，反映出學術研究與產業領域的不同特點，企業更重視知識產權特別是專利的申請與保護，對發表學術論文興趣不大。

RNN是一類以序列數據為輸入，在序列的演進方向進行遞歸且所有節點(循環單元)按鏈式連接的遞歸神經網絡[15]，主要應用自然語言處理、機器翻譯和語音識別。常見的循環神經網絡有雙向循環神經網絡(Bidirectional RNN，Bi-RNN)和長短期記憶網絡(Long Short-Term Memory networks，LSTM)。1990年，Jeffrey Elman提出了第一個全連接的RNN，即Elman網絡。重要論文：Thuruthel, TG等人[16]基于軟傳感器和RNN研發了柔性機器人，采用RNN能夠實時地學習、模擬軟連續驅動器的運動行為，同時對傳感器的非線性和漂移具有魯棒性，展示了該柔性機器人的交互性能。Li等人[17]針對多機械手的拓撲約束問題，研究博弈納什均衡的隱式形式，設計了一種分布式循環神經網絡的動態控制器，使系統達到期望的納什均衡，達到協同控制的最優解。Li[18]針對CNN-零化神經網絡(ZNN)在求解時變矩陣逆問題時抗干擾性能差的缺點，設計一種有限時間收斂、抗噪聲的ZNN(FTNTZNN)，在各種噪聲下也能在有限時間內完全收斂到理論解，并驗證了FTNTZNN模型在求解時變矩陣逆和機械臂運動控制方面具有更好的收斂性和魯棒性。

2.4 全球DL-R交叉學科學者學術產出排名

表5列出了學術產出前10名的學者，主要來自日本、德國、英國和澳大利亞，總體上呈現出美國學者FWCI指標、h-指數、引用次數特別高、日本學者較低、德英澳學者居中的特點。中國僅華南理工大學張智軍排名第8，除前10外清華大學孫富春、蘭州大學金龍分列第18、20位，他們均為中國深度學習與機器人交叉學科領域的佼佼者。綜上，美國、日本、德國、英國、中國和澳大利亞六個國家在高學術產出學者方面領先，但中國學者在學術產出和影響力方面還有一定差距。

表5 DL-R交叉學科領域前10學者學術產出與影響力

2.5 全球DL-R交叉學科學術發表期刊來源分析

3.3 生成對抗網絡(Generative Adversarial Network，GAN)

表6 DL-R交叉學科領域期刊學術產出排名

2.6 全球DL-R交叉學科研究熱點分析

通過文本挖掘確定2015-2019年深度學習與機器人交叉學科領域內的重要概念(關鍵詞)，結果按顯著程度排序，如圖1所示。

在改革開放初期，傳統思想比較濃重，教育革命尚未很好開展，提出這些主體思想要點是令人感到新銳的、有震撼力的。雖然這些思想符合社會發展和教育改革的大趨勢，但當時也難免遭到質疑、異議和壓力。不過，我們堅守著自己的信仰并繼續主體教育思想的學習和研究。

第二、后續計量環節。商業銀行抵債資產后續計量環節的會計與稅務處理差異主要來源于抵債資產減值的計量。會計準則規定，商業銀行需要對抵債資產進行減值測試并計提減值準備，這會對商業銀行整體利潤會帶來影響；稅法則要求在計算應納稅所得額時不得扣除減值準備，這就形成會計利潤與稅法利潤不一致，需要對企業所得稅進行適當調整。

學術產出表示研究領域每年發表的文獻數量，如表1所示，2015-2020年DL-R呈現連年大幅增長的趨勢，共發表論文8 509篇，從2015年的182篇增長到2019年的2 934篇；從年度引用頻次看，2015-2019年DL-R領域出版物被引用共56 991次；高影響力期刊文獻百分比，被引用率最高的前1%、5%、10%和25%出版物中所占的份額分別為3.7%、12.8%、20.1%和35.6%；從學術產出的效益看，每項學術成果的專利引用次數(Patent-Citations Per Scholarly Output，所有專利局)平均為43.2，2015-2016年的該指標可達兩百多次，這是相當高的數值。綜上，DL-R交叉學科是一個非?；钴S和有影響力的研究領域。

圖1 基于文本挖掘的關鍵詞分析

技術主題(topics)的學術產出可反映學術研究的重點，顯著度百分位數可用于挖掘技術主題的研究熱度。從技術主題的顯著度百分位數指標看(見表7)，排名前20位的技術主題，其顯著度百分位數均在95%以上，且11個技術主題的FWCI在2.0以上。卷積神經網絡-對象檢測-IoU主題的顯著度百分位高達99.999，學術產出達1 349，FWCI為2.38，是DL-R交叉學科中排名第一的熱點與重點。關于算法的主題中，多代理學習-Q-Learning-策略迭代的顯著度百分位為99.089，FWCI為2.75，但學術產出僅為255；尖峰神經網絡-神經元模型-事件驅動的顯著度百分位為98.574，但FWCI僅為1.22。在DL用于改進機器人控制方面，下列主題同時具有較高的兩項指標，可以認為是DL-R交叉學科的研究熱點：抓取-手部力量-末端效應器、機器人學習-模仿-基元、偽造-篡改-離散余弦變換、可視化定位-同步定位和測繪-自動駕駛汽車、圖像內畫-源域-生成、終端效應器-收獲-馬盧斯、Ad Hoc網絡-無人機-基站、觸覺傳感器-終端效應器-觸控器。

表7 技術主題學術產出排名

3 典型算法及應用

3.1 CNN

CNN是一種包含卷積計算且具有深度結構的前饋神經網絡，由一個或多個卷積層和頂端的全連通層(對應經典的神經網絡)組成，同時也包括關聯權重和池化層，主要應用計算機視覺和語音識別。常見的卷積神經網絡有LeNet、AlexNet、VGGNet、ResNet等，1987年Alexander Waibel等提出的時間延遲網絡(Time Delay Neural Network, TDNN)是最早出現的卷積神經網絡[12]。重要論文：Maturana等人[13]提出了一種用于實時目標識別的三維卷積神經網絡(VoxNet)，可以快速而且準確地對3D數據進行分類，在三種不同類型的數據：Lidar、RGBD、CAD模型的混合任務中取得了最好的效果。Levine等人[5]提出了一種基于深度學習的機器人單目抓取手眼協調方法，采用卷積神經網絡來預測抓取器與場景中物體之間的空間關系，從而學習手眼協調，提高抓取成功率。Sundaram等人[14]針對基于計算機視覺的機器人抓取策略中觸覺信息數據集的處理問題，使用可伸縮的觸覺手套和深度卷積神經網絡來證明均勻分布在手上的傳感器可以用來識別單個物體，估計它們的重量，并探索抓取物體時出現的典型觸覺模式。

3.2 RNN

（8）對安全活動制度進行完善，加強企業內部對于安全文化的重視。定期組織企業內部的安全活動，加強員工的安全意識，推動安全生產。

鋅指蛋白作為轉錄因子中的一個大家族，廣泛參與了人類體內的各種生物學進程，尤其是在基因表達調控方面具有重要作用，使鋅指蛋白在結腸惡性腫瘤的診斷、治療等領域彰顯出巨大的潛力。近年來，隨著越來越多的鋅指蛋白被發現，以及對鋅指蛋白功能研究的更加深入，鋅指蛋白在結腸癌中調節轉錄、控制基因表達的特性已經得到了廣泛的證實與認可；用鋅指蛋白作為工具，調控哺乳動物特定基因表達的相關體外實驗也取得了很大的進展。但是就目前國內外研究現狀來看，在結腸癌中還有許多鋅指蛋白和其作用機制尚未完全明了，鋅指蛋白能否作為結腸癌治療新靶點的問題也尚未明確，這些都有待于進一步的研究與探索。

科研機構在2010-2020年間的學術產出排名如表4所示，前20名中中國占了11所，中國科學院、中國科學院大學、清華大學和中國教育部占據前四。國外實力強勁的科研機構排名依次為：加州大學伯克利分校、瑞士聯邦理工學院、麻省理工學院、Alphabet Inc.、法國國家科學研究中心、韓國高等科學技術院、倫敦帝國理工學院、慕尼黑工業大學、佐治亞理工學院，前20之后FWCI較高的機構還有：卡內基梅隆大學、斯坦福大學、華盛頓大學、密歇根大學安阿伯分校、南加州大學、牛津大學、弗萊堡大學。

如表2所示，中國2015-2019年間本領域學術產出、作者數量持續大幅增加，共發表論文1 379篇，從2015年的21篇增長到2019年的802篇；從年度引用頻次看，2015-2019年深度學習領域出版物被引用共9 820次；5年平均FWCI為1.77；高影響力期刊文獻百分比，被引用率最高的前1%、5%、10%和25%出版物中所占的份額分別為3.1%、11.6%、19.7%和36.3%。綜合FWCI和高影響力期刊文獻百分比，可判斷中國在DL-R領域活躍度和影響力均低于世界平均水平，從學術產出的效益看，每項學術成果的專利引用次數平均為16.7，該項數值大幅低于世界平均水平，這可能與中國學術活動的產業轉化與互動較少有關。

深度學習與機器人交叉學科領域的學術論文，大部分發表在機器人學和計算機科學相關學術會議論文上(見表6)，其中Proceedings - IEEE International Conference on Robotics and Automation的FWCI為5.15，Proceedings of the IEEE Computer Society Conference on Computer Vision and Pattern Recognition的FWCI為8.21，這兩個學術會議，連同ACM International Conference Proceeding Series，均未收錄于Web of Science數據庫中。由此也可見，選擇Scopus數據庫相較于Web of Science數據庫更適于分析評價計算機領域的學術活動。

GAN是一種非監督式學習方法，通過讓兩個神經網絡相互博弈的方式進行學習，由Ian Goodfellow等人于2014年提出，主要應用圖像生成和數據增強。Fabbri等人[19]針對基于視覺感知的自主式水下機器人，提出了一種采用GANs來提高水下視覺場景質量的方法，引導水下機器人行動。Gupta等人[20]考慮自主移動平臺與人類運動行為共存，結合序列預測和社交感知GAN，提出了一種基于GAN的編解碼器框架和池化塊機制，使網絡能夠以純數據驅動的方式學習社會規范，提高多模態行人運動軌跡的預測精度。Sadeghian等人[21]針對多個交互主體場景下自主移動平臺的路徑預測問題，提出了一個基于GAN的可解釋框架SoPhie，利用場景中所有代理的路徑歷史和場景上下文信息這兩個信息源，將社會注意力機制與物理注意力結合起來，幫助模型訓練，預測社會和物理上合理的路徑，并在幾個不同的軌跡預測基準上實現最優路徑規劃。

3.4 其他算法及融合算法的應用

在大數據支撐、計算能力提升、芯片高速迭代等技術背景下，各種深度學習算法不斷涌現和優化，提升了機器人推理、規劃和想象能力。Ma等人[22]針對人機交互的會話生成模型，提出了基于檢索和transformer的會話模型(RRT)，將檢索模型和生成模型相結合，獲得與上下文相適應的響應，這里采用了transformer模型代替了傳統的序列到序列的會話生成模型，在較少的訓練時間下取得了較好效果。Zrira等人[23]針對移動機器人環境感知能力，提出了利用GIST描述子提取全局視覺特征，然后利用后續特征訓練判別性深度信念網絡(Deep Belief Network，DBN)分類器，使用反向傳播技術來微調權重以獲得最佳分類。Yu等人[24]針對機器人基于表面肌電圖的人機交互問題，建立了一個堆疊式自動編碼器深度神經網絡(SAE-DNN)，以連續估計手腕多自由度(DoFs)的表面肌電信號，并驗證了SAE-DNN的估計性能優于常規回歸(LR)和支持向量回歸(SVR)。Kostavelis等人[25]針對服務機器人在家庭或工業環境中的自我感知能力，提出了一個語義映射框架，揭示現實環境中對象和地點之間的關系，不同地點的分類依賴于基于外觀一致性直方圖的分辨率，在對于場景中物體識別時，采用顯著注意模型增強的層次化時間記憶網絡(Hierarchical Temporal Memory，HTM)，使智能體能夠在人類居住的環境中以智能的方式行動。Wang等人[26]設計了一種基于尖峰神經網絡(Spiking Neural Network，SNN)的移動機器人行為控制器，利用超聲波感知信號避開障礙物，控制器中使用的神經元比經典神經網絡少，有效且易于實現。

近些年，很多學者開展了深度學習多模型融合研究，以克服在機器人姿態估計、路徑規劃、環境感知、目標識別方面單個模型對未知問題泛化能力的缺陷。為揭示機器人領域深度學習主要算法綜合應用的現狀，經Scopus檢索分析得到機器人領域深度學習算法的共詞矩陣(見表8)，矩陣中對角線數值為0，其余對稱位置數值表示在同一文獻中同時出現兩種算法的文章數量。Inoue等人[27]針對機械高精度裝配作業，通過訓練一個具有強化學習的循環神經網絡，實現機器人在很小的間隙內完成釘孔作業。Ahn等人[28]提出了一個生成模型來學習語言和人類行為之間的關系，以生成一個描述人類行為的句子作為人類行為序列。該生成模型是基于序列對序列(SEQ2SEQ)模型的生成性對抗網絡(GAN)。利用所提出的生成網絡，使用文本編碼器RNN和動作解碼器RNN來合成機器人或虛擬代理的各種動作，將這些動作可以轉移到巴克斯特機器人身上，使得機器人根據給定的句子執行動作。Tang等人[29]針對機器人自主定位導航中運動估計的檢測，采用了CNN和RNN一起訓練以檢測關鍵點的位置，相比單一深度學習模型，該方法取得了更好的效果。Tsurumine等人[30]提出了兩種有效的DRL算法：Deep P-Network(DPN)和Dueling Deep-Network(DDPN)，將策略平滑更新思想與深層神經網絡的自動特征提取能力相結合，以較少的樣本數提高樣本效率和學習穩定性，并在機器人手臂伸展任務中得以驗證。

表8 機器人中深度學習算法共詞矩陣

4 結束語

目前，DL在重要的感知、認知和行動問題上顯示出了廣闊的發展前景，可以在無需人工協助的情況下對原始傳感器數據進行操作，并推斷出其中的關鍵特征，大大縮短前期工程時間；同時還善于融合高維、多模式的數據，以捕捉原始數據的關系網絡，有助于機器人適應動態、非結構化環境中工作。綜合分析年度發表文獻增長量、作者數量、FWCI、學術產出效益等多項指標表明，全球DL-R交叉學科整體研究水平非?；钴S并具有較高的影響力。中國的學術產出已達世界第一，但學術質量相關指標如FWCI、學術產出效益等多偏低，機構與學者的學術影響力較弱，離美英等發達國家仍有一定的差距。

建議從加大科研資助與研發投入，以促進包括DL在內的AI在機器人學中的進一步交叉融合。加強與美、英、德、意、澳、加、法、瑞士等國的國際交流與合作，合作對象可從加州大學伯克利分校、瑞士聯邦理工學院、麻省理工學院、Alphabet Inc.、法國國家科學研究中心、韓國高等科學技術院、倫敦帝國理工學院、慕尼黑工業大學、佐治亞理工學院、卡內基梅隆大學、斯坦福大學、華盛頓大學、密歇根大學安阿伯分校、南加州大學、牛津大學、弗萊堡大學中擇優選取。在人才培養方面，中國在這個交叉學科的高影響力學者數量少，學術產出不高，需要進一步加強交叉學科的人才培育力度，并適當引進國外高端人才。

數據分析表明，當前DL-R交叉學科的研究重點是計算機視覺，研究熱點是卷積神經網絡用于機器人對象檢測、深度Q學習用于輔助決策，以及DL改進機器人控制等方面的用途等，將DL更為緊密地融合進重要的機器人學應用中，如無人機、移動機器人、智能機器人、計算機視覺、抓取、姿勢估計、機器人導航、仿人機器人、同步定位和測繪、運動規劃等。

DL-R交叉學科的研究正朝著更高層次的認知發展，目標是使機器人在不久的將來達到人類的分析學習水平。然而，在實現這個目標之前，深度學習還有許多障礙要克服：首先，需要獲取大量的有標注數據和較長的訓練時間，不僅費時，成本也高；其次，現有技術未實現實時訓練深層網絡，需通過離線訓練后才能進行智能辨識，很難進行動態調整；再次，深度學習的局部泛化能力與人類的極限泛化存在較大差距，抽象和演繹推理能力還不足以解決復雜環境中的任務；最后，通過堆疊更多層并使用更多訓練數據來擴展當前的深度學習技術，只能在表面上緩解一些問題，不能解決DL模型在可表征內容種類非常有限的基本問題，即存在大多數程序不能被表達為DL模型，即使有足夠的數據源也無法進行訓練和推理。已有研究在朝著DL元學習、分布式DL、結構稀疏化DNN、三維卷積深度神經網絡等方向努力，使深度學習從數據驅動算法向大數據驅動計算、傳感器和網絡驅動計算、跨媒體驅動計算轉變，推動DL與機器人學的進一步交叉融合，相信未來機器人學將邁向人機混合的增強智能與智能自主系統。