基于輕量化Transformer的農(nóng)作物檢測機器人路徑規(guī)劃

摘要：為解決農(nóng)作物檢測機器人路徑規(guī)劃算法在復(fù)雜農(nóng)田環(huán)境下精度低、速度慢等問題，設(shè)計輕量化Transformer模型，將其用于農(nóng)作物檢測機器人的路徑規(guī)劃任務(wù)中。采用余弦函數(shù)替代softmax計算，使得查詢、鍵、值向量的計算可拆分，時間復(fù)雜度由原來的Ο（N2）降低到Ο（N）。通過四種不同聚合方式處理特征向量，確定節(jié)點權(quán)重分配。試驗結(jié)果表明，基于輕量化Transformer的農(nóng)作物檢測機器人路徑規(guī)劃方法能夠顯著提高農(nóng)作物檢測機器人的效率和準(zhǔn)確性。相比傳統(tǒng)的規(guī)則化路徑規(guī)劃算法，將100規(guī)模農(nóng)作物檢測機器人的路徑長度縮短5.91%；相比Transformer模型，推理時間縮短50%，訓(xùn)練時間縮短75%，為農(nóng)作物檢測機器人的路徑規(guī)劃提供一種新穎且有效的解決方案。

關(guān)鍵詞：農(nóng)作物檢測機器人；輕量化Transformer；強化學(xué)習(xí)；多智能體；路徑規(guī)劃

中圖分類號：TP242； S23" " " 文獻標(biāo)識碼：A" " " 文章編號：2095?5553 （2024） 09?0227?07

Path planning of crop inspection robot based on lightweight Transformer

Li Juan Jin Zhixiong

（1. Sichuan Top IT Vocational Institute， Chengdu， 611743， China；

2. University of Electronic Science and Technology of China， Chengdu， 610054， China）

Abstract： In order to solve the problems such as low precision and slow speed of path planning algorithm of crop inspection robot in complex farmland environment， this paper designed a lightweight Transformer model and applied it to the path planning task of crop inspection robots. The cosine function was used to replace the softmax calculation， so that the computation of query， key and value vectors could be split， and the time complexity was reduced from [Ο（N2）] to [Ο（N）]. Four different aggregation methods were used to process the feature vectors and determine the node weight allocation. The experimental results showed that the path planning method of crop detection robot based on lightweight Transformer could significantly improve the efficiency and accuracy of crop detection robot. Compared with the traditional regularized path planning algorithm， it shortened the path length of 100?scale crop detection robot by 5.91%. Compared with the Transformer model， it reduced the inference time by 50% and the training time by 75%. It provided a novel and effective solution for the path planning of crop detection robot.

Keywords： crop detection robot; lightweight Transformer; reinforcement learning; multi agent; path planning

0 引言

近年來，農(nóng)業(yè)領(lǐng)域正在迎來數(shù)字化和智能化的革命，機器人在現(xiàn)代農(nóng)業(yè)中扮演著越來越重要的角色[1]。農(nóng)作物機器人路徑規(guī)劃是農(nóng)業(yè)機器人領(lǐng)域的重要研究方向之一。隨著人工智能和機器學(xué)習(xí)的快速發(fā)展，農(nóng)業(yè)機器人得到了廣泛應(yīng)用，可以自動完成種植、施肥、除草等農(nóng)作物管理任務(wù)。而路徑規(guī)劃作為農(nóng)作物機器人的核心技術(shù)之一，能夠幫助機器人高效地完成任務(wù)，提高農(nóng)作物的生產(chǎn)效率和質(zhì)量[2， 3]。

針對現(xiàn)有移動機器人路徑規(guī)劃方法在未知農(nóng)業(yè)生產(chǎn)環(huán)境中實時性差和適應(yīng)性弱等問題，劉順等[4]提出了一種混合規(guī)劃方法，該方法適用于農(nóng)用輪式機器人。在全局路徑規(guī)劃方面，他們采用局部勢場A*算法來進行路徑規(guī)劃；在局部路徑修正方面，采用改進的動態(tài)窗口法來進行路徑修正。相對于傳統(tǒng)路徑規(guī)劃方法，混合路徑規(guī)劃方法在保持最大偏移不變的情況下，通行代價降低了63.89%，同時搜索時間減少了27.01%。為了實現(xiàn)設(shè)施園藝領(lǐng)域內(nèi)農(nóng)業(yè)機械的自動導(dǎo)航，陳娟等[5]提出了一種基于無模型自適應(yīng)控制的車輛路徑跟蹤方法。與采用固定前視距離的純追蹤模型相比，該研究方法在滿足農(nóng)業(yè)設(shè)施內(nèi)狹窄空間運輸作業(yè)的精度要求方面明顯優(yōu)越。但是，在大規(guī)模農(nóng)田中高效地巡航和檢測是一個挑戰(zhàn)，傳統(tǒng)的農(nóng)作物機器人路徑規(guī)劃方法通常基于圖搜索算法，如A*算法和Dijkstra算法等[6]。這些方法通常需要對整個地圖進行離散化表示，然后通過搜索算法找到最優(yōu)路徑。然而，由于農(nóng)田地圖的復(fù)雜性和農(nóng)作物生長的動態(tài)性，傳統(tǒng)方法往往難以滿足實時性和精確性的要求。因此，需要一種新的路徑規(guī)劃方法來克服這些挑戰(zhàn)。

為解決傳統(tǒng)方法的局限性，近年來基于深度學(xué)習(xí)的路徑規(guī)劃方法逐漸受到關(guān)注[7?9]。其中，輕量化Transformer模型是一種常用的深度學(xué)習(xí)模型，具有較好的表達能力和計算效率。Transformer模型通過自注意力機制來捕捉輸入序列的全局依賴關(guān)系，從而能夠?qū)r(nóng)田地圖中的各種特征進行有效的建模[10]。然而，傳統(tǒng)的Transformer模型通常較大，對計算和內(nèi)存資源要求較高，對于農(nóng)作物檢測機器人等資源有限的環(huán)境來說存在一定的挑戰(zhàn)。

為解決上述問題，本文提出一種基于輕量化Transformer的農(nóng)作物檢測機器人路徑規(guī)劃方法。采用余弦函數(shù)替代softmax計算，克服softmax不可差分計算的缺陷，使得查詢（Q）、鍵（K）、值（V）向量可拆分計算，保留注意力計算的關(guān)鍵特征，利用結(jié)合律先計算K、V向量，進一步將時間復(fù)雜度由原來的[Ο（N2）]降低到[Ο（N）]。采用求和、均值化、最大化、單一聚合嵌入四種不同聚合方式處理特征向量，確定節(jié)點權(quán)重分配，進一步優(yōu)化模型的概率分布值。

1 數(shù)學(xué)模型建立

農(nóng)作物檢測機器人路徑規(guī)劃問題的實質(zhì)是根據(jù)機器人的當(dāng)前位置、目標(biāo)點位置和運行環(huán)境，以特定評價指標(biāo)為目標(biāo)，在已知存在障礙物的農(nóng)田工作環(huán)境中進行路徑搜索。該問題的目標(biāo)是找到從起點到目標(biāo)點的最優(yōu)或次優(yōu)路徑，使機器人能夠順利完成農(nóng)作物病蟲害監(jiān)測、工作環(huán)境監(jiān)測以及物料或肥料搬運等任務(wù)，并確保路徑避開障礙物[11]。在解決該問題時，系統(tǒng)需要考慮以下要素：機器人當(dāng)前位置、目標(biāo)點位置、環(huán)境地圖與障礙物信息、評價指標(biāo)（如距離最短、程序耗時最少、收斂代數(shù)最小等）。農(nóng)作物檢測機器人可以在已知有障礙物存在的工作環(huán)境中，通過尋找最優(yōu)或次優(yōu)路徑，有效地導(dǎo)航并避開障礙物，以完成各種農(nóng)田任務(wù)。

農(nóng)作物檢測機器人路徑規(guī)劃可以轉(zhuǎn)化為旅行商問題TSP。目標(biāo)是找到一條路徑，使得農(nóng)作物檢測機器人能夠從起點出發(fā)，經(jīng)過所有農(nóng)田并最終返回起點，同時保證路徑的總距離最小。下面是對農(nóng)作物檢測機器人路徑規(guī)劃的TSP問題進行詳細(xì)描述，基本定義如下。

通過建立上述旅行商問題的數(shù)學(xué)模型，并利用相關(guān)的算法和優(yōu)化方法，可以求解農(nóng)作物檢測機器人的路徑規(guī)劃問題，找到經(jīng)過所有農(nóng)田的最優(yōu)路徑，從而使機器人能夠高效地完成農(nóng)作物檢測任務(wù)。

2 算法設(shè)計

2.1 學(xué)習(xí)模型架構(gòu)

2.2 模型訓(xùn)練

2.3 模型推理

模型訓(xùn)練完成后，大多需要相應(yīng)的推理算法提升解的質(zhì)量。受王揚等[17]模型中多軌跡搜索的啟發(fā)，本文將多重軌跡搜索方法應(yīng)用于推理階段，進一步提升解的質(zhì)量，以[n]種不同的軌跡并行尋找策略網(wǎng)絡(luò)中的最優(yōu)解。因此每個節(jié)點都能被策略網(wǎng)絡(luò)選取，多重軌跡的構(gòu)造可以防止陷入局部最優(yōu)，能更高效的得到高質(zhì)量解，推理方法可視化如圖4所示。

3 數(shù)值試驗

3.1 超參數(shù)設(shè)置

試驗結(jié)果分別展示了農(nóng)作物檢測機器人路徑規(guī)劃問題的路徑花費、間隙和推理時間等指標(biāo)。經(jīng)過多次試驗的調(diào)試，選取一套試驗結(jié)果較為穩(wěn)定的超參數(shù)，聚合函數(shù)使用單層的全連接神經(jīng)網(wǎng)絡(luò)，訓(xùn)練批次為100，批次大小為256，MHA 中的頭部H = 8，前饋輸入層和輸出層的維度都是512維，Adam優(yōu)化器的學(xué)習(xí)率為0.000 1，權(quán)重衰減率為0.95，隱含層設(shè)置為128維。

3.2 參數(shù)調(diào)優(yōu)

DRL模型的不同參數(shù)設(shè)置對求解質(zhì)量有較大影響。本文使用以[[0，1]×[0，1]]單位平方形為單位的平均總花費和以秒為單位的平均計算時間作為參數(shù)每個調(diào)優(yōu)值的性能指標(biāo)。采用四種不同的聚合方式處理權(quán)重值的分配，分別在20、50和100節(jié)點的實例上測試四種聚合方式對模型性能的影響。經(jīng)過表1所示的幾次調(diào)優(yōu)后，選擇了目標(biāo)值最優(yōu)的參數(shù)，將用于農(nóng)作物檢測機器人路徑規(guī)劃問題的數(shù)值試驗中。

3.3 優(yōu)化效果對比

3.4 時間花費對比

設(shè)計DRL求解路徑問題不同于傳統(tǒng)算法，算法的設(shè)計是針對訓(xùn)練模型的算法（即DRL算法），不考慮問題本身求解算法設(shè)計，能夠以[O（n）]的時間復(fù)雜度求解問題實例，因此本文未設(shè)置算法時間復(fù)雜度的比較。本文模型與Transformer模型的訓(xùn)練和推理時間對比放置在表3中，混合編碼以及不同方法的聚合操作高效處理隱含層向量，可以進一步縮短訓(xùn)練時間，多重軌跡搜索的方法進一步縮短了模型的推理時間。以DRL結(jié)合改進的Transformer模型求解方法擺脫了傳統(tǒng)算法針對相同結(jié)構(gòu)問題專門設(shè)計算法的弊端，即使20節(jié)點農(nóng)作物檢測機器人路徑規(guī)劃在訓(xùn)練階段花費5 h，在推理階段貪婪的方法僅僅花費10 s即可得到最優(yōu)解。改進后的Transformer縮短了模型訓(xùn)練的時間，間接說明本文思慮的可行性。

3.5 泛化能力對比

通過DRL結(jié)合改進Transformer和指針網(wǎng)絡(luò)的求解方法，加強了模型對解空間的搜索能力，混合編碼的方式有利于突出節(jié)點特征。模型一旦訓(xùn)練完成（得到求解問題的最優(yōu)策略），可對任意大小問題進行泛化求解。農(nóng)作物檢測機器人路徑規(guī)劃問題的泛化能力比較如表4所示，小范圍與大范圍的相互泛化能力都有較好的表現(xiàn)。小規(guī)模學(xué)習(xí)后的節(jié)點特征泛化到大規(guī)模時，由于實例分布不同，可能會導(dǎo)致求解效率有所下降。

3.6 路徑可視化

圖6可視化PSO、LNS、Transformer以及本文算法在20節(jié)點上農(nóng)作物檢測機器人路徑規(guī)劃的優(yōu)化效果。試驗結(jié)果顯示，粒子群優(yōu)化和大鄰域搜索可以針對具體問題進行局部優(yōu)化，但可能受限于局部搜索的范圍。而基于DRL的方法能夠利用神經(jīng)網(wǎng)絡(luò)對輸入序列進行建模，捕捉長程依賴關(guān)系，以及在一定程度上減少了計算和存儲開銷。輕量化Transformer通過減少模型參數(shù)和計算量，可以大幅度提高計算速度和效率。在農(nóng)作物檢測機器人路徑規(guī)劃中，過去可能需要耗費較長時間才能得到最優(yōu)路徑，而基于輕量化Transformer的優(yōu)化算法能夠更快速地找到近似最優(yōu)路徑，從而加快整個農(nóng)作物檢測過程。這意味著農(nóng)作物檢測機器人可以靈活地應(yīng)用于各種農(nóng)田環(huán)境，并根據(jù)實際情況生成最優(yōu)的巡航路徑。

3.7 訓(xùn)練收斂對比

單智能體DRL中，策略網(wǎng)絡(luò)只含有單個智能體結(jié)構(gòu)，僅有單個智能體與環(huán)境之間的交互，環(huán)境穩(wěn)定性差，不利于收斂。多智能體DRL將不同智能體之間的特征信息融合，協(xié)同尋找最優(yōu)策略，使得任意狀態(tài)下獲得最大的長期累積獎勵。本文設(shè)置了多智能體DRL算法的有效性檢驗試驗，與單智能體DRL算法訓(xùn)練效果進行對比，以此驗證多智能體DRL算法的有效性。由圖7、圖8可知，在20節(jié)點的農(nóng)作物檢測機器人路徑規(guī)劃問題上，多智能體DRL算法的最終訓(xùn)練結(jié)果較優(yōu)，在50節(jié)點上，多智能體DRL算法相比單智能體DRL算法，在訓(xùn)練過程中收斂速度更快，收斂效果優(yōu)于單智能體DRL算法。

4 結(jié)論

1） 通過在不同規(guī)模的農(nóng)田中進行試驗，驗證所提方法在路徑優(yōu)化問題上的優(yōu)越性和有效性。具體來說，該方法在100節(jié)點的農(nóng)作物檢測中，將機器人的路徑長度縮短5.91%，推理時間減少50%，訓(xùn)練時間減少75%。

2） 探索使用多智能體DRL訓(xùn)練的有效性，顯示出更快的收斂速度和更高的穩(wěn)定性，說明其在實際應(yīng)用中的潛力。研究結(jié)果為農(nóng)作物機器人的路徑規(guī)劃提供一種新穎且高效的解決方案，為農(nóng)業(yè)生產(chǎn)和管理帶來智能化的支持。

參 考 文 獻

[ 1 ] 李瑞， 敖雁， 孫啟洵， 等. 大田農(nóng)業(yè)物聯(lián)網(wǎng)應(yīng)用現(xiàn)狀與展望[J]. 北方園藝， 2018（14）： 148-153.

Li Rui， Ao Yan， Sun Qixun， et al. Application and prosprct of agricultural interent of things in crop field. [J]. Northern Horticulture， 2018（14）： 148-153.

[ 2 ] 李曉靜， 余東滿. 改進蟻群算法在果蔬采摘機器人路徑規(guī)劃中的應(yīng)用[J]. 江蘇農(nóng)業(yè)科學(xué)， 2018， 46（23）： 253-258.

Li Xiaojing， Yu Dongman. Application of improved ant colony algorithm in path planning of fruit and vegetable picking robot [J]. Jiangsu Agricultural Sciences， 2018， 46（23）： 253-258.

[ 3 ] 崔永杰， 王寅初， 何智， 等. 基于改進RRT算法的獼猴桃采摘機器人全局路徑規(guī)劃[J]. 農(nóng)業(yè)機械學(xué)報， 2022， 53（6）： 151-158.

Cui Yongjie， Wang Yinchu， He Zhi， et al. Global path planning of kiwifruit harvesting robot based on improved RRT algorithm [J]. Transactions of the Chinese Society for Agricultural Machinery， 2022， 53（6）： 151-158.

[ 4 ] 劉順， 閆榮蘭， 臺浩嬌， 等. 基于局部勢場A*算法和動態(tài)窗口法的農(nóng)用輪式機器人路徑規(guī)劃[J]. 江蘇農(nóng)業(yè)科學(xué)， 2022， 50（2）： 192-198.

Liu Shun， Yan Ronglan，" Tai Haojiao， et al. Path planning of agricultural wheeled robot based on local potential field A* algorithm and dynamic window method [J]. Jiangsu Agricultural Sciences， 2022， 50（2）： 192-198.

[ 5 ] 陳娟， 姚立健， 徐麗君， 等. 基于無模型自適應(yīng)控制的設(shè)施園藝自動導(dǎo)航車輛路徑跟蹤[J]. 江蘇農(nóng)業(yè)科學(xué)， 2022， 50（8）： 187-192.

Chen Juan， Yao Lijian， Xu Lijun， et al. Path tracking of automatic navigation vehicle in protected horticulture based on model?free adaptive controller [J]. Jiangsu Agricultural Sciences， 2022， 50（8）： 187 -192.

[ 6 ] 王輝， 王景良， 朱龍彪， 等. 多功能農(nóng)用機器人路徑規(guī)劃的多種優(yōu)化算法[J]. 江蘇農(nóng)業(yè)科學(xué)， 2018， 46（5）： 199-203.

Wang Hui， Wang Jingliang， Zhu Longbiao， et al. Path planning of multi?functional agricultural robot based on multiple optimization algorithms [J]. Jiangsu Agricultural Sciences， 2018， 46（5）： 199-203.

[ 7 ] Bengio Y， Lodi A， Prouvost A. Machine learning for combinatorial optimization： A methodological tour d'horizon [J]. European Journal of Operational Research， 2021， 290（2）： 405-421.

[ 8 ] 王原， 陳名， 邢立寧， 等. 用于求解旅行商問題的深度智慧型蟻群優(yōu)化算法[J]. 計算機研究與發(fā)展， 2021， 58（8）： 1586-1598.

Wang Yuan， Chen Ming， Xing Li?Ning， et al. Deep intelligent ant colony optimization algorithm for solving traveling salesman problem [J]. Journal of Computer Research and Development， 2021， 58（8）： 1586-1598.

[ 9 ] Xin L， Song W， Cao Z， et al. Multi?decoder attention model with embedding glimpse for solving vehicle routing problems [C]. Proceedings of the AAAI Conference on Artificial Intelligence， 2021， 35（13）： 12042-12049.

[10] Vaswani A， Shazeer N， Parmar N， et al. Attention is all you need [C]. Proceedings of the 31st International Conference on Neural Information Processing Systems， 2017： 6000-6010.

[11] 王紅君， 付勇， 岳有軍， 等. 基于并行蟻群算法的設(shè)施溫室機器人多點路徑規(guī)劃的研究[J]. 江蘇農(nóng)業(yè)科學(xué)， 2019， 47（17）： 237-241.

Wang Hongjun， Fu Yong， Yue Youjun， et al. Study on multi?point path planning of facility greenhouse robot based on parallel ant colony algorithm [J]. Jiangsu Agricultural Sciences， 2019， 47（17）： 237-241.

[12] Vinyals O， Fortunato M， Jaitly N. Pointer networks[J]. arXiv： 1506. 03134， 2015.

[13] Nazari M， Oroojlooy A，" Snyder L， et al. Reinforcement learning for solving the vehicle routing problem [C]. Proceedings of the 32st International Conference on Neural Information Processing Systems， 2018： 9839-9849.

[14] Kool W， Van hoof H， Welling M. Attention，" learn to solve routing problems [C]. Proceedings of the International Conference on Learning Representations， 2019.

[15] Li J W， Xin L， Cao Z G， et al. Heterogeneous attentions for solving pickup and delivery problem via deep reinforcement learning [J]. IEEE Transactions on Intelligent Transportation Systems， 2021， 23（3）： 2306-2315.

[16] Williams R J. Simple statistical gradient?following algorithms for connectionist reinforcement learning [J]. Machine Learning， 1992， 8（3-4）： 229-256.

[17] 王揚， 陳智斌， 楊笑笑， 等. 深度強化學(xué)習(xí)結(jié)合圖注意力模型求解TSP問題 [J]. 南京大學(xué)學(xué)報（自然科學(xué)版），" 2022， 58（3）： 420-429.

Wang Yang， Chen Zhibin， Yang Xiaoxiao， et al. Deep reinforcement learning combined with graph attention model for solving TSP [J]. Journal of Nanjing University （Natural Science）， 2022， 58（3）： 420-429.

[18] Nabaei A， Hamian M， Parsaei M R， et al. Topologies and performance of intelligent algorithms： A comprehensive review [J]. Artificial Intelligence Review， 2018， 49（1）： 79-103.