DARPA牽頭建立人工智能在航空航天領域的信任機制

李悅霖

從概念探索到自主作戰，人工智能(AI)正被引入航空航天和國防的新領域。機器學習已在數據分析領域取得了快速進步，下一步將在航空航天領域發力，從飛機的設計與制造到載人與飛行。

波音首席執行官丹尼斯·穆林堡(Dennis Muilenburg)表示，人工智能已經影響到波音業務的方方面面，且這種影響還在繼續擴大。波音于2017年成立了AnalytX組織，專家們已將人工智能應用于供應鏈和制造系統管理以及工程工具集。人工智能正在波音的產品線和飛機系統中發揮著作用。

需克服的技術障礙

不過，在人工智能起飛之前，還有一些障礙需要克服。柯林斯航空航天公司首席執行官凱利·奧爾特伯格說：“要獲得安全認證，必須能預先確定機器在某個場景中的行為，但對人工智能卻無法確定這一點。我們只能繼續研究如何將具有固有非確定性的人工智能應用于確定性的認知世界，找到其邊界在哪里。”

空客、波音、洛·馬等公司正在進行機載人工智能試驗，但還處于起步階段。凱利·奧爾特伯格說：“我認為近期內還看不到人工智能獨立駕駛飛機。人工智能可能會成為一種補充工具，但仍必須有一個能掌控全局的決策系統，在出現故障的情況下，有能力決定飛機的功能。”

到目前為止，航空航天領域的人工智能多半依賴于統計學學習。雷聲公司首席技術官馬克·拉塞爾說:“我不認為現在真的存在人工智能，但未來人工智能一定能發揮出更大作用，而不僅是攝取大量數據加以整理并協助決策。總有一天，機器學習能達到正確的精確度，變得更加確定。”

人工智能在航空航天方面的問題不只有不確定性。當今的機器學習系統在經過篩選海量數據的訓練后，雖然在統計模式識別方面非常強大，但它們無法解釋自己得出的結論。而如果沒有合理的解釋來支持預測，用戶就無法建立起人工智能與人類共存所需要的信任。

聯合技術公司(United Technologies Corp.)首席技術官保羅·埃列門科表示，實現人工智能有很多不同的方法，但大多數在今天都是‘黑箱’。例如，可以訓練一個多層卷積神經網絡，但無法預測該神經網絡將來能做什么、不能做什么，只能得到統計數據，但在現今的鑒定水平下無法對這些數據進行解釋。無從得知人工智能采取行動的目的甚至不清楚它正在做什么。因此，人工智能的替代方法應該是具備可解釋性從而可證明的，還要能提供更好的人機協作能力，這是長期發展的關鍵。

圖1 計算機視覺和機器學習等人工智能技術為大型運輸機的單飛行員操作提供了研究基礎。

由于機器學習固有的復雜性，可解釋性將是客戶接受人工智能系統的關鍵。馬克·拉塞爾說，在檢查代碼時不能說‘我可以驗證它’，事件性質實際是‘我們應如何測試它？’盡管處理了眾多神經網絡，仍有許多程序無法調試，人類無法得知在神經網絡內部到底發生了什么。因此，在某種程度上，必須找到一種方法，讓人類能夠真正理解神經網絡的行為內容和內在的邏輯。

人工智能NEXT計劃

為了達到這一目的，DARPA啟動了人工智能Next計劃，在過去的五年里投入了超過20億美元的資金進行研發。主要目標之一是開發可解釋的人工智能，同時創建能從經驗中學習并在現實世界里運行的系統，減少訓練神經網絡所需的手工標記數量，并防范對網絡的錯誤分類攻擊。

DARPA參與人工智能的歷史始于20世紀80年代，當時DARPA啟動研究第一波人工智能專家系統。專家系統以手工規則的形式對各主題專家的知識進行編碼。一個例子是飛行員輔助計劃，開發能幫助單座戰斗機飛行員的決策支持系統。

DARPA局長史蒂夫·沃克說：“不幸的是，每條規則都有例外。當遇到不符合規則的情況時，專家系統是脆弱的，但如果添加新規則來解釋每個異常，將很快變得難以處理。”

第二波人工智能的重點是以人腦為啟發建立神經網絡，并用大量貼標簽的例子來訓練它們。史蒂夫·沃克說：“從2010年開始，由于具備了足夠強大的計算機硬件技術條件，這些方法的工作效果出奇地好。”

圖2 訓練人工智能處理視距內作戰，能把戰斗機飛行員從日常工作中解放出來管理空戰，包括無人駕駛的僚機。

然而，和第一波專家系統一樣，第二波系統也有缺點。例如在給一幅圖片添加難以察覺的噪聲時，連訓練有素的神經網絡也可能對其分類嚴重錯誤。“到目前為止，我們只找到了針對這種對抗性圖像攻擊的特定解決方案，因為機器學習的實踐已經遠遠領先于理論。”

可解釋人工智能(XAI)計劃

DARPA的可解釋人工智能(XAI)項目正在開發計算體系架構，使神經網絡能夠自我解釋。史蒂夫·沃克說：“神經網絡的知識包含在數以百萬計的鏈接權重因素中，使得這些系統無法解釋它們的決策。可解釋的人工智能將幫助人類操作員在其系統中建立適當的信任水平。”

XAI項目經理大衛·阿哈表示，機器學習系統無法為特定預測提供依據，“可能會讓用戶感到沮喪，尤其是當他們負責關鍵的應用程序時。”XAI項目正在創建能輸出可解釋模型的機器學習過程，其界面允許用戶查詢該模型，并知曉應在何時信任系統。

XAI專注于兩種類型的應用：數據分析和自主控制。以數據分析為例，一個情報分析員與一個機器學習系統共同工作，機器學習系統的職責是觀察圖像、識別特定對象和活動，并就如何響應所觀察到的內容提出建議。

XAI的研究成果之一是，機器學習算法中存在隱性偏見，可能導致誤導性的預測，例如把購物中心誤判為太陽能發電廠，原因神經網絡對停車場等非關鍵特征的關注度超過了用戶對其的關注度，從而使預測復雜化。

XAI項目經理表示，在自主性方面，運營商感興趣的是自動駕駛汽車為何要采取某些行為。由于看不到車輛行駛情況，操作人員無法獲得信息，因此他們希望能夠詢問模型以理解自動駕駛行為。

XAI項目的目標是在不犧牲學習性能的前提下提高可解釋性。在處理傳感器數據時，深度學習模型已被證明可以極大地提升性能，“但常常犧牲了可解釋性。我們的目標是創造一個支持機器學習的人工智能系統，在該系統中用戶可以理解所學習的模型、為什么會生成預測，以及何時他們可以信任模型并與之有效合作。”

在另一個涉及自動駕駛汽車的XAI項目中，車輛控制指令生成負責模型動作的文本解釋。“研究人員發現，當給出解釋后，人類的表現要好得多。也有證據表明這些解釋已經在這個體系中建立了適當的信任。但一個缺點是，如果系統提供了錯誤的解釋，可能會造成非常大的損害。”

DARPA正在推動人工智能進入新的領域，如軟件開發。DARPA項目經理山德普·尼曼解釋說，在軟件開發過程中，系統中的代碼量增加了，軟件中實現的關鍵功能增加了，但不可避免的是軟件的缺陷或漏洞也在同時增加，然而用于軟件開發和質量保證的工具和方法卻沒有隨著代碼量的增加而增加。軟件工程師無法有效使用現有的大型代碼庫來理解bug的來源，無法確保它們不會重復出現。

DARPA項目經理尼曼表示，一個解決之道是把軟件程序作為機器學習的數據。DARPA正在開發代碼挖掘、bug檢測和程序綜合的新能力，目的是使工程師易于搜索現有數據庫以獲得可用的代碼，將基于學習的方法應用于異常檢測，并生成最小規范的程序構件。

DARPA也在將人工智能應用于設計。項目經理簡·范登布蘭德說：“我關注的是設計的早期階段，因為這仍然是一個很有匠心的階段。人工智能如何幫助我們探索所有不同的可能性？在現今選擇很多的條件下，能否利用人工智能探索所有組合來發現真正新穎的東西？”

研究人員利用圓柱繞流的觀測數據訓練了一個深度神經網絡，并用它來生成控制物理行為的方程。計算結果非常貼近用于描述粘性流體運動的納維爾-斯托克斯方程。“能否訓練一個神經網絡來發現我們從未思考過的其他物理定律？也許能創生出一個‘盒子里的牛頓’，比如，把蘋果從樹上掉下的觀測數據發給神經網絡，它就能得出結果F=ma。”

在另一個項目中，研究人員把強化學習和游戲機的物理引擎結合起來，尋找新的飛機滑行方式。“他們發現了一種新的飛行方式，飛機利用不同的邊界層來提取能量，增加飛行距離。人工智能所選擇的這條路徑絕不會被有尊嚴的飛行員所考慮，但有些鳥類會選擇，這說明我們正在發現一些從來沒有想到的新事物。”

DARPA還有一個人工智能項目是利用拓撲優化——根據基礎物理原理來放置和移除材料使重量最小——來平衡形狀與材料之間的關系，但拓撲優化存在的問題是，需要求解一些復雜的非線性方程，必須設置一堆旋鈕，為人工智能提供初步的猜測。“人類不太擅長猜測。如果你不把事情安排好，就永遠找不到解決辦法”。因此，研究人員正在訓練神經網絡。目前機器學習可以設置這些旋鈕并提供初步猜測，能更快地獲得幾個數量級的解決方案。研究人員正在加快新設計的合成速度。

人工智能還被應用到新的制造流程中。在增材制造零件時，金屬底部比頂部維持熱的時間更長，合金晶粒在底部生長的時間更多，因此底部材料的性能與頂部不同。研究人員考慮的問題是：“能否用人工智能來理解如何設置機器的參數，以彌補設計不足或利用其優點？”

波音公司已將此應用于電子束增材制造。“與焊接類似，我們有大量數據和經驗公式來描述焊接方式與材料性能之間的關系。”波音利用神經網絡收集已知的方程和機器的加工數據，進行數據融合，再根據工藝參數導出材料性能。該方法將機器的性能、工藝和材料結合起來，可根據所掌握的所有旋鈕來預測可能的屈服強度。

洛·馬公司解決了另一個問題：如何確信兩塊復合材料粘合成功。XAI項目經理表示，因無法確定粘合度，一直以來采取的解決方式是不得不在材料內部鉆孔、打鉚釘，造成成本和加工時間增加，對材料引入了缺陷。如果能擺脫這一方式，將能節省重量、時間和成本。

由于目前還沒有可靠的數學模型來預測粘合強度，洛克希德公司詳細研究了不同參數的影響，包括溫度、濕度和原材料存放時間。XAI項目人員繪制了一個巨大的決策樹，可以追溯到機器學習的早期。XAI項目經理稱，現在研究人員已找到了獲知粘合是否可靠的方法，“如果在決策樹中段的某處結束，馬上就能知道是否應當繼續，以及能采取何種緩解措施來提高粘合質量。有時，這意味著必須進行特定類型的表面處理。或者，決策樹會告知‘你需要拒絕這一部分，因為你永遠也做不到”，它給了你這樣的洞察力。”

但研究人員也表示，人工智能距離取代人類設計師還有很長的路要走。“從事設計必須清楚這個世界是如何運作的。作為人類，我們不會回到最原始的原則，因為我們經過數十年的學習后在腦中已有了捷徑。但問題是，我們如何利用某種人工智能來發現所有這些捷徑呢？”

DARPA認為人工智能設計的未來是一種伙伴關系，在這種伙伴關系中，人類的責任是形成問題后提供給人工智能。“這些是我需要尋找答案的問題，這些是約束條件”。然后人工智能負責搜索能設計的空間有多大并告知人類：“這里有一些你應該探索的想法”。這一方式轉變成了計算機和人類之間的對話，人類從人工智能中獲得了洞察力，進而改變了形成問題的方式。

人工智能作戰應用

Alias 項目

當人工智能應用于自主作戰，與人的交互就成為一個關鍵問題。

DARPA的Alias項目正在開發高水平的自動化系統，可以加載到飛機上以減少機上人員數量。該系統由西科斯基公司開發，已在西科斯基S-76直升機和固定翼塞斯納208(Cessna 208)“大篷車”多用途輕型通用飛機上飛行，將在美國空軍國民警衛隊的洛馬F-16 Block 30戰斗機上飛行測試。目前正在一架可選有人駕駛的UH-60“黑鷹”直升機上測試，可以有一名、兩名飛行員或不需飛行員。

西科斯基公司正在其Matrix技術項目下在S-76B SARA自主研究機上飛行Alias系統。同樣，西科斯基的UH-60A也被改裝成能使用Alias系統的可選有人駕駛飛行器。與此同時，美國陸軍正在改進最新的UH-60M，在Alias項目下采用Matrix自主管理系統。

圖3 西科斯基公司使用其S-76 SARA自主研究機來開發Alias系統

DARPA的Alias自主系統將在F-16上飛行測試。F-16將是迄今為止采用Matrix進行測試的最高性能的飛機。DARPA計劃將Alias 自主設施集成到F-16批次30飛機上。與直升機上一樣，固定翼飛機上的Alias主要用來協助飛行員減少其工作量。F-16上Alias自主系統的開發與集成將在近期開始，飛行試驗預計在未來三年內進行。

Alias可使飛行員通過平板電腦與自主系統交互，自主系統利用由數據庫和傳感器提供的飛機環境信息，自動地完成任務的規劃與執行。在直升機上，Alias能規劃并執行可避開已知障礙和和探測障礙的路線。

Alias項目經理菲利普·魯特中校說：“在黑鷹這個例子中，飛機上有兩名飛行員，系統在后臺運行，類似于汽車里的車道保持輔助系統。”第二直截了當的是采用零個飛行員，因為飛機上的人工智能系統清楚應對所有行動負責，不需要與飛行員溝通。

“最具挑戰性的情況是只有一名飛行員，因為移走一名人類飛行員后以一個自主副駕駛代替，但這種互動還沒有被很好地理解。”但更具有挑戰性的可能是“少于一名飛行員”——即飛行員無行為能力但又未失去知覺的情況，尤其是在訓練期間。

“我們相信Alias項目對此情況能提供真正的幫助，但這是非常有挑戰性的，因為飛行員可能并沒意識到他們的能力喪失。最難處理的情況是人工智能的正確決策可能會讓飛行員憤怒，發覺自己當時沒有采取必要的行動。那么，在這種讓人類尷尬的情況下如何找到一種新的合作方式呢?”

空戰演化(ACE)項目

目前，Alias項目中不包含人工智能，因為Alias系統的設計初衷是可認證的，而且FAA無法對采用學習行為的不確定性系統認證其適航性。但人工智能正在向空中發展。DARPA啟動了一項計劃，目標是在戰斗機上使用人工智能。該計劃被稱為“空戰演化”(ACE)，旨在創建能夠自動執行格斗機動的算法，使反應時間達到機器速度，并使飛行員從操縱飛機中解放出來管理空戰。

ACE計劃緊隨今年3月由美國空軍研究實驗室(AFRL)公布的Skyborg項目，Skyborg計劃在2023財年之前開發出一個由人工智能控制的“類戰斗機”控制系統原型。

美國空軍的創新加速器Afwerx將在ACE項目下發布一份初步征求意見稿，用于“阿爾法近距空戰測試”。DARPA表示，在這一階段，不同的人工智能近距空戰算法將在一場錦標賽式的比賽中相互較量。

DARPA承認近距空戰未來將非常罕見，并指出ACE項目的最終目標是開發出可信賴的人工智能，使有人機和無人機能在近距空戰和其他類型的空戰中協同工作。

由DARPA戰略技術辦公室(Strategic Technology Office)發起的ACE屬于影響深遠的Mosaic項目。30年前，DARPA的“突擊破壞者”計劃(Assault Breaker program)建立了作戰管理概念，在諾斯羅普·格魯門的E-8C“聯合星”(Joint Stars)等飛機上，人類操作員將傳感器數據拼在一起并指揮攻擊。Mosaic程序的目標是使遙遠的傳感器網絡之間的接口自動化。當單個部分被破壞或毀壞時，這些算法將用于重構網絡。

DARPA將空戰訓練描述為一個熔爐，在熔爐里飛行員的自身能力和對自主系統的信任度得到了很大提高。DARPA表示，ACE將把人機協同近距格斗作為一個挑戰場景，以增強飛行員對自主作戰技術的信任。項目經理丹·賈沃塞克中校說:“當我們朝著未來的戰爭邁進，包括有人平臺作戰和與無人系統協同作戰時，能夠信任自主技術是至關重要的。”

在為期4年的三階段計劃下，作戰自主算法和人機界面將在一系列日益復雜的演習中進行開發和測試，包括先進行縮比模型演習，然后進行一對一和二對二空戰的全尺寸飛機演習。賈沃塞克說：“我們設想在未來，當對方謀劃無人機蜂群作戰時，我們的人工智能技術能實現視距格斗時的瞬間機動，從而保證我方飛行員安全。”

通過像訓練戰斗機飛行員那樣訓練人工智能形成近距格斗規則，未來在加速將機器學習能力從數據中心轉向飛機駕駛艙方面，ACE項目有望發揮關鍵作用。