算力增長無止境NVIDIA DRIVE AGX Orin是如何“開車”的？

張平

2020年6月24日凌晨，英偉達CEO黃仁勛和梅賽德斯-奔馳全球總裁康林松一起宣布，兩家公司將共同研究“軟件定義的車輛”，并且奔馳將從下一代汽車開始全面引入英偉達的DRIVE AGX Orin自動駕駛平臺。實際上在五天前，奔馳母公司戴姆勒宣布和寶馬公司停止了在自動駕駛上的合作。英偉達的DRIVE AGX Orin到底有怎么樣的魔力能夠引得奔馳“背友”呢？其核心的Orin SoC在技術上究竟有何特別之處？

十二年磨一劍的Orin

英偉達在大約十二年前邁入SoC設計領域，并通過自行設計SoC切入移動計算市場，試圖開拓全新的利潤空間，但由于缺失無線通信技術，最終鎩羽而歸。在放棄了移動計算市場之后，英偉達又嘗試進入游戲主機、平板電腦、專業設備等領域，并取得了一些成績。當然，這些領域并不能和逐漸興起的A I計算和自動駕駛領域相提并論。要知道任何公司一旦在自動駕駛市場占據了先機，這個無比龐大的藍海市場將帶給這家公司難以想象的財富。

因此，英偉達在自動駕駛芯片上可謂全情投入，推出了全新的包含獨立設計SoC的DRIVE系列硬件和相關軟件，并積極在汽車上開始自動駕駛測試。回顧歷史，2015年英偉達就借助Te g ra芯片試水了汽車市場，推出了DRIVE PX。隨后英偉達開始一年一升級，2016年發布DRIVE PX2，2017年推出了DRIVE PX Parker，并開始采用漫畫中的超級英雄為產品命名。2018年，英偉達CEO黃仁勛在GTC 2018上宣布了英偉達DRIVE系列產品路線圖。在這個路線圖上，人們看到了英偉達在自動駕駛產品迭代和性能方面的一些設想，英偉達也順勢發布了同樣采用超級英雄命名的新一代產品，也就是DRIVE Xavier和Xavier SoC。今天，我們已經可以在部分汽車上看到DRIVEXavi er的身影，比如國內新能源汽車品牌小鵬推出的P7。根據英偉達展示的路線圖，接下來的產品被稱作Orin，它在2019年的英偉達GTC China上正式公布，被稱為DRIVER AGX Orin自動駕駛平臺，使用的SoC名為Ori n。實際產品會在2022年為汽車制造商完全準備就緒，Orin也是前文奔馳所選擇的自動駕駛芯片。

Cortex-A78和安培GPU現身：170億晶體管

由于本次發布英偉達只給出了Orin SoC的概要參數，并沒有公布架構設計方面的詳細內容。因此本文也只會針對英偉達目前給出的相關資料進行解讀。

從規模上來看，Orin擁有170億晶體管，是上代Xavier的2倍。考慮到汽車上自動駕駛計算對數據吞吐能力和計算延遲要求極高，因此O ri n現有的規模可能只是當前工藝情況下的妥協，可以肯定的是，未來面向自動駕駛的SoC規模還會進一步擴大。在工藝方面，英偉達一開始對Orin SoC采用的工藝和代工情況都閉口不談，但最終宣布Orin SoC將交由三星代工，使用三星的8nm LPP工藝制造。相比之下，圖靈架構的TU102 GPU擁有186億個晶體管，但是面積高達754mm2。從這個角度來看，Ori n的芯片規模堪比TU102這樣的巨無霸產品。

在架構設計上，O r i n S o C采用的是ARM Hercules CPU內核搭配“下一代”GPU架構，也就是之前本刊介紹過的Cortex-A78。在2019年發布會的時候，英偉達尚未明確表示“下一代”GPU架構是什么，當然現在大家都清楚了，Orin SoC使用的正是安培架構的GPU。也就是說，Orin SoC采用的是目前最先進的Cor tex-A78CPU架構搭配安培架構的GPU，更具體一些的話，Orin SoC采用了12核的Cortex-A78處理器，搭配安培架構的GPU后，總體計算能力可以達到INT8200TOPS，相比前代的Xavier的INT830TOPS，大約提升了7倍之多。

這里需要提到的一點是，在之前的SoC產品中，英偉達都傾向采用自研的CPU核心。比如初代DRIVE平臺使用的Pa r ke r S o C，采用的是2 個英偉達“丹佛”核心搭配4 個Cortex-A57。接下來的Xavier則采用的是8個英偉達自研的“Carmel”核心。但是在Orin SoC上，英偉達放棄了自研核心方案，采用了A R M提供的Cortex-A78核心，后續最多進行小改動和針對性優化。這一點和目前市場上其他廠商的選擇幾乎驚人的一致。比如高通之前都會采用自研CPU核心或者半定制核心，但是在近幾代SoC產品中都逐漸偏向采用ARM公版方案，三星也基本放棄了自研的“貓鼬”架構轉而采用公版方案。這些“殊途同歸”的現象在很大程度上顯示，現有的技術條件下繼續選擇自研ARM高性能處理器架構（或者處理器核心）已經很不劃算了，其研發投入和技術難度已經大到迫使英偉達這類在高性能核心研發上尚算頗有積累的企業放棄之前的設計思想和成果。這樣一來，ARM架構的高性能SoC在同質化問題上就顯得頗為突出了。不過另一面則是英偉達可以將更多的資源放在GPU研發上，而不是市場相對較為小眾的CPU架構設計。值得一提的是，最新消息顯示英偉達正在和控股A R M的軟銀接觸以求徹底收購ARM，一旦英偉達完成收購，未來在ARM架構高性能CPU設計上，英偉達將占有顯著的優勢。

繼續來說CPU架構，本刊在之前的文章中曾介紹過Cortex-A78，簡單來說，這款處理器架構是A R M嚴格按照性能、功率和面積（也就是PPA）進行平衡設計的架構，其主要變化在于分支預測器翻倍，提高電源效率，加入了更多的指令融合內容，重新優化了寄存器設計，縮減了亂序執行窗口，重新調整了指令調度設計，加入了新的AG U等，最終可以在5n m工藝的應用和新架構的改進下帶來相對前代產品在同功率范圍內大約20%的性能提升。Orin SoC用上Cortex-A78后，考慮到英偉達集成了12個Cortex-A78核心并且Orin SoC工作的功率范圍設定會更為寬泛。因此有理由相信，Orin在面對汽車上更多道路信息的時候，憑借更大的功率空間和更高的頻率，能夠帶來更為出色的性能表現。

說完了CPU部分，再來看看GPU。Orin SoC使用的是全新安培架構的GPU，其中值得關注的就是有關深度學習加速器也就是DLA的設計方案。我們知道安培架構中具體實現是第三代張量核心和相關數據壓縮功能。根據英偉達的介紹，在配合相關稀疏性功能后，新的第三代張量核心在面對不同類型的計算時都帶來了極為出色的效能提升。比如新的架構在計算擁有稀疏性的INT8數據時速度是之前架構的20倍，在計算TF32這種新格式的數據時，在數據具有稀疏性的情況下同樣能達到之前處理器架構的20倍。一般來說，自動駕駛使用的數據一般采用INT8格式，并且具有稀疏性，因此在安培架構使用后，整體計算效能會得到顯著提升。不僅如此，英偉達目前在硬件單元設計上更偏向使用固定功能進行數據加速，這使得特定任務計算能夠擁有更為出色的性能功耗比，這也是SoC設計相當重要的目標之一。

另外，從英偉達給出的Orin SoC圖片可以看出，芯片左側布置了約10組安培GPU核心，右側則是12個CPU核心。其余部分還包括解碼單元、內存控制器、緩存以及外部接口等。整體結構還是頗為復雜的。

除了CPU和GPU外，英偉達還公布了一些Orin SoC的外圍數據。比如Orin SoC為車載設備和傳感器提供了4個10G bps的網絡接口，并且還支持H.265/HEVC/VP9格式的4K@60Hz視頻編碼或者8K@30H z視頻解碼。為了支持如此巨大的數據流量，Orin SoC的內存帶寬被設定在200G B/s，采用LPDDR5規格和256bit內存位寬。其中內存部分的數據還有待證實，考慮到Orin SoC的上市時間，這樣的規格并不令人驚訝。安全特性方面，Orin SoC支持ISO 26262 ASIL-D安全標準。

3倍能耗比提升：OrinSoC的功耗和規模情況

英偉達目前沒有公布OrinSoC的功耗情況，只是簡單提及其性能是上代產品的7倍，能耗比則是上代產品的3倍。簡單計算可知，之前的Xavier的功耗為30W，INT8計算能力為30TOPS，那么其能耗比就是1TOPS/W。相比之下OrinSoC則是3TOPS/W，考慮其200TOPS的總性能，因此OrinSoC的功耗應該大約在65W～70W左右。這個功耗相比現有的車規級SoC來說還是相當高的，但是考慮到OrinSoC的計算能力和英偉達推出了TDP為400W的GPU產品，OrinSoC的功耗又變得不那么難以接受了。

在具體產品實現方面，英偉達宣稱OrinSoC在不同配置下，可以滿足從L2級別到L5級別自動駕駛設備設計，并且暗示OrinSoC將是一個家族產品線，這意味著英偉達可能會推出不同功耗、性能定位的OrinSoC產品。根據現有的非官方資料來看，如果廠商只實現基本的L2級別的自動駕駛，那么可以采用簡化版本的OrinSoC搭配一顆攝像頭，其功耗只有15W，計算能力也降低至36TOPS，只需要一顆OrinSoC即可完成。如果是L2+級別的自動駕駛功能，則需要OrinSoC的中等功耗版本搭配4路攝像頭才能完成，此時OrinSoC的功耗被限制在40W，計算能力為100TOPS。繼續向上，如果要實現L3級別的自動駕駛，需要2顆OrinSoC，以130W的系統功耗實現400TOPS的算力才有希望。L5級別的自動駕駛則要求更高，2顆OrinSoC搭配2個安培GPU，能夠實現2000TOPS的算力，功耗也上升至750W。顯然，L5級別的自動駕駛在目前的技術水平下尚不成熟，高達750W的功耗也是任何新能源汽車都難以承受的。

寫在最后

在最后總的來看，OrinSoC目前的資料顯示英偉達將繼續走在現有的道路上，依靠更新的工藝和更大規模的芯片來最終實現L5級別的自動駕駛。不過有一點值得關注，在之前發布DRIVEXavier時，一些數據顯示2顆XavierSoC搭配2個圖靈GPU，就能夠在320TOPS、460W的計算能力下實現L5級別自動駕駛。但是在新架構發布后，英偉達將算力目標提升到了2000TOPS，同時功耗也大幅度提升。不過仔細對比之后依舊可以發現，新的OrinSoC和相關平臺的每瓦特性能大幅度提升，并且更強的算力有助于設備在更短的時間內完成計算判斷并給出最終的處理結果。畢竟在高速行車的途中，一些事故判斷時間只有大約1秒甚至更低，更強的計算能力能顯著縮短計算機判斷時間并帶來最佳的處置結果。當然，無論是OrinSoC還是之前的XavierSoC，在短期內由于功耗等問題，都不可能徹底實現L5級別自動駕駛，其高昂的功耗阻礙了這些技術的普及。目前我們依舊在等待更新的技術來提升計算效率或者大幅度降低計算功耗，只有算力繼續在可控范圍內增加，我們才有望迎來真正意義上的自動駕駛。