高方方,陳焱,劉美慧,沈彬,徐啟宸
(1.深圳中廣核工程設計有限公司,廣東 深圳 518100;2.北京郵電大學,北京 100876;3.中國信息通信研究院,北京 100191)
2018~2023 年思科年度互聯網報告顯示,到2023 年,連接到IP 網絡的設備數量將是全球人口的三倍以上[1]。激增的數據流量帶來了大量的網絡擁塞、分組時延和傳輸抖動,同時,一些新興應用如自動駕駛、遠程醫療等對網絡有著超低時延、超低抖動和超高可靠性的確定性通信要求,而傳統網絡提供的“盡力而為”服務已經無法滿足其毫秒到微秒級別的應用需求,迫切需要建立起能夠提供“準時、準確”服務的確定性網絡傳輸體系。
確定性網絡作為一種新型的網絡架構,旨在提供高可靠、低時延的確定性傳輸保障。IETF 確定性網絡(Deterministic Network,DetNet)工作組將確定性網絡描述為一種可以提供極低丟包率和有界端到端時延的網絡[2];2021 年紫金山實驗室發布的《確定性網絡技術體系白皮書》[3]將確定性網絡定義為在以太網的基礎上為多種業務提供端到端確定性服務質量保障的一種新技術。目前確定性網絡還沒有一個官方的定義,但從當前技術發展來看,確定性網絡技術主要從時延、抖動、帶寬、丟包率和可靠性5 個維度來保障網絡的確定性傳輸,通過時間同步、資源預留、流量控制和數據包優先級等技術,實現網絡中基本數據包傳輸的可預測性。
確定性網絡技術類別主要可分為固網確定性網絡技術和無線確定性網絡技術,目前國內外的多個標準化組織在持續推進確定性網絡技術的研究。固網確定性網絡技術以靈活以太網(Flexible Ethernet,FlexE)、時間敏感網絡(Time Sensitive Network,TSN)等為典型代表,無線確定性網絡技術主要包含5G 確定性網絡(5G Deterministic Network,5GDN)。表1 對現有的確定性網絡技術體系進行了簡單的分類總結。

表1 典型確定性網絡技術
當前的固網確定性網絡技術主要涵蓋了OSI 模型中的Layer1~Layer3,對3 層以上的確定性網絡技術研究較少。IEEE 802.1 工作組于2005 年開始制定音視頻橋接(Audio/Video Bridging,AVB)[4]標準簇以保障音視頻數據流的確定性傳輸;為了將應用場景拓展到工業自動化、輔助駕駛等領域,AVB 工作組于2012 年更名為TSN工作組,并將其定義為在以太網上確定性傳輸數據幀的一系列協議標準。針對傳統IP 網絡自身具有的不確定性問題,IETF 于2015 年成立了DetNet 工作組,專注于第3 層網絡,致力于打造一種可以提供極低丟包率和有界端到端時延的網絡。為了契合5G 承載網網絡切片、業務隔離等發展需求,FlexE 標準于2015 年初在光網絡論壇(Optical Interworking Forum,OIF)啟動,先后制定了FlexE IA1.0[5]和FlexE IA2.0[6]標準。在無線確定性領域,研究的重點主要集中于5GDN 技術,3GPP 組織不斷推進5G 確定性技術的發展,先后發布的R15[7]、R16[8]、R17[9]標準中,5G 網絡的確定性承載能力也在不斷增強。中國通信標準化協會(CCSA)持續跟蹤國內外確定性網絡技術的發展,除了上述確定性網絡技術之外,CCSA 與華為等單位共同推進確定性IP(Deterministic IP,DIP)技術的標準化工作,已發布多項DIP 技術相關草案,對DIP 網絡的總體架構、協議規范、技術測試等多方面內容進行了標準化[10]。
為了滿足網絡融合承載時所面臨的快速組網、資源靈活配置等需求,使用FlexE 技術來實現帶寬按需分配和硬管道隔離等方案。FlexE 技術通過在標準以太網基礎上引入FlexE Shim 來實現物理層和鏈路層的解耦,從而完成網絡業務帶寬的動態靈活調整,主要可以提供捆綁、通道化和子速率三種功能。如圖1 所示,FlexE 技術架構主要包括FlexE Client、FlexE Shim 和FlexE Group三個模塊。FlexE Client 的業務數據流經過64b/66b 編碼后得到的數據塊,再經過FlexE Shim 的處理,并將編碼后的數據塊承載在長度為20 Slot 的Sub-Calendar 邏輯單元上,最后映射到FlexE Group 層實現分配帶寬的數據傳輸[11]。

圖1 FlexE 結構示意圖
TSN 技術能夠為新型網絡場景中的時間敏感業務流提供低時延高可靠的傳輸過程。圖2[12]展示了時間敏感網絡標準簇中的主要標準。

圖2 時間敏感網絡主要標準
時間同步是TSN 實現確定性傳輸的基礎。TSN 工作組制定了IEEE 802.1AS[13],利用本地時鐘同步(Local Clock Synchronization,LCS)算法與最優主時鐘算法(Best Clock Master Algorithms,BCMA)實現網絡中各設備的本地時鐘與主時鐘之間的同步。為了降低關鍵數據流的傳輸時延,TSN 小組開發了基于時鐘同步的流量調度機制,包括802.1Qbv[14]協議中提出的時間感知整形(Time Aware Shaper,TAS)機制和IEEE 802.1Qch[15]協議中提出的循環隊列轉發(Cyclic Queuing and Forwarding,CQF)機制。同時,為了減小普通流對快速流傳輸的影響,802.1Qbu[16]和802.3br[17]聯合定義了幀搶占機制,當快速幀到來時,即使可搶占幀正在傳輸,也會立即對其進行分片操作,使得快速幀無需排隊即可傳輸。為了實現網絡的可靠傳輸,TSN 主要依靠IEEE 802.1CB[18]和IEEE 802.1Qci[19]兩個協議,前者用于關鍵流的冗余傳輸,降低丟幀率;后者則在設備輸入端口進行逐流過濾與監管。
在廣域網絡中,數據傳輸的地理位置跨度較大,往往需要經過多跳中繼才能夠到達最終的目的地,增加了數據傳輸的時間不確定性,而跨園區工業網絡、大型在線游戲等場景恰恰需要網絡在更廣的范圍內提供確定性保障。為了將確定性傳輸擴展到更廣區域,IETF Det-Net 工作組專注于保障第3 層路由段的確定性傳輸,工作內容主要集中于整體架構、數字平面、控制平面和YANG 模型等方面,目前已公開發布了14 份RFC 文件,另有8 份草案正在討論中。
RFC8578[20]表明,DetNet 技術適用于工業自動化、控制系統、電力設施、樓宇自動化等一系列對網絡低時延和超低分組丟失等有著強烈需求的應用場景。DetNet目前被定義于IP 和MPLS 數據平面之上[21],能夠對數據流進行流識別、流轉發、流聚合、流處理以及封裝等操作[22-23]。DetNet 數據平面按照功能劃分主要可分為服務子層與轉發子層,如圖3 所示,服務子層主要負責數據包的排序、復制/消除、編/解碼等功能,轉發子層則提供資源預留和顯示路由的功能。

圖3 DetNet 堆棧模型
現有的工業控制網絡普遍采用局域網絡架構,無法滿足跨車間、跨廠區的大規模組網和遠程控制需求。讓海量數據在網絡中更加“確定地”完成端到端的傳輸,是未來IP 網絡發展的必然趨勢。確定性IP(DIP)技術是華為和紫金山實驗室共同提出的一種新穎的三層確定性網絡技術架構,能夠在同時承載辦公、生產業務流量的IP 網絡中,將工業控制類業務流量的時延抖動控制在閾值范圍內,使得IP 網絡也可用于工業控制系統的實時通信。
如圖4 所示,DIP 技術的總體架構主要由轉發平面的邊緣整形、周期映射和控制平面的顯示路徑規劃三部分組成,還可以使用雙發選收技術來進一步提升網絡的可靠性[24]。DIP 技術通過具有優先級的門控調度來控制IP 數據包的轉發,降低關鍵數據流的傳輸時延。在網絡入口運營商邊緣(Provider Edge,PE)處使用邊緣整形,通過周期映射在網絡中進行逐跳轉發,可以將時延抖動總是控制在兩個周期內,體現了其精確的抖動控制能力。此外,DIP 技術使用顯示路徑規劃技術,根據網絡中各類資源的剩余情況為接入的數據流預留相應資源,流的報文進入網絡中,可以按照提前規劃好的顯示路徑進行確定性轉發。

圖4 確定性IP 網絡的總體架構
可移動設備的部署為生產制造提供了極大的靈活性,同時也對網絡的時延、帶寬等提出的新的要求。為了進一步增強5G 網絡的確定性傳輸,3GPP R16 版本開始將TSN 納入5G 標準,即時間敏感通信(Time Sensitive Communication,TSC),整體使 用IEEE 802.1Qcc[25]中 定義的完全集中式配置模型,而5G 系統作為TSN 邏輯網橋與外部網絡集成,可進一步滿足業務的高可靠與確定性需求,其架構如圖5 所示。此外,R16 還采用了延時關鍵可保障比特速率、切片、用戶面功能下沉分流等技術來降低傳輸時延,同時結合了時延敏感通信輔助信息、保持和轉發機制等技術來消除抖動。

圖5 5G TSN 融合架構
3GPP R17 版本在R16 的基礎上對5G TSN 融合架構進一步增強,提出5G 內生確定性概念,其控制面支持TSN 相關功能,使得5G 核心網脫離了對外部TSN 網絡的依賴而實現確定性傳輸調度,此外還通過用戶面功能增強實現終端間的確定性傳輸,并支持多時鐘源技術[26]。3GPP R18[27]則支持5G 與DetNet的融合,使得其能夠在廣域范圍內提供確定性網絡服務。
電力通信網絡是智能電網的重要組成部分之一,承擔著各個環節的信息采集、網絡控制等重要業務,是促進電力系統整體高效運行的關鍵。電力通信網的基本組成包括電力骨干通信網、電力廠站實時監控網以及電力通信接入網等,而這些網絡均需要在一定程度上滿足電力業務的時間同步、通信服務質量保障、網絡冗余、網絡安全等確定性通信需求。
為了進一步保障電力通信網絡的實時性與可靠性,如圖6 所示,可在電力場景中使用確定性網絡融合部署架構,綜合運用5G、TSN、FlexE、DetNet 等技術,多角度、全方位地保障電力系統的正常運維,實現關鍵環節的精準把控。

圖6 電力場景下確定性網絡融合部署架構
在發電廠的設備現場,使用TSN 技術來提供確定可靠的傳輸通道。例如在火力發電廠的分散控制系統(Distributed Control System,DCS)中,控制層的工程師站、操作員站、歷史站及接口站功能與數據傳輸要求各不相同,TSN 網絡在控制層實現了不同時間敏感度數據的混合傳輸,監控系統產生的數據在經過處理和分析之后,反饋給控制層從而實現整個系統的智能化診斷與決策,在簡化了整體的網絡布線復雜度的同時,也確保了設備層的現場設備關鍵控制指令能夠優先在DCS 網絡被傳輸。
發電集控系統利用計算機通信技術、智能測控技術、大數據技術及自動化技術,對發電企業全廠進行集中監視、集中控制、集中調度、集中管理,是電廠的生產控制中心。各個電廠分散的地理位置決定了電廠與集控系統之間通信已無法局限在局域網絡中,為實現集控系統的實時企業管理,可以在電廠與集控中心之間部署DetNet 或DIP 網絡,能夠實現廣域范圍內網絡確定性通信的可靠保障。在集控系統內部,可以使用基于IEEE 802.1Qcc 協議的集中式配置模型,通過集中式網絡配置管理器、集中式用戶配置管理器及SDN 網絡設備的相互配合,可以自動協商完成設備的接入配置,實現了集控系統的智能運維,減輕了集控系統的人工干預工作,保證了電廠集控系統的安全。
為了保障各種電力業務的正常運行,電力相關的信息需要傳輸到家庭網絡、樓宇區域網絡、工業區域網絡之中。在電廠與5G 核心網之間使用5G over TSN 技術,能夠讓5G 網絡對TSN 數據進行接力傳輸,利用FlexE 對組網進行切片規劃,實現生產控制、生產非控制、生產管理與信息管理各區之間的邏輯隔離。無線傳輸側使用PRB 切片+5QI 優先級調度的方法,實現關鍵數據的資源預留與低時延傳輸。
基于上述架構,將確定性網絡部署在電廠生產作業的各個關鍵環節之中,不僅保障了電廠內部生產控制的實時性與高效性,同時也保障了廣域范圍內電力系統整體的靈活化與智能化。
當前的工業自動化網絡存在著諸多問題。在傳統工業控制網絡中,各類現場總線協議相對封閉,在控制信號和其他信息往往需要在不同的網絡中傳輸的情況下,增加了網絡布線的復雜度和成本;隨著業務類型的不斷豐富,對網絡的要求也不斷增長。例如,工廠中部署的各類無線設備數據和視頻監控圖像都需要實時地將數據上傳到控制中心進行分析。另外,對于跨園區協作的、需要遠距離傳輸的復雜業務數據,對廣域網范圍的時延保障提出了新的要求。
如圖7 所示,工業自動化可根據不同場景劃分為產線級、車間級、園區級、企業級等。在產線級生產場景中,PLC 控制器下發控制指令操控各類機器精準完成周期性任務,能夠保障控制信號及時準確地下發到現場設備中,同時TSN 網絡還能夠保證控制信號和其他非周期數據共網傳輸,降低了現場布線的復雜程度。在車間級生產場景中,存在著各類工業無線設備,使用5G uRLLC技術能夠保障其超低時延的高可靠通信,車間數據采集后在邊緣云進行處理,同時將關鍵信息傳輸至綜合接入網。在園區級生產場景中,各類視頻數據、無線小車與機器人數據通過DetWiFi 確定性地傳輸至園區承載網中,園區內的私有云將所有有效數據進行集中處理,即通過AI 訓練,實時地對園區內各環節起到輔助診斷與智能決策的作用,同時園區承載網使用5G+TSN 技術來保障其對數據的確定性傳輸。在企業級生產場景中,時常需要進行跨園區的協作,大規模數據在園區之間進行遠距離傳輸時可使用DetNet 與DIP 技術保障3 層網絡的確定性時延,此外還可以使用FlexE 技術打造專用VPN來實現業務間的隔離,進一步實現傳輸確定性。

圖7 工業場景下確定性網絡融合部署架構
不同應用對網絡的時延、抖動、丟包率等指標有著不同的需求,確定性網絡以保障應用確定性需求為最終目的。網絡QoS 越高,傳輸機制越復雜,成本也越高,因此不能一味地追求高質量的網絡QoS,而是要“因地制宜、對癥下藥”,綜合考慮性能和成本之間的平衡。當前細分應用場景眾多,無法直接從業務質量需求中提取出網絡的確定性傳輸需求。要解決上述問題,歸根結底是需要解決應用的確定性需求和網絡的確定性能力之間的映射問題。業務KQI 由業務或相關設備自身的特性決定,其滿足標準所需要達到的閾值往往是固定的。可以基于前期積累的業務與網絡數據,篩選出與業務KQI緊密相關的網絡KPI 類型,構建業務KQI 閾值和網絡KPI 閾值的映射模型。在業務KQI 閾值范圍內,對不同場景中網絡的性能指標進行合理配置,既能夠保證業務的正常運行,也能夠最大程度節約成本,有利于促進確定性網絡的大規模應用部署。
在端到端的確定性傳輸保障過程中,不同層級之間的準確映射對總體的確定性保障接力來說至關重要。不同層級的確定性技術協同運作是一種復雜的過程,目前已有不同類型確定性數據流映射的相關研究。在5G與TSN 的融合架構中,使用TSN AF 來實現TSN 網絡參數和5GS QoS 配置文件之間的映射,協商流量處理和相關QoS 策略,TSN AF 模塊對5G+TSN 融合的控制層進行翻譯,并通過基于IEEE 標準映射TSN 流來確定TSN QoS 等信息。在TSN 與DetNet 融合 架構中,TSN 域的 兩端需要進行TSN 流和IP 流之間的映射,主要通過在數據鏈路層運行的被動和主動流識別功能的組合來實現,DetNet 節點則需要提供TSN 子網的特定以太網封裝以確保在子網內進行正確的TSN 處理。5G+TSN 與Det-Net+TSN 只是眾多確定性技術協同配合案例中的一小部分,目前大多數的確定性網絡技術仍然是獨立使用的狀態,尚未充分考慮如何與其他確定性技術實現協調一致,因此同一網絡中不同層級之間的確定性映射機制仍有待研究。
確定性網絡技術并不是單一的一種技術,而是一系列協議和機制的合集,當前并沒有一種技術能夠實現“一網到底”的端到端確定性,跨域端到端確定性承載成為挑戰。實際工程應用對涉及多層的“大網”中的端到端確定性保障有著迫切的需求,需要多種確定性網絡技術配合實現。確定性技術的協同部署是未來發展的必然趨勢,當前其面臨的挑戰主要包括兩個方面:一方面是確定技術的融合,另一方面是確定性技術的選擇。確定性技術融合主要指的是如何將多種技術融合部署到一張網中,涉及多種確定性機制的數據面和控制面等的協同配合,當前對確定性技術融合方法的具體實現仍不明晰,實際部署困難重重;確定性技術選擇則指的是當業務需要在網絡中傳輸時,具體選擇使用哪些確定性網絡技術來進行保障。不同業務的需求不同,對確定性技術的選擇也不同,當前場景細分眾多,尚未構建完備的需求體系,目前的解決方案大多只使用1~2 個確定性網絡技術,合理選擇并綜合運用多種確定性技術仍存在困難。
業界對網絡端到端確定性承載有著迫切的需求,確定性網絡技術具有良好的發展前景。將確定性網絡融合部署到智能電網場景當中,能夠實現各個關鍵環節的精準把控,保障電廠的安全有序生產;在工業自動化場景中部署確定性網絡,不僅可以實現對現場設備的精確控制,同時能夠將園區內各產線、各車間數據聯動,打造實時智能決策平臺,跨園區的生產協作也成為可能。當前研究大多關注于如何提高網絡確定性承載能力,對準確提取業務確定性需求的研究較少,不利于其低成本部署。確定性網絡技術的協同部署不僅涉及多種技術的協同接力配合,同時也需要不同層級之間的準確映射。此外,大部分確定性網絡技術均專注于自身層級的問題,各自相互獨立,確定性網絡技術的融合仍面臨諸多挑戰。