趙福川 劉愛華 周華東
摘要:高可靠低時延通信(URLLC)是垂直行業數字化轉型的關鍵需求,重點分析了智能電網、工業互聯網垂直行業應用對5G確定性網絡的需求。研究了靈活以太網技術(FlexE)、時間敏感網絡(TSN)、確定性網絡(Detnet)等確定性網絡關鍵技術。認為TSN/Detnet技術是后續確定性業務承載技術的發展方向。
關鍵詞:5G承載;確定性網絡;網絡切片;URLLC;TSN;Detnet
Abstract: Ultra Reliable Low Latency Communications (URLLC) is the key demand of digital transformation of vertical industry, and the requirements of 5G deterministic network for Smart Grid and industrial Internet vertical industry applications are emphatically analyzed. In this paper, the key deterministic network technologies of Flex Ethernet (FlexE), Time Sensitive Networking (TSN) and Deterministic Networking (Detnet) are also studied. It is considered that TSN/Detnet is the development direction of following deterministic bearing technology.
Key words: 5G bearing; deterministic network; network slice; URLLC; TSN; Detnet
1 垂直行業對5G確定性網絡的需求
5G網絡面向萬物互聯,除了傳統的增強移動寬帶(eMBB)互聯網業務外,也引入了高可靠低時延通信(URLLC)業務。URLLC業務覆蓋了智能電網、智能工廠、車聯網等應用場景,是垂直行業數字化轉型的關鍵需求[1]。
URLLC業務對承載網絡的時延、抖動、丟包有嚴格要求,我們把承載這種嚴格要求業務的網絡稱為確定性網絡。確定性網絡的性能要求在傳統的互聯網協議(IP)/多協議標記交換網絡(MPLS)上難以真正滿足,傳統IP網絡采用盡力而為的統計復用服務模型,通過傳輸控制協議(TCP)提供可靠應用的連接;但TCP協議會影響時延,其滑動窗口擁塞控制機制會引起業務突發,導致網絡擁塞和時延抖動,難以提供確定性時延和時延抖動保證。
智能電網和工業以太網是5G垂直行業數字化轉型的2個重要領域。本文中,我們將重點研究這2個領域對5G確定性網絡的需求。
1.1 智能電網
智能電網對安全性要求極高,特別是對繼電保護要求嚴格。繼電保護有距離線路保護、方向比較保護、電流差動保護等,其中電流差動保護應用最廣泛。簡單來說,差動保護就是當輸電線路正常運行時,輸電線路兩端的電流值相同;而當這條輸電線路發生故障時,兩端的電流就會不一致。當差動電流大于差動保護裝置的預定值時,保護啟動進而將被保護設備的各側斷路器跳開,使故障設備斷開電源。
廣域電流差動保護則是將該保護原理拓展應用到廣域電力系統中,通過采集廣域網中多測量點的電流信息進行差動保護的計算和故障定位。通信內容主要包含幀性質及保護起動元件邏輯狀態等信息。國際電工委員會(IEC)61850-90-12標準[2]6.2節中規范了遠程保護的通信性能要求,如表1所示。
不同的電力場景和應用,對通信的時延、抖動和丟包率都有確定性的要求,并對不同的時延要求定義了生存時間值1(TTL1)至生存時間值6(TTL6)的6個細分等級。在表1電流差異模擬比較中,要求時延3~10 ms,抖動小于100 μs,2個方向的不對稱性時延小于200 μs,這3個功能場景對誤碼率(BER)也有很高的確定性要求。
在電網中根據傳送電壓等級不同,往往各種指標需求也不同。IEC 61850-90-12標準中6.11節把廣域下對遠程保護的通信要求按照電壓等級進行了指標需求的細分,如表2所示。
同一個電流差異模擬比較功能場景,超高壓(EHV)、高壓(HV)、中壓(MV)對通信的時延、抖動、不對稱性時延、誤碼率以及時間同步精度等都有不同的確定性要求。
為了滿足通信的可靠性、報文時延特性、數據完整性等要求,通信管道上目前主要采用同步數字體系(SDH)E1方式,常用通道主要包括以2 Mbit/s速率復接2 M(E1)接口和以2 Mbit/s速率采用專用光纖通道。協議上一般采用基于面向對象的通用變電事件通信(GOOSE)這種特殊的通信機制[3]。GOOSE通信采用一種特殊的映射方式: 應用層定義協議數據單元,在經過表示層進行編碼之后,直接映射到數據鏈路層和物理層,而不通過傳輸控制協議(TCP)/IP。傳輸模型簡化為4層:應用層、表示層、數據鏈路層和物理層。為了避免類似TCP滑動窗口擁塞機制導致的突發,同時因為通信信息少,GOOSE協議通過報文重發送機制解決丟包問題,同一個報文一般會發送幾次。
1.2 工業互聯網
工業互聯網網絡是通過5G、大數據、云計算、物聯網、增強現實(AR)、工業機器人、人工智能等基礎技術,構建起來的工業環境下人、機、物全面互聯的關鍵基礎設施[4-5]。
在工業互聯網,自動化控制是最基礎的應用,其核心是閉環控制系統。典型的閉環控制過程周期低至毫秒級別,所以系統通信的時延需要達到毫秒級別甚至更低才能保證控制系統實現精準控制,同時要確保可靠性。工業互聯網對實時性的需求根據應用場合可大致分為3個等級:工廠級的控制需求要求響應時間在1 s左右即可,而過程級控制一般需要響應時間在10~100 ms以內,實時性要求最高的是運動控制,要求響應時間在1 ms以下,甚至達到幾十微秒的量級[6]。
工業互聯網企業內網相對成熟,主要通信技術包括以太網控制自動化技術(EtherCAT)、時間敏感網絡(TSN)等。EtherCAT保留了開放式系統互聯(OSI)系統7層結構中的3層,即應用層(AL)、數據鏈路層(DL)和物理層(PL)。同時修改數據鏈路層協議,在實時通道內由實時介質訪問控制(MAC)接管通信控制,避免報文沖突,簡化數據處理,主要用于要求高同步高可靠性的運動控制領域。TSN采用標準以太網協議,可無縫集成現有以太網應用和標準的IT網絡來提高易用性,同時帶來了確定性時延和高可靠性,實現了工業互聯網所需的遠程診斷、可視化和修復功能。
工業互聯網企業外網,當前主要利用既有的互聯網或承載網搭建的企業專線,但在安全性、可靠性以及低時延低抖動等性能方面不能滿足工業級的要求。工業互聯網是連接人、機、物全面互連的基礎設施,工業互聯網的性能要求對網絡技術提出了新的挑戰。
1.3 行業需求小結
類似上述的智能電網和工業互聯網,URLLC的垂直行業應用對網絡有嚴格的低時延、低抖動、低丟包率和高可靠性的承載需求。如表3所示,第三代合作伙伴技術規范(3GPP TS) 22.261標準[7]定義了URLLC類業務各種場景下端到端時延、抖動、可靠性、帶寬、流量密度等多個網絡性能。
為了滿足上述網絡性能需求,URLLC協議層面通常采用類用戶數據報協議(UDP)的機制,并且將OSI系統中的7層架構精簡為4層或3層。對網絡性能提出了更高、更確定的指標要求,包括毫秒級別的時延、微秒級別的抖動以及6個9的可靠性等。如何實現低時延高可靠的確定性網絡,是5G承載網絡技術面臨的新挑戰。
2 確定性網絡的傳送技術研究
當前實現確定性網絡的傳送技術有2類,一種是L1層時分復用(TDM)模式的管道技術,另一種是L2/L3層時延敏感分組管道技術。
2.1 L1層管道技術難以滿足L2/L3靈活顆粒確定性業務需求
傳統的L1層管道技術類似同步數字體系(SDH)/光傳送網(OTN),采用TDM復用機制來實現的。為了適應IP業務的低成本扁平化建網需求,近期在國際電信聯盟電信標準分局(ITU-T)立項的G.mtn標準引入了以太網物理編碼子層(PCS層)的L1層管道技術,PCS層的L1層管道采用FlexE Shim層的時隙作為業務映射的容器,最小時隙為5 Gbit/s。這些技術都基于固定容器來承載業務,只能滿足容器本身點到點的確定性能,受限于容器大小,管道無法滿足分組業務靈活顆粒要求,尤其是小顆粒要求。
對于L1管道技術,業界也提出了更小顆粒管道的思路,比如支持比切片通道層(SCL)標準5G顆粒更小的1G顆粒管道,支持小于1G顆粒的Sub 1G OTN管道等。該技術雖然能增加L1管道技術對靈活顆粒L2/L3層業務的靈活性,但仍然無法解決L2/L3層業務確定性能的根本問題。該技術方向存在固有的缺陷包括:
(1)L1 TDM技術的限制。L1管道采用TDM復用技術,無法實現帶寬的統計復用,如果是每業務每L1管道,必然導致網絡帶寬碎片化和巨大帶寬浪費,另外大量TDM電路導致的實現成本、功耗和運維成本代價較大。L1管道存在固定大小TDM容器,該容器技術上的限制無法滿足靈活確定性業務的動態帶寬調整需求,而調整帶寬容易導致業務受損。
(2)層網絡架構的限制。L1管道并不感知L2/L3業務轉發性能,L2/L3業務的轉發性能由L2/L3分組層轉發機制決定;因此,L1管道顆粒即使再小,仍然只能保證管道本身的性能,無法保證管道內業務的確定性能,尤其是當管道內承載不同類型的分組業務或者并發的分組業務時L1管道并不能精確感知。
(3)L1管道顆粒與管道速率的限制。L1管道的顆粒就是管道的轉發速率,L1管道的顆粒度越小,轉發速率也越小,轉發時延會增大,比如1G顆粒的SCL管道轉發時延比標準5G顆粒要大5倍。
(4)TDM技術兼容性的限制。L1管道采用TDM復用,有固定大小容器結構。這會帶來不同顆粒管道互通的兼容性問題,比如1G顆粒以太網切片管道和標準5G顆粒的以太網切片管道是無法對接互通的。
L1層管道技術是為L2/L3層業務提供靈活連接的L1管道,為基礎物理網絡重構提供靈活拓撲連接。L1層管道技術聚焦于基礎網絡拓撲路徑的連接和管道本身性能,而并不感知和保證它所承載的L2/L3層分組業務的性能。
2.2 TSN/Detnet是L2/L3靈活顆粒業務確定性承載技術發展方向
電氣和電子工程師協會(IEEE)802.1制定的一系列TSN[8]標準,是以L2層以太網為基礎,滿足L2層時間敏感業務的新一代以太網標準。它除了滿足傳統音頻和視頻業務的確定性質量外,重點滿足面向工業互聯網等垂直行業應用的需求。Detnet[9]是國際互聯網任務組(IETF)成立的支持L3層確定性網絡工作組,支持在L3層滿足大范圍和大規模確定性業務的組網需求。Detnet網絡的轉發面技術當前以TSN技術為基礎,因此,本文轉發面以TSN技術為研究對象。
與L1層管道技術不同,L2層TSN技術基于以太網分組轉發架構,為了滿足L2/L3業務的確定性能,針對每條L2/L3業務流維護每流的轉發狀態,從流量特征、流量監管、隊列管理到業務調度等分組業務轉發的各流程保證每業務轉發性能,滿足每業務靈活顆粒的要求。與L1層管道技術相比,TSN/Detnet技術具備如下優勢:
(1)解決業務確定性能的根本問題。TSN/Detnet技術基于分組轉發技術,在L2/L3分組層保證業務性能,從根本上解決了每業務性能保證的問題。
(2)適應業務靈活帶寬顆粒的要求。TSN/Detnet技術基于分組業務特征維護每業務轉發狀態,能適應業務靈活帶寬顆粒的要求,提升了轉發效率。
(3)滿足不同類型業務和并發業務的轉發要求。TSN/Detnet技術通過業務識別、隊列和調度等技術支持不同類型的業務和并發業務的轉發性能,滿足多業務承載的性能要求。
3 城域網TSN確定性轉發技術研究
3.1 TSN每業務流量監管(IEEE 802.1Qci/Qcr)
TSN技術為了保證每業務的轉發性能,對每節點業務流量的輸入和輸出都有監管的要求。首先業務的輸入需要滿足每業務流量監管(IEEE 802.1Qci)的要求,包括校驗業務流的速率和包長,而出口為了不引入業務突發,也可以對每業務進行流量整形(IEEE 802.1Qcr)。
對于城域網,該要求與業務服務質量(QoS)(入口Policing和出口Shaping)要求類似;但是業務跳數和并發業務流數會大于TSN傳統的局域網應用,同時也存在不同速率接口轉換的影響問題。因此,TSN技術在城域網結合類似SCL的L1管道技術可以解決城域網L1拓撲和不同接口速率的問題,而且SCL標準5G顆粒度提供了較好的管道顆粒與轉發速率的平衡。
3.2 TSN業務確定性調度技術(IEEE 802.1Qbv/Qch)
TSN核心技術在于業務的確定性調度,該技術借鑒了TDM技術的思路增強以太網分組調度技術支持業務確定性轉發性能,目前已標準化的主要包括基于時間門調度(IEEE 802.1Qbv)和循環隊列調度技術(IEEE 802.1Qch,即循環隊列轉換(CQF))。
時間門調度將傳統分組調度機制增強為基于時間的調度,調度單位為時間,每個調度隊列根據設定的時間控制該隊列門選擇開關來確定是否允許被調度,從而實現業務隊列基于時間的調度。如圖1所示,時間門調度表T0時間內隊列0, 2, 3, 5, 6, 7門選擇開關打開,允許發送業務,而隊列1和4則關閉,不允許發送業務。
循環隊列調度通過收發循環隊列來支持確定性轉發時延,最簡單的循環隊列由1個發送隊列和1個接收隊列組成。在設定的循環時間(Cycle)內,接收隊列只接收將要被調度的業務報文,而發送隊列只負責發送該隊列的報文;下一個Cycle周期2個隊列循環輪換,即原接收隊列轉換為發送隊列,將前一個周期接收的業務報文發送出去,而前一個周期的發送隊列用于接收本周期內的業務報文。該機制通過保證了每個周期接收的業務報文必須在下一個周期內發送出去,因此,每個節點轉發業務的時延是確定的,即正常為1個Cycle。CQF轉發示意圖如圖2所示。
為了保證業務端到端的轉發時延,時間門調度機制和CQF調度機制,需要部署時間同步用于同步每跳轉發的調度時間。因此,該技術對于城域網應用有較大的限制。一是業務經過路徑的所有節點均需要部署高精度時間同步;二是在設置業務調度時間時,需要精確計算鏈路時延并逐跳設置精確的調度時間,帶來了管理和控制工作的復雜性;三是城域同步精度和多跳處理,需要相對局域網較大的調度時間片來容忍調度誤差,這將會稍增大該機制在城域網應用的轉發抖動。
(1)確定性業務集中管控。
TSN/Detnet業務為了保證每業務確定性服務質量,需要依賴集中管控技術,包括集中配置業務端到端資源預留避免擁塞丟包、配置業務監管參數和調度參數等。
集中管控技術(SDN Controller/NMS)可以實現TSN/Detnet業務的管控要求。首先通過每業務資源預留實現端到端轉發資源保證,避免業務擁塞出現丟包和影響轉發時延;通過合理的資源預留配合每業務流量監管,可以避免業務的擁塞和丟包。其次,TSN增強確定性調度技術針對每業務配置相關的參數也需要集中計算和配置,比如CQF每業務關聯的Cycle,如圖3所示。
集中管控技術在城域網已經普遍應用,對于支持TSN/Detnet確定性業務,現有的集中管控技術只需增加對確定性業務的管控功能即可滿足要求。
(2)TSN/Detnet技術在城域網的應用和局限性探討。
TSN技術標準IEEE在2018年底基本標準化,在局域網中逐步得到應用;Detnet技術IETF針對IP/MPLS封裝和操作維護管理(OAM)部分正在進行標準化。但TSN/Detnet技術目前應用到城域網仍有局限性:
TSN確定性調度目前基于時間進行,其端到端性能保證均要求部署時間同步;對網絡也有要求,該要求在局域網中容易得到滿足,但是對于城域網則受到一些因素的限制。不要求部署時間同步的確定性調度技術仍在研究中。
TSN基于時間的調度在局域網中應用忽略鏈路時延,但是在城域網中鏈路時延基本不能忽略,這樣給基于時間的調度機制增加了復雜性和額外的因素。
TSN/Detnet技術需要維護每業務的轉發狀態,存在業務支持的規模和擴展性問題,當前有確定性轉發的業務數量比較少,這個問題尚不突出。
TSN基于時間的調度機制受到一些分組特性的影響,比如包長大小對調度時間的影響,多流匯聚對業務突發和調度的影響等,復雜場景的TSN業務性能有待檢驗。
4 確定性網絡傳送技術研究
趨勢
L1層技術是傳統采用TDM復用的硬隔離管道技術,以SDN/OTN TDM管道為典型代表;FlexE技術[10]則在以太網接口架構下引入了類TDM硬隔離通道,中國移動切片分組網(SPN)SCL[11]進一步在以太網分組轉發架構下引入了類TDM硬隔離管道。但是傳統TDM管道只能保證管道本身性能的確定性,無法滿足管道內業務,尤其是分組業務性能的確定性。而L2層以太網和L3層IP技術已經成為當前主流的業務承載技術,L2/L3層確定性承載技術逐步成為目前研究的熱點。
TSN/Detnet作為L2/L3層靈活顆粒確定性業務承載技術,當前適合作為小規模確定性業務層承載技術應用到城域網中。該技術與管道層技術可以有機結合,滿足面向5G靈活顆粒確定性業務承載需求和靈活切片的需求。在SPN網絡中,管道層技術提供基于5G顆粒的網絡靈活確定性連接,而TSN/Detnet技術提供靈活小顆粒確定性業務承載,是后續確定性業務承載技術的發展方向。
5 結束語
目前,如何實現低時延高可靠的確定性網絡,仍然是5G承載網絡技術面臨的新挑戰。而在確定性網絡的關鍵技術中,TSN/Detnet技術已經可以應用到城域網絡,滿足業務對低時延和確定性服務質量的要求。盡管如此,TSN/Detnet技術仍有進一步提升的空間,包括降低確定性轉發對時間同步的要求、解決業務包長變化對確定性轉發和業務性能的影響等,這些技術的突破可以降低TSN/Detnet技術應用的限制并進一步提升轉發性能。