張海濤
【摘要】 分析政企行業短信時延優化的必要性,通過分步優化實現端到端時延的有效降低,同時提出短信“智能管道”概念,實現基于客戶分類的短信全流程Qos調度。
【關鍵詞】 行業短信 時延優化 端到端
一、引言
隨著移動互聯網時代的到來,通信業進一步拓展,政企客戶(集團)市場迅速蓬勃發展起來,逐步成為運營商收入來源的重要組成部分。運營商開始為企業量身制定個性化的通信解決方案,包括企業寬帶、企業專線、IDC服務、ICT服務、行業應用等。
近年來,各大運營商逐漸將政企市場作為業務發展的戰略重點,政企行業短信作為最重要的行業應用業務之一,受到越來越多的關注,特別是政企大客戶對行業短信的穩定性和端到端時延提出了更高的要求。為了更好支撐政企客戶市場,提升客戶感知和保障政企業務收入,亟需在保證業務穩定的情況下優化行業短信端到端時延。
本文從行業短信下發的全流程角度分析和挖掘可優化點,提出基于全流程“智能管道”的短信下發時延優化方案。
二、時延優化
行業短信業務流程從短信網關的角度可分為消息提交,消息處理和消息下發三個階段,通過分別深入挖掘三個階段目前流程存在的問題,優化短信下發時延,最重要是保證時延的穩定性特別是業務忙時穩定性,如圖1所示。
2.1 提交時延優化
客戶提交至行業網關submit消息,網關會返回submit_response應答,客戶會等待一定窗口的應答的消息,如果應答不及時,可能導致部分EC的下發消息的速度受到影響。這樣從EC角度看,由于網關響應不及時導致下發給最終用戶的短信時延增大。
通過圖2可以看出,客戶提交消息的響應時延代理節點處理時延、調度節點處理時延和內部傳輸時延。進一步分析時延影響的關鍵因素,我們針對本省網關特性優化解碼和檢測算法,縮短業務處理的時間。并通過優化底層傳輸協議棧,縮減內部節點之間的傳輸時延。
該優化實施后,短信網關內部處理縮短至原來的50%,對每條提交到網關的消息雖然是毫秒級優化,但從客戶角度大幅度提升了短信通道的下發速度,部分大客戶下發等待的現象不再出現。
2.2 消息處理優化
提交至網關的消息內部需要進行流控鑒權、更新流控信息和黑白名單等屬性鑒權,這些流程均需要對大型數據庫的讀和寫的操作。由于業務量巨大,對整體系統架構提出的嚴重挑戰。
該部分時延優化本質數據庫處理時延的優化,但數據庫處理時延本身即是一項系統優化工程,一般包括:(1)硬件資源能力的提升。可以考慮升級存儲和CPU提升IO等硬件性能指標。(2)數據庫調優。根據業務調整數據庫參數,進行緩存索引等參數優化。(3)應用優化。優化應用調用數據的方式可大幅度提升數據庫性能,縮短讀寫時延。
基于以上分析,在現網硬件資源不變的情況下,我們應用優化的角度提升消息處理性能,縮短處理時延。通過業務批量提交和業務分表等內部優化方式,數據庫的忙時負荷縮短為優化前40%,業務忙時從業務等待1-5s縮短至無需等待(毫秒級處理時延),大幅度縮短了忙時的消息處理時延。
2.3 端到端時延優化
在有限的系統資源條件下,如何更好的服務客戶,特別是重要客戶(時延敏感)是值得討論的話題。當網關不做業務細分的情況下,當網絡擁塞多個消息同時競爭調度資源時,網關采用“排隊”的方式進行消息調度。這樣勢必會導致時延敏感類的重要客戶(比如銀行等)消息下發延時增加,影響客戶感知。
因此需要對業務做優先級細分進行分類保障。目前行業網關和短信中心的優先級控制是互相分離的,即使網關在消息發送時設置了高優先級,也無法保證消息在行業短信的全流程都處于高優先級狀態。
所以需要有端到端全流程的業務優化方案,將普通用戶和重要用戶下發的消息區分開,并且在全流程中都保持不同的調度優先級。行業網關端到端全流程的業務優化方案包含三個步驟:1,QoS著色;2,多優先級調度;3,優先級傳遞。通過這個方案可以保證不同用戶下發的消息在整個行業短信端到端全流程中處于指定的優先級,區分重要用戶與普通用戶的業務級別,提升客戶感知。
(1)QoS著色。網絡管理員對行業網關的不同客戶劃分不同的優先級。在消息入口處,對不同級別的客戶消息標識不同的優先級,該標識在整個行業短信的整個生命周期均有效。(2)多優先級調度。行業網關采用加權輪循隊列進行調度,經過QoS著色后,VIP客戶的消息進入最高優先級隊列,低優先客戶的消息進入低優先級隊列。VIP客戶的消息得到最優先的調度,重要客戶的消息得到次優先級的調度,普通客戶的消息得到最低優先級的調度。保證VIP客戶的消息在擁塞時總是優先獲得轉發服務,有效降低VIP消息的下發時延。(3)優先級傳遞。行業短信網關和SMSC通過之間通過標準的SMPP協議優先級傳遞。對SMPP消息中的優先級字段進行定義,同時將網關的分級隊列分別映射,實現網關與短信中心之間優先級傳遞。短信中心和下級網關需要配合改造,支持基于傳遞過來的優先級進行調度。
通過省內測試,不同類別客戶消息可實現分級調度,時延敏感類客戶通過優先調度,確保了下發時延不受網關業務量影響。
三、優化效果分析
本優化方案無需硬件及其他配套投資,僅通過優化業務流程和軟件即可實現,投資性價比高。
(1)客戶端吞吐量大幅度提升。隨著行業短信業務發展,業務量和突發業務的增加要求網關在大業務量沖擊下有較小且穩定的提交時延,該優化方案可較好的滿足需求。(2)業務空閑時端到端時延縮短約20%,業務忙時端到端時延至少縮短50%以上。(3)處理時延均衡穩定,時延敏感類客戶忙時處理時延可以優先得到保證。
【摘要】 分析政企行業短信時延優化的必要性,通過分步優化實現端到端時延的有效降低,同時提出短信“智能管道”概念,實現基于客戶分類的短信全流程Qos調度。
【關鍵詞】 行業短信 時延優化 端到端
一、引言
隨著移動互聯網時代的到來,通信業進一步拓展,政企客戶(集團)市場迅速蓬勃發展起來,逐步成為運營商收入來源的重要組成部分。運營商開始為企業量身制定個性化的通信解決方案,包括企業寬帶、企業專線、IDC服務、ICT服務、行業應用等。
近年來,各大運營商逐漸將政企市場作為業務發展的戰略重點,政企行業短信作為最重要的行業應用業務之一,受到越來越多的關注,特別是政企大客戶對行業短信的穩定性和端到端時延提出了更高的要求。為了更好支撐政企客戶市場,提升客戶感知和保障政企業務收入,亟需在保證業務穩定的情況下優化行業短信端到端時延。
本文從行業短信下發的全流程角度分析和挖掘可優化點,提出基于全流程“智能管道”的短信下發時延優化方案。
二、時延優化
行業短信業務流程從短信網關的角度可分為消息提交,消息處理和消息下發三個階段,通過分別深入挖掘三個階段目前流程存在的問題,優化短信下發時延,最重要是保證時延的穩定性特別是業務忙時穩定性,如圖1所示。
2.1 提交時延優化
客戶提交至行業網關submit消息,網關會返回submit_response應答,客戶會等待一定窗口的應答的消息,如果應答不及時,可能導致部分EC的下發消息的速度受到影響。這樣從EC角度看,由于網關響應不及時導致下發給最終用戶的短信時延增大。
通過圖2可以看出,客戶提交消息的響應時延代理節點處理時延、調度節點處理時延和內部傳輸時延。進一步分析時延影響的關鍵因素,我們針對本省網關特性優化解碼和檢測算法,縮短業務處理的時間。并通過優化底層傳輸協議棧,縮減內部節點之間的傳輸時延。
該優化實施后,短信網關內部處理縮短至原來的50%,對每條提交到網關的消息雖然是毫秒級優化,但從客戶角度大幅度提升了短信通道的下發速度,部分大客戶下發等待的現象不再出現。
2.2 消息處理優化
提交至網關的消息內部需要進行流控鑒權、更新流控信息和黑白名單等屬性鑒權,這些流程均需要對大型數據庫的讀和寫的操作。由于業務量巨大,對整體系統架構提出的嚴重挑戰。
該部分時延優化本質數據庫處理時延的優化,但數據庫處理時延本身即是一項系統優化工程,一般包括:(1)硬件資源能力的提升。可以考慮升級存儲和CPU提升IO等硬件性能指標。(2)數據庫調優。根據業務調整數據庫參數,進行緩存索引等參數優化。(3)應用優化。優化應用調用數據的方式可大幅度提升數據庫性能,縮短讀寫時延。
基于以上分析,在現網硬件資源不變的情況下,我們應用優化的角度提升消息處理性能,縮短處理時延。通過業務批量提交和業務分表等內部優化方式,數據庫的忙時負荷縮短為優化前40%,業務忙時從業務等待1-5s縮短至無需等待(毫秒級處理時延),大幅度縮短了忙時的消息處理時延。
2.3 端到端時延優化
在有限的系統資源條件下,如何更好的服務客戶,特別是重要客戶(時延敏感)是值得討論的話題。當網關不做業務細分的情況下,當網絡擁塞多個消息同時競爭調度資源時,網關采用“排隊”的方式進行消息調度。這樣勢必會導致時延敏感類的重要客戶(比如銀行等)消息下發延時增加,影響客戶感知。
因此需要對業務做優先級細分進行分類保障。目前行業網關和短信中心的優先級控制是互相分離的,即使網關在消息發送時設置了高優先級,也無法保證消息在行業短信的全流程都處于高優先級狀態。
所以需要有端到端全流程的業務優化方案,將普通用戶和重要用戶下發的消息區分開,并且在全流程中都保持不同的調度優先級。行業網關端到端全流程的業務優化方案包含三個步驟:1,QoS著色;2,多優先級調度;3,優先級傳遞。通過這個方案可以保證不同用戶下發的消息在整個行業短信端到端全流程中處于指定的優先級,區分重要用戶與普通用戶的業務級別,提升客戶感知。
(1)QoS著色。網絡管理員對行業網關的不同客戶劃分不同的優先級。在消息入口處,對不同級別的客戶消息標識不同的優先級,該標識在整個行業短信的整個生命周期均有效。(2)多優先級調度。行業網關采用加權輪循隊列進行調度,經過QoS著色后,VIP客戶的消息進入最高優先級隊列,低優先客戶的消息進入低優先級隊列。VIP客戶的消息得到最優先的調度,重要客戶的消息得到次優先級的調度,普通客戶的消息得到最低優先級的調度。保證VIP客戶的消息在擁塞時總是優先獲得轉發服務,有效降低VIP消息的下發時延。(3)優先級傳遞。行業短信網關和SMSC通過之間通過標準的SMPP協議優先級傳遞。對SMPP消息中的優先級字段進行定義,同時將網關的分級隊列分別映射,實現網關與短信中心之間優先級傳遞。短信中心和下級網關需要配合改造,支持基于傳遞過來的優先級進行調度。
通過省內測試,不同類別客戶消息可實現分級調度,時延敏感類客戶通過優先調度,確保了下發時延不受網關業務量影響。
三、優化效果分析
本優化方案無需硬件及其他配套投資,僅通過優化業務流程和軟件即可實現,投資性價比高。
(1)客戶端吞吐量大幅度提升。隨著行業短信業務發展,業務量和突發業務的增加要求網關在大業務量沖擊下有較小且穩定的提交時延,該優化方案可較好的滿足需求。(2)業務空閑時端到端時延縮短約20%,業務忙時端到端時延至少縮短50%以上。(3)處理時延均衡穩定,時延敏感類客戶忙時處理時延可以優先得到保證。
【摘要】 分析政企行業短信時延優化的必要性,通過分步優化實現端到端時延的有效降低,同時提出短信“智能管道”概念,實現基于客戶分類的短信全流程Qos調度。
【關鍵詞】 行業短信 時延優化 端到端
一、引言
隨著移動互聯網時代的到來,通信業進一步拓展,政企客戶(集團)市場迅速蓬勃發展起來,逐步成為運營商收入來源的重要組成部分。運營商開始為企業量身制定個性化的通信解決方案,包括企業寬帶、企業專線、IDC服務、ICT服務、行業應用等。
近年來,各大運營商逐漸將政企市場作為業務發展的戰略重點,政企行業短信作為最重要的行業應用業務之一,受到越來越多的關注,特別是政企大客戶對行業短信的穩定性和端到端時延提出了更高的要求。為了更好支撐政企客戶市場,提升客戶感知和保障政企業務收入,亟需在保證業務穩定的情況下優化行業短信端到端時延。
本文從行業短信下發的全流程角度分析和挖掘可優化點,提出基于全流程“智能管道”的短信下發時延優化方案。
二、時延優化
行業短信業務流程從短信網關的角度可分為消息提交,消息處理和消息下發三個階段,通過分別深入挖掘三個階段目前流程存在的問題,優化短信下發時延,最重要是保證時延的穩定性特別是業務忙時穩定性,如圖1所示。
2.1 提交時延優化
客戶提交至行業網關submit消息,網關會返回submit_response應答,客戶會等待一定窗口的應答的消息,如果應答不及時,可能導致部分EC的下發消息的速度受到影響。這樣從EC角度看,由于網關響應不及時導致下發給最終用戶的短信時延增大。
通過圖2可以看出,客戶提交消息的響應時延代理節點處理時延、調度節點處理時延和內部傳輸時延。進一步分析時延影響的關鍵因素,我們針對本省網關特性優化解碼和檢測算法,縮短業務處理的時間。并通過優化底層傳輸協議棧,縮減內部節點之間的傳輸時延。
該優化實施后,短信網關內部處理縮短至原來的50%,對每條提交到網關的消息雖然是毫秒級優化,但從客戶角度大幅度提升了短信通道的下發速度,部分大客戶下發等待的現象不再出現。
2.2 消息處理優化
提交至網關的消息內部需要進行流控鑒權、更新流控信息和黑白名單等屬性鑒權,這些流程均需要對大型數據庫的讀和寫的操作。由于業務量巨大,對整體系統架構提出的嚴重挑戰。
該部分時延優化本質數據庫處理時延的優化,但數據庫處理時延本身即是一項系統優化工程,一般包括:(1)硬件資源能力的提升。可以考慮升級存儲和CPU提升IO等硬件性能指標。(2)數據庫調優。根據業務調整數據庫參數,進行緩存索引等參數優化。(3)應用優化。優化應用調用數據的方式可大幅度提升數據庫性能,縮短讀寫時延。
基于以上分析,在現網硬件資源不變的情況下,我們應用優化的角度提升消息處理性能,縮短處理時延。通過業務批量提交和業務分表等內部優化方式,數據庫的忙時負荷縮短為優化前40%,業務忙時從業務等待1-5s縮短至無需等待(毫秒級處理時延),大幅度縮短了忙時的消息處理時延。
2.3 端到端時延優化
在有限的系統資源條件下,如何更好的服務客戶,特別是重要客戶(時延敏感)是值得討論的話題。當網關不做業務細分的情況下,當網絡擁塞多個消息同時競爭調度資源時,網關采用“排隊”的方式進行消息調度。這樣勢必會導致時延敏感類的重要客戶(比如銀行等)消息下發延時增加,影響客戶感知。
因此需要對業務做優先級細分進行分類保障。目前行業網關和短信中心的優先級控制是互相分離的,即使網關在消息發送時設置了高優先級,也無法保證消息在行業短信的全流程都處于高優先級狀態。
所以需要有端到端全流程的業務優化方案,將普通用戶和重要用戶下發的消息區分開,并且在全流程中都保持不同的調度優先級。行業網關端到端全流程的業務優化方案包含三個步驟:1,QoS著色;2,多優先級調度;3,優先級傳遞。通過這個方案可以保證不同用戶下發的消息在整個行業短信端到端全流程中處于指定的優先級,區分重要用戶與普通用戶的業務級別,提升客戶感知。
(1)QoS著色。網絡管理員對行業網關的不同客戶劃分不同的優先級。在消息入口處,對不同級別的客戶消息標識不同的優先級,該標識在整個行業短信的整個生命周期均有效。(2)多優先級調度。行業網關采用加權輪循隊列進行調度,經過QoS著色后,VIP客戶的消息進入最高優先級隊列,低優先客戶的消息進入低優先級隊列。VIP客戶的消息得到最優先的調度,重要客戶的消息得到次優先級的調度,普通客戶的消息得到最低優先級的調度。保證VIP客戶的消息在擁塞時總是優先獲得轉發服務,有效降低VIP消息的下發時延。(3)優先級傳遞。行業短信網關和SMSC通過之間通過標準的SMPP協議優先級傳遞。對SMPP消息中的優先級字段進行定義,同時將網關的分級隊列分別映射,實現網關與短信中心之間優先級傳遞。短信中心和下級網關需要配合改造,支持基于傳遞過來的優先級進行調度。
通過省內測試,不同類別客戶消息可實現分級調度,時延敏感類客戶通過優先調度,確保了下發時延不受網關業務量影響。
三、優化效果分析
本優化方案無需硬件及其他配套投資,僅通過優化業務流程和軟件即可實現,投資性價比高。
(1)客戶端吞吐量大幅度提升。隨著行業短信業務發展,業務量和突發業務的增加要求網關在大業務量沖擊下有較小且穩定的提交時延,該優化方案可較好的滿足需求。(2)業務空閑時端到端時延縮短約20%,業務忙時端到端時延至少縮短50%以上。(3)處理時延均衡穩定,時延敏感類客戶忙時處理時延可以優先得到保證。