基于云平臺的數據存儲及算力設計

摘? 要：云計算作為一種新的應用模式，已在各行各業廣泛應用，尤其是在智慧公安領域，通過可靠的公有云服務與私有云服務相結合的模式，搭建適合智慧公安業務應用的混合云。以上海某區智慧公安視頻數據建設為例，對當前已建的12 760路視頻監控進行數據轉發存儲和智能分析算力設計，建設計算和數據存儲處理兼顧的綜合云計算平臺。通過對云平臺架構分析，數據存儲及算力計算，設備選型，實現基于云平臺的公安數據存儲及算力設計。

關鍵詞：云平臺;云存儲;云計算;混合云;智慧公安;算力設計

中圖分類號：TP311.13;TP393.09? ? ? ?文獻標識碼：A 文章編號：2096-4706（2021）02-0080-05

Abstract：As a new application mode，cloud computing has been widely used in all walks of life，especially in the field of intelligent public security. Through the reliable combination of public cloud services and private cloud services，we can build a hybrid cloud suitable for intelligent public security business applications. Taking the construction of intelligent public security video data in a district of Shanghai as an example，this paper designs the data forwarding storage and intelligent analysis computing power of the existing 12 760 channels of video surveillance，and constructs a comprehensive cloud computing platform with both computing and data storage and processing. Through the analysis of cloud platform architecture，data storage and computing power，equipment selection，the design of public security data storage and computing power based on cloud platform is realized.

Keywords：cloud platform;cloud storage;cloud computing;hybrid cloud;intelligent public security;computing power design

0? 引? 言

上海智慧公安建設以智能化安防體系和大數據應用為支撐，實現感知泛在、多維研判、智慧扁平、處置高效的精準警務應用，實現最有序、最安全、最干凈的智慧城市終極目標[1]。上海市某區分局積極參照公安部下發的《公安大數據云平臺功能性要求》以及上海市公安局發布的《關于智慧公安大腦三級架構建設指導意見》，擬在感知網中建設基于飛天云平臺及私有云平臺的智慧公安視頻數據存儲及算力設計，實現數據資源的云端管理、彈性計算，提供負載均衡、數據分布式存儲、大數據在線運算等各種云服務。筆者作為該項目技術咨詢顧問，全程協助項目開展，項目結合該區智慧公安監控數據建設應用的實際需求，為分局各業務部門的業務應用和大數據應用提供云端資源，對該區基于飛天云平臺及私有云平臺的智慧公安監控數據存儲及算力分析技術應用進行了整體研究和設計。

1? 數據存儲及算力需求現狀

某區智慧公安基礎視頻前端經過近幾年的建設發展，通過上海市“十二五”規劃、“十三五”規劃、智慧社區及分局自建等方式，當前已建設共計18 610路視頻監控，同步實現以NVR方式存儲前端實時監控錄像。當前納入本次視頻數據建設的前端攝像機主要分為兩類，一類是泛智能攝像機（可輸出視頻流和特征圖片），一類是非智能高清攝像機（只輸出視頻流），同時針對該區視頻監控可視場景的具體需求進行用途類別劃分，具體分析匯總情況如表1所示。

1.1? 圖像圍欄需求

在該區重點區域及周邊選取1 200路前端攝像機（包含泛智能攝像機750路和非智能高清攝像機450路），形成區域圖像虛擬圍欄。通過圖像圍欄一體機自帶人臉/人體解析算法對前端攝像機視頻流進行實時解析的方式，生成場景大圖、人臉/人體小圖、特征抽取及結構化數據信息，通過后端實現人像比對、布控預警、以圖搜人、人體軌跡、同行分析等功能。

1.2? 數據存儲需求

數據存儲是指把私有云算力平臺處理解析后的各用戶類別場景大圖、人臉/人體小圖、機動車小圖等半結構化數據和結構化數據集中存儲到分局私有云數據存儲平臺，保存時間不低于180天;私有云算力平臺輸出的結構化數據、特征值集中存儲到飛天云平臺，保存時間不低于365天。區級搭建私有云存儲平臺，租賃飛天公安云綜合平臺（云存儲+云計算+安全及其他）[2]。

1.3? 算力分析需求

算力分析包括四方面需求，一是對圖像圍欄涉及的1 200路前端攝像機（包含智能攝像機750路和非智能高清攝像機450路）視頻流的實時計算解析智能分析需求;二是對剩余2 840路非智能攝像機視頻流的實時計算解析智能分析需求;三是對剩余12 720路泛智能攝像機人臉圖片流及視頻流的實時計算解析智能分析需求;四是對本區存儲到市局飛天云平臺的結構化數據進行離線大數據計算解析智能分析需求。區級搭建私有云算力平臺（圖像圍欄算力+其他算力），市級租賃飛天公安云綜合平臺（云存儲+云計算+安全及其他）。

1.4? 數據轉發需求

數據轉發包括四方面需求，一是將9 470路泛智能攝像機圖片流按照GA/T1400協議推送至市局韜安管理平臺和分局私有云存儲平臺，二是將9 470路泛智能攝像機中用于人體分析的2 100路圖片流推送至區級私有云算力平臺;三是將圖像圍欄涉及的1 200路前端攝像機（包含泛智能攝像機750路和非智能高清攝像機450路）視頻流和剩余2 840路非智能攝像機視頻流轉發至私有云算力平臺;四是將私有云算力平臺解析后的半結構化數據和結構化數據分別推送至分局私有云存儲平臺和飛天云平臺。具體數據轉發設備的配置需求按照前端攝像機的用途分類進行合理設計。

2? 數據存儲及算力解析設計架構

經過上述需求統計，深入調研分析，該區數據存儲及算力設計整體拓撲架構如圖1所示。

根據需求調研及上圖分析匯總，數據存儲、算力解析、數據轉發等匯總表格如表2、表3、表4所示。

3? 數據存儲設計

3.1? 私有云數據存儲設計

在某區分局總機房搭建私有云數據存儲平臺，采取全對稱分布式架構并行讀寫，性能、容量隨節點數增加而呈線性增加。每臺單節點存儲容量為350 TB（35×10 TB），單節點間通信帶寬可達2.8 GB/s，每臺節點配置內存為128 GB，支持N+M冗余模式，最多可接受2個節點同時失效而業務不中斷，數據不丟失;為提升磁盤利用率，采取糾刪碼（EC）算法編碼進行云存儲，磁盤冗余度按1.4估算（磁盤利用率約為70%）。所有節點組合搭建私有云數據存儲平臺，支持虛擬化管理。選用華為OceanStor 9000 V5存儲節點搭建云存儲平臺。

私有云數據存儲平臺主要存儲私有云算力平臺處理解析后的各用戶類別場景大圖、人臉/人體小圖、機動車小圖等半結構化數據。根據表2匯總和對數據保存180天的實際應用需求，數據存儲核算容量為：

（1）每張場景大圖按500 kB計算，每張特寫小圖按50 kB計算;按照每路攝像機每24小時采集的大圖和小圖分別為10 000張，保存180天計算，同時考慮私有云存儲磁盤冗余度。

（2）人臉圖片存儲容量為3 725×10 000×180×（500+ 50）/（1 024×1 024×1 024）/（70%）≈4 906 TB。

（3）車輛圖片存儲容量為4 805×10 000×180×（500+ 50）/（1 024×1 024×1 024）/（70%）≈6 329 TB。

（4）人體圖片存儲容量為4 230×10 000×180×（500+ 50）/（1 024×1 024×1 024）/（70%）≈5 572 TB。

（5）整體私有云存儲平臺半結構化存儲容量為4 906+ 6 329+5 572=16 807 TB。

（6）云存儲節點需求數量為16 807÷350≈49（臺）。

該區智慧公安私有云平臺存儲需配置存儲節點服務器49臺，略有冗余。

3.2? 飛天云數據存儲設計

從該區智慧公安實際業務需求出發，租賃阿里飛天云平臺，核心部分是云計算和云存儲功能，同時也包括云安全、云運維及云管理等各類云服務。飛天云ODPS數據處理存儲平臺是分布式存儲系統，采用Shared-nothing架構設計，支持1萬以上用戶并發讀寫，通過存儲虛擬化、網絡虛擬化以及負載均衡技術，實現資源存儲的動態分配，形成統一的飛天云平臺體系[3]。

飛天云數據存儲為該區智慧公安提供數據塊級別的隨機存儲，具有低時延、持久性、高可靠性等特點，采用分布式三副本機制，三份數據拷貝副本分別保存在不同的服務器上，這樣任何一個服務器宕機都不會造成數據丟失，為智慧公安用戶提供高于99.99%的數據可靠性，可實現隨時創建或釋放，支持隨時擴容。為了降低整體的帶寬消耗和讀取延時，系統設計為盡量讓讀取程序讀取離它最近的副本。

根據表2匯總和對數據保存365天的實際應用需求，對12 760路結構化數據存儲集群核算容量如下：

（1）每條結構化數據按2 kB計算，按每路攝像機每24小時生成10 000條結構化數據估算，保存365天;計算磁盤需求空間的數據膨脹率按2計，數據壓縮率按2計，HDFS副本數目按3計，磁盤利用率（格式化損耗等）按0.9計，ODPS集群存儲控制線設置按85%計。

（2）結構化數據總的入庫數據量為12 760×10 000× 365×2/（1 024×1 024×1 024）≈87 TB。

（3）需求基本磁盤空間為87×2×2×3/0.9/0.85≈1 365 TB。

（4）單機存儲單元數量。選用阿里云PN68M2單機存儲單元，磁盤物理容量為96 TB，需求單機存儲單元數量為1 365÷96≈15（臺）。

某區智慧公安飛天云平臺存儲至少要租賃基本磁盤存儲空間1 365 TB，至少要搭建15個飛天云存儲平臺單機存儲單元。

4? 數據算力設計

4.1? 私有云算力平臺設計

私有云算力平臺硬件資源按照算力資源、存儲資源、檢索資源等需求分類池化，業務應用部署在容器上，對具體硬件環境不感知;在一臺實體服務器虛擬化后的多臺邏輯服務器上，支持靈活部署不同功能的智能算力分析、存儲檢索服務模塊并且不受數量限制，算力云平臺通過異構資源池、智能編排等關鍵技術，可以將GPU、檢索等資源池化，拉遠后進行統一編排調度，從而使硬件資源利用率最大化[4]。主要包括圖片流人體建模算力、圖片流車輛智能分析、視頻流人體建模分析、視頻流車輛智能分析、視頻流人臉智能分析、視頻流圖像圍欄解析等。

4.1.1? 圖片流人臉人體建模算力計算

根據選用產品的性能和圖片流人臉人體建模算力解析需求計算為：

（1）圖片流人臉人體建模算力智能分析并發路數要求不少于3 725路，圖片流半結構化數據解析為結構化數據。

（2）檢索云節點計算。每路每24小時按人臉人體建模30 000張計算，存儲180天，總共產生的數據量=3 725×30 000×180/10 000/10 000=201.15億條。配置華為CloudIVS 3000R檢索云節點，單節點支持不少于6億條人體元結構化數據存儲，則需要檢索云節點數量=201.15÷6≈34（臺）。

（3）算力分析云節點計算。配置華為CloudIVS 3000CR算力分析云節點，單臺分析云節點支持配置6塊GPU卡，單個GPU計算卡處理人體建模圖片按100張/秒計算，3 725路攝像機并發峰值按每路1張/秒估算，則需GPU卡數量= 3 725÷1÷100≈38（張），需要配置算力分析云節點數量= 38÷ 6≈7（臺）。

4.1.2? 圖片流車輛智能算力計算

根據選用產品的性能和圖片流車輛智能算力解析需求計算為：

（1）圖片流車輛智能算力并發路數要求不少于4 805路，圖片流半結構化數據解析為結構化數據。

（2）檢索云節點計算。如果每路每24小時按車輛抓拍15 000張計算，存儲時間180天，總共產生的數據量= 4 805×15 000×180/10 000/10 000=129.735億條。配置華為CloudIVS 3000R檢索云節點，單節點支持不少于6億條車輛結構化數據存儲，則需要檢索云節點數量=129.735÷6≈22（臺）。

（3）算力分析云節點計算。配置華為CloudIVS 3000CR算力分析云節點，單臺分析云節點支持配置6塊GPU卡，單個GPU計算卡處理車輛圖片按100張/秒計算，4 805路攝像機并發按每路1張/秒進行估算，則需GPU卡數量=4 805÷100≈49（張），需要配置算力分析云節點數量=49÷6≈9（臺）。

4.1.3? 視頻流人體建模算力計算

根據選用產品的性能和視頻流人體建模算力解析需求計算為：

（1）視頻流人體建模算力智能分析并發路數要求不少于1 230路，視頻流解析為人體圖片流（半結構化數據），圖片流半結構化數據再解析為結構化數據。

（2）檢索云節點計算。如果每路每24小時按人體建模20 000張計算，存儲時間180天，總共產生的數據量=1 230×20 000×180/10 000/10 000=44.28億條。配置華為CloudIVS 3000R檢索云節點，單節點支持不少于6億條人體結構化數據存儲，則需要檢索云節點數量=44.28÷6≈8（臺）。

（3）算力分析云節點計算：配置華為CloudIVS 3000CR算力分析云節點，單臺分析云節點支持配置6塊GPU卡，單個GPU計算卡處理人體建模圖片按100張/秒計算或視頻接入處理按16路計算，每臺云節點1 230路攝像機并發峰值按每路1張/秒進行估算，則需GPU卡數量=1 230÷ 1÷100+1 230÷16≈90（張），需要配置算力分析云節點數量=90÷6≈7（臺）。

4.1.4? 視頻流車輛智能算力計算

根據選用產品的性能和視頻流車輛智能算力解析需求計算為：

（1）視頻流車輛智能算力分析并發路數要求不少于1 155路;視頻流解析為車輛圖片流（半結構化數據），圖片流再解析為車輛結構化數據。

（2）檢索云節點計算。如果每路每24小時按車輛圖片30 000張計算，存儲時間180天，總共產生的數據量= 1 155×30 000×180/10 000/10 000=62.37億條。配置華為CloudIVS 3000R檢索云節點，單節點支持不少于6億條人體元結構化數據存儲，則需要檢索云節點數量=62.37÷6≈11（臺）。

（3）算力分析云節點計算。配置華為CloudIVS 3000CR算力分析云節點，單臺分析云節點支持配置6塊GPU卡，單個GPU計算卡處理車輛分析圖片按100張/秒計算或視頻接入處理按16路計算，每臺云節點1 155路攝像機并發峰值按每路1張/秒進行估算，則需GPU卡數量=1 155÷ 1÷100+1 155÷16≈85（張），需要配置算力分析云節點數量=85÷6≈15（臺）。

4.1.5? 視頻流人臉智能算力計算

根據選用產品的性能和視頻流人臉智能算力解析需求計算為：

（1）視頻流人臉智能算力分析并發路數要求不少于905路;視頻流解析為人臉圖片流（半結構化數據），圖片流再解析為人臉結構化數據。

（2）檢索云節點計算。如果每路每24小時按人臉圖片30 000張計算，存儲時間180天，總共產生的數據量=905×30 000×180/10 000/10 000=48.87億條。配置華為CloudIVS 3000R檢索云節點，單節點支持不少于6億條人體結構化數據存儲，則需要檢索云節點數量=48.87÷6≈9（臺）。

（3）算力分析云節點計算。配置華為CloudIVS 3000 CR算力分析云節點，單臺分析云節點支持配置6塊GPU卡，單個GPU計算卡處理人臉分析圖片按100張/秒計算或視頻接入處理按16路計算，每臺云節點905路攝像機并發峰值按每路1張/秒進行估算，則需GPU卡數量=905÷1÷100+905÷16≈66（張），需要配置算力分析云節點數量=66÷6=11（臺）。

4.1.6? 視頻流圖像圍欄算力解析計算

根據選用產品的性能和視頻流圖像圍欄算力解析需求計算為：

（1）視頻流圖像圍欄算力解析并發路數要求不少于1 200路;采取融合算力架構，對圖像圍欄選取的1 200路視頻流進行解碼并對解碼后的圖像數據進行檢索和智能化解析，生成場景圖、人臉小圖、人體小圖、特征抽取及結構化數據信息。選用依圖YS-AIS視頻流全解析一體機，通過AI服務器及CPU、GPU服務器融合設計，實現高性能智能解析，每臺一體機設備最多支持144路視頻流接入檢索和解析。

（2）視頻流全解析一體機數量為1 200÷144≈9（臺）。

根據以上計算結果，檢索云節點配置數量=34+22+ 8+11+9=84（臺），算力分析云節點配置數量=7+9+15+ 11=49（臺），圖像圍欄全解析一體機配置數量為9臺。整體設備搭建分局私有云算力平臺，配置設備按20%冗余考慮，總共需配置檢索云節點101臺，算力分析云節點59臺，圖像圍欄全解析一體機11臺。

4.2? 飛天云大數據算力設計

飛天云大數據算力服務[5]，提供計算引擎以適應結構化數據、半結構化數據的計算，滿足離線OLAP和實時OLAP分析業務場景，基于分布式服務框架能夠支持統計分析類、數據挖掘類等計算分析服務。當前主要為某區智慧公安提供離線大數據計算服務，主要針對智慧公安提供TB/PB級別數據的日志分析、數據挖掘、數據預測等處理;大數據離線計算服務由客戶端、接入層、控制層及計算層組成，每層均可平行擴展。以下內容僅針對計算層進行算力設計。

系統采用多個單機節點并行計算的策略和基于代價的優化方式（CBO），實現數據高性能時空碰撞計算，支持高并發、低延時的數據處理，滿足單表1億條記錄的常規應用場景，可承載不少于100個并發查詢和碰撞分析，平均響應時間小于2秒。選用阿里云PN68M2P物理資源服務器，設立BlinkCluster-A云服務集群。經理論估算分析，公安業務碰撞分析每秒最高處理需求暫估為300萬條業務數據。

根據選用的產品和數據處理計算規則，服務集群物理資源服務器需求計算為：

（1）根據服務能力及業務需求，理論評估1CU每秒處理0.8萬條數據。

（2）按每秒處理300萬條數據計算，理論需要的CU數量=300÷0.8=375CU。

（3）每臺PN68M2P數據處理能力=服務器CPU物理邏輯核數[64]-系統消耗[4]=60CU。

（4）PN68M2P需求數量=375÷60≈7（臺），考慮服務集群算力冗余不低于30%，建議配置10臺PN68M2P物理資源服務器。

5? 結? 論

通過公有云加私有云的混合云平臺架構，搭建一體化的數據存儲與算力分析應用平臺，實現非結構化數據、半結構化數據、結構化數據的集中存儲、算力分析、轉發共享及應用展示。通過對某區現有資源利用的綜合分析和業務應用需求分析，選擇適合本項目的硬件產品，進行存儲資源核算、算力資源核算、轉發資源核算，科學合理設計，對該區智慧公安視頻數據資源進行高效分析應用，實現研判多維、指揮扁平、處置高效的精準警務應用。

參考文獻：

[1] 漆源.基于“智慧警務云”的公安科技信息化管理建設研究 [J].現代計算機，2019，648（12）：92-95.

[2] 王眾托，吳江寧，郭崇慧.信息與知識管理 [M].北京：電子工業出版社，2010.

[3] 李揮，張宇蒙，陳俊.大數據環境下的可靠存儲技術思考 [J].中興通訊技術，2015，21（5）：27-31.

[4] 虛擬化與云計算小組.云計算寶典：技術與實踐 [M].北京：電子工業出版社，2011.

[5] 閆德生，佟敏.云存儲技術在支撐系統中的應用 [J].中國新通信，2016，18（8）：58-59.

[6] 徐含，許連生.云平臺數據中心的安全防護技術分析 [J].科學與信息化，2018（13）：45-46.

作者簡介：孟凡龍（1981—），男，漢族，江蘇邳州人，工程師，本科，研究方向：計算機軟硬件系統集成及開發應用。