淺析視頻數據挖掘技術在監控系統中的應用

浦世亮

淺析視頻數據挖掘技術在監控系統中的應用

浦世亮

近年來，隨著視頻監控系統的大量普及安裝，監控系統所獲取并存儲的視頻數據容量正以驚人的速度增長。從理想角度看，這些視頻包含了現實世界中的大量信息，應該為我們的管理及安保工作帶來巨大的價值。但是從現實角度看，依靠人工處理包含數以萬計的視頻數據集,并從中獲取信息，是非常困難、甚至是不可能的。也因此，監控系統所獲取并存儲的絕大部分視頻數據成了存儲在硬盤中無人使用的數據，使我們陷入了一個數據爆炸卻信息匱乏的困境。

視頻數據之所以無法成為我們能夠直接使用的信息，是因為兩者之間存在著“語義鴻溝”，即計算機所理解的低層次圖像特征與人類所理解的高層次語義信息之間的差異。舉例來說，人類在觀看一段監控視頻時，可以迅速結合先驗知識判斷出視頻中奔跑的行人、交談的人群、甚至行人之間的相互關系及情緒等更加細節的信息，而計算機只能獲取圖像色塊、區域紋理或者運動方向等圖像特征。

數據挖掘技術架起人機“溝通橋梁”

數據挖掘技術正是一座架在“語義鴻溝”之上的橋梁，使我們能夠從無法直接理解的圖像特征信息中獲取到能夠應用的語義信息。但是現階段視頻數據的挖掘在數據挖掘技術領域還是一個難題，與文本數據不同，視頻數據是非規則的且信息量非常龐大的數據格式，它不具備文本數據那樣的語法及段落等規則；另外，視頻中包含的信息量相當龐大，對于視頻數據的特征融合及信息提取具有較高的難度。所以總體來看，視頻數據挖掘技術目前還處于初級階段，但是有部分技術已經到了較成熟的規模化應用階段，例如車牌識別技術、視頻入侵檢測技術等。

視頻數據挖掘解決方案的用戶需求

如何從海量視頻數據中提取到我們所能應用的信息，甚至是經過歸納總結的知識，無疑是監控系統各個行業用戶都迫切需要解決的問題。但是視頻包含了非常龐大的信息量，不同行業客戶對于視頻信息的提取及使用方式有很大的差異性。這就要求監控技術的供應商能夠針對不同行業客戶的需求提供不同的視頻數據挖掘解決方案。舉例來說，公安行業用戶在日常治安管理工作中需要從視頻中及時的獲取治安異常事件的信息，例如斗毆事件或者群聚性事件，從而可以及時進行處理；在進行刑偵工作時要對大量視頻進行目標查找，需要從視頻中獲取目標的身份信息，例如人員身份信息及車輛牌照信息等。而高速公路行業用戶需要在收費處獲取車輛牌照信息，在道路監控視頻中獲取異常事件信息，例如擁堵事件、停車等，還需要提取例如車流量、平均車速等統計類信息以實現管理優化。還有一些視頻信息是各行業用戶都需要的，例如視頻質量信息，即從視頻數據中獲取的當前視頻設備運行狀態是否正常的信息量，這對于各行業監控系統的運行維護都有著重要實用價值。

根據實際應用需求及應用方式的不同，可以將視頻中挖掘的信息分為五類，分別是：事件語義信息、目標身份信息、目標圖像特征信息、視頻統計信息及視頻質量信息。事件語義信息是指從視頻中獲取的可用語言描述的事件信息，例如有人闖入區域、有人奔跑、發生群聚性事件等，這類信息主要以報警的方式實時呈現給用戶，用戶可以根據這類信息實時對異常事件進行判斷并進行處理。目標身份信息主要是指人員身份及車輛牌照信息，用戶以報警的方式或者檢索的方式使用這類信息，例如車輛黑名單報警或者嫌疑人照片檢索。目標圖像特征信息是指可描述的目標圖像特征，例如紅色轎車、穿黑白條紋衣服的人員等，用戶在刑偵工作中可以利用這類信息在海量視頻數據中對目標進行快速定位。視頻統計信息是指從視頻中獲取的長時間統計數據，例如商場的客流量、交通要道的車流量等，用戶可以利用這類信息進行管理工作的優化。視頻質量信息是指對視頻質量進行診斷獲取的對視頻質量異常進行描述的信息，例如視頻被遮擋、視頻失焦、視頻偏色等，用戶可以利用這類信息進行監控系統的運行維護。

視頻數據挖掘技術實現方式

視頻數據挖掘技術的實現方式可分為前端設備實現方式和后端設備實現方式兩種。前端設備實現方式是指在各種前端監控設備中集成智能視頻分析技術，以實現視頻信息的實時挖掘；后端設備實現方式是指利用后端服務器集群，對前端監控設備采集的視頻信息進行數據挖掘。一般而言，前端設備實現方式的優點是可以對視頻數據進行實時分析，并具有根據視頻分析算法的需要對前端設備進行成像控制的能力，對于信息實時性或者視頻成像特性有特定要求的數據挖掘技術更適合用前端設備實現方式。圖1是視頻數據挖掘技術前端實現方式的拓撲圖，視頻數據挖掘技術可以根據需要在DVS、DVR、IP攝像機及網絡球機等多種前端設備中集成。視頻數據挖掘技術的后端實現方式的優點在于可以利用服務器集群提供更強大的處理能力，并可同時對多路視頻數據進行處理實現多路視頻數據之間的信息融合。圖2是視頻數據挖掘技術后端實現方式的拓撲圖，視頻數據挖掘技術在后端服務器集群中實現。云計算平臺由于具有高度的靈活性及擴展性，是視頻數據挖掘技術后端實現方式優秀的承載平臺，隨著云計算技術的發展及成熟，或許在不遠的將來，云計算平臺將在視頻數據挖掘技術中有大量應用。

不同的視頻數據挖掘技術根據其應用及技術特點需要采用不同的實現方式。有的信息對于實時性及處理能力的要求不高，用兩種方式都可以實現數據挖掘，例如視頻質量信息及統計類的信息。而有些信息的應用對于實時性有較高的要求，或者在數據挖掘的過程中需要對成像設備進行控制，這類數據挖掘技術就適用于前端設備實現方式，例如，事件語義信息的提取，這類信息一般以報警的方式呈現給用戶，用戶需要及時的獲取這類信息以做出應對，這類信息的挖掘技術就適合用前端設備實現。又例如，車牌信息的提取及人臉圖像的檢測，一般需要對成像設備進行實時的控制，例如攝像機的曝光時間、攝像機增益值等，以獲取高清晰度的圖像并保證所獲取信息的精確度，因此這類數據挖掘技術在前端攝像機中實現具有較大的優勢。

有一些數據的挖掘過程中需要系統提供很強的計算能力支撐，或者需要對多路視頻數據進行信息融合，這類數據挖掘技術就適用于后端實現方式。例如公安部門在刑偵工作中需要用到的目標特征信息——在刑偵過程中，需要在較短的時間內完成對海量視頻數據中具有一定特征的目標進行檢索。在這類應用中，需要系統在短時間內完成對海量視頻數據中的目標特征進行提取及檢索，因此利用服務器集群的后端實現方式就可以提供高密度計算能力的支撐。又例如，對人員身份信息的檢索，用戶需要輸入目標人員的人臉圖片在海量視頻數據中對該目標人員進行檢索。在這類應用中需要對海量視頻數據進行人臉檢測并建立人臉特征庫，并在人臉特征庫中檢索出特征相似的目標，由于涉及多路視頻數據的信息融合建立人臉特征庫，因此需要應用后端實現方式。

數據挖掘流程

視頻數據挖掘的目的是建立底層視頻數據到高層語義信息之間的映射關系，由于這種映射關系比較復雜，一般采用多層次的信息提取及映射技術來最終實現數據挖掘過程，其信息提取的層次模型可以由圖3表示。在視頻數據挖掘過程中，從底層的視頻數據中首先提取低層圖像特征信息，包括圖像紋理、圖像色塊、運動矢量、圖像邊緣、灰度直方圖等信息，這類信息無法為我們所直接理解，它們是提取元語義信息的基礎。然后利用目標檢測、目標跟蹤、特征比對等手段從圖像特征中提取元語義信息，包括運動目標、運動目標軌跡、車牌圖片、人臉圖片等，這類信息已經可以為我們所理解，但是離最終應用還有距離。最后將元語義信息融合為高層的語義級描述信息，例如融合運動目標軌跡信息及用戶設計的禁區信息所生成的描述內容為“發現有人闖入禁區”的語義級報警信息，再例如融合目標行人目標檢測信息及運動軌跡信息可以生成客流量統計報表……隨著提取信息的層次越高，其包含的信息量逐步減少，其信息的抽象程度越高，也更接近我們所能應用及理解的范疇。

行業應用分析

不同行業對于視頻信息的需求及應用方式是截然不同的，因此很難開發出一套通用的視頻數據挖掘技術去適用于各個行業。在現有的技術發展水平下，比較合理的做法是根據各行業的需求開發專用的視頻數據挖掘系統。以下筆者將著重介紹異常事件報警應用及客流量統計應用。

監控系統的主要用途之一是為了在監控場景中發生各類異常事件時，用戶可以及時發現這類事件并進行處理，但是在缺少視頻數據挖掘技術時，監控系統很難發揮應有的效能。視頻數據挖掘技術可以從視頻中獲取描述運動目標的各種元語義信息，并結合用戶事先設定的規則生成報警事件描述性語義信息，并及時通知用戶，使用戶能夠及時對這類事件做出反應。這類視頻數據挖掘技術已經發展到一定的成熟度，并在機場、鐵路、監獄、油田、住宅小區等監控領域有了較多的應用，但是這類技術具有比較強的場景依賴性，在比較復雜多變的場景下其應用效果還需要進一步提升。

監控視頻中包含了大量統計類信息，這類信息對管理優化及決策輔助有寶貴的應用價值，例如連鎖店的客流量、保有量及客戶購買率等信息對于連鎖行業客戶非常重要，現階段要獲取這類信息一般只能靠人工方式統計，成本非常昂貴。視頻數據挖掘技術可以通過安裝在連鎖店門口的攝像機獲取進出店門的人員視頻，并從視頻中獲取進出人員及人員運動軌跡等元語義信息，并最終根據用戶設定的需求生成各類統計報表。目前，由于技術限制，從視頻中挖掘的統計信息雖無法保證百分之百精確，但是其勝處在于獲取的數據量龐大且成本低廉。

結語

監控視頻數據是埋藏了大量有用信息的“寶庫”，由于巨大的“語義鴻溝”存在，我們一直以來對這座寶庫可望不可及，借助數據挖掘技術這座“橋梁”我們有望跨越這條鴻溝。然而由于視頻數據包含的信息非常龐大且各行業對于信息的需求不同，不同的視頻數據挖掘技術的成熟度有所不同，有些已經可以成熟應用，而有些還處于起步階段，需要監控技術供應商及集成商付出長期的努力來完善該類技術。

作者為杭州海康威視數字技術股份有限公司項目總監