鄭 鑫,閆鈞華
(1.光電控制技術重點實驗室 河南 洛陽 471009;2.南京航空航天大學 江蘇 南京 210016)
航空電子圖像處理系統為操作者提供各種圖像及字符信息,隨著傳感器、顯示器的性能指標不斷提升,圖像處理系統的設計面臨越來越大的挑戰,其中圖像縮放的功能是圖像處理系統的關鍵技術要求。圖像縮放功能有兩種實現方案:1)軟件實現,其優點是算法選擇靈活多樣,生成的畫面質量較高,缺點是運算時間長。2)硬件實現,其優點是分辨率高,實時性強,缺點是不易實現功能強大的優秀算法。
近年來,FPGA技術發展迅速,片內集成了PLL、硬件乘法器、存儲器,具有了實現優秀算法的充足資源[1]。許多航空電子嵌入式圖像處理系統是由固定的視頻源和顯示設備組成,系統中圖像縮放的倍率是固定的。文中針對此展開重點研究,基于FPGA硬件,實現固定倍率的圖像縮放。
數字圖像的縮放是一個處理2維離散信號的過程。輸出圖像中任一個像素F(x,y),均可以在輸入圖像f(x,y)的像素矩陣中找到其對應的位置,如圖1所示。
F(x,y)的值可以對其鄰域的原始圖像進行二維卷積運算得到。

圖1 輸入和輸出圖像像素的映射關系Fig.1 Pix mapping of input and output image

其中m×n為鄰域范圍,f(i,j)是輸入原始圖像,s(i,j)為系數函數。
因為圖像中鄰近的像素存在著相關性,所以輸出圖像像素可以依據其在原始輸入圖像映射位置鄰域的像素數據卷積得到。鄰域范圍內各個像素的相關度由系數函數決定,鄰域的范圍決定了算法的運算速度[2-3]。
基于FPGA硬件實現固定倍率的圖像縮放,為了降低FPGA設計的復雜性,提高圖像縮放算法的運算速度,增強系統的實時性,將2維卷積運算分解成2次1維卷積運算,對輸入原始圖像像素先進行行方向的卷積,再進行列方向的卷積,從而得到輸出圖像像素。
基于FPGA實現圖像縮放的功能結構圖如圖2所示。

圖2 功能結構圖Fig.2 Functional diagram
卷積計算模塊的硬件結構由算法決定,每個點時鐘周期內,對輸入原始圖像像素和系數先進行行方向的卷積,再進行列方向的卷積,從而得到輸出圖像像素。系數產生功能是依據控制模塊確定的狀態,產生算法要求的系數。輸入緩存由控制模塊不斷刷新,保證每一時鐘輸入給卷積計算模塊相應的像素數據。輸出緩存提供下一環節數據流接口。
控制模塊是核心邏輯部分,可以采用逆向映射方式(按照輸出像素的時間順序遞增,選擇對應的輸入像素得到結果),也可以采用順向映射方式(直接在輸入像素的時序中產生輸出像素)[4-5]。
逆向映射方式工作在輸出圖像的時鐘域,控制模塊根據縮放倍率、分辨率和同步信號,確定輸入像素坐標的增量大小,使得在每一時鐘周期輸入緩存中出現相應的像素數據。因為逆向映射方式需要使輸出時鐘域與輸入時鐘域保持同步,所以需要大容量的輸入數據存儲空間,才能確保在每個時鐘周期提供相應的輸入像素數據[6]。順向映射方式輸入和輸出像素有很強的時序對應關系,按照輸入像素的時序進程實時確定輸出像素的時序,輸出圖像分辨率發生變化,但幀頻一致。圖像縮放過程中,輸入一個像素可能會輸出2個或3個像素,控制模塊可以采用輸出緩存、雙口RAM、變換時鐘域、增加數據總線寬度等方法達到這種同步。順向映射方式符合輸入圖像的時序,不需要大容量的數據存儲空間,具體根據圖像縮放算法的鄰域大小而定。
基于FPGA實現圖像縮放時,無論是逆向映射方式還是順向映射方式,控制模塊的設計都比較復雜。為了發揮FPGA的優勢,大幅度降低設計難度,簡化硬件結構,文中把圖像縮放過程設計為一個單元體的循環過程,在單元體內部,可以事先計算出卷積系數。例如,把每行720個像素,放大到768個像素,相當于每輸入15個像素,輸出16個像素。此時可以把15個像素作為一個單元體,事先計算出每個輸入像素周期的卷積系數,在FPGA中設計一個包含15種情況的狀態機即可。單元體的像素數量越少,事先計算卷積系數和狀態機設計的工作量就越少,因此像素的數量控制在20個以內,必要時可以采用近似的整數比。當輸出像素的數量與實際要求相差很小時,圖像邊緣部分增加或減少幾個像素對顯示效果影響甚微,因此各種圖像縮放倍率情況下,相應個數的輸入像素都可以作為一個合適的單元體。
為論述方便,文中以將768×576的輸入圖像放大到1 024×768為例,說明基于FPGA實現對輸入原始圖像像素先進行行方向的卷積,再進行列方向的卷積,從而得到輸出圖像像素。
2.2.1 基于FPGA實現行方向的卷積
圖像在行方向的放大比例為3:4,即單元體為3個輸入像素和4個輸出像素,如圖3所示。

圖3 單元體示意圖Fig.3 Small unit drawing
輸入圖像的 AB空間中均勻分布X1、X2、X33個像素,放大后輸出圖像的這個空間將輸出Y0、Y1、Y2、Y34個像素。這個單元體的時序關系是:當輸入X1像素時,輸出Y0像素;當輸入X2像素時,輸出Y1像素;當輸入X3像素時,輸出Y2和Y3像素。行方向的卷積公式為:

基于FPGA實現的源程序如下:



基于FPGA實現的仿真時序圖如圖4所示。
在本例中時鐘為輸入的點時鐘,為了在X3像素周期時輸出2個像素:Y2和 Y3,采用了擴充數據總線的方式。

圖4 時序圖Fig.4 Waveform of timing result
2.2.2 基于FPGA實現列方向的卷積
數據流在行方向放大后寫入雙口RAM,然后從另一側端口讀出進行列方向的放大。由于行方向的卷積算法,雙口RAM中至少應存儲連續的3行輸入圖像像素數據,其中2行輸入圖像像素數據處于被讀出狀態,產生放大后的輸出圖像像素,另一行空間被寫入當前的輸入圖像像素數據,循環刷新。
列方向的單元體和行方向相同,也由3個輸入像素和4個輸出像素組成,每種狀態下也是同樣的卷積系數,只是圖像橫向的空間變換成圖像豎向的空間,因此基于FPGA實現列方向的卷積的方法與基于FPGA實現行方向的卷積的方法相同,此處不再贅述。
基于FPGA實現圖像縮放,需要根據圖像縮放的倍率確定包含適當數量像素的單元體。在單元體內部,根據圖像縮放算法確定每個輸出像素的計算公式和卷積系數,確定實現點時鐘倍頻效果的硬件方案。順向映射方式輸入和輸出處于幀同步狀態,由于輸出像素數量多于輸入像素,輸出像素的點時鐘頻率要高于輸入像素。本文行方向的放大過程,點時鐘頻率平均增加1/3倍,列方向的放大過程,點時鐘頻率還要繼續增加1/3倍。實現倍頻效果可以采用更高頻的獨立時鐘,或者倍頻輸入點時鐘,再或者增加數據總線寬度。為節省數據存儲空間,當對圖像放大時,先進行列方向的放大,后進行行方向的放大;當對圖像縮小時,先進行行方向的縮小,后進行列方向的縮小。
基于FPGA實現圖像縮放功能實時性強、分辨率高。許多航空電子嵌入式圖像處理系統是由固定的視頻源和顯示設備組成,系統中圖像縮放的倍率是固定的。本文基于FPGA硬件實現固定倍率的圖像縮放,能夠大幅度降低設計難度,減少工作量。
基于FPGA硬件實現固定倍率的圖像縮放的方法已經應用于某款航空電子產品中,電路板的原有硬件沒有變動,對電路板中FPGA重新進行了設計,增加了新的內容,應用效果良好。
[1]王岳環,彭曉.基于FPGA的數字圖像實時放大設計[J].計算機工程與應用,2005,41(8):108-110.
WANG Yue-huan,PENG Xiao.The FPGA-based design of digital image real-time enlargment[J].Computer Engineering and Applications,2005,41(8):108-110.
[2]張阿珍,劉政林,鄒雪城,等.基于雙三次插值算法的圖像縮放引擎的設計[J].到微電子學與計算機,2007,24(1):49-51.
ZHANG A-zhen,LIU Zheng-lin,ZHOU Xue-cheng,et al.Design of image scaling engine based bicubic interpolation algorithm[J].MicroelectronicsandComputer,2007,24(1):49-51.
[3]焦戩,張輝,胡廣書.基于FPGA的數字X射線圖像的實時縮放模塊[J].北京生物醫學工程,2007,26(2):140-143.
JIAO Jian,ZHANG Hui,HU Guang-shu.A real-time image zooming module based on FPGA for X-ray imaging[J].Beijing Biomedical Engineering,2007,26(2):140-143.
[4]胡小龍,馮彬.基于FPGA的高分辨實時監控圖像縮放設計[J].液晶與顯示,2009,24(6):882-885.
HU Xiao-long,FENG Bin.Design on FPGA based highresolution and real-time monitoring image zooming[J].Chinese Journal of Liquid Crystals and Displays,2009,24(6):882-885.
[5]孫紅進.FPGA實現的視頻圖像縮放顯示 [J].液晶與顯示,2010,25(1):130-133.
SUN Hong-jin.FPGA realization of video image zooming display[J].Chinese Journal of Liquid Crystals and Displays,2010,25(1):130-133.
[6]劉政林,鄒雪城,向祖權,等.定標器的設計與實現[J].電子學報,2006,34(1):185-188.
LIU Zheng-lin,ZHOU Xue-cheng,XIANG Zu-quan,et al.The design and implementation ofscaler [J].ACTA Electronica Sinica,2006,34(1):185-188.