郭利全,謝維波
(1.華僑大學 計算機科學與技術學院,福建 廈門 361021;2.華僑大學 嵌入式技術開放實驗室,福建 廈門 361008)
Android是Google公司推出的基于Linux的開源手機操作系統,由于代碼開源,受到很多手機廠家的青睞。可視對講系統在Android操作系統未出現之前,軟件研發一般采用底層語言,容易出現功能單一、產品升級困難等情況,要在對講系統中開發出具有3D圖形效果的界面更是難上加難。鑒于此,本文利用Android平臺的可移植性、代碼開源等優勢,結合 JNI、NDK技術,提出了基于Android平臺的可視對講系統的設計方案并加以實現。
JNI[1](Java Native Interface)是 Java 本 地 調 用 接口 ,它使得運行于Android平臺的Java程序可以使用C、C++甚至匯編語言編寫的動態鏈接庫。在需要頻繁訪問內存或復雜計算的情況下,使用C動態鏈接庫比在Android平臺上使用Java語言實現相同功能更具有效率[2]。NDK[3](Native Development Kit)提供了一系列的工具,可以生成ARM二進制碼的動態庫,并且能自動地將生成的動態庫和Java應用程序一起打包成Android系統可以直接安裝的apk安裝包,即NDK可以將包含JNI接口函數的C源程序文件編譯生成動態庫,供Android應用程序調用,提高了對現有代碼的重用性,而加快了開發進度。
本文提出一種可視對講系統設計方案,對講雙方為門口機和室內機,并將設計方案在i.MX51硬件平臺進行實現。門口機進行音視頻的采集、編碼、傳輸及音頻解碼、播放;室內機采用Android平臺,但考慮用戶室內信息的保密性,室內機沒有視頻采集功能,室內機只進行音視頻的解碼、播放以及音頻的采集、編碼、傳輸。
數據包傳輸協議使用面向無連接、資源消耗小、處理速度快的UDP協議。尋址完成建立UDP直連后,門口機首先對視頻進行編碼傳輸,直到被叫方按下接聽鍵后,門口機才對音頻數據進行傳輸。為了保證通話一直在線,室內機每隔一定的時間向門口機發送通話在線詢問,如果收到在線確認應答則保持通話狀態,否則就結束通話。可視對講系統通信流程如圖1所示。

圖1 可視對講系統通信流程圖
尋址是指獲取到室內機的IP地址,建立與室內機UDP連接的過程。尋址的過程:通過組播(指加入這個組的所有成員都能收到該組任何一個成員發送的數據包)的方式實現IP地址的查找,門口機、室內機加入一個公共的組,門口機根據所撥的號碼計算一個地址作為被叫方地址,并將被叫方地址寫入數據包中發送給組里的每一個成員,組內成員從組內接收到數據包后,比對成員自己的地址與包頭中被叫方地址是否一致,如果不一致,則將該數據包丟棄;否則,就將自己的IP地址作為被叫方IP地址寫入到數據包頭中。地址格式設計如表1所示。
表1中類型選項占1 B,在邏輯上分為門口機和室內機兩種類型。如為門口機,則類型選項這一字節中存儲內容為字符“M”;如為室內機,則存儲內容為字符“S”,實際存儲的均為字符的ASCII碼。地址選項占4 B,存儲的為對應類型的物理地址。數據包格式中的主叫方地址和被叫方地址格式均如表1所示。例如,門口機撥號為0808,則計算機得到的被叫方地址為S0808。

表1 地址格式
為了便于系統開發,本文進行了應用協議的設計。應用協議設計的目的是約定收發數據包的規則、定義數據包的結構和內容,使通信流程更加明朗化。數據包格式如表2所示。

表2 數據包格式
表2中:包頭為對講數據包的標示符,命令類型、操作類型說明詳見表3,時間戳主要是用于音視頻的同步,數據類型分為音頻和視頻兩種,幀序號為0~65 535。如果沒有進行數據包分段,則總包數與當前包數均為1。音視頻數據從第41位開始算起,音視頻數據長度由數據包格式中的數據長度所指定。
根據系統通信流程圖1、結合數據包格式,本對講系統參數如表3所示。其中命令類型、操作類型分別與表2數據包格式相對應。

表3 可視對講參數列表
門口機的功能為音視頻的采集和音頻的播放,室內機為音頻的采集和音視頻的播放。可視對講系統主要分為6個模塊:音視頻采集、音視頻編碼、音視頻傳輸、音視頻接收、音視頻解碼、音視頻播放。對講系統采用多線程技術,大體上分為采集、編碼傳輸、接收、解碼播放、通話在線確認5個線程。線程之間通過信號量機制進行同步,使用互斥鎖實現資源的互斥訪問,使用鏈表實現音視頻數據的接收。系統功能模塊如圖2所示。

圖2 可視對講系統功能模塊圖
系統音頻編碼選用G.711編碼[4]。G.711是一種由國際電信聯盟訂定的音頻編解碼方式,擁有一倍的壓縮率,是語音通信中最常用的編解碼方式之一。采樣和量化是音頻編程及聲音數字化的兩個關鍵步驟,本系統使用的音頻采樣頻率為 8 kHz、量化位數為16 bit、單聲道。FFmpeg是用于音頻和視頻開源方案,由于它的開源和免費以及跨平臺的特點,受到開發商的青睞。FFmpeg支持包括xvid等在內的多達90種解碼器,由C語言實現,不僅可以應用于PC軟件平臺,也可以用于嵌入式設備。本系統中視頻選用xvid編解碼器,視頻格式為MPEG-4。(xvid是一個開放源代碼的MPEG-4視頻編解碼器)視頻標準采用NTSC制,視頻尺寸為 352×240,幀頻為 30 F/s;使用 NDK提供的交叉編譯工具將包含JNI接口函數的音視頻編解碼源文件統一編譯成為動態鏈接庫,供Android平臺調用。
系統硬件平臺為i.MX51 EVK。i.MX51 EVK是由Freescale公司自主研發的,中央處理器基于ARM Cortex A8核心的i.MX51處理器;主頻可擴展到1 GHz;處理器內部集成了DDR/DDR2內存控制器、OpenGL/OpenVG圖形核心、ATA控制器、以太網控制器等,支持720 p高清視頻播放;指令緩存和數據緩存為32 KB,二級緩存為256 KB;其容量指標是之前 ARM11產品的 2倍,可大大提高CPU的處理能力。同時處理器內部還集成了矢量運算的浮點運算及信號處理加速器,為多媒體信息娛樂終端提供了強大的處理核心支持[5]。
系統軟件平臺采用Linux操作系統、eclipse集成開發環境。Android SDK[6]版本為 2.2,Android NDK版本為android-ndk-r6。使用串口進行調試。
系統采用4 GB的SD卡存放引導程序、內核、根文件系統等鏡像。引導程序采用U-Boot,Linux內核版本為 2.6.31。移植流程:Android源碼可以從 http://source.android.com獲取到,編譯好UBoot、Linux內核、根文件系統以及 Android系統鏡像[7]后,設置i.MX51板上的S1BootSwitch模式為1100000001,使用ATK工具進行鏡像的下載。下載后系統鏡像在SD卡上分布圖如圖3所示。
圖3中,MBR主要存儲 SD卡的分區信息表,起始地址為0 KB。引導程序、內核、根文件系統的起始地址分別為 1 KB、1 MB、4 MB。System和Recovery分別各占一個分區,System為Android操作系統的鏡像文件所占分區,Recovery分區主要是用來備份和還原系統。

圖3 SD卡存儲信息分布圖
2.3.1 音頻編解碼實現
音頻編碼與解碼的區別僅在于調用的C庫函數不一樣,音頻編解碼調用的C庫函數分別為G711Encoder、G711Decoder(本文以解碼為例)。音頻解碼具體流程如下:
(1)音頻 Java本地調用函數
在使用音頻解碼的類中編寫Java本地調用函數:

(2)生成頭文件
C庫與Java間需要一個后綴為 “.h”的頭文件來銜接,這個頭文件通過javah命令生成,javah工具包含在JDK中。JDK是Java的核心,包含Java運行環境、Java工具、Java基礎類庫。
(3)JNI接口函數
JNI接口函數編寫在C語言文件中,與音視頻解碼源碼一起打包生成動態鏈接庫。在接口函數中聲明4個無符號指針變量:decode指向待解碼的數據、depcm指向解碼后的數據、enpcm指向待編碼的數據、encode指向編碼后的數據。解碼代碼如下:

其中,depcm=(unsigned char*)(*env)->GetByteArrayElements(env,pcm,0)用來獲取Java層傳遞的待解碼字節數組的首地址,G711Decoder()函數實現音頻解碼,(*env)->ReleaseByteArrayElements(env,pcm, (jbyte)depcm,0)釋放傳遞的數組成員,進行資源回收。
(4)使用NDK中ndk-build命令編譯生成動態鏈接庫
ndk-build命令是ndk命令工具集中的一個命令,與Linux下shell編程中的make命令相似,它會查找文件夾中的后綴為“.mk”的Makefile文件,根據該文件的依賴文件,將源文件編譯成動態鏈接庫。
2.3.2 視頻編解碼實現
視頻的編解碼流程與音頻編解碼流程基本相似,視頻編解碼調用的C庫函數分別為avcodec_encode_video、avcodec_decode_video2。限于篇幅,在此重點介紹Android平臺視頻的解碼及顯示。
在解碼視頻數據前,要先做一系列的準備工作:
(1)給出主要的數據結構


(2)初始化流程
①注冊解碼器

②初始化 AVPacket、AVCodecContext、AVFrame

其中,AVFrame是數據流在編解碼過程中用來保存數據緩存的對象,從數據流中讀取到的數據首先保存到AVPacket中。一個AVPacket最多只包含一個 AVFrame,而 一 個 AVFrame可 以 包 含 好 幾 個 AVPacket。AVCodecContext用于動態記錄一個解碼器的上下文信息。
③設置視頻解碼器


圖4 視頻解碼流程
④視頻解碼流程
視頻解碼流程如圖4所示。圖 4中,AndroidBitmap_getinfo用于獲取Android平臺Bitmap對象 的 大 小 ,AndroidBitmap_lockpixels函數是對Bitmap進行加鎖、互斥使用資源。如果AVPacket包中存在未解碼完的數據,則調用函數avcodec_decode_video2進行解碼;若解碼出一幀后需要調用函數sws_scale進行格式轉換。視頻數據解碼完后顏色空間為YUV,需轉換成RGB顏色空間。最后調用fill_bitmap函數進行數據填充及進行Bitmap的解鎖和資源的釋放。
視頻顯示采用Android平臺的ImageView控件進行顯示。解碼線程接收到視頻數據后,通過JNI調用,調用動態庫中的視頻解碼接口函數進行解碼,每解碼完一幀后通過消息通知主線程進行顯示圖像的更新,這樣就達到了視頻數據動態顯示的效果。
Android平臺在i.MX51 EVK平臺上移植成功后,串口中Android操作系統啟動信息如圖5所示。從圖中的啟動信息可以看出,Android平臺移植成功,啟動信息也包含有CPU信息、內核版本、大小、加載地址、Android文件系統版本等信息。

該軟件開發完成后,在Android工程的bin下生成apk文件,并復制apk文件到SD卡中,在Android系統中安裝該軟件,使用門口機進行撥號,編碼后的音視頻數據通過網線進行傳輸。
本文將Android手機操作系統應用于i.MX51 EVK平臺,并在該平臺上提出了可視對講的設計方案,分別進行了通信流程、應用協議、功能模塊等設計,最后實現了系統的設計方案。但由于視頻是使用軟件解碼,運行效率有待提高,且語音對講部分回聲消除存在問題,有待進一步研究。
[1]任俊偉,林東岱.JNI技術實現跨平臺開發的研究[J].計算機應用研究,2005,22(7):180-184.
[2]LEE S,JEON J W.Evaluating performance of Android platform using native C for embedded systems[C].Proceeding.IEEE International Conference on Control Automation and Systems,2010.
[3]楊豐盛.Android應用開發揭秘[M].北京:機械工業出版社,2010.
[4]Fu Wei,Zhang Jun.Study on G.711 voice communication of IP video intercom system[C].Proceedings of the IEEE International Conference on Digital Manufacturing and Automation,2010.
[5]Freescale公司.i.MX 51 芯片說明書.2010.
[6]Android SDK|Android developers[EB/OL].http://developer.android.com/sdk/index.html.2010.
[7]宋杰,王書菊.基于ARM2440平臺的 Android操作系統的移植[J].計算機技術與發展,2011,21(1):66-68.