曾志康 韋健 李敏 郭元元 莫小香 覃澤林



摘要 以搭建蔬菜精準管理與安全監控大數據平臺為目標,詳細分析了蔬菜產業生產環節、加工環節、流通環節和消費環節數據采集需求,提出平臺架構由表現層、服務層和持久層組成,設計了基于智能化數據接口和第三方監管的蔬菜精準管理與安全監控的多終端大數據平臺總體框架,為監控廣西蔬菜產業全流程信息、促進大數據落地應用和推動蔬菜產業健康發展提供了技術支撐。
關鍵詞 精準管理;質量溯源;產業大數據;信息平臺;框架設計
中圖分類號 S-126文獻標識碼 A文章編號 0517-6611(2021)11-0224-06
doi:10.3969/j.issn.0517-6611.2021.11.058
開放科學(資源服務)標識碼(OSID):
Overall Framework Design of Vegetable Precise Management and Safety Monitoring Big Data Platform
ZENG Zhi-kang,WEI Jian,LI Minet al
(1.Agricultural Science and Technology Information Research Institute,Guangxi Academy of Agricultural Sciences,Nanning,Guangxi 530007;2.Vegetable Research Institute,Guangxi Academy of Agricultural Sciences,Nanning,Guangxi 530007)
Abstract With the goal of building a big data platform for vegetable precision management and safety monitoring, the data collection requirements of the production, processing, circulation and consumption of the vegetable industry are analyzed in detail, and the platform architecture is proposed to consist a presentation layer, a service layer and a persistence layer. A multi-terminal big data platform for precise management and safety monitoring of vegetables based on intelligent data interface and third-party supervision was designed according to the overall framework of the platform, which provided technical support for monitoring the whole process information of Guangxi vegetable industry, and for promoting the application of big data and promoting the healthy development of vegetable industry.
Key words Precise management;Quality traceability;Industrial big data;Information platform;Framework design
當前,信息技術發展突飛猛進,與各個行業領域深度融合并對行業產生了深遠的影響。“大數據”是繼物聯網、云計算之后信息技術產業又一次重要的技術變革[1],農業大數據也應運而生,并不斷運用到農業全產業鏈中。大數據的“5V”特點[1]決定了需要通過搭建相應的系統平臺來實現其分析應用價值,系統平臺一般由基礎設備層、數據采集層、數據處理層和應用層組成[2-5],主要通過數據標準化、交叉驗證等處理,供用戶進行深度定制、可視化應用和個性化定制等操作[6]。現有的農業大數據平臺建設注重的是“大”和“全”,而非“專”,“專”即從農業某一行業或單品種的角度來設計和應用大數據平臺。農業不同產業領域、單品種間對大數據應用需求不同,某一行業的產前、產中和產后環節需求又不盡相同,這就決定了單品種大數據是農業大數據落地應用的關鍵[7]。
廣西是我國重要的秋冬菜蔬菜基地和“南菜北運”基地,2018年廣西蔬菜(含菜瓜)種植面積達到143.97 hm2,居全區農作物總播種面積之首,總產量(含菌類)3 432.16萬t[6]。廣西蔬菜生產主要由外向型蔬菜、城郊型蔬菜和其他分散栽培的蔬菜組成[8],僅賀州市2018年銷往粵港澳地區的蔬菜就達到125萬t[9]。廣西對蔬菜質量安全一直保持高度重視,但蔬菜質量安全問題仍令人擔憂,主要表現在農藥使用和管理存在缺陷、蔬菜質量檢測力度不夠、蔬菜產品質量監控不足、蔬菜標準化體系不完善等,影響到蔬菜質量安全水平的提升和人們的餐桌安全,迫切需要改變蔬菜生產機制,堅持源頭控制,建立質量安全管理體系,加強監控管理。大數據是蔬菜產業克服自然風險、市場風險,實現供給側結構性改革的重要支撐[10]。鑒于此,筆者以廣西外向型蔬菜產業精準管理與安全監控需求為導向,從蔬菜生產、加工、流通和消費4大環節為切入點探討蔬菜精準管理與安全監控大數據平臺總體框架設計,為監控廣西外向型蔬菜產業全流程信息、促進產業健康發展提供大數據應用解決方案。
1 平臺數據采集需求分析
平臺的數據來源與功能分布在蔬菜產業的各個環節,其中生產記錄、操作數據、環境數據、交易記錄等數據,是平臺的基礎核心數據。需要對生產、加工、流通和銷售環節所產生的數據中關注度高、影響力強的重點數據進行統計與分析,最終形成對蔬菜產業具有指導意義的數據分析報告。
1.1 生產環節需求
平臺在生產環節中的數據采集對象包括農資信息、種植信息、農事信息、管理信息和生產環境信息,涉及蔬菜種植過程中土地利用、農資使用、種植過程技術需求、勞動力需求與一些特殊工作的外包需求等情況,數據來源以自然數據、農資數據與生產記錄為主,需要對采集到的數據進行對比、統計、分析。數據具體分為以下幾類:
①土地數據。采集土地使用情況、土地租賃需求、租賃與出讓價格、土壤監測數據等信息,對數據進行同時期對比分析。
②農資數據。采集農資產品信息、農資交易信息、農資企業信息,對數據進行熱度與市場走勢分析。
③生產數據。采集生產過程中產生的環境信息、生產操作記錄、農資使用記錄,對數據進行趨勢分析。
④技術數據。采集新品種和優勢品種需求、栽培技術需求、病蟲害防治技術需求,對數據進行熱度與趨勢分析。
⑤勞動力數據。采集基地建設與生產過程中,長期與短期的用工需求以及富余勞動力的流動數據,對勞動力數據進行趨勢分析與勞動力走向分析。
⑥外包數據。采集基建、生產、植保、加工、銷售和其他外包需求信息,對外包需求進行熱點分析。
1.2 加工環節需求
加工環節中,平臺數據采集主要來源于加工過程中的環境數據、加工操作記錄與服務需求供給信息。具體包括以下數據:
①廠房數據。采集廠房環境數據、廠房場地租賃需求信息、廠房基建維護需求信息,可對數據進行市場走勢分析。
②生產設備設施數據。生產設備設施需求數據、供應商分析與評價數據、設備使用與維護數據。
③加工數據。采集加工環境數據、加工過程操作記錄信息、加工品研制需求信息、加工品包裝設計需求信息。
④貨源數據。采集基地直供、蔬菜企業專供、合作社推薦的蔬菜信息。
⑤勞動力數據。采集加工企業與工廠的長期與臨時用工需求信息。
⑥外包數據。采集合作加工需求、委托加工需求、定向服務需求信息。
1.3 流通環節需求
流通環節中,以倉庫儲存、物流、交易數據為主,面向倉儲企業、物流企業、配送企業、零售餐飲企業進行數據采集。包括以下幾類數據:
①倉儲數據。采集倉庫與冷庫環境數據、倉儲租賃需求信息,可對倉儲環境數據進行平均分析。
②物流數據。采集物流公司數據、運輸車數據、運輸過程記錄數據,可對運輸時間與運輸質量進行平均分析。
③批發數據。采集批發需求數據、批發價格數據,可對數據進行趨勢分析。
1.4 消費環節需求
消費環節中,平臺以采集銷售信息、提供蔬菜溯源信息、蔬菜產品信息服務和數據分析為主。
銷售信息采集方面,平臺對蔬菜產品的銷售情況、銷售渠道以及反饋意見等信息進行采集,分析產品的銷售趨勢與品質趨勢。
蔬菜溯源信息方面,提供接入平臺的蔬菜產品溯源查詢服務與集成其他溯源系統數據的查詢服務。
產品信息服務方面,平臺提供蔬菜品種、種植技術、市場行情、科普知識、飲食健康等相關信息,為電商平臺各類銷售渠道提供蔬菜產品詳細信息。
數據分析方面,對消費者關注的問題與產品做熱度分析,并結合分析結論發布消費者關注度高的熱點問題相關信息與優質蔬菜產品信息。
2 平臺總體框架設計
2.1 平臺設計原則
根據平臺需求分析,平臺設計遵循如下原則:
(1)先進性原則。平臺設計實現蔬菜的大數據精準管理與安全監控,最重要就是實現數據的存儲與交互。平臺實現與農業高新技術結合,包括實現蔬菜生產基地數據、蔬菜加工流通數據、蔬菜產品質量安全監測數據與氣象傳感器等物聯網信息化設備的數據交互。平臺設計充分滿足需求分析內容,并具備良好的前瞻性,滿足相關設備更新換代產生的系統更新需求,使平臺在長期使用過程不需進行頻繁擴展。
(2)安全性原則。作為蔬菜產品精準管理與安全監控平臺,對用戶以及相關接入設備需要嚴格控制,平臺應采用全面的安全保護措施,完全具備對重要數據、平臺關鍵模塊進行備份,遵循單一的職責原則,即一個類只負責一項職責,使平臺擁有較強的容錯力,確保平臺長期運行的穩定性。
(3)開放性原則。平臺接入的外部設備較多,涉及農業氣象、物聯網信息化、衛星導航等相關領域設備,平臺設計時,需要充分考慮平臺延展性,在相關接入設備進行更新換代時,方便系統進行延展開發、二次升級。平臺對相關接入設備應具有較好的適應性,不依賴于某一特定型號設備,具備標準數據接口,能與其他系統進行數據交互。
(4)實用性原則。平臺設計需考慮系統使用的用戶性質,在確保功能滿足需求的情況下,還應具有連接穩定、數據完整、操作簡單、界面友好的特性;使得用戶業務操作上能夠高效完成任務,擺脫傳統的業務處理方式。
(5)可擴展性原則。平臺設計應有較好的外部接口,滿足與各類外部設備數據的接入接出需求,如GIS電子地圖、視頻監控、RFID射頻技術、BDS衛星定位等外部設備系統。
2.2 平臺架構設計
平臺將蔬菜產前、產中、產后加工到運輸全過程進行監測管理,將生產過程涉及的所有信息進行存儲管理,為蔬菜的質量安全溯源信息查詢提供數據支撐。平臺接入的外部系統較多,數據傳輸量龐大、數據類型較為復雜,運用動態控件加載、分布存儲,并以此基于SOA架構開發分布式平臺。平臺架構如圖5所示。
表現層整體應用功能將通過門戶方式進行展現,只需要處理和頁面的交互,業務邏輯都是調用服務層的服務來實現。架構設計外網和內網門戶,平臺用戶可通過登錄相關系統開展應用和瀏覽查詢信息資源。支持Web瀏覽器、移動終端(手機、智能終端等)等多通道的訪問,蔬菜基地生產用戶可以對蔬菜種植過程相關信息進行記錄管理,消費者可以使用質量安全溯源系統對蔬菜農產品進行質量安全溯源查詢。
服務層包含了業務邏輯,負責對外提供服務。通過集群實現高可用機制,服務層的服務被表現層通過分布式架構調用。通常包括事務腳本、表模塊、活動記錄、領域模型等業務邏輯來實現數據交互。
持久層即數據庫存儲操作的數據層。平臺集成了較多系統應用,各數據源部署在不同的服務器上,且各數據源存在異構性。分散在不同服務器中的數據源造成復雜、多樣的訪問難題,導致服務響應緩慢。平臺通過數據庫中間件法執行中間件分庫分表算法,將數據操作發送到相應數據庫節點,由對應的數據庫服務器負責解析和獲取數據,并通過中間件返回結果。
2.3 平臺總體設計
根據平臺需求分析,結合廣西蔬菜產業發展的特點,針對性的設計開發廣西蔬菜精準管理監控大數據與質量安全溯源平臺。平臺主要分為兩大板塊,一是蔬菜生產流通全程安全溯源信息化系統,其中包括:①農業投入品網絡監管系統,實現農業投入品各類信息的可追溯化;②蔬菜生產全程智能管理系統,利用蔬菜生產的實時數據,結合專家知識庫,實現生產全程智能化管理;③蔬菜加工流通智能管理系統,使用數據智能采集技術,如RFID、BDS等技術對蔬菜加工流通全程進行跟蹤管理;④多終端的溯源查詢系統,提供各類智能終端的溯源信息查詢。二是蔬菜產品精準管理與安全監控大數據平臺。集成蔬菜產銷全程各類管理子系統,全方位監控蔬菜全流程安全信息,并提供數據的開放監管。平臺總體框架設計如圖6所示。
2.4 平臺功能實現
根據平臺設計功能,平臺主要實現蔬菜生產管理與全產業鏈溯源服務。生產管理包含產前的農業投入品、生長過程中的農事和管理、產后的加工流通等信息的采集與分析;溯源服務主要利用二維碼作為產品的身份ID進行蔬菜質量安全信息溯源,通過大數據平臺進行全過程信息的綜合展示。平臺展示界面如圖7所示。
(1)數據采集。
平臺的數據采集根據蔬菜不同生產環節的操作需求,采用自動化、半自動化與手工采集等多種手段相結合的方式進行。針對可以使用傳感器與自動化設備采集數據的環節,使用自動化與半自動化的采集方式來替代手工采集帶來的大量繁雜操作,但在不可進行自動化操作的環節,仍然保留手工采集數據的功能,以填補自動化與半自動采集方式的功能盲區。具體各類數據采集方式如下:
市場需求類信息:包括農資需求信息、產品供求信息、土地需求信息、廠房需求信息、用工需求信息等需求或新聞類信息,此類信息可以通過運維人員進行統一采集后進行發布或導入,也可以由平臺用戶通過平臺信息發布功能,在平臺中發布企業或個人的需求信息。
作業數據:生產過程信息的采集利用傳感器、RFID標簽或二維碼標簽等方式,通過全自動或半自動的數據采集手段,對生產過程中的各個環節的信息數據進行采集。在蔬菜生產全過程中,可以通過使用平臺配套的APP,對帶有標記的RFID標簽或二維碼標簽進行掃描,通過手工操作的方式記錄相應的作業記錄。在加工、包裝、流通等環節中,可以通過使用生產設備上的傳感器與識別器對生產加工過程產生的操作記錄進行自動化記錄。
環境數據:蔬菜生產的各個環節均可使用各類環境感知傳感器進行實時監測。例如在種植環節,可針對土壤和氣象數據進行持續監測;在加工、倉儲、流通環節,可對廠房、倉庫、物流等蔬菜的存儲環境進行實時監測。
(2)數據處理。
數據轉換:平臺的數據轉換通常出現在硬件與平臺的通信環境中,在平臺的使用過程中常常會涉及傳感器、生產設備與平臺之間進行數據的相互通信。在傳感器進行數據采集以及設備控制器執行指令時,由于其硬件組成原理,通常采用模擬信號進行數據的回傳與指令的下達,因此會對信號與數據進行大量繁雜的A/D與D/A轉換處理。
數據清洗:在傳感器回傳的數據中,會存在一部分無效或異常數據,當這部分數據進入數據分析過程時,會導致分析結果的偏差。因此,在進行數據分析前,會將數據轉入數據清洗模塊中,將無效和異常的數據進行剔除。分析時所用數據均是二次處理的數據,無效或異常數據將作為原始數據進行存儲。由于無效和異常的數據也有可能反映出生產過程中的問題,用戶可以根據個人需要,選擇是否進行數據清洗。
數據存儲:數據的存儲方式采用分庫存儲,不同的業務功能使用各自獨立的數據庫進行數據的存儲,通過數據的管理單元進行數據的關聯與讀取。同時,由于傳感器回傳數據量級較大,為保證數據的完整性與快速讀寫,平臺針對回傳數據采用數據庫表分區、數據分庫等手段,基于數據庫二維數據存儲邏輯,根據水平或垂直拆分的原則,對數據進行多元化的拆分存儲。
(3)數據分析。
熱點分析:平臺針對企業和各類需求方關注的土地租賃、廠房租賃、勞動力供求、農資供求、電商銷售、物流記錄、病蟲害信息、農殘檢測信息等數據,以及在數據挖掘過程中出現的熱門數據進行熱點分析,根據發生熱點的地域、產業、受眾群體、產品等分類進行熱點與冷點分析,為需求方提供對應的分析結果。
趨勢分析:對市場需求信息、銷售流通記錄、生產環節記錄、環境監測記錄等具有時間連續性或空間連續性的數據,平臺可進行數據的趨勢分析,通過相關的關鍵指標,反映出市場需求、生產能力、氣候氣象對蔬菜市場的影響。
對比分析:平臺以同期對比分析法為基礎,采用同比結構組成、同比增長率、同比增長速度等指標對蔬菜市場的供需、生產、物流、銷售等信息數據進行分析,可綜合體現蔬菜市場的整體發展水平。
(4)數據可視化。
針對具有區域性的數據,結合電子地圖進行區域化的數據展示。可對熱點分析的數據使用電子地圖的熱力圖展示;對銷售記錄采用電子地圖的散點圖展示;對流通記錄采用的電子地圖的流向圖或航線圖展示;對具有詳細統計的數據內容采用條形圖與電子地圖進行綜合展示。
針對具有趨勢性與對比性的數據,平臺采用折線圖、曲線圖進行展示。例如,每月蔬菜倉管數據統計出的出庫與入庫數據可采用不同顏色的折線代表年份,以數量為Y軸,月份為X軸,使用折線圖對蔬菜倉管數據進行展示。
針對具有分類與構成性的數據,采用折線面積圖、曲線面積圖、餅圖、扇形圖、旭日圖進行展示。例如,每個月生產的蔬菜品種可以按年份篩選,用多個不同顏色的折線面積表示蔬菜品種分類,以數量為Y軸,月份為X軸,使用折線面積圖進行蔬菜品種每月組成結構數據的展示。
3 結論
蔬菜質量安全是全社會關注的民生重點事件[11],建設蔬菜產業大數據平臺[12],利用大數據技術實現蔬菜產業全要素關聯分析[13],是促進蔬菜產業健康發展的重要手段。該研究針對外向型蔬菜的精準管理與安全監控需求,從“蔬菜生產投入品-播種-育苗-種植-采收-加工-包裝-貯藏-運輸-銷售”等環節出發,利用物聯網技術進行全程安全信息記錄跟蹤,通過構建基于智能化數據接口和第三方監管的蔬菜產品精準管理與安全監控的多終端大數據平臺,實現蔬菜產品生產全周期智能化管理和溯源。平臺實現多終端多用戶的接入,可由第三方進行監管。通過農業投入品監管、生產全程智能管理、加工流通智能管理,實現蔬菜產品全流程質量安全信息的透明監管,并預留數據自動上傳接口,自動采集上傳屬性不可修改的農資數據、環境數據、檢測數據。避開人為干擾屬性,避免蔬菜生產企業為了滿足市場銷售需求對數據進行改動甚至造假,造成產品質量安全問題。隨著農業物聯網技術的全面應用和人工智能技術的發展,蔬菜大數據服務將更加深入[12]。
參考文獻
[1] 孫忠富,杜克明,鄭飛翔,等.大數據在智慧農業中研究與應用展望[J].中國農業科技導報,2013,15(6):63-71.
[2] 秦小立,葉露,李玉萍,等.熱帶農業大數據應用平臺設計[J].熱帶農業科學,2018,38(1):130-136.
[3] 李瑾,顧戈琦.基于“互聯網+”的農業大數據平臺構建[J].湖北農業科學,2017,56(10):1947-1952.
[4] 陶忠良,管孝鋒,劉彥妮.基于精細農業的大數據應用平臺構建研究[J].科教導刊,2018(16):145-147.
[5] 周湘超,陳義明,朱幸輝.1種農業物聯網大數據平臺架構[J].安徽農業科學,2019,47(2):241-245.
[6] 廣西壯族自治區統計局.廣西統計年鑒2019[M].北京:中國統計出版社,2019.
[7] 楊紹功.王叁壽:單品種大數據是農業大數據的關鍵[EB/OL].(2018-11-20)[2020-10-20].https://www.thepaper.cn/newsDetail_forward_2654111.
[8] 康德賢,蔣雅琴,甘桂云,等.廣西城郊型蔬菜產業發展現狀與對策[J].長江蔬菜,2018(9):4-7.
[9] 盧佳.125萬噸蔬菜銷往粵港澳地區[N/OL].廣西日報,2018-12-26[2020-10-20].http://news.gxnews.com.cn/staticpages/20181226/newgx5c22b822-17919853.shtml.
[10] 王曉東,于峰.基于大數據的蔬菜產業數據化研究[J].蔬菜,2018(5):27-31.
[11] 於文剛.基于RFID的蔬菜質量溯源系統的設計與實現[J].智能計算機與應用,2016,6(4):48-50.
[12] 張開智,柳平增,姜紅花,等.蔬菜產業大數據平臺評價指標體系探究[J].中國管理信息化,2020,23(7):162-165.
[13] 孫想,吳華瑞,朱華吉,等.蔬菜產業大數據平臺應用研究[J].北方園藝,2020(20):154-162.