王中成 葉宇飛 周莉
摘 要: 針對跨地域勘察設計院電子圖紙存檔的數據量大和網絡帶寬小造成傳輸速度慢、很耗時的問題,介紹了一種運用多項互聯網技術協同作用提高傳輸速度的方法。首先通過上網行為管理技術降低在線視頻及P2P文件共享流量對帶寬的占用;其次通過數據壓縮技術減少所需傳輸數據的大?。蝗缓笸ㄟ^協議優化技術提高數據傳輸效率;最后,采用重復數據本地獲取技術減少數據傳輸總量。實驗結果表明,電子圖紙存檔第一次上傳所需傳輸時間與傳統傳輸方式相比減少7%-25%,第二次上傳所需傳輸時間與傳統傳輸方式相比減少31%-53%,因此,運用多項互聯網技術協同作用有利于跨地域勘察設計院電子圖紙存檔的快速傳輸,是“互聯網+”的典型應用。
關鍵詞: 電子圖紙存檔; 上網行為管理; 數據壓縮; 重復數據本地獲?。?互聯網+
中圖分類號:TP393.2 文獻標志碼:A 文章編號:1006-8228(2018)08-43-04
Deployment of Internet technology for electronic drawings archiving
of cross region in design industry
Wang Zhongcheng, Ye Yufei, Zhou Li
(China Coal Technology & Engineering Group Chongqing Engineering Co. Ltd, Chongqing 400016, China)
Abstract: In view of the problems of the large amount of data in the electronic drawings and the small network bandwidth, the transmission speed is slow and the time consuming of the electronic drawings in the cross region survey and design institute is high. A method of improving the transmission speed by using the synergy of multiple Internet technology is introduced. First of all, reduce the bandwidth consumption of online video and P2P file sharing through Internet behavior management technology; secondly, reduce the size of the required transmission data by data compression technology; thirdly, improve the efficiency of data transmission through protocol optimization technology; finally, the local data acquisition technology is used to reduce the total amount of data transmission. The experimental results show that the upload time of the electronic drawings archiving for the first time is reduced about 7%-25% compared to the traditional data transmission. Time of the electronic drawings archiving upload for the second time is reduced about 31%-53% compared to the traditional data transmission. Therefore, the application of multiple Internet technologies is conducive to the rapid transmission of electronic drawings in cross regional survey and design institutes, and it is a typical application of "Internet plus".
Key words: electronic drawings archiving;internet behavior management;data compression;local data acquisition technology; Internet plus
0 引言
圖紙作為設計行業的主要工作成果[1],包括紙質圖紙和電子圖紙,本文主要研究電子圖紙存檔。電子圖紙的存檔方面經歷了三個階段,第一階段,電子圖紙刻錄成光盤,與紙質圖紙一起交檔案部門保存,其缺點是時效性差(可能存檔不及時)、光盤易損、光盤數據與交付紙質圖紙是否一致無法查證。第二階段,使用統一的電子圖紙管理系統,將電子圖紙上傳到服務器存放,時效性、易損性有很大提高,并且引入負責人審核機制,電子圖紙與交付紙質圖紙的一致性也有很大提高。第三階段,使用統一的出圖系統,打印紙質圖紙時由出圖系統生成專業打印文件(PLT文件及PDF文件),同時自動上傳文件到出圖系統服務器中(包括PLT文件、PDF文件,以及原始的圖紙DWG文件),解決了存檔電子圖紙與交付客戶的紙質圖紙的一致性問題?,F階段的電子圖紙存檔已經較為科學嚴謹,已經得到廣泛使用。
1 跨地域電子圖紙存檔存在的問題
局域網的網絡帶寬至少是百兆,甚至是千兆,在這種網絡下傳輸一個項目數據(大約300M-600M)在數秒內就能完成,但分支機構與總部距離幾百甚至幾千公里,不在同一個局域網,分支機構通常在非專線互聯網線路(ADSL寬帶、小區寬帶等)基礎上運用虛擬專用網絡(Virtual Private Network,簡稱VPN)技術與總部互聯[2],這種技術以采用互聯網帶寬為基礎,在互聯網線路上建立一條分支與總部之間的加密隧道實現遠程訪問。由于運營商對非專線業務不承諾上行帶寬,一般上行帶寬低于2Mb/s,一個項目圖紙傳輸時間通常需要1小時以上。設計師需要根據項目進展的實際情況適時對圖紙做出調整,調整后的電子圖紙重新上傳又需要1小時以上,嚴重影響設計師的工作效率,減少存檔時間是目前行業亟待解決的問題。
目前認為簡單有效的解決辦法是采用專線互聯總部與分支機構,但專線價格昂貴,要達到局域網的使用效果,需要租用100M專線,單條100M跨省專線每年租用費在五十萬元以上,即使僅租用10M帶寬,單條10M跨省專線年費用在六萬至十萬元之間,十個分支機構每年需花費至少六十萬元專線租用費,幾乎沒有設計企業采用專線方式,需要一種低成本的解決方案來解決此問題。
2 問題的原因
電子圖紙文件傳輸要經歷三個步驟:分支機構上行鏈路、運營商承載鏈路、總部下行鏈路。任何一個鏈路瓶頸都會由于木桶效應導致整體傳輸瓶頸。因此,跨地域電子圖紙存檔耗時由三個原因引起。
2.1 分支機構上行帶寬小
由于分支機構通常采用上下行帶寬不一致的非專線寬帶,比如ADSL寬帶、小區寬帶,這些寬帶近年來下行帶寬不斷提高,已經能做到百兆入戶甚至千兆入戶,但上行帶寬沒有提高,一般上行帶寬低于2Mb/s,相比早已普及的局域網百兆帶寬,低50倍。
2.2 帶寬復用
分支機構在非專線寬帶上采用虛擬專用網絡技術與總部建立VPN加密隧道[3],不管是分支機構還是總部都是在互聯網線路上開辟的一條隧道,即帶寬是復用的。如今,在線視頻及P2P文件共享應用的流行,互聯網帶寬資源大量被這些應用占用,導致互聯網帶寬長期處于滿負荷狀態,既擠占分支機構本來就很小的上傳帶寬,又占用總部專線互聯網的下行帶寬,引起VPN加密隧道的數據需要排隊通過[4],使得電子圖紙上傳速度慢的情況更加雪上加霜。
2.3 延時高
由于是總部與分支跨地域,距離可能達到幾千公里[5],在internet運營商中間的路由過程將經過跳數多,并且省與省之間的帶寬也存在瓶頸可能造成數據包排隊通過的情況,再加上兩端VPN隧道的加密和解密過程會耗時,所以,在跨地域的圖紙傳輸中,延時會相對頻繁,造成丟包現象,造成數據需要二次重傳,增加傳輸時間。
3 解決方案
首先,通過上網行為管理技術降低在線視頻及P2P文件共享流量對帶寬的占用;其次,通過數據壓縮技術減少所需傳輸數據的大小;再次,通過協議優化技術提高數據傳輸效率;最后,采用重復數據本地獲取技術減少數據傳輸總量。
如圖1所示,四種互聯網優化技術綜合運用,提高遠程數據傳輸的效率。
3.1 上網行為管理
目前P2P文件共享及在線視頻的廣泛應用[6],導致互聯網帶寬很快被這些應用占用,而正常的業務流量(如電子圖檔系統的上傳流量、郵件系統流量等)得不到應有的帶寬。2015年的華為全球分析師大會上,華為指出:現有網絡流量中已經有70%是視頻,將來會達到90%。針對這種情況,限制在線視頻及P2P應用的流量十分必要,即上網行為管理。
通過限制P2P文件共享、在線視頻(很多在線視頻也采用P2P文件共享的方式),能夠減少大量的非辦公流量,為業務流量保留出帶寬。
3.2 數據壓縮
采用高效的數據流壓縮算法,可以對所有的數據先壓縮后傳送[7],減少數據傳輸量,大大提高了終端用戶在B/S應用和C/S應用時的速度,減少數據傳輸時間。
3.3 傳輸協議優化
由于電子圖紙采用FTP的方式上傳文件,FTP是TCP協議,可以通過擴充傳輸窗口、改善擁塞控制等技術,提高在高丟包、高延時情況下TCP協議傳輸效率[8]。
3.4 重復數據本地獲取
通過對電子圖紙存檔系統的數據流量進行分析,發現存在大量冗余數據傳輸,比如圖紙的一些對圖紙做了一點小改動后重新打印時,所有數據均重新上傳,采用內容比對技術,避免相同數據重復上傳[9],重復文件的分片由原來的文件傳輸變為“數據標簽”的傳輸,收到“數據標簽”后直接從本地緩存中獲取重復文件的分片[10],僅上傳修改部分數據,節約大量時間。
綜上所述,運用多種互聯網技術的協同作用能大幅提高傳輸效率,下文統一采用“優化”指代解決方案中運用到的多種技術。
4 實驗數據與結果分析
4.1 實驗環境
⑴ 分支互聯網帶寬為10M ADSL寬帶,網絡中沒有除測試機以外的其他有線或無線終端接入網絡,保證分支10M帶寬獨占。
⑵ 測試使用的軟件及版本為AutoCAD 2012- Simplified Chinese。
⑶ 隨機選取一個項目10個圖形文件。
⑷ 原有網絡環境是指,未運用上網行為管理、數據壓縮、傳輸協議優化、重復數據本地獲取等幾種技術的環境;優化后網絡環境是指,運用上網行為管理、數據壓縮、傳輸協議優化、重復數據本地獲取幾種技術的環境。
4.2 實驗方法
每個項目的圖紙數量不一樣,圖紙大小也不一樣,實驗采用隨機方法在一個項目中選取10個圖紙文件(圖紙文件格式為dwg文件)進行實驗,圖紙存檔系統上傳時會生成pdf和plt文件,實驗將統計dwg、pdf、plt三種文件的大小總和,同時統計10次上傳的總時間。
4.3 實驗結果
4.3.1 原網絡環境實驗結果(如表1)
4.3.2 優化后第一次測試結果(如表2)
4.3.3 優化后第二次測試結果(如表3)
4.4 實驗結果分析
⑴ 圖2對三次測試的上傳時間進行了對比,可直觀地看出:互聯網技術綜合運用后,能夠明顯節省上傳所需時間。
⑵ 提取優化錢上傳時間與優化后第一次上傳時間進行分析比較,結果如表4所示。
通過表4可以看出,互聯網技術綜合運用后,減少了傳統存檔方式7%--25%的傳輸時間。
⑶ 提取優化前上傳時間與優化后第二次上傳時間分析,結果如表5所示。
通過表5可以看出,第二次上傳時能夠減少傳統存檔方式31%-53%的傳輸時間。由于“重復數據本地獲取”技術針對第二上傳文件時相同數據從本地獲取,只會在第一次上傳后提高上傳速度,因此,此結果符合預期。
5 結束語
實驗結果表明,通過數據壓縮、協議優化、重復數據本地獲取三種技術綜合運用,電子圖紙第一次上傳時能夠減少傳統存檔方式7%-25%的傳輸時間,第二次上傳時能夠減少31%-53%的傳輸時間,因此,運用多項互聯網技術協同作用有利于跨地域勘察設計院電子圖紙存檔的快速傳輸,是“互聯網+”的典型應用。
在實際應用中,帶寬不會像實驗環境中是獨占使用的方式,會涉及到帶寬的爭搶,所以實際使用環境中運用“上網行為管理”技術管理帶寬后,減少的傳輸時間會更多。
參考文獻(References):
[1] 石玥琪,吳東婷,張瑞祥.勘察設計企業電子檔案管理方案探
討[J].中國檔案,2011.12:51-52
[2] R Friend,Making the gigabit IPsec VPN architecture secure[J].
Computer,2004.37(6):54-60
[3] 魏廣科.VPN技術及其應用的研究[J].計算機工程與設計,
2005.26(3):714-715
[4] C Phillips,J Bigham,L He,B Littlefair,Managing dynamic
automated communities with MPLS-based VPNs[J]. BT Technology Journal,2006.24(2):79-84
[5] N Krivokapi, M Islinger, A Kemper. Migrating
Autonomous Objects in a WAN Environment[J]. Journal of Intelligent Information Systems,2000.15(3):221-251
[6] Tran Thi Thu Ha, Jinsul Kim, Jiseung Nam.Design and
Deployment of Low-Delay Hybrid CDN-P2P Architecture for Live Video Streaming Over the Web[J]. Wireless Personal Communications,2017.94(3):513-525
[7] 王建新,彭娜.廣域網加速技術研究綜述[J].電信快報,
2009.5:11-14
[8] 梅松.一種新的采用TCP封裝的IPSec廣域網加速通信研究[J].
計算機工程與科學,2010.32(7):4-7
[9] B Zhou,JT Wen, Metadata Feedback and Utilization for
Data Deduplication Across WAN[J]. Journal of Computer Science and Technology,2016.31(3):604-623
[10] 馬留英,蔡杰明,劉瀏,劉振軍.一種加速廣域文件系統讀寫
訪問的緩存策略[J].計算機研究與發展,2014.s1:38-47