999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

區塊鏈賦能多邊緣安全聯邦學習模型

2024-02-18 20:50:24姜曉宇顧瑞春張歡
計算機應用研究 2024年1期
關鍵詞:人工智能

姜曉宇 顧瑞春 張歡

摘 要:聯邦學習是一種革命性的深度學習模式,可以保護用戶不暴露其私有數據,同時合作訓練全局模型。然而某些客戶端的惡意行為會導致單點故障以及隱私泄露的風險,使得聯邦學習的安全性面臨極大挑戰。為了解決上述安全問題,在現有研究的基礎上提出了一種區塊鏈賦能多邊緣聯邦學習模型。首先,通過融合區塊鏈替代中心服務器來增強模型訓練過程的穩定性與可靠性;其次,提出了基于邊緣計算的共識機制,以實現更加高效的共識流程;此外,將聲譽評估融入到聯邦學習訓練流程中,能夠透明地衡量每一個參與者的貢獻值,規范工作節點的行為。最后通過對比實驗證明,所提方案在惡意環境下仍然能夠保持較高的準確度,與傳統的聯邦學習算法相比,該方案能夠抵抗更高的惡意比例。

關鍵詞:人工智能; 聯邦學習; 區塊鏈; 邊緣計算; 共識機制

中圖分類號:TP?? 文獻標志碼:A?? 文章編號:1001-3695(2024)01-004-0026-06

doi:10.19734/j.issn.1001-3695.2023.05.0208

Blockchain-empowered multiple edge secure federated learning model

Abstract:Federated learning is a revolutionary deep learning model, and it enables users to train the global model cooperatively without exposing their private data. However, malicious behaviors of some clients can lead to the risk of single point of failure and privacy disclosure, which pose a serious threat to the security of federated learning. In response to the above issues, based on the existing research, this paper proposed a blockchain empowered multi edge federated learning model. Firstly, this paper proposed to use blockchain instead of central server to enhance the stability and reliability of model training process. Secondly, this paper proposed a consensus mechanism based on edge computing to achieve a more efficient consensus process. In addition, incorporating reputation assessment into the federated learning training process, it could transparently measure the contribution value of each participant and standardize the behavior of work nodes. Finally, comparative experiments show that the scheme can maintain high accuracy in the malicious environment, and can resist higher malicious ratio compared with the traditional federated learning algorithms.

Key words:artificial intelligence; federated learning; blockchain; edge computing; consensus mechanism

0 引言

隨著5G以及人工智能技術的飛速發展,移動終端設備產生的數據也呈爆炸式增長,鑒于對數據隱私的關注以及數據共享激勵措施的匱乏,導致數據孤島[1]現象日益嚴重,數據在各個行業內部以“孤島”的形式存在,導致數據量分布極不均勻。所以,集中式的機器學習已經不再適用于對不均勻分布的數據進行分析處理。聯邦學習(federated learning,FL)是一個革命性的范式,可用于跨持有本地數據集的多個用戶進行AI模型的訓練,它能夠使多個用戶共同協作訓練模型,并且無須將自身的私有數據共享給其他參與者,從而能夠有效解決用戶之間直接交換數據導致的隱私泄露和信息劫持的風險[2]。具體而言,在FL框架中,通常是由一個中心服務器以及多個分布式的設備構成,FL允許分布式用戶在本地訓練機器學習模型,之后用戶將本地訓練模型的參數共享給中心服務器,在該服務器中聚合生成全局模型[3]。但是中心服務器的存在又面臨著新的安全問題,主要表現在兩個方面:一方面,單一的中心服務器是十分脆弱的,很容易受到攻擊,因此存在單點故障的隱患,如果它受到攻擊而無法繼續工作,那么聯邦學習進程將被迫中斷[4];另一方面,其無法排除某些中心服務器自身存在惡意行為,在模型訓練過程中,惡意的中心服務器會竊取用戶的信息,造成隱私泄露,這類惡意行為導致了服務器缺乏信任[5],影響FL的正常運行。

如何解決以上問題是當前的一個研究熱點。區塊鏈具有去中心化的特點,不會因為單個節點的故障而停止工作,同時區塊鏈上的數據不受任何單個實體的控制,所以選擇融合區塊鏈技術到聯邦學習框架中,來代替中心服務器,從而起到解決單點故障以及避免惡意攻擊等作用。區塊鏈是一種新興的去中心化技術,提供了透明可靠的數據來源和強有力的安全保障[6],智能區塊鏈技術通過同步節點的完整賬本,確保鏈上數據的透明性,能夠在多個參與者之間建立一個可靠的信息共享渠道,智能區塊鏈技術通過自動執行預設的智能合約代碼[7],確保系統內的工作節點只要遵守協議,就能夠得到相應的報酬。

本文在現有研究的基礎之上,提出一種區塊鏈賦能多邊緣聯邦學習模型(blockchain-empowered multiple edge federated learning,BME-FL),使用區塊鏈來解決單點故障問題。在此基礎上,加入了邊緣計算技術,邊緣計算是一種新型的計算模型,是指在靠近數據源頭的一側,采用網絡、計算、存儲、應用核心能力為一體的開放平臺,就近提供最近端服務[8]。傳統的計算平臺很難獨立提供龐大的計算,邊緣計算以其分布式的特性使計算能力分散,有助于在大規模分散節點上的操作,實現去中心化計算[9]。通過邊緣計算技術,能夠進一步提高區塊鏈節點間的共識效率,并且在此基礎上,提出了一種聲譽機制來規范工作節點的行為,在保證準確度的同時提高了訓練速度和安全性。本文的貢獻如下:a)提出了多邊緣模型下的共識機制,通過少數計算能力強的邊緣節點來執行共識過程,而不是廣播到每個工作節點并達成共識;b)提出了聲譽機制,通過聲譽計算能夠高效地衡量出每一個工作節點的貢獻值,進而找到更為可靠的節點;c)通過實驗證明本文方案能夠在保證準確度的同時,有效應對惡意攻擊,提升聯邦學習的安全性。

1 相關工作

隨著人工智能決策技術的不斷進步,機器學習和深度學習被廣泛地應用到許多領域,如自動駕駛汽車、智能醫療、地震預測[10]等。傳統的方法是將生成的數據傳輸到云中,在云中進行分析,并在高性能服務器上訓練模型,亞馬遜網絡、谷歌云和Azure是比較常見的機器學習服務提供商[11]。然而,數據的隱私正成為用戶日益關注的問題。這些數據可以是非常私人的,并且是任何類型的,例如個人身份信息、支付數據和受保護的健康信息等,當這些數據與云共享時,用戶隱私很可能會受到竊聽攻擊,并且在基于云計算的方法中又出現了其他問題。一方面表現為高延遲,因為數據可能傳輸很遠的距離才能到達云中心;另一方面表現為高傳輸成本,因為通過網絡將數據移入和移出云計算都需要巨大的運算開銷[12]。為了應對上述挑戰,在2016年,谷歌提出了聯邦學習[13],其目標是在訓練高質量集中式模型的同時,訓練數據仍然保存在客戶端上。近年來,許多國內外的研究人員在聯邦學習領域作出了不同的貢獻,如Sun等人[14]提出了一種基于差分隱私(differential privacy,DP)的聯邦學習方案,通過DP技術提高了模型聚合時的安全性。但是,由于單點故障的原因,使得集中式的聯邦學習服務器受到了越來越多的挑戰和質疑,Hegedüs等人[15]提出將數據保留在邊緣設備上,無須聚合服務器或任何中心組件。

為了解決集中式服務器的單點故障,聯邦學習與區塊鏈系統相結合成為了一個新興的研究熱點,區塊鏈以其高穩定性和高安全性,成為了解決聯邦學習框架下單點故障問題的最佳方案。Li等人[16]提出了一種區塊鏈輔助的去中心化聯邦學習,能夠很好地解決傳統FL系統中存在的單點故障問題,但沒有處理隱私問題。Wu等人[17]設計了一種基于區塊鏈的框架,該框架是分散的,并且可以在沒有主節點的狀態下正常運行,具有良好的隱私性和魯棒性。Short等人[18]提出了一種基于區塊鏈的防御技術,簡化了學習過程,并且提出了一種增強聯邦學習安全性的技術,此技術針對模型中毒的攻擊表現出了更高的性能,具有更高的收斂性。Kim等人[19]分析了區塊鏈框架下FL的端到端延遲,當移動設備參與模型訓練過程時,網絡延遲會嚴重影響FL的性能。在確保數據安全的前提下,邊緣計算技術被應用到聯邦學習框架中,在網絡的邊緣利用聯邦學習技術,充分發揮邊緣節點的計算能力,從而實現了更加廣泛和高效的聯邦學習。Qu等人[20]提出了一種基于霧計算和區塊鏈的聯邦學習方案,在該方案中,霧層服務器生成全局更新,在鏈上只存儲更新指針,實現了較低的時間延遲。邢丹等人[21]提出了一種基于區塊鏈和邊緣計算的聯邦學習框架,該系統具有數據認知功能強大、穩健性良好的優點。

然而,以上研究都沒有解決共識效率的問題。在區塊鏈框架下,對每一個封裝塊達成共識是一個不可避免的過程,考慮到聯邦學習過程中有大量節點,因此共識機制的計算和通信成本比較高。傳統的共識方案是需要經過所有工作節點共同認證之后,才能夠上傳至區塊鏈,這種方式安全性良好,但是廣播共識非常耗時并且共識效率低,因此,降低成本是非常重要的。本文提出的基于邊緣計算的共識機制能夠解決共識效率的問題。

2 模型設計實現

2.1 BME-FL總體模型設計

聯邦學習使機器學習算法能夠跨多個分布式客戶端進行訓練,無須交換其數據樣本。在原始的聯邦學習框架中,由一個集中式服務器控制訓練過程(包括客戶端管理、全局模型維護和梯度聚合),這種方式存在著一定的安全隱患。然而在本文框架中,使用區塊鏈來代替集中式服務器,從而避免其可能會導致的單點故障。如上所述,原有集中式服務器的功能可以由智能合約(smart contract,SC)來實現,并由區塊鏈上的相關交易驅動。為了解決這一問題,本文提出了一個區塊鏈賦能多邊緣安全聯邦學習框架(BME-FL),該框架無須任何集中式服務器,所有參與節點通過區塊鏈執行聯邦學習任務,由區塊鏈來維護全局模型和本地更新。考慮到聯邦學習的通信成本,本文提出了一種新型的基于邊緣計算的共識機制,使用邊緣節點將終端工作節點和區塊鏈融合在一起,并由邊緣節點來處理更新驗證和區塊生成工作。本文框架主要包含三個部分。第一部分是終端節點,主要負責模型訓練工作,終端工作節點下載最新的全局模型,并使用本地數據集對其進行更新,生成更新參數,各個節點互不干擾,獨立工作,無須共享自身的私有數據。第二部分是邊緣節點,主要負責參數驗證以及塊生成的工作,終端節點生成的參數更新需要先經過邊緣節點的驗證之后,才能夠添加到區塊鏈上。邊緣節點具有較多的計算資源,相比于終端節點,其擁有更加強大的計算能力,能夠在一定時間內處理更多的數據。第三部分是區塊鏈層,主要負責參數聚合工作。首先初始化全局模型,之后終端節點可以通過訪問區塊鏈來獲取最新的全局模型,生成的更新參數經過驗證后添加到鏈上,達到閾值時開始進行模型聚合,并將新的全局模型添加到區塊鏈上,鏈上的歷史區塊可以用于故障回退,提高了安全性。具體的模型框架如圖1所示。

框架具體流程如下:

a)聯邦學習任務的模型請求者發布任務請求,并根據終端節點的屬性選擇參與本次模型訓練工作的節點。

b)被選中的節點成為工作節點,工作節點訪問區塊鏈獲取最新的全局模型。

c)工作節點使用本地數據訓練模型,并將生成的模型參數發送給邊緣節點進行驗證。

d)由多個邊緣節點組成的共識層對模型進行驗證。

e)驗證通過之后,邊緣節點將參數更新打包生成新的區塊,并加入到區塊鏈上。

f)當區塊鏈上的模型參數更新達到一個閾值的時候,觸發模型聚合,生成新的全局模型,并下發給各個工作節點進行下一輪迭代。

算法1 聯邦學習算法

算法1描述了聯邦學習框架的具體流程,當選為工作節點的客戶端使用本地數據集更新全局模型,并提交給共識層的邊緣節點進行驗證打分,得分標準為模型損失水平,損失度下降則視為作出正向貢獻,反之為負面貢獻,取驗證分數的中位數作為本輪的精度貢獻得分。模型聚合工作由鏈上的智能合約完成,工作節點獲取最新的全局模型進行下一輪學習。最后統計工作節點所有的貢獻得分,得到最終的聲譽值,聲譽值同樣由正向交互和負面交互兩部分決定。算法1中工作節點的選擇流程在算法2中作出詳細的說明;算法中邊緣節點的相關工作以及基于邊緣計算的共識流程將在2.2節中詳細介紹;聲譽值計算公式將在2.3節中具體說明。

算法2 選舉算法

輸入:候選客戶端列表DList={D1,D2,…,DN},參與者個數K。

輸出:被選舉作為工作者的節點列表Ut。

if 候選客戶端數量不足K個 //當候選人不足時,返回失敗

return FAIL

end if

for Di∈DList[]

計算當前候選客戶端的聲譽值R

end for

候選人根據聲譽值排序

取前K個客戶端組成工作節點列表Ut

在訓練之前,首先要選擇出參與聯邦學習任務的客戶端,模型的性能取決于參與工作的節點,因此,節點管理是框架中的關鍵部分,參與節點不僅可以訪問全局模型,還可以上傳模型更新來影響全局模型。為了控制權限,本文方案主要會根據客戶端的聲譽值來選舉工作節點。當某個設備出現了不當行為(如提交誤導性更新、傳播私人模型)時,該設備將會被拒絕參加聯邦學習任務。

2.2 基于邊緣計算的共識機制

共識機制是任何基于區塊鏈系統的主干。通常,區塊鏈系統的參與者遵循共識機制,就鏈上區塊的內容達成共識[22]。區塊在添加到鏈上之前,必須經過共識機制的驗證。由于區塊鏈上共識機制的計算和通信成本比較高,所以本文模型使用了一種基于邊緣計算的共識機制。在此設置下,邊緣節點負責驗證局部梯度和塊生成。同時,工作節點執行本地訓練,并將模型更新發送給相近的邊緣節點,隨后邊緣節點驗證更新并對其評分,合并各個邊緣節點的模型精度貢獻分數后,中位數將成為此次更新的最終得分。完成得分計算之后,邊緣節點將模型更新打包成塊,上傳到區塊鏈上。由于邊緣節點可以通過各種感知設備收集數據,并能夠對收集到的數據進行傳遞以及分析處理,所以在本方案中,將邊緣節點自身數據視為驗證集來驗證局部更新,模型精度貢獻作為得分。這是一種十分安全快捷的方法。一方面,邊緣節點自身強大的計算和存儲能力能夠降低共識流程的時間消耗,提高共識效率;另一方面,參與同一個聯邦學習任務的邊緣節點收集到的數據在具體內容上互不相同,但是在格式和類型上相同,這使得驗證分數更加可靠。共識機制的流程如圖2所示。

a)工作節點使用本地數據集訓練模型生成局部模型梯度,并將模型更新發送給邊緣節點。

b)由邊緣節點組成的共識層對模型更新進行驗證,邊緣節點檢測自身是否具有足夠的計算資源,如果計算資源不足,則將驗證任務卸載到其他的邊緣節點。

c)如果計算資源充足,則使用自身的數據集作為驗證集來計算模型更新精度,并計算貢獻分數。

d)計算完成之后,將模型局部更新發送給共識層中的其他邊緣節點進行驗證。合并各個邊緣節點的評分后,取中位數作為最終得分。

e)隨后邊緣節點生成新區塊并在共識層內廣播,將生成塊交給其他邊緣節點進行驗證。

f)在獲得認可后,即可加入到區塊鏈中,否則將其丟棄。

基于邊緣計算的共識機制的優勢如下:

a)高效。只有少數邊緣節點參與驗證更新,而不是廣播到每個工作節點并達成協議。邊緣節點具有更強的計算能力,相比于終端節點,邊緣節點能在更短的時間延遲下完成驗證以及塊生成。當面臨計算能力不足以完成驗證工作時,便可將計算任務卸載,交由其他邊緣節點完成。

b)反惡意。根據模型精度貢獻得分,能夠高效地衡量出每一個工作節點的貢獻值,從而找到相對誠實可靠的節點;如果某一個邊緣節點受到攻擊而無法正常工作時,整個聯邦學習進程不會因此中斷。

c)可拓展。通過邊緣計算能夠將更多的終端節點聯合起來共同訓練模型,提高模型精度。

2.3 聲譽值計算

聯邦學習是一種通常用于知識獲取的分布式機器學習,以協作方式改進全局模型,從而保護用戶數據的隱私,模型性能的提升和安全性的提升同樣重要。不可靠的工作人員可能發起惡意攻擊并發送惡意更新,所以需要通過聲譽計算來選擇誠實工作節點。本文方案不允許低于特定閾值的節點參與聯邦學習過程,并從正向以及反向兩個方面進行分析,將兩部分結合起來,確定工作節點最終的聲譽值[23]。

聲譽評估分為積極性、精確度貢獻、時效性。

a)積極性。其用H表示,積極性越高,表示互動越多,根據交互的內容又分為正向交互p和負面交互n。計算過程如下:

其中:I表示交互總數;Hp表示正向交互比例;Hn表示負面交互比例。

b)精確度貢獻。其使用A表示,模型精度的提高程度被視為影響聲譽的另一個因素。假設在第t次交互前后,模型的損失分別表示為Lt-1和Lt,則第t次交互時工作節點的精確度貢獻計算如式(3)所示。

當模型損失降低時,Lt-1>Lt,表示更新后的模型是有用的,At>0,作出了正向的貢獻;反之,當模型損失增加時,Lt-1

c)時效性。其用S表示,隨著訓練過程步步推進,模型不斷更新,但是模型精度對聲譽值的貢獻不總是相同的,認為更近的模型精度貢獻應該占有更高的權重。時效性計算如下:

其中:Tc是當前時間,Tt是第t次共享本地模型的時間。這是一個加權函數,其中模型貢獻被視為加權因子,共同考慮模型貢獻和及時性的重要性。互動時效性也可分為正向價值和負面價值,如式(5)(6)所示。

其中:Ap和An分別表示正向模型精確度貢獻和負面模型精確度貢獻。考慮到上述因素,那么總體聲譽的計算如式(7)所示。

R=Hp×Sp+Hn×Sn(7)

其中:R表示總體聲譽。終端節點的正向行為將增加Hp×Sp的值,它總是不小于0;相反,Hn×Sn<0,所以負面行為越多,Hn×Sn的絕對值越大。將這兩部分結合起來計算終端節點的聲譽值。

2.4 案例分析

本文將以車聯網(Internet of Vehicle,IoV)作為案例,對所提方案進行性能分析。

車聯網的出現旨在以協作的方式感知、計算和處理環境數據,提高用戶的體驗質量[24]。為了實現上述目標,需要在實時場景中通過智能設備在路邊單元和車輛之間進行數據交換。然而,在此過程中依舊存在許多安全挑戰,以往的工作側重于車輛之間的數據共享,但大量數據會導致冗余傳輸和網絡擁堵,還會出現隱私泄露和數據竄改等安全隱患;此外,如果沒有相關約束條件,那么車輛提供的數據質量也會參差不齊,造成資源浪費;最后,在復雜的IoV環境下,交易時延和通信開銷也會嚴重影響共享的實時性和可靠性。

本文方案能夠解決上述問題。首先區塊鏈與聯邦學習相結合的技術能夠有效保護車輛的隱私數據,防止數據遭受竄改,車輛的隱私數據保存在本地,能夠降低數據傳輸成本,減輕通信壓力;其次,基于邊緣計算的共識機制降低了通信延時,提高了共識效率,邊緣計算技術的去中心化能夠有效降低網絡擁堵,提高可拓展性;最后,聲譽值機制確保了用戶上傳模型的質量,不僅能夠激勵誠實可靠的用戶,還能夠懲罰惡意用戶,有效應對惡意攻擊,保證聯邦學習流程順利進行,減少數據資源的浪費。

3 實驗評估

3.1 實驗環境

本文方案采用Ubuntu 20.04作為實驗的基礎操作系統,在區塊鏈方面使用了FISCO區塊鏈網絡,這是一個開源的聯盟區塊鏈平臺,通過其提供的信息端口,可以檢查事務以及智能合約的詳細情況;同時使用Solidity編程語言編寫了智能合約;學習模型使用Python 3.7.6和TensorFlow 1.14.0實現。在數據集方面,使用了FEMNIST[25]數據集,該數據集包含62種不同的字符類別(10種數字,26種小寫,26種大寫)的像素圖片,圖片均為28×28像素大小(也可以選擇將其轉為128×128),樣本數為805 263。

本文方案中的BME-FL框架分為三層,如圖1所示。第一層為終端工作節點層,負責本地模型更新;第二層為邊緣層,負責驗證模型更新以及區塊生成工作;第三層為區塊鏈層,負責聚合更新,生成新的全局模型。在實驗中惡意攻擊類型為高斯隨機噪聲擾動攻擊[26],高斯噪聲是指它的概率密度函數服從高斯分布的一類噪聲,分布公式如式(8)所示。

3.2 方案對比

本文就以下幾個方面對聯邦學習相關方案進行對比分析,如表1所示。文獻[27]提出了一種基于FL的高命中率數據緩存方案,由于未能集成安全解決方案,所以會出現信任危機以及數據易被竄改的風險;文獻[28]提出了區塊鏈框架下的聯邦學習方案,分別實現了工作節點的激勵以及用戶隱私保護,但是存在著系統延時和通信成本較高的問題;文獻[29]在基于區塊鏈的FL框架中加入了邊緣計算技術,能夠緩解系統的延時和成本較高的問題,但是難以保證系統的安全性。本文方案提出多邊緣共識機制,由算力強大的邊緣節點來執行共識流程,并在此基礎上加入聲譽機制來規范工作節點的行為,能夠在惡意環境下保持較高的性能,保證了方案的安全性。

3.3 實驗結果和評估

邊緣節點個數同吞吐量的關系如圖3所示。吞吐量是指接收器從發送器到達的數據總量與接收器獲得最后一個數據包所需時間的比率。從圖中可以看出,隨著邊緣節點個數的增加,系統的吞吐量也呈上升趨勢。在本文方案中,由于邊緣節點執行驗證以及塊生成的工作,所以當系統中有更多邊緣節點時,吞吐量也會隨之上升。但是隨著邊緣節點個數的增多,會帶來更多的通信開銷,所以吞吐量整體的上升趨勢逐漸變緩。

本文還進行了準確度性能的比較。實驗將本文方案與傳統聯邦學習模型和獨立訓練框架作為基線進行比較。每個框架將經典圖像分類模型AlexNet作為全局模型。根據實驗設置,本文將每輪活動節點的比例定義為m%。基本FL的訓練節點比例也是m%,同時,獨立訓練將利用整個數據集。在不同m值的條件下,其性能如圖4所示。由于在BME-FL框架中引入了邊緣節點共識方案,少數的邊緣節點處理更新驗證以及塊生成工作,所以在準確度性能上與傳統的方案相比出現了輕微的損失。但是,本文方案的性能一直接近基本聯邦學習框架的效果,并且其可以通過基于邊緣計算的共識機制來減少共識消耗;聲譽機制能夠提高框架的安全性。所以本方案在確保了準確性的前提下,能夠有效應對惡意攻擊,安全性良好。

最后,比較了BME-FL、傳統聯邦學習和文獻[32]方案在應對惡意攻擊時的表現,結果如圖5所示。聯邦學習框架非常容易受到系統內外攻擊者的攻擊,從而損害數據隱私和系統穩健性,惡意的攻擊者會在聯邦學習的各個進程中發起攻擊,從節點獲取敏感數據,降低聯邦學習全局模型的準確性,并使全局模型無法收斂,甚至會導致隱私數據的泄露。

如圖5所示,在本次實驗中,假設惡意節點進行高斯隨機噪聲擾動攻擊,隨著惡意節點比例的上升,后兩者的準確性水平都受到了嚴重的影響,在受到惡意攻擊時,兩者都沒有作出有效的防御措施。本文方案使用了基于聲譽值計算的防御措施,根據每個工作節點的行為來計算其各自的聲譽值,使正常工作的誠實節點能夠獲得高聲譽值,通過這種手段能夠篩選出一部分可靠的工作節點,從而提高應對攻擊的能力。

4 結束語

隨著人工智能、大數據以及物聯網等技術的飛速發展,使得數據量激增以及隱私泄露問題日益嚴重。于是,聯邦學習這種新型的分布式模型訓練框架應運而生,但是聯邦學習的安全性同樣面臨著許多的挑戰。惡意的聯邦學習訓練節點會破壞全局模型,而惡意的中央服務器也會泄露節點的私有數據。為了應對這些挑戰,本文利用安全穩定的區塊鏈來替代中心服務器,全局模型以及模型更新參數的維護和管理工作由部署在鏈上的智能合約完成,區塊鏈系統以其不可竄改和去中心化的特點,保證了模型訓練過程的安全可靠,能夠有效避免惡意中央服務器或惡意節點的影響。本文在區塊鏈系統的基礎上,提出了基于邊緣計算的共識機制,利用計算能力更強的邊緣節點來執行共識過程,并且在共識流程中加入了聲譽值機制。本方案從正向價值和負面價值兩方面來衡量節點的最終聲譽值,不僅能夠激勵誠實的終端節點,而且可以使惡意節點受到懲罰,從而能夠方便地找到更為安全可靠的終端節點。最后本文采用FEMNIST數據集驗證了該框架的有效性。實驗表明,本文方案在保證準確度的同時,能有效應對惡意攻擊。

參考文獻:

[1]呂騰波,楊震.搭建數據孤島間的信任橋梁[J].科學中國人,2021(29):46-47.(Lyu Tengbo, Yang Zhen. Building a trust bridge between data islands[J].Scientific Chinese,2021(29):46-47.)

[2]Tian Li, Kumar S A, Talwalkar A, et al. Federated learning: challenges, methods, and future directions[J].IEEE Signal Processing Magazine,2020,37(3):50-60.

[3]Liu Peng, Xu Xiangru, Wang Wen. Threats, attacks and defenses to federated learning:issues, taxonomy and perspectives[J].Cybersecurity,2022,5(1):1-19.

[4]李凌霄,袁莎,金銀玉.基于區塊鏈的聯邦學習技術綜述[J].計算機應用研究,2021,38(11):3222-3230.(Li Lingxiao, Yuan Sha, Jin Yinyu. Review of blockchain-based federated learning[J].Application Research of Computers,2021,38(11):3222-3230.)

[5]Karthik V, Harmon S, Sanford T, et al. Federated learning improves site performance in multicenter deep learning without data sharing[J].Journal of the American Medical Informatics Association,2021,28(6):1259-1264.

[6]Nguyen D C, Pathirana P, Ding Ming, et al. Blockchain for 5G and beyond networks:a state of the art survey[J].Journal of Network and Computer Applications,2020,166:102693.

[7]孫毅,范靈俊,洪學海.區塊鏈技術發展及應用:現狀與挑戰[J].中國工程科學,2018,20(2):27-32.(Sun Yi, Fan Lingjun, Hong Xuehai. Technology development and application of blockchain:current status and challenges[J].Strategic Study of Chinese Academy of Engineering,2018,20(2):27-32.)

[8]Xia Xiaoyu, Chen Feifei, He Qiang, et al. Cost-effective app data distribution in edge computing[J].IEEE Trans on Parallel and Distributed Systems,2020,32(1):31-44.

[9]Yuan Liang, He Qiang, Tan Siyu, et al. CoopEdge: a decentralized blockchain-based platform for cooperative edge computing[C]//Proc of Web Conference.New York:ACM Press,2021:2245-2257.

[10]Wang Qianlong, Guo Yan, Yu Lixing, et al. Earthquake prediction based on spatio-temporal data mining:an LSTM network approach[J].IEEE Trans on Emerging Topics in Computing,2017,8(1):148-158.

[11]Abdulrahman S, Tout H, Ould-Slimane H, et al. A survey on federated learning: the journey from centralized to distributed on-site lear-ning and beyond[J].IEEE Internet of Things Journal,2020,8(7):5476-5497.

[12]Assaf A, Iishamsir A W, Muhammad M. Benefits and risks of cloud computing in e-government tasks:a systematic review[C]//Proc of E3S Web of Conferences.[S.l.]:EDP Sciences,2021:04005.

[13]Konecny J, McMahan H B, Yu F X, et al. Federated learning:stra-tegies for improving communication efficiency[EB/OL].(2017-10-30).https://arxiv.org/abs/1610.05492.

[14]Sun Lichao, Qian Jianwei, Chen Xun. LDP-FL:practical private aggregation in federated learning with local differential privacy[EB/OL].(2021-05-21).https://arxiv.org/abs/2007.15789.

[15]Hegedüs I, Danner G, Jelasity M. Gossip learning as a decentralized alternative to federated learning[C]//Proc of IFIP International Conference on Distributed Applications and Interoperable Systems.Berlin:Springer,2019:74-90.

[16]Li Jun, Shao Yumeng, Kang Wei, et al. Blockchain assisted decentralized federated learning (BLADE-FL):performance analysis and resource allocation[J].IEEE Trans on Parallel and Distributed Systems,2021,33(10):2401-2415.

[17]Wu Xin, Wang Zhi, Zhao Jian, et al. FedBC: blockchain-based decentralized federated learning[C]//Proc of IEEE International Conference on Artificial Intelligence and Computer Applications.Piscataway,NJ:IEEE Press,2020:217-221.

[18]Short A R, Leligou H C, Papoutsidakis M, et al. Using blockchain technologies to improve security in federated learning systems[C]//Proc of the 44th Annual Computers, Software, and Applications Conference.Piscataway,NJ:IEEE Press,2020:1183-1188.

[19]Kim H, Park J, Bennis M, et al. On-device federated learning via blockchain and its latency analysis[EB/OL].(2018-08-12).https://arxiv.org/abs/1808.03949v1.

[20]Qu Youyang, Gao Longxiang, Xiang Yong, et al. Decentralized privacy using blockchain-enabled federated learning in fog computing[J].IEEE Internet of Things Journal,2020,7(6):5171-5183.

[21]邢丹,徐琦,姚俊明.邊緣計算環境下基于區塊鏈和聯邦學習的醫療健康數據共享模型[J].醫學信息學雜志,2021,42(2):33-37.(Xing Dan, Xu Qi, Yao Junming. Medical and health data sharing model based on blockchain and federated learning in edge computing environment[J].Journal of Medical Informatics,2021,42(2):33-37.)

[22]Liu Yi, Zhao Ruihui, Kang Jiawen, et al. Towards communication-efficient and attack-resistant federated edge learning for industrial Internet of Things[J].ACM Trans on Internet Technology,2021,22(3):1-22.

[23]Kang Jiawen, Xiong Zehui, Niyato D, et al. Incentive mechanism for reliable federated learning:a joint optimization approach to combining reputation and contract theory[J].IEEE Internet of Things Journal,2019,6(6):10700-10714.

[24]Hammoud A, Otrok H, Mourad A, et al. On demand fog federations for horizontal federated learning in IoV[J].IEEE Trans on Network and Service Management,2022,19(3):3062-3075.

[25]Caldas S, Tian Li, Konecny J, et al. Leaf: a benchmark for federated settings[EB/OL].(2019-12-09).https://arxiv.org/abs/1812.01097.

[26]Kairouz P, Liu Ziyu, Steinke T. The distributed discrete Gaussian mechanism for federated learning with secure aggregation[C]//Proc of International Conference on Machine Learning.2021:5201-5212.

[27]Garg N, Sellathurai M, Bhatia V, et al. Online content popularity prediction and learning in wireless edge caching[J].IEEE Trans on Communications,2020,68(2):1087-1100.

[28]Weng Jiasi, Li Ming, Luo Weiqi, et al. DeepChain:auditable and privacy-preserving deep learning with blockchain-based incentive[J].IEEE Trans on Dependable and Secure Computing,2019,18(5):2438-2455.

[29]Chai Haoye, Chen Yijin, Zhang Ke, et al. A hierarchical blockchain-enabled federated learning algorithm for knowledge sharing in Internet of Vehicles[J].IEEE Trans on Intelligent Transportation Systems,2020,22(7):3975-3986.

[30]Lugan S, Desbordes P, Brion E, et al. Secure architectures implementing trusted coalitions for blockchained distributed learning (TCLearn)[J].IEEE Access,2019,7:181789-181799.

[31]Lu Yunlong, Huang Xiaohong, Zhang Kecheng, et al. Blockchain empowered asynchronous federated learning for secure data sharing in Internet of Vehicles[J].IEEE Trans on Vehicular Technology,2020,69(4):4298-4311.

[32]Dong Yin, Chen Yudong, Ramchandran K, et al. Byzantine-robust distributed learning: towards optimal statistical rates[C]//Proc of International Conference on Machine Learning.2018:5650-5659.

猜你喜歡
人工智能
我校新增“人工智能”本科專業
用“小AI”解決人工智能的“大”煩惱
汽車零部件(2020年3期)2020-03-27 05:30:20
當人工智能遇見再制造
2019:人工智能
商界(2019年12期)2019-01-03 06:59:05
AI人工智能解疑答問
人工智能與就業
IT經理世界(2018年20期)2018-10-24 02:38:24
基于人工智能的電力系統自動化控制
人工智能,來了
數讀人工智能
小康(2017年16期)2017-06-07 09:00:59
人工智能來了
學與玩(2017年12期)2017-02-16 06:51:12
主站蜘蛛池模板: 久久人搡人人玩人妻精品| 久久综合色天堂av| 亚洲一区二区三区麻豆| 欧美日韩综合网| 最新国产网站| 麻豆精品在线播放| 国产男女免费视频| 久久9966精品国产免费| 亚洲成人网在线观看| 国产精品手机在线观看你懂的| 97se亚洲综合在线| 精品国产www| 国产精品一区二区在线播放| 亚洲码一区二区三区| 亚洲无码熟妇人妻AV在线| 国产午夜人做人免费视频中文| 一级毛片在线免费看| 亚洲网综合| 色综合天天操| 丁香六月激情综合| 麻豆精品视频在线原创| 日韩人妻无码制服丝袜视频| 伊人久热这里只有精品视频99| 黄色一级视频欧美| 91在线一9|永久视频在线| 亚洲精品不卡午夜精品| 国内黄色精品| 亚洲综合九九| 国产91小视频在线观看| 理论片一区| 久久中文字幕不卡一二区| 久久婷婷国产综合尤物精品| 日本一区二区三区精品视频| 91www在线观看| 精品国产中文一级毛片在线看| 久久99蜜桃精品久久久久小说| yjizz视频最新网站在线| 91麻豆精品视频| 国产激情影院| 亚洲精品自产拍在线观看APP| 婷婷色中文网| 久久国产精品影院| 狼友视频国产精品首页| 欧美色99| 欧美日韩高清| 人妻丰满熟妇αv无码| 亚洲 欧美 偷自乱 图片| 国产手机在线小视频免费观看| 日韩欧美国产成人| 国产欧美一区二区三区视频在线观看| 亚洲综合第一页| 久久精品国产电影| 亚洲天堂久久新| 欧美翘臀一区二区三区| 97se亚洲综合| 精品伊人久久久大香线蕉欧美| 亚洲精品综合一二三区在线| 亚洲天堂免费在线视频| 狠狠亚洲五月天| 精品91视频| 国产尹人香蕉综合在线电影| 免费一级全黄少妇性色生活片| 日韩精品专区免费无码aⅴ| 久久香蕉国产线看观| 久久亚洲日本不卡一区二区| 欧美午夜在线观看| 久久黄色影院| 国产产在线精品亚洲aavv| 蜜芽一区二区国产精品| 精品久久久无码专区中文字幕| 精品一區二區久久久久久久網站| 欧美高清国产| 国产精品香蕉在线| 激情乱人伦| 国产成人精品在线1区| 亚洲一区二区成人| 国产精品林美惠子在线播放| 亚洲中文字幕精品| 国产黑丝一区| 国产靠逼视频| 在线国产毛片| 国产浮力第一页永久地址|