聯邦學習環境下異構數據集的軟件缺陷預測性能提升策略

摘要：為了解決聯邦學習環境下異構數據集的軟件缺陷預測中存在的通信效率低下和隱私保護問題，該研究利用Dueling雙深Q網絡（Double Deep Q-Network，DQN）算法的特性設計了一種軟件缺陷預測算法，并通過構建模型來測試其性能；采用高斯差分隱私加密策略；針對通信效率問題，基于K-means模型進行聚焦；通過實驗，文章針對不同數量的參與方以及通信輪次進行了詳細的實驗分析。研究發現，Dueling DQN算法在軟件缺陷預測中表現出較高的準確性。高斯差分隱私加密策略在保護參與方數據隱私的同時，保持了模型的預測性能。K-means模型聚合策略在提升通信效率方面表現出顯著優勢。得出結論，通過采用Dueling DQN算法、差分隱私加密策略以及K-means模型聚合策略，聯邦學習環境下異構數據集的軟件缺陷預測性能得到了顯著提升。

關鍵詞：異構數據；通信效率；隱私保護

中圖分類號：TP393" 文獻標志碼：A

作者簡介：胡大強（1971— ），男，高級工程師，碩士；研究方向：信息化管理。

0" 引言

現階段，聯邦學習作為一種分布式機器學習框架，廣泛應用于保護用戶數據隱私和提高模型性能等方面。此框架在處理異構數據集的軟件缺陷預測問題中具備顯著優勢。在軟件工程領域，軟件缺陷預測對于提高軟件質量和降低開發成本具有重要意義［1-2］。聯邦學習通過在各參與方本地進行模型訓練，并在服務器端進行模型聚合，實現了數據不出本地的隱私保護機制［3-5］。然而，聯邦學習框架在數據傳輸過程中存在潛在的信息泄露風險，并且在參與方數量較多的情況下，通信效率面臨嚴峻挑戰。

文章通過利用概率近似正確（Probably Approximately Correct Dimensionality Reduction， PAC）、Dueling DQN算法和差分隱私等先進技術，并結合聚合策略來提升模型的預測性能，相關研究在理論和實踐上取得了顯著進展。

1" 算法概述

PAC降維技術通過選擇最具信息量的特征減少計算復雜度，提高了模型的泛化性能。此技術基于概率近似正確理論，通過篩選重要特征減少冗余信息，有效優化了計算資源。

Dueling DQN算法作為一種深度強化學習算法，通過獨立的狀態值和動作值評估結構，提升了預測準確性。該算法的特性和優勢在軟件缺陷預測中表現突出。

模型構建過程采用高斯差分隱私加密策略，提高了數據安全性，并通過K-means模型聚合策略提升了通信效率。高斯差分隱私加密保障了數據的隱私性，而K-means模型聚合有效減少了通信開銷，提高了系統的收斂速度。

2" PAC降維

PAC降維是一種基于概率近似正確理論的降維方法。其主要思想在于，通過選擇最具信息量的特征，減少模型的計算復雜度，提升泛化性能。此方法具有計算復雜度低、適用性廣的優點。在聯邦學習場景中，PAC降維通過篩選重要特征，消除了冗余信息，優化了通信資源的使用。同時，該研究通過降低數據維度，提升了模型的訓練速度與預測性能。此方法不僅提高了模型的效率，還增強了數據的隱私保護。PAC降維的應用為聯邦學習環境下的軟件缺陷預測提供了有效的降維策略。

3" Dueling DQN算法

3.1" 算法特性

Dueling DQN算法是一種強化學習算法，在深度Q網絡（Deep Q-Network，DQN）的基礎上，增加了優勢函數與狀態值函數分支，以解決動作選擇價值與狀態價值無法準確區分的問題。其主要特性在于，網絡由2個獨立的分支組成，一個分支用于估計動作價值，另一個分支用于估計狀態價值，通過組合函數計算出最終的動作選擇價值。

Dueling DQN算法的輸出可表示為：

Q（s，a）=V（s）+A（s，a）-1|A|∑a′A（s，a′）（1）

其中，Q（s，a）表示狀態s下執行動作a的價值；V（s）表示狀態s的價值；A（s，a）表示狀態s下動作a的優勢。算法的關鍵在于利用優勢函數來區別不同動作的重要性，以此提升模型的穩定性與性能。

3.2" 軟件缺陷預測算法設計

在軟件缺陷預測中，Dueling DQN算法可用于對不同模塊的缺陷發生概率進行預測。算法通過對歷史數據的學習，評估各個模塊的潛在風險。

在算法設計中，假設給定狀態st和動作at，以及從當前時刻到未來的折扣獎勵rt+1至rt+T，Dueling DQN的目標為最大化累積獎勵：

Gt=∑Tk=0γkrt+k+1（2）

其中，γ表示折扣因子，用于平衡近期與長期獎勵。為優化此目標，引入損失函數：

L（θ）=E（s，a，r，s′）［（r+γmaxa′Q（s′，a′;θ′）-Q（s，a;θ））2］（3）

其中，θ與θ′分別表示當前網絡與目標網絡的參數。

3.3" 模型構建

模型構建過程利用Dueling DQN算法對軟件模塊進行狀態和動作的映射。模型的輸入為軟件模塊的特征向量，輸出為各個可能缺陷狀態的概率。引入雙分支網絡結構，提升了模型對重要特征的關注度。

在模型訓練過程中，設定相關條件，以確保模型收斂性。模型結構可表示為：

f（x）=max（V（x）+A（x，a）-1|A|∑a′A（x，a′））（4）

其中，x表示輸入特征向量，V（x）表示狀態價值函數，A（x，a）表示優勢函數， f（x）為最終輸出。

4" 高斯差分隱私加密

在聯邦學習環境中，為保護參與方數據的隱私，差分隱私技術是一種有效的方法。高斯差分隱私加密通過添加噪聲來保護數據隱私，同時保持模型的性能。

高斯差分隱私加密基于差分隱私的核心定義：

ε-DPPr［M（D）=o］≤exp（ε）·Pr［M（D′）=o］+δ（5）

其中，ε表示隱私預算，δ表示概率上的松弛。此定義確保了在相鄰數據集D與D′上運行相同算法M時，輸出結果o的概率差異受限于ε與δ，以此限制了敏感信息的泄露。

該研究為實現高斯差分隱私加密，利用高斯噪聲來擾動輸出結果。給定敏感數據向量x，其擾動后的輸出向量y表示為：

y=x+N（0，σ2）（6）

其中，N（0，σ2）表示均值為0、方差為σ2的高斯分布。此方法通過調節σ控制隱私保護與數據準確性之間的平衡。

該研究為確保模型的實際應用效果，高斯差分隱私加密過程中須考慮隱私預算與噪聲方差的設置。通常，隱私預算ε與噪聲方差σ2呈反比關系。在實際應用中，通過優化ε與σ2的組合，可以在保持模型性能的同時，保護參與方的隱私。

高斯差分隱私加密的應用，為聯邦學習中的數據隱私保護提供了強有力的工具。其通過擾動敏感信息，使得攻擊者難以推斷原始數據。同時，其可以適當設置參數，可以在不同的應用場景中實現隱私與準確性的最佳平衡。

5" 基于K-means模型聚合

在聯邦學習環境下，由于參與方的數據分布異構，直接合并各方數據訓練模型可能導致性能不佳。該研究為有效解決此問題，K-means模型聚合策略通過對參與方的模型參數進行聚類，提升了系統的性能與通信效率。

K-means聚類是一種無監督學習算法，用于將數據點劃分為k個簇。每個簇的中心稱為質心。在聯邦學習的上下文中，參與方的模型參數Wi可以看作數據點，通過K-means算法將其劃分為k個簇。每個簇的中心即為該簇的代表模型參數。K-means算法的目標是最小化簇內距離平方和，表示為：

minC1，C2，…，Ck∑ni=1minj=1，…，k‖Wi-Cj‖2（7）

其中，Cj表示第j個簇的質心；Wi表示第i個參與方的模型參數。

通過K-means聚類算法，將參與方的模型參數聚合為k個簇，并將每個簇的質心作為該簇的代表參數。然后在聯邦服務器端，基于質心進行聚合，形成全局模型：

W=1k∑kj=1Cj（8）

此策略通過選擇代表性的模型參數，減少了通信成本，提高了系統的收斂速度。

6" 實驗結果與分析

6.1" 參與方數量數據集聚類

該研究通過K-means模型聚合策略對不同數量參與方的數據集進行聚類分析，可以更好地理解其對系統性能的影響，如表1所示。

隨著參與方數量的增加，數據集的大小也呈現增大的趨勢。大規模的數據集為模型提供了更豐富的特征，但也導致了更高的計算復雜度。

參與方數量對數據特征相似性有明顯影響。少數參與方的數據特征相似性較高，表明其數據結構較為一致。而當參與方數量增加時，數據特征相似性降低，顯示出更強的異質性。異質性數據集雖然提供了更豐富的信息，但對模型的泛化能力提出了更高要求。

在通信成本方面，參與方數量與通信成本呈正相關關系。在收斂速度方面，參與方數量與收斂速度也呈正相關關系，表明增加參與方數量雖然能提高數據規模和多樣性，但也可能導致訓練過程變慢。

6.2" 參與方數量對聯邦強化學習系統的影響

參與方數量對聯邦強化學習系統的影響可以通過多個指標來衡量，包括平均累計獎勵、模型收斂速度、通信成本以及系統穩定性等。相關數據結果如表2所示。

隨著參與方數量的增加，平均累計獎勵呈現出逐漸下降的趨勢。參與方數量的增加使得系統收斂速度降低。通信成本隨參與方數量增加呈線性增長。更多的參與方需要更頻繁的數據交換，導致通信成本增加。參與方數量與系統穩定性呈負相關。

6.3" 基于不同通信頻次的客戶端預測結果

在聯邦學習系統中，通信輪次對于客戶端預測結果的準確性具有顯著影響。為了評估此影響，實驗對比了不同通信輪次下客戶端的預測準確性、誤差、模型穩定性等指標。相關數據結果如表3所示。

隨著通信頻次的增加，客戶端的平均預測準確率逐漸提升。通信輪次為70時，平均預測準確率達到91%，表明增加通信輪次可以提升客戶端的預測準確性。

平均預測誤差：通信頻次的增加導致平均預測誤差下降。通信頻次為70時，平均預測誤差僅為0.08。較低的預測誤差表示模型的預測性能更佳。

模型穩定性：通信頻次的增加使得模型穩定性提升，標準差逐漸降低。通信頻次為70時，模型的穩定性標準差為0.01，表示模型在多次通信中的表現更穩定。

6.4" 對比實驗結果與分析

從表1和表2可以看出，參與方數量增加導致系統的平均累計獎勵逐漸降低。由于較多的參與方數量引入了更多的數據異構性，導致模型在學習過程中需要處理更復雜的數據分布。同時，參與方數量增加也顯著提高了通信成本，增加了系統收斂時間。適度的參與方數量可以為系統提供更穩定的學習環境，提高模型的整體性能。

表3顯示了通信頻次對客戶端預測結果的影響。隨著通信頻次的增加，平均預測準確率逐漸提升，而平均預測誤差和模型穩定性則逐漸降低。增加通信輪次可以使模型獲得更多的訓練數據，提高預測性" 能。然而，過多的通信輪次可能導致模型過擬合，使得預測誤差降低變得緩慢。

通過對比實驗結果發現，參與方數量和通信輪次的組合對聯邦強化學習系統的性能具有顯著影響。最佳組合應當在適度參與方數量和適度通信輪次之間取得平衡。參與方數量過多會導致通信成本增加和收斂速度降低，而通信輪次過多則可能導致模型過擬合和性能下降。

7" 結語

該研究針對聯邦學習環境下異構數據集的軟件缺陷預測性能提升問題，提出了若干有效策略，重點關注通信效率和隱私保護。該研究通過引入PAC降維、Dueling DQN算法以及高斯差分隱私加密等先進技術，結合K-means模型聚合策略，優化了聯邦學習系統。在實際應用中，合理選擇參與方數量和通信頻次對系統性能至關重要。未來研究可針對不同應用場景，進一步優化參與方數量、通信頻次與數據集特征之間的關系，以提高聯邦學習系統的實用性與效率，探討如何在保持模型性能的同時，增強數據的隱私保護，為聯邦學習環境中的軟件缺陷預測提供更全面的解決方案。

參考文獻

［1］傅剛.非獨立同分布數據下聯邦學習算法中優化器的對比分析［J］.計算機系統應用，2024（5）：228-238.

［2］萬偉，胡勝山，陸建榮，等.聯邦學習在高度數據異構場景下的泛化魯棒性增強［J］.中國科學：信息科學，2024（3）：566-581.

［3］高迢康，靳曉寧，賴英旭.模型異構的聯邦學習入侵檢測［J］.北京工業大學學報，2024（5）：543-557.

［4］段昕汝，陳桂茸，姬偉峰，等.基于聯邦學習的多源異構網絡無數據融合方法［J］.空軍工程大學學報，2024（1）：90-97.

［5］馬千飄，賈慶民，劉建春，等.異構邊緣計算環境下異步聯邦學習的節點分組與分時調度策略［J］.通信學報，2023（11）：79-93.

（編輯" 王永超）

Software defect prediction performance improvement strategy for heterogeneous datasets in

a federated learning environment： empirical study centered on communication efficiency and privacy protection

HU Daqiang 1， ZHANG Zhilei 1， KANG" Yan 2， WU" Chunlu1

（1.Hangzhou Yousheng Technology Co.， Ltd.， Hangzhou 310012， China;

2.China Mobile Online Service Co.， Ltd.， Zhejiang Branch， Hangzhou 310012， China）

Abstract：" In order to address the problems of low communication inefficiency and privacy protection in the software defect prediction of heterogeneous data sets in federal learning environment， a software defect prediction algorithm is designed with the characteristics of Dueling DQN （Double Deep Q-Network） algorithm and testing the performance by building models; adopting Gaussian differential privacy encryption strategy; focusing on communication efficiency problems based on K-means model， and conducting detailed experimental analysis for different numbers of participants and communication rounds. We found that the Dueling DQN algorithm showed high accuracy in software defect prediction. The Gaussian differential privacy encryption strategy maintains the predictive performance of the model while protecting the data privacy of the participants. The K-means model aggregation strategy shows significant advantages in improving communication efficiency. It is concluded that the software defect prediction performance of heterogeneous data sets in the federated learning environment is significantly improved by adopting Dueling DQN algorithm， differential privacy encryption strategy and K-means model aggregation strategy.

Key words： heterogeneous data; communication efficiency; privacy protection