-
题名基于数据投毒攻击的联邦学习安全防御策略
- 1
-
-
作者
牟杨城
陈爱网
陈桂茸
徐继明
严晓梅
段炼
-
机构
空军工程大学信息与导航学院
-
出处
《系统工程与电子技术》
北大核心
2025年第12期4212-4224,共13页
-
文摘
跨域数据共享使用面临安全和隐私保护威胁,联邦学习提供了很好的解决思路,但其分布式架构容易受到数据投毒攻击,降低模型准确率。针对这一问题,提出一种针对标签翻转攻击的数据投毒防御策略。首先,提取神经元离群梯度进行聚类分析;然后,比较簇密度大小检测恶意节点;最后,动态赋予疑似恶意节点较小权重完成联邦聚合。在不同数据集上的测试结果表明,本策略能够有效抵御标签翻转攻击,相较于目前主流算法具有更高的准确率和鲁棒性,在高密度投毒比例下仍表现出色,从而为跨域数据安全互联提供了一种新的思路。
-
关键词
跨域数据安全共享
联邦学习
数据投毒
标签翻转攻击
神经网络
离群梯度
-
Keywords
cross-domain data secure sharing
federated learning
data poisoning
label-flipping attack
neural network
outlier gradients
-
分类号
TP309.2
[自动化与计算机技术—计算机系统结构]
-
-
题名一种抗标签翻转攻击的联邦学习方法
被引量：1
- 2
-
-
作者
周景贤
韩威
张德栋
李志平
-
机构
中国民航大学计算机科学与技术学院
中国铁道科学研究院集团有限公司电子计算技术研究所
-
出处
《信息安全研究》
北大核心
2025年第3期205-213,共9页
-
基金
国家自然科学基金项目(U2333201)
民航安全能力建设项目(PESA2022093,PESA2023101)
+1 种基金
中央高校基本科研业务费资金项目(3122022058)
中国高校产学研创新基金项目(2023IT277)。
-
文摘
由于联邦学习参与训练的用户自主性较高且身份难以辨别,从而易遭受标签翻转攻击,使模型从错误的标签中学习到错误的规律,降低模型整体性能.为有效抵抗标签翻转攻击,提出了一种多阶段训练模型的稀释防护联邦学习方法.该方法通过对训练数据集进行随机划分,采用稀释防护联邦学习算法将部分数据分发给参与训练的客户端,以限制客户端所拥有的数据量,避免拥有大量数据的恶意参与者对模型造成较大影响.在每次训练结束后,对该阶段中所有训练轮次的梯度通过降维算法进行梯度聚类,以便识别潜在的恶意参与者,并在下一阶段中限制其训练.同时,在每个阶段训练结束后保存全局模型参数,确保每个阶段的训练都基于上一个阶段的模型基础.在数据集上的实验结果表明,该方法在降低攻击影响的同时不损害模型准确率,并且模型收敛速度平均提升了25.2%~32.3%.
-
关键词
联邦学习
数据安全
恶意行为
标签翻转攻击
防御
-
Keywords
federated learning
data security
malicious behavior
label flip attack
defense
-
分类号
TP309.2
[自动化与计算机技术—计算机系统结构]
-
-
题名基于单类支持向量机的联邦学习安全聚合算法
- 3
-
-
作者
朱海
缪祥华
郭施帆
覃叶贵
尚游
-
机构
昆明理工大学信息工程与自动化学院
云南省计算机技术应用重点实验室
-
出处
《计算机工程与科学》
北大核心
2025年第11期1984-1995,共12页
-
基金
云南省高层次科技人才及创新团队选拔专项(202405AS350001)。
-
文摘
联邦学习允许用户在不用上传数据的情况下参加模型训练,因此在学术界备受关注。然而,联邦学习也面临着来自恶意参与方的各种安全挑战,例如拜占庭攻击和标签翻转攻击。现有的防御算法在数据分布不均匀时防御效果会大打折扣。针对上述问题,提出一种基于单类支持向量机的联邦学习安全聚合算法。该算法通过单类支持向量机提取合适的特征参数,确定一个阈值,将正常数据和异常数据分开。由于其构建最优超平面的能力能有效区分正常数据和异常数据,而且在不同数据下能选择更适合的阈值,因此具有较强的泛化能力和鲁棒性。通过一系列攻防实验,并使用4种不同的防御算法进行比较,实验结果表明,在不同比例的恶意客户端的环境中,无论数据分布均匀或不均匀,所提算法都能有效防御攻击。
-
关键词
联邦学习
拜占庭攻击
标签翻转攻击
单类支持向量机
-
Keywords
federated learning
Byzantine attack
label flipping attack
one-class support vector machine
-
分类号
TP393.08
[自动化与计算机技术—计算机应用技术]
-
-
题名面向联邦学习标签翻转攻击的客户端选择防御方法
- 4
-
-
作者
李建鑫
陈思光
-
机构
南京邮电大学物联网学院
-
出处
《物联网学报》
2025年第3期170-179,共10页
-
基金
国家自然科学基金项目(No.61971235)
江苏省“333高层次人才培养工程”
南京邮电大学“1311”人才计划资助。
-
文摘
联邦学习允许多个客户端仅共享模型更新而不上传本地数据以协作训练一个全局模型,但正是由于它这种基于分布式的全局聚合模式,导致联邦学习易受到标签翻转攻击的恶意影响。为此,提出了一种面向联邦学习标签翻转攻击的客户端选择防御算法。具体地,该算法基于客户端与辅助客户端模型的余弦相似度以及客户端模型的准确率获得每个客户端的可靠因子,并依据可靠因子进行加权聚合,以此获得全局模型。通过赋予良性客户端更高的权重,可显著降低恶性客户端对全局模型的影响,提高模型的准确率。结合客户端的历史良性情况,融合汤普森采样方法,计算每个客户端被选择进行聚合的概率,确定下一轮参与聚合的客户端。通过筛选更加良性的客户端进行聚合可有效防御标签翻转攻击,提升模型鲁棒性。仿真结果表明,与现有的联邦平均(FedAvg,federated averaging)算法和通过信任引导的拜占庭鲁棒联邦学习(FLTrust,Byzantine-robust federated learning via trustbootstrapping)算法相比,该算法能够更有效地防御标签翻转攻击并获得更高的准确率。
-
关键词
联邦学习
标签翻转攻击
汤普森采样
客户端选择
-
Keywords
federated learning
label flipping attack
Thompson sampling
client selection
-
分类号
TP393
[自动化与计算机技术—计算机应用技术]
-
-
题名图神经网络的标签翻转对抗攻击
被引量：2
- 5
-
-
作者
吴翼腾
刘伟
于洪涛
-
机构
信息工程大学
-
出处
《通信学报》
EI
CSCD
北大核心
2021年第9期65-74,共10页
-
基金
国家自然科学基金创新研究群体基金资助项目(No.61521003)
国家重点研发计划基金资助项目(No.2016QY03D0502)
郑州市协同创新重大专项基金资助项目(No.162/32410218)。
-
文摘
为扩展图神经网络对抗攻击类型以填补相关研究空白,提出了评估图神经网络对标签噪声稳健性的标签翻转对抗攻击方法。将对抗攻击的有效性机理提炼为矛盾数据假设、参数差异假设和同分布假设等3种基本假设,并基于3种假设建立标签翻转对抗攻击模型。采用基于梯度的攻击方法,理论证明了基于参数差异假设模型的攻击梯度与基于同分布假设模型的攻击梯度相同,建立2种攻击方法的等价关系。设计实验对比分析了基于不同假设建立模型的优势和不足;大量实验验证了标签翻转攻击模型的有效性。
-
关键词
图神经网络
对抗攻击
标签翻转
攻击假设
稳健性
-
Keywords
graph neural network
adversarial attack
label flipping
attack hypothesis
robustness
-
分类号
TP18
[自动化与计算机技术—控制理论与控制工程]
-
-
题名基于梯度检测的联邦学习标签翻转攻击防御方法
被引量：4
- 6
-
-
作者
郑昊
许凯
柏琪
徐善山
-
机构
安徽信息工程学院
-
出处
《信息与电脑》
2023年第12期105-107,124,共4页
-
文摘
联邦学习作为一种分布式机器学习范式,解决了数据孤岛问题,并为各种学习任务提供有效的隐私保障。但是,联邦学习不直接访问用户端数据,全局模型容易受恶意客户端篡改数据的投毒攻击。其中,标签翻转攻击因隐蔽性强和危害性大的缺点成为学术界关注的热点。目前,有学者已经提出了许多减少标签翻转攻击威胁的策略,但这些策略需要较大的计算开销,缺乏健壮性,甚至会引起隐私问题。针对联邦学习中标签翻转攻击问题,提出了基于梯度检测联邦学习标签翻转攻击防御方法(A Gradient Detection-Based Defense Approach for Federated Learning Label Flipping Attacks,GDFL)。通过服务器测试数据集的准确度检测收集的梯度更新是否恶意,并使用强化学习方法提高检测效率,限制恶意客户端的参数更新,从而实现联邦学习标签翻转攻击的防御。在CIFAR-10数据集上的实验,验证了提出方法在防御标签翻转攻击的有效性。
-
关键词
联邦学习
投毒攻击
标签翻转攻击
强化学习
-
Keywords
federated learning
poisoning attacks
label flipping attacks
reinforcement learning
-
分类号
TP301.6
[自动化与计算机技术—计算机系统结构]
-
