基于差分隐私与多元特征处理的联邦学习方法、系统和设备
技术特征:
1.一种基于差分隐私与多元特征处理的联邦学习方法,其特征在于,包括:
2.根据权利要求1所述的基于差分隐私与多元特征处理的联邦学习方法,其特征在于,所述步骤1具体为服务器初始化全局模型ω0,设整数集合φ={-1,1},以及签名值ρ=sign(ω0),sign()为签名函数,选取公开数据集用于训练,选取乘法循环群g,q是群g的生成元,选取s,,并将其下发到各客户端进行本地训练ωt-1为第t-1轮训练的模型,t为训练轮数,download()表示下发操作,为第i个客户端在第t轮训练的模型。
3.根据权利要求2所述的基于差分隐私与多元特征处理的联邦学习方法,其特征在于,所述步骤2具体包括:
4.根据权利要求3所述的基于差分隐私与多元特征处理的联邦学习方法,其特征在于,所述步骤3具体为:
5.根据权利要求4所述的基于差分隐私与多元特征处理的联邦学习方法,其特征在于,所述步骤4具体包括:
6.根据权利要求5所述的基于差分隐私与多元特征处理的联邦学习方法,其特征在于,所述步骤5具体为对任意的松弛项δ∈(0,1,定义噪声尺度参数其中f'为敏感度,ε为隐私预算,向模型添加噪声第i个客户端在第t-1轮训练的加噪后的模型,ct为第t轮的裁剪界限。
7.根据权利要求6所述的基于差分隐私与多元特征处理的联邦学习方法,其特征在于,所述步骤6具体为客户端选取随机数为模p的同余类集合,令u=qv,并通过加噪后的模型和签名值ρ,生成哈希值h()为哈希函数,计算凭证z=v+ρe,随后将模型以及凭证上传至服务器。
8.根据权利要求7所述的基于差分隐私与多元特征处理的联邦学习方法,其特征在于,所述步骤7具体为根据客户端上传的服务器利用s计算哈希判断是否qz=qvqρe,若判断成功,保留客户端模型并将其用于全局模型更新,否则丢弃,即该局部模型不参与更新,随后服务器开启下一轮训练。
9.一种基于差分隐私与多元特征处理的联邦学习系统,其特征在于,包括:
10.一种计算设备,其特征在于,包括:一个或多个处理器、一个或多个存储器以及一个或多个程序,所述程序存储在存储器中并被配置为由处理器执行,所述程序被加载至处理器时实现根据权利要求1至8任一项所述的基于差分隐私与多元特征处理的联邦学习方法的步骤。
技术总结
本发明公开了一种基于差分隐私与多元特征处理的联邦学习方法、系统和设备,方法包括:服务器初始化全局模型,选取公开数据集,将全局模型下发到各客户端进行本地训练;客户端利用方向梯度直方图HOG方法对公开数据集中的图像进行特征提取;将提取到的特征分别分解为语义属性和隐藏偏差属性,输入偏差消除增强器,得到对应的偏差冲突样本进行训练,并进行梯度裁剪,得到偏差属性消除后的模型;将偏差属性消除后的模型进行稀疏化处理得到稀疏化的模型;对稀疏化的模型使用Rényi差分隐私进行保护;客户端基于非交互式零知识证明系统生成模型凭证;服务器对凭证进行验证;本发明在保证模型正常训练的前提下,提高了计算效率和安全性。
技术研发人员:罗晨风,金春花,孙友旺,张晓燕,马甲林,刘欣颖,何一凡,张文杰,于长辉,金鹰,张浩,翁健,陈冠华
受保护的技术使用者:淮阴工学院
技术研发日:
技术公布日:2024/12/2
技术研发人员:罗晨风,金春花,孙友旺,张晓燕,马甲林,刘欣颖,何一凡,张文杰,于长辉,金鹰,张浩,翁健,陈冠华
技术所有人:淮阴工学院
备 注:该技术已申请专利,仅供学习研究,如用于商业用途,请联系技术所有人。
声 明 :此信息收集于网络,如果你是此专利的发明人不想本网站收录此信息请联系我们,我们会在第一时间删除
