【技术实现步骤摘要】
本专利技术属于信息安全领域，涉及一种联邦学习后门攻击防御方法及系统。
技术介绍
1、随着计算机和网络技术的迅猛发展，终端设备(如智能手机可穿戴设备等)的使用逐渐普及。智能终端设备的使用为人类生活提供了便利，而由设备所产生和收集的海量原始数据为训练机器学习模型提供了巨大的支撑。传统的机器学习模型训练通常采用基于云的集中式学习方式，其需要每个终端设备将自身所产生或收集的数据全部上传至云端的数据中心，并根据上传的原始数据集中的完成全局模型的训练和推理。然而，将训练数据全部上传至云端不仅给云端造成巨大的网络带宽压力，同时还会泄露用户的个人隐私信息。而且，随着用户隐私意识的不断增强，各个国家已出台了相关的法律和法规来限制数据的传输，其使得大量的原始数据以“数据孤岛”的形式存在，大大降低了数据的利用价值。为解决该问题，google于2016年提出了联邦学习的概念，打破了“数据孤岛”现象。联邦学习可以将设备的原始数据保留在本地而又能协同训练一个全局模型，其在有效保护用户隐私信息的同时又不影响数据的可用性。
2、虽然联邦学习可以有效保护用户...
【技术保护点】
1.一种联邦学习后门攻击防御方法，其特征在于，首先终端在执行本地训练前进行数据预处理操作，将数据从时域转换到频域，并设计低通滤波器过滤数据中由后门样本带来的高频信号；其次在服务器端检测恶意上传更新，计算预全局模型与本地模型间的余弦相似度，设置阈值筛选恶意上传的本地模型更新；最后对剩余的非恶意上传更新执行全局聚合操作得到更新的全局模型，并结合差分隐私技术对得到的全局模型进行扰动；
2.根据权利要求1所述的联邦学习后门攻击防御方法，其特征在于，步骤S3中，本地数据频谱过滤具体包括以下步骤：
3.根据权利要求1所述的联邦学习后门攻击防御方法，其特征在...
【技术特征摘要】
1.一种联邦学习后门攻击防御方法，其特征在于，首先终端在执行本地训练前进行数据预处理操作，将数据从时域转换到频域，并设计低通滤波器过滤数据中由后门样本带来的高频信号；其次在服务器端检测恶意上传更新，计算预全局模型与本地模型间的余弦相似度，设置阈值筛选恶意上传的本地模型更新；最后对剩余的非恶意上传更新执行全局聚合操作得到更新的全局模型，并结合差分隐私技术对得到的全局模型进行扰动；
2.根据权利要求1所述的联邦学习后门攻击防御方法，其特征在于，步骤s3中，本地数据频谱过滤具体包括以下步骤：
3.根据权利要求1所述的联邦学习后门攻击防御方法，其特征在于，步骤s4中，得到在当前迭代轮次r的本地模型的计算公式为：...
【专利技术属性】
技术研发人员：王豪，母雪姣，李开菊，张清华，夏英，张旭，
申请(专利权)人：重庆邮电大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。