一种应对物联网隐私保护的联邦知识蒸馏方法技术

技术编号:41504002 阅读:20 留言:0更新日期:2024-05-30 14:45
本发明专利技术涉及物联网系统隐私保护技术领域,具体为一种应对物联网隐私保护的联邦知识蒸馏方法,利用本地数据对客户端生成器进行训练,训练后的生成器模型参数上传至服务器,服务器构建全局生成器模型并发送至客户端,客户端进行蒸馏训练,得到基于联邦知识蒸馏的物联网隐私保护框架,本发明专利技术的技术方案克服现有技术中物联网设备隐私容易泄露问题,通讯效率较低以及数据异质性带来的精度下降问题,提高了模型的效率。

【技术实现步骤摘要】

本专利技术涉及物联网系统隐私保护,具体为一种应对物联网隐私保护的联邦知识蒸馏方法


技术介绍

1、在5g的推动下,越来越多的智能边缘设备接入互联网,物联网正通过电子医疗、智能制造、智慧城市、数字家庭等领域重塑并渗透现代生活,实现万物互联互通的愿景,物联网正从各个方面改变着人们的生活。然而,物联网的兴起也带来了许多不可预知的风险,物联网设备数量庞大、种类繁多且分布广泛,作为新兴事物,与互联网一样存在许多安全漏洞,成为黑客攻击的重点目标,物联网设备在受到攻击或发生意外情况,导致硬件设备损坏无法正常运行,甚至可能导致广大用户的个人隐私数据泄露,造成无法估量的损失。物联网数据的爆炸式增长对机器学习模型的训练速度提出更高要求,与此同时,推荐系统随着模型的复杂度越来越高,联邦学习需要交换的权重系数也越来越多,并且真实场景下的数据绝大多数都是异构的,可能会造成数据、模型上的异构,给联邦学习的训练带来了严峻的挑战。因此,我们需要寻找更加高效和安全的方法来保护物联网系统和用户的隐私。

2、现有方案中,物联网设备的数据多数是异构性的,会极大地降低检测效率,一旦被攻本文档来自技高网...

【技术保护点】

1.一种应对物联网隐私保护的联邦知识蒸馏方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种应对物联网隐私保护的联邦知识蒸馏方法,其特征在于,所述S2中得到全局生成器模型,对应公式为:

3.根据权利要求1所述的一种应对物联网隐私保护的联邦知识蒸馏方法,其特征在于,所述S3中微调过程为用第一本地模型参数减去学习率与最小化损失函数梯度的乘积,得到微调后的第二本地模型参数,用公式表示为:

4.根据权利要求1所述的一种应对物联网隐私保护的联邦知识蒸馏方法,其特征在于,所述S4中针对某一个客户端,将除此客户端外的其他客户端的所有平均Logits向量求和...

【技术特征摘要】

1.一种应对物联网隐私保护的联邦知识蒸馏方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种应对物联网隐私保护的联邦知识蒸馏方法,其特征在于,所述s2中得到全局生成器模型,对应公式为:

3.根据权利要求1所述的一种应对物联网隐私保护的联邦知识蒸馏方法,其特征在于,所述s3中微调过程为用第一本地模型参数减去学习率与最小化损失函数梯度的乘积,得到微调后的第二本地模型参数,用公式表示为:

4.根据权利要求1所述的一种应对物联网隐私保护的联邦知识蒸馏方法,其特征在于,所述s4中针对某一个客户端,将除此客户端外的其他客户端的所有平均logits向量求和后,再除以客户端总数量,得到此客户端的教师模型,用公式表示为:

5.根据权利要求1所述的一种应对物联网隐私保护的联邦知识蒸馏方法,其特征在于,所述s3中无蒸馏训练和s4中蒸馏训练,具体操作为:

6.根据权利要求1所述的一种应对物联网隐...

【专利技术属性】
技术研发人员:赵慧奇玄其林范方刘璐孙顺发杨阔范培舜
申请(专利权)人:山东科技大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1