【技术实现步骤摘要】
本专利技术涉及联邦学习，尤其是涉及一种基于近似全局扰动的联邦学习本地锐度优化方法和系统。
技术介绍
1、在当今大数据时代，保护用户数据隐私安全愈发重要。无论是传感器拍摄、捕获的数据、手机存储的资料，还是医院的诊疗记录，都富含隐私元素。相比于传统深度学习方法的中心化训练，联邦学习框架不需要数据汇聚至一个中心服务器，可以有效缓解在数据传输、存储及训练过程中的隐私泄露问题。它确保了终端用户数据不会外泄，比传统训练范式更加安全可靠。在联邦学习框架下，一个中心服务器与多个用户节点相连。用户节点在自己的数据上训练模型，而中心服务器只负责在本地进行模型的传输与聚合。最终，中心服务器上的聚合模型在各终端数据上收敛训练，形成一个全局收敛的模型。
2、由于不同终端之间的数据分布存在差异，不同节点训练的模型存在较大差异，往往会导致全局模型陷入局部最优解并且伴随着损失曲面尖锐的问题。国内外针对缓解异构情况下的联邦学习曲面尖锐问题的研究处在早期阶段。已有的解决方案大多着眼在优化本地节点的尖锐问题，并引入了额外的计算开销，例如在本地节点引入锐度感知最小...
【技术保护点】
1.一种基于近似全局扰动的联邦学习本地锐度优化方法，其特征在于，应用于联邦学习中的本地节点，所述优化方法包括如下步骤：
2.根据权利要求1所述的一种基于近似全局扰动的联邦学习本地锐度优化方法，其特征在于，所述的近似后的全局扰动采用下式计算：
3.根据权利要求1所述的一种基于近似全局扰动的联邦学习本地锐度优化方法，其特征在于，所述的本地模型的参数更新采用下式实现：
4.根据权利要求1所述的一种基于近似全局扰动的联邦学习本地锐度优化方法，其特征在于，所述的计及全局扰动的本地锐度优化的优化目标为：
5.根据权利要求1所述的一种...
【技术特征摘要】
1.一种基于近似全局扰动的联邦学习本地锐度优化方法，其特征在于，应用于联邦学习中的本地节点，所述优化方法包括如下步骤：
2.根据权利要求1所述的一种基于近似全局扰动的联邦学习本地锐度优化方法，其特征在于，所述的近似后的全局扰动采用下式计算：
3.根据权利要求1所述的一种基于近似全局扰动的联邦学习本地锐度优化方法，其特征在于，所述的本地模型的参数更新采用下式实现：
4.根据权利要求1所述的一种基于近似全局扰动的联邦学习本地锐度优化方法，其特征在于，所述的计及全局扰动的本地锐度优化的优化目标为：
5.根据权利要求1所述的一种基于近似全局扰动的联邦学习本地锐度优化方法，其特征在于，近似前的全局扰动采用下式计算：
6.一种基于近似全局扰动的联邦学习本地锐度优化的车联网系统，其特征...
【专利技术属性】
技术研发人员：王延峰，樊子卿，胡胜超，姚江超，张娅，
申请(专利权)人：上海人工智能创新中心，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。