一种基于编码技术的联邦学习方法技术

本发明专利技术公开了一种基于编码技术的联邦学习方法

【技术实现步骤摘要】
一种基于编码技术的联邦学习方法


[0001]本专利技术涉及人工智能机器学习领域，涉及一种基于编码技术的联邦学习方法，以提升联邦学习收敛速度方法
。

技术介绍

[0002]联邦学习
(Federated Learning
，
FL)
从
2016
年谷歌团队提出以来，已经在近几年得到了快速的发展，与传统的云计算在远程和集中的数据中心存储和处理最终用户的数据，联邦学习通过汇集网络边缘的可用资源
(
例如，智能手机
、
平板电脑
、
智能汽车
、
基站和路由器
)
参与整体模型的训练，使得服务提供更加接近最终用户
。
并且训练只在本地进行，进一步保障了用户的隐私
。
因此，联邦学习模型广泛运用于物联网领域，医院
、
银行等行业用于数据分析
。
[0003]但是当联邦学习运用于大规模集群训练时，因为分布式计算模型的原因，往往在计算延迟和通信负载中权衡，来优本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种基于编码技术的联邦学习方法，其特征在于，包括如下步骤：步骤
1、
构建联邦学习框架，在本地预处理数据；步骤
2、
在本地节点对数据进行混洗，利用贪婪算法创造多播机会，直到满足所有节点的数据需求；步骤
3、
计算的映射阶段，
MDS
编码用于创建编码任务，将这些任务分配给边缘节点以供本地执行，再计算特定延迟
。
步骤
4、
利用最小带宽代码和最小延迟代码编码技术，在本地计算中加入冗余，在上传之前执行多次局部计算降低负载和延迟；步骤
5、
在边缘节点上运行分布式矩阵乘法，选择权衡点，最小化通信负载和计算延迟；步骤
6、
利用计算延迟和通信负载的权衡来优化总响应时间
。2.
根据权利要求1所述的一种基于编码技术的联邦学习方法，其特征在于：步骤
(2)
是在本地节点进行数据混洗时使用贪婪算法给最小带宽编码创造多播机会
。
贪心算法
(Greedy Algorithm)
是一种解决优化问题的常用算法设计策略
。
在贪心算法中，每一步都采取当前状态下最优的选择，而不考虑未来的影响
。
贪心算法通常适用于那些具有贪心选择性质的问题，即局部最优选择也是全局最优选择的问题
。3.
根据权利要求1所述的一种基于编码技术的联邦学习方法方法，其特征在于：步骤
(3)
是利用
MDS
编码创建编码任务再分配给边缘节点使用，根据映射阶段的特定计算延迟，只要一定数量的节点完成了它们的本地计算，所有正在运行的映射任务就会终止
。MDS
编码是一种纠删码
(Erasure Code)
技术，旨在增强数据的冗余和容错性
。
它的主要思想是将原始数据切分成多个数据块，并生成额外的冗余块，以使数据在存储和传输过程中能够抵御硬件故障或数据丢失
。MDS
编码的一个关键特性是，它可以在一定数量的数据块丢失或损坏的情况下，仍然能够完全恢复原始数据，具体是：步骤
(3
‑
1)
，数据划分：首先，要存储的数据被划分成若干数据块
。
通常，这些块的数量比副本复制方法中所需的副本数量少得多，这有助于节省存储空间
。
步骤
(3
‑
2)
，编码：纠删码编码过程涉及将这些数据块转化为额外的编码块
。
这些编码块中的每一个都包含了原始数据块的部分信息
...

【专利技术属性】
技术研发人员：毛德欢，魏贵义，
申请(专利权)人：浙江工商大学，
类型：发明
国别省市：