小样本非平衡数据约束下调度模型的混合联邦学习方法技术

本发明专利技术公开了小样本非平衡数据约束下调度模型的混合联邦学习方法，涉及联邦学习技术领域，获取可用的边缘节点并收集小样本数据资源信息，对各个节点计算每层深度神经网络所需的时间进行测量，包括前向传播和后向传播两个阶段，将可用边缘节点按照计算能力进行排序，并选择其中算力最强的作为目标节点，对模型进行分割，检查初始节点的存储资源是否能够部署其对应的分割后的部分模型；如不能则将分割位置前移。本发明专利技术对模型进行分割，检查初始节点的存储资源是否能够部署其对应的分割后的部分模型，如不能则将分割位置前移，直到满足节点的存储能力，可以对各参与方所训练的局部模型进行更细粒度的考虑，提高了混合联邦学习的效果。效果。效果。

【技术实现步骤摘要】
小样本非平衡数据约束下调度模型的混合联邦学习方法


[0001]本专利技术涉及联邦学习
，尤其涉及小样本非平衡数据约束下调度模型的混合联邦学习方法。

技术介绍

[0002]联邦学习是一种分布式机器学习技术，其核心思想是通过在多个拥有本地数据的数据源之间进行分布式模型训练，在不需要交换本地个体或样本数据的前提下，仅通过交换模型参数或中间结果的方式，构建基于虚拟融合数据下的全局模型，从而实现数据隐私保护和数据共享计算的平衡，即“数据可用不可见”、“数据不动模型动”的应用新范式。
[0003]随着社会的不断发展，联邦学习应用十分广泛，在小样本非平衡数据约束下调度模型常常也需要用混合联邦学习方法进行学习，现有的混合联邦学习方法无法对各参与方所训练的局部模型进行更细粒度的考虑，影响混合联邦学习的效果，因此具有待改进的空间。

技术实现思路

[0004]本专利技术的目的是为了解决现有技术中存在的缺点，而提出的小样本非平衡数据约束下调度模型的混合联邦学习方法。其优点在于对模型进行分割，检查初始节点的存储资源是否能够部署其对应的分割后本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.小样本非平衡数据约束下调度模型的混合联邦学习方法，其特征在于，包括以下步骤：步骤一：获取可用的边缘节点并收集小样本数据资源信息；步骤二：对各个节点计算每层深度神经网络所需的时间进行测量，包括前向传播和后向传播两个阶段；步骤三：将可用边缘节点按照计算能力进行排序，并选择其中算力最强的作为目标节点，对模型进行分割；步骤四：检查初始节点的存储资源是否能够部署其对应的分割后的部分模型；如不能则将分割位置前移，直到满足节点的存储能力；步骤五：检查目标节点的存储资源是否能够部署其对应的分割后的部分模型，如果可以，则分割结束；如果不能，并且当前节点已是唯一剩余的可用边缘节点，转至步骤六，否则，转至步骤三；步骤六：回溯到上一次分割并成功部署时的状态，将分割位置前移一个节点重新部署，并转至步骤四；如果每个备都仅部署了一个节点，并且当前节点的存储资源仍然不足，则部署失败，从而完成混合联邦学习。2.根据权利要求1所述的小样本非平衡数据约束下调度模型的混合联邦学习方法，其特征在于，在对模型进行分割时需要用到分割公式，所述分割公式为其中scr为初始节点编号，dst为目标节点编号。3.根据权利要求2所述的小样本非平衡数据约束下调度模型的混合联邦学习方法，其特征在于，对于多个子问题的求解，如果不考虑节点的存储能力，那么每次对目标模型进行二分时，由于初始节点已经确定，此时使得总执行时间最小化的最优选择是将剩余可用边缘节点中计算能力最强的节点作为另外一部分模型部署的目标节点。4.根据权利要求1所述的小样本非平衡数据约束下调度模型的混合联邦学习方法，其特征在于，在联邦学习或者一般的深度学习应用中，服务提供方会预先确定好所要使用的深度神经网络，并且实际使用的网络结构会根据用户需求的不同而随之...

【专利技术属性】
技术研发人员：林国义，
申请(专利权)人：南京芯信能人工智能科技有限公司，
类型：发明
国别省市：