一种基于分层联邦学习的轻量级激励模型的训练方法技术

本发明专利技术公开了一种基于分层联邦学习的轻量级激励模型的训练方法，属于联邦学习技术领域。该训练方法包括：根据端侧用户的初始单位数据成本信息从端侧用户中确定目标端侧用户，以生成目标端侧用户组；根据每个目标端侧用户的初始单位数据成本信息，计算云侧服务器的最佳云侧策略；根据最佳云侧策略，计算每个边缘聚合器的最佳边缘侧策略；根据每个边缘聚合器的最佳边缘侧策略，计算当前边缘聚合器对应的目标端侧用户组中每个目标端侧用户的最佳端侧策略；根据最佳云侧策略、最佳边缘侧策略和最佳端侧策略，训练激励模型，得到训练后的激励模型。本发明专利技术还公开了一种基于分层联邦学习的轻量级激励模型的训练系统、激励方法、激励系统。系统。系统。

【技术实现步骤摘要】
一种基于分层联邦学习的轻量级激励模型的训练方法


[0001]本专利技术属于联邦学习
，尤其涉及一种基于分层联邦学习的轻量级激励模型的训练方法及激励方法。

技术介绍

[0002]深度学习的最新发展彻底变革了包括电力领域在内的很多应用领域，如图像处理、自然语言处理、视频分析等。深度学习能在这些领域中取得巨大的成功源于大量训练数据和海量计算能力的可用性。但是，出于用户数据安全、运算成本和效率等方面的原因，提出了端
‑
边
‑
云分层联邦学习(HFL)的概念。
[0003]端
‑
边
‑
云分层联邦学习(HFL)能够有效地降低通信开销，同时仍能充分利用端侧的丰富数据。虽然HFL具有很多的优点，但同时也存在一些弊端。
[0004]在实现本专利技术的过程中发现，现有HFL的端侧用户数量有限，导致HFL的训练效果较差，目前没有合适的激励方法激励端侧用户加入到HFL的模型训练中。

技术实现思路

[0005]鉴于上述问题，本公开提供了一种基于分层联邦学习的轻量级激励模型的训练方法、训练系统及基于分层联邦学习的轻量级激励、激励系统。
[0006]本公开实施例的一个方面公开了一种基于分层联邦学习的轻量级激励模型的训练方法，包括：
[0007]根据端侧用户的初始单位数据成本信息从所述端侧用户中确定目标端侧用户，以生成目标端侧用户组，其中，所述目标端侧用户组设置有L组，L≥1；
[0008]根据每个所述目标端侧用户的所述初始单位数据成本信息，计算云侧服务器的最佳云侧策略；
[0009]根据所述最佳云侧策略，计算每个边缘聚合器的最佳边缘侧策略，其中，边缘聚合器设置有L个，每个边缘聚合器分别对应一个所述目标端侧用户组；
[0010]根据每个所述边缘聚合器的最佳边缘侧策略，计算当前所述边缘聚合器对应的所述目标端侧用户组中每个所述目标端侧用户的最佳端侧策略；
[0011]根据所述最佳云侧策略、所述最佳边缘侧策略和所述最佳端侧策略，训练所述激励模型，得到训练后的所述激励模型。
[0012]根据本公开的实施例，所述根据端侧用户的初始单位数据成本信息从所述端侧用户中确定目标端侧用户，以生成目标端侧用户组包括：
[0013]获取至少两个所述端侧用户的所述初始单位数据成本信息；
[0014]将每个所述初始单位数据成本信息按升序进行排列，构建成本信息队列；
[0015]根据所述成本信息队列确定所述目标端侧用户组。
[0016]根据本公开的实施例，所述根据所述成本信息队列确定所述目标端侧用户组包括：
[0017]依次遍历所述成本信息队列中的每个所述初始单位数据成本信息；
[0018]判断每个所述初始单位数据成本信息是否符合筛选条件：
[0019][0020]其中，L
n
为当前端侧用户的初始单位数据成本信息，S
l
为第l个边缘聚合器覆盖的由|S
′
l
|个端侧用户组成的集合，S
′
l
为第l个边缘聚合器的目标端侧用户组成的集合，|S
′
l
|为集合S
′
l
的基；
[0021]将与符合筛选条件的所述初始单位数据成本信息对应的目标端侧用户划分至所述目标端侧用户组中。
[0022]根据本公开的实施例，所述根据每个所述目标端侧用户的所述初始单位数据成本信息，计算云侧服务器的最佳云侧策略包括：
[0023][0024]其中：m＝∑
n∈N
′
β
l
Y
n
，α
l
为第l个边缘聚合器的风险规避参数，β
l
为第l个边缘聚合器的回报比例系数，P
*
为最佳云侧策略，N
′
为每个边缘聚合器对应的集合S
′
l
并的基。
[0025]根据本公开的实施例，所述根据所述最佳云侧策略，计算每个边缘聚合器的最佳边缘侧策略包括：
[0026][0027]其中：为第l个边缘聚合器的最佳边缘侧策略。
[0028]根据本公开的实施例，所述根据每个所述边缘聚合器的最佳边缘侧策略，计算当前所述边缘聚合器对应的所述目标端侧用户组中每个所述目标端侧用户的最佳端侧策略包括：
[0029][0030]其中，为最佳端侧策略。
[0031]本公开实施例的另一个方面公开了一种基于分层联邦学习的轻量级激励方法，其中，所述激励方法由上述训练方法得到的激励模型实现，所述激励方法包括：
[0032]获取与每个边缘聚合器相对应的目标端侧用户组中每个目标端侧用户的目标单位数据成本信息，其中，所述边缘聚合器设置有L个；
[0033]根据每个所述目标端侧用户的所述目标单位数据成本信息，计算云侧服务器的最
佳云侧策略；
[0034]根据所述最佳云侧策略，计算每个边缘聚合器的最佳边缘侧策略；
[0035]根据每个所述边缘聚合器的最佳边缘侧策略，计算当前所述边缘聚合器对应的所述目标端侧用户组中每个所述目标端侧用户的最佳端侧策略；将所述最佳云侧策略、所述最佳边缘侧策略和所述最佳端侧策略作为最终结果进行输出。
[0036]根据本公开的实施例，所述根据每个所述目标端侧用户的所述目标单位数据成本信息，计算云侧服务器的最佳云侧策略包括：
[0037][0038]其中：m＝∑
n∈N
′
β
l
Y
n
，α
l
为第l个边缘聚合器的风险规避参数，β
l
为第l个边缘聚合器的回报比例系数，P
*
为最佳云侧策略，N
′
为每个边缘聚合器对应的集合S
′
l
并的基。
[0039]根据本公开的实施例，所述根据所述最佳云侧策略，计算每个边缘聚合器的最佳边缘侧策略包括：
[0040][0041]其中：为第l个边缘聚合器的最佳边缘侧策略。
[0042]根据本公开的实施例，所述根据每个所述边缘聚合器的最佳边缘侧策略，计算当前所述边缘聚合器对应的所述目标端侧用户组中每个所述目标端侧用户的最佳端侧策略包括：
[0043][0044]其中，为最佳端侧策略。
[0045]本公开实施例的另一个方面公开了一种基于分层联邦学习的轻量级激励模型的训练系统，包括：
[0046]确定模块，用于根据端侧用户的初始单位数据成本信息从所述端侧用户中确定目标端侧用户，以生成目标端侧用户组，其中，所述目标端侧用户组设置有L组，L≥1；
[0047]第一计算模块，用于根据每个所述目标端侧用户的所述初始单位数据成本信息，计算云侧服务器的最佳云侧策略；
[0048]第二计算模块，用于根据所述最佳云侧策略，计算每个边本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于分层联邦学习的轻量级激励模型的训练方法，包括：根据端侧用户的初始单位数据成本信息从所述端侧用户中确定目标端侧用户，以生成目标端侧用户组，其中，所述目标端侧用户组设置有L组，L≥1；根据每个所述目标端侧用户的所述初始单位数据成本信息，计算云侧服务器的最佳云侧策略；根据所述最佳云侧策略，计算每个边缘聚合器的最佳边缘侧策略，其中，边缘聚合器设置有L个，每个边缘聚合器分别对应一个所述目标端侧用户组；根据每个所述边缘聚合器的最佳边缘侧策略，计算当前所述边缘聚合器对应的所述目标端侧用户组中每个所述目标端侧用户的最佳端侧策略；根据所述最佳云侧策略、所述最佳边缘侧策略和所述最佳端侧策略，训练所述激励模型，得到训练后的所述激励模型。2.根据权利要求1所述的方法，其中，所述根据端侧用户的初始单位数据成本信息从所述端侧用户中确定目标端侧用户，以生成目标端侧用户组包括：获取至少两个所述端侧用户的所述初始单位数据成本信息；将每个所述初始单位数据成本信息按升序进行排列，构建成本信息队列；根据所述成本信息队列确定所述目标端侧用户组。3.根据权利要求2所述的方法，其中，所述根据所述成本信息队列确定所述目标端侧用户组包括：依次遍历所述成本信息队列中的每个所述初始单位数据成本信息；判断每个所述初始单位数据成本信息是否符合筛选条件：其中，L
n
为当前端侧用户的初始单位数据成本信息，S
l
为第l个边缘聚合器覆盖的由|S
′
l
|个端侧用户组成的集合，S
′
l
为第l个边缘聚合器的目标端侧用户组成的集合，|S
′
l
|为集合S
′
l
的基；将与符合筛选条件的所述初始单位数据成本信息对应的目标端侧用户划分至所述目标端侧用户组中。4.根据权利要求3所述的方法，其中，所述根据每个所述目标端侧用户的所述初始单位数据成本信息，计算云侧服务器的最佳云侧策略包括：其中：m＝∑
n∈N
′
β
l
Y
n
，α
l
为第l个边缘聚合器的风险规避参数，β
l
为第l个边缘聚合器的回报比例系数，P
*
为最佳云侧策略，...

【专利技术属性】
技术研发人员：王晓飞，赵云凤，刘志成，仇超，邓辉，刘立群，
申请(专利权)人：天津大学，
类型：发明
国别省市：