基于逆向拍卖的联邦学习支付方法、系统及存储介质技术方案

本发明专利技术属于一般联邦学习领域，公开了基于逆向拍卖的联邦学习支付方法、系统及存储介质，其中支付方法包括：招标方首先发布一个价值函数、投标方可获得支付的最大值最小值以及有关联邦学习任务的其它信息，招标方通过价值函数并结合其它信息来选择投标方；当投标方收到带有价值函数的投标请求时，它们会根据自身情况来决定是否参与投标，而参与投标的基本条件是自身效用大于零；在收到足够数量的投标后，招标方会根据投标方的投标价格和投标资源进行选择。该方法通过结合逆向拍卖，提出了联邦学习中基于逆向拍卖的支付激励机制和贡献度量方法，解决了投标方的支付问题，为投标方节省了预算的同时保证了最终模型性能。节省了预算的同时保证了最终模型性能。节省了预算的同时保证了最终模型性能。

【技术实现步骤摘要】
基于逆向拍卖的联邦学习支付方法、系统及存储介质


[0001]本专利技术公开涉及一般联邦学习领域，尤其涉及基于逆向拍卖的联邦学习支付方法、系统及存储介质。

技术介绍

[0002]联邦机器学习是一种分布式的机器学习框架，能有效帮助多个机构在满足用户隐私保护、数据安全和政府法规的要求下，进行数据使用和机器学习建模，关于其激励机制目前也存在着大量的研究。现有技术中提出了基于投标价格和质量的多维度逆向拍卖，招标方公布的招标信息中包括一个评分规则，评分规则由两部分构成，第一部分是投标价格，第二部分是投标方所拥有的资源，如：数据数量、CPU、带宽、计算能力等；投标方根据自身的能力进行投标；在收集到足够数量的投标后，招标方会对投标方的投标进行打分，选择一定数量的投标方参与联邦学习。但是，通过研究我们发现在目前的研究中主要存在两个方面的问题：第一个问题是由于数据等相关信息属于投标方的隐私信息，没有最终模型就没有评判方法，因此通过上述方法无法反映投标方的数据质量；第二个问题是支付机制的设计问题，目前大部分支付机制都是事前支付，即在投标方中标后就会获得服务器提供的支付，这就会引发一些问题，如投标方在获得支付后可能会提供质量较差的模型导致最终模型性能的下降等。

技术实现思路

[0003]鉴于此，本专利技术公开提供了基于逆向拍卖的联邦学习支付方法、系统及存储介质，完善了联邦学习激励机制关于投标方的事后支付问题，也解决了如何衡量投标方贡献的问题。
[0004]本专利技术提供的技术方案，具体为，一种基于逆向拍卖的联邦学习支付方法，包括以下步骤：
[0005]1)构建由招标方、投标方组成的联邦学习框架；
[0006]2)招标方公布联邦学习任务信息、发出投标请求；其中所述联邦学习任务信息包括任务预算B、招募投标方的数量、每个投标方获得奖励的最大值与最小值[p
min
,p
max
]、价值函数v
i
(q1,q2,...q
m
)，q代表投标方所具有的各种资源，所述各种资源包括本地数据、计算能力、带宽及CPU周期；
[0007]3)投标方在收到投标请求后，根据本身具有的资源决定是否进行投标；
[0008]4)招标方收到足够数量的投标后，招标方采用评价规则，根据投标方的投标价格和投标资源对投标进行选择，获得中标者集合W；
[0009]5)中标者集合W中的投标方采用自身的数据完成所述联邦学习任务的训练，将训练后得到的模型参数提交给招标方，招标方根据支付机制完成支付；其中所述支付机制由两部分构成，分别是：投标方的投标价格及投标资源。
[0010]进一步地，步骤2)招标方公布联邦学习任务信息时，设定一个最低得分S，投标方
通过估算自身的得分和招标方所要求的最低得分S进行比较，如果投标方的得分高于招标方的最低得分S才会考虑参与投标，否则投标不会考虑参与投标；
[0011]所述投标方的价值函数由此得出投标方i的得分为：其中q
i
代表投标方本身具有的资源，ω
i
定义为招标方给各种资源附加的权重参数。
[0012]进一步地，步骤3)中投标方根据本身具有的资源决定是否进行投标时，其参与投标的基本条件是自身效用大于零，投标方的投标价格b
i
需要满足p
min
≤b
i
≤p
max
,b
i
≥c
i
，投标方的投标定义为B(b
i
,q
i
)；c
i
为投标方i参与联邦学习任务所产生的成本，q
i
为投标方所具有的各种资源。
[0013]进一步地，步骤4)中所述评价规则为：
[0014]定义投标方i的资源价值为v
i
，投标方的投标价格b
i
，计算招标方对投标方投标中的资源估值为
[0015]将的投标方形成一个集合并对其进行一个由低到高的排序；
[0016]招标方根据自身的预算及所述排序选出投标方来参与联邦学习。
[0017]进一步地，在投标方的选择阶段，投标方的投标价格b
i
与其提供的资源价值v
i
比值小于1，就将该投标方纳入优胜者集合，最终选择出符合条件的中标者集合W；
[0018][0019]进一步地，步骤5)中所述支付机制中，定义支付密度阈值为：
[0020][0021]v
i
表示招标方公布的价值函数，w表示中标者集合；
[0022]招标方根据投标方的投标资源计算其获得的支付：
[0023]p'
i
＝ρ
·
(p
max
‑
p
min
)+p
min
[0024]将投标方的投标价格b
i
与p'
i
进行比较，选择出较低的价格对投标方进行支付：
[0025]p
i
＝min(b
i
,p'
i
)。
[0026]进一步地，通过计算投标方的局部模型在验证集中每个样本上的损失来衡量投标方的贡献contrib
i
：
[0027][0028]其中，loss
i,j
为投标方i的局部模型在验证集样本j上的损失；p
j
表示投标方i在所有参与联邦学习任务的投标方的损失中所占的比例；
[0029]由此，投标方i的贡献定义为：
[0030]contrib
i
＝∑
j∈D
‑
lnp
j
[0031]其中，D为招标方所拥有的验证集。
[0032]另一方面，本专利技术还提供了一种基于逆向拍卖的联邦学习支付系统，包括招标方和投标方，其中，所述基于逆向拍卖的联邦学习支付系统用于执行上述基于逆向拍卖的支付方法。
[0033]此外，本专利技术还提供了一种计算机可读存储介质，所述可读存储介质上储存有可执行指令，当所述指令在计算机上运行时，使得计算机处理器执行上述激励方法的任意一种。
[0034]本专利技术提供的基于逆向拍卖的联邦学习支付方法、系统及存储介质，完善了联邦学习激励机制关于投标方的事后支付问题，使得投标方能够在满足预算的前提下选择高质量低成本的投标方；同时也解决了如何衡量投标方贡献的问题，通过计算投标方所提供的局部模型在验证集样本上的损失来反映投标方的贡献，来保证最终模型的性能。
[0035]应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本专利技术的公开。
附图说明
[0036]此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本专利技术的实施例，并与说明书一起用于解释本专利技术的原理。
[0037]为了更清楚地说明本专利技术实施例或本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于逆向拍卖的联邦学习支付方法，其特征在于，包括以下步骤：1)构建由招标方、投标方组成的联邦学习框架；2)招标方公布联邦学习任务信息、发出投标请求；其中所述联邦学习任务信息包括任务预算B、招募投标方的数量、每个投标方获得奖励的最大值与最小值[p
min
,p
max
]、价值函数v
i
(q1,q2,...q
m
)，q代表投标方所具有的各种资源，所述各种资源包括本地数据、计算能力、带宽及CPU周期；3)投标方在收到投标请求后，根据本身具有的资源决定是否进行投标；4)招标方收到足够数量的投标后，采用评价规则，根据投标方的投标价格和投标资源对投标方进行选择，获得中标者集合W；5)中标者集合W中的投标方采用自身的各种资源完成所述联邦学习任务的训练，将训练后得到的模型参数提交给招标方，招标方根据支付机制完成支付；其中所述支付机制由两部分构成，分别是：投标方的投标价格及投标资源。2.根据权利要求1所述的一种基于逆向拍卖的联邦学习支付方法，其特征在于，步骤2)招标方公布联邦学习任务信息时，设定一个最低得分S，投标方通过估算自身的得分和招标方服务器所要求的最低得分S进行比较，如果投标方的得分高于招标方的最低得分S才会考虑参与投标，否则投标方不会考虑参与投标；所述投标方的价值函数由此得出投标方i的得分为：其中q
i
代表投标方本身具有的资源，ω
i
定义为招标方给各种资源附加的权重参数。3.根据权利要求1所述的一种基于逆向拍卖的联邦学习支付方法，其特征在于，步骤3)中投标方根据本身具有的资源决定是否进行投标时，其参与投标的基本条件是自身效用大于零，投标方的投标价格b
i
需要满足p
min
≤b
i
≤p
max
,b
i
≥c
i
，投标方的投标定义为B(b
i
,q
i
)；c
i
为投标方i参与联邦学习任务所产生的成本，q
i
为投标方所具有的各种资源。4.根据权利要求1所述的一种基于逆向拍卖的联邦学习支付方法，其特征在于，步骤4)中所述评价规则为：定义投标方i的资源价值为v
i

【专利技术属性】
技术研发人员：胡畔，高强，刘晓强，教传铭，张福良，刘育博，黄梦彤，张戈，夏雨，
申请(专利权)人：国家电网有限公司，
类型：发明
国别省市：