一种基于公平理论的面向联邦学习的公平奖励分配方法组成比例

本发明专利技术提供了一种基于公平理论的面向联邦学习的公平奖励分配方法。该方法包括：将亚当斯的公平理论应用于联邦学习中，参与方综合分析对联邦任务投入的所有因素后，给出本次任务的期望奖励，任务发布者利用参与方的历史任务计算出参与方的声望；参与方利用本地数据参与每轮训练任务，评估参与方的数据贡献、模型贡献和等待时间补贴三因素，综合三因素的贡献结果评估参与方的贡献；当全局模型收敛后，以参与方的实际奖励与期望奖励尽可能接近为目标，根据公平奖励目标函数动态调整三因素权重，获取并分发参与方的实际奖励。本发明专利技术综合考虑不同参与方的实际情况，以尽可能满足所有参与方的期望为目标分配实际奖励，实现满足参与方期望的公平性。与方期望的公平性。与方期望的公平性。

【技术实现步骤摘要】
一种基于公平理论的面向联邦学习的公平奖励分配方法


[0001]本专利技术涉及联邦学习
，尤其涉及一种基于公平理论的面向联邦学习的公平奖励分配方法。

技术介绍

[0002]联邦学习(Federated Learning)作为一种机器学习方法，实现在多个数据拥有者(参与方)中协同训练全局模型，同时保持训练数据不出本地。联邦学习是数据安全和隐私保护的重要解决方案，引起学术界及工业界的广泛关注。多数传统机器学习方法严重依赖训练的数据量，联邦学习也有这样的倾向性，因此，吸引大量参与方参与联邦学习任务是获得优质模型的重要保证。然而，只考虑参与方数量是不充分的，因为联邦学习存在数据异构(如非独立同分布数据)和资源异构(如计算资源)的问题，参与方的设备具有多样性，既包括算力充足的服务器，也存在资源受限的可穿戴设备，资源受限的设备也是联邦学习任务重要的数据来源。因此，需要设计有效的激励机制来补偿参与方的训练成本，促进异构参与方积极参与训练。
[0003]确保激励机制的公平性对于吸引高质量参与方和创建可持续发展的联邦学习生态系统至关重要。值得注意的是，公平并不意味着平等。如果一种激励机制给每一个参与方分配均等的奖励，而忽视参与方的数据和资源等方面的差异，就会产生不公平的现象，这不仅会助长搭便车攻击，也使一些高质量参与方因为受到不公平的对待而不愿意参加联邦学习任务。为此，很多公平感知的激励机制被提出，从本质上来说，这些方法首先评估参与方对全局模型的贡献，然后根据贡献值分配对应的奖励。
[0004]这些公平感知的激励机制隐含了一个假设条件，即所有的参与方对基于贡献率分配奖励的方法感到满意，但是这显然不符合社会心理学的研究，所以在很多实际场景中并不成立。因此，设计一种面向联邦学习的基于公平理论的公平奖励分配方法，提供参与方感知的公平性来提高参加联邦学习的积极性，是非常有意义且重要的。
[0005]目前，现有技术中的针对奖励公平的方法主要根据固定的贡献
‑
奖励率给联邦学习参与方分配奖励，分为以下四种：
[0006]基于数据贡献的分配方法：设置数据质量评估指标，如数据量、数据分布、数据类型等，根据评估结果优先给高数据质量参与方分配更多奖励，而使低质量参与方获得的奖励较少，达到吸引高质量参与方的目的。
[0007]基于模型贡献的分配方法：设置对参与方更新模型的评估指标，如模型准确率、模型评分等，根据贡献评估结果，将不同性能的聚合模型作为奖励分配给参与方，使不同模型贡献的参与方获得不同性能的聚合模型。
[0008]基于效用博弈的分配方法：效用博弈在劳动力市场和竞争环境中广泛存在，其有效性取决于奖励分配。该方法根据参与方的效用来公平的分配奖励，常用的三种分配方法是平等奖励分配、边际收益和边际损失。
[0009]基于声望机制的分配方法：将声望作为一种非金钱激励方式，实现对参与方的奖
励。每个参与方都维护一个声望分值，通过评估他们提交的数据来评估参与方的贡献，实现贡献与声望匹配的奖励分配方法。
[0010]上述现有技术中的针对奖励公平的方法的缺点包括：现有基于贡献的评估方法，根据贡献率分配奖励实现公平性，这些方案假设所有参与方均认可基于贡献
‑
奖励率的公平性。但是，这种假设是不合理且不全面的，因为被评估的贡献很难包含参与方投入到联邦学习任务的所有方面。根据亚当斯提出的公平理论可知，公平是一个相对的概念，个体对公平待遇的评价和感知依赖于投入
‑
收益比，收益是指获得的奖励，而投入不仅包含被评估的贡献，还有很多其他因素，如热情、经验和宽容等。所以，只依靠贡献评估的方式难以实现符合参与方心理需求的公平性。

技术实现思路

[0011]本专利技术的实施例提供了一种基于公平理论的面向联邦学习的公平奖励分配方法，以实现联邦学习任务的奖励公平。
[0012]为了实现上述目的，本专利技术采取了如下技术方案。
[0013]一种基于公平理论的面向联邦学习的公平奖励分配方法，包括：
[0014]将亚当斯的公平理论应用于联邦学习中，实现奖励分配的公平性；在准备阶段，获取参与方的声望及期望奖励；在训练过程中，参与方利用本地数据参与每轮训练任务，同时，评估参与方的数据贡献、模型贡献和等待时间补贴，获取三因素贡献结果；当全局模型收敛后进入奖励分配阶段，以参与方的实际奖励与期望奖励尽可能接近为目标，根据公平奖励目标函数动态调整三因素权重，获取并分发参与方的实际奖励；上述过程的数据均需上传到区块链。本专利技术综合考虑不同参与方的实际情况，以尽可能满足所有参与方的期望为目标分配实际奖励，实现满足参与方期望的公平性。
[0015]优选地，所述的将亚当斯的公平理论应用于联邦学习中，实现奖励分配的公平性，包括：
[0016]亚当斯的公平理论认为，个体感知的公平性不仅关注个体(l)与他人(o)的投入(I)
‑
收益(O)比率是否相同，也关注个体目前(c)和过去(h)的投入(I)
‑
收益(O)比率是否相同。收益是指获得的奖励，而投入是指个体为完成任务所贡献的各种因素，包括教育水平、努力程度、时间和容忍度等，不同个体在评估投入因素时可因人而异。亚当斯公平理论可用如下公式表示：
[0017][0018][0019]本方法将亚当斯公平理论应用在联邦学习中。联邦学习将参与方的奖励结果公开在区块链上，因此，收益(O)可被所有参与方准确获取，但是，联邦学习保持训练数据在参与方本地，并且参与方之间不能直接通信，因此，难以获取参与方的投入(I)，如数据、算力、时间、积极性等。为此，本方法把公平理论的投入和收益转变为期望奖励E(Expected Rewards，ERs)和实际奖励A(Actual Rewards，ARs)，则有：
[0020][0021][0022][0023]其中，i和j表示不同的参与方，参与方i将收益转变为ARA
i
，并利用个性化的投入评估函数f
i
将投入I
i
转变为ERE
i
，那么，公式(1)和(2)可转变为公式(4)和(5)，公式(4)满足个体与他人的ER(E)
‑
AR(A)比率相同，公式(5)满足个体目前(c)和过去(h)的ER(E)
‑
AR(A)比率相同。本方法提出期望公平来同时满足公式(4)和(5)，将期望公平的目标简化为：
[0024][0025]由公式(6)可知，本方法通过让所有参与方的ARs与ERs尽可能接近来满足公平理论，从而实现参与方期望的公平性，这也可以避免公平理论中个体在感知他人的投入时可能存在的个体偏见问题。
[0026]优选地，所述的在准备阶段，获取参与方的声望及期望奖励，包括：
[0027]每个参与方在提出ER时可以基于个体认知差异而考虑不同的因素，如本地的数据质量、设备资源、经验和积极性等，可涵盖部分或所有与联邦学习任务相关的因素。参与方i综合分析对联邦任本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于公平理论的面向联邦学习的公平奖励分配方法，其特征在于，将亚当斯的公平理论应用于联邦学习中，将亚当斯的公平理论的投入和收益转变为联邦学习中的期望奖励和实际奖励，所述方法包括：参与方综合分析对联邦任务投入的所有因素后，给出本次任务的期望奖励，任务发布者利用参与方的历史任务计算出参与方的声望；参与方利用本地数据参与每轮训练任务，评估参与方的数据贡献、模型贡献和等待时间补贴三因素，综合三因素的贡献结果评估参与方的贡献；当全局模型收敛后进入奖励分配阶段，以参与方的实际奖励与期望奖励尽可能接近为目标，根据公平奖励目标函数动态调整三因素权重，获取并分发参与方的实际奖励。2.根据权利要求1所述的方法，其特征在于，所述的参与方综合分析对联邦任务投入的所有因素后，给出本次任务的期望奖励，任务发布者利用参与方的历史任务计算出参与方的声望，包括：在准备阶段，参与方i综合分析对联邦任务投入的所有因素后，给出本次任务的期望奖励ER，即E
i
；任务发布者结合每个参与方历史的联邦学习任务，评估每次任务ER和AR的匹配程度，匹配度越高则结果越好，并利用遗忘因子作为系数，距离当前时刻越近的任务比重越高，任务发布者根据参与方的历史声望记录，获取参与方i的声望V
i
，计算公式如下：其中，与是参与方i在第t次任务中的实际奖励AR与期望奖励ER，为第t次任务的遗忘因子。3.根据权利要求2所述的方法，其特征在于，参与方利用本地数据参与每轮训练任务，评估参与方的数据贡献、模型贡献和等待时间补贴三因素，综合三因素的贡献结果评估参与方的贡献，包括：在训练过程中，参与方按照联邦学习的训练规则，参与每轮的训练任务，在第r轮，从区块链下载第r
‑
1轮聚合的全局模型，利用本地数据进行训练，将更新后的本地模型上传到区块链，当聚合第r轮的全局模型后，重复该训练过程，直至模型收敛；在贡献评估过程中，将数据贡献、模型贡献和等待时间补贴作为三因素，参与方i根据公式计算数据贡献u
1i
，D
i
为参...

【专利技术属性】
技术研发人员：王伟，陈国荣，马洪亮，赵庆展，李超，段莉，金一，李浥东，刘吉强，
申请(专利权)人：石河子大学，
类型：发明
国别省市：