一种激励驱动的联邦欺诈防御方法技术

本发明专利技术公开了一种激励驱动的联邦欺诈防御方法，本发明专利技术首先提出了激励驱动的联邦欺诈者模型，提出保护隐私与验证信息真实性之间的矛盾。进而，提出了一种激励驱动的联邦欺诈防御方法，确保欺诈者无法满足其目标的激励/花费比值来上报与激励分配相关的本地信息，而不是通过遵守学习规则获得与其本地数据集相关的真实的本地信息，即参与者有较少的经济动机来产生一个编造的本地信息而不是真实的本地信息。实验表明，该防御方法能够有效抵御欺诈者，并且不会给客户和服务器带来过多的传输和计算代价。计算代价。

【技术实现步骤摘要】
一种激励驱动的联邦欺诈防御方法


[0001]本专利技术属于数据挖掘
，涉及一种攻击的防御方法，特别是涉及一种激励驱动的联邦欺诈防御方法。

技术介绍

[0002]联邦学习(FL)使许多客户能够共同创建高性能的全局模型，而不暴露其原始数据。同时，激励机制对于鼓励客户贡献其高质量和大量的本地数据至关重要。然而，在不披露本地数据集的情况下，激励机制仅基于每个客户声称的与其本地数据集相关的本地信息来计算每个客户的激励值，如数据集大小，目的是在于保证每个客户贡献的公平性。并且客户的激励值的大小与其上传的本地信息正相关，主要是本地数据集大小以及本地更新的质量。
[0003]现有的FL激励机制大多假设所有的客户都是诚实的客户，在本地训练和参数上传中严格遵守学习协议。这种假设使得当欺诈客户参与进来时现有的激励机制变得对诚实参与者不公平。欺诈者可以违反学习协议，上传伪造的本地信息，以更低的成本骗取奖励。例如，欺诈者可以违背规定的学习准则，提前结束其本地训练来节省其的计算代价耗费。同时无限制的夸大其本地数据集大小。从而以较小的计算代价来欺诈激励，破坏激本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种激励驱动的联邦欺诈防御方法，其特征在于，该方法下共有两类参与者：e个客户端和一个服务端，每个客户端i拥有一个本地训练数据集其中x
k
表示输入样本，其维度与全局模型第一层f1的输入维度相同，而y
k
表示数据标签；客户端包含两类：诚实客户和欺诈攻击者；客户端和服务端通过信息迭代交互的方式来更新全局模型的参数，全局模型是一个假设函数集合共有Q层，其中f
k
表示第k层的假设函数；则在每个交互轮次r中，防御方法包含以下步骤：步骤1：服务端将欺诈层p分发给每个客户端；步骤2：每个客户端i被要求上传给服务器其声称的本地信息其中表示该客户端声称的其本地训练数据集D
i
的样本数量，表示客户声称的其本地模型，例如诚实参与者i的本地模型或欺诈攻击者j的伪造模型或欺诈攻击者j的伪造模型表示该客户端声称的其训练证明；让每个客户端提供训练证明是本发明的重点内容，训练证明被要求包含g个集合，每一个集合由其本地训练数据集的样本数量|D
i
|个向量和数据标签组成，其中表示数据样本x
k
在本地模型的第p
‑
1层的输出向量，也就是说其维度应该等于第p层输入向量的维度；其中诚实参与者i在步骤1.1可以产生训练证明，而欺诈攻击者最终的合成数据集就是其训练证明；步骤3：服务端收集所有客户声称的本地信息后对齐声称的本地信息进行验证；步骤3.1：服务器将每个客户端i声称的训练证明输入其声称的本地模型的欺诈模型中，实施g次前向和后向传输得到待验证的模型的欺诈模型中，实施g次前向和后向传输得到待验证的模型的欺诈模型并验证其待验证的模型的欺诈模型是否与其声称的本地模型的欺诈模型相等；步骤3.2：服务器验证每个客户端i声称的训练证明是否包含g个子集，并且每个子集包含的样本数量是否与其声称的训练数据集的大小相等；步骤3.3：服务器验证每个客户端声称的本地模型是否满足条件步骤4：服务端聚合所有满足条件的客户声称的本地模型得到交互轮次r的全局模型步骤4：服务端聚合所有满足条件的客户声称的本地模型得到交互轮次r的全局模型其中表示所有满足条件的客户端声称的训练数据集大小之和；并且服务端对每个满足上述三个条件的客户计算激励值且服务端对每个满足上述三个条件的客户计算激励值然后计算该客户的激励值步骤5：最后，服务器将全局信息分发给满足3.1、3.2和3.3所有条件的客户端，以及(w
r
,0)分发给其他不满足条件的客户端。2.根据权利要求1所述激励驱动的联邦欺诈防御方法，其特征在于，所述步骤1中，为确定每个交互轮次r设定的欺诈层p的具体步骤如下：
步骤1.1：首先服务端将其数据集划分测试集D
U
和e份训练集{D
′1,
…
,D
′
e
}；然后服务端任意选择一个或多个客户端作为欺诈攻击者，其他参与者为诚实参与者；基于交互轮次r的初始全局模型参数w
r
‑1，服务端假设每个参与者i通过本地训练得到它在交互轮次r的本地模型参数也就是说诚实参与者i实施g次前向和后向传输：其中，初始化为w
r
‑1，η表示一个固定的学习率，L(
·
)表示损失函数；步骤1.2：然后服务器对每个本地模型满足条件的客户端i首先计算一个激励值其中S
′
表示一个由不包含客户i的所有客户的组成的集合，而S表示S
′
中一个不包含客户i的客户的组合，∈代表服务端设置的客户端本地模型最低阈值；并且V(S∪{i})
‑
V(S)表示客户i对组合S的边际贡献，其中V(
·
)表示可用性函数，例如损失函数L(
·
)；之后服务端计算欺诈攻击者j欺诈前使用本地模型在交...

【专利技术属性】
技术研发人员：陈珂，尹钰，李圣权，毛云青，郁强，李开民，寿黎但，
申请(专利权)人：浙江大学，
类型：发明
国别省市：