本发明专利技术涉及人工智能技术，揭露了一种联邦学习防御方法，包括：从联邦学习的各参与方获取局部模型参数，根据所述局部模型参数构建攻击模型参数，根据所述局部模型参数及所述攻击模型参数得到训练数据集，利用所述训练数据集训练预构建的判别器，得到攻击判别器，利用所述攻击判别器对待检测局部模型进行判断，得到善意局部模型参数，对所述善意局部模型参数进行聚合运算，得到全局模型参数，并将所述全局模型参数发送给所述各参与方。此外，本发明专利技术还涉及区块链技术，所述全局模型参数可存储于区块链的节点。本发明专利技术还提出一种联邦学习防御装置、电子设备以及计算机可读存储介质。本发明专利技术可以解决对于特定攻击方式防御效果较差的问题。题。题。
【技术实现步骤摘要】
联邦学习防御方法、装置、电子设备及存储介质
[0001]本专利技术涉及人工智能
，尤其涉及一种联邦学习防御方法、装置、电子设备及计算机可读存储介质。
技术介绍
[0002]恶意攻击是联邦学习算法的发展过程中面临的一大挑战，而来自联邦学习系统内部设备的攻击是主要的攻击方式之一。恶意设备可以通过攻击训练数据集或者模型训练过程，实现全局模型性能的大幅度下降，从而使得联邦学习失去意义，此外，一些有目标的攻击会对全局模型在某些特定方面的表现造成巨大影响。在不同的联邦学习系统中，攻击方式也不尽相同，已有的防御主要是一些人为设计的针对数据攻击的防御算法，对于特定攻击方式的攻击，防御效果较差，无法根据攻击方式作出调整，从而使得适用场景都比较局限，而且难以评估其性能。
技术实现思路
[0003]本专利技术提供一种联邦学习防御方法、装置及计算机可读存储介质，其主要目的在于解决对于特定攻击方式防御效果较差的问题。
[0004]为实现上述目的，本专利技术提供的一种联邦学习防御方法，包括：
[0005]从联邦学习的各参与方获取局部模型参数，根据所述局部模型参数构建攻击模型参数，根据所述局部模型参数及所述攻击模型参数得到训练数据集；
[0006]利用所述训练数据集训练预构建的判别器，得到攻击判别器；
[0007]利用所述攻击判别器对待检测局部模型参数进行判断，得到善意局部模型参数；
[0008]对所述善意局部模型参数进行聚合运算，得到全局模型参数，并将所述全局模型参数发送给所述各参与方。
[0009]可选地，所述根据所述局部模型参数构建攻击模型参数，根据所述局部模型参数及所述攻击模型参数得到训练数据集，包括：
[0010]从获取的所述局部模型参数选取预设个数的局部模型参数，利用预设的攻击方式对选取的所述局部模型参数进行攻击处理，得到攻击模型参数；
[0011]将所述攻击模型参数作为负类样本及将从联邦学习的各参与方获取的所述局部模型参数作为正类样本，汇总所述负类样本及所述正类样本得到所述训练数据集。
[0012]可选地，所述所述预设的攻击方式方法为：对选取的第i组所述局部模型参数的第j个参数通过均值σ，方差μ的绝对值的10％的高斯分布进行随机扰动。
[0013]可选地，所述利用所述训练数据集训练预构建的判别器，得到攻击判别器，包括：
[0014]利用所述预构建的判别器中的神经网络计算所述训练数据集中每个参数的识别概率；
[0015]根据所述识别概率计算所述训练样本集中正类样本的预测概率；
[0016]根据所述预测概率计算损失值，直至所述损失值小于预设阈值，得到所述攻击判
别器。
[0017]可选地，在所述利用所述训练数据集训练预构建的判别器，得到攻击判别器之后，还包括：
[0018]根据从所述各参与方获取的T次局部模型参数构建得到验证数据集；
[0019]利用所述验证数据集对所述攻击判别器进行性能评估。
[0020]可选地，所述利用所述攻击判别器对待检测局部模型进行判断，得到善意局部模型参数，包括：
[0021]利用所述攻击判别器对从联邦学习的各参与方获取的所述局部模型参数进行预测，得到善意模型预测概率；
[0022]在所述善意模型预测概率大于等于预设阈值时，保留所述局部模型参数，得到所述善意局部模型。
[0023]可选地，所述对所述善意局部模型参数进行聚合运算，得到全局模型参数，并将所述全局模型参数发送给所述各参与方，包括：
[0024]利用预设的聚合规则，采用下述公式对所述善意局部模型进行聚合，得到全局模型：
[0025][0026]其中，为聚合规则，D为攻击判别器，W
″
i
为第i个善意的局部模型参数，e为所述善意的局部模型参数的数量，W为所述全局模型；
[0027]将所述全局模型的参数发送给各参与方。
[0028]为了解决上述问题，本专利技术还提供一种联邦学习防御装置，所述装置包括：
[0029]训练集构建模块，用于从联邦学习的各参与方获取局部模型参数，根据所述局部模型参数构建攻击模型参数，根据所述局部模型参数及所述攻击模型参数得到训练数据集；
[0030]判别器训练模块，用于利用所述训练数据集训练预构建的判别器，得到攻击判别器；
[0031]模型判断模块，用于利用所述攻击判别器对待检测局部模型参数进行判断，得到善意局部模型参数；
[0032]联邦学习模块，用于对所述善意局部模型参数进行聚合运算，得到全局模型参数，并将所述全局模型参数发送给所述各参与方。
[0033]为了解决上述问题，本专利技术还提供一种电子设备，所述电子设备包括：
[0034]至少一个处理器；以及，
[0035]与所述至少一个处理器通信连接的存储器；其中，
[0036]所述存储器存储有可被所述至少一个处理器执行的计算机程序指令，所述计算机程序指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述所述的联邦学习防御方法。
[0037]为了解决上述问题，本专利技术还提供一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机程序，所述计算机程序被电子设备的处理器执行时以实现上述所述的联邦学习防御方法。
[0038]本专利技术实施例根据从联邦学习的各参与方获取的局部模型参数构建攻击模型参数，根据所述局部模型参数及所述攻击模型参数得到训练数据集，以训练预构建的判别器，得到攻击判别器，所述攻击判别器可以针对不同的应用场景和攻击方式进行调整，并且所述攻击判别器可以灵活部署在不同的联邦学习系统中，以进行恶意攻击的判断。因此本专利技术提出的联邦学习防御方法、装置、电子设备及计算机可读存储介质，可以解决联邦学习防御中对于特定攻击方式防御效果较差的问题。
附图说明
[0039]图1为本专利技术一实施例提供的联邦学习防御方法的流程示意图；
[0040]图2为图1中其中一个步骤的详细实施流程示意图；
[0041]图3为图1中另一个步骤的详细实施流程示意图；
[0042]图4为图1中另一个步骤的详细实施流程示意图；
[0043]图5为图1中另一个步骤的详细实施流程示意图；
[0044]图6为本专利技术一实施例提供的联邦学习防御装置的功能模块图；
[0045]图7为本专利技术一实施例提供的实现所述联邦学习防御方法的电子设备的结构示意图。
[0046]本专利技术目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
[0047]应当理解，此处所描述的具体实施例仅仅用以解释本专利技术，并不用于限定本专利技术。
[0048]本申请实施例提供一种联邦学习防御方法。所述联邦学习防御方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之，所述联邦学习防御方法可以由安装在终端设备或服务端设备本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种联邦学习防御方法，其特征在于，所述方法包括：从联邦学习的各参与方获取局部模型参数，根据所述局部模型参数构建攻击模型参数，根据所述局部模型参数及所述攻击模型参数得到训练数据集；利用所述训练数据集训练预构建的判别器，得到攻击判别器；利用所述攻击判别器对待检测局部模型参数进行判断，得到善意局部模型参数；对所述善意局部模型参数进行聚合运算，得到全局模型参数，并将所述全局模型参数发送给所述各参与方。2.如权利要求1所述的联邦学习防御方法，其特征在于，所述根据所述局部模型参数构建攻击模型参数，根据所述局部模型参数及所述攻击模型参数得到训练数据集，包括：从获取的所述局部模型参数中选取预设个数的局部模型参数，利用预设的攻击方式对选取的所述局部模型参数进行攻击处理，得到攻击模型参数；将所述攻击模型参数作为负类样本及将从联邦学习的各参与方获取的所述局部模型参数作为正类样本，汇总所述负类样本及所述正类样本得到所述训练数据集。3.如权利要求2所述的联邦学习防御方法，其特征在于，所述预设的攻击方式方法为：对选取的第i组所述局部模型参数的第j个参数通过均值σ，方差μ的绝对值的10％的高斯分布进行随机扰动。4.如权利要求1所述的联邦学习防御方法，其特征在于，所述利用所述训练数据集训练预构建的判别器，得到攻击判别器，包括：利用所述预构建的判别器中的神经网络计算所述训练数据集中每个参数的识别概率；根据所述识别概率计算所述训练样本集中正类样本的预测概率；根据所述预测概率计算损失值，直至所述损失值小于预设阈值，得到所述攻击判别器。5.如权利要求4所述的联邦学习防御方法，其特征在于，在所述利用所述训练数据集训练预构建的判别器，得到攻击判别器之后，还包括：根据从所述各参与方获取的T次局部模型参数构建得到验证数据集；利用所述验证数据集对所述攻击判别器进行性能评估。6.如权利要求1至5中任意一项所述的联邦学习防御方法，其特征在于，所述利用所述攻击判...
【专利技术属性】
技术研发人员：王健宗，李泽远，何安珣，
申请(专利权)人：平安科技深圳有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。