一种应对攻击的方法及联邦学习装置制造方法及图纸

本发明专利技术公开了一种应对攻击的方法及联邦学习装置，该方法包括：按照预设动态监测机制监测联盟本回合训练各参与方反馈的模型参数；根据所述模型参数和预设攻击几率模型，确定各参与方对联邦学习模型进行攻击的攻击几率，并根据所述攻击几率从各参与方中识别出恶意攻击方；根据上一回合恶意攻击方的攻击几率和预设监测力度模型，确定上一回合的目标监测力度，并根据上一回合的目标监测力度和预设惩罚力度模型，确定本回合联盟针对恶意攻击方的惩罚力度；根据所述惩罚力度，确定恶意攻击方的惩罚损失并发送给恶意攻击方，用于威慑恶意攻击方，以达到防范恶意攻击方攻击联邦学习模型的目的，可以有效降低恶意攻击方攻击联邦学习模型的成功率。

【技术实现步骤摘要】
一种应对攻击的方法及联邦学习装置
本专利技术涉及金融科技(Fintech)
和人工智能
，尤其涉及一种应对攻击的方法及联邦学习装置。
技术介绍
联邦学习是一种新型的通过分布式训练及加密技术，确保用户隐私数据得到最大限度的保护的机器学习理念。在联邦学习机制下，各参与方把加密后的数据模型贡献给联盟，联合训练一个联邦学习模型，通过联邦学习模型再开放给各参与方使用。然而，在这个过程中，恶意攻击方可以攻击联邦学习模型，以期望获取到某种特殊利益。但是，目前还未存在应对恶意攻击方攻击的方法，从而无法达到防范恶意攻击方攻击联邦学习模型的目的，使得恶意攻击方攻击联邦学习模型的成功率高。因此，如何应对恶意攻击方的攻击，成为了当前亟需解决的问题。
技术实现思路
本专利技术提供一种应对攻击的方法及联邦学习装置，用以解决现有技中不存在应对恶意攻击方的攻击的方法的问题，从而可以达到防范恶意攻击方攻击联邦学习模型的目的，进而可以降低恶意攻击方攻击联邦学习模型的成功率。为实现上述目的，第一方面，本专利技术提供一种应对攻击的方法，包括：按照预设动态监测机制监测联盟本回合训练各参与方反馈的模型参数；根据所述模型参数和预设攻击几率模型，确定所述各参与方对联邦学习模型进行攻击的攻击几率，并根据所述攻击几率从所述各参与方中识别出恶意攻击方；根据所述上一回合恶意攻击方的攻击几率和预设监测力度模型，确定上一回合的目标监测力度，并根据所述上一回合的目标监测力度和预设惩罚力度模型，确定本回合联盟针对所述恶意攻击方的惩罚力度；根据所述惩罚力度，确定所述恶意攻击方的惩罚损失并发送给所述恶意攻击方。在一种可能的设计中，根据所述上一回合的目标监测力度和预设惩罚力度模型，确定本回合联盟针对所述恶意攻击方的惩罚力度，包括：确定监测联盟本回合训练各参与方反馈的模型参数的时长；基于所述时长，确定本回合所述联邦学习模型遭受所述恶意攻击方攻击时联盟对应的损失力度；根据所述上一回合的目标监测力度，确定所述恶意攻击方本回合攻击所述联邦学习模型的成功率；根据所述损失力度、所述成功率和所述预设惩罚力度模型，确定本回合联盟针对所述恶意攻击方的惩罚力度。在一种可能的设计中，根据所述模型参数和预设攻击几率模型，确定所述各参与方对联邦学习模型进行攻击的攻击几率，包括：根据所述模型参数，更新所述联邦学习模型的参数，并统计联盟训练各参与方的历史回合的次数；所述联邦学习模型的参数的更新次数与联盟训练各参与方的历史回合的次数相等；获取记录的所述各参与方在各历史回合攻击所述联邦学习模型的次数；根据联盟训练各参与方的历史回合的次数以及所述各参与方在各历史回合攻击所述联邦学习模型的次数，确定所述各参与方在所述各历史回合的历史攻击几率；根据所述各参与方在所述各历史回合的历史攻击几率和所述预设攻击几率模型，确定所述各参与方对所述联邦学习模型进行攻击的攻击几率。在一种可能的设计中，根据所述上一回合恶意攻击方的攻击几率和预设监测力度模型，确定上一回合的目标监测力度，包括：确定上一回合联盟的历史损失、上一回联盟合联盟的历史监测成本、上一回所述恶意攻击方攻击所述联邦学习模型的成功率、上一回合所述联邦学习模型遭受所述恶意攻击方攻击时联盟对应的损失力度；根据所述历史损失、所述历史监测成本、所述上一回所述恶意攻击方攻击所述联邦学习模型的成功率、所述上一回合所述联邦学习模型遭受所述恶意攻击方攻击时联盟对应的损失力度、所述上一回合恶意攻击方的攻击几率和预设监测力度模型，确定上一回合的目标监测力度。在一种可能的设计中，所述目标监测力度在第一阈值和第二阈值之间；根据所述历史损失、所述历史监测成本、所述上一回所述恶意攻击方攻击所述联邦学习模型的成功率、所述上一回合所述联邦学习模型遭受所述恶意攻击方攻击时联盟对应的损失力度、所述上一回合恶意攻击方的攻击几率和预设监测力度模型，确定上一回合的目标监测力度，包括：根据所述历史损失、所述历史监测成本、所述上一回所述恶意攻击方攻击所述联邦学习模型的成功率、所述上一回合所述联邦学习模型遭受所述恶意攻击方攻击时联盟对应的损失力度、所述上一回合恶意攻击方的攻击几率和预设监测力度模型，确定上一回合的最大监测力度；判断所述最大监测力度是否大于等于所述第二阈值；若所述最大监测力度大于等于所述第二阈值，则将所述第二阈值作为所述目标监测力度；否则，将所述最大监测力度作为所述目标监测力度。在一种可能的设计中，根据所述攻击几率从所述各参与方中识别出恶意攻击方，包括：获取预设的恶意攻击方名单；所述恶意攻击方名单包括所述恶意攻击方的标识信息和所述恶意攻击方的攻击几率之间的对应关系；根据所述攻击几率和所述恶意攻击方名单，从所述各参与方中识别出恶意攻击方。在一种可能的设计中，在根据所述惩罚力度，确定所述恶意攻击方的惩罚损失之后，还包括：根据所述惩罚损失更新所述预设动态监测机制的监测预算，用于监测联盟下一回合训练所述各参与方反馈的模型参数。第二方面，本专利技术提供一种联邦学习装置，所述联邦学习装置包括：监测单元，用于按照预设动态监测机制监测联盟本回合训练各参与方反馈的模型参数；处理单元，用于根据所述模型参数和预设攻击几率模型，确定所述各参与方对联邦学习模型进行攻击的攻击几率，并根据所述攻击几率从所述各参与方中识别出恶意攻击方；根据所述上一回合恶意攻击方的攻击几率和预设监测力度模型，确定上一回合的目标监测力度，并根据所述上一回合的目标监测力度和预设惩罚力度模型，确定本回合联盟针对所述恶意攻击方的惩罚力度；根据所述惩罚力度，确定所述恶意攻击方的惩罚损失；发送单元，用于将所述恶意攻击方的惩罚损失发送给所述恶意攻击方。在一种可能的设计中，所述处理单元具体用于：确定监测联盟本回合训练各参与方反馈的模型参数的时长；基于所述时长，确定本回合所述联邦学习模型遭受所述恶意攻击方攻击时联盟对应的损失力度；根据所述上一回合的目标监测力度，确定所述恶意攻击方本回合攻击所述联邦学习模型的成功率；根据所述损失力度、所述成功率和所述预设惩罚力度模型，确定本回合联盟针对所述恶意攻击方的惩罚力度。在一种可能的设计中，所述处理单元具体用于：根据所述模型参数，更新所述联邦学习模型的参数，并统计联盟训练各参与方的历史回合的次数；所述联邦学习模型的参数的更新次数与联盟训练各参与方的历史回合的次数相等；获取记录的所述各参与方在各历史回合攻击所述联邦学习模型的次数；根据联盟训练各参与方的历史回合的次数以及所述各参与方在各历史回合攻击所述联邦学习模型的次数，确定所述各参与方在所述各历史回合的历史攻击几率；根据所述各参与方在所述各历史回合的历史攻击几率和所述预设攻击几率模型，确定所述各参与方对所述联邦学习模型进行攻击的攻击几率。在一种可能的设计本文档来自技高网...

【技术保护点】
1.一种应对攻击的方法，其特征在于，包括：/n按照预设动态监测机制监测联盟本回合训练各参与方反馈的模型参数；/n根据所述模型参数和预设攻击几率模型，确定所述各参与方对联邦学习模型进行攻击的攻击几率，并根据所述攻击几率从所述各参与方中识别出恶意攻击方；/n根据所述上一回合恶意攻击方的攻击几率和预设监测力度模型，确定上一回合的目标监测力度，并根据所述上一回合的目标监测力度和预设惩罚力度模型，确定本回合联盟针对所述恶意攻击方的惩罚力度；/n根据所述惩罚力度，确定所述恶意攻击方的惩罚损失并发送给所述恶意攻击方。/n

【技术特征摘要】
1.一种应对攻击的方法，其特征在于，包括：
按照预设动态监测机制监测联盟本回合训练各参与方反馈的模型参数；
根据所述模型参数和预设攻击几率模型，确定所述各参与方对联邦学习模型进行攻击的攻击几率，并根据所述攻击几率从所述各参与方中识别出恶意攻击方；
根据所述上一回合恶意攻击方的攻击几率和预设监测力度模型，确定上一回合的目标监测力度，并根据所述上一回合的目标监测力度和预设惩罚力度模型，确定本回合联盟针对所述恶意攻击方的惩罚力度；
根据所述惩罚力度，确定所述恶意攻击方的惩罚损失并发送给所述恶意攻击方。


2.如权利要求1所述的方法，其特征在于，根据所述上一回合的目标监测力度和预设惩罚力度模型，确定本回合联盟针对所述恶意攻击方的惩罚力度，包括：
确定监测联盟本回合训练各参与方反馈的模型参数的时长；
基于所述时长，确定本回合所述联邦学习模型遭受所述恶意攻击方攻击时联盟对应的损失力度；
根据所述上一回合的目标监测力度，确定所述恶意攻击方本回合攻击所述联邦学习模型的成功率；
根据所述损失力度、所述成功率和所述预设惩罚力度模型，确定本回合联盟针对所述恶意攻击方的惩罚力度。


3.如权利要求1所述的方法，其特征在于，根据所述模型参数和预设攻击几率模型，确定所述各参与方对联邦学习模型进行攻击的攻击几率，包括：
根据所述模型参数，更新所述联邦学习模型的参数，并统计联盟训练各参与方的历史回合的次数；所述联邦学习模型的参数的更新次数与联盟训练各参与方的历史回合的次数相等；
获取记录的所述各参与方在各历史回合攻击所述联邦学习模型的次数；
根据联盟训练各参与方的历史回合的次数以及所述各参与方在各历史回合攻击所述联邦学习模型的次数，确定所述各参与方在所述各历史回合的历史攻击几率；
根据所述各参与方在所述各历史回合的历史攻击几率和所述预设攻击几率模型，确定所述各参与方对所述联邦学习模型进行攻击的攻击几率。


4.如权利要求1所述的方法，其特征在于，根据所述上一回合恶意攻击方的攻击几率和预设监测力度模型，确定上一回合的目标监测力度，包括：
确定上一回合联盟的历史损失、上一回联盟合联盟的历史监测成本、上一回所述恶意攻击方攻击所述联邦学习模型的成功率、上一回合所述联邦学习模型遭受所述恶意攻击方攻击时联盟对应的损失力度；
根据所述历史损失、所述历史监测成本、所述上一回所述恶意攻击方攻击所述联邦学习模型的成功率、所述上一回合所述联邦学习模型遭受所述恶意攻击方攻击时联盟对应的损失力度、所述上一回合恶意攻击方的攻击几率和预设监测力度模型，确定上一回合的目标监测力度。


5.如权利要求4所述的方法，其特征在于，所述目标...

【专利技术属性】
技术研发人员：刘洋，于涵，陈天健，杨强，
申请(专利权)人：深圳前海微众银行股份有限公司，
类型：发明
国别省市：广东;44