对联邦建模防御策略的攻击方法、装置、终端设备及介质制造方法及图纸

本申请适用于人工智能技术领域，尤其涉及一种对联邦建模防御策略的攻击方法、装置、终端设备及介质。上述方法应用于金融领域，在本地端，构建包含错误标签的第一数据与不包含错误标签的第二数据，通过使用包含有错误标签的第一数据对待攻击模型进行攻击训练，使用不包含有错误标签的第二数据对模型进行修正，降低本地端对模型的攻击程度，以便避开防御策略，从而对模型进行攻击训练，使得到的训练好的本地模型更具有隐蔽性，以便找到联邦建模更多的防御漏洞，从而提高联邦建模的防御能力。从而提高联邦建模的防御能力。从而提高联邦建模的防御能力。

【技术实现步骤摘要】
对联邦建模防御策略的攻击方法、装置、终端设备及介质


[0001]本申请适用于人工智能
，尤其涉及一种对联邦建模防御策略的攻击方法、装置、终端设备及介质。

技术介绍

[0002]机器学习主要研究如何利用计算机模拟或实现人类活动，是人工智能领域的研究热点之一。为实现支持高性能、大规模训练数据的机器学习模型的训练，利用多节点协作训练模型的分布式机器学习进入了技术人员的视野。目前，银行业基于隐私保护的需求也开始大量研究部署联邦学习系统。然而，在银行业务中应用联邦学习框架时，如果没有防御措施，很容易遭受来自客户端参与方的针对性攻击。
[0003]由于用户隐私越发受到重视，提出了一种特殊的分布式机器学习技术即联邦学习，加快人工智能在金融、保险、银行等数据敏感行业的落地和应用。该技术通过使用第三方数据训练机器学习模型，解决了用户本地数据的隐私保护问题。但是任何使用第三方数据训练的机器学习模型都容易收到“中毒攻击”，联邦建模使用了大量的第三方数据，通过联邦建模训练出的机器学习模型容易受到此类攻击。现有的针对联邦建模训练出的机器学习模型会有一些防御方案，但是这些防御方案仍然无法抵御一些隐蔽性强的攻击。因此，如何对联邦建模防御策略进行攻击，以便找到联邦建模更多的防御漏洞，从而提高联邦建模的防御能力成为亟需解决的问题。

技术实现思路

[0004]有鉴于此，本申请实施例提供了一种对联邦建模防御策略的攻击方法、装置、终端设备及介质，以解决联邦建模的防御能力较低的问题。
[0005]第一方面，本申请实施例提供一种对联邦建模防御策略的攻击方法，应用于本地端，所述本地端连接中心服务端，中心服务端运行有全局模型，本地端运行有本地模型，所述攻击方法包括：
[0006]构建包含错误标签的第一数据与不包含错误标签的第二数据；
[0007]使用所述第一数据训练所述本地端中的初始的本地模型，得到训练好的本地模型；
[0008]获取所述训练好的本地模型中的模型损失函数，根据预设损失函数与所述模型损失函数，构建更新损失函数；
[0009]使用所述第二数据与所述更新损失函数对所述训练好的本地模型进行再训练，得到再训练好的本地模型，获取所述再训练好的本地模型对应的局部参数，将所述局部参数发送至中心服务端，所述中心服务端用于根据所述局部参数更新所述全局模型，得到更新好的全局模型，并将所述更新好的全局模型的全局参数发送至所述本地端；
[0010]根据接收到的所述更新好的全局参数更新所述再训练好的本地模型，得到更新后的本地模型，将所述更新后的本地模型作为所述初始的本地模型，返回执行使用所述第一
数据训练所述本地端中的初始的本地模型的步骤，直至满足联邦建模的停止条件。
[0011]第二方面，本申请实施例提供一种对联邦建模防御策略的攻击装置，应用于本地端，所述本地端连接中心服务端，中心服务端运行有全局模型，本地端运行有本地模型，所述攻击装置包括：
[0012]构建模块，用于构建包含错误标签的第一数据与不包含错误标签的第二数据；
[0013]训练模块，用于使用所述第一数据训练所述本地端中的初始的本地模型，得到训练好的本地模型；
[0014]获取模块，用于获取所述训练好的本地模型中的模型损失函数，根据预设损失函数与所述模型损失函数，构建更新损失函数；
[0015]再训练模块，用于使用所述第二数据与所述更新损失函数对所述训练好的本地模型进行再训练，得到再训练好的本地模型对应的局部参数，获取所述再训练好的本地模型对应的局部参数，将所述局部参数发送至中心服务端，所述中心服务端用于根据所述局部参数更新所述全局模型的全局参数，得到更新后的全局参数，将所述更新后的全局参数发送至所述本地端；
[0016]返回执行模块，用于根据接收到的所述更新后的全局参数更新所述再训练好的本地模型，得到更新后的本地模型，将所述更新后的本地模型作为初始的本地模型，返回执行使用所述第一数据训练所述本地端中的初始的本地模型的步骤，直至满足联邦建模的停止条件。
[0017]第三方面，本申请实施例提供一种终端设备，所述终端设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如第一方面所述的对联邦建模防御策略的攻击方法。
[0018]第四方面，本申请实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如第一方面所述的对联邦建模防御策略的攻击方法。
[0019]本申请实施例与现有技术相比存在的有益效果是：
[0020]构建包含错误标签的第一数据与不包含错误标签的第二数据，使用第一数据训练本地端中的初始的本地模型，得到训练好的本地模型，获取训练好的本地模型中的模型损失函数，根据预设损失函数与模型损失函数，构建更新损失函数，使用第二数据与更新损失函数对训练好的模型进行再训练，得到再训练好的本地模型，获取再训练好的本地模型对应的局部参数，将局部参数发送至中心服务端，中心用于根据局部参数更新全局模型，得到更新好的全局模型，并将更新好的全局模型的全局参数发送至本地端，根据接收到的更新好的全局参数更新初始的本地模型，得到更新后的本地模型，将更新后的本地模型作为初始的本地模型，返回执行使用第一数据训练本地端中的初始的本地模型的步骤，直至满足联邦建模的停止条件。本申请中，本申请通过使用包含有错误标签的数据对待攻击模型进行攻击训练，使用不包含有错误标签的数据对模型进行修正，降低本地端对模型的攻击程度，避开防御策略，从而对模型进行攻击训练，使得到的训练好的本地模型更具有隐蔽性，以便找到联邦建模更多的防御漏洞，从而提高联邦建模的防御能力。在金融领域，使用联邦学习训练对应模型时，使用包含有错误标签的数据对银行节点处的本地端模型进行攻击训练，使用不包含有错误标签的数据对本地端模型进行修正，降低本地端对模型的攻击程度，
避开防御策略，从而提高基于各银行节点处的本地数据构建的联邦模型，有利于联邦学习在金融领域的落地与应用。
附图说明
[0021]为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
[0022]图1是本申请实施例提供的一种对联邦建模防御策略的攻击方法的一应用环境示意图；
[0023]图2是本申请实施例提供的一种对联邦建模防御策略的攻击方法的流程示意图；
[0024]图3是本申请实施例提供的一种对联邦建模防御策略的攻击装置的结构示意图；
[0025]图4是本申请实施例提供的一种终端设备的结构示意图。
具体实施方式
[0026]以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种对联邦建模防御策略的攻击方法，其特征在于，应用于本地端，所述本地端连接中心服务端，中心服务端运行有全局模型，本地端运行有本地模型，所述攻击方法包括：构建包含错误标签的第一数据与不包含错误标签的第二数据；使用所述第一数据训练所述本地端中的初始的本地模型，得到训练好的本地模型；获取所述训练好的本地模型中的模型损失函数，根据预设损失函数与所述模型损失函数，构建更新损失函数；使用所述第二数据与所述更新损失函数对所述训练好的本地模型进行再训练，得到再训练好的本地模型，获取所述再训练好的本地模型对应的局部参数，将所述局部参数发送至中心服务端，所述中心服务端用于根据所述局部参数更新所述全局模型，得到更新好的全局模型，并将所述更新好的全局模型的全局参数发送至所述本地端；根据接收到的所述更新好的全局参数更新所述再训练好的本地模型，得到更新后的本地模型，将所述更新后的本地模型作为所述初始的本地模型，返回执行使用所述第一数据训练所述本地端中的初始的本地模型的步骤，直至满足联邦建模的停止条件。2.如权利要求1所述的攻击方法，其特征在于，所述使用所述第一数据训练所述本地端中的初始的本地模型，得到训练好的本地模型，包括：使用所述第一数据训练所述本地端中的初始的本地模型，得到所述初始的本地模型对应的初始局部参数；将所述初始局部参数发送至中心服务端，所述中心服务端用于根据所述初始局部参数更新所述全局模型的全局参数，得到初始全局参数，将所述初始全局参数发送至所述本地端；根据接收到的初始全局参数，更新所述初始的本地模型，得到初始更新模型，将所述初始更新模型作为本地初始模型，返回执行使用所述第一数据训练所述本地端中的初始的本地模型的步骤，直至满足联邦建模的停止条件。3.如权利要求1所述的攻击方法，其特征在于，所述获取所述训练好的本地模型中的模型损失函数，根据预设损失函数与所述模型损失函数，构建更新损失函数，包括：获取所述训练好的本地模型中的模型损失函数，根据所述模型损失函数计算第一损失；获取预设损失函数，根据所述预设损失函数计算第二损失；将所述第一损失与所述第二损失进行求和，构建更新损失函数。4.如权利要求1所述的攻击方法，其特征在于，所述中心服务端用于根据所述局部参数更新所述全局模型的全局参数，得到更新后的全局参数，包括：获取所述全局模型中的历史全局参数；根据所述历史全局参数与所述局部参数更新所述全局模型的全局参数，得到更新后的全局参数。5.如权利要求1至4任一项所述的攻击方法，其特征在于，所述返回执行使用所述第一数据训练所述本地端中的初始的本地模型的步骤，直至满足联邦建模的停止条件，包括：根据所述更新损...

【专利技术属性】
技术研发人员：瞿晓阳，王健宗，刘承昊，
申请(专利权)人：平安科技深圳有限公司，
类型：发明
国别省市：