对抗训练方法和系统技术方案

本申请提供一种对抗训练方法和系统。涉及神经网络的技术领域。所述方法应用于服务器，所述方法包括：获取待检测图像；采用相似度算法对所述待检测图像与第一图像进行计算，得到所述待检测图像与所述第一图像的相似度值，所述第一图像为预设对抗样本库中任意一张图像，所述预设对抗样本库包括多张经过攻击处理的图像；当所述相似度值大于或等于预设相似度值时，确定所述待检测图像为对抗样本。通过将待检测图像与预设对抗样本库中的图像进行相似度计算，从而确定出待检测图像是否为对抗样本，以便于后续采取针对对抗样本的防御措施，进而减少深度模型出现误判的情况。进而减少深度模型出现误判的情况。进而减少深度模型出现误判的情况。

【技术实现步骤摘要】
对抗训练方法和系统


[0001]本申请涉及神经网络的
，具体涉及一种对抗训练方法和系统。

技术介绍

[0002]对抗攻击是指通过对原始输入数据进行有意义的修改，使得机器学习模型对其进行错误分类的攻击方式。基于这个特点，对抗攻击常常出现在图像识别的领域中。对抗攻击的出现不仅损害了模型的可靠性和安全性，也影响了机器学习在实际应用中的可靠性。因此，对于对抗攻击的防御显得尤为重要。
[0003]目前，最常用的防御方式通过对深度模型进行对抗训练，在训练数据中加入对抗样本，使得深度模型在训练过程中可以学习到对抗样本的特征，从而提高深度模型的鲁棒性。
[0004]然而，在相关技术中往往不能判断输入图像是否为对抗样本，从而导致深度模型出现误判的情况。

技术实现思路

[0005]本申请提供了一种对抗训练方法和系统。通过将待检测图像与预设对抗样本库中的图像进行相似度计算，从而确定出待检测图像是否为对抗样本，以便于后续采取针对对抗样本的防御措施，进而减少深度模型出现误判的情况。
[0006]第一方面，本申请提供了一种对抗训练方法，应用于服务器，所述方法包括：获取待检测图像；采用相似度算法对所述待检测图像与第一图像进行计算，得到所述待检测图像与所述第一图像的相似度值，所述第一图像为预设对抗样本库中任意一张图像，所述预设对抗样本库包括多张经过攻击处理的图像；当所述相似度值大于或等于预设相似度值时，确定所述待检测图像为对抗样本。
[0007]通过采用上述技术方案，基于相似度算法，将待检测图像与预设对抗样本库中的图像进行相似度比较，当相似度值大于或等于预设相似度值时，确定待检测图像为对抗样本。在这个过程中，不需要重新训练模型或者重新设计模型结构，而是通过在服务器端对输入图像进行检测的方式，可以快速、有效地检测对抗样本。从而可以在不影响深度模型性能的情况下，提高深度模型的鲁棒性和安全性，减少对抗攻击对深度模型的威胁。
[0008]第二方面，本申请提供一种对抗训练装置，所述装置为服务器，所述服务器包括获取模块与处理模块，其中，所述获取模块，用于获取待检测图像；所述处理模块，用于采用相似度算法对所述待检测图像与第一图像进行计算，得到所述待检测图像与所述第一图像的相似度值，所述第一图像为预设对抗样本库中任意一张图像，所述预设对抗样本库包括多张经过攻击处理的图像；当所述相似度值大于或等于预设相似度值时，确定所述待检测图像为对抗样本。
[0009]通过采用上述技术方案，该装置基于相似度算法，将待检测图像与预设对抗样本库中的图像进行相似度比较，当相似度值大于或等于预设相似度值时，确定待检测图像为
对抗样本。在这个过程中，不需要重新训练模型或者重新设计模型结构，而是通过在服务器端对输入图像进行检测的方式，可以快速、有效地检测对抗样本。从而可以在不影响深度模型性能的情况下，提高深度模型的鲁棒性和安全性，减少对抗攻击对深度模型的威胁。
[0010]可选的，处理模块用于将所述待检测图像进行灰度处理，得到灰度图像；获取所述灰度图像的像素平均值；将所述灰度图像中的每一点的像素与所述像素平均值进行比较，得到所述待检测图像的特征序列；将所述待检测图像的特征序列与所述第一图像的特征序列进行比较，得到所述待检测图像与所述第一图像的相似度值。
[0011]通过采用上述技术方案，通过对待检测图像进行灰度处理，获取像素平均值，并将每一点的像素与平均值进行比较，得到待检测图像的特征序列。然后将待检测图像的特征序列与预设对抗样本库中的图像的特征序列进行比较，得到相似度值。此时，不需要复杂的模型或者大量的计算资源，可以在较短时间内完成对待检测图像的判断，从而提高了相似度值的计算效率。
[0012]可选的，所述获取待检测图像之前，还包括：处理模块用于将初始待检测图像进行基波变换，得到初始待检测图片的第一频域数列；将所述第一频域数列中的低频系数进行保留，其余系数置0，得到第二频域数列；将所述第二频域数列进行逆基波变换，生成第二图像；将所述第二图像作为所述待检测图像。
[0013]通过采用上述技术方案，将初始待检测图像进行基波变换，并将第一频域数列中的低频系数保留，其余系数置0，再进行逆基波变换，可以实现对图像的降噪和平滑处理，从而提高对抗检测的准确性和鲁棒性。
[0014]可选的，所述确定所述待检测图像为对抗样本之后，还包括：获取模块用于从预设样本类型库中获取所述待检测图像对应的第一图像类型；当所述第一图像类型与预设图像类型一致时，则处理模块用于将所述待检测图像进行拦截并加入黑名单。
[0015]通过采用上述技术方案，通过从预设样本类型库中获取待检测图像对应的第一图像类型，并将其与预设图像类型进行比较，可以判断待检测图像的类型是否与预设类型一致。如果一致，则说明该对抗样本是有害的，从而及时对待检测图像进行拦截，防止有害的待检测图像流入公众视野中。
[0016]可选的，获取模块用于获取多张原始图像；处理模块用于将第三图像发送输入至图像分类模型中，得到所述第三图像对应的错误类型，所述第三图像为所述多张原始图像中任意一张图像；获取模块用于获取所述第三图像的正确类型；将所述第三图像、所述第三图像的正确类型以及所述第三图像的错误类型构建为对应关系，并将所述对应关系存储至预设样本类型库中。
[0017]通过采用上述技术方案，将多张原始图像中任意一种图像作为第三图像输入至图像分类模型中，从而得到第三图像对应的错误类型，再将第三图像、正确类型以及错误类型构建为对应关系；从而便于服务器更加快速的得到待检测图片的正确类型，并且提高了检测的准确性。
[0018]可选的，所述从预设样本类型库中获取所述待检测图像对应的第一图像类型，具体为：处理模块用于将所述待检测图像与第四图像进行比较，所述第四图像为预设样本类型库中任意一张图像；若所述待检测图像与所述第四图像的相似度值大于预设相似度值时，确定所述待检测图像的错误类型；基于所述错误类型从所述预设样本类型库中查询所
述待检测图像的正确类型。
[0019]通过采用上述技术方案，服务器首先将待检测图像和样本类型库中的图像进行比较，从而得到与待检测图像相似度较高的第四图像；再根据第四图像在预设样本类型库中的对应关系，从而得到待检测图像对应的正确类型；在这个过程中，不仅提高了图像类型查询的准确性，还提高了图像类型查询的效率。
[0020]可选的，所述将所述待检测图像进行拦截并加入黑名单之后，还包括：获取模块用于从预设样本类型库中获取所述待检测图像对应的第二图像类型；若所述第二图像类型与所述第一图像类型不一致时，处理模块用于将所述待检测图像发送至用户设备，以使用户设备对应的用户判断所述待检测图像的正确类别。
[0021]通过采用上述技术方案，通过对待检测图像再次进行检测，得到第二图像类型；若第二图像类型与第一图像类型不一致，则可以确定待检测图像对应图像类型存在争议；此时，通过人工介入的方式，重新确定待检测图像的图像类型，从而避免因服务器本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种对抗训练方法，其特征在于，应用于服务器，所述方法包括：获取待检测图像；采用相似度算法对所述待检测图像与第一图像进行计算，得到所述待检测图像与所述第一图像的相似度值，所述第一图像为预设对抗样本库中任意一张图像，所述预设对抗样本库包括多张经过攻击处理的图像；当所述相似度值大于或等于预设相似度值时，确定所述待检测图像为对抗样本。2.根据权利要求1所述的方法，其特征在于，所述采用相似度算法对所述待检测图像与第一图像进行计算，得到所述待检测图像与所述第一图像的相似度值，具体为：将所述待检测图像进行灰度处理，得到灰度图像；获取所述灰度图像的像素平均值；将所述灰度图像中的每一点的像素与所述像素平均值进行比较，得到所述待检测图像的特征序列；将所述待检测图像的特征序列与所述第一图像的特征序列进行比较，得到所述待检测图像与所述第一图像的相似度值。3.根据权利权利要求1所述的方法，其特征在于，所述获取待检测图像之前，还包括：将初始待检测图像进行基波变换，得到初始待检测图片的第一频域数列；将所述第一频域数列中的低频系数进行保留，其余系数置0，得到第二频域数列；将所述第二频域数列进行逆基波变换，生成第二图像；将所述第二图像作为所述待检测图像。4.根据权利要求1所述的方法，其特征在于，所述确定所述待检测图像为对抗样本之后，还包括：从预设样本类型库中获取所述待检测图像对应的第一图像类型；当所述第一图像类型与预设图像类型一致时，则将所述待检测图像进行拦截并加入黑名单。5.根据权利要求1所述的方法，其特征在于，所述从预设样本类型库中获取所述待检测图像对应的第一图像类型之前，所述预设样本类型库的构建方法具体为:获取多张原始图像；将第三图像发送输入至图像分类模型中，得到所述第三图像对应的错误类型，所述第三图像为所述多张原始图像中任意一张图像；获取所述第三图像的正确类型；将所述第三图像、所述第三图像的正确类型以及所述第三图像...

【专利技术属性】
技术研发人员：薛陶涛，殷光强，王治国，李超，刘学婷，周松，
申请(专利权)人：电子科技大学深圳高等研究院，
类型：发明
国别省市：