对抗训练方法及装置、神经网络模型的应用方法及装置制造方法及图纸

本发明专利技术提供了一种对抗训练方法及装置、神经网络模型的应用方法及装置。对抗训练方法包括：获取原始医学图像；获取原始医学图像对应的对抗样本，其中，对抗样本通过在原始医学图像上添加噪声得到，噪声是根据多个图像生成的；将原始医学图像和对抗样本作为训练样本训练医学神经网络模型，可以提高医学神经网络模型防御对抗攻击的鲁棒性，提高医学神经网络模型的泛化能力，以及提高医学神经网络模型的预测效果。

【技术实现步骤摘要】
对抗训练方法及装置、神经网络模型的应用方法及装置
本专利技术涉及深度学习
，具体涉及一种对抗训练方法及装置、神经网络模型的应用方法及装置。
技术介绍
近年来，深度学习已经改变了计算机视觉，并且已经在大量面向消费者的产品中得到了应用。深度学习的一个特别令人兴奋的应用领域是医学影像处理和辅助诊断。近年来已经有许多备受瞩目的医疗人工智能项目，在放射学、病理学和眼科学任务中取得接近甚至超越人类医生的水平。然而，深度学习技术有许多潜在的问题，比如神经网络模型非常容易受到对抗攻击，存在严重的安全风险。对抗攻击指的是在神经网络模型原始输入上添加对抗扰动构建对抗样本，从而使神经网络模型产生错误判断的过程。
技术实现思路
有鉴于此，本专利技术实施例提供了一种对抗训练方法及装置、神经网络模型的应用方法及装置，能够提高医学神经网络模型防御对抗攻击的鲁棒性，提高医学神经网络模型的泛化能力，以及提高医学神经网络模型的预测效果。根据本专利技术实施例的第一方面，提供一种对抗训练方法，包括：获取原始医学图像；获取原始医学图像对应的对抗样本，其中，对抗样本通过在原始医学图像上添加噪声得到，噪声是根据多个图像生成的；将原始医学图像和对抗样本作为训练样本训练医学神经网络模型。在本专利技术的一个实施例中，上述获取原始医学图像对应的对抗样本，包括：获取多个图像，其中，多个图像中的每个图像包括自然图像或医学图像；基于多个图像中的每个图像的权重参数，将多个图像混合，得到噪声；添加噪声至原始医学图像上，得到对抗样本。在本专利技术的一个实施例中，上述基于多个图像中的每个图像的权重参数，将多个图像混合，得到噪声，包括：基于图像变换参数，对多个图像进行图像变换；基于权重参数，将经过图像变换后的多个图像进行加权混合，得到噪声。在本专利技术的一个实施例中，上述基于多个图像中的每个图像的权重参数，将多个图像混合，得到噪声，还包括：将对抗样本输入医学神经网络模型，获取损失值；根据损失值，通过对抗攻击方法更新图像变换参数和/或权重参数，得到优化后的噪声，其中，上述添加噪声至原始医学图像上，得到对抗样本，包括：添加优化后的噪声至原始医学图像上，得到优化后的对抗样本。在本专利技术的一个实施例中，上述添加噪声至原始医学图像上，得到对抗样本，包括：将噪声与原始医学图像进行加权混合，得到对抗样本。根据本专利技术实施例的第二方面，提供一种神经网络模型的应用方法，包括：获取待处理医学图像；利用医学神经网络模型对待处理医学图像进行处理，得到处理结果，其中，医学神经网络模型通过原始医学图像和对抗样本训练得到，对抗样本通过在原始医学图像上添加噪声得到，噪声是根据多个图像生成的。根据本专利技术实施例的第三方面，提供一种对抗训练装置，包括：第一获取模块，用于获取原始医学图像；第二获取模块，用于获取原始医学图像对应的对抗样本，其中，对抗样本通过在原始医学图像上添加噪声得到，噪声是根据多个图像生成的；训练模块，用于将原始医学图像和对抗样本作为训练样本训练医学神经网络模型。根据本专利技术实施例的第四方面，提供一种神经网络模型的应用装置，包括：获取模块，用于获取待处理医学图像；处理模块，用于利用医学神经网络模型对待处理医学图像进行处理，得到处理结果，其中，医学神经网络模型通过原始医学图像和对抗样本训练得到，对抗样本通过在原始医学图像上添加噪声得到，噪声是根据多个图像生成的。根据本专利技术实施例的第五方面，提供一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序用于执行上述任一项所述的方法。根据本专利技术实施例的第六方面，提供一种电子设备，包括：处理器；用于存储所述处理器可执行指令的存储器；所述处理器，用于执行上述任一项所述的方法。根据本专利技术实施例提供的技术方案，通过获取原始医学图像；获取原始医学图像对应的对抗样本，其中，对抗样本通过在原始医学图像上添加噪声得到，噪声是根据多个图像生成的；将原始医学图像和对抗样本作为训练样本训练医学神经网络模型，基于多个图像生成噪声，可以提高医学神经网络模型防御对抗攻击的鲁棒性，提高医学神经网络模型的泛化能力，以及提高医学神经网络模型的预测效果。附图说明为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。图1所示为本专利技术一实施例提供的对抗训练方法的流程示意图。图2所示为本专利技术另一实施例提供的对抗训练方法的流程示意图。图3所示为本专利技术一实施例提供的神经网络模型的应用方法的流程示意图。图4所示为本专利技术一实施例提供的对抗训练装置的框图。图5所示为本专利技术一实施例提供的第二获取模块的框图。图6所示为本专利技术一实施例提供的神经网络模型的应用装置的框图。图7所示为本专利技术一实施例提供的电子设备的框图。具体实施方式下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。由于本申请实施例涉及对抗训练和神经网络方面的应用，为了便于理解，下面先对本申请实施例可能涉及的相关术语及神经网络等相关概念进行简单介绍。(1)深度学习深度学习是机器学习的分支，是一种以人工神经网络为架构，对数据进行表征学习的算法。(2)神经网络模型神经网络模型包括输入层，隐含层，输出层。一般来说第一层是输入层，最后一层是输出层，中间的层都是隐含层。层与层之间是全连接的，也就是说，第i层的任意一个神经元一定与第i+1层的任意一个神经元相连。就每一层的工作来说，简单来说就是如下线性关系表达式：其中，是输入向量，是输出向量，b是偏移向量，W是权重矩阵(也称系数)，α(.)是激活函数。训练神经网络模型的过程也就是学习权重矩阵的过程，其最终目的是得到训练好的神经网络模型的所有层的权重矩阵。在训练神经网络模型的过程中，因为希望神经网络模型的输出尽可能的接近真正想要预测值，所以可以通过比较当前网络的预测值和真正想要的目标值，再根据两者之间的差异情况来更新每一层神经网络的权重向量(当然，在第一次更新之前通常会有初始化的过程，即为深度神经网络中的各层预先配置参数)，比如，如果网络的预测值高了，就调整权重向量让它预测低一些，不断的调整，直到深度神经网络能够预测出真正想要的目标值或与真正想要的目标值非常接近的值。因此，就需要预先定义“如何比较预测值和目标值之间的差异”，这便是损失函数(lossfunction)或目标函数(objectivefunction)，它们是用于衡量预测值和目标值的差异的重要方程。具体地，可以采用误差反向传播(backpropa本文档来自技高网...

【技术保护点】
1.一种对抗训练方法，其特征在于，包括：/n获取原始医学图像；/n获取所述原始医学图像对应的对抗样本，其中，所述对抗样本通过在所述原始医学图像上添加噪声得到，所述噪声是根据多个图像生成的；/n将所述原始医学图像和所述对抗样本作为训练样本训练医学神经网络模型。/n

【技术特征摘要】
1.一种对抗训练方法，其特征在于，包括：
获取原始医学图像；
获取所述原始医学图像对应的对抗样本，其中，所述对抗样本通过在所述原始医学图像上添加噪声得到，所述噪声是根据多个图像生成的；
将所述原始医学图像和所述对抗样本作为训练样本训练医学神经网络模型。


2.根据权利要求1所述的方法，其特征在于，所述获取所述原始医学图像对应的对抗样本，包括：
获取所述多个图像，其中，所述多个图像中的每个图像包括自然图像或医学图像；
基于所述多个图像中的每个图像的权重参数，将所述多个图像混合，得到所述噪声；
添加所述噪声至所述原始医学图像上，得到所述对抗样本。


3.根据权利要求2所述的方法，其特征在于，所述基于所述多个图像中的每个图像的权重参数，将所述多个图像混合，得到所述噪声，包括：
基于图像变换参数，对所述多个图像进行图像变换；
基于所述权重参数，将经过图像变换后的所述多个图像进行加权混合，得到所述噪声。


4.根据权利要求3所述的方法，其特征在于，所述基于所述多个图像中的每个图像的权重参数，将所述多个图像混合，得到所述噪声，还包括：
将所述对抗样本输入所述医学神经网络模型，获取损失值；
根据所述损失值，通过对抗攻击方法更新所述图像变换参数和/或所述权重参数，得到优化后的噪声，
其中，所述添加所述噪声至所述原始医学图像上，得到所述对抗样本，包括：
添加优化后的噪声至所述原始医学图像上，得到优化后的对抗样本。


5.根据权利要求2所述的方法，其特征在于，所述添加所述噪声至所述原始医学图像上，...

【专利技术属性】
技术研发人员：简伟健，张欢，王瑜，赵朝炜，李新阳，陈宽，王少康，
申请(专利权)人：北京推想科技有限公司，
类型：发明
国别省市：北京;11