一种对抗样本的生成方法及装置制造方法及图纸

本发明专利技术实施例涉及一种对抗样本的生成方法及装置，所述方法包括：获得目标神经网络所在忆阻器阵列的硬件故障分布图；基于所述硬件故障分布图和所述目标神经网络在所述忆阻器阵列上的权重映射图确定部署在所述忆阻器阵列上的目标神经网络的实际权重；基于所述实际权重和所述目标神经网络的原始权重对所述目标神经网络的原始训练样本进行更新，得到对抗样本。由此，可以实现利用对抗样本找到由于忆阻器阵列的硬件缺陷而导致的目标神经网络的弱点，从而改进这些弱点以增强部署在忆阻器阵列上的目标神经网络的鲁棒性。

【技术实现步骤摘要】
一种对抗样本的生成方法及装置
本专利技术实施例涉及神经网络
，尤其涉及一种对抗样本的生成方法及装置。
技术介绍
随着深度神经网络技术的发展，神经网络被广泛地应用在诸多领域，例如语音识别，图像识别，姿态检测，智能问答，智能决策、智能调度等。而随着神经网络的广泛应用，神经网络的安全性变得尤为重要。目前，对抗样本攻击是一种常用的针对神经网络的攻击手段，其目的是根据目标神经网络生成对抗样本，使得目标神经网络模型预测出错误结果。基于此，相关人员提出，利用对抗样本找出目标神经网络的弱点，然后改进这些弱点以增强目标神经网络的鲁棒性。
技术实现思路
鉴于此，为解决上述技术问题或部分技术问题，本专利技术实施例提供一种对抗样本的生成方法及装置。第一方面，本专利技术实施例提供一种对抗样本的生成方法，所述方法包括：获得目标神经网络所在忆阻器阵列的硬件故障分布图；基于所述硬件故障分布图和所述目标神经网络在所述忆阻器阵列上的权重映射图确定部署在所述忆阻器阵列上的目标神经网络的实际权重；基于所述实际权重和所述本文档来自技高网...

【技术保护点】
1.一种对抗样本的生成方法，其特征在于，所述方法包括：/n获得目标神经网络所在忆阻器阵列的硬件故障分布图；/n基于所述硬件故障分布图和所述目标神经网络在所述忆阻器阵列上的权重映射图确定部署在所述忆阻器阵列上的目标神经网络的实际权重；/n基于所述实际权重和所述目标神经网络的原始权重对所述目标神经网络的原始训练样本进行更新，得到对抗样本。/n

【技术特征摘要】
1.一种对抗样本的生成方法，其特征在于，所述方法包括：
获得目标神经网络所在忆阻器阵列的硬件故障分布图；
基于所述硬件故障分布图和所述目标神经网络在所述忆阻器阵列上的权重映射图确定部署在所述忆阻器阵列上的目标神经网络的实际权重；
基于所述实际权重和所述目标神经网络的原始权重对所述目标神经网络的原始训练样本进行更新，得到对抗样本。


2.根据权利要求1所述的方法，其特征在于，所述基于所述硬件故障分布图和所述目标神经网络在所述忆阻器阵列上的权重映射图确定部署在所述忆阻器阵列上的目标神经网络的实际权重，包括：
基于所述硬件故障分布图和所述目标神经网络在所述忆阻器阵列上的权重映射图确定部署在所述忆阻器阵列上的目标神经网络相对于原始的目标神经网络的权重偏移；
基于所述权重偏移计算出部署在所述忆阻器阵列上的目标神经网络的实际权重。


3.根据权利要求1所述的方法，其特征在于，所述基于所述实际权重和所述目标神经网络的原始权重对所述目标神经网络的原始训练样本进行更新，包括：
将所述目标神经网络的原始训练样本分别输入至部署在所述忆阻器阵列上的目标神经网络和原始的目标神经网络，得到部署在所述忆阻器阵列上的目标神经网络的第一输出结果和原始的目标神经网络的第二输出结果；
基于所述第一输出结果确定部署在所述忆阻器阵列上的目标神经网络的第一模型梯度，并基于所述第二输出结果确定原始的目标神经网络的第二模型梯度；
确定所述第一模型梯度和所述第二模型梯度的差分值；
基于所述差分值对所述目标神经网络的原始训练样本进行更新。


4.根据权利要求1所述的方法，其特征在于，所述方法还包括：
将所述对抗样本替代所述原始训练样本进行迭代处理，直至满足设定的收敛条件。


5.根据权利要求1所述的方法，其特征在于，所述方法还包括：
利用所述对抗样本和所述原始训练样本对所述目标神经网络进行重训练。


6.一种对抗样本的生成装置，其特征在于，所述装置包括：
故障分析模块，用于获得目标神经网络所在忆阻器阵列的硬件故障分布图；
确定模块，用于基于所述硬件故障分布图和所述目标神经网络在所述忆阻器阵列上的权重映射图确定部署在所述忆阻器阵列上的目标神经网络的实际权重
更新模块...

【专利技术属性】
技术研发人员：赵恒，
申请(专利权)人：中科物栖北京科技有限责任公司，
类型：发明
国别省市：北京;11