【技术实现步骤摘要】
本专利技术涉及数据处理，尤其涉及一种对抗性样本生成方法、装置、电子设备及存储介质。
技术介绍
1、随着技术的不断发展，人工神经网络(artificial neural network；ann)得到了极大的关注，尽管如此，ann模型依然存在重大的安全问题，极大限制了人工智能技术的应用，而脉冲神经网络(spiking neural network；snn)模型被视为比ann更具有生物合理性的版本。
2、而snn中的脉冲神经元模型将由1和0组成的脉冲序列作为输入，并在膜电位达到阈值时发出脉冲，这一过程的数学方程是不连续和不可微的，因此无法直接使用经典对抗攻击算法。在无法直接获得输入对应的梯度时，通常的对抗攻击方法是使用黑盒攻击方法。这类方法最基本的原理是基于神经网络对抗攻击的迁移性，基于一个ann模型使用相同的数据集进行训练，从而生成对抗样本，再将生成的样本用于测试脉冲神经网络snn的安全性，基于这种方法得到的对抗样本直接使用在脉冲神经网络上攻击效果不佳。
3、因此，如何针对于snn针对性的生成对抗性样本已经成为业界亟
【技术保护点】
1.一种对抗性样本生成方法，其特征在于，包括：
2.根据权利要求1所述的对抗性样本生成方法，其特征在于，将模型样本对应的脉冲序列进行代理梯度计算，得到所述模型样本对应的代理梯度矩阵，包括：
3.根据权利要求1所述的对抗性样本生成方法，其特征在于，基于所述脉冲序列和所述代理梯度矩阵，计算有效区域掩膜，包括：
4.根据权利要求3所述的对抗性样本生成方法，其特征在于，通过基础有效区域掩膜设定，对所述脉冲序列和所述代理梯度矩阵进行分析，计算第一有效区域掩膜，包括：
5.根据权利要求3所述的对抗性样本生成方法，其特征在于，所述特殊...
【技术特征摘要】
1.一种对抗性样本生成方法，其特征在于，包括：
2.根据权利要求1所述的对抗性样本生成方法，其特征在于，将模型样本对应的脉冲序列进行代理梯度计算，得到所述模型样本对应的代理梯度矩阵，包括：
3.根据权利要求1所述的对抗性样本生成方法，其特征在于，基于所述脉冲序列和所述代理梯度矩阵，计算有效区域掩膜，包括：
4.根据权利要求3所述的对抗性样本生成方法，其特征在于，通过基础有效区域掩膜设定，对所述脉冲序列和所述代理梯度矩阵进行分析，计算第一有效区域掩膜，包括：
5.根据权利要求3所述的对抗性样本生成方法，其特征在于，所述特殊形状有效区域掩膜设定，包括以下至少一项：删除型有效区域掩膜、增加型有效区域掩膜、立方体型有效区域掩膜、立方体型反有效区域...
【专利技术属性】
技术研发人员：范津宇，曾毅，
申请(专利权)人：中国科学院自动化研究所，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。