使用降低精度的深度神经网络的对抗性输入识别制造技术

本申请涉及使用降低精度的深度神经网络的对抗性输入识别。处理器接收输入数据，并将输入数据提供给包括第一神经网络模型的第一神经网络。第一神经网络模型具有第一数值精度水平。使用第一神经网络从输入数据生成第一特征向量。将输入数据提供给包括第二神经网络模型的第二神经网络。第二神经网络模型具有与第一数值精度水平不同的第二数值精度水平。使用第二神经网络从输入数据生成第二特征向量。计算第一特征向量和第二特征向量之间的差异度量。差异度量指示输入数据是否包括对抗性数据。

Antagonistic input recognition using depth neural network with reduced precision

【技术实现步骤摘要】
使用降低精度的深度神经网络的对抗性输入识别
本专利技术一般而言涉及一种用于识别深度神经网络的对抗性输入的方法、系统和计算机程序产品。更特别地，本专利技术涉及用于使用降低精度的深度神经网络的对抗性输入识别的方法、系统和计算机程序产品。
技术介绍
人工神经网络(ANN)—也简称为神经网络—是由许多简单、高度互连的处理元件(节点)组成的计算系统，这些处理元件通过它们对外部输入的动态状态响应来处理信息。ANN是根据哺乳动物大脑皮层的神经元结构被松散地建模但规模要小得多的处理设备(算法和/或硬件)。大型ANN可能具有数百或数千个处理器单元，而哺乳动物的大脑则具有数十亿个神经元，并且它们的整体交互和突现(emergent)行为的量相应增加。前馈神经网络是其中单元之间的连接不形成循环的人工神经网络。深度神经网络(DNN)是一种人工神经网络(ANN)，其在输入层和输出层之间具有多个隐藏的单元层。与浅层ANN类似，DNN可以对复杂的非线性关系建模。例如，用于对象检测和解析的DNN体系架构生成合成模型，其中对象被表示为图像基元(primitive)的分层合本文档来自技高网...

【技术保护点】
1.一种方法，包括：/n由处理器接收输入数据；/n将所述输入数据提供给包括第一神经网络模型的第一神经网络，所述第一神经网络模型具有第一数值精度水平；/n使用第一神经网络从所述输入数据生成第一特征向量；/n将所述输入数据提供给包括第二神经网络模型的第二神经网络，第二神经网络模型具有与第一数值精度水平不同的第二数值精度水平；/n使用第二神经网络从所述输入数据生成第二特征向量；以及/n计算第一特征向量和第二特征向量之间的差异度量，所述差异度量指示所述输入数据是否包括对抗性数据。/n

【技术特征摘要】
20190111 US 16/245,4631.一种方法，包括：
由处理器接收输入数据；
将所述输入数据提供给包括第一神经网络模型的第一神经网络，所述第一神经网络模型具有第一数值精度水平；
使用第一神经网络从所述输入数据生成第一特征向量；
将所述输入数据提供给包括第二神经网络模型的第二神经网络，第二神经网络模型具有与第一数值精度水平不同的第二数值精度水平；
使用第二神经网络从所述输入数据生成第二特征向量；以及
计算第一特征向量和第二特征向量之间的差异度量，所述差异度量指示所述输入数据是否包括对抗性数据。


2.如权利要求1所述的方法，还包括：
将所述差异度量与预定阈值进行比较。


3.如权利要求2所述的方法，还包括：
确定所述差异度量超过所述预定阈值；以及
响应于确定所述差异度量超过所述预定阈值，确定所述输入数据包括对抗性数据。


4.如权利要求3所述的方法，还包括：
丢弃所述输入数据。


5.如权利要求2所述的方法，还包括：
确定所述差异度量未超过所述预定阈值；以及
响应于确定所述差异度量未超过所述预定阈值，确定所述输入数据的分类。


6.如权利要求1所述的方法，其中第一数值精度水平大于第二数值精度水平。


7.如权利要求1所述的方法，其中第一数值精度水平是全数值精度水平。


8.如权利要求1所述的方法，其中第一神经网络模型是具有已知数值精度水平的已发布的神经网络模型。


9.如权利要求1所述的方法，其中第二神经网络模型是降低精度的神经网络模型。


10.如权利要求1所述的方法，其中第二神经网络模型是加密的神经网络模型。


11.如权利要求1所述的方法，其中第二神经网络模型的一个或多个层包括不同的数值精度水平。
...

【专利技术属性】
技术研发人员：陈家佑，陈品谕，莊逸仁，陈均富，崔正旭，K·高帕拉克里斯南，
申请(专利权)人：国际商业机器公司，
类型：发明
国别省市：美国;US