深度神经网络分层数据比对方法及装置制造方法及图纸

本申请公开了一种深度神经网络分层数据比对方法及装置，其中，所述深度神经网络分层数据比对方法，包括：从目标深度神经网络中选择目标比对层；根据所述目标深度神经网络和所述目标比对层，生成浮点深度神经网络模型；按照预设的量化指标量化所述浮点深度神经网络模型，得到定点深度神经网络模型；在第一运行平台运行所述浮点深度神经网络模型，输出所述目标比对层的第一张量；在第二运行平台运行所述定点深度神经网络模型，输出所述目标比对层的第二张量；计算所述第一张量和所述第二张量的余弦相似度，得到比对精度值，以此提供一种便捷的比对和评估量化后的深度神经网络模型的精度的技术方案。的精度的技术方案。的精度的技术方案。

【技术实现步骤摘要】
深度神经网络分层数据比对方法及装置


[0001]本申请涉及深度神经网络应用
，尤其涉及一种深度神经网络分层数据比对方法及装置。

技术介绍

[0002]深度神经网络已广泛应用于多个领域，例如工业检测和辅助驾驶等。深度神经网络模型在训练完之后，需要部署到嵌入式设备中，此时需要进行深度神经网络量化，量化会损失推理精度，现有技术在比对和评估量化后模型的精度时操作复杂。

技术实现思路

[0003]本申请提供一种通过计算张量的余弦相似度进行比对和评估量化后模型的精度的相关技术方案，用以解决现有技术在比对和评估量化后模型的精度时操作复杂的技术问题。
[0004]本申请提供的一种深度神经网络分层数据比对方法，包括以下具体步骤：
[0005]从目标深度神经网络中选择目标比对层；
[0006]根据所述目标深度神经网络和所述目标比对层，生成浮点深度神经网络模型；
[0007]按照预设的量化指标量化所述浮点深度神经网络模型，得到定点深度神经网络模型；
[0008]在第一运行平台运行所述浮点深度神经网络模型，输出所述目标比对层的第一张量；
[0009]在第二运行平台运行所述定点深度神经网络模型，输出所述目标比对层的第二张量；
[0010]计算所述第一张量和所述第二张量的余弦相似度，得到比对精度值。
[0011]进一步的，所述目标深度神经网络为经过训练的深度神经网络。
[0012]进一步的，所述预设的量化指标根据用于部署所述定点深度神经网络模型的模型部署平台的平台参数确定。
[0013]进一步的，所述第一运行平台为PC电脑。
[0014]进一步的，所述第二运行平台为嵌入式设备。
[0015]进一步的，所述余弦相似度的计算在所述第一运行平台上进行。
[0016]本申请还提供一种深度神经网络分层数据比对装置，包括：
[0017]选择模块，用于从目标深度神经网络中选择目标比对层；
[0018]浮点模型生成模块，用于根据所述目标深度神经网络和所述目标比对层，生成浮点深度神经网络模型；
[0019]量化模块，用于按照预设的量化指标量化所述浮点深度神经网络模型，生成定点深度神经网络模型；
[0020]第一运行模块，用于在第一运行平台运行所述浮点深度神经网络模型，输出所述
目标比对层的第一张量；
[0021]第二运行模块，用于在第二运行平台运行所述定点深度神经网络模型，输出所述目标比对层的第二张量；
[0022]计算模块，用于计算所述第一张量和所述第二张量的余弦相似度，得到比对精度值。
[0023]进一步的，所述目标深度神经网络为经过训练的深度神经网络。
[0024]进一步的，所述预设的量化指标根据用于部署所述定点深度神经网络模型的模型部署平台的平台参数确定。
[0025]进一步的，所述余弦相似度的计算在所述第一运行平台上进行。
[0026]本申请提供的技术方案至少具有以下有益效果：
[0027]通过从目标深度神经网络中选择目标比对层，并以此生成浮点深度神经网络模型，并按照预设的量化指标量化所述浮点深度神经网络模型，得到定点深度神经网络模型，可以有效减少浮点深度神经网络模型和定点深度神经网络模型之间的差异，减少额外的影响对比精度的干扰因素；通过对得到的目标比对层的第一张量和第二张量计算余弦相似度，可以便捷的计算第一张量和第二张量之间的相似性，以此简化比对和评估量化后模型的精度时的操作，提高了便捷性。
附图说明
[0028]此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：
[0029]图1为本申请实施例提供的一种深度神经网络分层数据比对方法的流程图；
[0030]图2为本申请实施例提供的一种深度神经网络分层数据比对方法的软件流程示意图。
具体实施方式
[0031]为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
[0032]请参照图1，本申请提供的一种深度神经网络分层数据比对方法，包括以下具体步骤：
[0033]S100：从目标深度神经网络中选择目标比对层。
[0034]需要说明的是，本申请涉及深度神经网络应用领域，深度神经网络产品的开发流程包括开发网络模型、模型训练、对模型的量化、模型部署、模型运行等。其中，量化影响了深度神经网络产品的最终运行效果，本申请中的技术方案可以对神经网络进行分层数据比对，评估量化后模型的精度。这里的目标深度神经网络可以理解为需要进行比对还未具体部署的原始的深度神经网络。本申请中的深度神经网络分层数据比对方法用于分层对比，在比对前，需要先从深度神经网络中选择需要比对的层。这里的目标比对层可以理解为需要比对的层。
[0035]进一步的，所述目标深度神经网络为经过训练的深度神经网络。
[0036]可以理解的是，深度神经网络一般只有在训练之后才能进行部署应用。在经过训练的深度神经网络的基础上进行分层数据比对，评估得到的量化后的模型的精度更具有实用性。
[0037]S200：根据所述目标深度神经网络和所述目标比对层，生成浮点深度神经网络模型。
[0038]需要说明的是，神经网络模型在训练时都是浮点运算的，得到的模型参数也是浮点的。这里的浮点深度神经网络模型可以理解为模型参数为浮点数的深度神经网络模型。
[0039]S300：按照预设的量化指标量化所述浮点深度神经网络模型，得到定点深度神经网络模型。
[0040]需要指出的是，深度神经网络模型中的量化指的是将浮点数用定点数表示，即这里的定点深度神经网络模型可以理解为模型参数为定点数的深度神经网络模型。对模型进行参数量化的主要目的是减小模型存储体积，加速运算，能够将算法应用在通用的嵌入式移动平台。
[0041]进一步的，所述预设的量化指标根据用于部署所述定点深度神经网络模型的模型部署平台的平台参数确定。
[0042]可以理解的是，在进行量化时需要对浮点深度神经网络模型中的目标比对层的参数进行量化，同时也需要对目标比对层的输出进行量化，在具体量化时，需要根据模型部署平台确定量化时所选取的量化参数。
[0043]S400：在第一运行平台运行所述浮点深度神经网络模型，输出所述目标比对层的第一张量。
[0044]需要说明的是，这里的第一运行平台主要用于浮点深度神经网络模型的运行，可以采用服务器、PC电脑等。请参考图2，在第一运行平台上运行浮点深度神经网络模型后，输出需要比对层的张量A。这里的张量A可以理解为目标比对层的第一张量本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种深度神经网络分层数据比对方法，其特征在于，包括以下具体步骤：从目标深度神经网络中选择目标比对层；根据所述目标深度神经网络和所述目标比对层，生成浮点深度神经网络模型；按照预设的量化指标量化所述浮点深度神经网络模型，得到定点深度神经网络模型；在第一运行平台运行所述浮点深度神经网络模型，输出所述目标比对层的第一张量；在第二运行平台运行所述定点深度神经网络模型，输出所述目标比对层的第二张量；计算所述第一张量和所述第二张量的余弦相似度，得到比对精度值。2.如权利要求1所述的深度神经网络分层数据比对方法，其特征在于，所述目标深度神经网络为经过训练的深度神经网络。3.如权利要求1所述的深度神经网络分层数据比对方法，其特征在于，所述预设的量化指标根据用于部署所述定点深度神经网络模型的模型部署平台的平台参数确定。4.如权利要求1所述的深度神经网络分层数据比对方法，其特征在于，所述第一运行平台为PC电脑。5.如权利要求1所述的深度神经网络分层数据比对方法，其特征在于，所述第二运行平台为嵌入式设备。6.如权利要求1所述的深度神经网络分层数据比对方法，其特征在于，所述...

【专利技术属性】
技术研发人员：刘朋，钟晨，罗喜庆，刘研，
申请(专利权)人：深圳市德驰微视技术有限公司，
类型：发明
国别省市：