模型精度损失定位方法、装置和电子设备制造方法及图纸

本发明专利技术涉及计算机技术领域，提供一种模型精度损失定位方法、装置和电子设备，根据处理方式和调用资源类型对训练单模型和部署端模型进行功能划分，将测试数据输入至训练端模型和部署端模型，确定训练端模型和部署端模型中各个功能部分对应的结果，细化了模型各功能部分的结果，根据相同功能部分对应的训练端模型和部署端模型，进行余弦相似度计算，根据余弦相似度确定训练端模型和部署端模型之间在功能部分维度下的精度损失，相比仅能确定模型整体损失的现有技术，实现了从功能部分维度对网络模型在训练和部署阶段差异损失的准确定位。络模型在训练和部署阶段差异损失的准确定位。络模型在训练和部署阶段差异损失的准确定位。

【技术实现步骤摘要】
模型精度损失定位方法、装置和电子设备


[0001]本专利技术涉及计算机
，尤其涉及一种模型精度损失定位方法、装置和电子设备。

技术介绍

[0002]随着深度学习技术的发展，基于深度学习模型的应用越来越多，将深度学习算法模型从训练平台转化移植到部署平台的工作变得非常重要。
[0003]在网络模型在不同平台端进行转化移植的工程中，保证模型精度的一致性是网络模型应用的核心前提。因此，如何高效、准确地定位出模型精度损失是当前重要研究方向。

技术实现思路

[0004]本专利技术提供一种模型精度损失定位方法，用以解决现有技术中无法高效、准确地定位模型精度损失的缺陷，实现高效、准确的模型精度损失定位。
[0005]本专利技术提供一种模型精度损失定位方法，包括：
[0006]获取测试数据，以及基于模型中转部署的位于不同平台端的网络模型，包括训练端模型和部署端模型；
[0007]根据处理方式和调用资源类型，将所述训练端模型和所述部署端模型划分为预处理部分、前向推理部分和后处理部分；
[0008]将所述测试数据分别输入所述训练端模型和所述部署端模型，确定所述训练端模型和所述部署端模型各自对应的预处理结果、前向推理结果和后处理结果；
[0009]根据所述训练端模型的预处理结果和部署端模型的预处理结果计算第一余弦相似度，根据所述训练端模型的前向处理结果和部署端模型的前向处理结果计算第二余弦相似度，根据所述训练端模型的后处理结果和部署端模型的后处理结果计算第三余弦相似度；<br/>[0010]根据所述第一余弦相似度、所述第二余弦相似度和所述第三余弦相似度，在所述预处理部分、所述前向推理部分和所述后处理部分中，确定精度损失第一部分。
[0011]根据本专利技术提供一种的模型精度损失定位方法，根据所述第一余弦相似度、所述第二余弦相似度和所述第三余弦相似度，在所述预处理部分、所述前向推理部分和所述后处理部分中，确定精度损失第一部分，包括：
[0012]依次将所述第一余弦相似度、所述第二余弦相似度和所述第三余弦相似度，与预设阈值进行第一比对；
[0013]在首次第一比对结果为未达到预设阈值的情况下，将对应的部分确定为精度损失第一部分。
[0014]根据本专利技术提供一种的模型精度损失定位方法，在所述精度损失第一部分为所述前向推理部分的情况下，所述方法还包括：
[0015]获取中转端模型，所述中转端模型包括中转端模型的前向推理部分；
[0016]将预处理后的测试数据分别输入训练端模型、中转端模型和部署端模型的前向推理部分，得到训练端预测特征图、中转端预测特征图和部署端预测特征图；
[0017]根据所述训练端预测特征图和中转端预测特征图计算第四余弦相似度，根据所述中转端预测特征图和部署端预测特征图计算第五余弦相似度；
[0018]根据所述第四余弦相似度和所述第五余弦相似度，在所述中转端模型的前向推理部分和所述部署端模型的前向推理部分中，确定精度损失第二部分。
[0019]根据本专利技术提供一种的模型精度损失定位方法，根据所述第四余弦相似度和所述第五余弦相似度，在所述中转端模型的前向推理部分和所述部署端模型的前向推理部分中，确定精度损失第二部分，包括：
[0020]依次将所述第四余弦相似度和所述第五余弦相似度，与预设阈值进行第二比对；
[0021]在首次第二比对结果为未达到预设阈值的情况下，将对应的前向推理部分确定为精度损失第二部分。
[0022]根据本专利技术提供一种的模型精度损失定位方法，在所述精度损失第二部分为所述部署端模型的前向推理部分的情况下，所述方法还包括：
[0023]根据主干网络、编码器和解码器的结构，将所述中转端模型和所述部署端模型进行分解；
[0024]根据分解后的中转端模型和部署端模型，对所述中转端预测特征图和所述部署端预测特征图进行分解，得到中转端分解特征图和部署端分解特征图；
[0025]根据所述中转端分解特征图和部署端分解特征图，确定精度损失第三部分。
[0026]根据本专利技术提供一种的模型精度损失定位方法，根据分解后的中转端模型和部署端模型，对所述中转端预测特征图和所述部署端预测特征图进行分解，得到分解后的中转端分解特征图和部署端分解特征图，包括：
[0027]将所述中转端模型的前向推理部分，划分为中转端主干网络、中转端编码器和中转端解码器，将所述部署端模型的前向推理部分，划分为部署端主干网络、部署端编码器和部署端解码器；
[0028]根据所述中转端主干网络、所述中转端编码器和所述中转端解码器，将所述中转端预测特征图分解为中转端主干网络分解特征图、中转端编码器分解特征图和中转端解码器分解特征图；
[0029]根据所述部署端主干网络、所述部署端编码器和所述部署端解码器，将所述部署端预测特征图分解为部署端主干网络分解特征图、部署端编码器分解特征图和部署端解码器分解特征图。
[0030]根据本专利技术提供一种的模型精度损失定位方法，根据所述中转端分解特征图和部署端分解特征图，确定精度损失第三部分，包括：
[0031]根据所述中转端主干网络分解特征图和所述部署端主干网络分解特征图计算第六余弦相似度，根据中转端编码器分解特征图和所述部署端编码器分解特征图计算第七余弦相似度，根据中转端解码器分解特征图和所述部署端解码器分解特征图计算第八余弦相似度；
[0032]依次将所述第六余弦相似度、所述第七余弦相似度和所述第八余弦相似度，与预设阈值进行第三比对；
[0033]在首次第三比对结果为未达到预设阈值的情况下，将对应的分解网络确定为精度损失第三部分，所述分解网络为主干网络、编码器和解码器中的一项。
[0034]本专利技术还提供一种模型精度损失定位装置，包括：
[0035]获取单元，用于获取测试数据，以及基于模型中转部署的位于不同平台端的网络模型，包括训练端模型和部署端模型；
[0036]解析单元，用于根据处理方式和调用资源类型，将所述训练端模型和所述部署端模型划分为预处理部分、前向推理部分和后处理部分；将所述测试数据分别输入所述训练端模型和所述部署端模型，确定所述训练端模型和所述部署端模型各自对应的预处理结果、前向推理结果和后处理结果；根据所述训练端模型的预处理结果和部署端模型的预处理结果计算第一余弦相似度，根据所述训练端模型的前向处理结果和部署端模型的前向处理结果计算第二余弦相似度，根据所述训练端模型的后处理结果和部署端模型的后处理结果计算第三余弦相似度；根据所述第一余弦相似度、所述第二余弦相似度和所述第三余弦相似度，在所述预处理部分、所述前向推理部分和所述后处理部分中，确定精度损失第一部分。
[0037]本专利技术还提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上述任一种所述模型精度损失定位方法的步骤。
[0038]本专利技术还提供一种非暂态计算机可读存储介质本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种模型精度损失定位方法，其特征在于，包括：获取测试数据，以及基于模型中转部署的位于不同平台端的网络模型，包括训练端模型和部署端模型；根据处理方式和调用资源类型，将所述训练端模型和所述部署端模型划分为预处理部分、前向推理部分和后处理部分；将所述测试数据分别输入所述训练端模型和所述部署端模型，确定所述训练端模型和所述部署端模型各自对应的预处理结果、前向推理结果和后处理结果；根据所述训练端模型的预处理结果和部署端模型的预处理结果计算第一余弦相似度，根据所述训练端模型的前向处理结果和部署端模型的前向处理结果计算第二余弦相似度，根据所述训练端模型的后处理结果和部署端模型的后处理结果计算第三余弦相似度；根据所述第一余弦相似度、所述第二余弦相似度和所述第三余弦相似度，在所述预处理部分、所述前向推理部分和所述后处理部分中，确定精度损失第一部分。2.根据权利要求1所述的模型精度损失定位方法，其特征在于，根据所述第一余弦相似度、所述第二余弦相似度和所述第三余弦相似度，在所述预处理部分、所述前向推理部分和所述后处理部分中，确定精度损失第一部分，包括：依次将所述第一余弦相似度、所述第二余弦相似度和所述第三余弦相似度，与预设阈值进行第一比对；在首次第一比对结果为未达到预设阈值的情况下，将对应的部分确定为精度损失第一部分。3.根据权利要求1所述的模型精度损失定位方法，其特征在于，在所述精度损失第一部分为所述前向推理部分的情况下，所述方法还包括：获取中转端模型，所述中转端模型包括中转端模型的前向推理部分；将预处理后的测试数据分别输入训练端模型、中转端模型和部署端模型的前向推理部分，得到训练端预测特征图、中转端预测特征图和部署端预测特征图；根据所述训练端预测特征图和中转端预测特征图计算第四余弦相似度，根据所述中转端预测特征图和部署端预测特征图计算第五余弦相似度；根据所述第四余弦相似度和所述第五余弦相似度，在所述中转端模型的前向推理部分和所述部署端模型的前向推理部分中，确定精度损失第二部分。4.根据权利要求3所述的模型精度损失定位方法，其特征在于，根据所述第四余弦相似度和所述第五余弦相似度，在所述中转端模型的前向推理部分和所述部署端模型的前向推理部分中，确定精度损失第二部分，包括：依次将所述第四余弦相似度和所述第五余弦相似度，与预设阈值进行第二比对；在首次第二比对结果为未达到预设阈值的情况下，将对应的前向推理部分确定为精度损失第二部分。5.根据权利要求3所述的模型精度损失定位方法，其特征在于，在所述精度损失第二部分为所述部署端模型的前向推理部分的情况下，所述方法还包括：根据主干网络、编码器和解码器的结构，将所述中转端模型和所述部署端模型进行分解；根据分解后的中转端模型和部署端模型，对所述中转端预测特征图和所述部署端预测
特征图进行分解，得到中转端分解特征图和部署端分解特征图；根据所述中转端分解特征图和部署端分解特...

【专利技术属性】
技术研发人员：张文涛，
申请(专利权)人：盛景智能科技嘉兴有限公司，
类型：发明
国别省市：