【技术实现步骤摘要】
本专利技术涉及人工智能，尤其涉及一种神经网络模型精度对齐自动分析系统及自动分析方法。
技术介绍
1、人工智能所得到的快速发展以及大规模的应用离不开深度学习模型的发展。人工智能的三大要素包括算法、数据以及算力。算法方面在近几年各类模型(cv、nlp、multi-model)不断涌现，如目前业界应用最广泛的yolo系列模型从提出yolov1到目前最新的yolov9，同一时期的模型如yolov5会存在不同尺寸和参数量的模型。在应对服务器、移动端等不同硬件平台时会采用不同backbone。近两年基于transformer结构的大语言模型更是不断推陈出新。算力方面，gpu、npu、tpu等加速芯片不断更新和发展，算力性能越来越强大。随着应用的落地积累越来越多高质量的数据，模型的发展、数据和算力的丰富，促进了人工智能在自动驾驶、工业、家居、物流、安防等行业进一步的广泛应用。
2、目前在实际应用中，模型在最终部署时会遇到各种不同厂商、不同架构的硬件。由于厂商硬件设计的差异、驱动适配层实现的不同，神经网络模型最终在部署时会进行参数类型的转化和量化、算子的优化(如融合和替换)、计算图的调整等，此部分变化最终会对模型精度产生影响，即使在模型结构固定的情况下，模型的输入、后处理的变化也会导致模型精度发生变化。其中前后处理的变化、量化和参数类型的变化对模型精度的影响较大。精度的差异会最终影响应用的效果。当精度影响较大时，需要找出导致出现较大影响的因素。而由于不同芯片不同平台方式差异较大，目前找出影响精度较大的因素时经常用的方式依靠经验和手动
3、因此，现有技术存在缺陷，需要改进。
技术实现思路
1、本专利技术的目的是克服现有技术的不足，提供一种神经网络模型精度对齐自动分析系统及自动分析方法。
2、本专利技术的技术方案如下：提供一种神经网络模型精度对齐自动分析系统，包括：算子和层计算数据差异分析对比模块、计算图分析对比模块、前后处理差异分析对比模块、以及报告及调整模块，其中：
3、算子和层计算数据差异分析对比模块：将模型推理时各算子及各层计算结果导出，并将导出的结果进行比较，根据模型的不同展示结果，并按差异大小进行排序展示；
4、计算图分析对比模块：对原始模型计算图和目标芯片平台转换后的计算图进行对比，并对计算图有差异的点进行标识；
5、前后处理差异分析对比模块：将模型的前后处理差异进行分析，并存在差异的部分进行标识；
6、报告及调整模块：根据算子和层计算数据差异分析对比模块、计算图分析对比模块、以及前后处理差异分析对比模块所分析对比获得的数据结果，将各差异部分以可视化形式展示，同时按影响的差异大小进行排序展示，并根据差异按预设的建议规则对差异调整和修改进行建议。
7、进一步地，在所述算子和层计算数据差异分析对比模块中，根据模型的不同展示余弦相似度、欧氏距离、曼哈顿距离、以及最大绝对误差的差异比较结果。
8、进一步地，所述计算图分析对比模块对各算子输入及输出维度、算子名称及数据流向、以及模型结构及层级进行比较。
9、进一步地，所述前后处理差异分析对比模块对模型的前后处理差异进行对比分析，所述前后处理差异包括：数据预处理、后处理以及输入和输出shape，所述数据预处理包括：数据格式、数据排列、数据填充、裁剪以及均值方差，所述后处理包括transpose、filter、sort、以及nms。
10、本专利技术还提供一种神经网络模型精度对齐自动分析方法，其特征在于，包括如下步骤：
11、步骤1：将模型在原始硬件中与转换的目标芯片环境中分别运行，并获取转换前后的模型；
12、步骤2：运行转换前的原始模型以及转换后的模型，并导出模型计算结果，将模型计算结果发送到算子和层计算数据差异分析对比模块、计算图分析对比模块、以及前后处理差异分析对比模块进行对比分析；
13、步骤3：展示模型计算结果，根据各模块对比分析结果按优先级展示前后模型计算结果误差；
14、步骤4：根据用户设置的误差阈值将超过阈值的算子和层以特定的颜色进行展示；
15、步骤5：对比前后模型计算图的差异，将变化的算子和差异点以特定的颜色进行展示；
16、步骤6：在模型计算图中，对精度差异较大的点根据预置的建议提示用户修改建议。
17、进一步地，所述步骤3中，根据模型的不同展示余弦相似度、欧氏距离、曼哈顿距离、以及最大绝对误差的差异比较结果。
18、进一步地，所述步骤6中，预置的建议包括调整shape维度、调整数据类型、调整量化策略、调整算子类型、优化策略以及调整输入输出格式和规则。
19、采用上述方案，本专利技术通过算子和层计算数据差异分析对比模块、计算图分析对比模块、以及前后处理差异分析对比模块分别对算子和层、模型的计算图以及前后处理中所存在的差异进行比对，并将存在差异的地方进行标记，再将所标记的差异部分展示给用户，同时向用户推送相应的调整建议，便于在推出新产品以及新设备上适配和应用深度学习和人工智能模型时，可以有效提高适配速度，加快产品的上市推广速度。
本文档来自技高网...【技术保护点】
1.一种神经网络模型精度对齐自动分析系统，其特征在于，包括：算子和层计算数据差异分析对比模块、计算图分析对比模块、前后处理差异分析对比模块、以及报告及调整模块，其中：
2.根据权利要求1所述的神经网络模型精度对齐自动分析系统，其特征在于，在所述算子和层计算数据差异分析对比模块中，根据模型的不同展示余弦相似度、欧氏距离、曼哈顿距离、以及最大绝对误差的差异比较结果。
3.根据权利要求1所述的神经网络模型精度对齐自动分析系统，其特征在于，所述计算图分析对比模块对各算子输入及输出维度、算子名称及数据流向、以及模型结构及层级进行比较。
4.根据权利要求1所述的神经网络模型精度对齐自动分析系统，其特征在于，所述前后处理差异分析对比模块对模型的前后处理差异进行对比分析，所述前后处理差异包括：数据预处理、后处理以及输入和输出Shape，所述数据预处理包括：数据格式、数据排列、数据填充、裁剪以及均值方差，所述后处理包括Transpose、Filter、Sort、以及NMS。
5.一种神经网络模型精度对齐自动分析方法，其特征在于，包括如下步骤：
...【技术特征摘要】
1.一种神经网络模型精度对齐自动分析系统，其特征在于，包括：算子和层计算数据差异分析对比模块、计算图分析对比模块、前后处理差异分析对比模块、以及报告及调整模块，其中：
2.根据权利要求1所述的神经网络模型精度对齐自动分析系统，其特征在于，在所述算子和层计算数据差异分析对比模块中，根据模型的不同展示余弦相似度、欧氏距离、曼哈顿距离、以及最大绝对误差的差异比较结果。
3.根据权利要求1所述的神经网络模型精度对齐自动分析系统，其特征在于，所述计算图分析对比模块对各算子输入及输出维度、算子名称及数据流向、以及模型结构及层级进行比较。
4.根据权利要求1所述的神经网络模型精度对齐自动分析系统，其特征在于，所述前后处理差异分析对比模块对模型的前后处理差异...
【专利技术属性】
技术研发人员：成飞，赖宝华，
申请(专利权)人：深圳市鼎飞技术有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。