一种神经网络模型精度对齐自动分析系统及自动分析方法技术方案

技术编号:42682956 阅读:16 留言:0更新日期:2024-09-10 12:32
本发明专利技术公开一种神经网络模型精度对齐自动分析系统及自动分析方法。本发明专利技术通过算子和层计算数据差异分析对比模块、计算图分析对比模块、以及前后处理差异分析对比模块分别对算子和层、模型的计算图以及前后处理中所存在的差异进行比对,并将存在差异的地方进行标记,再将所标记的差异部分展示给用户,同时向用户推送相应的调整建议,便于在推出新产品以及新设备上适配和应用深度学习和人工智能模型时,可以有效提高适配速度,加快产品的上市推广速度。

【技术实现步骤摘要】

本专利技术涉及人工智能,尤其涉及一种神经网络模型精度对齐自动分析系统及自动分析方法


技术介绍

1、人工智能所得到的快速发展以及大规模的应用离不开深度学习模型的发展。人工智能的三大要素包括算法、数据以及算力。算法方面在近几年各类模型(cv、nlp、multi-model)不断涌现,如目前业界应用最广泛的yolo系列模型从提出yolov1到目前最新的yolov9,同一时期的模型如yolov5会存在不同尺寸和参数量的模型。在应对服务器、移动端等不同硬件平台时会采用不同backbone。近两年基于transformer结构的大语言模型更是不断推陈出新。算力方面,gpu、npu、tpu等加速芯片不断更新和发展,算力性能越来越强大。随着应用的落地积累越来越多高质量的数据,模型的发展、数据和算力的丰富,促进了人工智能在自动驾驶、工业、家居、物流、安防等行业进一步的广泛应用。

2、目前在实际应用中,模型在最终部署时会遇到各种不同厂商、不同架构的硬件。由于厂商硬件设计的差异、驱动适配层实现的不同,神经网络模型最终在部署时会进行参数类型的转化和量化、算子的优化(本文档来自技高网...

【技术保护点】

1.一种神经网络模型精度对齐自动分析系统,其特征在于,包括:算子和层计算数据差异分析对比模块、计算图分析对比模块、前后处理差异分析对比模块、以及报告及调整模块,其中:

2.根据权利要求1所述的神经网络模型精度对齐自动分析系统,其特征在于,在所述算子和层计算数据差异分析对比模块中,根据模型的不同展示余弦相似度、欧氏距离、曼哈顿距离、以及最大绝对误差的差异比较结果。

3.根据权利要求1所述的神经网络模型精度对齐自动分析系统,其特征在于,所述计算图分析对比模块对各算子输入及输出维度、算子名称及数据流向、以及模型结构及层级进行比较。

4.根据权利要求1所述的神...

【技术特征摘要】

1.一种神经网络模型精度对齐自动分析系统,其特征在于,包括:算子和层计算数据差异分析对比模块、计算图分析对比模块、前后处理差异分析对比模块、以及报告及调整模块,其中:

2.根据权利要求1所述的神经网络模型精度对齐自动分析系统,其特征在于,在所述算子和层计算数据差异分析对比模块中,根据模型的不同展示余弦相似度、欧氏距离、曼哈顿距离、以及最大绝对误差的差异比较结果。

3.根据权利要求1所述的神经网络模型精度对齐自动分析系统,其特征在于,所述计算图分析对比模块对各算子输入及输出维度、算子名称及数据流向、以及模型结构及层级进行比较。

4.根据权利要求1所述的神经网络模型精度对齐自动分析系统,其特征在于,所述前后处理差异分析对比模块对模型的前后处理差异...

【专利技术属性】
技术研发人员:成飞赖宝华
申请(专利权)人:深圳市鼎飞技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1