量化模型的优化方法及装置制造方法及图纸

本公开涉及一种量化模型的优化方法及装置，上述方法包括：获取目标模型和所述目标模型对应的测试数据集；通过训练后量化方法对所述目标模型进行量化操作，得到量化模型；将所述测试数据集输入所述量化模型，输出检测结果，并统计所述检测结果的偏差值；通过曲线拟合方法对所述偏差值进行处理，得到优化函数，并通过所述优化函数优化所述量化模型。采用上述技术手段，解决现有技术中，量化后的模型的检测结果，存在较大的误差的问题。存在较大的误差的问题。存在较大的误差的问题。

【技术实现步骤摘要】
量化模型的优化方法及装置


[0001]本公开涉及人工智能领域，尤其涉及一种量化模型的优化方法及装置。

技术介绍

[0002]为了使得模型应用于各种场景，往往对模型进行量化。模型量化有如下优势：量化后的模型只需要更少的存储开销和带宽需求，即使用更少的比特数存储数据，有效减少应用对存储资源的依赖；量化后的模型可以减少模型运行的功耗；量化后的模型具有更快的计算速度。但是现有技术中，量化后的模型相比于未量化的模型存在更大的误差，即量化后的模型的检测结果的误差会增大。
[0003]在实现本公开构思的过程中，专利技术人发现相关技术中至少存在如下技术问题：量化后的模型的检测结果，存在较大的误差的问题。

技术实现思路

[0004]为了解决上述技术问题或者至少部分地解决上述技术问题，本公开的实施例提供了一种量化模型的优化方法及装置，以至少解决现有技术中，量化后的模型的检测结果，存在较大的误差的问题。
[0005]本公开的目的是通过以下技术方案实现的：第一方面，本公开的实施例提供了一种量化模型的优化方法，包括：获取目标模型和所述目标模型对应的测试数据集；通过训练后量化方法对所述目标模型进行量化操作，得到量化模型；将所述测试数据集输入所述量化模型，输出检测结果，并统计所述检测结果的偏差值；通过曲线拟合方法对所述偏差值进行处理，得到优化函数，并通过所述优化函数优化所述量化模型。
[0006]在一个示例性实施例中，所述统计所述检测结果的偏差值，包括：对所述检测结果建立第一平面直角坐标系，其中，所述检测结果，包括：目标对象和所述目标对象对应的预测框；通过所述第一平面直角坐标系统计所述检测结果的偏差值；其中，所述偏差值，包括：所述目标对象的位置与所述目标对象对应的预测框的位置的第一偏差值；和/或所述目标对象的大小与所述目标对象对应的预测框的大小的第二偏差值。
[0007]在一个示例性实施例中，所述通过曲线拟合方法对所述偏差值进行处理，得到优化函数，包括：以x轴为所述检测结果的坐标，以y轴为所述检测结果的第一偏差值，建立第二平面直角坐标系，其中，所述偏差值包括所述第一偏差值；在所述第二平面直角坐标系上，将所述坐标和所述第一偏差值组成的离散点数据拟合为第一平滑曲线；通过所述第一平滑曲线确定第一优化函数，其中，所述优化函数包括所述第一优化函数。
[0008]在一个示例性实施例中，所述通过曲线拟合方法对所述偏差值进行处理，得到优化函数，包括：以x轴为所述检测结果的坐标，以y轴为所述检测结果的第二偏差值，建立第三平面直角坐标系，其中，所述偏差值包括所述第二偏差值；在所述第三平面直角坐标系上，将所述坐标和所述第二偏差值组成的离散点数据拟合为第二平滑曲线；通过所述第二
平滑曲线确定第二优化函数，其中，所述优化函数包括所述第二优化函数。
[0009]在一个示例性实施例中，所述通过所述优化函数优化所述量化模型，包括：通过第一优化函数优化所述量化模型对应的第一模型数据，其中，所述优化函数，包括：所述第一优化函数和第二优化函数；和/或通过所述第二优化函数优化所述量化模型对应的第一模型数据。
[0010]在一个示例性实施例中，所述通过训练后量化方法对所述目标模型进行量化操作，得到量化模型，包括：获取所述目标模型对应的第二模型数据；确定所述第二模型数据对应的模型量化缩放因子和模型量化零点；根据所述第二模型数据、所述模型量化缩放因子和所述模型量化零点，通过四舍五入函数计算模型量化中间量；根据所述模型量化中间量，通过模型量化分段函数计算所述量化模型对应的第一模型数据；根据所述第一模型数据确定所述量化模型。
[0011]在一个示例性实施例中，包括：通过如下公式确定所述第二模型数据对应的模型量化缩放因子S和模型量化零点Z：；；其中，r
max
为所述第二模型数据中的最大值，r
min
为所述第二模型数据中的最小值，n为所述量化模型对应的第一模型数据的比特数，所述比特数在通过所述训练后量化方法对所述目标模型进行所述量化操作的过程中确定。
[0012]在一个示例性实施例中，所述根据所述第二模型数据、所述模型量化缩放因子和所述模型量化零点，通过四舍五入函数计算模型量化中间量，包括：；其中，x
int
为所述模型量化中间量，x为所述第二模型数据，round为所述四舍五入函数，Z为所述模型量化零点，S为所述模型量化缩放因子。
[0013]在一个示例性实施例中，所述根据所述模型量化中间量，通过模型量化分段函数计算所述量化模型对应的第一模型数据，包括：；其中，x
Q
为所述第一模型数据，x
int
为所述模型量化中间量，clamp为所述模型量化分段函数，n为所述量化模型对应的第一模型数据的比特数，所述比特数在通过所述训练后量化方法对所述目标模型进行所述量化操作的过程中确定；其中，；；。
[0014]第二方面，本公开的实施例提供了一种量化模型的优化装置，包括：获取模块，用于获取目标模型和所述目标模型对应的测试数据集；量化模块，用于通过训练后量化方法对所述目标模型进行量化操作，得到量化模型；统计模块，用于将所述测试数据集输入所述
量化模型，输出检测结果，并统计所述检测结果的偏差值；优化模块，用于通过曲线拟合方法对所述偏差值进行处理，得到优化函数，并通过所述优化函数优化所述量化模型。
[0015]第三方面，本公开的实施例提供了一种电子设备。上述电子设备包括处理器、通信接口、存储器和通信总线，其中，处理器、通信接口和存储器通过通信总线完成相互间的通信；存储器，用于存放计算机程序；处理器，用于执行存储器上所存放的程序时，实现如上所述的量化模型的优化方法或图像处理的方法。
[0016]第四方面，本公开的实施例提供了一种计算机可读存储介质。上述计算机可读存储介质上存储有计算机程序，上述计算机程序被处理器执行时实现如上所述的量化模型的优化方法或图像处理的方法。
[0017]本公开实施例提供的上述技术方案与现有技术相比至少具有如下优点的部分或全部：获取目标模型和所述目标模型对应的测试数据集；通过训练后量化方法对所述目标模型进行量化操作，得到量化模型；将所述测试数据集输入所述量化模型，输出检测结果，并统计所述检测结果的偏差值；通过曲线拟合方法对所述偏差值进行处理，得到优化函数，并通过所述优化函数优化所述量化模型。因为，本公开实施例通过曲线拟合方法对量化模型的检测结果的偏差值进行处理，得到优化函数，并通过优化函数优化量化模型，因此，采用上述技术手段，可以解决现有技术中，量化后的模型的检测结果，存在较大的误差的问题，进而通过优化量化后的模型，提高量化后的模型检测的准确率。
附图说明
[0018]此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。
[0019]为了更清楚地说明本公开实施例或现有技术中的技术方案，下面将对实施例或相关技术描述中所需要使用的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种量化模型的优化方法，其特征在于，包括：获取目标模型和所述目标模型对应的测试数据集；通过训练后量化方法对所述目标模型进行量化操作，得到量化模型；将所述测试数据集输入所述量化模型，输出检测结果，并统计所述检测结果的偏差值；通过曲线拟合方法对所述偏差值进行处理，得到优化函数，并通过所述优化函数优化所述量化模型。2.根据权利要求1所述的方法，其特征在于，所述统计所述检测结果的偏差值，包括：对所述检测结果建立第一平面直角坐标系，其中，所述检测结果，包括：目标对象和所述目标对象对应的预测框；通过所述第一平面直角坐标系统计所述检测结果的偏差值；其中，所述偏差值，包括：所述目标对象的位置与所述目标对象对应的预测框的位置的第一偏差值；和/或所述目标对象的大小与所述目标对象对应的预测框的大小的第二偏差值。3.根据权利要求1所述的方法，其特征在于，所述通过曲线拟合方法对所述偏差值进行处理，得到优化函数，包括：以x轴为所述检测结果的坐标，以y轴为所述检测结果的第一偏差值，建立第二平面直角坐标系，其中，所述偏差值包括所述第一偏差值；在所述第二平面直角坐标系上，将所述坐标和所述第一偏差值组成的离散点数据拟合为第一平滑曲线；通过所述第一平滑曲线确定第一优化函数，其中，所述优化函数包括所述第一优化函数。4.根据权利要求1所述的方法，其特征在于，所述通过曲线拟合方法对所述偏差值进行处理，得到优化函数，包括：以x轴为所述检测结果的坐标，以y轴为所述检测结果的第二偏差值，建立第三平面直角坐标系，其中，所述偏差值包括所述第二偏差值；在所述第三平面直角坐标系上，将所述坐标和所述第二偏差值组成的离散点数据拟合为第二平滑曲线；通过所述第二平滑曲线确定第二优化函数，其中，所述优化函数包括所述第二优化函数。5.根据权利要求1所述的方法，其特征在于，所述通过所述优化函数优化所述量化模型，包括：通过第一优化函数优化所述量化模型对应的第一模型数据，其中，所述优化函数，包括：所述第一优化函数和第二优化函数；和/或通过所述第二优化函数优化所述量化模型对应的第一模型数据。6.根据权利要求1所述的方法，其特征在于，所述通过训练后量化方法对所述目标模型进行量化操作，得到...

【专利技术属性】
技术研发人员：刘艳，林金辉，王恒，张梁凤，
申请(专利权)人：北京科技大学，
类型：发明
国别省市：