【技术实现步骤摘要】
图像识别模型的量化方法、装置、计算机设备及存储介质
本申请实施例涉及神经网络
,特别涉及一种图像识别模型的量化方法、装置、计算机设备及存储介质。
技术介绍
在神经网络
中,在很多场景中需要通过图像识别模型进行图像识别;为了加速图像识别模型的运行速度,降低计算机设备的功耗,常见的解决方法是对图像识别模型进行量化,将图像识别模型中的参数由浮点型数据量化为定点型数据。相关技术中,计算机设备对图像识别模型进行量化的过程为:计算机设备确定待量化的第一图像识别模型,第一图像识别模型的每个网络层的输入数据、权重数据和输出数据均为浮点型数据。计算机设备从每个网络层的输入数据中确定最大值和最小值;根据该最大值和最小值,确定量化参数;根据该量化参数,将第一图像识别模型中的每个网络层的输入数据、权重数据和输出数据等浮点型数据量化为定点型数据,得到第二图像识别模型。上述技术中,通过同一个量化参数,对每个网络层的浮点型数据进行量化。然而该量化参数不一定与每个网络层均匹配;因此,通过该量化参数,对每个网络层的浮点型数据进行量化时,得到的定点型数据的精度值低,导致量化得到的第二图像识别模型的精度值低。
技术实现思路
本申请实施例提供了一种图像识别模型的量化方法、装置、计算机设备及存储介质,可以提高量化得到的第二图像识别模型的精度值。所述技术方案如下:一方面,提供了一种图像识别模型的量化方法,所述方法包括:确定用于模型量化的第一图像集合,以及确定用于验证模型精度的第二图像集合; ...
【技术保护点】
1.一种图像识别模型的量化方法,其特征在于,所述方法包括:/n确定用于模型量化的第一图像集合,以及确定用于验证模型精度的第二图像集合;/n根据所述第一图像集合,确定待量化的第一图像识别模型的第一量化参数;/n对于所述第一图像识别模型中的目标网络层,根据所述第二图像集合和所述第一量化参数,对所述第一图像识别模型进行精度测试,得到与所述目标网络层匹配的第二量化参数;/n根据所述第二量化参数,对所述第一图像识别模型中的目标网络层进行量化,得到第二图像识别模型。/n
【技术特征摘要】
1.一种图像识别模型的量化方法,其特征在于,所述方法包括:
确定用于模型量化的第一图像集合,以及确定用于验证模型精度的第二图像集合;
根据所述第一图像集合,确定待量化的第一图像识别模型的第一量化参数;
对于所述第一图像识别模型中的目标网络层,根据所述第二图像集合和所述第一量化参数,对所述第一图像识别模型进行精度测试,得到与所述目标网络层匹配的第二量化参数;
根据所述第二量化参数,对所述第一图像识别模型中的目标网络层进行量化,得到第二图像识别模型。
2.根据权利要求1所述的方法,其特征在于,所述根据所述第二图像集合和所述第一量化参数,对所述第一图像识别模型进行精度测试,得到与所述目标网络层匹配的第二量化参数,包括:
调整所述第一量化参数;
根据调整后的第一量化参数对所述第一图像识别模型中的目标网络层进行量化,得到第三图像识别模型;
根据所述第二图像集合对所述第三图像识别模型进行精度测试,得到与所述目标网络层匹配的第二量化参数。
3.根据权利要求2所述的方法,其特征在于,所述根据所述第二图像集合对所述第三图像识别模型进行精度测试,得到与所述目标网络层匹配的第二量化参数,包括:
根据所述第二图像集合,对所述第三图像识别模型进行精度测试,得到所述第三图像识别模型的第一精度值;
响应于所述第一精度值满足第一预设条件,将所述调整后的第一量化参数作为与所述目标网络层匹配的第二量化参数。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
响应于所述第一精度值不满足所述预设条件,执行所述调整所述第一量化参数的步骤,直到所述第一精度值满足所述预设条件或者所述第一量化参数的调整次数达到预设次数,将所述调整后的第一量化参数作为与所述目标网络层匹配的第二量化参数。
5.根据权利要求1所述的方法,其特征在于,所述确定用于模型量化的第一图像集合,包括:
确定第三图像集合;
确定所述第三图像集合中的每个图像的图像类别,得到多个第一图像类别;
对于每个第一图像类别,从所述第三图像集合中选择图像类别为所述第一图像类别的至少一个图像,得到所述第一图像集合。
6.根据权利要求1所述的方法,其特征在于,所述确定用于验证模型精度的第二图像集合,包括:
确定第四图像集合;
确定所述第四图像集合中的每个图像的图像类别,得到多个第二图像类别;
对于每个第二图像类别,从所述第四图像集合中选择图像类别为所述第二图像类别的至少一个图像,得到所述第二图像集合。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
对于所述第一图像识别模型中的每个第一网络层,根据所述第一量化参数,对所述第一图像识别模型中的所述第一网络层进行量化,得到第四图像识别模型;
根据所述第二图像集合,对所述第四图像识别模型进行精度测试,得到所述第四图像识别模型的第二精度值;
响应于所述第二精度值满足第二预设条件,确定所述第一网络层为目标网络层。
8.根据权利要求1所述的方法,其特征在于,所述方法还包括:
确定第五图像识别模型,所述第五图像识别模型中包括全连接层、多个卷积层和多个图像处理层;
根据所述多个卷积层和所述多个图像处理层,生成多个第一网络层;
将所述全连接层和所述第一网络层组成所述第一图像识别模型。
9.根据权利要求8所述的方法,其特征在于,所述根据所述多个卷积层和所述多个图像处理层,生成多个第一网络层,包括:
对于每个卷积层,响应于所述卷积层连接有图像处理层,将所述卷积层和所述图像处理层进行合并,得到第一网络层;
响应于所述卷积层没有连接图像处理层,将所述卷积层作为第一网络层。
10.一种图像识别模型的量化装置,其特征在于,所述装置包括:
第一确定模块,用于确定用于模型量化的第一图像集合,以及确定用于验证模型精度的第二图像集合;
第二确定...
【专利技术属性】
技术研发人员:刘君,
申请(专利权)人:OPPO广东移动通信有限公司,
类型:发明
国别省市:广东;44
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。