基于深度学习模型的量化方法及相关产品技术

本申请实施例提供一种基于深度学习模型的量化方法及相关产品，该基于深度学习模型的量化方法包括：确定深度学习模型中的M个权重层，M为大于或等于2的整数；基于M个权重层分别构建子模型，得到M个子模型，M个子模型中任意两个子模型的量化结果相互独立；确定针对第一子模型的初始模型量化参数，对初始模型量化参数进行调整，得到调整后的模型量化参数，第一子模型是M个子模型中的任一个；基于调整后的模型量化参数对第一子模型进行量化。本申请实施例可以降低深度学习模型的量化所需的时长。

【技术实现步骤摘要】

本申请涉及深度学习，具体涉及一种基于深度学习模型的量化方法及相关产品。

技术介绍

1、目前，针对深度学习模型的量化一般采用全局量化。全局量化时，由于模型的前面的层的量化结果的误差会累积并影响到后面的层，模型的量化的顺序必须按照模型中所有需要量化的层在模型图中的拓扑顺序来做，导致模型的量化需要较长的时间。

技术实现思路

1、本申请实施例提供一种基于深度学习模型的量化方法及相关产品，可以降低深度学习模型的量化所需的时长。

2、本申请实施例的第一方面提供了一种基于深度学习模型的量化方法，包括：

3、确定所述深度学习模型中的m个权重层，m为大于或等于2的整数；

4、基于所述m个权重层分别构建子模型，得到m个子模型，所述m个子模型中任意两个子模型的量化结果相互独立；

5、确定针对第一子模型的初始模型量化参数，对所述初始模型量化参数进行调整，得到调整后的模型量化参数，所述第一子模型是所述m个子模型中的任一个；

6、基于所述调整后的模型量化参数对所述第一子模型进行本文档来自技高网...

【技术保护点】

1.一种基于深度学习模型的量化方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，所述确定针对第一子模型的初始模型量化参数，包括：

3.根据权利要求2所述的方法，其特征在于，所述第一子模型的初始模型量化参数包括：初始输入量化参数和初始权重量化参数；所述对所述初始模型量化参数进行调整，得到调整后的模型量化参数，包括：

4.根据权利要求2所述的方法，其特征在于，所述第一子模型的初始模型量化参数包括：初始输入量化参数和初始权重量化参数；所述对所述初始模型量化参数进行调整，得到调整后的模型量化参数，包括：

5.根据权利要求3或4所述...

【技术特征摘要】

1.一种基于深度学习模型的量化方法，其特征在于，包括：

2.根据权利要求1所述的方法，其特征在于，所述确定针对第一子模型的初始模型量化参数，包括：

3.根据权利要求2所述的方法，其特征在于，所述第一子模型的初始模型量化参数包括：初始输入量化参数和初始权重量化参数；所述对所述初始模型量化参数进行调整，得到调整后的模型量化参数，包括：

4.根据权利要求2所述的方法，其特征在于，所述第一子模型的初始模型量化参数包括：初始输入量化参数和初始权重量化参数；所述对所述初始模型量化参数进行调整，得到调整后的模型量化参数，包括：

5.根据权利要求3或4所述的方法，其特征在于，所述固定所述初始输入量化参数，在第一预设范围内搜索目标权重量化参数，包括...

【专利技术属性】
技术研发人员：董旭炯，
申请(专利权)人：哲库科技上海有限公司，
类型：发明
国别省市：