量化卷积方法、装置及设备制造方法及图纸

技术编号:40516986 阅读:32 留言:0更新日期:2024-03-01 13:34
本申请涉及神经网络技术领域,具体地涉及一种量化卷积方法、装置及设备。一种量化卷积方法,包括:根据输入数据、输入权重、第一零点偏差、第二零点偏差确定第一结果,其中所述输入权重为所述输入数据对应的权重,所述第一零点偏差为所述输入数据的零点偏差,所述第二零点偏差为所述输入权重的零点偏差;根据预设的缩放规则将所述第一结果缩放为目标位宽的第二结果;根据所述第二结果和所述第三零点偏差确定所述量化卷积结果,所述第三零点偏差为所述第二结果的零点偏差。

【技术实现步骤摘要】

本申请涉及神经网络,具体地涉及一种量化卷积方法、装置及设备


技术介绍

1、卷积广泛应用于神经网络中,但是常规的神经网络处理器为了支持卷积花费了高昂的计算成本。所以,需要通过量化来减轻神经网络的处理压力。量化是一种用于减小神经网络模型大小和加速推理速度的方法,其目的是将计算模型中的参数或权重变为低位宽表示,从而减少存储空间和计算复杂度。但是,现有的卷积量化计算过程仍较为繁琐,同样会对神经网络造成不小的处理压力。


技术实现思路

1、本专利技术实施例提供了一种量化卷积方法、装置及设备,用以解决现有技术中量化卷积方法较为繁琐,导致神经网络处理压力较大的问题。

2、第一方面,本专利技术实施例提供了一种量化卷积方法,包括:

3、根据输入数据、输入权重、第一零点偏差、第二零点偏差确定第一结果,其中所述输入权重为所述输入数据对应的权重,所述第一零点偏差为所述输入数据的零点偏差,所述第二零点偏差为所述输入权重的零点偏差;

4、根据预设的缩放规则将所述第一结果缩放为目标位宽的第二结果;...

【技术保护点】

1.一种量化卷积方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述根据输入数据、输入权重、第一零点偏差、第二零点偏差确定第一结果,包括:

3.根据权利要求2所述的方法,其特征在于,所述根据所述输入数据和所述输入权重的位宽确定目标乘法器,包括:

4.根据权利要求2所述的方法,其特征在于,所述通过目标加法器对所述若干次数据乘法的结果执行逐级两两累加,得到所述第一结果,包括:

5.根据权利要求1所述的方法,其特征在于,所述根据预设的缩放规则将所述第一结果缩放为目标位宽的第二结果,包括:

6.根据权利要求5所述的方...

【技术特征摘要】

1.一种量化卷积方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述根据输入数据、输入权重、第一零点偏差、第二零点偏差确定第一结果,包括:

3.根据权利要求2所述的方法,其特征在于,所述根据所述输入数据和所述输入权重的位宽确定目标乘法器,包括:

4.根据权利要求2所述的方法,其特征在于,所述通过目标加法器对所述若干次数据乘法的结果执行逐级两两累加,得到所述第一结果,包括:

5.根据权利要求1所述的方法,其特征在于,所述根据预设的缩放规则将所述第一结果缩放为目标位宽的第二结果,包括:

6.根据权利要求5所述的方法,其特征在于,所述基于预设的缩放规则,根据所述第二输入项与所述第二缩放因子确定所述第二结果,包括:

7.根据权利要求6所述的方法,其特征在于,所述根据所述第二输入项与0之间的大小关系,以及所述判别位,在所述第二输入项中截取对...

【专利技术属性】
技术研发人员:赵海丞赵亚娟
申请(专利权)人:展讯通信上海有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1