数据处理方法、介质及电子设备技术

技术编号:37961761 阅读:19 留言:0更新日期:2023-06-30 09:36
本申请涉及人工智能技术领域,特别涉及一种数据处理方法、介质及电子设备。该方法包括:获取神经网络模型在运行的过程中,求积算子中的乘法关系系数的第一浮点缩放系数、第二浮点缩放系数、以及连乘元素数量;分别对第一浮点缩放系数的倒数和第二浮点缩放系数进行量化,得到第一定点缩放系数的第一缩放参数和第二定点缩放系数的第二缩放参数;基于第一定点缩放系数的第一缩放参数、第二定点缩放系数的第二缩放参数、以及连乘元素数量,得到乘法关系系数的定点乘法关系系数;基于定点乘法关系系数,对求积算子进行计算。基于此,避免在浮点域中,将乘法关系系数定点化后得到的定点乘法关系系数的误差较大,而导致神经网络模型运行准确度下降的问题。确度下降的问题。确度下降的问题。

【技术实现步骤摘要】
数据处理方法、介质及电子设备


[0001]本申请涉及人工智能
,特别是涉及一种数据处理方法、介质及电子设备。

技术介绍

[0002]人工智能技术(artificial intelligence,AI)领域在人们生产生活中应用越来越广泛。可以理解的,可以通过神经网络模型对文字、视频、音频、图像等数据进行处理,从而获得所需要的结果。例如,用户在手机时,手机内置的人脸识别模型可以对拍摄到的人脸图像进行处理,从而识别出人的身份;又例如,手机内置的文本识别模型可以对网页上的某段话进行处理,从而得到文字的出处;还例如,手机内置的音频匹配模型可以对音频进行处理,识别出声音/歌曲等等。
[0003]由于神经网络是资源密集型算法,其计算成本、内存占用量大,所以需要将神经网络模型量化,使得电子设备使用内置的量化的神经网络模型进行数据处理时,将高精度浮点运算转化为定点运算,以实现降低电子设备的内存占用。
[0004]求积(Prod)算子是一种可以运用在神经网络模型对数据处理时,将输入的特征数据按照指定维度进行乘积处理的算子。可以理解的,当神经网本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法,应用于电子设备,其特征在于,所述电子设备上运行有神经网络模型,所述方法包括:获取所述神经网络模型在运行的过程中,求积算子中的乘法关系系数的第一浮点缩放系数、第二浮点缩放系数、以及连乘元素数量,其中所述第一浮点缩放系数为量化所述连乘元素的缩放因子,所述第二浮点缩放系数为量化所述求积算子中的连乘结果的缩放因子;分别对所述第一浮点缩放系数的倒数和第二浮点缩放系数进行量化,得到第一定点缩放系数的第一缩放参数和第二定点缩放系数的第二缩放参数;基于所述第一定点缩放系数的第一缩放参数、所述第二定点缩放系数的第二缩放参数、以及所述连乘元素数量,得到所述乘法关系系数的定点乘法关系系数;基于所述定点乘法关系系数,对所述求积算子进行计算。2.根据权利要求1所述的方法,其特征在于,所述求积算子的乘法关系系数包括以下公式:其中,L为所述乘法关系系数,Sx为所述第一浮点缩放系数,Sy为所述第二浮点缩放系数,n为所述连乘元素数量。3.根据权利要求2所述的方法,其特征在于,所述分别对所述第一浮点缩放系数的倒数和第二浮点缩放系数进行量化,得到第一定点缩放系数的第一缩放参数和第二定点缩放系数的第二缩放参数,包括:通过以下公式对所述第一浮点缩放系数的倒数进行量化,得到第一定点缩放系数的第一缩放参数:其中,为第一定点缩放系数;M0为第一参数,N0为第一移位位数,其中所述第一缩放参数包括M0和N0。4.根据权利要求3所述的方法,其特征在于,所述分别对所述第一浮点缩放系数的倒数和第二浮点缩放系数进行量化,得到第一定点缩放系数的第一缩放参数和第二定点缩放系数的第二缩放参数,包括:通过以下公式对所述第二浮点缩放系数进行量化,得到第二定点缩放系数的第二缩放参数:其中,为第二定点缩放系数;M1为第二参数,N1为第二移位位数,其中所述第二缩放参数包括M1和N1。5.根据权利要求4所述的方法,其特征在于,所述基于所述第一定点缩放系数的第一缩放参数、所述第二定点缩放系数的第二缩放参数、以及所述连乘元素数量,得到所述乘法关系系数的定点乘法关系系数,包括:
通过以下公式计算所述乘法关系系数Q
L
:其中,M
C
为乘法定点参数,并且M
C
=(M0)
n
*M1;T为乘法关系移位位数,并且T=n*N0+N1,其中,n为所述连乘元素数量,(M0)
n
为第三参数;n*N0为第三移位位数;(M0)
n
*M1为第四参数;n*N0+N1为第四移位位数。6.根据权利要求4所述的方法,其特征在于,所述基于所述第一定点缩放系数的第一缩放参数、所述第二定点缩放系数的第二缩放参数、以及所述连乘元素数量,得到所述乘法关系系数的定点乘法关系系数,包括:通过以下公式计算所述乘法关系系数Q
L
:其中,M
C
为乘法定点参数,并且M
C
=M...

【专利技术属性】
技术研发人员:周生伟余宗桥
申请(专利权)人:安谋科技中国有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1