【技术实现步骤摘要】
一种数据处理方法、装置、设备及介质
[0001]本专利技术涉及计算机
,尤其涉及一种数据处理方法、装置、设备及介质。
技术介绍
[0002]随着计算机
的发展,图像处理模型得到了广泛的应用,比如,通过图像处理模型进行目标检测、通过图像处理模型进行目标识别等。为了提高图像处理模型的识别精度,一般会将图像处理模型的模型结构向更深的网络层次发展。对于该种方法,虽然可以提高图像处理模型的识别精度,但对于一些采用图像处理模型进行图像处理的技术,增加网络层次的方法也带来了许多的弊端。
[0003]通过图像处理模型进行图像处理时,在该图像处理模型中的每个网络层,可能会产生多张特征图,而特征图又是图像处理模型在图像处理过程中访问量最大的数据,需要图像处理模型专门设置一部分存储空间,以方便将每张特征图中的每个特征值进行保存。
技术实现思路
[0004]本专利技术实施例提供了一种数据处理方法、装置、设备及介质,用以提供一种特征图的保存方法。
[0005]本专利技术实施例提供了一种数据处理方法,所述方法包括:
[0006]获取待压缩特征图包含的像素点;其中,所述待压缩特征图为图像处理模型中的目标网络层输出的;
[0007]根据所述像素点的特征值以及保存的特征值区间,确定所述特征值所在的目标特征值区间;
[0008]根据所述像素点的特征值以及所述目标特征值区间对应的标识值,确定所述像素点对应的残差数据;
[0009]确定所述特征值的正负对应的目标符号值;
[ ...
【技术保护点】
【技术特征摘要】
1.一种数据处理方法,其特征在于,所述方法包括:获取待压缩特征图包含的像素点;其中,所述待压缩特征图为图像处理模型中的目标网络层输出的;根据所述像素点的特征值以及保存的特征值区间,确定所述特征值所在的目标特征值区间;根据所述像素点的特征值以及所述目标特征值区间对应的标识值,确定所述像素点对应的残差数据;确定所述特征值的正负对应的目标符号值;根据所述目标符号值、所述标识值以及所述残差数据,确定所述像素点对应的编码数据并保存。2.根据权利要求1所述的方法,其特征在于,所述根据所述像素点的特征值以及保存的特征值区间,确定所述特征值所在的目标特征值区间之前,所述方法还包括:若确定所述像素点的特征值不为0,则执行所述根据所述像素点的特征值以及保存的特征值区间,确定所述特征值所在的目标特征值区间的步骤。3.根据权利要求1所述的方法,其特征在于,所述根据所述目标符号值、所述标识值以及所述残差数据,确定所述像素点对应的编码数据,包括:根据所述像素点的特征值的每个比特位以及所述每个比特位上的数据,确定所述特征值对应的前缀个数;其中,所述前缀个数为所述特征值的每个比特位中,非0数据所在的最高比特位之前的比特位的个数;确定包含所述标识值以及所述前缀个数的哈夫曼符号序列;根据预先配置的数值与码流数据的对应关系,确定所述哈夫曼符号序列包含的每个数据位上的数值分别对应的目标码流数据;根据所述目标符号值、每个所述目标码流数据以及所述残差数据,确定所述像素点对应的编码数据。4.根据权利要求3所述的方法,其特征在于,所述确定包含所述目标符号值以及所述前缀个数的哈夫曼符号序列,包括:若确定所述像素点为所述待压缩特征图包含的最后一个像素点,则确定包含所述标识值、预设的结束标识值以及所述前缀个数的哈夫曼符号序列。5.根据权利要求1所述的方法,其特征在于,获取待压缩特征图,包括:根据所述图像处理模型中的目标网络层输出的每张特征图以及预设的第一数值,确定所述目标网络层对应的目标分组以及每个所述目标分组分别对应的所述第一数值的特征图;将每个目标分组中每张特征图确定为待压缩特征图。6.根据权利要求1或5所述的方法,其特征在于,所述获取待压缩特征图包含的像素点,包括:按照预设的分块大小,对所述待压缩特征图进行分块,确定每个特征图块;分别从所述每个特征图块中获取所述待压缩特征图包含的像素点。7.根据权利要求1所述的方法,其特征在于,所述特征值区间通过如下方式确定:以预先配置的所述目标网络层对应的第二数值为底,当前确定的特征值区间对应的标
识值为指数所确定的第一指数结果,确定当前确定的特征值区间对应的上限阈值;以预先配置的所述目标网络层对应的第二数值为底,确定的上一特征值区间对应的标识值为指数所确定的第二指数结果,确定当前确定的特征值区间对应的下限阈值;其中,每个特征值区间的标识值是按照预先配置的每个特征值区间的确定顺序依次递增的。8.根据权利要求7所述的方法,其特征在于,所述根据所述像素点的特征值以及所述目标特征值区间对应的标识值,确定所述像素点对应的残差数据,包括:以所述第二数值为底,所述目标特征值区间对应的标识值为指数,确定第三指数结果;将所述特征值的绝对值与所述第三指数结果的差值确定为所述像素点对应的残差数据。9.一种数据处理装置,其特征在于,所述装置包括:获取单元,用于获取待压缩特征图包含的像素点;其中,所述待压缩特征图...
【专利技术属性】
技术研发人员:聂玉庆,
申请(专利权)人:珠海零边界集成电路有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。