数据处理方法、装置、设备及介质制造方法及图纸

本发明专利技术涉及一种数据处理方法、装置、设备及介质。本发明专利技术通过基于图像数据集中各个图像对应的图像矩阵，确定不同备选移位位数下各个图像矩阵对应的残差数据的统计数据，从而将统计数据满足设定条件时所对应的备选移位位数，确定为在进行数据定点化时所使用的目标移位位数。通过上述过程，可以基于不同备选移位位数下多个图像矩阵对应的残差数据的统计数据实现目标移位位数的确定，使得目标移位位数下多个图像矩阵对应的残差数据满足设定条件，以减小基于目标移位位数进行数据定点化处理时的误差，从而可以提高残影消除的效果。从而可以提高残影消除的效果。从而可以提高残影消除的效果。

【技术实现步骤摘要】
数据处理方法、装置、设备及介质


[0001]本专利技术涉及数据处理
，尤其涉及一种数据处理方法、装置、设备及介质。

技术介绍

[0002]微型发光二极管(Mini Light Emitting Diode，Mini LED)直显屏作为一种可以有效提升像素密度和显示效果的新型显示技术，在市场上的需求越来越大。但是，Mini LED直显屏长时间点亮同一图案会出现“残影”现象，为了消除“残影”，需要预先定制残影消除算法，以便通过现场可编程门阵列(Field－Programmable Gate Array，FPGA)芯片执行定制好的残影消除算法，以实现对 Mini LED直显屏所显示的残影的消除。
[0003]然而，FPGA芯片由于硬件本身的一些技术限制，无法进行浮点数运算，而残影消除算法中一般都会涉及到浮点数运算，因此，在通过FPGA芯片执行残影消除算法时，需要将算法执行过程中涉及到的浮点数转换为定点数，以便可以通过FPGA芯片实现残影消除算法的执行。
[0004]相关技术中，在将浮点数转换为定点数时，主流方法是采用移位的方式将浮点数扩展为更大的浮点数，然后对扩展之后的浮点数进行四舍五入或者截断，以实现浮点数到定点数的转换。
[0005]在上述实现过程中，由于在将浮点数转换为定点数的过程中进行了四舍五入或者截断，从而会导致定点化之后的计算结果与浮点数算法计算结果之间存在误差，而误差的大小会最终会影响残影消除的效果。因此，亟需一种数据处理方法，用于确定数据定点化过程中所使用的移位位数，以降低定点化过程中所形成的误差，进而提高残影消除效果。

技术实现思路

[0006]本专利技术提供一种数据处理方法、装置、设备及介质，以解决相关技术中的不足。
[0007]根据本专利技术实施例的第一方面，提供一种数据处理方法，该方法包括：
[0008]基于图像数据集中各个图像对应的图像矩阵，确定不同备选移位位数下各个图像矩阵对应的残差数据的统计数据，移位位数为量化比特数，残差数据基于对图像矩阵进行移位处理所得到的第一矩阵以及对第一矩阵进行截位处理所得到的第二矩阵确定；
[0009]将统计数据满足设定条件时所对应的备选移位位数，确定为在进行数据定点化时所使用的目标移位位数。
[0010]在一些实施例中，基于图像数据集中各个图像对应的图像矩阵，确定不同备选移位位数下各个图像矩阵对应的残差数据的统计数据，包括：
[0011]对于任一备选移位位数，将图像数据集中各个图像对应的图像矩阵分别代入第一关系数据，得到每个图像矩阵对应的残差数据，第一关系数据用于指示对图像矩阵进行移位处理所得到的第一矩阵以及对第一矩阵进行截位处理所得到的第二矩阵之间的差值；
[0012]基于多个图像矩阵分别对应的残差数据，确定多个残差数据的平均值和方差；
[0013]确定多个残差数据的平均值和方差之和，作为多个图像矩阵对应的残差数据的统
计数据。
[0014]在一些实施例中，该方法还包括：
[0015]对于任一图像，将图像对应的图像矩阵中的每个元素扩大目标倍数，以实现对图像矩阵的移位处理，得到图像矩阵对应的第一矩阵，目标倍数为2 的指数次幂，幂次为备选移位位数；
[0016]丢弃移位处理所得到的第一矩阵中每个元素的小数部分，以实现对第一矩阵的截位处理，得到图像矩阵对应的第二矩阵。
[0017]在一些实施例中，设定条件为在满足第一截位数据与第二截位数据相等且第一截位数据与第二截位数据均大于备选移位位数的图像矩阵的数量大于设定数量阈值的情况下，目标移位位数对应统计数据的取值最小；
[0018]其中，第一截位数据为对图像矩阵与预先设定的最大允许移位位数的乘积进行截位处理所得到的结果，第二截位数据为对图像矩阵经过移位处理后所得到的矩阵与预先设定的最大允许移位位数的乘积进行截位处理所得到的结果。
[0019]在一些实施例中，备选移位位数位于预先设定的最小允许移位位数和最大允许移位位数之间；
[0020]该方法包括：
[0021]从最小允许移位位数开始进行遍历，在当前遍历到的备选移位位数满足第一截位数据与第二截位数据相等且第一截位数据与第二截位数据均大于备选移位位数的图像矩阵的数量大于设定数量阈值的条件时，记录当前遍历到的备选移位位数下统计数据的取值；
[0022]在最大允许移位位数遍历完成的情况下，将所记录的统计数据中取值最小的统计数据对应的备选移位位数确定为目标移位位数。
[0023]在一些实施例中，对于图像数据集中的任一图像，图像对应的图像矩阵包括用于表示图像的第一图像矩阵和/或基于第一图像矩阵进行处理得到的第二图像矩阵。
[0024]在一些实施例中，该方法还包括：
[0025]对于图像数据集中的图像对应的图像处理过程所涉及的标量数据，基于标量数据的数据位数和预先设定的定点化位数，确定最大允许移位位数，其中，不超过最大允许移位位数的移位位数取值作为备选移位位数；
[0026]确定基于每个备选移位位数对标量数据进行定点化处理所得到的定点化数值，得到多个定点化数值；
[0027]将多个定点化数值中小数部分取值最小的定点化数值所对应的备选移位位数，确定为目标移位位数。
[0028]根据本专利技术实施例的第二方面，提供一种数据处理装置，该装置包括：
[0029]第一确定模块，用于基于图像数据集中各个图像对应的图像矩阵，确定不同备选移位位数下各个图像矩阵对应的残差数据的统计数据，移位位数为量化比特数，残差数据基于对图像矩阵进行移位处理所得到的第一矩阵以及对第一矩阵进行截位处理所得到的第二矩阵确定；
[0030]第二确定模块，用于将述统计数据满足设定条件时所对应的备选移位位数，确定为在进行数据定点化时所使用的目标移位位数。
[0031]在一些实施例中，第一确定模块，在用于基于图像数据集中各个图像对应的图像矩阵，确定不同备选移位位数下各个图像矩阵对应的残差数据的统计数据时，用于：
[0032]对于任一备选移位位数，将图像数据集中各个图像对应的图像矩阵分别代入第一关系数据，得到每个图像矩阵对应的残差数据，第一关系数据用于指示对图像矩阵进行移位处理所得到的第一矩阵以及对第一矩阵进行截位处理所得到的第二矩阵之间的差值；
[0033]基于多个图像矩阵分别对应的残差数据，确定多个残差数据的平均值和方差；
[0034]确定多个残差数据的平均值和方差之和，作为多个图像矩阵对应的残差数据的统计数据。
[0035]在一些实施例中，该装置还包括：
[0036]移位处理模块，用于对于任一图像，将图像对应的图像矩阵中的每个元素扩大目标倍数，以实现对图像矩阵的移位处理，得到图像矩阵对应的第一矩阵，目标倍数为2的指数次幂，幂次为备选移位位数；
[0037]截位处理模块，用于丢弃移位处理所得到的第一矩阵中每个元素的小数部分，以实现对第一矩阵的截位处理，得到图像矩阵对应的第二矩阵。<本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种数据处理方法，其特征在于，所述方法包括：基于图像数据集中各个图像对应的图像矩阵，确定不同备选移位位数下各个图像矩阵对应的残差数据的统计数据，所述移位位数为量化比特数，所述残差数据基于对图像矩阵进行移位处理所得到的第一矩阵以及对第一矩阵进行截位处理所得到的第二矩阵确定；将所述统计数据满足设定条件时所对应的备选移位位数，确定为在进行数据定点化时所使用的目标移位位数。2.根据权利要求1所述的方法，其特征在于，所述基于图像数据集中各个图像对应的图像矩阵，确定不同备选移位位数下各个图像矩阵对应的残差数据的统计数据，包括：对于任一备选移位位数，将所述图像数据集中各个图像对应的图像矩阵分别代入第一关系数据，得到每个图像矩阵对应的残差数据，所述第一关系数据用于指示对图像矩阵进行移位处理所得到的第一矩阵以及对第一矩阵进行截位处理所得到的第二矩阵之间的差值；基于多个图像矩阵分别对应的残差数据，确定多个残差数据的平均值和方差；确定所述多个残差数据的平均值和方差之和，作为所述多个图像矩阵对应的残差数据的统计数据。3.根据权利要求2所述的方法，其特征在于，所述方法还包括：对于任一图像，将所述图像对应的图像矩阵中的每个元素扩大目标倍数，以实现对所述图像矩阵的移位处理，得到所述图像矩阵对应的第一矩阵，所述目标倍数为2的指数次幂，幂次为所述备选移位位数；丢弃移位处理所得到的第一矩阵中每个元素的小数部分，以实现对第一矩阵的截位处理，得到所述图像矩阵对应的第二矩阵。4.根据权利要求1所述的方法，其特征在于，所述设定条件为在满足第一截位数据与第二截位数据相等且所述第一截位数据与所述第二截位数据均大于备选移位位数的图像矩阵的数量大于设定数量阈值的情况下，所述目标移位位数对应统计数据的取值最小；其中，所述第一截位数据为对所述图像矩阵与预先设定的最大允许移位位数的乘积进行截位处理所得到的结果，所述第二截位数据为对所述图像矩阵经过移位处理后所得到的矩阵与预先设定的最大允许移位位数的乘积进行截位处理所得到的结果。5.根据权利要求4所述的方法，其特征在于，所述备选移位位数位于预先设定的最小允许移位位数和最大允许移位位数之...

【专利技术属性】
技术研发人员：侯峰，张书国，
申请(专利权)人：京东方科技集团股份有限公司，
类型：发明
国别省市：