一种压缩编码量化方法技术

本发明专利技术涉及一种压缩编码量化方法，包括以下步骤：(a)设置量化宏块；(b)获取所述宏块中各像素的预测残差和第一量化参数；(c)根据所述预测残差和所述第一量化参数分别计算SAD1和SAD2；(d)比较所述SAD1对应的第一量化方法和所述SAD2的大小，若所述SAD1≤SAD2，则根据所述SAD1完成所述编码压缩量化，反之则根据所述SAD2对应的第二量化方法完成所述编码压缩量化。本发明专利技术实施例，在两种量化方法中选择最合适的量化方法，减少带宽压缩量化过程中的图像损失，减少传输数据量。

A Compressed Coding Quantization Method

The present invention relates to a compression coding quantization method, which includes the following steps: (a) setting up a quantization macroblock; (b) obtaining the prediction residuals and the first quantization parameters of each pixel in the macroblock; (c) calculating SAD1 and SAD2 respectively according to the prediction residuals and the first quantization parameters; (d) comparing the first quantization method corresponding to the SAD1 and the size of the SAD2, if the SAD1 is less than SAD2, according to The SAD1 completes the encoding compression quantization, whereas the encoding compression quantization is completed according to the second quantization method corresponding to the SAD2. The embodiment of the present invention chooses the most suitable quantization method in the two quantization methods to reduce the image loss in the bandwidth compression quantization process and the amount of data transmitted.

【技术实现步骤摘要】
一种压缩编码量化方法
本专利技术属于压缩编码领域，具体涉及一种压缩编码量化方法。
技术介绍
带宽压缩属于低复杂度低倍率压缩，因此空域量化在其中较为常用。为了节省传输量化参数的bit，往往对于1个MB中所有像素采用相同量化参数。这样存在以下缺点：1.对跨纹理边界的MB，由于人眼主观特性，对不同纹理采用相同QP，不但会造成主观损失，而且不能节约编码比特数；2.MB中，预测残差大小不一，对所有像素点采用相同QP，会扩大的原始像素和重建像素之间的差异损失。若采用像素级量化，虽然可以避免以上问题，但是由于每个像素都要传输一个量化参数，会导致大量的附加bit，起不到压缩的效果。若对预测残差直接量化，则对量化产生的损失，没有根据损失的位置和损失的大小分布，进行进一步处理，最终不能进一步降低量化损失。
技术实现思路
为了解决现有技术中存在的上述问题，本专利技术提供了一种压缩编码量化方法。本专利技术要解决的技术问题通过以下技术方案实现：本专利技术实施例提供了一种带宽压缩量化方法，包括以下步骤：(a)设置量化宏块；(b)获取所述宏块中各像素的预测残差和第一量化参数；(c)根据所述预测残差和所述第一量化参数分别计算SAD1和SAD2；(d)比较所述SAD1和所述SAD2的大小，若所述SAD1≤SAD2，则根据所述SAD1对应的第一量化方法完成所述编码压缩量化，反之则根据所述SAD2对应的第二量化方法完成所述编码压缩量化。在本专利技术的一个实施例中，步骤(c)包括：(c1)采用所述第一量化方法，根据所述预测残差和所述第一量化参数计算所述SAD1；(c2)采用所述第二量化方法，根据所述预测残差和所述第一量化参数计算所述SAD2。在本专利技术的一个实施例中，步骤(c1)包括：(c11)根据所述预测残差和所述第一量化参数获得第一量化残差；(c12)根据所述第一量化残差和所述第一量化参数获得第一反量化残差；(c13)根据所述第一反量化残差和所述预测残差获得残差损失；(c14)根据所述残差损失获取所述预设模板；(c15)根据所述预设模板以及所述残差损失获得补偿模板、第二反量化残差以及所述SAD1。在本专利技术的一个实施例中，所述预设模板由波动系数和波动状态确定。在本专利技术的一个实施例中，步骤(c15)包括：(x1)根据所述预设模板以及所述残差损失获得所述补偿模板；(x2)根据所述补偿模板、所述第一量化参数、所述第一量化残差获得所述第二反量化残差；(x3)根据所述第二反量化残差和所述预测残差计算所述SAD1。在本专利技术的一个实施例中，设置十六组所述预设模板计算所述补偿模板。在本专利技术的一个实施例中，步骤(c2)包括：(c21)根据所述预测残差获得残差分布类型；(c22)根据所述第一量化参数确定所述第一量化参数的最大值、最小值以及差异值；(c23)根据所述残差分布类型、所述最大值、所述最小值以及所述差异值构建量化矩阵并计算所述宏块的各像素的第二量化参数；(c24)根据所述量化矩阵对所述预测残差进行量化，得到所述宏块中各像素的第二量化残差和第三反量化残差；(c25)根据所述第三反量化残差以及所述预测残差计算SAD2。在本专利技术的一个实施例中，步骤(c21)包括：(y1)根据所述预测残差获得残差分布系数；(y2)根据所述残差分布系数获得所述残差分布类型。在本专利技术的一个实施例中，所述残差分布类型包括：递弱型、递强型、强弱强型、弱弱弱型、波浪1型、波浪2型以及普通型。与现有技术相比，本专利技术的有益效果：1.本专利技术通过对两种不同的量化方法进行比较，选择合适的量化模式，压缩编码量化带来的损失。2.本专利技术通过将选择的量化模式以及对应的附加标志位固定存储在压缩端和解码端，写入码流时，只需要将量化模式以及对应的附加标志位写入码流，这样可以方便传递，减少传输比特数。附图说明图1为本专利技术实施例提供的一种压缩编码量化方法的流程示意图。具体实施方式下面结合具体实施例对本专利技术做进一步详细的描述，但本专利技术的实施方式不限于此。实施例一请参见图1，图1为本专利技术实施例提供的一种压缩编码量化方法的流程示意图。一种压缩编码量化方法，包括以下步骤：(a)设置量化宏块；(b)获取所述宏块中各像素的预测残差和第一量化参数；(c)根据所述预测残差和所述第一量化参数分别计算SAD1和SAD2；(d)比较所述SAD1和所述SAD2的大小，若所述SAD1≤SAD2，则根据所述SAD1对应的第一量化方法完成所述编码压缩量化，反之则根据所述SAD2对应的第二量化方法完成所述编码压缩量化。在一个具体实施例中，采用所述第一量化方法计算所述SAD1；采用所述第二量化方法计算所述SAD2，比较所述SAD1和所述SAD2的大小，将最小的值所对应的量化方法作为最终的量化模式完成压缩编码量化。本专利技术实施例，通过两种量化方法分别计算SAD1和SAD2的大小，选择合适的量化模式，提高了压缩编码量化过程中的图像损失、减少了传输数据量。实施例二请再次参见图1。本实施例在上述实施例的基础上，重点对一种压缩编码量化方法进行详细描述。(S100)设置量化宏块。设置量化单元为宏块MB，即一个所述宏块MB采用统一的第一量化参数QP，所述第一量化参数QP由码率控制给出。在一个具体实施例中，取QP为2。设置所述宏块MB的大小为8*1。(S101)获取所述宏块MB中各像素点的预测残差。在一个具体实施例中，所述宏块MB中所有像素点的预测残差Res为{12，13，15，18，20，23，15，10}。(S102)根据所述预测残差和所述第一量化参数获得第一量化残差。所述第一量化残差的计算公式为：Resqp1i＝Resi>>QP式中，Resqp1i为所述第一量化残差；Resi为各像素的所述预测残差，0≤i≤7；QP为所述第一量化参数，>>QP表示除以2QP。计算可得，所述第一量化残差为{3，3，3，4，5，5，3，2}(S103)根据所述第一量化残差和所述第一量化参数获得第一反量化残差。所述第一反量化残差的计算公式为：invResqp1i＝(Resqp1i＜＜QP)+(1＜＜QP)/2式中，invResqp1i为所述第一反量化残差；Resqp1i为所述第一量化残差，0≤i≤7；QP为所述第一量化参数，>>QP表示除以2QP，<<QP表示乘以2QP。计算可得，所述第一反量化残差为{14，14，14，18，22，22，14，10}。(S104)根据所述第一反量化残差和所述预测残差获得残差损失。所述残差损失的计算公式为：Lossresi＝invResqp1i-Resi式中，Lossresi为所述残差损失；invResqp1i为所述第一反量化残差；Resi为各像素的预测残差，0≤i≤7。计算可得，所述残差损失为{2，1，-1，0，2，-1，-1，0}。(S105)根据所述残差损失设置预设模板。为了进一步降低量化引起的差异，通过设置所述预设模板对所述残差损失Lossresi进行处理。所述预设模板由波动系数k和波动状态(c1、c2……cn-1)来确定。在一个具体实施例中，所述波动系数k的公式为：式中，Lossresi为所述残差损失；pixnumnone0为所述宏块MB内非0的预测残差数量；abs表示求绝对值，round表示四舍五入。本文档来自技高网...

【技术保护点】
1.一种压缩编码量化方法，其特征在于，包括以下步骤：(a)设置量化宏块；(b)获取所述宏块中各像素的预测残差和第一量化参数；(c)根据所述预测残差和所述第一量化参数分别计算SAD1和SAD2；(d)比较所述SAD1和所述SAD2的大小，若所述SAD1≤SAD2，则根据所述SAD1对应的第一量化方法完成所述编码压缩量化，反之则根据所述SAD2对应的第二量化方法完成所述编码压缩量化。

【技术特征摘要】
1.一种压缩编码量化方法，其特征在于，包括以下步骤：(a)设置量化宏块；(b)获取所述宏块中各像素的预测残差和第一量化参数；(c)根据所述预测残差和所述第一量化参数分别计算SAD1和SAD2；(d)比较所述SAD1和所述SAD2的大小，若所述SAD1≤SAD2，则根据所述SAD1对应的第一量化方法完成所述编码压缩量化，反之则根据所述SAD2对应的第二量化方法完成所述编码压缩量化。2.根据权利要求1所述的压缩编码量化方法，其特征在于，步骤(c)包括：(c1)采用所述第一量化方法，根据所述预测残差和所述第一量化参数计算所述SAD1；(c2)采用所述第二量化方法，根据所述预测残差和所述第一量化参数计算所述SAD2。3.根据所述权利要求2所述的压缩编码量化方法，其特征在于，步骤(c1)包括：(c11)根据所述预测残差和所述第一量化参数获得第一量化残差；(c12)根据所述第一量化残差和所述第一量化参数获得第一反量化残差；(c13)根据所述第一反量化残差和所述预测残差获得残差损失；(c14)根据所述残差损失获取所述预设模板；(c15)根据所述预设模板以及所述残差损失获得补偿模板、第二反量化残差以及所述SAD1。4.根据所述权利要求3所述的压缩编码量化方法，其特征在于，所述预设模板由波动系数和波动状态确定。5.根据所述权利要求3所述...

【专利技术属性】
技术研发人员：田林海，岳庆冬，李雯，
申请(专利权)人：西安科锐盛创新科技有限公司，
类型：发明
国别省市：陕西,61