一种基于HEVC视频编码的TU树状结构抉择算法制造技术

本发明专利技术公开了一种基于HEVC视频编码的TU树状结构抉择算法，包括以下步骤：（a）对TU的残差进行变换，得到量化前的系数C0；（b）对步骤（a）中得到的C0进行量化，得到系数C1；（c）采用固定的二进制Bin与bits的压缩比，得到比特数估计值；（d）对步骤（b）中得到的C1进行反量化，得到系数C2；（e）计算该TU的失真值；（f）计算该TU残差编码后的率失真代价；（g）计算该TU残差在全部不编码的情况下的率失真代价；（h）将步骤（g）与步骤（f）得到的率失真代价进行比较，数值较小的作为该TU的最优代价。本发明专利技术采用上述算法，能够降低计算的复杂程度，减少硬件开销，提高硬件性能。

A TU tree structure selection algorithm based on HEVC video coding

The invention discloses a TU decision tree structure algorithm based on HEVC video encoding, which comprises the following steps: (a) to transform the TU residuals obtained before quantization coefficient C0; (b) in step (a) were quantified in the C0, get the coefficient of C1; (c) and binary Bin bits fixed compression ratio, get the estimate of the number of bits; (d) to step (b) were obtained by inverse quantization coefficients C1, C2; (E) distortion value calculation for the TU; (f) calculation of the residual TU encoding the rate distortion cost; calculation of the residual TU (g) in all cases the encoding rate distortion cost; (H) the step (g) and step (f) the rate distortion cost comparison, small values of the TU as the optimal price. The method can reduce the complexity of calculation, reduce the hardware cost, and improve the hardware performance.

【技术实现步骤摘要】
一种基于HEVC视频编码的TU树状结构抉择算法
本专利技术涉及视频编码领域，具体涉及一种基于HEVC视频编码的TU树状结构抉择算法。
技术介绍
HEVC视频编码中，TU树状结构是HEVC视频标准新提出的一种提高编码效率的编码工具，TU大小有4x4,8x8,16x16,32x32,对于提高编码效率有很大作用，但其抉择算法要求极高的计算复杂度，使得硬件的开销较大，增加了硬件成本。比如，HM是JCTVC组织的HEVC参考编码器与算法实现。其采用的TU抉择过程如下:对所有可能的TU块(64个4x4块,16个8x8块,4个16x16块,1个32x32块)，做如下运算过程：1.变换（Transform）->量化(Quant)->反量化(Dequant)->反变换(InverseTransform)->重构(Reconstruct).2.计算该TU块的失真，Distortion=SUM(原始像素–重构像素)^23.对量化后的系数做简化的CABAC，然后算出较为准确的残差编码的比特数Bits4.该TU的Rdcost=Distortion+Lambda*Bits，(Lambda是基于qp和帧类型而定的常数)。5.对所有的TU块的Rdcost做遍历比较，选出最小的TU_Rdcost组合，得到TU树结构。上述算法中，反变换(InverseTransform)和重构(Reconstruct)的计算复杂度较高，导致硬件的开销较大，硬件Pipeline的级数较多，因此，硬件的整体性能不高。
技术实现思路
本专利技术的目的在于提供一种基于HEVC视频编码的TU树状结构抉择算法，解决目前的TU树状结构抉择算法的计算复杂度很高，导致硬件成本增加以及硬件性能不高的问题。本专利技术为实现上述目的，采用以下技术方案实现：一种基于HEVC视频编码的TU树状结构抉择算法，包括以下步骤：（a）对TU的残差residual进行变换，得到量化前的系数C0；（b）对步骤（a）中得到的C0进行量化，得到系数C1；（c）采用固定的二进制Bin与bits的压缩比，得到比特数估计值bits_estimate；（d）对步骤（b）中得到的C1进行反量化，得到系数C2；（e）计算该TU的失真值distortion：distortion=Sum(C2-C0)^2；（f）计算该TU残差编码后的率失真代价rdcost=distortion+Lambda*bits_estimate，其中，Lambda是根据qp与帧类型而定的常数；（g）计算该TU残差在全部不编码的情况下的率失真代价rdcost_zero：rdcost_zero=Sum(residual)^2；（h）将步骤（g）得到的rdcost_zero与步骤（f）得到的rdcost进行比较，数值较小的作为该TU的最优代价TU_cost：TU_cost=MIN(rdcost_zero,rdcost)。进一步地，作为优选技术方案，所述步骤（c）的具体过程为：（c1）按照HEVC残差CABAC的二进制化过程，得到该TU残差二进制化过后的BIN的总数；（c2）将BIN/（1.2~1.4）作为该TU残差部分的比特数估计值bits_estimate。进一步地，作为优选技术方案，所述步骤（c2）中，将BIN/1.3作为该TU残差部分的比特数估计值bits_estimate。进一步地，作为优选技术方案，所述步骤（h）的具体过程为：（h1）当TU块为8x8块时，比较TU_cost_8x8和4个TU_cost_4x4的和，决定该8x8块是否分割.如果TU_cost_8x8较小，则该8x8块不分割，否则，该8x8块分割；该8x8块的最终最优代价TU_best_cost_8x8=MIN(TU_cost_8x8,sum(TU_cost_4x4))，其中，TU_cost_8x8表示8x8块的最优代价，TU_cost_4x4表示4x4块的最优代价；（h2）当TU块为16x16块时，比较TU_cost_16x16和4个TU_best_cost_8x8的和，决定该16x16块是否分割；如果TU_cost_16x16较小，则该16x16块不分割，否则，该16x16块分割；该16x16块的最终最优代价TU_best_cost_16x16=MIN(TU_cost_16x16,sum(TU_best_cost_8x8))，其中TU_cost_16x16表示16x16块的最优代价，TU_best_cost_8x8表示8x8块的最终最优代价；（h3）当TU块为32x32块时，比较TU_cost_32x32和4个TU_best_cost_16x16的和，决定该32x32块是否分割.如果TU_cost_32x32较小，则该32x32块不分割，否则，该32x32块分割；该32x32块的最终最优代价TU_best_cost_32x32=MIN(TU_cost_32x32,sum(TU_best_cost_16x16))，其中，TU_best_cost_32x32表示32x32块的最优代价，TU_best_cost_16x16表示16x16块的最终最优代价。本专利技术与现有技术相比，具有以下优点及有益效果：（1）本专利技术相较于现有技术，巧妙地省去了反变换(InverseTransform)和重构(Reconstruct)过程，降低了计算的复杂程度，减少了硬件开销，同时也减少了硬件Pipeline的级数，同时提高了硬件的性能。（2）本专利技术采用固定的二进制Bin与bits的压缩比估计比特数，去除了CABAC（编码、解码）的计算需求，极大降低了实现的复杂度，提高了硬件实现的性能。（3）本专利技术相较于现有的复杂TU算法，只有0.5BD-R的损失，即在相同视频编码质量下，只增加了0.5%的码率。附图说明图1为本专利技术的TU块的率失真计算过程；图2为本专利技术的TU树状结构抉择过程；图3为本专利技术的TU树状结构结果示例。具体实施方式下面结合实施例对本专利技术作进一步地详细说明，但本专利技术的实施方式不限于此。实施例：HEVC视频编码中，TU树型结构是HEVC视频标准新提出的一种提高编码效率的编码工具，TU大小有4x4、8x8、16x16、32x32，在对TU树状结构抉择时，是对所有的TU块做rdcost（率失真）计算，TU块包括64个4x4块,16个8x8块,4个16x16块,1个32x32块，总共85个块。如图1所示，本实施例所述的一种基于HEVC视频编码的TU树状结构抉择算法，包括以下步骤：（a）对TU的残差residual进行变换，得到量化前的系数C0；（b）对步骤（a）中得到的C0进行量化，得到系数C1；（c）采用固定的二进制Bin与bits的压缩比，得到比特数估计值bits_estimate；（d）对步骤（b）中得到的C1进行反量化，得到系数C2；（e）计算该TU的失真值distortion：distortion=Sum(C2-C0)^2；（f）计算该TU残差编码后的率失真代价rdcost=distortion+Lambda*bits_estimate，其中，Lambda是根据qp与帧类型而定的常数；（g）计算该TU残差在全部不编码的情况下的率失真代价rdcost_zero：rd本文档来自技高网...

【技术保护点】
一种基于HEVC视频编码的TU树状结构抉择算法，其特征在于，包括以下步骤：（a）对TU的残差residual进行变换，得到量化前的系数C0；（b）对步骤（a）中得到的C0进行量化，得到系数C1；（c）采用固定的二进制 Bin与bits的压缩比，得到比特数估计值bits_estimate；（d）对步骤（b）中得到的C1进行反量化，得到系数C2；（e）计算该TU的失真值distortion：distortion=Sum(C2‑C0)^2；（f）计算该TU残差编码后的率失真代价rdcost= distortion+Lambda*bits_estimate，其中，Lambda是根据qp与帧类型而定的常数；（g）计算该TU残差在全部不编码的情况下的率失真代价rdcost_zero：rdcost_zero= Sum(residual)^2；（h）将步骤（g）得到的rdcost_zero与步骤（f）得到的rdcost进行比较，数值较小的作为该TU的最优代价TU_cost：TU_cost=MIN(rdcost_zero, rdcost)。

【技术特征摘要】
1.一种基于HEVC视频编码的TU树状结构抉择算法，其特征在于，包括以下步骤：（a）对TU的残差residual进行变换，得到量化前的系数C0；（b）对步骤（a）中得到的C0进行量化，得到系数C1；（c）采用固定的二进制Bin与bits的压缩比，得到比特数估计值bits_estimate；（d）对步骤（b）中得到的C1进行反量化，得到系数C2；（e）计算该TU的失真值distortion：distortion=Sum(C2-C0)^2；（f）计算该TU残差编码后的率失真代价rdcost=distortion+Lambda*bits_estimate，其中，Lambda是根据qp与帧类型而定的常数；（g）计算该TU残差在全部不编码的情况下的率失真代价rdcost_zero：rdcost_zero=Sum(residual)^2；（h）将步骤（g）得到的rdcost_zero与步骤（f）得到的rdcost进行比较，数值较小的作为该TU的最优代价TU_cost：TU_cost=MIN(rdcost_zero,rdcost)。2.根据权利要求1所述的一种基于HEVC视频编码的TU树状结构抉择算法，其特征在于，所述步骤（c）的具体过程为：（c1）按照HEVC残差CABAC的二进制化过程，得到该TU残差二进制化过后的BIN的总数；（c2）将BIN/（1.2~1.4）作为该TU残差部分的比特数估计值bits_estimate。3.根据权利要求2所述的一种基于HEVC视频编码的TU树状结构抉择算法，其特征在于，所述步骤（c2）中，将BIN/1.3作为该TU残差部分的比特数估计值bits_estimate。4.根据权利要求1所述的一种基于HEVC视频编码的TU树状...

【专利技术属性】
技术研发人员：栗可，
申请(专利权)人：芯原微电子北京有限公司，芯原微电子上海有限公司，芯原微电子成都有限公司，
类型：发明
国别省市：北京,11