一种用于高效视频编码HEVC的量化优化方法技术

本发明专利技术提供了一种用于高效视频编码HEVC的量化优化方法，通过对变换单元TU进行视觉感知阈值计算，得到每个变换系数的感知阈值。在量化阶段基于该阈值为每个变换系数筛选候选量化值并对量化后的值进行抑制。最后，在TU划分模式选择阶段，利用变换块的视觉感知信息对TU的划分模式进行预判。本发明专利技术不需要对解码器做任何改动，在维持视频主观感知质量不变的前提下提高了编码压缩效率，并加快了编码速度。

【技术实现步骤摘要】
一种用于高效视频编码HEVC的量化优化方法
本专利技术属于视频编码领域，具体涉及用于HEVC的基于视觉感知的量化优化方法研究。
技术介绍
随着视频捕获与显示技术的进步，人们对视频质量的需求在不断提高，近几年甚至出现了超高清(UltraHighDefinition)电视，其分辨率达到了8Kx4K(7680×4320)，视频数据量的爆炸式增长，急需新的编码工具来提高压缩比。目前由VCEG和MPEG共同组建的JointCollaborativeTeamonVideoCoding(JCT-VC)所制定的高效视频编码标准HEVC，压缩效率比H.264提高40％左右。虽然HEVC相对于H.264在压缩效率上有了很大提高，但目前仍然面临着两个主要问题：速度优化问题和视觉感知优化问题。首先，HEVC相比H.264在编码结构上引入了编码单元(CU，CodingUnit)、预测单元(PU，PartitionUnit)、变换单元(TU，TransformUnit)，虽然CU、PU、TU的引入提高了编码器的压缩效率，但是在各单元划分模式选择上需要耗费大量的计算代价，目前HEVC的参考软件还需要非常多的优化才能达到实时应用的要求，其中软件代码优化的提升空间有限，更重要的是算法层面的优化。若要进行HEVC编码算法的速度优化，最重要的问题就是如何快速准确地进行CU、PU、TU的划分模式选择。HEVC面临的第二个问题就是亟待通过对人眼视觉系统HVS(HumanVisualSystem)特性的挖掘使其编码压缩效率得到进一步的提升以应对超高清视频(8Kx4K)的巨大数据量。同时，也可以利用人眼视觉感知特性提高HEVC的编码速度。针对速度优化问题，目前已经有很多研究成果致力于解决CU快速划分以及PU预测模式快速选择的问题，但实际上不管是CU的划分还是PU的划分，在计算率失真代价时都要经过TU划分这一过程，然后才能计算得到率失真代价从而为划分方式提供决策依据。但目前关于TU快速划分的研究成果还很少。如果能够在编码过程中结合TU的视觉感知信息对TU划分模式做出预判，就可以对TU划分的速度进行明显提升。同时，HEVC在量化过程中使用了基于率失真优化的量化(RateDistortionOptimizedQuantization，RDOQ)，每一个变换系数都有若干个候选量化值，要确定最终的量化值需要对每一个候选值计算率失真代价，由于CU、PU、TU的每一种划分模式的代价计算最终都要经过量化，所以RDOQ给整个编码过程带来了很大的时间复杂度。如果在进行RDOQ之前，能够结合TU的视觉感知信息对每个系数的候选量化值进行筛选，则可以大大降低整个量化过程的时间复杂度。针对视觉感知优化问题，视频数据之所以能够被压缩很大程度上归功于对数据的量化，而视频的失真也来自于量化。由于视频图像内容特性的不同，人眼视觉感知系统对不同图像因量化而产生的失真敏感度也不同。对于人眼不敏感的图像区域，可以使用粗量化以实现更大的压缩率。目前基于视觉感知特性的编码量化研究的代表性方法是计算预测残差在DCT域的视觉感知阈值，然后根据视觉感知阈值来调整变换块的量化矩阵，对人眼不敏感的系数进行粗量化从而降低比特，但这种方法需要改动解码器，在编、解码端以同样步骤估计每个变换系数的视觉感知阈值从而在解码端生成相同的量化矩阵；或者，由编码端将量化矩阵发送至解码端以保证编、解码两端量化与反量化的步长一致。除此之外，如果要将视觉感知模型应用到HEVC的编码框架中对量化进行调整，还应考虑到HEVC相对于上一代标准所增加的更大尺寸DCT变换(32x32、16x16)、TU的模式划分、RDOQ等。
技术实现思路
本专利技术实现专利技术目的的具体手段采用：一种用于高效视频编码HEVC的量化优化方法，在HEVC的变换单元TU进行量化时对整个量化过程进行优化，所述方法包括以下步骤：A:在量化开始前，对变换单元TU的每一个DCT系数，由量化参数计算得到候选量化集，以量化失真为约束对TU的候选量化值进行筛选，并对变换单元TU的每一个DCT系数计算视觉感知阈值，缩小每个系数候选量化集；B:在量化过程中，以量化失真为约束，采用迭代递减的方法进一步削减所述TU变换量化后得到的量化值，降低编码该系数所需的比特；C:在量化完成后，根据TU变换量化系数的分布统计特征与TU最优划分模式间的关系模型，对TU划分模式进行预判，提前决定该TU的四叉树划分深度。在所述TU系数的量化值候选集构建中，找出所有满足量化误差小于视觉感知阈值条件的候选量化值，保留其中最小的一个以及零作为候选量化值，其余候选值被剔除出量化值候选集；若所述TU系数量化为0的量化误差小于该系数的感知阈值，则直接取零作为该系数最终量化值。步骤B中将所述TU系数量化后的值减去一个抑制值，使得该系数的最终量化值变小；TU系数的量化值在满足量化误差小于该系数视觉感知阈值的条件下被减到最小；这样，步骤A与步骤B不更改变换系数的量化步长或量化表，即解码端只需按照原定的量化步长进行反量化重建即可；步骤C中以权利要求2所述TU的视觉感知信息及步骤B量化结果为依据，对TU的划分模式进行预判；若所述TU所在的变换块人眼感知敏感且DCT系数中非零量化系数个数较多，则该TU使用较精细的划分；若TU所在的变换块人眼感知不敏感且DCT系数中非零量化系数个数较少，则该TU使用较粗略的划分。针对HEVC的编码速度过慢及缺少视觉感知优化问题，本专利技术从HEVC的量化环节入手，结合变换单元TU的视觉感知信息，加快TU的量化值选择、划分模式选择的速度，同时在保证人眼感知质量不变的前提下提升量化环节的压缩效率。针对不同尺寸TU的DCT变换系数计算其视觉感知阈值，根据视觉感知阈值为每个系数筛选量化值，在提高压缩率的同时加快RDOQ的速度。TU变换系数量化之后，为了进一步提高压缩率，还可以根据视觉感知阈值对量化后的系数值进行抑制，在保证重建量化误差不会超过视觉感知阈值的前提下削减每个量化后系数的数值。由于本专利技术不会更改变换系数的量化步长或量化矩阵，即解码器只需按照原定的量化步长进行反量化重建即可，所以本专利技术不需要改动解码器，所产生的码流与HEVC标准兼容。由于之前已经获得了每个TU的视觉感知信息，同时在量化过程中对于人眼不敏感的系数会有更大倾向被量化为零，此时就可以根据TU的视觉感知信息及非零量化系数的个数来对TU的划分模式进行预判，从而提高TU模式选择的速度。由于TU划分模式选择是CU、PU划分模式选择的必经步骤，所以整个HEVC的编码过程都会由此获得加速。附图说明图1为本专利技术提供的基于视觉感知信息的HEVC量化优化方法流程图图2为本专利技术提供的基于视觉感知阈值的TU候选量化值筛选方法流程图图3为本专利技术提供的基于视觉感知阈值的量化值抑制方法流程图图4为本专利技术提供的TU划分模式预判方法流程图具体实施方法图示1为本专利技术提出的基于视觉感知信息的HEVC量化优化方法流程图，主要包括4部分：1)HEVC会根据TU变换单元的尺寸进行相应的DCT变换，TU的DCT变换可以是32x32、16x16、8x8、4x4。本专利技术的方法在TU完成DCT变换后针对其DCT变换尺寸使用相应的视觉感知模型计算该变换块中每一变换系数的视觉感知阈值。本文档来自技高网...

【技术保护点】
一种用于高效视频编码HEVC的量化优化方法，在HEVC的变换单元TU进行量化时对整个量化过程进行优化，所述方法包括以下步骤： A:在量化开始前，对变换单元TU的每一个DCT系数，由量化参数计算得到候选量化集，以量化失真为约束对TU的候选量化值进行筛选，并对变换单元TU的每一个DCT系数计算视觉感知阈值，缩小每个系数候选量化集； B:在量化过程中，以量化失真为约束，采用迭代递减的方法进一步削减所述TU变换量化后得到的量化值，降低编码该系数所需的比特； C:在量化完成后，根据TU变换量化系数的分布统计特征与TU最优划分模式间的关系模型，对TU划分模式进行预判，提前决定该TU的四叉树划分深度。

【技术特征摘要】
1.一种用于高效视频编码HEVC的量化优化方法，在HEVC的变换单元TU进行量化时对整个量化过程进行优化，所述方法包括以下步骤：A:在量化开始前，对变换单元TU的每一个DCT系数，由量化参数计算得到候选量化集，以量化失真为约束对TU的候选量化值进行筛选，并对变换单元TU的每一个DCT系数计算视觉感知阈值，缩小每个系数候选量化集；B:在量化过程中，以量化失真为约束，采用迭代递减的方法进一步削减所述TU变换量化后得到的量化值，降低编码该系数所需的比特；C:在量化完成后，根据TU变换量化系数的分布统计特征与TU最优划分模式间的关系模型，对TU划分模式进行预判，提前决定该TU的四叉树划分深度；所述步骤B中，还包括将所述TU系数量化后的值减去一个抑制值，使得该系数的最终量化值变小；TU系数的量化值在满足量化误差小于该系数视觉感知阈值的条件下被减到最小...

【专利技术属性】
技术研发人员：刘翔凯，彭强，任健鹏，闫川，石也军，
申请(专利权)人：西南交通大学，
类型：发明
国别省市：四川;51