HEVC中B帧的基于SKIP/Merge RD Cost的CU提前终止方法技术

本发明专利技术提供了一种HEVC中B帧的基于SKIP/Merge RD Cost的CU提前终止方法，步骤是：首先是为每一帧初始化各个阈值，然后是针对每一个CU通过阈值来判断是否能提前终止，包括SKIP/Merge模式的提前跳出和CU停止向下划分两个部分，最后是根据搜索得到的最优模式进行阈值的自适应更新。本发明专利技术能够解决HEVC在B帧CU搜索时复杂度过大的问题，在HEVC的参考编码器HM12.0下，针对多个视频序列编码器平均有50％的速度提升，而BD-rate(相同质量下的码率)仅有1.25％的增加。

【技术实现步骤摘要】
HEVC中B帧的基于SKIP/Merge RD Cost的CU提前终止方 法
本专利技术涉及视频压缩领域中降低HEVC B帧中模式选择复杂度的方法，具体是一种 利用⑶的SKIP/Merge RD Cost来跳过该⑶的剩下的模式选择，从而降低编码复杂度的方 法。
技术介绍
随着数字视频应用产业链的快速发展，视频应用向高清晰度、高帧率和高压缩率 法相发展的趋势越来越明显，如果继续采用H. 264编码会出现一些问题，比如由于视频分 辨率的提高，宏块个数大大增加，会导致用于编码的宏块级参数所占的码字过多，压缩效率 明显降低，而且由于分辨率的大大提高，单个宏块所表示的图像信息也大大减少；高分辨率 的宏块的运动矢量的幅值也增加，而H. 264原有的编码方式将不再适用等等。 HEVC(High Efficiency Video Coding)是一种新的视频压缩标准，被视为是ITU-T H. 264/AVC标准的继任者。HEVC被认为不仅能提升图像质量，同时能达到H. 264/MPEG-4AVC 两倍压缩率（等同于同样画面质量下比特率减少了 50 % )，可以支持4Κ分辨率，最高分辨 率可达到8192x4320 (8Κ分辨率）。HEVC较于Η. 264的性能有大幅度的提高是因为它采用 了几个有较高复杂度的方法，其中之一就是灵活的编码单元（CU)划分和预测单元（PU)的 模式选择。 相比于H. 264/AVC，HEVC采用了一种基于编码树单元（CTU)的更灵活的四叉树 结构。如图1所示，左图是LCU(最大的CU，默认情况下为64x64)经过模式判决后得到的 最优划分，从图中可以看出HEVC可以支持64x64到8x8的⑶。Kim等人在文献BIock partitioning structure in the HEVC standard^ Kim, I. K. , Min, J. , Lee, T. , Han, ff. J. , &Park, J. (2012). Block partitioning structure in the HEVC standard. Circuits and Systems for Video Technology, IEEE Transactions on, 22(12), 1697-1706.中提 至IJ，对于高分辨率的视频序列使用较大尺寸的⑶会有比较明显的性能提升。这是因为大 尺寸图像的平缓区域的面积更大，所以如果采用较大的块进行编码将能够极大的提升编码 效率，同时又由于大尺寸块不能很好的处理图像的局部细节，而复杂的图像需要精细的预 测，因此小尺寸块也是需要的，因而这种块结构能够很好的适应图像的各个区域，达到较好 的编码效果。此外，在P帧和B帧时，每个CU还要从不同的PU(预测单元）中选出最优 的，相对于H. 264/AVC，HEVC中的PU模式也大大增加，包括：SKIP模式，Merge模式，Inter 2Nx2N, Inter Nx2N, Inter 2NxN, Inter 2NxnU, Inter 2NxnD, Inter nLx2N, Inter nRx2N, Inter NxN, Intra 2Nx2N和Intra NxN。在这么多不同的模式中，HEVC通过比较各个模式 的RD Cost来得到最优的预测模式。RD Cost通过RDO(率失真优化）得到，见式（1): [_5] !mode == (SSE1舰+ ω chr_ · SSEchroJ + λ · Bniode (I) 其中SSE是原始像素与重建像素的均方误差，ωε?ΜΜ是色度的均方误差的加权因 子，λ是拉格朗日乘数，B nrode是在该模式下的码流大小。为了得到RD Cost，需要进行运动 估计、运动补偿、变换、量化、熵编码、反量化和反变换，再加上HEVC本身的块结构，使HEVC 的模式判决的复杂度大大增加。 Tan 等人在文献On fast coding tree block and mode decision for high-efficiency video coding (HEVC) (Tan, H. L. , Liu, F. , Tan, Y. H. , &Yeo, C. (2012, March). On fast coding tree block and mode decision for high-efficiency video coding (HEVC). InAcoustics, Speech and Signal Processing (ICASSP), 2012 IEEE International Conference on(pp. 825-828). IEEE)中提到，使用固定大小的 16x16 的 CU 只需引入1584次RD0,而使用64x64且最大深度为4的CTU需要进行8415次RD0。SKIP模 式和Merge模式的RDO相对来说比较简单，因为它们均不需要运动估计，此外由于SKIP模 式不需要传递残差，其RDO过程还不需要变换量化等过程。
技术实现思路
针对现有技术中的缺陷，本专利技术的目的是提供一种，解决HEVC原有的方法在B帧进行CU划分和PU模式选择时具 有较高的复杂度的问题。 为实现以上目的，本发针对降低HEVC编码复杂的需求，且SKIP模式和Merge模式 的RDO相对比较简单，提出的一种利用当前CU的SKIP/Merge的RD Cost来提前终止该CU 的向下划分和模式选择的方法：首先是为每一帧初始化各个阈值，然后是针对每一个CU通 过阈值来判断是否能提前终止，包括SKIP/Merge模式的提前跳出和CU停止向下划分两个 部分，最后是根据搜索得到的最优模式进行阈值的自适应更新。本专利技术具有较低复杂度、 性能损失小且速度快的优点。 所述方法包括如下步骤： 步骤1 :如果当前⑶是每帧的第一个IXU，那么初始化各阈值； 步骤 2 :计算该⑶的 SKIP/Merge 的 RD Cost ; 步骤3 :如果该CU的SKIP/Merge的RD Cost小于第一阈值，直接跳到步骤9 ; 步骤4 :如果该CU的深度（cbpth)为0,且SKIP/Merge的RD Cost小于第二阈值 时，跳过该⑶中深度为2和3的⑶划分，跳到步骤7 ; 步骤5 :如果该CU的深度为0,且SKIP/Merge的RD Cost小于第三阈值时，跳过该 ⑶中深度为3的⑶划分，跳到步骤7 ; 步骤6 :如果该CU的深度为1，且SKIP/Merge的RD Cost小于第四阈值时，跳过该 CU中深度为3的CU划分； 步骤7 :进行该CU当前的深度下的剩下的模式判决，选出该深度下的最优模式； 步骤8 :根据步骤4、5、6来判断是否进行向下划分，若需要则针对向下划分后得到 的每个小⑶跳至步骤1，否则跳至步骤9 ; 步骤9:更新相应的阈值。 本专利技术中：自适应的阈值设置，如步骤1中为每一帧初始化各个阈值，减少由场景 切换带来的性能损失；如步骤9中的自适应更新阈值，为阈值引入了空间相关性，使得当前 C本文档来自技高网...

【技术保护点】
一种HEVC中B帧的基于SKIP/Merge RD Cost的CU提前终止方法，其特征在于：包括如下步骤：步骤1：如果当前CU是每帧的第一个LCU，那么初始化各阈值；步骤2：计算该CU的SKIP/Merge的RD Cost；步骤3：如果该CU的SKIP/Merge的RD Cost小于第一阈值，直接跳到步骤9；步骤4：如果该CU的深度(depth)为0，且SKIP/Merge的RD Cost小于第二阈值时，跳过该CU中深度为2和3的CU划分，跳到步骤7；步骤5：如果该CU的深度为0，且SKIP/Merge的RD Cost小于第三阈值时，跳过该CU中深度为3的CU划分，跳到步骤7；步骤6：如果该CU的深度为1，且SKIP/Merge的RD Cost小于第四阈值时，跳过该CU中深度为3的CU划分；步骤7：进行该CU当前的深度下的剩下的模式判决，选出该深度下的最优模式；步骤8：根据步骤4、5、6来判断是否进行向下划分，若需要则针对向下划分后得到的每个小CU跳至步骤1，否则跳至步骤9；步骤9：更新相应的阈值。

【技术特征摘要】
1. 一种HEVC中B帧的基于SKIP/Merge RD Cost的CU提前终止方法，其特征在于：包 括如下步骤： 步骤1 :如果当前CU是每帧的第一个LCU，那么初始化各阈值； 步骤2 :计算该CU的SKIP/Merge的RD Cost ; 步骤3 :如果该CU的SKIP/Merge的RD Cost小于第一阈值，直接跳到步骤9 ; 步骤4 :如果该CU的深度（cbpth)为0,且SKIP/Merge的RD Cost小于第二阈值时，跳 过该⑶中深度为2和3的⑶划分，跳到步骤7 ; 步骤5 :如果该CU的深度为0,且SKIP/Merge的RD Cost小于第三阈值时，跳过该CU 中深度为3的⑶划分，跳到步骤7 ; 步骤6 :如果该CU的深度为1，且SKIP/Merge的RD Cost小于第四阈值时，跳过该CU 中深度为3的⑶划分； 步骤7 :进行该CU当前的深度下的剩下的模式判决，选出该深度下的最优模式； 步骤8 :根据步骤4、5、6来判断是否进行向下划分，若需要则针对向下划分后得到的每 个小⑶跳至步骤1，否则跳至步骤9 ; 步骤9 :更新相应的阈值。2. 根据权利要求1所述的HEVC中B帧的基于SKIP/Merge RD Cost的CU提前终止方 法，其特征在于：步骤1中：通过判断CU的横轴与纵轴的坐标来判断该CU是否为每帧的第 一个CU，如果满足条件，则为该帧初始化第一、二、三和第四阈值。3. 根据权利要求1所述的HEVC中B帧的基于SKIP/Merge RD Cost的CU提前终止方 法，其特征在于：步骤3中：为每一层CU的SKIP/Merge提前跳出均设置了相应的阈值，这是 由每层CU有不同的特性决定的。4. 根据权利要求1所述的HEVC中B帧的基于SKIP/Merge RD Cost的CU提前终止方 法，其特征在于：步骤3中：所述第一阈值是threshold_skip [i]，i = 0, 1，2, 3，此处的i代 表的是不同⑶的深度，threshold_skip[i]的初始值为： threshold_skip [i] = 21. l79e0 053*QP QP为HEVC中规定的量化参数，如果该CU的SKIP/Merge的RD Cost小于threshold_ skip [i]，那么认为SKIP/Merge已经是该⑶的最优模式，所以该⑶的剩余模式没有必要计 算，直接跳至步骤9更新相应的阈值。5. 根据权利要求1所述的HEVC中B帧的基于SKIP/Merge RD Cost的CU提前终止方 法，其特征在于：步骤4中：所述第二阈值被记为thresh〇ld_d印th_0_50,表示该阈值用在 当⑶的深度为〇时的情况，采用的是深度为〇的⑶的SKIP/Merge的RD Cost的50百分 位，threshold_d...

【专利技术属性】
技术研发人员：王嘉，沈静，张小云，高志勇，
申请(专利权)人：上海交通大学，
类型：发明
国别省市：上海;31