一种基于残差分布的HEVC快速帧间深度划分方法技术

本发明专利技术公开了一种基于残差分布的HEVC快速帧间深度划分方法，在低延时或随机接入编码配置下读入编码帧，执行Inter_2N×2N模式后以4×4像素块为单位计算编码单元内不同块的残差值；对4×4像素块的残差取平均作为所处深度CU的残差均值；在执行统计残差的帧中，每编码完成一个编码树单元，根据CTU的实际深度，将预测过程中相应深度的CU残差分为分割和不分割两类，根据统计认为残差均值服从高斯分布；在基于残差进行快速深度决策的帧中，以各深度Inter_2N×2N模式完成后的残差均值为特征，计算残差在高斯分布中的概率并根据概率大小确定当前CU是否分割；依次编码剩余CTU和后续帧，直到全部帧编码完成。该方法在较好保持视频编码质量的同时能较大幅度地降低HEVC帧间预测的计算复杂度。

A Fast Interframe Depth Partition Method for HEVC Based on Residual Distribution

The invention discloses a fast inter-frame depth partitioning method for HEVC based on residual distribution, which reads coded frames in low delay or random access coding configuration, calculates residual values of different blocks in coding unit in units of 4*4 pixel blocks after executing Inter_2N*2N mode, averages residual values of 4*4 pixel blocks as residuals of depth CU, and performs statistical residuals in each frame. A coding tree unit is completed. According to the actual depth of CTU, the residual of the corresponding depth in the prediction process is divided into two categories: segmentation and non-segmentation. According to statistics, it is considered that the mean of residual obeys the Gauss distribution. In the frame of fast depth decision based on residual, the residual mean of each depth after Inter_2N*2N mode is used to calculate the probability of residual in the Gauss distribution. The current CU is segmented according to the probability size; the remaining CTU and subsequent frames are coded in turn until all frames are coded. This method can reduce the computational complexity of HEVC inter-frame prediction greatly while maintaining the quality of video coding.

【技术实现步骤摘要】
一种基于残差分布的HEVC快速帧间深度划分方法
本专利技术涉及HEVC视频编码特别是视频编码帧间预测快速深度划分
，具体涉及一种基于残差分布的HEVC快速帧间深度划分方法。
技术介绍
视频编码的目标是在码率的限制下获得最优的输出视频质量。高性能视频编码(HEVC)即H.265是目前国际上最新的视频编码标准，通过采用灵活的四叉树划分结构及多种模式的帧内与帧间预测技术，极大地提高了编码效率，相比上一代视频编码标准H.264/AVC其编码效率提高了一倍，但是编码器的计算复杂度也急剧增加。据统计，编码树单元(CTU)的模式选择耗费时间是整个编码时间的2/3以上，因此在实际编码器中难以应用，尤其是实时性应用。
技术实现思路
本专利技术的目的在于提供一种基于残差分布的HEVC快速帧间深度划分方法，该方法能够在保持视频编码质量的前提下有效降低帧间预测计算复杂度。为了达到上述目的，本专利技术所采用的技术方案是：一种基于残差分布的HEVC(HighEfficiencyVideoCoding，高效率视频编码)快速帧间深度划分方法，包括如下步骤：1)在低延(LD，LowDelay)时或随机接入(RA，R本文档来自技高网...

【技术保护点】
1.一种基于残差分布的HEVC快速帧间深度划分方法，其特征在于，包括以下步骤：1)在低延时或随机接入编码配置下读入当前编码帧，若是I帧则对所有编码树单元执行帧内预测编码，并转向步骤8)，若不是I帧则根据帧号判断该帧用于统计残差帧还是基于残差执行快速深度划分，若是用于统计残差帧则转向步骤2)，否则转向步骤6)；2)对判定用于统计残差帧中的所有编码树单元执行HEVC标准帧间预测流程，并对0、1、2三个深度下Inter_2N×2N模式执行完成后以亮度通道4×4像素块为单位计算残差值，并对编码单元包含的4×4像素块的残差值取平均作为编码单元的残差均值；3)对判定用于统计残差帧中的所有编码树单元编码完成...

【技术特征摘要】
1.一种基于残差分布的HEVC快速帧间深度划分方法，其特征在于，包括以下步骤：1)在低延时或随机接入编码配置下读入当前编码帧，若是I帧则对所有编码树单元执行帧内预测编码，并转向步骤8)，若不是I帧则根据帧号判断该帧用于统计残差帧还是基于残差执行快速深度划分，若是用于统计残差帧则转向步骤2)，否则转向步骤6)；2)对判定用于统计残差帧中的所有编码树单元执行HEVC标准帧间预测流程，并对0、1、2三个深度下Inter_2N×2N模式执行完成后以亮度通道4×4像素块为单位计算残差值，并对编码单元包含的4×4像素块的残差值取平均作为编码单元的残差均值；3)对判定用于统计残差帧中的所有编码树单元编码完成之后，根据编码树单元的最佳深度将编码过程中得到的编码单元残差分类为分割和不分割两类；4)继续读入当前图像组的下一帧，并返回步骤1)直到当前图像组中的所有帧编码完成以获得残差统计信息；5)对步骤4)中由当前图像组中所有被判定为统计残差帧的残差统计信息使用高斯分布进行建模，并根据各深度下编码单元的残差均值来计算分割和不分割编码单元残差的均值和方差，以建立高斯概率密度函数；6)对基于残差执行快速深度划分的编码帧中的所有编码树单元，对深度为0、1、2的编码单元的Inter_2N×2N模式执行完成后以4×4像素块为单位计算残差值，并对编码单元包含的4×4像素块的残差值取平均作为编码单元的残差均值7)以当前编码单元残差均值为特征，根据高斯分布概率密度函数公式计算其概率大小，并判断是否直接终止划分；8)对基于残差执行快速深度划分的编码帧继续编码剩余编码树单元及剩余编码帧，直到再次执行统计残差分布的帧或视频序列的全部帧编码完成。2.根据权利要求1所述的一种基于残差分布的HEVC快速帧间深度划分方法，其特征在于，所述步骤1)中根据帧号判断该帧用于统计残差帧还是基于残差执行快速深度划分具体为：根据当前编码帧的帧号计算是否属于进行统计残差分布的帧，计算公式如下：S＝k％(frame_rate+sizeGOP)其中,frametype表示帧用途类型，frames表示用于统计残差分布的帧，framef表示利用残差执行快速深度划分的帧，k表示当前编码帧号，frame_rate表示该视频序列编码的帧率，sizeGOP表示该配置下图像组的尺寸。3.根据权利要求1所述的一种基于残差分布的HEVC快速帧间深度划分方法，其特征在于，所述步骤2)包括如下步骤：21)对统计残差帧中的所有编码树单元执行HEVC标准帧间预测流程，即顺序执行MERGE模式、SKIP模式、Inter_2N×2N模式及非方形预测单元模式划分；22)当0、1、2三个深度下编码单元的Inter_2N×2N模式执行完成后，将残差像素亮度通道按照4×4像素块大小进行划分，并计算其残差值，计算公式如下：其中，resi(p,q)表示第p行第q列位置的残差像素值，WCU、HCU分别表示当前CU的宽度和高度，R(x,y)表示编码单元内第x行第y列...

【专利技术属性】
技术研发人员：崔子冠，姜晓鹏，干宗良，唐贵进，刘峰，
申请(专利权)人：南京邮电大学，
类型：发明
国别省市：江苏,32