一种针对H.266/VVC的快速CU分裂模式决策方法技术

本发明专利技术提出了一种针对H.266/VVC的快速CU分裂模式决策方法，用于解决H.266/VVC编码的计算复杂度高的技术问题。其步骤为：首先，采用原始VTM算法对待编码的当前帧的第一个CTU进行编码，并统计编码过程中该CTU所有CU的ASM，进而得到第一个CTU的最小阈值和最大阈值；其次，在对后续的视频序列编码时，将当前CU的ASM值与最小阈值和最大阈值进行对比，从而判断当前CU是否继续分裂。最后通过纹理方向算法计算需要进行分裂的CU的纹理方向，根据纹理方向选择出最佳CU分裂模式。本发明专利技术通过GLCM和SAD的结合，能够在节省大量计算量的前提下，提前预测最佳CU分裂模式，降低了计算复杂度，节省了编码时间。

【技术实现步骤摘要】
一种针对H.266/VVC的快速CU分裂模式决策方法
本专利技术涉及图像处理
，特别是指一种针对H.266/VVC的快速CU分裂决策方法。
技术介绍
近年来，诸如360度和高动态范围(HDR)之类的视频显示出巨大的需求潜力。当前广泛使用的高效视频编码(HEVC)是ITU-TVCEG在2013年制定的视频编码标准。但是，HEVC很难应对视频的更高压缩率(例如360度和高动态范围(HDR))的需求。为了解决这个问题，联合视频探索小组(JVET)在2018年定义了VVC和VVC测试模型1(VTM1)编码方法的初稿。在随后的会议中逐渐添加了一系列具有更高压缩效率的编码工具。例如，MTT拆分结构用于编码树单元(CTU)分区过程。在HEVC中，一个CU分为四个子CU。MTT拆分结构不像HEVC这样仅可以使用四叉树(QT)拆分结构，VVC在编码过程中可以使用QT、BT和TT结构。这允许在VVC中将CU分为两个，三个或四个CU，编码器可以更灵活地拆分CU，以降低视频比特率。这种结构对提高编码率有很大的作用。另外，对于I切片，亮度和色度CU的编码树结构是不本文档来自技高网...

【技术保护点】
1.一种针对H.266/VVC的快速CU分区决策方法，其特征在于，其步骤如下：/nS1、采用原始VTM算法对待编码的当前帧的第一个编码树单元(CTU)进行编码，计算第一个CTU中的每个CU的纹理复杂度能量值(ASM)，统计编码过程中产生的所有CU的ASM，将所有未停止分裂的CU中最小的ASM作为阈值LowerLimit，将所有停止分裂的CU中最大的ASM作为阈值HigherLimit；/nS2、将当前帧的下一个CTU作为当前CTU，对当前CTU进行编码时，根据当前CTU上方的CTU和CTU左侧的CTU采用自适应迭代算法计算当前CTU的阈值LowerLimit

【技术特征摘要】
1.一种针对H.266/VVC的快速CU分区决策方法，其特征在于，其步骤如下：
S1、采用原始VTM算法对待编码的当前帧的第一个编码树单元(CTU)进行编码，计算第一个CTU中的每个CU的纹理复杂度能量值(ASM)，统计编码过程中产生的所有CU的ASM，将所有未停止分裂的CU中最小的ASM作为阈值LowerLimit，将所有停止分裂的CU中最大的ASM作为阈值HigherLimit；
S2、将当前帧的下一个CTU作为当前CTU，对当前CTU进行编码时，根据当前CTU上方的CTU和CTU左侧的CTU采用自适应迭代算法计算当前CTU的阈值LowerLimit0和HigherLimit0；
S3、将当前CTU的每个CU的ASM分别与阈值LowerLimit0和HigherLimit0进行对比，若当前CTU的CU的ASM小于阈值LowerLimit0，则当前CTU的CU停止分裂，跳至下一个CTU，返回步骤S2；若当前CTU的CU的ASM大于HigherLimit0，则执行步骤S5继续分裂，若当前CTU的CU的ASM大于LowerLimit0且小于HigherLimit0，执行步骤S4；
S4、使用原始VTM算法判断当前CTU的CU是否进行分裂，若是，执行步骤S5，否则，当前CTU的CU停止分裂，跳至下一个CTU，返回步骤S2；
S5、使用纹理方向算法计算当前CTU的CU的纹理方向斜率ThSAD，将ThSAD与纹理方向阈值0.25和4作对比；若ThSAD小于0.25，则当前CTU的CU的纹理方向是横向，执行步骤S6，若ThSAD大于4，则当前CTU的CU的纹理方向是纵向，执行步骤S7，若ThSAD位于0.25和4之间，对当前CTU的CU进行四叉树分裂模式进行分裂，跳至下一个CTU，返回步骤S2；
S6、对当前CTU的CU分别进行横向二叉树、横向三叉树分裂模式进行分裂，并对比横向二叉树、横向三叉树分裂后的率失真值，将最小的率失真值对应的分裂模式作为当前CTU的CU的分裂模式，跳至下一个CTU，返回步骤S2；
S7、对当前CTU的CU分别进行纵向二叉树、纵向三叉树分裂模式进行分裂，并对比纵向二叉树、纵向三叉树分裂后的率失真值，将最小的率失真值对应的分裂模式作为当前CU的分裂模式，跳至下一个CTU，返回步骤S2。


2.根据权利要求1所述的针对CTU编码过程中计算CU纹理复杂度能量值的方法，其特征在于，所述纹理复杂度能量值的计算方法为：
S11、首先将CU中图像的像素灰度值按一定比例压缩，压缩后的位置(i,j)处的像素灰度值为gij，其中，(i,j)为CU中像素位置，i表示横坐标，j表示纵坐标；
S12、利用像素相等性判别公式计算相同像素的数量，其中，0度、45度和90度像素相等性判别公式分别：









其中，M是压缩后的CU的长度，N是压缩后的CU的宽度，Rij表示距离为δ的两个像素值相等的数量；
S13、统计压缩后的CU内所有相等像素的数量，组成灰度共生矩阵Pδ：












其中，δ是相比较的两个像素点的距离；
S14、统计0度、45度和90度的灰度共生矩阵的和，并将其归一化得到压缩后的CU的纹理复杂度能量值ASMδ：



其中，Asm表示当前正在编码CU的纹理复杂度能量值。


3.根据权利要求1所述的针对H.266/VVC的快速CU分区决策方法，其特征在于，所述根据当前CTU上方的CTU...

【专利技术属性】
技术研发人员：张秋闻，赵永博，蒋斌，赵进超，黄立勋，崔腾耀，郭睿骁，吴庆岗，魏涛，常化文，王晓，张伟伟，孟颍辉，李祖贺，黄伟，甘勇，
申请(专利权)人：郑州轻工业大学，
类型：发明
国别省市：河南;41