一种基于AVS3的帧内CU快速划分方法技术

本发明专利技术公开了一种基于AVS3的帧内CU快速划分方法，方法包括：通过父编码单元根据约束条件确定所有可选划分方式；基于拉东算法和Sobel算子，从所述可选划分方式中选取目标划分方式进行编码单元快速划分；遍历所有可选划分方式，递归计算每种划分方式对应的率失真优化代价；将所述率失真优化代价最小时对应的可选划分方式作为最佳划分方式；根据所述最佳划分方式对父编码单元进行划分。本发明专利技术的编码时间短且编码损失相对稳定，可广泛应用于音视频编码技术领域。编码技术领域。编码技术领域。

【技术实现步骤摘要】
一种基于AVS3的帧内CU快速划分方法


[0001]本专利技术涉及音视频编码
，尤其是一种基于AVS3的帧内CU快速划分方法。

技术介绍

[0002]数字音视频编解码技术标准工作组(Audio Video coding Standard Workgroup of China，AVS)在2002年成立，主要负责制(修)订数字音视频的压缩、解压缩、处理和表示等共性技术标准，为数字音视频设备与系统提供高效经济的编解码技术，服务于高分辨率数字广播、高密度激光数字存储媒体、无线宽带多媒体通讯、互联网宽带流媒体等重大信息产业应用。AVS工作组制定的AVS系列标准，如AVS+，AVS2，已经广泛应用在国内视频应用中，国内视频编码标准发展也逐步跟上国际视频编码标准的步伐。2017年，国际标准组织开始制定下一代视频压缩标准VVC；AVS工作组发布第三代面向8K及5G产业应用的音视频编解码技术标准AVS3。
[0003]AVS3在保留了AVS2部分编码工具的同时，针对不同模块引入的新的编码工具，更加丰富的块划分方式、更精细的预测模式以及更灵活的变换核，提高了编码效率，同时也加大了编码的复杂度。总体性能对比结果来看，AVS3相比AVS2编码性能高出23.52％，时间复杂度增加了一倍，解码复杂度是AVS2参考软件的一半。相对HEVC平均编码性能提高了22.25％，时间复杂度大概是HEVC的7倍，解码时间略有上升。复杂度的增加不利于进行实时编码，也给硬件实现带来了困难，这大大限制了AVS3的应用和推广，因此降低AVS3的复杂度，提高编码速度的快速算法成为当下重点研究内容。
[0004]为了满足视频高清化发展需求，AVS3的编码单元(Coding Unit,CU)划分在上一代标准的基础上添加了水平/垂直方向的二叉树划分(Binary Tree，BT)和拓展四叉树划分(Extended Quad
‑
tree，EQT)方式。其中，EQT是字节跳动公司在AVS工作组第66次会议提出来的工字形划分方式，为AVS3所特有。具体划分方式如图1所示，首先判断CU是否为QT，若是，则直接四叉树划分，不是QT，则判断是否继续划分，不继续划分则结束判断，终止当前CU划分，继续划分则需判断是EQT还是BT，并且判断划分的方向为水平还是垂直。
[0005]过去针对不同的标准，专家曾经研究了不少十分有效的CU划分快速算法，主要有使用灰度共生矩阵计算编码单元的纹理方向信息或者利用递归划分产生的历史信息对某种水平或者垂直方向的划分方式进行跳过、利用人工智能中的卷积神经网络来进行CU形状和大小的划分决策训练等算法，这对AVS3有很重要的参考价值，但是仍需针对AVS3中的新技术进行优化研究。

技术实现思路

[0006]有鉴于此，本专利技术实施例提供一种编码时间短且编码损失相对稳定的，基于AVS3的帧内CU快速划分方法。
[0007]本专利技术的一方面提供了一种基于AVS3的帧内CU快速划分方法，包括：
[0008]父编码单元根据约束条件确定所有可选划分方式；
[0009]基于拉东算法和Sobel算子，从所述可选划分方式中选取目标划分方式进行编码单元快速划分；
[0010]遍历所有可选划分方式，递归计算每种划分方式对应的率失真优化代价；
[0011]将所述率失真优化代价最小时对应的可选划分方式作为最佳划分方式；
[0012]根据所述最佳划分方式对父编码单元进行划分。
[0013]可选地，所述基于拉东算法和Sobel算子，从所述可选划分方式中选取目标划分方式进行编码单元快速划分，包括：
[0014]通过Sobel算子对图像进行边缘特征提取，确定边缘特征信息；
[0015]对所述边缘特征信息进行拉东变换，提取出图像的方向特性；
[0016]对一个编码单元的拉东变换均分成垂直方向和水平方向，其中，所述垂直方向和所述水平方向均包括四个部分；
[0017]计算每个编码单元在垂直方向的第一拉东变换值和水平方向的第二拉东变换值；
[0018]根据所述第一拉东变换值和所述第二拉东变换值，对编码单元进行快速划分。
[0019]可选地，所述根据所述第一拉东变换值和所述第二拉东变换值，对编码单元进行快速划分，包括：
[0020]获取一个编码单元在垂直方向的四个部分的拉东变换值和水平方向的四个部分的拉东变换值；其中，所述垂直方向的四个部分的拉东变换值包括第一垂直拉东变换值、第二垂直拉东变换值、第三垂直拉东变换值、第四垂直拉东变换值；所述水平方向的四个部分的拉东变换值包括第一水平拉东变换值、第二水平拉东变换值、第三水平拉东变换值和第四水平拉东变换值；
[0021]当所述垂直方向的四个部分的拉东变换值和所述水平方向的四个部分的拉东变换值满足第一阈值条件时，跳过水平二叉树划分；
[0022]当所述垂直方向的四个部分的拉东变换值和所述水平方向的四个部分的拉东变换值满足第二阈值条件时，跳过垂直二叉树划分；
[0023]当所述垂直方向的四个部分的拉东变换值和所述水平方向的四个部分的拉东变换值满足第三阈值条件时，跳过扩展四叉树水平划分；
[0024]当所述垂直方向的四个部分的拉东变换值和所述水平方向的四个部分的拉东变换值满足第四阈值条件时，跳过扩展四叉树垂直划分。
[0025]可选地，所述根据所述第一拉东变换值和所述第二拉东变换值，对编码单元进行快速划分，还包括：
[0026]当所述垂直方向的四个部分的拉东变换值和所述水平方向的四个部分的拉东变换值满足第五阈值条件时，跳过当前编码单元的划分阶段。
[0027]本专利技术实施例的另一方面还提供了一种基于AVS3的帧内CU快速划分装置，包括：
[0028]第一模块，用于父编码单元根据约束条件确定所有可选划分方式；
[0029]第二模块，用于基于拉东算法和Sobel算子，从所述可选划分方式中选取目标划分方式进行编码单元快速划分；
[0030]第三模块，用于遍历所有可选划分方式，递归计算每种划分方式对应的率失真优化代价；
[0031]第四模块，用于将所述率失真优化代价最小时对应的可选划分方式作为最佳划分
方式；
[0032]第五模块，用于根据所述最佳划分方式对父编码单元进行划分。
[0033]本专利技术实施例的另一方面还提供了一种电子设备，包括处理器以及存储器；
[0034]所述存储器用于存储程序；
[0035]所述处理器执行所述程序实现如前面所述的方法。
[0036]本专利技术实施例的另一方面还提供了一种计算机可读存储介质，所述存储介质存储有程序，所述程序被处理器执行实现如前面所述的方法。
[0037]本专利技术实施例的另一方面还提供了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如前面所述的方法。
[0038]本专利技术的实施例通过父编码单元根据约束条件确定所有可选划分方式；基于拉东算法和S本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于AVS3的帧内CU快速划分方法，其特征在于，包括：父编码单元根据约束条件确定所有可选划分方式；基于拉东算法和Sobel算子，从所述可选划分方式中选取目标划分方式进行编码单元快速划分；遍历所有可选划分方式，递归计算每种划分方式对应的率失真优化代价；将所述率失真优化代价最小时对应的可选划分方式作为最佳划分方式；根据所述最佳划分方式对父编码单元进行划分。2.根据权利要求1所述的一种基于AVS3的帧内CU快速划分方法，其特征在于，所述基于拉东算法和Sobel算子，从所述可选划分方式中选取目标划分方式进行编码单元快速划分，包括：通过Sobel算子对图像进行边缘特征提取，确定边缘特征信息；对所述边缘特征信息进行拉东变换，提取出图像的方向特性；对一个编码单元的拉东变换均分成垂直方向和水平方向，其中，所述垂直方向和所述水平方向均包括四个部分；计算每个编码单元在垂直方向的第一拉东变换值和水平方向的第二拉东变换值；根据所述第一拉东变换值和所述第二拉东变换值，对编码单元进行快速划分。3.根据权利要求2所述的一种基于AVS3的帧内CU快速划分方法，其特征在于，所述根据所述第一拉东变换值和所述第二拉东变换值，对编码单元进行快速划分，包括：获取一个编码单元在垂直方向的四个部分的拉东变换值和水平方向的四个部分的拉东变换值；其中，所述垂直方向的四个部分的拉东变换值包括第一垂直拉东变换值、第二垂直拉东变换值、第三垂直拉东变换值、第四垂直拉东变换值；所述水平方向的四个部分的拉东变换值包括第一水平拉东变换值、第二水平拉东变换值、第三水平拉东变换值和第四水平拉东变换值；当所述垂直方向的四个部分的拉东变换值和所述水平方向的四个部分的拉东变换值满足第一阈值条件时，跳过水平二叉...

【专利技术属性】
技术研发人员：梁凡，徐贵，贾一凡，
申请(专利权)人：中山大学，
类型：发明
国别省市：