一种编码单元分割方法及其系统、装置、存储介质制造方法及图纸

本发明专利技术公开了一种编码单元分割方法及其系统、装置、存储介质，通过模式设定模块选取MERGE模式为第一次选层的默认模式，选择模块选取率失真代价最小的最优层，并在与最优层相邻的两层里以率失真代价为基准选取其中一层作为次优层，深度设定模块将最优层和次优层的深度设置为深度范围的两个端值后最终分割模块对编码单元进行分割，无须遍历当前编码单元所有的划分模式，从而有效降低编码器的计算复杂度，减少编码时间，提高编码效率。

A Coding Unit Segmentation Method and Its System, Device and Storage Medium

The invention discloses a coding unit partitioning method and its system, device and storage medium. The MERGE mode is selected as the default mode of the first layer selection by the mode setting module, the optimal layer with the lowest rate distortion cost is selected by the module, and one layer is selected as the sub-optimal layer in the two adjacent layers with the rate distortion cost as the benchmark, and the depth setting module takes the optimal layer as the sub-optimal layer. After setting the depths of the sub-optimal layer to the two end values of the depth range, the final segmentation module divides the coding unit without traversing all the partitioning modes of the current coding unit, thus effectively reducing the computational complexity of the encoder, reducing the coding time and improving the coding efficiency.

【技术实现步骤摘要】
一种编码单元分割方法及其系统、装置、存储介质
本专利技术涉及视频编码
，尤其是一种编码单元分割方法及其系统、装置、存储介质。
技术介绍
HEVC是视频编码标准发展历程中非常具有革命性的一代，它由MPEG和VCEG组织于2012年成立的视频联合协作小组(JCT-VC)所研发。HEVC在性能上相较于H.264更加优秀，它在同等视频质量下其压缩率可达到H.264的2倍。与H.264相比起来HEVC采用了例如图像可划分为互不重叠的树形编码单元CTU，一个CTU又能被划分为若干个编码单元CU，这种方法被称为基于四叉树的循环分层结构；而CU又可作为PU树和TU树的根节点；TU突破了原有的变换尺寸限制，可支持大小为4×4～32×32的编码变换；解码循环中的样点自适应补偿技术，在去方块滤波之后对重建样本进行滤波，以此改善解码序列的主观质量和压缩效率等。但同时这些新型编码结构和编码工具大幅度提高了编码器的计算复杂度，不利于该视频编码标准的产业化推广，编码器在编码时需要遍历当前CU所有的PU划分模式，即8种划分模式，通过率失真优化(RDO)找到具有最小率失真代价的一个，以此来判定当前CU是否需要划分为PU以及如何划分。这意味着率失真模型(RDO)需要评估CTU的所有编码单元CU，每一个编码单元CU的预测单元PU和变换单元TU，此外，在进行帧间预测时，每一种预测单元划分模式都需要进行运动估计，因此现有的这种编码方式所需的工作量是巨大的，编码效率时间长、效率低。
技术实现思路
为解决上述问题，本专利技术的目的在于提供一种编码单元分割方法及其系统、装置、存储介质，能够有效提高编码效率。本专利技术解决其问题所采用的技术方案是：第一方面，本专利技术实施例提出了一种编码单元分割方法，包括：选取MERGE模式作为第一次选层的默认模式；选取率失真代价最小的一层作为最优层，获取最优层对应的深度；在与最优层相邻的两层中，以率失真代价为基准选取其中一层作为次优层，获取次优层对应的深度；以最优层和次优层的深度作为深度范围的两个端值对编码单元进行分割。进一步，所述以率失真代价为基准选取其中一层作为次优层，包括：比较最优层的率失真代价与其相邻的两层的率失真代价的差值，选取差值小的一层作为次优层，或者直接比较与最优层相邻的两层的率失真代价，选取率失真代价小的作为次优层。进一步，选取最优层后，判断最优层的深度，若最优层的深度为1或者2，在与最优层相邻的两层中，以率失真代价为基准选取其中一层作为次优层；若最优层的深度为0，则直接将深度范围设置为0到1；若最优层的深度为3，则直接将深度范围设置为2到3。进一步，若次优层是较深的一层，则将较深的一层的深度作为深度范围的最大值，最优层的深度作为深度范围的最小值；否则将较浅的一层的深度作为深度范围的最小值，最优层的深度作为深度范围的最大值。进一步，采用2N*2N模式以最优层和次优层的深度作为深度范围的两个端值对编码单元进行分割。第二方面，本专利技术实施例还提出了一种编码单元分割系统，包括：模式设定模块，用于选取MERGE模式作为第一次选层的默认模式；选择模块，用于选取率失真代价最小的一层作为最优层，以及在与最优层相邻的两层中，以率失真代价为基准选取其中一层作为次优层；深度设定模块，用于获取最优层和次优层对应的深度，以及设定分割的深度范围；分割模块，用于对编码单元进行分割。进一步，所述选择模块比较最优层的率失真代价与其相邻的两层的率失真代价的差值，选取差值小的一层作为次优层，或者直接比较与最优层相邻的两层的率失真代价，选取率失真代价小的作为次优层。进一步，所述深度设定模块包括判断单元，所述判断单元用于判断最优层的深度，若最优层的深度为1或者2，在与最优层相邻的两层中，以率失真代价为基准选取其中一层作为次优层；若最优层的深度为0，则直接将深度范围设置为0到1；若最优层的深度为3，则直接将深度范围设置为2到3。进一步，若次优层是较深的一层，则所述深度设定模块将较深的一层的深度作为深度范围的最大值，将最优层的深度作为深度范围的最小值；否则所述深度设定模块将较浅的一层的深度作为深度范围的最小值，将最优层的深度作为深度范围的最大值。进一步，所述分割模块采用2N*2N模式以最优层和次优层的深度作为深度范围的两个端值对编码单元进行分割。第三方面，本专利技术实施例还提出了一种编码单元分割装置，包括：至少一个处理器；以及，与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术第一方面所述的方法。第四方面，本专利技术实施例还提出了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令用于使计算机执行本专利技术第一方面所述的方法。本专利技术实施例中提供的一个或多个技术方案，至少具有如下有益效果：本专利技术实施例提供的一种编码单元分割方法，通过以MERGE模式为第一次选层的默认模式，选取率失真代价最小的最优层，并在与最优层相邻的两层里以率失真代价为基准选取其中一层作为次优层，最终以最优层和次优层的深度作为深度范围的两个端值对编码单元进行分割，无须遍历当前编码单元所有的划分模式，从而有效降低编码器的计算复杂度，减少编码时间，提高编码效率。本专利技术实施例提供的一种编码单元分割系统，通过模式设定模块选取MERGE模式为第一次选层的默认模式，选择模块选取率失真代价最小的最优层，并在与最优层相邻的两层里以率失真代价为基准选取其中一层作为次优层，深度设定模块将最优层和次优层的深度设置为深度范围的两个端值后最终分割模块对编码单元进行分割，无须遍历当前编码单元所有的划分模式，从而有效降低编码器的计算复杂度，减少编码时间，提高编码效率。附图说明下面结合附图和实例对本专利技术作进一步说明。图1是本专利技术一种编码单元分割方法的一个实施例的示意图；图2是本专利技术一种编码单元分割方法的另一个实施例的示意图；图3是本专利技术一种编码单元分割系统的示意图；图4是本专利技术一种编码单元分割装置的示意图。具体实施方式为了使本专利技术的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本专利技术进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本专利技术，并不用于限定本专利技术。需要说明的是，如果不冲突，本专利技术实施例中的各个特征可以相互结合，均在本专利技术的保护范围之内。另外，虽然在系统示意图中进行了功能模块划分，在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于系统中的模块划分，或流程图中的顺序执行所示出或描述的步骤。HEVC是视频编码标准发展历程中非常具有革命性的一代，它由MPEG和VCEG组织于2012年成立的视频联合协作小组(JCT-VC)所研发。HEVC在性能上相较于H.264更加优秀，它在同等视频质量下其压缩率可达到H.264的2倍。与H.264相比起来HEVC采用了例如图像可划分为互不重叠的树形编码单元CTU，一个CTU又能被划分为若干个编码单元CU，这种方法被称为基于四叉树的循环分层结构；而CU又可作为PU树和TU树的根节点；TU突破了原有的变换尺寸限制，可支持大小为4×4～32×32的编码变换；解码循环中的样点自适应补偿技术，在去方块滤波之后对重建本文档来自技高网...

【技术保护点】
1.一种编码单元分割方法，其特征在于，包括：选取MERGE模式作为第一次选层的默认模式；选取率失真代价最小的一层作为最优层，获取最优层对应的深度；在与最优层相邻的两层中，以率失真代价为基准选取其中一层作为次优层，获取次优层对应的深度；以最优层和次优层的深度作为深度范围的两个端值对编码单元进行分割。

【技术特征摘要】
1.一种编码单元分割方法，其特征在于，包括：选取MERGE模式作为第一次选层的默认模式；选取率失真代价最小的一层作为最优层，获取最优层对应的深度；在与最优层相邻的两层中，以率失真代价为基准选取其中一层作为次优层，获取次优层对应的深度；以最优层和次优层的深度作为深度范围的两个端值对编码单元进行分割。2.根据权利要求1所述的一种编码单元分割方法，其特征在于：所述以率失真代价为基准选取其中一层作为次优层，包括：比较最优层的率失真代价与其相邻的两层的率失真代价的差值，选取差值小的一层作为次优层，或者直接比较与最优层相邻的两层的率失真代价，选取率失真代价小的作为次优层。3.根据权利要求1所述的一种编码单元分割方法，其特征在于：选取最优层后，判断最优层的深度，若最优层的深度为1或者2，在与最优层相邻的两层中，以率失真代价为基准选取其中一层作为次优层；若最优层的深度为0，则直接将深度范围设置为0到1；若最优层的深度为3，则直接将深度范围设置为2到3。4.根据权利要求1所述的一种编码单元分割方法，其特征在于：若次优层是较深的一层，则将较深的一层的深度作为深度范围的最大值，最优层的深度作为深度范围的最小值；否则将较浅的一层的深度作为深度范围的最小值，最优层的深度作为深度范围的最大值。5.一种编码单元分割系统，其特征在于，包括：模式设定模块，用于选取MERGE模式作为第一次选层的默认模式；选择模块，用于选取率失真代价最小的一层作为最优层，以及在与最优层相邻的两层中，以率失真代价为基准选取其中一层作为次优层；深度设定模块...

【专利技术属性】
技术研发人员：张昊，李明娟，牟凡，冯冰雪，李诚，
申请(专利权)人：中南大学，
类型：发明
国别省市：湖南,43