一种率失真优化量化方法、装置、设备及存储介质制造方法及图纸

本申请公开了一种率失真优化量化方法、装置、设备及存储介质，该方法包括：当对视频数据编码时，获取对视频数据中各帧图像数据划分的变换单元，变换单元中包含多个系数组；在多个系数组中检测变换系数非全零的系数组；若检测到变换系数非全零的系数组，则以倒序的方式对变换系数非全零的系数组计算最优量化系数；根据最优量化系数确定是否将系数组编码为变换系数全零的系数组。本实施例通过提前检测全零块，省略一些变换系数全零的系数组，节省后续计算的时间，可以在保持率失真优化量化的收益的情况下降低率失真优化量化的时间复杂度，使其可应用于一些对视频编码的时间复杂度有较高要求的场景。高要求的场景。高要求的场景。

【技术实现步骤摘要】
一种率失真优化量化方法、装置、设备及存储介质


[0001]本申请涉及视频编码的
，尤其涉及一种率失真优化量化方法、装置、设备及存储介质。

技术介绍

[0002]RDOQ(Rate
‑
Distortion Optimized Quantization，率失真优化量化)。将视频编码的量化过程与率失真优化原理结合，使码率满足目标的条件下编码失真尽量小。
[0003]在X265(一个用于编码符合高效率视频编码(HEVC(Overview of the High Efficiency Video Coding)/H.265)标准的视频的开源自由软件及函数库)中，RDOQ在性能上有3％
‑
5％的收益，同时有12％左右的速度损失。
[0004]但是，RDOQ的复杂度较高，时间耗损较高，难以应用于一些对视频编码的时间复杂度有较高要求的场景。

技术实现思路

[0005]本申请提供了一种率失真优化量化方法、装置、设备及存储介质，以解决如何在保持RDOQ的收益的情况下降低RDOQ的时间复杂度。
[0006]根据本申请的一方面，提供了一种率失真优化量化方法，包括：
[0007]当对视频数据编码时，获取对所述视频数据中各帧图像数据划分的变换单元，所述变换单元中包含多个系数组；
[0008]在多个所述系数组中检测变换系数非全零的系数组；
[0009]若检测到变换系数非全零的系数组，则以倒序的方式对所述变换系数非全零的所述系数组计算最优量化系数；
[0010]根据所述最优量化系数确定是否将所述系数组编码为变换系数全零的系数组。
[0011]根据本申请的另一方面，提供了一种率失真优化量化装置，包括：
[0012]变换单元获取模块，用于当对视频数据编码时，获取对所述视频数据中各帧图像数据划分的变换单元，所述变换单元中包含多个系数组；
[0013]全零块检测模块，用于在多个所述系数组中检测变换系数非全零的系数组；
[0014]最优量化系数计算模块，用于若检测到变换系数非全零的系数组，则以倒序的方式对所述变换系数非全零的所述系数组计算最优量化系数；
[0015]全零块决策模块，用于根据所述最优量化系数确定是否将所述系数组编码为变换系数全零的系数组。
[0016]根据本申请的另一方面，提供了一种率失真优化量化设备，所述率失真优化量化设备包括：
[0017]至少一个处理器；以及
[0018]与所述至少一个处理器通信连接的存储器；其中，
[0019]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序
被所述至少一个处理器执行，以使所述至少一个处理器能够执行本申请任一实施例所述的率失真优化量化方法。
[0020]根据本申请的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序用于使处理器执行时实现本申请任一实施例所述的率失真优化量化方法。
[0021]根据本申请的另一方面，提供了一种计算机程序产品，所述计算机程序产品包括计算机程序，所述计算机程序在被处理器执行时实现本申请任一实施例所述的率失真优化量化方法。
[0022]在本实施例中，当对视频数据编码时，获取对视频数据中各帧图像数据划分的变换单元，变换单元中包含多个系数组；在多个系数组中检测变换系数非全零的系数组；若检测到变换系数非全零的系数组，则以倒序的方式对变换系数非全零的系数组计算最优量化系数；根据最优量化系数确定是否将系数组编码为变换系数全零的系数组。本实施例通过提前检测全零块，省略一些变换系数全零的系数组，节省后续计算的时间，而提前检测全零块与最优量化系数没有明显的因果关系，因而可以在保持率失真优化量化的收益的情况下降低率失真优化量化的时间复杂度，使其可应用于一些对视频编码的时间复杂度有较高要求的场景。
[0023]应当理解，本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征，也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0024]为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0025]图1是根据本申请实施例一提供的一种率失真优化量化方法的流程图；
[0026]图2是根据本申请实施例一提供的HEVC的架构示意图；
[0027]图3是根据本申请实施例二提供的一种率失真优化量化方法的流程图；
[0028]图4是根据本申请实施例三提供的一种率失真优化量化方法的流程图；
[0029]图5是根据本申请实施例四提供的一种率失真优化量化装置的结构示意图；
[0030]图6是实现本申请实施例的率失真优化量化方法的率失真优化量化设备的结构示意图。
具体实施方式
[0031]为了使本
的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分的实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。
[0032]需要说明的是，本申请的说明书和权利要求书及上述附图中的术语“第一”、“第
二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0033]实施例一
[0034]图1为本申请实施例一提供的一种率失真优化量化方法的流程图，本实施例可适用于RDOQ过程中用较小的时间复杂度计算最佳量化值，从而降低编码复杂度的同时节省编码时间的情况，该方法可以由率失真优化量化装置来执行，该率失真优化量化装置可以采用硬件和/或软件的形式实现，该率失真优化量化装置可配置于率失真优化量化设备中。
[0035]率失真优化量化设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。率失真优化量化设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。
[0036]如图1所示，该方法包括：
[0037]步骤101本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种率失真优化量化方法，其特征在于，包括：当对视频数据编码时，获取对所述视频数据中各帧图像数据划分的变换单元，所述变换单元中包含多个系数组；在多个所述系数组中检测变换系数非全零的系数组；若检测到变换系数非全零的系数组，则以倒序的方式对所述变换系数非全零的所述系数组计算最优量化系数；根据所述最优量化系数确定是否将所述系数组编码为变换系数全零的系数组。2.根据权利要求1所述的方法，其特征在于，所述在多个所述系数组中检测变换系数非全零的系数组，包括：查询每个所述系数组的交流系数、直流系数；分别确定对所述交流系数设置的第一阈值、对所述直流系数设置的第二阈值；若所述交流系数小于所述第一阈值、且所述直流系数小于所述第二阈值，则确定所述系数组的变换系数全零；若所述交流系数大于或等于所述第一阈值，和/或，所述直流系数大于或等于所述第二阈值，则确定所述系数组的变换系数非全零。3.根据权利要求2所述的方法，其特征在于，所述分别确定对所述交流系数设置的第一阈值、对所述直流系数设置的第二阈值，包括：查询所述图像数据的类型；分别对所述交流系数设置与所述类型适配的第一阈值、对所述直流系数设置与所述类型适配的第二阈值。4.根据权利要求3所述的方法，其特征在于，所述分别对所述交流系数设置与所述类型适配的第一阈值、对所述直流系数设置与所述类型适配的第二阈值，包括：若所述类型为帧内编码帧，则将第一数值设置为所述交流系数对应的第一阈值、将所述第一数值设置为所述直流系数对应的第二阈值；若所述类型为帧间编码帧，则将第二数值设置为所述交流系数对应的第一阈值、将第三数值设置为所述直流系数对应的第二阈值，所述第二数值小于所述第三数值。5.根据权利要求1所述的方法，其特征在于，所述以倒序的方式对所述变换系数非全零的所述系数组计算最优量化系数，包括：以倒序的方式遍历所述变换系数非全零的所述系数组，并将所述变换系数量化为量化系数；将所述量化系数转换为至少两个量化值；分别基于每个所述量化值计算率失真代价；若某个所述率失真代价最低，则选择所述率失真代价对应的所述量化值为所述变换系数下的最优量化系数。6.根据权利要求5所述的方法，其特征在于，所述将所述变换系数量化为量化系数，包括：查询所述变换系数的量化步长；计算所述变换系数的绝对值与所述量化步长之间的比值，作为量化系数。7.根据权利要求5所述的方法，其特征在于，所述将所述量化系数转换为至少两个量化
值，包括：对所述量化系数向下取整，得到其中一个量化值；对所述量化系数向上取整，得到另外一个量化值。8.根据权利要求1所述的方法，其特征在于，所述根据所述最优量化系数确定是否将所述系数组编码为变换系数全零的系数组，包括：针对所述系数组对应的每个像素点，计算在所述最优量化系数下对所述变换系数编码的最优代价；针对所述系数组对应的每个像素点，计算未对所述变换系数编码时的失真；将所述最优代价减去所...

【专利技术属性】
技术研发人员：张旭，
申请(专利权)人：有半岛北京信息科技有限公司，
类型：发明
国别省市：