率失真优化量化方法、装置、存储介质及电子设备制造方法及图纸

本发明专利技术公开了一种率失真优化量化方法、装置、存储介质及电子设备。其中，上述方法包括：对视频帧中变换单元的所有最小子单元进行划分，得到变换子单元集合；其中，上述变换子单元集合中的每个变换子单元包括多个上述最小子单元；确定上述每个变换子单元的量化系数的代表值；基于上述代表值，依次计算在每个变换子单元作为Z字型扫描的最后一个非零系数单元时，上述变换单元对应的第一码率失真代价；将最小第一码率失真代价的Z字型扫描对应的变换子单元集合作为目标变换子单元集合；输出上述目标变换子单元集合中每个最小子单元对应的目标量化系数。本发明专利技术解决了相关技术中RDOQ模块需要消耗大量的编码时间，视频编码效率较低的技术问题。的技术问题。的技术问题。

Rate distortion optimization quantization method, device, storage medium and electronic equipment

【技术实现步骤摘要】
率失真优化量化方法、装置、存储介质及电子设备


[0001]本专利技术图像处理
，具体而言，涉及一种率失真优化量化方法、装置、存储介质及电子设备。

技术介绍

[0002]率失真优化量化(Rate Distortion Optimized Quantization，RDOQ)是AVS3视频编码标准中一项非常重要的技术，它能够有效的提升编码器的性能，但传统RDOQ模块需要计算变换单元中所有系数的码率
‑
失真代价(RD
‑
Cost)，这一过程计算复杂度较高，因此会导致RDOQ模块需要消耗大量的编码时间，视频编码效率较低。

技术实现思路

[0003]本专利技术实施例提供了一种率失真优化量化方法、装置、存储介质及电子设备，以至少解决相关技术中RDOQ模块需要消耗大量的编码时间，视频编码效率较低的技术问题。
[0004]根据本专利技术实施例的一个方面，提供了一种率失真优化量化方法，包括：对视频帧中变换单元的所有最小子单元进行划分，得到变换子单元集合；其中，上述变换子单元集合中的每个变换子单元包括多个上述最小子单元；确定上述每个变换子单元的量化系数的代表值；基于上述代表值，依次计算在每个变换子单元作为Z字型扫描的最后一个非零系数单元时，上述变换单元对应的第一码率失真代价；将最小第一码率失真代价的Z字型扫描对应的变换子单元集合作为目标变换子单元集合；输出上述目标变换子单元集合中每个最小子单元对应的目标量化系数。
[0005]根据本专利技术实施例的另一方面，还提供了一种率失真优化量化装置，包括：划分单元，对视频帧中变换单元的所有最小子单元进行划分，得到变换子单元集合；其中，上述变换子单元集合中的每个变换子单元包括多个上述最小子单元；第一确定单元，用于确定上述每个变换子单元的量化系数的代表值；计算单元，用于基于上述代表值，依次计算在每个变换子单元作为Z字型扫描的最后一个非零系数单元时，上述变换单元对应的第一码率失真代价；第二确定单元，用于将最小第一码率失真代价的Z字型扫描对应的变换子单元集合作为目标变换子单元集合；第一输出单元，用于输出上述目标变换子单元集合中每个最小子单元对应的目标量化系数。
[0006]根据本专利技术实施例的又一方面，还提供了一种电子设备，包括存储器和处理器，上述存储器中存储有计算机程序，上述处理器被设置为通过上述计算机程序执行上述的率失真优化量化方法。
[0007]根据本专利技术实施例的又一方面，还提供了一种计算机可读的存储介质，该计算机可读的存储介质中存储有计算机程序，其中，该计算机程序被设置为运行时执行上述率失真优化量化方法。
[0008]在本专利技术实施例中，采用了对视频帧中变换单元的所有最小子单元进行划分，得到变换子单元集合；其中，上述变换子单元集合中的每个变换子单元包括多个上述最小子
单元；确定上述每个变换子单元的量化系数的代表值；基于上述代表值，依次计算在每个变换子单元作为Z字型扫描的最后一个非零系数单元时，上述变换单元对应的第一码率失真代价；将最小第一码率失真代价的Z字型扫描对应的变换子单元集合作为目标变换子单元集合；输出上述目标变换子单元集合中每个最小子单元对应的目标量化系数的方法，在上述方法中，由于采用每个变换子单元的量化系数的代表值，无需对变换单元内所有的量化系数都进行最后非零系数位置决策，因此，不仅降低AVS3中RDOQ过程的计算复杂度，而且提高了RDOQ算法编码效率，进而解决了相关技术中RDOQ模块需要消耗大量的编码时间，视频编码效率较低的技术问题。
附图说明
[0009]此处所说明的附图用来提供对本专利技术的进一步理解，构成本申请的一部分，本专利技术的示意性实施例及其说明用于解释本专利技术，并不构成对本专利技术的不当限定。在附图中：
[0010]图1是根据本专利技术实施例的一种可选的率失真优化量化方法的应用环境的示意图；
[0011]图2是根据本专利技术实施例的另一种可选的率失真优化量化方法的应用环境的示意图；
[0012]图3是根据本专利技术实施例的一种可选的率失真优化量化方法的流程示意图；
[0013]图4是根据本专利技术实施例的一种可选的率失真优化量化方法的操作示意图；
[0014]图5是根据本专利技术实施例的另一种可选的率失真优化量化方法的操作示意图；
[0015]图6是根据本专利技术实施例的另一种可选的率失真优化量化方法的流程示意图；
[0016]图7是根据本专利技术实施例的一种可选的率失真优化量化装置的结构示意图；
[0017]图8是根据本专利技术实施例的一种可选的电子设备的结构示意图。
具体实施方式
[0018]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0019]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0020]根据本专利技术实施例的一个方面，提供了一种率失真优化量化方法，可选地，作为一种可选地实施方式，上述率失真优化量化方法可以但不限于应用于如图1所示的应用环境中。该应用环境中包括：与用户进行人机交互的终端设备102、网络104、服务器106。用户108
与终端设备102之间可以进行人机交互，终端设备102中运行有率失真优化量化应用程序。上述终端设备102中包括人机交互屏幕1022，处理器1024及存储器1026。人机交互屏幕1022用于呈现视频帧中的变换单元；处理器1024用于获取视频帧中的变换单元。存储器1026用于存储上述变换子单元集合，目标变换子单元集合，每个最小子单元对应的目标量化系数。
[0021]此外，服务器106中包括数据库1062及处理引擎1064，数据库1062中用于存储上述变换子单元集合，目标变换子单元集合，每个最小子单元对应的目标量化系数。处理引擎1064用于基于对视频帧中变换单元的所有最小子单元进行划分，得到变换子单元集合；其中，上述变换子单元集合中的每个变换子单元包括多个上述最小子单元；确定上述每个变换子单元的量化系数的代表值；基于上述代表值，依次计算在每个变换子单元作为Z字型扫描的最后一个非零系数单元时，上述变换单元对应的第一码率失真代价；将最小第一码率失真代价的Z字型扫描对应的变换子单元集合作为目标本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种率失真优化量化方法，其特征在于，包括：对视频帧中变换单元的所有最小子单元进行划分，得到变换子单元集合；其中，所述变换子单元集合中的每个变换子单元包括多个所述最小子单元；确定所述每个变换子单元的量化系数的代表值；基于所述代表值，依次计算在每个变换子单元作为Z字型扫描的最后一个非零系数单元时，所述变换单元对应的第一码率失真代价；将最小第一码率失真代价的Z字型扫描对应的变换子单元集合作为目标变换子单元集合；输出所述目标变换子单元集合中每个最小子单元对应的目标量化系数。2.根据权利要求1所述的方法，其特征在于，所述确定所述每个变换子单元的量化系数的代表值，包括：将所述每个变换子单元中所有最小子单元的量化系数的平均值作为所述代表值。3.根据权利要求1所述的方法，其特征在于，所述依次计算在每个变换子单元作为Z字型扫描的最后一个非零系数单元时，所述变换单元对应的第一码率失真代价，通过如下公式获得：J
j,coded
＝D
coded,j
+λ
·
R
coded,j
；
ꢀꢀꢀꢀꢀ
(2)J
j,uncoded
＝D
uncoded,j
+λ
·
R
uncoded,j
；
ꢀꢀꢀ
(3)其中，J
i,islast
代表当前变换子单元作为最后一个非零系数单元的第一码率失真代价，J
j,coded
代表编码当前变换子单元的量化系数所需要的码率失真代价，J
j,uncoded
代表舍去该量化系数所需要的码率失真代价，D
coded,j
，D
uncoded,j
分别对应编码当前量化系数以及舍去当前量化系数的失真参数；R
coded,j
，R
uncoded,j
分别对应编码当前量化系数以及舍去当前量化系数的码率，λ是拉格朗日系数。4.根据权利要求1所...

【专利技术属性】
技术研发人员：张鹏，徐锦畅，向国庆，
申请(专利权)人：浙江省北大信息技术高等研究院，
类型：发明
国别省市：