一种确定RDOQ过程中最优量化值的方法及装置制造方法及图纸

本发明专利技术涉及视频编码领域，特别是涉及一种确定率失真优化量化RDOQ过程中最优量化值的方法及装置，以达到降低编码复杂度的目的，节约编码时间的目的，该方法为：根据当前变换系数的最大量化值有选择地减少候选量化值数目，给出提前终止变换系数的率失真优化量化过程的阈值，并且在最大量化值大于某个阈值时完全跳过率失真优化量化过程，直接将当前变换系数的最大量化值作为最优的量化值，因此不会增加编码过程的计算量或者修改解码端，在几乎不影响视频质量的同时降低编码码率和复杂度，达到节约编码时间的目的。

【技术实现步骤摘要】

本专利技术涉及视频编码领域，特别是涉及一种确定率失真优化量化RDOQ过程中最优量化值的方法及装置。
技术介绍
在各种图像、视频的有损编码技术中，如联合图像专家小组(JointPhotographicExpertsGroup，JPEG)，活动图像专家组(MovingPictureExpertsGroup，MPEG-2)，H.264等，量化技术是去除图像和视频冗余的关键技术，通过该项技术能够达到压缩图像和视频的目的。但是，量化技术会带来编码失真，造成重建图像和视频的质量较低。因此，如何在提高编码的压缩效率的同时降低因量化带来的失真影响，是视频编码研究的核心问题。率失真优化方法能够有效地权衡图像的失真和编码比特数两方面的因素，能够在获得尽可能好的视频质量的同时采用最少的编码码率。因此，在量化过程中结合率失真优化方法，能够实现有效地平衡码率与失真两方面因素，该方法具体描述为，通过标准量化过程，获得变换系数及其对应的最大量化值和候选量化值，针对存在多个不同的候选量化值的变换系数，选本文档来自技高网...

【技术保护点】
一种确定率失真优化量化RDOQ过程中最优量化值的方法，其特征在于，包括：按照预设的扫描顺序依次获取待编码单元内每一个变换系数的最大量化值Amax，并基于获得的各个最大量化值Amax分别生成相应的候选量化值集合，其中，所述最大量化值Amax为0或正整数；按照所述扫描顺序依次将每一个变换系数的最大量化值Amax与预设的第一阈值进行比较；每比较一次，若确定当前选取的变换系数的最大量化值Ama×小于预设的第一阈值，则计算相应的候选量化值集合中每一个候选量化值的编码代价，并将编码代价最小的候选量化值作为所述当前选取的变换系数的最优量化值；若确定当前选取的变换系数的最大量化值Amax大于等于预设的第一阈值...

【技术特征摘要】
1.一种确定率失真优化量化RDOQ过程中最优量化值的方法，其特征在
于，包括：
按照预设的扫描顺序依次获取待编码单元内每一个变换系数的最大量化
值Amax，并基于获得的各个最大量化值Amax分别生成相应的候选量化值集合，
其中，所述最大量化值Amax为0或正整数；
按照所述扫描顺序依次将每一个变换系数的最大量化值Amax与预设的第
一阈值进行比较；
每比较一次，若确定当前选取的变换系数的最大量化值Ama×小于预设的第
一阈值，则计算相应的候选量化值集合中每一个候选量化值的编码代价，并将
编码代价最小的候选量化值作为所述当前选取的变换系数的最优量化值；
若确定当前选取的变换系数的最大量化值Amax大于等于预设的第一阈值，
则直接确定所述当前选取的变换系数的最大量化值Amax为所述当前选取的变
换系数的最优量化值。
2.如权利要求1所述的方法，其特征在于，按照预设的扫描顺序依次获
取待编码单元内每一个变换系数的最大量化值Amax，并基于获得的各个最大量
化值Amax分别生成相应的候选量化值集合，包括：
按照预设的扫描顺序依次获取待编码单元内每一个变换系数的最大量化
值Amax；
若当前获取的变换系数的最大量化值Amax＝1，则基于所述最大量化值Amax生成的相应的候选量化值集合包含0和Amax；
若当前获取的变换系数的最大量化值Amax>1，则基于所述最大量化值Amax生成的相应的候选量化值集合包含0、Amax-1和Amax。
3.如权利要求1所述的方法，其特征在于，按照预设的扫描顺序依次获
取待编码单元内每一个变换系数的最大量化值Amax，进一步包括：
若当前获取的变换系数的最大量化值Amax＝0，则直接将0作为当前获取的

\t变换系数的最优量化值。
4.如权利要求1或2或3所述的方法，其特征在于，针对所述待编码单
元中的每一个变换系数确定对应的最优量化值之后，进一步包括：
当确定所述待编码单元的尺寸大于N×N且所述待编码单元中存在包含非
零量化值的至少一个系数组CG时，针对所述至少一个CG跳过RDOQ过程中
的编码代价计算过程，其中，所述CG中包含有设定数目的变换系数，N为预
设的正整数；
或者，
当确定所述待编码单元的尺寸小于等于N×N且所述待编码单元中存在包
含非零量化值的至少一个系数组CG时，进一步判断所述至少一个CG内非零
量化值的数目是否小于或等于n且所述非零量化值均为1，若是，则针对所述
至少一个CG执行RDOQ过程，否则，针对所述至少一个CG跳过RDOQ过
程，其中，所述CG中包含有设定数目的变换系数，N为预设的正整数，n为
预设的正整数。
5.如权利要求1-4任一项所述的方法，其特征在于，当确定所述待编码
单元的尺寸大于N×N且所述待编码单元中存在包含非零量化值的至少一个CG
时，针对所述至少一个CG跳过RDOQ过程中的编码代价计算过程，包括：
确定所述待编码单元的尺寸大于N×N且所述待编码单元中存在包含非零
量化值的至少一个CG时，进一步判断所述至少一个CG内的非零量化值的数
目是否小于或等于m个且所述非零量化值均为1，若是，则将所述至少一个
CG内的非零量化值重置为0，并针对所述至少一个CG跳过RDOQ过程中的
编码代价计算过程；否则，直接针对所述至少一个CG跳过RDOQ过程，其中，
m为预设的正整数。
6.一种确定率失真优化量化RDOQ过程中最优量化值的方法，其特征在
于，包括：
按照预设的扫描顺序依次获取待编码单元内每一个变换系数的最大量化

\t值Amax，并基于获得的各个最大量化值Amax分别生成相应的候选量化值集合，
其中，所述最大量化值Amax为0或正整数；
按照所述扫描顺序依次将每一个变换系数的最大量化值Amax与预设的第
一阈值进行比较；
每比较一次，若确定当前选取的变换系数的最大量化值Ama×小于预设的第
一阈值，则计算相应的候选量化值集合中每一个候选量化值的编码代价，并将
编码代价最小的候选量化值作为所述当前选取的变换系数的最优量化值；
若确定当前选取的变换系数的最大量化值Amax大于等于预设的第一阈值
且小于预设的第二阈值，则计算相应的候选量化值集合中Amax和Amax-1的编
码代价，并将编码代价最小的候选量化值作为所述当前选取的变换系数的最优
量化值；
若确定当前选取的变换系数的最大量化值Amax大于等于预设的第二阈值，
则直接确定所述当前选取的变换系数的最大量化值Amax为所述当前选取的变
换系数的最优量化值。
7.如权利要求6所述的方法，其特征在于，按照预设的扫描顺序依次获
取待编码单元内每一个变换系数的最大量化值Amax，并基于获得的各个最大量
化值Amax分别生成相应的候选量化值集合，包括：
按照预设的扫描顺序依次获取待编码单元内每一个变换系数的最大量化
值Amax；
若当前获取的变换系数的最大量化值Amax＝1，则基于所述最大量化值Amax生成的相应的候选量化值集合包含0和Amax；
若当前获取的变换系数的最大量化值Amax>1，则基于所述最大量化值Amax生成的相应的候选量化值集合包含0、Amax-1和Amax。
8.如权利要求6所述的方法，其特征在于，按照预设的扫描顺序依次获
取待编码单元内每一个变换系数的最大量化值Amax，进一步包括：
若当前获取的变换系数的最大量化值Amax＝0，则直接将0作为当前获取的

\t变换系数的最优量化值。
9.如权利要求6或7或8所述的方法，其特征在于，针对所述待编码单
元中的每一个变换系数确定对应的最优量化值之后，进一步包括：
当确定所述待编码单元的尺寸大于N×N且所述待编码单元中存在包含非
零量化值的至少一个系数组CG时，针对所述至少一个CG跳过RDOQ过程中
的编码代价计算过程，其中，所述CG中包含有设定数目的变换系数，N为预
设的正整数；
或者，
当确定所述待编码单元的尺寸小于等于N×N且所述待编码单元中存在包
含非零量化值的至少一个系数组CG时，进一步判断所述至少一个CG内非零
量化值的数目是否小于或等于n且所述非零量化值均为1，若是，则针对所述
至少一个CG执行RDOQ过程，否则，针对所述至少一个CG跳过RDOQ过
程，其中，所述CG中包含有设定数目的变换系数，N为预设的正整数，n为
预设的正整数。
10.如权利要求6-9所述的方法，其特征在于，当确定所述待编码单元的
尺寸大于N×N且所述待编码单元中存在包含非零量化值的至少一个CG时，
针对所述至少一个CG跳过RDOQ过程中的编码代价计算过程，包括：
确定所述待编码单元的尺寸大于N×N且所述待编码单元中存在包含非零
量化值的至少一个CG时，进一步判断所述至少一个CG内的非零量化值的数
目是否小于或等于m个且所述非零量化值均为1，若是，则将所述至少一个
CG内的非零量化值重置为0，并针对所述至少一个CG跳过RDOQ过程中的
编码代价计算过程；否则，直接针对所述至少一个CG跳过RDOQ过程，其中，
m为预设的正整数。
11.一种确定率失真优化量化RDOQ过程中最优量化值的装置，其特征在
于，包括：
...

【专利技术属性】
技术研发人员：刘星宇，陈渝，林聚财，张兴明，
申请(专利权)人：浙江大华技术股份有限公司，
类型：发明
国别省市：浙江;33