一种基于扫描线并行的率失真优化量化方法技术

本发明专利技术属于AVS3视频编码领域，具体涉及一种基于扫描线并行的率失真优化量化方法，在完成预量化过程之后，采用列扫描顺序对预量化系数进行并行计算；每次计算多组预量化系数数据，在多组数据比较下确定最优量化系数；之后对非零位置进行并行决策，确定扫描线上最优非零位置。最后进行移位末位系数置零操作。本发明专利技术的方法在RDOQ中，提出了通过局部性优化，在符合zig

【技术实现步骤摘要】
一种基于扫描线并行的率失真优化量化方法


[0001]本专利技术属于AVS3视频编码领域，具体涉及一种基于扫描线并行的率失真优化量化方法。

技术介绍

[0002]近些年视频数据爆炸式增长，相关的视频压缩编码标准不断被提出。其中，视频压缩编码标准AVS3能够较好地减轻视频数据的传输和存储负担。而率失真优化量化(RDOQ)技术在第三代音频视频编码标准(AVS3)中提供了显著的编码增益，其中涉及到对最优量化系数的复杂计算，一定程度上增加了量化的复杂性。
[0003]对于AVS3的RDOQ技术，主要从以下四个阶段进行优化。
[0004]1.预量化过程阶段。
[0005]2.最优系数决策(OCD)阶段。
[0006]3.最后一个非零位置决策(LNPD)阶段。
[0007]4.零值设置(ZS)阶段。
[0008]在RDOQ过程中，所有的系数都是按照zig
‑
zag扫描顺序逐个搜索的，可并行度低，不利于RDOQ的实时处理。虽然有采用依赖固定的方法提高并行性，但是对编码性能有极大的影响。由于RDO本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于扫描线并行的率失真优化量化方法，其特征在于如下步骤：在完成预量化过程之后，采用列扫描顺序对预量化系数进行并行计算；每次计算多组预量化系数数据，在多组数据比较下确定最优量化系数；之后对非零位置进行并行决策，确定扫描线上最优非零位置。最后进行移位末位系数置零操作。2.如权利要求1所述的基于扫描线并行的率失真优化量化方法，其特征在于：列扫描顺序中，将第一列和最后一行的坐标点的run值依照公式(3)初始化，level值依照公式(4)初始化，具体公式如下：具体公式如下：其中，level值表示RD代价最小的最佳量化值，即最优系数量化值；run表示两个非零系数之间0的个数，即游程长度；在第一列和最后一行的前提下，i表示当前TU块的行坐标，j表示当前TU块的列坐标，为公式(1)中的第i行j列的预量化系数。3.如权利要求2所述的基于扫描线并行的率失真优化量化方法，其特征在于：采用局部依赖保留，并分成实线扫描线和虚线扫描线。4.如权利要求3所述的基于扫描线并行的率失真优化量化方法，其特征在于：对于实线扫描线：实现扫描线区域获取前一个坐标点的依赖值；定义L
(i,j)
为决策变量如下所示：其中，i∈[0,高度
‑
1]表示当前TU块的行坐标，j∈[0,宽度
‑
1]表示当前TU块的例坐标；依据当前坐标点的预量化系数确定当前坐标点决策变量的取值；对于两个非零系数坐标块之间依赖run的更新，通过决策变量来体现，具体公式如下所示：其中为第k条扫描线(i，j)坐标点下的run值；对于当前依赖level的更新，由上一个非零的最优系数决定，在该前提下，具体公式如下所示：
其中，i∈[0,高度
‑
2]表示当前TU块的行坐标，...

【专利技术属性】
技术研发人员：戎亿，黄晓峰，唐然，崔燕，周洋，殷海兵，陆宇，
申请(专利权)人：浙江省经济信息中心浙江省价格研究所，
类型：发明
国别省市：