反量化变换系数的方法及装置制造方法及图纸

本发明专利技术提供一种从量化电平中反量化变换系数的装置及方法。依据本发明专利技术的实施例通过在重建变换系数之前自适应地截取量化电平来避免反量化的变换系数的溢出。在一个实施例中，所述方法包含接收用于变换单元的变换系数的解码的量化电平，其中此解码的量化电平已被熵解码器解码或正在由熵解码器处理。决定截取范围并随后将解码的量化电平截取至截取范围以产生截取处理后的量化电平。利用截取处理后的量化电平产生反量化的变换系数。在另一个实施例中，解码的量化电平总是被截取至[-N,M]，其中M和N都是正整数。

【技术实现步骤摘要】
【国外来华专利技术】反量化变换系数的方法及装置交叉引用本专利技术主张以下优先权：2011年12月15日提交、专利技术名称为“MethodofClippingTransformedCoefficientsbeforeDe-Quantization”、申请号为PCT/CN2011/084083的PCT专利申请，该PCT专利申请的全部内容在此引用并合并参考。
本专利技术是有关于视频编码，更具体地说，本专利技术是有关于用于高效视频编码(HighEfficiencyVideoCoding,以下简称为HEVC)的变换系数(transformcoefficients)的反量化(de-quantization)。
技术介绍
HEVC是由视频编码联合组(JointCollaborativeTeamonVideoCoding,JCT-VC)开发的一种新的国际视频编码标准。HEVC采用混合的、基于区块(block-based)的运动补偿的类离散余弦变换(DiscreteCosineTransformation,以下简称为DCT)编码架构。用于压缩的基本单元被称为编码单元(CodingUnit,以下简称为CU)，为2N×2N方块，且每个CU可递归地(recursively)切分为四个更小地CU，直至达到预定的最小尺寸。每个CU包含一个或多个可变区块尺寸的预测单元(PredictionUnit,以下简称为PU)和变换单元(TransformUnit,以下简称为TU)。对于每个PU来说，可选择帧内图像预测或帧间图像预测。每个TU皆由空间区块变换处理，然后对每个TU的变换系数进行量化。对HEVC来说，其允许的最小TU尺寸为4×4。变换系数的量化在视频编码的比特率和品质控制中占有重要地位。量化步长集合用于将变换系数量化为量化电平。较大的量化步长尺寸会导致较低的比特率和较低的品质。另一方面，较小的量化步长尺寸则会产生更高的比特率和更高的品质。量化处理的直接实施方式可包含除法运算，除法运算在基于硬件的实施方式中更加复杂，且在基于软件的实施方式中会消耗更多的计算资源。相应地，本领域也开发了用于无除法(division-free)量化处理的各种技术。在HEVC测试模型版本5(HEEVTestModelRevision5,以下简称为HM-5.0)中，量化处理如下所述。参数集合定义如下：B＝输入源视频的位宽度(bitwidth)或位深度(bitdepth)DB＝B-8N＝TU的变换尺寸M＝log2(N)Q[x]＝f(x),其中f(x)＝{26214,23302,20560,18396,16384,14564},x＝0,…,5,及IQ[x]＝g(x),其中g(x)＝{40,45,51,57,64,72},x＝0,…,5.Q[x]及IQ[x]分别被称为量化步长与反量化步长。所述量化处理则根据下述方程式执行：qlevel＝(coeff*Q[QP％6]+offset)>>(21+QP/6–M–DB),其中offset＝1<<(20+QP/6–M–DB),(1)其中“％”为求模运算符(modulooperator)。而所述反量化处理根据下式执行：coeffQ＝((qlevel*IQ[QP％6]<<(QP/6))+offset)>>(M-1+DB),其中offset＝1<<(M-2+DB)。(2)方程式(1)和(2)中的变量qlevel代表变换系数的量化电平。方程式(2)中的变量coeffQ代表反量化的变换系数。IQ[x]表示反量化步长(也称为反量化步长尺寸)，以及QP代表量化参数。方程式(1)和(2)中的“QP/6”代表QP除以6以后的整数部分。如方程式(1)和(2)所示，量化和反量化处理是通过整数乘法(integermultiplication)之后再进行算术移位(arithmeticshift)来实现的。方程式(1)和(2)中均加上了偏移值(offsetvalue)，以实现利用舍入(rounding)的整数转换(integerconversion)。对于HEVC来说，量化电平的位深度为16位(包括用于符号(sign)的1位)。换句话说，量化电平是用2字节(byte)或16位字(word)来表示。由于IQ(x)<＝72且QP<＝51，IQ[x]的动态范围为7位，且“<<(QP/6)”运算符执行高达8位的向左算术移位。相应地，反量化的变换系数coeffQ(即“(qlevel*IQ[QP％6])<<(QP/6)”)的动态范围为31位(16+7+8)。从而，由于反量化处理使用32位数据表示，因此方程式(2)所描述的反量化操作不会导致溢出(overflow)。然而，当引入量化矩阵时，反量化操作可修改为如下的方程式(3)至(5)所示：iShift＝M-1+DB+4.(3)若(iShift>QP/6),coeffQ[i][j]＝(qlevel[i][j]*W[i][j]*IQ[QP％6]+offset)>>(iShift-QP/6),其中offset＝1<<(iShift-QP/6-1),其中i＝0…nW-1,j＝0..nH-1(4)否则coeffQ[i][j]＝(qlevel[i][j]*W[i][j]*IQ[QP％6])<<(QP/6-iShift)(5)其中，“[i][j]”表示变换单元内变换系数的位置(也称为索引)，W代表量化矩阵，nW和nH为变换的宽度和高度。若n代表变换系数的量化电平的动态范围，则动态范围n必须满足以下条件以避免溢出：n+w+iq+QP/6-M+DB-3≤32,(6)其中w为量化矩阵W的动态范围，iq为IQ[x]的动态范围，以及反量化的或重建的变换系数的位深度为32位。若量化矩阵W的动态范围为8位，则当QP＝51,M＝2且DB＝0时，方程式(3)至(5)所描述的重建变换系数的动态范围变为34位(16+8+7+3)。当反量化处理使用32位数据表示时，根据方程式(3)至(5)取得的重建的变换系数可能溢出并导致系统失败。因此，需要开发一种变换系数重建的机制，以避免可能的溢出。
技术实现思路
本专利技术的实施例揭露一种从量化电平中反量化变换系数的装置及方法。依据本专利技术的实施例通过在重建变换系数之前截取量化电平来避免反量化的变换系数的溢出。在本专利技术的一个实施例中，所述方法包含：接收与变换单元相关的变换系数的量化电平；截取量化电平以产生截取处理后的量化电平；以及利用截取处理后的量化电平产生反量化的变换系数。所述量化电平可在第一截取条件下被截取至第一范围或者在第二截取条件下被截取至第二范围。第一范围可对应于与量化电平的位深度相关的一个固定范围，而第二范围可与量化电平的动态范围相关。本专利技术的实施例亦描述了解码的量化电平的截取条件的决定。在一个实施例中，截取条件是通过比较第一权重值与一个阈值来决定的，其中所述第一权重值对应于变换单元的量化矩阵、量化参数、反量化步长、源本文档来自技高网...

【技术保护点】
一种从量化电平中反量化变换系数的方法，包含：接收用于变换单元的该变换系数的解码的量化电平，其中该解码的量化电平已被熵解码器解码或正在由该熵解码器解码；决定用于该解码的量化电平的截取范围；将该解码的量化电平截取至该截取范围以产生截取处理后的量化电平；以及利用该截取处理后的量化电平产生反量化的变换系数。

【技术特征摘要】
【国外来华专利技术】2011.12.15 CN PCT/CN2011/0840831.一种从量化电平中反量化变换系数的方法，包含：接收用于变换单元的该变换系数的解码的量化电平，其中该解码的量化电平已被熵解码器解码或正在由该熵解码器解码；决定用于该解码的量化电平的截取范围；决定用于该解码的量化电平的截取条件；依据该截取条件将该解码的量化电平截取至该截取范围以产生截取处理后的量化电平；以及利用该截取处理后的量化电平产生反量化的变换系数。2.根据权利要求1所述的从量化电平中反量化变换系数的方法，其特征在于：该截取条件有关于量化矩阵、量化参数、反量化矩阵、反量化参数、反量化步长、源视频的位深度、该变换单元的变换尺寸、该解码的量化电平的值、预定义值、或者其任意组合。3.根据权利要求2所述的从量化电平中反量化变换系数的方法，其特征在于，该解码的量化电平被截取至用于第一截取条件的第一范围或者该解码的量化电平被截取至用于第二截取条件的第二范围。4.根据权利要求3所述的从量化电平中反量化变换系数的方法，其特征在于，该第一范围对应于与量化电平的位深度相关的一个固定范围。5.根据权利要求3所述的从量化电平中反量化变换系数的方法，其特征在于，该第二范围与该解码的量化电平的动态范围相关。6.根据权利要求2所述的从量化电平中反量化变换系数的方法，其特征在于，该截取条件是通过比较第一权重值与一个阈值来决定的，其中该第一权重值对应于该量化矩阵、该量化参数、该反量化矩阵、该反量化参数、该反量化步长、该源视频的该位深度、该变换单元的该变换尺寸或其任意组合的第一线性函数。7.根据权利要求6所述的从量化电平中反量化变换系数的方法，其特征在于，该阈值对应于一个固定值或第二权重值，其中该第二权重值对应于该量化矩阵、该量化参数、该反量化矩阵、该反量化参数、该反量化步长、该源视频的该位深度、该变换单元的该变换尺寸或其任意组合的第二线性函数。8.根据权利要求2所述的从量化电平中反量化变换系数的方法，其特征在于，该决定该截取条件的步骤包含比较(20+M+DB-QP/6)与一个阈值，其中该阈值为16，M代表该变换单元的该变换尺寸，DB等于B-8且B为该源视频的该位深度，QP为该量化参数，该反量化步长的动态范围为7位，该反量化的变换系数是以32位表示，以及该解码的量化电平是以16位表示。9.根据权利要求2所述的从量化电平中反量化变换系数的方法，其特征在于，该决定该截取条件的步骤包含比较(12+M+B-QP/6)与一个阈值，其中该阈值为16，M代表该变换单元的该变换尺寸，DB等于B-8且B为该源视频的该位深度，QP为该量化参数，该反量化步长的动态范围为7位，该反量化的变换系数是以32位表示，以及该解码的量化电平是以16位表示。10.根据权利要求2所述的从量化电平中反量化变换系数的方法，其特征在于，该决定该截取条件的步骤包含比较QP/6与一个阈值，其中该阈值为36，该变换单元的该变换尺寸为4×4，该源视频的该位深度为8位，QP为该量化参数，该反量化步长的动态范围为7位，该反量化的变换系数是以32位表示，以及该解码的量化电平是以16位表示。11.根据权利要求1所述的从量化电平中反量化变换系数的方法，其特征在于，该截取范围有关于量化矩阵、量化参数、反量化矩阵、反量化参数、反量化步长、源视频的位深度、该变换...

【专利技术属性】
技术研发人员：郭峋，庄子德，雷少民，
申请(专利权)人：联发科技新加坡私人有限公司，
类型：发明
国别省市：新加坡;SG