量化电平截取装置及方法制造方法及图纸

本发明专利技术提供一种量化电平截取装置及方法。根据本发明专利技术的多个实施例通过在量化之后自适应地截取量化电平来避免量化后的变换系数的溢出。在一个实施例中，所述方法包含：根据量化矩阵和量化参数对变换单元的变换系数进行量化，以产生变换系数的量化电平。确定截取条件，并根据截取条件截取量化电平，以产生截取处理后的量化电平。截取条件包含空截取条件。量化电平在空截取条件下截取为以n位表示的固定范围，其中n对应于8、16或32。量化电平也可在空截取条件下在由‑m至m‑1的范围内进行截取，其中m可对应于128、32768或2147483648。

Quantized level interception device and method

The present invention provides a quantized level interception device and a method. According to a plurality of embodiments of the invention, the quantization level is avoided by adaptively intercepting the quantization level after quantization to avoid the overflow of the quantized transformation coefficients. In one embodiment, the method comprises: quantifying the transformation coefficient of the transformation unit according to the quantization matrix and quantization parameter, so as to generate the quantization level of the transform coefficient. The interception condition is determined and the quantization level is intercepted according to the interception condition to produce the quantization level after the intercept processing. The interception condition contains the empty interception condition. The quantization level is intercepted under an empty intercept condition to be a fixed range represented by a n bit, in which n corresponds to 8, 16, or 32. The quantization level can also be in the air intercept conditions in the range from m to M 1 in which m interception, corresponding to 128, 32768 or 2147483648.

【技术实现步骤摘要】
量化电平截取装置及方法分案申请的相关信息本案是申请日为2012年12月14日、申请号为20128005463.6且专利技术名称为“量化电平截取装置及方法”的专利技术专利申请案的分案申请。
本专利技术是有关于视频编码，更具体地，本专利技术是有关于高效视频编码(HighEfficiencyVideoCoding,HEVC)的量化电平(quantizationlevel)的截取(clipping)。
技术介绍
HEVC是由视频编码联合组(JointCollaborativeTeamonVideoCoding,JCT-VC)开发的一种新的国际视频编码标准。HEVC采用基于混合区块(hybridblock-based)的运动补偿的类似离散余弦变换(DiscreteCosineTransformation,DCT)的变换编码(DCT-liketransformcoding)架构。用于压缩的基本单元称为编码单元(CodingUnit,CU)，为2N×2N方块，且每个CU可递归地(recursively)切分为四个更小的CU，直至达到预定的最小尺寸。每个CU包含一个或多个区块尺寸可变的预测单元(PredictionUnit,PU)和变换单元(TransformUnit,TU)。对于每个PU，选择帧内图像预测或帧间图像预测。每个TU进行空间区块变换处理，然后对每个TU的变换系数进行量化。HEVC允许的最小的TU尺寸为4×4。变换系数的量化在视频编码的位速率和质量控制中有重要作用。量化步长集合用于将变换系数量化为量化电平。较大的量化步长尺寸会导致较低的位速率和较低的质量。另一方面，较小的量化步长尺寸会产生更高的位速率和更高的质量。量化处理的直接实施方式包含分割操作，分割操作在基于硬件的实施方式中更加复杂，且在基于软件的实施方式中会消耗更多的计算资源。相应地，本领域开发了用于自由分割量化处理的各种技术。在HEVC测试模型版本5(HEEVTestModelRevision5,HM-5.0)中，量化处理描述如下。参数集合定义为：B＝输入视频源的位宽(bitwidth)或位深度(bitdepth)DB＝B-8N＝TU的变换尺寸M＝log2(N)Q[x]＝f(x),其中f(x)＝{26214,23302,20560,18396,16384,14564},x＝0,…,5,及IQ[x]＝g(x),其中g(x)＝{40,45,51,57,64,72},x＝0,…,5.Q[x]及IQ[x]称为分别称为量化步长与反量化步长。量化操作根据下式执行：qlevel＝(coeff*Q[QP％6]+offset)>>(21+QP/6–M–DB),其中offset＝1<<(20+QP/6–M–DB),(1)其中“％”为模运算符(modulooperator)。反量化操作根据下式执行：coeffQ＝((qlevel*IQ[QP％6]<<(QP/6))+offset)>>(M-1+DB),其中offset＝1<<(M-2+DB)。(2)式(1)和式(2)中的变量qlevel表示变换系数的量化电平。式(2)中的变量coeffQ表示反量化参数。IQ[x]指示反量化步长(也称为反量化步长尺寸)，以及QP表示量化参数。式(1)和式(2)中的“QP/6”表示QP除以6以后的整数部分。如式(1)和式(2)所示，量化和反量化操作通过整数乘法(integermultiplication)之后再进行算术移位(arithmeticshift)来实施。式(1)和式(2)中均加上了偏移值(offsetvalue)，以使用取整(rounding)来实施整数转换(integerconversion)。对于HEVC，量化电平的位深度为16位(包括1位标志位)。换言之，量化电平表示为2字节(byte)或16位字(word)。由于IQ(x)<＝72且QP<＝51，IQ[x]的动态范围为7位，且“<<(QP/6)”运算符执行左侧算术移位至8位。相应地，反量化变换系数coeffQ(即“(qlevel*IQ[QP％6])<<(QP/6)”)的动态范围为31位(16+7+8)。因此，式(2)所描述的反量化操作不会导致溢出(overflow)，因为反量化操作使用32位数据表达。然而，当引入量化矩阵时，反量化操作可修改为式(3)至式(5)所示：iShift＝M-1+DB+4.(3)若(iShift>QP/6),coeffQ[i][j]＝(qlevel[i][j]*W[i][j]*IQ[QP％6]+offset)>>(iShift-QP/6),其中offset＝1<<(iShift-QP/6-1),其中i＝0…nW-1,j＝0..nH-1(4)否则coeffQ[i][j]＝(qlevel[i][j]*W[i][j]*IQ[QP％6])<<(QP/6-iShift)(5)其中，“[i][j]”指示变换单元内变换系数的位置(也称为指针)，W指示量化矩阵，nW和nH为变换的宽度和高度。若n代表变换系数的量化电平的动态范围，则动态范围n必须满足以下条件以避免溢出：n+w+iq+QP/6-M+DB-3≤32,(6)其中w为量化矩阵W的动态范围，iq为IQ[x]的动态范围，以及反量化的位深度或重建的变换系数为32位。若量化矩阵W的动态范围为8位，则当QP＝51,M＝2且DB＝0时，式(3)至式(5)所描述的重建的变换系数的动态范围变为34位(16+8+7+3)。当反量化操作使用32位数据表达时，根据方程式式(3)至式(5)取得的重建的变换系数可能溢出并导致系统失败。因此，需要开发一种变换系数重建机制，以避免可能的溢出。
技术实现思路
有鉴于此，本专利技术提供一种量化电平截取装置及方法。根据本专利技术的多个实施例通过在量化之后自适应地截取量化电平以避免量化变换系数的溢出。在本专利技术一实施例中，该方法包含根据量化矩阵及量化参数对变换单元的变换系数进行量化，以产生变换单元的变换系数的量化电平；基于量化矩阵、量化参数、视频源位深度、变换单元的变换尺寸或其任意组合，确定截取条件，其中截取条件包括空截取条件；以及根据截取条件截取量化电平，以产生截取处理后的量化电平。所述量化电平的截取可对应于无条件的固定范围的截取，以及截取后的量化电平使用n位来表示，其中n可对应于8、16或32。所述量化电平的截取也可对应于无条件的固定范围的截取，以及量化电平在由-m至m-1的范围内进行截取，其中m可对应于128、32768或2147483648。根据本专利技术一实施例的量化电平截取方法，适用于视频编码器，所述量化电平截取方法包含：根据量化矩阵和量化参数对变换单元的变换系数进行量化，以产生所述变换系数的量化电平；在所述视频编码器中确定适用于固定范围截取条件与动态范围截取条件中的一个或组合的截取范围；根据所述截取范围截取所述量化电平，以产生截取处理后的量化电平；以及其中，在所述固定范围截取条件下，所述量化电平被截取为-m至m-1的固定截取范围，且m对应于128、32768或2147483648。当确定所述截取范围是适用所述动态范围本文档来自技高网...

【技术保护点】
一种量化电平截取方法，适用于视频编码器，所述量化电平截取方法包含：根据量化矩阵和量化参数对变换单元的变换系数进行量化，以产生所述变换系数的量化电平；在所述视频编码器中确定适用于固定范围截取条件与动态范围截取条件中的一个或组合的截取范围；根据所述截取范围截取所述量化电平，以产生截取处理后的量化电平；以及其中，在所述固定范围截取条件下，所述量化电平被截取为‑m至m‑1的固定截取范围，且m对应于128、32768或2147483648。

【技术特征摘要】
2011.12.15 CN PCT/CN2011/0840831.一种量化电平截取方法，适用于视频编码器，所述量化电平截取方法包含：根据量化矩阵和量化参数对变换单元的变换系数进行量化，以产生所述变换系数的量化电平；在所述视频编码器中确定适用于固定范围截取条件与动态范围截取条件中的一个或组合的截取范围；根据所述截取范围截取所述量化电平，以产生截取处理后的量化电平；以及其中，在所述固定范围截取条件下，所述量化电平被截取为-m至m-1的固定截取范围，且m对应于128、32768或2147483648。2.根据权利要求1所述的量化电平截取方法，其特征在于，当确定所述截取范围是适用所述动态范围截取条件时，所述截取范围的确定是基于所述量化矩阵、所述量化参数、反量化步长、视频源位深度、所述变换单元的变换尺寸或上述任意组合。3.根据权利要求2所述的量化电平截取方法，其特征在于，基于所述视频源位深度，将所述量化电平截取为第一范围或第二范围。4.根据权利要求2所述的量化电平截取方法，其特征在于，所述截取范围是通过将第一权重值与阈值作比较来确定的，其中，所述第一权重值对应于所述量化矩阵、所述量化参数、所述视频源位深度、所述变换单元的所述变换尺寸或上述任意组合的第一线性函数。5.根据权利要求4所述的量化电平截取方法，其特征在于，所述阈值对应于固定值或第二权重值，其中所述第二权重值对应于所述量化矩阵、所述量化参数、所述视频源位深度、所述变换单元的所述变换尺寸或上述任意组合的第二线性函数。6.根据权利要求1所述的量化电平截取方法，其特征在于，所述固定范围截取条件的所述截取范围适用于大于等于10位的所述视频源位深度。7.根据权利要求1所述的量化电平截取方法，其特征在于，截取处理后的所述量化电平使用n位来表示。8.根据权利要求7所述的量化电平截取方法，其特征在于，n对应于8、16或32。9.一种量化电平截取装置，适用于视频编码器，所述量化电平截取装置包含：根据量化矩阵和量化参数对变换单元的变换系数进行量化，以产...

【专利技术属性】
技术研发人员：郭峋，雷少民，
申请(专利权)人：寰发股份有限公司，
类型：发明
国别省市：中国台湾,71