一种用于帧内预测的边界滤波方法技术

本发明专利技术公布了一种用于帧内预测的边界滤波方法，涉及视频编码技术领域。首先通过率失真优化决策自适应地选择是否对帧内预测块进行边界滤波；进行滤波时，对帧内预测块的前N行或前N列，通过帧内预测块滤波器，采用相对边界距离指数衰减的滤波器系数进行滤波；且针对不同的帧内预测块大小，采用不同的滤波强度；由此解决帧内预测块边界失真问题，并增加帧内预测精度，提升帧内预测块的编码效率；同时增加了边界滤波技术的实用性和鲁棒性。

A boundary filtering method for intra prediction

The invention discloses a boundary filtering method for intra prediction, which relates to the field of video coding technology. Firstly, the rate distortion optimization adaptive selection decision on whether intra block boundary filtering; filtering, the intra prediction block before N or N columns, the intra block filter, filter the filter coefficient of relative distance from boundary exponential decay; and according to the different intra prediction block the size, different filter strength; so as to solve the distortion problem of intra prediction block boundaries, and increase the intra prediction accuracy, improve intra block encoding efficiency; while increasing the boundary filtering technology practicability and robustness.

【技术实现步骤摘要】
一种用于帧内预测的边界滤波方法
本专利技术涉及视频编码
，具体涉及一种用于帧内预测的边界滤波方法，可用于对帧内预测块进行滤波，增强帧内预测的准确度，从而提升帧内预测块的编码效率。
技术介绍
帧内滤波技术是一个非常有效的编码工具，用于优化帧内预测块的边界，可有效缓解帧内预测块边界处的失真。在HighEfficiencyVideoCoding(HEVC)标准中，现有方法采用了两种帧内预测边界滤波器技术。一种是针对DC(DirectCurrent)预测模式(直流预测模式)，使用一个两抽头的滤波器(滤波系数为[1/43/4])对帧内预测块的第一行和第一列进行滤波；另外一种是针对水平和竖直预测模式，对水平预测模式的第一行和竖直预测模式的第一列进行滤波。上述滤波技术主要存在的缺陷包括以下几方面：(一)以上现有滤波技术只是针对少数几个帧内预测模式，因此在一定程度上局限了帧内滤波技术的性能；(二)这些滤波技术并没有详细地考虑像素点之间的空间相关性；(三)这些滤波技术的使用缺少决策的过程，降低了该技术的实用性。
技术实现思路
为了克服上述现有技术的不足，本专利技术提供一种用于帧内预测的边界滤波方法，用以有效地解决帧内预测块边界失真问题，并能够增加帧内预测精度，提升帧内预测块的编码效率。本专利技术提供的技术方案是：一种用于帧内预测的边界滤波方法，首先通过率失真优化(Ratedistortionoptimization,RDO)决策自适应地选择是否对帧内预测块进行边界滤波；该边界滤波方法对帧内预测块的前N行或是前N列通过帧内预测块滤波器进行滤波；进行滤波时，采用相对边界距离指数衰减的滤波器系数进行滤波；针对不同的帧内预测块大小，采用不同的滤波强度；由此解决帧内预测块边界失真问题，并能够增加帧内预测精度，提升帧内预测块的编码效率；包括如下步骤：1)在编码端对每一个编码单元(Codingunit,CU)进行率失真优化，执行如下操作：11)对每一个编码单元(Codingunit,CU)进行帧内预测块滤波；12)通过RDO决策确定是否使用帧内预测块边界滤波；每一个编码单元中均传输1-bit的标记到码流中，用于标识帧内预测是否使用了帧内预测块边界滤波；13)若使用了帧内预测块边界滤波，通过帧内预测块滤波器进行帧内边界滤波编码，包括如下过程：首先，从已经重建的预测块中获取与当前块相邻的参考像素点；随后，根据帧内预测块的预测方向进行常规帧内预测，得到帧内预测值；最后，根据当前帧内预测块的预测模式，选择边界滤波所用的参考像素点，并根据预测块的尺寸，选取滤波系数，使用参考像素点对当前预测值进行边界滤波，得到新的帧内预测值；2)在解码端对每一个编码单元，读取码流中的1-bit标记，根据标记进行解码；执行如下步骤：21)确定解码端是否使用帧内预测块边界滤波；22)若使用了帧内预测块边界滤波，通过帧内预测块滤波器进行帧内边界滤波解码，包括如下过程：首先，从已经重建的预测块中获取与当前块相邻的参考像素点；随后，根据解码得到的帧内预测块的预测模式，进行常规的帧内预测，得到帧内预测值；最后，根据当前帧内预测块的预测模式，选择边界滤波所用的参考像素点，并根据预测块的尺寸，选取滤波系数，使用参考像素点对当前预测值进行滤波，得到新的帧内预测值。本专利技术的核心是对帧内预测之后得到的像素值进行滤波，包括对编码端和解码端进行处理。具体地，在编码端，在每一个编码单元(Codingunit,CU)进行率失真优化(Ratedistortionoptimization,RDO)时，都需要尝试进行帧内预测块滤波，并通过RDO决策最终是否使用本专利技术提出的帧内预测块滤波方法。每一个编码单元中都需要传输1-bit的标记到码流中，来标识帧内预测是否使用了帧内预测块滤波方法。在解码端，则读取码流中的1-bit标记，根据标记的意义，由解码端决定是否使用帧内预测块滤波。本法明提出的帧内预测块滤波，对帧内预测块的前N行或是前N列进行滤波，N的取值与滤波系数相关联。由于本专利技术采用相对边界距离指数衰减的滤波器系数，N为滤波器系数衰减为0时的位置。例如滤波器在第n行衰减为0，则N的值为n。本专利技术提出的帧内预测块滤波最多对帧内预测块的前10行或是前10列进行滤波。本专利技术提出的帧内预测块滤波器是一个三抽头的滤波器，该滤波器可使用公式表示为式1：P′(x,y)＝wleft(x)·P(-1,y)+wtop(y)·P(x,-1)+(1-wleft(x)-wtop(y))·P(x,y)(式1)0≤x,y<N对于一个预测像素点，使用与它同一行P(-1,y)和同一列P(x,-1)的两个参考像素点进行滤波，wleft(x)和wtop(y)分别为这两个参考像素点的边界滤波系数。P(x,y)为帧内预测之后得到的预测像素点；P′(x,y)为进行帧内预测块滤波之后的像素点；x、y为预测块内的坐标，x＝0表示预测块中的第一列，y＝0表示预测块中的第一行。wleft(x)和wtop(y)是随着与参考像素点距离的增加而衰减的。特别地，当wtop(y)衰减为0时，式1退化为两抽头的滤波器，如式2所示。当wleft(x)衰减为0时，式(1)也会退化为两抽头的滤波器，如式3所示。P′(x,y)＝wleft(x)·P(-1,y)+(1-wleft(x))·P(x,y),x<N(式2)P′(x,y)＝wtop(y)·P(x,-1)+(1-wtop(y))·P(x,y),y<N(式3)本专利技术提出的帧内预测块滤波器采用了相对边界距离指数衰减的滤波器系数，分别如式4和5所示：其中，ntop和nleft分别是与预测块第一行和第一列滤波时使用的滤波系数。指数衰减的滤波器系数可以产生更好的滤波效果，最大化的降低预测失真。进一步地，本专利技术针对不同的帧内预测块大小，设计了不同的滤波强度。其中代表滤波强度的参数ntop和nleft根据帧内预测块的预测失真训练得到。对于预测失真大的帧内预测值，选择更大的滤波系数进行滤波；而对于预测失真小的帧内预测值，使用较小的滤波系数进行滤波。具体滤波系数的设置在具体实施方式中进行说明。与现有技术相比，本专利技术的有益效果是：本专利技术提供一种用于帧内预测的边界滤波方法，用以有效地解决帧内预测块边界失真问题，并能够增加帧内预测精度，提升帧内预测块的编码效率。具体地，本专利技术的技术优势体现为以下几方面：本专利技术通过RDO决策决定是否使用帧内预测块边界滤波，相当于自适应的选择是否对帧内预测块进行边界滤波。由于并不是每一个帧内预测块都适合进行边界滤波，所以通过RDO决策增加了边界滤波技术的实用性和鲁棒性。并且，本专利技术提出的边界滤波器会修改更多的行或是列(最多10行或是10列，而现有技术最多只对边界的4行或是4列滤波)，这大大增强了边界滤波的影响范围，提升了帧内预测边界滤波的效用。另外，本专利技术提出使用相对边界距离指数衰减的滤波器系数，更符合像素值之间的空间相关性。并且针对不同的帧内预测模式和预测块尺寸选择不同的滤波器系数，可以获得更好的滤波效果。附图说明图1为本专利技术中的编码单元(CU)的编码流程框图。图2为本专利技术中的编码单元(CU)的解码流程框图。图3为本专利技术具体实施时边界滤波参考像素点选取的示意图本文档来自技高网...

【技术保护点】
一种用于帧内预测的边界滤波方法，首先通过率失真优化决策自适应地选择是否对帧内预测块进行边界滤波；进行滤波时，对帧内预测块的前N行或前N列，通过帧内预测块滤波器，采用相对边界距离指数衰减的滤波器系数进行滤波；且针对不同的帧内预测块大小，采用不同的滤波强度；由此解决帧内预测块边界失真问题，并增加帧内预测精度，提升帧内预测块的编码效率；包括如下步骤：1)在编码端，对每一个编码单元进行率失真优化；执行如下操作：11)对每一个编码单元进行帧内预测块滤波；12)通过率失真优化决策确定是否使用帧内预测块边界滤波；传输一个标记到码流中，用于标识帧内预测是否使用了帧内预测块边界滤波；13)当使用了帧内预测块边界滤波时，通过帧内预测块滤波器进行帧内边界滤波编码；包括如下过程：首先，从已经重建的预测块中获取与当前块相邻的参考像素点；随后，根据帧内预测块的预测方向进行常规帧内预测，得到帧内预测值；最后，根据当前帧内预测块的预测模式，选择边界滤波所用的参考像素点，并根据预测块的尺寸，选取滤波系数，使用参考像素点对当前预测值进行边界滤波，得到新的帧内预测值；2)在解码端，对每一个编码单元读取码流中的标记，根据标记进行解码；执行如下步骤：21)确定解码端是否使用帧内预测块边界滤波；22)当使用了帧内预测块边界滤波时，通过帧内预测块滤波器进行帧内边界滤波解码，包括如下过程：首先，从已经重建的预测块中获取与当前块相邻的参考像素点；随后，根据解码得到的帧内预测块的预测模式，进行常规的帧内预测，得到帧内预测值；最后，根据当前帧内预测块的预测模式，选择边界滤波所用的参考像素点，并根据预测块的尺寸，选取滤波系数，使用参考像素点对当前预测值进行滤波，得到新的帧内预测值。...

【技术特征摘要】
1.一种用于帧内预测的边界滤波方法，首先通过率失真优化决策自适应地选择是否对帧内预测块进行边界滤波；进行滤波时，对帧内预测块的前N行或前N列，通过帧内预测块滤波器，采用相对边界距离指数衰减的滤波器系数进行滤波；且针对不同的帧内预测块大小，采用不同的滤波强度；由此解决帧内预测块边界失真问题，并增加帧内预测精度，提升帧内预测块的编码效率；包括如下步骤：1)在编码端，对每一个编码单元进行率失真优化；执行如下操作：11)对每一个编码单元进行帧内预测块滤波；12)通过率失真优化决策确定是否使用帧内预测块边界滤波；传输一个标记到码流中，用于标识帧内预测是否使用了帧内预测块边界滤波；13)当使用了帧内预测块边界滤波时，通过帧内预测块滤波器进行帧内边界滤波编码；包括如下过程：首先，从已经重建的预测块中获取与当前块相邻的参考像素点；随后，根据帧内预测块的预测方向进行常规帧内预测，得到帧内预测值；最后，根据当前帧内预测块的预测模式，选择边界滤波所用的参考像素点，并根据预测块的尺寸，选取滤波系数，使用参考像素点对当前预测值进行边界滤波，得到新的帧内预测值；2)在解码端，对每一个编码单元读取码流中的标记，根据标记进行解码；执行如下步骤：21)确定解码端是否使用帧内预测块边界滤波；22)当使用了帧内预测块边界滤波时，通过帧内预测块滤波器进行帧内边界滤波解码，包括如下过程：首先，从已经重建的预测块中获取与当前块相邻的参考像素点；随后，根据解码得到的帧内预测块的预测模式，进行常规的帧内预测，得到帧内预测值；最后，根据当前帧内预测块的预测模式，选择边界滤波所用的参考像素点，并根据预测块的尺寸，选取滤波系数，使用参考像素点对当前预测值进行滤波，得到新的帧内预测值。2.如权利要求1所述用于帧内预测的边界滤波方法，其特征是，码流中用于标识帧内预测是否使用了帧内预测块边界滤波的标记为1-bit。3.如权利要求1所述用于帧内预测的边界滤波方法，其特征是，行数或列数N的取值由不同帧内预测模式和不同尺寸的帧内预测块的特性决定。4.如权利要求3所述用于帧内预测的边界滤波方法，其特征是，最多对帧内预测块的前10行或是前10列进行滤波。5.如权利要求1所述用于帧内预测的边界滤波方法，其特征是，所述帧内预测块滤波器是一个三抽头的滤波器，表示为式1：P′(x,y)＝wleft(x)·P(-1,y)+wtop(y)·P(x,-1)+(1-wleft(x)-wtop(y))·P(x,y)(式1)0≤x,y<N对于...

【专利技术属性】
技术研发人员：王荣刚，范逵，李革，高文，
申请(专利权)人：北京大学深圳研究生院，
类型：发明
国别省市：广东,44