基于DCT的3D‑HEVC快速帧内预测决策方法技术

本发明专利技术公开了一种基于DCT的3D‑HEVC快速帧内预测决策方法。本发明专利技术首先利用DCT公式计算当前预测块的DCT矩阵，然后对当前系数块的左上角系数和进一步对右下角系数进行判断是否具有边缘，最后通过是否具有边缘判定是否要将DMMs加入帧内预测模式候选列表。本发明专利技术在3D‑HEVC中引入了深度图实现更好的视图合成，3D视频编码扩展开发联合协作组针对深度图帧内预测编码提出了4中新的针对深度图帧内预测模式DMMs。DCT具有能量聚集的特性，故在3D‑HEVC深度图编码过程中可以明显区分编码块是否具有边缘。本发明专利技术具有计算复杂度低、编码时间短和视频重建效果好的特点。

【技术实现步骤摘要】
基于DCT的3D-HEVC快速帧内预测决策方法
本专利技术涉及视频编码领域，具体是一种基于DCT的3D-HEVC快速帧内预测决策方法。
技术介绍
在过去几年里，随着3D视频服务需求的增加，3D视频的展现、压缩和传输成为一个新的有挑战的研究课题。多视角加深度图(MVD)的视频格式是多种有发展前景的视频表现形式中的一种。由3D视频编码扩展开发联合协作组(JCT-3V)提出的高质量视频编码的3D扩展(3D-HEVC)是对于压缩MVD数据的一种新兴视频编码标准。由于深度图具有尖锐的边缘和大量接近平滑的区域，故深度图编码和纹理图编码具有很大的差异性。如果使用传统的纹理图帧内预测模式对深度图进行编码，这将导致边缘的失真以及整体合成效果不好。因此，JCT提出了4种新的针对深度图帧内预测模式DMMs，分别是一个跳跃模式和三个新的预测模式IntraSingle、IntraWedge和IntraContour模式。帧内预测的步骤是1.遍历所有的预测模式，得到各种模式下的残差信号，再对残差信号进行Hadamard变换计算SATD值，2.利用SATD值计算每种预测模式的率失真代价，选取率失真代价最小的几种模式为预测模式集，3.将已编码相邻块的预测模式补充到预测模式集中，4.遍历模式集合中的所有模式，并对残差信号进行熵编码，计算率失真代价，5.选取最优的预测模式作为该预测块的最优模式，6.当亮度块的模式选定后，把该模式以及DC、planars、水平方向、垂直方向模式作为色度块的候选列表，选取最优模式。而对于深度图编码已经有了原来35种纹理图预测模式又加入了新的DMMs的帧内预测，这样在选择最优的几种模式中将很大程度增加编码的计算复杂度和编码时间。离散余弦变换(DCT)是与傅立叶变换相关的一种变换，其中II类DCT经常被用在信号和图像处理，特别是有损压缩，因为它具有很强的“能量集中”属性。对于灰度值缓慢变化的像素块来说，经过DCT后绝大部分能量集中在左上角的低频系数中；相反，如果像素块中包含较多细节纹理信息，则较多能量分散在高频区域。虽然随着变换尺寸的增大，DCT去相关性能越来越好，但是提升幅度逐渐变缓，因为余弦函数的存在使得DCT过程必须使用浮点数，这样不可避免地带来舍入误差。针对上述问题，从H.264/AVC标准开始采用整数DCT，整型数的使用使得DCT的运行速度大为提高。H.265/HEVC使用了4种不同尺寸的整数DCT，分别为4*4、8*8、16*16和32*32。参考文献：[1]TechG,ChenY,MüllerK,etal.OverviewoftheMultiviewand3DExtensionsofHighEfficiencyVideoCoding[J].IEEETransactionsonCircuits&SystemsforVideoTechnology,2016,26(1):35-49.[2]GuZ,ZhengJ,LingN,etal.FastDepthModelingModeselectionfor3DHEVCdepthintracoding[C]//IEEEInternationalConferenceonMultimediaandExpoWorkshops.IEEE,2013:1-4.[3]ZhangQ,YangY,ChangH,etal.Fastintramodedecisionfordepthcodingin3D-HEVC[J].MultidimensionalSystems&SignalProcessing,2016:1-24.
技术实现思路
本专利技术的目的是鉴于图像DCT矩阵左上角和右下角的能量分布对深度图帧内预测模式选取的重要性，提出一种基于DCT的3D-HEVC快速帧内预测决策方法，该方法将视频中的一帧图像进行DCT变换，对生成的DCT矩阵选点判断。该方法具有计算复杂度低、编码时间短和视频重建效果好的特点。为了实现上述目的，本专利技术的技术方案包括如下步骤：步骤1.基于3D-HEVC，在进行预测块划分后，首先得到该预测块在35种传统帧内预测模式下的残差信号，再对残差信号进行Hadamard变换计算SATD值，并利用SATD值计算每种传统预测模式的率失真代价；步骤2.对不同大小的PU块，利用整数DCT公式计算当前预测块的DCT系数矩阵，保存为一个矩阵；步骤3.若当前预测块尺寸为4*4、8*8大小，则对当前系数块的左上角系数进行判断，首先判断最左边的块系数，再判断上面的块系数，若某个块系数小于阈值则直接判断该预测块具有边缘，并且跳转步骤5，若所有块系数大于阈值，则直接判断该预测块没有边缘，并且跳转步骤5；若当前预测块尺寸为16*16、32*32大小，则对当前系数块的左上角系数进行判断，若某个块系数小于阈值则直接判断该预测块具有边缘，并且跳转步骤5，若所有块系数都大于阈值，则继续判断右下角系数是否为零，跳转步骤4；步骤4.若当前预测块为16*16大小，则只对当前系数块的右下角系数中的坐标的系数进行判断：若该系数不是零则直接判断该预测块具有边缘，跳转步骤5，若该系数为零则认为该预测块没有边缘，继续下一步计算；若当前预测块为32*32大小，则对当前系数块的右下角系数进行判断：首先判断最右下角的块系数是否为零，再判断另外两个系数块是否为零，若某个块系数不是零则直接判断该预测块具有边缘，跳转步骤5，若所有块都是全零系数块，则认为该预测块没有边缘，继续下一步计算；步骤5.若预测块没有边缘则不计算该预测块在DMMs下所有模式的率失真代价，反之则计算该预测块在DMMs下所有模式的率失真代价，并将DMMs模式加入预测候选列表；步骤6.从预测候选列表中选取率失真代价最小的几种模式为预测模式集，并且将当前预测块的已编码相邻块的预测模式补充到预测模式集中，得到最终的预测模式集合rd-cost；步骤7.遍历预测模式集合rd-cost中的所有模式，并对每个预测模式的残差信号进行熵编码，并且计算每个预测模式下的率失真代价RD-Cost；从预测模式集合rd-cost中的所有模式中选取率失真代价最小的预测模式，即最优的帧内预测模式作为该预测块中亮度块选取的最优模式，并保存最优模式的所有数据；通过得到当前预测块的最优帧内预测模式对当前预测块进行变换、量化；步骤8.当预测块中亮度块选取的最优模式式选定后，把该最优模式以及传统帧内预测模式种的DC、planars、水平方向、垂直方向模式作为预测块中色度块的候选列表，同样遍历预测模式候选列表，计算预测模式候选列表中每个预测模式的率失真代价，选取率失真代价最小的预测模式，即最优的帧内预测模式作为色度块的最优模式；通过得到的最优帧内预测模式对当前预测块进行变换、量化；步骤9.继续下一个预测块的帧内预测。步骤1所述的具体实现如下：Hadamard矩阵：SATD是指将残差信号进行Hadamard变换后再求各元素绝对值之和，设某残差信号方阵为X，则SATD为：其中，M为方阵的大小，H为归一化的M*MHadamard矩阵；率失真代价＝SATD+λ*ModeBits其中，λ由限定码率ModeBits预测编码单元的量化参数映射关系确定。步骤2所述的整数DCT公式如下：其中，H.265/本文档来自技高网...

【技术保护点】
基于DCT的3D‑HEVC快速帧内预测决策方法，其特征在于包括如下步骤：步骤1.基于3D‑HEVC，在进行预测块划分后，首先得到该预测块在35种传统帧内预测模式下的残差信号，再对残差信号进行Hadamard变换计算SATD值，并利用SATD值计算每种传统预测模式的率失真代价；步骤2.对不同大小的PU块，利用整数DCT公式计算当前预测块的DCT系数矩阵，保存为一个矩阵；步骤3.若当前预测块尺寸为4*4、8*8大小，则对当前系数块的左上角系数进行判断，首先判断最左边的块系数，再判断上面的块系数，若某个块系数小于阈值则直接判断该预测块具有边缘，并且跳转步骤5，若所有块系数大于阈值，则直接判断该预测块没有边缘，并且跳转步骤5；若当前预测块尺寸为16*16、32*32大小，则对当前系数块的左上角系数进行判断，若某个块系数小于阈值则直接判断该预测块具有边缘，并且跳转步骤5，若所有块系数都大于阈值，则继续判断右下角系数是否为零，跳转步骤4；步骤4.若当前预测块为16*16大小，则只对当前系数块的右下角系数中的坐标的系数进行判断：若该系数不是零则直接判断该预测块具有边缘，跳转步骤5，若该系数为零则认为该预测块没有边缘，继续下一步计算；若当前预测块为32*32大小，则对当前系数块的右下角系数进行判断：首先判断最右下角的块系数是否为零，再判断另外两个系数块是否为零，若某个块系数不是零则直接判断该预测块具有边缘，跳转步骤5，若所有块都是全零系数块，则认为该预测块没有边缘，继续下一步计算；步骤5.若预测块没有边缘则不计算该预测块在DMMs下所有模式的率失真代价，反之则计算该预测块在DMMs下所有模式的率失真代价，并将DMMs模式加入预测候选列表；步骤6.从预测候选列表中选取率失真代价最小的几种模式为预测模式集，并且将当前预测块的已编码相邻块的预测模式补充到预测模式集中，得到最终的预测模式集合rd‑cost；步骤7.遍历预测模式集合rd‑cost中的所有模式，并对每个预测模式的残差信号进行熵编码，并且计算每个预测模式下的率失真代价RD‑Cost；从预测模式集合rd‑cost中的所有模式中选取率失真代价最小的预测模式，即最优的帧内预测模式作为该预测块中亮度块选取的最优模式，并保存最优模式的所有数据；通过得到当前预测块的最优帧内预测模式对当前预测块进行变换、量化；步骤8.当预测块中亮度块选取的最优模式式选定后，把该最优模式以及传统帧内预测模式种的DC、planars、水平方向、垂直方向模式作为预测块中色度块的候选列表，同样遍历预测模式候选列表，计算预测模式候选列表中每个预测模式的率失真代价，选取率失真代价最小的预测模式，即最优的帧内预测模式作为色度块的最优模式；通过得到的最优帧内预测模式对当前预测块进行变换、量化；步骤9.继续下一个预测块的帧内预测。...

【技术特征摘要】
1.基于DCT的3D-HEVC快速帧内预测决策方法，其特征在于包括如下步骤：步骤1.基于3D-HEVC，在进行预测块划分后，首先得到该预测块在35种传统帧内预测模式下的残差信号，再对残差信号进行Hadamard变换计算SATD值，并利用SATD值计算每种传统预测模式的率失真代价；步骤2.对不同大小的PU块，利用整数DCT公式计算当前预测块的DCT系数矩阵，保存为一个矩阵；步骤3.若当前预测块尺寸为4*4、8*8大小，则对当前系数块的左上角系数进行判断，首先判断最左边的块系数，再判断上面的块系数，若某个块系数小于阈值则直接判断该预测块具有边缘，并且跳转步骤5，若所有块系数大于阈值，则直接判断该预测块没有边缘，并且跳转步骤5；若当前预测块尺寸为16*16、32*32大小，则对当前系数块的左上角系数进行判断，若某个块系数小于阈值则直接判断该预测块具有边缘，并且跳转步骤5，若所有块系数都大于阈值，则继续判断右下角系数是否为零，跳转步骤4；步骤4.若当前预测块为16*16大小，则只对当前系数块的右下角系数中的坐标的系数进行判断：若该系数不是零则直接判断该预测块具有边缘，跳转步骤5，若该系数为零则认为该预测块没有边缘，继续下一步计算；若当前预测块为32*32大小，则对当前系数块的右下角系数进行判断：首先判断最右下角的块系数是否为零，再判断另外两个系数块是否为零，若某个块系数不是零则直接判断该预测块具有边缘，跳转步骤5，若所有块都是全零系数块，则认为该预测块没有边缘，继续下一步计算；步骤5.若预测块没有边缘则不计算该预测块在DMMs下所有模式的率失真代价，反之则计算该预测块在DMMs下所有模式的率失真代价，并将DMMs模式加入预测候选列表；步骤6.从预测候选列表中选取率失真代价最小的几种模式为预测模式集，并且将当前预测块的已编码相邻块的预测模式补充到预测模式集中，得到最终的预测模式集合rd-cost；步骤7.遍历预测模式集合rd-cost中的所有模式，并对每个预测模式的残差信号进行熵编码，并且计算每个预测模式下的率失真代价RD-Cost；从预测模式集合rd-cost中的所有模式中选取率失真代价最小的预测模式，即最优的帧内预测模式作为该预测块中亮度块选取的最优模式，并保存最优模式的所有数据；通过得到当前预测块的最优帧内预测模式对当前预测块进行变换、量化；步骤8.当预测块中亮度块选取的最优模式式选定后，把该最优模式以及传统帧内预测模式种的DC、planars、水平方向、垂直方向模式作为预测块中色度块的候选列表，同样遍历预测模式候选列表，计算预测模式候选列表中每个预测模式的率失真代价，选取率失真代价最小的预测模式，即最优的帧内预测模式作为色度块的最优模式；通过得到的最优帧内预测模式对当前预测块进行变换、量化；步骤9.继续下一个预测块的帧内预测。2.根据权利要求1所述的基于DCT的3D-HEVC快...

【专利技术属性】
技术研发人员：张桦，杨仁彬，戴国骏，於世芳，陶星，赵骏，
申请(专利权)人：杭州电子科技大学，
类型：发明
国别省市：浙江,33