一种多功能视频编码中基于ALF滤波的预测模式快速选择方法技术

本发明专利技术提供了一种多功能视频编码中基于ALF滤波的预测模式快速选择方法，该方法的发明专利技术构思是利用ALF滤波过程中得到的方向梯度值来预测当前块的帧内预测的角度模式，缩小角度预测模式的搜索范围，以尽可能地降低编码时间，利用ALF滤波得到的方向梯度值来提前跳过不必要的CU划分模式，加速帧间编码的CU划分过程，步骤简单，计算量小，可方便地投入实际应用。

【技术实现步骤摘要】
一种多功能视频编码中基于ALF滤波的预测模式快速选择方法
本专利技术属于视频处理
，具体涉及一种多功能视频编码中基于ALF滤波的预测模式快速选择方法。
技术介绍
近年来，随着各种应用场景下视频业务的发展，人们对于视频的需求也越来越多，对视频质量的要求也越来越高。例如一些视频网站和直播平台提供4K乃至8K的超高清视频流，同时引入高动态范围(High-DynamicRange，简称HDR)技术，来给用户提供更加高质量的视频服务体验。随着5G技术的商用化，网络带宽大幅提升，各种新型的视频创作内容，视频应用以及视频业务都将应运而生，会进一步丰富整个互联网中的视频生态；但是与此同时，视频流量在互联网流量中的占比会持续增加，这会对当前全球的计算机通信网络带来更大的挑战。传统的高效率视频编码(HighEfficiencyVideoCoding，简称HEVC)技术已无法达到较好的压缩性能，所以运动图像专家组(MovingPictureEpertGroup，简称MPEG)和视频编码专家组(VideoCodingEpertGroup，简称VCEG)于2015年10月成立了联合视频探索组(JointVideoEplorationTeam，简称JVET)，研究出了新的视频编码标准，并命名为多功能视频编码(VersatileVideoCoding，简称VVC)，并发布了相应的编码器测试模型VTM1.0。目前编码器测试模型已经更新到VTM7.0版本。VTM采用了四叉树以及嵌套的多类型树结构(QTMT)，使得编码单元(CodingUnit，简称CU)的划分更加灵活；许多新的编码工具，如亮度与色度分离的划分结构以及多变换选择均被VVC采用，并集成到VTM中。同时在前代标准HEVC的基础上，除了去块滤波(DeblockingFilter，简称DBF)和样点自适应补偿滤波(SampleAdaptiveOffset，简称SAO)的滤波方法，提出了自适应环路滤波(AdaptiveLoopFilte，简称ALF)的方法，亮度分量根据局部水平，垂直，45度角和135度角对角线的梯度方向和值(activity)为每个4×4的块选择25种滤波器中的一个，进一步提高了滤波效果。VTM中共有三个环路滤波器。除了HEVC中就有的DBF和SAO，还采用了ALF。VTM中滤波过程的顺序是：DBF>>SAO>>ALF。在VTM中，SAO和DBF与HEVC中的过程几乎相同。ALF滤波的执行过程为：(1)确定滤波形状。在VTM中，使用了如图1中的两种菱形滤波器。色度分量采用5×5菱形滤波器滤波，亮度分量采用7×7菱形滤波器滤波；(2)对于亮度分量，对每个4×4的块计算其梯度值D和活动值A，并根据D和A计算出所需的滤波器索引值；对于色度分量，不应用分类方法，即对每个色度分量应用单个ALF系数集；(3)对相应的滤波器系数和滤波器限幅值进行几何变换，相当于把几何变换应用到滤波器覆盖的区域；(4)对相应区域进行滤波。ALF滤波技术有以下几个特点：(1)ALF是根据局部梯度的方向和活动性，对于亮度分量的每个4×4块选择25个滤波器之一，而对于色度分量只采用1个；(2)ALF滤波是在整帧视频图像编码完成之后进行的；(3)ALF应用二次采样的一维拉普拉斯算法来降低块分类的复杂性。如图2所示，对四种梯度的计算都采样相同的下采样位置。(4)ALF简化了滤波操作，针对滤波器系数和滤波器限幅值采用了三种变换操作：对角线变换、垂直翻转、旋转。与HEVC以及H.264/AVC一样，多功能视频编码(VersatileVideoCoding，简称VVC)也采用了基于块的混合编码框架。图3所示为典型的VVC视频编码流程。输入的图像首先被划分为大小相等的正方形图像块，这些图像块被称为树形编码单元(CodingTreeUnit，简称CTU)，CTU是四叉树以及嵌套的多类型树划分结构的根节点。CTU将根据四叉树及嵌套多类型树的划分结构进一步划分为编码单元(CodingUnit，简称CU)，CU是进行预测的基本单位。一个CU首先会根据其帧内帧间属性进行帧内预测或者帧间预测。如果是帧内预测，则主要利用空间相邻的参考像素经过线性插值得到当前CU的像素预测值，如果是帧间预测，则是利用时间相邻(前一帧或前几帧)的参考像素经过位移补偿得到当前CU的像素预测值。然后将CU的预测值与原始值相减得到残差，残差经过变换进一步减少相邻像素点误差的空间相关性并得到相应的残差系数。残差系数经量化后一方面会结合编码模式以及相关的编码参数等信息进行熵编码，从而得到压缩后的码流。另一方面，量化后的残差系数会经反量化反变换，然后将反量化反变换后的残差和预测值相加得到重建像素，重建图像经滤波后生成参考帧并存储在解码图像缓存器中，用于后面的CU帧内预测或帧间预测时作参考像素。为了适应图像更丰富的纹理，HEVC设定了更多的帧内预测模式，对应不同的预测方向。HEVC有35种帧内亮度预测模式，其中33种是方向预测模式或称角度预测模式，另外两种是直流(DC)和平面(Planar)模式，如图4所示。色度预测模式有5种，模式0是Planar模式，相当于亮度模式0；模式1是是垂直模式，相当于亮度模式1；模式2是水平模式，相当于亮度模式10，模式3是DC模式，相当于亮度模式1；模式4又称为导出模式，采用和对应亮度块相同的模式。为了更好的刻画视频图像中任意的边界方向特征，VVC中的帧内预测模式增加到了67种，其中包括65种角度预测模式、DC模式和平面模式，其中65种角度预测模式中包含了HEVC中的33种模式，DC模式和平面模式与HEVC中的一样，如图5所示。在VTM5.0中，对于亮度分量，有多个低频不可分离变换(Low-FrequencyNon-SeparableTransform，简称LFNST)通道。在第一个LFNST通道下，预测模式的过程为：1)亮度预测模式的初始化；2)遍历67种预测模式，跳过VVC中新加的33种角度模式，只对HEVC中存在的35种模式进行SATD的计算，从中选出SATD最小的几个模式和它们的SATD值并存入模式列表和cost列表，并且将模式数目、模式列表和cost列表保存到LFNST通道；3)遍历上一步选出来的几种模式，这几种模式如果是在2—66之间，则将每种模式与其相邻的两个模式比较SATD，从中选出SATD值最小的一个，更新模式列表和cost列表中的值，但模式数目不变；4)构建MPM列表并遍历MPM列表中的6种模式，计算这6种模式的SATD，并与上一步中的cost列表中的SATD值比较，选择SATD最小的那个模式，再次更新模式列表和cost列表中的值；5)用哈达玛变换导出MIP候选模式；6)将MIP的MPM模式添加到模式列表并更新模式数目和cost列表；7)从ISP列表中删除非MPM模式；8)把常规帧内、MIP和ISP模式组合到一起创建完整的模式列表；9)遍历模式列表中所有的模式，用RDCost检测每个模式，选择RDCost最本文档来自技高网...

【技术保护点】
1.一种多功能视频编码中基于ALF滤波的预测模式快速选择方法，其特征在于，包括以下步骤：/nS1：获得编码数据，所述编码数据由VTM5.0对视频序列编码码流统计分析后得到；/nS2：对当前CU进行帧间预测，获得当前PU的最佳MV，保留最佳MV的矢量值，确定对应的最佳参考块；/nS3：对所述最佳参考块的梯度信息进行统计分析；/nS4：计算当前CU参考块最大的平均像素梯度值AvgGrad；/nS5：获得最优划分模式；/nS6：进入当前PU帧内预测，遍历67种帧内预测模式，跳过VVC中新增加的角度模式，对HEVC中的35种预测模式进行SATD计算，确定模式列表CandList中的模式；/nS7：若模式列表CandList中的模式介于2～66之间，比较每种模式与其相邻的两种模式的SATD值，将SATD值最小的模式加入模式列表CandList；/nS8：根据当前块左边和上边的相邻块，构建MPM，遍历MPM列表中的模式，若MPM中的模式不包括在CandList中，则将其加入到CandList中；/nS9：分别执行MIP模块和ISP模块，更新候选列表CandList；/nS10：获取参考块中每个像素点所对应的ALF滤波四种梯度值；/nS11：统计参考块中各方向ALF滤波梯度值之和，选取梯度值之和最小的ALF滤波梯度方向作为当前PU帧内预测的候选方向模式并保存；/nS12：计算当前PU的预测方向的范围；/nS13：保留位于CandList中的候选模式，确定最终的候选预测模式范围，选择最优的帧内预测模式；/nS14：确定当前CU的最佳预测模式和划分模式，进行下一CU的预测编码。/n...

【技术特征摘要】
1.一种多功能视频编码中基于ALF滤波的预测模式快速选择方法，其特征在于，包括以下步骤：
S1：获得编码数据，所述编码数据由VTM5.0对视频序列编码码流统计分析后得到；
S2：对当前CU进行帧间预测，获得当前PU的最佳MV，保留最佳MV的矢量值，确定对应的最佳参考块；
S3：对所述最佳参考块的梯度信息进行统计分析；
S4：计算当前CU参考块最大的平均像素梯度值AvgGrad；
S5：获得最优划分模式；
S6：进入当前PU帧内预测，遍历67种帧内预测模式，跳过VVC中新增加的角度模式，对HEVC中的35种预测模式进行SATD计算，确定模式列表CandList中的模式；
S7：若模式列表CandList中的模式介于2～66之间，比较每种模式与其相邻的两种模式的SATD值，将SATD值最小的模式加入模式列表CandList；
S8：根据当前块左边和上边的相邻块，构建MPM，遍历MPM列表中的模式，若MPM中的模式不包括在CandList中，则将其加入到CandList中；
S9：分别执行MIP模块和ISP模块，更新候选列表CandList；
S10：获取参考块中每个像素点所对应的ALF滤波四种梯度值；
S11：统计参考块中各方向ALF滤波梯度值之和，选取梯度值之和最小的ALF滤波梯度方向作为当前PU帧内预测的候选方向模式...

【专利技术属性】
技术研发人员：张昊，钟培雄，傅枧根，冯冰雪，马学睿，
申请(专利权)人：中南大学，
类型：发明
国别省市：湖南;43