一种高清视频编码中快速帧内预测模式选择方法技术

本发明专利技术提出了一种高清视频编码中快速帧内预测模式选择方法。首先利用绝对误差和SAD对残差进行处理，选出误差小的几种候选预测模式。然后采用简化的率失真代价函数，即哈达码变换绝对值和SATD(Sum of Absolute Hadamard Transformed Difference)的代价函数进一步减少候选预测模式数，并且采用阈值的方式得到候选预测模式，相同大小的预测单元的候选预测模式个数也可能不相同。接着利用最优模式的概率统计以及相邻预测单元之间预测信息的相关性，检测最可能预测模式MPM(Most Probable Mode)是否包含在候选预测模式中，MPM指当前预测单元周围已编码的左边预测单元和上边预测单元的最佳预测模式。如果包含，则仅将包含在候选预测模式中的MPM作为最终的RDO候选预测模式；否则直接将进一步筛选的候选预测模式作为最终的RDO候选预测模式。最后根据拉格朗日率失真优化准则获得当前编码块的最佳帧内预测模式。

【技术实现步骤摘要】

:本专利技术属于信号处理中的视频压缩编码领域，特别针对新一代视频编码领域提出一种快速帧内预测模式选择方法，在保证图像质量的前提下，加快了高清视频帧内预测编码的速度。
技术介绍
:High Efficiency Video Coding (HEVC)是由 IS0/IEC MPEG 和 ITU-T VCEG 联合制定的新一代视频编码标准，它继承了现有的视频编码标准H.264/AVC的部分技术，同时对相关的技术进行了改进，目的是在原来视频解码质量的基础上，压缩效率提高一倍。即可以适当的提高编码复杂度，来保证视频图像质量不变的前提下，视频的码流减少50% (参见M.Viitanenj J.Vannej T.D.Hamalainenj et al..Complexity analysis of next-generationHEVC decoder [A].1EEE International Symposium on Circuits and Systems [C], Seoul, Korea，2012,882-885.) oHEVC仍然采用基于块的编码框架，同时采用了新的图像表示本文档来自技高网...

【技术保护点】
一种高清视频编码中快速帧内预测模式选择方法，其特征在于如下步骤：步骤一：分别计算当前64×64大小的编码单元的35种预测模式的预测残差的绝对值和SAD，根据大小进行排序，选出较小的几种候选预测模式。步骤二：采用简化的率失真代价，即哈达码变换绝对值和SATD的代价函数计算经过步骤一筛选后得到的候选预测模式，选出简化率失真代价较小的几种预测模式，并且根据预测模式成为最终的最优帧内预测模式的统计概率，采用阈值的方式保留不同候选预测模式数量。步骤三：检测最可能预测模式MPM是否包含在候选预测模式中，如果包含，则仅将包含在候选预测模式中的MPM作为最终的RDO候选预测模式；否则，将步骤二中得到的候选预测...

【技术特征摘要】
1.一种高清视频编码中快速帧内预测模式选择方法，其特征在于如下步骤: 步骤一:分别计算当前64X64大小的编码单元的35种预测模式的预测残差的绝对值和SAD，根据大小进行排序，选出较小的几种候选预测模式。 步骤二:采用简化的率失真代价，即哈达码变换绝对值和SATD的代价函数计算经过步骤一筛选后得到的候选预测模式，选出简化率失真代价较小的几种预测模式，并且根据预测模式成为最终的最优帧内预测模式的统计概率，采用阈值的方式保留不同候选预测模式数量。 步骤三:检测最可能预测模式MPM是否包含在候选预测模式中，如果包含，则仅将包含在候选预测模式中的MPM作为最终的RDO候选预测模式；否则，将步骤二中得到的候选预测模式作为最终的RDO候选预测模式； 步骤四:计算RDO候选预测模式中所有预测模式的率失真代价RD0，将RDO值最小的预测模式选为最优预测模式；如果RDO候选预测模式中只有一个候选模式，则直接将该候选模式作为预测单元的最优预测模式；得到最佳预测模式的率失真代价RdCostl ； 步骤五:对编码单元划分后得到的四个亚编码单元，重复步骤一到步骤四对亚编码单元选择最优的预测模式进行编码，得到划分后的四个亚编码单元的率失真代价RDO之和RdCost2 ； 步骤六:比较编码单元和亚编码单元的率失真代价RD0,即比较CostRdl和CostRd2的值，当RdC0Stl>RdC0St2，转到步骤七；否则，采用当前编码单元进行预测编码，转到步骤八； 步骤七:对亚编码单元进一步分成四个更小的编码单元，...

【专利技术属性】
技术研发人员：祝世平，赵冬玉，李丽芸，
申请(专利权)人：北京航空航天大学，
类型：发明
国别省市：北京;11