一种基于支持向量机SVM的P帧中Intra预测模式快速判定方法技术

本发明专利技术公布了一种基于支持向量机SVM的P帧中Intra预测模式快速判定方法，该方法利用支持向量机分类器决策P帧中是否选择Intra预测模式，在所述决策过程中，利用了帧间预测过程中产生的辅助特征，降低了P帧中Intra预测模式判定的误判率。本发明专利技术所提出的基于支持向量机的P帧中Intra预测模式快速判定方法能够在保证编码质量的前提下，显著提高编码速度。

A fast prediction method of Intra prediction mode in P frames based on support vector machine SVM

This invention announces a fast determination method of Intra prediction mode in P frame based on support vector machine SVM. This method uses a support vector machine classifier to decide whether the Intra prediction mode is selected in the P frame. In the decision process, the auxiliary feature produced in the interframe prediction process is utilized, and the Intra prediction mode in the P frame is reduced. The rate of miscarriage of justice. The proposed method of fast determination of Intra prediction mode in P frame based on support vector machine can significantly improve the coding speed on the premise of guaranteeing the quality of the coding.

【技术实现步骤摘要】
一种基于支持向量机SVM的P帧中Intra预测模式快速判定方法
本专利技术属于多媒体编码领域，涉及一种针对HEVC视频编码标准的P帧预测中Intra预测模式快速判定方法。
技术介绍
视觉是人们感知和认知外部世界的主要途径。实验心理学家赤瑞特拉通过大量实验证实人类获得信息的80％以上都来自视觉。正因为如此，在这个信息化的时代，多媒体相关应用已深入到人们生活的方方面面。HDTV、IPTV、网络媒体流、网络电视、视频会议等多媒体应用不断改变着人们的生活方式。与此同时，这些多媒体应用也给现有的存储资源与通信系统带来了巨大的挑战。根据cisco发布预测报告，2014年至2019年的全球移动互联网流量将会增长10倍，每月达到24.3EB(1EB＝10亿GB)。其中约有72％的移动流量来自视频。因此，利用视频压缩技术来降低视频信号的存储容量和传输带宽，已经成为目前一项紧迫且现实的研究课题。随着高清视频(分辨率4K×2K、8K×4K)、3D视频、无线视频等应用逐步走进人们的视野，对于现有视频编码标准H.264/AVC提出了新要求。为了更好的满足在移动无线视频、远程监控、数字广播、移动流媒体、便携摄像和医学成像等领域的应用。在2010年4月，VCEG与MPEG组建了视频编码联合组(JointCollaborativeTeamonVideoCoding，JCT-VC)，负责组织新一代视频编码标准H.265/HEVC的研发和制定。并于2013年，由ITU-T(InternationalTelecommunicationUnion-Telecommunicationstandardizationsector，国际电信联盟-电信标准化组)和ISO/IEC(InternationalOrganizationforStandardization/InternationalElectrotechnicalCommission，国际标准化组织/国际电工委员会)正式发布。作为新一代视频编码标准，HEVC的目标是在H.264/AVChighprofile的基础上，通过采用多种先进的编码技术，使其压缩效率提高一倍，即在保证相同视频质量的前提下，压缩后的视频码流所占存储空间(带宽)为原来的50％。然而，HEVC压缩效率的提升是以牺牲编码端的时间复杂度为代价的，这对于视频实时应用是一个巨大的挑战。HEVC标准测试代码HM16.0的编码器距离实时应用大约差5000倍速度。因此，在保证编码质量的前提下，进一步提升HEVC标准的编码速度，对于加快HEVC标准在产业界的广泛应用，提高视频编码技术在各个领域的应用水平，具有重要的应用价值和社会意义。
技术实现思路
通过深入的研究，本专利技术人认识到，在HEVC/H.265标准的实际应用中，P帧预测起着至关重要的作用，由于I帧编码复杂度较高，所以在编码器的实时应用中，主要使用P帧与B帧编码，只是间隔插入I帧，在P帧编码过程中，首先执行帧间预测，而后使用HEVC标准的判定条件(三个CBF是否同时为零)，决策是否执行帧内预测，三个CBF同时为零，则跳过帧内预测过程，否则将执行帧内预测，在帧间与帧内预测中，选择率失真代价较小的模式作为当前预测单元的最优预测模式。通过对P帧中预测单元进行统计分析，只有5％左右预测单元的最优模式会由帧内预测选出，这说明在P帧编码中，绝大部分编码单元最终选择帧间预测作为最优的预测模式，前HEVC参考软件中的P帧intra快速算法会导致P帧中一部分帧内预测是冗余的，而帧内预测的自身时间复杂度较高，从而降低了编码效率。从上诉分析中可以得出，仅靠量化残差系数判定是否执行帧内预测是不够准确的，所以本专利技术人在充分研究帧间编码特征的基础上，加入能够在一定程度上区分帧间预测与帧内预测的特征，并结合机器学习的思想，对编码单元进行预测，提高P帧的编码效率。为了克服现有技术的缺陷，本专利技术人提出一种基于支持向量机的P帧中Intra预测模式快速判定方法，该方法利用支持向量机分类器决策P帧预测过程中是否选择Intra预测模式，在决策过程中，引入帧间预测过程中产生的一些辅助特征，进一步降低了P帧Intra预测模式的误判率。根据本专利技术的基于支持向量机的P帧中Intra预测模式快速判定方法能够在保证编码性能的前提下，有效地减少编码时间。根据本专利技术的一个实施例的基于支持向量机SVM的P帧中Intra预测模式快速判定方法包括：步骤(1)、对HEVC视频标准测试序列进行编码，收集P帧中Intra预测模式判定数据，并生成正负样本的数据集，而后，对正负样本数据集使用K-folder交叉验证法进行验证；步骤(2)、按照编码单元CU的率失真性能的重要程度，给正负样本的数据集中的样本点赋予不同的权重，用加权支持向量机来对支持向量分类器进行训练，加入权重系数以后，训练样本记为：其中，xi是第i个输入数据，ci是第i个输入数据的所属类别，Wi为第i个输入数据的权重系数，分类器目标函数Φ(ω)则调整为：其中ω为法向量，C为惩罚因子，即噪声点的权重，ξi为松弛变量；步骤(3)、计算支持向量机SVM的输入特征，包括：当前预测单元与相邻预测单元运动矢量MV模长的平均差、当前编码单元的编码深度、帧间预测INTER_2Nx2N模式的率失真代价与Merge/SKIP模式MSM率失真代价的归一化差值、帧间预测率失真归一化代价；其中，所述率失真代价的归一化差值的计算方式如下：其中RD(2N×2N)为帧间预测INTER_2Nx2N模式的率失真代价，RD(MSM)为Merge/SKIP模式MSM率失真代价；帧间预测率失真归一化代价的计算方式如下：APRD_Cost＝RD_Cost/(PU_Width×PU_Height)，其中，RD_Cost为当前预测单元PU的率失真代价，PU_Width为当前预测单元PU的宽度，PU_Height为当前预测单元PU的高度；步骤(4)、在支持向量机SVM分类器对P帧Intra预测模式进行判定过程中，首先将加权SVM离线训练出来的SVM模型加载到HM16.0编码器中，而后将帧间预测过程中计算得到的特征输入到所述分类器中进行Intra预测模式判定。根据本专利技术的一个进一步的实施例，在上述基于支持向量机SVM的P帧中Intra预测模式快速判定方法中，生成正负样本的数据集的处理包括：采用等比例采样的方式，生成正负样本的数据集，以保证样本均衡性。根据本专利技术的一个进一步的实施例，在上述基于支持向量机SVM的P帧中Intra预测模式快速判定方法中，使用K-folder交叉验证法进行验证的操作包括：将正负样本数据集分为K个子集，取其中的K-1个子集作为训练样本对支持向量分类器进行训练，剩余1个子集作为测试样本，交叉验证重复K次，每次选择一个子集作为测试集，并将K次的平均交叉验证正确率作为结果，以此消除分类器对训练样本的依赖性。根据本专利技术的一个进一步的实施例，在上述基于支持向量机SVM的P帧中Intra预测模式快速判定方法中，对HEVC视频标准测试序列进行编码的操作包括：使用HM16.0编码器，对HEVC视频标准测试序列进行编码。根据本专利技术的一个方面，提供了一种基于支持向量机SVM的P帧中Intra预测模式快速判定方法，其特征在于包括：A)对本文档来自技高网...

【技术保护点】
1.一种基于支持向量机SVM的P帧中Intra预测模式快速判定方法，其特征在于包括：A)对HEVC视频标准测试序列进行编码，收集P帧中Intra预测模式判定数据，并生成正负样本的数据集，而后，对正负样本数据集使用K‑folder交叉验证法进行验证；B)按照编码单元CU的率失真性能的重要程度，给正负样本的数据集中的样本点赋予不

【技术特征摘要】
1.一种基于支持向量机SVM的P帧中Intra预测模式快速判定方法，其特征在于包括：A)对HEVC视频标准测试序列进行编码，收集P帧中Intra预测模式判定数据，并生成正负样本的数据集，而后，对正负样本数据集使用K-folder交叉验证法进行验证；B)按照编码单元CU的率失真性能的重要程度，给正负样本的数据集中的样本点赋予不同的权重，用加权支持向量机来对支持向量分类器进行训练，加入权重系数以后，训练样本记为：其中，xi是第i个输入数据，ci是第i个输入数据的所属类别，Wi为第i个输入数据的权重系数，分类器目标函数Φ(ω)则调整为：其中ω为法向量，C为惩罚因子，即噪声点的权重，ξi为松弛变量；C)计算支持向量机SVM的输入特征，包括：当前预测单元与相邻预测单元运动矢量MV模长的平均差、当前编码单元的编码深度、帧间预测INTER_2Nx2N模式的率失真代价与Merge/SKIP模式MSM率失真代价的归一化差值、帧间预测率失真归一化代价；其中，所述率失真代价的归一化差值的计算方式如下：其中RD(2N×2N)为帧间预测INTER_2Nx2N模式的率失真代价，RD(MSM)为Merge/SKIP模式MSM率失真代价；帧间预测率失真归一化代价的计算方式如下：APRD_Cost＝RD_Cost/(PU_Width×PU_Height)，其中，...

【专利技术属性】
技术研发人员：田睿，李波，张永飞，
申请(专利权)人：北京航空航天大学，
类型：发明
国别省市：北京,11