一种码率预估方法及基于码率预估快速模式决策方法技术

本发明专利技术公开了一种码率预估方法及基于码率预估快速模式决策方法。所述的码率计算公式如下：Rori＝Rhdr+Re其中Rhdr为头比特码率，Re为TU码率；所述TU码率计算包括：S1)通过加权量化系数总和SQC进行码率预估，表示为Rsqc；S2)确定基于CG级别的位置信息Zpos；S3)确定上下文模型反转参数Mturn；S4)确定是否使用TU级别最后一个非零系数位置信息Ztlp；S5)计算最终各TU码率：

A rate prediction method and a fast mode decision method based on rate prediction

【技术实现步骤摘要】
一种码率预估方法及基于码率预估快速模式决策方法
本专利技术涉及视频编码领域，具体涉及一种码率预估方法及基于码率预估快速模式决策方法。
技术介绍
在视频编码过程中，模式决策有着巨大的时间消耗，首先在H.265视频编解码标准中，有着很灵活的块划分，比如说基于四叉树的编码单元(CU)，变换单元(TU)以及预测单元(PU)，所有的CU/PU/TU都需要经过率失真优化来得到最优的划分方式，就CU而言，尺寸大小有64x64，32x32，16x16三种，划分是根据码率(R)与失真(D)的总体性能，它描述着视频的编码质量，码率需要遍历各个系数，得到系数级别的语法元素，才能对其完成熵编码得到码率，此过程伴随着上百个上下文模型的更新，这是一个非常复杂的过程，因此快速计算出码率，可以大大提高模式决策的时间消耗。在过去的二十几年中，一些学者提出了几种码率预估算法。选取特定参数，经过算法处理最终得到预估码率，但从参数选取来讲，一些学者提出的参数选取非常的粗略，列如量化后块级别的非零系数个数(NZ)、最后一个非零系数的位置(LP)以及量化系数总和(SQC)，因为上下文对在编码过程中对码率的大小有趋势性影响，这些参数不能很好的反应系数之间的关联性，也不能反应各个系数块(CG)之间的相关性，最后导致性能损失较大。从算法角度来讲，一些学者提出的算法复杂度较高，一些算法需要在线拟合学习，硬件资源消耗巨大，虽然在性能上损失较小，但却不利于硬件实现，从变换域来讲，一些学者提出从变换数据制定算法拟合得到码率，此方案虽然可以省去硬判决量化(HDQ)过程，使用一个阈值来简要判断量化后的结果，但CABAC模型必须得到精准量化后的结果才可以使用，使用残差域数据也就意味着算法注定不会精准，性能损失也会比较严重。因此，本专利技术公开一种基于码率预估的快速模式决策技术，包括拟合参数选取，考虑了系数之间的相关性，按不同系数块标记(CSBF)来进行分类统计码率，这考虑到了CG之间的关联性，前者采用普通参数与CABAC参数相结合，后者采用线性拟合的方法，在算法复杂度不是很高的情况下，考虑系数与CG之间的相关性，对码率进行预估。现有技术包括基于量化系数的码率预估方法和基于变换系数的码率预估方法，典型的量化系数预估码率技术列举如下：[1]NovelstatisticalModeling,AnalysisandImplementationofRate-DistortionEstimationforH.264/AVCcoders[2]FastRateEstimationforRDOModeDecisioninHEVC[3]Low-ComplexityRate-DistortionOptimizationAlgorithmsforHEVCIntraPrediction[4]BinaryClassificationBasedLinearRateEstimationModelForHEVCRDO上述码率预估技术，是在HDQ量化结束后，使用量化系数总和(SQC)、系数大于一的个数(NG1)和非零系数个数(NZ)等参数来进行分类拟合，因为量化系数越大，码率消耗就越多，所以这些参数能够直观的反应码率信息，但这类方法的不足之处在于：参数的描述过于粗略并且没有考虑到系数之间码率的相关性，因为系数的码率是有相关性的，前一个系数的码率会对下一个系数的码率产生影响，如果不考虑会导致性能下降。典型的变换系数预估码率技术列举如下：[5]FastAlgorithmandVLSIArchitectureofRateDistortionOptimizationinH.265/HEVC[6]Low-ComplexityRate-DistortionOptimizationAlgorithmsforHEVCIntraPrediction上述码率预估技术，是在HDQ之前，残差系数进行离散余弦变换(DCT)后得到变换系数，对变换系数进行处理拟合来预估码率，此类方法为使用一个阈值来模仿HDQ的过程，即变换系数通过一个阈值来判断此系数是否量化为非零，并且变换系数与量化系数成正比关系，所以变换系数一定程度上也可以反映码率，但这种技术的不足之处在于：因为省去量化过程导致使用变换系数来描述码率会更加模糊，并且上下文对在编码过程中码率大小有趋势性影响，而CABAC是基于精准的量化系数来编码，因此使用残差系数意味着无法考虑系数与系数块之间的相关性，导致性能下降严重。
技术实现思路
针对现有技术存在的技术问题，本专利技术提供了一种码率预估方法及基于码率预估快速模式决策方法。一种码率预估方法，所述的码率：Rori＝Rhdr+Re其中Rhdr为头比特码率，Re为TU码率；所述TU码率计算包括：S1)通过加权量化系数总和SQC进行码率预估，表示为Rsqc；S2)确定基于CG级别的位置信息Zpos；S3)确定上下文模型反转参数Mturn；S4)确定是否使用TU级别最后一个非零系数位置信息Ztlp；S5)计算最终各TU码率：其中Rzpos＝a1Zpos，Rturn＝a2Mturn，Rtlp＝a3Ztlp，将Rzpos、Rturn、Rtlp带入公式Re，通过与利用HEVC中元算法计算得到的码率进行拟合得到系数a1、a2、a3。进一步的，根据TU块的大小不同和特定位置的CG系数标记不同，对系数标记编码时所要用到的上下文模型，将CG分为多种种类，通过拟合得到不同种类CG的权重系数wt[4×4]，根据每个TU包含的CG种类不同，确定每个TU的权重系数Wij，TU级别的SQC码率为：其中Qij代表经过HDQ的量化系数。进一步的，所述的TU的权重系数Wij包含多个种类CG的权重系数wt[4×4]，Wij大小与TU大小一致。进一步的，所述的CG分为7类，第一类为TU大小为4*4；第二类为TU中包含的第一个CG；第三类为TU中包含的最后一个CG；第四类为CSBF_L＝0，CSBF_R＝0；第五类为CSBF_L＝0，CSBF_R＝1；第六类为CSBF_L＝1，CSBF_R＝0；第七类为CSBF_L＝1，CSBF_R＝1。进一步的，所述的CG级别的位置信息包括CG级别最后一个非零系数的扫描位Zclp和扫描顺序下两两相邻非零系数位置差和Zds，所述Zpos＝Zclp+Zds。进一步的，所述的模型反转参数Mturn为当前编码比特等于LPS的次数，所述初始变量MPS和σ的计算如下：a＝V＞＞4b＝V&15c＝5·a-45d＝(b＜＜3)-16e＝Clip3(1,126,((c·Clip3(0,51,QPY))＞＞4)+d)其中a,b,c,d,e为中间变量，QP为片层亮度参数量化参数，在获得初始的概率模型变量后，若编码的码元与MPS初始变量一致，则Mturn不变；若不一致，Mturn加1。一种基于所述的码率预估方法进行快速模式决策方法，包括以下步骤：S11)信号源经过RMD过程后进行帧内预测；S12)对帧内预测结果进行变换和量化；S13)量化后的结果采用所述的码率预估方式进行预估，并且将预估的码率与量化结果结合进行反量化；S14)对反量化结果进行逆变换，与步骤S13)中预估的码率结合进行模式决策，得到最优模式输出，并将结果反馈给RMD和帧内预测过程。本专利技术本文档来自技高网...

【技术保护点】
1.一种码率预估方法，其特征在于所述的码率：Rori＝Rhdr+Re其中Rhdr为头比特码率，Re为TU码率；所述TU码率计算包括：S1)通过加权量化系数总和SQC进行码率预估，表示为Rsqc；S2)确定基于CG级别的位置信息Zpos；S3)确定上下文模型反转参数Mturn；S4)确定是否使用TU级别最后一个非零系数位置信息Ztlp；S5)计算最终各TU码率：

【技术特征摘要】
1.一种码率预估方法，其特征在于所述的码率：Rori＝Rhdr+Re其中Rhdr为头比特码率，Re为TU码率；所述TU码率计算包括：S1)通过加权量化系数总和SQC进行码率预估，表示为Rsqc；S2)确定基于CG级别的位置信息Zpos；S3)确定上下文模型反转参数Mturn；S4)确定是否使用TU级别最后一个非零系数位置信息Ztlp；S5)计算最终各TU码率：其中Rzpos＝a1Zpos，Rturn＝a2Mturn，Rtlp＝a3Ztlp，将Rzpos、Rturn、Rtlp带入公式Re，通过与利用HEVC中元算法计算得到的码率进行拟合得到系数a1、a2、a3。2.根据权利要求1所述的一种码率预估方法，其特征在于：根据TU块的大小不同和特定位置的CG系数标记不同，对系数标记编码时所要用到的上下文模型，将CG分为多种种类，通过拟合得到不同种类CG的权重系数wt[4×4]，根据每个TU包含的CG种类不同，确定每个TU的权重系数Wij，TU级别的SQC码率为：其中Qij代表经过HDQ的量化系数。3.根据权利要求2所述的一种码率预估方法，其特征在于所述的TU的权重系数Wij包含多个种类CG的权重系数wt[4×4]，Wij大小与TU大小一致。4.根据权利要求2所述的一种码率预估方法，其特征在于所述的CG分为7类，第一类为TU大小为4*4；第二类为TU中包含的第一个CG；第三类为TU中包含的最后一个CG；第四...

【专利技术属性】
技术研发人员：殷海兵，孟翔，黄晓峰，
申请(专利权)人：杭州电子科技大学，
类型：发明
国别省市：浙江,33