一种基于机器学习算法多层次全零块预判决方法及系统技术方案

本发明专利技术公开了一种基于机器学习算法多层次全零块预判决方法及系统。包括：S1：确定阈值Г1，当max(|dij|)＜Γ1时，判定TU块经过HDQ量化后，会量化为全零TU，所述

A multi-level all zero block pre decision method and system based on machine learning algorithm

【技术实现步骤摘要】
一种基于机器学习算法多层次全零块预判决方法及系统
本专利技术算法涉及视频编码领域，具体涉及一种基于机器学习算法多层次全零块预判决方法及系统。
技术介绍
在视频编码过程中，变换和量化占据着大量的计算时间，然而在量化过程中会有大量的变换TU块经过量化算法后最终量化为全零块(AZB)，特别是在低比特率情况下。事实上，这些全零块(AZB)并不会传递任何编码信息，但却在量化过程中占据着大量的编码时间。因此如果能在量化之前实现全零块(AZB)预判决能够有效降低编码负担。目前视频编码领域常采用两种典型量化算法，一种是基于四舍五入、系数独立的硬判决量化(HDQ),如死区dead-zone硬判决量化，这类方法没有考虑系数之间的相关性；另一种是基于动态规划的软判决量化(SDQ)算法，其充分考虑了系数之间数据依赖关系，将维特比算法应用在块内系数联合优化量化，将块内系数联合优化量化问题转换为维特比最优路径选择问题。目前，广泛采用的率失真优化量化(RDOQ)就是一类典型的SDQ量化算法。与死区量化相比，RDOQ具有良好的编码率失真性能。为了获得良好编码性能，在HM实际编码应用中，RDOQ可以表示为预量化(HD本文档来自技高网...

【技术保护点】
1.一种基于机器学习算法多层次全零块预判决方法，其特征在于包括：S1：确定阈值Г1，当max(|dij|)＜Γ1时，判定TU块经过HDQ量化后，会量化为全零TU，所述

【技术特征摘要】
1.一种基于机器学习算法多层次全零块预判决方法，其特征在于包括：S1：确定阈值Г1，当max(|dij|)＜Γ1时，判定TU块经过HDQ量化后，会量化为全零TU，所述dij是经过DCT变换后的系数；S2：确定阈值Г2，当TU中满足公式(4)的DCT变换系数的个数小于等于Γ2时，则判定该TU经过HDQ方法后是non-AZB，但是经过RDOQ方法后为AZB，所述公式(4)为所述Г2为S3：TU块采用机器学习的方法实现AZB预判决，机器学习方法分别提取了TU级别、系数级别和上下文语法元素级别的特征值。2.根据权利要求1所述的一种基于机器学习算法多层次全零块预判决方法，其特征在于所述Г1的取得方法如下：在最新的视频编码标准(HEVC)中，硬判决量化(HDQ)公式如(1)所示：|lij|＝(|dij|·MQP/6+offset)＞＞Qbits(1)其中lij是经过HDQ量化后的系数，dij是经过DCT变换后的系数；在实际编码应用中，MQP/6、offset和Qbits的定义如公式(2)所示：其中bitDepth表示视频编码深度，N表示TU块的宽度；当量化系数的最大值max(lij)小于1时，那么该TU块经过HDQ量化后，会量化为全零TU；因此根据该理论，经过公式推导得到如下判决公式，如公式(3)所示:其中max(·)表示获取TU块中某一类型数值的最大值。3.根据权利要求1所述的一种基于机器学习算法多层次全零块预判决方法，其特征在于所述S3中TU级别特征值采用所述τ为直流分量以及相邻位置上DCT系数的能量总和；所述代表TU的总能量。4.根据权利要求3所述的一种基于机器学习算法多层次全零块预判决方法，其特征在于所述的τ通过三种扫描方式：水平、垂直和对角扫描选取直流分量及相邻位置上的三个DCT系数计算。5.根据权利要求1所述的一种基于机器学习算法多层次全零块预判决方法，其特征在于所述的系数级别特征值采用和η1为经过HDQ方法后系数lij＝1的个...

【专利技术属性】
技术研发人员：殷海兵，杨浩运，黄晓峰，
申请(专利权)人：杭州电子科技大学，
类型：发明
国别省市：浙江,33