一种视频编码中绝对变换误差和的计算方法及装置制造方法及图纸

本发明专利技术实施例公开了一种视频编码中绝对变换误差和的计算方法及装置，解决了现有SATD计算涉及大量加法运算以及需要较大存储空间的寄存器来保存中间计算结果的缺陷，本发明专利技术的视频编码中绝对变换误差和的快速计算方法包括：获取残差数据矩阵；对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算；对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算；将所述第二绝对变换误差和运算的计算结果乘以2，然后再与所述第一绝对变换误差和运算的计算结果进行求和，得到基于所述残差数据矩阵的绝对变换误差和。

【技术实现步骤摘要】

本专利技术涉及视频编码
，尤其涉及一种视频编码中绝对变换误差和的计算方法及装置。
技术介绍
在视频编码系统中，常见的失真度评价准则有绝对误差和SAD(SumofAbsoluteDifference)、绝对变换误差和SATD(SumofAbsoluteTransformedDifference)、平方误差和SSE(SumofSquaredError)等。在常用视频失真度的评价准则中，平方误差和SSE效果较好，但是存在乘法运算计算量较大，需要进行离散余弦变换、量化、反量化及反离散余弦变换等操作，其计算复杂且耗时；绝对误差和SAD计算简单但是误差较大；绝对变换误差和SATD效果及性能折中，因此，SATD在最新的HEVC编码规范中有广泛应用。例如，基于8×8的残差数据矩阵的绝对变换误差和SATD8x8的计算公式如下：其中，X为8×8的残差数据矩阵，H8为8阶hadamard变换系数矩阵，为所述8阶hadamard变换系数矩阵H8的转置矩阵，SA(M)表示对对矩阵M中的每个数据进行取绝对值求和操作，考虑到H8为对称矩阵，所以H8的转置矩阵与H8等价，即由于计算SATD8x8需要对三个8本文档来自技高网...

【技术保护点】
一种视频编码中绝对变换误差和的计算方法，其特征在于，包括：获取残差数据矩阵；对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算；对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算；将所述第二绝对变换误差和运算的计算结果乘以2，然后再与所述第一绝对变换误差和运算的计算结果进行求和，得到基于所述残差数据矩阵的绝对变换误差和。

【技术特征摘要】
1.一种视频编码中绝对变换误差和的计算方法，其特征在于，包括：获取残差数据矩阵；对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算；对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算；将所述第二绝对变换误差和运算的计算结果乘以2，然后再与所述第一绝对变换误差和运算的计算结果进行求和，得到基于所述残差数据矩阵的绝对变换误差和。2.根据权利要求1所述的方法，其特征在于，所述残差数据矩阵为8×8的矩阵X，由4个4×4的分块矩阵X00、X01、X10、X11构成，即X=X00X01X10X11;]]>所述对所述残差数据矩阵对应的hadamard变换系数矩阵上半部分的子矩阵、所述残差数据矩阵以及所述hadamard变换系数矩阵的转置矩阵进行第一绝对变换误差和运算具体为：对位于8阶hadamard变换系数矩阵H8上半部分的4×8子矩阵D1、8×8的残差数据矩阵X以及所述H8的转置矩阵进行第一绝对变换误差和运算其中，D1＝(H4H4)；其中，所述8阶hadamard变换系数矩阵H8可以表示为如下分块矩阵的形式：H8=H4H4H4-H4,H4=11111-11-111-1-11-1-11,]]>H4为4阶hadamard变换系数矩阵；所述对所述残差数据矩阵对应的hadamard变换系数矩阵下半部分的子矩阵、所述残差数据矩阵进行第二绝对变换误差和运算具体为：对位于所述8阶
\thadamard变换系数矩阵H8下半部分的4×8子矩阵D2、所述8×8的残差数据矩阵X进行第二绝对变换误差和运算SAT...

【专利技术属性】
技术研发人员：卢立志，
申请(专利权)人：北京君正集成电路股份有限公司，
类型：发明
国别省市：北京;11