一种用于率失真优化的SSE简化计算方法及装置制造方法及图纸

本发明专利技术实施例公开了一种用于率失真优化的SSE简化计算方法及装置，涉及视频编码技术领域，解决了现有技术中基于SSE的率失真优化的计算量和占用的硬件资源大的缺陷，相应地，需要的硬件资源复杂的缺陷。本发明专利技术的用于率失真优化的SSE简化计算方法包括：对视频残差数据矩阵进行整数DCT变换，得到经过整数DCT变换后的第一频域数据矩阵；对所述第一频域数据矩阵进行量化与反量化操作，得到第二频域数据矩阵；计算所述第一频域数据矩阵与所述第二频域数据矩阵的误差平方和，得到所述残差数据矩阵对应的SSE简化值。

【技术实现步骤摘要】

本专利技术涉及视频编码
，尤其涉及一种用于率失真优化的SSE简化计算方法及装置。
技术介绍
对于有损视频压缩编码算法往往造成编码重建视频和原始视频存在差别，即重建视频产生失真，其性能需要根据编码输出的比特率和编码带来的失真度共同衡量。具体地，如果降低比特率往往会增加视频的失真度，相反要想获得更好的视频质量，又会提高视频编码的编码比特率。因此，视频编码的主要目的就是在保证一定视频质量的前提下尽量减少编码比特率，或者在一定编码比特率限定条件下尽量减少编码失真。基于率失真理论的编码参数优化方法被称为率失真优化，率失真优化技术是保证编码器编码效率的主要手段。准确度量视频失真度是权衡视频编码性能的先决条件。实际应用中存在多种度量视频失真度的客观评价方法，具体包括误差平方和(SumofSquaredError，SSE)、均方误差(MeanSquaredError，MSE)、绝对值误差和(SumofAbsoluteDifference，SAD)等。其中，SSE为最常用的一种度量视频失真度的算法，广泛应用于率失真优化中，在HEVC标准中，SSE的求解流程如图1所示，由图1可知，将视频数据矩阵的残差数据矩阵进行整数离散余弦变换(整数DCT变换)得到第一频域数据矩阵；将所述第一频域数据矩阵进行量化与反量化，得到第二频域数据矩阵；对所述第二频域数据矩阵进行逆整数离散余弦变换(整数IDCT变换)，得到重建的数据矩阵；将所述残差数据矩阵各位置的数据与所述重建的数据矩阵对应位置的数据做差后求平方和，以得到度量所述视频编码失真度的SSE值，即其中，X和X'分别表示所述视频数据矩阵的残差数据矩阵和所述重建的数据矩阵，相应地，率失真代价RDCost的计算公式为RDCost＝SSE+λRate，其中，λ为权重系数，Rate为码率，其可在量化步骤后得到。在实现本专利技术的过程中，专利技术人发现现有技术中SSE计算方法及硬件实现方面至少存在如下技术问题：基于SSE的率失真优化过程中需要进行整数DCT变换和整数IDCT变换，而实现整数DCT变换和整数IDCT变换需要占用很大的芯片面积，消耗大量的计算时间，进而导致率失真优化中SSE计算所需的硬件资源及计算时间较多。
技术实现思路
本专利技术提供一种用于率失真优化的SSE简化计算方法及装置，能够减少率失真优化中SSE计算所需的硬件资源及计算时间。一方面，本专利技术提供一种用于率失真优化的SSE简化计算方法，包括：对视频残差数据矩阵进行整数DCT变换，得到经过整数DCT变换后的第一频域数据矩阵；对所述第一频域数据矩阵进行量化与反量化操作，得到第二频域数据矩阵；计算所述第一频域数据矩阵与所述第二频域数据矩阵的误差平方和，得到所述残差数据矩阵对应的SSE简化值。另一方面，本专利技术提供一种用于率失真优化的SSE简化计算装置，所述装置包括整数DCT变换模块、量化与反量化模块和SSE简化计算模块，其中，所述整数DCT变换模块，用于对视频数据矩阵的残差数据矩阵进行整数DCT变换，得到经过整数DCT变换后的第一频域数据矩阵；所述量化与反量化模块，用于对所述第一频域数据矩阵进行量化与反量化操作，得到第二频域数据矩阵；所述SSE简化计算模块，用于计算所述第一频域数据矩阵与所述第二频域数据矩阵的误差平方和，得到所述残差数据矩阵对应的SSE简化值。本专利技术提供的用于率失真优化的SSE简化计算方法及装置，对视频残差数据矩阵进行整数DCT变换，得到经过整数DCT变换后的第一频域数据矩阵；对所述第一频域数据矩阵进行量化与反量化操作，得到第二频域数据矩阵；计算所述第一频域数据矩阵与所述第二频域数据矩阵的误差平方和，得到所述残差数据矩阵对应的SSE简化值。与现有技术相比，一方面，其不需要进行整数IDCT变换，从而可以节省整数IDCT变换实现所需的硬件资源及计算时间；另一方面，由于SSE的计算提前到了整数IDCT变换之前，相应地，率失真代价RDCost的计算也随之可以提前到IDCT变换之前，使得能够提前获知所评价的预测模式的好坏，从而有利于简化硬件设计。附图说明为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。图1为本专利技术用于率失真优化的SSE简化计算方法一实施例的流程示意图；图2为本专利技术用于率失真优化的SSE简化计算方法另一实施例的流程图；图3为本专利技术用于率失真优化的SSE简化计算装置一实施例的结构示意图；图4为本专利技术用于率失真优化的SSE简化计算装置另一实施例的结构示意图。具体实施方式下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本专利技术保护的范围。如图1所示，本专利技术实施例提供一种用于率失真优化的SSE简化计算方法，所述方法包括：S11、对视频残差数据矩阵进行整数DCT变换，得到经过整数DCT变换后的第一频域数据矩阵。以n阶残差数据矩阵为例，所述n阶残差数据矩阵的整数DCT变换的计算公式为：其中，Xn为所述n阶残差数据矩阵，Yn为经过整数DCT变换后的第一频率数据矩阵，Hn为所述整数DCT变换的n阶系数矩阵，En为所述整数DCT变换的n阶修正矩阵，为Hn的转置矩阵，为En的转置矩阵；例如，在HEVC标准中，n可以是4，8，16，32等，n阶修正矩阵En中的各个数据为则上述整数DCT变换的计算公式变为：S12、对所述第一频域数据矩阵进行量化与反量化操作，得到第二频域数据矩阵。S13、计算所述第一频域数据矩阵与所述第二频域数据矩阵的误差平方和，得到所述残差数据矩阵对应的SSE简化值。本实施例的用于率失真优化的SSE简化计算方法是基于以下原理得到的：在不考虑由HEVC中所采用的整数DCT变换引入的舍入误差的影响下(影响很小)，编码过程中失真主要来自于量化过程。根据帕斯瓦尔定律(信号的总能量既可以按照每单位时间内的能量在整个时间内的积分计算出来，也可以按照每单位频率内的能量在整个频率范围内的积分得到)，显然有下面等式成立：其中，X表示残差数据，X'表示重建的残差数据，Y表示X经过整数DCT变换后所得到的所述第一频域数据，Y'表示Y经过量化及反量化后得到的所述第二频域数据。通过上述公式，可知只需要进行整数DCT变换，而不需要整数IDCT变换，便可以得到SSE的简化值，从而可以节省整数IDCT变换实现所需的硬件资源及计算时间。本专利技术实施例提供的用于率失真优化的SSE简化计算方法，对视频残差数据矩阵进行整数DCT变换，得到经过整数DCT变换后的第一频域数据矩阵；对所述第一频域数据矩阵进行量化与反量化操作，得到第二频域数据矩阵；计算所述第一频域数据矩阵与所述第二频域数据矩阵的误差平方和，得到所述残差数据矩阵对应的SSE简化值。与现有技术相比，一方面，其不需要进行整数IDCT变换，可以节省整数IDCT变换实现所需的硬件资源及计算时间，从而降低了S本文档来自技高网...

【技术保护点】
一种用于率失真优化的SSE简化计算方法，其特征在于，包括：对视频残差数据矩阵进行整数DCT变换，得到经过整数DCT变换后的第一频域数据矩阵；对所述第一频域数据矩阵进行量化与反量化操作，得到第二频域数据矩阵；计算所述第一频域数据矩阵与所述第二频域数据矩阵的误差平方和，得到所述残差数据矩阵对应的SSE简化值。

【技术特征摘要】
1.一种用于率失真优化的SSE简化计算方法，其特征在于，包括：对视频残差数据矩阵进行整数DCT变换，得到经过整数DCT变换后的第一频域数据矩阵；对所述第一频域数据矩阵进行量化与反量化操作，得到第二频域数据矩阵；计算所述第一频域数据矩阵与所述第二频域数据矩阵的误差平方和，得到所述残差数据矩阵对应的SSE简化值。2.根据权利要求1所述的方法，其特征在于，在所述对视频残差数据矩阵进行整数DCT变换之前，所述方法还包括：将所述整数DCT变换的系数矩阵中的各个系数均转换为至多两个移位操作之和的形式。3.根据权利要求1或2所述的方法，其特征在于，在所述对视频残差数据矩阵进行整数DCT变换之前，还包括：将所述残差数据矩阵划分成4个残差数据矩阵子块；则所述对视频残差数据矩阵进行整数DCT变换包括：对每个残差数据矩阵子块进行整数DCT变换；所述得到所述残差数据矩阵的SSE简化值包括：得到所述每个残差数据矩阵子块对应的SSE简化值；在所述得到所述每个残差数据矩阵子块对应的SSE简化值之后，还包括：将所述每个残差数据矩阵子块对应的SSE简化值相加，得到所述残差数据矩阵对应的SSE简化值。4.一种用于率失真优化的SSE简化计算装置，...

【专利技术属性】
技术研发人员：卢立志，
申请(专利权)人：北京君正集成电路股份有限公司，
类型：发明
国别省市：北京;11