提高数字信号变换性能的方法及数字信号变换方法和装置制造方法及图纸

本发明专利技术提出一种提高数字信号变换性能的方法和装置及数字信号变换方法和装置，其中，提高数字信号变换性能的方法包括：构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足（a）和（b）两个条件：(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2(b)J(A)＜TH；其中，本发明专利技术能够保证数字信号处理具有更高的变换性能。

【技术实现步骤摘要】
提高数字信号变换性能的方法及数字信号变换方法和装置
本专利技术涉及数字信号处理
，尤其涉及一种提高数字信号变换性能的方法和装置及数字信号变换方法和装置。
技术介绍
视频和图像编码技术作为一种数字信号处理方式，是数字视频和图像这一重要多媒体信息得以被广泛应用的基础和关键。当前基于块的视频编码混合框架下，视频编码一般包括以下四大块：预测编码、变换以及量化、熵编码、环路滤波。其中变换的主要功能在于去除预测残差之间的相关性，集中残差能量，有利于后续的熵编码，从整体上提高视频编码的效率。在JPEG、MPEG-1/2/4、H.261等视频图像编码标准中，主要采用了浮点的离散余弦变换（DCT），在实际实现中，不同的硬件产品关于浮点数的运算精度不一样，从而在这些标准下的编解码器之间可能会出现失配现象。鉴于此，在H.264/AVC、H.265以及国内视频编码标准AVS1和AVS2中都采用了整数化的变换。在H.264/AVC和AVS中，变换核中所有数值都是整数，各数值之间的比例与DCT矩阵无直接联系，且各变换基的模不尽相同，从而变换过程中引入了缩放运算以及相应的（预）缩放矩阵。在H.264/AVC和AVS中变换最大为8x8大小，引入缩放运算不会带来很多的运算复杂度和存储复杂度，在整体上能简化变换过程的运算；然而当变换大小变得很大时，比如32x32和64x64，此时如果引入缩放运算，其带来的运算、存储复杂度相当大，故在最新一代的国际/内标准H.265和AVS2中，整数化的DCT变换被采用，这类变换的变换核矩阵A是通过带无理数的DCT矩阵乘以一个倍数（Factor）得到，如式（1）所示。A＝int{DCT×Factor}（1）其中DCT为无理数的DCT矩阵，其表达式可用公式（2）所示，“int”是取整函数。当Factor相同时，如果取整函数不一样，所得到的变换核矩阵A也是不一样的。不同的Factor和取整函数，可以得到变换性能（去相关能力、变换基的正交程度和归一程度所影响的变换失真）不同的变换核矩阵。所以取整函数的设计对整个变换的影响非常大。其中变换核矩阵的大小为N×N。现有的H.265中的各个变换核矩阵的性能尚存在改善的空间，尤其是变换基的正交程度和归一程度尚待提高；而当前尚在制定的AVS2标准中，其变换核在去相关能力上也需要提高，变换核带来的变换失真也需要降低。当变换核矩阵确定后，变换过程的设计也对性能有着莫大的影响。在当前的AVS2草案中，其变换过程中的数据位宽会超过32-bit，位宽的设计尚缺完美。由此可见，不论是H.265还是目前尚在制定的AVS2标准中，其变换过程的设计均还有提高的空间（包括变换核矩阵以及变换过程），因此，在视频图像编码中，现有的数字信号变换核去相关性不够强，正交、归一程度不够好而导致变换失真过大，变换性能不理想。
技术实现思路
本专利技术提供了一种提高数字信号变换性能的方法，使用该方法构造变换核矩阵能够保证数字信号变换具有更高的去相关能力和更低的变换失真，从而提高了数字信号变换的性能。本专利技术提供了一种提高数字信号变换性能的装置，该装置构造变换核矩阵能够保证数字信号变换具有更高的去相关能力和更低的变换失真，从而提高了数字信号变换的性能。本专利技术还提出一种数字信号变换方法及装置，能够保证数字信号变换具有更高的性能。本专利技术的技术方案是这样实现的：一种提高数字信号变换性能的方法，构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足（a）和（b）两个条件：(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2(b)J(A)＜TH；其中，式（a）中的A(i,j)是变换核矩阵A第i行第j列的元素，DCT(i,j)为离散余弦变换矩阵中第i行第j列的元素，定义如下式；Factor是一个大于1的因子，[]表示四舍五入取整；式（b）中的TH是一个预设的阈值，J(A)由下式定义；上式中的α,β,γ是三个参数，满足β＜α,γ＜α，dist(A)，normal(A)和orth(A)的定义下式所示；其中，“T”表示矩阵的转置，P(i,j)表示矩阵P第i行第j列的元素，Q(i,j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵。一种提高数字信号变换性能的装置，用于构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足以下（c）和（d）两个条件：(c)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2(d)J(A)＜TH；其中，式（c）中的A(i,j)是变换核矩阵A第i行第j列的元素，DCT(i,j)为离散余弦变换矩阵中第i行第j列的元素，定义如下式；Factor是一个大于1的因子，[]表示四舍五入取整；式（d）中的TH是一个预设的阈值，J(A)由下式定义；上式中的α,β,γ是三个参数，满足β＜α,γ＜α，dist(A)，normal(A)和orth(A)的定义如下式所示；其中，“T”表示矩阵的转置，P(i,j)表示矩阵P第i行第j列的元素，Q(i,j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵。一种数字信号变换方法，将待变换的L行K列的数据块X采用如下任意一种方式进行一维变换：（a）Y＝A×X,将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位，得到数据变换的结果；其中，所述A为采用上述方法构造的N行N列的变换核矩阵，且N的取值为L；w1，s1为整数，并且w1≥0，s1≥0；（b）Y＝X×AT,将Y中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位，得到数据变换的结果；其中，所述A为采用上述方法构造的N行N列的变换核矩阵，且N的取值为K；w2，s2为整数，并且w2≥0，s2≥0；（c）Y＝X×A,将Y中每一个元素分别与w3相加，并将相加后的结果以自然二进制表达形式右移s3位，得到数据变换的结果；其中，所述A为采用上述方法构造的N行N列的变换核矩阵，且N的取值为K；w3，s3为整数，并且w3≥0，s3≥0；（d）Y＝AT×X,将Y中每一个元素分别与w4相加，并将相加后的结果以自然二进制表达形式右移s4位，得到数据变换的结果；其中，所述A为采用上述方法构造的N行N列的变换核矩阵，且N的取值为L；w4，s4为整数，并且w4≥0，s4≥0。一种数字信号变换装置，用于将待变换的L行K列的数据块X采用如下任意一种方式进行一维变换：（a）Y＝A×X,将Y中每一个元素分别与w1相加，并将相加后的结果以自然二进制表达形式右移s1位，得到数据变换的结果；其中，所述A为采用上述方法构造的N行N列的变换核矩阵，且N的取值为L；w1，s1为整数，并且w1≥0，s1≥0；（b）Y＝X×AT,将Y中每一个元素分别与w2相加，并将相加后的结果以自然二进制表达形式右移s2位，得到数据变换的结果；其中，所述A为采用上述方法构造的N行N列的变换核矩阵，且N的取值为K；w2，s2为整数，并且w2≥0，s2≥0；（c）Y＝X×A,将Y中每一个元素分别与w3相加，并将相加后的结果以自然二进制表达形式右移s3位，得到数据变换的结果；其中，所述A为采用上述方法构造的N行N列的变换核矩阵，且N本文档来自技高网...

【技术保护点】
一种提高数字信号变换性能的方法，其特征在于，构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足（a）和（b）两个条件：(a)[DCT(i,j)×Factor]‑2≤A(i,j)≤[DCT(i,j)×Factor]+2(b)J(A)＜TH；其中，式（a）中的A(i,j)是变换核矩阵A第i行第j列的元素，DCT(i,j)为离散余弦变换矩阵中第i行第j列的元素，定义如式（1）；Factor是一个大于1的因子，[]表示四舍五入取整；DCT(i,j)={1N,i=02N×cos((2×j+1)×i×π2N),i≠0---(1)]]>式（b）中的TH是一个预设的阈值，J(A)由式（2）定义；J(A)=α×dist(A)+β×norm(A)+γ×orth(A)α+β+γ---(2)]]>式（2）中的α,β,γ是三个参数，满足β＜α,γ＜α，dist(A)，normal(A)和orth(A)的定义如式（3）所示；{dist(A)=Σi=1NΣj=1,i≠jN|P(i,j)||P(i,i)|normal(A)=Σi=1N|Q(i,i)-1|orth(A)=Σi=1NΣj=1,j≠iN|Q(i,j)|P=A×DCTTQ=AT×AFactor2---(3)]]>其中，“T”表示矩阵的转置，P(i,j)表示矩阵P第i行第j列的元素，Q(i,j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵。...

【技术特征摘要】
1.一种提高数字信号变换性能的方法，其特征在于，在视频和图像编解码处理中，构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足(a)和(b)两个条件：(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2(b)J(A)＜TH；其中，式(a)中的A(i,j)是变换核矩阵A第i行第j列的元素，DCT(i,j)为离散余弦变换矩阵中第i行第j列的元素，定义如式(1)；Factor是一个大于1的因子，[]表示四舍五入取整；式(b)中的TH是一个预设的阈值，变换率失真代价函数J(A)由式(2)定义；式(2)中的α,β,γ是三个参数，满足β<α,γ<α，DCT失真度dist(A)，归一度normal(A)和正交度orth(A)的定义如式(3)所示；其中，“T”表示矩阵的转置，P(i,j)表示矩阵P第i行第j列的元素，Q(i,j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵；利用所述变换核矩阵A，对待变换的数据块进行数字信号变换。2.如权利要求1所述的方法，其特征在于，所述TH＝J(M)，其中，M为无理数的离散余弦变换矩阵乘以所述Factor、并分别对结果中的每个元素四舍五入取整得到的矩阵，所述M的长和宽均为N；其中，α,β,γ是三个参数，满足β<α,γ<α，dist(M)，normal(M)和orth(M)的定义如下式所示：其中，“T”表示矩阵的转置，P(i,j)表示矩阵P第i行第j列的元素，Q(i,j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵。3.如权利要求1所述的方法，其特征在于，当其中N＝4、8、16或32时，所述其中，α,β,γ是三个参数，满足β<α,γ<α，dist(M)，normal(M)和orth(M)的定义如下式所示：其中，“T”表示矩阵的转置，P(i,j)表示矩阵P第i行第j列的元素，Q(i,j)表示矩阵Q第i行第j列的元素，DCT表示无理数的离散余弦变换矩阵，M为H.265标准所规定的变换核矩阵。4.如权利要求1所述的方法，其特征在于，所述TH＝N×0.02。5.一种提高数字信号变换性能的装置，其特征在于，在视频和图像编解码处理中，所述装置用于构造N行N列的变换核矩阵A，使所述变换核矩阵A同时满足(c)和(d)两个条件：(c)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2(d)J(A)＜TH；所述装置还用于利用所述变换核矩阵A，对数据块进行数字信号变换；其中，式(c)中的A(i,j)是变换核矩阵A第i行第j列的元素，DCT(i,j)为离散余弦变换矩阵中第i行第j列的元素，定义如式(4)；Factor是一个大于1的因子，[]表示四舍五入取整；式(d)中的TH是一个预设的阈值，变换率失真代价函数J(A)由式(5)定义；...

【专利技术属性】
技术研发人员：朱兴国，虞露，陈杰，
申请(专利权)人：浙江大学，北京三星通信技术研究有限公司，三星电子株式会社，
类型：发明
国别省市：浙江;33