【技术实现步骤摘要】
提高数字信号变换性能的方法及数字信号变换方法和装置
本专利技术涉及数字信号处理
,尤其涉及一种提高数字信号变换性能的方法和装置及数字信号变换方法和装置。
技术介绍
视频和图像编码技术作为一种数字信号处理方式,是数字视频和图像这一重要多媒体信息得以被广泛应用的基础和关键。当前基于块的视频编码混合框架下,视频编码一般包括以下四大块:预测编码、变换以及量化、熵编码、环路滤波。其中变换的主要功能在于去除预测残差之间的相关性,集中残差能量,有利于后续的熵编码,从整体上提高视频编码的效率。在JPEG、MPEG-1/2/4、H.261等视频图像编码标准中,主要采用了浮点的离散余弦变换(DCT),在实际实现中,不同的硬件产品关于浮点数的运算精度不一样,从而在这些标准下的编解码器之间可能会出现失配现象。鉴于此,在H.264/AVC、H.265以及国内视频编码标准AVS1和AVS2中都采用了整数化的变换。在H.264/AVC和AVS中,变换核中所有数值都是整数,各数值之间的比例与DCT矩阵无直接联系,且各变换基的模不尽相同,从而变换过程中引入了缩放运算以及相应的(预)缩放矩阵。在H.264/AVC和AVS中变换最大为8x8大小,引入缩放运算不会带来很多的运算复杂度和存储复杂度,在整体上能简化变换过程的运算;然而当变换大小变得很大时,比如32x32和64x64,此时如果引入缩放运算,其带来的运算、存储复杂度相当大,故在最新一代的国际/内标准H.265和AVS2中,整数化的DCT变换被采用,这类变换的变换核矩阵A是通过带无理数的DCT矩阵乘以一个倍数(Factor)得到,如 ...
【技术保护点】
一种提高数字信号变换性能的方法,其特征在于,构造N行N列的变换核矩阵A,使所述变换核矩阵A同时满足(a)和(b)两个条件:(a)[DCT(i,j)×Factor]‑2≤A(i,j)≤[DCT(i,j)×Factor]+2(b)J(A)<TH;其中,式(a)中的A(i,j)是变换核矩阵A第i行第j列的元素,DCT(i,j)为离散余弦变换矩阵中第i行第j列的元素,定义如式(1);Factor是一个大于1的因子,[]表示四舍五入取整;DCT(i,j)={1N,i=02N×cos((2×j+1)×i×π2N),i≠0---(1)]]>式(b)中的TH是一个预设的阈值,J(A)由式(2)定义;J(A)=α×dist(A)+β×norm(A)+γ×orth(A)α+β+γ---(2)]]>式(2)中的α,β,γ是三个参数,满足β<α,γ<α,dist(A),normal(A)和orth(A)的定义如式(3)所示;{dist( ...
【技术特征摘要】
1.一种提高数字信号变换性能的方法,其特征在于,在视频和图像编解码处理中,构造N行N列的变换核矩阵A,使所述变换核矩阵A同时满足(a)和(b)两个条件:(a)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2(b)J(A)<TH;其中,式(a)中的A(i,j)是变换核矩阵A第i行第j列的元素,DCT(i,j)为离散余弦变换矩阵中第i行第j列的元素,定义如式(1);Factor是一个大于1的因子,[]表示四舍五入取整;式(b)中的TH是一个预设的阈值,变换率失真代价函数J(A)由式(2)定义;式(2)中的α,β,γ是三个参数,满足β<α,γ<α,DCT失真度dist(A),归一度normal(A)和正交度orth(A)的定义如式(3)所示;其中,“T”表示矩阵的转置,P(i,j)表示矩阵P第i行第j列的元素,Q(i,j)表示矩阵Q第i行第j列的元素,DCT表示无理数的离散余弦变换矩阵;利用所述变换核矩阵A,对待变换的数据块进行数字信号变换。2.如权利要求1所述的方法,其特征在于,所述TH=J(M),其中,M为无理数的离散余弦变换矩阵乘以所述Factor、并分别对结果中的每个元素四舍五入取整得到的矩阵,所述M的长和宽均为N;其中,α,β,γ是三个参数,满足β<α,γ<α,dist(M),normal(M)和orth(M)的定义如下式所示:其中,“T”表示矩阵的转置,P(i,j)表示矩阵P第i行第j列的元素,Q(i,j)表示矩阵Q第i行第j列的元素,DCT表示无理数的离散余弦变换矩阵。3.如权利要求1所述的方法,其特征在于,当其中N=4、8、16或32时,所述其中,α,β,γ是三个参数,满足β<α,γ<α,dist(M),normal(M)和orth(M)的定义如下式所示:其中,“T”表示矩阵的转置,P(i,j)表示矩阵P第i行第j列的元素,Q(i,j)表示矩阵Q第i行第j列的元素,DCT表示无理数的离散余弦变换矩阵,M为H.265标准所规定的变换核矩阵。4.如权利要求1所述的方法,其特征在于,所述TH=N×0.02。5.一种提高数字信号变换性能的装置,其特征在于,在视频和图像编解码处理中,所述装置用于构造N行N列的变换核矩阵A,使所述变换核矩阵A同时满足(c)和(d)两个条件:(c)[DCT(i,j)×Factor]-2≤A(i,j)≤[DCT(i,j)×Factor]+2(d)J(A)<TH;所述装置还用于利用所述变换核矩阵A,对数据块进行数字信号变换;其中,式(c)中的A(i,j)是变换核矩阵A第i行第j列的元素,DCT(i,j)为离散余弦变换矩阵中第i行第j列的元素,定义如式(4);Factor是一个大于1的因子,[]表示四舍五入取整;式(d)中的TH是一个预设的阈值,变换率失真代价函数J(A)由式(5)定义;...
【专利技术属性】
技术研发人员:朱兴国,虞露,陈杰,
申请(专利权)人:浙江大学,北京三星通信技术研究有限公司,三星电子株式会社,
类型:发明
国别省市:浙江;33
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。