在变换跳过模式和多变换选择之间进行协调的方法和装置制造方法及图纸

根据实施例，一种控制残差编码，以对视频序列进行解码或编码的方法由至少一个处理器执行，并且所述方法包括：基于多变换选择MTS索引指示对所述视频序列的已编码块启用变换跳过模式，将恒等变换识别为水平变换和/或垂直变换。所述方法进一步包括：基于所述MTS索引指示未对所述已编码块启用所述变换跳过模式，将离散余弦变换DCT、离散正弦变换DST、哈达玛变换和哈尔变换之一识别为所述水平变换、或所述垂直变换、或所述水平变换和所述垂直变换的组合。所述方法进一步包括：使用所述识别的水平变换和所述识别的垂直变换，对所述已编码块执行残差编码。行残差编码。行残差编码。

【技术实现步骤摘要】
【国外来华专利技术】在变换跳过模式和多变换选择之间进行协调的方法和装置
[0001]引用并入
[0002]本公开要求在2019年2月8日向美国专利商标局提交的美国临时申请第62/803,244号的优先权，以及在2019年5月6日向美国专利商标局提交的美国申请第16/403,771号的优先权，其全部内容通过引用并入本文。

技术介绍

[0003]1.领域
[0004]与实施例一致的方法和装置涉及视频编解码，并且更具体地，涉及一种在变换跳过模式和多变换选择之间进行协调的方法和装置。
[0005]2.现有技术描述
[0006]在高效视频编解码(High Efficiency Video Coding,HEVC)中，主变换是4点、8点、16点和32点离散余弦变换
‑
2(Discrete Cosine Transform
‑
2,DCT
‑
2)，并且变换核心矩阵使用8比特整数表示，即，8比特变换核心。较小的DCT
‑
2的变换核心矩阵是较大的DCT
‑
2的一部分，如下所示。...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种控制残差编码，以对视频序列进行解码或编码的方法，所述方法由至少一个处理器执行，其特征在于，所述方法包括：基于多变换选择MTS索引指示对所述视频序列的已编码块启用变换跳过模式，将恒等变换identity transform识别为水平变换和/或垂直变换，；基于所述MTS索引指示未对所述已编码块启用所述变换跳过模式，将离散余弦变换DCT、离散正弦变换DST、哈达玛变换Hadamard transform和哈尔变换Haar transform之一识别为所述水平变换、或所述垂直变换、或所述水平变换和所述垂直变换的组合；以及，使用所述识别的水平变换和所述识别的垂直变换，对所述已编码块执行残差编码。2.根据权利要求1所述的方法，其特征在于，将所述DCT、所述DST、所述哈达玛变换和所述哈尔变换之一识别为所述水平变换、或所述垂直变换、或所述水平变换和所述垂直变换的组合，包括：基于所述MTS索引指示未对所述已编码块启用所述变换跳过模式，并指示第一值，将所述恒等变换识别为所述水平变换；以及，将DCT
‑
2、DST
‑
7、所述哈达玛变换和所述哈尔变换之一识别为所述垂直变换。3.根据权利要求2所述的方法，其特征在于，将所述DCT、所述DST、所述哈达玛变换和所述哈尔变换之一识别为所述水平变换、或所述垂直变换、或所述水平变换和所述垂直变换的组合，包括：基于所述MTS索引指示未对所述已编码块启用所述变换跳过模式，并指示不同于所述第一值的第二值，将所述DCT
‑
2、所述DST
‑
7、所述哈达玛变换和所述哈尔变换之一识别为所述水平变换；以及，将所述恒等变换识别为所述垂直变换。4.根据权利要求1所述的方法，其特征在于，进一步包括：确定是否满足多个条件中的任一条件或任何条件的组合，其中，所述多个条件包括：是否通过所述恒等变换对所述已编码块的相邻块进行编码、是否通过帧内预测模式对所述已编码块进行编码、是否通过帧内块复制对所述已编码块进行编码、所述已编码块的分量是亮度还是色度、是否通过子块合并模式对所述已编码块进行编码，以及是否通过帧内子分区模式对所述已编码块进行编码；以及，基于所述MTS索引指示未对所述已编码块启用所述变换跳过模式、以及基于确定满足所述多个条件中的任一条件或任意条件组合，将所述恒等变换识别为所述水平变换和/或所述垂直变换。5.根据权利要求4所述的方法，其特征在于，进一步包括：确定所述已编码块的大小是否大于预定阈值，其中，所述大小是面积、高度和宽度之一；以及，基于所述MTS索引指示未对所述已编码块启用所述变换跳过模式，以及基于确定满足所述多个条件中的任一条件或任意组合、和确定所述已编码块的大小大于所述预定阈值，将所述恒等变换识别为所述水平变换和/或所述垂直变换。6.根据权利要求1所述的方法，其特征在于，进一步包括确定所述已编码块的大小是否大于预定阈值，其中，所述大小是面积、高度和宽度之一，其中，将所述恒等变换识别为所述水平变换和/或所述垂直变换包括：基于所述MTS索
引指示对所述已编码块启用所述变换跳跃模式，以及确定所述已编码块的大小大于所述预定阈值，将所述恒等变换识别为所述水平变换和所述垂直变换。7.根据权利要求1所述的方法，其特征在于，进一步包括：对所述已编码块的残差块应用所述DCT、所述DST和所述哈达玛变换之一，以生成变换系数块；基于所述变换系数块，确定绝对变换差之和SATD；基于所述残差块，确定绝对差之和SAD；基于所述绝对变换差之和SATD与所述绝对差之和SAD，确定所述已编码块的候选预测模式的最终成本；以及，基于所述候选预测模式的最终成本，设置所述MTS索引，以指示启用所述变换跳过模式。8.根据权利要求7所述的方法，其特征在于，所述候选预测模式的最终成本是所述绝对变换差之和SATD与所述绝对差之和SAD的最小值。9.根据权利要求7所述的方法，其特征在于，所述候选预测模式的最终成本是所述绝对变换差之和SATD与所述绝对差之和SAD的加权和。10.一种控制残差编码，以对视频序列进行解码或编码的装置，其特征在于，所述装置包括：至少一个存储器，用于存储计算机程序代码；以及，至少一个处理器，用于访问所述至少一个存储器，并根据所述计算机程序代码进行操作，其中，所述计算机程序代码包括：第一识别代码，用于使得所述至少一个处理器，基于多变换选择MTS索引指示对所述视频序列的已编码块启用变换跳过模式，将恒等变换identity transform识别为水平变换和/或垂直变换中；第二识别代码，用于使得所述至少一个处理器，基于所述MTS索引指示未对所述已编码块启用所述变换跳过模式，将离散余弦变换DCT、离散正弦变换DST、哈达玛变换Hadamard transform和哈尔变换Haar transform之一识别为所述水平变...

【专利技术属性】
技术研发人员：赵欣，李翔，刘杉，
申请(专利权)人：腾讯美国有限责任公司，
类型：发明
国别省市：