编码器、解码器和用于变换处理的对应方法技术

本发明专利技术提供了方法和设备。提供了一种由解码设备实现的译码方法，所述方法包括：当当前译码块的预测模式为帧内预测，且使用帧内子划分译码模式处理所述当前译码块时，确定当前变换块的宽度是否大于或等于第一阈值，且所述当前变换块的宽度是否小于或等于第二阈值，其中，所述当前变换块对应于所述当前译码块；当所述当前变换块的宽度大于或等于所述第一阈值且所述当前变换块的宽度小于或等于所述第二阈值时，对所述当前变换块进行变换处理，其中，变换核DST 7用于水平方向变换。

【技术实现步骤摘要】
【国外来华专利技术】编码器、解码器和用于变换处理的对应方法
本申请(本专利技术)实施例大体上涉及图像或视频处理领域，并且更具体地涉及一种变换处理。
技术介绍
视频译码(视频编码和解码)广泛用于数字视频应用，例如广播数字电视、基于互联网和移动网络的视频传输、视频聊天、视频会议等实时会话应用、DVD和蓝光光盘、视频内容采集和编辑系统以及可携式摄像机的安全应用。即使在视频较短的情况下也需要对大量的视频数据进行描述，当数据要在带宽容量受限的通信网络中流式传输或以其它方式传送时，这样可能会造成困难。因此，视频数据通常要先压缩然后在现代电信网络中传送。由于内存资源可能有限，当在存储设备中存储视频时，视频的尺寸也可能成为问题。视频压缩设备通常在信源侧使用软件和/或硬件，以在发送或存储之前对视频数据进行译码，从而减少用来表示数字视频图像所需的数据量。然后，压缩的数据在目的地侧由用于解码视频数据的视频解压缩设备接收。在有限的网络资源以及对更高视频质量的需求不断增长的情况下，需要改进压缩和解压缩技术，这些改进的技术在几乎不影响图像质量的情况下能够提高压缩比。
技术实现思路
本申请实施例提供了独立权利要求所述的编码和解码方法和装置。上述和其它目的是通过由独立权利要求请求保护的主题来实现。其它实现方式在从属权利要求、具体实施方式和附图中是显而易见的。本专利技术第一方面公开了一种由解码设备实现的译码方法，所述方法包括：当当前译码块的预测模式为帧内预测，且使用帧内子划分(intrasub-partition，ISP)译码模式处理所述当前译码块时，确定当前变换块的宽度是否大于或等于第一阈值，且所述当前变换块的宽度是否小于或等于第二阈值，其中，所述当前变换块对应于所述当前译码块；当所述当前变换块的宽度大于或等于所述第一阈值且所述当前变换块的宽度小于或等于所述第二阈值时，对所述当前变换块进行变换处理，其中，变换核DST7用于水平方向变换。在一种可能的实现方式中，所述方法还包括：当所述当前变换块的宽度小于所述第一阈值时，或当所述当前变换块的宽度大于所述第二阈值时，对所述当前变换块进行变换处理，其中，变换核DCT2用于水平变换。在一种可能的实现方式中，所述方法还包括：获取所述当前译码块的语法值，其中，所述当前译码块的所述语法值用于表示所述当前译码块的所述预测模式为帧内预测。在一种可能的实现方式中，所述当前译码块的所述语法值不用来表示所述当前译码块的具体的预测模式。本专利技术第二方面公开了一种由解码设备实现的译码方法，所述方法包括：当当前译码块的预测模式为帧内预测，且使用帧内子划分(intrasub-partition，ISP)译码模式处理所述当前译码块时，确定当前变换块的高度是否大于或等于第三阈值，且所述当前变换块的高度是否小于或等于第四阈值，其中，所述当前变换块对应于所述当前译码块；当所述当前变换块的高度大于或等于所述第三阈值且小于或等于所述第四阈值时，对所述当前变换块进行变换处理，其中，变换核DST7用于垂直方向变换。在一种可能的实现方式中，所述方法还包括：当所述当前变换块的高度小于所述第三阈值时，或当所述当前变换块的高度大于所述第四阈值时，对所述当前变换块进行变换处理，其中，变换核DCT2用于垂直方向变换。在一种可能的实现方式中，所述方法还包括：获取所述当前译码块的语法值，其中，所述当前译码块的所述语法值用于表示所述当前译码块的所述预测模式为帧内预测。在一种可能的实现方式中，所述当前译码块的所述语法值不用来表示所述当前译码块的具体的预测模式。本专利技术第三方面公开了一种由解码设备实现的译码方法，包括：当多变换选择(multipletransformselection，MTS)方案不适用于当前译码块时，确定当前变换块的宽度是否大于或等于第一阈值，且所述当前变换块的宽度是否小于或等于第二阈值，其中，所述当前变换块对应于所述当前译码块；当所述当前变换块的宽度大于或等于所述第一阈值且小于或等于所述第二阈值时，对所述当前变换块进行变换处理，其中，变换核DST7用于水平方向变换。在一种可能的实现方式中，所述方法还包括：当所述当前变换块的宽度小于所述第一阈值时，或当所述当前变换块的宽度大于所述第二阈值时，对所述当前变换块进行变换处理，其中，变换核DCT2用于水平方向变换。本专利技术第四方面公开了一种由解码设备实现的译码方法，所述方法包括：当多变换选择(multipletransformselection，MTS)方案不适用于当前译码块时，确定当前变换块的高度是否大于或等于第三阈值，且所述当前变换块的高度是否小于或等于第四阈值，其中，所述当前变换块对应于所述当前译码块；当所述当前变换块的高度大于或等于所述第三阈值且小于或等于所述第四阈值时，对所述当前变换块进行变换处理，其中，变换核DST7用于垂直方向变换。在一种可能的实现方式中，所述方法还包括：当所述当前变换块的高度小于所述第三阈值时，或当所述当前变换块的高度大于所述第四阈值时，对所述当前变换块进行变换处理，其中，变换核DCT2用于垂直方向变换。本专利技术第五方面公开了一种由解码设备实现的译码方法，包括：当多变换选择(multipletransformselection，MTS)方案不适用于当前译码块时，当前变换块的宽度大于或等于第一阈值且小于或等于第二阈值，且所述当前变换块的高度大于或等于第三阈值且小于或等于第四阈值，其中，所述当前变换块对应于所述当前译码块，确定所述当前变换块对应的块宽高比的值是否大于第五阈值，当所述块宽高比的值小于或等于所述第五阈值时，变换核DST7用于所述当前变换块的水平变换和垂直变换。在一种可能的实现方式中，所述方法还包括：当所述块宽高比的值大于所述第五阈值，且所述当前变换块的宽度小于所述当前变换块的高度时，变换核DST7用于所述当前变换块的水平变换，变换核DCT2用于所述当前变换块的垂直变换。在一种可能的实现方式中，所述方法还包括：当所述块宽高比的值大于所述第五阈值，且所述当前变换块的宽度大于所述当前变换块的高度时，变换核DCT2用于所述当前变换块的水平变换，变换核DST7用于所述当前变换块的垂直变换。本专利技术第六方面公开了一种解码器(30)，包括处理电路，用于执行上述任一方法实施例。本专利技术第七方面公开了一种计算机程序产品，包括程序代码，用于执行上述任一方法实施例所述的方法。本专利技术第八方面公开了一种解码器，包括：一个或多个处理器；以及非瞬时性计算机可读存储介质，与所述处理器耦合并存储由所述处理器执行的程序，其中，在所述处理器执行所述程序时，所述程序使所述解码器执行上述任一方法实施例。附图及以下说明中详细描述一个或多个实施例。其它特征、目的和优点在说明、附图以及权利要求中是显而易见的。附图说明下文结合附图对本文档来自技高网...

【技术保护点】
1.一种由解码设备实现的译码方法，其特征在于，包括：/n当当前译码块的预测模式为帧内预测，且使用帧内子划分(intra sub-partition，ISP)译码模式处理所述当前译码块时，/n确定当前变换块的宽度是否大于或等于第一阈值，且所述当前变换块的宽度是否小于或等于第二阈值，其中，所述当前变换块对应于所述当前译码块；/n当所述当前变换块的宽度大于或等于所述第一阈值且所述当前变换块的宽度小于或等于所述第二阈值时，/n对所述当前变换块进行变换处理，其中，变换核DST 7用于水平方向变换。/n

【技术特征摘要】
【国外来华专利技术】20190303 US 62/813,136;20190307 US 62/815,2931.一种由解码设备实现的译码方法，其特征在于，包括：
当当前译码块的预测模式为帧内预测，且使用帧内子划分(intrasub-partition，ISP)译码模式处理所述当前译码块时，
确定当前变换块的宽度是否大于或等于第一阈值，且所述当前变换块的宽度是否小于或等于第二阈值，其中，所述当前变换块对应于所述当前译码块；
当所述当前变换块的宽度大于或等于所述第一阈值且所述当前变换块的宽度小于或等于所述第二阈值时，
对所述当前变换块进行变换处理，其中，变换核DST7用于水平方向变换。


2.根据权利要求1所述的方法，其特征在于，所述方法还包括：
当所述当前变换块的宽度小于所述第一阈值时，或当所述当前变换块的宽度大于所述第二阈值时，
对所述当前变换块进行变换处理，其中，变换核DCT2用于水平变换。


3.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：
获取所述当前译码块的语法值，其中，所述当前译码块的所述语法值用于表示所述当前译码块的所述预测模式为帧内预测。


4.根据权利要求3所述的方法，其特征在于，所述当前译码块的所述语法值不用来表示所述当前译码块的具体的预测模式。


5.一种由解码设备实现的译码方法，其特征在于，包括：
当当前译码块的预测模式为帧内预测，且使用帧内子划分(intrasub-partition，ISP)译码模式处理所述当前译码块时，
确定当前变换块的高度是否大于或等于第三阈值，且所述当前变换块的高度是否小于或等于第四阈值，其中，所述当前变换块对应于所述当前译码块；
当所述当前变换块的高度大于或等于所述第三阈值且小于或等于所述第四阈值时，
对所述当前变换块进行变换处理，其中，变换核DST7用于垂直方向变换。


6.根据权利要求5所述的方法，其特征在于，所述方法还包括：当所述当前变换块的高度小于所述第三阈值时，或当所述当前变换块的高度大于所述第四阈值时，
对所述当前变换块进行变换处理，其中，变换核DCT2用于垂直方向变换。


7.根据权利要求5或6所述的方法，其特征在于，所述方法还包括：
获取所述当前译码块的语法值，其中，所述当前译码块的所述语法值用于表示所述当前译码块的所述预测模式为帧内预测。


8.根据权利要求7所述的方法，其特征在于，所述当前译码块的所述语法值不用来表示所述当前译码块的具体的预测模式。


9.一种由解码设备实现的译码方法，其特征在于，包括：
当多变换选择(multipletransformselection，MTS)方案不适用于当前译码块时，
确定当前变换块的宽度是否大于或等于第一阈值，且所述当前变换块的宽度是否小于或等于第二阈值，其中，所述当前变换块对应于所述当前译码块；
当所述当前变换块的宽...

【专利技术属性】
技术研发人员：高晗，塞米赫·艾森力克，王彪，阿南德·梅赫·科特拉，陈建乐，
申请(专利权)人：华为技术有限公司，
类型：发明
国别省市：广东;44