变换方法、编码器、解码器以及存储介质技术

本申请实施例公开了一种变换方法、编码器、解码器以及存储介质，该方法包括：确定当前块的预测模式参数；当所述预测模式参数指示所述当前块使用基于矩阵的帧内预测MIP确定帧内预测值时，确定MIP参数；根据所述MIP参数，确定所述当前块的帧内预测值，计算所述当前块与所述帧内预测值之间的预测差值；当所述当前块使用低频不可分离二次变换LFNST时，根据所述MIP参数，确定所述当前块使用的LFNST变换核，设置LFNST索引序号并写入视频码流；使用所述LFNST变换核，对所述预测差值进行变换处理。

【技术实现步骤摘要】

本申请实施例涉及图像处理，尤其涉及一种变换方法、编码器、解码器以及存储介质。

技术介绍

1、随着人们对视频显示质量要求的提高，高清和超高清视频等新视频应用形式应运而生。h.265/高效率视频编码(high efficiency video coding，hevc)已经无法满足视频应用迅速发展的需求，联合视频研究组(joint video exploration team，jvet)提出了下一代视频编码标准h.266/多功能视频编码(versatile video coding，vvc)，其相应的测试模型为vvc的参考软件测试平台(vvc test model，vtm)。

2、在h.266/vvc中，目前已经接受了简化的二次变换(reduced second transform，rst)技术，并更名为低频不可分二次变换(low-frequency non-separable transform，lfnst)技术。由于lfnst技术中关于变换集的选择是根据帧内预测模式进行的，但是对于非传统帧内预测模式，在进行lfnst变换时缺乏可变性，降低了编码效本文档来自技高网...

【技术保护点】

1.一种变换方法，应用于解码器，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述根据所述MIP模式索引序号的取值，从多个LFNST变换核候选集中选择一个LFNST变换核候选集，包括：

3.根据权利要求2所述的方法，其特征在于，所述根据所述MIP模式索引序号的取值，从多个LFNST变换核候选集中选择一个LFNST变换核候选集，包括：

4.根据权利要求3所述的方法，其特征在于，所述根据所述MIP模式索引序号的取值，使用第一计算方式确定LFNST变换核候选集的索引序号，包括：

5.根据权利要求1所述的方法，其特征在于，所...

【技术特征摘要】

1.一种变换方法，应用于解码器，其特征在于，所述方法包括：

2.根据权利要求1所述的方法，其特征在于，所述根据所述mip模式索引序号的取值，从多个lfnst变换核候选集中选择一个lfnst变换核候选集，包括：

3.根据权利要求2所述的方法，其特征在于，所述根据所述mip模式索引序号的取值，从多个lfnst变换核候选集中选择一个lfnst变换核候选集，包括：

4.根据权利要求3所述的方法，其特征在于，所述根据所述mip模式索引序号的取值，使用第一计算方式确定lfnst变换核候选集的索引序号，包括：

5.根据权利要...

【专利技术属性】
技术研发人员：霍俊彦，李新伟，乔文涵，马彦卓，万帅，杨付正，
申请(专利权)人：OPPO广东移动通信有限公司，
类型：发明
国别省市：