编码模式选择方法、装置及编码器制造方法及图纸

本发明专利技术实施例中公开了编码模式选择方法、装置及编码器，该方法包括：对于编码单元的每个编码层，通过快速RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式，通过RDO算法从所述候选划分方式中确定所述编码层的最佳划分方式；根据相邻编码层的最佳划分方式对应的RDCost，选择编码单元的最佳编码模式。本发明专利技术实施例同一编码层内采用快速RDO算法获得候选划分方式，由于快速RDO算法的计算复杂度低于RDO算法，因此可以节省编码器的计算资源开销，而对于相邻编码层之间，由于仍然可以通过RDO算法选择编码单元的最佳编码模式，因此在提高了编码器的模式选择效率的同时，也可以保证编码质量。

【技术实现步骤摘要】
编码模式选择方法、装置及编码器
本专利技术涉及视频编码
，特别涉及一种编码模式选择方法、装置及编码器。
技术介绍
高效率的视频编码（Highefficiencyvideocoding，HEVC）是正在研究的新一代视频压缩标准，主要面向对象为高清和超高清的视频图像。应用HEVC可以在保证相同视频图像质量的前提下，减少视频流的码率；并在提高压缩效率的同时，允许编码端适当提高编码复杂度。在基于HEVC标准为当前编码单元（CodingUnit，CU）选择编码模式时，视频编码器可以采用率失真优化（RateDistortionOptimization，RDO）算法，遍历计算当前CU的每个模式类型下的所有分块方式对应的率失真代价值（RateDistortionCost，RDCost），从中选择数值最小的RDCost对应的候选模式及分块方式作为当前CU的编码模式。专利技术人在对现有技术的研究过程中发现，由于在为当前CU选择编码模式时，需要通过RDO算法遍历计算每个模式类型下的所有分块方式对应的RDCost，而每一次RDO算法都需要执行包括变换、量化、反变换和反量化在内的计算，因此计算复杂度较高，需要耗费编码器的大量计算资源，相应提升了编码器的硬件要求，导致编码模式的选择效率不高。
技术实现思路
本专利技术实施例中提供了编码模式选择方法、装置及编码器，以解决现有技术需要编码器耗费大量计算资源，导致编码模式的选择效率不高的问题。为了解决上述技术问题，本专利技术实施例公开了如下技术方案：第一方面，提供一种编码模式选择方法，所述方法包括：对于编码单元的每个编码层，通过快速率失真优化RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式，通过RDO算法从所述候选划分方式中确定所述编码层的最佳划分方式；根据所述编码单元的相邻编码层的最佳划分方式对应的率失真代价值RDCost，选择所述编码单元的最佳编码模式。结合第一方面，在第一方面的第一种可能的实现方式中，所述通过快速RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式，包括：对于所述编码层的每种模式类型，通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，将每种模式类型的最佳划分方式作为所述编码层的候选划分方式。结合第一方面的第一种可能的实现方式，在第一方面的第二种可能的实现方式中，所述通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，包括：采用快速RDO算法计算所述模式类型对应的所有划分方式的RDCost；比较所述模式类型对应的所有划分方式的RDCost，选择数值最小的RDCost对应的划分方式为所述模式类型的最佳划分方式。结合第一方面的第一种可能的实现方式，或第一方面的第二种可能的实现方式，在第一方面的第三种可能的实现方式中，所述模式类型包括至少一种下述模式：帧间Inter模式、帧内Intra模式、合并Merge模式。结合第一方面，或第一方面的第一种可能的实现方式，或第一方面的第二种可能的实现方式，或第一方面的第三种可能的实现方式，在第一方面的第四种可能的实现方式中，所述通过RDO算法从所述候选划分方式中确定所述编码层的最佳划分方式，包括：采用RDO算法计算所述编码层的候选划分方式对应的RDCost；比较所述候选划分方式对应的RDCost，选择数值最小的RDCost对应的划分方式作为所述编码层的最佳划分方式。结合第一方面，或第一方面的第一种可能的实现方式，或第一方面的第二种可能的实现方式，或第一方面的第三种可能的实现方式，或第一方面的第四种可能的实现方式中，在第一方面的第五种可能的实现方式中，所述根据所述编码单元的相邻编码层的最佳划分方式对应的RDCost，选择所述编码单元的最佳编码模式，包括：比较所述编码单元的相邻编码层的最佳划分方式对应的RDCost，所述最佳划分方式对应的RDCost通过RDO算法计算得到，选择数值最小的RDCost对应的划分方式作为所述编码单元的最佳划分方式。第二方面，提供一种编码模式选择装置，所述装置包括：获取单元，用于对于编码单元的每个编码层，通过快速RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式；确定单元，通过RDO算法从所述获取单元获取的候选划分方式中确定所述编码层的最佳划分方式；选择单元，用于根据所述确定单元确定的所述编码单元的相邻编码层的最佳划分方式对应的RDCost，选择所述编码单元的最佳编码模式。结合第二方面，在第二方面的第一种可能的实现方式中，所述获取单元，具体用于对于所述编码层的每种模式类型，通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，将每种模式类型的最佳划分方式作为所述编码层的候选划分方式。结合第二方面的第一种可能的实现方式，在第二方面的第二种可能的实现方式中，所述获取单元包括：第一代价值计算子单元，用于采用快速RDO算法计算所述模式类型对应的所有划分方式的RDCost；第一划分方式选择子单元，用于比较所述第一代价计算子单元计算得到的模式类型对应的所有划分方式的RDCost，选择数值最小的RDCost对应的划分方式为所述模式类型的最佳划分方式。结合第二方面，或第二方面的第一种可能的实现方式，或第二方面的第二种可能的实现方式，在第二方面的第三种可能的实现方式中，所述确定单元包括：第二代价值计算子单元，用于采用RDO算法计算所述编码层的候选划分方式对应的RDCost；第二划分方式选择子单元，用于比较所述第二代价值计算子单元计算得到的候选划分方式对应的RDCost，选择数值最小的RDCost对应的划分方式作为所述编码层的最佳划分方式。结合第二方面，或第二方面的第一种可能的实现方式，或第二方面的第二种可能的实现方式，或第二方面的第三种可能的实现方式，在第二方面的第四种可能的实现方式中，所述选择单元，具体用于比较所述编码单元的相邻编码层的最佳划分方式对应的RDCost，所述最佳划分方式对应的RDCost通过RDO算法计算得到，选择数值最小的RDCost对应的划分方式作为所述编码单元的最佳划分方式。第三方面，提供一种编码器，所述编码器包括：输入输出接口和处理器，其中，所述输入输出接口，用于获得编码单元；所述处理器，用于对于所述编码单元的每个编码层，通过快速RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式，通过RDO算法从所述候选划分方式中确定所述编码层的最佳划分方式；根据所述编码单元的相邻编码层的最佳划分方式对应的RDCost，选择所述编码单元的最佳编码模式。结合第三方面，在第三方面的第一种可能的实现方式中，所述处理器，具体用于对于所述编码层的每种模式类型，通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，将每种模式类型的最佳划分方式作为所述编码层的候选划分方式。结合第三方面的第一种可能的实现方式，在第三方面的第二种可能的实现方式中，所述处理器，具体用于采用快速RDO算法计算所述模式类型对应的所有划分方式的RDCost，并比较所述模式类型对应的所有划分方式的RDCost，选择数值最小的RDCost对应的划分方式为所述模式类型的最佳划分方式。结合第三方面，或本文档来自技高网...

【技术保护点】
一种编码模式选择方法，其特征在于，所述方法包括：对于编码单元的每个编码层，通过快速率失真优化RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式，通过RDO算法从所述候选划分方式中确定所述编码层的最佳划分方式；根据所述编码单元的相邻编码层的最佳划分方式对应的率失真代价值RDCost，选择所述编码单元的最佳编码模式。

【技术特征摘要】
1.一种编码模式选择方法，其特征在于，所述方法包括：对于编码单元的每个编码层，通过快速率失真优化RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式，通过RDO算法从所述候选划分方式中确定所述编码层的最佳划分方式；根据所述编码单元的相邻编码层的最佳划分方式对应的率失真代价值RDCost，选择所述编码单元的最佳编码模式；其中，所述通过快速RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式，包括：对于所述编码层的每种模式类型，通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，将每种模式类型的最佳划分方式作为所述编码层的候选划分方式。2.根据权利要求1所述的方法，其特征在于，所述通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，包括：采用快速RDO算法计算所述模式类型对应的所有划分方式的RDCost；比较所述模式类型对应的所有划分方式的RDCost，选择数值最小的RDCost对应的划分方式为所述模式类型的最佳划分方式。3.根据权利要求1或2所述的方法，其特征在于，所述模式类型包括至少一种下述模式：帧间Inter模式、帧内Intra模式、合并Merge模式。4.根据权利要求1所述的方法，其特征在于，所述通过RDO算法从所述候选划分方式中确定所述编码层的最佳划分方式，包括：采用RDO算法计算所述编码层的候选划分方式对应的RDCost；比较所述候选划分方式对应的RDCost，选择数值最小的RDCost对应的划分方式作为所述编码层的最佳划分方式。5.根据权利要求1所述的方法，其特征在于，所述根据所述编码单元的相邻编码层的最佳划分方式对应的RDCost，选择所述编码单元的最佳编码模式，包括：比较所述编码单元的相邻编码层的最佳划分方式对应的RDCost，所述最佳划分方式对应的RDCost通过RDO算法计算得到，选择数值最小的RDCost对应的划分方式作为所述编码单元的最佳划分方式。6.一种编码模式选择装置，其特征在于，所述装置包括：获取单元，用于对于编码单元的每个编码层，通过快速RDO算法从所述编码层的所有划分方式中获取所述编码层的候选划分方式；确定单元，通过RDO算法从所述获取单元获取的候选划分方式中确定所述编码层的最佳划分方式；选择单元，用于根据所述确定单元确定的所述编码单元的相邻编码层的最佳划分方式对应的RDCost，选择所述编码单元的最佳编码模式；其中，所述获取单元，具体用于对于所述编码层的每种模式类型，通过快速RDO算法从所述模式类型对应的划分方式中获取所述模式类型的最佳划分方式，将每种模式类型的最佳划分方式作为所述编码层的候选划分方式。7.根...

【专利技术属性】
技术研发人员：郭姗，宋杨，王振威，
申请(专利权)人：华为技术有限公司，
类型：发明
国别省市：广东;44