一种扫描线级加速并行RDOQ方法技术

本发明专利技术属于视频编码领域，涉及一种扫描线级加速并行RDOQ方法，采用SIMD指令，在预量化阶段同时对每个变换系数进行独立的预量化处理；在最优系数水平决策阶段，并行处理预量化后得到的量化系数，通过率失真优化来确定量化系数的最优值；在最后有效系数位置决策阶段，继续以并行处理的方式，同时基于贪婪策略获取到最优的最后有效系数位置。本发明专利技术的方法在保证编码性能损失较小的前提下，实现了RDOQ过程并行计算，且相比现有的并行RDOQ方法，本发明专利技术适用于硬件加速领域，基于贪婪算法实现LSC位置决策，创新度高，硬件吞吐量和编码性能有一个良好的折衷，为视频编码并行优化相关的算法研究提供了参考，具有重大意义。

【技术实现步骤摘要】

本专利技术属于视频编码领域，涉及一种扫描线级加速并行rdoq方法。

技术介绍

1、率失真优化量化(rate-distortion optimized quantization，rdoq)是avs3中一项重要的技术，主要包括预量化、最优系数水平(optimal coefficient level，ocl)决策和最后有效系数(last significant coefficient，lsc)位置决策阶段，它通过选择最佳的量化系数有效地提升视频编码器的性能。在ocl决策阶段，其基于rdo准则确定当前变换单元(transform unit，tu)中每个预量化系数的最优值，此过程会对码率过程进行计算，这个过程会涉及到上下文(prev_level和run)的依赖问题，严重阻碍了硬件流水实现。lsc位置决策也是基于累积rd代价准则来确定最优位置，较长串行流水导致视频难以实时处理。并且，现有的方式只是针对rdoq过程中ocl决策部分做并行处理，对于lsc位置决策部分并没有优化。以及由于rdoq技术的复杂性，一般只是从软件的角度对rdoq过程进行简化，硬件上对其并行流水实现本文档来自技高网...

【技术保护点】

1.一种扫描线级加速并行RDOQ方法，其特征在于，采用SIMD指令，具体过程包括：

2.如权利要求1所述的一种扫描线级加速并行RDOQ方法，其特征在于，利用所述SIMD指令的内在函数同时对每个变换系数进行预量化处理，获得预量化后的系数。

3.如权利要求1所述的一种扫描线级加速并行RDOQ方法，其特征在于，在最优系数水平决策阶段，基于简化对run-level计算码率，根据run值选取查找表中码率，后通过率失真代价比较选择预量化后系数的最优值；所述简化对run-level中的prev_level表示前一个非零最优量化系数，run表示两个非零量化系数之间零的个数。...

【技术特征摘要】

1.一种扫描线级加速并行rdoq方法，其特征在于，采用simd指令，具体过程包括：

2.如权利要求1所述的一种扫描线级加速并行rdoq方法，其特征在于，利用所述simd指令的内在函数同时对每个变换系数进行预量化处理，获得预量化后的系数。

3.如权利要求1所述的一种扫描线级加速并行rdoq方法，其特征在于，在最优系数水平决策阶段，基于简化对run-level计算码率，根据run值选取查找表中码率，后通过率失真代价比较选择预量化后系数的最优值；所述简化对run-level中的prev_level表示前一个非零最优量化系数，run表示两个非零量化系数之间零的个数。

4.如权利要求3所述的一种扫描线级加速并行rdoq方法，其特征在于，所述简化对run-level的推导具体为：

5.如权利要求3所述的一种扫描线级加速并行rdoq方法，其特征在于，在最优系数水平决策阶段，首先计算出量化系数未编码的率失真代价，也即零...

【专利技术属性】
技术研发人员：唐然，黄晓峰，潘锐，周磊，郭欣楠，周洋，陆宇，殷海兵，
申请(专利权)人：杭州电子科技大学，
类型：发明
国别省市：