基于多模态双向循环场景流的动态点云压缩方法、系统、存储介质及设备技术方案

技术编号:42149117 阅读:31 留言:0更新日期:2024-07-27 00:03
本发明专利技术公开了一种基于多模态双向循环场景流的动态点云压缩方法、系统、存储介质及设备。本发明专利技术首先给定连续两帧的点云数据和对应的图片数据,分别提取特征;将图像特征张量与点云特征张量相加,获得融合特征向量;依据特征向量和坐标矩阵得到连续两帧的潜在表示;随后将连续两帧的潜在表示输入至多尺度特征提取模块,获得运动向量。对该运动向量以及前一帧的潜在表示进行运动补偿和压缩。然后基于上下文进行残差压缩,重构残差张量;最后将预测帧和残差张量相加后输入至点云重建模块得到当前帧。本发明专利技术利用跨模态信息,实现了不同模态之间的信息互补;从粗到精的方式迭代双向增强特征和场景流估计,在保持高效率的同时显著提高性能。

【技术实现步骤摘要】

本专利技术涉及点云压缩,具体涉及一种基于多模态双向循环场景流的动态点云压缩方法、系统、存储介质及设备


技术介绍

1、传统的动态点云压缩方法可分为基于三维和基于二维投影两种。基于三维的方法执行块匹配以实现跨各种帧的运动估计和运动补偿。基于二维投影的方法利用了当前的视频编解码器,其中大多数探索都集中在投影算法设计和补丁排列上。

2、上述方法都是基于规则的,使用手工制作的特征提取模块和基于假设的匹配规则,编码效率不理想,如mpeg指定的动态点云压缩方法-vpcc需要将点云序列转换为视频,但是投影过程会破坏3d运动的连续性。

3、近年来,受深度学习技术在图像和视频压缩中的应用启发,最近的工作开始关注基于深度学习的动态点云压缩。动态点云压缩需要同时考虑空间和时间冗余的去除,相对于静态点云压缩,关键的挑战是如何将运动估计和运动补偿嵌入到端到端压缩网络中。

4、一些方法尝试利用me/mc(运动估计和补偿)结构进行运动估计和补偿,但是这些方法只关注单个分辨率尺度的优化,导致了较大的计算延迟。另一些方法虽然采用了多尺度运动估计和补偿网络本文档来自技高网...

【技术保护点】

1.一种基于多模态双向循环场景流的动态点云压缩方法,其特征在于,该方法包括以下步骤:

2.根据权利要求1所述的一种基于多模态双向循环场景流的动态点云压缩方法,其特征在于:如果图像特征张量的维度超出了相应点云特征张量的尺寸,则通过插值方法调整图像特征张量的维度,以确保二者具有相同的尺寸;反之,则保持图像特征张量的原始尺寸不变。

3.根据权利要求1所述的一种基于多模态双向循环场景流的动态点云压缩方法,其特征在于:所述的多尺度特征提取模块在每个级别上,使用双向循环注意力机制双向增强点特征,并迭代优化相关性和运动预测;在相邻级别之间采用上采样层,用于将特征从高尺度传播到低...

【技术特征摘要】

1.一种基于多模态双向循环场景流的动态点云压缩方法,其特征在于,该方法包括以下步骤:

2.根据权利要求1所述的一种基于多模态双向循环场景流的动态点云压缩方法,其特征在于:如果图像特征张量的维度超出了相应点云特征张量的尺寸,则通过插值方法调整图像特征张量的维度,以确保二者具有相同的尺寸;反之,则保持图像特征张量的原始尺寸不变。

3.根据权利要求1所述的一种基于多模态双向循环场景流的动态点云压缩方法,其特征在于:所述的多尺度特征提取模块在每个级别上,使用双向循环注意力机制双向增强点特征,并迭代优化相关性和运动预测;在相邻级别之间采用上采样层,用于将特征从高尺度传播到低尺度;给定更新后的每个点的相关特征,将相关性转换为运动向量。

4.根据权利要求3所述的一种基于多模态双向循环场景流的动态点云压缩方法,其特征在于:对于每个下采样的稀疏点,将k近邻的密集点局部分组形成一个局部区域进行特征提取,针对每个稀疏点,将其k近邻的点局部分组,以构建局部区域。

5.根据权利要求4所述的一种基于多模态双向循环场景流的动态点云压缩...

【专利技术属性】
技术研发人员:杨柏林郑东南方哲沈玉良李锦
申请(专利权)人:杭州宇泛智能科技股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1