一种基于彩色图引导的深度图恢复及视点合成优化方法技术

本发明专利技术公开了一种基于彩色图引导的深度图恢复及视点合成优化方法，首先对不一致区域进行探测，检测输入深度图的边沿，并将边沿进行膨胀处理，将膨胀后的边沿标记为潜在不一致区域，然后基于迭代重加权最小二乘算法构建权重，权重构建完成后进行整体求解并更新深度图，根据结果判断是否达到设定的迭代次数，如果达到则输出深度图结束计算，否则重新进行对不一致区域探测。本发明专利技术能够抑制强噪声，并且能够修复深度图和彩色图不一致区域，提高深度图和彩色图的一致性，恢复出正确的深度图边界，对提高合成视图的质量有重要的指导意义。同时对于一致区域的去噪和保边能力强，采用成熟的迭代加权最小二乘模型，对参数的适应性强，提高了模型的鲁棒性。

【技术实现步骤摘要】
一种基于彩色图引导的深度图恢复及视点合成优化方法
本专利技术属于图像处理
，具体涉及一种基于彩色图引导的深度图恢复及视点合成优化方法。
技术介绍
随着深度传感器的问世及立体显示技术的快速发展，深度图成为近年来的研究热点。深度图的获取方式有主动式和被动式两种。主动式主要是由两个或多个视点的可见光数据进行立体匹配计算相应位置的视差，然后根据几何关系转化为深度图。立体匹配得到的深度图准确度有了很大的提高，但是计算复杂，对可见光数据的要求较高，在实际应用中有一定的局限性。被动式主要是指由深度传感器直接获取深度图像，常用的深度传感器有ToF(TimeofFlight)和Kinect等，ToF通过测量光脉冲之间的传输延迟时间来计算深度信息，实时性强，但分辨率低且存在随机噪声。Kinect通过向测量空间发射红外线，再由红外摄像机记录空间中物体反射形成的散斑，通过计算得到深度图像，成本低廉，但存在深度值缺失和噪声。因此，无论是主动方式还是被动方式获得的深度图，都需要进行深度图恢复以便为后续的应用提供更好的数据支持。基于深度图像绘制的视图合成方法是3DTV的关键技术，它利用深度图像将对应的彩色图像经过一系列的三维变换和视图融合生成合成视点图像，因此合成图像质量的高低依赖于输入图像的质量，除了深度图像的噪声和空洞的影响外，深度图和彩色图的边缘的一致性也有较高的要求，否则会引起合成图像的裂纹和空洞，给后续合成图像的空洞填充带来负担。因此，在类似虚拟视点合成这样需要深度图和彩色图边缘高度一致的场合，深度图修复技术不仅仅需要考虑去噪和超分等，还需要修复不一致区域。目前主流的深度图修复技术主要是利用彩色图和深度图的信息来实现深度图的恢复，比如经典的三边滤波器和引导滤波器。JingyuYang等人在论文“Color-guidedDepthRecoveryfromRGB-DDataUsinganAdaptiveAuto-regressiveModel”中，提出彩色图引导深度图恢复的自回归模型，联合初始深度图的局部信息和彩色图的非局部信息构建回归系数，通过最小化自回归预测误差来实现对深度图的去噪和超分。WeiLiu等在“RobustColorGuidedDepthMapRestoration”论文中提出了一种自适应带宽的迭代重加权最小二乘算法，通过计算深度图的相对平滑度来确定带宽，同时每次在迭代中更新平滑项的权重，使得模型更加鲁棒。这两种经典算法都采用了彩色图来引导深度图实现恢复，其基本假设是深度图和彩色图的边界完全一致，然而在实际应用中这一假设很难成立，因此对于深度图和彩色图不一致的区域就会引起深度图边界模糊和纹理引入。YifanZuo在论文“ExplicitEdgeInconsistencyEvaluationModelforColor-GuidedDepthMapEnhancement”中，提出了明确度量深度图和彩色图一致性的加权最小二乘的模型，通过提取深度图和彩色图的边缘，采用二分图匹配和图割优化，找到深度图边缘偏移量，以此来定义不一致性，在平滑项中由不一致性来平衡彩色图和深度图梯度对输出的影响。这个方法考虑到了深度图和彩色图不一致的影响，但边缘提取高度依赖于图像梯度，抗噪能力差，且一致性度量仅在边缘有效，无法实现不一致区域值的修复，适用范围有限。
技术实现思路
本专利技术所要解决的技术问题在于针对上述现有技术中的不足，提供一种基于彩色图引导的深度图恢复及视点合成优化方法，能够在严重噪声干扰和不一致情况下，实现对深度图的恢复，从而实现对虚拟视点合成的优化。本专利技术采用以下技术方案：一种基于彩色图引导的深度图恢复及视点合成优化方法，首先对不一致区域进行探测，检测输入深度图的边沿，并将边沿进行膨胀处理，将膨胀后的边沿标记为潜在不一致区域，然后基于迭代重加权最小二乘算法构建权重，权重构建完成后进行整体求解并更新深度图，根据结果判断是否达到设定的迭代次数，如果达到则输出深度图结束计算，否则重新进行对不一致区域探测。具体的，对不一致区域进行探测具体为：对输入深度图进行中值滤波后用canny算子提取所有边缘，再进行膨胀处理，在潜在不一致区域分别对深度图和彩色图计算高斯权重，并用彩色图权重对深度图权重进行加权平均，加权平均后的结果作为一致性的度量值；对位于i的像素点深度值的可信度进行阈值化得到一致性度量指标将整个输入图像分为一致区域和不一致区域两部分，实现不一致区域的精确查找。进一步的，位于i的像素点的可信度如下：其中，表示位于i的像素点深度值的可信度，为彩色图权重，为深度图权重，k代表彩色图I的不同通道，C代表彩色图I的三个通道，C＝{R,G,B}，N(i)是以i为中心的正方形窗口，j是以i为中心的邻域的像素，Di是以i为中心的邻域j处的深度值，表示彩色图I的k通道位于点i处的像素值，表示彩色图I的k通道位于点j处的像素值，σc和σd是常数。更进一步的，对阈值化如下：其中，表示位于i点深度图和彩色图的一致性度量值，取值为0和1，1表示一致，0表示不一致，threshold表示用户自定义的一个常量。具体的，构建权重具体为：基于迭代重加权最小二乘算法构建平滑项的权重，以输入深度图D0作为迭代初始条件，在迭代中不断更新深度图权重深度值可信度和一致性度量值在每次迭代中实现去噪和不一致区域值的修复，最终确定深度值可信度和平滑项权重ωn。进一步的，在第n次迭代中，平滑项的权重构造如下：其中，分别表示位于i、j的像素点深度值的可信程度，为彩色图权重，为深度图权重，i为第i个像素点，j为以像素点i为中心的邻域像素点。具体的，权重构建完成后进行整体求解并更新深度图具体为：基于迭代重加权最小二乘算法进行求导得到线性解，利用前一次迭代的结果计算此次迭代的权重和不一致区域，并整体求解，求解完成后更新深度图，为下次迭代计算做准备。进一步的，求导得到线性解如下：其中，n表示迭代次数，表示i位置处的深度值的可信度，j表示以i为中心的像素邻域，表示第n次迭代j位置处的深度值，表示第n次迭代平滑项的权重，表示初始输入的深度图在i处的值，α是平衡数据项和平滑项的常数。具体的，如果没有达到预设的迭代次数则重新对不一致区域进行探测，利用更新后的深度图计算不一致区域和权重，直到迭代次数达到设定值，整个迭代过程结束，输出深度图。与现有技术相比，本专利技术至少具有以下有益效果：本专利技术一种基于彩色图引导的深度图恢复及视点合成优化方法，首先对不一致区域进行探测，检测输入深度图的边沿，并将边沿进行膨胀处理，将膨胀后的边沿标记为潜在不一致区域，然后基于迭代重加权最小二乘算法构建权重，权重构建完成后进行整体求解并更新深度图，根据结果判断是否达到设定的迭代次数，如果达到则输出深度图结束计算，否则重新进行对不一致区域探测，采用了迭代重加权最小二乘模型，在迭代中更新权重，因此对于阈值有很好的适应性，不同的阈值对输出结果影响并不十分明显，模型稳定且鲁棒性强。进一步的，通过利用彩色图权重对深度图权重的加权平均来探测不一致区域，从而分别采取不同的策略处理深度图像，确定深度图恢复的作用区域，改善深度图和彩色图的一致性。进一步的，通过对深度值可信程度的阈值化来控制数据项在整个模型中的作用，在不一致区域将去掉本文档来自技高网...

【技术保护点】
1.一种基于彩色图引导的深度图恢复及视点合成优化方法，其特征在于，首先对不一致区域进行探测，检测输入深度图的边沿，并将边沿进行膨胀处理，将膨胀后的边沿标记为潜在不一致区域，然后基于迭代重加权最小二乘算法构建权重，权重构建完成后进行整体求解并更新深度图，根据结果判断是否达到设定的迭代次数，如果达到则输出深度图结束计算，否则重新进行对不一致区域探测。

【技术特征摘要】
1.一种基于彩色图引导的深度图恢复及视点合成优化方法，其特征在于，首先对不一致区域进行探测，检测输入深度图的边沿，并将边沿进行膨胀处理，将膨胀后的边沿标记为潜在不一致区域，然后基于迭代重加权最小二乘算法构建权重，权重构建完成后进行整体求解并更新深度图，根据结果判断是否达到设定的迭代次数，如果达到则输出深度图结束计算，否则重新进行对不一致区域探测。2.根据权利要求1所述的一种基于彩色图引导的深度图恢复及视点合成优化方法，其特征在于，对不一致区域进行探测具体为：对输入深度图进行中值滤波后用canny算子提取所有边缘，再进行膨胀处理，在潜在不一致区域分别对深度图和彩色图计算高斯权重，并用彩色图权重对深度图权重进行加权平均，加权平均后的结果作为一致性的度量值；对位于i的像素点深度值的可信度进行阈值化得到一致性度量指标将整个输入图像分为一致区域和不一致区域两部分，实现不一致区域的精确查找。3.根据权利要求2所述的一种基于彩色图引导的深度图恢复及视点合成优化方法，其特征在于，位于i的像素点的可信度如下：其中，表示位于i的像素点深度值的可信度，为彩色图权重，为深度图权重，k代表彩色图I的不同通道，C代表彩色图I的三个通道，C＝{R,G,B}，N(i)是以i为中心的正方形窗口，j是以i为中心的邻域的像素，Di是以i为中心的邻域j处的深度值，表示彩色图I的k通道位于点i处的像素值，表示彩色图I的k通道位于点j处的像素值，σc和σd是常数。4.根据权利要求3所述的一种基于彩色图引导的深度图恢复及视点合成优化方法，其特征在于，对阈值化如下：其中，表示位于i点深度图和彩色图的一致性度量值，取值为0和1，1表示一致，0表示不一致，th...

【专利技术属性】
技术研发人员：杨勐，光宇杰，成钰，郑南宁，
申请(专利权)人：西安交通大学，
类型：发明
国别省市：陕西,61