一种基于光照预提取的全景图像本征分解方法技术

技术编号:37963586 阅读:8 留言:0更新日期:2023-06-30 09:38
本发明专利技术公开的一种基于光照预提取的全景图像本征分解方法,属于图像本征分解技术领域。本发明专利技术结合全景图像对场景360

【技术实现步骤摘要】
一种基于光照预提取的全景图像本征分解方法


[0001]本专利技术涉及一种基于光照预提取的全景图像本征分解方法,属于图像本征分解


技术介绍

[0002]图像本征分解指根据输入图像将其分解得到对应的反射率图像和光照图像。反射率图像描述物体本身的反射率信息,不受光照、观察角度等外界因素的影响,只和物体本身属性有关。光照图像描述物体接收到的光照属性,受到多种因素的影响。
[0003]全景图像作为一种能描述场景360
°
信息的图像形式,包含更加丰富的场景信息,能够一次性获取整个场景的信息,广泛应用于虚拟现实领域。全景图像本征分解技术能够实现对全景图像的属性分离,通过编辑这些属性实现场景编辑等应用。全景图像本征分解和普通图像本征分解一样是一个病态的问题,未知数的数量远大于约束的数量。因此,要想提高分解的质量必须添加额外的约束条件。
[0004]对于这一问题,国内外的学者已经做了大量的研究工作。通常可以分为两类:基于人工先验的方法以及基于学习的方法。基于人工先验的方法以人为设置的条件作为约束,通常对反射率图像和光照图像直接进行约束。从最早的基于视网膜的理论(Retinex)开始,目前已经有了多种类型的约束条件,包括光照平滑约束、反射率稀疏约束、局部非局部约束等。这些约束往往比较直观,是通过对一些现象进行观察而得出的显式结论,能够取得比较好的分解质量。此外,基于学习的方法在近些年也逐渐受到重视,这类方法通过大量的数据进行训练,从中挖掘出深层的信息并学习一些潜在的约束条件。因此该类方法在数据集上通常具有较好的表现,但是网络的训练需要花费较长的时间,在一定程度上影响了实际应用时的测试与维护的花费。针对全景图像本征分解问题而言,全景图像中包含的光照信息更加复杂,目前的一些人工先验无法准确约束这些信息。并且由于全景图像的获取难度大于普通图像,目前也比较缺乏针对全景图像的数据集。因此无论是基于人工先验的方法,还是基于学习的方法,目前都无法很好地解决全景图像本征分解这一复杂的问题。

技术实现思路

[0005]本专利技术的目的是针对全景图像本征分解中复杂光照区域分解不充分的问题,提出一种基于光照预提取的全景图像本征分解方法,利用全景图像对场景360
°
表达的特性,通过对复杂光照区域进行预提取,实现这些区域的准确定位,从而作为约束项来改善由于复杂光照导致分解结果不准确的问题,提高图像的整体分解质量。
[0006]本专利技术的目的是通过以下技术方案实现的:
[0007]本专利技术公开的一种基于光照预提取的全景图像本征分解方法,包括光照预提取和图像分解两部分。首先,通过设定的阈值得到所有亮度大于阈值的像素点,这些像素点包含高光和光源信息;然后,利用高光形成过程中镜面反射的传播特性以及光路的可逆性,从观察视点向亮部提取结果中的各个像素点以投射圆锥的方式求交,统计反射光线的交点,根
据反射光线经过的次数差异对高光和光源进行分离;再后,根据提取到的光源位置信息结合场景的几何信息对阴影进行估计;最后,将高光和阴影图像按照一定权重进行融合得到包含光照信息的预提取图像。利用得到的预提取图像建立约束进行图像分解。对光照进行额外的约束包括光照强度约束以及光照非局部约束;光照强度约束使用预提取图像直接约束待求解的光照图像,光照非局部约束则利用预提取图像计算权重,该权重能够避免不同光照情况下的点之间被施加不必要的约束。实现对全景图像的高质量本征分解,达到提高图像的整体分解质量的目的。
[0008]本专利技术公开的一种基于光照预提取的全景图像本征分解方法,包括以下步骤:
[0009]步骤一、采用适用于全景图像的深度和法线估计算法,得到输入图像I的深度D和法线N估计。
[0010]步骤二、获取场景的点云信息{C,P,N}。
[0011]输入的全景图像为等距圆柱投影形式,利用其逆变换能够实现从图像空间变换到球面空间,再结合步骤一中获得的深度信息D,能够将其从球面空间进一步扩展到整个三维空间,实现场景的点云表示。其中C,P,N分别对应颜色、位置以及法线信息。
[0012]此外,还需要将输入图像从RGB颜色空间转化到HSV颜色空间,以V通道作为后续步骤的输入图像。
[0013]步骤三、根据预先设定的阈值,提取输入图像中所有亮度大于阈值的像素点作为图像的亮部。
[0014]步骤四、利用步骤三得到的图像亮部及步骤二获取的点云信息筛选光源位置。
[0015]亮部提取的结果中包含了高光和光源信息,且两者无法直接通过亮度进行区分,高光区域的形成过程近似镜面反射,根据镜面反射中光路的传播特性,能够实现对高光和光源位置信息的分离。
[0016]从观察视点出发的光路在经过高光区域的镜面反射后能够到达光源;反之,从观察视点出发的光路在经过光源反射后的分布不规律;结合光路的可逆性,能够得到以下结论:从观察视点投射光线,反射光线与场景的交点部分集中在光源上,部分分散到场景的各个位置,利用与光路相交的次数的多少能够对光源和高光进行区分,具有较多相交次数的点为光源,其余的亮部则是高光区域。根据这一结论能够利用投射光线的方式对光源进行筛选。
[0017]根据步骤二中恢复的场景点云信息,从观察视点向步骤三获得的亮部区域投射圆锥。由于场景使用稀疏点云表示,传统的投射光线求交的方法精度低,存在较大误差,投射圆锥的方式更适合求交,处于圆锥内部的点为交点。在求得交点后,根据交点的法线朝向计算出反射光线方向,沿该方向再次计算与场景的交点,该交点的计数增加。重复上述步骤直至遍历完成所有亮部区域。选取计数大于预设阈值的点作为光源。
[0018]步骤五、依据步骤四得到的光源信息进行阴影估计。
[0019]根据步骤四中提取到的光源位置信息,计算其所投射出的阴影分布,使用传统的阴影映射加采样的方式进行实现。阴影映射方法适合点光源的场景,而步骤四中提取到的光源信息通常带有一定的体积,直接作为点光源会导致一定的误差,通过将光源的每个像素点都作为单独点光源进行计算进行近似。并且兼顾到大面积的光源会消耗大量的时间,这里对光源进行随机采样,仅对部分像素点进行阴影估计作为整个光源的近似,最终叠加
各个光源的效应作为最终的光源估计。
[0020]步骤六、将步骤三至步骤五中得到的高光图像以及阴影图像进行融合,作为预提取图像S
est

[0021]融合的过程根据高光和阴影的亮度,在预提取图像中保留更多较亮的高光区域以及较暗的阴影区域,其余部分则根据灰度图保留。
[0022]步骤七、根据步骤六的结果建立约束目标函数。
[0023]根据步骤六的结果建立相应的约束条件,主要包括光照非局部约束E
nonlocal
以及光照强度约束E
intensity
,有如下形式:
[0024][0025][0026]其中,λ
nls

a
为固定常数,用于控制各约束之间的权重,G为相似点对的本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种基于光照预提取的全景图像本征分解方法,包括如下步骤,步骤一、采用适用于全景图像的深度和法线估计算法,得到输入图像I的深度D和法线N估计;步骤二、获取场景的点云信息{C,P,N};步骤三、根据预先设定的阈值,提取输入图像中所有亮度大于阈值的像素点作为图像的亮部;步骤四、利用步骤三得到的图像亮部及步骤二获取的点云信息筛选光源位置;步骤五、依据步骤四得到的光源信息进行阴影估计;步骤六、将步骤三至步骤五中得到的高光图像以及阴影图像进行融合,作为预提取图像S
est
;步骤七、根据步骤六的结果建立约束目标函数;步骤八、计算局部和非局部约束的矩阵形式M
ls
,M
nls
;步骤九、迭代求解目标函数,得到分解结果,提高图像的整体分解质量。2.如权利要求1所述的一种基于光照预提取的全景图像本征分解方法,其特征在于:步骤二的实现方法为,输入的全景图像为等距圆柱投影形式,利用其逆变换能够实现从图像空间变换到球面空间,再结合步骤一中获得的深度信息D,能够将其从球面空间进一步扩展到整个三维空间,实现场景的点云表示;其中C,P,N分别对应颜色、位置以及法线信息;此外,还需要将输入图像从RGB颜色空间转化到HSV颜色空间,以V通道作为后续步骤的输入图像。3.如权利要求2所述的一种基于光照预提取的全景图像本征分解方法,其特征在于:步骤四的实现方法为,亮部提取的结果中包含了高光和光源信息,且两者无法直接通过亮度进行区分,高光区域的形成过程近似镜面反射,根据镜面反射中光路的传播特性,能够实现对高光和光源位置信息的分离;从观察视点出发的光路在经过高光区域的镜面反射后能够到达光源;反之,从观察视点出发的光路在经过光源反射后的分布不规律;结合光路的可逆性,能够得到以下结论:从观察视点投射光线,反射光线与场景的交点部分集中在光源上,部分分散到场景的各个位置,利用与光路相交的次数的多少能够对光源和高光进行区分,具有较多相交次数的点为光源,其余的亮部则是高光区域;根据这一结论能够利用投射光线的方式对光源进行筛选;根据步骤二中恢复的场景点云信息,从观察视点向步骤三获得的亮部区域投射圆锥;由于场景使用稀疏点云表示,传统的投射光线求交的方法精度低,存在较大误差,投射圆锥的方式更适合求交,处于圆锥内部的点为交点;在求得交点后,根据交点的法线朝向计算出反射光线方向,沿该方向再次计算与场景的交点,该交点的计数增加;重复上述步骤直至遍历完成所有亮部区域;选取计数大于预设阈值的点作为光源。4.如权利要求3所述的一种基于光照预提取的全景图像本征分解方法,其特征在于:步骤五的实现方法为,根据步骤四中提取到的光源位置信息,计算其所投射出的阴影分布,使用传统的阴影映射加采样的方式进行实现;阴影映射方法适合点光源的场景,而步骤四中提取到的光源
信息通常带有一定的体积,直接作为点光源会导致一定的误差,通过将光源的每个像素点都作为单独点光源进行计算进行近似;并且兼顾到大面积的光源会消耗大量的时间,这里对光源进行随机采样,仅对部分像素点进行阴影估计作为整个光源的近似,叠加各个光源的效应作为最终的光源估计。5.如权利要求4所...

【专利技术属性】
技术研发人员:张磊徐容恺
申请(专利权)人:北京理工大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1