System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 用于图像处理的方法技术_技高网

用于图像处理的方法技术

技术编号:41123516 阅读:2 留言:0更新日期:2024-04-30 17:50
用于图像处理,特别是降噪的方法,包括:优选地通过图像传感器获取多个帧;确定每个帧的噪声信息;将多个帧组合为组合图像;从每个帧的噪声信息确定组合图像的残差噪声图;以及基于残差噪声图降低组合图像的噪声,以生成最终的图像估计。

【技术实现步骤摘要】

本专利技术涉及用于图像处理的方法,特别地涉及降噪。此外,本专利技术涉及实施这种方法的装置和包括这种装置的终端设备。此外,本专利技术还涉及软件。


技术介绍

1、存在很多方法以降低图像的噪声。其中,特别是在现代移动设备中,使用多帧降噪管道,其中单个场景的多个帧被获取并叠加或融合以降低噪声。因此,通过将图像的像素与来自任何其他帧的像素进行组合,可以减少图像中像素的噪声。此方法对场景中的非移动对象效果很好,但仍然可能导致模糊的特征边缘。随着人工智能(ai)的到来,用于降噪的算法也被熟知。特别地,对于多帧降噪,将相同或相似场景的数个帧输入到ai算法中,并对ai算法进行充分的训练,以降低噪声。然而,由于ai算法依赖于多个帧,必须处理大量的数据,并且ai算法背后的神经网络变得庞大和缓慢。


技术实现思路

1、因此,本专利技术的目的是提供一种用于图像处理的方法,特别是具有改进的降噪性能的降噪的方法。

2、通过根据权利要求1所述的方法,根据权利要求13所述的装置,根据权利要求14所述的终端设备和根据权利要求15所述的软件存储设备来解决问题。

3、根据本专利技术的用于图像处理特别是降噪的方法包括以下步骤:

4、优选地通过图像传感器获取多个帧;

5、确定每个帧的噪声信息;

6、将多个帧组合为组合图像;

7、从每个帧的噪声信息确定组合图像的残差噪声图;以及

8、基于残差噪声图对组合图像进行降噪,以生成最终的图像估计。

9、因此,在第一步中获取多个帧。获取多个帧可以由图像传感器执行,图像传感器是实施实体的一部分,或者可以是任何其他相机的一部分,使得多个帧被传送到实施根据本专利技术的方法的实体。其中,从相同或相似的场景获取至少两个帧。特别地,多个帧是场景在不同时间的至少部分重叠的图像。因此,多个帧从相同的场景连续地获取并因此可以具有重叠的图像内容,但也可以由于场景中对象的移动或在获取多个帧时相机的移动而具有差异。特别地,每个帧包括噪声,例如可以是加性高斯白噪声或信号相依的泊松高斯噪声。

10、对于每个帧,确定噪声信息。其中,噪声信息可以包括噪声分布,例如,高斯分布、泊松分布或后两种或其他分布的混合。其中,噪声信息可以以一阶和二阶统计矩的形式提供,例如使用噪声的均值和方差。特别地,对于每个帧的每个像素,存在相应的噪声信息。其中,噪声信息可以从曝光时间、亮度、传感器模型等确定。特别地,一帧的噪声信息可以对于此帧的所有像素是相同或相似的。可替代地,可以单独地确定每个像素的噪声信息。其中,噪声信息可以将相应像素的噪声分布描述为连续值或离散值。

11、随后,多个帧被组合在单个组合图像中。可以通过常用的融合算法来组合多个帧,这可以是现有技术中的降噪算法的一部分。特别滴,本专利技术不依赖于具体的融合算法的选择。使用的融合算法接收多个帧,并生成单个组合图像。

12、在下一个步骤中,为组合图像确定残差噪声图,其中残差噪声图是从每个帧的噪声信息确定的。

13、通过融合算法融合在一起的那些像素将产生较高的信噪比(snr)。snr如何变化由可以融合多少个帧和如何进行融合来确定。得到的融合像素的snr取决于融合的帧的噪声信息。特别地,残差噪声图包含组合图像的空间噪声信息。其中,通过残差噪声图,优选地在将多个帧组合到组合图像的过程中将残差噪声方差记录为噪声信息。因此,残差噪声图可以表示为组合图像中每个像素计算的残差噪声的方差。

14、在下一步中,基于残差噪声图,降低组合图像的噪声,以生成最终的图像估计作为方法的结果,其中最终的图像估计与组合图像相比没有噪声或具有降低的噪声。因此,使用残差噪声图以减少或消除组合图像的噪声。

15、因此,本专利技术仅使用单个图像即组合图像,用于在将多个帧融合为组合图像后的降噪。其中,也利用每个帧的噪声信息用于组合图像的降噪。其中,生成组合图像中每个融合的图像像素的噪声信息,使得其在数学上对于应用于图像的融合保持有效。这导致逐像素噪声特性,其精确地对应于组合图像。由于仅考虑组合图像用于降噪,因此要在降噪步骤中处理的数据被减少。同时,由于通过残差噪声图考虑了多个帧中的每个帧的噪声信息用于组合图像的降噪,因此提高了去噪性能。

16、优选地,由经训练的神经网络执行组合图像的降噪,其中神经网络仅接收组合图像和残差噪声图以生成最终的图像估计。因此,神经网络不需要考虑多个帧的大数据量,而是可以仅应用于组合图像。因此,可以减少和简化神经网络的要求和大小,其中如上所述,仍然提高去噪性能。

17、优选地,使用由训练图像和训练残差噪声图组成的对来训练神经网络。其中,通过将相应的残差噪声图应用于无噪声图像来生成训练图像,使得训练图像包括基于相应的训练残差噪声图的合成的噪声。残差噪声图可以被随机合成,以模拟由融合过程产生的噪声分布的空间变化。训练图像包括合成噪声并且相应的噪声图被应用于将要被训练的神经网络,神经网络的结果与用于评估和训练的无噪声图像相比较。

18、优选地,残差噪声图包含组合图像的空间变化的噪声信息。因此,残差噪声图包含依赖于生成组合图像时多个帧的组合或融合过程的噪声信息。其中,残差噪声图可以包含组合图像的区域的噪声信息。更优选地,残差噪声图包含组合图像的逐像素噪声信息。

19、优选地,从每个帧的噪声信息确定组合图像的残差噪声图包含调整帧的重叠区域/像素的噪声信息。其中,如果组合图像的像素是从不同的帧组合/融合的,则残差噪声图中的噪声信息被相应地调整。由于从不同的帧的像素的融合,减少了组合图像的相应的像素的噪声的方差,这被记录在该像素的残差噪声图中(在噪声信息的逐像素记录的情况下)或该像素所属的组合图像的相应区域的残差噪声图中(对于为组合图像的区域记录的噪声信息)。

20、优选地,在基于残差噪声图降低组合图像的噪声以生成最终图像估计之前,可以至少部分地操作残差噪声图。其中,对残差噪声图的操作可以由外部参数提供,并且可以影响整个残差噪声图或仅影响组合图像中相应部分和区域对应的残差噪声图的部分/区域。特别地,基于组合图像中像素的信噪比对残差噪声图进行像素级操作。因此,滤波强度可以根据操作后的残差噪声图进行调整。

21、优选地,操作残差噪声图被应用于一个或多个感兴趣区域,其中优选地,感兴趣区域由用户指示为外部参数或被检测到。其中优选地,感兴趣区域可以包括面部、前景对象、组合图像的背景等中的一个或多个。因此,特别地,可以通过操作残差噪声图的相应区域来操作感兴趣区域中的一个或多个。因此,可以增强或降低这些区域的降噪。其中,感兴趣区域的检测可以依赖于边缘检测、图像识别或图像参数,诸如颜色、亮度、对比度等。

22、优选地,在硬件中实现将多个帧组合成组合图像。特别地,当在硬件(即处理器,fpga,asic,dsp等)中实现时,将多帧组合为一个组合图像的算法可以被加速。

23、优选地,从每个帧的噪声信息确定组合图像的残差噪声图被实现为软件本文档来自技高网...

【技术保护点】

1.一种用于图像处理的方法,特别是用于降噪的方法,包括:

2.根据权利要求1所述的方法,其中通过经训练的神经网络进行组合图像的降噪,其中神经网络接收组合图像以及残差噪声图以生成最终的图像估计。

3.根据权利要求2所述的方法,其中神经网络通过训练图像以及一个或多个训练残差噪声图训练,其中训练图像包括基于训练残差噪声图的合成噪声。

4.根据权利要求1至3中任何一个所述的方法,其中残差噪声图包含组合图像的空间变化的噪声信息。

5.根据权利要求1至4中任何一个所述的方法,其中从每个帧的噪声信息确定组合图像的残差噪声图包含调整帧的重叠区域/像素的噪声信息。

6.根据权利要求1至5中任何一个所述的方法,其中残差噪声图包含逐像素的噪声信息。

7.根据权利要求1至6中任何一个所述的方法,其中噪声信息包括噪声分布,优选是高斯分布、泊松分布或其混合,其中特别地,噪声信息是一阶统计矩以及二阶统计矩。

8.根据权利要求1至7中任何一个所述的方法,其中,在基于残差噪声图降低组合图像的噪声以生成最终图像估计之前,至少部分地操作残差噪声图,其中,优选地基于组合图像中像素的信噪比,逐像素地操作残差噪声图。

9.根据权利要求8所述的方法,其中操作残差噪声图被应用于一个或多个感兴趣区域,其中感兴趣区域优选地由用户指示或被检测。

10.根据权利要求9所述的方法,其中感兴趣区域包括面部、前景对象、背景中的一个或多个。

11.根据权利要求1至10中任何一个所述的方法,其中多个帧是不同时间的场景的至少部分重叠的图像。

12.根据权利要求1至11中任何一个所述的方法,其中在硬件中实现将多个帧组合为组合图像,和/或其中在软件中实现从每个帧的噪声信息确定组合图像的残差噪声图。

13.一种包括存储器以及处理器的装置,其中存储器存储指令,当处理器执行所述指令时,执行根据权利要求1至12中任何一个所述的方法的步骤。

14.一种终端设备,包括获取多个帧的图像传感器以及根据权利要求13所述的装置。

15.一种软件存储设备,存储指令,当由处理器执行指令时,执行根据权利要求1至12中任何一个所述的方法的步骤。

...

【技术特征摘要】

1.一种用于图像处理的方法,特别是用于降噪的方法,包括:

2.根据权利要求1所述的方法,其中通过经训练的神经网络进行组合图像的降噪,其中神经网络接收组合图像以及残差噪声图以生成最终的图像估计。

3.根据权利要求2所述的方法,其中神经网络通过训练图像以及一个或多个训练残差噪声图训练,其中训练图像包括基于训练残差噪声图的合成噪声。

4.根据权利要求1至3中任何一个所述的方法,其中残差噪声图包含组合图像的空间变化的噪声信息。

5.根据权利要求1至4中任何一个所述的方法,其中从每个帧的噪声信息确定组合图像的残差噪声图包含调整帧的重叠区域/像素的噪声信息。

6.根据权利要求1至5中任何一个所述的方法,其中残差噪声图包含逐像素的噪声信息。

7.根据权利要求1至6中任何一个所述的方法,其中噪声信息包括噪声分布,优选是高斯分布、泊松分布或其混合,其中特别地,噪声信息是一阶统计矩以及二阶统计矩。

8.根据权利要求1至7中任何一个所述的方法,其中,在基于残差噪声图降低组合图像的噪声以生成最终图像...

【专利技术属性】
技术研发人员:塔皮奥·曼尼宁阿拉姆·丹尼尔扬塔皮奥·芬尼拉佩特里·基伦拉赫蒂杰斯珀·格拉纳特拉斯·兰皮宁穆罕默德·阿迪尔·瓦里斯倪星洋
申请(专利权)人:北京小米移动软件有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1