多传感器图像稳定技术制造技术

技术编号:20500547 阅读:51 留言:0更新日期:2019-03-03 04:17
一种飞行器,可以包括诸如数码相机的第一传感器,所述第一传感器具有镜头或其他部件,所述镜头或其他部件包括安装到其的第二传感器。使用所述第二传感器捕获的信息或数据(诸如数字图像)可以用于确定或预测所述镜头的运动,所述运动可以包括平移和/或旋转运动的分量。一旦确定或预测了所述镜头的所述运动,这样的运动就可以用于根据光学或数字稳定技术使使用所述第一传感器捕获的信息或数据(诸如数字图像)稳定。在所述第一传感器和所述第二传感器的操作同步的情况下,所述第二传感器的运动可以基于由其捕获的信息或数据来建模,并且被输入到所述第一传感器。

Multisensor Image Stabilization Technology

An aircraft may include a first sensor such as a digital camera, the first sensor having a lens or other components, the lens or other components including a second sensor mounted thereto. Information or data captured using the second sensor, such as a digital image, can be used to determine or predict the motion of the lens, which may include components of translation and/or rotation motion. Once the motion of the lens is determined or predicted, such motion can be used to stabilize information or data (such as digital images) captured using the first sensor according to optical or digital stabilization techniques. When the operation of the first sensor and the second sensor is synchronized, the motion of the second sensor can be modeled based on the information or data captured by the second sensor and input to the first sensor.

【技术实现步骤摘要】
【国外来华专利技术】多传感器图像稳定技术
技术介绍
在飞行器的飞行操作期间使用成像装置或其他传感器是越来越普遍的。特别地,无人驾驶飞行器或UAV很多情况下配备有一个或多个成像装置,诸如数码相机、测距相机、深度传感器、红外传感器或可以检测、捕获和/或处理可见光或不可见光的其他系统。在飞行器配备有一个或多个成像装置的情况下,此类装置可以用于飞行器的任何数量的操作或应用中,并且用于任何目的。例如,成像装置可以用于捕获成像数据,诸如静止或运动图像以及任何相关联的音频信号或元数据(例如,地理标记或日期或时间戳),以有助于飞行器的安全操作,诸如机动或控制,包括但不限于避免碰撞。替代地,当飞行器用于拍摄大的或不同的区域,或者地面摄影师或基于地面的摄影器材不能容易地接近的角度的区域时,飞行器上所搭载的成像装置可以用于监督或监视应用。在空中操作期间,飞行器通常经受多种不同性质和程度的力。例如,飞行器可能经受由在飞行中的飞行器上方、下方和周围流动的空气产生的力,包括推力、升力、剪切力或阻力。另外,飞行器也可能例如由于飞行器上的旋转马达或其他机械,或者由于在飞行期间可能共振或振荡的飞行器的一个或多个方面而经受具有变化强度或变化频谱的噪声或振动。飞行器还可能经受由各种空中或基于地面的物体的撞击产生的力。当飞行器在飞行期间经受这种力时,由在其上操作的任何成像装置捕获的成像数据的质量可能因此受到影响。通常,当成像装置在成像装置运动的同时捕获成像数据时,可以根据一种或多种物理或数字处理技术来稳定或校正成像数据。在成像装置在飞行中搭载在飞行器上的情况下此类技术本质上是复杂的,然而,特别是在成像装置的视场不包括固定参考点的情况下,由成像装置捕获的成像数据的稳定性可以基于所述参考点。附图说明图1A至图1E是根据本公开的实施例的被配置为执行多传感器图像稳定技术的一个飞行器的方面的视图。图2是根据本公开的实施例的用于执行多传感器图像稳定技术的一个系统的框图。图3是根据本公开的实施例的用于多传感器图像稳定的一个过程的流程图。图4是根据本公开的实施例的被配置为执行多传感器图像稳定技术的一个飞行器的方面的视图。图5是根据本公开的实施例的用于多传感器图像稳定的一个过程的流程图。图6A至图6B是根据本公开的实施例的被配置为执行多传感器图像稳定技术的一个飞行器的方面的视图。具体实施方式如下文更详细地阐述的,本公开涉及图像稳定技术,所述图像稳定技术利用多个传感器来修改一个或多个图像,或者使使用一个传感器捕获的一系列图像稳定。更具体地,本公开的系统和方法涉及具有镜头、镜头模块或其他光学部件的成像装置,诸如数码相机,其中成像装置或其他传感器安装在其一个或多个外表面上。例如,在一个实施例中,飞行器可以配备有主(例如,基本上向前定向的)成像装置,所述主成像装置具有镜头或镜头模块、次(例如,基本上向下定向的)成像装置或安装在其下侧上的其他传感器。根据本公开的一个或多个实施例,主成像装置和次成像装置可以被配置为同时捕获成像数据。在正常操作期间,操作次成像装置以在次成像装置的在飞行器下方延伸的视场内捕获关于飞行器在其之上行进的地面地形的成像数据。同时,主成像装置可以与次成像装置同步操作,以捕获在飞行器前方延伸的视场内的成像数据。主成像装置的视场可包括一个或多个结构、障碍物、障碍区、动物、其他飞行器或一个或多个其他物体。在一些实施例中,可以实时或近实时地处理由次成像装置捕获的包括或描述飞行器下方的地面地形的特征的成像数据,以便确定表示次成像装置所联接的主成像装置的平移和/或旋转运动的函数、矢量或另一个度量。使用这样的函数、矢量或度量,可以相应地修改由主成像装置捕获的成像数据,以便由于飞行器的平移和/或旋转运动而使成像数据稳定,所述平移和/或旋转运动本身使用由次成像装置捕获的成像数据来确定。参考图1A至图1E,示出了被配置为执行多传感器图像稳定技术的飞行器110。图1A是飞行中的飞行器110的透视图,并且图1B是飞行中的飞行器110的侧视图。如图1A和图1B所示,飞行器110包括框架120,所述框架120具有多个马达130-1、130-2、130-3、130-4和安装到其的主成像装置140。马达130-1、130-2、130-3、130-4耦接到螺旋桨132-1、132-2、132-3、132-4,每个螺旋桨被配置为在动力作用下围绕基本上相对于框架120垂直的轴线旋转,从而在操作期间在飞行器110上产生升力。主成像装置140包括镜头(或镜头模块)142,所述镜头142具有安装到其的次成像装置150,例如,在镜头142的下侧。如图1B所示,主成像装置140的镜头142在相对于框架120的基本上向前方向上对准,而次成像装置150的镜头(或镜头模块)152在相对于框架120的基本上向下方向上对准。参考图1C,分别由主成像装置140和次成像装置150同时捕获成像数据。主成像装置140从飞行器110的向前方向捕获包括主图像14-1、14-2、14-3、14-4序列的主成像数据14-n,并且次成像装置150捕获包括从飞行器110的向下方向捕获的次图像15-1、15-2、15-3、15-4序列的次成像数据15-n。如图1C所示,序列14-n中的主图像14-1、14-2、14-3、14-4中的每一个被锐聚焦,但相对于彼此不正确地对准,例如,由于在操作期间飞行器110的振动或其他运动所致。同样地,序列15-n中的次图像15-1、15-2、15-3、15-4中的每一个被锐聚焦,但也相对于彼此不正确地对准。根据本公开,可以使用由第二传感器捕获的信息或数据来使使用第一传感器捕获的成像数据稳定,所述第二传感器物理地联接到第一传感器的一个或多个部分。例如,由于图1A和图1B的次成像装置150安装到主成像装置140的镜头142,因此次成像装置150在次成像数据15-n的捕获期间经历的任何平移和/或旋转运动与主成像装置140在主成像数据14-n的捕获期间经历的平移和/或旋转运动相同。在可以使用由其捕获的信息或数据对第二传感器的运动建模的情况下,可以基于第二传感器的建模运动来调整由第一传感器捕获的成像数据。如图1D所示,使用次成像装置150捕获的次成像数据15-n可以被提供给计算装置112(例如,具有在其上运行的一个或多个处理器的服务器或其他计算装置或机器),以便根据一种或多种图像稳定技术进行处理。计算装置112可以提供在飞行器110上、外部物理位置中或一个或多个备用或虚拟位置中,例如,基于“云”的环境中。如图1D中还示出的,在未修改的状态下,次成像数据15-n的流看起来模糊,因为当捕获到次图像15-1、15-2、15-3、15-4中的每一个时,大幅锐化的次图像15-1、15-2、15-3、15-4中的每一个由于飞行器110的运动而相对于彼此未对准。计算装置112可以根据一种或多种电子图像稳定技术来处理次成像数据15-n。例如,计算装置112可以标识出次图像15-1、15-2、15-3、15-4中的一个或多个内的一个或多个参考点,并且利用此类参考点或锚定点在次图像15-1、15-2、15-3、15-4内的存在来使一个或多个这样的参考点或锚定点相对于彼此稳定或对准。由于次成像装置150在向下方向上对准,因此可以合理本文档来自技高网...

【技术保护点】
1.一种无人驾驶飞行器,其包括:框架;主成像装置,所述主成像装置联接到所述框架,其中所述主成像装置包括主镜头模块;次成像装置,所述次成像装置联接到所述主镜头模块的外表面,其中所述次成像装置包括次镜头模块;以及控制单元,所述控制单元具有至少一个计算机处理器,其被配置为至少:致使多个主图像由所述主成像装置捕获;致使多个次图像由所述次成像装置捕获;至少部分地基于所述多个次图像来定义表示所述次成像装置的运动的至少一个矢量;并且至少部分地基于表示所述次成像装置的所述运动的所述至少一个矢量来使所述多个主图像中的至少一个稳定。

【技术特征摘要】
【国外来华专利技术】2016.06.08 US 15/1771941.一种无人驾驶飞行器,其包括:框架;主成像装置,所述主成像装置联接到所述框架,其中所述主成像装置包括主镜头模块;次成像装置,所述次成像装置联接到所述主镜头模块的外表面,其中所述次成像装置包括次镜头模块;以及控制单元,所述控制单元具有至少一个计算机处理器,其被配置为至少:致使多个主图像由所述主成像装置捕获;致使多个次图像由所述次成像装置捕获;至少部分地基于所述多个次图像来定义表示所述次成像装置的运动的至少一个矢量;并且至少部分地基于表示所述次成像装置的所述运动的所述至少一个矢量来使所述多个主图像中的至少一个稳定。2.如权利要求1所述的无人驾驶飞行器,其中所述至少一个计算机处理器进一步被配置为至少:识别所述次图像中的第一个中的至少一个显著特征;并且识别所述次图像中的第二个中的所述至少一个显著特征,其中至少部分地基于所述次图像中的所述第一个中的所述至少一个显著特征和所述次图像中的所述第二个中的所述至少一个显著特征来定义表示所述次成像装置的所述运动的所述至少一个矢量。3.如权利要求1或2中任一项所述的无人驾驶飞行器,其中所述至少一个矢量表示所述次成像装置的偏航、俯仰或滚转中的至少一个。4.如权利要求1、2或3中任一项所述的无人驾驶飞行器,其中所述主成像装置在飞行时以基本上向前取向对准,并且其中所述次成像装置在飞行时以基本上向下取向对准。5.一种方法,其包括:通过第一传感器在所述飞行器的操作期间捕获第一数据,其中所述第一传感器安装到所述飞行器;通过第二传感器在所述飞行器的所述操作期间捕获第二数据,其中所述第二传感器安装到所述第一传感器的至少一部分;至少部分地基于所述第二数据,由至少一个计算机处理器确定表示所述第一传感器的运动的至少一个矢量;以及至少部分地基于所述至少一个矢量,由所述至少一个计算机处理器修改所述第一数据;以及将所修改的第一数据存储在至少一个数据存储区中。6.如权利要求5所述的方法,其中所述第一传感器是具有第一镜头的第一成像装置,其中所述第二传感器是联接到所述第一镜头的外表面的第二成像装置,其中所述第一数据是由所述第一成像装置捕获的第一成像数据,其中所述第二数据是由所述第二成像装置捕获的第二成像数据,并且其中至少部分地基于所述至少一个矢量修改所述第一数据包括:由所述至少一个计算机处理器使所述第一成像数据稳定。7.如权利要求6所述的方法,其中所述第一成像装置在所述操作期间相对于所述飞行器的行进方向以基本上向前取向对准,其中所述第二成像装置嵌入在所述第一镜头的下侧,并且其中所述第二成像装置在所述操作期间相对于所述飞行器的所述行进方向以基本上向下取向对准。8.如权利要求6或7中任一项所述的方法,其中所述第一成像数据包括多个第一图像,其中所述第二成像数据包括多个第二图像,并且其中至少部分地基于所述第二数据确定表示所述第一传感器的所述运动的所述至少一个矢量包括:至少部分地基于所述多个第二图像的第一子集确定第一矢量,其中所述第一子集包括在第一时间之前捕获的预定数量的所述多个第二图像和在所述第一时间之后捕获的所述预定数量的所述多个第二图像;识别在所述第一时...

【专利技术属性】
技术研发人员:SR哈里斯I卡蒙JJ沃森
申请(专利权)人:亚马逊科技公司
类型:发明
国别省市:美国,US

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1