一种视频帧去重方法、装置、电子设备及存储介质制造方法及图纸

本公开提供了一种视频帧去重方法、装置、电子设备及存储介质，涉及计算机领域，尤其涉及计算机视觉技术领域，具体涉及一种视频帧去重方法、装置、电子设备及存储介质。具体实现方案为：获取巡视视频，缺陷检测，确定一目标视频帧；将目标视频帧以及目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型，得到目标视频帧的第一全局特征和邻近缺陷视频帧的第二全局特征，筛选出目标视频帧的候选视频帧；基于第一缺陷特征描述信息、第二缺陷特征描述信息、目标视频帧的缺陷位置信息、候选视频帧的缺陷位置信息，确定与目标视频帧的缺陷区域相同的视频帧。实现了从粗粒度到细粒度的缺陷视频帧去重，大幅提高了缺陷视频帧去重的精准度。度。度。

【技术实现步骤摘要】
一种视频帧去重方法、装置、电子设备及存储介质


[0001]本公开涉及计算机
，尤其涉及计算机视觉
，具体涉及一种视频帧去重方法、装置、电子设备及存储介质。

技术介绍

[0002]工业场景中有大量的工控设备需要精细化的维护，为了对工控设备进行维护，目前采用工业探针在工控设备内部巡视，产生工控设备的巡视视频，从中筛选出包含缺陷区域的缺陷视频帧，根据这些缺陷视频帧判断工控设备的缺陷类型、缺陷位置、缺陷程度等，便于后续维护。

技术实现思路

[0003]本公开提供了一种车机功能唤醒的方法、装置、电子设备及存储介质。
[0004]根据本公开的一方面，提供了一种视频帧去重方法，包括：
[0005]获取巡视视频，对所述巡视视频中的视频帧进行缺陷检测，确定缺陷视频帧和每个缺陷视频帧的缺陷位置信息，并从所述缺陷视频帧中确定一目标视频帧；
[0006]将所述目标视频帧以及所述目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型，得到所述目标视频帧的第一全局特征和所述邻近缺陷视频帧的第二全局特征，并基于所述第一全局特征和所述第二全局特征的特征距离，从所述邻近缺陷视频帧中筛选出所述目标视频帧的候选视频帧；
[0007]分别提取所述目标视频帧的第一缺陷特征描述信息和所述候选视频帧的第二缺陷特征描述信息，基于所述第一缺陷特征描述信息、所述第二缺陷特征描述信息、所述目标视频帧的缺陷位置信息、所述候选视频帧的缺陷位置信息，从所述候选视频帧中确定与所述目标视频帧的缺陷区域相同的视频帧，作为去重视频帧。
[0008]根据本公开的另一方面，提供了一种视频帧去重装置，包括：
[0009]巡视视频获取模块，用于获取巡视视频，对所述巡视视频中的视频帧进行缺陷检测，确定缺陷视频帧和每个缺陷视频帧的缺陷位置信息，并从所述缺陷视频帧中确定一目标视频帧；
[0010]全局特征筛选模块，用于将所述目标视频帧以及所述目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型，得到所述目标视频帧的第一全局特征和所述邻近缺陷视频帧的第二全局特征，并基于所述第一全局特征和所述第二全局特征的特征距离，从所述邻近缺陷视频帧中筛选出所述目标视频帧的候选视频帧；
[0011]去重模块，用于分别提取所述目标视频帧的第一缺陷特征描述信息和所述候选视频帧的第二缺陷特征描述信息，基于所述第一缺陷特征描述信息、所述第二缺陷特征描述信息、所述目标视频帧的缺陷位置信息、所述候选视频帧的缺陷位置信息，从所述候选视频帧中确定与所述目标视频帧的缺陷区域相同的视频帧，作为去重视频帧。
[0012]根据本公开的另一方面，提供了一种电子设备，包括：
[0013]至少一个处理器；以及
[0014]与所述至少一个处理器通信连接的存储器；其中，
[0015]所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行视频帧去重方法。
[0016]根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行视频帧去重方法。
[0017]根据本公开的又一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现视频帧去重方法。
[0018]可见，先识别出缺陷视频帧和缺陷位置信息，然后从图像整体出发，通过深度模型提取全局特征，根据目标视频帧的第一全局特征和邻近缺陷视频帧的第二全局特征初步筛选得到候选视频帧，初步筛选得到的候选视频帧是图像整体信息与目标视频帧类似的视频帧；进一步的，基于缺陷区域的局部特征，结合缺陷位置信息对候选视频帧和目标视频帧进行匹配，能够剔除图像背景相似、缺陷前景有差别的视频帧，最终筛选出与目标视频帧包含的缺陷区域相同的视频帧，也就是需要去重的视频帧。可见，考虑到缺陷外观、形态较为相似的特点，在视频帧去重过程中，并非直接对前景的缺陷区域进行操作，而是结合图像的前景缺陷区域信息和背景信息进行去重，充分利用视频的时空信息，提高实时性和应用性，并实现了从粗粒度到细粒度的缺陷视频帧去重，大幅提高了缺陷视频帧去重的精准度。
[0019]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0020]附图用于更好地理解本方案，不构成对本公开的限定。
[0021]图1为本公开实施例提供的视频帧去重方法的一种流程示意图；
[0022]图2为本公开实施例提供的视频帧去重方法的另一种流程示意图；
[0023]图3为本公开实施例提供的视频帧去重方法的一种示意图；
[0024]图4是用来实现本公开实施例的视频帧去重方法的装置的框图；
[0025]图5是用来实现本公开实施例的视频帧去重方法的电子设备的框图。
具体实施方式
[0026]以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0027]工业场景中有大量的工控设备需要精细化的维护，为了对工控设备进行维护，目前采用工业探针在工控设备内部巡视，产生工控设备的巡视视频，从中筛选出包含缺陷区域的缺陷视频帧，根据这些缺陷视频帧判断工控设备的缺陷类型、缺陷位置、缺陷程度等，便于后续维护。
[0028]工业探针在巡视过程中，在每个区域都会有一段时间的滞留，造成巡视视频中存在大量的重复视频帧，给后续的核查带来极大的不便，因此需要对重复的缺陷视频帧进行
去重。
[0029]目前，在获取巡视视频后，通常采用人工方式查找视频帧中的缺陷，随后通过人工比对缺陷区域去重或通过图像匹配算法进行去重。通过人工比对缺陷区域的方式耗费大量的人力，去重效率和准确率较低；而采用图像匹配算法进行去重，受限于现有的图像匹配算法的性能，也不能达到很好的去重效果。
[0030]具体的，现有的图像匹配去重的方法主要包括以下三种，第一种方式：基于传统图像特征的相似图像判断方式，即通过方向梯度直方图(Histogram of Oriented Gradient,HOG)等算法提取缺陷视频帧图像特征，然后对缺陷视频帧逐个比较特征距离，如欧式距离、余弦距离等，继而判断视频帧是否重复；第二种方式：基于深度特征的图像相似度判断方式，和第一种方法主要不同在于提取缺陷视频帧特征时采用深度神经网络的方法，例如残差网络(Residual Network，ResNet)等网络，继而在一定程度上提升图像相似度匹配的精度；第三种方式：主要通过图像匹配的方法获取缺陷图像对的特征点的匹配情况，当匹配到的特征点数目大于一定的人工设定的阈值情况下，认为缺陷本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种视频帧去重方法，包括：获取巡视视频，对所述巡视视频中的视频帧进行缺陷检测，确定缺陷视频帧和每个缺陷视频帧的缺陷位置信息，并从所述缺陷视频帧中确定一目标视频帧；将所述目标视频帧以及所述目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型，得到所述目标视频帧的第一全局特征和所述邻近缺陷视频帧的第二全局特征，并基于所述第一全局特征和所述第二全局特征的特征距离，从所述邻近缺陷视频帧中筛选出所述目标视频帧的候选视频帧；分别提取所述目标视频帧的第一缺陷特征描述信息和所述候选视频帧的第二缺陷特征描述信息，基于所述第一缺陷特征描述信息、所述第二缺陷特征描述信息、所述目标视频帧的缺陷位置信息、所述候选视频帧的缺陷位置信息，从所述候选视频帧中确定与所述目标视频帧的缺陷区域相同的视频帧，作为去重视频帧。2.根据权利要求1所述的方法，其中，所述第一缺陷特征描述信息为所述目标视频帧中第一缺陷区域的特征点位置信息和特征点描述子；所述第二缺陷特征描述信息为所述候选视频帧中第二缺陷区域的特征点位置信息和特征点描述子。3.根据权利要求2所述的方法，其中，所述基于所述第一缺陷特征描述信息、所述第二缺陷特征描述信息、所述目标视频帧的缺陷位置信息、所述候选视频帧的缺陷位置信息，从所述候选视频帧中确定与所述目标视频帧的缺陷区域相同的视频帧，作为去重视频帧的步骤，包括：将所述第一缺陷特征描述信息和所述第二缺陷特征描述信息输入特征匹配模型，得到所述第一缺陷区域和所述第二缺陷区域的映射关系；根据所述映射关系对所述目标视频帧的缺陷位置信息进行映射，并基于映射后的缺陷位置信息、所述候选视频帧的缺陷位置信息计算缺陷区域交并比；若所述缺陷区域交并比大于预设阈值，确定所述候选视频帧为所述去重视频帧。4.根据权利要求1所述的方法，还包括：按照所述缺陷视频帧的先后顺序，跳过所述目标视频帧的去重视频帧，确定新的目标视频帧，并返回将所述目标视频帧以及所述目标视频帧的至少一个邻近缺陷视频帧输入全局特征提取模型的步骤。5.一种视频帧去重装置，包括：巡视视频获取模块，用于获取巡视视频，对所述巡视视频中的视频帧进行缺陷检测，确定缺陷视频帧和每个缺陷视频帧的缺陷位置信息，并从所述缺陷视频帧中确定一目标视频帧；全局特征筛选模块，用于将所述目标视频帧以及所述目标视...

【专利技术属性】
技术研发人员：杨苏辉，聂磊，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：