一种长尾视频动作分类方法、装置、设备和存储介质制造方法及图纸

本发明专利技术公开了一种长尾视频动作分类方法、装置、设备和存储介质。该方法包括：获取待分类视频中每帧图像的帧级别特征；根据所述每帧图像的帧级别特征对所述待分类视频中的帧图像进行分组，得到至少两组帧图像集合；将所述至少两组帧图像集合中每帧图像的帧级别特征输入目标分类模型，得到所述至少两组帧图像集合中每帧图像的分类分数；根据所述至少两组帧图像集合中每帧图像的分类分数确定所述待分类视频的分类分数。本发明专利技术实施例通过长尾视频动作分类方法，在模型基础能力较弱以及面临特别多类别的长尾数据时，引导模型对不同样本量级的类分组加以训练，使之互不干扰，从而提升整体精度。体精度。体精度。

【技术实现步骤摘要】
一种长尾视频动作分类方法、装置、设备和存储介质


[0001]本专利技术涉及图像分类
，尤其涉及一种长尾视频动作分类方法、装置、设备和存储介质。

技术介绍

[0002]大多数真实场景采集的数据集都会有类别长尾问题，分类任务自然而然地是以整体精度做指标，而对于长尾研究课题，通常还会考虑类平均精度，也即各个类的精度取平均，这是为了保证长尾分布的尾部类不被完全抑制住，因此要求模型要同时兼顾少数样本类的学习。
[0003]一些真实场景的数据集类别数特别大，这导致了数据层面的多和杂，进而影响对模型的分辨能力，使得两种指标表现都非常差。现有方法的引入能照顾到少数样本类的短板，但却是以牺牲更多的头部类为代价，因此虽然能提升平均精度，但整体精度并不能得到提高。目前长尾问题主要有三类代表性的解决方案，分别是重采样、带权loss和迁移学习。现有方法在数据集任务上无法提升整体精度，这与其他简单的长尾图片分类表现不一致，主要是由于模型基础能力太弱，两个指标表现都非常差，无法通过重采样的引导增强在少数类别上的泛化性。

技术实现思路

[0004]本专利技术提供了一种长尾视频动作分类方法、装置、设备和存储介质，以解决多类别长尾问题，提升分类任务的整体精度。
[0005]根据本专利技术的一方面，提供了一种长尾视频动作分类方法，该方法包括：
[0006]获取待分类视频中每帧图像的帧级别特征；
[0007]根据所述每帧图像的帧级别特征对所述待分类视频中的帧图像进行分组，得到至少两组帧图像集合；
>[0008]将所述至少两组帧图像集合中每帧图像的帧级别特征输入目标分类模型，得到所述至少两组帧图像集合中每帧图像的分类分数，其中，所述目标分类模型通过目标样本集迭代训练神经网络模型得到，所述目标样本集包括：目标正样本和目标负样本，所述目标正样本包括：至少两组帧图像样本中每帧图像样本的帧级别特征和每帧图像样本的分类标识，所述目标负样本包括：至少两组帧图像样本中每帧图像样本的帧级别特征和每帧图像样本的错误分类标识；
[0009]根据所述至少两组帧图像集合中每帧图像的分类分数确定所述待分类视频的分类分数。
[0010]根据本专利技术的另一方面，提供了一种长尾视频动作分类装置，该装置包括：
[0011]获取模块，用于获取待分类视频中每帧图像的帧级别特征；
[0012]分组模块，用于根据所述每帧图像的帧级别特征对所述待分类视频中的帧图像进行分组，得到至少两组帧图像集合；
[0013]输入模块，用于将所述至少两组帧图像集合中每帧图像的帧级别特征输入目标分类模型，得到所述至少两组帧图像集合中每帧图像的分类分数，其中，所述目标分类模型通过目标样本集迭代训练神经网络模型得到，所述目标样本集包括：目标正样本和目标负样本，所述目标正样本包括：至少两组帧图像样本中每帧图像样本的帧级别特征和每帧图像样本的分类标识，所述目标负样本包括：至少两组帧图像样本中每帧图像样本的帧级别特征和每帧图像样本的错误分类标识；
[0014]确定模块，用于根据所述至少两组帧图像集合中每帧图像的分类分数确定所述待分类视频的分类分数。
[0015]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0016]至少一个处理器；以及
[0017]与所述至少一个处理器通信连接的存储器；其中，
[0018]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的长尾视频动作分类方法。
[0019]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的长尾视频动作分类方法。
[0020]本专利技术实施例的技术方案，通过获取待分类视频中每帧图像的帧级别特征，根据每帧图像的帧级别特征对待分类视频中的帧图像进行分组，得到至少两组帧图像集合，将至少两组帧图像集合中每帧图像的帧级别特征输入目标分类模型，得到至少两组帧图像集合中每帧图像的分类分数，根据至少两组帧图像集合中每帧图像的分类分数确定待分类视频的分类分数。本专利技术实施例通过不同的分组方式对图像进行分组，引导目标分类模型对不同样本量级的类分组加以训练，使之互不干扰，解决了多类别长尾问题，提升了分类任务的整体精度。
[0021]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0022]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0023]图1是根据本专利技术实施例一提供的一种长尾视频动作分类方法的流程图；
[0024]图2是根据本专利技术实施例一提供的另一种长尾视频动作分类方法的示意图；
[0025]图3是根据本专利技术实施例一提供的一种长尾视频动作分类方法中后处理的示意图；
[0026]图4是根据本专利技术实施例二提供的一种长尾视频动作分类装置的结构示意图；
[0027]图5是实现本专利技术实施例的长尾视频动作分类方法的电子设备的结构示意图。
具体实施方式
[0028]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。
[0029]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“目标”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
[0030]实施例一
[0031]图1是根据本专利技术实施例一提供的一种长尾视频动作分类方法的流程图，本实施例可适用于长尾视频动作分类情况，该方法可以由长尾视频动作分类装置来执行，该长尾视频动作分类装置可以采用硬件和/或软件的形式实现，该长尾视频动作分类装置可集成在任何提供长尾视频动作分类功能的电子设备中。如图1所示，该方法包括：
[0032]S101、获取待分类视频中每帧图像的帧级别特征。
[0033]本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种长尾视频动作分类方法，其特征在于，包括：获取待分类视频中每帧图像的帧级别特征；根据所述每帧图像的帧级别特征对所述待分类视频中的帧图像进行分组，得到至少两组帧图像集合；将所述至少两组帧图像集合中每帧图像的帧级别特征输入目标分类模型，得到所述至少两组帧图像集合中每帧图像的分类分数，其中，所述目标分类模型通过目标样本集迭代训练神经网络模型得到，所述目标样本集包括：目标正样本和目标负样本，所述目标正样本包括：至少两组帧图像样本中每帧图像样本的帧级别特征和每帧图像样本的分类标识，所述目标负样本包括：至少两组帧图像样本中每帧图像样本的帧级别特征和每帧图像样本的错误分类标识；根据所述至少两组帧图像集合中每帧图像的分类分数确定所述待分类视频的分类分数。2.根据权利要求1所述的方法，其特征在于，通过目标样本集迭代训练神经网络模型，包括：建立神经网络模型，其中，所述神经网络模型包括至少两个分类器；将所述目标样本集中的至少两组帧图像样本中每帧图像样本的帧级别特征分别输入所述神经网络模型中的至少两个分类器得到每帧图像样本对应预测分类分数；根据所述每帧图像样本对应预测分类分数和所述每帧图像样本的分类标识形成的目标函数训练所述神经网络模型的参数；返回执行将所述目标样本集中的至少两组帧图像样本中每帧图像样本的帧级别特征输入所述神经网络模型得到每帧图像样本对应预测分类分数的操作，直至得到目标分类模型。3.根据权利要求2所述的方法，其特征在于，在将所述目标样本集中的至少两组帧图像样本中每帧图像样本的帧级别特征输入所述神经网络模型得到每帧图像样本对应预测分类分数之前，还包括：获取第一样本集，所述第一样本集中包括至少两帧图像样本；获取所述至少两帧图像样本的帧级别特征；根据所述至少两帧图像样本的帧级别特征对所述第一样本集中的至少两帧图像样本进行分组，得到至少两组帧图像样本；根据所述至少两组帧图像样本生成目标样本集。4.根据权利要求3所述的方法，其特征在于，根据所述至少两帧图像样本的帧级别特征对所述第一样本集中的至少两帧图像样本进行分组，得到至少两组帧图像样本，包括：获取所述每帧图像样本的帧级别特征中的名词和/或动词；根据所述每帧图像样本的帧级别特征中的名词和/或动词对所述第一样本集中的帧图像样本进行分组，得到至少两组帧图像样本。5.根据权利要求3所述的方法，其特征在于，根据所述至少两帧图像样本的帧级别特征对所述第一样本集合中的至少两帧图像样本进行分组，得到至少两组帧图像样本，包括：获取所述每帧图像样本的帧级别特征中的名词对应的第一类别信息和/或动词对应的第二类别信息；
根据所述第一类别信息和/或所述第二类别信息对所述...

【专利技术属性】
技术研发人员：周林，董超，吕子钰，乔宇，
申请(专利权)人：中国科学院深圳先进技术研究院，
类型：发明
国别省市：