一种行为识别方法及装置、电子设备和存储介质制造方法及图纸

本公开涉及一种行为识别方法及装置、电子设备和存储介质，所述方法包括：接收输入的视频帧，并提取所述视频帧中的人物特征；基于所述人物特征，确定人群的总体特征；根据所述人物特征与所述总体特征之间的关联关系，确定第一注意力分配权重；基于所述第一注意力分配权重，对所述总体特征进行更新；对更新后的总体特征进行行为识别，得到人群行为识别结果。本公开实施例可提高对视频帧进行行为识别的效率。率。率。

【技术实现步骤摘要】
一种行为识别方法及装置、电子设备和存储介质


[0001]本公开涉及计算机
，尤其涉及一种行为识别方法及装置、电子设备和存储介质。

技术介绍

[0002]在人群行为识别(Group Activity Recognition)技术中，会通过计算机视觉算法来识别视频画面中不同人的动作类别，以及该画面描述的人群行为类别，常用于体育赛事的行为识别。例如，对于排球比赛视频，该任务需要识别每位排球运动员的动作类别以及该段视频所描述的人群行为类别(左边传球、右边传球、左边扣球等)。对于该任务，我们通常可以先检测视频中的人体，再通过个体动作识别(Individual Action Recognition)，根据个体的动作进一步的推断该视频的人群行为类别。
[0003]近年来随着深度学习在计算机视觉上的发展，过去许多工作通常利用卷积神经网络来检测视频中每个人的动作，并利用全局池化来得到人群总体特征来识别人群行为类别。人群行为识别除依赖于个体动作和视频背景信息之外，也依赖于个体动作之间的关系信息。除了使用卷积神经网络以外，一些方法还利用图卷积网络、循环神经网络等模型，来捕获并分析个体动作之间的关系信息。
[0004]但是传统的基于深度学习的方法计算复杂度较高，人群行为识别的效率有待进一步提高。

技术实现思路

[0005]本公开提出了一种行为识别的技术方案。
[0006]根据本公开的一方面，提供了一种行为识别方法，包括：
[0007]接收输入的视频帧，并提取所述视频帧中的人物特征；/>[0008]基于所述人物特征，确定人群的总体特征；
[0009]根据所述人物特征与所述总体特征之间的关联关系，确定第一注意力分配权重；
[0010]基于所述第一注意力分配权重，对所述总体特征进行更新；
[0011]对更新后的总体特征进行行为识别，得到人群行为识别结果。
[0012]在一种可能的实现方式中，所述基于所述人物特征，确定人群的总体特征，包括：
[0013]基于提取的所述人物特征的特征向量进行注意力分配权重预测，确定所述人物特征的初始注意力分配权重；
[0014]利用所述初始注意力分配权重对所述人物特征进行加权融合，得到所述总体特征。
[0015]在一种可能的实现方式中，所述根据所述人物特征与所述总体特征之间的关联关系，确定第一注意力分配权重，包括：
[0016]确定所述人物特征与所述总体特征之间的相似度；
[0017]根据所述相似度，确定所述第一注意力分配权重。
[0018]在一种可能的实现方式中，所述确定所述人物特征与所述总体特征之间的相似度，包括：
[0019]将所述人物特征和所述总体特征的特征矩阵分别划分为N份；
[0020]计算所述人物特征的N份特征与所述总体特征的N份特征之间的相似度，得到N个相似度；
[0021]所述根据所述相似度，确定所述第一注意力分配权重，包括：
[0022]基于所述N个相似度，确定组内人物特征之间的N个第一注意力分配权重；
[0023]所述基于所述第一注意力分配权重，对所述总体特征进行更新，包括：
[0024]基于所述N个第一注意力分配权重，对所述总体特征进行更新。
[0025]在一种可能的实现方式中，所述基于所述第一注意力分配权重，对所述总体特征进行更新，包括：
[0026]利用所述第一注意力分配权重对所述人物特征进行加权融合，得到加权融合特征；
[0027]将所述加权融合特征与所述总体特征进行融合，得到更新后的总体特征。
[0028]在一种可能的实现方式中，所述基于所述第一注意力分配权重，对所述总体特征进行更新，包括：
[0029]利用所述第一注意力分配权重对所述总体特征中的子特征进行加权，得到更新后的总体特征。
[0030]在一种可能的实现方式中，在所述基于所述第一注意力分配权重，对所述总体特征进行更新后，所述方法还包括：
[0031]将更新后的总体特征与所述人物特征进行融合，得到更新后的人物特征。
[0032]在一种可能的实现方式中，在所述将更新后的总体特征与所述人物特征进行融合，得到更新后的人物特征后，所述方法还包括：
[0033]将更新后的总体特征作为新的总体特征，将更新后的人物特征作为新的人物特征，迭代地对总体特征和人物特征进行更新，直至满足迭代停止条件，得到迭代更新后的总体特征和人物特征；
[0034]所述对更新后的总体特征进行行为识别，得到人群行为识别结果，包括：
[0035]对迭代更新后的总体特征进行行为识别，得到人群行为识别结果。
[0036]在一种可能的实现方式中，在得到迭代更新后的总体特征和人物特征后，所述方法还包括：
[0037]对更新后的人物特征进行人物行为识别，得到人物行为识别结果。
[0038]根据本公开的一方面，提供了一种行为识别装置，包括：
[0039]人物特征提取单元，用于接收输入的视频帧，并提取所述视频帧中的人物特征；
[0040]总体特征确定单元，用于基于所述人物特征，确定人群的总体特征；
[0041]第一注意力确定单元，用于根据所述人物特征与所述总体特征之间的关联关系，确定第一注意力分配权重；
[0042]总体特征更新单元，用于基于所述第一注意力分配权重，对所述总体特征进行更新；
[0043]人群行为识别单元，用于对更新后的总体特征进行行为识别，得到人群行为识别
结果。
[0044]在一种可能的实现方式中，所述总体特征确定单元，包括：
[0045]初始注意力确定单元，用于基于提取的所述人物特征的特征向量进行注意力分配权重预测，确定所述人物特征的初始注意力分配权重；
[0046]总体特征初始化单元，用于利用所述初始注意力分配权重对所述人物特征进行加权融合，得到所述总体特征。
[0047]在一种可能的实现方式中，所述第一注意力确定单元，包括：
[0048]第一相似度确定单元，用于确定所述人物特征与所述总体特征之间的相似度；
[0049]第一分配权重确定子单元，用于根据所述相似度，确定所述第一注意力分配权重。
[0050]在一种可能的实现方式中，所述第一相似度确定单元，包括：
[0051]特征矩阵划分单元，用于将所述人物特征和所述总体特征的特征矩阵分别划分为N份；
[0052]相似度确定子单元，用于计算所述人物特征的N份特征与所述总体特征的N份特征之间的相似度，得到N个相似度；
[0053]所述第一分配权重确定子单元，用于基于所述N个相似度，确定组内人物特征之间的N个第一注意力分配权重；
[0054]所述总体特征更新单元，用于基于所述N个第一注意力分配权重，对所述总体特征进行更新。
[0055]在一种可能的实现方式中，所述总体特征更新单元，包括：
[0056]加权融本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种行为识别方法，其特征在于，包括：接收输入的视频帧，并提取所述视频帧中的人物特征；基于所述人物特征，确定人群的总体特征；根据所述人物特征与所述总体特征之间的关联关系，确定第一注意力分配权重；基于所述第一注意力分配权重，对所述总体特征进行更新；对更新后的总体特征进行行为识别，得到人群行为识别结果。2.根据权利要求1所述方法，其特征在于，所述基于所述人物特征，确定人群的总体特征，包括：基于提取的所述人物特征的特征向量进行注意力分配权重预测，确定所述人物特征的初始注意力分配权重；利用所述初始注意力分配权重对所述人物特征进行加权融合，得到所述总体特征。3.根据权利要求1或2所述方法，其特征在于，所述根据所述人物特征与所述总体特征之间的关联关系，确定第一注意力分配权重，包括：确定所述人物特征与所述总体特征之间的相似度；根据所述相似度，确定所述第一注意力分配权重。4.根据权利要求3所述方法，其特征在于，所述确定所述人物特征与所述总体特征之间的相似度，包括：将所述人物特征和所述总体特征的特征矩阵分别划分为N份；计算所述人物特征的N份特征与所述总体特征的N份特征之间的相似度，得到N个相似度；所述根据所述相似度，确定所述第一注意力分配权重，包括：基于所述N个相似度，确定组内人物特征之间的N个第一注意力分配权重；所述基于所述第一注意力分配权重，对所述总体特征进行更新，包括：基于所述N个第一注意力分配权重，对所述总体特征进行更新。5.根据权利要求1
‑
4任一所述方法，其特征在于，所述基于所述第一注意力分配权重，对所述总体特征进行更新，包括：利用所述第一注意力分配权重对所述人物特征进行加权融合，得到加权融合特征；将所述加权融合特征与所述总体特征进行融合，得到更新后的总体特征。6.根据权利要求1所述方法，其特征在于，所述基于所述第一注意力分配权重，对所述总体特征进行更新，包括：利用所...

【专利技术属性】
技术研发人员：曹强港，杨昆霖，刘诗男，侯军，伊帅，
申请(专利权)人：北京市商汤科技开发有限公司，
类型：发明
国别省市：