一种基于遮挡抑制和特征重建的遮挡场景行人重识别方法技术

本发明专利技术公开了一种基于遮挡抑制和特征重建的遮挡场景行人重识别方法，属于图像处理技术领域。本发明专利技术首先使用随机的栅格对齐块状遮挡增强策略产生模拟遮挡的增强图像样本，用于自监督地训练遮挡感知器，可以预测行人图像中的遮挡位置。本发明专利技术对输入图像首先使用遮挡抑制编码器进行特征提取，该编码器采用自注意力机制对图像分块并进行图像块之间充分的信息交换，在这个过程中，利用遮挡感知的结果抑制遮挡位置的特征传递，可以产生关注非遮挡区域的全局特征。然后，本发明专利技术使用特征修复网络重建完整行人特征，最终获得一个鲁棒的特征表达。本发明专利技术方法构建的全局特征能够减少遮挡干扰，并提高遮挡场景下的检索精确度。并提高遮挡场景下的检索精确度。并提高遮挡场景下的检索精确度。

【技术实现步骤摘要】
一种基于遮挡抑制和特征重建的遮挡场景行人重识别方法


[0001]本专利技术涉及图像处理和机器视觉中的行人重识别领域，尤其涉及一种基于遮挡抑制和特征重建的遮挡场景行人重识别方法。

技术介绍

[0002]行人重识别是计算机视觉领域中的一个重要研究课题，其目标是匹配不同镜头下的相同行人图像，这项研究可以被应用于监控场景下的行人寻回、行人检索等任务。近年来基于完整行人图像的常规行人重识别工作已经取得了巨大的成功，然而遮挡场景下的行人重识别仍然是一个很大的挑战，在这种任务中需要用被遮挡了一部分的行人图像作为查询图像在图库中检索。在真实监控场景中行人目标往往会被频繁地遮挡，因此增强模型在遮挡场景的稳定性将很大程度上提高行人重识别方法的实用性。
[0003]遮挡行人重识别任务的难点在于两个方面。其一是行人的关键部位被遮挡时难以提取具有判别性的特征，其二是在人挡人的情况下非目标的行人会带来干扰特征，易于产生错误的匹配。目前的工作主要从两种思路解决行人重识别中的遮挡问题。第一种是充分利用全局信息产生鲁棒的特征表达。这种方法为了应对遮挡场景，尽可能地从更多位置或者尺度挖掘判别性的特征，这样在某些区域被遮挡时可以减少犯错。第二种是利用额外线索针对关键部位的局部特征进行增强。在遮挡场景中，针对某些关键部位的局部特征进行增强是至关重要的。因此有部分工作尝试利用额外线索找出没有遮挡的关键部位。
[0004]在遮挡场景中，如果充分利用所有局部区域提取一个统一的特征，很容易被遮挡物引入的特征干扰。这样会产生很多错误匹配，比如匹配到相同遮挡物的不同行人图像。现有的工作使用额外的模型对行人进行骨架提取，并对行人的各个部位的可视度进行预测，然后抑制被遮挡的局部特征，增强可视的局部特征。但是，这种做法会带来额外的计算开销，而且当目标行人被其他行人遮挡时，外部模型可能会失效。

技术实现思路

[0005]本专利技术针对现有技术中存在的技术问题，提供一种基于遮挡抑制和特征重建的遮挡场景行人重识别方法，可以提高遮挡场景下行人重识别精度。
[0006]根据本专利技术的第一方面，提供了一种基于遮挡抑制和特征重建的遮挡场景行人重识别方法，包括：
[0007]步骤1，使用栅格对齐块状遮挡增强策略对完整行人图像进行数据增强，产生模拟遮挡的遮挡增强图像及其对应的遮挡标签；
[0008]步骤2，构建遮挡感知器，利用所述遮挡增强图像和对应的遮挡标签训练所述遮挡感知器；
[0009]步骤3，构建特征提取网络，对所述完整行人图像和所述遮挡增强图像分别进行特征提取，得到完整行人图像特征和遮挡增强图像特征；其中，在对所述遮挡增强图像进行特征提取时，利用所述遮挡感知器的遮挡感知结果抑制遮挡干扰；
[0010]步骤4，构建特征重建网络，利用所述遮挡增强图像特征和所述完整行人图像特征训练得到特征重建网络；
[0011]步骤5，利用所述遮挡感知器对真实场景的遮挡行人图像进行遮挡感知，得到所述遮挡感知结果；对所述遮挡行人图像进行特征提取，并利用所述遮挡感知结果对遮挡区域的特征进行抑制，得到关注行人可视区域的全局特征；基于所述特征重建网络对所述全局特征进行特征重建，得到用于行人重识别的最终全局特征；基于所述最终全局特征计算特征距离，完成行人重识别。
[0012]在上述技术方案的基础上，本专利技术还可以作出如下改进。
[0013]可选的，所述步骤1中产生所述遮挡增强图像和对应的遮挡标签的过程包括：
[0014]将所述完整行人图像缩放到设定尺寸并按照等分的栅格划分为各个图像块；
[0015]将多个所述遮挡增强图像设为一个批次图像，设定遮挡比例，循环随机地产生和栅格对齐的矩形添加到蒙版集合中直到所述蒙版集合中所有矩形取并的总面积符合所述遮挡比例，基于所述蒙版集合形成不规则的块状蒙版，多次采样后生成该批次图像的多个随机蒙版；
[0016]每次采样时从批次图像中随机选择不同身份的其他完整行人图像，随机选择相同形状的区域覆盖到待处理的完整行人图像上，生成所述遮挡增强图像和对应的遮挡标签。
[0017]可选的，所述遮挡感知器由多层自注意力模块和一个线性层组成；
[0018]所述遮挡感知器的输入为由图像块特征嵌入序列和一个初始化为全零向量的遮挡指示特征组成的输入序列。
[0019]可选的，所述遮挡感知器的训练过程包括：
[0020]自注意力模块统合图像块特征嵌入中携带的信息，更新所述遮挡指示特征，通过线性层将所述遮挡指示特征转化为所述遮挡感知结果，其中，遮挡预测由所述遮挡增强图像对应的遮挡标签进行监督。
[0021]可选的，所述步骤3中构建的所述特征提取网络由多层自注意力模块构成；
[0022]所述特征提取网络的输入为由图像块特征嵌入序列和一个身份分类指示特征组成的输入序列。
[0023]可选的，所述特征提取网络提取过程包括：统合图像块特征嵌入中携带的信息，更新所述身份分类指示特征，每一层自注意力模块均产生注意力矩阵；其中，所述注意力矩阵第一行的N个元素表示N个图像块嵌入特征向身份指示特征的信息传递强度；
[0024]在对所述遮挡增强图像进行特征提取时，根据所述遮挡感知结果对所述注意力矩阵进行修正，使遮挡分数高的图像块特征嵌入在特征交换的过程中具有更小的权重，并将修正后的注意力图用于计算特征更新。
[0025]可选的，所述步骤4中构建的所述特征重建网络由二分支的自注意力层构成，两个分支分别为：全局特征构建网络和完整特征推理网络；
[0026]所述全局特征构建网络基于所述完整行人图像特征构建得到完整全局特征；所述完整特征推理网络基于所述遮挡增强图像特征推理得到重构全局特征。
[0027]可选的，所述特征重建网络的目标是由完整特征推理网络从不完整的图像中构造和完整图像的特征尽可能相似的特征；
[0028]所述特征重建网络进行训练时的整体损失为;
[0029]其中，表示身份分类损失，表示三元组损失，表示遮挡预测损失，推理损失，其中表示欧氏距离，、、和分别是4类损失的平衡权重。
[0030]本专利技术提供的一种基于遮挡抑制和特征重建的遮挡场景行人重识别方法，其有益效果包括：
[0031]1、设计了一种数据增强策略，可以产生遮挡增强的图像和对应的标注，用于加强模型对遮挡情况的理解能力；
[0032]2、改进了在局部特征增强时确定关键可视部位的方式，不再依赖于额外的模型，而是以自监督的方式进行遮挡感知；
[0033]3、改进了在特征提取时增强局部特征的方式，不再额外地产生独立的局部特征再加权融合，而是直接产生关注特定局部的全局特征，这种方式更适用于基于自注意力机制的特征提取网络；
[0034]4、设计了一个特征重建网络，可以在遮挡场景中修复不完整的特征，重建完整的全局特征，提高行人重识别在遮挡场景下的精度。
附图说明
[0035]图1为本专利技术提供的一种基于遮挡抑制和特征重建的遮挡场景行人重识别的实施例的本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于遮挡抑制和特征重建的遮挡场景行人重识别方法，其特征在于，所述重识别方法包括：步骤1，使用栅格对齐块状遮挡增强策略对完整行人图像进行数据增强，产生模拟遮挡的遮挡增强图像及其对应的遮挡标签；步骤2，构建遮挡感知器，利用所述遮挡增强图像和对应的遮挡标签训练所述遮挡感知器；步骤3，构建特征提取网络，对所述完整行人图像和所述遮挡增强图像分别进行特征提取，得到完整行人图像特征和遮挡增强图像特征；其中，在对所述遮挡增强图像进行特征提取时，利用所述遮挡感知器的遮挡感知结果抑制遮挡干扰；步骤4，构建特征重建网络，利用所述遮挡增强图像特征和所述完整行人图像特征训练得到特征重建网络；步骤5，利用所述遮挡感知器对真实场景的遮挡行人图像进行遮挡感知，得到所述遮挡感知结果；对所述遮挡行人图像进行特征提取，并利用所述遮挡感知结果对遮挡区域的特征进行抑制，得到关注行人可视区域的全局特征；基于所述特征重建网络对所述全局特征进行特征重建，得到用于行人重识别的最终全局特征；基于所述最终全局特征计算特征距离，完成行人重识别。2.根据权利要求1所述的重识别方法，其特征在于，所述步骤1中产生所述遮挡增强图像和对应的遮挡标签的过程包括：将所述完整行人图像缩放到设定尺寸并按照等分的栅格划分为各个图像块；将多个所述遮挡增强图像设为一个批次图像，设定遮挡比例，循环随机地产生和栅格对齐的矩形添加到蒙版集合中直到所述蒙版集合中所有矩形取并的总面积符合所述遮挡比例，基于所述蒙版集合形成不规则的块状蒙版，多次采样后生成该批次图像的多个随机蒙版；每次采样时从批次图像中随机选择不同身份的其他完整行人图像，随机选择相同形状的区域覆盖到待处理的完整行人图像上，生成所述遮挡增强图像和对应的遮挡标签。3.根据权利要求1所述的重识别方法，其特征在于，所述遮挡感知器由多层自注意力模块和一个线性层组成；所述遮挡感知器的...

【专利技术属性】
技术研发人员：韩守东，章孜闻，郭维，刘东海生，
申请(专利权)人：武汉图科智能科技有限公司，
类型：发明
国别省市：