一种单目标追踪方法、装置、电子设备及存储介质制造方法及图纸

本发明专利技术提供一种单目标追踪方法、装置、电子设备及存储介质，包括：将当前帧图像和待追踪目标在前一帧图像中的追踪坐标，输入至检测分支网络，在TensorRT推理框架下，获取目标搜索区域的坐标偏移特征和分类特征；以卷积核模板作为目标追踪动态卷积核，以坐标偏移特征和分类特征作为待卷积特征，进行基于CUDA并行实现的二维动态卷积操作，生成目标坐标偏移向量和目标置信度向量；执行对目标坐标偏移向量和目标置信度向量的后处理，获取待追踪目标在当前帧图像上的追踪坐标。本发明专利技术为TensorRT推理框架应用于动态可变卷积核加速端到端单目标追踪提供了可行性方法，保证了追踪精度的同时，提高了推理速度和实时性能。提高了推理速度和实时性能。提高了推理速度和实时性能。

【技术实现步骤摘要】
一种单目标追踪方法、装置、电子设备及存储介质


[0001]本专利技术涉及计算机视觉跟踪
，尤其涉及一种单目标追踪方法、装置、电子设备及存储介质。

技术介绍

[0002]对视频图像中的待追踪目标进行追踪，最基础的就是根据目标检测结果对每一帧图像中的待追踪目标进行定位和分类识别。作为人工智能领域的重要分支，计算机视觉已经日渐成熟，尤其是基于深度卷积神经网络(Convolutional Neural Networks，CNN)的单目标追踪算法在计算机视觉领域取得了突破性进展，在许多应用上的精度也逐渐达到工业化、产品化的标准，这主要归功于其具有深层的网络结构以及能通过大量的训练数据进行预训练。
[0003]然而，也正是由于CNN这两大特点，导致了深层网络模型的存储量大，前向推理时运行速度慢，导致检测速度跟不上，并且对待追踪目标的检测准确率也相对较低，这是深度学习成果在工业化、产品化过程中最大的障碍之一。
[0004]有鉴于此，亟需进一步提高现有的目标检测模型的推理速度以及推理精度。

技术实现思路

[0005]本专利技术提供一种单目标追踪方法、装置、电子设备及存储介质，用以解决现有技术中模型检测速度慢、时间成本高，不能满足快速、精准进行单目标跟踪需求的缺陷。
[0006]第一方面，本专利技术提供一种单目标追踪方法，包括：
[0007]步骤1，将当前帧图像和待追踪目标在前一帧图像中的追踪坐标，输入至检测分支网络，在TensorRT推理框架下，获取所述检测分支网络输出的目标搜索区域的坐标偏移特征Freg和分类特征Fcls；
[0008]步骤2，以卷积核模板作为目标追踪动态卷积核，以所述坐标偏移特征Freg和所述分类特征Fcls作为待卷积特征，进行基于CUDA并行实现的二维动态卷积操作cuConv，生成目标坐标偏移向量delta_offsets和目标置信度向量scores；
[0009]步骤3，执行对目标坐标偏移向量delta_offsets和目标置信度向量scores的后处理，获取所述待追踪目标在当前帧图像上的追踪坐标。
[0010]根据本专利技术提供的一种单目标追踪方法，在将当前帧图像和待追踪目标在前一帧图像中的追踪坐标，输入至检测分支网络之前，还包括：
[0011]将任一初始图像和所述待追踪目标在所述任一初始图像上的已知坐标输入至模板分支网络，在TenorRT推理框架下，以获取所述模板分支网络输出的坐标偏移卷积核模板Kreg和分类卷积核模板Kcls；
[0012]根据所述坐标偏移卷积核模板Kreg和分类卷积核模板Kcls，组成所述卷积核模板。
[0013]根据本专利技术提供的一种单目标追踪方法，所述模板分支网络和所述检测分支网
络，均是借助训练目标追踪算法后保存的ONNX模型转换成TensorRT框架的网络结构模型后生成的；
[0014]所述模板分支网络和所述检测分支网络，为一对权值共享的孪生网络结构模型。
[0015]根据本专利技术提供的一种单目标追踪方法，以卷积核模板作为目标追踪动态卷积核，以所述坐标偏移特征Freg和所述分类特征Fcls作为待卷积特征，进行基于CUDA并行实现的二维动态卷积操作cuConv，生成目标坐标偏移向量delta_offsets和目标置信度向量scores，包括：
[0016]利用所述坐标偏移特征Freg、所述分类特征Fcls和卷积核模板，构建基于CUDA并行实现的二维动态卷积操作cuConv；
[0017]所述二维动态卷积操作cuConv包括所述坐标偏移动态卷积操作和分类动态卷积操作；
[0018]在CUDA并行实现下，以坐标偏移特征Freg和分类特征Fcls作为待卷积特征，执行所述坐标偏移动态卷积操作和分类动态卷积操作，生成多个所述目标坐标偏移向量delta_offsets和目标置信度向量scores。
[0019]根据本专利技术提供的一种单目标追踪方法，所述利用所述坐标偏移特征Freg、所述分类特征Fcls和卷积核模板，构建基于CUDA并行实现的二维动态卷积操作cuConv，包括：
[0020]基于所述坐标偏移特征Freg和坐标偏移卷积核模板Kreg在所述卷积核模板上的第一权重，构建所述坐标偏移动态卷积操作；
[0021]基于分类特征Fcls和分类卷积核模板Kcls在所述卷积核模板上的第二权重，构建所述分类动态卷积操作；
[0022]所述第一权重和所述第二权重，是训练目标追踪算法后保存的。
[0023]根据本专利技术提供的一种单目标追踪方法，所述执行对目标坐标偏移向量delta_offsets和目标置信度向量scores的后处理，获取所述待追踪目标在当前帧图像上的追踪坐标，包括：
[0024]对所述目标坐标偏移向量delta_offsets执行修正动态卷积操作，生成对应的追踪坐标偏移向量deltas；
[0025]构建与所述待卷积特征的尺寸相对应的汉明窗和尺度变化惩罚；
[0026]根据所述汉明窗和尺度变化惩罚，确定与所有置信度scores中的最大置信度相对应的最优追踪坐标偏移向量deltas
max
；
[0027]根据所述最优追踪坐标偏移向量deltas
max
和所述待追踪目标在前一帧图像中的追踪坐标，确定所述待追踪目标在当前帧图像上的追踪坐标。
[0028]根据本专利技术提供的一种单目标追踪方法，在获取所述待追踪目标在当前帧图像上的追踪坐标之后，还包括：
[0029]迭代执行步骤1
‑
步骤3，直至达到预设迭代停止条件，输出所述待追踪目标的运行轨迹。
[0030]第二方面，本专利技术还提供一种单目标追踪装置，包括：
[0031]特征提取单元主要用于将当前帧图像和待追踪目标在前一帧图像中的追踪坐标，输入至检测分支网络，在TensorRT推理框架下，获取所述检测分支网络输出的目标搜索区域的坐标偏移特征Freg和所有分类特征Fcls；
[0032]偏移运算单元主要用于以卷积核模板作为目标追踪动态卷积核，以所述坐标偏移特征Freg和所述分类特征Fcls作为待卷积特征，进行基于CUDA并行实现的二维动态卷积操作cuConv，生成目标坐标偏移向量delta_offsets和目标置信度向量scores；
[0033]坐标输出单元主要用于执行对目标坐标偏移向量delta_offsets和目标置信度向量scores的后处理，获取所述待追踪目标在当前帧图像上的追踪坐标。
[0034]第三方面，本专利技术提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上述任一种所述单目标追踪方法的步骤。
[0035]第四方面，本专利技术还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上述任一种所述单目标追踪方法的步骤。
[0036]本专利技术提供的单目标追踪方法本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种单目标追踪方法，其特征在于，包括：步骤1，将当前帧图像和待追踪目标在前一帧图像中的追踪坐标，输入至检测分支网络，在TensorRT推理框架下，获取所述检测分支网络输出的目标搜索区域的坐标偏移特征Freg和分类特征Fcls；步骤2，以卷积核模板作为目标追踪动态卷积核，以所述坐标偏移特征Freg和所述分类特征Fcls作为待卷积特征，进行基于CUDA并行实现的二维动态卷积操作cuConv，生成目标坐标偏移向量delta_offsets和目标置信度向量scores；步骤3，执行对目标坐标偏移向量delta_offsets和目标置信度向量scores的后处理，获取所述待追踪目标在当前帧图像上的追踪坐标。2.根据权利要求1所述的单目标追踪方法，其特征在于，在将当前帧图像和待追踪目标在前一帧图像中的追踪坐标，输入至检测分支网络之前，还包括：将任一初始图像和所述待追踪目标在所述任一初始图像上的已知坐标输入至模板分支网络，在TenorRT推理框架下，以获取所述模板分支网络输出的坐标偏移卷积核模板Kreg和分类卷积核模板Kcls；根据所述坐标偏移卷积核模板Kreg和分类卷积核模板Kcls，组成所述卷积核模板。3.根据权利要求2所述的单目标追踪方法，其特征在于，所述模板分支网络和所述检测分支网络，均是借助训练目标追踪算法后保存的ONNX模型转换成TensorRT框架的网络结构模型后生成的；所述模板分支网络和所述检测分支网络，为一对权值共享的孪生网络结构模型。4.根据权利要求3所述的单目标追踪方法，其特征在于，以卷积核模板作为目标追踪动态卷积核，以所述坐标偏移特征Freg和所述分类特征Fcls作为待卷积特征，进行基于CUDA并行实现的二维动态卷积操作cuConv，生成目标坐标偏移向量delta_offsets和目标置信度向量scores，包括：利用所述坐标偏移特征Freg、所述分类特征Fcls和卷积核模板，构建基于CUDA并行实现的二维动态卷积操作cuConv；所述二维动态卷积操作cuConv包括所述坐标偏移动态卷积操作和分类动态卷积操作；在CUDA并行实现下，以坐标偏移特征Freg和分类特征Fcls作为待卷积特征，执行所述坐标偏移动态卷积操作和分类动态卷积操作，生成多个所述目标坐标偏移向量delta_offsets和目标置信度向量scores。5.根据权利要求4所述的单目标追踪方法，其特征在于，所述利用所述坐标偏移特征Freg、所述分类特征Fcls和卷积核模板，构建基于CUDA并行实现的二维动态卷积操作cuConv，包括：基于...

【专利技术属性】
技术研发人员：凡遵林，管乃洋，王之元，苏龙飞，
申请(专利权)人：中国人民解放军军事科学院国防科技创新研究院，
类型：发明
国别省市：