当前位置: 首页 > 专利查询>江苏大学专利>正文

一种用于城市工况下的智能汽车多目标跟踪方法技术

技术编号:26380018 阅读:18 留言:0更新日期:2020-11-19 23:48
本发明专利技术公开了一种用于城市工况下的智能汽车多目标跟踪方法,将所拍到的车辆周围视频帧经复合特征提取网络提取特征信息后,将特征分别输入检测分支与重识别分支。将检测分支的检测结果与重识别分支结果输入至跟踪模块,完成跟踪。其中复合特征提取网(RFEN,Recombination feature extraction network)由下采样模块、基础卷积模块、层模块、上采样模块构成,其中,下采样模块和基础卷积模块构成了复合特征提取网的输入模块,层模块和上采样模块均为多个,彼此交互处理。本发明专利技术设计的复合特征提取网络模型,相较于现有的Resnet、Dla‑34、HreNet、GoogLeNet等,充分提取了目标信息,提高了跟踪算法的推理能力和抗干扰能力。既保留了检测与跟踪并行的跟踪策略的高速度优势,又大幅度提高了跟踪的精度。

【技术实现步骤摘要】
一种用于城市工况下的智能汽车多目标跟踪方法
本专利技术属于智能汽车视觉
,特别设计了一种用于城市工况下的智能汽车多目标跟踪方法。
技术介绍
多目标跟踪(multipleobjectstracking,MOT)技术的主要任务是在给定视频中同时对多个感兴趣的目标进行定位,并且维持他们的身份、记录他们的轨迹。通过多目标跟踪技术可以让智能汽车更充分的了解其周围的环境信息从而做出更精确的控制决策。与单目标跟踪(SingleObjectTracking,SOT)不同的是多目标跟踪器不仅要设计复杂的外观模型/运动模式、解决尺度变化、平面旋转和光照变化,还要解决目标数量的变化导致的身份信息生成/消失处理问题以及如何维持各自身份信息不干扰问题。目前多目标跟踪方法主要分为两类:基于检测的跟踪(trackingbasedetection,TSD),检测与跟踪并行的跟踪(tracking&detection,T&D)。基于检测的跟踪因为在检测任务与跟踪任务上各使用了一套模型,所以会导致跟踪过程中的实时性欠佳,因而无法满足智能车辆的实时跟踪的要求。检测与跟踪并行的跟踪因为仅使用一套网络模型,所以模型的实时性能满足智能车辆的跟踪需求,但是受限于传统网络模型的特征提取不充分的缘故,检测与跟踪并行的跟踪往往精度较低,这就限制了检测与跟踪并行的跟踪在智能车辆上的使用。当前的车辆多目标跟踪常用于高速公路中的跟踪。与高速公路下的场景单一、路面信息明确不同的是,城市场景中的场景信息及其复杂,这就导致了车辆跟踪器在城市场景中的效果有所欠缺。
技术实现思路
从目前国内外学者主要研究内容看,智能汽车如何在行驶中保持对前方行驶车辆的跟踪是研究的热点。本专利技术针对城市道路工况下智能汽车多目标跟踪精度低与速度慢的问题,基于检测与跟踪并行的跟踪方法,提出了一种用于城市工况下的智能汽车多目标跟踪方法。本专利技术的技术方案在下面具体实施方式部分作了详细叙述。本专利技术的有益效果:(1)本专利技术提出的复合特征提取网络模型(RFEN,Recombinationfeatureextractionnetwork),相较于现有的Resnet、Dla-34、HreNet、GoogLeNet等特征提取网络,充分提取了目标信息,提高了跟踪算法的推理能力和抗干扰能力。既保留了检测与跟踪并行的跟踪策略的高速度优势,又大幅度提高了跟踪的精度。(2)加入了重识别分支,提高了汽车的多目标跟踪精度。(3)本专利技术的模型使用了模块化构建,从而可以在不同的算力工况下快速增减模型结构,保障了模型的复用性与维护性。(4)本专利技术的模型继承了深度学习的端到端训练模式,使得模型的设置与训练较为轻松。(5)本专利技术的模型网络在训练完成后,可在GPU型号:1080、相机像素:1920*1080等低配置条件下,即可达到较高的跟踪速度(25+fps),满足工程实用。附图说明图1.本专利技术的算法流程图图2.本专利技术的基础卷积模块(Based-conv)架构图图3.本专利技术的直连接选择模块(Direct-connection-choose)架构图图4.本专利技术的基础结构模块(Based-block)架构图图5.本专利技术的上采样模块(Upsample-block)架构图图6.本专利技术的下采样模块(Downsample-block)架构图图7.本专利技术的含有n个结构体的层模块架构图图8.本专利技术的复合特征提取网(RFEN,Recombinationfeatureextractionnetwork)结构图图9.本专利技术的检测分支架构图图10.本专利技术的重识别分支架构图具体实施方式下面结合附图对本专利技术作进一步说明。如图1所示的本专利技术算法的总体运行流程。摄像头所拍到的车辆周围视频帧经复合特征提取网络提取特征信息后,将特征分别输入检测分支与重识别分支。将检测分支的检测结果与重识别分支结果输入至跟踪模块,完成跟踪。本专利技术的具体实施过程包括如下:Step1:设计基础卷积层(Based-conv)如图2所示,基础卷积层由一个卷积层(conv2d)构成。其中,卷积层(Conv2d)的卷积核尺寸默认为3*3,填充默认为1,步长默认为1。Step2:设计直连接选择模块(Direct-connection-choose)如图3所示,直连接选择模块由一个选择器,一个直连接层,一个基础卷积模块、一个批量归一化层(batchnormal)构成。其中,基础卷积模块的卷积核尺寸为3*3,填充为1,步长为2。Step3:设计基础结构模块(Based-block)如图4所示,基础结构模块由两个基础卷积层(Based-conv)、两个批量归一化层(Batchnormal)、两个Relu激活层和一个直连接选择模块构成。其中,基础卷积层1(Based-conv1)的输出通道数等于输入通道数。基础卷积层2(Based-conv2)的输出通道数等于输入通道数。Step4:设计上采样(Upsample-block)模块如图5所示,上采样模块由可变形卷积核(DCN,DeformableConvolution)、批量归一化层(Batchnormal)、Relu激活层、反卷积核(ConvTranspose2d)、批量归一化层(Batchnormal)、Relu激活层按序组成。其中,可变形卷积核(DCN,DeformableConvolution)的卷积核尺寸为3*3,步长为1,填充为1,输出通道数等于输入通道数。反卷积核的卷积核尺寸为4*4,步长为2,填充为2。其中,所有的上采样模块的输出通道数均指反卷积核的输出通道数。Step5:设计下采样(downsample-block)模块如图6所示,下采样模块由两个基础卷积层(Based-conv)、两个批量归一化层(Batchnormal)、两个Relu激活层和一个直连接选择模块构成。其中,基础卷积层2(Based-conv2)的输出通道数等于输入通道数。其中,所有的下采样模块的输出通道均指基础卷积层1(Based-conv1)的输出通道。Step6:设计层模块与结构体如图7所示,层模块由一个下采样模块与多个结构体串行构成。其中,结构体由两个基础结构模块串行构成。Step7:设计复合特征提取网(RFEN,Recombinationfeatureextractionnetwork)如图8所示,复合特征提取网(RFEN,Recombinationfeatureextractionnetwork)由下采样模块、基础卷积模块、层模块、上采样模块构成。其中,表示将输入的多个值进行按位相加并输出。所述复合特征提取网的具体设计过程如下:首先,构建一个输入模块,其由一个下采样模块与一个基础卷积模块串行构成。其中,下采样模块本文档来自技高网
...

【技术保护点】
1.一种用于城市工况下的智能汽车多目标跟踪方法,其特征在于,将车辆周围视频帧经复合特征提取网络提取特征信息后,将特征信息分别输入检测分支模块与重识别分支模块进行处理,将检测分支模块的检测结果与重识别分支模块的结果输入至跟踪模块,完成多目标跟踪。/n

【技术特征摘要】
1.一种用于城市工况下的智能汽车多目标跟踪方法,其特征在于,将车辆周围视频帧经复合特征提取网络提取特征信息后,将特征信息分别输入检测分支模块与重识别分支模块进行处理,将检测分支模块的检测结果与重识别分支模块的结果输入至跟踪模块,完成多目标跟踪。


2.根据权利要求1所述的一种用于城市工况下的智能汽车多目标跟踪方法,其特征在于,所述多层特征提取网络的设计方法包括如下:
S1:设计基础卷积层:基础卷积层包括一个卷积层conv2d;
其中,卷积层Conv2d的卷积核尺寸默认为3*3;
S2:设计直连接选择模块:直连接选择模块包括一个选择器,一个直连接层,一个基础卷积模块、一个批量归一化层;
其中,基础卷积模块的卷积核尺寸为3*3,填充为1,步长为2;
S3:设计基础结构模块:基础结构模块包括两个基础卷积层、两个批量归一化层、两个Relu激活层和一个直连接选择模块;
其中,两个基础卷积层的输出通道数均等于输入通道数;
S4:设计上采样模块:上采样模块由输入至输出依次包括可变形卷积核、批量归一化层、Relu激活层、反卷积核、批量归一化层、Relu激活层;
其中,可变形卷积核的卷积核尺寸为3*3,步长为1,填充为1,输出通道数等于输入通道数;反卷积核的卷积核尺寸为4*4,步长为2,填充为2;
其中,所有的上采样模块的输出通道数均指反卷积核的输出通道数;
S5:设计下采样模块:下采样模块包括两个基础卷积层、两个批量归一化层、两个Relu激活层和一个直连接选择模块;
其中,第二个基础卷积层的输出通道数等于输入通道数;
其中,所有的下采样模块的输出通道均为第一个基础卷积层的输出通道;
S6:设计层模块与结构体:层模块包括一个下采样模块与多个结构体,并且下采样模块与多个结构体之间为串行组合;其中,结构体由两个基础结构模块串行构成;
S7:设计复合特征提取网:复合特征提取网包括下采样模块、基础卷积模块、若干层模块、若干上采样模块。


3.根据权利要求2所述的一种用于城市工况下的智能汽车多目标跟踪方法,其特征在于,所述S7中设计复合特征提取网的具体设计如下:
首先,构建输入模块,输入模块由一个下采样模块与一个基础卷积模块串行构成,其中,下采样模块,其输出通道数为16,基础卷积模块,输出通道数为64;
之后,构建一个含有3个结构体的层模块1;其中,下采样模块的输出通道数为64;
之后,构建一个含有4个结构体的层模块2;其中,下采样模块的输出通道数为128;
之后,构建一个含有6个结构体的层模块3;其中,下采样模块的输出通道数为256;
之后,构建一个含有3个结构体的层模块4;其中,下采样模块的输出通道数为512;
之后,在层模块1后,另插入一个上采样模块1,其输出通道数为32;
之后,在层模块2后,另插入一个上采样模块2,其输出通道数为64;
之后,在层模块3后,另插入一个上采样模块3,其输出通道数为128;
之后,在层模块4后,另插入一个上采样模块4,其输出通道数为256;
之后,将上采样模块4与层模块3的输出相加并输入上采样模块5,其输出通道数为128;
之后,将上采样模块5与层模块2的输出相加并输入上采样模块6,其输出通道数为64;
之后,将上采样模块6与层模块1的输出相加并输入上采样模块7,其输出通道数为32;
之后,将上采样模块3与层模块2的输出相加并输入上采样模块8,其输出通道数为64;
之后,将上采样模块8与层模块1的输出相加并输入上采样模块9,其输出通道数为32;
之后,将上采样模块2与层模块1的输出相加并输入上采样模块10,其输出通道数为32;
最终,将上采样模块7、上采样模块9、上采样模块10、上采样模块1的输出相加并输出。


4.根据权利要求3所述的一种用于城市工况下的智能汽车多目标跟踪方法,其特征在于,所述将车辆周围视频帧经复合特征提取网络提取特征信息的具体方法包括如下:
设在t时刻,视频输入图像帧为I,I∈R3*H*W,H、W、3分别为输入矩阵的高、宽、通道数,将I输入复合特征提取网,通过以下计算获得图像的特征,具体地:
对于直连接选择模块,根据计算公式1获得直连接选择模块的信号输出值:



其中,L表示为输入值,L∈RC*H*W,H、W、C分别为输入矩阵的高、宽、通道数;L'表示该模块的输出值,L'∈RC'*H'*W',C’为输出矩阵的通道数,dcc()表示为直连接选择模块的计算,bn()为批量归一化计算,conv()表示二维卷积计算;
对于下采样模块,根据公式2计算出下采样模块的信号输出值:
D'=ds(D)=relu(bn(conv2(relu(bn(conv1(D)))))+dcc(D))公式2
其中,D为输入值,D∈RC*H*W,H、W、C分别为输入矩阵的高、宽、通道数。D'表示该模块的输出值,Y'∈RC'*H'*W',输出通道值为C’,ds()表示为下采样模块的计算,elu()表示relu激活函数,bn()为批量归一化计算,conv()表示二维卷积计算,其中conv1()表示为第一个卷积层的卷积计算,conv2()表示为第二个卷积层的卷积计算,dcc()为直连接选择模块的计算;
对于基础结构模块,根据公式3计算出基础结构模块的信号输出值:
B'=bs(B)=relu(bn(conv2(relu(bn(conv1(B)))))+dcc(B))公式3
其中,B为输入值,B∈RC*H*W,H、W、C分别为输入矩阵的高、宽、通道数。B'表示该模块的输出值,B'∈RC'*H'*W',H'=H,W'=W,输出通道值为C’,()表示为基础结构模块的计算;
对于上采样模块,根据公式4计算出上采样模块的信号输出值:
U'=ups(U)=relu(bn(convt(relu(bn(DCN(U))))))公式4
其中,U为输入值,U∈RC*H*W,H、W、C分别为输入矩阵的高、宽、通道数,U'表示该模块的输出值,U'∈RC′*H′*W′,H'=2*H,W'=2*W,输出通道值为C’,ups()表示为上采样模块的计算,DCN()表示变形卷积,convt()表示反卷积计算;
对于层模块,根据计算公式5计算出层模块的信号输出值:



其中,La为输入值,La∈RC*H*W,H、W、C分别为输入矩阵的高、宽、通道数,La'表示该模块的输出值,La'∈RC'*H'*W',输出通道值为C’,LA()表示为层模块的计算,s()为基础结构模块的计算,表示进行了n次基础结...

【专利技术属性】
技术研发人员:陈龙朱程铮蔡英凤王海李祎承陈小波孙晓强刘擎超
申请(专利权)人:江苏大学
类型:发明
国别省市:江苏;32

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1