一种基于通道和空间注意力模块的特征提取及自动驾驶感知方法技术

本发明专利技术提供了一种基于通道和空间注意力模块的特征提取及自动驾驶感知方法，其中方法包括：将自适应注意力模块

【技术实现步骤摘要】
一种基于通道和空间注意力模块的特征提取及自动驾驶感知方法


[0001]本专利技术涉及自动驾驶
，具体涉及一种基于通道和空间注意力模块的特征提取及自动驾驶感知方法
。

技术介绍

[0002]近年来，自动驾驶技术成为了汽车行业的热门研究领域，其依赖于感知算法来获取周围环境的信息，以实现准确的环境感知和决策制定；目前的自动驾驶感知算法主要应用传统的计算机视觉和传感器技术，如摄像头
、
雷达和激光雷达等融合的方法来进行道路环境感知，这种方法成本昂贵
、
后期信息融合处理过程复杂，而且传统的感知算法在复杂的交通环境和极端天气条件下仍然存在一些挑战；然而，神经网络和深度学习技术在图像处理领域取得的突破性进展，为自动驾驶自主感知技术的研究提供了新的思路和方法；最近研究表明，轻量级
、
高性能的网络在视觉感知系统中非常重要，而且注意力机制可以显著提高网络性能
。
[0003]现有的神经网络和深度学习技术要么忽略了同时使用两种类型的注意机制
(
通道和空间
)
的意义，或增加模型的复杂性且无法平衡检测精度和速度；如
CBAM
模块，在给定一张特征图，
CBAM
模块能够序列化地在通道和空间两个维度上产生注意力特征图信息，然后两种特征图信息在与之前原输入特征图进行相乘进行自适应特征修正，产生最后的特征图；
CBAM
中的通道注意力模块使用了全局最大池化和全局平均池化来分别利用不同的信息，而本专利技术中
AAM
假设两种汇集方法所提取的特征在网络的不同阶段起着不同的作用，并且占据不同的权重
。
因此，本专利技术设计了一种自适应机制来改变平均池化和最大池化提取特征的权重
。
此外，本专利技术提供的
AAM
使用一维卷积来避免通道退化，并保证特征信息在信道间的交互
。
[0004]基于此，需要一种基于通道和空间注意力模块的特征提取方法，以增强用于自动驾驶的神经网络的性能
。

技术实现思路

[0005]本专利技术的目的在于提供一种基于通道和空间注意力模块的特征提取方法，包括以下步骤：
[0006]S1
：输入神经网络的中间特殊预处理特征图；
[0007]S2
：通道注意力模块推断出一维通道注意力特征图，并将所述一维通道注意力特征图与输入特征图相乘以获得中间通道细化特征；
[0008]S3
：空间注意力模块沿着通道维度将所述中间通道细化特征分组为多个子特征，然后并行处理；
[0009]S4
：为每个子特征生成空间注意力特征描述符和沿着通道维度的细化子特征；
[0010]S5
：聚合所述细化子特征，并且将“通道混洗”机制用于在不同子特征之间传递信
息，以生成具有对重要区域的自适应强调的最终细化特征
。
[0011]进一步的，所述中间特殊预处理特征图为经过
resblock
模块处理后的特征图
。
[0012]进一步的，
S2
包括：
[0013]S2.1
：所述通道注意力模块使用平均池化和最大池化操作来聚集空间维度信息，这些操作生成两个一维向量和其分别表示通过全局平均池化和全局最大池化提取的特征；
[0014]S2.2
：随后，两个向量被发送到所述自适应注意力块以获得自适应特征
Z
C
，所述自适应注意力模块有两个可训练参数
α
和
β
，可以参与网络的联合训练；
AAM
的内部推理过程为：
[0015][0016]式中，
α
和
β
都是大于0且小于1的浮点数；
[0017]S2.3
：为了解决信道降维可能导致信息丢失的问题，使用一个
1D
卷积与一个大小为
k
的卷积核捕获通道之间的相互作用信息，为了确定
k
的值，使用公式：
[0018][0019]式中，
|t|
odd
表示
t
的最近奇数，
C
是通道数，
γ
和
b
都是超参数，在本研究的所有实验中，通常分别将其设置为2和1；利用该映射，核大小
k
可以由通道的数量
C
自适应性确定；
[0020]S2.4
：此外，
Z
C
在一维卷积之后产生一个向量，然后用
Leaky ReLU
函数激活这个向量；通道关注度模块计算过程总结如下：
[0021][0022]S2.5
：所述通道注意力模块推断出一维通道注意力特征图即为将其与输入特征图相乘以获得通道细化特征为
[0023]优选的，
S3
具体为：所述空间注意力模块将所述通道细化特征沿着通道维度划分为
g
组，即
X
′
＝
[X
′1,X
′2,...,X
′
g
]，
[0024]进一步的，
S4
包括：
[0025]S4.1
：所述空间注意力模块使用沿着通道维度对子特征
X
′
i
的平均池化和最大池化操作来分别产生矩阵和其沿着通道维度被级联；
[0026]S4.2
：使用一个1×1核的二维卷积进行通道间信息交互和信息压缩；此外，
f
c
(
·
)
被用来增强
X
″
i
的表示，即为每个子特征生成空间注意力特征描述符和沿着通道维度的细化子特征，最终输出通过以下等式获得：
[0027][0028]式中，
f
c
(
·
)
是线性运算，
W
和
b
是的参数，是卷积运算，其中上标表
示卷积核大小，下标表示卷积维数，并且
F
cat
是通道级联运算
。
[0029]优选的，
S5
具体为：聚合所有细化子特征，使用“通道混洗”机制来实现沿着信道维度的跨组信息流，其中
X
″
＝
[X
″1,X
″2,...,X
″
g
],i
＝
1,2,...,g,
以生成具有对重要区域的自适应强调的最终细化特征；所述
AAM
的最终输出
X
″
与
X
输入大小相同；此外，
W、b
和二维卷积的参数仅仅是本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种基于通道和空间注意力模块的特征提取方法，其特征在于：包括以下步骤：
S1
：输入神经网络的中间特殊预处理特征图；
S2
：通道注意力模块推断出一维通道注意力特征图，并将所述一维通道注意力特征图与输入特征图相乘以获得中间通道细化特征；
S3
：空间注意力模块沿着通道维度将所述中间通道细化特征分组为多个子特征，然后并行处理；
S4
：为每个子特征生成空间注意力特征描述符和沿着通道维度的细化子特征；
S5
：聚合所述细化子特征，并且将通道混洗机制用于在不同子特征之间传递信息，以生成具有对重要区域的自适应强调的最终细化特征
。2.
如权利要求1所述的一种基于通道和空间注意力模块的特征提取方法，其特征在于：所述中间特殊预处理特征图为经过
ResBlock
模块处理后的特征图
。3.
如权利要求1所述的一种基于通道和空间注意力模块的特征提取方法，其特征在于：所述
S2
包括：
S2.1
：所述通道注意力模块使用平均池化和最大池化操作来聚集空间维度信息，这些操作生成两个一维向量和其分别表示通过全局平均池化和全局最大池化提取的特征；
S2.2
：两个向量被发送到自适应块以获得自适应特征
Z
C
，自适应注意力模块
AAM
有两个可训练参数
α
和
β
，可以参与网络的联合训练；
AAM
的内部推理过程为：式中，
α
和
β
都是大于0且小于1的浮点数；
S2.3
：使用一个
1D
卷积与一个大小为
k
的卷积核捕获通道之间的相互作用信息，为了确定
k
的值，使用公式：式中，表示
t
的最近奇数，
C
是通道数，
γ
和
b
都是超参数，在本研究的所有实验中，通常分别将其设置为2和1；利用该映射，核大小
k
可以由通道的数量
C
自适应性确定；
S2.4
：
Z
C
在一维卷积之后产生一个向量，然后用
Leaky ReLU
函数激活这个向量；所述通道注意力模块计算过程总结如下：
S2.5
：通道注意力模块推断出一维通道注意力特征图即为将其与输入特征图相乘以获得通道细化特征为
4.
如权利要求1所述的一种基于通道和空间注意力模块的特征提取方法，其特征在于：
S3
中所述空间注意力模块将所述通道细化特征沿着通道维度划分为
g
组，
即
X
′
＝
[X
′1,X

【专利技术属性】
技术研发人员：胡凯涛，马向华，许敏，逯代兴，朱丽，
申请(专利权)人：上海应用技术大学，
类型：发明
国别省市：