一种为激光点云计算注意力权重的神经网络及训练方法技术

本发明专利技术涉及一种为激光点云计算注意力权重的神经网络，包括：输入层、一维卷积层、激活函数层以及输出层，输入层为1xN维的激光点云序列或能表征点云轮廓的信息，序列长度为正整数，一维卷积层的卷积核为条状，用于处理序列，激活函数层用于增强网络的非线性表征能力，提升网络对复杂数据的拟合能力，输出层为1xN维的注意力权重序列，注意力权重代入Scan

【技术实现步骤摘要】
一种为激光点云计算注意力权重的神经网络及训练方法


[0001]本专利技术属于神经网络
，具体涉及一种为激光点云计算注意力权重的神经网络及训练方法。

技术介绍

[0002]近年来随着社会的进步与人力成本的提高，制造业的成本也呈不断上升的趋势。自动化的物流设备运用多功能集成的硬件与先进的技术，逐步提高了物流环节的自动化程度，从而达到降低制造环节物流成本的目的，提升了企业的核心竞争力，物流运输自动化的前景也越来越广阔。同步定位与建图和机器人自主定位是目前完成工业物流自动化的可行方法，可解决机器人在未知环境中的自主导航与定位问题，目前已经成为移动机器人领域不可或缺的技术，应用场景非常广泛。
[0003]在工业用途领域，目前最广泛的应用主要是各种形态的自动导引车，国内有不少企业都已将SLAM技术应用到自动导引车上，并部署在工业物流的各个场景中，有效地减少了人力，极大提高生产工作效率。自动导引车在生产工业和基础设施方面发挥着越来越重要的作用，并且正逐渐走进更多的领域。当下无人仓库与无人物流技术受到了越来越多的关注，叉车式自动导引车成为了重要的市场需求。
[0004]激光雷达是一种常用于自动导引车的传感器，通过朝环境发射高频激光脉冲，实现对距离的测量，具有高精度、高灵敏度、高实时性等优势，抗光电干扰的能力强，对环境和光照的要求低，考虑到仓库环境比较简单，通常可以近似于二维平面，一般的物流自动导引车都选择2D激光作为环境感知设备。
[0005]但在一些特殊的工作环境具有面积大、环境规整、特征简单、动态变化等特点，往往会增加系统误差，在极端情况下会严重影响帧间匹配、回环检测的精度，使得构建的地图出现严重变形，多个仓库的轮廓相互重叠；也有可能影响定位算法的匹配精度，出现粒子漂移、定位不收敛的情况。而工业场景下的机器设备具有非常高的安全成本，这一问题的存在使得自动导引车在物流自动化的应用面临着严峻的挑战。
[0006]此外，由于激光点云数据量非常大，人工标注成本巨大，而传统深度学习方法往往是由样本与标签之间对应的有监督方法进行训练，这也为深度学习在激光点云中的应用带来了障碍。

技术实现思路

[0007]本专利技术的一个目的是提供一种为激光点云计算注意力权重的神经网络。
[0008]为达到上述目的，本专利技术采用的技术方案是：
[0009]一种为激光点云计算注意力权重的神经网络，包括：
[0010]输入层：所述的输入层为1
×
N维的激光点云序列或能表征点云轮廓的信息，序列长度为正整数，
[0011]一维卷积层：所述的一维卷积层的卷积核为条状，用于处理序列，
[0012]激活函数层：所述的激活函数层用于增强网络的非线性表征能力，提升网络对复杂数据的拟合能力，
[0013]输出层：所述的输出层为1
×
N维的注意力权重序列，
[0014]所述的注意力权重代入Scan
‑
to
‑
Scan或者Scan
‑
to
‑
Map的点云匹配的过程，用于降低没有区分度的特征对定位与地图构建带来的干扰。
[0015]优选地，所述的一维卷积层为：
[0016][0017]式中：
[0018]n为输入序列长度，
[0019]w
ij
为输入序列第i个神经元与输出序列的第j个神经元之间的卷积核连接，b为卷积层后的偏置量。
[0020]优选地，所述的激活函数层包括ReLU激活函数、Sigmoid函数，
[0021]所述的ReLU激活函数为：ReLU(x)＝max(0,x)，
[0022]所述的Sigmoid函数为：
[0023]优选地，所述的注意力权重为：
[0024][0025]式中：
[0026]p
i
为激光点云，
[0027]q
i
在Scan
‑
to
‑
Scan匹配算法中为待匹配的另一帧激光点云，q
i
在Scan
‑
to
‑
Map中为占据栅格地图环境轮廓，
[0028]w
i
为网络输出的注意力权重。
[0029]本专利技术的另一个目的是提供一种为激光点云计算注意力权重的神经网络的训练方法。
[0030]为达到上述目的，本专利技术采用的技术方案是：
[0031]一种为激光点云计算注意力权重的神经网络的训练方法，包括损失函数，所述的损失函数包括三元组损失、正则损失以及时序损失，所述的三元组损失和所述的正则损失均在每个时刻的数据内部计算，所述的时序损失在两个时刻的数据之间计算。
[0032]优选地，所述的损失函数为：
[0033][0034]式中：
[0035]α和β为控制正则损失和时序损失权重的参数，
[0036]x
t
和x
t
‑1分别为t时刻与t
‑
1时刻输入网络的数据，
[0037]x
t+
和x
t
‑
分别为正样本和负样本，
[0038]x
t
为锚点。
[0039]优选地，所述的三元组损失为：
[0040][0041]式中：
[0042]m为每个batch的样本数量，
[0043]n为每个样本数据长度，
[0044]D为一批数据的所有激光点数，D＝m
×
n，
[0045]x
t+
和x
t
‑
分别为正样本和负样本，
[0046]x
t
为锚点，
[0047]为第i个样本、第j个激光点数据，
[0048]为对应的注意力权重。
[0049]优选地，所述的正则损失为：
[0050][0051]式中：
[0052]m为每个batch的样本数量，
[0053]n为每个样本数据长度，
[0054]为第i个样本、第j个激光点数据，
[0055]为对应的注意力权重，
[0056]γ为偏置参数。
[0057]优选地，所述的偏置参数γ为注意力权重相对原始权重的比例，所述的偏置参数γ的取值范围为0～1；将所述的偏置参数γ设置阈值范围，所述的阈值范围在所述的取值范围内，当网络在迭代过程中所述的偏置参数γ调整到所述的阈值范围外，则对其进行截断。
[0058]优选地，所述的时序损失为：
[0059][0060]式中：
[0061]D为一批数据的所有激光点数，D＝m
×
n，
[0062]x
t
和x
t
‑1分别为t时刻与t
‑
1时刻输入网络的数据，
[0063]为第i个样本、第j个激本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种为激光点云计算注意力权重的神经网络，其特征在于：包括：输入层：所述的输入层为1
×
N维的激光点云序列或能表征点云轮廓的信息，序列长度为正整数，一维卷积层：所述的一维卷积层的卷积核为条状，用于处理序列，激活函数层：所述的激活函数层用于增强网络的非线性表征能力，提升网络对复杂数据的拟合能力，输出层：所述的输出层为1
×
N维的注意力权重序列，所述的注意力权重代入Scan
‑
to
‑
Scan或者Scan
‑
to
‑
Map的点云匹配的过程，用于降低没有区分度的特征对定位与地图构建带来的干扰。2.根据权利要求1所述的为激光点云计算注意力权重的神经网络，其特征在于：所述的一维卷积层为：式中：n为输入序列长度，w
ij
为输入序列第i个神经元与输出序列的第j个神经元之间的卷积核连接，b为卷积层后的偏置量。3.根据权利要求1所述的为激光点云计算注意力权重的神经网络，其特征在于：所述的激活函数层包括ReLU激活函数、Sigmoid函数，所述的ReLU激活函数为：ReLU(x)＝max(0,x)，所述的Sigmoid函数为：4.根据权利要求1所述的为激光点云计算注意力权重的神经网络，其特征在于：所述的注意力权重为：式中：p
i
为激光点云，q
i
在Scan
‑
to
‑
Scan匹配算法中为待匹配的另一帧激光点云，q
i
在Scan
‑
to
‑
Map中为占据栅格地图环境轮廓，w
i
为网络输出的注意力权重。5.一种根据上述任意一项权利要求所述的神经网络的训练方法，其特征在于：包括损失函数，所述的损失函数包括三元组损失、正则损失以及时序损失，所述的三元组损失和所...

【专利技术属性】
技术研发人员：邓修齐，邓若愚，
申请(专利权)人：同济人工智能研究院苏州有限公司，
类型：发明
国别省市：