一种面向车道线检测的知识蒸馏方法技术

本发明专利技术公开了一种面向车道线检测的知识蒸馏方法，其包括学生卷积神经网络和教师卷积神经网络，其包括步骤S10和/或步骤S20；其中，步骤S10是基于中间过程特征图的特征关系相关性的知识蒸馏，步骤S20是基于训练结果特征图的融合多尺度对抗网络的知识蒸馏。本发明专利技术提出了一种面向车道线检测模型的融合特征关系相关性以及多尺度对抗网络的知识蒸馏方法，用于解决语义分割小模型泛化能力弱、语义信息不连续的问题。续的问题。续的问题。

【技术实现步骤摘要】
一种面向车道线检测的知识蒸馏方法


[0001]本专利技术涉及人工智能领域，尤其涉及一种面向车道线检测的知识蒸馏方法。

技术介绍

[0002]语义分割旨在识别图像中的像素语义类别，被视为智能场景理解的重要一步。语义分割任务需要为给定输入图像的每个像素分配类别标签或回归特定值，以形成结构化输出。通常，这些任务对比图像级预测问题，需要具有大容量的网络才能实现令人满意的精度，对硬件资源要求较高。边缘设备资源受限无法很好满足大型网络的硬件需求，所以迫切需要压缩语义分割模型、降低模型资源需求、提升模型运行速度，尤其是像自动驾驶中车道线检测这样实时性要求很高的边缘计算任务。
[0003]知识蒸馏(Knowledge Distillation)提供了一种吸引人的方式，通过从更大容量的受过训练的教师模型中转移知识来促进小模型的训练。虽然现有的蒸馏方法在许多分类任务中显示出有效性，但我们发现它们在车道线语义分割任务中检测对多尺度信息以及特征关系的相关性方面仍然不足。具体而言，对于车道线的语义分割模型既要有全局的整体语义分割又要有局部的细节纹理特征识别。车道本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种面向车道线检测的知识蒸馏方法，其包括学生卷积神经网络和教师卷积神经网络，其特征在于：其包括步骤S10，所述步骤S10是基于中间过程特征图的特征关系相关性的知识蒸馏；所述步骤S10包括以下子步骤：S101，对齐学生卷积神经网络与教师卷积神经网络的中间过程特征图：将训练图像分别输入学生卷积神经网络和教师卷积神经网络，以获得训练图像上的学生卷积神经网络、教师卷积神经网络的中间过程特征图,设定从学生卷积神经网络提取的特征图记为，尺寸大小为，其中，c
s
,w
s
,h
s
分别为：学生卷积神经网络提取的特征图的通道、宽度、高度,从教师卷积神经网络提取出的特征图记为，尺寸大小为；其中，c
t
,w
t
,h
t
分别为：教师卷积神经网络提取的特征图的通道、宽度、高度；S102，缩放学生特征图来使其符合教师特征图的空间尺寸，得到，这一步定义为：重新缩放方法的使用取决于与 比较：小于时采用放大，大于时采用缩小，相同时不运行；S103，构建特征关系图：首先将大小为的特征图ε，沿通道c进行绝对值求和，以生成特征关系图，其过程定义为：，，，其中，w是特征图ε的宽度,h是特征图ε的高度,R是映射的特征图,s代表学生卷积神经网络,t 代表教师卷积神经网络,i代表学生卷积神经网络的像素，j代表教师卷积神经网络的像素，表示特征图的第个矩阵，为神经网络某层各神经元激活的绝对值和；,分别代表从学生卷积神经网络和教师卷积神经网络提取的对应位置的特征图；，则分别代表学生卷积神经网络和教师卷积神经网络的特征关系图；S104，特征关系相关性计算：通过使用Gram矩阵计算特征关系的相关性：，，其中，是层中矢量化特征图和之间的内积，代表学生卷积神经网络的特征关系相关性，代表教师卷积神经网络的特征关系相关性，代表学生卷积神经网络与教师卷积神经网络两者特征关系相关性的距离，即特征图的特征关系损失。2.根据权利要求1所述的一种面向车道线检测的知识蒸馏方法，其特征在于，所述...

【专利技术属性】
技术研发人员：朱凤华，张欢，郑奎，沙尧尧，李崇，
申请(专利权)人：中科领航智能科技苏州有限公司，
类型：发明
国别省市：