【技术实现步骤摘要】
本专利技术涉及人工智能，特别涉及基于稀疏神经网络的自动驾驶信息识别方法。
技术介绍
1、自动驾驶任务中常使用dnn网络作为对抗样本的识别模型，随着dnn的深度不断加深，其很容易地扩展到数百万个参数，同时对于许多资源有限的设备来说，面临着巨大的挑战，例如沉重的计算和存储负担。这种负担源于大量冗余的特征表示和参数化。denil等人证明，在最佳情况下。网络只用5％的参数就可以达到与完整网络相当的性能。此外，其他的工作也指出，超过90％的连接可以通过修剪策略去除，同时几乎不会造成精度损失。进而可知，删除的冗余神经元连接是无用的，也就是说，它们对模型性能没有任何贡献。然而，由于存在着对抗性样本导致模型对微小但精心设计的扰动极为敏感，这可能导致一个非稳健的模型。针对这个问题，上述工作未能同时训练出一个稀疏和稳健的模型。此外，madry等人认为网络容量对稳健性至关重要，因为更大的网络容量意味着更复杂的对抗性决策边界。tsipreas等人也指出，增加网络容量可以提供更好的权衡。网络容量可以在标准精度和对抗性鲁棒性之间提供更好的权衡。标准的准确性和其对抗性的稳健性之间提供更好的平衡。从经验上讲，去除冗余的神经元连接可能有助于提高模型的对抗性稳健性。guo等人和xiao等人从理论上证明，适当提高权重稀疏度意味着自然训练的模型具有更好的鲁棒性训练的模型有更好的鲁棒性。
2、基于min-max稳健优化的对抗训练提供了一个对抗一阶对抗攻击的概念，它依赖于损失函数的梯度输入，这已被经验验证为是防御一阶对抗攻击的最有效方法。ye等人和sehwag
3、然而，由于权重矩阵的条件数急剧增加，导致权重空间条件不良，过度稀疏化的模型可能对鲁棒性有害。导致权重空间病态。当稀疏度上升时，较大的条件数取代了lipschitz常数，成为模型鲁棒性的关键因素，尽管lipschitz常数已经被稀疏度正则化项限制。
4、由于上述网络所存在的问题，导致自动驾驶任务中的对抗样本识别存在在计算量较小的情况下识别精度不足，效率不高的问题。
技术实现思路
1、为解决上述现有技术中所存在的问题，本专利技术提供一种基于稀疏神经网络的自动驾驶信息识别方法，能够提升稀疏神经网络的鲁棒性，进而提升自动驾驶任务中识别信息在计算量较小的情况下识别精度及效率。
2、为了实现上述技术目的，本专利技术提供了如下技术方案：基于稀疏神经网络的自动驾驶信息识别方法，包括：
3、构建自动驾驶环境感知图像的稀疏神经网络模型，
4、通过稀疏约束项和稀疏正则化项构建的成本函数对稀疏神经网络模型进行自动驾驶中的对抗样本训练；
5、通过训练好的稀疏神经网络对自动驾驶环境感知图像进行识别，得到图像中的检测目标以实现自动驾驶信息识别。
6、可选的，所述成本函数为：
7、
8、其中λ>0控制自动驾驶环境感知图像的稀疏神经网络模型中稀疏约束的强度数值，β>0控制自动驾驶环境感知图像的稀疏神经网络模型中权重矩阵的稳定性的稳定数值；为自动驾驶环境感知图像的稀疏约束项，为控制自动驾驶环境感知图像的稀疏神经网络模型条件数的稀疏正则化项，为约束自动驾驶环境感知图像的稀疏神经网络模型的成本函数，其中为自动驾驶环境感知图像的稀疏神经网络模型权重参数，为控制自动驾驶环境感知图像神经模型鲁棒性的成本函数。
9、可选的，所述强度数值与所述稳定数值之间存在倍数关系，其中稳定数值设置为等于或大于强度数值的10倍数值。
10、可选的，稀疏约束项
11、
12、其中，稀疏约束项用于控制自动驾驶环境感知图像的稀疏神经网络模型权重参数的稀疏度，是自动驾驶环境感知图像的稀疏神经网络模型权重参数的维度，j为权重参数所在层数，logαj表示第j层的定位参数，β为控制权重范围大小的参数，γ,ζ为区间范围相关参数，其中γ<0，ζ>1，a为控制权重矩阵结构变化的超参数，σ为sigmoid函数。
13、可选的，稀疏正则化项为：
14、
15、其中，t为自动驾驶环境感知图像的稀疏神经网络模型权重对应层数，v为微小平滑因子，k为缩放因子，wj为第j层权重矩阵参数，为第j层权重矩阵的转置，det表示行列式函数。
16、可选的，所述权重参数为：
17、
18、θ为稀疏神经网络模型的原始权重，g(·)＝min(1,max(0，·))为范围控制函数，保证其在(0，1)范围内，s为服从严格伯努利分布的变量。
19、可选的，对稀疏神经网络进行训练的过程包括：
20、获取自动驾驶环境感知图像的稀疏神经网络的权重、温度系数、稀疏度及训练样本；
21、根据训练样本的当前样本、权重及温度系数，获取下一时刻的辅助权重及辅助变量；
22、根据下一时刻的辅助权重及辅助变量，对当前权重及变量进行更新，获取下一类别的权重及变量；
23、并以更新后的下一类别的权重及变量为基础，重复权重及变量的更新过程，直到训练样本遍历完成，生成训练好的稀疏神经网络。
24、可选的，获取下一类别权重wk+1的过程包括：
25、
26、n为自动驾驶环境感知图像输入输出数据对的个数，rd为d维度的欧式空间，为第k+1层的转置矩阵权重，为第k+1层的矩阵权重。
27、可选的，获取下一类别的变量sk+1进行更新的过程包括：
28、
29、其中，logα表示定位参数，通过正态分布采样得到，a为控制权重矩阵结构变化的超参数，用于控制权重矩阵的参数分布形状。
30、本专利技术具有如下技术效果：
31、本文研究了网络的稀疏性和对抗性鲁棒性之间的关系，并从理论上证明所提出的稀疏正则化项，通过限制lipschitz常数来促进dnn的稀疏性，从而提高模型的鲁棒性。针对自动驾驶任务场景中车载计算资源受限的场景，基于本专利技术技术方案对自动驾驶神经网络进行稀疏化，在保证鲁棒性的前提下，进一步提升自动驾驶任务中识别信息在计算量较小的情况下识别精度及效率。
本文档来自技高网...【技术保护点】
1.基于稀疏神经网络的自动驾驶信息识别方法，其特征在于，包括：
2.根据权利要求1所述的自动驾驶信息识别方法，其特征在于：
3.根据权利要求2所述的自动驾驶信息识别方法，其特征在于：
4.根据权利要求2所述的自动驾驶信息识别方法，其特征在于：
5.根据权利要求1所述的自动驾驶信息识别方法，其特征在于：
6.根据权利要求4所述的自动驾驶信息识别方法，其特征在于：
7.根据权利要求1所述的自动驾驶信息识别方法，其特征在于：
8.根据权利要求7所述的自动驾驶信息识别方法，其特征在于：
9.根据权利要求7所述的自动驾驶信息识别方法，其特征在于：
【技术特征摘要】
1.基于稀疏神经网络的自动驾驶信息识别方法，其特征在于，包括：
2.根据权利要求1所述的自动驾驶信息识别方法，其特征在于：
3.根据权利要求2所述的自动驾驶信息识别方法，其特征在于：
4.根据权利要求2所述的自动驾驶信息识别方法，其特征在于：
5.根据权利要求1所述的自动...
【专利技术属性】
技术研发人员：张剑锋，郭杰龙，朱达欣，蔡丹琳，谢宇芳，
申请(专利权)人：泉州师范学院，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。