一种针对自动驾驶系统的伪造点云物体识别方法技术方案

本发明专利技术属于人工智能模型安全技术领域，具体为一种针对自动驾驶系统的伪造点云物体识别方法。本发明专利技术挖掘并利用现有点云实体伪造攻击在设计上受攻击设备和攻击目标约束的特点，通过评估模型检出的物体的局部组件与真实物体组件的相似性，以区分真实物体和伪造物体：先通过将输入空间划分成若干个等大的局部区域把模型检出的物体切割成若干个局部组件，再利用预训练好的点云分类模型识别这些局部组件是否对应真实物体的局部组件，最后基于识别结果众投判断模型检出物体是否是真实物体。本发明专利技术能广泛应用于各种不同构架的点云实体检测模型；并且对于点云实体伪造攻击都具有好的检测鲁棒性和有效性，为自动驾驶系统的安全保护提供有效工具。护提供有效工具。护提供有效工具。

【技术实现步骤摘要】
一种针对自动驾驶系统的伪造点云物体识别方法


[0001]本专利技术属于人工智能模型安全
，具体涉及一种针对自动驾驶系统的伪造点云物体识别方法。

技术介绍

[0002]随着深度学习技术的不断发展，深度学习模型的应用也已在现实生活中全方位普及，在自动驾驶系统中搭载深度学习模型也逐渐成为工业界的主流趋势。其中，由于激光雷达检测生成的点云数据精度高、包含的空间信息丰富，大部分自动驾驶系统选择激光雷达作为系统的主传感器，基于激光雷达生成的点云数据感知环境物体的点云实体检测模型成为了自动驾驶系统中的核心模型。然而，攻击者可以通过使用激光发射器对车载激光雷达发射激光，向车载激光雷达生成的点云数据针对性注入伪造点，导致自动驾驶系统内的点云实体检测模型检测到不存在的物体，进而使得相应的自动驾驶车辆错误地静止不动或紧急制动，引发更严重的现实安全问题。而现有的相关防御方法一般只用于去噪或是防御某一种特定的点云实体伪造攻击，缺少普适性，仍存在被适应性攻击攻破的风险。

技术实现思路

[0003]本专利技术针对点云实体伪造攻击，提出一种针对自动驾驶系本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种针对自动驾驶系统的伪造点云物体识别方法，其中，所述自动驾驶系统部署有一个基于点云的实体检测神经网络模型，简称目标模型；目标模型根据车载激光雷达检测生成的点云数据，感知环境中的各类物体，并将结果发送给后续模块进一步实现路径规划和障碍物规避的功能；在该场景中，攻击者可以通过使用激光发射器向车载激光雷达传感器发射激光，往车载激光雷达的检测点云数据中注入针对性设计的伪造点，从而使基于这些点云数据感知环境的目标模型检测到现实场景中不存在物体，即伪造物体；其特征在于：利用现有点云实体伪造模型在攻击能力和攻击目标上存在的共同特性，即伪造点云包含的有效局部组件偏少且与真实物体局部组件差异明显，通过划分点云输入空间并使用识别模型进行局部组件识别，从而剔除点云实体检测模型中检出的伪造物体；包括：识别模型准备阶段，检测结果划分阶段，识别模型检测阶段；其中：在识别模型准备阶段，切割用于训练点云实体检测模型的点云数据以生成局部点云样本，并使用这些样本训练识别局部组件是否属于真实实体的点云识别模型；在检测结果划分阶段，收集点云实体检测模型处理的输入点云数据以及输出的物体检测结果，将输入点云数据按空间位置切割成若干个等大的局部区域，并根据这些局部区域与物体检测结果的IoU 大小，即两个区域的交集和并集的比值，确定各局部区域分别对应哪个检测物体的局部组件；在识别模型检测阶段，用识别模型对对应检测物体局部组件的所有局部区域所包含的点云数据分别识别，判断各局部区域是否对应真实物体的局部组件，并通过众投判断各检测物体是否是真实物体。2.根据权利要求1所述的伪造点云物体识别方法，其特征在于，具体步骤为：步骤一、识别模型准备：训练用于识别真实物体组件的点云识别模型；具体流程为：...

【专利技术属性】
技术研发人员：杨珉，张谧，肖起凡，
申请(专利权)人：复旦大学，
类型：发明
国别省市：