【技术实现步骤摘要】
本专利技术属于机器学习领域，涉及一种视觉感知系统的延迟攻击对抗样本生成方法及相关装置。
技术介绍
1、随着人工智能和传感器技术的飞速发展，自动驾驶汽车已经悄然走入日常生活，成为各大车企竞相布局的新赛道。对于这些自动驾驶车辆，基于摄像头的感知系统扮演着至关重要的角色，使其能够实时检测行人、车辆等道路目标从而确保行车安全。然而近年来自动驾驶领域频频发生的安全事故敲响了警钟，凸显了感知系统错误可能导致的各种安全隐患，甚至是灾难性后果。因此，深入挖掘感知系统潜在的攻击面和漏洞，对于提高自动驾驶系统的安全性和可靠性至关重要。
2、近年来，相关研究表明，自动驾驶采用的目标检测模型容易受到对抗样本的影响。攻击者可以利用这一特点，在正常样本中加入人眼无法识别的微小扰动来生成对抗样本，从而欺骗目标检测模型。对抗样本已经对自动驾驶视觉感知系统的安全部署和运行构成了威胁。然而，现有研究大多关注于完整性方面的问题，例如，使物体消失或改变物体的类别，从而导致安全隐患或交通违规。
3、然而，在对于安全至关重要的视觉感知系统的可用性方面，目前...
【技术保护点】
1.一种视觉感知系统的延迟攻击对抗样本生成方法，其特征在于，包括：
2.根据权利要求1所述的视觉感知系统的延迟攻击对抗样本生成方法，其特征在于，所述获取原始图像集包括：
3.根据权利要求1所述的视觉感知系统的延迟攻击对抗样本生成方法，其特征在于，所述根据视觉感知系统的目标跟踪器参数，基于原始图像集以最大化视觉感知系统的目标跟踪器的延迟时间为优化目标得到攻击策略包括：
4.根据权利要求3所述的视觉感知系统的延迟攻击对抗样本生成方法，其特征在于，所述以最小化视觉感知系统的目标检测模型的损失函数值为优化目标，生成与攻击策略的攻击区域数量相...
【技术特征摘要】
1.一种视觉感知系统的延迟攻击对抗样本生成方法，其特征在于，包括：
2.根据权利要求1所述的视觉感知系统的延迟攻击对抗样本生成方法，其特征在于，所述获取原始图像集包括：
3.根据权利要求1所述的视觉感知系统的延迟攻击对抗样本生成方法，其特征在于，所述根据视觉感知系统的目标跟踪器参数，基于原始图像集以最大化视觉感知系统的目标跟踪器的延迟时间为优化目标得到攻击策略包括：
4.根据权利要求3所述的视觉感知系统的延迟攻击对抗样本生成方法，其特征在于，所述以最小化视觉感知系统的目标检测模型的损失函数值为优化目标，生成与攻击策略的攻击区域数量相同数量的通用对抗扰动包括：
5.根据权利要求4所述的视觉感知系统的延迟攻击对抗样本生成方法，其特征在于，所述使用预设优化器优化当前初始对抗扰动以最小化扰动图像集的损失函数值时，通过构建下式的优化函数实现：
<...【专利技术属性】
技术研发人员：沈超，马晨，蔺琛皓，赵正宇，王博辉，管晓宏，
申请(专利权)人：西安交通大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。