一种自动驾驶车辆投毒数据的机器遗忘方法和系统技术方案

本发明专利技术公开了一种自动驾驶车辆投毒数据的遗忘方法，包括：获取自动驾驶车辆干净数据集和自动驾驶车辆待检测数据集；利用自动驾驶车辆干净数据集对ResNet50模型进行微调，以得到微调后的ResNet50模型，并对微调后的ResNet50模型进行强化学习RL处理，以得到分类模型M<subgt;0</subgt;，使用分类模型M<subgt;0</subgt;将自动驾驶车辆待检测数据集分类为投毒数据集X<subgt;p</subgt;和正常样本数据集X<subgt;safe</subgt;，根据投毒数据集X<subgt;p</subgt;和正常样本数据集X<subgt;safe</subgt;，并利用更新参数的方式对待遗忘的自动驾驶车辆感知模型M<subgt;poisoned</subgt;进行遗忘操作，以获取遗忘后的自动驾驶车辆感知模型M<subgt;safe</subgt;。本发明专利技术能够解决现有基于数据筛选与验证的方法由于高度依赖于预设的质量标准和安全阈值，导致模型面对未知威胁时的脆弱性增加的技术问题。

【技术实现步骤摘要】

本专利技术属于机器学习，更具体地，涉及一种自动驾驶车辆投毒数据的机器遗忘(machine unlearning，简称mu)方法和系统。

技术介绍

1、随着自动驾驶技术的广泛应用，尤其是在无人驾驶汽车领域，数据的安全性和模型的可靠性成为了研究的热点。自动驾驶车辆依赖于大量的数据来训练其感知模型，确保行驶安全。然而，恶意攻击者可能通过投毒攻击(即在训练数据中植入恶意数据)来植入后门，这些后门可能在特定条件下激活，导致自动驾驶车辆采取不安全的行动，严重威胁乘客和行人的安全。

2、为了解决上述问题，研究者们开发了不同的投毒数据检测和遗忘方法，典型的有三种方法，第一种方法是基于数据筛选与验证(data filtering and validation)的方法，该方法主要通过对输入数据进行严格的筛选和验证，排除那些可能被污染或具有潜在风险的数据，确保只有符合特定质量标准和安全阈值的数据才能被用于模型训练；第二种方法是基于异常检测技术(anomaly detection)的方法，其通过建立正常数据的行为模型，并使用统计或机器学习技术来检测偏离这些模型的数据，本文档来自技高网...

【技术保护点】

1.一种自动驾驶车辆投毒数据的遗忘方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的自动驾驶车辆投毒数据的遗忘方法，其特征在于，

3.根据权利要求1或2所述的自动驾驶车辆投毒数据的遗忘方法，其特征在于，步骤(2)包括以下子步骤：

4.根据权利要求1至3中任意一项所述的自动驾驶车辆投毒数据的遗忘方法，其特征在于，

5.根据权利要求4所述的自动驾驶车辆投毒数据的遗忘方法，其特征在于，步骤(2-6)具体为，首先，针对步骤(2-1)得到的投毒数据集中的每个投毒样本I而言，对该投毒样本I进行编码，以得到该投毒样本对应的特征向量g(I)，并使用...

【技术特征摘要】

1.一种自动驾驶车辆投毒数据的遗忘方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的自动驾驶车辆投毒数据的遗忘方法，其特征在于，

3.根据权利要求1或2所述的自动驾驶车辆投毒数据的遗忘方法，其特征在于，步骤(2)包括以下子步骤：

4.根据权利要求1至3中任意一项所述的自动驾驶车辆投毒数据的遗忘方法，其特征在于，

5.根据权利要求4所述的自动驾驶车辆投毒数据的遗忘方法，其特征在于，步骤(2-6)具体为，首先，针对步骤(2-1)得到的投毒数据集中的每个投毒样本i而言，对该投毒样本i进行编码，以得到该投毒样本对应的特征向量g(i)，并使用resnet18作为嵌入模型对步骤(2-1)得到的每个投毒样本在步骤(1)获取的自动驾驶车辆干净数据集中对应的干净样本isafe进行编码，...

【专利技术属性】
技术研发人员：唐卓，龚晨，左知微，陈长建，张嘉鹏，李肯立，
申请(专利权)人：湖南大学，
类型：发明
国别省市：