【技术实现步骤摘要】
本专利技术涉及人脸识别系统中的模型安全，特别是涉及一种针对人脸识别系统的模型遗忘方法。
技术介绍
1、现如今，大量数据的可用性推动了现代深度学习的发展，以人脸识别为例，公司要自研一款人脸识别系统来对自己的员工进行识别，那么就需要收集员工的人脸数据对模型进行训练。这些数据属于用户的隐私数据，收集这些信息的公司或组织必须遵守数据保护法规，不能泄露用户的隐私与安全信息。在欧盟《通用数据保护条例》以及《加州消费者隐私法案》中，突出强调了组织机构必须在用户提出请求时立即删除该用户的个人信息等数据，包括用该数据经过训练的模型。比如，如果某个员工申请了离职，这位员工就有权要求公司删除他人脸数据相关的全部数据信息。然而，如果仅仅是在数据库中删除掉该用户的人脸数据，而不对人脸识别模型进行重新训练的话，可能无法完全删除用户数据的隐私信息，该用户的某些信息可能隐式的包含的模型的参数当中，因此想要彻底的删除掉该员工的人脸数据，就需要使用不包含该员工人脸数据的训练集从头重新训练人脸识别模型。对于大模型而言，频繁的重新训练会消耗大量的财力和算力，计算成本的代价是昂
本文档来自技高网...
【技术保护点】
1.一种针对人脸识别系统的模型遗忘方法，包括模型遗忘中毒攻击算法，其特征在于，具体包括以下步骤：
2.根据权利要求1所述的一种针对人脸识别系统的模型遗忘方法，其特征在于：所述模型遗忘中毒攻击算法的优化问题包括上层优化问题和下层优化问题，所述上层优化问题表示系统在执行完模型遗忘算法后在验证集上的对抗损失最小化，具体公式为：
3.根据权利要求2所述的一种针对人脸识别系统的模型遗忘方法，其特征在于：所述需要被遗忘数据集的遗忘算法公式表示为：
4.根据权利要求1所述的一种针对人脸识别系统的模型遗忘方法，其特征在于：所述模型遗忘中毒攻击算法具
【技术特征摘要】
1.一种针对人脸识别系统的模型遗忘方法，包括模型遗忘中毒攻击算法，其特征在于，具体包括以下步骤：
2.根据权利要求1所述的一种针对人脸识别系统的模型遗忘方法，其特征在于：所述模型遗忘中毒攻击算法的优化问题包括上层优化问题和下层优化问题，所述上层优化问题表示系统在执行完模型遗忘算法后在验证集上的对抗损失最小化，具体公式为：
3.根据权利要求2所述的一种针对人脸识别系统的模型遗忘方法，其特征在于：所述需要被遗忘数据集的...
【专利技术属性】
技术研发人员：刘静，朱江，赵宏，
申请(专利权)人：西安电子科技大学广州研究院，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。