【技术实现步骤摘要】
本专利技术涉及人工智能安全领域，尤其是一种基于遗忘学习的可解释图推荐系统后门防御方法及系统。
技术介绍
1、图神经网络(graph neural networks，gnns)作为深度学习在图结构数据处理方面的一个重要突破，近年来在推荐系统中显示了巨大的潜力。gnns通过有效的信息传播机制深入挖掘图结构数据，捕获节点间复杂的关系和拓扑特征。尤其在推荐系统中，gnns可以通过学习用户和物品间的复杂交互，提供更加个性化和精准的推荐。
2、然而，随着gnns在推荐系统中的广泛应用，其潜在的安全和隐私问题也日益显现。特别是后门攻击，成为了这一领域的一个主要安全威胁。在这种攻击中，攻击者在数据中嵌入精心设计的触发器(triggers)，以在模型的正常表现下隐匿其存在。但当输入数据包含这些触发器时，模型将输出攻击者预设的错误标签。这种攻击在推荐系统中尤为严重，因为它可以导致用户接收到恶意或不相关的推荐内容，从而损害用户体验和信任。
3、目前，针对gnns的后门防御主要集中在训练阶段，通过识别和过滤中毒数据来训练出无污染的模型。然而，这种方法忽略了一个关键问题：即使中毒数据被移除，攻击者仍然可以通过修改用户之间的关系或交互模式来植入后门。此外，现实应用中的推荐系统往往依赖于预训练的gnn模型，而非从头开始训练，这使得识别和净化已受污染的模型成为一个迫切的需求。因此，为了在保持推荐系统性能的同时缓解后门问题，我们需要开发新的、专门针对基于gnn的推荐系统的后门防御策略。这些策略应该能够在不破坏模型主要任务性能的前提下，有效
技术实现思路
1、专利技术目的：针对上述现有技术存在的问题，本专利技术提供一种针对图推荐系统的、后门防御效果更好、效率更高的基于遗忘学习的可解释图推荐系统后门防御方法及系统。
2、技术方案：为实现上述专利技术目的，本专利技术具体采用了如下技术方案：
3、一种基于遗忘学习的可解释图推荐系统后门防御方法，包含以下步骤：
4、(1)利用干净数据集，包括用户对商品的评价、用户关系图、物品关系图和/或用户物品交互图，通过可解释的图后门还原方法，得到生成后门触发器子图的节点特征生成器和拓扑特征生成器，以及后门触发器子图的大小，恢复后门模型中的后门触发器子图；所述节点特征生成器输入随机噪声，输出触发器子图节点特征，所述拓扑特征生成器输入随机噪声，输出触发器子图拓扑特征；
5、(2)将后门触发器子图添加至正常样本，基于知识蒸馏的进行遗忘学习，遗忘后门触发器特征并保持模型在正常任务上的精度，净化后门模型。
6、作为优选，步骤(1)中，所述可解释的图后门还原方法，通过求解如下问题得到生成后门触发器子图的节点特征生成器和拓扑特征生成器，以及后门触发器子图的大小；
7、
8、
9、
10、其中，为相似度阈值，t和n分别表示触发器子图和触发器中节点的个数，gj和gk表示批大小为b的干净样本集中的两个不同样本，表示将n个节点的触发器子图嵌入到gj、gk中，f表示后门模型特征输出；cos表示余弦相似度。
11、作为优选，步骤(1)中，节点特征生成器gnode(δ1)与拓扑特征生成器gedge(δ2)表示为；
12、
13、
14、其中，δ1和δ2表示随机噪声，wa和wx为可训练参数，mlp(·)表示多层感知机，将随机噪声映射到新的特征空间，是生成的触发器子图的邻接矩阵，表示触发器子图节点的特征，其中s和d分别表示生成的触发器子图的大小和特征的维数。
15、作为优选，后门触发器子图的嵌入方式是，通过montage函数在干净子图上用触发器子图替换原有的节点，得到带有后门触发器的中毒子图。
16、作为优选，通过图神经网络可解释器得到节点重要性排序，用生成的触发器子图替换非重要节点。
17、作为优选，步骤(2)中，包含以下步骤：
18、(2.1)以后门模型的参数分别初始化一个学生模型fs和一个教师模型ft，通过教师模型指导学生模型的方式，遗忘后门模型表征空间中后门触发器子图的特征；
19、(2.2)从干净数据集g中随机采样批大小为b数据子集g′，通过节点特征生成器和拓扑特征生成器生成节点特征和拓扑特征，组合得到触发器子图ti；随后将生成的触发器子图添加至gi∈g′，得到中毒子图gii；基于知识蒸馏的遗忘学习损失函数如下：
20、
21、其中，表示教师模型ft以子图gi为输入的logits层输出，表示教师模型ft以子图g’i为输入的logits层输出，表示学生模型fs以子图gi为输入的logits层输出；
22、(2.3)根据步骤(2.2)中的损失，采用梯度下降法更新学生模型。
23、基于相同的专利技术构思，本专利技术提供的一种基于遗忘学习的可解释图推荐系统后门防御系统，包括：
24、触发器还原模块，用于利用干净数据集，包括用户对商品的评价、用户关系图、物品关系图和/或用户物品交互图，通过可解释的图后门还原方法，得到生成后门触发器子图的节点特征生成器和拓扑特征生成器，以及后门触发器子图的大小，恢复后门模型中的后门触发器子图；
25、以及，遗忘学习模块，用于将后门触发器子图添加至正常样本，基于知识蒸馏的进行遗忘学习，遗忘后门触发器特征并保持模型在正常任务上的精度，净化后门模型。
26、基于相同的专利技术构思，本专利技术提供的一种计算机系统，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述计算机程序被加载至处理器时实现所述的一种基于遗忘学习的可解释图推荐系统后门防御方法的步骤。
27、有益效果：本专利技术提供的基于遗忘学习的可解释图推荐系统后门防御方法及系统，通过可解释的后门还原方法可以有效还原包含拓扑特征与节点特征的具有强特征的代表性后门触发器子图，可以有效还原推荐系统中，攻击者通过添加商品与用户之间边，构造不存在的商品用户关系等得到中毒子图问题。并且本专利技术采用解释器筛选出非重要特征，能更快的还原出潜在得触发器，且不需要遍历所有的标签种类，在资源损耗上以及算法效率上更具优势。此外，针对现有的训练阶段的后门防御受现实场景约束，本方案更贴合现实场景，能够有缓解中毒模型中的后门，提升模型鲁棒性的同时，保持模型在主任务上的性能。
本文档来自技高网...【技术保护点】
1.一种基于遗忘学习的可解释图推荐系统后门防御方法，其特征在于，包含以下步骤：
2.根据权利要求1所述的一种基于遗忘学习的可解释图推荐系统后门防御方法，其特征在于，步骤(1)中，所述可解释的图后门还原方法，通过求解如下问题得到生成后门触发器子图的节点特征生成器和拓扑特征生成器，以及后门触发器子图的大小；
3.根据权利要求1所述的一种基于遗忘学习的可解释图推荐系统后门防御方法，其特征在于，步骤(1)中，节点特征生成器Gnode(δ1)与拓扑特征生成器Gedge(δ2)表示为；
4.根据权利要求1所述的一种基于遗忘学习的可解释图推荐系统后门防御方法，其特征在于，后门触发器子图的嵌入方式是，通过Montage函数在干净子图上用触发器子图替换原有的节点，得到带有后门触发器的中毒子图。
5.根据权利要求1所述的一种基于遗忘学习的可解释图推荐系统后门防御方法，其特征在于，通过图神经网络可解释器得到节点重要性排序，用生成的触发器子图替换非重要节点。
6.根据权利要求1所述的一种基于遗忘学习的可解释图推荐系统后门防御方法，其特征在于，步
7.一种基于遗忘学习的可解释图推荐系统后门防御系统，其特征在于，包括：
8.根据权利要求7所述的一种基于遗忘学习的可解释图推荐系统后门防御系统，其特征在于，所述触发器还原模块中，可解释的图后门还原方法，通过求解如下问题得到生成后门触发器子图的节点特征生成器和拓扑特征生成器，以及后门触发器子图的大小；
9.根据权利要求7所述的一种基于遗忘学习的可解释图推荐系统后门防御系统，其特征在于，所述触发器还原模块中，节点特征生成器Gnode(δ1)与拓扑特征生成器Gedge(δ2)表示为；
10.一种计算机系统，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述计算机程序被加载至处理器时实现根据权利要求1-6任一项所述的一种基于遗忘学习的可解释图推荐系统后门防御方法的步骤。
...【技术特征摘要】
1.一种基于遗忘学习的可解释图推荐系统后门防御方法，其特征在于，包含以下步骤：
2.根据权利要求1所述的一种基于遗忘学习的可解释图推荐系统后门防御方法，其特征在于，步骤(1)中，所述可解释的图后门还原方法，通过求解如下问题得到生成后门触发器子图的节点特征生成器和拓扑特征生成器，以及后门触发器子图的大小；
3.根据权利要求1所述的一种基于遗忘学习的可解释图推荐系统后门防御方法，其特征在于，步骤(1)中，节点特征生成器gnode(δ1)与拓扑特征生成器gedge(δ2)表示为；
4.根据权利要求1所述的一种基于遗忘学习的可解释图推荐系统后门防御方法，其特征在于，后门触发器子图的嵌入方式是，通过montage函数在干净子图上用触发器子图替换原有的节点，得到带有后门触发器的中毒子图。
5.根据权利要求1所述的一种基于遗忘学习的可解释图推荐系统后门防御方法，其特征在于，通过图神经网络可解释器得到节点重要性排序，用生成的触发器子图替换非重...
【专利技术属性】
技术研发人员：张佳乐，饶博森，朱诚诚，孙小兵，陈玮彤，成翔，
申请(专利权)人：扬州大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。