一种基于无先验知识的联邦推荐投毒攻击方法技术

本发明专利技术提供了一种基于无先验知识的联邦推荐投毒攻击方法。该方法包括：根据攻击需求选取项目池中拟攻击的目标项目；计算与目标项目的嵌入向量最相似的多个项目，构建恶意用户虚假交互列表；基于恶意用户虚假交互列表近似喜欢目标项目的恶意用户的嵌入向量；客户端根据近似的嵌入向量以及服务器下发的模型参数求解损失函数，并将所得梯度上传至服务器；服务器聚合更新上传的模型参数并将其下发至客户端，重复上述操作直至训练结束。本发明专利技术利用用户配置文件及其交互项目间存在的某种隐式相关性，刻画攻击必需但难以获取的用户嵌入向量，能够在不依赖任何先验知识的前提下实现对联邦推荐系统的有效攻击，充分完成了对联邦推荐系统的安全性评估。荐系统的安全性评估。荐系统的安全性评估。

【技术实现步骤摘要】
一种基于无先验知识的联邦推荐投毒攻击方法


[0001]本专利技术涉及网络安全技术、隐私计算以及推荐
，尤其涉及一种基于无先验知识的联邦推荐投毒攻击方法。

技术介绍

[0002]推荐系统已成为应对信息过载不可或缺的工具。它通过挖掘用户行为数据的内在相关性，来预测可能引起用户兴趣的相关项目并进行推荐，被广泛应用于电子商务、新闻推送以及职场求职等不同场景。一般来说，推荐的质量与底层用户建模数据的数量、丰富程度和新鲜度紧密相关。系统使用的数据越多，获得的推荐性能就越好。但事实上，大量数据存在于不同组织且受到各种政策法规的限制，片面的集中式共享及不切实际的隐私与安全期待使数据互通陷入了“囚徒困境”。联邦学习可以在不破坏数据隐私的前提下打破数据孤岛，充分利用不同用户域信息，在推荐方面有着天然优势。
[0003]然而，由于分布式特性，联邦学习很容易受到恶意客户端的对抗性操作，即参与模型训练的客户端并不都是可信的。这使得联邦推荐比传统推荐更容易受到恶意攻击。投毒攻击是近年来出现的一种新兴攻击，其核心思想是通过向推荐系统注入恶意用户，使其执行某些操本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于无先验知识的联邦推荐投毒攻击方法，其特征在于，包括：对原始数据集进行处理，根据攻击需求选取项目池中拟攻击的目标项目；计算与所述目标项目的嵌入向量最相似的多个项目，构建恶意用户虚假交互列表；利用用户行为数据与其偏好间的隐含相关性，基于所述恶意用户虚假交互列表近似计算出喜欢目标项目的恶意用户的嵌入向量；根据所述恶意用户的嵌入向量以及服务器下发的全局模型参数求解攻击损失函数，根据损失函数计算出梯度值，将包含所述梯度值的模型参数上传至服务器，服务器聚合所有客户端上传的模型参数，将更新后的全局模型参数下发至各个客户端。2.根据权利要求1所述的方法，其特征在于，所述的对原始数据集进行处理，选取联邦推荐系统中的目标项目，包括：选取应用于联邦推荐系统的数据集，从数据集的整个项目池中随机抽样选取项目作为攻击者要推广的目标项目；或者，从数据集的项目池中依次选择多个流行度最低的项目作为目标项目。3.根据权利要求2所述的方法，其特征在于，所述的计算与所述目标项目的嵌入向量最相似的多个项目，构建恶意用户虚假交互列表，包括：给出两个项目的嵌入向量y和y'，利用式(1)计算它们的相似度值：选取与目标项目的嵌入向量相似度值sim(y,y')最高的n个项目，组成恶意用户虚假交互列表对v
n
进行编码化处理得到得到TSI的嵌入向量表示4.根据权利要求3所述的方法，其特征在于，所述的利用用户行为数据与其偏好间的隐含相关性，基于所述恶意用户虚假交互列表近似计算出喜欢目标项目的恶意用户的嵌入向量，包括...

【专利技术属性】
技术研发人员：王伟，郝玉蓉，刘吉强，纪守领，段莉，许向蕊，刘鹏睿，吕晓婷，
申请(专利权)人：浙江大学，
类型：发明
国别省市：