一种针对推荐系统脆弱性的智能通用评估方法和系统技术方案

本发明专利技术涉及一种针对推荐系统脆弱性的智能通用评估方法和系统。该方法包括：1)对推荐系统建立攻击策略的搜索树；2)采用强化学习算法从所述搜索树中学习高效的攻击策略；3)根据学习得到的攻击策略以及测试攻击效果对推荐系统的脆弱性进行评估。本发明专利技术提出了针对复杂推荐系统，高效自适应评估其脆弱性的方案，该方案基于强化学习架构，无需过多人工干预，人工成本低，可快速定位到针对特定推荐系统的有效攻击手段，通过攻击效果进而来准确高效地对推荐系统脆弱性进行评估，获得的高效攻击策略也可以更有针对性地指导防御手段的设计。

【技术实现步骤摘要】
一种针对推荐系统脆弱性的智能通用评估方法和系统
本方法属于信息
，主要针对目前流行的在线推荐系统，考虑在有限知识背景下，针对不同的推荐系统，如何快速自适应地评估其承受黑产攻击的能力，即脆弱性。该方法基于先进的强化学习技术架构，无需过多人工干预，可以高效探索有用的攻击策略，快速检测不同推荐系统在不同黑产攻击策略下的表现，从而快速检测其脆弱性。
技术介绍
为了更好的服务用户，国内外大量在线系统平台都引入了更加丰富、先进的算法来猜测新老用户喜好，从而更加有针对性地对平台内容进行推荐。背后最基本的思想之一就是协同过滤：如果用户A和用户B在行为或偏好上类似，那么系统就有可能将用户B购买过的其他商品推荐给用户A。而近年，有研究指出，该类推荐算法面对“数据污染攻击”十分脆弱。在攻击者有意的引导下，推荐系统会很容易按照他们的意愿表现，例如：更多地推荐攻击者所有的一些商品。这样他们的商品就可以获取更多的曝光，从而谋取原本不属于自己的不当利益。具体地，对于攻击者选定的目标商品集合It，他们期望越高越好，其中是目标商品i经过攻击后一定时间内增加的曝光量本文档来自技高网...

【技术保护点】
1.一种针对推荐系统脆弱性的智能通用评估方法，其特征在于，包括以下步骤：/n1)对推荐系统建立攻击策略的搜索树；/n2)采用强化学习算法从所述搜索树中学习高效的攻击策略；/n3)根据学习得到的攻击策略对推荐系统的脆弱性进行评估。/n

【技术特征摘要】
1.一种针对推荐系统脆弱性的智能通用评估方法，其特征在于，包括以下步骤：
1)对推荐系统建立攻击策略的搜索树；
2)采用强化学习算法从所述搜索树中学习高效的攻击策略；
3)根据学习得到的攻击策略对推荐系统的脆弱性进行评估。


2.根据权利要求1所述的方法，其特征在于，所述搜索树中从上到下的一条路径为一个完整的攻击策略，每个节点下方一共有|A|种不同的可能，A0、A1、…、A|A|-1分别表示行为空间A中不同的操作行为；攻击策略中的攻击步为T时，整体的搜索空间为：|A|T。


3.根据权利要求2所述的方法，其特征在于，所述操作行为包括：点击、购买、收藏。


4.根据权利要求1所述的方法，其特征在于，所述强化学习算法定义一个策略网络πθ(·|st)，其中πθ是参数为θ的一个神经网络，其在每一时刻t，接收当前时刻的状态st，并输出一个在所有操作行为上的多项式概率分布，之后基于此多项式概率分布采样当前时刻的行为at，多步的攻击行为at组成一条完整的攻击策略τ＝{a0，a1，...，aT-1}。


5.根据权利要求4所述的方法，其特征在于，所述强化学习算法包括以下步骤：
a)初始化策略网络πθ(·|st)；
b)选择某目标商品集合，并划分剩下的商品；
c)依据策略网络πθ(·|st)，采样一条长为T的攻击策略τ＝{a0，a1，...，aT-1}；
d)依...

【专利技术属性】
技术研发人员：宋军帅，李朝，胡仄虹，高军，李健，李振鹏，
申请(专利权)人：北京大学，
类型：发明
国别省市：北京;11