【技术实现步骤摘要】
一种基于图神经网络的恶意用户检测方法及装置
[0001]本专利技术设计了一种基于图神经网络(Graph Neural Network)的恶意用户检测方法及装置，属于网络信息安全与人工智能交叉领域。
技术背景
[0002]社交媒体的迅速发展使人们能够在网上自由表达自己的观点。然而，它也成为仇恨言论的温床。互联网上仇恨内容的急剧增加导致了冲突的出现。因此，仇恨言论的分类已经成为工业界和学术界越来越感兴趣的话题。
[0003]尽管在这一领域已有努力，仇恨言论检测仍然具有挑战性。首先，一些模型过度简化了问题，比如只考虑带有仇恨相关词汇的推文。这些方法完全依赖于文本(例如，词法和语义)特征，忽略用户和社区信息。第二，一些仇恨言论分类器在应对非常简单且模型无关的攻击方面显得非常脆弱。在某些情况下这些攻击使得检测召回率减少了接近50％。因此，仅依赖于文本检测的仇恨言论分类器对于故意误导分类器的攻击来说是不鲁棒的。
[0004]研究仇恨言论不仅仅可以从社交网络中的文本内容出发，与个人或者组织本身相关的信息同样重要。研究这类信...
【技术保护点】
【技术特征摘要】
1.一种基于图神经网络的恶意用户检测方法，其步骤包括：1)收集社交网络中的用户推文，并建立社交图G
o
，其中用户为社交图G
o
的节点，若用户之间存在社交关系，则构建社交图G
o
中相应节点的边；2)依据各节点的属性，计算各节点的初始特征，并根据社交图G
o
中任两个节点初始特征的相似性，获取潜在图G
l
的连边；3)通过潜在图G
l
的连边及社交图G
o
上的节点，构建潜在图G
l
；4)通过各节点的初始特征、在社交图G
o
中的社交邻域与在潜在图G
l
中的潜在邻域，生成各节点的节点嵌入表示，其中社交邻域由目标节点的相邻节点组成，潜在邻域由与目标节点相似度高于设定阈值的节点组成；5)依据各节点的节点嵌入表示，得到恶意用户检测结果。2.如权利要求1所述的方法，其特征在于，所述属性包括：内容相关属性、活动相关属性、情感相关属性和/或结构相关属性。3.如权利要求2所述的方法，其特征在于，内容相关属性包括：用户的推文。4.如权利要求2所述的方法，其特征在于，活动相关属性包括：推文的数量、推文的转发量、粉丝数、关注量、收藏量、标签量、引用数、url数、平均每条推文的提及次数、每条推文之间平均时间间隔和每条推文之间的中间时间间隔。5.如权利要求2所述的方法，其特征在于，情感相关属性包括：推文的情感和脏话的使用。6.如权利要求2所述的方法，其特征在于，结构相关属性包括：中心度，特征向量，入度，出度和用户一阶邻居的内容相关属性、活动相关属性、情感相关属性及结构相关属性。7.如权利要求1所述的方法，其特征在于，计算初始特征的方法包括：独热编码、标签编码或用GloVe进行词嵌入。8.如权利要求1所述的方法，其特征在于，...
【专利技术属性】
技术研发人员：李舒，刘庆云，周舟，杨威，李钊，张宏飞，杜梅捷，杨嵘，
申请(专利权)人：中国科学院信息工程研究所，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。