当前位置: 首页 > 专利查询>重庆大学专利>正文

一种基于社区感知和关系注意力的增强网络表示学习的方法技术

技术编号:25757673 阅读:40 留言:0更新日期:2020-09-25 21:06
本发明专利技术提供了一种基于社区感知和关系注意力的增强网络表示学习的方法,首先,获取网络拓扑结构和节点的文本信息;其次,采用社区发现算法获取社区信息,标记每个节点所处的社区,将其与拓扑结构结合生成社区结构网络;再次,采用社区感知模块在社区结构网络上学习节点的结构嵌入;然后,采用关系注意力模块学习每对相邻节点的文本嵌入;最后,结合结构嵌入和文本嵌入进行模型训练得到每个节点的嵌入表示。本发明专利技术可以完整捕获网络局部和全局结构以及节点间丰富的语义关系。

【技术实现步骤摘要】
一种基于社区感知和关系注意力的增强网络表示学习的方法
本专利技术涉及一种网络表示学习,更具体的说,涉及一种基于社区感知和关系注意力的增强网络表示学习的方法。
技术介绍
网络是现实世界场景中广泛使用的数据格式,例如社交媒体中的社交网络,生物科学中的蛋白质相互作用网络和研究领域的引文网络。由于网络的普遍存在,对网络的分析越来越受到人们的关注。然而,现实世界网络具有稀疏性和庞大的数据量,如何将网络中的每个节点转换为低维度的潜在表示成为了研究的主要问题。为了解决这个问题,网络表示学习被提出。网络表示学习作为复杂网络推理的上游任务,旨在研究如何同时保留网络结构特征和丰富的属性信息的同时为网络中的节点学习一个低维空间中的有效向量表征。学习得到的向量表示可以很容易的应用于下游任务比如链路预测、可视化分析、节点分类。比如社交网络中,网络表示学习可以挖掘出用户与用户之间的相关性,为相似用户推荐好友、文章等。学术引文网络中,网络表示学习可以分析学者们的合作方式,预测未来是否有可能合著关系等。目前已有的方法包括基于结构的网络表示学习和融合结构和属性特征的网络表示学习本文档来自技高网...

【技术保护点】
1.一种基于社区感知和关系注意力的增强网络表示学习的方法,其特征在于:首先,获取网络拓扑结构和节点的文本信息;其次,采用社区发现算法获取社区信息,标记每个节点所处的社区,将其与拓扑结构结合生成社区结构网络;再次,采用社区感知模块在社区结构网络上学习节点的结构嵌入;然后,采用关系注意力模块学习每对相邻节点的文本嵌入;最后,结合结构嵌入和文本嵌入进行模型训练得到每个节点的嵌入表示。/n

【技术特征摘要】
1.一种基于社区感知和关系注意力的增强网络表示学习的方法,其特征在于:首先,获取网络拓扑结构和节点的文本信息;其次,采用社区发现算法获取社区信息,标记每个节点所处的社区,将其与拓扑结构结合生成社区结构网络;再次,采用社区感知模块在社区结构网络上学习节点的结构嵌入;然后,采用关系注意力模块学习每对相邻节点的文本嵌入;最后,结合结构嵌入和文本嵌入进行模型训练得到每个节点的嵌入表示。


2.根据权利要求1所述基于社区感知和关系注意力的增强网络表示学习的方法,其特征在于:原始图网络结构和节点的文本信息表示为G=(V,E,T),其中,V是网络中的节点,表示现实世界中的实体人或者物,E是节点间的连接边,有边表示实体间存在某种联系,没有边表示实体间不存在联系,T是节点附着的文本信息。


3.根据权利要求2所述基于社区感知和关系注意力的增强网络表示学习的方法,其特征在于:所述节点附着的文本信息是科学引文网络中的文章摘要、关键词、作者信息、社交网络中用户感兴趣的话题、用户信息中的一种或多种。


4.根据权利要求3所述基于社区感知和关系注意力的增强网络表示学习的方法,其特征在于:所述社区感知模块包括社区感知随机游走得到节点序列和Skip-gram模型对所有节点序列进行训练得到网络节点结构嵌入。


5.根据权利要求4所述基于社区感知和关系注意力的增强网络表示学习的方法,其特征在于:在进行社区感知随机游走得到节点序列的过程中,首先遍历网络中的每个节点作为根节点进行随机游走,游走长度为h,游走次数为t;对节点u,一次游走得到节点序列其中随机从节点序列中的第i个序列节点的直接邻居节点或者与第i个节点处于同一社区中的节点中选取;而对于当前节点i,在每一次决定下一个节点时,系统计算出当前节点i的聚类系数r,计算公式为:其中k表示节点i的邻居数目,e表示这些邻居节点间的边的总数;u作为固定的随机游走指导参数值,若0<r≤μ,从当前节点的直接邻居节点中随机选择一个,若μ<r≤1,从当前节点的社区中随机选择一个,直到游走长度达到h。


6.根据权利要求5所述基于社区感知和关系注意力的增强网络表示学习的方法,其特征在于:采用自然语言处理中的Skip-gram语言模型进行训练时,结构嵌入训练的损失函数定义为:Ls(e)=wu,vlogp(vs|us),其中wu,v是节点u和v的权重,p(vs|us)表示节点v对u的结构嵌入的条件概率,其中z是网络中不与u相连或不在同一社区的所有节点。


7.根据权利要求6所述基于社区感知和关系注意力的增强网络表示学习的方法,其特征在于:关系注意力模块包括初始化所有节点文本特征向量、第一层注意力机制、卷积操作、第二层注意机制;首先,分别对...

【专利技术属性】
技术研发人员:周明强刘丹金海江孔亦涵张程刘慧君
申请(专利权)人:重庆大学
类型:发明
国别省市:重庆;50

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1