一种基于注意力机制的网络嵌入方法技术

技术编号:41504575 阅读:27 留言:0更新日期:2024-05-30 14:45
本发明专利技术提供一种基于注意力机制的网络嵌入方法,具体包括:计算特征图中节点间的相似度,获得图结构矩阵;通过图神经网络计算特征图中节点的原始注意力系数及点积注意力系数;将原始注意力系数及所述点积注意力系数相乘,获得混合注意力系数;对节点间存在边的概率进行预测,获得预测概率,并进行图神经网络的自监督注意力引导;选取包括正边及负采样边的训练样本,建立包括节点标签交叉熵损失、正则化损失及自监督注意力损失的优化目标,对图神经网络进行训练,获得嵌入网络;通过嵌入网络对待嵌入的特征图进行处理,本发明专利技术能够融合节点属性信息及拓扑结构信息,并引导注意力机制学习,能够提升图表示学习的性能及准确性。

【技术实现步骤摘要】

本专利技术涉及网络表示学习,尤其涉及一种基于注意力机制的网络嵌入方法


技术介绍

1、网络表示学习是网络分析任务的基础,对于挖掘和分析真实网络数据具有重大意义。

2、为了区分不同邻居节点对目标节点的贡献,gat首先提出将注意力机制与图神经网络结合,在图神经网络中使用自注意力机制,根据注意力系数去聚合邻居节点信息,然后将信息传播到下一层。但是gat只计算目标节点与其周围邻居节点之间的注意力,因此难以聚合到高阶邻居节点信息,并且对gat学习到的信息不了解。针对这些问题,spagan根据最短路径计算中心节点与其高阶邻居之间的注意力分数,但是没有考虑到节点特征信息相似度,simp-gcn通过聚集和转换邻域内的节点特征来提取有效的节点表示。但是它是基于图卷积思想。结构学习方法slgat通过整合节点特征和全局结构特征生成新的邻接矩阵,使用图注意力机制,可以聚合到高阶邻居特征,但是没有考虑新邻接矩阵中噪声边问题。


技术实现思路

1、本专利技术旨在至少解决相关技术中存在的技术问题之一。为此,本专利技术提供一种基于本文档来自技高网...

【技术保护点】

1.一种基于注意力机制的网络嵌入方法,其特征在于,包括:

2.根据权利要求1所述的一种基于注意力机制的网络嵌入方法,其特征在于,步骤S1进一步包括:

3.根据权利要求2所述的一种基于注意力机制的网络嵌入方法,其特征在于,步骤S15还包括:

4.根据权利要求1所述的一种基于注意力机制的网络嵌入方法,其特征在于,步骤S1中,所述相似度度量法为余弦相似度方法。

5.根据权利要求1所述的一种基于注意力机制的网络嵌入方法,其特征在于,步骤S2还包括:

6.根据权利要求1所述的一种基于注意力机制的网络嵌入方法,其特征在于,步骤S2还包括:<...

【技术特征摘要】

1.一种基于注意力机制的网络嵌入方法,其特征在于,包括:

2.根据权利要求1所述的一种基于注意力机制的网络嵌入方法,其特征在于,步骤s1进一步包括:

3.根据权利要求2所述的一种基于注意力机制的网络嵌入方法,其特征在于,步骤s15还包括:

4.根据权利要求1所述的一种基于注意力机制的网络嵌入方法,其特征在于,步骤s1中,所述相似度度量法为余弦相似度方法。

5.根据权利要...

【专利技术属性】
技术研发人员:王静红郑瑞策王熙照张自立
申请(专利权)人:河北师范大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1