一种基于图注意力机制的电力领域知识推荐方法及系统技术方案

技术编号:39503041 阅读:5 留言:0更新日期:2023-11-24 11:34
一种基于图注意力机制的电力领域知识推荐方法,利用

【技术实现步骤摘要】
一种基于图注意力机制的电力领域知识推荐方法及系统


[0001]本专利技术属于电力领域知识图谱
,具体地,涉及一种基于图注意力机制的电力领域知识推荐方法及系统


技术介绍

[0002]随着电力领域数字化的不断发展,以及电力领域知识图谱的不断推进,数据规模,特别是知识规模不断扩大,每个人既是知识的消费者也是知识的生产者

作为知识内容的消费者,在海量信息中找到自己需求的难度日益提升;为了解决目前信息技术发展所带来的信息过载问题,面向领域知识推荐方法得到广泛关注

[0003]现有技术中,由于电力领域知识结构复杂,传统的推荐方法难以有效利用电力知识图谱中的信息,从而达到准确推荐的目的

注意力机制已成功用于许多基于序列的任务,例如机器翻译

机器阅读理解等相关任务,将图注意力机制与图卷积升级网络进行融入,提出采用图注意力机制
(Graph Attention Network

GAT)
进行实体的拓扑表征

现有技术
1“一种基于知识图谱与注意力机制的推荐方法”(CN115374288A)
将推荐系统中的项目与知识图谱的实体对齐,形成训练样本集;然后构建包括输入层

编码层

特征融合层及输出层的推荐模型,将训练样本集作为推荐模型的输入,采用选取的损失函数作为优化目标,对推荐模型进行训练;最后,基于训练好的推荐模型计算用户采纳待推荐项目的概率,根据概率的大小进行排序,生成用户的推荐候选集,现有技术1虽然解决了传统推荐方法存在的数据稀疏和解释性差,但并未考虑知识图谱的多级拓扑结构对推荐程度带来的影响

现有技术
2“基于知识图谱的文本分类方法

系统及电子设备”(CN114218358A)
,利用文本数据里的实体信息以及该实体在现有知识图谱中对应的一跳实体的信息对文本数据进行分类预测,包括:利用已初始化的知识图谱确定实体向量对应的一跳实体向量;再根据已确定的一跳实体向量对实体向量进行更新,并利用已完成更新的实体向量对句子向量进行更新,现有技术2中仅基于知识图谱对实体进行向量表征,仅包含部分语义特征,从而影响知识推荐的准确性和效率


技术实现思路

[0004]为解决现有技术中存在的不足,本专利技术提供一种基于图注意力机制的电力领域知识推荐方法及系统,基于图注意力机制,将电力领域知识图谱中的支撑实体知识与拓扑结构进行融合得到高维向量表征,同时获取用户与支撑实体知识高维向量表征与再与用户表征进行推荐概率打分,优化电力领域中的知识推荐,提高推荐的准确性和效率

[0005]本专利技术采用如下的技术方案

[0006]一种基于图注意力机制的电力领域知识推荐方法,包括:
[0007]步骤1,根据用户与电力知识图谱的交互记录,基于图谱查询方法,从电力知识图谱中抽取一个支撑实体知识以及与支撑实体知识之间存在一跳关系的多个关联实体知识;
[0008]步骤2,利用
BERT
预训练语言模型,获取支撑实体知识对应的向量表征和各关联实
体知识对应的向量表征;
[0009]步骤3,基于图注意力机制训练得到支撑实体与各关联实体的注意力权重,利用各关联实体知识对应的向量表征

注意力权重以及
BERT
预训练语言模型的训练权重,对支撑实体知识进行高维向量表征;
[0010]步骤4,根据用户与电力知识图谱的交互记录,基于
one

hot
编码建立用户与支撑实体知识的交互编码;
[0011]步骤5,将高维向量表征与交互编码的逻辑运算结果作为用户对支撑实体知识的注意力得分;
[0012]步骤6,利用注意力得分及高维向量表征,基于激活函数计算每个支撑实体知识推荐给用户的概率得分;
[0013]步骤7,重复步骤1至6获得多个支撑实体知识推荐给用户的概率得分,对各概率得分进行从高至低排序,将排序在前面
k
位的支撑实体知识推荐给用户

[0014]用户与电力知识图谱的交互记录包括用户在电力知识图谱中的点击

浏览记录

[0015]步骤1中一跳关系包括:包含关系

[0016]e
n
表示与支撑实体知识
e
i
有一跳关系的关联实体知识,多个关联实体知识
e
n
构成了关联实体集合
E
ij

r
n
表示单个关联实体知识
e
n
与支撑实体知识
e
i
之间的关联关系,多个关联关系
r
n
构成了关联关系集合
R
ij

[0017]关联实体集合
E
ij
和关联关系集合
R
ij
构成的实体连接图
G
i
满足如下关系式:
[0018]G
i

<E
ij

R
ij
>
ꢀꢀꢀꢀ
(1)
[0019]式中,
[0020]E
ij
表示关联实体集合,
e
n
∈E
ij

[0021]R
ij
表示关联关系集合,
r
n
∈R
ij

[0022]n
为关联实体知识的序号,
n∈N
j

[0023]N
j
表示与支撑实体知识
e
i
有一跳关系的关联实体知识的数量

[0024]支撑实体知识
e
i
的高维向量表征如下式所示:
[0025][0026]式中,
[0027]σ
(
·
)

softmax
激活函数,
[0028]W
n
为第
n
个关联实体知识对应的
BERT
预训练语言模型训练权重,
[0029]为第
n
个关联实体知识
e
n
对应的向量表征,
[0030]为支撑实体知识
e
i
与第
n
个关联实体知识
e
n
的注意力权重,
[0031]n
为关联实体知识的序号,
n∈N
j

[0032本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.
一种基于图注意力机制的电力领域知识推荐方法,其特征在于,包括:步骤1,根据用户与电力知识图谱的交互记录,基于图谱查询方法,从电力知识图谱中抽取一个支撑实体知识以及与支撑实体知识之间存在一跳关系的多个关联实体知识;步骤2,利用
BERT
预训练语言模型,获取支撑实体知识对应的向量表征和各关联实体知识对应的向量表征;步骤3,基于图注意力机制训练得到支撑实体与各关联实体的注意力权重,利用各关联实体知识对应的向量表征

注意力权重以及
BERT
预训练语言模型的训练权重,对支撑实体知识进行高维向量表征;步骤4,根据用户与电力知识图谱的交互记录,基于
one

hot
编码建立用户与支撑实体知识的交互编码;步骤5,将高维向量表征与交互编码的逻辑运算结果作为用户对支撑实体知识的注意力得分;步骤6,利用注意力得分及高维向量表征,基于激活函数计算每个支撑实体知识推荐给用户的概率得分;步骤7,重复步骤1至6获得多个支撑实体知识推荐给用户的概率得分,对各概率得分进行从高至低排序,将排序在前面
k
位的支撑实体知识推荐给用户
。2.
根据权利要求1所述的基于图注意力机制的电力领域知识推荐方法,其特征在于,用户与电力知识图谱的交互记录包括用户在电力知识图谱中的点击

浏览记录
。3.
根据权利要求1所述的基于图注意力机制的电力领域知识推荐方法,其特征在于,步骤1中一跳关系包括:包含关系
。4.
根据权利要求3所述的基于图注意力机制的电力领域知识推荐方法,其特征在于,
e
n
表示与支撑实体知识
e
i
有一跳关系的关联实体知识,多个关联实体知识
e
n
构成了关联实体集合
E
ij

r
n
表示单个关联实体知识
e
n
与支撑实体知识
e
i
之间的关联关系,多个关联关系
r
n
构成了关联关系集合
R
ij
;关联实体集合
E
ij
和关联关系集合
R
ij
构成的实体连接图
g
i
满足如下关系式:
G
i

<E
ij

R
ij
>
ꢀꢀꢀꢀꢀꢀ
(1)
式中,
E
ij
表示关联实体集合,
e
n
∈E
ij

R
ij
表示关联关系集合,
r
n
∈R
ij

n
为关联实体知识的序号,
n∈N
j

N
j
表示与支撑实体知识
e
i
有一跳关系的关联实体知识的数量
。5.
根据权利要求1所述的基于图注意力机制的电力领域知识推荐方法,其特征在于,支撑实体知识
e
i
的高维向量表征如...

【专利技术属性】
技术研发人员:单超蔡奇新吴宁邹云峰祝宇楠蔡明明刘云鹏范环宇夏宇航朱峰刘柳裴子霞徐伟周小舟
申请(专利权)人:国网江苏省电力有限公司营销服务中心
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1