System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术属于电网调度,尤其涉及一种基于知识图谱的多层级电网调度决策方法。
技术介绍
1、随着现代电力系统规模的不断扩大,新知识不断产生,导致电力系统知识量呈爆炸式增长。电力系统知识知识不仅来自具有新设备集成和各种动态特性的更复杂的电力系统,还来自电力公司的新兴业务,如电力市场和增量配电网,具有异构结构和快速更新频率的特点。
2、面对快速增长的知识,传统知识的组织和管理方法不能满足电力系统的需要,特别是在电力调度、设备管理、数据交互、业务咨询等领域,基于人工知识抽取和推理的传统方法落后于电力系统的发展。因此,如何提出一种自动化、智能化的知识组织、存储、提取和推理方法是电力系统迫切需要解决的问题之一。
技术实现思路
1、针对现有技术中存在的不足,本专利技术提供了一种基于知识图谱的多层级电网调度决策系统及方法,实现了将多层级知识图谱技术应用于电力系统调度,更为准确与智能,提高了工作效率,避免了实体内部位置预测错误,辅助调度决策,有效支撑电网调度工作的开展。
2、本专利技术通过以下技术手段实现上述技术目的。
3、一种基于知识图谱的多层级电网调度决策方法,包括如下过程:
4、步骤1:对知识图谱命名实体进行识别,运用transformer模型提取特征向量;
5、步骤2:利用神经网络与sigmoid函数结合对步骤1识别出的实体位置进行分类,利用softmax函数计算输入字符类别概率,得到实体类别描述句向量;对实体信息进行分类以及损失计
6、步骤3:对步骤2获得的实体类别信息进行word2vec训练,将自然语言文本转换为词向量;
7、步骤4:针对步骤3获得的词向量,基于词频-逆文件频率加权的句向量进行计算,得到实体关系描述特征向量;
8、步骤5:对步骤4中的实体关系描述特征向量进行抗干扰处理。
9、进一步地,所述步骤1的具体过程如下:
10、步骤1.1:首先运用基于多任务学习的实体边界感知模型,结合相似度算法,进行知识图谱命名实体识别;然后通过引入实体类别领域信息,进行实体分类;
11、步骤1.2:针对用户输入文本,运用transformer模型提取特征向量:
12、将字编码和位置编码相结合,量化用户输入的文本内容;字编码:将文本x={x1,x2,...,xn}进行转换,转换为idtoken,x1、x2、xn分别表示长度为1的文本、长度为2的文本、长度为n的文本,idtoken表示对应的文本编码,字编码的限制长度为he,则字向量etoken∈rd×he,rd×he表示实数域r,边界为d×he,d为具体文本长度;根据绝对位置进行位置编码:将x={x1,x2,...,xn}转换为idposition={0,1,...,n-1},得到位置向量eposition∈rd×he,rd×he表示实数域r,边界为d×he;则transformer模型输入向量eembedding为:
13、eembedding=etoken+eposition;
14、基于多头自注意力机制的transformer模型能得到权重后,运用gelu激活函数的前馈神经网络进行特征提取,将用户输入文本转换为头实体特征向量,其中,multi head的计算方式定义具体如下:
15、multihead(q,k,v)=concat
16、
17、transformer(eembedding)=
18、gelu(multihead(eembedding)w1+b1)w2+b2
19、gelu(x)=xp(x≤x)=xφ(x)
20、其中,m表示自注意力机制的个数;φ(x)表示伯努利分布表达式;w1、w2分别表示注意力第一层的权重、注意力第二层的权重;b1、b2分别表示注意力第一层的偏置、注意力第二层的偏置;输入向量eembedding经权重变换得到q、k、v三个矩阵;qm、q1分别表示q矩阵的第m个向量、第1个向量;km表示k矩阵的第m个向量;vm、v1分别表示v矩阵的第m个向量、第1个向量;w0表示初始权重矩阵;分别表示k矩阵的第m个向量转置、第1个向量转置;dm、dk分别表示第m个向量的长度、第k个向量的长度;x是输入值,x是具有零均值和单位方差的高斯随机变量;p(x<=x)表示x小于或等于给定值x的概率;
21、用户输入文本通过l层transformer转化为头实体特征向量,即transformer计算方式如下式所示:
22、esample=transformerl(we(xsample))
23、elable=transformerl(we(xlable))
24、其中,w表示编码;xsample表示样本集合;esample表示样本特征向量,esample∈rd×h;xlable表示实体类别描述;elable表示实体类别描述特征向量,
25、进一步地,所述步骤2中,利用神经网络与sigmoid函数结合对步骤1识别出的实体位置进行分类,利用softmax函数计算输入字符类别概率,得到实体类别描述句向量的过程包括:
26、首先通过一层全连接神经网络和sigmoid函数的结合,对步骤1识别出的实体位置进行分类:
27、
28、
29、pentity=sigmoid(espanwspan+bspan)
30、其中,espan表示实体边界表示向量;表示开始位置预测结果;表示结束位置预测结果;pentity表示实体位置概率;wspan表示神经网络偏置表示向量;bspan表示神经网络截距表示向量;
31、然后将步骤1提取出的实体类别描述特征向量elable进行句向量映射:
32、esl=view(elable)wlable+blable,wlable∈r(n+1)×1
33、其中,view表示进行向量维度转换;esl表示实体类别描述句向量;wlable表示神经网络偏置;blable表示神经网络截距;r(n+1)×1表示实数域r,边界为(n+1)×1;
34、然后通过向量间点积计算向量间相似度,通过softmax函数计算概率,得到各输入字符的类别概率:
35、
36、其中,表示输入字符类别概率;ess表示样本字向量。
37、进一步地,所述步骤2中,对实体信息进行分类以及损失计算,获得实体类别信息的过程包括:
38、基于各输入字符的类别概率计算结果,运用投票法对实体整体进行分类,投票最大值对应类别即为实体类别,如下式所示:
39、
40、其中,centity表示输入字符类别概率;表示开始字符类别概率;表示结束字符类别概率;
41、损失函数为基于kl散度的交叉熵损失函数,kl值越小,表明本文档来自技高网...
【技术保护点】
1.一种基于知识图谱的多层级电网调度决策方法,其特征在于,包括如下过程:
2.根据权利要求1所述的基于知识图谱的多层级电网调度决策方法,其特征在于,所述步骤1的具体过程如下:
3.根据权利要求2所述的基于知识图谱的多层级电网调度决策方法,其特征在于,所述将字编码和位置编码相结合,量化用户输入的文本内容包括:
4.根据权利要求2所述的基于知识图谱的多层级电网调度决策方法,其特征在于,所述基于多头自注意力机制的Transformer模型中,multi head的计算方式定义具体如下:
5.根据权利要求1所述的基于知识图谱的多层级电网调度决策方法,其特征在于,所述步骤2中,利用神经网络与sigmoid函数结合对步骤1识别出的实体位置进行分类,利用softmax函数计算输入字符类别概率,得到实体类别描述句向量的过程包括:
6.根据利要求1所述的基于知识图谱的多层级电网调度决策方法,其特征在于,所述步骤2中,对实体信息进行分类以及损失计算,获得实体类别信息的过程包括:
7.根据利要求1所述的基于知识图谱的多层级电网调度
8.根据利要求1所述的基于知识图谱的多层级电网调度决策方法,其特征在于,所述步骤4的具体过程包括:
9.根据利要求1所述的基于知识图谱的多层级电网调度决策方法,其特征在于,所述步骤5的具体过程包括:
10.一种用于实现权利要求1至9中任一项所述基于知识图谱的多层级电网调度决策方法的系统,包括识别提取模块、分类转换模块、关系表征模块,识别提取模块用于抽取现有知识图谱中的标签,即对知识图谱命名实体进行识别并分类,并对用户输入的文本进行提取;分类转换模块用于获取实体类别描述句向量,对实体信息进行分类以及损失计算,获得实体类别信息,并对实体类别信息进行word2vec训练,将自然语言文本转换为词向量;关系表征模块基于TF-IDF加权的句向量获取实体关系描述特征向量并进行抗干扰处理。
...【技术特征摘要】
1.一种基于知识图谱的多层级电网调度决策方法,其特征在于,包括如下过程:
2.根据权利要求1所述的基于知识图谱的多层级电网调度决策方法,其特征在于,所述步骤1的具体过程如下:
3.根据权利要求2所述的基于知识图谱的多层级电网调度决策方法,其特征在于,所述将字编码和位置编码相结合,量化用户输入的文本内容包括:
4.根据权利要求2所述的基于知识图谱的多层级电网调度决策方法,其特征在于,所述基于多头自注意力机制的transformer模型中,multi head的计算方式定义具体如下:
5.根据权利要求1所述的基于知识图谱的多层级电网调度决策方法,其特征在于,所述步骤2中,利用神经网络与sigmoid函数结合对步骤1识别出的实体位置进行分类,利用softmax函数计算输入字符类别概率,得到实体类别描述句向量的过程包括:
6.根据利要求1所述的基于知识图谱的多层级电网调度决策方法,其特征在于,所述步骤2中,对实体信息进...
【专利技术属性】
技术研发人员:陈宏福,韩政,肖飞,高峰,胡友琳,姜玉靓,贡鹏浩,
申请(专利权)人:国网上海市电力公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。