【技术实现步骤摘要】
本专利技术涉及语言处理，具体提供一种基于双仿射注意力神经网络的电力知识查询处理方法、系统、控制装置及存储介质。
技术介绍
1、电网调度领域中对设备信息状态的查询需求较多，实际工作过程中需要基于不同的应用场景定制化对应的查询sql，但这种方法通用化程度较低、运维成本较高、交互的友好性和智能性较差。随着人工智能技术的普及，传统的定制化查询方式无法满足人们的需要，通过自然语句的交互方式成为主流，因此，通过自然语句问询的方式获取准确的查询结果，成为电网调度人员迫切的需求。
2、目前在电网领域中传统的知识库问答方式主要有两种，分别是：基于模板解析的问答方式和基于端到端神经网络模型的问答方式。基于模板解析的方式通常会采用传统分词技术，而传统分词技术对词库的依赖程度较大且对错词的处理能力低，会导致解析不准确，同时模板解析中自定义模板的构造也需要花费较高的时间成本，特别在知识库复杂的情况下，自定义模板往往不完备，导致模板未覆盖到的问句解析不准确，无法精准查询；基于端到端的神经网络模型需要特定场景的问答数据进行训练，如基于电力调度场景常见知识的问答对，模型通过记忆理解训练数据中的知识，实现基本的问答功能，但是这种方式得到的模型通用性较弱，依赖于训练知识的覆盖面，并且整个端到端的过程不透明，可解释性较差，此外，问答训练数据一旦更新，整个模型需要重新训练，整体更新过程较长，可扩展性较低。
技术实现思路
1、为了克服上述缺陷，提出了本专利技术，解决了现有技术中存在的解析不准确、以及目前端到端神
2、第一方面，本专利技术提供一种基于双仿射注意力神经网络的电力知识查询处理方法，包括步骤：
3、s1：获取电力领域设备知识的历史查询问句，并对所述历史查询问句进行清洗，剔除无效问句；
4、s2：对历史查询问句进行成分划分和依存关系标注；
5、s3：基于双向仿射注意力神经网络构建问句解析模型；
6、s4：将标注后的历史查询问句输入到问句解析模型，采用adam算法作为参数优化器进行训练；
7、s5：基于训练后的问句解析模型对目标查询问句进行预测，得到目标查询问句中每个词的成分类型和依存关系。
8、进一步，还包括步骤：
9、s6：根据目标查询问句中的核心词与疑问词判断查询意图，所述查询意图包括实例查询、属性查询、统计查询；
10、s7：构建查询路径，并根据数据库的查询语言生成相关的查询表达式并执行查询。
11、进一步，所述步骤s3包括步骤：
12、s31：对输入的查询问句进行embeding编码处理，输出维度为100维的词嵌入向量xi；
13、s32：采用3层双向长短期记忆网络对词嵌入向量进行特征提取，得到特征ri；
14、s33：分别采用两个多层感知器对特征ri进行处理，得到成分依存弧特征向量和句子成分特征向量
15、s34：采用仿射矩阵u(1)和偏置向量u(2)进行变换得到每个成分的依存弧的后验概率向量
16、s35：基于依存弧的后验概率确定查询问句中每个词的成分类型和依存关系。
17、进一步，所述步骤s34包括以下计算方式：
18、
19、
20、
21、进一步，所述步骤s4包括步骤：
22、s41：初始化问句解析模型的权重；
23、s42：将输入的数据进行正向计算，得到问句解析模型的预测结果；
24、s43：采用交叉熵函数作为损失函数，计算预测结果和实际标注之间的差值；
25、s44：将差值进行反向传导，得到问句解析模型参数更新所需的梯度值；
26、s45：采用adam算法进行问句解析模型的权重更新，并返回步骤s42,直到获取到较小的损失函数。
27、进一步，所述查询问句中的成分包括整体词q、疑问词、核心词、修饰词、谓语词、虚词、标点、无关词、条件词、条件值和比较值。
28、第二方面，本专利技术提供一种基于双仿射注意力神经网络的电力知识查询处理系统，包括：
29、获取单元，获取电力领域设备知识的历史查询问句，并对所述历史查询问句进行清洗，剔除无效问句；
30、标注单元，对历史查询问句进行成分划分和依存关系标注；
31、模型构建单元，基于双向仿射注意力神经网络构建问句解析模型；
32、模型训练单元，将标注后的历史查询问句输入到问句解析模型，采用adam算法作为参数优化器进行训练；
33、预测单元，基于训练后的问句解析模型对目标查询问句进行预测，得到目标查询问句中每个词的成分类型和依存关系。
34、意图判断单元，根据目标查询问句中的核心词与疑问词判断查询意图，所述查询意图包括实例查询、属性查询、统计查询；
35、查询构建单元，构建查询路径，并根据数据库的查询语言生成相关的查询表达式并执行查询。
36、第三方面，本专利技术提供一种控制装置，包括处理器和存储装置，所述存储装置适于存储多条程序代码，所述程序代码适于由所述处理器加载并运行以执行所述的一种基于双仿射注意力神经网络的电力知识查询处理方法。
37、第四方面，本专利技术提供一种计算机可读存储介质，其中存储有多条程序代码，所述程序代码适于由处理器加载并运行以执行所述的一种基于双仿射注意力神经网络的电力知识查询处理方法。
38、本专利技术的工作原理和有益效果：
39、在实施本专利技术的技术方案中，首先通过双仿射网络模型分析查询问句内容，获取问句中的核心词和修饰词，去除问句中的无效内容，形成完整、精确的知识查询表达式，最后基于知识查询表达式和知识库完成电力知识问答。本专利技术避免了端到端的训练方式，将整个问答功能拆分成了查询问句解析和知识查询两部分。基于双仿射注意力神经网络的查询问句解析模块能有效避免传统分词技术的解析问题，同时整个神经网络模型训练所需的数据与应用场景无关，避免的模型频繁更新的问题；通过知识查询使整个问答系统具备较好的可解释性和可扩展性。因此，基于本专利技术的解析查询方法，解决了通过自然语句对电网设备属性的精准查询问题，提升电网调度员日常数据查询效率。
本文档来自技高网...【技术保护点】
1.一种基于双仿射注意力神经网络的电力知识查询处理方法，其特征在于，包括步骤：
2.根据权利要求1所述的一种基于双仿射注意力神经网络的电力知识查询处理方法，其特征在于，还包括步骤：
3.根据权利要求1所述的一种基于双仿射注意力神经网络的电力知识查询处理方法，其特征在于，所述步骤S3包括步骤：
4.根据权利要求3所述的一种基于双仿射注意力神经网络的电力知识查询处理方法，其特征在于，所述步骤S34包括以下计算方式：
5.根据权利要求1所述的一种基于双仿射注意力神经网络的电力知识查询处理方法，其特征在于，所述步骤S4包括步骤：
6.根据权利要求1所述的一种基于双仿射注意力神经网络的电力知识查询处理方法，其特征在于，所述查询问句中的成分包括整体词Q、疑问词、核心词、修饰词、谓语词、虚词、标点、无关词、条件词、条件值和比较值。
7.一种基于双仿射注意力神经网络的电力知识查询处理系统，其特征在于，包括：
8.根据权利要求7所述的一种基于双仿射注意力神经网络的电力知识查询处理系统，其特征在于，还包括：
<...【技术特征摘要】
1.一种基于双仿射注意力神经网络的电力知识查询处理方法，其特征在于，包括步骤：
2.根据权利要求1所述的一种基于双仿射注意力神经网络的电力知识查询处理方法，其特征在于，还包括步骤：
3.根据权利要求1所述的一种基于双仿射注意力神经网络的电力知识查询处理方法，其特征在于，所述步骤s3包括步骤：
4.根据权利要求3所述的一种基于双仿射注意力神经网络的电力知识查询处理方法，其特征在于，所述步骤s34包括以下计算方式：
5.根据权利要求1所述的一种基于双仿射注意力神经网络的电力知识查询处理方法，其特征在于，所述步骤s4包括步骤：
6.根据权利要求1所述的一种基于双仿射注意力神经网络的电力知识查询处理方法，其特征在于，所述查询问句中的成分包括整体...
【专利技术属性】
技术研发人员：汪庆宁，黄睿，张远来，刘兴龙，
申请(专利权)人：上海迈能创豪能源科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。