【技术实现步骤摘要】
本公开涉及电力工程项目数据审计预警，具体涉及基于双模态注意力的电网工程项目审计预警方法及系统。
技术介绍
1、本部分的陈述仅仅是提供了与本公开相关的
技术介绍
信息，不必然构成在先技术。
2、随着智能电网和信息化建设，电力行业积累了海量数据，这些数据在数据量、多样性、速度和价值方面具有大数据的特征。电力行业已进入大数据时代。电力大数据是通过传感器、智能设备、视频监控设备、音频通信设备、移动终端等各种数据采集渠道，收集到的海量结构化、非结构化的业务数据集合，电网电力数据是电力公司的新型资产，能够促进电力公司的业务管理向更精细、更高效的方向发展。大数据技术将推动信息技术平台的升级与改造，包括提升数据存储和及时处理的能力；补充对非结构化数据分析与利用的能力；增强对海量数据资源的价值挖掘能力。
3、同时，随着信息技术的发展和电力企业的不断发展壮大，电力企业电力数据的审计信息化的必要性也日益凸显，近年来，耗费时间、人力、物料成本高昂的专家人工审计方式已逐渐被基于深度学习技术的电力数据审计模型所取代。相较传统审计模式，人工智能模式下的审计使得审计过程更为客观、准确和迅速。
4、然而，现有的基于深度学习的电力数据审计方法往往针对一种模态类型的数据，并且对于不断变化、不可预测的非结构化数据处理起来难度较大、应用开发成本较高，但在实际审计环境中，电力数据包含结构化、半结构化以及非结构化的多种类型，仅对一种模态的数据分析显然会丢失其他模态数据有价值的可用信息，从而不能有效的针对数据审计作出预测，造成审计的预测偏差，无
技术实现思路
1、本公开为了解决上述问题，提出了基于双模态注意力的电网工程项目审计预警方法及系统，获取电力数据中的结构化以及非结构化的多模态数据，采用交叉注意力机制学习结构化和非结构化两种模态数据间的关联信息，并利用之间的关联信息提升模型的预测预警能力。
2、根据一些实施例，本公开采用如下技术方案：
3、基于双模态注意力的电网工程项目审计预警方法，包括：
4、获取电力项目中的结构化以及非结构化的双模态电力数据；
5、将结构化电力数据以及非结构化电力数据输入至风险审计预警模型中，分别得到结构化上下文特征以及非结构化上下文特征；
6、根据获得的双模态数据的上下文特征，采用交叉注意力机制生成双模态间的关联信息，利用双模态间的关联信息调整双模态的上下文特征分布，得到结构化数据特征和非结构化数据特征；
7、将结构化数据特征和非结构化数据特征融合，利用融合后的双模态结合的特征信息输出审计预警结果标签。
8、根据一些实施例，本公开采用如下技术方案：
9、基于双模态注意力的电网工程项目审计预警系统，包括：
10、数据获取模块，用于获取电力项目中的结构化以及非结构化的双模态电力数据；
11、特征提取模块，用于将结构化电力数据以及非结构化电力数据输入至风险审计预警模型中，分别得到结构化上下文特征以及非结构化上下文特征；
12、特征调整模块，用于根据获得的双模态数据的上下文特征，采用交叉注意力机制生成双模态间的关联信息，利用双模态间的关联信息调整双模态的上下文特征分布，得到结构化数据特征和非结构化数据特征；
13、预警输出模块，用于将结构化数据特征和非结构化数据特征融合，利用融合后的双模态结合的特征信息输出审计预警结果标签。
14、根据一些实施例，本公开采用如下技术方案：
15、一种非暂态计算机可读存储介质，所述非暂态计算机可读存储介质用于存储计算机指令，所述计算机指令被处理器执行时，实现所述的基于双模态注意力的电网工程项目审计预警方法。
16、根据一些实施例，本公开采用如下技术方案：
17、一种电子设备包括：处理器、存储器以及计算机程序；其中，处理器与存储器连接，计算机程序被存储在存储器中，当电子设备运行时，所述处理器执行所述存储器存储的计算机程序，以使电子设备执行实现所述的基于双模态注意力的电网工程项目审计预警方法。
18、与现有技术相比，本公开的有益效果为：
19、本公开的基于双模态注意力的电网工程项目审计预警方法，将结构化电力数据以及非结构化电力文本数据两种模态的数据，通过深度学习的风险审计预警模型对数据进行表示学习，针对结构化数据采用双向门控循环单元(bidirectional gated recurrentunit, bigru)和多重膨胀卷积网络模块(multi-dilatation convolutional neuralnetworks, mut-dilatation cnn)分别进行长期和局部的特征表示学习，非结构化数据则采用transformer模块进行特征表示学习，分别获取结构化上下文特征以及非结构化上下文特征，能够深度的获取深层的语义以及结构特征信息，最后进行审计预警任务，提高预测的精度。
20、本公开的基于双模态注意力的电网工程项目审计预警方法，采用双模态交叉注意力机制对结构化和非结构化数据的上下文特征进行处理，学习两种模态数据间的关联信息，并将其作为模型的增强信息，提升模型对电力经验环境的预警能力。
本文档来自技高网...【技术保护点】
1.基于双模态注意力的电网工程项目审计预警方法，其特征在于，包括：
2.如权利要求1所述的基于双模态注意力的电网工程项目审计预警方法，其特征在于，结构化电力数据为与电力工程项目相关的人工汇总表、机械汇总表以及材料汇总表；非结构化电力数据为与电力工程项目相关的可研报告、施工合同、开工报告、竣工报告以及结算单的文本数据。
3.如权利要求1所述的基于双模态注意力的电网工程项目审计预警方法，其特征在于，对非结构化电力数据进行预处理，包括：将获取的可研报告、施工合同、开工报告、竣工报告、结算单的文本数据进行分词、词语嵌入操作，将非结构化电力数据处理为一个矩阵表示的词语序列，最后再加入位置编码信息。
4.如权利要求1所述的基于双模态注意力的电网工程项目审计预警方法，其特征在于，将结构化电力数据输入至风险审计预警模型中，得到结构化上下文特征，包括：所述风险审计预警模型包括GRU-CNN网络模块以及Transformer模块，所述结构化电力数据输入至风险审计预警模型后，通过GRU-CNN网络模块进行特征提取，具体为在每个GRU-CNN块中，采用带有注意力机制的
5.如权利要求1所述的基于双模态注意力的电网工程项目审计预警方法，其特征在于，将非结构化电力数据输入至风险审计预警模型中，得到非结构化上下文特征，包括：所述非结构化电力数据输入至风险审计预警模型后，通过Transformer模块进行特征提取，采用多头自注意力对非结构化电力数据进行学习，得到非结构化上下文特征。
6.如权利要求1所述的基于双模态注意力的电网工程项目审计预警方法，其特征在于，所述生成双模态间的双模态关联信息包括：基于双模态交叉注意力机制模块融合结构化和非结构化两种模态数据的上下文特征，采用交叉注意力机制生成两种模态间的双模态关联信息，利用双模态关联信息调整双模态的上下文特征分布，得到调整后的结构化数据特征和非结构化数据特征，将双模态数据拼接得到双模态结合的特征信息，使用全连接神经网络将得到双模态结合的特征信息输出审计预警结果标签。
7.如权利要求1所述的基于双模态注意力的电网工程项目审计预警方法，其特征在于，所述审计预警结果标签包括四种审计问题类型，每类审计问题采用三类预警级别，分别为高风险、中风险以及低风险。
8.基于双模态注意力的电网工程项目审计预警系统，其特征在于，包括：
9.一种非暂态计算机可读存储介质，其特征在于，所述非暂态计算机可读存储介质用于存储计算机指令，所述计算机指令被处理器执行时，实现如权利要求1-7任一项所述的基于双模态注意力的电网工程项目审计预警方法。
10.一种电子设备，其特征在于，包括：处理器、存储器以及计算机程序；其中，处理器与存储器连接，计算机程序被存储在存储器中，当电子设备运行时，所述处理器执行所述存储器存储的计算机程序，以使电子设备执行实现如权利要求1-7任一项所述的基于双模态注意力的电网工程项目审计预警方法。
...【技术特征摘要】
1.基于双模态注意力的电网工程项目审计预警方法，其特征在于，包括：
2.如权利要求1所述的基于双模态注意力的电网工程项目审计预警方法，其特征在于，结构化电力数据为与电力工程项目相关的人工汇总表、机械汇总表以及材料汇总表；非结构化电力数据为与电力工程项目相关的可研报告、施工合同、开工报告、竣工报告以及结算单的文本数据。
3.如权利要求1所述的基于双模态注意力的电网工程项目审计预警方法，其特征在于，对非结构化电力数据进行预处理，包括：将获取的可研报告、施工合同、开工报告、竣工报告、结算单的文本数据进行分词、词语嵌入操作，将非结构化电力数据处理为一个矩阵表示的词语序列，最后再加入位置编码信息。
4.如权利要求1所述的基于双模态注意力的电网工程项目审计预警方法，其特征在于，将结构化电力数据输入至风险审计预警模型中，得到结构化上下文特征，包括：所述风险审计预警模型包括gru-cnn网络模块以及transformer模块，所述结构化电力数据输入至风险审计预警模型后，通过gru-cnn网络模块进行特征提取，具体为在每个gru-cnn块中，采用带有注意力机制的bigru网络提取结构化电力数据的长期上下文特征，采用mut-dilatationcnn网络提取结构化电力数据的局部上下文特征，然后将长期上下文特征和局部上下文特征融合，得到结构化上下文特征。
5.如权利要求1所述的基于双模态注意力的电网工程项目审计预警方法，其特征在于，将非结构化电力数据输入至风险审计预警模型中，得到非结构化上下文特征，包括：所述非结构化电力数据...
【专利技术属性】
技术研发人员：杨桂珍，吕德志，刘明智，王君，周成轩，张振东，朱超，左常昊，张博宇，陆明，迟卫东，殷彬，赵莉，刘丹，吴青华，
申请(专利权)人：国网山东省电力公司济宁供电公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。