一种基于IPKCNN-SVM的电网基建建筑归档方法、装置及设备制造方法及图纸

一种基于IPKCNN

【技术实现步骤摘要】
一种基于IPKCNN
‑
SVM的电网基建建筑归档方法、装置及设备


[0001]本专利技术属于电子化归档
，具体涉及一种基于IPKCNN
‑
SVM的电网基建建筑归档方法、装置及设备。

技术介绍

[0002]电网基建档案管理作为支撑电网基建发展的重要组成部分受到了广泛关注，然而电网基建档案类型复杂多样，数量急剧增加，这增大了电网基建档案的管理难度。面对电网基建档案数字化转型的冲击，探索一种精准识别和分类方法以保障基建档案归档质量，对促进电网基建发展具有重要意义。
[0003]现有文献中，基于文本特征识别的电子档案自动归类系统研究提出了一种依据文本特征的智能识别系统，并利用该系统实现了电子档案的识别和归类，然而上述方法和策略只能处理小规模档案、低维特征档案，当档案数量增大和特征复杂度急剧增加时具有明显的局限性，训练时间较长，分类精度低。

技术实现思路

[0004]本专利技术的目的是针对现有技术存在的上述问题，提供一种能够缩短训练时间、提高分类精度的基于IPKCNN
‑
SVM的电网基建建筑归档方法、装置及设备。
[0005]为实现以上目的，本专利技术的技术方案如下：
[0006]一种基于IPKCNN
‑
SVM的电网基建建筑归档方法，所述方法包括：
[0007]S1、将获得多个电网基建建筑图像划分为预训练集、训练集、测试集，并标注出图像中建筑类别；
[0008]S2、先通过图像标注出预训练集中各图像的文本数据，对各文本数据进行依存句法分析得到句子依存关系，然后通过自注意力机制学习句子依存关系得到注意力输出，将注意力输出作为先验知识加载到CNN网络中进行预训练；
[0009]S3、将训练集中各图像输入CNN网络中进行联合训练，所述联合训练具体为先通过输入层提取图像特征，然后将提取的图像特征经过多个卷积层前向传播，前向传播完成后，从最后一层卷积层的分类器开始进行反向传播，更新各卷积层的参数；
[0010]S4、将测试集中各图像输入训练好的CNN网络中完成对电网基建建筑的分类归档。
[0011]所述步骤S2包括：
[0012]S21、先通过图像标注出预训练集中各图像的文本数据，然后给定依存关系标签，利用Stanford NLP句法分析器对各文本数据中的句子依存关系进行编码，获得依存关系编码：
[0013]；
[0014]上式中，为依存关系编码，为第h种依存关系，h=1,2，
…
，m，m表示依存关系总数量；
[0015]S22、将依存关系编码输入转换器得到特征表示：
[0016]；
[0017]；
[0018]上式中，为将依存关系编码输入转换器后得到的特征表示，、分别表示由第i层、第i
‑
1层全连接层输出的特征表示，、分别为第i层全连接层的权重和偏置，i=1,2，
…
，n，由依存关系编码输入第一层全连接层后得到，n为转换器中包含全连接层的总层数，每层全连接层的权重和偏置不相同，每个全连接层中包含的神经元数量与依存关系数量相同，为激活函数；
[0019]S23、通过自注意力机制学习句子依存关系得到注意力输出：
[0020]；
[0021]；
[0022]上式中，为注意力输出，为第i个特征表示的注意力分布权重， 为的转置，表示上下文关系向量；
[0023]S24、将注意力输出作为特征向量输入到CNN网络中进行预训练。
[0024]所述步骤S3的联合训练中，提取的图像特征根据以下公式经过多个卷积层前向传播：
[0025]；
[0026]上式中，为第k层卷积层的第j个输出特征，为第k
‑
1层卷积层的第p个输入特征；，为图像特征集合，为第k层卷积层的权重，为第k层卷积层偏置项，为激活函数；
[0027]所述前向传播完成后从最后一层卷积层的分类器开始进行反向传播，更新各层卷积层的权重，所述最后一层卷积层的权重更新公式为：
[0028]；
[0029]其中，所述为最后一层卷积层更新后的权重，为最后一层卷积层的分类器输出与输入之间误差，为学习率，为最后一层卷积层的输出；
[0030]其余卷积层的权重更新公式为：
[0031]；
[0032]上式中，为卷积层b更新后的权重，为卷积层b更新前的权重，为位于卷积层b后的卷积层数量，为位于卷积层b后第个卷积层的分类器输出与输入之间误差的偏微分，为位于卷积层b后第个卷积层的激活函数所产生的激活值。
[0033]所述CNN网络的分类器为SVM分类器，在更新各卷积层参数后利用教与学改进萤火虫算法对SVM分类器的参数进行寻优。
[0034]所述利用教与学改进萤火虫算法对SVM分类器的参数寻优为：
[0035]将萤火虫算法的搜索空间设置为SVM分类器参数的取值范围，初始化萤火虫的位置、亮度、吸引力，不断优化SVM的参数，以SVM分类器的分类性能作为萤火虫亮度，根据以下公式更新萤火虫的位置，迭代更新，直到亮度收敛：
[0036]；
[0037]；
[0038]；
[0039]；
[0040]；
[0041]上式中，为基于教与学因子改进的萤火虫算法的最终位置，为萤火虫更新后的位置，为根据萤火虫u与萤火虫平均位置的差异和萤火虫v与萤火虫平均位置的差异得到的t+1时刻萤火虫个体移动方向；、分别为t+1时刻萤火虫u与萤火虫平均位置的差异、萤火虫v与萤火虫平均位置的差异，为t时刻萤火虫平均位置，、为教学因子，随机取1或2；t为当前迭代次数；、分别为t时刻萤火虫u和萤火虫v的空间位置； 为萤火虫u和萤火虫v之间的吸引力；为常数，一般取；为随机树向量，为最大吸引力，通常取1；为光吸收系数，一般取，为萤火虫u和萤火虫v的欧式距离。
[0042]所述SVM分类器的参数是指SVM分类器惩罚因子、宽度参数。
[0043]一种基于IPKCNN
‑
SVM的电网基建建筑归档装置，所述归档装置包括图像预处理模块、CNN网络参数训练模块、分类模块；
[0044]所述图像预处理模块用于将获得多个电网基建建筑图像划分为预训练集、训练集、测试集，并标注出图像中建筑类别；
[0045]所述CNN网络参数训练模块用于先通过图像标注出预训练集中各图像的文本数据，对各文本数据进行依存句法分析得到句子依存关系，通过自注意力机制学习句子依存关系得到注意力输出，将注意力输出加载到CNN网络中进行预训练，然后将训练集中各图像输入CNN网络中通过输入层提取图像特征，将提取的图像特征经过多个卷积层前向传播，前向传播完成后，从最后一层卷积层的分类器开始进行反向传播，更新各卷积层的参数；
[0046]所述分类模块用于将测试集中各图像输入训练好的CNN网络中完成对电网基建建筑的分类归档。
[0047]本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于IPKCNN
‑
SVM的电网基建建筑归档方法，其特征在于：所述方法包括：S1、将获得多个电网基建建筑图像划分为预训练集、训练集、测试集，并标注出图像中建筑类别；S2、先通过图像标注出预训练集中各图像的文本数据，对各文本数据进行依存句法分析得到句子依存关系，然后通过自注意力机制学习句子依存关系得到注意力输出，将注意力输出作为先验知识加载到CNN网络中进行预训练；S3、将训练集中各图像输入CNN网络中进行联合训练，所述联合训练具体为先通过输入层提取图像特征，然后将提取的图像特征经过多个卷积层前向传播，前向传播完成后，从最后一层卷积层的分类器开始进行反向传播，更新各卷积层的参数；S4、将测试集中各图像输入训练好的CNN网络中完成对电网基建建筑的分类归档。2.根据权利要求1所述的一种基于IPKCNN
‑
SVM的电网基建建筑归档方法，其特征在于：所述步骤S2包括：S21、先通过图像标注出预训练集中各图像的文本数据，然后给定依存关系标签，利用Stanford NLP句法分析器对各文本数据中的句子依存关系进行编码，获得依存关系编码：；上式中，为依存关系编码，为第h种依存关系，h=1,2，
…
，m，m表示依存关系总数量；S22、将依存关系编码输入转换器得到特征表示：；；上式中，为将依存关系编码输入转换器后得到的特征表示，、分别表示由第i层、第i
‑
1层全连接层输出的特征表示，、分别为第i层全连接层的权重和偏置，i=1,2，
…
，n，由依存关系编码输入第一层全连接层后得到，n为转换器中包含全连接层的总层数，每层全连接层的权重和偏置不相同，每个全连接层中包含的神经元数量与依存关系数量相同，为激活函数；S23、通过自注意力机制学习句子依存关系得到注意力输出：；；上式中，为注意力输出，为第i个特征表示的注意力分布权重， 为的转置，
表示上下文关系向量；S24、将注意力输出作为特征向量输入到CNN网络中进行预训练。3.根据权利要求2所述的一种基于IPKCNN
‑
SVM的电网基建建筑归档方法，其特征在于：所述步骤S3的联合训练中，提取的图像特征根据以下公式经过多个卷积层前向传播：；上式中，为第k层卷积层的第j个输出特征，为第k
‑
1层卷积层的第p个输入特征；，为图像特征集合，为第k层卷积层的权重，为第k层卷积层偏置项，为激活函数；所述前向传播完成后从最后一层卷积层的分类器开始进行反向传播，更新各层卷积层的权重，所述最后一层卷积层的权重更新公式为：；其中，所述为最后一层卷积层更新后的权重，为最后一层卷积层的分类器输出与输入之间误差，为学习率，为最后一层卷积层的输出；其余卷积层的权重更新公式为：；上式中，为卷积层b更新后的权重，为卷积层b更新前的权重，为位于卷积层b后的卷积层数量，为位于卷积层b后第个卷积层的分类器输出与输入之间误差的偏微分，为位于卷积层b后第个卷积层的激活函数所产生的激活值。4.根据权利要求1所述的一种基于IPKCNN
‑
SVM的电...

【专利技术属性】
技术研发人员：陈然，贺兰菲，蔡杰，周蠡，李智威，许汉平，柯方超，周英博，熊川羽，马莉，张赵阳，熊一，王巍，李吕满，舒思睿，何峰，饶曦，李晶晶，
申请(专利权)人：湖北科能电力电子有限公司，
类型：发明
国别省市：