基于时间卷积神经网络的架空线预警系统障碍物识别方法技术方案

本发明专利技术公开了基于时间卷积神经网络的架空线预警系统障碍物识别方法，包括以下步骤：构建的时间卷积模块，并采用ImageNet图像数据集对卷积网络模块进行预训练；构建双层长短期记忆神经网络模块，并将时间卷积神经网络模块的输出结果，输入到长短期记忆神经网络模块；利用Adam优化算法，求解长短期记忆神经网络模块权值与阀值，使模型达到收敛；利用网格搜索法进行神经网络超参数优化；将障碍物照片输入训练完成的神经网络，进行障碍物识别。本发明专利技术的优点是：通过上述方法，可以自动识别障碍物的种类，减少误报几率，判断是否为障碍物，极大的减少调度人员、巡线人员工作量，提高电网安全稳定性。

Obstacle identification method of early warning system of overhead line based on time convolution neural network

【技术实现步骤摘要】
基于时间卷积神经网络的架空线预警系统障碍物识别方法
本专利技术涉及基于时间卷积神经网络的架空线预警系统障碍物识别方法。
技术介绍
近年来我国经济持续快速发展，输电电压等级不断提高，电网的分布也越来越广，电力安全问题也表现的尤为突出。架空线路架设在地面之上，架设及维修比较方便，成本较低，但容易受到气象和环境(如大风、雷击、污秽、冰雪等)的影响而引起故障。对于长期暴露于空气中的部分架空线路，在植被茂盛区域穿行，时常因树木、鸟粪、鸟巢等导致单相接地、相间短路等现象时有发生，引起停电故障。我国现在大力提倡提高电网自动化，减少工人工作量。我国现有的调度自动化系统，具有高精度的通讯技术、高速准确的对策显示技术，使信息的收集和传输在精度、速度和可靠性方面都有很大提高，同时调度中心能正确、迅速且经济地在故障发生后采取决策。这种实时的监测数据上报和远传功能、快速的故障处理能力，为线路自动预警提供了用武之地。当探测器发现线路安全距离内出现障碍物，则需要判断障碍物具体类型，以便调度通讯中心进一步制定安全方案，通知巡线工人有效处理障碍物。但目前预警系统多采用激光测距，单纯测量线路安全距离，无法自动辨识障碍物类型，且仅根据距离无法有效判断障碍物是否切实危及线路安全，如飞鸟飞过和鸟类筑巢会产生相似距离，但对线路危害程度相差甚远。且当春季等动植物快速生长季节，预警系统报警频率上升，误报警率提升。故若能自动判别障碍物类型，提高判别是否存在障碍物能力，可以极大减小调度人员、巡线工人工作量，提高电网安全稳定性，具有极强的现实意义。>
技术实现思路
本专利技术的目的在于提供基于时间卷积神经网络的架空线预警系统障碍物识别方法，能够有效解决现有方式无法识别架空线上障碍物的种类，造成多种误报的问题。为了解决上述技术问题，本专利技术是通过以下技术方案实现的：基于时间卷积神经网络的架空线预警系统障碍物识别方法，包括以下步骤：步骤1：构建的时间卷积模块，并采用ImageNet图像数据集对卷积网络模块进行预训练；步骤2：构建双层长短期记忆神经网络模块，并将步骤1中的时间卷积神经网络模块的输出结果，输入到长短期记忆神经网络模块；步骤3：利用Adam优化算法，求解步骤2中的长短期记忆神经网络模块权值与阀值，使模型达到收敛；步骤4：利用网格搜索法进行步骤3中神经网络超参数优化；步骤5：将障碍物照片输入步骤4中训练完成的神经网络，进行障碍物识别。优选的，所述步骤1中，时间卷积模块架构及预训练过程如下：首先将一张输入图片按像素转化为矩阵，矩阵的元素为对应的像素值；将矩阵输入时间卷积模块，卷积层为对输入矩阵做卷积操作；输入矩阵输入卷积层，输出为：式1中，Yij表示输出矩阵的第i行、第j列的元素，其中i∈(1,I)、j∈(1,J)；I,J表示输出矩阵的行数、列数；表示激活函数，为已设定的超参数；B表示偏移值；Wn,m表示卷积核第n行、第m列的权值元素，其中n∈(1,N)、m∈(1,M)；N,M表示卷积核的行数、列数，为已设定的超参数；Xn+l,m+k表示输入矩阵第n+l行、第m+k列元素；当输入矩阵经过卷积层处理后，使用权值规范化的方法，权值规范化把权重向量分解为标量参数g和向量参数式2中，g表示向量的模值；表示的同向向量；表示的欧几里得范数；故是与向量同方向的单位向量；当输入数据经过权值规范化处理后，采用激活层，选择ReLu函数为激活函数，激活函数ReLu计算公式如下：ReLu(x)＝max(0,x)(3)采用最大池化层进行下采样，降低卷积得到的特征图的数据量，池化层计算公式如下：式4中，p,q分别为池化窗行、列数，t为池化窗移动步长是已设定的超参数，为若干个被池化窗选中的输入矩阵元素，yij为输出矩阵第i行、第j列元素；最后，将输入数据依次流经残差模块，进行对应处理完成时间卷积模块预训练。优选的，所述步骤2中，构建双层长短期记忆神经网络模块，其过程如下：首先将步骤1中输出结果输入第一层长短期记忆神经网络，长短期记忆神经网络具有独特的记忆模式，记忆单元的读取和修改通过对输入门、遗忘门和输出门的控制来实现，它们一般采用sigmoid或tanh函数进行描述；记忆单元的工作流程如下：每一个时刻，记忆单元通过3个门接收当前状态xt和上一时刻网络的隐藏状态ht-1这2类外部信息的输入；此外，每一个门还接收一个内部信息输入，即记忆单元的状态ct-1；接收输入信息后，每一个门将对不同来源的输入进行运算，并且由其逻辑函数决定其是否激活；输入门的输入经过非线性函数的变换后，与遗忘门处理过的记忆单元状态进行叠加，形成新的记忆单元状态ct；最终，记忆单元状态ct通过非线性函数的运算和输出门的动态控制形成记忆单元的输出ht；各变量之间的计算公式如下：it＝σ(Wxixt+Whiht-1+Wcict-1+bi)(5)ft＝σ(Wxfxt+Whfht-1+Wcfct-1+bf)(6)ct＝ftct-1+tanh(Wxcxt+Whcht-1+bc)(7)ot＝σ(Wxoxt+Whoht-1+Wcoct+bo)(8)ht＝ottanh(ct)(9)式中：Wxc、Wxi、Wxf、Wxo为连接输入信号xt的权重矩阵；Whc、Whi、Whf、Who为连接隐含层输出信号ht的权重矩阵；Wci、Wcf、Wco为连接神经元激活函数输出矢量ct和门函数的对角矩阵；bi、bf、bc、bo为阀值向量；σ为激活函数，为tanh函数；当输入数据流经第一层长短期记忆神经网络，采用Dropout层对模型进行处理，采用Dropout层的计算公式如下：公式10中，Bernoulli函数为伯努利二项分布函数，随机生成一个概率为p的0、1向量rij，Xij为输入矩阵的第i行、第j列元素，Wij为权值矩阵的第第i行、第j列元素，Bij为阀值矩阵的第i行、第j列元素，yij为输出矩阵第i行、第j列元素；第二层长短期记忆神经网络与第一层原理相同，仅超参数不同。优选的，所述步骤3中，使用Adam优化算法，求解步骤2中的长短期记忆神经网络模块权值和阀值，Adam优化算法通过以下三个步骤求解模型：1)网络初始化：用ωie表示输入层节点i到记忆单元节点e的权值，vie表示记忆单元节点i到Dropout层或Dropout层到输出层e的权值；用Ai表示第一、第二长短期记忆神经网络层第i个神经元的阈值，用Bk表示Dropout层神经元的阈值；给各权值分别赋一个区间[-1，1]内的随机数，设误差函数为e，计算精度值ε和最大学习次数M；2)中间所有层输出函数计算：设输入变量S＝(s1,s2,...,sa)，中间所有层，即Dropout层、第一长短期记忆神经网络层和第二长短期记忆神经网络层，其变量依次为Η＝(h1,h2,...,ht)，输出变量Ι＝i，期望输出变量O＝o，则节点输出为...

【技术保护点】
1.基于时间卷积神经网络的架空线预警系统障碍物识别方法，其特征在于：包括以下步骤：/n步骤1：构建的时间卷积模块，并采用ImageNet图像数据集对卷积网络模块进行预训练；/n步骤2：构建双层长短期记忆神经网络模块，并将步骤1中的时间卷积神经网络模块的输出结果，输入到长短期记忆神经网络模块；/n步骤3：利用Adam优化算法，求解步骤2中的长短期记忆神经网络模块权值与阀值，使模型达到收敛；/n步骤4：利用网格搜索法进行步骤3中神经网络超参数优化；/n步骤5：将障碍物照片输入步骤4中训练完成的神经网络，进行障碍物识别。/n

【技术特征摘要】
1.基于时间卷积神经网络的架空线预警系统障碍物识别方法，其特征在于：包括以下步骤：
步骤1：构建的时间卷积模块，并采用ImageNet图像数据集对卷积网络模块进行预训练；
步骤2：构建双层长短期记忆神经网络模块，并将步骤1中的时间卷积神经网络模块的输出结果，输入到长短期记忆神经网络模块；
步骤3：利用Adam优化算法，求解步骤2中的长短期记忆神经网络模块权值与阀值，使模型达到收敛；
步骤4：利用网格搜索法进行步骤3中神经网络超参数优化；
步骤5：将障碍物照片输入步骤4中训练完成的神经网络，进行障碍物识别。


2.如权利要求1所述的基于时间卷积神经网络的架空线预警系统障碍物识别方法，其特征在于：
所述步骤1中，时间卷积模块架构及预训练过程如下：
首先将一张输入图片按像素转化为矩阵，矩阵的元素为对应的像素值；将矩阵输入时间卷积模块，卷积层为对输入矩阵做卷积操作；输入矩阵输入卷积层，输出为：



式1中，Yij表示输出矩阵的第i行、第j列的元素，其中i∈(1,I)、j∈(1,J)；I,J表示输出矩阵的行数、列数；表示激活函数，为已设定的超参数；B表示偏移值；Wn,m表示卷积核第n行、第m列的权值元素，其中n∈(1,N)、m∈(1,M)；N,M表示卷积核的行数、列数，为已设定的超参数；Xn+l,m+k表示输入矩阵第n+l行、第m+k列元素；
当输入矩阵经过卷积层处理后，使用权值规范化的方法，权值规范化把权重向量分解为标量参数g和向量参数



式2中，g表示向量的模值；表示的同向向量；表示的欧几里得范数；故是与向量同方向的单位向量；
当输入数据经过权值规范化处理后，采用激活层，选择ReLu函数为激活函数，激活函数ReLu计算公式如下：
ReLu(x)＝max(0,x)(3)
采用最大池化层进行下采样，降低卷积得到的特征图的数据量，池化层计算公式如下：



式4中，p,q分别为池化窗行、列数，t为池化窗移动步长是已设定的超参数，xi*t+r,j*t+s为若干个被池化窗选中的输入矩阵元素，yij为输出矩阵第i行、第j列元素；
最后，将输入数据依次流经残差模块，进行对应处理完成时间卷积模块预训练。


3.如权利要求1所述的基于时间卷积神经网络的架空线预警系统障碍物识别方法，
其特征在于：所述步骤2中，构建双层长短期记忆神经网络模块，其过程如下：首先将步骤1中输出结果输入第一层长短期记忆神经网络，长短期记忆神经网络具有独特的记忆模式，记忆单元的读取和修改通过对输入门、遗忘门和输出门的控制来实现，它们一般采用sigmoid或tanh函数进行描述；
记忆单元的工作流程如下：每一个时刻，记忆单元通过3个门接收当前状态xt和上一时刻网络的隐藏状态ht-1这2类外部信息的输入；此外，每一个门还接收一个内部信息输入，即记忆单元的状态ct-1；接收输入信息后，每一个门将对不同来源的输入进行运算，并且由其逻辑函数决定其是否激活；输入门的输入经过非线性函数的变换后，与遗忘门处理过的记忆单元状态进行叠加，形成新的记忆单元状态ct；最终，记忆单元状态ct通过非线性函数的运算和输出门的动态控制形成记忆单元的输出ht；各变量之间的计算公式如下：
it＝σ(Wxixt+Whiht-1+Wcict-1+bi)(5)
ft＝σ(Wxfxt+Whfht-1+Wcfct-1+bf)(6)
ct＝ftct-1+tanh(Wxcxt+Whcht-1+bc)(7)
ot＝σ(Wxoxt+Whoht-1+Wcoct+bo)(8)
ht＝ottanh(ct)(9)
式中：Wxc、Wxi、Wxf、Wxo为连接输入信号xt的权重矩阵；Whc、Whi、Whf、Who为连接隐含层输出信号ht的权重矩阵；Wci、Wcf、Wco为连接神经元激活函数输出矢量ct和门函数的对角矩阵；bi、bf、bc、bo为阀值向...

【专利技术属性】
技术研发人员：田权，林岚，刘建锋，游雪芳，章忠，陆柏羽，周小娜，樊礼，偶晨，谢旭峰，周宇翔，杨佳欣，
申请(专利权)人：国网浙江省电力有限公司泰顺县供电公司，国网浙江省电力有限公司温州供电公司，
类型：发明
国别省市：浙江;33