一种面向基础设施网的时空预测模型参数优化方法技术

本发明专利技术公开了一种面向基础设施网的时空预测模型参数优化方法，包括：(1)将时空预测模型的超参数组成n维超参数组，并确定每个维度的超参范围；(2)根据维度的超参范围，随机生成m个n维超参数组作为初始种群；(3)根据初始种群或当前子代种群构建对应的空间预测模型，对时空预测模型训练后，对测试样本进行预测，计算预测准确度和时间复杂度后，并计算时空预测模型的适应度；(4)采用轮盘选择法，选择适应度最好的两个超参数组作为父代后，对父代进行交叉、变异，迭代此步骤直到获得预设当前子代种群个数为止；(5)迭代执行步骤(3)～(4)，达到迭代收敛条件后，将最后一次迭代获得子代种群作为最优超参数组。

【技术实现步骤摘要】
一种面向基础设施网的时空预测模型参数优化方法
本专利技术涉及基础设施网络领域，具体涉及一种面向基础设施网的时空预测模型参数优化方法。
技术介绍
在如今的现代社会生活中，人们无时无刻不需要现代化基础设施的服务。而国家的安全，经济繁荣和民族福祉也取决于一组高度相互依赖的关键基础设施，例如：国家电网、通信、供水、银行、石油、交通以及天然气系统等。鉴于基础设施的特殊地位和其安全运营的重要性，关键基础设施往往成为战争中首先被敌对双方攻击的目标。因此了解基础设施在受到压力或者受到攻击时的行为有及其重要的意义。在对基础设施进行异常检测时，可以根据历史数据对下一时刻数据进行预测，然后通过对比异常数据和预测数据的差值来判断设施是否异常。然而目前的方法大多数只是利用历史数据和下一时刻的时间关联性，并没有考虑同一时刻数据之间的关系。因此我们可以通过修改连续某一个或某几个数据来实现对基础设施的攻击。为了使得基础设施有更好的鲁棒性，相对于普通的预测，本文采用了面向基础设施网的时空预测模型。该方法不仅考虑了历史数据，同时也考虑了数据之间的相互关系，通过构建网络使得同一时刻的数据相互关联，并获得更加准确的预测结果。然而无论是普通的预测模型还是面向基础设施的空间网络模型，都有着较多的参数需要调节。在普通情况下，都是通过往常经验以及多次实验时候获得最佳的参数。然而这种情况比较浪费时间和经历，并且受设置参数人的经验和主观影响，不一定会获得最佳的参数。因此我们需要提出一种参数自适应的方法，使得算法可以自动调节参数收敛到一个全局最优的参数，让模型可以快速并准确的预测下一时刻的数据或判断基础设施是否受到了攻击。遗传算法借鉴了生物界自然选择和自然遗传中的复制、交叉、变异等现象进行了模拟，是一种自适应概率随机迭代算法。该算法由于其具有高度的并行性、随机和自适应性，常用于各种参数调节问题，并在各个领域取得了良好的实验结果，如：流浆箱总压控制的PID参数优化、SVM参数优化、支持向量机参数优化等。受此类文章启发，本文将遗传算法应用到了基础设置网的时空预测模型的参数优化中。综上所述，将遗传算法用于基础设施网的时空预测模型的参数调节问题，具有极其重要的理论与实践意义。
技术实现思路
本专利技术的目的是提供一种面向基础设施网的时空预测模型参数优化方法，该方法将建立的时空预测模型的超参数调节问题转换为7维数组的优化问题，并用遗传算法对超参数进行优化，以确定最优的时空预测模型，进而增加时空数据的预测准确率，减少预测时间，增加时空预测模型的实际应用价值。为实现上述专利技术目的，提供以下技术方案：一种面向基础设施网的时空预测模型参数优化方法，包括以下步骤：(1)将由深度学习网络构建的时空预测模型的超参数组成n维超参数组，并确定每个维度的超参范围；(2)根据维度的超参范围，随机生成m个n维超参数组作为初始种群；(3)根据初始种群或当前子代种群构建与种群个数相等的空间预测模型，利用训练样本训练所述时空预测模型后，并利用训练好的时空预测模型对测试样本进行预测，计算预测准确度和时间复杂度后，根据所述预测准确度和时间复杂度计算所述时空预测模型的适应度；(4)采用轮盘选择法，选择适应度最好的两个时空预测模型对应的超参数组作为父代后，对父代进行交叉、变异，迭代此步骤直到获得预设当前子代种群个数为止；(5)迭代执行步骤(3)～步骤(4)，直到迭代次数达到设定次数或者连续若干代子代种群不再变化为止，将最后一次迭代获得子代种群作为最优超参数组。优选地，所述时空预测模型包括GCN(GraphConvolutionalNetwork，图卷积网络)和LSTM(LongShort-TermMemory，长短期记忆网络)，具体地，将当前时刻t的时空数据Xt，LSTM上一单元格状态Ct-1，LSTM前一个输出Ht-1输入到GCN中重新提取空间特征，分别获得新空间特征X't，C't-1和H't-1，然后将X't，C't-1和H't-1输入到LSTM中，预测下一时刻的时空数据Xt+1。其中，所述超参数包括深度学习网络的层数、学习率、LSTM优化器选择、梯度裁剪率、Dropout率等，具体地，针对由GCN和LSTM组成的时空预测模型，所述超参数包括GCN层数、LSTM学习率、优化器选择、梯度裁剪率、LSTM隐藏单元数、LSTM层数以及Dropout率7个超参数，步骤(1)中将超参数转化数组，其中数组的维度与超参数个数相等，巧妙地将超参数优化的问题转为了数组优化的问题，后面直接采用遗传算法优化数组即可以获得最优的超参数，应用时根据最优的超参数建立时空预测模型，这样该时空预测模型能够更准确地预测下一时刻的时空数据。步骤(3)中，利用公式(1)和公式(2)分别计算时空网络模型的预测准确率和时间复杂度：其中，Pi表示第i个时空网络模型的预测准确率，yi(j)表示用第i个时空网络模型对第j组时空数据的预测结果，y0(j)表示第j组时空数据的实际结果，k表示时空数据的总组数；其中，Tci表示第i个时空网络模型预测一组时空数据所需要的平均时间，ci(j)表示第i个时空网络模型对第j组时空数据进行预测的时间。步骤(3)中，通过公式(3)计算时空预测模型的适应度：其中，φi为第i个时空网络模型的适应度，α为时间复杂度的比例系数，用于调节准确率和时间复杂度的比例，当α较小时，在参数优化过程中，更加注重预测准确率，当α较大时，更加注重时间复杂度，较少预测过程中的时间。步骤(4)中，将遗传算法应用到超参调节问题，获得最佳的模型超参数，使得时空网路模型可以更好的预测时空数据，主要实现过程为：(a)轮盘选择：利用公式(4)计算每个父代被选择的概率后，再根据公式(5)和(6)计算第i个时空网路模型被选择轮盘区间[Cli,Cri]，然后在[0,1]范围内生成一个随机数，根据落入的轮盘区间，选择对应的父代进行下一步操作；(b)以Pc概率对两个父代进行单点交叉：即在[0,1]范围内生成一个随机数，若该随机数小于Pc则交换父代数组第x维之后的数据，其中1<x<7；(c)以Pm概率进行变异：即在[0,1]范围内生成一个随机数，若该随机数小于Pm，则随机选择一维数据，并替换成维超参范围内的任意数。其中，所述迭代收敛条件为迭代次数达到设定次数，或连续若干代子代种群不再变化。本专利技术的有益效果主要表现在：将时空网络多个超参数调节问题转换成优化问题，自动对超参进行优化，实现了参数自适应。适应度函数不仅考虑了模型的准确率，还考虑了时间复杂度，可通过调节α减少数据的预测时间，增加算法的在基础设施网实际情况的实用性。用遗传算法对其进行优化，获得性能更好的时空预测模型，增加了预测准确率，并在一定程度上缩短了预测时间。附图说明为了更清楚地说明本专利技术实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图做简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动前提下，还可以根据这些附图获得其他附图。图1是本专利技术提供的时空预测模型的框图；图2是面向基础设施网的时空预测模型参数优化方法框图；图3是优化前天然气管道时空预测模型的预测实验结果图；图4是优化后天然气管道本文档来自技高网...

【技术保护点】
1.一种面向基础设施网的时空预测模型参数优化方法，包括以下步骤：(1)将由深度学习网络构建的时空预测模型的超参数组成n维超参数组，并确定每个维度的超参范围；(2)根据维度的超参范围，随机生成m个n维超参数组作为初始种群；(3)根据初始种群或当前子代种群构建与种群个数相等的空间预测模型，利用训练样本训练所述时空预测模型后，并利用训练好的时空预测模型对测试样本进行预测，计算预测准确度和时间复杂度后，根据所述预测准确度和时间复杂度计算所述时空预测模型的适应度；(4)采用轮盘选择法，选择适应度最好的两个时空预测模型对应的超参数组作为父代后，对父代进行交叉、变异，迭代此步骤直到获得预设当前子代种群个数为止；(5)迭代执行步骤(3)～步骤(4)，达到迭代收敛条件后，将最后一次迭代获得子代种群作为最优超参数组。

【技术特征摘要】
1.一种面向基础设施网的时空预测模型参数优化方法，包括以下步骤：(1)将由深度学习网络构建的时空预测模型的超参数组成n维超参数组，并确定每个维度的超参范围；(2)根据维度的超参范围，随机生成m个n维超参数组作为初始种群；(3)根据初始种群或当前子代种群构建与种群个数相等的空间预测模型，利用训练样本训练所述时空预测模型后，并利用训练好的时空预测模型对测试样本进行预测，计算预测准确度和时间复杂度后，根据所述预测准确度和时间复杂度计算所述时空预测模型的适应度；(4)采用轮盘选择法，选择适应度最好的两个时空预测模型对应的超参数组作为父代后，对父代进行交叉、变异，迭代此步骤直到获得预设当前子代种群个数为止；(5)迭代执行步骤(3)～步骤(4)，达到迭代收敛条件后，将最后一次迭代获得子代种群作为最优超参数组。2.如权利要求1所述的面向基础设施网的时空预测模型参数优化方法，其特征在于，所述时空预测模型包括GCN和LSTM，具体地，将当前时刻t的时空数据Xt，LSTM上一单元格状态Ct-1，LSTM前一个输出Ht-1输入到GCN中重新提取空间特征，分别获得新空间特征X't，C't-1和H't-1，然后将X't，C't-1和H't-1输入到LSTM中，预测下一时刻的时空数据Xt+1。3.如权利要求1所述的面向基础设施网的时空预测模型参数优化方法，其特征在于，所述超参数包括深度学习网络的层数、学习率、LSTM优化器选择、梯度裁剪率、Dropout率等。4.如权利要求2所述的面向基础设施网的时空预测模型参数优化方法，其特征在于，针对由GCN和LSTM组成的时空预测模型，所述超参数包括GCN层数、LSTM学习率、优化器选择、梯度裁剪率、LSTM隐藏单元数、LSTM层数以及D...

【专利技术属性】
技术研发人员：陈晋音，苏蒙蒙，徐轩珩，吴洋洋，熊晖，
申请(专利权)人：浙江工业大学，
类型：发明
国别省市：浙江,33