一种基于数据驱动的深度神经网络大时滞系统动态建模方法技术方案

本发明专利技术公开了一种基于数据驱动的深度神经网络大时滞系统动态建模方法，其中主要涉及数据预处理方法与新型深度神经网络建模技术。本发明专利技术针对在成型控制和工业制造中常见的大时滞系统中出现的建模难度大、强耦合、多干扰等问题，公开了一种基于深度神经网络的大时滞系统建模方法。在数据预处理过程中考虑了系统响应大时滞特性，并对深度神经网络算法权值更新精度差、速度慢的缺点进行优化，增强了其泛化能力。本发明专利技术能有效地解决大时滞系统机理模型难以建立的问题，所得到的深度网络模型也具有很好的泛化性能。

【技术实现步骤摘要】
一种基于数据驱动的深度神经网络大时滞系统动态建模方法
本专利技术属于非线性系统建模
，更为具体地讲，涉及一种基于数据驱动的深度神经网络大时滞系统动态建模方法。
技术介绍
非线性大时滞系统普遍存在于现在的大多数许多工业过程中。由于该系统时延时间长，输入输出多，易受干扰影响，内部结构复杂难以分析等特点，对大时滞系统的的建模辨识与控制问题受到了广泛的关注。对系统建模方法的选择直接影响到系统建模的准确性与可靠性。如今，已有很多非线性建模方法如最小二乘估计，局部动态线性化等已被广泛应用于各种工业场合。随着机器学习的发展，诸如支持向量机，核心向量机等机器学习方法也被应用于非线性系统建模。随着神经网络理论的发展，深度神经网络因其具有深度挖掘数据特征的能力，解耦性能好，泛化能力强等特点，逐渐在非线性复杂系统建模场合崭露头角。然而，神经网络在权值寻优过程中容易遇到权值更新慢、效率低的问题，因此选择合适的寻优算法对神经网络的训练具有重要意义。而针对系统大时滞特点，对输入数据预处理就显得十分关键。在原始数据中如何选择合适的变量子集作为回归建模的输入非常重要，变量选择的算法也十分繁杂。为高效选择最优数据子集，有学者提出了如序列前向搜索、序列后向搜索、逐步回归法等贪婪搜索策略。但上述方法计算量很大，并易使建模产生过拟合风险。其他选择方法诸如决策树、压缩系数法等嵌入式选择方法则在变量选择与训练模型同时进行，而基于相关系数、欧氏距离、贝叶斯信息准则等过滤式选择方法则独立于模型训练过程。数据预处理、变量选择是建模过程中必不可少的关键环节，因此需要选择合适的选择方法以便后续工作能顺利进行。
技术实现思路
本专利技术的目的在于克服现有技术的不足，提供一种基于数据驱动的深度神经网络大时滞系统动态建模方法，以解决神经网络在权值寻优过程中容易遇到权值更新慢、效率低的问题。为实现上述目的，本专利技术基于数据驱动的深度神经网络大时滞系统动态建模方法，其特征在于，包括如下步骤：步骤1：通过机理分析进行多输入数据进行相关变量分析，排除不相关输入；步骤2：通过相关系数分析与时滞相关数据特征，将处理后的特征作为神经网络输入；步骤3：对动态深度神经网络权重进行更新；步骤4：将处理好的数据集带入深度神经网络训练，得到该系统模型；所述基于数据驱动的深度神经网络大时滞系统动态建模方法，其特征在于：将系统的较多输入先按照机理分类，再采取包括但不限于采用弹性约束估计，岭估计及自适应绝对约束估计(LASSO)算法等筛选最优子集，以确定基础数据集；所述基于数据驱动的深度神经网络大时滞系统动态建模方法，其特征在于：将筛选完的数据进行相关性分析，包括但不限于Pearson系数、Spearman系数、Kendall系数等相关系数算法，再根据设定好的相关性阈值筛选数据集作为深度神经网络的输入；所述基于数据驱动的深度神经网络大时滞系统动态建模方法，其特征在于：在深度神经网络训练中使用动态进化算法对误差函数进行寻优，进而更新神经网络前向传播的权重值；所述基于数据驱动的深度神经网络大时滞系统动态建模方法，其特征在于：将时滞相关性分析后筛选出的数据集作为训练集，对上步所述深度神经网络进行训练，以得到该系统的深度神经网络模型。本专利技术的目的是这样实现的：本专利技术基于数据驱动的深度神经网络大时滞系统动态建模方法，其中主要涉及数据预处理方法与新型深度神经网络建模技术。本专利技术针对在化工、机械等工业制造过程中常见的大时滞系统中出现的建模难度大、强耦合、多干扰等问题，公开了一种基于深度神经网络的大时滞系统建模方法。在数据预处理过程中考虑了系统响应大时滞特性，并对深度神经网络算法权值更新精度差、速度慢的缺点进行优化，增强了其泛化能力。本专利技术能有效地解决大时滞系统机理模型难以建立的问题，所得到的深度网络模型也具有很好的泛化性能。附图说明图1是本专利技术基于数据驱动的深度神经网络大时滞系统动态建模方法流程图；图2是本专利技术基于数据驱动的深度神经网络大时滞系统动态建模方法一种具体实施方式流程图。具体实施方式下面结合附图对本专利技术的具体实施方式进行描述，以便本领域的技术人员更好地理解本专利技术。需要特别提醒注意的是，在以下的描述中，当已知功能和设计的详细描述也许会淡化本专利技术的主要内容时，这些描述在这里将被忽略。大时滞系统为多输入系统时，先用机理分析对多个输入数据进行分析，预选影响系统输出的相关输入数据。但在考虑到系统工况，外界干扰等各种因素的影响，使用自适应LASSO算法对预选后的输入数据进行再筛选。自适应LASSO算法如下式：其中γ＞0。由上式可知λ作为估计参数大小惩罚项的权重值是时变自适应的，而非一般LASSO算法中选择常数作为惩罚项权值。在对变量进行自适应LASSO分类之后，根据贝叶斯信息准则(BIC)筛选无关变量并将其从输入中筛除。BIC公式如下所示，其中k代表所建立模型参数个数，L为似然函数最大值：BIC＝kln(n)-2ln(L)通过斯皮尔曼相关性系数对剩余数据分析其与时滞的相关性，并设置相关性阈值去掉相关性系数峰值在设定阈值之下的输入数据，最后选择相关性系数阈值之上数据集作为神经网络的输入值。在所述深度神经网络建模过程中，对前向通道权重采用动态进化算法进行更新。相比静态算法中使用设定好的时间常数值进行计算，动态算法在设计优化目标公式与适应函数时，每建立一个新的深度神经网络分配方案时，就对其进行一次运行并获得其运行时间，再带入优化目标公式与适应函数中进行动态更新。本专利技术流程图如图1、2所示。优化目标公式如下式：f＝minmax(t1,t2,...,tm)其中优化函数f的目标是尽可能减小深度神经网络中需要计算时间最大的模型执行时间。在对获得的运行时间进行收集后，采用上述公式修改某些不可行解，并进行惩罚后得到适应度值。将筛选处理好的数据作为训练集带入上述深度神经网络模型进行训练，判断是否达到终止条件，最终得到该大时滞系统的深度神经网络模型。本专利技术涉及大时滞系统的一种深度神经网络建模技术，其中主要涉及数据预处理方法与新型深度神经网络建模技术。本专利技术针对在成型控制和工业制造过程中常见的大时滞系统中出现的建模难度大、强耦合、多干扰等问题，提出了一种基于深度神经网络的大时滞系统建模方法。在数据预处理过程中考虑了系统响应大时滞特性，并对深度神经网络算法权值更新精度差、速度慢的缺点进行优化，增强了其泛化能力。本专利技术能有效地解决大时滞系统机理模型难以建立的问题，所得到的深度网络模型也具有很好的泛化性能。尽管上面对本专利技术说明性的具体实施方式进行了描述，以便于本
的技术人员理解本专利技术，但应该清楚，本专利技术不限于具体实施方式的范围，对本
的普通技术人员来讲，只要各种变化在所附的权利要求限定和确定的本专利技术的精神和范围内，这些变化是显而易见的，一切利用本专利技术构思的专利技术创造本文档来自技高网...

【技术保护点】
1.一种基于数据驱动的深度神经网络大时滞系统动态建模方法，其特征在于，包括如下步骤：/n步骤1：通过机理分析进行多输入数据进行相关变量分析，排除不相关输入；/n步骤2：通过相关系数分析与时滞相关数据特征，将处理后的特征作为神经网络输入；/n步骤3：对动态深度神经网络权重进行更新；/n步骤4：将处理好的数据集带入深度神经网络训练，得到该系统模型。/n

【技术特征摘要】
1.一种基于数据驱动的深度神经网络大时滞系统动态建模方法，其特征在于，包括如下步骤：
步骤1：通过机理分析进行多输入数据进行相关变量分析，排除不相关输入；
步骤2：通过相关系数分析与时滞相关数据特征，将处理后的特征作为神经网络输入；
步骤3：对动态深度神经网络权重进行更新；
步骤4：将处理好的数据集带入深度神经网络训练，得到该系统模型。


2.根据权利要求1所述基于深度神经网络的大时滞系统动态建模方法，其特征在于：步骤1所述采取分类方法，包括但不限于采用弹性约束估计，岭估计及自适应绝对约束估计(LASSO)算法等，将系统的较多输入先按照机理分类，筛选最优子集，以确定基础数据集。


3.根据权利...

【专利技术属性】
技术研发人员：黄求安，高丰，陈勇，伍凌川，韩智鹏，鲁前成，刘越智，
申请(专利权)人：中国兵器装备集团自动化研究所，电子科技大学，
类型：发明
国别省市：四川;51