一种基于深度学习的生产物流预测方法技术

技术编号:24252371 阅读:61 留言:0更新日期:2020-05-22 23:59
本发明专利技术涉及一种基于深度学习的生产物流预测方法,首先对生产线生产加工过程中与生产物流相关的各项时序数据进行统计和预处理;然后对时序数据进行加权处理,分析前几个时刻数据对当前结果的影响程度,确定每个时刻影响因子即每个时刻的权重,得到深度信念网络模型的输入数据,建立基于深度信念网络的生产线预测模型;针对预测模型的参数进行实验确定,并结合AMM(Adam with Momentum)算法对模型进行预训练及调优,得到最终的生产物流预测模型;最终基于该模型预测生产物流的性能状况。

A production logistics prediction method based on deep learning

【技术实现步骤摘要】
一种基于深度学习的生产物流预测方法
本专利技术涉及生产物流的预测领域,特别涉及基于深度学习的生产物流时序数据的预测方法。
技术介绍
生产物流系统是将生产目标完成和生产顺利进行所必需的物料、设备、部件、动力、加工件等整合为同一物流系统,并能使生产物流总体趋于合理化的综合体,因而生产系统的性能的优劣是和生产物流息息相关的。因此,针对生产物流系统性能问题的研究很有必要。对于生产线物流预测国内外研究人员分别从稳定性、可靠性等方面对生产物流进行了建模仿真研究,如根据裕度计算讨论生产物流的稳定性和扰动分析;运用模型分析生产物流的可靠性;通过建模分析对生产物流进行仿真和评价。在这些研究中,均提到了生产效率、生产周期和在制品库存等基本性能参数,而利特尔法则是反映这三个参数内在关系的重要理论,并已得到广泛应用,如基于利特尔法则提出的带回流生产线的生产调度方法,根据利特尔法则对生产物流变动性的评估等。虽然目前有生产效率、生产周期和在制品库存等参数对生产物流进行性能状态判断和比较的研究,而这些传统的生产物流性能预测的方法往往用到的是整体数据的平均值来评估其性能,而并非应用到生产加工的每个阶段的信息,造成生产信息的缺失或者是重大误差。对于生产物流的性能预测,采用了深度学习算法中的深度信念网络,由于传统的深度信念网络应用优化算法进行参数更新的时候均采用的随机梯度下降的算法,而该算法存在着其必然的缺点,由于其在优化过程中学习率是固定不变的,可能会出现由于学习率过小引起的收敛太慢的问题及学习率过大引起的震荡而无法收敛到最优解的问题
技术实现思路
要解决的技术问题为了克服现有技术的不足,本专利技术提供了基于AMM(AdamwithMomentum)优化算法的深度信念网络时序数据生产物流性能预测方法。技术方案一种基于深度学习的生产物流预测方法,其特征在于步骤如下:步骤1:采用将最近距离填补法与均值法相结合的方式,即利用当前时刻之前的3个时刻的数据均值对生产物流相关数据进行数据填补,再利用前两批的数据的均值填补某组数据中某一属性的缺失;步骤2:利用聚类的方法进行多个属性异常值的探测,最后对探测的异常值进行分析,以该异常值对预测指标的影响程度做出删除、校正还是保留的决定;步骤3:采用z-score标准化的规范化处理方法对数据进行归一化处理:其中,Yi表示第i个原始数据,为N个原始数据的平均值,σ为原始数据的标准差,N为原始数据的总个数;步骤4:确定输入层由多少个时刻的数据的加权所得,即采用实验的方法对数据量进行确定,根据实际情况采用结合2、3、4个不同数量的时刻数据,通过综合预测结果及训练预测时间来确定最佳时刻数;步骤5:确定每个时刻数据的加权值,具体步骤如下:步骤a:首先先假设当前时刻的数据的影响是最大的,随着时间刻度距离越大影响将会减弱,分别对不同时刻的值给定一个权重,根据给定权重的不同分5组,通过训练预测计算出其准确度;步骤b:假设当前时刻的数据的影响是最小的,随着时间刻度距离越大影响将会加强,分别对不同时刻的值给定一个权重,根据给定权重的不同分5组,通过训练预测计算出其准确度;步骤c:假设中间时刻的数据的影响是最大的,从当前时刻开始随着时间刻度距离越大影响将会先加强后减弱,分别对不同时刻的值给定一个权重,根据给定权重的不同分5组,通过训练预测计算出其准确度;步骤d:通过对比不同种情况的预测准确度及训练时间确定该项目属于哪种类型的数据,进一步确定对比该种情况下,不同权重下的准确度及训练时长,确定最佳权重;步骤6:通过类似上述输入数据权重的实验方法确定模型的迭代次数及隐含层层数;步骤7:通过下述经验公式确定隐含层神经元的大致取值范围,进而通过实验的方法确定隐含层神经元具体个数:min(ni,n0)<nh<max(ni,n0)(3)nh<2*ni(5)其中,n0表示输入层的神经元个数,ni为输出层的神经元个数,nh为隐含层神经元个数;步骤8:得到输入层数据及模型的基本参数后,对模型中每个受限玻尔兹曼机的训练过程,具体的训练过程如下:步骤a:输入数据的确定及模型搭建的参数初始化,给定样本数量batchsize和迭代次数epoch,每一个受限玻尔兹曼机进行参数初始化权重w,可见层偏置b,隐含层偏置c见公式(8);式(8)中:n为可见层神经元个数,m为隐含层神经元个数;步骤b:将模型的输入向量X和第一个隐含层H1作为受限玻尔兹曼机,将输入数据X附给受限玻尔兹曼机的显层v(0);步骤c:采用公式(9)计算出它使隐含层神经元被开启的概率,式(9)中的上标用于区别不同向量,下标用于区别同一向量中的不同维数,Wj表示j维显层数据所占权重,σ表示Sigmoid函数;步骤d:从计算出的隐含层神经元被开启的概率分布中采用Gibbs采样抽取一个隐层样本h(0);h(0)~P(h(0)|v(0))(10)步骤e:用隐层样本重构显层,计算出被抽取出来的隐层样本使显层神经元激活的概率;步骤f:从计算出的显层神经元被开启的概率分布中采用Gibbs采样抽取出显层的一个样本v(1);v(1)~P(v(1)|h(0))(12)步骤g:再次用显层神经元计算出隐层神经元被开启的概率;步骤h:进而根据以下公式更新权值w及显层偏置b、隐层偏置c:W←W+λ(P(h(0)=1|v(0))v(0)T-P(h(1)=1|v(1))v(1)T)(14)b←b+λ((v(0))-(v(1)))(15)c←c+λ((h(0))-(h(1)))(16)其中λ为学习率;步骤i:重复步骤b~步骤h,直到达到最大训练周期epoch,固定该受限玻尔兹曼机的权重及偏置;步骤j:将当前的隐藏层H1作为可见层,将隐藏层H2作为新的隐藏层构成新的受限玻尔兹曼机,采用步骤b~步骤i继续训练的当前的受限玻尔兹曼机,并获得最佳权重、偏置参数;步骤k:循环步骤j直到所有的受限玻尔兹曼机训练完成,输出所有参数即每一层的权重及偏置;步骤9:生产物流预测模型的整体调优环节,将除顶层外的其他受限玻尔兹曼机的权重分为向上的认知权重Wwake和向下的生成权重Wsleep,初始值均为该受限玻尔兹曼机的预训练权重;步骤10:以真实存在的样本X作为输入,用认知阶段的权重采用公式(9)计算出p(Y/X),然后用Gibbs采样以p(Y/X)采样得到输出值Y,进而通过生成阶段的权重重建得到X1;步骤11:针对样本X及重建后的X1应用AMM算法更新权重,具体算法如下:步骤a:初始化学习率η,初始化一阶矩和二阶矩估计的指数衰减速率β1、β2分别默认取值0.9和0.999,其中β1、β1∈[0,1];步骤b:初始化常数δ为本文档来自技高网
...

【技术保护点】
1.一种基于深度学习的生产物流预测方法,其特征在于步骤如下:/n步骤1:采用将最近距离填补法与均值法相结合的方式,即利用当前时刻之前的3个时刻的数据均值对生产物流相关数据进行数据填补,再利用前两批的数据的均值填补某组数据中某一属性的缺失;/n步骤2:利用聚类的方法进行多个属性异常值的探测,最后对探测的异常值进行分析,以该异常值对预测指标的影响程度做出删除、校正还是保留的决定;/n步骤3:采用z-score标准化的规范化处理方法对数据进行归一化处理:/n

【技术特征摘要】
1.一种基于深度学习的生产物流预测方法,其特征在于步骤如下:
步骤1:采用将最近距离填补法与均值法相结合的方式,即利用当前时刻之前的3个时刻的数据均值对生产物流相关数据进行数据填补,再利用前两批的数据的均值填补某组数据中某一属性的缺失;
步骤2:利用聚类的方法进行多个属性异常值的探测,最后对探测的异常值进行分析,以该异常值对预测指标的影响程度做出删除、校正还是保留的决定;
步骤3:采用z-score标准化的规范化处理方法对数据进行归一化处理:






其中,Yi表示第i个原始数据,为N个原始数据的平均值,σ为原始数据的标准差,N为原始数据的总个数;
步骤4:确定输入层由多少个时刻的数据的加权所得,即采用实验的方法对数据量进行确定,根据实际情况采用结合2、3、4个不同数量的时刻数据,通过综合预测结果及训练预测时间来确定最佳时刻数;
步骤5:确定每个时刻数据的加权值,具体步骤如下:
步骤a:首先先假设当前时刻的数据的影响是最大的,随着时间刻度距离越大影响将会减弱,分别对不同时刻的值给定一个权重,根据给定权重的不同分5组,通过训练预测计算出其准确度;
步骤b:假设当前时刻的数据的影响是最小的,随着时间刻度距离越大影响将会加强,分别对不同时刻的值给定一个权重,根据给定权重的不同分5组,通过训练预测计算出其准确度;
步骤c:假设中间时刻的数据的影响是最大的,从当前时刻开始随着时间刻度距离越大影响将会先加强后减弱,分别对不同时刻的值给定一个权重,根据给定权重的不同分5组,通过训练预测计算出其准确度;
步骤d:通过对比不同种情况的预测准确度及训练时间确定该项目属于哪种类型的数据,进一步确定对比该种情况下,不同权重下的准确度及训练时长,确定最佳权重;
步骤6:通过类似上述输入数据权重的实验方法确定模型的迭代次数及隐含层层数;
步骤7:通过下述经验公式确定隐含层神经元的大致取值范围,进而通过实验的方法确定隐含层神经元具体个数:
min(ni,n0)<nh<max(ni,n0)(3)



nh<2*ni(5)






其中,n0表示输入层的神经元个数,ni为输出层的神经元个数,nh为隐含层神经元个数;
步骤8:得到输入层数据及模型的基本参数后,对模型中每个受限玻尔兹曼机的训练过程,具体的训练过程如下:
步骤a:输入数据的确定及模型搭建的参数初始化,给定样本数量batchsize和迭代次数epoch,每一个受限玻尔兹曼机进行参数初始化权重w,可见层偏置b,隐含层偏置c见公式(8);



式(8)中:n为可见层神经元个数,m为隐含层神经元个数;
步骤b:将模型的输入向量X和第一个隐含层H1作为受限玻尔兹曼机,将输入数据X附给受限玻尔兹曼机的显层v(0);
步骤c:采用公式(9)计算出它使隐含层神经元被开启的概率,



式(9)中的上标用于区别不同向量,下标用于区别同一向量中的不同维数,Wj表示j维显层数据所占权重,σ表示Sigmoid函数;
步骤d:从计算出的隐含层神经元被开启的概率分布中采用Gibbs采样抽取一个隐层样本h(0);

【专利技术属性】
技术研发人员:张维吴燕马志华
申请(专利权)人:西北工业大学
类型:发明
国别省市:陕西;61

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1