基于Adam算法优化BP神经网络预测滤棒工艺指标的方法技术

本发明专利技术涉及一种基于Adam算法优化BP神经网络预测滤棒工艺指标的方法，属于烟草工业中的数据挖掘与建模。滤棒成型是卷烟生产中的重要环节，滤棒起到了过滤一氧化碳、焦油等有害化学物质的作用，对于产品质量和消费者健康有着重要影响。由于滤棒生产是一个较为复杂的系统，影响产品工艺指标的因素较多且多为非线性影响，所以使用传统方法难以建立滤棒工艺指标的预测模型。本发明专利技术通过收集大量生产数据，并预处理为适合机器学习的矩阵结构，基于Adam算法优化BP神经网络进行训练，提出了滤棒工艺指标预测的方法。通过在不同测试集上的多次验证，该模型精确性可以得到保证。该模型精确性可以得到保证。该模型精确性可以得到保证。

【技术实现步骤摘要】
基于Adam算法优化BP神经网络预测滤棒工艺指标的方法


[0001]本专利技术涉及一种基于Adam算法优化BP神经网络预测滤棒工艺指标的方法，属于烟草工业中的数据挖掘与建模。

技术介绍

[0002]滤棒成型是卷烟生产中的重要环节，滤棒起到了过滤一氧化碳、焦油等有害化学物质的作用，对于产品质量和消费者健康有着重要影响。滤棒生产是一个较为复杂的系统，建立该生产模型的难度主要在于(1)影响产品质量的因素较多、(2)影响因子对结果的影响是非线性的、(3)影响因子间互相也有影响。所以使用传统方法难以建立滤棒工艺指标的预测模型。关于设备参数及原材料对产品质量的影响，长期以来是依靠工人经验进行估计，缺乏准确的预测模型导致了生产自动化程度不高、人工控制存在延迟和误差等问题。随着数据挖掘及机器学习技术的发展，为解决此类问题提供了一个全新的思路。本专利技术采集云南中烟曲靖卷烟厂实时生产数据7万条，在众多会对滤棒产品质量造成影响的因素中，选择了6个影响最大并且易于量化的指标作为特征值。国家关于滤棒产品的检验标准共涉及5个物理指标，其中长度、圆度、重量3个指标在实际生产中易于控制，且达标率基本为100％，预测实用性较低。

技术实现思路

[0003]本专利技术要解决的技术问题是提供一种基于Adam算法优化BP神经网络预测滤棒工艺指标的方法，选择了圆周、吸阻两个难以控制且合格率相对较低的指标作为标签值，即该模型的预测结论，通过输入原材料使用情况、设备运行参数数据就能够准确地大批次预测滤棒产品的工艺指标，改变行业中目前需要依靠人工进行抽检的现状。
[0004]本专利技术采用的技术方案是：一种基于Adam算法优化BP神经网络预测滤棒工艺指标的方法，包括如下步骤:
[0005]A、采集生产过程中影响滤棒工艺指标的关键数据作为特征值，包括设备运行参数(辊速比、ODM校准量)、原材料使用比例。将同一时间段内取样检测的产品质量数据作为标签值。并在同一个时间坐标轴上将特征值与标签值一一对应，处理为矩阵结构，作为本专利技术中的数据集。
[0006]B、进行数据预处理，具体包括：残缺值剔除，将非数字数据进行One
‑
Hot编码，将离群值基于3
‑
σ方法进行剔除，将特征值进行归一化处理。
[0007]C、将预处理后的数据集按照7:3的比例随机设置为训练集和测试集。
[0008]D、搭建反向传播(BP)神经网络进行模型训练，该网络由输入层、隐藏层、输出层构成。模型训练完成后使用测试集进行测试。
[0009]具体地，步骤A的数据集，以设备运行参数(辊速比、ODM校准值)、设备编号、生产原料(醋酸纤维丝束)使用比率作为影响产品质量的自变量，即机器学习中的特征值。将圆周及吸阻两类质量指标作为因变量，即机器学习中的标签值，也就是本专利技术要预测的结果。
[0010]具体地，步骤B中的数据集存在极少部分脏数据，由检测设备或生产设备故障所导致，属于不可控因素且对机器学习的效果有负面影响，经检验数据集标签值符合正态分布，所以使用3
‑
σ方法检验离群值并剔除，即对于正态分布的数据，分布在区间(μ
‑
3δ,μ+3δ)内的概率为99.73％，视为正常数据，超出该区间的数据视为离群值进行剔除，式中μ为平均值，δ为标准差；对特征值进行归一化处理的方法是最大最小值(min
‑
max)算法，其计算公式为：为：式中，i＝1,2,
…
,m，j＝1,2,
…
,n，其中m和n均为正整数，为归一化后的数据集，D
i
×
j
为步骤A中的原始数据集，min(D
j
)为原始数据集的最小值，max(D
j
)为原始数据集的最大值。
[0011]具体地，步骤C中训练样本、测试样本的选取是在预处理之后的数据集中打乱顺序并随机选取。
[0012]具体地，假设第l层有n
l
个神经元，这些神经元输入组成的向量为z
l
，输出组成的向量为h
l
,u＝h
l
以区分最终输出与隐藏层的输出，据BP神经网络的计算规则有：z
l
＝W
l
z
l
+b
l
，其中l＝1,2,
…
,L；h
l
＝f
l
(z
l
)，式中为第l
‑
1层的权值矩阵；为第l层的偏置向量；f
l
为第l层的激活函数，激活函数是模仿人脑神经元的阈值激活特性，向BP神经网络中引入非线性特征。本专利技术选择ReLu函数作为激活函数，其优点是训练速度快、拟合非线性能力强，防止过拟合能力强。其表达式如为：f
l
(z
l
)＝max(0,z
l
)。本专利技术使用Adam算法进行模型优化，它结合了自适应学习率优化算法和动量法两者的优点。其表达式为m
t
＝β1·
m
t
‑1+(1
‑
β1)
·
dk，其中m
t
‑1和m
t
分别为迭代前、迭代后的一阶矩估计，β1为指数加权平均参数，dk代表权值w或阈值b的梯度。同理二阶矩估计为：v
t
＝β2·
v
t
‑1+(1
‑
β2)
·
dk2，其中v
t
‑1和v
t
分别为迭代前、迭代后的二阶矩估计，β2为指数加权平均参数，dk2代表权值w或阈值b的梯度平方。将上述一阶动量m
t
、二阶动量v
t
结合在一起，对权值和阈值进行更新，表达式如下：式中：w
t
、b
t
是调整后的权值和阈值，w
t
‑1、b
t
‑1是待训练的权值和阈值，α是学习率，θ是常数。为防止在本模型训练过程中发生过拟合现象，本专利技术采用Dropout方法对模型进行正则化。
[0013]优选地，本神经网络中优化算法选择Adam方法，学习率设置为0.0001，最大训练次数取为100，训练过程中设置自动终止并保存最优模型。
附图说明
[0014]图1为本专利技术的整体流程图。主要包含BP神经网络结构、Adam算法优化、Dropout三部分。其中BP神经网络负责训练集数据按照预定次数进行迭代，Adam算法用于优化每一次迭代参数、Dropout用于防止过拟合，保证本专利技术的准确性和拓展性。
[0015]图2为反向传播(BP)神经网络结构图。该神经网络由一层输入层、2层隐藏层、1层输出层构成。其中输入层用于接收自变量，即由设备编号、设备运行参数、原材料构成的标签值。隐藏层用于提取数据中的有效信息。输出层用于滤棒工艺指标的预测。
[0本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于Adam算法优化BP神经网络预测滤棒工艺指标的方法，其特征在于：包括如下步骤:A、采集生产过程中影响滤棒工艺指标的关键数据作为特征值，包括设备编号、设备运行参数、原材料使用比例，将同一时间段内取样检测的产品质量数据作为标签值，并在同一个时间坐标轴上将特征值与标签值一一对应，处理为矩阵结构，作为数据集；B、对步骤A数据集中的数据进行数据预处理，具体包括：残缺值剔除，将非数字数据进行One
‑
Hot编码，将离群值基于3
‑
σ方法进行剔除，将特征值进行归一化处理；C、将预处理后的数据集按照7:3的比例随机设置为训练集和测试集；D、搭建反向传播BP神经网络进行模型训练，该网络由输入层、2层隐藏层、输出层构成，模型训练完成后使用测试集进行测试。2.根据权利要求1所述的基于Adam算法优化BP神经网络预测滤棒工艺指标的方法，其特征在于：步骤A中的数据集，以设备运行参数、设备编号、生产原料使用比率作为影响产品质量的自变量，即机器学习中的特征值，设备运行参数包括辊速比、ODM校准值，将圆周及吸阻两类工艺指标作为因变量，即机器学习中的标签值。3.根据权利要求1所述的基于Adam算法优化BP神经网络预测滤棒工艺指标的方法，其特征在于：步骤B具体为：对步骤A数据集中的数据，使用3
‑
σ方法检验离群值并剔除，即对于正态分布的数据，分布在区间(μ
‑
3δ，μ+3δ)内的概率为99.73％，将其视为正常数据，超出该区间的数据则视为离群值进行剔除，式中μ为平均值，δ为标准差；对特征值进行归一化处理的方法是最大最小值min
‑
max算法，其计算公式为：式中，i＝1，2，
…
，m，j＝1，2，
…
，n，其中m和n均为正整数，为归一化后的数据集，D
i
×
j
为步骤A中的原始数据集，min(D
j
)为原始数据集的最小值，max(D
j
)为原始数据集的最大值。4.根据权利要求书1所述的基于Adam算法优化BP神经网络预测滤棒工艺指标的方法，其特征在于：步骤D中搭建反向传播BP神经网络进行模...

【专利技术属性】
技术研发人员：王红斌，李志文，
申请(专利权)人：昆明理工大学，
类型：发明
国别省市：