一种基于多任务增益回归的废钢异物扣重学习方法技术

本发明专利技术公开了一种基于多任务增益回归的废钢异物扣重学习方法，采用MTSN预测模型，并采用Embedding模块实现数据连续向量表示，采用层级条件下的多层感知网络实现数据学习，分别生成认知数据损失度量和离散废钢等级数据的损失度量，最后采用MTL多任务自动学习权重机制，关注相关性大的变量，弱化相关性小的变量，实现自动调节权重系数；本发明专利技术中的多层级回归网络，根据数据类型的不同，分别训练，对具有不确定性影响力的数据，单独计算特征影响因子，提高数据的表征能力，能够解决数据表征能力差的问题；本发明专利技术中的数据增益网络，初始化权重，计算数据预测参数，迭代训练，转化权重系数为增益系数。数为增益系数。数为增益系数。

【技术实现步骤摘要】
一种基于多任务增益回归的废钢异物扣重学习方法


[0001]本专利技术属于废钢异物扣重
，具体涉及一种基于多任务增益回归的废钢异物扣重学习方法。

技术介绍

[0002]废钢是钢铁再生产的重要原材料，废钢根据厚度和完整度能分为不同的等级，熔炉煅烧后，产生新的可用钢铁。废钢回炉是钢铁生产的主要方式之一，在回收废钢时，废钢货运车中不同等级的钢铁混杂，存在一些异物，包括多种类型金属杂质和自然杂质，厂家结算时，需要从废钢中扣除掉这些杂质的重量，给废钢定价。实际情况下，并不会把这些异物挑出来单独称重，且车厢覆盖率高，无法获取车厢内部的情况，传统的异物扣重，需要现场验质人员根据经验判断废钢等级并根据车厢的异物覆盖率，估算异物重量，对工作人员的经验要求较高，这也意味着传统异物扣重受人为因素影响较大，并且现场环境复杂，受天气和光照影响较大，人眼无法准确评估车厢内废钢异物的情况。
[0003]深度回归网络预测结合了神经网络和回归的两大数据分析特性，深度回归网络能够对数据做出精准预测，将深度回归网络应用于废钢异物扣重，可以在每次获得废钢货运车的载货信息后，自动计算出废钢异物扣重信息，既能对结算提供依据，也能减少核算人员的工作量，保障了工人作业的安全性。
[0004]目前存在以下两个挑战：
[0005](1)如何增强废钢等级数据对扣重预测的可解释性，废钢等级编码后是一种模糊有序数据，序列之间层级不清晰，离散化处理后，特征信息单一，不能反映不同类别和不同区间的数据分布情况；
[0006](2)同一废钢等级下的不同厂商的运料车，异物扣重值差异大，扣重数据规律性差，干扰多，数据与测试值之间关联性差。

技术实现思路

[0007]本专利技术的目的在于提供一种基于多任务增益回归的废钢异物扣重学习方法，以解决上述
技术介绍
中提出的废钢等级编码后是一种模糊有序数据，序列之间层级不清晰，离散化处理后，特征信息单一，不能反映不同类别和不同区间的数据分布情况，以及异物扣重值差异大，扣重数据规律性差，干扰多，数据与测试值之间关联性差的问题。
[0008]为实现上述目的，本专利技术提供如下技术方案：一种基于多任务增益回归的废钢异物扣重学习方法，采用MTSN预测模型，并采用Embedding模块实现数据连续向量表示，采用层级条件下的多层感知网络实现对数据学习，根据数据类型的不同，分别训练，对具有不确定性影响力的数据，单独计算特征影响因子，提高数据的表征能力，分别生成认知数据损失度量和离散废钢等级数据的损失度量，最后采用MTL多任务自动学习权重机制，关注相关性大的变量，弱化相关性小的变量，实现自动调节权重系数，具体包括如下步骤：
[0009]步骤一：基于数据分析理解，进行数据前处理，离散化数据，降低噪声影响；
[0010]步骤二：基于多层级MLP回归算法，生成针对不同特征的损失函数，实现多任务学习，提升实用效果，信息增益模块，关注特征影响因子，强化有利因素，弱化噪声干扰，提升学习能力和后期的预测精度；
[0011]步骤三：基于MTL的多任务损失优化学习算法，自动调节weights，实现多任务学习，输出模型，实现扣重预测；
[0012]其中，MTSN的主要步骤如下：
[0013]S1：基于数据分析，数据平滑处理，过滤极值数据，方便后期数据分析；
[0014]S2：构建多层级增益回归网络，差异化处理数据，权值增益模块增强数据表征能力，加强网络学习，提高预测精度；
[0015]S3：构建不确定性数据预测网络，多任务输入，平衡输出，提高预测精度。
[0016]作为本专利技术中一种优选的技术方案，还包括将原始数据给入到数据预处理模块中，其具体步骤如下：
[0017](1)：基于相关性分析理论，数据预选择，减少噪声和极值数据；
[0018](2)：基于one
‑
hot编码，处理废钢等级数据信息；
[0019](3)：基于Embedding结构，将稀疏的one
‑
hot向量转化成稠密的Embedding向量。
[0020]作为本专利技术中一种优选的技术方案，在所述步骤二中，完成多任务MLP回归算法的具体步骤包括：
[0021]Ⅰ：利用多层感知网络，挖掘高阶特征和非线性特征，对上述目标数据进行表征学习；
[0022]Ⅱ：利用前馈网络，做数据加权，自适应调节数据的“关注度”；
[0023]Ⅲ：利用SoftMax机制，实现逻辑回归，并用SGD优化器调整梯度，使得模型不断学习；
[0024]Ⅳ：利用Squeezed增益机制，计算网络权重，求出增益系数；
[0025]Ⅴ
：利用增益系数，做数据加权，不断调节模型对难分数据的关注度。
[0026]作为本专利技术中一种优选的技术方案，在所述步骤三中，实现多任务损失优化的具体步骤包括：
[0027]①
：利用贝叶斯模型，确定任务类型的认知不确定性和偶然不确定性；
[0028]②
：基于最大似然估计，最大化模型的对数似然，最大化模型参数和噪声似然；
[0029]③
：基于预测任务，从同方差性入手，利用预测的方差来代表权重，训练模型，直至loss达到预期值。
[0030]作为本专利技术中一种优选的技术方案，所述S1主要包括：
[0031]S11：数据分析，得出可能影响扣重的特征数据；
[0032]S12：one
‑
hot数据编码，将废钢等级数据离散化；
[0033]S13：Embedding层对每一个特征向量做转换，不同特征之间不相互干涉。
[0034]作为本专利技术中一种优选的技术方案，所述S2主要包括：
[0035]S21：根据多任务软参数共享方法，事先划分好子任务，将不同的任务数据划分到不同的网络层，使得每个任务都有自己的模型和参数；
[0036]S22：网络输出，多层感知器底层是输入层，中间是隐藏层，最后是输出层；
[0037]S23：把废钢等级信息作为不确定性数据{w1,w2,
…
w
n
}，输入到增益MLP网络中，并
初始化权值分布{1,1,1
…
1}，dropout结构增加了后，网络结构发生了变化；
[0038]S24：利用集成学习的权值更新规则来优化MLP网络学习能力和数据表征能力；
[0039]S25：数据训练，输出loss1和loss2，迭代更新loss1和loss2。
[0040]作为本专利技术中一种优选的技术方案，所述步骤S3主要包括：
[0041]S31：将多任务输出参数和结构输入到MTL多任务学习网络中；
[0042]S32：贝叶斯建模，可以确定数据中存在的两类不确定性，认知不确定性和偶然不确定性，反映了回归任务的内在不确定性；
[0043]S33：回归任务中，对数似然可以表示为：
[0044][0045]S3本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于多任务增益回归的废钢异物扣重学习方法，其特征在于：采用MTSN预测模型，并采用Embedding模块实现数据连续向量表示，采用层级条件下的多层感知网络实现数据学习，分别生成认知数据损失度量和离散废钢等级数据的损失度量，最后采用MTL多任务自动学习权重机制，关注相关性大的变量，弱化相关性小的变量，实现自动调节权重系数，具体包括如下步骤：步骤一：基于数据分析理解，进行数据前处理，离散化数据，降低噪声影响；步骤二：基于层级MLP回归算法，生成针对不同特征的损失函数，实现多任务学习，信息增益模块，关注特征影响因子，强化有利因素，弱化噪声干扰；步骤三：基于MTL的多任务损失优化学习算法，自动调节weights，实现多任务学习，输出模型，实现扣重预测；其中，MTSN的主要步骤如下：S1：基于数据分析，数据平滑处理，过滤极值数据；S2：构建多层级增益回归网络，差异化处理数据，权值增益模块增强数据表征能力；S3：构建不确定性数据预测网络，多任务输入，平衡输出，提高提高预测精度。2.根据权利要求1所述的一种基于多任务增益回归的废钢异物扣重学习方法，其特征在于：还包括将原始数据给入到数据预处理模块中，其具体步骤如下：(1)：基于相关性分析理论，数据预选择，减少噪声和极值数据；(2)：基于one
‑
hot编码，处理废钢等级数据信息；(3)：基于Embedding结构，将稀疏的one
‑
hot向量转化成稠密的Embedding向量。3.根据权利要求1所述的一种基于多任务增益回归的废钢异物扣重学习方法，其特征在于：在所述步骤二中，完成多任务MLP回归算法的具体步骤包括：Ⅰ：利用多层感知网络，挖掘高阶特征和非线性特征，对上述目标数据进行表征学习；Ⅱ：利用前馈网络，做数据加权，自适应调节数据的“关注度”；Ⅲ：利用SoftMax机制，实现逻辑回归，并用SGD优化器调整梯度，使得模型不断学习；Ⅳ：利用Squeezed增益机制，计算网络权重，求出增益系数；
Ⅴ
：利用增益系数，做数据加权，不断调节模型对难分数据的关注度。4.根据权利要求1所述的一种基于多任务增益回归的废钢异物扣重学习方法，其特征在于：在所述步骤三中，实现多任务损失优化的具体步骤包括：

【专利技术属性】
技术研发人员：申培，李玉涛，李宏鹏，林亚团，袁海燕，陈云朋，冯兴，韩文波，
申请(专利权)人：河钢数字技术股份有限公司，
类型：发明
国别省市：