用于工业车间的特定生产过程的迁移学习方法技术

本发明专利技术涉及一种用于工业车间的特定生产过程的迁移学习方法，包括以下步骤：提供(S10)定义生产过程的期望数据的多个数据模板(T)；提供(S20)包括所述特定生产过程的数据点的所述工业车间的车间数据(P)，其中所述数据点(P)包括关于所述特定生产过程的输入和输出的信息；其中，所述数据模板(T)根据所述预期数据在所述工业车间中的关系来定义所述预期数据的分组；确定(S30)所述特定生产过程的过程实例，定义所述车间数据(P)与所述特定生产过程的期望数据之间的映射；使用所确定的过程实例来确定(S40)历史过程数据，该历史过程数据是与该特定生产过程相关的历史传感器数据；使用所确定的过程实例(I)和所确定的历史过程数据(H)来确定(S50)训练数据；其中所述训练数据包括结构化的数据矩阵，其中所述数据矩阵的列表示根据所述数据模板(T)分组的所述传感器数据，并且其中所述数据矩阵的行表示获得所述传感器数据的时间戳；使用所确定的过程实例提供(S60)预训练的机器学习模型；以及使用所提供的预训练模型和所确定的训练数据来训练(S70)新的机器学习模型。新的机器学习模型。新的机器学习模型。

【技术实现步骤摘要】
【国外来华专利技术】用于工业车间的特定生产过程的迁移学习方法


[0001]本公开涉及用于工业车间的特定生产过程的迁移学习的方法、由该方法训练的新机器学习模型的用途、数据处理系统和计算机程序。

技术介绍

[0002]考虑到工业中机器学习的当前状态，对于将其用于不同的有用应用存在增长的兴趣。基于机器学习的工业应用在诸如预测维护、过程监测和质量控制的不同任务中起作用。在这些不同的问题任务中，诸如温度、压力、流量等的某些信号可以在不同的任务之间被共享，并且因此使得知识能够在任务之间迁移。然而，为工业车间的特定问题构建机器学习模型，然后通过重新使用它来解决另一车间的类似问题来迁移它的学习不是微不足道的。这是由于即使类似的任务和车间仍然具有不同的信号空间。
[0003]每当需要使用机器学习来解决工业车间及其过程中的新问题时，就需要经历训练和验证模型的冗长且耗时的任务。为了减少这种努力及其成本，当为类似问题训练新模型时，重新利用在工业车间和过程上获得的现有学习和知识并将它们结合起来是有利的。然而，重用机器学习模型或其部分本身是一项复杂的任务，并且需要更好地组织所分析的输入信号。当将其应用于可能涉及与一个过程或车间相关的若干信号的工业应用时，这种挑战可能甚至更加困难。
[0004]因此，需要一种用于工业车间的生产过程的迁移学习的改进方法。

技术实现思路

[0005]根据本专利技术的一个方面，一种用于工业车间的特定生产过程的迁移学习方法包括以下步骤。在一个步骤中，提供定义用于生产过程的预期数据的多个数据模板。在另一步骤中，提供包括特定生产过程的数据点的工业车间的车间数据，其中数据点包括关于特定生产过程的输入和输出的信息。数据模板根据预期数据在工业车间中的关系定义预期数据的分组。在另一步骤中，特定生产过程的过程实例被确定，过程实例定义车间数据与特定生产过程的预期数据之间的映射。使用所确定的过程实例来确定历史过程数据，历史过程数据是与特定生产过程相关的历史传感器数据。在另一步骤中，使用所确定的过程实例和所确定的历史过程数据来确定训练数据；其中所述训练数据包括结构化数据矩阵，其中所述数据矩阵的列表示依据所述数据模板而被分组的所述传感器数据，并且其中所述数据矩阵的行表示获得所述传感器数据的时间戳。在另一步骤中，使用所确定的过程实例来提供预训练的机器学习模型。在另一步骤中，使用所提供的预训练模型和所确定的训练数据来训练新的机器学习模型。
[0006]优选地，数据点包括特定生产过程的信息，特别是生产过程的资产，以及基本语义信息，例如传感器位置和/或传感器类型。
[0007]在本文中使用的术语“数据模板”包括典型地可从资产(例如，传动系(泵、马达、驱动器)或蒸馏塔(不同高度水平上的温度、水平、压力和流量)获得的典型数据点或测量的列
表。此外，数据模板将相关的测量放置在列表中的附近。即例如，驱动器的速度设定点、马达的电压/电流以及泵和马达的振动是该列表的后续元素。
[0008]优选地，当数据模板被确定时，在期望数据中识别典型的信号组合。这些典型的信号组合总是在训练数据中被分组在一起。进一步优选地，分组的信号被布置在数据矩阵的相邻列中。因此，机器学习模型，特别是人工神经网络ANN，例如通过卷积一起处理分组的信号，或者控制网络架构，特别是哪些数据与哪些数据进行卷积。
[0009]因此，改进了新的机器学习模型的性能。此外，促进了迁移学习。
[0010]换句话说，典型的信号A&E组合，例如2x电平、2x压力、温度、处理列的流入、流出被识别。这些信号总是在车间数据(例如相邻列)中被分组在一起，使得人工神经网络例如通过卷积一起处理数据，或者控制网络架构，例如对哪些数据进行卷积。这有助于机器学习模型的性能。它还可以用于促进迁移学习。如果训练了新的模型并且还使用了来自处理列的数据，则可以部分地提取来自先前学习的模型的网络架构和权重。
[0011]作为输入，提供了定义从生产过程期望什么数据的数据模板的数字库。另外，提供了车间数据，包括具有基本语义信息(例如，传感器位置及其类型)的特定资产或过程的数据点的列表。此外，提供了来自当前过程的试图迁移机器学习模型的历史进程数据。
[0012]作为输出，通过将预训练模型调整到当前工业车间来实现新的工作机器学习模型。此外，新模型用于向人类用户呈现生产过程或资产状态，或者触发自动动作，例如关闭阀。
[0013]优选地，数据模板包括定义从生产过程期望什么数据的数字库。
[0014]优选地，数据点包括温度值、压力值、水平警报、阀位置。
[0015]优选地，从工业车间的至少一个资产或生产过程，预训练的机器学习模型已经被训练。
[0016]换言之，该方法通过将预训练的机器学习模型调整到当前工业车间或特别是当前工业车间的部件，来提供工作机器学习模型。
[0017]所描述的方法允许基于工业车间信号的数据模板为工业应用提供迁移学习。
[0018]因此，提供了一种用于工业车间的特定生产过程的迁移学习的改进方法。
[0019]在一个优选实施例中，确定该训练数据包括预处理该历史过程数据，从而标准化训练数据的格式。
[0020]优选地，预处理步骤格式化历史过程数据，以便确定数据矩阵，该数据矩阵与预训练模型基于其已被训练的格式在语义上相同。所确定的数据矩阵被用作用于训练的新的机器学习模型的输入，以从新的机器学习模型获得预测，所述预测被显示给人类用户或用于触发自动动作。
[0021]在优选实施例中，预处理历史过程数据包括使采样频率适应标准化的数据矩阵格式。
[0022]在优选实施例中，预处理历史过程数据包括将历史过程数据缩放至0
‑
1域。
[0023]在优选实施例中，预处理该历史过程数据包括将该历史过程数据的缺失数据点与该历史过程数据的可用数据点融合。
[0024]在优选实施例中，预处理历史过程数据包括去除历史过程数据的离群值。
[0025]在优选实施例中，预训练模型包括权重，其中训练新的机器学习模型包括调整权
重。
[0026]换句话说，从预训练模型的先前训练中获得权重。
[0027]优选地，根据从新的机器学习模型(换言之，当前工业车间)的数据样本产生的损失来调整权重。
[0028]在优选实施例中，预训练的机器学习模型包括至少一个层，其中训练新的机器学习模型包括以下步骤。在一个步骤中，使用所确定的过程实例将每个层分类为冻结或非冻结类别中的一项。在另一步骤中，重新使用预训练的机器学习模型的冻结层，并且重新训练预训练的机器学习模型的非冻结层。
[0029]优选地，对于每个层，使用对应的数据模板来确定该层是未被重新训练的冻结层还是被重新训练的非冻结层。
[0030]优选地，重新使用冻结层允许使用网络架构和/或来自预训练的机器学习模型的权重来训练新的机器学习模型。
[0031]优选地，使用超参数优化来自动优化对层是冻结层还是非冻结层的本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种用于工业车间的特定生产过程的迁移学习方法，包括以下步骤：提供(S10)定义用于生产过程的预期数据的多个数据模板(T)；提供(S20)所述工业车间的车间数据(P)，所述车间数据包括所述特定生产过程的数据点，其中所述数据点包括关于所述特定生产过程的输入和输出的信息；其中所述数据模板(T)根据所述预期数据在所述工业车间中的关系来定义所述预期数据的分组；确定(S30)所述特定生产过程的过程实例，定义所述车间数据(P)与所述特定生产过程的所述预期数据之间的映射；使用所确定的所述过程实例来确定(S40)历史过程数据，所述历史过程数据是与所述特定生产过程相关的历史传感器数据；使用所确定的所述过程实例(I)和所确定的所述历史过程数据(H)来确定(S50)训练数据；其中所述训练数据包括结构化数据矩阵，其中所述数据矩阵的列表示依据所述数据模板(T)而被分组的所述传感器数据，并且其中所述数据矩阵的行表示获得所述传感器数据的时间戳；使用所确定的所述过程实例提供(S60)预训练的机器学习模型；以及使用所提供的所述预训练模型和所确定的所述训练数据，来训练(S70)新的机器学习模型。2.根据权利要求1所述的方法，其中确定所述训练数据包括：预处理所述历史过程数据(H)，从而标准化所述训练数据的格式。3.根据权利要求2所述的方法，其中预处理所述历史过程数据(H)包括：使采样频率适应于标准化的数据矩阵格式。4.根据权利要求2
‑
3中任一项所述的方法，其中预处理所述历史过程数据(H)包括：将所述历史过程数据(H)缩放至0
‑
1域。5.根据权利要求2
‑
4中任一项所述的方法，其中预处理所述历史过程数据(H)包括：将所述历史过程数据(H)的缺失数据点与所述历史过程数据(H)的可用数据点融合。6.根据权利要求2
‑
5中任一项所述的方法，其中预处理历史过程数据包括：从所述历史过程数据(H...

【专利技术属性】
技术研发人员：贝内迪克特，
申请(专利权)人：ABB瑞士股份有限公司，
类型：发明
国别省市：