机器设备异常检测模型构建方法、检测方法及模型技术

本发明专利技术公开了一种机器设备异常检测模型构建方法、检测方法及模型，属于基于迁移学习的机器设备异常检测领域，要解决的技术问题为如何结合深度学习和迁移学习实现对机器设备的检测。构建方法包括如下步骤：基于Tensorflow学习框架构建异常检测模型，异常检测模型包括输入层、输出层和多个隐藏层；获取旧机器设备数据为源领域，以源领域为输入、基于Dropout‑SDA算法对所述异常检测模型进行参数优化，得到初始模型；获取新机器设备数据为目标领域，以目标领域为输入、基于Dropout‑SDA算法对初始模型进行参数微调，得到目标模型。检测方法包括通过目标模型判断待检测数据是否异常。该模型为上述方法得到的目标模型。

Construction method, detection method and model of machine equipment anomaly detection model

【技术实现步骤摘要】
机器设备异常检测模型构建方法、检测方法及模型
本专利技术涉及基于迁移学习的机器设备异常检测领域，具体地说是一种机器设备异常检测模型构建方法、检测方法及模型。
技术介绍
近年来，深度学习和迁移学习已经引起了广泛的关注和研究，深度学习已经成功的应用到很多领域当中，例如不同的CNN和GAN网络成功应用到图像处理的任务中，RNN、LSTM和GRU等模型成功应用到NLP任务当中；迁移学习作为机器学习的一个新领域，通过放宽传统机器学习的独立同分布的假设，借助与目标领域相关但不相同的源领域中大量的数据获得预测目标领域模型。随着深度学习技术的快速发展，深度迁移学习技术得到了广泛的应用，例如图片识别、自然语言处理等应用。在工业大数据分析中，首先有些工业设备很难获得大量有效的数据进行分析，其次工业设备往往在原理和功能上存在一定的相似性，因此可以利用这种相似性，把针对某种设备的异常检测模型应用于其他种类的设备的异常检测中。基于上述分析，如何结合深度学习和迁移学习实现对机器设备的检测，是需要解决的技术问题。
技术实现思路
本专利技术的技术任务是针对以上不足，提供一种机器设备异常检测模型构建方法、检测方法及模型，来解决如何结合深度学习和迁移学习实现对机器设备的检测的问题。第一方面，本专利技术提供一种机器设备异常检测模型构建方法，包括如下步骤：基于Tensorflow学习框架构建异常检测模型，所述异常检测模型包括输入层、输出层和多个隐藏层；获取旧机器设备数据为源领域，以源领域为输入、基于Dropout-SDA算法对所述异常检测模型进行参数优化，得到初始模型；获取新机器设备数据为目标领域，以目标领域为输入、基于Dropout-SDA算法对所述初始模型进行参数微调，得到目标模型。在机器设备异常检测中，新的机器设备设备和旧的机器设备设备往往在工作原理上存在相似性，本实施方式中基于Tensorflow学习框架构建异常检测模型，借助旧的机器设备中大量的数据所提供的知识对异常检测模型进行预训练，然后使用新机器设备的数据对模型参数进行一个微调，得到目标模型。该目标模型用于对新机器设备的待检测数据进行异常检测。作为优选，以源领域为输入、基于Dropout-SDA算法对所述异常检测模型进行参数优化，包括如下步骤：以所述源领域的数据为原始输入数据，输入输入层；通过迭代的方式逐个对隐藏层进行参数优化，输入所述第i个隐藏层的数据为输入数据x(i)，对第i个隐藏层进行参数优化的步骤包括：通过所述第i个隐藏层的中编码参数θi对所述输入数据x(i)进行编码，得到编码数据y(i)；添加随机失活层，通过所述随机失活层对所述第i个隐藏层进行节点失活处理，得到失活后第i个隐藏层；通过所述失活后第i个隐藏层对所述编码数据y(i)进行计算，得到数据Y(i)；通过所述第i个隐藏层的中解码参数θi'对所述数据Y(i)进行解码，得到与所述输入数据x(i)对应的重构数据z(i)；基于所述输入数据x(i)和所述重构数据z(i)构建损失函数，并通过AdaGrad优化算法对所述损失函数进行优化，得到所述第i个隐藏层中编码参数θi和解码参数θi'的初值；其中，输入第一个隐藏层的数据为通过输入层输出的原始输入数据；除第一个隐藏层之外，输入第i+1个隐藏层的数据为y(i)。上述实施方式中通过源领域对构建的异常检测模型进行参数优化，在优化过程中，通过隐藏层对具有噪声的源领域数据进行编码得到编码数据，并添加随机失活层对隐藏层的节点进行失活，通过失活后隐藏层对编码数据进行计算并解码，得到低纬度的特征表，通过上述训练过程得到的隐藏层提高了特征提取效率。作为优选，在输入层通过噪声函数为原始输入数据添加噪声，得到具有噪声的数据；输入第一个隐藏层的数据为通过输入层输出的具有噪声的原始输入数据。在上述实施方式中，在输入层对源领域加入噪声函数，以具有噪声的数据作为输入数据输入第一个隐藏层，后期对新机器设备进行异常检测时，获取的待检测数据可能存在噪声，在训练异常检测模型过程中对输入的源领域数据加入噪声，可以减少模型误差。作为优选，以目标领域为输入、基于Dropout-SDA算法对所述初始模型进行参数微调，包括如下步骤：通过迭代的方式逐个对隐藏层进行参数微调，对于第i个隐藏层进行参数微调的步骤包括：输入所述第i个隐藏层的数据为输入数据x(i)；通过所述第i个隐藏层的中编码参数θi对所述输入数据x(i)进行编码，得到编码数据y(i)；添加随机失活层，通过所述随机失活层对所述第i个隐藏层进行节点失活处理，得到失活后第i个隐藏层；通过所述失活后第i个隐藏层对所述编码数据y(i)进行计算，得到数据Y(i)；通过所述第i个隐藏层的中解码参数θi'对所述数据Y(i)进行解码，得到与所述输入数据x(i)对应的重构数据z(i)；基于所述输入数据x(i)和所述重构数据z(i)构建损失函数，并通过AdaGrad优化算法对所述损失函数进行优化，得到所述第i个隐藏层中编码参数θi和解码参数θi'的初值；所述对隐藏层进行参数微调过程中，输入第一个隐藏层的数据为目标领域的数据；除第一个隐藏层之外，输入第i+1个隐藏层的数据为y(i)。作为优选，通过AdaGrad优化算法对所述损失函数进行优化过程中，所述损失函数为平方损失函数，所述平方损失函数计算公式为：其中，输入数据x和重构数据z均为一维向量，组成样本；m表示样本总数，k表示样本数据的维度；i表示第几个样本，j表示样本数据的第几个维度。作为优选，通过AdaGrad优化算法对所述损失函数进行优化过程中，AdaGrad优化算法计算公式为：其中，t表示第t时间步；Θt+1,i表示在t+1轮迭代时，第i个编码参数的参数值，α表示初始化的学习率，gt,i表示在t轮迭代时，第i个编码参数的梯度，Gt,ii表示第t轮迭代的对角矩阵，ii表示对角位置，为编码参数θi从第一轮迭代到第t轮迭代梯度的平方和；ε表示平滑顶，用于避免分母为0。第二方面，本专利技术提供一种机器设备异常检测方法，包括如下步骤：通过如第一方面任一项所述的一种机器设备异常检测模型构建方法构建机器设备异常检测模型，得到目标模型；通过所述目标模型判断待检测数据是否异常。作为优选，通过所述目标模型判断待检测数据是否异常，包括如下步骤：将所述源领域的数据输入所述目标模型，得到对应的重构数据，并计算所述源领域的数据和与其对应的重构数据之间的源重构误差；将所述目标领域的数据输入所述目标模型，得到对应的重构数据，并计算所述目标领域的数据和与其对应的重构数据之间的目标重构误差；从上述源重构误差和目标重构误差中选取取值较大的为阈值K；将待检测数据输入所述目标模型，得到对应的重构数据，计算所述待检测数据和与其对应的重构数据之间的待测重构误差；将所述待测重构误差与所述阈值K进行大小比对，判断所述待测数据是否异常。第三方面，本专利技术提供一种机器设备异常检测模型，所述机器设备异常检测模型为通过如第一方面任一项所述的一种机器设备异常检测模型构建方法得到的目标模型。作为优选，一种机器设备异常检测模型，所述目标模型用于通过如下步骤对机器设备进行异常检测：将所述源领域的数据输入所述目标模型，得到对应的重构数据，并计算所述源领域的数据和与其对应的重构数据之间的源重构误差；将所述目本文档来自技高网...

【技术保护点】
1.机器设备异常检测模型构建方法，其特征在于包括如下步骤：基于Tensorflow学习框架构建异常检测模型，所述异常检测模型包括输入层、输出层和多个隐藏层；获取旧机器设备数据为源领域，以源领域为输入、基于Dropout‑SDA算法对所述异常检测模型进行参数优化，得到初始模型；获取新机器设备数据为目标领域，以目标领域为输入、基于Dropout‑SDA算法对所述初始模型进行参数微调，得到目标模型。

【技术特征摘要】
1.机器设备异常检测模型构建方法，其特征在于包括如下步骤：基于Tensorflow学习框架构建异常检测模型，所述异常检测模型包括输入层、输出层和多个隐藏层；获取旧机器设备数据为源领域，以源领域为输入、基于Dropout-SDA算法对所述异常检测模型进行参数优化，得到初始模型；获取新机器设备数据为目标领域，以目标领域为输入、基于Dropout-SDA算法对所述初始模型进行参数微调，得到目标模型。2.根据权利要求1所述的机器设备异常检测模型构建方法，其特征在于以源领域为输入、基于Dropout-SDA算法对所述异常检测模型进行参数优化，包括如下步骤：以所述源领域的数据为原始输入数据，输入输入层；通过迭代的方式逐个对隐藏层进行参数优化，输入所述第i个隐藏层的数据为输入数据x(i)，对第i个隐藏层进行参数优化的步骤包括：通过所述第i个隐藏层的中编码参数θi对所述输入数据x(i)进行编码，得到编码数据y(i)；添加随机失活层，通过所述随机失活层对所述第i个隐藏层进行节点失活处理，得到失活后第i个隐藏层；通过所述失活后第i个隐藏层对所述编码数据y(i)进行计算，得到数据Y(i)；通过所述第i个隐藏层的中解码参数θi'对所述数据Y(i)进行解码，得到与所述输入数据x(i)对应的重构数据z(i)；基于所述输入数据x(i)和所述重构数据z(i)构建损失函数，并通过AdaGrad优化算法对所述损失函数进行优化，得到所述第i个隐藏层中编码参数θi和解码参数θi'的初值；其中，输入第一个隐藏层的数据为通过输入层输出的原始输入数据；除第一个隐藏层之外，输入第i+1个隐藏层的数据为y(i)。3.根据权利要求2所述的机器设备异常检测模型构建方法，其特征在于在输入层通过噪声函数为原始输入数据添加噪声，得到具有噪声的数据；输入第一个隐藏层的数据为通过输入层输出的具有噪声的原始输入数据。4.根据权利要求1所述的机器设备异常检测模型构建方法，其特征在于以目标领域为输入、基于Dropout-SDA算法对所述初始模型进行参数微调，包括如下步骤：通过迭代的方式逐个对隐藏层进行参数微调，输入所述第i个隐藏层的数据为输入数据x(i)，对第i个隐藏层进行参数微调的步骤包括：通过所述第i个隐藏层的中编码参数θi对所述输入数据x(i)进行编码，得到编码数据y(i)；添加随机失活层，通过所述随机失活层对所述第i个隐藏层进行节点失活处理，得到失活后第i个隐藏层；通过所述失活后第i个隐藏层对所述编码数据y(i)进行计算，得到数据Y(i)；通过所述第i个隐藏层的中解码参数θi'对所述数据Y(i)进行解码，得到与所述输入数据x(i)对应的重构数据z(i)；基于所述输入数据x(i)和所述重构数据z(i)构建损失函数，并通过AdaGrad优化算法对所述损失函数进行优化，得到所述第i个隐藏层中编码参数θi和解码...

【专利技术属性】
技术研发人员：李锐，冯落落，安程治，于治楼，
申请(专利权)人：山东浪潮人工智能研究院有限公司，
类型：发明
国别省市：山东,37