基于单路径单元神经网络架构搜索的故障预测方法及系统技术方案

本发明专利技术属于神经网络故障预测领域，并具体公开了一种基于单路径单元神经网络架构搜索的故障预测方法及系统，其包括：采集设备故障信号，得到有标签的故障预测数据集，将其分为训练集和验证集；构建基于单路径单元的超网络模型，根据单路径单元中操作不同，超网络模型可生成搜索空间中所有子网络模型的权重；利用训练集，采用基于平衡性约束的超网络训练策略训练超网络模型，得到训练好的超网络模型；利用验证集，在训练好的超网络模型上搜索最优子网络模型；利用训练集对最优子网络模型进行训练，得到训练好的最优子网络模型，将其应用于故障预测。本发明专利技术实现了神经网络故障预测模型结构的自动设计，且模型在机械智能故障预测任务上的性能更高。务上的性能更高。务上的性能更高。

【技术实现步骤摘要】
基于单路径单元神经网络架构搜索的故障预测方法及系统


[0001]本专利技术属于神经网络故障预测领域，更具体地，涉及一种基于单路径单元神经网络架构搜索的故障预测方法及系统。

技术介绍

[0002]故障预测是机械智能健康检测系统中不可或缺的组成部分。通过监控机械的实时运行状况并及时发出风险预警，故障预测能够一定程度的避免由机械故障带来的经济损失。得益于信息技术的发展所带来的海量工业数据，数据驱动的故障预测方法受到越来越多研究者的青睐，并在大量的机械装备上取得了显著的成果。
[0003]深度学习能够从大规模的监测数据中端到端的自动学习故障特征，已经主导了数据驱动的故障预测方法。然而，深度学习模型的设计决定了其在故障预测任务上的性能。针对一个特定的故障预测任务，手动设计一个适合的神经网络模型不仅依赖研究者丰富的先验知识，而且费时费力，是一个需要反复调试的过程，具有较大的局限性。因此，亟需一种新的自动设计神经网络模型的方法，以实现故障预测模型的自动设计。

技术实现思路

[0004]针对现有技术的以上缺陷或改进需求，本专利技术提供了一种基于单路径单元神经网络架构搜索的故障预测方法及系统，其目的在于，自动设计神经网络故障预测模型的具体结构，显著减少人工设计模型的时间成本，提高神经网络模型在机械智能故障预测任务上的性能。
[0005]为实现上述目的，按照本专利技术的第一方面，提出了一种基于单路径单元神经网络架构搜索的故障预测方法，包括如下步骤：
[0006]S1、采集设备故障信号，对其进行预处理，得到有标签的故障预测数据集，并将其分为训练集和验证集；
[0007]S2、构建基于单路径单元的超网络模型，根据单路径单元中选择的操作不同，超网络模型可生成搜索空间中所有子网络模型的权重；
[0008]S3、利用训练集，采用基于平衡性约束的超网络训练策略训练超网络模型，得到训练好的超网络模型；
[0009]S4、利用验证集，在训练好的超网络模型上搜索得到最优子网络模型；
[0010]S5、利用训练集对最优子网络模型进行训练，得到训练好的最优子网络模型；
[0011]S6、通过训练好的最优子网络模型实现设备故障预测。
[0012]作为进一步优选的，所述超网络模型包括三个单路径单元和共有部分；每个单路径单元包括两个输入节点和三个中间节点，两个输入节点分别与三个中间节点连接，且三个中间节点两两连接，即为九条单向边；
[0013]具体的，两个输入节点分别接收外部传入的特征图，经单向边传给中间节点；中间节点接收其之前所有输入节点和中间节点各自经一条单向边后得到的特征图，并对特征图
进行叠加；单向边将输入的特征图经过操作集中的某一个操作运算后，输出一张特征图；单路径单元的输出由三个中间节点经连结操作后得到。
[0014]作为进一步优选的，步骤S3，训练超网络模型，具体包括以下步骤：
[0015]S3.1、基于平衡性约束，在超网络模型上依次采样得到四个子网络模型；依次采样时，同一位置的单向边上，子网络模型不能选择之前子网络模型选择过的操作；
[0016]S3.2、每个子网络模型继承超网络模型的权重，通过训练集对各子网络模型进行训练，从而更新各子网络模型的权重；
[0017]S3.3、通过验证集对子网络模型进行评估，获得各子网络模型的精度；
[0018]S3.4、基于平衡性约束，更新超网络模型中的权重，其中，单路径单元中的权重由所有子网络模型单路径单元中的权重进行更新，共有部分中的权重由精度最高的子网络模型共有部分中的权重进行更新；
[0019]S3.5、重复步骤S3.1～S3.4，直至达到预定迭代次数，得到训练好的超网络模型。
[0020]作为进一步优选的，所述平衡性约束表示为：
[0021][0022]X
ε
＝X
β
[0023]其中，In T(n,E,B,η)表示在超网络模型的训练过程中，n表示训练过程中权重的更新次数，E表示所有单路径单元中所有卷积核的集合，B表示共有部分中所有卷积核的集合，η表示操作集中包含的操作数量；x∈N
+
表示参数x为正整数；X
ε
表示卷积核ε在训练过程中权重被更新的次数，X
β
表示卷积核β在训练过程中权重被更新的次数。
[0024]作为进一步优选的，所述操作集中包括四种操作：1
×
1的卷积操作，3
×
3的卷积操作，3
×
3的深度可分离卷积操作，5
×
5的深度可分离卷积操作。
[0025]作为进一步优选的，所述共有部分包括五个卷积模块和二个降采样模块，其中：
[0026]卷积模块1与卷积模块2与超网络模型的输入相连并输出一张特征图；
[0027]卷积模块3、单路径单元1、降采样模块1依次连接，卷积模块4、单路径单元2、降采样模块2依次连接，卷积模块5、单路径单元3依次连接；卷积模块3至5均接收两个输入特征图并输出两张特征图，具体为，卷积模块3接收卷积模块1与卷积模块2输出的特征图，卷积模块4接收卷积模块2与降采样模块1输出的特征图，卷积模块5接收降采样模块1与降采样模块2输出的特征图。
[0028]作为进一步优选的，步骤S4，采用带架构约束的遗传算法作为子网络模型的搜索策略。
[0029]作为进一步优选的，训练超网络模型以及最优子网络模型时，采用交叉熵损失函数，且在训练时通过Adam优化算法对模型的参数进行优化。
[0030]按照本专利技术的第二方面，提供了一种基于单路径单元神经网络架构搜索的故障预测系统，包括处理器，所述处理器用于执行上述基于单路径单元神经网络架构搜索的故障预测方法。
[0031]按照本专利技术的第三方面，提供了计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述基于单路径单元神经网络架构搜索的故障预测方法。
[0032]总体而言，通过本专利技术所构思的以上技术方案与现有技术相比，主要具备以下的
技术优点：
[0033]1、本专利技术提出了一种基于单路径单元的神经网络架构搜索的故障预测方法，能够自动设计神经网络故障预测模型的结构，相比传统的手动设计神经网络故障预测模型的方法，该方法能够显著减少人工设计模型的时间成本，提高神经网络模型在机械智能故障预测任务上的性能。
[0034]2、本专利技术构建了一种基于单路径单元的超网络模型，作为神经网络架构搜索的搜索空间，相比其他结构的超网络模型，该基于单路径单元的超网络模型将搜索任务缩小到单路径单元中，同时通过固定节点间的连接方式，只搜索每条单向边上的候选操作，能够减少算法的搜索成本，提高故障预测模型的可拓展性。
[0035]3、本专利技术提出了一种基于平衡性约束的超网络训练策略，相比其他超网络训练策略，通过满足平衡性约束的条件，使超网络模型中所有卷积核中的权重以相同的程度被更新，能够提本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于单路径单元神经网络架构搜索的故障预测方法，其特征在于，包括如下步骤：S1、采集设备故障信号，对其进行预处理，得到有标签的故障预测数据集，并将其分为训练集和验证集；S2、构建基于单路径单元的超网络模型，根据单路径单元中选择的操作不同，超网络模型可生成搜索空间中所有子网络模型的权重；S3、利用训练集，采用基于平衡性约束的超网络训练策略训练超网络模型，得到训练好的超网络模型；S4、利用验证集，在训练好的超网络模型上搜索得到最优子网络模型；S5、利用训练集对最优子网络模型进行训练，得到训练好的最优子网络模型；S6、通过训练好的最优子网络模型实现设备故障预测。2.如权利要求1所述的基于单路径单元神经网络架构搜索的故障预测方法，其特征在于，所述超网络模型包括三个单路径单元和共有部分；每个单路径单元包括两个输入节点和三个中间节点，两个输入节点分别与三个中间节点连接，且三个中间节点两两连接，即为九条单向边；具体的，两个输入节点分别接收外部传入的特征图，经单向边传给中间节点；中间节点接收其之前所有输入节点和中间节点各自经一条单向边后得到的特征图，并对特征图进行叠加；单向边将输入的特征图经过操作集中的某一个操作运算后，输出一张特征图；单路径单元的输出由三个中间节点经连结操作后得到。3.如权利要求2所述的基于单路径单元神经网络架构搜索的故障预测方法，其特征在于，步骤S3，训练超网络模型，具体包括以下步骤：S3.1、基于平衡性约束，在超网络模型上依次采样得到四个子网络模型；依次采样时，同一位置的单向边上，子网络模型不能选择之前子网络模型选择过的操作；S3.2、每个子网络模型继承超网络模型的权重，通过训练集对各子网络模型进行训练，从而更新各子网络模型的权重；S3.3、通过验证集对子网络模型进行评估，获得各子网络模型的精度；S3.4、基于平衡性约束，更新超网络模型中的权重，其中，单路径单元中的权重由所有子网络模型单路径单元中的权重进行更新，共有部分中的权重由精度最高的子网络模型共有部分中的权重进行更新；S3.5、重复步骤S3.1～S3.4，直至达到预定迭代次数，得到训练好的超网络模型。4.如权利要求3所述的基于单路径单元神经网络架构搜索的故障预测方法，其特征在于，所述平衡性约束表示为：X
ε
＝X
β
其中，In T(n,E,B,η)表示...

【专利技术属性】
技术研发人员：李新宇，杨德民，高亮，高艺平，
申请(专利权)人：华中科技大学，
类型：发明
国别省市：