一种基于深度学习transformer神经网络的传感器气体浓度检测方法技术

本发明专利技术公开了一种基于深度学习transformer神经网络的传感器气体浓度检测方法，属于传感器智能检测技术领域，包括数据集准备及预处理；Transformer神经网络模型的构建；Transformer神经网络模型的训练；用上述训练好的Transformer神经网络模型估算出实际环境参数值与气体浓度值。该算法通过已有的数据集训练过后的模型，实现气体传感器在快速，少样本条件下，对环境中的气体浓度快速检测；具有精度高、通用性强、鲁棒性好、实时性强等优点，可以克服传统方法存在的问题，实现更好的气体浓度检测效果。气体浓度检测效果。气体浓度检测效果。

【技术实现步骤摘要】
一种基于深度学习transformer神经网络的传感器气体浓度检测方法


[0001]本专利技术属于传感器智能检测
，具体涉及一种基于深度学习transformer神经网络的传感器气体浓度检测方法。

技术介绍

[0002]在已注入某一定量气体的密封场景下，使用气体传感器检测环境中的气体浓度；气体传感器基本上都存在预热步骤，气体传感器的气敏单元与气体通过充分化学或者物理反应，产生自身性质变化，通过不同的气敏元件特性设计检测电路，最终将物理或者化学信号转变为电信号；从以上反应特性可得出，气体传感器的测量周期缓慢，并且精度保障存在很大困难。
[0003]传统的气体传感器测量方式是利用下位机收集气体传感器电路发出的电信号的幅值，将幅值时间序列中的平稳值或者峰值设置为当前环境气体浓度值；如图1所示，在碳纳米管气体传感器测量SOF2和SO2F2气体浓度引起的电导幅值变化幅度值可以看出，整个反应过程存在峰值不规则变化现象。该次实验过程持续85h，传统收集时序幅值峰值的做法只能通过无限延长实验周期的方式减少误差，该过程存在耗时、实验结果偏差等问题。
[0004]在传统测量方案上提出基于时序导数等数学特征测量幅值峰值方法，该方法是根据幅值
‑
时序曲线分析一阶导数值估计实际气体浓度值。改变原有的幅值峰值估计方式，采用测量速度值进一步估计实际值。该方法一定程度上缩减实验周期，但丢弃时序曲线的完整性，对一类时序加速度值连续变化曲线无法做到准确估计。另外，在动态测量过程中，气体类浓度极易受到历史浓度状态的影响。在封闭状态已有气体的状态下注入测试气体，浓度的测量曲线的过程导数受到多方面影响，可能会出现同一浓度却过程导数不同或者过程导数类似但实际浓度不匹配的现象，所以该方法依旧存在一定问题与局限性。

技术实现思路

[0005]为了克服当前在气体传感器检测领域存在的检测时间周期长、受历史影响大、数据处理复杂、实验结果不精确、检测精度低等问题，本专利技术提供了一种基于深度学习transformer神经网络的传感器气体浓度检测方法，该算法通过已有的数据集训练过后的模型，实现气体传感器在快速，少样本条件下，对环境中的气体浓度快速检测。
[0006]本专利技术通过如下技术方案实现：
[0007]一种基于深度学习transformer神经网络的传感器气体浓度检测方法，具体包括如下步骤：
[0008]步骤一：数据集准备及预处理；
[0009]采集气体传感器的数据，并对数据进行预处理，所述预处理包括清理、去噪及标准化，经预处理后得到带有时间维度的气体浓度序列数据；
[0010]步骤二：Transformer神经网络模型的构建；
Normalization模块，用于更好地进行信号传输和防止模型训练时的梯度消失问题。
[0029]进一步地，步骤二构建模型具体包括如下内容：
[0030]B1：数据集切分；
[0031]对步骤一中得到的序列数据进行数据切分，将24小时的数据切分成固定长度的时间窗口，每个时间窗口长度为10mins至30mins；并采用70/15/15的比例来划分数据集；将前70％的时间窗口作为训练集，中间的15％作为验证集，剩余的15％作为测试集；
[0032]B2：设定超参数范围；
[0033]首先，确定输入序列长度，根据数据的采样频率和应用场景，选择从0到24个小时的数据点作为一个输入序列长度，全面的记录环境气体浓度变化值；然后，确定批次大小及隐藏层数，设置批次为32、64或128；确定隐藏层数为5
‑
6层；最后，确定头数为6
‑
8；
[0034]B3：网格搜索；
[0035]采用网格搜索方法在超参数范围内搜索最优的超参数组合；
[0036]B4：随机搜索；
[0037]采用随机搜索方法在超参数范围内随机搜索最优的超参数组合；
[0038]B5：贝叶斯优化；
[0039]采用贝叶斯优化方法在超参数范围内寻找最优的超参数组合；
[0040]B6：评估模型性能；
[0041]采用通过上述方法各自得到的最优超参数组合分别训练Transformer神经网络模型，并在测试集上使用均方误差(MSE)、平均绝对误差(MAE)评估出最优的超参数组合，并使用最优参数模型对应的MSE、MAE表征模型性能。
[0042]进一步地，步骤三具体如下：
[0043]选取提取的参数值与其对应的时刻值作为transformer神经网络的分析特征量，即Q
i
＝[t
i
，v
i
]T
,Q
i
表示在某一时刻下位机发送的数据参数，t
i
、v
i
分别是其对应的气体的浓度及时间值；将训练集通过embedding方式导入神经网络，经过一系列穿插、归一化、注意力机制训练处理，得到曲线特征变化之间的参数关系，即模型训练完成。
[0044]本专利技术采用基于深度学习transformer神经网络的传感器气体浓度检测方法，相比于传统方法具有以下优点：
[0045]1、提高了气体浓度检测的精度和准确性：现有的气体浓度检测方法依赖于传感器测量数据的处理和模型拟合，存在模型复杂度不足、模型泛化能力不足等问题；而transformer神经网络通过大量数据的训练和模型的优化，可以更好地挖掘数据特征，提高检测的精度和准确性；
[0046]2、能够处理多种气体的浓度检测：现有的气体浓度检测方法针对特定气体进行建模和处理，难以处理多种气体的检测；而transformer神经网络方法不依赖于特定的物理模型，可以处理多种气体的检测，具有更好的通用性和扩展性；
[0047]3、能够适应不同的环境和条件：现有的气体浓度检测方法对于环境的变化、传感器的漂移等问题较为敏感，难以应对复杂的环境和条件；而transformer神经网络方法通过自适应的学习和优化，能够更好地适应不同的环境和条件，提高检测的鲁棒性和稳定性；
[0048]4、可以实现在线检测和实时监测：现有的气体浓度检测方法需要离线处理和模型训练，不能实现实时监测和在线检测；而深度学习方法具有较快的训练速度和较低的计算
复杂度，可以实现实时监测和在线检测，具有更好的实用性和应用价值；
[0049]综上所述，本专利技术基于深度学习transformer神经网络的传感器气体浓度检测方法具有精度高、通用性强、鲁棒性好、实时性强等优点，可以克服传统方法存在的问题，实现更好的气体浓度检测效果。
附图说明
[0050]为了更清楚地说明本专利技术具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍。在所有附图中，类似的元件或部分一般由类似的附图标记标识。附图中，各元件或部分并不一定按照实际的比例绘制。
[0051]图1：气体传感器对1μLLSO2F2本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于深度学习transformer神经网络的传感器气体浓度检测方法，其特征在于，具体包括如下步骤：步骤一：数据集准备及预处理；采集气体传感器的数据，并对数据进行预处理，所述预处理包括清理、去噪及标准化，经预处理后得到带有时间维度的气体浓度序列数据；步骤二：Transformer神经网络模型的构建；切分数据集，带入训练集于嵌入层embedding，调节模型中编码器Encoder和解码器Decoder模块超参数，参考均方误差、平均绝对误差指标使用网格搜索等优化函数评估出最优的超参数组合，并使用最佳MSE、MAE表征模型性能；步骤三：Transformer神经网络模型的训练；步骤四：用上述训练好的Transformer神经网络模型估算出实际环境参数值与气体浓度值。2.如权利要求1所述的一种基于深度学习transformer神经网络的传感器气体浓度检测方法，其特征在于，步骤一中，数据包括气体的浓度及时间值的序列值，将传感器中包括浓度和时间的序列值转换为用于Transformer模型的格式，从而进行模型训练任务，具体包括如下内容：A1、将时间序列离散化：将连续的时间序列数据离散化成固定为10min时间间隔的数据；A 2、序列标准化：对离散化后的时间序列进行均值归一化处理，使其具有相似的统计特征；A3、构建输入序列：将均值归一化后的时间序列数据转化为输入序列，即将一段固定时间长度的数据作为一个序列输入到Transformer神经网络模型中；A4、批量化和填充：对于输入序列长度不足的情况，进行填充操作来保证输入序列长度的一致性。3.如权利要求1所述的一种基于深度学习transformer神经网络的传感器气体浓度检测方法，其特征在于，步骤二中，采用Transformer神经网络的Encoder
‑
Decoder模型及嵌入层对数据进行时序处理；其中，所述嵌入层用于将传感器采集到的数据转换为神经网络可以处理的向量形式；所述Encoder模块用于将输入序列转换为一组隐藏表示；所述Decoder模块用于根据Encoder模块提供的隐藏表示和之前生成的输出，生成当前时间步的输出。4.如权利要求3所述的一种基于深度学习transformer神经网络的传感器气体浓度检测方法，其特征在于，所述嵌入层由位置编码器及输入嵌入组成，位置编码器用于为每个时间点的输入数据添加位置信息，以便于模型学习时间序列的顺序；输入嵌入用于将每个时间点的输入数据转换为固定维度的向量表示，以便于后续的注意力机制、编码器和解码器进行处理。5.如权利要求3所述的一种基于深度学习transformer神经网络的传感器气体浓度检测方法，其特征在于，所述Encoder模块包括：多头注意力机制Multi
‑
Head Attention，用于对输入序列进行加权汇聚，以便Encoder模块能够更好地利用输入序列的信息；前馈神经网络Position
‑
wise Feed
‑
Forward Network:用于对上述多头注意力机制的
输出进行加权汇聚，以便生成一组隐藏表示。6.如权利要求3所述的一种基于深度学习transformer神经网络的传感器气体...

【专利技术属性】
技术研发人员：胡小龙，岳文强，卢革宇，马忠嘉，郭帅，
申请(专利权)人：吉林大学，
类型：发明
国别省市：