一种基于深度学习的钻井溢流预测组合模型及模型适时静默更新与迁移学习方法技术

本发明专利技术公开了一种基于深度学习的钻井溢流预测组合模型及模型适时静默更新与迁移学习方法，包括数据预处理与模型训练部分

【技术实现步骤摘要】
一种基于深度学习的钻井溢流预测组合模型及模型适时静默更新与迁移学习方法


[0001]本专利技术涉及深度学习领域和钻井工程领域，更具体地说是一种基于深度学习的钻井溢流预测组合模型及模型适时静默更新与迁移学习方法
。

技术介绍

[0002]在石油钻探开采的过程中，如果产生如井口泄漏
、
溢流
、
井涌
、
井喷
、
井壁瓦解等钻探事故，这不仅会使钻探费用上升
、
环境遭受污染，甚至可能发生人员伤亡
。
其中，溢流是在所有钻探事故中发生最多的类型，也是影响钻探操作安全的一个重要复杂事故
。
溢流不仅会导致储油层受到严重损害，增加钻探及开发费用以及降低开采效率，更关键的是，如果不及时处理溢流，可能会导致井壁崩塌
、
井喷等更为严重的灾难
。
因此，开发一个准确
、
能够快速应用于现场的钻进过程井下溢流风险预测模型非常有必要
。
[0003]传统避免溢流的方法主要靠人工监测本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种基于深度学习的钻井溢流预测组合模型及模型适时静默更新与迁移学习方法，其特征在于，包括以下几部分：数据预处理与模型训练部分：首先对原始录井数据进行数据预处理操作，再使用此处理后的录井数据分别训练
IPSO
改进粒子群算法优化的基于注意力机制的卷积循环神经网络模型
IPSO
‑
1DCNN
‑
LSTM
‑
2DAttention、IPSO
改进粒子群算法优化的基于注意力机制时序卷积长短期记忆网络模型
IPSO
‑
TCN
‑
LSTM
‑
2DAttention、IPSO
改进粒子群算法优化的基于注意力机制卷积长短期记忆网络
LSTM
模型
IPSO
‑
ConvLSTM
‑
2DAttention、IPSO
改进粒子群算法优化的二维多通道非异构卷积神经网络模型
IPSO
‑
2DCRNN
这四个基于深度学习的优化模型；组合模型的构建与适时静默更新部分：此部分主要是基于优势矩阵法对上述四种优化模型进行决策和融合，依据各自优势即四种优化模型各自的预测结果的平均绝对误差值
MAE
大小来构建组合模型，并实现一个定时器每隔指定时间自动计算组合模型的预测值和现场的录井数据对应真实值之间的平均绝对误差值
MAE
的大小，最后根据此
MAE
值是否达到指定阈值来判定是否触发执行组合模型适时静默更新操作；溢流预测与可视化部分：使用改进粒子群算法优化的
BP
神经网络模型
IPSO
‑
BP
在上述组合模型的回归预测结果基础上进行溢流分类预测，并将组合模型的回归预测结果和
IPSO
‑
BP
分类模型的溢流预测结果进行可视化展示；模型迁移学习部分：基于迁移学习的策略，将上述组合模型和分类模型经过微调后应用于临近井或其他油田井的溢流预测
。2.
根据权利要求1所述的一种基于深度学习的钻井溢流预测组合模型及模型适时静默更新与迁移学习方法，其特征在于，所述数据预处理步骤包括：首先对原始录井数据进行异常值处理
、
缺失值填充和
z
‑
score
标准化三步操作，将原始录井数据进行初步清洗和量纲统一，防止影响后续成分分析；再将初步清洗后的
X
维录井数据进行
PCA
主成分分析操作来提取影响溢流的关键特征；然后进行数据集分割：将数据集划分为训练集
、
测试集和验证集；最后再使用
SMOTE
非平衡数据处理方法解决数据集中溢流样本过少的实际情况；其中，异常值处理和缺失值填充两个操作指将原始录井数据中出现的离群点
、
噪声值以及使用
9999、
‑
9999
或无穷小值填充的数据，和原始录井数据中出现的缺失值进行处理，处理方法为使用异常值或缺失值前后五个数据的平均值进行填充；其中，
PCA
主成分分析操作包含取样本矩阵
、
对样本矩阵进行中心化处理
(
取均值
)、
计算样本的协方差矩阵
、
计算特征值和特征向量和选择主成分步骤
。3.
根据权利要求1所述的一种基于深度学习的钻井溢流预测组合模型及模型适时静默更新与迁移学习方法，其特征在于，模型训练部分使用经过数据预处理操作的原始录井数据分别训练所述的四种基于深度学习的优化模型：
IPSO
改进粒子群算法优化的基于注意力机制卷积循环神经网络模型
IPSO
‑
1DCNN
‑
LSTM
‑
2DAttention、IPSO
改进粒子群算法优化的基于注意力机制时序卷积长短期记忆网络模型
IPSO
‑
TCN
‑
LSTM
‑
2DAttention、IPSO
改进粒子群算法优化的基于注意力机制卷积长短期记忆网络模型
IPSO
‑
ConvLSTM
‑
2DAttention、IPSO
改进粒子群算法优化的二维多通道非异构卷积神经网络模型
IPSO
‑
2DCRNN
；其中，所述四种基于深度学习的优化模型均使用了
IPSO
改进粒子群优化算法，在基础
PSO
粒子群算法的基础上进行了以下优化：
(1)
实现了非线性更新粒子个体学习因子
C1和群体学习因子
C2：粒子迭代前期
C1大
C2小以保证粒子的多样性，尽快在搜索空间中进行广泛的随机搜索；后期
C1小
C2大，帮助模型尽快收敛至全局最优的位置，此操作相比直接固定赋值
C1＝
C2＝2而言能够提高粒子寻优性能
、
加快收敛速度以及动态平衡全局和局部搜索；
(2)
改善原粒子群算法中粒子速度公式的惯性权重更新方式：对比线性递减更新
、A、B
两种非线性递减以及随机生成惯性权重四种权重更新方法，优选
B
型非线性递减方式，收敛速度明显提高；
(3)
设置两个随机搜索系数
r1、r2，进一步增加搜索的多样性和随机性，提高粒子的全局寻优能力，进一步避免粒子陷入局部最优解；
(4)IPSO
改进粒子群算法每轮迭代进行全局寻优时达到指定误差即可退出本轮优化，否则达到设定的最大迭代次数时结束算法，以提高模型训练效率；
(5)
将适应度函数设计为各个粒子带着设定的待优化目标模型的超参数训练之后返回的待优化目标模型的预测误差，其中，适应度值即为目标模型返回的平均绝对误差值
MAE
；其中，所述此四种基于深度学习的优化模型中有三种都使用了
Attention
注意力机制，
Attention
层由一个激活函数为
softmax
的
Dense
全连接层实现，
Attention
注意力机制应用于
LSTM
层之前，这种设计方式相对于将
Attention
机制应用于
LSTM
层之后来说，由于后者的输出更抽象而不利于
Attention
机制学习到有用信息，因此本发明设置的前置
Attention
‑
LSTM
方式更容易注意到导致溢流的关键信息；而针对于多维钻井录井数据，本发明相应将
Attention
注意力机制设计为多通道，即
n
维特征对应
n
通道的
Attention
注意力机制，相对于只设置一组
Attention
权重的共享权重方式，更能关注到每一特征维的关键信息；以及，本发明创新性的同时在时间维度和特征维度均使用了注意力机制，相对其他论文研究中仅设置时间维度或特征维度来说能够同时提高
LSTM
中重要时间步和重要特征的作用，从而进一步降低模型预测误差；
Attention
注意力机制的作用是通过学习到一个权重分布并应用于特征上，来引导模型关注对结果有积极影响的部分，这种方式可以有效减轻传统神经网络需要过多记忆信息从而造成复杂度过高的问题，
Attention
机制计算权重的公式如下所示：其中
Q(query)
，
K(key)
，
V(value)
是来自同一个输入的三个矩阵，
d
k
为
Q
或
K
向量的维度，最后再使用
softmax
函数将结果归一化后乘以矩阵
V
；其中，所述
IPSO
改进粒子群算法优化的基于注意力机制卷积循环神经网络模型
IPSO
‑
1DCNN
‑
LSTM
‑
2DAttention
，特征为：
(1)
使用上述
IPSO
算法对
1DCNN
‑
LSTM
‑
2DAttention
模型的学习率大小
、LSTM
层层数
、LSTM
层每层神经元个数
、CNN
卷积神经网络部分卷积核的数量
、CNN
卷积神经网络部分卷积核的滑动步长
、
池化层的池化尺寸
、
池化层的滑动步长
、LSTM
长短期记忆网络的每轮迭代训练次数
epoch
值和
LSTM
网络每次更新权重参数所使用的样本数量
batchSize
大小这9个影响
IPSO
‑
1DCNN
‑
LSTM
‑
2DAttention
模型进行回归预测的关键超参数进行全局寻优；其中，卷积层使用
Leaky ReLU
为激活函数
(ReLU
激活函数的一个变种
)
，其具有许多优
点：解决了
ReLU
的不激活问题
、
通过提供一个小的正斜率
α
，即使输入为负，
Leaky ReLU
还能够提供非零的梯度，使权重得以更新以及因自身的线性性质而具有的高计算效率来实现加速训练速度，
Leaky ReLU
的计算公式如下：
(2)
本发明中使用二维
Attention
注意力机制
2DAttention
设置在多层
LSTM
层之前，
CNN
层之后，能够同时对
CNN
模型提取的特征维度和时间步维度进行注意力权重分配，提高模型整体预测准确率；
(3)
上述
IPSO
‑
1DCNN
‑
LSTM
‑
2DAttention
模型中一维卷积神经网络
1DCNN
部分能够读取上述经过数据预处理的录井数据输入并自动对其中的特征进行学习，然后经过二维注意力机制
2DAttention
对提取的特征进行重要性加权处理后送入多层
LSTM
模型进行解释和进一步学习，其中
CNN
模型的输入结构与
LSTM
模型输入结构相同，且
CNN
模型部分一共有两层
CNN
卷积神经网络，第一层卷积读取输入序列，并将结果投影到特征图上；第二层卷积在第一层创建的特征图上执行相同的操作，尝试放大其显著特征，层叠的
CNN
卷积层可以捕获长距离依赖关系；池化层通过下采样的方法对提取的特征进行简化和降维，摘取关键特征；其中，所述
IPSO
改进粒子群算法优化的基于注意力机制时序卷积长短期记忆网络模型
IPSO
‑
TCN
‑
LSTM
‑
2DAttention
，特征为：
(1)
使用上述
IPSO
算法对
IPSO
‑
TCN
‑
LSTM
‑
2DAttention
模型的学习率大小
、LSTM
层层数
、LSTM
层每层神经元个数
、TCN
时序卷积网络中卷积核的大小以及卷积核的个数
、
残差块的个数
、
残差结构单元中
Dropout
大小
、LSTM
长短期记忆网络的每轮迭代训练次数
epoch<...

【专利技术属性】
技术研发人员：张秋实，任星兆，王家骏，王胡振，穆朗枫，
申请(专利权)人：辽宁石油化工大学，
类型：发明
国别省市：