基于自知识蒸馏的地震波速度建模方法技术

本发明专利技术公开了基于自知识蒸馏网络的地震波速度建模方法。随着采集数据的增加,速度建模的工作量剧增。尤其是在地表、地下结构复杂的低信噪比探区，速度谱能量团的聚焦性非常差，速度拾取非常困难。因此，适应复杂低信噪比的智能化速度建模非常迫切。本发明专利技术首次提出了基于自知识蒸馏网络来研究有无噪音炮记录之间的对应关系，通过他们之间的相互学习，有价值的上下文信息可以作为一种“免费”监督的形式，通过在网络本身内执行自顶向下和分层的自蒸馏来进一步表示学习。引入了研究离散小波变换对信号降噪的方法，在不同尺度上对信号进行分解，实现信号降噪。在SEG Salt数据集上进行的大量实验表明，该模型在地震波速度建模方面取得了很好的结果。取得了很好的结果。

【技术实现步骤摘要】
基于自知识蒸馏的地震波速度建模方法


[0001]本专利技术属于计算机科学与地震勘探交叉研究的方法，涉及计算机视觉和地震勘探的


技术介绍

[0002]近年来，深度学习逐渐应用到不同领域并且取得了重大突破，比如图像识别、语音识别、自然语言处理等。深度学习是一种特征学习方法，把原始数据通过非线性的模型转变成为更高层次的、更加抽象的表达，通过足够多的转换的组合，非常复杂的函数也可以被学习。地球物理勘探存在着大量的异构多模态数据，如果能够将深度学习技术引入到油气勘探领域的大数据分析之中，利用数据驱动的方法来对多模态数据进行深入挖掘，以提取大数据中隐含的可以学习的复杂结构和规律，将在一定程度上会有助于解决传统速度建模问题的瓶颈问题。
[0003]地震速度是地震勘探中地震波形反演的最重要参数之一。精确的速度模型是逆时偏移和其他高分辨率地震成像技术的关键前提。随着采集数据的增加,速度建模的工作量剧增。常规的反演方法进行速度建模时强烈依赖于初始模型和先验信息，并且过程繁琐、稳定性低且耗时严重。尤其是在地表、地下结构复杂的低信噪比探区，速度谱能量团的聚焦性非常差，速度拾取非常困难。另外，随着研究区域的不断扩展和检波器的更新换代，地球物理观测数据呈指数增长，因此发展一种更加高效智能化的速度建模方法迫在眉睫，深度学习为其提供了新的处理工具。支持开展“通过深入交融，创造一系列新的概念、理论、方法，展示出一种新的认识论，构架出新的知识结构，形成一个新的更丰富的知识范畴”研究。
[0004]速度模型的建立在地震勘探中至关重要，因为它贯穿了整个地震勘探过程，包括地震数据的采集、处理和解释。为了建立更准确的速度模型，已经探索了几种技术，如移位速度分析、层析成像和全波形反演。其中，全波形反演是一种非线性优化问题，它的目标就是通过使地震勘测记录数据与模拟合成数据之间的残差最小化来估计地下介质模型。尽管全波形反演能够得到精确的、具有高分辨率的地下介质模型，但是由于高昂的计算成本、反演中解的不唯一性以及对优化算法、初始速度模型的依赖，使得其尚未很好的应用到实际工业中。
[0005]地震反演是通过对地下简单的先验模型进行波浪反演和利用反向传播环路来推断地下地质构造。随着采集数据的增加，速度建模的工作量剧增。常规的速度建模通常需要在速度谱上根据能量团精细拾取时间
‑
速度对，这个过程需要花费大量时间和精力来手动拾取速度谱。尤其是在地表、地下结构复杂的低信噪比探区，速度谱能量团的聚焦性非常差，速度拾取非常困难。因此，适应复杂低信噪比的智能化速度建模非常迫切。直接用卷积提取特征，忽视采样过程中不同维度特征之间的关联性；训练过程中只用清晰地地震波数据作为输入，在测试野外数据集(含噪音)时模型效果不好；缺乏对低频、高频、中低频之间的理解，很难发现丰富的信息等问题。这些问题都增加了地震波速度建模的难度，所以如何有效精确的反演速度模型一直是多年来人们研究的重要问题。
[0006]因此我们目前迫切需要开展基于自知识蒸馏的地震波速度建模方法研究，重点突破地震波特征的提取与表达、基于自知识蒸馏降低噪音影响等方面的理论方法和关键技术。研究成果在理论上将形成包括地震波特征提取、噪音地震波速度建模、实验论证等完整的方法体系，推进深度学习在地质勘探的发展，在地震资料的采集、处理、解释等众多领域具有广泛的应用前景。

技术实现思路

[0007]本专利技术的目的是为了解决夹杂噪音的炮记录难以得到良好建模效果这一问题。针对炮记录的高信噪比特点，构建自知识蒸馏架构，将炮记录分为两条路径(一条带噪音的，另一条不带噪音的)，通过他们之间的相互学习，有价值的上下文信息可以作为一种“免费”监督的形式，通过在网络本身内执行自顶向下和分层的自蒸馏来进一步表示学习。同时，自蒸馏的方式能够一定程度上缓解梯度消失的问题。
[0008]本专利技术为解决上述技术问题采取的技术方案是：
[0009]S1.基于离散小波变换的地震波特征提取与表达，输入地震波原始数据，使用小波变换的方式对信号进行降噪。
[0010]S2.结合S1中的降噪特征，在整体的深层框架中利用自知识蒸馏方法中双边学习网络生成精准的速度模型。
[0011]S3.结合S1中的网络和S2中的网络构建基于自知识蒸馏的地震波速度建模网络架构。
[0012]输入地震波原始数据，使用小波变换的方式对信号进行降噪。小波变换跟普通的正交变换不同，它是一个多层分解。“g
[n]”是低通滤波器，可以将输入信号的高频部分滤掉而输出低频部分；“h
[n]”是高通滤波器，与低通滤波器相反，滤掉低频部分而输出高频部分；
“↓
Q”是下采样滤波器，如果以x
[n]作为输入，则输出y
[n]＝x
[Qn]。此处举例Q＝2。一个长为N的信号x，第一层分解为高频部分D1和低频部分A1，长度均为N/2；第二层分解将A1分解为高频部分D2和低频部分A2，长度均为N/4；第三层分解将A2分解为高频部分D3和低频部分A3，长度均为N/8，依此类推，但分解所得到的所有结果长度总和仍为N，例如一层分解后得到D1和A1(两个长度为N/2的序列)，二层分解后得到D1、D2和A2(N/2+N/4+N/4)，三层分解后得到D1、D2、D3和A3(N/2+N/4+N/8+N/8)。本专利技术中的N取值为256。
[0013]架构中的第α层的输出数据用一下公式表示：
[0014][0015][0016]小波分解的意义就在于能够在不同尺度上对信号进行分解(对尺度的选择就用滤波器)，而且对不同尺度的选择可以根据不同的目标来确定(可以选择分解到第几层)。对于地震波信号，低频成分相当重要，它常常蕴含着信号的特征，而高频成分则给出信号的细节或差别。所以低频信息可以近似原来的信号，高频信息体现信号的细节。因此，原始信号可以通过两个相互滤波器产生两个信号(高和低)。
[0017]针对夹杂噪音地震波数据难以速度建模的特点，采用自蒸馏架构。将炮记录分为两条路径(一条带噪音的，另一条不带噪音的)，通过他们之间的相互学习，有价值的上下文
信息可以作为一种“免费”监督的形式，通过在网络本身内执行自顶向下和分层的自蒸馏来进一步表示学习。同时，自蒸馏的方式能够一定程度上缓解梯度消失的问题。
[0018]首先将地震波特征映射到公共空间，然后规划利用多核卷积网络对公共空间中的特征解码，并在编码器部分设计多维度交叉注意力对其进行融合，同时结合池化生成一种基于向量的相似度表示。具体操作为，原始炮记录的尺寸为C0×
W
o
×
H0(C0＝29，W0＝1800，H0＝301)。将原始数据通过离散小波变换提取特征，得到无噪音特征和含噪音特征T0，L0，其维度均为C1×
W1×
H1(C1＝29，W1＝360，H1＝301)，作为网络的输入特征。首先进行编码，然后解码，做损失指导神经网络的反向传播，最后得到维度为C
out
×
...

【技术保护点】

【技术特征摘要】
1.基于自知识蒸馏的地震波速度建模方法，其特征在于，所述方法包括以下步骤：S1.基于离散小波变换的地震波特征提取与表达，输入地震波原始数据，使用小波变换的方式对信号进行降噪。S2.结合S1中的降噪特征，在整体的深层框架中利用自知识蒸馏方法中双边学习网络生成精准的速度模型。S3.结合S1中的网络和S2中的网络构建基于自知识蒸馏的地震波速度建模网络架构。根据权利要求1所述的基于自知识蒸馏的地震波速度建模方法，其特征在于，所述S1的具体过程为：输入地震波原始数据，使用小波变换的方式对信号进行降噪。小波变换跟普通的正交变换不同，它是一个多层分解。“g
[n]”是低通滤波器，可以将输入信号的高频部分滤掉而输出低频部分；“h
[n]”是高通滤波器，与低通滤波器相反，滤掉低频部分而输出高频部分；
“↓
Q”是下采样滤波器，如果以x
[n]
作为输入，则输出y
[n]
＝x
[Qn]
。此处举例Q＝2。一个长为N的信号x，第一层分解为高频部分D1和低频部分A1，长度均为N/2；第二层分解将A1分解为高频部分D2和低频部分A2，长度均为N/4；第三层分解将A2分解为高频部分D3和低频部分A3，长度均为N/8，依此类推，但分解所得到的所有结果长度总和仍为N，例如一层分解后得到D1和A1(两个长度为N/2的序列)，二层分解后得到D1、D2和A2(N/2+N/4+N/4)，三层分解后得到D1、D2、D3和A3(N/2+N/4+N/8+N/8)。本发明中的N取值为256。架构中的第α层的输出数据用一下公式表示：架构中的第α层的输出数据用一下公式表示：小波分解的意义就在于能够在不同尺度上对信号进行分解(对尺度的选择就用滤波器)，而且对不同尺度的选择可以根据不同的目标来确定(可以选择分解到第几层)。对于地震波信号，低频成分相当重要，它常常蕴含着信号的特征，而高频成分则给出信号的细节或差别。所以低频信息可以近似原来的信号，高频信息体现信号的细节。因此，原始信号可以通过两个相互滤波器产生两个信号(高和低)。针对夹杂噪音地震波数据难以速度建模的特点，采用自蒸馏架构。将炮记录分为两条路径(一条带噪音的，另一条不带噪音的)，通过他们之间的相互学习，有价值的上下文信息可以作为一种“免费”监督的形式，通过在网络本身内执行自顶向下和分层的自蒸馏来进一步表示学习。同时，自蒸馏的方式能够一定程度上缓解梯度消失的问题。首先将地震波特征映射到公共空间，然后规划利用多核卷积网络对公共空间中的特征解码，并在编码器部分设计多维度交叉注意力对其进行融合，同时结合池化生成一种基于向量的相似度表示。具体操作为，原始炮记录的尺寸为C0×
W0×
H0(C0＝29,w0＝1800,H0＝301)。将原始数据通过离散小波变换提取特征，得到无噪音特征和含噪音特征T0,L0,其维度均为C1×
W1×
H1(C1＝29,W1＝360,G1＝301)，作为网络的输入特征。首先进行编码，然后解码，做损失指导神经网络的反向传播，最后得到维度为C
out
×
W
out
×
H1(C
out
＝1,W
out
＝201)的速度模型特征V。这一过程的计算方法是：V＝Decoder(Encoder(T0,L0))
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(3)其中Deconder()和Encoder()分别表示解码器操作和编码器操作。
网络由四个编码器组成，每个编码器操作后，特征的高度和宽度都是前一层的一半，通道数是前一层的两倍。这个过程的计算方法是：Te
n
＝Encoder(Te
n
‑1),n＝1,2,3,4,Te0＝T0ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(4)Le
n
＝Encoder(Le
n
‑1),n＝1,2,3,4,Le0＝L0ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(5)其中Te1和Le1的维度均为C2×
W2×
H2(C2＝64,W2＝180,H2＝151)，Te
n
和Le
n
的维度均为当n≥1时。编码的输出特征Te4和Le4通过一层3*3卷积核得到中间特征T
c
和L
c
，这也是解码过程的输入特征：T
c
＝Center(Te4)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(6)L
c
＝Center(Le4)
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ...

【专利技术属性】
技术研发人员：吴春雷，路静，黄建平，王雷全，黎国龙，张欢，吴杰，李灿伟，
申请(专利权)人：中国石油大学华东，
类型：发明
国别省市：