2020年6
月第55卷 第3期 
*甘肃省兰州市城关区雁儿湾路535号中国石油勘探开发研究院西北分院,730020。Email:gulang
lhs@petrochina.com.cn本文于2019年5月31日收到,最终修改稿于2020年2月17
日收到。本项研究受中国石油天然气集团公司科技项目“深层及非常规物探新方法新技术”(2019A-
3312)和中国石油天然气股份有限公司科技项目“智能化地震噪音压制技术研究及在塔里木沙漠区的应用”(kt2017-12-03-
1)联合资助。·智能地球物理·
文章编号:1000-7210(2020)03-0493-
11叠前随机噪声深度残差网络压制方法
李海山* 陈德武 吴 杰 常德宽
(中国石油勘探开发研究院西北分院,甘肃兰州730020
)李海山,陈德武,吴杰,常德宽.叠前随机噪声深度残差网络压制方法.石油地球物理勘探,2020,55(3):493-503.摘要 深度残差网络作为一种先进的深度学习算法,
近年来得到学术界和工业界的高度关注。针对叠前地震记录中随机噪声的智能高效压制问题,首先根据深度残差网络原理设计了一种深层非线性去噪网络,然后利用构建的高质量随机噪声训练集对该网络进行训练,在高维空间实现对随机噪声特征的自动学习,从而拟合出含噪声地震记录与随机噪声之间的非线性映射关系,实现随机噪声自动压制。模型数据测试和实际资料应用均证明了文中方法的有效性。尽管其去噪能力与标签数据获取方法相当,但去噪效率及适应能力明显优于标签数据获取方法,为应对TB级叠前地震数据的去噪问题提供了一种可借鉴的思路。关键词 深度学习 卷积神经网络 深度残差网络 随机噪声 去噪
中图分类号:P631  文献标识码:A  doi:10.13810/j
.cnki.issn.1000-7210.2020.03.0020 引言
地震资料往往含有严重的随机噪声,给后续的数据处理、解释及储层预测等工作带来十分不利的
影响[
1]
。由于随机噪声是由各种因素综合作用形成的,没有固定的频率和传播方向,分布于全时、全频段,因此很难将其从地震记录中有效地分离出来。针对随机噪声压制问题,学者们开展了大量相关研究并根据有效信号和随机噪声各自的特征提出了不
同的压制方法,典型的有K-L变换滤波[2]
、f-x域预测滤波[3]、自适应滤波[4]
、Radon变换[5]、径向预测滤波[6]、小波变换[7-8]、奇异值分解[9]、多项式拟合[10]、S变换[11]、Curvelet变换[12-13]、S
eislet变换[14]、倾角导向中值滤波[15-16]、径向时频峰值滤波[
17]、稀疏字典学习[18]、局部正交压制[19]等方法。尽管这些方法都取得较好的实际应用效果,但每种
方法都受到某种假设或条件限制[2
0],去噪性能在不
同工区差别较大,适应能力和保真能力有待进一步提高;此外,去噪效果较好的方法通常计算复杂度较高、计算效率较低,需要较多的参数调试,不能充分
应对宽频、宽方位、单点高密度采集时代大数据量处
理的挑战。因此,研究保真且高效的去噪方法是人们不懈的追求。
深度学习[
21]
是近年来引起广泛关注的机器学习的一个分支,该概念由Hinton等[2
2]
提出。深度学习实质上是一种人工神经网络,但比以往的人工神经网络具有更深的神经元层,通过组合低层特征形成更加抽象的高层特征,以发现数据的分布式特征表示,减少了人工提取特征的巨量工作。目前,深度学习已经发展出多种模型,如生成式/无监督模型(受限玻尔兹曼机、深度置信网络、正则化的自编码器等)和判别式模型(递归神经网络、深度神经网络、卷积神经网络(Convolutional Neural Network,CNN)等)。CNN通过用卷积代替规则神经元的矩阵乘法运算,大大减少每层中需要训练的未知权重系数的数量,能够从输入中学习到高度复杂的非线性关系。
由于存在诸多优点,CNN已被逐渐应用于地震
勘探领域中。如:Lewis等[23]将CNN用于全波形反演中的正则化先验信息提取;Itan等[24]将CNN用于反射和绕射波场分离;Huang等[25]将C
NN用于断裂特征的自动检测。以上研究都取得了较好的
 494 石油地球物理勘探2020年 
应用效果,展现出CNN在地震勘探领域中的巨大优势和广阔的应用前景。
考虑到CNN具有自动学习高度复杂的非线性特征的能力,本文将其应用于叠前地震数据随机噪声的压
制中,通过对叠前地震数据中随机噪声特征的自动学习,实现自动且高效的随机噪声分离。
1 深度残差网络去噪原理
1.1 深度残差网络
目前卷积神经网络领域已取得许多令人瞩目的研究成果,并且不断有新的CNN模型被提出,
其中最著名的有LeNet[26]、AlexNet[27]、Google-Net[28]
正则化残差、VGGNet[29]和深度残差网络(R
esNet)[30]
等。目前在图像分类方面,ResNet的准确度是最高的。鉴于ResNet的优异性能,Zhang等[31]
将R
esNet应用于图像数据去噪。研究表明,在随机噪声压制中应用
ResNet并不依赖于数据的信噪比,
其对不同信噪比的数据都能够达到较好的去噪效果。
深度残差网络是针对更深层的网络模型难以训练的问题而提出的一个网络架构,很好地克服了因深度增加而出现的网络退化问题,能够通过增加网络深度提高网络性能。图1说明了深度残差网络与常规网络的差别。假定某段神经网络的输入是y,期望输出是N(y),即N(y)是期望的复杂潜在映射,但学习难度较大;
如果通过图1所示的越层连接直接把输入y传到输出作为初始结果,则此时需要学习的目标变为R(y)=y-N(y),即ResNet相当于学习恒等映射y与最优解N(y)的残差。在极端情况下,将残差R(y)置为零比通过非线性层拟合恒等映射y更容易
图1 残差网络与常规网络的差别
(a
)常规网络;(b)残差网络1.2 随机噪声压制原理
如果地震数据中包含随机噪声,则地震数据可以表示为
y=x+n(1)式中:x为有效信号;y为含随机噪声地震记录;n为随机噪声。深度学习的基本思想是通过下面的公式建立x和y之间的映射关系
x=Net(y;
Θ)(2)式中:Net表示深度学习网络;Θ={W,b}为网络参数,其中W为权重,b为偏置。根据深度残差网络原理,可以将随机噪声作为网络输出
n=y-x=Res(y;Θ)(3)式中:Res表示残差学习网络。为了最优化式(3)
中的网络,定义如下的代价函数[
0] L(Θ)=12 
N∑N
i=1‖Res(y;Θ)-(yi-xi)‖2F(4
)式中:{yi-xi)}N
=1表示包含N对训练样本的训练集;‖·‖F代表F
robenious范数。由于N非常大,直接将训练集用于计算L(Θ)的梯度是不现实的,因此本文采用小批次随机梯度下降(Stochastic
Gradient Descent,SGD)法[32]
最小化L(Θ)
,即在每次迭代过程中,只有小部分训练样本被用来计算梯度,利用局部梯度来代替全局梯度,这样既可以提高效率又可以降低复杂度。
为衡量深度残差网络的去噪性能,将峰值信噪比(Peak Signal to Noise Ratio,PSNR)作为评价指标,其计算公式为
 PSNR(^x,x)=10×lgNmax[abs(x)
]∑M
j=1
(xj-^xj)[]
212
(5
)式中:^x=y-Res(y;Θ)为网络的去噪结果;max[abs(x)
]表示取有效信号x的最大绝对值;M为x的总样点数。PSNR的单位为dB,其值越大表示去噪的保真性越好。
2 深度残差网络的架构
针对随机噪声压制问题,
设计了一个由多层依次连接构成的去噪网络Res(y;Θ),如图2所示,图中不同层的定义如表1所示。在去噪网络的第二层
和最后一层之间为多个构建块,每个构建块由一个卷积层(Conv)、一个批标准化层(Batch 
Normaliza-
 第55卷 第3期李海山,等:叠前随机噪声深度残差网络压制方法
95  tion,BN)和一个修正线性单元层(Rectified LinearUnit,ReLU)依次连接组成。去噪网络中除第一个卷积层的尺寸为3×3×1×64(64个卷积核为3×3的卷积滤波器,通道数为1)和最后一个卷积层的尺寸为3×3×64×1(1个卷积核为3×3的卷积滤波器,通道数为64)之外,其他卷积层的尺寸均为3×3×64×64(64个卷积核为3×3的卷积滤波器,
通道数为64
)。去噪网络中修正线性单元层之前加入批标准化层[3
1],用于固定每层输入信号的均值和方
差,使每一层的输入均有一个稳定的分布,在有效避免梯度弥散的同时可以提高去噪网络的泛化能力和收敛速度。
表1 深度残差网络不同层的定义
描述功能
Conv卷积
W*x+b
BN批标准化使均值为0,方差为1
ReLU修正线性单元
Max(0,
·) 注:“*”
代表卷积算子
。图2 深度残差网络的架构示意图
3 模型数据测试
为验证基于深度残差网络的随机噪声压制方法的有效性,设计了一个二维合成数据模型构建训练集及去噪测试。图3a给出了合成的含随机噪声记录,其峰值信噪比为9.08dB,是图3b所示有效信号和图3c所示随机噪声的叠加,共512道,每道1000个采样点,空间采样间隔为5m,时间采样间隔为2ms。图4为图3各记录的f-
k谱,由图4a可见随机噪声分布在整个时频空间,与有效信号的分布区域重叠。
为了训练去噪网络,通过将含随机噪声记录作为输入、将随机噪声模型作为标签,构建了包括输入
数据集和标签数据集的训练集。为测试样本大小对
网络去噪性能的影响,固定网络深度为18层、
训练周期[31]为20、批次规模[31]
为128,
利用构建的不同训练样本大小的训练集对去噪网络进行训练。表2为不同样本大小对应的峰值信噪比和训练时间,可见随着样本的变大训练时间也逐渐增大,但峰值信噪比在样本大小为30×30时达到最大,此后随着样本的变大反而变小了,因此在随机噪声压制应用中训练样本不是越大越好(图2的两边给出了训练集中的5对训练样本)
。大量的模型数据测试和实际资料应用表明,选取训练样本大小为30×30能够获得比较好的随机噪声压制效果,因此在本文的后续讨论中训练样本大小均设置为30×30
图3 含随机噪声数据模型
(a)含随机噪声记录;(b)有效信号;(c
)随机噪声
 496 石油地球物理勘探2020年
图4 含随机噪声数据模型的f-
k谱(a)含随机噪声记录;(b)有效信号;(c
)随机噪声表2 训练样本大小对深度残差网络性能的影响
样本大小5×5 10×10 15×15 20×20 25×25 30×30 35×35 40×40 4
5×45PSNR/dB 12.35 16.95 18.61 19.33 19.49 19.70 19.68 18.82 18.59训练时间/h 4.42 5.20 6.48 6.96 8.36 9.56 11.85 15.25 1
9.20  为测试网络深度对网络去噪性能的影响,
固定训练样本的大小为30×30、训练周期为20、批次规模为128,对不同深度的去噪网络进行训练。表3为不同网络深度对应的峰值信噪比、训练时间和去噪时间,可见:随着网络深度的增加峰值信噪比逐渐增大,网络越深去噪效果越好,这正是深度学习的本质所在;网络越深训练时间和去噪时间也越长,因此从时间成本考虑,本文在保证去噪效果的前提下选取网络深度为18层。此外,由表3可见,尽管深度残差网络在训练阶段是比较耗时的,但训练好的网络在去噪阶段速度很快。利用固定好的参数训练得到去噪网络Ⅰ,并将其应用于图3a所示的合成含随机噪声记录,结果如图5所示。由图5可见,去噪网络Ⅰ有效地学习到无规律随机噪声的特征,并成功
地预测出随机噪声,随机噪声压制结果的PSNR为19.70dB,与含噪记录的PSNR相比得到显著的提
升。对比图4与图6的f-k谱可见,在时频空间中有效信号和随机噪声得到了有效分离,选取网络深度为18层已足以满足去噪需求。
表3 网络深度对深度残差网络性能的影响网络深度构件块
个数PSNR/dB训练时间/h去噪时间/
s6 
1 
14.56 3.35 2.219 2 16.95 4.75 2.5912 3 17.29 6.34 3.6415 4 18.83 7.89 4.6718 5 19.70 9.56 5.1521 
6 
20.57 
11.05 
6.5
图5 网络Ⅰ去噪结果(a)及预测的随机噪声(b
 第55卷 第3期李海山,等:叠前随机噪声深度残差网络压制方法
97 
 图6 网络Ⅰ去噪结果(a)及预测的随机噪声(b)的f-
k谱4 网络的泛化能力研究
为进一步测试网络的去噪性能,将去噪网络Ⅰ应用于图7a所示的合成含随机噪声记录。图7a所示含随机噪声记录的峰值信噪比为4.32dB,是在图7b所示有效信号中加入随机噪声得到的,共128道,每道1000个采样点,空间采样间隔为20m,时间采样间隔为4ms。图7c给出了去噪网络Ⅰ的随机噪声压制结果,尽管其峰值信噪比提高到7.65dB,但随机噪声并未得到充分地压制。
针对该问题,将图3a和图7a所示的含随机噪声记录作为输入、将其相应的随机噪声模型作为标
签,构建出新的训练集并对去噪网络进行训练,得到
去噪网络Ⅱ。图7d为去噪网络Ⅱ应用于图7a数据的去噪结果,可见随机噪声得到了有效地压制,去噪后峰值信噪比达到17.15dB;同时将去噪网络Ⅱ应用于图3a,也得到理想的去噪结果,去噪后峰值信噪比为19.46dB
,与去噪网络Ⅰ的去噪能力基本相同。可见,只要有足够完备的涵盖各种情况的高质量标签数据,训练后的去噪网络对于各种不同的数据都能得到较好的去噪结果,这也是在图像分类方面深度残差网络能够取得惊人准确度的主要原因之一。可以预见,在随机噪声去噪应用中,随着各工区不同类型标签数据的逐渐积累和网络的强化训练,本文去噪网络的泛化能力将会得到大幅度地提高
图7 含随机噪声记录及相应的去噪结果
(a)含随机噪声记录;(b)有效信号模型;(c)网络Ⅰ去噪结果;(d
)网络Ⅱ去噪结果5 实际资料应用
深度残差网络是一种有监督的深度学习算法,要实现去噪首先得有高质量的标签数据。针对模型
数据的去噪问题,由于随机噪声是已知的,因此能够
获得较好的去噪效果,然而针对实际资料的去噪问题,随机噪声事先是未知的。针对实际资料随机噪声标签数据的获取问题,可以通过多种方法的去噪效果对比,选取最优的去噪方法获得标签数据。

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。