国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于深度學(xué)習(xí)的魯棒地震數(shù)據(jù)去噪

2022-02-18 02:42李新月王洪濤董宏麗
石油地球物理勘探 2022年1期
關(guān)鍵詞:子網(wǎng)殘差剖面

張 巖 李新月 王 斌 李 杰 王洪濤 董宏麗

(①東北石油大學(xué)計算機與信息技術(shù)學(xué)院,黑龍江大慶 163318; ②黑龍江省大慶市信息技術(shù)研究中心,黑龍江大慶 163318; ③東北石油大學(xué)人工智能能源研究院,黑龍江大慶 163318)

0 引言

隨機噪聲嚴(yán)重影響地震資料的處理工作[1-2],如何高效地從含噪數(shù)據(jù)中提取有效信息,是地震資料處理領(lǐng)域的一個重要研究方向。為了解決這一問題,學(xué)者們提出了多種隨機噪聲壓制方法。按照是否假設(shè)具體的先驗?zāi)P?,這些方法可劃分為兩類:基于先驗?zāi)P偷膫鹘y(tǒng)去噪方法和基于深度學(xué)習(xí)的去噪方法。

基于先驗?zāi)P偷膫鹘y(tǒng)去噪方法是從數(shù)據(jù)的分布先驗出發(fā),建立并求解數(shù)學(xué)模型。該方法又可以進(jìn)一步劃分為傳統(tǒng)時域去噪、傳統(tǒng)頻域去噪、多尺度幾何分析和稀疏表示去噪等。其中,傳統(tǒng)時域去噪方法是利用地震數(shù)據(jù)時域分布的特點構(gòu)建濾波函數(shù)去除噪聲,主要包括中值濾波[3-5]、非局部均值濾波[6-7]等。傳統(tǒng)頻域去噪方法是將地震數(shù)據(jù)變換到頻域,在頻域內(nèi)分析有效信號與噪聲分布的特點,預(yù)測并去除噪聲,然后返回時域以實現(xiàn)噪聲壓制,主要包括Fourier變換[8]、Radon變換[9]等。多尺度幾何分析的原理與傳統(tǒng)頻域去噪的原理類似,區(qū)別在于多尺度幾何變換較傳統(tǒng)的頻域變換具有多尺度和多方向特性,更適用于地震數(shù)據(jù)的同向軸紋理特征表示,主要包括Wavelet變換[10-11]、Curvelet變換[12]等。稀疏表示去噪方法是通過字典學(xué)習(xí)等方式得到基函數(shù)以表示地震數(shù)據(jù)的主要特征,去除噪聲特征以達(dá)到去噪的目的,主要包括K-奇異值分解(K-Singular Value Decomposition,K-SVD)[13-16]、三維塊匹配(Block-Matching and 3D Filtering,BM3D)[17]等。

以上地震數(shù)據(jù)去噪方法對于不同噪聲條件下的去噪具有一定的效果,但地震數(shù)據(jù)的噪聲產(chǎn)生因素多,噪聲分布復(fù)雜。根據(jù)數(shù)據(jù)先驗知識,人工建立的模型只能提取淺層特征,表達(dá)能力較弱,無法描述復(fù)雜的噪聲分布,影響了模型假設(shè)和參數(shù)設(shè)置的準(zhǔn)確性[18]。更重要的是,野外數(shù)據(jù)的噪聲分布是未知的,缺乏足夠的先驗信息,因此去噪效果不太理想[19-20]。

近年來,深度學(xué)習(xí)技術(shù)以強大的深層特征提取與非線性逼近能力而倍受關(guān)注,基于深度學(xué)習(xí)的地震數(shù)據(jù)處理方法[21-23]的研究也逐漸展開。它與傳統(tǒng)去噪方法的主要差異在于不再假設(shè)具體的先驗?zāi)P?,而是從?shù)據(jù)本身出發(fā),通過多層卷積的方式提取數(shù)據(jù)主要特征,利用大量的訓(xùn)練樣本學(xué)習(xí)得到一個復(fù)雜的去噪模型。該技術(shù)主要包括基于降噪自編碼的噪聲壓制[24-26]、基于殘差學(xué)習(xí)的卷積去噪網(wǎng)絡(luò)[27-28]和基于生成對抗網(wǎng)絡(luò)的噪聲壓制[29]等。其中,基于降噪自編碼的網(wǎng)絡(luò)由編碼和解碼兩部分組成,編碼過程中通過多層卷積和池化等操作提取數(shù)據(jù)中主要的紋理特征,解碼過程中使用反卷積和上采樣等操作輸出去噪后數(shù)據(jù)。

Zhang等[24]和Chen等[25]利用U-Net的網(wǎng)絡(luò)結(jié)構(gòu)對地震數(shù)據(jù)進(jìn)行隨機噪聲壓制,自適應(yīng)地從噪聲中學(xué)習(xí)地震信號,實現(xiàn)了無監(jiān)督的地震數(shù)據(jù)隨機噪聲壓制。羅仁澤等[26]改進(jìn)了U-Net網(wǎng)絡(luò),在訓(xùn)練過程中進(jìn)行深度加權(quán),進(jìn)一步提取深層信息; Zhang等[27]結(jié)合卷積神經(jīng)網(wǎng)絡(luò)、殘差網(wǎng)絡(luò)和批量歸一化,提出基于殘差學(xué)習(xí)的卷積去噪網(wǎng)絡(luò)(Residual Learning of Deep CNN for Image Denoising,Dn-CNN),在圖像處理領(lǐng)域得到廣泛應(yīng)用。同時,Zhang等[27]還提出了DnCNN的變體DnCNN-B以處理不同分布的未知噪聲,該方法通過對訓(xùn)練集添加不同分布的隨機噪聲,使訓(xùn)練集的噪聲分布覆蓋測試集,以此達(dá)到盲去噪的目的。但模型的泛化能力較低,在高噪聲分布下會導(dǎo)致圖像過平滑的現(xiàn)象和細(xì)節(jié)信息的丟失。韓衛(wèi)雪等[30]借鑒DnCNN網(wǎng)絡(luò)結(jié)構(gòu)提出的地震數(shù)據(jù)去噪方法,效果優(yōu)于傳統(tǒng)地震數(shù)據(jù)去噪方法。由于DnCNN出色的去噪性能,很多學(xué)者將其應(yīng)用于地震數(shù)據(jù)的隨機噪聲壓制任務(wù)。Wang等[31]將DnCNN模型應(yīng)用于地震數(shù)據(jù)噪聲壓制,取得了較好的效果。Yu等[32]和Zhao等[33]系統(tǒng)介紹了DnCNN算法用于地震數(shù)據(jù)噪聲壓制的過程并討論了CNN的超參數(shù)設(shè)置問題。Dong等[34]采用自適應(yīng)的DnCNN算法對沙漠地震資料進(jìn)行去噪處理,有效提高了信噪比。Yang等[35]擴(kuò)展了原有的DnCNN模型,將激活函數(shù)替換為指數(shù)線性單元(Exponential Linear Units,ELU),增強了網(wǎng)絡(luò)的魯棒性。

基于生成對抗網(wǎng)絡(luò)的噪聲壓制方法包含一個生成網(wǎng)絡(luò)和一個判別網(wǎng)絡(luò),采用博弈論的思想,用判別網(wǎng)絡(luò)指導(dǎo)生成網(wǎng)絡(luò)學(xué)習(xí)樣本的分布,在圖像處理領(lǐng)域得到了成功應(yīng)用[36]。Radford等[37]在Yang等[35]基礎(chǔ)上加入卷積神經(jīng)網(wǎng)絡(luò),提出了深度卷積生成對抗網(wǎng)絡(luò)(Deep Convolutional Generative Adversarial Networks,DCGAN)。俞若水等[38]將DCGAN應(yīng)用于工程勘探領(lǐng)域的瑞雷波勘探,實現(xiàn)了基于深度卷積生成對抗網(wǎng)絡(luò)的瑞雷波信號隨機噪聲去除,取得了較好的效果。

當(dāng)前基于深度學(xué)習(xí)的噪聲壓制方法是通過多層卷積提取地震數(shù)據(jù)的主要特征,自適應(yīng)地構(gòu)建去噪模型,解決了傳統(tǒng)去噪方法中受有限的先驗知識影響而導(dǎo)致模型不準(zhǔn)確、參數(shù)設(shè)置不確定性的問題?;谏疃葘W(xué)習(xí)的網(wǎng)絡(luò)模型在測試集噪聲分布接近其訓(xùn)練噪聲分布的情況下,能達(dá)到較好的去噪效果。但在樣本覆蓋不充分的情況下,往往缺少魯棒能力。受采集環(huán)境、地質(zhì)條件等影響,地震數(shù)據(jù)之間存在的差異很大,樣本充分覆蓋在實際應(yīng)用中存在很大的困難,導(dǎo)致去噪效率大幅降低。

在地震數(shù)據(jù)處理領(lǐng)域,魯棒的深度學(xué)習(xí)去噪研究比較鮮見。在圖像處理領(lǐng)域,盲噪聲壓制的方法有兩種思路:一種是不需要對噪聲進(jìn)行估計,例如Mohan等[39]提出的無偏置卷積神經(jīng)網(wǎng)絡(luò)(Bias-Free Convolutional Neural Networks,BF-CNN),通過刪除所有的加性常數(shù)(Additive Constants)提高網(wǎng)絡(luò)的泛化能力; 另一種是采用噪聲估計與噪聲去除相結(jié)合的思想,以提高模型的魯棒性。例如Zhang等[40]提出了一種快速靈活的去噪卷積神經(jīng)網(wǎng)絡(luò)(Fast and Flexible Denoising Convolutional Neural Network,F(xiàn)FDNet)處理不同分布的噪聲,網(wǎng)絡(luò)的輸入包括兩部分:含噪圖像和一個可調(diào)的噪聲分布估計圖,提供了一種靈活的方式處理不同的噪聲分布,在噪聲分布估計圖近似真實噪聲時可以得到很好的去噪效果。然而,噪聲分布的估計值同樣受到先驗知識的限制,致使FFDNet在各種噪聲條件下也存在與DnCNN相似的問題。Guo等[41]借鑒了FFDNet網(wǎng)絡(luò)的優(yōu)點,提出了卷積盲去噪網(wǎng)絡(luò)(Convolutional Blind Denoising Network,CBDNet),該方法設(shè)置了兩部分網(wǎng)絡(luò):在第一部分對圖像噪聲分布進(jìn)行估計,自適應(yīng)地學(xué)習(xí)噪聲分布估計圖,避免了先驗知識對去噪效果的影響; 在第二部分采用U-Net網(wǎng)絡(luò)對含噪圖像進(jìn)行去噪。該網(wǎng)絡(luò)有更好的魯棒性,但網(wǎng)絡(luò)模型較復(fù)雜,訓(xùn)練效率較低。

本文借鑒CBDNet的思想,提出一種魯棒的深度學(xué)習(xí)地震數(shù)據(jù)去噪網(wǎng)絡(luò),包含噪聲分布估計子網(wǎng)(Estimate Subnet,ES)和去噪子網(wǎng)(Denoising Subnet,DS)兩部分,分別實現(xiàn)地震數(shù)據(jù)中隨機噪聲分布的估計與去噪; 噪聲分布估計子網(wǎng)利用多層卷積神經(jīng)網(wǎng)絡(luò)估計噪聲分布; 去噪子網(wǎng)中引入特征融合方法,將淺層與深層的地震數(shù)據(jù)特征信息融合,進(jìn)一步增加地震數(shù)據(jù)特征提取的準(zhǔn)確性,并且引入殘差學(xué)習(xí)策略,避免網(wǎng)絡(luò)結(jié)構(gòu)較深導(dǎo)致梯度消失的現(xiàn)象; 整體網(wǎng)絡(luò)模型采用L1范數(shù)作為損失函數(shù)以提高魯棒性。

1 方法原理

1.1 噪聲壓制模型

深度學(xué)習(xí)訓(xùn)練數(shù)據(jù)中的噪聲分布與測試地震數(shù)據(jù)中的噪聲分布越接近,訓(xùn)練得到的模型在測試地震數(shù)據(jù)上的表現(xiàn)就越好。假設(shè)地震數(shù)據(jù)中噪聲為高斯隨機噪聲,含噪聲地震數(shù)據(jù)y可表示為

y=x+v

(1)

1.2 網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計

本文算法的網(wǎng)絡(luò)模型結(jié)構(gòu)如圖1所示,包含兩部分子網(wǎng),分別為噪聲分布估計子網(wǎng)和去噪子網(wǎng)。其中,噪聲分布估計子網(wǎng)分5層,每層由卷積(Convolution,Conv)和修正線性單元(Rectified Linear Unit,ReLU)組成,用來學(xué)習(xí)地震數(shù)據(jù)中隨機噪聲的分布。卷積操作用于提取噪聲分布特征,前4層和第5層卷積處理后分別得到64和1個特征映射。采用ReLU激活函數(shù)可以更好地逼近真實噪聲估計圖的分布。

圖1 網(wǎng)絡(luò)模型結(jié)構(gòu)圖

去噪子網(wǎng)由兩個階段組成。其中,第一階段包括5層網(wǎng)絡(luò),前4層分別由Conv和ReLU組成,每層卷積處理后得到64個特征映射。第5層僅由Conv組成,卷積操作后得到1個特征映射,即為深層的地震數(shù)據(jù)特征。然后,將第一階段輸出的深層特征與含噪地震數(shù)據(jù)特征融合后再傳入第二階段。特征融合采用向量拼接的方式,即將淺層與深層的地震數(shù)據(jù)特征進(jìn)行拼接融合,增加地震數(shù)據(jù)特征提取的準(zhǔn)確性。第二階段包括12層網(wǎng)絡(luò),對應(yīng)去噪子網(wǎng)的第6層至第17層。其中,第6層至第16層由Conv和ReLU組成,卷積處理后得到64個特征映射; 第17層由Conv組成,卷積操作后得到1個特征映射,即去噪后的地震數(shù)據(jù)。最后,將得到的去噪后地震數(shù)據(jù)與含噪地震數(shù)據(jù)相減,即可得到殘差學(xué)習(xí)的噪聲。

以上所有卷積操作前,均對待處理數(shù)據(jù)用0擴(kuò)充邊界以確保輸入、輸出尺寸一致,且卷積核尺寸均為3×3。整個網(wǎng)絡(luò)模型中所有卷積操作步長均為1,并且未使用批量標(biāo)準(zhǔn)化(Batch Normalization,BN)層。

綜上所述,本文算法的去噪原理可以描述如下。

首先,輸入含噪地震數(shù)據(jù)y,經(jīng)過噪聲分布估計子網(wǎng)后,輸出預(yù)測噪聲估計

(2)

式中:FES為噪聲估計子網(wǎng)的函數(shù);θES為噪聲分布估計子網(wǎng)中參數(shù)的集合;wi為噪聲分布估計子網(wǎng)中第i層的權(quán)重參數(shù);youti為i層的輸出;bi為i層的偏置參數(shù);R為ReLU激活函數(shù)。

(3)

式中:FDS為去噪子網(wǎng)的函數(shù);θDS為去噪子網(wǎng)中參數(shù)的集合;C為向量拼接操作;i=1,2,…, 15且i≠4。

本文網(wǎng)絡(luò)模型的主要特點概括如下。

(1)網(wǎng)絡(luò)模型由兩部分子網(wǎng)組成。通過噪聲分布估計子網(wǎng)學(xué)習(xí)噪聲估計,最大程度地避免了先驗知識的影響,進(jìn)而通過去噪子網(wǎng)實現(xiàn)地震數(shù)據(jù)的去噪任務(wù)。

(2)聯(lián)合L1損失函數(shù)。為盡可能地增加網(wǎng)絡(luò)模型的魯棒性,本文算法采用了L1范數(shù)作為兩部分子網(wǎng)的損失函數(shù),總的損失為兩部分子網(wǎng)聯(lián)合誤差。這有助于網(wǎng)絡(luò)模型整體的優(yōu)化,減少網(wǎng)絡(luò)訓(xùn)練時間,提高網(wǎng)絡(luò)的泛化能力,防止網(wǎng)絡(luò)模型過擬合。

(3)特征融合。隨著神經(jīng)網(wǎng)絡(luò)層數(shù)的加深,深層的全局信息被提取,但是淺層局部信息較弱。本文模型在去噪子網(wǎng)中引入特征融合的思想,將深層的特征信息與淺層的特征信息融合,綜合考慮地震數(shù)據(jù)的高頻與低頻信息以提高地震數(shù)據(jù)去噪的魯棒性。

(4)殘差學(xué)習(xí)策略。由于本文算法的網(wǎng)絡(luò)結(jié)構(gòu)較深,為了避免訓(xùn)練過程中出現(xiàn)梯度消失的現(xiàn)象,引入殘差學(xué)習(xí)策略學(xué)習(xí)噪聲的特征。

2 去噪影響因素分析

采用理論分析和實驗驗證相結(jié)合的方法解析本文網(wǎng)絡(luò)模型去噪的原理。采用Marmousi模型數(shù)據(jù)進(jìn)行去噪實驗,分析兩部分子網(wǎng)的網(wǎng)絡(luò)結(jié)構(gòu)、聯(lián)合L1損失函數(shù)、特征融合以及殘差學(xué)習(xí)的作用。選用的數(shù)據(jù)為經(jīng)過裁剪得到的10000個尺寸為300個采樣點、207道的原始不含噪數(shù)據(jù)x,將數(shù)據(jù)集按照80%、10%、10%的比例分別劃分為訓(xùn)練集、驗證集和測試集。添加0均值正分布的高斯隨機噪聲仿真,噪聲標(biāo)準(zhǔn)差定義為

(4)

式中:M為切片時間采樣總數(shù);N為切片地震道采樣總數(shù);t為時間采樣序號;s為地震道記錄序號;u為地震數(shù)據(jù)的均值;l為噪聲強度的比例因子,訓(xùn)練過程中l(wèi)設(shè)置范圍為0.01~0.03。

去噪效果的衡量指標(biāo)采用峰值信噪比(Peak Signal to Noise Ratio,PSNR)和信噪比(Signal Noise Ratio,SNR),以單個樣本為例,對應(yīng)表達(dá)式為

(5)

(6)

2.1 子網(wǎng)結(jié)構(gòu)的分析與驗證

另外,本文模型未采用BN層處理,原因是在標(biāo)準(zhǔn)化的過程中首先要計算一批(Batch)內(nèi)所有數(shù)據(jù)的均值和方差,但地震數(shù)據(jù)包含不同分布的隨機噪聲,一個Batch內(nèi)數(shù)據(jù)有明顯差別,訓(xùn)練集中噪聲強度較高的地震數(shù)據(jù)將影響整個Batch內(nèi)的均值和方差,從而影響后續(xù)的歸一化處理。不采用BN層的結(jié)構(gòu),可以在提高網(wǎng)絡(luò)的魯棒性的同時降低網(wǎng)絡(luò)模型復(fù)雜度。

為了充分證明兩部分子網(wǎng)的網(wǎng)絡(luò)結(jié)果對盲去噪任務(wù)的有效性,將本文模型中的噪聲分布估計子網(wǎng)除去,修改后的模型記為G1,并與本文模型對比實驗。

訓(xùn)練過程分別迭代100次,PSNR的變化曲線如圖2所示。由圖可見,不含噪聲估計子網(wǎng)的PSNR曲線有多處波動,本文模型的PSNR曲線收斂相對更穩(wěn)定。

圖2 模型有無噪聲分布估計子網(wǎng)的PSNR對比

在測試集中,任意選取一個原始地震數(shù)據(jù)樣本(圖3a),加入l=0.08的高斯隨機噪聲后的地震數(shù)據(jù)如圖3b所示,由于噪聲較強,部分同相軸信息被覆蓋。圖3c是噪聲剖面,作為標(biāo)準(zhǔn)用來對比、評價不同模型的去噪效果。

圖3d為G1去噪結(jié)果,部分同相軸由于特征不明顯而被當(dāng)作噪聲去除。圖3e有明顯的同相軸信息。圖3f為本文模型去噪結(jié)果,同相軸信息損失較少,原因在于訓(xùn)練集的噪聲范圍沒有覆蓋到所有測試樣本,導(dǎo)致G1去噪魯棒性不理想。相比之下,本文算法首先利用噪聲估計子網(wǎng)估計出噪聲分布,然后再通過去噪子網(wǎng)進(jìn)行噪聲壓制,將噪聲信息引入到網(wǎng)絡(luò)中,增強了網(wǎng)絡(luò)的泛化能力。圖3g進(jìn)一步證明了本文算法可以在提高噪聲壓制效果的同時很好地保留了同相軸信息。

圖3 模型有無噪聲分布估計子網(wǎng)的去噪結(jié)果對比(a)原始地震數(shù)據(jù); (b)加入l=0.08的高斯隨機噪聲的地震數(shù)據(jù); (c)含噪地震數(shù)據(jù)的殘差剖面; (d)模型無噪聲估計子網(wǎng)的去噪結(jié)果; (e)模型無噪聲估計子網(wǎng)去噪后的殘差剖面; (f)本文模型的去噪結(jié)果; (g)本文模型去噪后的殘差剖面

2.2 聯(lián)合L1損失函數(shù)的分析與驗證

目前基于深度學(xué)習(xí)的去噪處理中,最常用的損失函數(shù)有最小均方誤差(Mean Squared Error,MSE)、L1范數(shù)、L2范數(shù)等。其中MSE是回歸損失函數(shù)中最常用的誤差,即

(7)

式中:obsi和predi分別為目標(biāo)值和估計值;n為數(shù)據(jù)點數(shù)。L2范數(shù)又稱最小平方誤差,即

(8)

這兩個損失函數(shù)的優(yōu)勢在于連續(xù)可微分且具有較為穩(wěn)定的解。但當(dāng)函數(shù)的輸出值與最小值之間差距較大時,使用梯度下降法求解會導(dǎo)致梯度爆炸; 另外,由于是平方運算,較大的誤差就會被過度放大,即對于較大的誤差給予過大的懲罰,使模型對離群點更加敏感,降低模型的魯棒性。

L1范數(shù)又稱平均絕對值誤差,是對目標(biāo)值與預(yù)測值之差的絕對值求和再取均值,表示預(yù)測值的平均誤差幅度,其表達(dá)式為

(9)

L1有著穩(wěn)定的梯度,不會導(dǎo)致梯度爆炸的問題; 另外,因為L1計算的誤差是目標(biāo)值與預(yù)測值之差的絕對值,所以對于任意大小的差值,其懲罰相對穩(wěn)定,對離群點不敏感,具有很好的魯棒性。因此本文模型選擇更具有魯棒性的L1范數(shù)作為本文算法的損失函數(shù)。

另外,本文算法采用聯(lián)合誤差的思想,將損失函數(shù)分為兩部分,噪聲分布估計子網(wǎng)的損失函數(shù)為

(10)

(11)

E=λ1EES+λ2EDS

(12)

式中λ1和λ2分別為噪聲估計子網(wǎng)損失和去噪子網(wǎng)損失的權(quán)衡超參數(shù)。

為證明L1損失函數(shù)更適用于地震數(shù)據(jù)去噪,將網(wǎng)絡(luò)模型中的損失函數(shù)替換為MSE,修改后的網(wǎng)絡(luò)模型記為G2,并與本文模型相對比。訓(xùn)練過程中分別迭代100次,PSNR的變化曲線如圖4所示。由圖可見,訓(xùn)練過程中G2模型的PSNR曲線出現(xiàn)劇烈波動且收斂時的值比本文算法小。測試樣本(圖3a和圖3b)G2去噪結(jié)果如圖5a所示,出現(xiàn)大面積的紋理模糊且部分同相軸消失。圖5b為圖5a與圖3a的殘差剖面,可以看到圖5a中消失的同相軸信息。

圖4 使用不同損失函數(shù)的PSNR對比

圖5 使用MSE為損失函數(shù)的去噪結(jié)果(a)和殘差剖面(b)

2.3 特征融合的作用

為證明特征融合在去噪中的作用,將本文模型中的特征融合階段除去,修改后的模型記為G3。迭代100次的PSNR變化曲線如圖6所示,G3的PSNR曲線出現(xiàn)兩次驟降、回升,原因在于網(wǎng)絡(luò)層數(shù)較深,在前向傳遞過程中極容易導(dǎo)致網(wǎng)絡(luò)的輸出與目標(biāo)值之間的誤差增大,因此PSNR下降; 誤差的增大會觸發(fā)Adam算法自適應(yīng)地調(diào)節(jié)學(xué)習(xí)率以更好地擬合目標(biāo)值,隨著誤差的反向傳遞、學(xué)習(xí)率以及權(quán)重的更新,網(wǎng)絡(luò)的下一次前向傳遞后得到的輸出與目標(biāo)值之間的誤差減小,因此PSNR出現(xiàn)回升。顯然無特征融合的的算法不容易收斂。G3去噪結(jié)果如圖7a所示,同相軸紋理也出現(xiàn)了消失或模糊的現(xiàn)象。圖7b為圖7a與圖3a的殘差剖面,依然存在被錯誤去除的同相軸信息。與圖3g對比,可以證明模型中引入特征融合對于地震數(shù)據(jù)盲去噪具有更好的噪聲壓制效果。

圖6 模型有、無特征融合的PSNR對比

圖7 模型無特征融合的去噪結(jié)果(a)和殘差剖面(b)

2.4 殘差學(xué)習(xí)的作用

為避免訓(xùn)練過程中梯度消失,網(wǎng)絡(luò)中引入殘差學(xué)習(xí)策略,前向傳遞過程為

(13)

式中:yK為第K層的輸入,yk為第K-1層的輸出;F(yi,wi)表示殘差塊的輸出。反向傳播過程為

(14)

通過求偏導(dǎo)可以看出,即使網(wǎng)絡(luò)層數(shù)較深,也不會出現(xiàn)梯度消失的現(xiàn)象。

為了證明殘差學(xué)習(xí)對地震數(shù)據(jù)去噪的有效性,將本文模型中的殘差學(xué)習(xí)除去,修改后的模型記為G4。迭代100次的PSNR變化曲線如圖8所示,G4的PSNR曲線呈鋸齒形波動,不易收斂。G4去噪結(jié)果如圖9a所示,同相軸不連續(xù)且部分消失。圖9b為圖9a與圖3a的殘差剖面,可以看到少量的同相軸信息。與圖3g對比,可以證明模型中引入殘差學(xué)習(xí)對地震數(shù)據(jù)盲去噪的有效性。

圖9 模型無殘差學(xué)習(xí)的去噪結(jié)果(a)和殘差剖面(b)

3 Marmousi模型數(shù)據(jù)實驗

本文實驗用的Marmousi模型數(shù)據(jù)為經(jīng)過裁剪得到的10000個切片數(shù)據(jù),每個切片數(shù)據(jù)包含207道,每道包含300個采樣點。將數(shù)據(jù)集按照80%、10%、10%的比例分別劃分為訓(xùn)練集、驗證集和測試集。訓(xùn)練過程中l(wèi)設(shè)置為0.02~0.05,即對于每個Epoch中的每一批數(shù)據(jù),分別加入l為0.02~0.05的噪聲來訓(xùn)練,學(xué)習(xí)率初始設(shè)定為0.001,使用Adam優(yōu)化算法,Epoch設(shè)置為100次,批大小為20,網(wǎng)絡(luò)的輸入、輸出尺寸均為300×207。實驗硬件平臺采用Intel I7 8核CPU,內(nèi)存為32G,GPU為GeForce RTX2080 Super。操作系統(tǒng)為 64位Ubuntu 18.04 LTS,軟件平臺采用Python 3.6環(huán)境,深度學(xué)習(xí)框架使用Pytorch1.2搭建,該環(huán)境下訓(xùn)練時長約42h。為驗證本文模型的去噪效果,將本文算法與BM3D、DnCNN-B和BF-CNN等進(jìn)行對比實驗。

3.1 相同強度隨機噪聲下不同去噪算法對比

任選一個測試集地震數(shù)據(jù)樣本如圖10a所示,圖10b為加入l=0.1的高斯隨機噪聲后的地震數(shù)據(jù),其中紅色矩形區(qū)域中的地震數(shù)據(jù)信息被噪聲淹沒。圖10c為含噪地震數(shù)據(jù)的殘差剖面,將其作為各種算法去噪后殘差剖面的評判依據(jù)。

圖10 測試數(shù)據(jù)樣本(a)原始地震數(shù)據(jù); (b)加入l=0.1的高斯隨機噪聲后的地震數(shù)據(jù); (c)含噪地震數(shù)據(jù)的殘差剖面

圖11a為BM3D去噪的結(jié)果和殘差剖面,該方法聯(lián)合空域與變換域算法,可以看出,矩形區(qū)域中大部分噪聲得到壓制,但噪聲被壓制的同時,同相軸信息也被去除,存在同相軸信息丟失的現(xiàn)象。圖11b為DnCNN-B去噪的結(jié)果和殘差剖面,該方法通過訓(xùn)練集噪聲覆蓋測試集噪聲進(jìn)行盲去噪,但由于本實驗中訓(xùn)練集噪聲的l設(shè)置為0.02~0.05,而測試集中噪聲的l設(shè)置為0.06,導(dǎo)致去噪效果下降,矩形區(qū)域中的同相軸信息丟失。圖11c為BF-CNN去噪的結(jié)果和殘差剖面,該方法不改變網(wǎng)絡(luò)結(jié)構(gòu),在DnCNN的基礎(chǔ)上通過刪除卷積層和BN層的加性常數(shù)提高噪聲壓制的魯棒性。可以看出,矩形區(qū)域去噪效果得到明顯改善,但由于未引入噪聲估計子網(wǎng)、損失函數(shù),仍采用MSE以及沒有特征融合策略等,導(dǎo)致部分同相軸信息被去除,殘差剖面中仍然存在著被錯誤去除的同相軸信息。圖11d為本文算法去噪的結(jié)果和殘差剖面,本文算法先估計出噪聲的強度,進(jìn)而自適應(yīng)地對噪聲進(jìn)行壓制??梢钥闯觯c其他方法相比,矩形區(qū)域的地震數(shù)據(jù)細(xì)節(jié)保護(hù)得更好,同相軸紋理也更加清晰。殘差剖面中含有很少的有效信號,更逼近隨機噪聲。上述方法去噪后的PSNR和SNR的對比結(jié)果(表1)進(jìn)一步證明了本文算法去噪效果的優(yōu)勢。

圖11 不同算法對圖10a的去噪結(jié)果(左)和殘差剖面(右)對比(a)BM3D; (b)DnCNN-B; (c)BF-CNN; (d)本文算法

表1 不同算法去噪后PSNR、SNR對比 dB

3.2 不同強度隨機噪聲下不同去噪算法對比

對于不同強度的隨機噪聲(l為0.01~0.90),不同算法去噪后的SNR如表2所示。可以看出,噪聲強度較小時(l為0.01~0.07),各種去噪算法都表現(xiàn)出了良好的去噪性能。隨著噪聲強度的增加,本文算法表現(xiàn)出了更高的PSNR值。噪聲強度較大時(l為0.10~0.90),本文算法仍然具有很好的去噪效果。當(dāng)l大于0.05時, DnCNN-B方法效果最差,原因在于DnCNN-B的訓(xùn)練集噪聲強度沒有覆蓋較強的噪聲范圍,并且模型的設(shè)計未考慮魯棒性。相比之下,本文算法的去噪效果明顯優(yōu)于其他算法,原因在于通過噪聲分布估計與噪聲壓制兩部分子網(wǎng),提高了模型的魯棒性,對不同強度噪聲具有較好的泛化能力,即使在有限的噪聲分布樣本內(nèi)訓(xùn)練,也可以在未覆蓋的測試樣本范圍獲得較好的去噪效果。

表2 不同算法對含有不同強度高斯隨機噪聲地震數(shù)據(jù)的去噪前、后SNR對比 dB

4 實際地震數(shù)據(jù)實驗

實際地震數(shù)據(jù)的噪聲較合成數(shù)據(jù)更復(fù)雜。為驗證本文模型的去噪效果,利用兩組數(shù)據(jù)進(jìn)行實驗。第一組為經(jīng)過噪聲壓制預(yù)處理作為標(biāo)簽的實際數(shù)據(jù),用來訓(xùn)練網(wǎng)絡(luò)模型; 第二組為無標(biāo)簽的含噪實際數(shù)據(jù),用來測試本文算法對實際地震數(shù)據(jù)的魯棒性和去噪效果。

第一組為經(jīng)過噪聲壓制預(yù)處理的14000個實際數(shù)據(jù)樣本,每個樣本包含300道,每道包含200個采樣點,其中訓(xùn)練集包括11200個樣本,驗證集包含2800個樣本。因為實際數(shù)據(jù)中噪聲復(fù)雜且分布未知,所以訓(xùn)練樣本不再加入高斯噪聲進(jìn)行仿真,而是采用現(xiàn)有的去噪算法預(yù)處理后得到的噪聲殘差作為訓(xùn)練樣本的噪聲。具體的實現(xiàn)流程如圖12所示。訓(xùn)練過程中學(xué)習(xí)率初始設(shè)定為0.001,采用Adam算法優(yōu)化學(xué)習(xí)目標(biāo),Epoch設(shè)置為100次,批量大小設(shè)置為20,訓(xùn)練時長約66h。

圖12 訓(xùn)練樣本流程

任選第100次迭代中的一個訓(xùn)練樣本,如圖13所示。由圖可以看出,噪聲基本得到壓制。圖13e為第100次迭代訓(xùn)練去噪后的殘差剖面,視覺上與經(jīng)過噪聲壓制預(yù)處理后的殘差剖面(圖13c)基本一致,因此本文模型對復(fù)雜的未知分布的實際噪聲也有很好的壓制效果。

圖13 任意樣本第100次迭代訓(xùn)練的效果(a)原始含噪地震數(shù)據(jù); (b)經(jīng)過噪聲壓制預(yù)處理后的地震數(shù)據(jù); (c)噪聲壓制預(yù)處理后的殘差剖面;(d)第100次迭代訓(xùn)練的去噪結(jié)果; (e)第100次迭代訓(xùn)練去噪后的殘差剖面

第二組為1400個原始實際數(shù)據(jù)樣本,每個樣本包含300道,每道包含200個采樣點。任取其中一個樣本如圖14a所示,其中,紅色矩形Ⅰ、Ⅱ區(qū)域中的同相軸不清晰且連續(xù)性較差,紅色矩形Ⅲ區(qū)域中的地震信號受噪聲干擾嚴(yán)重,特征不明顯,很難辨識出有效信息。圖14b為經(jīng)過BM3D去噪后的結(jié)果和殘差剖面,可見Ⅰ區(qū)域中同相軸信息得到了較好地恢復(fù)且噪聲基本被壓制,但Ⅱ、Ⅲ區(qū)域中紋理過于平滑,殘差剖面中有丟失的細(xì)節(jié)信息。圖14c為DnCNN-B模型去噪后的結(jié)果和殘差剖面,由于實際含噪數(shù)據(jù)噪聲復(fù)雜,DnCNN-B模型泛化能力較低,噪聲不能被有效去除。其中,Ⅰ區(qū)域中噪聲壓制不充分、對應(yīng)殘差剖面中提取的噪聲信息較弱,Ⅱ、Ⅲ區(qū)域中噪聲基本被壓制,但出現(xiàn)紋理特征過平滑的現(xiàn)象。圖14d為BF-CNN模型去噪后的結(jié)果和殘差剖面,可見模型泛化能力較DnCNN-B有所提高,但Ⅰ、Ⅲ區(qū)域中同相軸過平滑,仍存在少量噪聲未被壓制。Ⅱ、Ⅲ區(qū)域中部分細(xì)節(jié)信息丟失,殘差剖面中仍存在著部分橫向的同相軸信息。14e為本文模型去噪后的結(jié)果和殘差剖面,可見Ⅰ區(qū)域中噪聲得到了很好地抑制,保留了清晰且連續(xù)的同相軸信息,Ⅱ、Ⅲ區(qū)域中將噪聲壓制的同時很好地保留了地震數(shù)據(jù)細(xì)節(jié)信息,殘差剖面中的有效信息較弱。與以上同類算法相比,本文方法在視覺方面最好。

圖14 原始實際數(shù)據(jù)不同方法噪聲壓制(左)及殘差(右)剖面對比(a)原始疊后地震數(shù)據(jù); (b)BM3D; (c)DnCNN-B; (d)BF-CNN; (e)本文算法

第二組數(shù)據(jù)的不同算法去噪的運行時間(每個樣本的平均去噪時間)如表3所示,可以說明不同算法的去噪效率。BM3D算法包括基礎(chǔ)估計和最終估計,且每種估計又包括相似塊分組、協(xié)同濾波和聚合,所以耗時相對較長?;谏疃葘W(xué)習(xí)的去噪方法,在測試過程中不需要迭代學(xué)習(xí),因此耗時更短。本文模型采用噪聲估計與去噪相結(jié)合的思想,引入特征融合策略等方法,使模型的設(shè)計更為復(fù)雜,去噪時間較DnCNN-和BF-CNN多約0.03s。因此,本文算法可以在不增加過多計算量的同時,改進(jìn)了噪聲壓制的效果,具有較高的去噪效率。

表3 不同算法去噪的運行時間對比

5 結(jié)束語

本文提出了一種魯棒的基于深度學(xué)習(xí)的地震數(shù)據(jù)去噪模型,為避免先驗知識的影響,采用噪聲分布估計與噪聲壓制相結(jié)合的思想將模型分成兩部分,噪聲分布估計子網(wǎng)利用多層卷積神經(jīng)網(wǎng)絡(luò)估計噪聲分布; 去噪子網(wǎng)將噪聲分布與含噪地震數(shù)據(jù)一同作為輸入進(jìn)行去噪處理,提高了地震數(shù)據(jù)噪聲特征的提取能力; 引入特征融合策略,將淺層與深層的地震數(shù)據(jù)特征信息融合,改善噪聲去除的效果; 為避免梯度消失,模型引入殘差學(xué)習(xí)策略提取噪聲特征; 網(wǎng)絡(luò)模型整體利用更具有魯棒性的L1范數(shù)作為兩部分子網(wǎng)的損失函數(shù),增加了網(wǎng)絡(luò)模型的泛化能力。與同類算法相比,本文去噪模型可獲得更高的信噪比,且網(wǎng)絡(luò)模型的魯棒性更強。因此,該模型可有效地對地震數(shù)據(jù)進(jìn)行去噪處理,同時也為其他方面的地震數(shù)據(jù)處理提供了參考。

猜你喜歡
子網(wǎng)殘差剖面
ATC系統(tǒng)處理FF-ICE四維剖面的分析
基于殘差-注意力和LSTM的心律失常心拍分類方法研究
基于雙向GRU與殘差擬合的車輛跟馳建模
基于殘差學(xué)習(xí)的自適應(yīng)無人機目標(biāo)跟蹤算法
基于深度卷積的殘差三生網(wǎng)絡(luò)研究與應(yīng)用
子網(wǎng)劃分問題研究及應(yīng)用
航天器多子網(wǎng)時間同步系統(tǒng)設(shè)計與驗證
復(fù)雜多約束條件通航飛行垂直剖面規(guī)劃方法
船體剖面剪流計算中閉室搜索算法
近年來龍門山斷裂GPS剖面變形與應(yīng)變積累分析
诏安县| 白玉县| 南投县| 娱乐| 宜阳县| 锡林浩特市| 故城县| 舞阳县| SHOW| 瑞金市| 封开县| 竹山县| 浦北县| 黄陵县| 锡林郭勒盟| 东明县| 益阳市| 屏山县| 榕江县| 钟山县| 宜宾县| 鄢陵县| 广昌县| 高邮市| 彩票| 昭平县| 浦江县| 兴隆县| 许昌县| 班玛县| 当涂县| 高雄市| 奉化市| 宿州市| 黎川县| 洪江市| 永平县| 福建省| 厦门市| 河曲县| 思茅市|