張 锏，李雪竹

宿州學(xué)院信息工程學(xué)院，宿州，234000

傳統(tǒng)的計(jì)算機(jī)視覺(jué)采用統(tǒng)計(jì)學(xué)的方法對(duì)目標(biāo)進(jìn)行分析,比如,圖像信息處理的傳統(tǒng)方法有Prewitt，Sobel， Canny，RobertsLaplace等算法[1]，這些算法使用圖像自身的紋理、顏色、邊緣梯度信息等特征檢測(cè)目標(biāo)并進(jìn)行分類(lèi)識(shí)別，但是這種基于傳統(tǒng)統(tǒng)計(jì)的計(jì)算理論泛化能力不強(qiáng)，識(shí)別的錯(cuò)誤率較高，和計(jì)算機(jī)視覺(jué)識(shí)別要求有很大的距離。

2006年，Hinton 等首次提出了深度學(xué)習(xí)算法[2]，其核心是通過(guò)多層卷積神經(jīng)網(wǎng)建立更加有效的特征分類(lèi)網(wǎng)絡(luò)，自此深度學(xué)習(xí)理論不斷被深入研究，該算法對(duì)目標(biāo)的識(shí)別率以及識(shí)別泛化能力遠(yuǎn)遠(yuǎn)超過(guò)傳統(tǒng)的算法。近年來(lái)，相關(guān)的研究成果被大量應(yīng)用到人工智能的各個(gè)方面，如目標(biāo)追蹤、語(yǔ)音識(shí)別、運(yùn)動(dòng)姿勢(shì)、表情識(shí)別以及醫(yī)學(xué)影像研究等[2]。

本文基于深度學(xué)習(xí)的理論，對(duì)其學(xué)習(xí)的過(guò)程進(jìn)行探索研究，并結(jié)合深度學(xué)習(xí)框架技術(shù)，探索了深度學(xué)習(xí)在人體肺結(jié)節(jié)病灶自動(dòng)識(shí)別方面的應(yīng)用。

1 卷積神經(jīng)網(wǎng)絡(luò)

基于卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network，CNN)的深度學(xué)習(xí)的算法被廣泛應(yīng)用于計(jì)算機(jī)視覺(jué)領(lǐng)域，該算法根據(jù)人類(lèi)大腦工作模式建立流程，模擬人腦的數(shù)據(jù)表達(dá)分析，利用CNN 提取圖像的識(shí)別特征，不斷將多個(gè)神經(jīng)元組織成神經(jīng)網(wǎng)絡(luò)，組合低層單一的特征來(lái)形成語(yǔ)義豐富的高層抽象特征[2]。AlexNet算法作為CNN的經(jīng)典算法，在2012年ImageNet比賽中獲得冠軍。自此，基于CNN的深度學(xué)習(xí)算法在計(jì)算機(jī)視覺(jué)領(lǐng)域的應(yīng)用得到了國(guó)內(nèi)外相關(guān)研究的重視。

1.1 卷積神經(jīng)網(wǎng)絡(luò)的構(gòu)成

在人工智能領(lǐng)域很早就開(kāi)始了對(duì)神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks，ANN)模型的研究，該模型將大量的數(shù)據(jù)處理節(jié)點(diǎn)互相連接，待處理的數(shù)據(jù)流入網(wǎng)絡(luò)并最終處理為輸出結(jié)果[2]。ANN的處理架構(gòu)主要分為輸入單元、隱藏單元和輸出單元。如圖1所示。

圖1 ANN結(jié)構(gòu)圖

卷積神經(jīng)網(wǎng)絡(luò)CNN由ANN發(fā)展而來(lái)，其基本的節(jié)點(diǎn)稱(chēng)為神經(jīng)元，多種不同的神經(jīng)元不斷互聯(lián)構(gòu)成一個(gè)多層的神經(jīng)網(wǎng)絡(luò)，每層都代表某種特征的組合，且越到高層這種組合語(yǔ)義越強(qiáng)[3]。

建模的過(guò)程是：CNN首先用卷積核作為特征抽取器，作用到原始的輸入矩陣，形成第一層卷積層；然后在卷積層的基礎(chǔ)上進(jìn)行池化運(yùn)算，形成池化層。隨后不斷迭代下去，建立多個(gè)卷積層和交叉的池化層，最后建立多個(gè)全連接層，構(gòu)成一個(gè)完整的卷積神經(jīng)網(wǎng)絡(luò)。

在學(xué)習(xí)過(guò)程中，根據(jù)期望值和輸出值之間的誤差反向傳播，并利用最小梯度算法不斷修正每層特征抽取的卷積核[4]，完成深度學(xué)習(xí)并且建立模型。

1.2 CNN訓(xùn)練過(guò)程

CNN訓(xùn)練分為前向傳播和反向傳播過(guò)程。在前向傳播階段，樣本矩陣從第一層卷積網(wǎng)絡(luò)輸入，經(jīng)過(guò)多層變換輸出，最終輸出為y′ 。假定該樣本的期望輸出為y，二者誤差記為E，反向傳播中按照誤差最小原則微調(diào)卷積核矩陣[5，6]。

假設(shè)l層的第y個(gè)神經(jīng)元的輸出為：

(1)

(2)

其中，σ為激活函數(shù)，Sigmiod函數(shù)或Rectified Linear Unit(ReLU) 函數(shù)均可以使用，可以根據(jù)實(shí)際計(jì)算的要求選擇。

根據(jù)期望值與計(jì)算值的誤差，可以設(shè)置誤差函數(shù)為：

ζ=f(y,y')

(3)

f為二次代價(jià)函數(shù)。所以l層第j個(gè)神經(jīng)元的誤差為：

(4)

卷積神經(jīng)網(wǎng)的最后一層的誤差是：

δL=aLζΘσ'(zL)

(5)

Θ是Hadamard乘積運(yùn)算符，aLζ表示最后一層的梯度值，其他各層的誤差為：

(6)

所以權(quán)重梯度為：

(7)

偏值梯度為：

(8)

利用梯度下降法，可推出卷積核的更新公式：

wl=wl-η∑xδx,l(ax,l-1)T

(9)

bl=bl-η∑xδx,l

(10)

1.3 深度學(xué)習(xí)網(wǎng)絡(luò)

基于卷積神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)算法，因?yàn)槠淞己梅诸?lèi)的效果以及泛化能力，得到了廣泛的研究與應(yīng)用。因網(wǎng)絡(luò)層次構(gòu)造的不同，又產(chǎn)生了諸多不同的系統(tǒng)。比較有影響的有VGG、Alexnet、GoogleNet、Deep Residual Learning等。其中Alexnet網(wǎng)絡(luò)的結(jié)構(gòu)如圖2所示。

圖2中，Alexnet一共有8層，選用ReLU作為激活函數(shù)，經(jīng)過(guò)卷積核下采樣算法、上采樣(插值)算法以及降采樣等處理過(guò)程生成，其中有5個(gè)卷積層以及3個(gè)全連接層。

圖2 Alexnet(雙GPU)卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)

2 算法實(shí)現(xiàn)

2.1 Caffe

自從以CNN為主流的深度學(xué)習(xí)算法在計(jì)算機(jī)視覺(jué)領(lǐng)域取得突破以來(lái)，該領(lǐng)域出現(xiàn)了很多 CNN 相關(guān)的開(kāi)源框架，有影響的有Caffe、MatConvNet和Theano等。Caffe由伯克利視覺(jué)和學(xué)習(xí)中心開(kāi)發(fā)，采用C++/CUDA/Python實(shí)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)，可實(shí)現(xiàn)多種CNN算法，比如上文提到的Alexnet、Deep Residual Learning、VGG等均可在該框架下運(yùn)行。Caffe將卷積神經(jīng)網(wǎng)絡(luò)的構(gòu)造過(guò)程變得簡(jiǎn)單，類(lèi)似于積木搭建，其底層采用C++、CUDA編寫(xiě)，代碼結(jié)構(gòu)清晰良好、可擴(kuò)展性強(qiáng)，允許使用者二次開(kāi)發(fā)來(lái)提高計(jì)算效率，使用者也可以靈活地配置各個(gè)卷積神經(jīng)網(wǎng)絡(luò)的構(gòu)造層，從而實(shí)現(xiàn)更高的識(shí)別效率[7]。

2.2 Caffe存儲(chǔ)結(jié)構(gòu)Blob

在Caffe框架中，按照上面的分析，有海量的多維數(shù)組數(shù)據(jù)要在算法中處理，這些數(shù)據(jù)包括原始的輸入數(shù)據(jù)，例如訓(xùn)練圖片，也包括網(wǎng)絡(luò)結(jié)構(gòu)中每層的中間數(shù)據(jù)。Caffe采用Blob包裝類(lèi)對(duì)數(shù)據(jù)進(jìn)行處理和傳輸，Blob類(lèi)可以在CPU和GPU之間同步數(shù)據(jù)，從而大大提高數(shù)據(jù)計(jì)算的效率。Blob類(lèi)近似N維的數(shù)組，以C語(yǔ)言的風(fēng)格進(jìn)行存儲(chǔ)。Blob類(lèi)可存儲(chǔ)交換圖片、卷積核和網(wǎng)絡(luò)優(yōu)化中的偏導(dǎo)數(shù)等，可以高效使用存儲(chǔ)空間。

2.3 Caffe基本計(jì)算單元layer

Caffe框架的基本計(jì)算單元稱(chēng)為layer。Caffe中的layer分為普通卷積層和降維的池化層。針對(duì)每一層Caffe采用激勵(lì)函數(shù)等非線(xiàn)性變換,計(jì)算loss(代價(jià)損失)，并對(duì)數(shù)據(jù)正則化，相關(guān)的計(jì)算有：setup、forward和backward，forward(前向傳播)從輸入計(jì)算輸出，backward(反向傳播)獲取輸出的梯度。Net把每一層的backward組合起來(lái)，從loss中計(jì)算梯度來(lái)學(xué)習(xí)，并按照梯度最小的策略不斷調(diào)整參數(shù)。

2.4 在Caffe下實(shí)現(xiàn)Alexnet網(wǎng)絡(luò)

Alexnet是以CNN為主的8層深度學(xué)習(xí)網(wǎng)絡(luò)，其中5個(gè)是卷積層，3個(gè)是全連接層。激勵(lì)函數(shù)選擇RELU，池化降采樣采用max-pooling，同時(shí)進(jìn)行局部響應(yīng)歸一化(LRN)處理。通過(guò)在Caffe框架中定義其每一層的setup、forward、backword參數(shù)，即可以構(gòu)建Alexnet網(wǎng)絡(luò)系統(tǒng)，從而開(kāi)始深度學(xué)習(xí)的相關(guān)實(shí)驗(yàn)。比如第1層卷積層的Alexnet配置輸入224×224×3(RGB圖像),然后使用96個(gè)大小規(guī)格為11×11的卷積核，進(jìn)行特征提取。

3 醫(yī)學(xué)影像的處理

醫(yī)學(xué)圖片識(shí)別是探索計(jì)算機(jī)視覺(jué)在醫(yī)學(xué)影像領(lǐng)域應(yīng)用的學(xué)科，其發(fā)展依賴(lài)于醫(yī)學(xué)影像、計(jì)算機(jī)視覺(jué)、數(shù)學(xué)建模學(xué)科的突破[8]。基于CNN的深度學(xué)習(xí)算法在該領(lǐng)域不斷應(yīng)用，比如惡性腫瘤檢測(cè)、間質(zhì)性肺病分類(lèi)、白內(nèi)障檢測(cè)、乳腺病變識(shí)別等[9]。下面應(yīng)用Caffe框架下的Alexnet卷積神經(jīng)網(wǎng)絡(luò)對(duì)病人常見(jiàn)的肺CT圖像進(jìn)行識(shí)別判斷，找出病人肺部結(jié)節(jié)病變的圖像。

3.1 學(xué)習(xí)與訓(xùn)練

樣本集選擇LIDC-IDRI(Lung Lmage Database Consortium)，該數(shù)據(jù)由美國(guó)國(guó)家癌癥學(xué)會(huì)發(fā)布，總計(jì)收錄了1 018個(gè)實(shí)例。每個(gè)實(shí)例包括病灶標(biāo)注以及病人肺部CT切片。該數(shù)據(jù)非常嚴(yán)謹(jǐn)，具有代表性,數(shù)據(jù)標(biāo)注由4位知名胸部放射科醫(yī)師采用標(biāo)準(zhǔn)程序診斷并復(fù)診完成。

實(shí)驗(yàn)中對(duì)該數(shù)據(jù)庫(kù)進(jìn)行數(shù)據(jù)預(yù)處理，得到關(guān)于肺部有結(jié)節(jié)的圖片10 000張，以及健康肺部切片10 000張作為訓(xùn)練樣本。通過(guò)對(duì)上文配置后的Alexnet 網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)并微調(diào)，最后生成預(yù)測(cè)模型。然后，取剩余的圖片預(yù)處理為300張待測(cè)試的樣本進(jìn)行深度學(xué)習(xí)診斷。

3.2 實(shí)驗(yàn)結(jié)果及分析

實(shí)驗(yàn)結(jié)果如表1。

表1 肺部結(jié)節(jié)檢測(cè)結(jié)果

由表1可知，對(duì)尺寸超過(guò)8 mm的結(jié)節(jié)預(yù)測(cè)模型準(zhǔn)確率較高，對(duì)超過(guò)10 mm的結(jié)節(jié)識(shí)別準(zhǔn)確率達(dá)到100%，該結(jié)果接近臨床應(yīng)用的要求。該識(shí)別結(jié)果是傳統(tǒng)圖片處理方法無(wú)法達(dá)到的，因此，基于卷積神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)可提高醫(yī)學(xué)影像識(shí)別的準(zhǔn)確率，相關(guān)研究對(duì)于人工智能在醫(yī)學(xué)領(lǐng)域的應(yīng)用是十分有必要的[10]。

4 結(jié) 論

基于CNN的深度學(xué)習(xí)技術(shù)的研究在人工智能方面取得了較好的效果。利用該技術(shù)對(duì)醫(yī)學(xué)影像進(jìn)行識(shí)別，對(duì)人類(lèi)的疾病診斷具有重要意義，并在一些領(lǐng)域已經(jīng)取得相關(guān)的成果?；贑affe框架的CNN配置靈活，可擴(kuò)展性強(qiáng)[11]，未來(lái)必將在醫(yī)學(xué)影像智能處理領(lǐng)域發(fā)揮更大的作用。本文利用該架構(gòu)探索了其對(duì)于肺部醫(yī)學(xué)影像處理的效果，今后的研究中將通過(guò)對(duì)卷積神經(jīng)網(wǎng)絡(luò)的擴(kuò)展，提高其醫(yī)學(xué)影像的識(shí)別準(zhǔn)確率和靈敏度，推動(dòng)該技術(shù)的臨床應(yīng)用。