吳立輝,周 秀,張中偉

(1.河南工業(yè)大學(xué)機(jī)電工程學(xué)院,鄭州 450001;2.上海應(yīng)用技術(shù)大學(xué)機(jī)械工程學(xué)院,上海 201418)

0 引言

半導(dǎo)體產(chǎn)品制造過(guò)程涉及晶圓制備、晶圓制造、芯片封裝測(cè)試等主要階段,其中晶圓制造是半導(dǎo)體制造企業(yè)資金、技術(shù)、人員投入最為密集的關(guān)鍵環(huán)節(jié)。在晶圓制造最后階段,需對(duì)已完工產(chǎn)品進(jìn)行晶圓允收測(cè)試(wafer acceptance test,WAT),以此對(duì)晶圓片是否合格驗(yàn)收進(jìn)行決策判斷。WAT過(guò)程需對(duì)集晶圓片大量電路采集各類電測(cè)參數(shù),形成大規(guī)模測(cè)試數(shù)據(jù)?；赪AT數(shù)據(jù)分析測(cè)試電路參數(shù)與晶圓良率之間的關(guān)聯(lián),進(jìn)而對(duì)晶圓良率進(jìn)行預(yù)測(cè),可揭示半導(dǎo)體工藝制程中影響晶圓良率的關(guān)鍵環(huán)節(jié),為工藝制程調(diào)整及晶圓質(zhì)量控制提供重要參考。因此,晶圓良率預(yù)測(cè)逐漸獲得晶圓制造質(zhì)量管理部門關(guān)注。

傳統(tǒng)晶圓良率預(yù)測(cè)研究主要考慮晶圓缺陷的數(shù)量、類型、來(lái)源等因素展開(kāi),BAE等[1]考慮晶圓缺陷的群聚特征與晶圓圖上缺陷的空間分布特點(diǎn),基于不同的回歸分析方法建立良率預(yù)測(cè)模型;邱明輝等[2]提出一種基于密度噪聲的應(yīng)用空間聚類方法分析晶圓缺陷的聚集特征,并設(shè)計(jì)一種混合模糊支持向量機(jī)模型來(lái)預(yù)測(cè)晶圓良率;DONG等[3]基于劃痕圖案的空間模式預(yù)測(cè)晶圓良率,并探究分析影響良率的晶圓制造工藝原因。以上研究基于晶圓缺陷數(shù)據(jù)構(gòu)建預(yù)測(cè)模型實(shí)現(xiàn)良率預(yù)測(cè),其預(yù)測(cè)精度及穩(wěn)定性欠佳,且無(wú)法據(jù)此對(duì)晶圓加工工藝或參數(shù)進(jìn)行改進(jìn)。

隨著大數(shù)據(jù)技術(shù)發(fā)展,對(duì)WAT數(shù)據(jù)進(jìn)行挖掘分析并構(gòu)建電性測(cè)試參數(shù)與晶圓良率的非線性映射函數(shù)關(guān)系,逐漸成為研究熱點(diǎn)。RAVI等[4]通過(guò)主成分分析方法(principal component analysis,PCA)實(shí)現(xiàn)WAT數(shù)據(jù)的特征提取和維度縮減,進(jìn)而構(gòu)建回歸預(yù)測(cè)模型完成良率預(yù)測(cè),而PCA導(dǎo)致部分關(guān)鍵信息丟失,準(zhǔn)確性不足。CHIEN等[5]通過(guò)專家經(jīng)驗(yàn)進(jìn)行高相關(guān)電性參數(shù)的篩選,并提出基于改進(jìn)偏最小二乘法的預(yù)測(cè)模型,然而,該模型的預(yù)測(cè)精度取決于專家的專業(yè)素養(yǎng)。JIANG等[6]混合互信息法和遞歸消除特性法對(duì)WAT數(shù)據(jù)進(jìn)行處理,并基于高斯混合模型構(gòu)建加權(quán)集成回歸器實(shí)現(xiàn)良率預(yù)測(cè)。許鴻偉等[7]提出一種改進(jìn)的深度信念網(wǎng)絡(luò)(deep belief network,DBN)預(yù)測(cè)模型,首先使用PCA提取關(guān)鍵參數(shù),并通過(guò)訓(xùn)練改進(jìn)的深度信念網(wǎng)絡(luò)構(gòu)建模型。目前相關(guān)研究主要從關(guān)鍵特征提取和預(yù)測(cè)模型構(gòu)建兩方面進(jìn)行。由于高維WAT參數(shù)存在相關(guān)性、冗余性等特點(diǎn),現(xiàn)有特征處理方法無(wú)法識(shí)別所有關(guān)鍵參數(shù),導(dǎo)致部分關(guān)鍵特征丟失,降低預(yù)測(cè)準(zhǔn)確性。此外,由于晶圓成批投料加工特性,相鄰晶圓之間在加工工藝、加工參數(shù)等方面具有相關(guān)性,而現(xiàn)有預(yù)測(cè)模型未考慮WAT樣本數(shù)據(jù)間的相關(guān)特性,影響晶圓良率預(yù)測(cè)精度。

針對(duì)上述問(wèn)題,本文提出基于卷積神經(jīng)網(wǎng)絡(luò)和長(zhǎng)短期記憶網(wǎng)絡(luò)集成模型的晶圓良率預(yù)測(cè)方法。該方法將原始數(shù)據(jù)進(jìn)行預(yù)處理后輸入至模型中,利用深度學(xué)習(xí)的卷積神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)關(guān)鍵特征的識(shí)別,考慮相鄰晶圓間的時(shí)序相關(guān)性,設(shè)計(jì)長(zhǎng)短期記憶網(wǎng)絡(luò)進(jìn)行回歸分析,以此挖掘晶圓允收測(cè)試參數(shù)與晶圓良率之間復(fù)雜的關(guān)系,實(shí)現(xiàn)準(zhǔn)確的晶圓良率預(yù)測(cè)。

1 晶圓良率預(yù)測(cè)問(wèn)題

半導(dǎo)體制造各個(gè)階段均會(huì)因異常缺陷導(dǎo)致最終晶圓產(chǎn)品失效,良率是量化失效的重要指標(biāo),也是晶圓制造企業(yè)最為關(guān)注的核心指標(biāo)。良率根據(jù)晶圓不同加工階段,通常分為晶圓良率、晶粒良率和芯片封測(cè)良率,晶圓良率是指晶圓制造階段完成所有工藝步驟后晶圓片中沒(méi)有缺陷且滿足性能要求的芯片比率[8],晶粒良率和封測(cè)良率分別為封測(cè)前期與末期所有測(cè)試為合格晶粒占所有晶粒的比值。良率越高,同一片晶圓上產(chǎn)出的合格芯片數(shù)量就越多,晶圓廠的效益越顯著。晶圓制造階段因工藝步驟繁多、工藝制程復(fù)雜,成為影響良率的關(guān)鍵環(huán)節(jié),其也是本文晶圓良率預(yù)測(cè)研究關(guān)注的階段。

WAT也稱工藝控制監(jiān)測(cè)(process control monitor,PCM),是晶圓制造階段的一個(gè)關(guān)鍵站點(diǎn)(如圖1所示),其內(nèi)容為在晶圓產(chǎn)品流片結(jié)束后測(cè)量整個(gè)晶圓片特定結(jié)構(gòu)的電性參數(shù),如閾值電壓、源漏擊穿電壓、GOI電性厚度、通孔接觸電阻、金屬擊穿電壓等,進(jìn)而檢測(cè)晶圓片產(chǎn)品的工藝情況,評(píng)估半導(dǎo)體制造過(guò)程的質(zhì)量及穩(wěn)定性,判斷晶圓是否符合實(shí)際驗(yàn)收要求。WAT參數(shù)可反饋生產(chǎn)線的實(shí)際生產(chǎn)情況,但WAT參數(shù)眾多、部分參數(shù)之間冗雜度高、相關(guān)性強(qiáng),與晶圓良率之間關(guān)系復(fù)雜,難以建立兩者之間的非線性復(fù)雜映射函數(shù)。此外,晶圓加工過(guò)程通常以晶圓卡(25片晶圓裝入一個(gè)晶圓盒,稱為晶圓卡或晶圓Lot,其是晶圓加工與搬運(yùn)的基本單元)為單位進(jìn)行,晶圓卡內(nèi)的晶圓加工工藝、加工參數(shù)、加工設(shè)備具有強(qiáng)相似性;同時(shí),半導(dǎo)體制造過(guò)程中采用run-to-run策略[9],工程師會(huì)參考前一卡晶圓加工數(shù)據(jù)參數(shù),對(duì)下一卡晶圓加工參數(shù)進(jìn)行調(diào)整,從而晶圓WAT樣本數(shù)據(jù)間具有明顯的時(shí)序相關(guān)性,而普通的神經(jīng)網(wǎng)絡(luò)未考慮輸入?yún)?shù)間的關(guān)聯(lián),數(shù)據(jù)的處理在各個(gè)時(shí)刻相互獨(dú)立[10]。

圖1 半導(dǎo)體制造流程示意圖

因此,考慮以上特性研究基于WAT參數(shù)與晶圓良率之間的映射關(guān)系,建立精準(zhǔn)的晶圓良率預(yù)測(cè)模型,對(duì)有效監(jiān)測(cè)晶圓制造階段生產(chǎn)線情況、調(diào)整工藝制程及控制晶圓質(zhì)量等均至關(guān)重要。

2 基于CNN-LSTM的晶圓良率預(yù)測(cè)模型

基于CNN-LSTM的晶圓良率預(yù)測(cè)方法框架如圖2所示。首先,針對(duì)晶圓廠實(shí)際生產(chǎn)加工時(shí)晶圓允收測(cè)試過(guò)程采集的數(shù)據(jù)集具有雜亂性,存在電測(cè)參數(shù)數(shù)據(jù)部分缺失、電測(cè)參數(shù)異常點(diǎn)、數(shù)據(jù)量綱不一致等問(wèn)題,對(duì)收集到的晶圓允收測(cè)試數(shù)據(jù)進(jìn)行數(shù)據(jù)預(yù)處理;其次,針對(duì)輸入數(shù)據(jù)的參數(shù)高達(dá)幾百個(gè),某些參數(shù)對(duì)晶圓良率的影響效果基本一致、部分參數(shù)對(duì)晶圓良率影響甚微的特點(diǎn),設(shè)計(jì)卷積神經(jīng)網(wǎng)絡(luò)層對(duì)數(shù)據(jù)的關(guān)鍵特征進(jìn)行識(shí)別;再次,針對(duì)晶圓WAT樣本數(shù)據(jù)間的時(shí)序相關(guān)特性,以及晶圓加工通常以晶圓卡為單位進(jìn)行的特點(diǎn),設(shè)計(jì)長(zhǎng)短期記憶網(wǎng)絡(luò)層進(jìn)行晶圓良率的回歸預(yù)測(cè),從而實(shí)現(xiàn)晶圓良率準(zhǔn)確預(yù)測(cè)。

圖2 基于CNN-LSTM的晶圓良率預(yù)測(cè)方法框架

2.1 WAT數(shù)據(jù)預(yù)處理

針對(duì)實(shí)際晶圓允收測(cè)試過(guò)程中采集數(shù)據(jù)存在的電測(cè)參數(shù)數(shù)據(jù)部分缺失、電測(cè)參數(shù)異常點(diǎn)、數(shù)據(jù)量綱不一致等問(wèn)題,WAT數(shù)據(jù)預(yù)處理具體方法如下。

(1)電測(cè)參數(shù)數(shù)據(jù)部分缺失處理。對(duì)采集的數(shù)據(jù)進(jìn)行統(tǒng)計(jì)學(xué)分析,針對(duì)某參數(shù)列缺失值大于50%的情況,因其影響數(shù)據(jù)的準(zhǔn)確性、可靠性,直接將其剔除處理。針對(duì)僅存在少數(shù)缺失的參數(shù)列,采用最近鄰插補(bǔ)法(k-nearest neighbor,KNN)[11]對(duì)缺失值進(jìn)行填充,缺失數(shù)據(jù)插補(bǔ)過(guò)程中,缺失位置數(shù)值根據(jù)其特征空間內(nèi)相鄰最近的K個(gè)觀測(cè)值決定。

(2)電測(cè)參數(shù)異常點(diǎn)處理。數(shù)據(jù)中存在的異常值會(huì)干擾模型的訓(xùn)練過(guò)程,降低準(zhǔn)確度,常見(jiàn)的異常值處理方法有:通過(guò)對(duì)屬性值進(jìn)行描述性統(tǒng)計(jì)的統(tǒng)計(jì)分析法、統(tǒng)計(jì)數(shù)據(jù)分布的3δ原則法以及通過(guò)百分比計(jì)算統(tǒng)計(jì)分析的箱型圖法[7]。由于箱式圖可直觀表現(xiàn)出數(shù)據(jù)分布的情況,且不受數(shù)據(jù)分布的限制,故針對(duì)電測(cè)參數(shù)異常點(diǎn),通過(guò)繪制箱式圖篩選出WAT參數(shù)中的異常值,并進(jìn)行剔除,減小數(shù)據(jù)的噪聲。

(3)電測(cè)參數(shù)量綱不一致處理?？紤]到晶圓電性測(cè)試階段各項(xiàng)參數(shù)之間的量綱不一致問(wèn)題,將值在不同范圍內(nèi)的WAT參數(shù)采用最大-最小值歸一化處理,將原始值通過(guò)線性轉(zhuǎn)換的方式量化到0～1之間,其數(shù)學(xué)表達(dá)式如下:

(1)

2.2 CNN模型設(shè)計(jì)

CNN通過(guò)使用濾波器系數(shù)與輸入數(shù)據(jù)進(jìn)行卷積,后經(jīng)壓縮、特征歸一化處理等一系列操作,再通過(guò)不同的網(wǎng)絡(luò)層次進(jìn)行傳遞,可獲取層間關(guān)系和空域信息[12],因此可從數(shù)據(jù)集眾多特征中提取關(guān)鍵特征甚至潛在特征。卷積神經(jīng)網(wǎng)絡(luò)由兩層卷積層和池化層交替疊加而成,輸入?yún)?shù)與初始化的卷積核卷積得到對(duì)應(yīng)的特征向量集,在神經(jīng)網(wǎng)絡(luò)的傳播過(guò)程中初始卷積核不斷迭代更新,從而識(shí)別輸入?yún)?shù)中的關(guān)鍵特征,降低數(shù)據(jù)冗雜度,但因其滑動(dòng)卷積的計(jì)算方式僅對(duì)識(shí)別局部特征有優(yōu)勢(shì),故結(jié)合池化層提取全局特征,使識(shí)別的特征既包含局部信息又包含全局信息,同時(shí)在每個(gè)卷積層與池化層之間都設(shè)有激活函數(shù)用以加速模型的收斂,輸入?yún)?shù)經(jīng)過(guò)卷積神經(jīng)網(wǎng)絡(luò)的處理后,將所有特征融合并通過(guò)卷積神經(jīng)網(wǎng)絡(luò)重新生產(chǎn)新的關(guān)鍵特征。

CNN層設(shè)計(jì)包括一個(gè)將輸入變量重新接受為輸入的輸入層,一個(gè)向LSTM提供輸入特征的全連接層,以及一定數(shù)量的隱藏層。隱藏層通常由卷積層、激活函數(shù)和池化層組成。CNN層能夠通過(guò)卷積層從高維的輸入層中獲得局部特征,并將其傳遞到下層,并通過(guò)最大池化層獲得更復(fù)雜的全局特征[13]。第l層卷積層的輸出向量y如式(2)所示:

(2)

式中:x為輸入向量,b為由輸入特征映射的偏置參數(shù),W為卷積核的權(quán)重參數(shù),m為濾波器的數(shù)量,yl-1為前一卷積層的輸出向量,ReLU為激活函數(shù),*表示卷積。最大池化層對(duì)卷積層輸出進(jìn)行子采樣,通過(guò)消除非極大值降低上一層計(jì)算復(fù)雜度,同時(shí)能夠在不同采樣區(qū)域內(nèi)提取局部關(guān)鍵特征,以持續(xù)更新為最突出的特征信息。最大池化層運(yùn)算由如式(3)所示:

pl=MaxPool(yl-1)

(3)

池化層后使用展平層將數(shù)據(jù)進(jìn)行維度的改變,即多維一維化,隨后通過(guò)全連接層將數(shù)據(jù)重塑為L(zhǎng)STM所需數(shù)據(jù)類型,實(shí)現(xiàn)CNN層和LSTM的連接以及輸入變量的傳輸。其次,針對(duì)輸入數(shù)據(jù)的參數(shù)高達(dá)幾百個(gè),某些參數(shù)對(duì)晶圓良率的影響效果基本一致、部分參數(shù)對(duì)晶圓良率影響甚微的特點(diǎn),設(shè)計(jì)卷積神經(jīng)網(wǎng)絡(luò)層對(duì)數(shù)據(jù)的關(guān)鍵特征進(jìn)行識(shí)別;再次,針對(duì)晶圓WAT樣本數(shù)據(jù)間的時(shí)序相關(guān)特性,以及晶圓加工通常以晶圓卡為單位進(jìn)行的特點(diǎn),設(shè)計(jì)長(zhǎng)短期記憶網(wǎng)絡(luò)層進(jìn)行晶圓良率的回歸預(yù)測(cè),從而實(shí)現(xiàn)晶圓良率準(zhǔn)確預(yù)測(cè)。

2.3 LSTM模型設(shè)計(jì)

LSTM是一種新型循環(huán)神經(jīng)網(wǎng)絡(luò),其通過(guò)引入記憶單元與一系列門控狀態(tài)解決由于隱藏單元狀態(tài)的長(zhǎng)距離傳輸而帶來(lái)的梯度爆發(fā)與梯度消失問(wèn)題[14],相較于其他的神經(jīng)網(wǎng)絡(luò),LSTM用記憶單元代替?zhèn)鹘y(tǒng)神經(jīng)網(wǎng)絡(luò)隱藏層節(jié)點(diǎn),每個(gè)記憶單元由遺忘門、輸入門、輸出門3種門控狀態(tài)控制信息的傳遞,故LSTM具有存儲(chǔ)和反饋功能,能捕捉到輸入數(shù)據(jù)中的關(guān)鍵信息,長(zhǎng)期保留以傳遞至下一狀態(tài)單元,并根據(jù)信息關(guān)鍵程度不斷調(diào)整權(quán)重,解決傳統(tǒng)神經(jīng)網(wǎng)絡(luò)存在的長(zhǎng)期依賴問(wèn)題,準(zhǔn)確挖掘數(shù)據(jù)中的重要信息。其記憶單元架構(gòu)設(shè)計(jì)如圖3所示。

圖3 LSTM記憶單元架構(gòu)

LSTM當(dāng)前輸入xt與上一狀態(tài)傳遞下來(lái)的ht-1運(yùn)算后得到4個(gè)狀態(tài),分別為遺忘門ft、候選記憶值向量Ct、輸入門it、輸出門ot。ft、it、ot是由運(yùn)算向量乘以權(quán)重矩陣后,通過(guò)Sigmoid激活函數(shù)將其轉(zhuǎn)換成0～1的數(shù)值,從而作為一種門控狀態(tài);Ct則是通過(guò)tanh激活函數(shù)將結(jié)果轉(zhuǎn)換為-1～1之間的值,僅將其作為輸入數(shù)據(jù),不控制信息的傳輸;單元狀態(tài)信息的傳遞由上述的“門”進(jìn)行控制,若“門”的狀態(tài)值為1,則保留當(dāng)前單元狀態(tài)的所有信息,若狀態(tài)值為0,則全部遺忘。遺忘門用以控制丟棄上一狀態(tài)的何種信息,輸入門決定何種新信息將被存儲(chǔ)于細(xì)胞單元,輸出門確定輸出信息,此輸出信息基于遺忘門和輸入門的信息,但還需進(jìn)行進(jìn)一步處理。ft、it、Ct、ot的定義如式(4)～式(7)所示:

ft=σ(Wfhht-1+Wfxxt+bf)

(4)

it=σ(Wihht-1+Wixxt+bi)

(5)

Ct=tanh(WChht-1+WCxxt+bC)

(6)

ot=σ(Wohht-1+Woxxt+bo)

(7)

式中:xt表示時(shí)間步長(zhǎng)為t時(shí)刻的輸入變量,ht表示上一時(shí)刻的隱藏狀態(tài),W表示權(quán)重參數(shù),b表示偏置參數(shù),σ表示一個(gè)非線性的激活函數(shù)。此外,LSTM還有兩個(gè)傳輸單元,一個(gè)Ct(記憶單元),一個(gè)ht(隱藏單元):Ct為上一狀態(tài)的傳輸信息與候選記憶值向量之和,傳遞相對(duì)穩(wěn)定,變動(dòng)量很小;ht由輸入門和記憶單元控制,每一步都會(huì)更新,在不同節(jié)點(diǎn)變動(dòng)量很大。兩個(gè)傳輸單元通過(guò)門控狀態(tài)更新傳輸單元的信息,處理后得到輸出值Yt。Ct、ht、Yt更新公式為:

Ct=ft⊙Ct-1+it⊙Ct

(8)

ht=ot⊙tanh(Ct)

(9)

Yt=σ(WYht)

(10)

式中:WY為權(quán)重參數(shù),其值由神經(jīng)網(wǎng)絡(luò)訓(xùn)練得到。

上層CNN提取的影響晶圓良率的關(guān)鍵特征通過(guò)全連接層與LSTM連接作為輸入,數(shù)據(jù)經(jīng)過(guò)包含若干層隱藏層的LSTM有監(jiān)督回歸分析處理后連接兩層全連接層進(jìn)行輸出,將LSTM預(yù)測(cè)的數(shù)據(jù)進(jìn)行扁平化處理,得到我們所需要的信息維度,輸出預(yù)測(cè)晶圓良率值。此外半導(dǎo)體加工過(guò)程中同一批次晶圓的加工參數(shù)具有相關(guān)性,且工程師參考上一組的參數(shù)值會(huì)對(duì)下一組數(shù)據(jù)進(jìn)行一系列微調(diào),從而創(chuàng)建時(shí)間序列特征[15]。因此在使用輸入數(shù)據(jù)時(shí),應(yīng)考慮到參數(shù)間時(shí)序相關(guān)性,故設(shè)定LSTM滑動(dòng)窗口的大小為25,即以一個(gè)晶圓卡中25片晶圓的實(shí)際生產(chǎn)數(shù)據(jù)為指定單位長(zhǎng)度來(lái)遍歷整個(gè)輸入樣本數(shù)據(jù),更為準(zhǔn)確地挖掘WAT參數(shù)與晶圓良率之間的非線性復(fù)雜映射關(guān)系,提高良率預(yù)測(cè)精度。

3 實(shí)例分析

為驗(yàn)證本文提出的CNN-LSTM方法的有效性,采用上海某晶圓制造企業(yè)的WAT數(shù)據(jù)集對(duì)其進(jìn)行驗(yàn)證。該數(shù)據(jù)集共包含16 000多片晶圓WAT信息,每片晶圓WAT包含430個(gè)電性測(cè)試參數(shù),主要為MOS晶體管測(cè)試參數(shù)、柵氧化層的完整性測(cè)試參數(shù)、多晶硅柵場(chǎng)效應(yīng)晶體管測(cè)試參數(shù)、方塊電阻測(cè)試參數(shù)、接觸電阻測(cè)試參數(shù)類等。晶圓加工通常以Lot為單位,一個(gè)Lot中包含25片晶圓,考慮到其時(shí)序性,以一個(gè)Lot的25片晶圓為滑動(dòng)窗口數(shù)量進(jìn)行輸入。以90%的晶圓WAT數(shù)據(jù)作為訓(xùn)練集對(duì)CNN-LSTM預(yù)測(cè)模型進(jìn)行訓(xùn)練,將剩下10%作為驗(yàn)證集,驗(yàn)證模型的性能。為提高預(yù)測(cè)模型擬合效果,試驗(yàn)過(guò)程中采用K-Fold交叉驗(yàn)證方式進(jìn)行。為客觀評(píng)估模型的有效性,采用兩種評(píng)估函數(shù)以及模型收斂速度來(lái)驗(yàn)證模型的性能,兩種評(píng)估函數(shù)分別為平均絕對(duì)誤差(mean absolute error,MAE)、均方根誤差(root mean squared error,RMSE),其數(shù)學(xué)表達(dá)式為:

(11)

(12)

3.1 實(shí)驗(yàn)參數(shù)設(shè)定

CNN-LSTM模型參數(shù)設(shè)定內(nèi)容為CNN卷積層的濾波器數(shù)量、卷積核長(zhǎng)度、激活函數(shù)、最大池化層大小、LSTM隱藏層數(shù)量等,參數(shù)調(diào)整會(huì)影響模型學(xué)習(xí)效率和性能。經(jīng)過(guò)大量實(shí)驗(yàn)對(duì)比,選取CNN-LSTM模型參數(shù)如表1所示。其中,激活函數(shù)(activation function)是神經(jīng)網(wǎng)絡(luò)模型的一個(gè)重要內(nèi)容,激活函數(shù)使神經(jīng)網(wǎng)絡(luò)中神經(jīng)元具備自主學(xué)習(xí)及適應(yīng)能力,而ReLU函數(shù)近似生物神經(jīng)元結(jié)構(gòu),選其為網(wǎng)絡(luò)層激活函數(shù),相比于傳統(tǒng)激活函數(shù)收斂速度更快,計(jì)算復(fù)雜度更低,故在CNN的可見(jiàn)層及LSTM中均選用ReLU作為激活函數(shù)。

表1 模型參數(shù)設(shè)置表

在本文方法模型中,選用隨機(jī)梯度下降(stochastic gradient descent,SGD)作為模型的優(yōu)化算法,均方差損失函數(shù)作為模型的損失函數(shù),設(shè)置初始學(xué)習(xí)率為0.01。此外為了減少訓(xùn)練參數(shù)數(shù)量并防止過(guò)擬合,設(shè)置dropout層,隨機(jī)刪除部分神經(jīng)元。在上述參數(shù)設(shè)置情況下,選取CNN-LSTM模型全局迭代次數(shù)分別為50、70、100、150、300、500共6種情況進(jìn)行實(shí)驗(yàn),其損失函數(shù)、平均絕對(duì)誤差、均方根誤差值如表2所示。由表2可知,當(dāng)模型全局迭代次數(shù)設(shè)置為150次時(shí)模型開(kāi)始收斂,且晶圓良率預(yù)測(cè)精度良好,因此,選取模型全局迭代次數(shù)為150次。

表2 6種迭代次數(shù)實(shí)驗(yàn)結(jié)果對(duì)比

3.2 對(duì)比分析

將本文提出的CNN-LSTM模型與傳統(tǒng)基于LSTM、ConvLSTM、BPNN、DBN的晶圓良率預(yù)測(cè)模型進(jìn)行比較,比較性能指標(biāo)為MAE與RMSE,試驗(yàn)結(jié)果如表3所示。由表3可知,CNN-LSTM、LSTM、ConvLSTM、BPNN、DBN模型的MAE分別為0.013 2、0.015 6、0.015 2、0.024 1、0.018 2,CNN-LSTM相較于LSTM、ConvLSTM、BPNN、DBN模型,MAE相對(duì)誤差分別降低了18%、15%、82%、37%;CNN-LSTM、LSTM、ConvLSTM、BPNN、DBN模型的RMSE分別為0.017 5、0.022 7、0.019 1、0.021 9、0.018 8,CNN-LSTM相較于LSTM、ConvLSTM、BPNN、DBN模型,RMSE相對(duì)誤差分別降低了29%、9%、25%、7%。因此,CNN-LSTM模型在MAE與RMSE指標(biāo)方面優(yōu)于上述傳統(tǒng)晶圓良率預(yù)測(cè)模型。

表3 CNN-LSTM預(yù)測(cè)模型與傳統(tǒng)晶圓良率預(yù)測(cè)模型比較

隨機(jī)采取5種預(yù)測(cè)模型的200組數(shù)據(jù)結(jié)果進(jìn)行對(duì)比,100組數(shù)據(jù)取自訓(xùn)練集,100組數(shù)據(jù)取自測(cè)試集,5種模型實(shí)際值與預(yù)測(cè)值之間誤差區(qū)間結(jié)果對(duì)比如圖4所示。

圖4 各預(yù)測(cè)模型的晶圓良率預(yù)測(cè)值與實(shí)際值相對(duì)誤差區(qū)間比較

由圖4可知,基于CNN-LSTM預(yù)測(cè)模型的晶圓良率預(yù)測(cè)值與實(shí)際值相對(duì)誤差小于1%的比例為72.5%,而LSTM、ConvLSTM、BPNN、DBN模型的預(yù)測(cè)值與實(shí)際值相對(duì)誤差小于1%的比例分別為67.1%、68.5%、55.6%、61.5%;CNN-LSTM與LSTM、ConvLSTM、BPNN、DBN模型的晶圓良率預(yù)測(cè)值與實(shí)際值相對(duì)誤差位于[0,3%]區(qū)間的比例分別為96.9%、95.9%、95.6%、85.7%、96.4%。因此,相較于基于LSTM、ConvLSTM、BPNN、DBN的晶圓良率預(yù)測(cè)模型,CNN-LSTM模型的預(yù)測(cè)結(jié)果具有更好的收斂穩(wěn)定性。

在此基礎(chǔ)上,將CNN-LSTM模型與LSTM、ConvLSTM、BPNN、DBN模型的收斂速度進(jìn)行比較,結(jié)果如表4所示。表4結(jié)果表明,CNN-LSTM預(yù)測(cè)模型全局迭代150次即可收斂至MAE和RMSE指標(biāo)最優(yōu),分別為0.013 2和0.017 5;與之相比,LSTM、ConvLSTM、BPNN、DBN模型獲得MAE和RMSE指標(biāo)最優(yōu)分別需全局迭代500、500、1000、4000次。本文提出的CNN-LSTM模型具有更優(yōu)的收斂速度。

表4 5種模型全局迭代次數(shù)實(shí)驗(yàn)評(píng)估值

以上試驗(yàn)分析可知,本文提出的CNN-LSTM預(yù)測(cè)模型在MAE、RMSE與收斂速度指標(biāo)等方面均優(yōu)于傳統(tǒng)基于LSTM、ConvLSTM、BPNN、DBN的晶圓良率預(yù)測(cè)方法,表明本文提出的CNN-LSTM方法是有效的。

4 結(jié)束語(yǔ)

為提高晶圓制造階段基于WAT參數(shù)的晶圓良率預(yù)測(cè)準(zhǔn)確性,本文提出一種基于CNN-LSTM的晶圓良率預(yù)測(cè)方法。該方法首先對(duì)WAT參數(shù)存在的缺陷進(jìn)行預(yù)處理;其次將處理后的數(shù)據(jù)輸入至模型中,CNN層識(shí)別WAT數(shù)據(jù)的關(guān)鍵特征;再次,設(shè)計(jì)LSTM層接收由CNN層傳遞的關(guān)鍵信息,描述晶圓WAT樣本數(shù)據(jù)間的時(shí)序相關(guān)特性并挖掘WAT參數(shù)與晶圓良率之間的關(guān)系,實(shí)現(xiàn)晶圓良率的準(zhǔn)確預(yù)測(cè)。以上海某晶圓制造企業(yè)收集的真實(shí)生產(chǎn)數(shù)據(jù)為驗(yàn)證數(shù)據(jù),將CNN-LSTM預(yù)測(cè)模型與傳統(tǒng)的基于LSTM、ConvLSTM、BPNN、DBN的晶圓良率預(yù)測(cè)方法進(jìn)行比較,由實(shí)驗(yàn)結(jié)果分析可知,本文提出的CNN-LSTM預(yù)測(cè)模型在MAE、RMSE指標(biāo)方面優(yōu)于其他模型,表明此模型具有更高的預(yù)測(cè)準(zhǔn)確度,同時(shí)該模型的收斂速度相較于其他模型有明顯提升,表明本文提出的CNN-LSTM方法是有效的。