韓煦 白冰 李宗洋 賈麗霞 楊文 王學(xué)松
(1.中國原子能科學(xué)研究院,北京 102413;2.中核戰(zhàn)略規(guī)劃研究總院,北京 100048)
核材料對核工業(yè)的可靠性和安全性有著關(guān)鍵的影響。新型核材料研發(fā)的重要性和迫切程度已經(jīng)得到了國家的重視,隨著四代先進(jìn)能源系統(tǒng)(先進(jìn)堆、超臨界水堆等)的提出和發(fā)展,嚴(yán)苛的服役環(huán)境急需性能更優(yōu)異且可靠性更高的材料[4-5]。神經(jīng)網(wǎng)絡(luò)在計(jì)算機(jī)視覺、自然語言處理、醫(yī)療診斷等領(lǐng)域的應(yīng)用表現(xiàn)優(yōu)秀[1]。神經(jīng)網(wǎng)絡(luò)作為基于統(tǒng)計(jì)學(xué)以及數(shù)學(xué)的計(jì)算機(jī)算法,在各個(gè)領(lǐng)域均展現(xiàn)了其強(qiáng)大的處理非線性問題的能力。伴隨著人工智能、大數(shù)據(jù)的發(fā)展得到了國家的高度重視,先后發(fā)布了《促進(jìn)大數(shù)據(jù)發(fā)展行動綱要》[2]、《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計(jì)劃》[3]等文件。因此利用人工智能方法服務(wù)于新型核材料的研發(fā)具有重要的理論和現(xiàn)實(shí)意義。
本文利用壓力容器鋼和包殼材料中元素成分、結(jié)構(gòu)、加工工藝、輻照條件及性能等數(shù)據(jù)。研究如何通過對神經(jīng)網(wǎng)絡(luò)算法模型進(jìn)行訓(xùn)練及參數(shù)調(diào)節(jié),建立屬性間的關(guān)聯(lián)性,使神經(jīng)網(wǎng)絡(luò)模型可以獲得預(yù)測反應(yīng)堆結(jié)構(gòu)材料性能的能力。并將訓(xùn)練后獲得的預(yù)測能力與已知材料性能進(jìn)行比對,進(jìn)而實(shí)現(xiàn)將神經(jīng)網(wǎng)絡(luò)強(qiáng)大的計(jì)算和預(yù)測能力用于研發(fā)性能更為優(yōu)異的反應(yīng)堆結(jié)構(gòu)材料的研究工作中。
本文分別學(xué)習(xí)了美國民用電力數(shù)據(jù)庫(NUREG)中壓力容器鋼以及國內(nèi)外文獻(xiàn)中包殼材料的相關(guān)數(shù)據(jù)。造成材料韌脆轉(zhuǎn)變的一項(xiàng)關(guān)鍵因素就是溫度,本數(shù)據(jù)集中數(shù)據(jù)是在275℃至290℃之間的常規(guī)反應(yīng)堆運(yùn)行溫度下收集的。
本文中壓力容器鋼和包殼材料數(shù)據(jù)庫中的數(shù)據(jù),各個(gè)屬性間的數(shù)值分布范圍均不同。直接將數(shù)據(jù)帶入算法中會出現(xiàn)個(gè)別屬性值變化對整體計(jì)算結(jié)果的影響遠(yuǎn)高于其他屬性變化的情況。因此需要對所有數(shù)據(jù)進(jìn)行歸一化處理。且在包殼材料中還有例如燒結(jié)方式等離散型數(shù)據(jù),離散型數(shù)據(jù)需要賦值分類后再歸一化。本文采取了先將原始數(shù)據(jù)進(jìn)行零均值處理,再將處理后數(shù)據(jù)歸一化的方式幫助模型尋找最優(yōu)解。
神經(jīng)網(wǎng)絡(luò)有助于識別單/多維輸入和輸出數(shù)據(jù)之間的高度復(fù)雜的線性與非線性關(guān)系。本文使用前饋全連接神經(jīng)網(wǎng)絡(luò)。該網(wǎng)絡(luò)結(jié)構(gòu)為全連接神經(jīng)網(wǎng)絡(luò)的一種。其中隱藏層的數(shù)量N需要通過參數(shù)調(diào)整和網(wǎng)絡(luò)訓(xùn)練獲取,該網(wǎng)絡(luò)的最終輸出可表示為式1:
其中Wli、Wki、Wji為隱藏層的權(quán)重值,Wzi為輸出層的權(quán)重值。Rule和Tanh為隱藏層激活函數(shù)。bji為第一層隱藏層的偏置值,bki為第二隱藏層的偏置值,bli為第三層隱藏層的偏置值,bzi為輸出層的偏置值。
深度神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)的趨勢曲線不同(材料專業(yè)擬合曲線方法)深度神經(jīng)網(wǎng)絡(luò)可以在不進(jìn)行預(yù)先假設(shè)的情況下,來指定與檢測數(shù)據(jù)相關(guān)的映射關(guān)系。其中神經(jīng)網(wǎng)絡(luò)中最重要的兩項(xiàng)參數(shù)w和b是通過損失函數(shù)J(,y)來確定的。損失函數(shù)如下式2,其中為預(yù)測值,y為真實(shí)值。
神經(jīng)網(wǎng)絡(luò)如果一味追求誤差最小化,容易出現(xiàn)過擬合缺陷,通常需要使用較小的隨機(jī)值初始化權(quán)重方式或者在損失函數(shù)中增加L2型正則化公式進(jìn)行改善。本文在交叉熵的損失函數(shù)J(yi,aL(i)中增加了L2型的正則化范式,傳播方式如下式3:
其中m表示當(dāng)前層的數(shù)據(jù)個(gè)數(shù),yi為數(shù)據(jù)集的真實(shí)值,為神經(jīng)網(wǎng)絡(luò)的預(yù)測值,為l層w權(quán)重參數(shù)的和,δ為常數(shù)是需要調(diào)整的超參數(shù)之一,δ存在一個(gè)中間值使得神經(jīng)網(wǎng)絡(luò)初始化權(quán)重?fù)碛羞m合的取值,這個(gè)值需要在神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程中不斷調(diào)試。
接著從數(shù)據(jù)集中隨機(jī)抽取80%作為訓(xùn)練數(shù)據(jù)集,剩余20%為測試數(shù)據(jù)集。由于20%的數(shù)據(jù)是不帶入模型訓(xùn)練的,因此測試數(shù)據(jù)集的表現(xiàn)效果可以有效衡量模型的泛化能力。
本文中韌脆轉(zhuǎn)變溫度的網(wǎng)絡(luò)結(jié)構(gòu)模型采用主要成分含量銅、錳、鎳、硅、磷以及中子注量、中子注量率、運(yùn)行溫度作為輸入,韌脆轉(zhuǎn)變溫度為輸出。關(guān)于抗拉強(qiáng)度的預(yù)測使用鉻、三氧化二釔、鎢、鈦、鋁、燒結(jié)方式、燒結(jié)溫度、最終退火溫度、相結(jié)構(gòu)、測試溫度為輸入,抗拉強(qiáng)度為輸出。
神經(jīng)網(wǎng)絡(luò)算法中一項(xiàng)最重要的工作就是模型訓(xùn)練。本文在訓(xùn)練預(yù)測韌脆轉(zhuǎn)變溫度模型時(shí)當(dāng)單層神經(jīng)元個(gè)數(shù)在29以內(nèi)時(shí),雖然方差值和偏差值均可以接受,但是無論真實(shí)值如何變化,預(yù)測值固定在該范圍的均值附近,這樣的結(jié)果顯然是不可靠的。同樣訓(xùn)練包殼材料模型時(shí)單隱層神經(jīng)元在15以內(nèi)時(shí)會出現(xiàn)這種情況。
這種情況可以通過增加神經(jīng)元的個(gè)數(shù)優(yōu)化網(wǎng)絡(luò)的輸出結(jié)果。但是隨著神經(jīng)元的不斷增加,網(wǎng)絡(luò)的計(jì)算復(fù)雜度也會隨著增高,相應(yīng)的計(jì)算資源占用增多,計(jì)算時(shí)間加長。因此需要在不增加計(jì)算時(shí)間的情況下,選取合適的單隱層神經(jīng)元個(gè)數(shù)。當(dāng)單隱層神經(jīng)元為21時(shí),均方差出現(xiàn)一個(gè)極值,隨后隨著神經(jīng)元的增加方差值會在51、52附近浮動,即隨著計(jì)算量的增加,方差值也不會繼續(xù)減小。因此選取單隱層神經(jīng)元個(gè)數(shù)為21。同理為訓(xùn)練包殼材料時(shí)均方差隨著單隱層神經(jīng)元個(gè)數(shù)增加的變化情況,該模型選取單隱層神經(jīng)元個(gè)數(shù)為31。
最后本文使用訓(xùn)練后的韌脆轉(zhuǎn)變溫度以及包殼材料抗拉強(qiáng)度模型,分析了單成分與雙成分元素變化對預(yù)測結(jié)果的影響。其中對韌脆轉(zhuǎn)變溫度預(yù)測模型中,當(dāng)單、雙元素成分變化時(shí),其余值保持固定值不變,固定值為(Cu:0.05;Mn:1.2;Ni:0.8;Si:0.2;P:0.007;溫 度554K;fluence=1E+19;flux=1E+11.),在針對包殼材料抗拉強(qiáng)度的分析中,單、雙元素成分含量變化時(shí),其余成分保持固定值不變,固定值為(Cr:0.1;Y2O3:0.0035;W:0.028;Ti:0.0028;Al:0.0023;固化方式為HIP;燒結(jié)溫度1150℃;退火溫度750℃;相結(jié)構(gòu)F/M;測試溫度25℃)。
根據(jù)壓力容器鋼韌脆轉(zhuǎn)變溫度模型的單成分預(yù)測結(jié)果可知,Cu含量的改變引起了韌脆轉(zhuǎn)變溫度的急劇變化:當(dāng)Cu從0.04%變化至0.4%時(shí),韌脆轉(zhuǎn)變溫度增加約100℃。同時(shí)隨著P元素含量的不斷增加,韌脆轉(zhuǎn)變溫度在不斷升高。這一規(guī)律符合Cu、P元素作為雜質(zhì)元素,含量越低對壓力容器鋼越有利的認(rèn)知規(guī)律。
在包殼材料抗拉強(qiáng)度模型的單成分變化預(yù)測結(jié)果中可知,Cr元素含量在0.089%-0.1%的范圍內(nèi)會出現(xiàn)一個(gè)抗拉強(qiáng)度的極值,Y2O3含量在0.0032%-0.0037%范圍內(nèi)出現(xiàn)一個(gè)抗拉強(qiáng)度的極值。這兩項(xiàng)極值范圍與當(dāng)前主流商業(yè)化應(yīng)用材料所處范圍相符合。
如圖1所示,預(yù)測Cu-Ni雙成分,當(dāng)Ni含量不變時(shí),隨著Cu含量增加,脆化程度也不斷增加;當(dāng)Cu含量不變時(shí),隨著Ni含量的增加脆化程度仍在增加;并且從圖像曲線來看圖中出現(xiàn)明顯的階梯狀(脆化的嚴(yán)重程度不斷集中于圖像的右上角部分),這表明脆化程度不僅與Cu含量有關(guān),Ni含量的增加會對脆化形成促經(jīng)作用,因此Cu-Ni表現(xiàn)出明顯協(xié)同作用;Cu-P:變化趨勢與單個(gè)成分相同,P含量不變時(shí),隨著Cu含量的增加,脆化程度不斷增加;Cu含量不變時(shí),隨著P含量的增加脆化程度變化趨勢不明顯,因此二者協(xié)同影響較弱。
圖1 壓力容器鋼韌脆轉(zhuǎn)變溫度模型雙成分變化預(yù)測輸出
如圖2所示,包殼材料預(yù)測Y2O3-Ti雙成分性能時(shí),添加Ti有利于包殼材料輻照硬化程度的降低;Y2O3-Al的雙成分預(yù)測變化趨勢顯示,在不斷添加Al時(shí)會加劇其輻照硬化。
圖2 包殼材料抗拉強(qiáng)度模型單成分變化預(yù)測輸出
在單元素成分對預(yù)測結(jié)果影響的分析中,基于神經(jīng)網(wǎng)絡(luò)算法訓(xùn)練后獲得的兩個(gè)預(yù)測模型的結(jié)果均符合現(xiàn)有材料科學(xué)認(rèn)知規(guī)律的。因此可以在此基礎(chǔ)上深入研究,進(jìn)行壓力容器鋼和包殼材料的逆向設(shè)計(jì),獲得抗輻照性能和力學(xué)性能更為優(yōu)異的材料。在新型核材料研發(fā)方面神經(jīng)網(wǎng)絡(luò)方法可以提供全新、高效的研究方法,是一種有效縮短新材料研發(fā)周期的計(jì)算方式,同時(shí)在后續(xù)的研究中可通過該方法深入分析更多元素協(xié)同作用對最終預(yù)測結(jié)果的影響,并對相關(guān)預(yù)測結(jié)果進(jìn)行試驗(yàn)分析驗(yàn)證,為快速、高效研發(fā)性能優(yōu)異反應(yīng)堆結(jié)構(gòu)材料提供技術(shù)支撐。
致謝
感謝國防科工局“穩(wěn)定基礎(chǔ)科研計(jì)劃”的資助。感謝中國原子能科學(xué)研究院核工程設(shè)計(jì)所軟件室和反應(yīng)堆工程技術(shù)研究所反應(yīng)堆材料及輻照性能研究室各位領(lǐng)導(dǎo)同事提供的幫助。