趙豆豆 張偉 黃衛(wèi)民 張春輝
摘 要:為解決污水處理過程出水氨氮難以精確測量問題,提出一種基于自適應(yīng)核函數(shù)RBF神經(jīng)網(wǎng)絡(luò)的出水氨氮軟測量方法。由于隱層激活函數(shù)對神經(jīng)網(wǎng)絡(luò)性能影響較大,AK-RBF 神經(jīng)網(wǎng)絡(luò)將基于歐幾里得的高斯核與余弦核通過線性組合形成新的隱層神經(jīng)元激活函數(shù)。網(wǎng)絡(luò)參數(shù)學(xué)習(xí)采用梯度下降算法推導(dǎo)的迭代公式更新以提高網(wǎng)絡(luò)預(yù)測精度。仿真實驗表明,基于AK-RBF神經(jīng)網(wǎng)絡(luò)的出水氨氮軟測量方法能夠在線預(yù)測出水氨氮,比RBF神經(jīng)網(wǎng)絡(luò)具有更高的預(yù)測精度和更好的自適應(yīng)能力。
關(guān)鍵詞:RBF神經(jīng)網(wǎng)絡(luò);自適應(yīng)核;氨氮預(yù)測;歐氏距離和余弦距離
DOI:10. 11907/rjdk. 201029
中圖分類號:TP301 文獻(xiàn)標(biāo)識碼:A 文章編號:1672-7800(2020)010-0034-05
Abstract: In order to solve the problem that it is difficult to measure ammonia nitrogen accurately, soft measurement of ammonia nitrogen in effluent based on AK-RBF is proposed in this paper. The performance of neural network is influenced by the hidden layer activation function, AK-RBF which is the basis function utilizes a linear combination of Euclidean distance based Gaussian kernel and cosine kernel. To improve the prediction accuracy of the network, the gradient descent algorithm is used to network parameter learning of AK-RBF network. The on-line prediction of ammonia nitrogen in effluent can be realized by the method mentioned in the paper, the method has higher prediction accuracy and better adaptive ability than RBF, which has shown in the ammonia nitrogen simulation in sewage treatment.
Key Words: RBF neural network; adaptive kernel; ammonia nitrogen prediction; Euclidean distance and cosine distance
0 引言
氨氮濃度是污水處理重要指標(biāo)之一,含氨氮污水的排放可導(dǎo)致水體富營養(yǎng)化、水質(zhì)惡化,影響人類健康[1],污水中氨氮濃度的準(zhǔn)確測量對污水處理系統(tǒng)穩(wěn)定運(yùn)行起著重要作用?;谖锢砘瘜W(xué)方法[2-6]的檢測儀器存在價格昂貴、后期不易維護(hù)和費(fèi)用高等缺點,且檢測精度不高,不能實現(xiàn)在線測量。由于污水處理是一個復(fù)雜的非線性時變過程,很難建立精確的出水氨氮機(jī)理模型,采用基于數(shù)據(jù)驅(qū)動軟測量方法[7]可避免建立精確數(shù)學(xué)模型問題,易于在線提高預(yù)測精度,因此在水體氨氮含量預(yù)測中廣泛應(yīng)用[8]。
卿曉霞等[9]構(gòu)建基于RS-BP神經(jīng)網(wǎng)絡(luò)的軟測量模型,該模型實現(xiàn)污泥容積指數(shù)SVI預(yù)測,但是此軟測量模型本身數(shù)據(jù)處理能力差,預(yù)測效果不能滿足要求;楊琴等[10]建立基于BP神經(jīng)網(wǎng)絡(luò)的氨氮濃度預(yù)測模型,與傳統(tǒng)的統(tǒng)計建模方法相比,數(shù)據(jù)驅(qū)動模型的 BP網(wǎng)絡(luò)預(yù)測精度有所提高,但BP神經(jīng)網(wǎng)絡(luò)存在收斂速度慢和容易陷入局部極小值等缺點,導(dǎo)致預(yù)測精度較低。RBF網(wǎng)絡(luò)具有非線性映射能力較強(qiáng)、收斂速度快且不易陷入局部最小值等優(yōu)勢,Mirbagheri等[11]使用RBF神經(jīng)網(wǎng)絡(luò)對廢水性能進(jìn)行評價,并模擬出水質(zhì)參數(shù),實驗證明RBF神經(jīng)網(wǎng)絡(luò)預(yù)測精度優(yōu)于BP神經(jīng)網(wǎng)絡(luò),然而這種網(wǎng)絡(luò)結(jié)構(gòu)需要事先通過人工經(jīng)驗或湊試法確定;喬俊飛等[12]通過對比4種神經(jīng)網(wǎng)絡(luò)在污水處理過程中動態(tài)建模的訓(xùn)練和測試誤差,發(fā)現(xiàn)遞歸RBF 神經(jīng)網(wǎng)絡(luò)測試誤差最小、精度最高,但是遞歸網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜,且加入反饋環(huán)節(jié)使網(wǎng)絡(luò)泛化能力變差;Ráduly等[13]選用典型的前饋神經(jīng)網(wǎng)絡(luò)對出水生物需氧量BOD和化學(xué)需氧量COD進(jìn)行軟測量,但因網(wǎng)絡(luò)結(jié)構(gòu)簡單導(dǎo)致預(yù)測存在較大誤差,測量精度有待提高。所以,如何高效、實時、高精度地檢測出水氨氮濃度值得探究。
本文提出一種基于AK-RBF(Adaptive Kernel function RBF,AK-RBF)神經(jīng)網(wǎng)絡(luò)的出水氨氮軟測量方法。選用非線性映射能力強(qiáng)的RBF神經(jīng)網(wǎng)絡(luò)模型,在分析隱層神經(jīng)元激活函數(shù)對網(wǎng)絡(luò)性能影響基礎(chǔ)上,利用歐氏距離和余弦距離的互補(bǔ)性,將歐幾里得核與余弦核通過線性組合形成新的隱層神經(jīng)元核函數(shù),以提高隱層激活函數(shù)表達(dá)能力和自適應(yīng)能力?;贏K-RBF神經(jīng)網(wǎng)絡(luò)的出水氨氮軟測量方法為精確預(yù)測氨氮濃度提供新的思路。
1 AK-RBF神經(jīng)網(wǎng)絡(luò)出水氨氮軟測量方法
1.1 氨氮軟測量模型輔助變量確定
基于污水處理過程機(jī)理模型與物理量關(guān)系分析,初步選定與氨氮變量密切相關(guān)的輔助變量并采集數(shù)據(jù),應(yīng)用格拉布斯準(zhǔn)則剔除異常數(shù)據(jù),采用主元分析法[14-15]選擇6個關(guān)聯(lián)度大的輔助變量作為RBF神經(jīng)網(wǎng)絡(luò)的輸入, 6個輔助變量如表1所示。
基于AK-RBF神經(jīng)網(wǎng)絡(luò)的出水氨氮軟測量系統(tǒng)結(jié)構(gòu)如圖1所示。
1.2 基于AK-RBF神經(jīng)網(wǎng)絡(luò)的出水氨氮軟測量建模
1.2.1 RBF神經(jīng)網(wǎng)絡(luò)
RBF神經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu)由輸入層、非線性隱層和線性輸出層構(gòu)成[16-17],如圖2所示。
RBF神經(jīng)網(wǎng)絡(luò)各層間函數(shù)關(guān)系如下:
1.2.2 AK-RBF神經(jīng)網(wǎng)絡(luò)
選擇不同隱層激活函數(shù)對RBF神經(jīng)網(wǎng)絡(luò)性能影響較大,RBF神經(jīng)網(wǎng)絡(luò)采用高斯核作為基函數(shù),高斯核函數(shù)是兩個向量歐氏距離的單調(diào)函數(shù),歐氏距離并不是衡量特征向量的唯一標(biāo)準(zhǔn),而余弦距離與歐氏距離具有互補(bǔ)性質(zhì)[18]。本文將二者通過線性組合形成新的神經(jīng)元激活函數(shù),使激活函數(shù)不僅可以衡量絕對距離,還可以衡量向量夾角,如圖3所示。
2 AK-RBF神經(jīng)網(wǎng)絡(luò)參數(shù)學(xué)習(xí)算法
采用梯度下降法[19-20]對AK-RBF神經(jīng)網(wǎng)絡(luò)可調(diào)參數(shù)進(jìn)行調(diào)整,使性能指標(biāo)函數(shù)達(dá)到最小。令[p]表示AK-RBF神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)參數(shù),包括動態(tài)調(diào)整變量[α1]、[α2],隱節(jié)點核函數(shù)寬度[b],中心[ci],AK-RBF網(wǎng)絡(luò)隱節(jié)點與輸出節(jié)點連接權(quán)值[ωi]。參數(shù)學(xué)習(xí)公式如下:
3 仿真實驗
實驗數(shù)據(jù)來源于北京市某污水處理廠2014年9月采集的樣本數(shù)據(jù),通過人工剔除異常數(shù)據(jù)后得到140組數(shù)據(jù),選用90組數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)訓(xùn)練樣本,50組數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)測試樣本。為驗證AK-RBF神經(jīng)網(wǎng)絡(luò)對出水氨氮濃度預(yù)測性能,在相同仿真實驗條件下對BP神經(jīng)網(wǎng)絡(luò)與RBF神經(jīng)網(wǎng)絡(luò)進(jìn)行性能對比。神經(jīng)網(wǎng)絡(luò)初始參數(shù)設(shè)置如下:網(wǎng)絡(luò)閾值[ω0]的初值設(shè)為0,隱節(jié)點個數(shù)m=25,學(xué)習(xí)率[η=0.08],最大訓(xùn)練步數(shù)為500, 余弦核和歐幾里得核的初始權(quán)重比例相同,即[α1]=[α2]=0.5。
圖4和圖5分別給出了基于AK-RBF神經(jīng)網(wǎng)絡(luò)、RBF神經(jīng)網(wǎng)絡(luò)和BP神經(jīng)網(wǎng)絡(luò)的出水氨氮軟測量模型訓(xùn)練和測試仿真圖,同時給出了在不同算法下的系統(tǒng)誤差曲線。
由圖4和圖5的仿真曲線可以看出,基于AK-RBF神經(jīng)網(wǎng)絡(luò)與RBF神經(jīng)網(wǎng)絡(luò)對出水氨氮的建模預(yù)測效果明顯優(yōu)于BP神經(jīng)網(wǎng)絡(luò),而相較于RBF神經(jīng)網(wǎng)絡(luò), AK-RBF神經(jīng)網(wǎng)絡(luò)對于出水氨氮建模精度更好,誤差波動范圍小且波動較為平穩(wěn)。表2給出了3種不同方法下平均絕對誤差(Mean Absolute Deviation, MAD)和均方根誤差(Root Mean Square Error, RMSE)。其中,MAD是所有單個預(yù)測值與算術(shù)平均值偏差絕對值的平均,可以避免誤差相互抵消問題,準(zhǔn)確反映實際預(yù)測誤差大小。RMSE對一組測量中的特大或特小誤差反映非常敏感,能很好地反映出測量的精密度。
分析表2中3種不同算法下性能指標(biāo)的實驗數(shù)據(jù)可知,基于AK-RBF神經(jīng)網(wǎng)絡(luò)污水處理氨氮軟測量建模方法的MAD和RMSE最小,MAD分別為0.047 1和0.075 8, RMSE分別0.071 4和0.110 3,RBF神經(jīng)網(wǎng)絡(luò)相較于BP網(wǎng)絡(luò)的MAD及RMSE均有所提高,BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練樣本的MAD是RBF神經(jīng)網(wǎng)絡(luò)的1.5倍,是AK-RBF神經(jīng)網(wǎng)絡(luò)的4倍,RMSE是RBF神經(jīng)網(wǎng)絡(luò)的1.5倍,是AK-RBF神經(jīng)網(wǎng)絡(luò)的3.4倍;在測試樣本中, AK-RBF神經(jīng)網(wǎng)絡(luò)的MAD和RMSE明顯最小,BP神經(jīng)網(wǎng)絡(luò)最大,表明AK-RBF神經(jīng)網(wǎng)絡(luò)測量誤差較小,精密度較高,而BP神經(jīng)網(wǎng)絡(luò)測量誤差較大,精密度較低。
圖6和圖7分別為AK-RBF出水氨氮建模和RBF神經(jīng)網(wǎng)絡(luò)建模方法下訓(xùn)練樣本和測試樣本的方差和標(biāo)準(zhǔn)差的變化曲線,具體數(shù)值對比見表3。
方差用來描述數(shù)據(jù)與均值的偏離程度,標(biāo)準(zhǔn)差反映一個數(shù)據(jù)集的離散程度。由仿真曲線可以看出,AK-RBF建模方法下的方差和標(biāo)準(zhǔn)差變化更平穩(wěn)。由表3數(shù)值結(jié)果可以看出,RBF神經(jīng)網(wǎng)絡(luò)訓(xùn)練樣本及測試樣本的最大Std及Cov均大于AK-RBF神經(jīng)網(wǎng)絡(luò)。其中RBF神經(jīng)網(wǎng)絡(luò)訓(xùn)練樣本的最大Cov為0.043 0,而AK-RBF神經(jīng)網(wǎng)絡(luò)為0.018 1,僅是RBF神經(jīng)網(wǎng)絡(luò)的42.1%,表明在整體趨勢預(yù)測方面,AK-RBF神經(jīng)網(wǎng)絡(luò)比RBF神經(jīng)網(wǎng)絡(luò)更精確,其預(yù)測數(shù)據(jù)與均值的偏離程度以及預(yù)測數(shù)據(jù)的離散程度較小,更適合具有復(fù)雜非線性特征的污水處理出水氨氮軟測量建模。
4 結(jié)語
針對污水處理過程中氨氮難以在線精確測量問題,本文將歐幾里得核和余弦核通過線性組合的方式形成新的神經(jīng)元激活函數(shù),提出基于AK-RBF神經(jīng)網(wǎng)絡(luò)的出水氨氮軟測量方法,采用出水氨氮仿真實驗驗證本算法有效性與實用性。仿真結(jié)果表明,AK-RBF神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)RBF神經(jīng)網(wǎng)絡(luò)相比,預(yù)測精度明顯提高,預(yù)測數(shù)據(jù)與均值的偏離程度以及預(yù)測數(shù)據(jù)的離散程度均優(yōu)于傳統(tǒng)RBF神經(jīng)網(wǎng)絡(luò),適應(yīng)非線性動態(tài)系統(tǒng)能力較強(qiáng),更適合污水處理復(fù)雜、非線性動態(tài)環(huán)境的系統(tǒng)建模。由于AK-RBF神經(jīng)網(wǎng)絡(luò)隱層激活函數(shù)寬度對網(wǎng)絡(luò)的泛化性能影響較大,后續(xù)研究將采用變寬度方法進(jìn)一步提高網(wǎng)絡(luò)泛化性能。
參考文獻(xiàn):
[1] DU R, PENG Y Z, CAO S B, et al. Advanced nitrogen removal from wastewater by combining anammox with partial denitrification[J].? Bioresource Technology,2015(179): 497-504.
[2] 陸?zhàn)╆溃?華蕾, 華嵐英.? 5-氯-2-(吡啶偶氮)-1, 3-二氨基苯分光光度法測定水質(zhì)鈷[J].? 中國環(huán)境監(jiān)測, 2016, 32(1): 117-122.
[3] 李自懷, 王吉福.? 油田污水中懸浮物含量的分光光度法測定[J].? 工業(yè)水處理, 2019, 39(6): 93-95.
[4] 胡博, 田曉雷, 吳沛, 等.? N_2O微電極法測定污水生物處理系統(tǒng)中的羥胺[J].? 環(huán)境科學(xué)與技術(shù), 2018, 41(3): 163-167.
[5] RASTOGI S, KUMAR A, MEHRA N K, et al. Development and characterization of a novel immobilized microbial membrane for rapid determination of biochemical oxygen demand load in industrial waste-waters[J].? Biosensors and Bioelectronics, 2003, 18(1): 23-29.
[6] LIU J, BJ?RNSSON L, MATTIASSPN B. Immobilised activated sludge based biosensor for biochemical oxygen demand measurement[J].? Biosensors and Bioelectronics, 2000, 14(12): 883-893.
[7] YAN A J, SHAO H S, WANG P. A soft-sensing method of dissolved oxygen concentration by group genetic case-based reasoning with integrating group decision making[J].? Neurocomputing, 2015(169): 422-429.
[8] 巫莉莉, 黃志宏, 何斌斌, 等.? 智能算法在水體氨氮含量預(yù)測中的應(yīng)用研究綜述[J].? 中國農(nóng)機(jī)化學(xué)報, 2019, 40(6): 191-196.
[9] 卿曉霞, 龍騰銳, 王波, 等.? 粗集理論在污水參數(shù)軟測量中的應(yīng)用研究[J].? 儀器儀表學(xué)報, 2006, 27(10): 1209-1212.
[10] 楊琴, 謝淑云.? BP神經(jīng)網(wǎng)絡(luò)在洞庭湖氨氮濃度預(yù)測中的應(yīng)用[J].? 水資源與水工程學(xué)報, 2006, 17(1): 65-70.
[11] MIRBAGHERI S A, BAGHERI M, BOUDAGHPOUR S, et al. Performance evaluation and modeling of a submerged membrane bioreactor treating combined municipal and industrial wastewater using radial basis function artificial neural networks[J].? Journal of Environmental Health Science and Engineering, 2015, 13(1): 1-15.
[12] 喬俊飛, 馬士杰, 許進(jìn)超.? 基于遞歸RBF神經(jīng)網(wǎng)絡(luò)的出水氨氮預(yù)測研究[J].? 計算機(jī)與應(yīng)用化學(xué), 2017, 34(2): 145-151.
[13] R?DULY B, GERNAEY K V, CAPODAGLIO A G, et al. Artificial neural networks for rapid WWTP performance evaluation: methodology and case study[J].? Environmental Modelling and Software, 2006, 22(8): 1208-1216.
[14] LU Z S,ZHANG Y. An augmented lagrangian approach for sparse principal component analysis[J].? Mathematical Programming, 2012, 135(1-2): 149-193.
[15] KACHA A,GRENEZ F,OROZCO-ARROYAVE J R. Principal component analysis of the spectrogram of the speech signal: Interpretation and application to dysarthric speech[J]. Computer Speech and Language, 2020(59): 114-122.
[16] 張瑩,劉子龍. 基于RBF神經(jīng)網(wǎng)絡(luò)的X型四旋翼飛行器優(yōu)化控制[J]. 軟件導(dǎo)刊,2019, 18(12): 51-55,60.
[17] 鄭玉潔,胡保禎,趙振剛,等. 基于RBF神經(jīng)網(wǎng)絡(luò)的邊坡穩(wěn)定性分析[J]. 軟件導(dǎo)刊,2017,16(12): 165-168.
[18] KHAN S, NASEEM I, TOGNERI R, et al. A novel adaptive kernel for the RBF neural networks[J].? Circuits, Systems, and Signal Processing, 2017, 36(4): 1639-1653.
[19] SINGH P, HUANG Y P. A high-order neutrosophic-neuro-gradient descent algorithm-based expert system for time series forecasting[J].? International Journal of Fuzzy Systems, 2019, 21(7): 2245-2257.
[20] KUMAR N, SINGH B, PANIGRAHI B K. Framework of gradient descent least squares regression based NN structure for power quality improvement in PV integrated low-voltage weak grid system[J].? IEEE Transactions on Industrial Electronics, 2019, 66(12): 9724-9733.
(責(zé)任編輯:杜能鋼)