国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于矩陣分解的可分離非線性最小二乘問題求解方法及其應(yīng)用

2022-11-29 13:12:36王路遙劉國林王鳳云
測繪學(xué)報(bào) 2022年11期
關(guān)鍵詞:殘差投影變量

王路遙,劉國林,王鳳云,王 珂,韓 宇

山東科技大學(xué)測繪與空間信息學(xué)院,山東 青島 266590

最小二乘估計(jì)在線性與非線性模型的參數(shù)估計(jì)理論與實(shí)際應(yīng)用中都占有非常重要的地位[1],而在數(shù)據(jù)處理中大多數(shù)實(shí)際問題都涉及非線性函數(shù)模型[2]。非線性最小二乘問題是最優(yōu)化理論的重要分支,也可視為無約束條件下的二次規(guī)劃問題。若要在非線性數(shù)據(jù)處理中廣泛使用非線性模型參數(shù)估計(jì)理論,必須進(jìn)行大量深入細(xì)致的工作[3]。文獻(xiàn)[4]推導(dǎo)了不等式約束整體最小二乘(inequality constrained WTLS,ICWTLS)最優(yōu)解的一階必要條件和二階充分條件,采用有效集(active set,AS)法和序列二次規(guī)劃(sequential quadratic programming,SQP)法求ICWTLS解。序列二次規(guī)劃法和有效集法等算法常常被應(yīng)用于求解等式或不等式約束,以及混合約束的非線性規(guī)劃問題。而針對可分離非線性最小二乘問題,Golub和Pereyra提出變量投影算法,此后眾多學(xué)者對變量分離后再進(jìn)行解算的方法進(jìn)行了深入研究。在可分離問題中,應(yīng)用變量投影算法并結(jié)合Gauss-Newton方法對模型參數(shù)進(jìn)行求解,函數(shù)的計(jì)算效率會有一定程度的提高[5]。文獻(xiàn)[6]證明了變量投影和聯(lián)合優(yōu)化是求解可分離非線性最小二乘問題的兩種截然不同的方法,其最重要的區(qū)別在于前者的不平衡信賴域假設(shè)。文獻(xiàn)[7]通過蒙特卡洛模擬試驗(yàn)驗(yàn)證了Ruano提出的簡化雅可比矩陣JR=-DFF-y不適用于變量投影算法,這可能使算法難以收斂。此外,基于矩陣的梯形分解[8]、約束方程的廣義LU(lower-upper,LU)分解[9]和奇異值分解[10]等分解方法,多種變量投影的改進(jìn)算法也被相繼提出。

在變量投影算法與矩陣分解相結(jié)合的研究文獻(xiàn)中,學(xué)者們在經(jīng)典算法的基礎(chǔ)上優(yōu)化算法來提高求解可分離問題的效率,但其中多數(shù)只針對某種單一的矩陣分解方法與變量投影算法結(jié)合的實(shí)用性進(jìn)行了探究,缺少多種方法的對比分析,且常用的滿秩分解方法未與變量投影算法相結(jié)合。在空間直角坐標(biāo)轉(zhuǎn)換參數(shù)解算中,七參數(shù)模型具有可分離非線性模型的一般形式,而變量投影算法并未應(yīng)用其中。因此,本文在經(jīng)典變量投影算法的基礎(chǔ)上進(jìn)行改進(jìn),對參數(shù)分離后的非線性矩陣進(jìn)行滿秩分解、QR分解、奇異值分解和施密特正交化方法分解處理,導(dǎo)出4種變量投影公式。在數(shù)值試驗(yàn)部分,通過Mackey-Glass時(shí)間序列模擬試驗(yàn),驗(yàn)證變量投影算法與基于不同矩陣分解的改進(jìn)算法的優(yōu)缺點(diǎn),并將變量投影算法及其改進(jìn)算法應(yīng)用于空間直角坐標(biāo)轉(zhuǎn)換參數(shù)解算中,采用基于Gauss-Newton法改進(jìn)的Levenberg-Marquardt(LM)法迭代計(jì)算旋轉(zhuǎn)參數(shù)。通過獨(dú)立坐標(biāo)系和CGCS2000坐標(biāo)系轉(zhuǎn)換試驗(yàn),驗(yàn)證改進(jìn)的變量投影算法在此類實(shí)際問題中的可行性,并對比不同改進(jìn)算法解決此類問題的優(yōu)劣性,為坐標(biāo)轉(zhuǎn)換模型參數(shù)解算提供一種新方法。

1 可分離非線性最小二乘及其變量投影算法

可分離非線性最小二乘問題的函數(shù)模型為非線性函數(shù)的線性組合形式,一般可表示為

(1)

式中,φj(α,ti)為非線性函數(shù)部分;yi為ti對應(yīng)的已知觀測數(shù)據(jù);α=(α1,α2,…,αq)T和β=(β1,β2,…,βp)T分別為待估參數(shù)。針對可分離非線性最小二乘問題,文獻(xiàn)[21]提出了變量投影算法。在給定觀測數(shù)據(jù)(ti,yi)的情況下,殘差表達(dá)式為

(2)

(3)

β=Φ(α)+y

(4)

式中,Φ(α)+是Φ(α)的廣義逆矩陣。將式(4)代入式(3),可得

(5)

(6)

2 基于矩陣分解的變量投影算法

2.1 滿秩分解

Φ(α)=C×B

(7)

式中,C是一個(gè)m×r階列滿秩矩陣;B是一個(gè)r×p階行滿秩矩陣。因此

(8)

基于滿秩分解的變量投影函數(shù)為

(9)

滿秩分解的優(yōu)勢解決了矩陣秩虧問題。當(dāng)m×p階矩陣Φ(α),即r(Φ(α))

2.2 QR分解

QR分解是將矩陣分解成一個(gè)正交矩陣Q與一個(gè)上三角矩陣R。將變量投影中的m×p階矩陣Φ(α)通過QR分解方法分解為

(10)

式中,Q是一個(gè)m×m階正交矩陣,具有Q-1=QT的性質(zhì);R為m×p階矩陣,R1為p×p階上三角矩陣。

(11)

(12)

QR分解產(chǎn)生了一個(gè)m×m階正交矩陣Q,其逆矩陣與轉(zhuǎn)置矩陣相同。計(jì)算機(jī)對矩陣求轉(zhuǎn)置的速度比求逆的速度更快,因此能夠提高運(yùn)算效率。

2.3 奇異值分解

在變量投影算法中,將m×p階矩陣Φ(α)通過奇異值分解方法分解為

(13)

式中,U是m×m階正交矩陣;S是m×p階矩陣,S1為r×r階對角矩陣(r是矩陣Φ(α)的秩),對角元素為Φ(α)的奇異值;V是p×p階正交矩陣。

(14)

(15)

奇異值分解產(chǎn)生了一個(gè)m×m階正交矩陣U,具有U-1=UT的性質(zhì),同樣可以加快運(yùn)算速度,提高運(yùn)算效率。

2.4 施密特正交分解

將變量投影函數(shù)中的Φ(α)分解為

(16)

(17)

(18)

(19)

因此

(20)

式中,G1和G2分別是m×r和m×(p-r)階矩陣,因此變量投影函數(shù)可寫為

(21)

在許多實(shí)際問題中,觀測值個(gè)數(shù)要遠(yuǎn)大于求解的線性參數(shù)的個(gè)數(shù)。式(19)中m×r的矩陣G1要小于式(16)中正交化之前的矩陣Φ(α),且m×p的正交矩陣G要小于式(11)中的Q和式(14)中的U。如此,便可以在計(jì)算機(jī)存儲和調(diào)用矩陣進(jìn)行運(yùn)算的過程中減少計(jì)算機(jī)內(nèi)部存儲空間,減少運(yùn)算量和運(yùn)算時(shí)間。

在上述改進(jìn)算法中,滿秩分解主要針對矩陣秩虧情況而提出,將其表示為兩個(gè)矩陣相乘的形式,其他3種分解方法在分解形式上具有相似性,都可產(chǎn)生正交矩陣。正交矩陣的逆矩陣與其轉(zhuǎn)置矩陣相同這一性質(zhì)避免了計(jì)算機(jī)對大型矩陣求廣義逆矩陣的過程,且對具有一定病態(tài)程度的方程組,數(shù)值解算穩(wěn)定性相對較好。相比參數(shù)不分離算法和經(jīng)典變量投影法,4種改進(jìn)算法都可在一定程度上減小計(jì)算量,提高計(jì)算效率。

將原非線性最小二乘問題的目標(biāo)函數(shù)通過矩陣分解,分別得到4種僅與非線性參數(shù)有關(guān)的目標(biāo)函數(shù)ssrCB(α)、ssrQR(α)、ssrSVD(α)、ssrGSO(α),進(jìn)而采用LM算法進(jìn)行非線性參數(shù)估計(jì)。LM算法是在Gauss-Newton法基礎(chǔ)上引入單位陣和阻尼因子得到,其迭代式為

αk+1=αk-(JTJ+uI)-1JTV

(22)

利用LM迭代求解非線性參數(shù)的關(guān)鍵是如何得到迭代式中的J和V?;谧兞客队八惴ǖ玫絽?shù)分離后的殘差向量為V=y-Φ(α)Φ(α)+y,對殘差向量求關(guān)于非線性參數(shù)α的一階偏導(dǎo),得到雅可比矩陣J。假設(shè)在第k次迭代過程中,非線性參數(shù)值為αk,那么雅可比矩陣J和非線性矩陣Φ均為數(shù)值型矩陣,進(jìn)而分別采用滿秩分解、QR分解、奇異值分解和施密特正交分解的方法對數(shù)值型矩陣Φ進(jìn)行分解?;诰仃嚪纸夥椒▽Ψ蔷€性參數(shù)求解的步驟總結(jié)如下。

(1) 對殘差向量求關(guān)于非線性參數(shù)的一階偏導(dǎo),得到雅可比矩陣J;

(2) 給定迭代初值α0,設(shè)置收斂準(zhǔn)則—迭代終止閾值ε和最大迭代次數(shù)kmax;

(4) 若hLM使得ssr(αk+1)

ssr(αk);

(5) 若ssr(αk+1)-ssr(αk)<ε或k>kmax,則終止迭代,否則,執(zhí)行步驟(3)—步驟(4)。

3 數(shù)值試驗(yàn)

為了驗(yàn)證基于矩陣分解的變量投影算法在可分離非線性最小二乘問題求解的有效性及在測繪領(lǐng)域中的應(yīng)用,分別采用Mackey-Glass時(shí)間序列模擬試驗(yàn)和獨(dú)立坐標(biāo)系與CGCS2000坐標(biāo)系之間參數(shù)求解試驗(yàn),對參數(shù)不分離方法(Nons)、經(jīng)典變量投影法(VP)、基于滿秩分解的變量投影法(VPCB)、基于QR分解的變量投影法(VPQR)、基于奇異值分解的變量投影法(VPSVD)和基于施密特正交化的變量投影法(VPGSO)進(jìn)行了對比分析,試驗(yàn)環(huán)境為Matlab R2016a,1.80 GHz PC,Windows7系統(tǒng)。

3.1 Mackey-Glass時(shí)間序列

試驗(yàn)利用指數(shù)模型擬合混沌型Mackey-Glass時(shí)間序列,此模型在非線性時(shí)間序列預(yù)測中具有優(yōu)良的性能,且已從理論上被證明可以任意精度逼近任何函數(shù)[24]。設(shè)函數(shù)模型為

(23)

(24)

式中,a=0.2,b=0.1,c=10,d=17。設(shè)初值條件y(0)=1.2,時(shí)間間隔為0.1,采用龍格庫塔方法求解微分方程并生成500組數(shù)據(jù),如圖1所示。按照以下方式從生成的數(shù)據(jù)中提取100組數(shù)據(jù):[y(t-24),y(t-18),y(t-12),y(t-6),y(t)](t=[24,123])。利用這100組數(shù)據(jù),采用Nons+LM、VP+LM、VPCB+LM、VPQR+LM、VPSVD+LM和VPGSO+LM這6種方法估計(jì)模型中的參數(shù),并用區(qū)間[124,200]和[400,500]內(nèi)的數(shù)據(jù)進(jìn)行預(yù)測。

圖1 混沌型Mackey-Glass時(shí)間序列Fig.1 Chaotic Mackey-Glass time series

圖2 曲線擬合Fig.2 Curve fitting

表1列出了所有方法對應(yīng)的迭代次數(shù)、函數(shù)計(jì)算次數(shù)、均方根誤差及運(yùn)算時(shí)間。圖3給出了迭代計(jì)算時(shí),參數(shù)分離的5種算法對應(yīng)的非線性參數(shù)的收斂過程。

表1 迭代次數(shù)、函數(shù)計(jì)算次數(shù)、均方根誤差(RMSE)、運(yùn)算時(shí)間對比

對比表1中的數(shù)據(jù)可知,模型在短期預(yù)測中所得均方根誤差比訓(xùn)練時(shí)要小,這與文獻(xiàn)[24]的試驗(yàn)結(jié)果一致,說明模型能夠從訓(xùn)練數(shù)據(jù)中獲取較好的預(yù)測能力。在解算結(jié)果精確度方面,所有方法都具有足夠小的均方根誤差,其結(jié)果都有較高的可信度,其中VPQR+LM算法對應(yīng)的訓(xùn)練和預(yù)測的均方根誤差數(shù)值最小,說明此種方法在擬合數(shù)據(jù)和預(yù)測趨勢的過程中,其結(jié)果最為精準(zhǔn),但其計(jì)算效率不占據(jù)優(yōu)勢;Nons+LM方法迭代計(jì)算次數(shù)最多,所需時(shí)間最長,而經(jīng)過分離參數(shù)的變量投影算法在這兩方面有了較大幅度的減少,本文提出的VPCB+LM具有最少的迭代次數(shù);在迭代次數(shù)與函數(shù)計(jì)算次數(shù)水平相近的情況下,VPSVD+LM和VPGSO+LM方法在運(yùn)算時(shí)間上有較為顯著的優(yōu)勢。文獻(xiàn)[25]分別利用200、400、600組模擬試驗(yàn)數(shù)據(jù),在解算結(jié)果精度相近的條件下對比驗(yàn)證了基于施密特正交化的變量投影法的運(yùn)算效率[25],與本文所得結(jié)論相同。給定相同的迭代初值,參數(shù)分離的5種方法對應(yīng)的非線性參數(shù)迭代過程如圖3所示。

圖3 非線性參數(shù)迭代過程Fig.3 Iteration process of nonlinear parameters

由圖3可知,在給定相同初值的條件下,所有方法都有明顯的收斂趨勢,且VP+LM、VPCB+LM和VPGSO+LM的收斂速度較快。在區(qū)間[400,500]內(nèi)進(jìn)行了多步預(yù)測試驗(yàn),從Mackey-Glass時(shí)間序列中的第400個(gè)點(diǎn)開始,每10個(gè)點(diǎn)一組,利用5種分離參數(shù)算法求得的模型對時(shí)間序列進(jìn)一步預(yù)測至第500個(gè)點(diǎn),繪制出該區(qū)間內(nèi)曲線擬合效果圖,并求得每一組的均方根誤差RMSE,進(jìn)而繪制成折線圖,如圖4所示。

由圖4可知,VPCB+LM和VPSVD+LM算法隨著預(yù)測次數(shù)的增加,其均方根誤差越來越大且變化速率較快,表明其預(yù)測精度越來越低,預(yù)測能力較弱,而其他算法對應(yīng)折線相對平緩,預(yù)測能力更加穩(wěn)定,其結(jié)果具有較高的精度,其中VPQR+LM算法最穩(wěn)定,預(yù)測效果最佳。

圖4 預(yù)測曲線擬合圖及分組多步預(yù)測的RMSEFig.4 Curve fitting of prediction and RMSE of multi-step prediction

3.2 空間直角坐標(biāo)轉(zhuǎn)換模型參數(shù)求解試驗(yàn)

在測量學(xué)科的空間直角坐標(biāo)轉(zhuǎn)換中,兩個(gè)不同的空間直角坐標(biāo)系進(jìn)行轉(zhuǎn)換需要用7個(gè)參數(shù)來描述,其中包括3個(gè)坐標(biāo)軸的平移參數(shù)、3個(gè)旋轉(zhuǎn)參數(shù)和1個(gè)坐標(biāo)軸縮放參數(shù),如果已知兩空間直角坐標(biāo)系下的3個(gè)及以上的公共點(diǎn)坐標(biāo)值,那么這7個(gè)參數(shù)可以唯一確定。下面對七參數(shù)模型進(jìn)行介紹。如圖5所示,對于兩個(gè)不同的空間直角坐標(biāo)系O1X1Y1Z1和O2X2Y2Z2,它們的原點(diǎn)不一致,對應(yīng)的坐標(biāo)軸相互不平行。兩個(gè)坐標(biāo)系之間存在平移參數(shù)(ΔX,ΔY,ΔZ)、旋轉(zhuǎn)參數(shù)(α,β,γ)和縮放參數(shù)s。

圖5 坐標(biāo)轉(zhuǎn)換Fig.5 Coordinate transformation

在進(jìn)行坐標(biāo)轉(zhuǎn)換時(shí),常用的七參數(shù)模型的一般形式為

(25)

式中,(X1,Y1,Z1)為轉(zhuǎn)換前的坐標(biāo)值;(X2,Y2,Z2)為轉(zhuǎn)換后的坐標(biāo)值。式(25)可視為非線性函數(shù)的線性組合,用矩陣表示為

(26)

式中,Φ中包含的旋轉(zhuǎn)角(α,β,γ)為非線性參數(shù),其與系數(shù)矩陣呈現(xiàn)復(fù)雜的非線性關(guān)系[26];β中包含的平移值(ΔX,ΔY,ΔZ)和縮放參數(shù)s為線性參數(shù)。利用變量投影公式可寫為

(27)

本節(jié)試驗(yàn)所用坐標(biāo)數(shù)據(jù)為工程實(shí)測數(shù)據(jù)。為實(shí)際工程應(yīng)用的便利,在測量過程中建立了適用于該工程項(xiàng)目的獨(dú)立坐標(biāo)系。下面利用獨(dú)立坐標(biāo)系和CGCS2000坐標(biāo)系之間的轉(zhuǎn)換模型參數(shù)求解試驗(yàn)對改進(jìn)的變量投影算法進(jìn)行驗(yàn)證。

3.2.1 試驗(yàn)數(shù)據(jù)與結(jié)果

在空間直角坐標(biāo)轉(zhuǎn)換中有多種坐標(biāo)轉(zhuǎn)換模型及參數(shù)解算方法,這些模型均經(jīng)過線性化處理[27]。本試驗(yàn)采用改進(jìn)的變量投影算法結(jié)合LM算法對轉(zhuǎn)換模型進(jìn)行求解。試驗(yàn)采用獨(dú)立空間直角坐標(biāo)系和CGCS2000坐標(biāo)系下的9組公共點(diǎn)進(jìn)行試驗(yàn)。試驗(yàn)中,獨(dú)立坐標(biāo)系下點(diǎn)坐標(biāo)值的精度足夠高。試驗(yàn)所用數(shù)據(jù)的點(diǎn)位分布集中在一個(gè)范圍較小的局部地區(qū)。局部地區(qū)應(yīng)用七參數(shù)法求得的轉(zhuǎn)換參數(shù),尤其是平移參數(shù)精度是不高的,公共點(diǎn)坐標(biāo)很小的變化會引起參數(shù)較大的變化。因此為了保證參數(shù)解算的準(zhǔn)確性,也為了方便驗(yàn)證各種算法的計(jì)算效率,數(shù)值試驗(yàn)按照局部地區(qū)的坐標(biāo)轉(zhuǎn)換進(jìn)行試驗(yàn)。選取一組點(diǎn)作為原點(diǎn),并分別求出各點(diǎn)對原點(diǎn)的坐標(biāo)差值。設(shè)原點(diǎn)坐標(biāo)在兩空間直角坐標(biāo)系下的坐標(biāo)值分別為(X10,Y10,Z10)、(X20,Y20,Z20),對于原點(diǎn)由七參數(shù)公式可得

(28)

七參數(shù)公式與式(28)作差可得

(29)

式中含有線性參數(shù)s和非線性參數(shù)(α,β,γ)。9組公共點(diǎn)坐標(biāo)值見表2。

表2 獨(dú)立空間直角坐標(biāo)系和CGCS2000坐標(biāo)系下9組公共點(diǎn)坐標(biāo)值

表3 參數(shù)解算結(jié)果的對比

由表3的結(jié)果可以看出,每種方法得到的參數(shù)值幾乎相等;當(dāng)計(jì)算每次迭代的殘差平方和時(shí),原始模型的殘差實(shí)際上包含兩種參數(shù)類型的誤差,這也是在收斂分析時(shí)圖6(a)中Nons+LM方法在最開始時(shí)殘差平方和較大的原因。參數(shù)不分離算法的參數(shù)估計(jì)值與最優(yōu)值的殘差平方和最小,其他方法也都具有較小的殘差,得到的結(jié)果都是足夠精確的。

3.2.2 計(jì)算過程分析

除了比較數(shù)值解算結(jié)果外,試驗(yàn)過程中還比較了每種方法的迭代次數(shù)、函數(shù)計(jì)數(shù)次數(shù)、殘差平方和及運(yùn)算時(shí)間,結(jié)果見表4。

由表4可知,每種方法的迭代次數(shù)均相等,而經(jīng)過參數(shù)分離的算法對應(yīng)的函數(shù)計(jì)算次數(shù)均小于Nons+LM算法。Nons+LM對應(yīng)的殘差稍大而參數(shù)分離的方法相對較小,這表明相比于不分離而直接進(jìn)行迭代的方法,變量投影算法在估計(jì)坐標(biāo)轉(zhuǎn)換參數(shù)時(shí),能夠減小觀測值與轉(zhuǎn)換模型之間的殘差,使得參數(shù)計(jì)算結(jié)果更加可靠。由計(jì)算時(shí)間可以看出,參數(shù)分離的方法對應(yīng)的時(shí)間相比分離前都有所減少,在解算結(jié)果精度相同的條件下,改進(jìn)算法的計(jì)算速度有不同程度的提升,其中VPGSO+LM最為顯著。試驗(yàn)利用了9組公共點(diǎn)求解轉(zhuǎn)換參數(shù),展開式對應(yīng)形成了含有27個(gè)方程的方程組,經(jīng)變量投影分離參數(shù)后,非線性函數(shù)構(gòu)成27×3階矩陣,當(dāng)VPGSO+LM對目標(biāo)函數(shù)進(jìn)行分解時(shí),施密特正交化中計(jì)算的矩陣G為27×3階矩陣,比用其他方法得到的矩陣(如QR分解得到矩陣Q為27×27階矩陣)更加簡單一些,因此在計(jì)算機(jī)存儲或調(diào)用此矩陣并代入函數(shù)進(jìn)行計(jì)算時(shí),時(shí)間會有所減少。在迭代次數(shù)相同、函數(shù)計(jì)算次數(shù)和殘差平方和相近的情況下,VPGSO+LM方法相比于Nons+LM方法降低了估計(jì)參數(shù)維度,相比于其他改進(jìn)的變量投影法又減少了計(jì)算時(shí)間。

表4 迭代次數(shù)、函數(shù)計(jì)算次數(shù)、殘差平方和及運(yùn)算時(shí)間的對比

3.2.3 收斂過程的對比分析

本節(jié)以試驗(yàn)中的旋轉(zhuǎn)角α為例,分析了6種算法在迭代過程中的收斂性。由于所有方法都是基于LM算法進(jìn)行計(jì)算的,因此參數(shù)分離的算法在迭代步長、方向和循環(huán)過程是基本一致的。在加入?yún)?shù)不分離算法進(jìn)行對比時(shí),只在圖中顯示了Nons+LM和VPGSO+LM對應(yīng)的計(jì)算過程。Nons+LM算法的迭代過程中也包含線性參數(shù),其迭代方向和迭代步長與參數(shù)分離的算法在數(shù)值上存在差異。參數(shù)的具體迭代過程及殘差平方和的變化如圖6所示。

圖6 非線性參數(shù)的迭代過程及殘差平方和變化過程Fig.6 Iteration process of nonlinear parameters and variation process of residual sum of squares

由圖6可以看出,Nons+LM方法在初次計(jì)算時(shí)的殘差要遠(yuǎn)大于VPGSO+LM,這是由于在迭代過程中線性與非線性參數(shù)統(tǒng)一進(jìn)行計(jì)算所導(dǎo)致的。在參數(shù)α的迭代過程中,VPGSO+LM方法在第2次迭代過程中存在振蕩,第3次迭代接近最優(yōu)值,而Nons+LM方法相對穩(wěn)定一些;圖6(c)顯示了分離變量后的5種方法迭代過程,其過程比較一致,都是在第2次迭代出現(xiàn)震蕩之后開始接近最優(yōu)值,由于迭代過程差異較小,因此將第2次迭代結(jié)果放大至圖6(d),可以看出VPSVD+LM算法結(jié)果較差,而VPCB+LM相比之下最穩(wěn)定。在參數(shù)迭代過程中,LM迭代法計(jì)算的是所有非線性參數(shù)每次迭代后的總體變化,因此,迭代過程中某個(gè)參數(shù)的變化出現(xiàn)抬升或下降并不意味著算法不好。一般采用迭代法求解非線性方程組往往只是局部收斂,這使得迭代初值很難確定[28]。當(dāng)隨機(jī)給定不同的初值時(shí),分別用分離參數(shù)的5種算法估計(jì)非線性轉(zhuǎn)換參數(shù),將程序獨(dú)立運(yùn)行30次,計(jì)算得到每次結(jié)果的均方根誤差RMSE并繪制箱形圖,如圖7所示。由圖7可知,VPSVD+LM對應(yīng)的RMSE數(shù)值的中位數(shù)最小,對應(yīng)的箱形圖所表示的數(shù)據(jù)整體分布區(qū)域更接近橫軸,由此可見,VPSVD+LM算法受初值影響較小,程序運(yùn)行得更加穩(wěn)定一些。

圖7 不同算法對應(yīng)均方根誤差分布狀況Fig.7 Distribution of RMSE corresponding to different algorithms

4 結(jié) 論

本文結(jié)合混沌型Mackey-Glass時(shí)間序列模擬試驗(yàn),全面地對比分析了變量投影法及其基于矩陣分解的4種改進(jìn)算法的優(yōu)缺點(diǎn)。參數(shù)不分離方法在解算模型時(shí),迭代計(jì)算次數(shù)較多,運(yùn)算時(shí)間最長,而分離變量的VP算法在保證解算結(jié)果精度的前提下,可有效削弱這一弊端;當(dāng)非線性矩陣存在一定程度的病態(tài)時(shí),對矩陣進(jìn)行分解可使得算法迭代過程穩(wěn)定,以保障解算的有效性;改進(jìn)的算法在迭代次數(shù)、解算精度、計(jì)算效率、預(yù)測能力及穩(wěn)定性等方面也有不同程度的提升。在解算可分離問題的模型參數(shù)時(shí),若參數(shù)最優(yōu)值所在區(qū)間不可知,在不追求運(yùn)算效率的情況下可選用VPQR+LM,若考慮運(yùn)算效率而對精度要求較低,則建議使用VPCB+LM或VPSVD+LM,若兩者都須顧及則可選用VPGSO+LM;若已知其最優(yōu)值所在區(qū)間,可使用VPGSO+LM算法并設(shè)置迭代初值在最優(yōu)值附近,以追求參數(shù)求解的計(jì)算效率;在解得模型參數(shù)后,可使用VPQR+LM進(jìn)行數(shù)據(jù)預(yù)測。

在基于矩陣分解推導(dǎo)變量投影公式的過程中發(fā)現(xiàn),當(dāng)非線性矩陣Φ(α)秩虧時(shí)滿秩分解具有較大優(yōu)勢,其余3種矩陣分解法最終都將非線性矩陣及其逆陣的乘積PΦ(α)導(dǎo)出為正交矩陣與含有單位陣矩陣相乘,其形式具有統(tǒng)一性,而正交矩陣的逆矩陣與其轉(zhuǎn)置相同這一性質(zhì)使得算法在求解模型參數(shù)時(shí)簡化了計(jì)算過程,節(jié)約了運(yùn)算時(shí)間。

本文將變量投影法及改進(jìn)算法應(yīng)用于空間直角坐標(biāo)轉(zhuǎn)換模型參數(shù)求解中,并對算法的實(shí)用性進(jìn)行了探究。經(jīng)試驗(yàn)發(fā)現(xiàn),該算法及改進(jìn)算法適用于解算坐標(biāo)轉(zhuǎn)換模型參數(shù),且4種改進(jìn)算法在解決此類問題的運(yùn)算效率方面有所提升。在轉(zhuǎn)換參數(shù)求解中應(yīng)用改進(jìn)的變量投影算法,可在保證求解結(jié)果精度的同時(shí)降低待估計(jì)參數(shù)的維數(shù),簡化非線性函數(shù)矩陣大小,提高計(jì)算機(jī)的變量存儲、調(diào)用和計(jì)算的速度,使運(yùn)算時(shí)間最小化,為坐標(biāo)轉(zhuǎn)換模型參數(shù)的求解提供了新的方法,對豐富可分離非線性最小二乘理論在測繪領(lǐng)域中的應(yīng)用具有實(shí)際意義。

猜你喜歡
殘差投影變量
基于雙向GRU與殘差擬合的車輛跟馳建模
抓住不變量解題
解變分不等式的一種二次投影算法
基于殘差學(xué)習(xí)的自適應(yīng)無人機(jī)目標(biāo)跟蹤算法
也談分離變量
基于最大相關(guān)熵的簇稀疏仿射投影算法
基于遞歸殘差網(wǎng)絡(luò)的圖像超分辨率重建
找投影
找投影
SL(3,3n)和SU(3,3n)的第一Cartan不變量
都昌县| 周口市| 芜湖县| 蓬莱市| 绥棱县| 咸阳市| 上饶市| 东乡| 南阳市| 富蕴县| 聊城市| 仪陇县| 麻江县| 丹东市| 大足县| 应用必备| 长丰县| 株洲县| 博白县| 都江堰市| 新竹市| 宜川县| 长阳| 乌鲁木齐县| 东海县| 彰化县| 水城县| 顺昌县| 佳木斯市| 美姑县| 武平县| 泽库县| 林口县| 吉首市| 汉阴县| 图们市| 华阴市| 河西区| 宁武县| 武邑县| 三原县|