周小紅
【摘要】本文首先對(duì)最小二乘逼近進(jìn)行了定義,然后對(duì)如何用多項(xiàng)式來(lái)做最小二乘逼近進(jìn)行了探討,并舉例.
【關(guān)鍵詞】最小二乘;矩陣;法方程
定義: 在科學(xué)實(shí)驗(yàn)中經(jīng)常要對(duì)實(shí)驗(yàn)數(shù)據(jù) {(xi,yi),i=1,2,…,n}進(jìn)行曲線擬合,求一個(gè)函數(shù)y=s*(x) 與所給數(shù)據(jù){(xi,yi),i=1,2,…,n}擬合,令f(xi)=yi,記誤差δi=s*(xi)-f(xi) (i=1,2,…,n),δ=(δ0,δ1,…,δn)T,設(shè)φ0(x),φ1(x),…,φm(x)是C[a,b]上線性無(wú)關(guān)函數(shù)族,在φ=span{φ0(x),φ1(x),…,φm(x)}中找一函數(shù)s*(x)使誤差平方和:
‖δ‖22=∑ni=1δ2i=∑ni=1s*(xi)-yi2=mins(x)∈φ∑ni=1s(xi)-yi2.
這里s(x)=a0φ0(x)+a1φ1(x)+…+amφm(x) (m 最小二乘逼近原理:將定義中的φj(x)考慮為j次多項(xiàng)式的情形,即:φj(x)=xj. 由于它就轉(zhuǎn)化成求多元函數(shù): I(a0,a1,…,am)=∑ni=1∑mj=0ajφj(xi)-yi2=∑ni=1∑mj=0ajxji-yi2 的極小值點(diǎn)(a*0,a*1,…,a*m)問(wèn)題.由多元函數(shù)極值的必要條件有: Iak=2∑ni=1∑mj=0ajφj(xi)-yiφk(xi) =2∑ni=1∑mj=0(ajxj+ki-yixki)=0. 若記(φj,φk)=(xj,xk)=∑ni=1φj(xi)φk(xi)=∑ni=1xj+ki, (f,φk)=(yi,xki)=∑ni=1f(xi)φk(xi)=∑ni=1yixki=dk, 上式可改寫成為: ∑mj=0(φk,φj)aj=∑mj=0(xk,xj)aj=dk (k=0,1,…,m).(1) 這方程稱為法方程.可寫成矩陣形式: Ga=d.(2) 其中a=(a0,a1,…,am)T,d=(d0,d1,…,dm)T, G=(x0,x0)(x0,x1)…(x0,xm) (x1,x0) (xm,x0)(x1,x1) (xm,x1)… …(x1,xm) (xm,xm). 現(xiàn)在證明(1)的系數(shù)行列式不為0,因?yàn)檫@樣我們便可確定(2)具有唯一解. 設(shè)G是(1)的系數(shù)矩陣,若detG=0,則齊線形方程組: Ga=0. 存在非零解,其中a=(a0,a1,…,am)T.(3) 設(shè)(3)的非零解為 a*=(a*0,a*1,…,a*m)T,則有: ∑mj=0(∑ni=1xj+ki)a*j=0(k=0,1,…,m).(4) 將(4)式兩邊同時(shí)乘以a*k得:∑mj=0(∑ni=1xj+ki)a*ja*k=0,然后對(duì)所有k相加得: 0=∑mk=0∑mj=0(∑ni=1xj+ki)a*ja*k=∑ni=1(∑mk=0a*kxki)(∑mj=0a*jxji)=∑ni=1y2(xi), 其中y(xi)=∑mj=0a*jxji.我們知道,若∑ni=1y2(xi)=0,則有y(xi)=0(i=1,2,…,n). 由于n>m+1,根據(jù)代數(shù)學(xué)基本定理:除非所有a*j=0,否則一個(gè)m 次多項(xiàng)式不能有n(n>m)個(gè)零點(diǎn).但是a*j=0 (j=0,1,…,m)與a*=(a*0,a*1,…,a*m)T是Ga=0的非零解矛盾,于是證得:detG≠0. 證明了(2)具有唯一解后,我們還可證明該解是I(a0,a1,…,am)的極小值點(diǎn). 考慮僅有兩個(gè)函數(shù)x0和x的情況.這時(shí)I是x0,x的函數(shù),可表為: I=I(a0,a1),令法方程的解為a*0,a*1,即它們滿足:I(a*0,a*1)aj≡0 (j=0,1). 考察I(a*0+δ0,a*1+δ1)- I(a*0,a*1)=∑ni=1[δ0x0i+δ1xi]2≥0.(5) 上式中的等號(hào)只有當(dāng)∑ni=1[δ0x0i+δ1xi]2=0時(shí)才能達(dá)到,然而由代數(shù)學(xué)知識(shí)知多項(xiàng)式:x0+x1+x2+…+xm=0的解不多于m個(gè)(這里m=2 I(a*0+δ0,a*1+δ1,…,a*m+δm)- I(a*0,a*1,…,a*m)≥0, 并且當(dāng)aj=a*j(j=0,1,…,m)時(shí)I(a0,a1,…,am)取到極小值I(a*0,a*1,…,a*m). 當(dāng)m=0時(shí)即為零次最小平方逼近多項(xiàng)式I(x)= a0,其法方程為:na0 = ∑ni=1yi 解得: a0 = y1+y2+…+ynn. 由上式可見(jiàn),零次最小平方逼近多項(xiàng)式就是我們常用的平均值. 【參考文獻(xiàn)】 [1]王能超,李慶揚(yáng),易大義.數(shù)值分析.第四版,北京:清華大學(xué)出版社,2001. [2]G.H.戈盧布,C.F.范洛思.矩陣計(jì)算.北京:科學(xué)出版社,2002.