盧里舉
[摘 ? ? ? ? ? 要] ?首先,從二次型多項(xiàng)式的正定性判別出發(fā),研究二次型的極值問題,得到正交變換可保駐點(diǎn)和極值點(diǎn)不變性,并從理論上解決了一般二次函數(shù)轉(zhuǎn)化為二次型問題;其次,采用泰勒展開法,將多元函數(shù)在駐點(diǎn)處進(jìn)行二階泰勒展開,并考查系數(shù)矩陣的定性,并依此得到極值判定的充分條件;最后,給出該方法在多元線性回歸中計(jì)算回歸系數(shù)的應(yīng)用.
[關(guān) ? ?鍵 ? 詞] ?二次型;正(負(fù))定;二次多項(xiàng)式;極值判定;泰勒展開;多元線性回歸
[中圖分類號(hào)] ?G712 ? ? ? ? ? ? ? ? ? [文獻(xiàn)標(biāo)志碼] ?A ? ? ? ? ? ? ? ? ? ?[文章編號(hào)] ?2096-0603(2018)27-0148-02
一、二次型的極值
在線性代數(shù)理論中,采用的正交變換使一般二次型多項(xiàng)式成為標(biāo)準(zhǔn)化.而正交變換保證了保角和保長(zhǎng)的性質(zhì),這表明函數(shù)在表示幾何曲面的意義下,通過正交變換,能保持曲面幾何不變性,只是在位置上發(fā)生一定的變化,同時(shí),在標(biāo)準(zhǔn)形式下,更容易分析曲面的幾何性質(zhì).事實(shí)上,在代數(shù)形態(tài)下,函數(shù)的某些形態(tài)也具有不變性,在二次型的極值研究中,正交變換還具有保駐點(diǎn)不變和保極值點(diǎn)不變的性質(zhì).二次型標(biāo)準(zhǔn)化的形式為:
f(x)=f(x1,…,xn)=■aiixi2+2■aijxixj=xAxT=■λiyi2
注意到,如果特征根全為正,其標(biāo)準(zhǔn)型存在唯一的極值點(diǎn)(也是最小值點(diǎn))y=0.于是函數(shù)f(x)的最小值點(diǎn)為:0=y=xP,由正交變換的可逆性,于是x=0.
關(guān)于二次型的定性和極值點(diǎn)的判別:
1.系數(shù)矩陣是正定(負(fù)定)的,特征根全為正(負(fù)),此時(shí)函數(shù)存在唯一的極值點(diǎn)x=0,也是最?。ù螅┲迭c(diǎn).
2.系數(shù)矩陣是未定型的,同時(shí)存在正的和負(fù)的特征根,此時(shí)函數(shù)存在駐點(diǎn)x=0,但駐點(diǎn)不是極值點(diǎn),因此,函數(shù)不存在極值點(diǎn);事實(shí)上,不妨設(shè)標(biāo)準(zhǔn)化中的第一二兩個(gè)特征根分別為正數(shù)和負(fù)數(shù),那么,第一、二分量的0的鄰域內(nèi),函數(shù)取值既有正數(shù)和負(fù)數(shù),而f(0)=0.
3.系數(shù)矩陣是半正定(負(fù)定)的,此時(shí),特征根為0或者是正(負(fù))的,并且由矩陣論可知正特征根的個(gè)數(shù)為系數(shù)矩陣的秩,那么函數(shù)存在極值點(diǎn),也是最?。ù螅┲迭c(diǎn),這些極值點(diǎn)構(gòu)成超平面S,其維數(shù)滿足r(S)=n-r(A);事實(shí)上,不妨設(shè)λ1,…,λK>0,k=r(A),在標(biāo)準(zhǔn)型中,只要???坌y1,…,yk=0,yk+1,…,yn≠0,f(x)=0其對(duì)應(yīng)的x≠0,并且構(gòu)成的空間S維數(shù)為r(S)=n-r(A).
二、二次型的平移與二次多項(xiàng)式
對(duì)二次型函數(shù)的研究,還可以將之一般化,考慮對(duì)二次型函數(shù)采用平移變換,得到形式:
f(x)=f(x1,…,xn)=■aii(xi-xi0)2+2■aij(xi-xi0)(xj-xj0)
=■aii(xi2-2xixi0+xi02)+2■aij(xixj-xi0xj-xixj0+xi0xj0)
=■aiixi2+2■aijxixj-2■bixi-2■cjxj+d
其極值點(diǎn)的存在性,可與標(biāo)準(zhǔn)二次型的極值進(jìn)行類比討論,決定因素依然是系數(shù)矩陣的定性.比如,在系數(shù)系數(shù)矩陣的特征根全為正(負(fù))的,函數(shù)存在唯一的極值點(diǎn)x0=(x10,…,xn0).
由線性方程的性質(zhì)知:一般二次型函數(shù)通過平移,能化為二次型的充要條件是二次函數(shù)存在駐點(diǎn).針對(duì)一般形式,其平移為二次型的做法就是,對(duì)存在駐點(diǎn)的,先求解駐點(diǎn),再將之改寫為二次型,而對(duì)駐點(diǎn)不存在的,則不能改寫為二次型.
比如:f(x,y)=x2+y2+2xy+4x+2y,滿足fx=2x+2y+4=0及fy=2y+2x+2=0的點(diǎn)不存在,故而該函數(shù)不能寫成標(biāo)準(zhǔn)二次型.另外,如果該函數(shù)能寫成二次型形式:f(x,y)=(x-a)2+(y-b)2+
k(x-a)(y-b),將其展開,并比較系數(shù)得k=2,a+b=-2,并且a+b=-1,這是不可能的,或者說關(guān)于待定常數(shù)a,b是無解的,這也表明該函數(shù)不能寫成標(biāo)準(zhǔn)二次型.
以上研究表明,不是任意的一般二次函數(shù)形式,都能改寫成標(biāo)準(zhǔn)二次型形式,只有在一定的條件下方可標(biāo)準(zhǔn)化.那么,怎樣的條件,可保證標(biāo)準(zhǔn)化?事實(shí)上,存在駐點(diǎn)的一般二次函數(shù)就具有這種特征.設(shè)一般二次函數(shù)f(x)=f(x1,…,xn)=■aiixi2+■aijxixj-■bixi+d,令■=2aiixi+■aijxj-bi=0,記系數(shù)矩陣列向量αi=(■aij,■aij,…,2aii,…,■aij)T,β=(b1,b2…,bn)T,那么,由線性方程解存在的條件可知,存在駐點(diǎn)的充要條件是系數(shù)矩陣的秩與系數(shù)增廣矩陣的秩相等,即r(α1,…,αn)=r(α1,…,αn,β)=m同時(shí),如果m=n,此時(shí)駐點(diǎn)是唯一的;如果m 例如f(x,y)=x2+2y2+4xy+2x+4y,滿足fx=2x+4y+2=0及fy=4y+4x+4=0,得到駐點(diǎn)為(-1,0),故而該函數(shù)可寫成二次型f(x,y)=(x+1)2+2y2+4(x+1)y-1. 三、多元函數(shù)的二次型展開與極值判定 在二元函數(shù)極值的問題研究中,眾多文獻(xiàn)均給出了極值判定的充分條件.其依據(jù)是建立在對(duì)二元函數(shù)的二階泰勒展開,同時(shí),給出在系數(shù)矩陣的正(負(fù))定時(shí),極值的判別.以下將針對(duì)更高維度的多元函數(shù)的極值給出判定方法,并指出相應(yīng)的理論依據(jù).
對(duì)于元多函數(shù)f(x)=f(x1,…,xn).如果存在x0=(x10,…,xn0)使得■|■=0,即存在駐點(diǎn),記二階偏導(dǎo)數(shù)為fij(x0)=■|■=aij,并且二階偏導(dǎo)數(shù)均連續(xù).那么函數(shù)在駐點(diǎn)處可以寫成二階泰勒形式:f(x)=f(x0)+■(■aii(xi-xi0)2+2■aij(xi-xi0)(xj-xj0))+o(ρ),其中ρ表示點(diǎn)到駐點(diǎn)的歐氏距離.考慮到混合偏導(dǎo)數(shù)相等,于是,關(guān)于極值的判定矩陣可表示為:Δ=(aij)(n×n),其定性可以通過特征根的計(jì)算,或者采用順序主子式的計(jì)算得以實(shí)現(xiàn).同時(shí),如果涉及多個(gè)駐點(diǎn)的,要分別給予判別.
結(jié)論:(1)Δ是正定(負(fù)定)的,特征根全為正(負(fù)),此時(shí)函數(shù)存在極小值點(diǎn);(2)Δ是未定型的,同時(shí)存在正的和負(fù)的特征根,此時(shí)駐點(diǎn)不是極值點(diǎn);(3)Δ是半正定(負(fù)定)的,此時(shí),特征根為0或者是正(負(fù))的,并且由矩陣論可知正特征根的個(gè)數(shù)為系數(shù)矩陣的秩,那么函數(shù)存在極值點(diǎn),這些極值點(diǎn)構(gòu)成超平面S,其維數(shù)滿足r(S)=n-r(A).如此,再將二元函數(shù)的極值問題推廣為更多元函數(shù)時(shí),其判別思路不是簡(jiǎn)單的性質(zhì)平移,而是要從矩陣的定性來進(jìn)行思考.
在實(shí)際操作中,涉及極值的求解與判斷中,還可以考慮變量之間的線性不相關(guān)的性質(zhì).在一般二次型中,如果某個(gè)分量xk0在駐點(diǎn)x0=(x10,…,xn0)處滿足akj=0(j≠k).稱該分量與其他分量線性不相關(guān).故對(duì)于此項(xiàng)而言,其極值的問題的研究可以單獨(dú)進(jìn)行考慮.同樣地,對(duì)于一般多元函數(shù)問題,如果在有分量xk0駐點(diǎn)滿足fkj(x0)=■|■=akj=0(j≠k),稱該分量在駐點(diǎn)處與其他分量線性不相關(guān),此時(shí),影響判定矩陣定性的,僅僅為其二階純偏導(dǎo)數(shù)的符號(hào),其值表現(xiàn)為判定矩陣的特征根之一.
四、多元函數(shù)極值的應(yīng)用
在統(tǒng)計(jì)學(xué)中,利用最小二乘法原理,對(duì)一元線性回歸方程中的系數(shù)進(jìn)行求解,即認(rèn)為最優(yōu)的擬合直線應(yīng)該滿足實(shí)際測(cè)量值與回歸直線相應(yīng)點(diǎn)處的平方和(絕對(duì)偏差)最小.其數(shù)學(xué)模型表現(xiàn)為:min=■(yi-a(xi+b))2,其中y=ax+b為直線回歸方程,a,b為所求的系數(shù).關(guān)于回歸系數(shù)的存在性,可以通過以下二次型理論證明.事實(shí)上,這是關(guān)于變量a,b的二次型,由最小二乘法目標(biāo)函數(shù)知,該函數(shù)是正定的,因此,存在極小值點(diǎn)(唯一的),只要求出駐點(diǎn)即可.
那么,對(duì)于多元線性回歸,其中回歸方程的系數(shù)依然可采用此法,即系數(shù)滿足實(shí)際測(cè)定值與回歸方程相應(yīng)點(diǎn)的平方和最小,此時(shí),相應(yīng)的數(shù)學(xué)模型可以描述為:min=w=■(uj-(■aixij+c))2,其中u=■aixi+c為回歸方程,a1,a2,…,ap,c為所求的系數(shù).這是關(guān)于變量a1,a2,.…,ap,c的二次型,且是正定的,因此,存在極小值點(diǎn)(唯一的),只要求出駐點(diǎn)即可.由駐點(diǎn)的性質(zhì):■=0=■,于是,駐點(diǎn)滿足線性方程組:
■
對(duì)此,采用線性方程的克萊姆法則即可求出各參數(shù)的值.
在多元統(tǒng)計(jì)線性回歸操作中,在實(shí)際問題處理中,還需要對(duì)變量之間的相關(guān)程度展開研究,認(rèn)為具有高相關(guān)程度的兩個(gè)變量進(jìn)行合并,以減少回歸系數(shù)的運(yùn)算.同時(shí),也保證了駐點(diǎn)方程解的唯一性.
另外,需要說明的是,在回歸系數(shù)的求解中,以上所給出的是它的理論計(jì)算,在實(shí)際應(yīng)用中,往往采用科學(xué)計(jì)算進(jìn)行實(shí)現(xiàn).可采用專業(yè)的數(shù)學(xué)軟件,以完成相關(guān)的計(jì)算.與此同時(shí),在線性回歸中,還需要對(duì)回歸的優(yōu)度進(jìn)行檢驗(yàn),關(guān)于此,本文未給予統(tǒng)計(jì)理論方面的解釋.
參考文獻(xiàn):
[1]趙澤福.多元函數(shù)極值的應(yīng)用分析[J].長(zhǎng)春工業(yè)大學(xué)學(xué)報(bào),2016,37(1):98-101.
[2]梁偉秋,尹小艷.二次型矩陣在多元可微函數(shù)極值問題的應(yīng)用[J].高師理科學(xué)刊,2017(8).
[3]曹昭.多元線性回歸系數(shù)的求解原理與矩陣初等變換的應(yīng)用[J].統(tǒng)計(jì)與決策,2015(17):74-76
[4]徐陽(yáng)棟.二次型在多元函數(shù)極值問題上的應(yīng)用[J].教育教學(xué)論壇,2015(7).
[5]丘維聲.高等代數(shù)[M].清華大學(xué)出版社,2010.
[6]林元重.新編數(shù)學(xué)分析[M].武漢大學(xué)出版社,2015.