高雷阜,周 慶
(遼寧工程技術(shù)大學(xué)優(yōu)化與決策研究所,遼寧阜新 123000)
多項(xiàng)式優(yōu)化問(wèn)題(POP)可描述為目標(biāo)函數(shù)和約束條件都用多項(xiàng)式表示的一類優(yōu)化問(wèn)題,是全局優(yōu)化中的一個(gè)基本而重要的研究對(duì)象,已被廣泛應(yīng)用于信號(hào)處理和系統(tǒng)控制等領(lǐng)域.近年來(lái),這類問(wèn)題吸引了大批學(xué)者的關(guān)注,產(chǎn)生了豐富的研究成果[1,2].POP的求解是一個(gè)頗具挑戰(zhàn)性的問(wèn)題,傳統(tǒng)的數(shù)值求解方法有最速下降法、牛頓法、擬牛頓法、共軛梯度法、信賴域法等[2?8].但POP一般是非凸的,故用這些方法求出的值不一定是全局最優(yōu)值,大多情況下只是局部最優(yōu)值.
POP的數(shù)學(xué)形式如下
當(dāng)約束集合是緊集時(shí),其退化為緊約束POP.此類問(wèn)題是NP難的,不易求解.經(jīng)典求解采用Lagrange松弛方法,將其松弛成一個(gè)凸優(yōu)化問(wèn)題.近年來(lái),Lasserre提出了一種求解POP的全局優(yōu)化算法[2],該方法是基于半定規(guī)劃(SDP)松弛,能無(wú)限逼近問(wèn)題的全局最優(yōu)值.目前該方法已廣泛應(yīng)用于多個(gè)領(lǐng)域[2?6].此方法被相關(guān)學(xué)者稱為L(zhǎng)asserre松弛方法.
本文主要研究緊約束POP,基于上述松弛思想,結(jié)合多項(xiàng)式平方和(SOS),利用Lasserre將原緊約束POP轉(zhuǎn)化為SOS形式及其成立條件,給出其成立條件推導(dǎo)SOS式成立的證明.在進(jìn)一步轉(zhuǎn)化為求解另一SOS問(wèn)題的基礎(chǔ)上,給出當(dāng)其矩陣特征值的最小值大于0時(shí),上述條件成立的證明.從而找出其目標(biāo)函數(shù)在約束集合的下界,通過(guò)給出的理論,估計(jì)出下界與最小值相差的距離,即逼近界.最后,文章將原有的逼近界定理進(jìn)一步轉(zhuǎn)化,給出了新的逼近界定理.
引理2.1[3]對(duì)于一個(gè)階數(shù)為2d的多項(xiàng)式f,存在一個(gè)對(duì)稱矩陣F,有
引理2.2[3?5]f是其中F≥0.
考慮如下POP
其中S是緊集,f,g1,···,gm的階數(shù)不大于2d(稱d為松弛階數(shù)),(3.1)式不易求解,因此
Lasserre將其轉(zhuǎn)化成如下SOS形式去找(3.1)式中fmin的下界[2]
其中deg表示多項(xiàng)式的階數(shù),fmin(fmax)表示f在S上的最小值(最大值),fsos表示(3.2)式中的最優(yōu)值.由上述知,對(duì)于固定的d,有fsos≤fmin.當(dāng)g1,···,gm在適當(dāng)?shù)臈l件下,存在Q=Q(g1,···,gm)有
為了保證(3.2)式成立,需如下引理.
引理3.1[6]存在一個(gè)對(duì)稱的正定矩陣E 及SOS多項(xiàng)式σ1,···,σm,且deg(σigi)≤2d,i=1,···,m,有
定理3.1若S內(nèi)部非空,R[x]是實(shí)多項(xiàng)式環(huán),R[x]k表示階數(shù)最多是k的多項(xiàng)式的子空間,那么下列敘述等價(jià)
(1)引理3.1成立;
(2)對(duì)于每個(gè)f∈R[x]2d,(3.2)式都可求;
證(1)?(2)由引理2.1,有其中F是對(duì)稱矩陣.由引理3.1知E是正定矩陣,因此存在足夠大的λ,且λ>0,使
(2)?(3)顯然成立.
因此引理3.1成立.故定理3.1成立.
在引理3.1中,多項(xiàng)式σ1,···,σm和正定矩陣E 可能并不唯一.當(dāng)λmin(E)越大,獲得的逼近界越好.其中X 是對(duì)稱矩陣,λmax(X)(λmin(X))表示X 的特征值的最大值(最小值),X>0意味著λmin(X)>0.因此盡可能找到λmin(E)的最大值,進(jìn)而解決如下SOS問(wèn)題
定理3.2假設(shè)是(3.4)式的最優(yōu)解.當(dāng)且僅當(dāng)λmin(E?)>0,引理3.1才成立.
故結(jié)論得證.
引理3.2[9]若S內(nèi)部非空,對(duì)于每個(gè)?∈?2d,且0在S內(nèi)部,則κ2d(S)>0.
引理3.3[10]如果f∈R[x]2d,那么存在一個(gè)對(duì)稱矩陣W,使得
其中對(duì)于任意矩陣A,‖A‖2是標(biāo)準(zhǔn)的二范數(shù),注意 ‖A‖2≤ ‖A‖F(xiàn).
引理 3.4[11]假設(shè)ψ 是包含1的R[x]2d的子空間,χ(ψ,S)< ∞,(σ1,···,σm,E)滿足引理3.1.令f∈ψ,fmin(fmax)是在S上的最小值(最大值).如果fsos是(3.2)式的最優(yōu)值,則有
為了得到引理3.4的精確的逼近界,需要估計(jì)χ(ψ,S)和λmin(E)的值.
定理3.3假設(shè)0在S 的內(nèi)部,(σ1,···,σm,E)滿足引理3.1,令f∈R[x]2d,則有
證因?yàn)镾內(nèi)部非空,由引理3.2知如果
對(duì)所有的x∈ S 都有|p(x)|≤ 1,則‖p‖L2(S)≤ 1.由有由引理3.4得
故定理得證.
注如果(3.4)式中的最優(yōu)解用到上式,獲得的最優(yōu)界更好.(3.4)式中的最優(yōu)值λmin(E?)的選取依賴于S.已有文獻(xiàn)給出但未給收斂性.下面給出具體過(guò)程并證明收斂.
在S上非負(fù).若存在SOS多項(xiàng)式s0,s1,···,sm,對(duì)每個(gè)deg(sigi)≤2d及
因?yàn)閟0是SOS,有
所以如果(3.6)式成立,則有
如果(3.6)式不成立,但已知R,可以增加(3.1)式的約束條件r(x)≥0.故可以通過(guò)來(lái)估計(jì).下證其收斂性.
有
緊約束POP是NP難的,不易求解,故Lasserre將其轉(zhuǎn)化為SOS形式求目標(biāo)函數(shù)在約束集合的下界.為了使得Lasserre轉(zhuǎn)化的SOS可求,在已知其成立條件前提下,進(jìn)一步給出證明過(guò)程,從而找出所求問(wèn)題的下界.在已知下界的基礎(chǔ)上,通過(guò)理論估計(jì)出下界與最小值相差的距離,即逼近界.將原有的逼近界定理進(jìn)行轉(zhuǎn)化,給出另外一個(gè)逼近界定理,從而解決原緊約束POP.
[1]陳德俊.多項(xiàng)式優(yōu)化方法在二次規(guī)劃問(wèn)題中的應(yīng)用[D].北京:清華大學(xué),2011.
[2]Lasserre J B.Global optimization with polynomials and the problem of moments[J].Soc.Indus.Appl.Math.,2001,11(3):796–817.
[3]Prajna S,Papachristodoulou A,Wu F.Nonlinear control synthesis by sum of squares optimization:A Lyapunov-based approach[C].Proc.Asian Contr.Conf.,2004,1:157–165.
[4]Parrilo P A.Semidefinite programming relaxations for semialgebraic problems[J].Math.Prog.,2003,96(2):293–320.
[5]Laurent M.Sum of squares,moment matrices and optimization over polynomials[J].Emer.Appl.Alg.Geom.,2008,149:157–270.
[6]Lasserre J B.Moments,positive polynomials and their applications[M].London:Imperial College Press,2009.
[7]董麗,周金川.無(wú)約束優(yōu)化問(wèn)題的一個(gè)下降方法[J].數(shù)學(xué)雜志,2015,35(1):173–179.
[8]張新華.等式約束非凸優(yōu)化問(wèn)題的修正牛頓算法[J].數(shù)學(xué)雜志,2015,35(1):1–11.
[9]Barvinok.Eastimating L∞norms by L2knorms for functions on orbits[J].Found.Comp.Math.,2002,2(4):393–412.
[10]Nie J,Demmel J,Sturmfels B.Minimizing polynomials via sum of squares over the gradient ideal[J].Math.Prog.,2005,106(3):587–606.
[11]Reznick B.Some concrete aspects of Hilbert’s 17th problem[J].Contem.Math.,Amer.Math.Soc.,2000,253:251–272.