張愛旎， 鄧志穎

重慶郵電大學(xué) 理學(xué)院，重慶 400065

本文討論含有Sobolev臨界指數(shù)項的分?jǐn)?shù)階p-q型橢圓系統(tǒng)

(1)

形如方程組(1)的分?jǐn)?shù)階橢圓邊值問題具有很強(qiáng)的物理背景和廣闊的應(yīng)用前景，廣泛應(yīng)用于諸多領(lǐng)域，例如反常擴(kuò)散問題、極小曲面問題、最優(yōu)化問題、相變問題等[1-2]．

近年來，p-q型臨界橢圓邊值問題受到了學(xué)者們的廣泛關(guān)注．例如文獻(xiàn)[3]討論了p-q型橢圓耦合系統(tǒng)

(2)

其中Ω?RN是包含原點(diǎn)的有界光滑區(qū)域，10，α，β>1滿足α+β=p*，p*是Sobolev臨界指數(shù)．應(yīng)用山路引理和Lusternik-Schnirelmann(簡稱LS)疇數(shù)理論，得到了在一定條件下問題(2)至少存在cat(Ω)個正解．有關(guān)帶有臨界指數(shù)項的結(jié)論還可參見文獻(xiàn)[4-10]．

近年來，分?jǐn)?shù)階臨界橢圓邊值問題引起了人們的廣泛興趣，目前已獲得了一定的研究成果[11-17]．例如文獻(xiàn)[14]研究了分?jǐn)?shù)階p-q型橢圓耦合系統(tǒng)

(3)

研究方程組(1)的主要困難在于：一方面，方程組(1)含有Sobolev臨界指數(shù)項，使得對應(yīng)的能量泛函失去緊性；另一方面，p-q型方程沒有p-Laplace方程的齊次性，從而通常的變分方法和分析技巧受到很大的限制．本文應(yīng)用山路引理克服了上述困難．

設(shè)a(x)，b(x)，H滿足下述條件：

(H2)H(-ζ，-τ)=H(ζ，τ)，?(ζ，τ)∈R2；

全文中，設(shè)Ω?RN為有界光滑區(qū)域，s∈(0，1)，p>1，C，C1均代表正常數(shù)．用Xs，p(Ω)表示通常的分?jǐn)?shù)階Sobolev空間，

其范數(shù)定義為

設(shè)乘積空間

這兩個Banach空間的范數(shù)分別定義為

令空間E=Wp∩Wq，賦以范數(shù)

‖(u，v)‖E=‖(u，v)‖s，p+‖(u，v)‖s，q

下面我們定義分?jǐn)?shù)階Sobolev最佳臨界常數(shù)

(4)

(5)

證該證明與文獻(xiàn)[18]中引理3.2的證明類似．

(6)

容易驗證J(u，v)∈C1(E，R)，從而泛函J(u，v)在E中的臨界點(diǎn)對應(yīng)于方程組(1)的弱解．我們稱(u，v)∈E是方程組(1)的弱解，當(dāng)且僅當(dāng)對?(φ，ψ)∈E，都有

(7)

其中

引理2若{(un，vn)}?E是J(u，v)的(PS)c序列，則{(un，vn)}在E中有界．

證若{(un，vn)}?E是J(u，v)的(PS)c序列，則有

(8)

應(yīng)用反證法，假設(shè)當(dāng)n→∞時，有‖(un，vn)‖E→∞．下面將分3種情況進(jìn)行討論：

由此可知‖(un，vn)‖E有界，矛盾．

情形2 ‖(un，vn)‖s，p有界，‖(un，vn)‖s，q→∞．根據(jù)(8)式，可知

從而可知

情形3 ‖(un，vn)‖s，p→∞，‖(un，vn)‖s，q有界．與情形2同理，矛盾．

引理3若{(un，vn)}?E是J(u，v)的(PS)c序列，且在E中有(un，vn)?(u，v)，則有J′(u，v)=0和J(u，v)>0．

證由文獻(xiàn)[11]的引理3.3可知，J′(u，v)=0，即

(9)

(10)

成立，那么泛函J在E中滿足(PS)c條件．

證設(shè){(un，vn)}?E是J(u，v)的(PS)c序列，即滿足

(11)

(12)

由引理2和引理3可知，{(un，vn)}在E中有界，從而{(un，vn)}存在子列(仍記為{(un，vn)})，在E中有(un，vn)?(u，v)，且(u，v)是J(u，v)的一個臨界點(diǎn)．當(dāng)n→∞時，有

un→u，vn→va.e.x∈RN

并且當(dāng)n→∞時，由Lebesgue控制收斂定理可知

(13)

(14)

和

(15)

同時，對任意的(φ，ψ)∈E，若有

那么(u，v)∈E是方程組(1)的弱解，將(13)-(15)式代入(11)和(12)式，可得

(16)

(17)

不失一般性，設(shè)

由(5)和(17)式可知

(18)

這與(10)式矛盾，由此可知a=0，在E中有(un，vn)→(u，v)，引理4得證．

證證明與文獻(xiàn)[15]中引理4.1、引理4.2、定理1.2的證明類似．

證顯然J(0，0)=0成立．由(5)和(17)式可知

因此，存在常數(shù)ρ，β>0，使得對所有滿足‖(u，v)‖s，p=ρ的(u，v)，都有J(u，v)≥β成立．

當(dāng)t→∞時，J(tu，tv)→-∞，因此存在t0>0，使得當(dāng)‖(t0u，t0v)‖s，p>ρ時，有J(t0u，t0v)<0．令(u0，v0)=(t0u，t0v)，則有成立．

Γ={γ∈C([0，1]，E)：γ(0)=0，γ(1)=e}

再結(jié)合引理4，可得泛函J的一個臨界點(diǎn)(u1，v1)，因為J(u1，v1)=c1>0，故(u1，v1)是方程組(1)的非平凡解．