金少華,盧芳,陳秀引,王東
(河北工業(yè)大學(xué)理學(xué)院,天津300401)
非齊次樹(shù)上馬氏信源的一類Shannon-McMillan定理
金少華,盧芳,陳秀引,王東
(河北工業(yè)大學(xué)理學(xué)院,天津300401)
通過(guò)構(gòu)造適當(dāng)?shù)姆秦?fù)鞅,將Doob鞅收斂定理應(yīng)用于幾乎處處收斂的研究,給出了非齊次樹(shù)上m重非齊次馬氏信源的一類Shannon-McMillan定理.
非齊次樹(shù);鞅;馬氏信源;Shannon-McMillan定理
樹(shù)指標(biāo)隨機(jī)過(guò)程已成為近年來(lái)發(fā)展起來(lái)的概率論的研究方向之一.強(qiáng)極限定理一直是國(guó)際概率論界研究的中心課題之一.文獻(xiàn)[1]利用隨機(jī)變量的截尾方法,給出了H可積下的相依隨機(jī)變量和的完全收斂定理以及強(qiáng)大數(shù)定理.文獻(xiàn)[2]利用ND隨機(jī)變量序列的矩不等式、極大值不等式以及隨機(jī)變量的截尾方法,研究了ND隨機(jī)變量序列部分和的大偏差結(jié)果和強(qiáng)收斂性.文獻(xiàn)[3]研究了兩兩NQD序列部分和完全收斂性的較一般形式,通過(guò)NQD序列的截尾方法以及相關(guān)引理,在較寬泛的條件下得到了一類較為廣泛的完全收斂性的結(jié)果.文獻(xiàn)[4]研究了一類隨機(jī)適應(yīng)序列部分和的一類新的局部極限定理,得出了一些新結(jié)果,并進(jìn)一步推廣了Borel-Cantelli引理.文獻(xiàn)[5]利用兩兩NQD列三級(jí)數(shù)定理的思想和Chebyshev不等式,研究了兩兩NQD列在一類廣泛條件下的弱大數(shù)定理和一類加強(qiáng)條件下的強(qiáng)大數(shù)定理,得到了與獨(dú)立情形一致的結(jié)果,還特別討論了同分布情形,推廣了相關(guān)文獻(xiàn)的結(jié)果.文獻(xiàn)[6]給出了樹(shù)指標(biāo)馬氏鏈的定義并研究了其常返性及角常返性.文獻(xiàn)[7]研究了齊次樹(shù)上某些平穩(wěn)隨機(jī)場(chǎng)的熵率.文獻(xiàn)[8]定義了在任意狀態(tài)空間取值的二叉樹(shù)上的分枝馬氏鏈,并研究了其極限定理.文獻(xiàn)[9]給出了Bethe樹(shù)上非齊次馬爾科夫隨機(jī)場(chǎng)的一類偏差定理.文獻(xiàn)[10]首先給出了在可列狀態(tài)空間取值的二叉樹(shù)上分枝馬氏鏈定義的離散形式,然后建立了二叉樹(shù)上分枝馬氏鏈的若干強(qiáng)極限定理,最后研究了二叉樹(shù)上有限狀態(tài)分枝馬氏鏈的強(qiáng)大數(shù)定理.文獻(xiàn)[11]研究給出了非齊次樹(shù)上二重馬爾可夫鏈的若干強(qiáng)極限定理.本文通過(guò)構(gòu)造適當(dāng)?shù)姆秦?fù)鞅,將Doob鞅收斂定理應(yīng)用于幾乎處處收斂的研究,給出了非齊次樹(shù)上m重非齊次馬氏信源的一類Shannon-McMillan定理.
設(shè)T是一個(gè)具有根頂點(diǎn)O的無(wú)限樹(shù),{Nn,n≥1}是一列正整數(shù)集,如果第n(n≥0)層上的每個(gè)頂點(diǎn)均與第n+1層上的Nn+1個(gè)頂點(diǎn)相鄰,則稱T為廣義Bethe樹(shù)或廣義Cayley樹(shù).特別地,若對(duì)非負(fù)整數(shù)集N,用模m的同余關(guān)系對(duì)其分類得到模m的剩余類:
當(dāng)n∈(i)時(shí),令Nn+1=αi(αi均為正整數(shù)且不同時(shí)為1,i=0,1,2,···,m?1),就得到了一類特殊的非齊次樹(shù)Tα0,α1,··,αm?1.
以下恒以T表示樹(shù)Tα0,α1,··,αm?1,以Ln表示第n(n≥0)層上所有頂點(diǎn)的子圖,Tn表示含有從頂點(diǎn)O到第n層上所有頂點(diǎn)的子圖.S(t)表示頂點(diǎn)t的所有子代的子圖.
定義2.1[12]設(shè)(?,F,P)為一概率空間,Tn表示樹(shù)T上含有從o頂點(diǎn)到第n層上所有頂點(diǎn)的子圖,|Tn|表示子圖Tn的所有頂點(diǎn)數(shù).{Xσ,σ∈T}是定義在該概率空間并于字母集S={s1,s2,···}上取值的任意信源,其聯(lián)合分布為:
令則稱fn(ω)為{Xσ,σ∈T}的相對(duì)熵密度.
相對(duì)熵密度f(wàn)n(ω)的極限性質(zhì)在信息論中稱為Shannon-McMillan定理或信源的漸近均分割性,是信息論編碼的基礎(chǔ).
定義2.2[13]如果存在STm?1上的分布
和一列定義在Sm+1上的條件概率組
使得?σ,τ∈T,σ∈Ln,有
且
則稱{Xσ,σ∈T}為具有初始分布(3)與轉(zhuǎn)移矩陣列(4)的在S上取值的樹(shù)T上的m重非齊次馬爾可夫鏈.
在上述定義下,樹(shù)T上的非齊次馬爾可夫鏈的聯(lián)合分布為:
從而有
定義2.3[14]設(shè)
稱Hk(Xξk|Xξk?m,···,Xξk?1)為Xξk關(guān)于Xξk?m,···,Xξk?1的隨機(jī)條件熵.
引理3.1設(shè){Xσ,σ∈T}為具有初始分布(3)與轉(zhuǎn)移矩陣列(4)的取值于S的樹(shù)T上的m重非齊次馬爾可夫鏈,λ為一常數(shù),令
則{tn(λ,ω),σ(XTn),n≥m}是一非負(fù)鞅.
證明由于P(XLn=xLn|XTn?1=xTn?1)所以有
而
即
從而{tn(λ,ω),σ(XTn),n≥m}是一非負(fù)鞅.
定理3.1設(shè){Xσ,σ∈T}為具有初始分布(3)與轉(zhuǎn)移矩陣列(4)且具有聯(lián)合分布(7)的非齊次樹(shù)T上的m重非齊次馬氏信源,fn(ω)與Hk(Xξk|Xξk?m,···,Xξk?1)分別由(8)式
和(9)式定義,設(shè)α>0,令
則有
證明取(?,F,P)為所考慮的概率空間,由引理3.1知對(duì)任意的常數(shù)λ,
是一非負(fù)鞅.故由Doob鞅收斂定理知,存在A(λ)∈F,P(A(λ))=1,使得
由(13)式與(17)式,有
由(18)式,上極限的性質(zhì)
不等式
以及不等式
有
取0 因函數(shù)g(x)=(lnx)2xh,h>0,在處達(dá)到區(qū)間(0,1]上的最大值故有 當(dāng)0<λ 取0<λi<α(i=1,2···),使得λi→0(i→∞).則對(duì)一切正整數(shù)i,由(22)式,有 類似地,當(dāng)?α 與(23)式類似,可證得 由(23)式與(25)式,有 又由(9)式,有 于是由(26)式,有 推論3.1設(shè){Xσ,σ∈T}為具有初始分布(3)與轉(zhuǎn)移矩陣列(4)且具有聯(lián)合分布(7)的非齊次樹(shù)T上的m重非齊次馬氏信源,fn(ω)與Hk(Xξk|Xξk?m,···,Xξk?1)分別由(8)式和(9)式定義,設(shè)α>0,令 則有 證明當(dāng)0<|λ|<α?xí)r,由定理3.1證明中的(19)式,即 當(dāng)0<λ<α?xí)r,將(29)式兩端同除以λ,得 取0<λi<α(i=1,2,···),使得λi→0(i→∞).則對(duì)一切正整數(shù)i,由(30)式,有 類似地,當(dāng)?α<λ<0時(shí),將(29)式兩端同除以λ,得 由(31)式和(32)式,有 由(33)式和(9)式,有(28)式成立. 參考文獻(xiàn) [1] 施明華,周本達(dá),趙建中等.H可積下的相依隨機(jī)變量和的完全收斂性質(zhì)[J].純粹數(shù)學(xué)與應(yīng)用數(shù)學(xué), 2013,29(4):364-372. [2] 李旭,王學(xué)軍,劉小濤等.ND序列部分和的大偏差和強(qiáng)收斂性[J].純粹數(shù)學(xué)與應(yīng)用數(shù)學(xué),2011,27(6):808-813. [3] 施建華,林影.關(guān)于兩兩NQD序列部分和的完全收斂性[J].純粹數(shù)學(xué)與應(yīng)用數(shù)學(xué),2012,28(4):483-492. [4] 薛秀梅,楊衛(wèi)國(guó).一類隨機(jī)適應(yīng)序列部分和的局部極限定理的一個(gè)注記[J].純粹數(shù)學(xué)與應(yīng)用數(shù)學(xué),2013,29(2):172-178. [5] 王志剛,歐宜貴.兩兩NQD列大數(shù)定律的一個(gè)注記[J].純粹數(shù)學(xué)與應(yīng)用數(shù)學(xué),2011,27(5):592-599. [6] Benjamini I,Peres Y.Markov chains indexed by trees[J].Ann.Probab.,1994,22:219-243. [7] Berger T,Ye Z.Entropic aspects of random fi elds on trees[J].IEEE Trans.Inform.Theory,1990,36:1006-1018. [8] Guyon J.Limit theorems for bifurcating Markov chains.Application to the detection of cellular aging[J]. Ann.Appl.Probab.,2007,17:1538-1569. [9] Yang W G.A class of deviation theorems for the random fi elds associated with nonhomogeneous Markov chains indexed by a Bethe tree[J].Stochastic Analysis and Applications,2012,30(2):220-237. [10] 黨慧,楊衛(wèi)國(guó),高榮,等.二叉樹(shù)上分枝馬氏鏈的強(qiáng)大數(shù)定理[J].純粹數(shù)學(xué)與應(yīng)用數(shù)學(xué),2013,29(5):529-535. [11] 金少華,霍艷,崔春紅,等.一類特殊非齊次樹(shù)上二重馬爾可夫鏈的若干強(qiáng)極限定理[J].數(shù)學(xué)的實(shí)踐與認(rèn)識(shí), 2013,43(2):218-223. [12] 金少華,呂潔.一類非齊次樹(shù)上非齊次馬氏信源的Shannon-McMillan定理[J].河北工業(yè)大學(xué)學(xué)報(bào), 2012,41(2):19-22. [13] 金少華,宛艷萍,陳秀引,等.非齊次樹(shù)上m階非齊次馬氏鏈的一類強(qiáng)偏差定理[J].河北工業(yè)大學(xué)學(xué)報(bào), 2013,42(2):61-66. [14] 王康康.任意信源關(guān)于賭博系統(tǒng)的一類Shannon-McMillan定理[J].純粹數(shù)學(xué)與應(yīng)用數(shù)學(xué),2008,24(2):353-357. A class of Shannon-McMillan theorems for Markov information source on a non-homogeneous tree Jin Shaohua,Lu Fang,Chen Xiuyin,Wang Dong In this paper,by constructing non-negative martingales and appliying Doob′s martingale convergence theorem to the research of a.e.convergence,a class of Shannon-McMillan theorems for m-order non-homogeneous Markov information source on a non-homogeneous tree are given. non-homogeneous tree,martingale,Markov information source,Shannon-McMillan theorem O177.91 A 1008-5513(2014)04-0331-10 10.3969/j.issn.1008-5513.2014.04.001 2014-01-30. 河北省高等學(xué)??茖W(xué)技術(shù)研究重點(diǎn)項(xiàng)目(ZD2014051). 金少華(1965-),博士,教授,研究方向:概率極限理論. 2010 MSC:60B12
(College of Science,Hebei University of Technology,Tianjin300401,China)
——以魯?shù)榈卣鹣嚓P(guān)新浪微博為例