王康康,宗德才,孟義平
(1.江蘇科技大學(xué)數(shù)理學(xué)院,江蘇鎮(zhèn)江212003)(2.常熟理工學(xué)院 計(jì)算機(jī)科學(xué)與工程學(xué)院,江蘇常熟215500)(3.上海交通大學(xué)數(shù)學(xué)系,上海200240)
設(shè){Xn,n≥0}為定義在概率空間(Ω,F(xiàn),P)上并于S={1,2,…,N}上取值的任意隨機(jī)變量序列,其聯(lián)合分布為
如果{Xn,n≥0}為m階非齊次馬氏鏈,其m維初始分布與m階轉(zhuǎn)移概率分別為
則有
馬氏鏈的極限理論是馬爾可夫過程研究的基本領(lǐng)域之一.眾所周知,對(duì)齊次馬氏鏈的極限定理已經(jīng)有相當(dāng)完善的結(jié)果.近幾十年來,廣大學(xué)者對(duì)非齊次馬氏鏈的極限理論和遍歷性展開了大量研究,取得了深入的結(jié)果.如文獻(xiàn)[1]中討論了可列非齊次馬氏鏈相對(duì)頻率的兩個(gè)不等式;文獻(xiàn)[2]中討論了可列非齊次馬氏鏈泛函的一類強(qiáng)極限定理;文獻(xiàn)[3-4]中研究了非齊次馬氏鏈的漸近均勻分割性及Shannon-Mcmillan定理;文獻(xiàn)[5]中研究了非齊次馬氏鏈隨機(jī)轉(zhuǎn)移概率的強(qiáng)極限定理;最近,文獻(xiàn)[6]中也對(duì)非齊次馬氏鏈隨機(jī)和的強(qiáng)偏差定理作了一些研究.
高階馬爾可夫鏈?zhǔn)且话泷R爾可夫鏈概念的自然推廣,隨著馬氏鏈理論的不斷發(fā)展和應(yīng)用,人們對(duì)高階馬爾可夫鏈的理論和應(yīng)用也越來越有興趣,如信息論中關(guān)于Shannon-McMillan定理的研究便是其核心問題之一.而高階馬爾可夫鏈也是一類非常重要的信源,如語(yǔ)聲,電視信號(hào)等往往都是高階馬爾可夫信源.因此,研究高階馬爾可夫鏈的強(qiáng)極限理論具有非常廣泛的理論和實(shí)際意義.文獻(xiàn)[7]中首先研究了二重非齊次馬氏鏈泛函關(guān)于可預(yù)報(bào)序列的若干極限定理及AEP性質(zhì);文獻(xiàn)[8]中討論了m階非齊次馬氏鏈的一些Shannon-Mcmillan定理;其后,文獻(xiàn)[9]又對(duì)m階非齊次馬氏鏈的一類Shannon-Mcmillan隨機(jī)偏差定理做了進(jìn)一步討論.
文中采用條件矩母函數(shù)與構(gòu)造非負(fù)鞅相結(jié)合的方法,研究m階非齊次馬氏鏈多元函數(shù)關(guān)于廣義賭博系統(tǒng)的一類強(qiáng)極限定理.通過允許選擇函數(shù)在任意區(qū)間中取值,推廣了隨機(jī)選擇的概念.作為推論得到了一般情況下m階非齊次馬氏鏈多元函數(shù)的強(qiáng)極限定理以及m元狀態(tài)序組關(guān)于廣義隨機(jī)賭博系統(tǒng)的一類強(qiáng)極限定理.
定義 給出廣義隨機(jī)選擇的概念,即對(duì)于一組定義在 Sn(n=1,2,…)上并取值于任意區(qū)間[a,b](a,b∈R)的非負(fù)實(shí)值函數(shù)列 fn(x0,…,xn).令
那么 fn(x0,…,xn)稱為選擇函數(shù),{Yn,n≥0}稱為廣義賭博系統(tǒng)或廣義隨機(jī)選擇系統(tǒng)(傳統(tǒng)的隨機(jī)選擇系統(tǒng)取值于兩點(diǎn)集{0,1}).
定理1 設(shè){Xn,n≥0}為具有m維初始分布(2)與m階轉(zhuǎn)移概率(3)的m階非齊次馬氏鏈.{Yn,n≥0}如前定義.g(x0,…,xm)為定義在 Sm+1上的任意實(shí)值函數(shù).如果選擇函數(shù)fn(n≥m)均在任意有限區(qū)間[a,b]中取值,
則有
證明:考慮概率空間(Ω,F(xiàn),P),設(shè)s>0為常數(shù).令
Pk(s,xk-m,…,xk-1)稱為在條件 Xk-m=xk-m,…,Xk-1=xk-1下 Ykg(Xk-m,…,Xk)的條件矩母函數(shù).
令
由式(9~11)可知
則 q(s,x0,…,xn),n=1,2,…是 Sn上的一組相容分布.令
由于{Tn(s,ω),n≥1}是 a.s.收斂的非負(fù)上鞅,故由 Doob鞅收斂定理[10]有
因而由式(7)有
由式(4,10~11,13)有
由式(15,16)有
根據(jù)上極限的性質(zhì)
并注意到 G=max{|a|,|b|},存在,且|Yk|≤G,M=max{g(x0…xm),x0…xm∈S},由式(17)有
a.s.ω∈D (20)
設(shè)s>1,由式(20)有
取si>1,i=1,2,…,使si→1(i→∞ 時(shí)),則對(duì)所有的i,由式(21)有
設(shè)0<s<1,由式(20)有
取0 <si<1,i=1,2,…,使si→1(i→∞時(shí)),那么對(duì)所有 i,由式(23)有
于是由式(22,24)有
即證式(8)成立.
推論1 設(shè){Xn,n≥0}為具有m維初始分布(2)與m階轉(zhuǎn)移概率(3)的m階非齊次馬氏鏈.g(x0,…,xm)如定理1中所定義.則有
證明:在定理1中令 fn≡1,則 Yn≡1,.即有 D=Ω.
于是由式(8)即可得式(26).
設(shè)σn(i0,…,im)表示被選擇函數(shù) Yk(m≤k≤n)選出的m+1元序組的序列(X0,…,Xm),(X1,…,Xm+1),…,(Xn-m,…,Xn)中 (i0,…,im)出現(xiàn)的次數(shù).即
式中:
則有如下結(jié)論:
定理2 設(shè){Xn,n≥0}為具有m維初始分布(2)與m階轉(zhuǎn)移概率(3)的非齊次m階馬氏鏈.σn(i0,…,im),{Yn,n≥0}如前定義.則有證明:在定理 1 中令 g(Xk-m,…,Xk)=
δi0…im(Xk-m,…,Xk),注意到
n
于是由式(28,8)即可得(27)成立.
推論2設(shè){Xn,n≥0}為具有m維初始分布(2)與m階轉(zhuǎn)移概率(3)的m階非齊次馬氏鏈.設(shè)Sn(i0,…,im)表示(i0,…,im)在 m+1 元序組(X0,…,Xm),(X1,…,Xm+1),…,(Xn-m,…,Xn)中出現(xiàn)的次數(shù).即
則有
證明:在定理2 中令Yn≡1,即有 σn(i0,…,im)=Sn(i0,…,im),D=Ω.由式(27)便可得式(30)成立.
定理3 設(shè){Xn,n≥0}為具有m維初始分布(2)與m階轉(zhuǎn)移概率(3)的m階非齊次馬氏鏈.{Yn,n≥1}如上定義.記 σn(im)為隨機(jī)選擇系統(tǒng)Yk(0≤k≤n)選出的隨機(jī)序列(X0,…,Xn)中狀態(tài)im出現(xiàn)的次數(shù).即).則有
證明:在定理 1 中令 g(Xk-m,…,Xk)=δim(Xk),注意到
于是由式(8,32)可得式(31)成立.
推論3 設(shè){Xn,n≥0}如定理2所定義.記Sn(im)為狀態(tài)im在隨機(jī)序列(X0,…,Xn)中出現(xiàn)的次數(shù).即.則有
證明:在定理3中令 Yn≡1,n≥0.即有σn(im)=Sn(im),D=Ω.于是由式(31)即可得式(33)成立.
References)
[1]Liu Wen.A strong limit theorem for arbitrary countable nonhomogeneous Markov chains[J].Chinese J Math,1996,24(3):211 -232.
[2]Liu Wen,Liu Guoxin.A class of strong laws for for functions of countable nonhomogeneous Markov chains[J].Stat Probab Letts,1995(22):87 -96.
[3]劉文,楊衛(wèi)國(guó).關(guān)于非齊次馬氏信源的漸近均分割性[J].應(yīng)用概率統(tǒng)計(jì),1997,13(4):359 -366.Liu Wen,Yang Weiguo.The asymptotic equipartition property for the nonhomogeneous Markov chain[J].Chinese Journal of Probability and Statistics,1997,13(4):359 -366.(in Chinese)
[4]Liu Wen,Yang Weiguo.An extension of Shannon - Mcmillan theorem and some limit properties for nonhomogeneous Markov chains[J].Stochastic Process Appl,1996,61:129-145
[5]Liu Wen.A strong limit theorem for the harmonic mean of the random transition probabilities of finite nonhomogeneous Markov chains[J].Acta Math Sci,2000,20(1):81-84.
[6]Wang Kangkang,Chen Qing.A class of random approximation theorems for random sums of arbitrary stochastic sequence on nonhomogeneous Markov chains[J].Journal of Mathematical Research and Exposition,2009,29(6):1022-1028.
[7]Wang Zhongzhi,Yang Weiguo.Some strong limit theorems for both nonhomogeneous Markov chains of order two and their random transforms[J].J Sys Sci & Math Scis,2004,24(4):451 -462.
[8]王康康,李芳.m階非齊次馬氏信源的一類Shannon-Mcmillan定理[J].江蘇科技大學(xué)學(xué)報(bào):自然科學(xué)版,2009,23(2):176-178.Wang Kangkang,Li Fang.A class of Shannon-Mcmillan theormes for mth-order nonhomogeneous Markov information source[J].Journal of Jiangsu University of Science and Technology:Natural Science Edition,2009,23(2)176 -178.(in Chinese)
[9] Wang Kangkang.Some research on Shannon-McMillan theorem for mth-order nonhomogeneous Markov information source[J].Stochastic Analysis and Applications,2009,27(6):1117 -1128.
[10]Chung K L.A course in probability theory[M].2nd.New York:Academic Press,1974:354.