随机过程的基本概念和基本类型.docx
- 文档编号:9230779
- 上传时间:2023-05-17
- 格式:DOCX
- 页数:16
- 大小:86.12KB
随机过程的基本概念和基本类型.docx
《随机过程的基本概念和基本类型.docx》由会员分享,可在线阅读,更多相关《随机过程的基本概念和基本类型.docx(16页珍藏版)》请在冰点文库上搜索。
随机过程的基本概念和基本类型
第二章随机过程的基本概念和基本类型
教学目的:
(1)掌握随机过程的定义;
(2)了解有限维分布族和Kolmogorov定理;
(3)掌握独立增量过程和独立平稳增量过程概念。
教学重点:
(1)有限维分布和Kolmogorov定理;
(2)随机过程的基本类型。
教学难点:
(1)有限维分布和Kolmogorov定理。
2.1基本概念
教学目的:
掌握随机过程的定义;了解随机过程的按状态集和参数的分类
教学重点:
随机过程的定义。
在概率论中,我们研究了随机变量,n维随机向量。
在极限定理中,我们研
究了无穷多个随机变量,但局限在它们相互独立的情形。
将上述情形加以推广,
即研究一族无穷多个、相互有关的随机变量,这就是随机过程。
定义2.1:
设W,2,P)是一概率空间,对每一个参数rT,X(t「)是一定义在概率空间(H,P)上的随机变量,则称随机变量族Xt二{X(t,,);tT},为该概率空间上的一随机过程。
T称为参数集。
随机过程的两种描述方法:
用映射表示Xt,X(t,「):
T注〕—;R,即X(,)是一定义在T门上的二元单值函数,固定LT,X(t,)是一定义在样本空间门上的函数,即为一随机变量;对于固定的「°,",X(t「0)是一个关于参数rT的函数,通常称为样本函数,或称随机过程的一次实现。
记号X(t,「)有时记为Xt()或简
记为X(t).参数T一般表示时间或空间。
参数常用的一般有:
(1)T=No={0,1,2,…},此时称之为随机序列或时间序列.随机序列写为{X(n).
随机过程分为以下四类:
(1)离散参数离散型随机过程;
(2)连续参数离散型随机过程;
(3)连续参数连续型随机过程;
(4)离散参数连续型随机过程。
以随机过程的统计特征或概率特征的分类,一般有:
独立增量过程;
二阶矩过程;
平稳过程;
Poission过程;更新过程;
Markov过程;
鞅;
维纳过程。
随机过程举例
例2.1随机游动:
一醉汉在路上行走,以概率p前进一步,以概率1-p后退一步(假设其步长相同),以X(t)记他在t时刻在路上的位置,则X(t)就是直线上的随机游动•
例2.2抛掷一枚硬币,样本空间为S二{H,T}定义:
其中P{H}二P{T}=1/2,则{X(t),r(-:
:
,=)}是一随机过程
例2.3Brown运动:
英国植物学家Brown注意到漂浮在液面上的微小粒子不断进行无规则的运动,这种运动后来称为Brown运动。
同时分子大量随机
碰撞的结果。
记(X(t),Y(t))为粒子在平面坐标上的位置,则它是平面上的
Brown运动。
2.2有限维分布与Kolmogvrov定理
教学目的:
掌握随机过程有限维分布函数的定义和性质;会求随机过程的均值函
数、协方差函数、方差函数、自相关函数;了解Kolmogvrov定理。
教学重点:
随机过程的有限维分布函数;随机过程的数字特征(均值函数、协方差函数、方差函数、自相关函数)。
教学难点:
随机过程有限维分布;Kolmogvrov定理。
、随机过程的分布函数
1.一维分布函数
设X(t)是一随机过程,称Ft(x)』F(t,x)二P{X(t)空x}为{X(t)}的一维分布函数.
x
若mf(t,x)臭0,使得Ft(x)=F(t,x)=[f(t,y)dy则称f(t,x)为{X(t)}的一
维概率密度•
2.二维分布函数
设二维随机向量{(X(tJ,X(t2))(Z)T},
Fti,t2(xi,x2^jF(ti,t2,xz)=P{X(ti) 称为二维随机向量(X(t1),X(t2))的分布函数。 卄Xix2 若mf(ti,t2,Xi,X2)=0,Fgdix)=F(ti,t2,Xi,X2)=JJf(ti,t2,yi,y2)dyidy2 -o0-SQ 则称f(ti,t2,Xi,X2)为二维概率密度. 3.n维分布函数 n维随机向量(X(tJ,X(t2),,X(tn))的联合分布函数为 Fti;,tn(Xi,,Xn)]F(ti,,tn;Xi,,Xn) =P{X(ti)乞Xi,,X(tn)乞Xn} 若f魚,乙;为,X)—0, Ft: ;tn(Xi,…几)=F(ti,…占*,…,Xn) XiXn =-QLMi,…,人;%,…』n)dyi…dyn 称为n维随机向量(X(ti),X(t2)/,X(tn))的n维分布函数.则称f(ti/,tn;xi/,xn) 为n维概率密度. 4.有限维分布族 一维、二维,…,n维分布函数的全体: {%,•,仁心,Xn),ti,,t「T,n—1} 称为有限维分布族 5.有限维分布族的性质 ⑴对称性 Ft"’/’")界(5,心;$,") 二P{X(tji)g,,X(tJ沁J.} 二P{X(tJ»,,X(tn)EXn} =Ft「•;tn(Xi,…,Xn)=F(ti,…,tn;Xi,…,Xn) (2)相容性 对于m: : : n有 Ftji,…‘Mm1;…'J(Xl;;Xm;: -,,: -)=Fj;•g(为,-Xm) 注1: 随机过程的统计特性完全由它的有限维分布族决定。 注2: 有限维分布族与有限维特征函数族相互唯一确定。 问题: 一个随机过程{X(t);t・T}的有限维分布族,是否描述了该过程的全部概 率特性? 定理: (Kolmogorov存在性定理) 设分布函数族{%人侥'…,人),鮎'…,tn•T,n_1}满足以上提到的对称性和相容性, 则必有一随机过程{X(t);"T},使{%,…切(心…x),齐…,t,T,n“恰好是{X(t);tT}的有限维分布族,即: Ft’,4(X1,必)二P{X(t1)—x1,公化)-Xn} 定理说明: {X(t);rT}的有限维分布族包含了{X(t);rT}的所有概率信息。 2.4袋中有一个白球,两个红球,每隔单位时间从袋中任取一球后放回,对每一个确定的t对应随机变量 x(t)占如果对t时取得红球 et如果对t时取得白球 试求这个随机过程的一维分布函数族. 例2.5利用抛掷硬币的试验定义一个随机过程 设出现正面反面的概率是相同的 (1)写出X(t)的所有样本函数(实现); 1 (2)写出X(t)的以为分布函数R(x;—)和Fi(x;1). 2 Kolmogorov定理说明,随机过程的有限维分布族是随机过程概率特征的完整描述,但在实际问题中,要知道随机过程的全部有限维分布族是不可能的。 因此,人们想到了用随机过程的某些特征来刻画随机过程的概率特征。 二、随机过程的数字特征 1.均值函数 随机过程{X(t);t・T}的均值函数定义为: (假设是存在的) \(t)? m(t)二E{X(t)} 注: m(t)是X(t)的所有样本函数在时刻t的函数值的平均,它表示随机过程X(t) 在时刻t的摆动中心。 2.方差函数 随机过程{X(t);rT}的方差函数定义为: D(X(t))二E{[X(t)」x(t)]2}=E{[X(t)—m(t)]2} 注1均方差函数匚(t).D(t)表示X(t)在各个时刻t对于均值m(t)的偏离程度。 注2: 若-tT,E[X2(t)],称{X(t)}是二阶矩过程。 3.(自)协方差函数 X(t),t,,t^T的状态X(tJ,X(t2)的二阶中心混合矩 X(ti,t2)? E{[X(tJ-md)]]X(t2)-m(t2)]} X(t)的自协方差函数,简称协方差函数。 当ti%时,D[X(t)]二Var[X(t)]=x(t,t)=E[X(t)-m(t)]2 =E[X(t)-E(X(t))]2二E[X(t)]2-[E(X(t))]2 4.(自)相关函数 X(t),tit,T的状态X(ti),X(t2)的二阶原点混合矩 Rx(tit)? E[X(tJX(t2)]X(t)的自相关函数,简称相关函数 注1: 当E[X(t)]二m(t)=0时,RX(ti,t2)=xZ 注2: x(ti,t2)=Rx(ti,t2)-m(ti)m(t2) 注3: x(ti,t2)及Rx(ti,t2)反映了随机过程X(t)在时刻ti和t2时的线性相关程度。 注4: 对两个随机过程的关系,要引进互协方差函数或互相关函数来描述它们的线性关系。 5.(互)协方差函数 设{X(t),tT},{Y(t),tT}是两个二阶矩过程,则称 xYdt)? E{[X(tJ-mx(tJ][Y(t2)-mjt2)]} X(t),Y(t)的互协方差函数。 其中: mx(t)=E[X(t)],g(t)=E[Y(t)] 6.互相关函数 RxY(tit)? E[X(tJY(t2)]X(t),Y(t)的互相关函数。 注: XY魚,t2)=RxY(tl,t2)-mx(tl)mY(t2) 7.互不相关 若XY(tl,t2)=0,称X(t),Y(t)互不相关。 注: 若X(t),Y(t)互不相关,贝U RXY(t1,t2)=mx(t1)mY(t2) 即E[X(tJ丫仇)]=E[X(ti)]E[丫仇)] 8.特征函数 记: X(U1,U2,,Un;t1,t2,,tn)? E{exp{心梯(tj®Xg]}} 称・x(U1,U2,…,Un;t1,t2,…,tn),t1,t2/,t^T,n_仁为随机过程{X(t)tT}的有限维特征函数族。 例2.6设随机过程X(t)二Ucos2t,其中U是随机变量,且E(U)=5,D(U)=5.求: (1)均值函数; (2)协方差函数;(3)方差函数. 例2.7设有两个随机过程X(t)二Ut2,Y(t)二Ut3,其中U是随机变量,且D(U)=5. 试求它们的互协方差函数。 作业1设A,B是两个随机变量,试求随机过程X(t)二At3B,tT=(-: : 「: )的均值 函数和自相关函数若A,B相互独立,且A~N(1,4),B~U(0,2),则mX(t)及RX(t,,t2) 为多少? 2.3随机过程的基本类型 教学目的: 了解严平稳过程的定义;掌握宽平稳过程的定义,会判断一个随机过程是否是宽平稳过程;掌握均值遍历性定理;了解协方差函数遍历性定理;掌握独立增量过程和平稳增量过程的定义。 教学重点: 宽平稳过程的判定;均值遍历性定理;独立增量过程和平稳增量过程的定义。 教学难点: 宽平稳过程的判定;均值遍历性定理;协方差函数遍历性定理; 一、严平稳过程 定义1: 设随机过程{X(t),rT},若对-n(n=1,2,时,,t「T和任意实数•,当t,t^T时,(X(tJ,…,X(tn))和(X(t! 「),…,x(t「•))有相同的分布函 数,即卩 Fg,tn;X! ,…,Xn^P{X(t1^X1/,X(tn)乞Xn} 二P{X(b)/,,X(tnRXn} =F(ti.,九必,,人) 贝则{X(t),tT}称为严平稳过程. 平稳过程的参数T: ”可以是连续的,如"[0,址),(亠,址) 、可以是离散的,如t亡{0+1竝,…},{0,1,2,…} 二、严平稳过程的特点 1•严平稳过程X(t)的一维概率密度f(t;X)与t无关;二维概率密度f(ti,t2;Xi,X2)仅与 -=鮎-t2有关,而与时间的起点无关。 2.若严平稳过程存在二阶矩(即E[X(t)]2「: ),则 (1)均值函数为常数: m(t)二E[X(t)]=m (2)协方差函数X(t1,t2),(自)相关函数Rx(t1,t2)仅是时间差.=17的函数. 三、宽平稳过程(简称平稳过程) 定义2: 设随机过程{X(t),rT},如果它满足: (1)X(t)是二阶矩过程;(即所以二阶矩存在E[X(t)]2 (2)均值函数为常数: 即m(t)二E[X(t)]二m; (3协方差函数xdt),(自)相关函数Rx(h,t2)仅依赖于时间差.廿九. 则称X(t)为宽平稳过程,或二阶平稳过程•当T为整数集时,称{X(t)}为平稳时间 序列• 注1: 严平稳过程不一定是宽平稳过程。 因为: 严平稳过程不一定是二阶矩过 程。 若严平稳过程存在二阶矩,则它一定是宽平稳过程• 注2: 宽平稳过程也不一定是严平稳过程。 因为: 宽平稳过程只保证一阶矩二阶矩不随时间的推移而改变,这当然不能保证其有限维分布不随时间而推移例2.8设{X(t)}是相互独立同分布的随机变量序列,其中T二{0,_1,_2厂},且均值和方差分别为E[X(t)]=0,D[X(t)]=汽试讨论X(t)的平稳性。 例.9设随机序列{X(t)二sin2…t,LT},其中T={1,2厂},是[0,1]上服从均匀分布 的随机变量,试讨论随机序列X(t)的平稳性当{X(t)t_0}时,讨论其平稳性. 四、平稳过程相关函数的性质 性质1: Rx(0)=E[X2(t)]_0 性质2: Rx()^Rx(0) 柯西-许瓦兹不等式: |E(XY)|2乞(EX2)(EY2) 或|E(XY)|—,(EX2)(EY2) 结论: (自)相关函数RX()在.二0时取得最大值• 性质3: Rx()是偶函数,即Rx(-J二RxC) 性质4: Rx()是非负定的•即对任意数组鮎,…,T和任意n个不全为零的实数 印忠gn都有 nn ——aiajRx(ti-1j)丄0 ijd 注: 自相关函数的非负定性是平稳过程最本质的特性,因为,任一连续函数,只 要具有非负定性,那么该函数必定是某平稳过程的自相关函数• 性质8: 2|Rxy()^Rx(0)Ry(0) 性质9: 若平稳过程X(t)与丫(t)是平稳相关的,则其和Z(t^X(t)Y(t)也 是平稳过程,其相关函数为 RzC)=RxC)■ryC)Rxy(0Ryx(J 例2.10: 设S(t)是一周期为T的函数,二~U[O,T],称X(t)=S(t‘)为随机相位 周期过程,试讨论它的平稳性• 五、独立增量过程 定义1设{X(t)rT}是一随机过程,若对任意正整数n,-n・N,及t,,…,tn•T, tl: : : t2: : : …: : : tnj: : : tn,随机过程的增量: X(t2)-X(tJ,X(t3)-X(t2),,X(tn)-X(tn」) 是相互独立的,则称X(t)为独立增量过程。 i 例2.11: 设{X(n),n=0,1,2,…}是相互独立的随机序列,令Y(i)八X(n),则 {Y(i),i=0,1,2/}是一独立增量过程. 若对任何t1,t^T有 X(t1h)—X(tJdX(t2h)—X(t2) 则称{X(t),rT}为平稳增量过程.兼有独立增量和平稳增量的过程称为平稳独 立增量过程。 定义2若二阶矩过程{X(t),tT}对任意的t1: : t2乞t3: : t4,t1,t2,t3,t4T,有 E{[X(t2)-X(t1)][X(t4)-X(t3)]}=0 则称{X(t),tT}为正交增量过程。 六、遍历性定理 (1){Xn,n=0,1,2,},其中{Xn}为独立同分布随机变量序列, E(Xn2)<°°;E(Xn)=m,n=0,1,2,… (2){Y二Y,n=0,1,2,},其中丫是随机变量,E(Y2)叮: . 1nJ.12 对⑴而言,由大数定律知,—7Xi>m(a.s),但在⑵中,—vYj=Y,即经过 n7ni」 对时间的平均后,随机性没有任何改变。 于是自然产生这样的问题: 在何种条件下,平稳过程对时间的平均值可以等于过程的均值? 这一问题称为平稳过程的遍历性问题。 这是平稳过程研究中的一个重要课题。 对于平稳过程{Xn,n=0—,2厂}重要的是确定它的均值m和它的协方差函数 ()(或相关函数R(.))。 由于E(Xn)二m,为估计m,就必须对随机过程{Xn,n=0—,2厂}作大量观察. 以Xj(t)记第j次观察中时刻t的值j=0,1,2,…,n.由大数定律知,可以用 nk: — 来估计m。 同样,为了估计协方差(.),也可以用 A1nAA ()=二(Xk(t)-m)(Xk(t)-m) 来估计。 然而对随机过 程作多次观察一般来说很难做到。 容易做到的是作 次观察,获得一条样本路径,我们希望由这一次观察来估计m和()0对于一 般的随机过程这是不可能的,但是对于平稳过程,只要加上一些条件,就可以 加上一些条件,就可以较好的估计,这就是遍历性定理。 —T 定义1: 设{X(t),」「「: : : }为一平稳过程,若X二Lim丄X(t)dt二m或当t)二2T'工 参数空间T二Z时, 1N X=Lim二X(k)=m N=2N■1^_N 则称{X(t),: : : t的均值有遍历性。 这里的极限是指均方意义下的极限, LimE|1TX(t)dt—m|2]=0 t—f: 2T-J 定义2: 设{X(t),: : t: : : }为一平稳过程,若 1T ()叫叩牙」xw-ext.)一认"(.) 或当参数空间T二Z时, P二Lim」(X(k)—m)(X(k•)—□)=“'(•) ny2N+1ki 则称{X(t),: : : t: : : : : }的协方差有遍历性.这里的极限是指均方意义下的极限. 若随机过程(或随机序列)的均值和协方差函数都具有遍历性,则称此随机 过程有遍历性。 上述的定义中,如果t只取非负实数(非负整数)时,相应的积分和求和就限制在 [0,•: : )上例如,相应的 1T X=LimX(t)dt= n X-Lim1X(k)=m N—''N1k^ 1 例2.12: 设X(t)=X,t・(」: ,: : ),X是随机变量,P(X=_1)=—,试判定X(t)的均值 2 是否具有遍历性• 例2.13: 正弦波X(t)二Acos(v)-: : : t: 「: 其中「是常数A与二相互独立. A~f(x)=“ 2x0vxc1 0 ~U[0,2二],判定该随机过程是否具有遍历性. 其匕 定理2.2: (均值遍历性定理) (1){Xn,n=0,_1,_2,}是平稳序列,其均值为m,协方差(),则 {Xn,n=0,_1,_2,} 均值具有遍历性的充分必要条件是 1N-1 Lim一'X(.)=0jN卫 (2)设{X(t),-: : : : : t「: }是平稳过程,则它的均值具有遍历性的充要条件是 12TLim(1-)(.)d.=0 t—;: T02T 推论2.1: 若j(.)*;: : : : 则均值遍历性定理成立。 -O0 证明: 由于当0乞1兰2T时,‘1-丄勻Y(e)| <2T丿 12Tf、12T12T -f1-厶M⑴屮兰1[I? (兰丄丄|丫(工)“一*0T°i2T丿T0T牯 推论2.2: 对于平稳序列而言,若(.)》0(: —••■),则均值遍历性定理成立。 定理2.2: (协方差函数遍历性定理) 设{X(t),-: : : : : t: : : : : }是平稳过程,其均值函数为0,则协方差函数具有遍历性的充分必要条件是 12T Lim—(1--XBCJ—(Jldj=0 t—;: t02T 其中B(J=E[X(tjX(tjX(t)X(t)]. (定理2.1及定理2.2一般了解.) 作业1: 设X(t)二Acos: t-Bsin: t,t_0,: 为常数,A,B为相互独立同分布于N(0,二2),判别X(t)是否为宽平稳过程。 作业3: 设X(t)=AcostBsint,-: : 逬乞: : 为常数,A,B是均值为零的不相 X(t)对均值具有遍历性,协方差函数 作业2: 书第二章习题2.6. 关的随机变量,且E(A2)=E(B2),试证: 不具有遍历性
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 随机 过程 基本概念 基本 类型