参考图书

教学内容

随机过程的基本概念

随机变量是与时间无关的量，是静态的随机现象

随机过程是与时间有关的量，是动态的随机现象

·定义1：设随机试验E的样本空间S={ξ},若对每个元素ξ∈S，总有一个确知的时间函数X(t,ξ)与它对应，t∈T。对于所有的ξ∈S，就可以得到一簇时间t的函数，称它为随机过程。簇中的每一个函数称为样本函数。

·定义2：若对于每个特定的时间t_i(i=1,2,…)，X(t_i,ξ)都是随机变量，则称X(t,ξ)为随机过程。X(t_i)称为随机过程在t=t_i时刻的状态。

·观测时，常用定义1，通过观测得到的试验样本可以得到随机过程的统计特性。

·理论分析时，用定义2，把随机过程看成n维随机变量，n越大采样时间越小，所得统计特性越准确。

·对定义的理解：X(t,ξ)

t和ξ都是变量    --> 一个时间函数族

t是变量而ξ固定  – > 一个确知的时间函数

t固定而ξ是变量  -- > 一个随机变量

t和ξ都固定      -- > 一个确定值

·随机过程与随机变量的关系：

随机过程是由随机变量构成，又与时间相关的。

随机过程的分类

·按时间和状态分类

时间 \ 状态 |      连续         |         离散

——————————————————————————

连续         |连续随机过程      |  离散随机过程

离散         |连续随机序列      |  离散随机序列

连续随机过程：物理世界最为常见

离散随机过程：相当于对连续随机过程采样后量化-持续

连续随机序列：相当于对连续型随机过程的采样

离散随机序列：相当于采样后再量化，数字信号处理的对象

·按样本函数形式分类：

不确定随机过程：随机过程的任意样本函数的值不能被预测。例如接收机的噪声电压波形。

确定随机过程：随机过程的任意样本函数的值能被预测。例如样本函数为正弦信号。

·其他分类：

按平稳性：分为平稳随机过程和非平稳随机过程。

按遍历性：分为遍历随机过程和非遍历随机过程。

按功率谱密度：分为宽带随机过程和窄带随机过程。

按分布函数或概率密度函数：分为正态随机过程、马尔科夫过程、泊松过程等。

随机过程的分布：

一个随机变量的统计特性完全由分布函数决定。

多个随机变量的统计特性由联合分布函数确定。

·按照定义2，随机过程看成n维随机变量的集合（n趋向无穷，且时间间隔相当小）。

对随机过程可以得到：

·一维概率分布：

随机过程X(t)在任意t∈T的取值X(t_i)是一维随机变量。记

F_X(x_i;t_i)=P{X(t_i)≦x_i}

为随机过程X(t)的一维分布函数。若FX(x,t)的偏导数存在有

f_X(x_i;t_i)=∂F_X(x_i;t_i)/∂ x_i

对应不同时刻，一维分布函数和概率密度函数可以是不同的——它们是时间的函数！

·二维概率分布：

为了描述随机过程在任意两个时刻t₁和t₂的状态间的内在联系，可以引入二维随机变量[X(t₁),X(t₂)]的分布函数F_X(x₁,x₂;t₁,t₂)，它是随机事件{X(t₁) ≦x₁ }和{ X(t₂) ≦x₂}同时出现的概率。即

F_X(x₁,x₂;t₁,t₂)=P{X(t₁)≦x₁, X(t₂) ≦x₂}，

称为随机过程X(t)的二维分布函数。若F_X(x₁,x₂;t₁,t₂)对x₁,x₂的二阶混合偏导存在，则

f_X(x₁,x₂;t₁,t₂)= ∂²F_X(x₁,x₂;t₁,t₂)/∂ x₁∂ x₂

二维概率分布也仍然是时间的函数，它描述了随机过程任意两个时刻状态之间的内在联系。

·n维概率分布：

随机过程X(t)在任意n个时刻t₁,t₂,…,t_n的取值X(t₁), X(t₂),…, X(t_n)构成n维随机变量[X(t₁), X(t₂),…, X(t_n)]，即为n维空间的随机矢量X。类似的，可以定义随机过程X(t)的n维分布函数和n为概率密度函数为：

F_X(x₁,x₂,…,x_n;t₁,t₂,…,t_n)=P{X(t₁)≦x₁, X(t₂) ≦x₂,…, X(t_n) ≦x_n}，

f_X(x₁,x₂,…,x_n;t₁,t₂,…,t_n)= ∂²F_X(x₁,x₂,…,x_n;t₁,t₂,…,t_n)/∂ x₁∂ x₂…∂ x_n

随机过程的n维分布函数（概率密度函数）能够近似地描述随机过程的统计特性。若n足够大，则n维分布函数可以近乎完善地描述随机过程的统计特性。

·有限维概率密度函数族：

随机过程X(t)的所有有限维概率密度函数的集合为：

{ f_X(x₁,x₂,…,x_n;t₁,t₂,…,t_n),t₁,t₂,…,t_n∈T,n≧1}

称为X(t)的有限维概率密度函数族。类似地，可以定义X(t)的有限维分布函数族：

{ F_X(x₁,x₂,…,x_n;t₁,t₂,…,t_n),t₁,t₂,…,t_n∈T,n≧1}

1931年苏联数学家科尔莫戈洛夫证明：有限维分布函数族或概率密度函数族可以完全确定随机过程的全部统计特性。

随机过程的数字特征

讨论随机变量时，我们提到，在实际问题中，概率分布一般是较难确定的，只要知道它的某些数字特征就够了。同理，在实际应用中，要确定随机过程的有限维分布函数族并加以分析是非常困难的，因此可以将随机变量的数字特征概念推广到随机过程。

·随机变量的数字特征通常是确定值；

·随机过程的数字特征通常是确定性函数。

·计算方法：先把时间t固定，然后用随机变量的分析方法来计算。

·主要关注的数字特征，仍然是以下几种：

数学期望

均方值

方差

相关函数

协方差函数

相关系数

·数学期望：

m_X(t)=E[X(t)]=∫xf(x;t)dx

显然，m_X(t)是某一个平均函数，随机过程的各个样本在它附近起伏变化。

物理意义：如果随机过程表示接收机的输出电压，那么它的数学期望就是输出电压的瞬时统计平均值。

均值一样的信号，很多信号不同，波形不同。

·均方值：

Ψ²_X(t)=E[X²(t)]=∫x²f(x;t)dx

·方差：

σ²_X(t)=D[X(t)]=E[(X(t)- m_X(t)) ²]=∫(x- m_X(t))²f(x;t)dx

标准差σ_X(t)=sqrt{D[X(t)]}

均方值和方差之间的关系：σ²_X(t)=Ψ²_X(t)-[ m_X(t)]²

物理意义：如果随机过程表示噪声电压，则均方值和方差分别表示消耗在单位电阻上的瞬时功率统计平均值和瞬时交流功率统计平均值。

以上为一维的数字特征，显然包含的信息太少。

比较具有相同一维（1阶和2阶）数字特征的两个随机过程，可以看到非常不同的特点。因此，引入二维数字特征。

·自相关函数：

描述随机过程任意两个时刻的状态之间的内在联系，通常用R_X(t₁,t₂)描述。

R _X(t₁,t₂)=E[X(t₁)X(t₂)]=∫∫x₁x₂f_X(x₁,x₂;t₁,t₂)dx₁dx₂

关于自相关函数的几个讨论：

自相关函数可正可负

自相关函数绝对值越大，表示相关性越强

一般来说，时间相隔越远，相关性越弱，自相关函数绝对值越小

当两个时刻重合时，相关性最强，所以RX(t,t)是最大的，同时RX(t,t)=E[X2]

相关函数的应用：

信号检测

距离探测

信号再现

……

·自协方差：

K_X(t₁,t₂)=E[(X(t₁)-m_X(t₁))(X(t₂)-m_X(t₂))]=∫∫(x₁-m_X(t₁))(x₂-m_X(t₂))f_X(x₁,x₂;t₁,t₂)dx₁dx₂

它反映了任意两个时刻的起伏值之间的相关程度。

自协方差和自相关函数的关系：

K_X(t₁,t₂)= R _X(t₁,t₂)-m_X(t₁) m_X(t₂)

自协方差和方差的关系：

令t₁=t₂=t，则K_X(t₁,t₂)=K_X(t,t) =E[(X (t)- m_X(t)) ²]=σ²_X(t)=D[X(t)]

随机过程的特征函数

生成函数是一列用來展示一串数字的晾衣架。
----Herbert Wilf

·一维特征函数

随机过程X(t)在任一时刻t的取值是一维随机变量，其特征函数为

C_X(u;t)=E(e^juX(t))=∫e^juxf_X(x;t)dx

其反变换为：

f_X(x;t)=∫e^-juxC_X(u;t)du/(2π)

由该一维特征函数，可以得到n阶矩为：

E[Xⁿ(t)]= ∫xⁿf_X(x;t)dx=(-j)ⁿ ∂ⁿC_X(u;t)/∂uⁿ|_u=0

·二维特征函数

C_X(u₁,u₂;t₁,t₂)=E(e^{ju1X(t1)+ju2X(t2)})=∫∫e^j(u1x1+u2x2)f_X(x₁,x₂;t₁,t₂)dx₁dx₂

其反变换为：

f_X(x₁,x₂;t₁,t₂)=∫∫e^{-j(u1x1+u2x2)} C_X(u₁,u₂;t₁,t₂)du₁du₂/(2π)²

由二维特征函数可以得到自相关函数：

RX(t1,t2)=- ∂² C_X(u₁,u₂;t₁,t₂)/∂u₁∂u₂|_u=0

·n维特征函数

C_X(u₁,u₂,…,u_n;t₁,t₂,…,t_n)=E(e^{ju1X(t1)+ju2X(t2)+…+junX(tn)})

= ∫…∫e^{j(u1x1+u2x2+…+unxn)}f_X(x₁,x₂,…,x_n;t₁,t₂,…,t_n)dx₁dx₂…dx_n

其反变换为

f_X(x₁,x₂,…,x_n;t₁,t₂,…,t_n)=∫…∫e^{-(ju1X(t1)+ju2X(t2)+…+junX(tn))} C_X(u₁,u₂,…,u_n;t₁,t₂,…,t_n)/(2π)ⁿ

作业：

教材第一章课后1.3， 1.6， 1.7