随机过程

随机过程是指在时间和空间上变化的随机变量的集合，记为：

$\{X(t), t \in T\}$

其中，$X(t)$是随机变量，$t$是时间或空间的参数，$T$是参数的取值范围。一般称$t$为事件，$X(t)$为随机过程的状态。一次实验观测到的函数$x(t)$称为随机过程的样本函数或轨迹。

随机过程可以用来描述随时间变化的随机现象，如股票价格、气温、人口等。根据随机变量的性质，可以分为以下几类：

一些常见的随机过程可以分类如下表格：

随机过程的数字特征

随机过程的数字特征是指随机过程的统计特性，主要包括以下几个方面：

均值：随机过程的均值是指随机变量$X(t)$的期望值，记作$\mu_x(t)=E[X(t)]$。均值反映了随机过程的中心趋势。
方差：随机过程的方差是指随机变量$X(t)$的离散程度，记作$\sigma_x^2(t)=E[(X(t)-\mu_x(t))^2]$。方差反映了随机过程的波动程度。
自相关函数：随机过程的自相关函数是指随机变量$X(t)$与$X(t+\tau)$之间的相关性，记作$R_{xx}(t_1, t_2)=E[X(t_1)X(t_2)]$。自相关函数反映了随机过程的平稳性和周期性。

对于二维随机过程，可以定义互相关函数：

$R_{xy}(t_1, t_2) = E[X(t_1)Y(t_2)]$

介绍随机过程之前，需要了解一些基本概念：

独立增量过程：随机过程$X(t)$的增量： $X(t_1)-X(t_0),X(t_2)-X(t_1),X(t_3)-X(t_2),\cdots$ 相互独立。
平稳增量过程：随机过程$X(t)$的增量： $X(t_1)-X(t_0),X(t_2)-X(t_1),X(t_3)-X(t_2),\cdots$ 服从同一分布。
平稳过程：随机过程$X(t)$的均值和方差不随时间变化，且自相关函数只与时间间隔有关。

独立增量过程有点像马尔可夫过程，不过其无记忆性是针对增量而言的，而马尔可夫过程是针对状态而言的。

称随机过程$N(t)$为泊松过程，如果满足以下条件：

$N(0)=0$，即在时刻$t=0$时，事件发生的次数为0。
$N(t)$是独立增量过程，即在不重叠的时间区间内，事件发生的次数相互独立。
对于任何$t_1<t_2$，$N(t_2)-N(t_1)$服从参数为$\lambda(t_2-t_1)$的泊松分布，即： $P(N(t_2)-N(t_1)=k)=\frac{(\lambda(t_2-t_1))^k}{k!}e^{-\lambda(t_2-t_1)}$

泊松过程的事件时间间距构成了一个指数分布的随机变量序列，记作$X_1,X_2,\cdots$，即：

$P(X_i\leq x)=1-e^{-\lambda x}$

称随机过程$W(t)$为维纳过程或布朗运动，如果满足以下条件：

$W(0)=0$，即在时刻$t=0$时，随机变量$W(t)$的值为0。
$W(t)$是独立增量过程，即在不重叠的时间区间内，随机变量$W(t)$的增量相互独立。
对于任何$t_1<t_2$，$W(t_2)-W(t_1)$服从均值为0，方差为$t_2-t_1$的正态分布，即： $P(W(t_2)-W(t_1)\leq x)=N(0,\sigma^2(t_2-t_1))$

马尔可夫链是指在离散时间和离散状态空间下的随机过程，满足马尔可夫性，即：

$P(X_{n+1}=x_{n+1}|X_n=x_n,X_{n-1}=x_{n-1},\cdots,X_0=x_0)=P(X_{n+1}=x_{n+1}|X_n=x_n)$

其中，$X_n$是随机变量，$x_n$是随机变量的取值。

马尔可夫链的转移概率矩阵$P$是一个方阵，表示从状态$i$转移到状态$j$的概率，即：

$P_{ij}=P(X_{n+1}=j|X_n=i)$

其中，$P_{ij}$是转移概率矩阵的元素，$i,j$是状态的索引。

转移概率矩阵$P$满足以下条件：