建设银行网站是什么应用商店app下载
马尔科夫链
p90马尔可夫过程像下飞行棋一样,是一种推广版的独立增量过程。实际上,独立增量过程是一种马尔可夫过程。p_{90}马尔可夫过程 像下飞行棋一样,是一种推广版的独立增量过程。\\ \tiny 实际上,独立增量过程是一种马尔可夫过程。p90马尔可夫过程像下飞行棋一样,是一种推广版的独立增量过程。实际上,独立增量过程是一种马尔可夫过程。12
CK方程:pij(m+n)=∑k∈Epik(m)pkj(n)p_{ij}^{(m+n)}=\sum_{\color{red} k\in E}p_{ik}^{(m)}p_{kj}^{(n)}pij(m+n)=∑k∈Epik(m)pkj(n)
只需证明:pijn=∑k∈Epik∗pkjn−1pijn=P(Xn=j∣X0=i)=∑k∈EP(Xn=j,X1=k∣X0=i)=∑k∈EP(X1=k∣X0=i)P(Xn=j∣X1=k,X0=i)=∑k∈EP(X1=k∣X0=i)P(Xn=j∣X1=k)c只需证明:p_{ij}^{n}=\sum_{k \in E}p_{ik}*p_{kj}^{n-1}\\ p_{ij}^{n}=P(X_n=j|X_0=i)\\ \ \ \ \ \ =\sum_{k\in E}P(X_n=j,X_1=k|X_0=i) \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \\ \ \ \ \ \ =\sum_{k\in E}P(X_1=k|X_0=i)P(X_n=j|X_1=k,{\color{red}X_0=i})\\ {\tiny }\\ \ \ \ \ \ =\sum_{k\in E}P(X_1=k|X_0=i)P(X_n=j|X_1=k)\ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \\ c 只需证明:pijn=k∈E∑pik∗pkjn−1pijn=P(Xn=j∣X0=i) =k∈E∑P(Xn=j,X1=k∣X0=i) =k∈E∑P(X1=k∣X0=i)P(Xn=j∣X1=k,X0=i) =k∈E∑P(X1=k∣X0=i)P(Xn=j∣X1=k) c
初始条件和转移矩阵爵定齐次马链
n步转移概率的首达分解
pij(n)=∑k=0nfijkpjjn−kpij(n)=∑k=1np(Xn=j,Xk=j,Xl≠j,l=1,2,…k−1∣X0=i)后续证明与sk方程一模一样p_{ij}^{(n)}=\sum_{k=0}^nf_{ij}^kp_{jj}^{n-k}\\ p_{ij}^{(n)}=\sum_{k=1}^np(X_n=j,X_k=j,X_l\neq j,l=1,2,…k-1|X_0=i)\\ 后续证明与sk方程一模一样 pij(n)=k=0∑nfijkpjjn−kpij(n)=k=1∑np(Xn=j,Xk=j,Xl=j,l=1,2,…k−1∣X0=i)后续证明与sk方程一模一样
马尔科夫链的一个状态的属性
状态i{pii(n)>0,gcd{n}为状态i的周期状态的类别状态i \begin{cases} p_{ii}^{(n)} >0, \ \ \ gcd \{n\}为状态i的周期 \\ 状态的类别 \end{cases}状态i{pii(n)>0, gcd{n}为状态i的周期状态的类别
常返和为fii=∑n=1∞fiin1,此时,{fiin,n≥1}构成概率分布,首达时间(步)的分布μi首达平均所用时间常返和为f_{ii}=\sum_{n=1}^{\infty}f_{ii}^n1,\\ 此时,\{f_{ii}^n,n\geq 1 \}构成概率分布,首达时间(步)的分布 \\ \mu_{i} 首达平均所用时间常返和为fii=n=1∑∞fiin1,此时,{fiin,n≥1}构成概率分布,首达时间(步)的分布μi首达平均所用时间
∑n=0∞pii(n)表示过程由i出发“返回到i”的平均次数简单对称随机游动其为+∞\sum_{n=0}^{\infty} p_{ii}^{(n)}表示过程由i出发“返回到i”的平均次数\\ 简单对称随机游动其为+\inftyn=0∑∞pii(n)表示过程由i出发“返回到i”的平均次数简单对称随机游动其为+∞3
若状态j非常返,∑n=0∞pij(n)<∞⇒状态j非常返limn→∞pi,j(n)=0证明:(状态j非常返时∑n=0∞pjj(n)<∞)⊕(首达分解定理)若状态j非常返,\sum_{n=0}^{\infty} p_{ij}^{(n)}< \infty \Rightarrow 状态j非常返\lim_{n\rightarrow \infty}p_{i,j}^{(n)}=0 \\ 证明:(状态j非常返时\sum_{n=0}^{\infty} p_{jj}^{(n)} <\infty )\oplus (首达分解定理)若状态j非常返,n=0∑∞pij(n)<∞⇒状态j非常返n→∞limpi,j(n)=0证明:(状态j非常返时n=0∑∞pjj(n)<∞)⊕(首达分解定理)
整体的状态
吸收态⇒闭集(吸收态在横向的推广)吸收态 \Rightarrow 闭集(吸收态在横向的推广)吸收态⇒闭集(吸收态在横向的推广)
常返态i,若i→j,j常返常返态i,若i\rightarrow j,j常返常返态i,若i→j,j常返
有限链至少有一个正常返状态。或者说有限链不可能全为非常返,没有零常返(正常返+非常返)有限链至少有一个正常返状态。\tiny或者说有限链不可能全为非常返,没有零常返(正常返+非常返)有限链至少有一个正常返状态。或者说有限链不可能全为非常返,没有零常返(正常返+非常返)
状态分解
D=D∪C1∪C2∪⋯∪CnD=D∪C_1 ∪C_2 ∪⋯∪C_n D=D∪C1∪C2∪⋯∪Cn
状态空间E是有限时状态空间E是有限时状态空间E是有限时
- 不可约闭集Ci是常返的互达等价类闭集不可约闭集C_i是常返的互达等价类闭集不可约闭集Ci是常返的互达等价类闭集
- E有限集,D非闭集,初始在D状态的,最终一定会进入某个CiE有限集,D非闭集,初始在D状态的,最终一定会进入某个C_iE有限集,D非闭集,初始在D状态的,最终一定会进入某个Ci
遍历链
遍历状态指的是非周期的正常返状态。推论5-8:4
不可约马尔可夫链+非周期+所有状态正常返⇒遍历链此时,若存在平稳分布,则极限分布μ(0)∗limn→∞Pn存在且与平稳分布相同{\color{red}不可约}马尔可夫链+{\color{purple}非周期}+{\color{blue}所有状态正常返}\Rightarrow遍历链\\ 此时,若存在平稳分布,则极限分布μ^{(0)}*\lim_{n→∞}P^n存在且与平稳分布相同不可约马尔可夫链+非周期+所有状态正常返⇒遍历链此时,若存在平稳分布,则极限分布μ(0)∗n→∞limPn存在且与平稳分布相同
limn→∞pi,j(n)={=0,若状态j非常返或0常返pj,遍历链\lim_{n\rightarrow \infty}p_{i,j}^{(n)}= \begin{cases} =0 ,若状态j非常返或0常返\\ p_j,遍历链\\ \end{cases}n→∞limpi,j(n)={=0,若状态j非常返或0常返pj,遍历链
不论从哪个状态出发,充分转移后,到达j的概率接近一个只与j有关的正常数limn→∞P(n)=[p1p2p1p2]不论从哪个状态出发,充分转移后,到达j的概率接近一个只与j有关的正常数\\ \lim_{n\rightarrow \infty}P^{(n)}=\begin{bmatrix}p_1&p_2\\p_1&p_2\end{bmatrix} 不论从哪个状态出发,充分转移后,到达j的概率接近一个只与j有关的正常数n→∞limP(n)=[p1p1p2p2]
应用随机过程05
一步分析法(分析当前状态)
假设ai=P(事件发生∣X0=i),列方程组,解出ai,全概率公式求解P(事件发生)假设a_i=P(事件发生|X_0=i),列方程组,解出a_i,全概率公式求解P(事件发生)假设ai=P(事件发生∣X0=i),列方程组,解出ai,全概率公式求解P(事件发生)
题目来源
其中P(事件发生∣X0=i)表示在“当前”状态,即i状态下事件发生的概率。由其他状态转移到当前状态,只需要乘上转移概率即可,所以得到了解中的方程组。其中P(事件发生|X_0=i)表示在“当前”状态,即i状态下事件发生的概率。\\ 由其他状态转移到当前状态,只需要乘上转移概率即可,所以得到了解中的方程组。其中P(事件发生∣X0=i)表示在“当前”状态,即i状态下事件发生的概率。由其他状态转移到当前状态,只需要乘上转移概率即可,所以得到了解中的方程组。
例:Zi独立同分布,Z0=0,令Xn=Σi=inZi,X0=n,试证明Xn为马尔科夫链,并求其一步转移概率矩阵。P(Xn+1=j∣Xn=i,Xn−1=in−1,…,X0=0)写出马尔可夫链的前半部分=P(Z1+Z2+…+Zn+1=j∣Xn=i,Xn−1=in−1,…,X0=0)带入事件的定义=P(i+Zn+1=j∣Xn=i,Xn−1=in−1,…,X0=0)=P(Zn+1=j−i)=P(Z1=j−i)=Pj−i(记为Pj−i)同理:P(Xn+1=j∣Xn=i)=Pj−i,所以为马尔科夫链。P=[p0p1p2………0p0p1p2……00p0p1p2…………………]例:Z_i独立同分布,Z_0=0,令X_n=\Sigma_{i=i}^nZ_i,X_0=n,试证明X_n为马尔科夫链,并求其一步转移概率矩阵。\\ \ \ \ P(X_{n+1}=j|X_n=i,X_{n-1}=i_{n-1},…,X_0=0){\tiny 写出马尔可夫链的前半部分}\\ =P(Z_1+Z_2+…+Z_{n+1}=j|X_n=i,X_{n-1}=i_{n-1},…,X_0=0){\tiny 带入事件的定义}\\ =P(i+Z_{n+1}=j|X_n=i,X_{n-1}=i_{n-1},…,X_0=0){\tiny }\\ =P(Z_{n+1}=j-i){\tiny }\\ =P(Z_{1}=j-i){\tiny }\\ =P_{j-i}{\tiny ( 记为P_{j-i})}\\ 同理:P(X_{n+1}=j|X_n=i)=P_{j-i},所以为马尔科夫链。\\ P=\begin{bmatrix}p_0&p_1&p_2&…&…&…\\0&p_0&p_1&p_2&…&…\\0&0&p_0&p_1&p_2&… \\…&…&…&…&…&…&\end{bmatrix}例:Zi独立同分布,Z0=0,令Xn=Σi=inZi,X0=n,试证明Xn为马尔科夫链,并求其一步转移概率矩阵。 P(Xn+1=j∣Xn=i,Xn−1=in−1,…,X0=0)写出马尔可夫链的前半部分=P(Z1+Z2+…+Zn+1=j∣Xn=i,Xn−1=in−1,…,X0=0)带入事件的定义=P(i+Zn+1=j∣Xn=i,Xn−1=in−1,…,X0=0)=P(Zn+1=j−i)=P(Z1=j−i)=Pj−i(记为Pj−i)同理:P(Xn+1=j∣Xn=i)=Pj−i,所以为马尔科夫链。P=⎣⎢⎢⎡p000…p1p00…p2p1p0……p2p1………p2……………⎦⎥⎥⎤ ↩︎
例:Zi独立同分布,Z0=0,令Xn=max{Zi,i∈[1,n]},X0=n,试证明Xn为马尔科夫链,并求其一步转移概率矩阵。P(Xn+1=j∣Xn=i,Xn−1=in−1,…,X0=0)写出马尔可夫链的前半部分=P(max{Z1,Z2,…,Zn+1}=j∣Xn=i,Xn−1=in−1,…,X0=0)带入事件的定义=P(max{i,Zn+1}=j∣Xn=i,Xn−1=in−1,…,X0=0)=P(max{i,Zn+1}=j)=P(max{i,Z1}=j)={0i>jΣk=0ipk,i=jpji<j同理:P(Xn+1=j∣Xn=i)=P(max{i,Z1}=j),所以为马尔科夫链。P=[p0p1p2………0p0+p1p2………00p0+p1+p2………………………]例:Z_i独立同分布,Z_0=0,令X_n=max\{Z_i,i\in[1,n]\},X_0=n,试证明X_n为马尔科夫链,并求其一步转移概率矩阵。\\ \ \ \ \ P(X_{n+1}=j|X_n=i,X_{n-1}=i_{n-1},…,X_0=0){\tiny 写出马尔可夫链的前半部分}\\ =P(max\{Z_1,Z_2,…,Z_{n+1}\}=j|X_n=i,X_{n-1}=i_{n-1},…,X_0=0){\tiny 带入事件的定义}\\ =P(max\{i,Z_{n+1}\}=j|X_n=i,X_{n-1}=i_{n-1},…,X_0=0){\tiny }\\ =P(max\{i,Z_{n+1}\}=j){\tiny }\\ =P(max\{i,Z_{1}\}=j){\tiny }\\ =\left\{\begin{array}{l}0\;\;i>j\\\; \Sigma_{k=0}^i p_k, i=j\\p_j\;\;i<j\end{array}\right.{\tiny }\\ 同理:P(X_{n+1}=j|X_n=i)=P(max\{i,Z_{1}\}=j){\tiny },所以为马尔科夫链。\\ P=\begin{bmatrix}p_0&p_1&p_2&…&…&…\\0&p_0+p_1&p_2&…&…&…\\0&0&p_0+p_1+p_2&…&…&… \\…&…&…&…&…&…&\end{bmatrix}例:Zi独立同分布,Z0=0,令Xn=max{Zi,i∈[1,n]},X0=n,试证明Xn为马尔科夫链,并求其一步转移概率矩阵。 P(Xn+1=j∣Xn=i,Xn−1=in−1,…,X0=0)写出马尔可夫链的前半部分=P(max{Z1,Z2,…,Zn+1}=j∣Xn=i,Xn−1=in−1,…,X0=0)带入事件的定义=P(max{i,Zn+1}=j∣Xn=i,Xn−1=in−1,…,X0=0)=P(max{i,Zn+1}=j)=P(max{i,Z1}=j)=⎩⎨⎧0i>jΣk=0ipk,i=jpji<j同理:P(Xn+1=j∣Xn=i)=P(max{i,Z1}=j),所以为马尔科夫链。P=⎣⎢⎢⎡p000…p1p0+p10…p2p2p0+p1+p2…………………………………⎦⎥⎥⎤ ↩︎
以概率p向右,以q=(1−p)向左,则过程为不可约马尔科夫链,各个状态周期为2,且是常返的。证明:各状态互通,只需判断0处的属性,∀n≥0,有p00(2n+1)=0,p00(2n)=C2nnpnqn=(2n)!(n!)(n!)pnqn,至此可带入斯特灵公式,计算limn→∞p00(n)的极限,看是否为0,得到级数是否收敛。常返的判断条件都为等号,即发散时常返或利用幂级数计算∑n=0∞p00(n)x2n以概率p向右,以q=(1-p)向左,则过程为不可约马尔科夫链,各个状态周期为2,且是常返的。\\ 证明:各状态互通,只需判断0处的属性,\\ \forall n\geq 0,有p_{00}^{(2n+1)}=0,p_{00}^{(2n)}=C_{2n}^np^nq^n={\color{red}\frac{(2n)!}{(n!)(n!)}}p^nq^n,\\ 至此可带入斯特灵公式,计算\lim_{n\rightarrow \infty}p_{00}^{(n)}的极限,看是否为0,得到级数是否收敛。\\ 常返的判断条件都为等号,即发散时常返\\ \\或利用幂级数计算\sum_{n=0}^{\infty} p_{00}^{(n)}x^{2n} 以概率p向右,以q=(1−p)向左,则过程为不可约马尔科夫链,各个状态周期为2,且是常返的。证明:各状态互通,只需判断0处的属性,∀n≥0,有p00(2n+1)=0,p00(2n)=C2nnpnqn=(n!)(n!)(2n)!pnqn,至此可带入斯特灵公式,计算n→∞limp00(n)的极限,看是否为0,得到级数是否收敛。常返的判断条件都为等号,即发散时常返或利用幂级数计算n=0∑∞p00(n)x2n ↩︎
E={1,2},转移概率矩阵为P=[34145838],求平稳分布及limn→∞Pn。由π=Pπ得:{π1=34π1+58π2π2=14π1+38π21=π1+π2⇒{π1=57π2=27,π=(π1,π2)=(57,27)由limn→∞Pn=πj⇒limn→∞Pn=[57275727]E=\{1,2\},转移概率矩阵为P=\begin{bmatrix}\frac34&\frac14\\\frac58&\frac38\end{bmatrix},求平稳分布及\lim_{n→∞}P^n。\\ 由\pi=P\pi得:\left\{\begin{array}{l} \pi_1=\frac34\pi_1+\frac58 \pi_2\\\pi_2=\frac14\pi_1+\frac38\pi_2 \\ {\color{red}1=\pi_1+\pi_2}\end{array}\right. \Rightarrow\left\{\begin{array}{l}\pi_1=\frac57\\\pi_2=\frac{2}{7}\end{array}\right., \pi=(\pi_1,\pi_2)=(\frac57,\frac27) \\由\lim_{n→∞}P^n=\pi_j\Rightarrow \lim_{n→∞}P^n=\begin{bmatrix}\frac57&\frac27\\\frac57&\frac27\end{bmatrix}E={1,2},转移概率矩阵为P=[43854183],求平稳分布及limn→∞Pn。由π=Pπ得:⎩⎨⎧π1=43π1+85π2π2=41π1+83π21=π1+π2⇒{π1=75π2=72,π=(π1,π2)=(75,72)由limn→∞Pn=πj⇒limn→∞Pn=[75757272] ↩︎