0 · 离散马氏链的核心计算套路:矩阵乘法与 \(\boldsymbol\pi P = \boldsymbol\pi\)
- 一步转移矩阵 \(P=(p_{ij})\) 的行和性质:从状态 \(i\) 出发下一步必定去往某个状态 \(j\),故每一行的元素之和恒等于 1(\(\sum_j p_{ij} = 1\))。如果算出来的 \(P\) 或 \(P^n\) 某一行加起来不是 1,立刻回去检查计算!
- 求解平稳分布 \(\boldsymbol\pi = (\pi_0, \pi_1, \dots)\) 的标准步骤:列方程组 \(\sum_i \pi_i p_{ij} = \pi_j\)(即列配行:\(\boldsymbol\pi\) 乘 \(P\) 的第 \(j\) 列等于 \(\pi_j\)),去掉其中任意一个冗余方程,换上归一化方程 \(\sum_j \pi_j = 1\),联立解出唯一正数解。
自学导读 · 平稳分布不等于收敛
① 遗忘知识补足
行随机矩阵 P 的每行和为 1,πₙ=π₀Pⁿ。πP=π 是平稳性方程;要从任意初始状态逐步收敛,必须进一步检查链结构与周期等条件。
② 推导或例题
P=[[0,1],[1,0]],π=(1/2,1/2) 是平稳分布。但从状态 0 出发,分布在 (1,0) 与 (0,1) 间振荡,原因是周期 2。
💡 破题关键与第一步提示(遮答案自测用 · ③ 考前自测(展开))
破题切入点:有限不可约非周期链为什么能收敛?有限不可约但有周期时缺少什么?(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)
📝 完整规范推导与评分踩分点(③ 考前自测(展开))
有限不可约非周期链为什么能收敛?有限不可约但有周期时缺少什么?
补充训练不替代教师本学期课件与考核通知。
马氏链期末计算:两状态平稳分布与收敛
给定状态转移矩阵 \(P=\begin{pmatrix}0.7&0.3\\0.2&0.8\end{pmatrix}\),求平稳分布并分析极限分布。
- 设 \(\pi=(\pi_0,\pi_1)\),写 \(\pi P=\pi\) 得 \(0.3\pi_0=0.2\pi_1\)。
- 与 \(\pi_0+\pi_1=1\) 联立得到 \(\pi=(0.4,0.6)\)。
- 状态 0 与 1 可互达,链不可约;自环概率 \(0.7,0.8>0\),周期均为 1;有限状态下不可约保证正常返。
- 因此无论初始分布如何,\(\pi_n=\pi_0^{(\mathrm{initial})}P^n\to(0.4,0.6)\)。这里初始分布和稳态向量不要都写成 \(\pi_0\) 而混淆。
💡 破题关键与第一步提示(遮答案自测用 · 自测:将 P 换成 \(\begin{pmatrix}0&1\\1&0\end{pmatrix}\) 会怎样?)
破题切入点:仍有唯一平稳分布 \((1/2,1/2)\),但是周期为 2;(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)
📝 完整规范推导与评分踩分点(自测:将 P 换成 \(\begin{pmatrix}0&1\\1&0\end{pmatrix}\) 会怎样?)
仍有唯一平稳分布 \((1/2,1/2)\),但是周期为 2;从确定状态出发的分布来回振荡,通常不收敛。平稳分布“存在”不等于“从任意初值收敛”。
先看:本模块易错点与补充
平稳 ≠ 收敛- \(\pi P=\pi\) 意味着以 π 为初始分布时分布不变;不意味着对任意初始分布的 \(P^n\) 都收敛。
- 有限不可约链有唯一平稳分布,若再非周期,则 \(P^n\) 的每一行收敛到该分布;周期链可不收敛。
- 连续参数链的平稳条件对应 \(\pi P(t)=\pi\) 和在适当条件下 \(\pi Q=0\)。
课件/第5讲.pptx(含第 7 章状态分类)
第 5 讲 · 齐次马氏链的性质 与 状态分类
0 · 本讲导读
本讲两大板块,考试双热点:
| 板块 | 回答的问题 | 考点 |
|---|---|---|
| 5.1–5.2 链的性质 | 给定转移矩阵 P 和初始分布,n 步后在哪?长期呢? | 算 Pⁿ、绝对分布;判遍历性 + 求平稳分布(大题) |
| 5.3 状态分类(课件第 7 章) | 每个状态“值不值得长期待”?链的结构长什么样? | 判常返/非常返/周期,分解状态空间(大题) |
- 大题一 · 遍历性 + 平稳分布:给转移矩阵 P(2~3 阶),验证某 n₀ 步全正 ⟹ 遍历,解 π=πP+Σπ=1 求平稳/极限分布,再算绝对分布/有限维分布(例 3、4、5 是三种出题皮肤:通信传输、球交换、市场占有率);
- 大题二 · 状态分类与分解:给 4~6 状态的 P,画转移图,逐状态判 常返/非常返、正常返/零常返、周期,最后写 \(E=N+C_1+\cdots\)(例 2、3 是标准答案模板);
- 小题:C-K 方程、Pⁿ、初始/绝对/极限/平稳四个分布的概念辨析、有限链四特点。
1 · 回顾 + 状态转移图
缺基础?求导、积分、级数、矩阵乘法、复数的手生处,直接翻上级目录的 《数学基础工具箱》(每条约三分钟,配例题与易错点;考前还有"十分钟急救包")。
上讲已学:齐次马氏链、一步转移矩阵 \(P=(p_{ij})\)(行随机:\(0\le p_{ij}\le1,\ \sum_jp_{ij}=1\))。
2 · C-K 方程与 P(n)=Pⁿ
💡 破题关键与第一步提示(遮答案自测用 · 证明(带条件乘法公式 + 全概率,两行核心))
破题切入点:\[p_{ij}(k+s)=P\{X(m+k+s)=j\mid X(m)=i\}=\sum_{r}P\{X(m+k+s)=j,\,X(m+k)=r\mid X(m)=i\}\] \[=\su(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)
📝 完整规范推导与评分踩分点(证明(带条件乘法公式 + 全概率,两行核心))
3 · 初始分布、绝对分布、有限维分布
绝对分布:\(\pi_j(n)=P\{X(n)=j\}\)(n 时刻的分布)。
4 · 遍历性与极限分布
5 · 平稳分布与求解套路 ★
6 · 应用例题三连
💡 破题关键与第一步提示(遮答案自测用 · 解答(谱分解法求 Pⁿ 的样板))
破题切入点:遍历性 :\(0<p<1\) 时 P 全正(n₀=1)⟹ 遍历。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)
📝 完整规范推导与评分踩分点(解答(谱分解法求 Pⁿ 的样板))
遍历性:\(0<p<1\) 时 P 全正(n₀=1)⟹ 遍历。
求 Pⁿ:P 的特征值 \(\lambda_1=1,\ \lambda_2=p-q\),单位正交特征向量构成正交矩阵 \(Q\),则 \(P^n=Q\,\mathrm{diag}(1,(p-q)^n)\,Q^T\): \[P^n=\frac12\begin{pmatrix}1+(p-q)^n&1-(p-q)^n\\[3pt]1-(p-q)^n&1+(p-q)^n\end{pmatrix}\xrightarrow[n\to\infty]{}\begin{pmatrix}1/2&1/2\\1/2&1/2\end{pmatrix}\quad(|p-q|<1).\] 所有行趋于相同向量 \((\tfrac12,\tfrac12)\) —— 不管发的是 0 还是 1,传过很多级后各半。
平稳分布:解 \(\pi_0=p\pi_0+q\pi_1,\ \pi_1=q\pi_0+p\pi_1,\ \pi_0+\pi_1=1\),得 \(\boldsymbol\pi=(\tfrac12,\tfrac12)\)=极限分布。(对称链的直觉答案。)
💡 破题关键与第一步提示(遮答案自测用 · 解答(考试标准五步,务必背流程))
破题切入点:① 初始分布 (超几何): \[P\{X(0)=0\}=\frac{\binom43}{\binom63}=\frac15,\quad P\{X(0)=1\}=\frac{\binom21\(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)
📝 完整规范推导与评分踩分点(解答(考试标准五步,务必背流程))
① 初始分布(超几何): \[P\{X(0)=0\}=\frac{\binom43}{\binom63}=\frac15,\quad P\{X(0)=1\}=\frac{\binom21\binom42}{\binom63}=\frac35,\quad P\{X(0)=2\}=\frac{\binom22\binom41}{\binom63}=\frac15.\]
② 转移矩阵(“各取一球交换”:甲红数变化 = −甲取出是否红 + 乙取出是否红。如甲有 1 红 2 白、乙有 1 红 2 白时:\(p_{10}=P\{\text{取甲红、乙白}\}=\frac13\cdot\frac23=\frac29\),\(p_{11}=\frac13\cdot\frac13+\frac23\cdot\frac23=\frac59\),\(p_{12}=\frac23\cdot\frac13=\frac29\)): \[P=\begin{pmatrix}1/3&2/3&0\\[2pt]2/9&5/9&2/9\\[2pt]0&2/3&1/3\end{pmatrix},\qquad P^2=\begin{pmatrix}7/27&16/27&4/27\\[2pt]16/81&49/81&16/81\\[2pt]4/27&16/27&7/27\end{pmatrix}.\]
③ 遍历性:\(P^2\) 全正(取 n₀=2)⟹ 遍历,极限分布=平稳分布。
④ 平稳分布:解 \(\boldsymbol\pi=\boldsymbol\pi P,\ \sum\pi_j=1\): \[\boldsymbol\pi=\Big(\tfrac15,\ \tfrac35,\ \tfrac15\Big).\] ——恰等于初始分布!(第 2 讲习题一题 4(3) 发现的“分布不变”之谜在此揭晓:该初始分布就是平稳分布。)
⑤ 绝对分布:由性质 8,\(\boldsymbol p(n)\equiv(\tfrac15,\tfrac35,\tfrac15)\) 对一切 n 成立,可验证 \(\boldsymbol p(0)P^2=(\tfrac15,\tfrac35,\tfrac15)\)。
有限维分布(性质 4): \[P\{X(1)=1,X(2)=2,X(4)=1\}=P\{X(1)=1\}\cdot p_{12}\cdot p_{21}(2)=\frac35\cdot\frac23\cdot\frac{16}{81};\] \[P\{X(2)=2,X(4)=2\mid X(1)=1\}=p_{12}\cdot p_{22}(2)=\frac23\cdot\frac{49}{81}.\]
💡 破题关键与第一步提示(遮答案自测用 · 解答)
破题切入点:(1) \(\boldsymbol p(2)=\boldsymbol p(1)P=(0. \cdots\)(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)
📝 完整规范推导与评分踩分点(解答)
(1) \(\boldsymbol p(2)=\boldsymbol p(1)P=(0.56,\ 0.18,\ 0.26)\)。
(2) 第 4 次 = 经过 3 步转移:\(\boldsymbol p(4)=\boldsymbol p(1)P^3\)。逐行算得 \[P^2=\begin{pmatrix}0.74&0.12&0.14\\0.65&0.18&0.17\\0.65&0.14&0.21\end{pmatrix},\qquad P^3=\begin{pmatrix}0.722&0.128&0.15\\0.695&0.134&0.171\\0.695&0.142&0.163\end{pmatrix},\] \[\boldsymbol p(4)\approx(0.700,\ 0.136,\ 0.164).\] (检查:\(p(2)\to p(4)\to\pi\) 依次单调逼近,方向一致。)
(3) 所有 \(p_{ij}>0\)(n₀=1)⟹ 遍历。解 \(\boldsymbol\pi=\boldsymbol\pi P,\ \sum\pi=1\): \[\pi_1=0.8\pi_1+0.5\pi_2+0.5\pi_3,\quad \pi_2=0.1\pi_1+0.1\pi_2+0.3\pi_3,\quad \pi_3=0.1\pi_1+0.4\pi_2+0.2\pi_3,\] 由第一式 \(0.2\pi_1=0.5(1-\pi_1)\Rightarrow\pi_1=\dfrac57\);代回解出 \[\boldsymbol\pi=\Big(\tfrac57,\ \tfrac{11}{84},\ \tfrac{13}{84}\Big)\approx(0.714,\ 0.131,\ 0.155).\] 长期看 A 厂占约 71.4% 市场——这就是“市场占有率预测”的马氏链模型。
7 · 首达、返回与平均返回时间
首达概率:\(f_{ij}(n)=P\{T_{ij}=n\mid X(m)=i\}=P\{X(m+n)=j,\ X(m+k)\ne j,\ 1\le k<n\mid X(m)=i\}\)。
迟早(最终)到达概率:\(f_{ij}=\sum_{n=1}^{\infty}f_{ij}(n)\)。
j=i 时称返回:\(T_{ii},f_{ii}(n),f_{ii}\)。
平均首达时间:\(\mu_{ij}=\sum_{n=1}^{\infty}n\,f_{ij}(n)\);i 的平均返回时间 \(\mu_i=\mu_{ii}\)。
8 · 可达、互通与首达分解
互通:\(i\to j\) 且 \(j\to i\),记 \(i\leftrightarrow j\)。互通是等价关系:自反(\(i\leftrightarrow i\))、对称、传递——它把状态空间切成互不相交的“等价类”,这就是后面状态分解的骨架。
9 · 常返 / 正常返 / 零常返 ★★
| 类别 | 判据(返回视角) | 直观 |
|---|---|---|
| 常返 | \(f_{ii}=1\) | 迟早必然回来 |
| 非常返(瞬时) | \(f_{ii}<1\) | 有正概率一去不返 |
| 正常返 | \(f_{ii}=1\) 且 \(\mu_i=\sum n f_{ii}(n)<+\infty\) | 必回且平均回来时间有限 |
| 零常返(消极常返) | \(f_{ii}=1\) 且 \(\mu_i=+\infty\) | 必回但平均要等无穷久 |
\)另一视角(返回次数):\(E[\text{返回 j 的次数}\mid X(0)=j]=\sum_np_{jj}(n)\)。常返 ⟹ 返回无穷多次;非常返 ⟹ 只返回有限多次(几何分布次数)。
💡 破题关键与第一步提示(遮答案自测用 · 解答)
破题切入点:状态 1 :\(f_{11}(1)=1,\ f_{11}(n)=0(n>1)\),\(f_{11}=1\),\(\mu_1=1<\infty\) ⟹ 正常返 (且是吸收态)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)
📝 完整规范推导与评分踩分点(解答)
状态 1:\(f_{11}(1)=1,\ f_{11}(n)=0(n>1)\),\(f_{11}=1\),\(\mu_1=1<\infty\) ⟹ 正常返(且是吸收态)。
状态 4:同理 正常返。
状态 2:\(f_{22}(1)=0\);两步经 3 返回:\(f_{22}(2)=pq\);n>2 无法首次返回(一旦到 1 或 4 就回不来)⟹ \(f_{22}=pq<1\) ⟹ 非常返。
状态 3:\(2\leftrightarrow3\) 互通 ⟹ 非常返(性质按互通类传递)。
套路总结:吸收态直接 \(f(1)=1,\mu=1\);内部态数“能回来的一切首达路径”概率求和。
- 有没有路回来?图上从 i 出发沿箭头(无视概率大小)能否回到 i。不能 ⟹ 非常返(连回来的路都没有,\(f_{ii}=0\));
- 列出全部首达回路:把"首次返回 i"的所有可能路径列出,各自概率相乘、各路径相加得 \(f_{ii}\)。关键检查:是否有路径漏算或重算(吸收/离开后不能再作首达);
- \(f_{ii}=1\)?否 ⟹ 非常返,收工。是 ⟹ 算 \(\mu_i=\sum n f_{ii}(n)\):有限 ⟹ 正常返;无穷 ⟹ 零常返(课程内有限状态链不会出现零常返,可数状态才会)。
10 · 闭集、状态空间分解、不可约链、有限链
推论(考试常用):有限 + 不可约 ⟹ 必正常返;再叠加非周期 ⟹ 遍历。
11 · 周期性
12 · 极限定理汇总 + 状态分类四例
- j 非周期常返 ⟹ \(\lim_{n\to\infty}p_{jj}(n)=\dfrac{1}{\mu_j}\)(常返时 \(f_{jj}=1\);正常返则极限为正,零常返极限为 0)。
- 链不可约、非周期、常返 ⟹ 对一切 i, j:\(\lim p_{ij}(n)=\pi_j\)。若还是正常返(此时称遍历链):\(\pi_j=\dfrac{1}{\mu_j}>0\),\(\{\pi_j\}\) 是唯一平稳分布,且 \(\lim_n p_j(n)=\pi_j\)。
- 不可约非周期常返链是遍历链 ⟺ 存在平稳分布 \(\{1/\mu_j\}\)。
- 不可约非周期有限马氏链必有平稳分布,且平稳分布=极限分布。(结合“有限+不可约⟹正常返”即得遍历。)
💡 破题关键与第一步提示(遮答案自测用 · 解答(分类大题的标准答卷))
破题切入点:画图 :1 自环 1/2、1→2;2→1(概率 1)⟹ 1↔2;(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)
📝 完整规范推导与评分踩分点(解答(分类大题的标准答卷))
画图:1 自环 1/2、1→2;2→1(概率 1)⟹ 1↔2;3 自环 2/3、3→2;4→1、4→3 各 1/2。
状态 4:从 4 走一步到 1 或 3,此后再无回 4 的边 ⟹ 对一切 n≥1,\(f_{44}(n)=0\),\(f_{44}=0<1\) ⟹ 非常返。
状态 3:唯一回 3 的方式是自环:\(f_{33}(1)=\tfrac23,\ f_{33}(n)=0(n\ge2)\) ⟹ \(f_{33}=\tfrac23<1\) ⟹ 非常返。(课件 p.78 该行下标印为 f₄₁,按图意即 f₃₃。)
状态 1:\(f_{11}(1)=\tfrac12\)(自环),\(f_{11}(2)=\tfrac12\)(经 2 返回),之后为 0 ⟹ \(f_{11}=\tfrac12+\tfrac12=1\);\(\mu_1=1\cdot\tfrac12+2\cdot\tfrac12=\tfrac32<\infty\) ⟹ 正常返。
状态 2:唯一回 2 的路是 2→1→…→2,即每次先自环若干次再走 1→2:\(f_{22}(1)=0,\ f_{22}(2)=\tfrac12,\ f_{22}(3)=\tfrac14,\dots,f_{22}(n)=\tfrac1{2^{n-1}}(n\ge2)\);\(\sum=\dfrac{1/2}{1-1/2}=1\) ⟹ 常返;\(\mu_2=\sum_{n\ge2}n\,2^{-(n-1)}=3<\infty\) ⟹ 正常返。(级数:\(\sum_{n\ge2}\frac{n}{2^{n-1}}=3\)。)
周期:\(f_{11}(1)>0,p_{11}>0\) ⟹ 1、2 均非周期 ⟹ 遍历态。
分解:\(E=N+C=\{3,4\}+\{1,2\}\),C 为非周期正常返闭集(={1,2} 上不可约非周期有限 ⟹ 遍历)。
💡 破题关键与第一步提示(遮答案自测用 · 解答)
破题切入点:状态 1 :唯一返回路径是绕 \(1\to3\to5\to1\):\(f_{11}(3)=1,\ f_{11}(n)=0(n\ne3)\),\(f_{11}=1\),\(\mu_1=3< \cdots\)(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)
📝 完整规范推导与评分踩分点(解答)
状态 1:唯一返回路径是绕 \(1\to3\to5\to1\):\(f_{11}(3)=1,\ f_{11}(n)=0(n\ne3)\),\(f_{11}=1\),\(\mu_1=3<\infty\) ⟹ 正常返且周期 d(1)=3。1↔3↔5 ⟹ \(C_1=\{1,3,5\}\) 是周期 3 的正常返闭集(注意:周期 d>1 ⟹ 不遍历!\(p_{11}(n)\) 只在 3 的倍数步非零,不收敛)。
状态 2:\(f_{22}(1)=0,\ f_{22}(2)=\tfrac12\)(经 6),\(f_{22}(3)=\tfrac14\)(6 自环一次),…,\(f_{22}(n)=\tfrac1{2^{n-1}}(n\ge2)\);\(f_{22}=\sum_{n\ge2}2^{-(n-1)}=1\) ⟹ 常返;\(\mu_2=\sum_{n\ge2}n\,2^{-(n-1)}=3<\infty\) ⟹ 正常返。\(p_{66}(1)=\tfrac12>0\) ⟹ 6 非周期 ⟹ 2、6 都非周期 ⟹ \(C_2=\{2,6\}\) 是非周期正常返(遍历)闭集。
状态 4:\(f_{44}(1)=\tfrac13\)(自环),\(f_{44}(n)=0(n\ge2)\) ⟹ \(f_{44}=\tfrac13<1\) 非常返;\(f_{44}(1)>0\) ⟹ 非周期。
分解:\(E=N+C_1+C_2=\{4\}+\{1,3,5\}+\{2,6\}\)。
本题三个考点各来一个:确定性循环给周期、几何型首达给正常返、自环给非常返+非周期。
💡 破题关键与第一步提示(遮答案自测用 · 解答)
破题切入点:状态 0 :\(f_{00}(1)=\tfrac12\)(自环),\(f_{00}(2)=\tfrac12\cdot\tfrac12=\tfrac14\)(0→1→0),…,\(f_{00} \cdots\)(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)
📝 完整规范推导与评分踩分点(解答)
状态 0:\(f_{00}(1)=\tfrac12\)(自环),\(f_{00}(2)=\tfrac12\cdot\tfrac12=\tfrac14\)(0→1→0),…,\(f_{00}(n)=\tfrac1{2^n}\);\(f_{00}=\sum_{n\ge1}2^{-n}=1\) ⟹ 常返;\(\mu_0=\sum_{n\ge1}n\,2^{-n}=2<\infty\) ⟹ 正常返;\(p_{00}=\tfrac12>0\) ⟹ 非周期 ⟹ 遍历态。
又 \(p_{i0}=\tfrac12>0\) 且 0→…→i ⟹ 每个状态都与 0 互通 ⟹ 不可约,全体状态非周期、正常返、遍历。
💡 破题关键与第一步提示(遮答案自测用 · 解答)
破题切入点:状态 0 :从 i 回 0 只能一路向前冲到 i 后跳回:\(f_{00}(1)=\tfrac12,\ f_{00}(2)=\tfrac1{2\cdot3},\ f_{00}(3)=\tfr \cdots\)(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)
📝 完整规范推导与评分踩分点(解答)
状态 0:从 i 回 0 只能一路向前冲到 i 后跳回:\(f_{00}(1)=\tfrac12,\ f_{00}(2)=\tfrac1{2\cdot3},\ f_{00}(3)=\tfrac1{2\cdot3\cdot4},\dots\) \[f_{00}(n)=\Big(\prod_{k=1}^{n+1}k\Big)^{-1}=\frac{1}{(n+1)!}\] 而 \((n+1)!\ge 2^n\)(n≥1),故 \(f_{00}=\sum_{n\ge1}\frac1{(n+1)!}\le\sum_{n\ge1}\frac1{2^n}=1\) 且严格小于 1(比较可知)⟹ 状态 0 非常返;每个状态与 0 互通 ⟹ 全体非常返(不可约、全非常返的例子)。
对照例 4:“跳回概率不衰减”⟹正常返;“跳回概率随距离衰减到 0”⟹非常返——逃逸速度 vs 拉回强度的赛跑。
13 · 本讲公式速查(一页纸素材)
| C-K | \(p_{ij}(k+s)=\sum_rp_{ir}(k)p_{rj}(s)\),即 \(P(k+s)=P(k)P(s)\);\(P(n)=P^n\) |
| 绝对分布 | \(\boldsymbol p(n)=\boldsymbol p(0)P^n\) |
| 有限维 | \(P\{X(n_1)=i_1,\dots\}=p_{i_1}(n_1)p_{i_1i_2}(n_2-n_1)\cdots\) |
| 判遍历 | 有限 + ∃n₀: \(p_{ij}(n_0)>0\ \forall i,j\) ⟹ 遍历 |
| 求平稳分布 | \(\boldsymbol\pi=\boldsymbol\pi P\),\(\sum\pi_j=1\)(s 个方程丢 1 个换归一化) |
| 三合一 | 遍历 ⟹ 极限分布=平稳分布=\(\lim\boldsymbol p(n)\) |
| 常返判据 | \(f_{ii}=1\iff\sum_np_{ii}(n)=\infty\);非常返 ⟺ \(\sum p_{ii}(n)<\infty\) |
| 正常返 | \(f_{ii}=1,\ \mu_i<\infty\);零常返:\(f_{ii}=1,\ \mu_i=\infty\)(且 \(\lim p_{ii}(n)=0\)) |
| 极限 | 非周期常返 j:\(\lim p_{jj}(n)=1/\mu_j\);不可约非周期正常返=遍历链,\(\pi_j=1/\mu_j\) |
| 分解 | \(E=N+C_1+\cdots+C_k\);不可约 ⟺ 全体互通;有限链无零常返、必有正常返 |
14 · 习题四(本讲布置,P152–154:4、10、19、23)
💡 破题关键与第一步提示(遮答案自测用 · 解答)
破题切入点:\(P=\begin{pmatrix}0. \cdots\)(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)
📝 完整规范推导与评分踩分点(解答)
\(P=\begin{pmatrix}0.4&0.3&0.3\\0.6&0.3&0.1\\0.6&0.1&0.3\end{pmatrix}\),初始 \(\boldsymbol p(0)=(\tfrac13,\tfrac13,\tfrac13)\)。
第 1 年底:\(\boldsymbol p(1)=\boldsymbol p(0)P=(\tfrac8{15},\tfrac7{30},\tfrac7{30})\approx(0.533,0.233,0.233)\)。
第 2 年底:\(\boldsymbol p(2)=\boldsymbol p(1)P=(\tfrac{37}{75},\tfrac{19}{75},\tfrac{19}{75})\approx(0.493,\ 0.253,\ 0.253)\)。
长期:P 全正 ⟹ 遍历。解 π=πP:由第一行式 \(0.6\pi_1=0.6(\pi_2+\pi_3)\Rightarrow\pi_1=\tfrac12\);由二、三式相减得 \(\pi_2=\pi_3\)。故 \(\boldsymbol\pi=(\tfrac12,\tfrac14,\tfrac14)\):长远看 A 占一半,B、C 各四分之一。
💡 破题关键与第一步提示(遮答案自测用 · 解答)
破题切入点:(1) 所有 \(p_{ij}>0\)(n₀=1)⟹ 遍历 。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)
📝 完整规范推导与评分踩分点(解答)
(1) 所有 \(p_{ij}>0\)(n₀=1)⟹ 遍历。
(2) 解 π=πP:式一 \(\pi_1=\tfrac12\pi_1+\tfrac12\pi_2\Rightarrow\pi_1=\pi_2\);式三 \(\pi_3=\tfrac14\pi_2+\tfrac23\pi_3\Rightarrow\pi_3=\tfrac34\pi_2\);归一化 \(2\pi_2+\tfrac34\pi_2=1\Rightarrow\pi_2=\tfrac4{11}\)。 \[\boldsymbol\pi=\Big(\tfrac4{11},\ \tfrac4{11},\ \tfrac3{11}\Big).\]
(3) ⅰ) 马氏性“忘掉 X(1)”,再看 X(2)=1 到 X(4)=3 需两步: \[=p_{13}(2)=\sum_rp_{1r}p_{r3}=p_{11}p_{13}+p_{12}p_{23}+p_{13}p_{33}=\tfrac12\cdot\tfrac14=\tfrac18.\] ⅱ) 乘法公式 + 马氏性:\(=p_{11}\cdot p_{12}=\tfrac12\cdot\tfrac12=\tfrac14\)。
15 · 资料对照与下一步
文件夹资料对照
| 资料 | 用法 |
|---|---|
复习资料/电子笔记/5马尔可夫过程.pdf | 状态分类手写推导,与本讲 7–12 节对照 |
复习资料/铅笔稍乱版笔记/分章节总结5.JPG | 马氏链一章框架图(快速过结构) |
历年试题/2016年-复习课投影拍照/ | 复习课片样,马氏链求平稳分布是高频考题,优先看 |
历年试题/2014年秋-期末考试-有答案.pdf | 先做这份,对照本讲 13–14 节速查表 |
下一讲预告
连续参数马尔可夫链:转移概率函数与转移矩阵、连续参数齐次马氏链、初始/绝对/极限/平稳分布、转移概率函数性质、状态转移速度矩阵(Q 矩阵)、生灭过程——由它正式进入排队论(M/M/1 等就是生灭过程的特例)。本讲的 π=πP 将推广为“平衡方程 πQ=0”。
- C-K 方程内容与意义?为什么 \(P(n)=P^n\)?
- 有限链判遍历 + 求平稳分布的完整套路?
- 常返/非常返的级数判据?正常返/零常返怎么区分?互通类起什么作用?
- 状态空间分解的答题格式?有限链的四个特点?
- 周期怎么求?有自环说明什么?“不可约+非周期+有限”⟹什么结论?
💡 破题关键与第一步提示(遮答案自测用 · 答案要点)
破题切入点:\(p_{ij}(k+s)=\sum_rp_{ir}(k)p_{rj}(s)\):k+s 步路径按中途站全概率分解;(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)
📝 完整规范推导与评分踩分点(答案要点)
- \(p_{ij}(k+s)=\sum_rp_{ir}(k)p_{rj}(s)\):k+s 步路径按中途站全概率分解;矩阵化即结合律 ⟹ P(n)=Pⁿ。
- 找 n₀ 使 \(P^{n_0}\) 全正(先试 P 本身)⟹ 遍历;解 π=πP + Σπ=1(丢一个方程)。
- \(\sum p_{ii}(n)=\infty\iff\) 常返;正常返 \(\mu_i<\infty\)、零常返 \(\mu_i=\infty\);互通 ⟹ 同类标签。
- \(E=N+C_1+\cdots+C_k\);有限链:N 非闭、无零常返、必有正常返、分解有限项。
- \(d=\gcd\{n:p_{ii}(n)>0\}\);自环 ⟹ d=1 非周期;不可约+非周期+有限 ⟹ 遍历,π 唯一。