⚠ 当前无法加载公式渲染库(KaTeX 走 CDN),公式可能显示为原始代码——联网后刷新即可。
随机过程与排队论 · 课程笔记 · 模块 3(原第 5 讲)

马尔可夫链篇

原第 5 讲C-K 方程 → 遍历性/平稳分布 → 状态分类与分解
本科遗忘急救站 · 全概率一步分析法与齐次线性方程组

0 · 离散马氏链的核心计算套路:矩阵乘法与 \(\boldsymbol\pi P = \boldsymbol\pi\)

  • 一步转移矩阵 \(P=(p_{ij})\) 的行和性质:从状态 \(i\) 出发下一步必定去往某个状态 \(j\),故每一行的元素之和恒等于 1(\(\sum_j p_{ij} = 1\))。如果算出来的 \(P\) 或 \(P^n\) 某一行加起来不是 1,立刻回去检查计算!
  • 求解平稳分布 \(\boldsymbol\pi = (\pi_0, \pi_1, \dots)\) 的标准步骤:列方程组 \(\sum_i \pi_i p_{ij} = \pi_j\)(即列配行:\(\boldsymbol\pi\) 乘 \(P\) 的第 \(j\) 列等于 \(\pi_j\)),去掉其中任意一个冗余方程,换上归一化方程 \(\sum_j \pi_j = 1\),联立解出唯一正数解。

自学导读 · 平稳分布不等于收敛

① 遗忘知识补足

行随机矩阵 P 的每行和为 1,πₙ=π₀Pⁿ。πP=π 是平稳性方程;要从任意初始状态逐步收敛,必须进一步检查链结构与周期等条件。

② 推导或例题

P=[[0,1],[1,0]],π=(1/2,1/2) 是平稳分布。但从状态 0 出发,分布在 (1,0) 与 (0,1) 间振荡,原因是周期 2。

💡 破题关键与第一步提示(遮答案自测用 · ③ 考前自测(展开))

破题切入点:有限不可约非周期链为什么能收敛?有限不可约但有周期时缺少什么?(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(③ 考前自测(展开))

有限不可约非周期链为什么能收敛?有限不可约但有周期时缺少什么?

补充训练不替代教师本学期课件与考核通知。

课程自学演算 · 答题步骤

马氏链期末计算:两状态平稳分布与收敛

给定状态转移矩阵 \(P=\begin{pmatrix}0.7&0.3\\0.2&0.8\end{pmatrix}\),求平稳分布并分析极限分布。

  1. 设 \(\pi=(\pi_0,\pi_1)\),写 \(\pi P=\pi\) 得 \(0.3\pi_0=0.2\pi_1\)。
  2. 与 \(\pi_0+\pi_1=1\) 联立得到 \(\pi=(0.4,0.6)\)。
  3. 状态 0 与 1 可互达,链不可约;自环概率 \(0.7,0.8>0\),周期均为 1;有限状态下不可约保证正常返。
  4. 因此无论初始分布如何,\(\pi_n=\pi_0^{(\mathrm{initial})}P^n\to(0.4,0.6)\)。这里初始分布和稳态向量不要都写成 \(\pi_0\) 而混淆。
💡 破题关键与第一步提示(遮答案自测用 · 自测:将 P 换成 \(\begin{pmatrix}0&1\\1&0\end{pmatrix}\) 会怎样?)

破题切入点:仍有唯一平稳分布 \((1/2,1/2)\),但是周期为 2;(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(自测:将 P 换成 \(\begin{pmatrix}0&1\\1&0\end{pmatrix}\) 会怎样?)

仍有唯一平稳分布 \((1/2,1/2)\),但是周期为 2;从确定状态出发的分布来回振荡,通常不收敛。平稳分布“存在”不等于“从任意初值收敛”。

修订版 · 重点核对

先看:本模块易错点与补充

平稳 ≠ 收敛
  • \(\pi P=\pi\) 意味着以 π 为初始分布时分布不变;不意味着对任意初始分布的 \(P^n\) 都收敛。
  • 有限不可约链有唯一平稳分布,若再非周期,则 \(P^n\) 的每一行收敛到该分布;周期链可不收敛。
  • 连续参数链的平稳条件对应 \(\pi P(t)=\pi\) 和在适当条件下 \(\pi Q=0\)。
原第 5 讲 · 课件/第5讲.pptx(含第 7 章状态分类)

第 5 讲 · 齐次马氏链的性质 与 状态分类

C-K 方程、极限/平稳分布、遍历性、常返/周期、状态空间分解

0 · 本讲导读

本讲两大板块,考试双热点:

板块回答的问题考点
5.1–5.2 链的性质给定转移矩阵 P 和初始分布,n 步后在哪?长期呢?算 Pⁿ、绝对分布;判遍历性 + 求平稳分布(大题)
5.3 状态分类(课件第 7 章)每个状态“值不值得长期待”?链的结构长什么样?判常返/非常返/周期,分解状态空间(大题)
大白话 · 整讲一句话 一条马氏链的命运由两样东西决定:转移矩阵 P(游戏规则)和初始分布(起点)。C-K 方程说“n 步 = 一步乘 n 次”(Pⁿ);遍历性说“玩得够久,出生在哪不重要,大家殊途同归到同一个分布”;平稳分布就是那个“殊途同归”的终点(也是“不再变化”的分布)。状态分类则是给每个状态贴标签:常返(迟早回来且反复回来)、正常返(平均回来时间有限)、零常返(回来但平均要无穷久)、非常返(有概率一去不回),再加上周期。把链分解成“非常返集 + 若干常返闭集”,就是状态分类大题的标准答案格式。
本讲考试重点(两道年度大题都在这里)
  1. 大题一 · 遍历性 + 平稳分布:给转移矩阵 P(2~3 阶),验证某 n₀ 步全正 ⟹ 遍历,解 π=πP+Σπ=1 求平稳/极限分布,再算绝对分布/有限维分布(例 3、4、5 是三种出题皮肤:通信传输、球交换、市场占有率);
  2. 大题二 · 状态分类与分解:给 4~6 状态的 P,画转移图,逐状态判 常返/非常返、正常返/零常返、周期,最后写 \(E=N+C_1+\cdots\)(例 2、3 是标准答案模板);
  3. 小题:C-K 方程、Pⁿ、初始/绝对/极限/平稳四个分布的概念辨析、有限链四特点。
从 0 学的路径建议:先吃透 1–3 节(转移图、C-K、三个分布),再用例 4 把"大题一"的五步流程背下来,最后用例 2、3 练"大题二"的画图分类。本讲所有结论都服务于这两道大题。

1 · 回顾 + 状态转移图课件 p.4–24, 53

先修自查 · 矩阵乘法(本讲全部计算的地基) 本讲 90% 的计算是"方阵的幂"和"行向量乘矩阵"。回顾规则:\(C=AB\) 的第 \(i\) 行第 \(j\) 列 = A 的第 i 行与 B 的第 j 列对应相乘再相加(行乘列)。行向量 \(\boldsymbol v\,(s\text{ 维})\) 乘 \(s\times s\) 矩阵 \(P\):结果的第 j 个分量 = \(\sum_i v_i p_{ij}\)(v 的分量与 P 的第 j 列配对)。自查题:\(P=\begin{pmatrix}1/3&2/3\\1/2&1/2\end{pmatrix}\),算 \(P^2\) 的 (1,1) 元与 \((1/2,1/2)P\)。答案:\(1/9+2/6=4/9\);\((5/12,7/12)\)。两分钟做不对,先回去翻线代,否则 P²、π=πP 全程痛苦。
缺基础?求导、积分、级数、矩阵乘法、复数的手生处,直接翻上级目录的 《数学基础工具箱》(每条约三分钟,配例题与易错点;考前还有"十分钟急救包")。

上讲已学:齐次马氏链、一步转移矩阵 \(P=(p_{ij})\)(行随机:\(0\le p_{ij}\le1,\ \sum_jp_{ij}=1\))。

状态转移图 以状态为结点、以转移概率为有向边的权得到的赋权有向图。例(六球交换模型,第 6 节详讲)\(E=\{0,1,2\}\): \[P=\begin{pmatrix}1/3&2/3&0\\2/9&5/9&2/9\\0&2/3&1/3\end{pmatrix}\] 画法:0 有自环 1/3、0→1 权 2/3;1→0 权 2/9、自环 5/9、1→2 权 2/9;2→1 权 2/3、自环 1/3。
为什么先画图 分类大题(判常返、找闭集、看周期)在图上做远比在矩阵上快:一眼看出谁能到谁(可达)、哪些状态抱团(闭集)、返回自己要绕几步(周期)。标准流程:矩阵 → 图 → 分类 → 分解 → 翻译回矩阵语言作答。

2 · C-K 方程与 P(n)=Pⁿ课件 p.26–27

性 质 1 · Chapman-Kolmogorov 方程 ★ 齐次马氏链的转移概率满足:对任意正整数 k, s, \[p_{ij}(k+s)=\sum_{r\in E}p_{ir}(k)\,p_{rj}(s)\] 矩阵形式:\(\;P(k+s)=P(k)\,P(s)\)。
💡 破题关键与第一步提示(遮答案自测用 · 证明(带条件乘法公式 + 全概率,两行核心))

破题切入点:\[p_{ij}(k+s)=P\{X(m+k+s)=j\mid X(m)=i\}=\sum_{r}P\{X(m+k+s)=j,\,X(m+k)=r\mid X(m)=i\}\] \[=\su(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(证明(带条件乘法公式 + 全概率,两行核心))
\[p_{ij}(k+s)=P\{X(m+k+s)=j\mid X(m)=i\}=\sum_{r}P\{X(m+k+s)=j,\,X(m+k)=r\mid X(m)=i\}\] \[=\sum_r P\{X(m+k)=r\mid X(m)=i\}\cdot P\{X(m+k+s)=j\mid X(m+k)=r,\,X(m)=i\}\] (带条件乘法公式 \(P(A_1A_2|B)=P(A_1|B)P(A_2|A_1B)\))\(\overset{\text{马氏性}}{=}\sum_r p_{ir}(k)\,p_{rj}(s)\)。∎
性 质 2 · n 步转移 = 一步的 n 次幂 \[P(n)=P^n.\] 证明:在 C-K 中令 k=s=1 得 P(2)=P²;归纳即得。结论:齐次马氏链的 n 步转移概率由一步转移概率完全确定——研究整条链只需要 P。
大白话 C-K 就是“走 k+s 步,必经过某个中途站 r”:把所有可能的中途站加总(全概率)。矩阵语言下它退化成“矩阵乘法结合律”,所以 n 步转移直接算 \(P^n\)。马氏性在此处的角色:经过 r 后“忘掉”出发 i。

3 · 初始分布、绝对分布、有限维分布课件 p.28–29

定 义 初始分布:\(\pi_i(0)=P\{X(0)=i\}\)(记行向量 \(\boldsymbol\pi(0)\))。
绝对分布:\(\pi_j(n)=P\{X(n)=j\}\)(n 时刻的分布)。
性 质 3 · 绝对分布的演化 \[p_j(n)=\sum_i p_i(0)\,p_{ij}(n),\qquad\text{矩阵形式:}\quad \boldsymbol p(n)=\boldsymbol p(0)\,P^n.\] 证明:\(P\{X(n)=j\}=\sum_iP\{X(0)=i\}P\{X(n)=j\mid X(0)=i\}\)(全概率)。
性 质 4 · 有限维分布由初始分布 + 转移概率确定 \[P\{X(n_1)=i_1,\ X(n_2)=i_2,\dots,X(n_k)=i_k\}=p_{i_1}(n_1)\;p_{i_1i_2}(n_2-n_1)\;p_{i_2i_3}(n_3-n_2)\cdots\] 证明:带条件乘法公式逐步分解,每步用马氏性“只看上一个时刻”、用齐次性“间隔定概率”。∎
大白话 · 马氏链的“说明书只有两页” 初始分布 \(\boldsymbol p(0)\) + 转移矩阵 \(P\) ⟹ 一切:任意时刻的分布(性质 3)、任意有限维联合分布(性质 4)、长期行为(下面 4、5 节)。这也是为什么排队论里“生灭过程”只需规定出生率/死亡率就完整了。

4 · 遍历性与极限分布课件 p.30–32

定 义 · 遍历性 若对一切状态 i, j,存在与 i 无关的极限 \[\lim_{n\to\infty}p_{ij}(n)=\pi_j,\] 称此马氏链具有遍历性。若进一步 \(\pi_j>0,\ \sum_j\pi_j=1\),称 \(\boldsymbol\pi=(\pi_j)\) 为极限分布(最终分布)。
性 质 5 · 遍历性判别准则 + 极限分布求法 ★★★(考试主力) 设齐次马氏链状态空间有限 \(E=\{1,\dots,s\}\)。若存在正整数 \(n_0\),使 \(n_0\) 步转移矩阵全部元素为正(\(p_{ij}(n_0)>0,\ \forall i,j\in E\)),则此链是遍历的,且极限分布 \(\boldsymbol\pi\) 是方程组 \[\pi_j=\sum_{i=1}^{s}\pi_i\,p_{ij},\ j=1,\dots,s\qquad\Big(\text{即 }\boldsymbol\pi=\boldsymbol\pi P\Big)\] 在约束 \(\pi_j>0,\ \sum_j\pi_j=1\) 下的唯一解。
推 论 遍历链的绝对分布与转移概率有相同极限:\(\lim_{n\to\infty}p_j(n)=\pi_j\)(由 \(\boldsymbol p(n)=\boldsymbol p(0)P^n\) 两边取极限)。
大白话 · 检验口诀 “找一个 n₀,P 的 n₀ 次幂全正 ⟹ 遍历;再解 π=πP + 和为 1。”实践中先看一步 P 是否全正(全正则 n₀=1);否则算 P²、P³ 找全正的那个。求解时把 π=πP 的 s 个方程扔掉一个(线性相关),换成归一化 Σπ=1。

5 · 平稳分布与求解套路 ★课件 p.33–39

定 义 · 平稳分布 若分布 \(\boldsymbol V=(v_j,j\in E)\) 满足 \[v_j=\sum_{i}v_i\,p_{ij}\quad\Big(\boldsymbol V=\boldsymbol VP\Big),\] 称此链是平稳的,V 为平稳分布。
性 质 6 遍历的齐次马氏链的极限分布是平稳分布。(由 C-K 方程 \(\pi_j=\sum_r\pi_r p_{rj}(n)\) 取 n→∞,控制收敛求和换序即证。)
性 质 7 若 V 是平稳分布,则 \(\boldsymbol V=\boldsymbol VP^n\) 对一切 n 成立。(归纳:V=VP ⟹ VP²=(VP)P=VP=V。)
性 质 8 · 平稳的含义 若初始分布恰为平稳分布,则对一切 n:\(p_j(n)=p_j(0)\)——绝对分布永远不变,系统处于动态平衡(每一步内部在流动,但各状态占比不变)。
重要推论(解题公式)★★★ 有限状态 + 存在 \(n_0\) 使 \(p_{ij}(n_0)>0\ \forall i,j\) ⟹ 链遍历,且极限分布 = 平稳分布 = 方程组 π=πP、Σπ=1 的唯一解。代数上就是解一个线性方程组。
三概念一张网 极限分布(\(p_{ij}(n)\to\pi_j\),从转移概率角度)=平稳分布(\(\pi=\pi P\),从方程角度)=长期占比(\(\lim p_j(n)=\pi_j\),从绝对分布角度)。在“有限+某 n₀ 步全正”条件下三者合一。别死记三条定义,记这张等价图。
解 π=πP 的两个实战技巧 技巧一(丢一换一):π=πP 给出 s 个方程但线性相关(可由其余 s−1 个推出),扔掉任意一个,换上 \(\pi_1+\cdots+\pi_s=1\),凑成 s 元 s 方程组求解。挑最简单的那个方程丢(通常丢含 0 最多或系数最整齐的)。 技巧二(逐状态配平/流量法):把 \(\pi_j=\sum_i\pi_ip_{ij}\) 读成"流入 j 的概率流 = 流出 j 的概率流",对二状态链特别快:\(\pi_1p_{12}=\pi_2p_{21}\)(两边各自是唯一缺口),再用和为 1 收尾。第 7 讲生灭过程的"细致平衡"就是它的推广。 验算三板斧:解完检查 ①Σπ=1;②代回被丢掉的那个方程;③直觉核对(转移越"自恋"的状态 π 越大)。

6 · 应用例题三连课件 p.40–50

例 3 · 数字 0/1 传送系统(遍历性 + Pⁿ 极限)
每级正确传送概率 p(错传成对方),\(\{X(n)\}\)=离开第 n 级的数字,\(E=\{0,1\}\),\(P=\begin{pmatrix}p&q\\q&p\end{pmatrix}\)(q=1−p)。讨论遍历性,求极限分布与平稳分布。
💡 破题关键与第一步提示(遮答案自测用 · 解答(谱分解法求 Pⁿ 的样板))

破题切入点:遍历性 :\(0<p<1\) 时 P 全正(n₀=1)⟹ 遍历。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答(谱分解法求 Pⁿ 的样板))

遍历性:\(0<p<1\) 时 P 全正(n₀=1)⟹ 遍历。

求 Pⁿ:P 的特征值 \(\lambda_1=1,\ \lambda_2=p-q\),单位正交特征向量构成正交矩阵 \(Q\),则 \(P^n=Q\,\mathrm{diag}(1,(p-q)^n)\,Q^T\): \[P^n=\frac12\begin{pmatrix}1+(p-q)^n&1-(p-q)^n\\[3pt]1-(p-q)^n&1+(p-q)^n\end{pmatrix}\xrightarrow[n\to\infty]{}\begin{pmatrix}1/2&1/2\\1/2&1/2\end{pmatrix}\quad(|p-q|<1).\] 所有行趋于相同向量 \((\tfrac12,\tfrac12)\) —— 不管发的是 0 还是 1,传过很多级后各半。

平稳分布:解 \(\pi_0=p\pi_0+q\pi_1,\ \pi_1=q\pi_0+p\pi_1,\ \pi_0+\pi_1=1\),得 \(\boldsymbol\pi=(\tfrac12,\tfrac12)\)=极限分布。(对称链的直觉答案。)

例 4 · 六球交换模型(全流程样板:判遍历 → 平稳分布 → 绝对分布 → 有限维)★
6 球(2 红 4 白)分装甲、乙两盒各 3 个,每次从两盒各取一球交换。\(X(n)\)=n 次交换后甲盒红球数,\(E=\{0,1,2\}\)。
💡 破题关键与第一步提示(遮答案自测用 · 解答(考试标准五步,务必背流程))

破题切入点:① 初始分布 (超几何): \[P\{X(0)=0\}=\frac{\binom43}{\binom63}=\frac15,\quad P\{X(0)=1\}=\frac{\binom21\(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答(考试标准五步,务必背流程))

① 初始分布(超几何): \[P\{X(0)=0\}=\frac{\binom43}{\binom63}=\frac15,\quad P\{X(0)=1\}=\frac{\binom21\binom42}{\binom63}=\frac35,\quad P\{X(0)=2\}=\frac{\binom22\binom41}{\binom63}=\frac15.\]

② 转移矩阵(“各取一球交换”:甲红数变化 = −甲取出是否红 + 乙取出是否红。如甲有 1 红 2 白、乙有 1 红 2 白时:\(p_{10}=P\{\text{取甲红、乙白}\}=\frac13\cdot\frac23=\frac29\),\(p_{11}=\frac13\cdot\frac13+\frac23\cdot\frac23=\frac59\),\(p_{12}=\frac23\cdot\frac13=\frac29\)): \[P=\begin{pmatrix}1/3&2/3&0\\[2pt]2/9&5/9&2/9\\[2pt]0&2/3&1/3\end{pmatrix},\qquad P^2=\begin{pmatrix}7/27&16/27&4/27\\[2pt]16/81&49/81&16/81\\[2pt]4/27&16/27&7/27\end{pmatrix}.\]

③ 遍历性:\(P^2\) 全正(取 n₀=2)⟹ 遍历,极限分布=平稳分布。

④ 平稳分布:解 \(\boldsymbol\pi=\boldsymbol\pi P,\ \sum\pi_j=1\): \[\boldsymbol\pi=\Big(\tfrac15,\ \tfrac35,\ \tfrac15\Big).\] ——恰等于初始分布!(第 2 讲习题一题 4(3) 发现的“分布不变”之谜在此揭晓:该初始分布就是平稳分布。)

⑤ 绝对分布:由性质 8,\(\boldsymbol p(n)\equiv(\tfrac15,\tfrac35,\tfrac15)\) 对一切 n 成立,可验证 \(\boldsymbol p(0)P^2=(\tfrac15,\tfrac35,\tfrac15)\)。

有限维分布(性质 4): \[P\{X(1)=1,X(2)=2,X(4)=1\}=P\{X(1)=1\}\cdot p_{12}\cdot p_{21}(2)=\frac35\cdot\frac23\cdot\frac{16}{81};\] \[P\{X(2)=2,X(4)=2\mid X(1)=1\}=p_{12}\cdot p_{22}(2)=\frac23\cdot\frac{49}{81}.\]

例 5 · 味精市场占有率(预测长期份额)
顾客购买 A/B/C 三厂味精无记忆。初始分布 \(\boldsymbol p(1)=(0.2,0.4,0.4)\),转移矩阵(购买倾向): \[P=\begin{pmatrix}0.8&0.1&0.1\\0.5&0.1&0.4\\0.5&0.3&0.2\end{pmatrix}\] 求:(1) 第 2 次购买分布;(2) 第 4 次购买分布;(3) 长期占有率。
💡 破题关键与第一步提示(遮答案自测用 · 解答)

破题切入点:(1) \(\boldsymbol p(2)=\boldsymbol p(1)P=(0. \cdots\)(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答)

(1) \(\boldsymbol p(2)=\boldsymbol p(1)P=(0.56,\ 0.18,\ 0.26)\)。

(2) 第 4 次 = 经过 3 步转移:\(\boldsymbol p(4)=\boldsymbol p(1)P^3\)。逐行算得 \[P^2=\begin{pmatrix}0.74&0.12&0.14\\0.65&0.18&0.17\\0.65&0.14&0.21\end{pmatrix},\qquad P^3=\begin{pmatrix}0.722&0.128&0.15\\0.695&0.134&0.171\\0.695&0.142&0.163\end{pmatrix},\] \[\boldsymbol p(4)\approx(0.700,\ 0.136,\ 0.164).\] (检查:\(p(2)\to p(4)\to\pi\) 依次单调逼近,方向一致。)

(3) 所有 \(p_{ij}>0\)(n₀=1)⟹ 遍历。解 \(\boldsymbol\pi=\boldsymbol\pi P,\ \sum\pi=1\): \[\pi_1=0.8\pi_1+0.5\pi_2+0.5\pi_3,\quad \pi_2=0.1\pi_1+0.1\pi_2+0.3\pi_3,\quad \pi_3=0.1\pi_1+0.4\pi_2+0.2\pi_3,\] 由第一式 \(0.2\pi_1=0.5(1-\pi_1)\Rightarrow\pi_1=\dfrac57\);代回解出 \[\boldsymbol\pi=\Big(\tfrac57,\ \tfrac{11}{84},\ \tfrac{13}{84}\Big)\approx(0.714,\ 0.131,\ 0.155).\] 长期看 A 厂占约 71.4% 市场——这就是“市场占有率预测”的马氏链模型。

7 · 首达、返回与平均返回时间课件 p.54–56

定 义(i 出发首次到达 j) 首达时刻:\(T_{ij}=\min\{n\ge1: X(m)=i,\ X(m+n)=j\}\)(随机变量!取值=第一次踩到 j 的步数)。例(图上 0→1):路径 0-0-1 时 \(T_{01}=2\);路径 0-1 时 \(T_{01}=1\);路径 0-0-0-1 时 \(T_{01}=3\)。
首达概率:\(f_{ij}(n)=P\{T_{ij}=n\mid X(m)=i\}=P\{X(m+n)=j,\ X(m+k)\ne j,\ 1\le k<n\mid X(m)=i\}\)。
迟早(最终)到达概率:\(f_{ij}=\sum_{n=1}^{\infty}f_{ij}(n)\)。
j=i 时称返回:\(T_{ii},f_{ii}(n),f_{ii}\)。
平均首达时间:\(\mu_{ij}=\sum_{n=1}^{\infty}n\,f_{ij}(n)\);i 的平均返回时间 \(\mu_i=\mu_{ii}\)。
大白话 \(f_{ij}(n)\):恰好第 n 步第一次踩到 j 的概率;\(f_{ij}\):迟早踩到 j 的总概率(0~1 的数);\(\mu_i\):从 i 出发“回家”平均要多久。三个量是下面一切分类的度量衡。

8 · 可达、互通与首达分解课件 p.57–60

定 义 可达:存在 n≥0 使 \(p_{ij}(n)>0\),记 \(i\to j\)(图上:有有向路)。否则 \(i\not\to j\)(此时一切 \(p_{ij}(n)=0\))。
互通:\(i\to j\) 且 \(j\to i\),记 \(i\leftrightarrow j\)。互通是等价关系:自反(\(i\leftrightarrow i\))、对称、传递——它把状态空间切成互不相交的“等价类”,这就是后面状态分解的骨架。
定 理 1 · 首达分解 ★ \[p_{ij}(n)=\sum_{k=1}^{n}f_{ij}(k)\,p_{jj}(n-k),\qquad n\ge1.\] (第 n 步在 j = 首次到达 j 用了 k 步,再从 j 出发 n−k 步回到 j;对 k 求和。证明用“首达时刻”按全概率分解。)
定 理 2 与 推 论 \[f_{ij}>0\iff i\to j;\qquad i\leftrightarrow j\iff f_{ij}>0\ \text{且}\ f_{ji}>0.\] (用首达分解:\(p_{ij}(n)=\sum_{k\le n}f_{ij}(k)p_{jj}(n-k)\ge f_{ij}(n)>0\) 等方向推导。)

9 · 常返 / 正常返 / 零常返 ★★课件 p.61–66

定 义
类别判据(返回视角)直观
常返\(f_{ii}=1\)迟早必然回来
非常返(瞬时)\(f_{ii}<1\)有正概率一去不返
正常返\(f_{ii}=1\) 且 \(\mu_i=\sum n f_{ii}(n)<+\infty\)必回且平均回来时间有限
零常返(消极常返)\(f_{ii}=1\) 且 \(\mu_i=+\infty\)必回但平均要等无穷久
判别准则(级数视角)★★ \[j\ \text{常返}\iff\sum_{n=1}^{\infty}p_{jj}(n)=+\infty;\qquad j\ \text{非常返}\iff\sum_{n=1}^{\infty}p_{jj}(n)<+\infty\ (\text{此时}\ \textstyle\sum_np_{jj}(n)=\frac{f_{jj}}{1-f_{jj}}).\] 证明骨架:\(\sum_{n\ge1}p_{jj}(n)=\sum_{n\ge1}\sum_{k=1}^{n}f_{jj}(k)p_{jj}(n-k)=f_{jj}\cdot\sum_{m\ge0}p_{jj}(m)\),移项解出。\(
\)另一视角(返回次数):\(E[\text{返回 j 的次数}\mid X(0)=j]=\sum_np_{jj}(n)\)。常返 ⟹ 返回无穷多次;非常返 ⟹ 只返回有限多次(几何分布次数)。
定 理(互通传递性) 若 \(i\leftrightarrow j\):同为常返或同为非常返;同为常返时同为正常返或同为零常返;且(下节)同周期。“性质按互通类整体打标签”——这就是为什么先找互通类再分类。
例 1 · 两个吸收壁随机游动(手算 f、μ 的样板)
\(E=\{1,2,3,4\}\):\(p_{11}=p_{44}=1\)(吸收壁),内部 \(2\to1(q)/2\to3(p)\),\(3\to2(q)/3\to4(p)\)。分类各状态。
💡 破题关键与第一步提示(遮答案自测用 · 解答)

破题切入点:状态 1 :\(f_{11}(1)=1,\ f_{11}(n)=0(n>1)\),\(f_{11}=1\),\(\mu_1=1<\infty\) ⟹ 正常返 (且是吸收态)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答)

状态 1:\(f_{11}(1)=1,\ f_{11}(n)=0(n>1)\),\(f_{11}=1\),\(\mu_1=1<\infty\) ⟹ 正常返(且是吸收态)。

状态 4:同理 正常返。

状态 2:\(f_{22}(1)=0\);两步经 3 返回:\(f_{22}(2)=pq\);n>2 无法首次返回(一旦到 1 或 4 就回不来)⟹ \(f_{22}=pq<1\) ⟹ 非常返。

状态 3:\(2\leftrightarrow3\) 互通 ⟹ 非常返(性质按互通类传递)。

套路总结:吸收态直接 \(f(1)=1,\mu=1\);内部态数“能回来的一切首达路径”概率求和。

判常返的实战流程(画图之后做三问) 对每个状态 i,画完转移图后依次问:
  1. 有没有路回来?图上从 i 出发沿箭头(无视概率大小)能否回到 i。不能 ⟹ 非常返(连回来的路都没有,\(f_{ii}=0\));
  2. 列出全部首达回路:把"首次返回 i"的所有可能路径列出,各自概率相乘、各路径相加得 \(f_{ii}\)。关键检查:是否有路径漏算或重算(吸收/离开后不能再作首达);
  3. \(f_{ii}=1\)?否 ⟹ 非常返,收工。是 ⟹ 算 \(\mu_i=\sum n f_{ii}(n)\):有限 ⟹ 正常返;无穷 ⟹ 零常返(课程内有限状态链不会出现零常返,可数状态才会)。
常见的首达回路形态:自环(\(f(1)=p_{ii}\))、确定循环(\(f(3)=1\),如三循环)、几何型(\(f(n)=q^{n-1}p\),和为 1 ⟹ 常返、\(\mu=1/p\))。例 2、例 3 把三种形态各演一遍。

10 · 闭集、状态空间分解、不可约链、有限链课件 p.67–71

定 义 · 闭集与吸收态 \(C\subseteq E\):若从 C 内任一状态出发永远出不了 C(\(\forall i\in C,\ j\notin C,\ n\ge1:\ p_{ij}(n)=0\)),称 C 为闭集。\(p_{ii}=1\) 的状态 i 称吸收状态(单点闭集是最小闭集)。
状态空间分解定理 ★★(大题答题格式) 重要结论:① 整个 E 是最大闭集;② 所有常返状态构成一个闭集;③ E 必可分解为 \[E=N+C_1+C_2+\cdots+C_k+\cdots\] 其中 N 为全部非常返状态之集,\(C_1,C_2,\dots\) 是互不相交、不可再分的(常返)闭集(“+”=不交并)。每个 \(C_i\) 内部所有状态“同呼吸”(同常返性、同周期)。
定 义 · 不可约马氏链 除 E 本身外再无其它闭集的链。充要条件:任何两个状态互通。结论:不可约链要么全常返、要么全非常返(不会混)。
有限马氏链四特点 ① 非常返集 N 不可能是闭集(质点不能永远待在“迟早要离开”的地方);② 没有零常返状态;③ 必有正常返状态;④ 分解有限项:\(E=N+C_1+\cdots+C_k\)。
推论(考试常用):有限 + 不可约 ⟹ 必正常返;再叠加非周期 ⟹ 遍历。

11 · 周期性课件 p.72–75

定 义 \[d(i)=\gcd\{\,n\ge1:\ p_{ii}(n)>0\,\}\] (返回步数的最大公约数)。\(d(i)>1\) 称状态 i 有周期;\(d(i)=1\) 称非周期。
速判技巧 ① 有自环(\(p_{ii}>0\))⟹ 立即非周期(gcd 含 1);② 确定性绕圈(如 \(1\to3\to5\to1\))周期=圈长;③ 无自环但“两条不同长度回路”gcd=1 ⟹ 非周期。课件示例:状态 1 的返回步数集 \(D=\{4,8,12,\dots\}\cup\{6,12,18,\dots\}\cup\{10,14,16,\dots\}\),gcd=2 ⟹ d(1)=2。
三条结论 ① \(i\leftrightarrow j\) ⟹ 同周期或都非周期(证明:取 \(p_{ij}(m)>0,p_{ji}(n)>0,p_{ii}(s)>0\),绕圈得 \(d(j)\mid s\),同理 \(d(i)\le d(j)\),故相等);② 常返闭集内各状态同周期(或全非周期);③ 不可约常返链:一个状态周期为 d ⟹ 全链周期为 d。

12 · 极限定理汇总 + 状态分类四例课件 p.76–86

极 限 定 理(一页纸必抄)
  • j 非周期常返 ⟹ \(\lim_{n\to\infty}p_{jj}(n)=\dfrac{1}{\mu_j}\)(常返时 \(f_{jj}=1\);正常返则极限为正,零常返极限为 0)。
  • 链不可约、非周期、常返 ⟹ 对一切 i, j:\(\lim p_{ij}(n)=\pi_j\)。若还是正常返(此时称遍历链):\(\pi_j=\dfrac{1}{\mu_j}>0\),\(\{\pi_j\}\) 是唯一平稳分布,且 \(\lim_n p_j(n)=\pi_j\)。
  • 不可约非周期常返链是遍历链 ⟺ 存在平稳分布 \(\{1/\mu_j\}\)。
  • 不可约非周期有限马氏链必有平稳分布,且平稳分布=极限分布。(结合“有限+不可约⟹正常返”即得遍历。)
例 2 · 四状态链(非常返与遍历闭集并存)★(即习题四题 23)
\(E=\{1,2,3,4\}\), \[P=\begin{pmatrix}1/2&1/2&0&0\\1&0&0&0\\0&1/3&2/3&0\\1/2&0&1/2&0\end{pmatrix}\]
💡 破题关键与第一步提示(遮答案自测用 · 解答(分类大题的标准答卷))

破题切入点:画图 :1 自环 1/2、1→2;2→1(概率 1)⟹ 1↔2;(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答(分类大题的标准答卷))

画图:1 自环 1/2、1→2;2→1(概率 1)⟹ 1↔2;3 自环 2/3、3→2;4→1、4→3 各 1/2。

状态 4:从 4 走一步到 1 或 3,此后再无回 4 的边 ⟹ 对一切 n≥1,\(f_{44}(n)=0\),\(f_{44}=0<1\) ⟹ 非常返。

状态 3:唯一回 3 的方式是自环:\(f_{33}(1)=\tfrac23,\ f_{33}(n)=0(n\ge2)\) ⟹ \(f_{33}=\tfrac23<1\) ⟹ 非常返。(课件 p.78 该行下标印为 f₄₁,按图意即 f₃₃。)

状态 1:\(f_{11}(1)=\tfrac12\)(自环),\(f_{11}(2)=\tfrac12\)(经 2 返回),之后为 0 ⟹ \(f_{11}=\tfrac12+\tfrac12=1\);\(\mu_1=1\cdot\tfrac12+2\cdot\tfrac12=\tfrac32<\infty\) ⟹ 正常返。

状态 2:唯一回 2 的路是 2→1→…→2,即每次先自环若干次再走 1→2:\(f_{22}(1)=0,\ f_{22}(2)=\tfrac12,\ f_{22}(3)=\tfrac14,\dots,f_{22}(n)=\tfrac1{2^{n-1}}(n\ge2)\);\(\sum=\dfrac{1/2}{1-1/2}=1\) ⟹ 常返;\(\mu_2=\sum_{n\ge2}n\,2^{-(n-1)}=3<\infty\) ⟹ 正常返。(级数:\(\sum_{n\ge2}\frac{n}{2^{n-1}}=3\)。)

周期:\(f_{11}(1)>0,p_{11}>0\) ⟹ 1、2 均非周期 ⟹ 遍历态。

分解:\(E=N+C=\{3,4\}+\{1,2\}\),C 为非周期正常返闭集(={1,2} 上不可约非周期有限 ⟹ 遍历)。

例 3 · 六状态链(周期闭集出场)★
\[P=\begin{pmatrix}0&0&1&0&0&0\\0&0&0&0&0&1\\0&0&0&0&1&0\\1/3&1/3&0&1/3&0&0\\1&0&0&0&0&0\\0&1/2&0&0&0&1/2\end{pmatrix},\qquad E=\{1,\dots,6\}\] 图:1→3→5→1(概率 1 的三循环);4 自环 1/3、4→1、4→2 各 1/3;2→6;6 自环 1/2、6→2。
💡 破题关键与第一步提示(遮答案自测用 · 解答)

破题切入点:状态 1 :唯一返回路径是绕 \(1\to3\to5\to1\):\(f_{11}(3)=1,\ f_{11}(n)=0(n\ne3)\),\(f_{11}=1\),\(\mu_1=3< \cdots\)(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答)

状态 1:唯一返回路径是绕 \(1\to3\to5\to1\):\(f_{11}(3)=1,\ f_{11}(n)=0(n\ne3)\),\(f_{11}=1\),\(\mu_1=3<\infty\) ⟹ 正常返且周期 d(1)=3。1↔3↔5 ⟹ \(C_1=\{1,3,5\}\) 是周期 3 的正常返闭集(注意:周期 d>1 ⟹ 不遍历!\(p_{11}(n)\) 只在 3 的倍数步非零,不收敛)。

状态 2:\(f_{22}(1)=0,\ f_{22}(2)=\tfrac12\)(经 6),\(f_{22}(3)=\tfrac14\)(6 自环一次),…,\(f_{22}(n)=\tfrac1{2^{n-1}}(n\ge2)\);\(f_{22}=\sum_{n\ge2}2^{-(n-1)}=1\) ⟹ 常返;\(\mu_2=\sum_{n\ge2}n\,2^{-(n-1)}=3<\infty\) ⟹ 正常返。\(p_{66}(1)=\tfrac12>0\) ⟹ 6 非周期 ⟹ 2、6 都非周期 ⟹ \(C_2=\{2,6\}\) 是非周期正常返(遍历)闭集。

状态 4:\(f_{44}(1)=\tfrac13\)(自环),\(f_{44}(n)=0(n\ge2)\) ⟹ \(f_{44}=\tfrac13<1\) 非常返;\(f_{44}(1)>0\) ⟹ 非周期。

分解:\(E=N+C_1+C_2=\{4\}+\{1,3,5\}+\{2,6\}\)。

本题三个考点各来一个:确定性循环给周期、几何型首达给正常返、自环给非常返+非周期。

例 4 · 可数状态:全体遍历
\(E=\{0,1,2,\dots\}\),\(p_{i,i+1}=\tfrac12,\ p_{i,0}=\tfrac12\)(每个状态“一半前进、一半跳回 0”)。
💡 破题关键与第一步提示(遮答案自测用 · 解答)

破题切入点:状态 0 :\(f_{00}(1)=\tfrac12\)(自环),\(f_{00}(2)=\tfrac12\cdot\tfrac12=\tfrac14\)(0→1→0),…,\(f_{00} \cdots\)(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答)

状态 0:\(f_{00}(1)=\tfrac12\)(自环),\(f_{00}(2)=\tfrac12\cdot\tfrac12=\tfrac14\)(0→1→0),…,\(f_{00}(n)=\tfrac1{2^n}\);\(f_{00}=\sum_{n\ge1}2^{-n}=1\) ⟹ 常返;\(\mu_0=\sum_{n\ge1}n\,2^{-n}=2<\infty\) ⟹ 正常返;\(p_{00}=\tfrac12>0\) ⟹ 非周期 ⟹ 遍历态。

又 \(p_{i0}=\tfrac12>0\) 且 0→…→i ⟹ 每个状态都与 0 互通 ⟹ 不可约,全体状态非周期、正常返、遍历。

例 5 · 可数状态:全体非常返(对照组)
\(E=\{0,1,2,\dots\}\),\(p_{00}=\tfrac12,\ p_{01}=\tfrac12,\ p_{i,0}=\dfrac1{i+2},\ p_{i,i+1}=\dfrac{i+1}{i+2}\ (i>0)\)。
💡 破题关键与第一步提示(遮答案自测用 · 解答)

破题切入点:状态 0 :从 i 回 0 只能一路向前冲到 i 后跳回:\(f_{00}(1)=\tfrac12,\ f_{00}(2)=\tfrac1{2\cdot3},\ f_{00}(3)=\tfr \cdots\)(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答)

状态 0:从 i 回 0 只能一路向前冲到 i 后跳回:\(f_{00}(1)=\tfrac12,\ f_{00}(2)=\tfrac1{2\cdot3},\ f_{00}(3)=\tfrac1{2\cdot3\cdot4},\dots\) \[f_{00}(n)=\Big(\prod_{k=1}^{n+1}k\Big)^{-1}=\frac{1}{(n+1)!}\] 而 \((n+1)!\ge 2^n\)(n≥1),故 \(f_{00}=\sum_{n\ge1}\frac1{(n+1)!}\le\sum_{n\ge1}\frac1{2^n}=1\) 且严格小于 1(比较可知)⟹ 状态 0 非常返;每个状态与 0 互通 ⟹ 全体非常返(不可约、全非常返的例子)。

对照例 4:“跳回概率不衰减”⟹正常返;“跳回概率随距离衰减到 0”⟹非常返——逃逸速度 vs 拉回强度的赛跑。

13 · 本讲公式速查(一页纸素材)

C-K\(p_{ij}(k+s)=\sum_rp_{ir}(k)p_{rj}(s)\),即 \(P(k+s)=P(k)P(s)\);\(P(n)=P^n\)
绝对分布\(\boldsymbol p(n)=\boldsymbol p(0)P^n\)
有限维\(P\{X(n_1)=i_1,\dots\}=p_{i_1}(n_1)p_{i_1i_2}(n_2-n_1)\cdots\)
判遍历有限 + ∃n₀: \(p_{ij}(n_0)>0\ \forall i,j\) ⟹ 遍历
求平稳分布\(\boldsymbol\pi=\boldsymbol\pi P\),\(\sum\pi_j=1\)(s 个方程丢 1 个换归一化)
三合一遍历 ⟹ 极限分布=平稳分布=\(\lim\boldsymbol p(n)\)
常返判据\(f_{ii}=1\iff\sum_np_{ii}(n)=\infty\);非常返 ⟺ \(\sum p_{ii}(n)<\infty\)
正常返\(f_{ii}=1,\ \mu_i<\infty\);零常返:\(f_{ii}=1,\ \mu_i=\infty\)(且 \(\lim p_{ii}(n)=0\))
极限非周期常返 j:\(\lim p_{jj}(n)=1/\mu_j\);不可约非周期正常返=遍历链,\(\pi_j=1/\mu_j\)
分解\(E=N+C_1+\cdots+C_k\);不可约 ⟺ 全体互通;有限链无零常返、必有正常返

14 · 习题四(本讲布置,P152–154:4、10、19、23)课件 p.89–92

题 4
马氏链的逆序也构成马氏链。证明已在第 4 讲笔记 §12。
题 10 · 三公司市场份额
A、B、C 三公司各占 1/3 市场。一年后:A 保住 40%(失 30% 给 B、30% 给 C);B 保住 30%(失 60% 给 A、10% 给 C);C 保住 30%(失 60% 给 A、10% 给 B)。求第 2 年底各公司份额及长期份额。
💡 破题关键与第一步提示(遮答案自测用 · 解答)

破题切入点:\(P=\begin{pmatrix}0. \cdots\)(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答)

\(P=\begin{pmatrix}0.4&0.3&0.3\\0.6&0.3&0.1\\0.6&0.1&0.3\end{pmatrix}\),初始 \(\boldsymbol p(0)=(\tfrac13,\tfrac13,\tfrac13)\)。

第 1 年底:\(\boldsymbol p(1)=\boldsymbol p(0)P=(\tfrac8{15},\tfrac7{30},\tfrac7{30})\approx(0.533,0.233,0.233)\)。

第 2 年底:\(\boldsymbol p(2)=\boldsymbol p(1)P=(\tfrac{37}{75},\tfrac{19}{75},\tfrac{19}{75})\approx(0.493,\ 0.253,\ 0.253)\)。

长期:P 全正 ⟹ 遍历。解 π=πP:由第一行式 \(0.6\pi_1=0.6(\pi_2+\pi_3)\Rightarrow\pi_1=\tfrac12\);由二、三式相减得 \(\pi_2=\pi_3\)。故 \(\boldsymbol\pi=(\tfrac12,\tfrac14,\tfrac14)\):长远看 A 占一半,B、C 各四分之一。

题 19 · 三状态链
\[P=\begin{pmatrix}1/2&1/2&0\\1/2&1/4&1/4\\0&1/3&2/3\end{pmatrix},\quad E=\{1,2,3\}\] (1) 讨论遍历性;(2) 求平稳分布;(3) 求 ⅰ) \(P\{X(4)=3\mid X(1)=1,X(2)=1\}\);ⅱ) \(P\{X(2)=1,X(3)=2\mid X(1)=1\}\)。
💡 破题关键与第一步提示(遮答案自测用 · 解答)

破题切入点:(1) 所有 \(p_{ij}>0\)(n₀=1)⟹ 遍历 。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答)

(1) 所有 \(p_{ij}>0\)(n₀=1)⟹ 遍历。

(2) 解 π=πP:式一 \(\pi_1=\tfrac12\pi_1+\tfrac12\pi_2\Rightarrow\pi_1=\pi_2\);式三 \(\pi_3=\tfrac14\pi_2+\tfrac23\pi_3\Rightarrow\pi_3=\tfrac34\pi_2\);归一化 \(2\pi_2+\tfrac34\pi_2=1\Rightarrow\pi_2=\tfrac4{11}\)。 \[\boldsymbol\pi=\Big(\tfrac4{11},\ \tfrac4{11},\ \tfrac3{11}\Big).\]

(3) ⅰ) 马氏性“忘掉 X(1)”,再看 X(2)=1 到 X(4)=3 需两步: \[=p_{13}(2)=\sum_rp_{1r}p_{r3}=p_{11}p_{13}+p_{12}p_{23}+p_{13}p_{33}=\tfrac12\cdot\tfrac14=\tfrac18.\] ⅱ) 乘法公式 + 马氏性:\(=p_{11}\cdot p_{12}=\tfrac12\cdot\tfrac12=\tfrac14\)。

题 23
\(E=\{1,2,3,4\}\),转移矩阵与要求(画图 / 分类 / 分解)与课堂例 2 完全相同——课堂讲解即标准答案,见例 2。

15 · 资料对照与下一步

文件夹资料对照

资料用法
复习资料/电子笔记/5马尔可夫过程.pdf状态分类手写推导,与本讲 7–12 节对照
复习资料/铅笔稍乱版笔记/分章节总结5.JPG马氏链一章框架图(快速过结构)
历年试题/2016年-复习课投影拍照/复习课片样,马氏链求平稳分布是高频考题,优先看
历年试题/2014年秋-期末考试-有答案.pdf先做这份,对照本讲 13–14 节速查表

下一讲预告课件 p.88

连续参数马尔可夫链:转移概率函数与转移矩阵、连续参数齐次马氏链、初始/绝对/极限/平稳分布、转移概率函数性质、状态转移速度矩阵(Q 矩阵)、生灭过程——由它正式进入排队论(M/M/1 等就是生灭过程的特例)。本讲的 π=πP 将推广为“平衡方程 πQ=0”。

自 测(本讲综合)
  1. C-K 方程内容与意义?为什么 \(P(n)=P^n\)?
  2. 有限链判遍历 + 求平稳分布的完整套路?
  3. 常返/非常返的级数判据?正常返/零常返怎么区分?互通类起什么作用?
  4. 状态空间分解的答题格式?有限链的四个特点?
  5. 周期怎么求?有自环说明什么?“不可约+非周期+有限”⟹什么结论?
💡 破题关键与第一步提示(遮答案自测用 · 答案要点)

破题切入点:\(p_{ij}(k+s)=\sum_rp_{ir}(k)p_{rj}(s)\):k+s 步路径按中途站全概率分解;(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(答案要点)
  1. \(p_{ij}(k+s)=\sum_rp_{ir}(k)p_{rj}(s)\):k+s 步路径按中途站全概率分解;矩阵化即结合律 ⟹ P(n)=Pⁿ。
  2. 找 n₀ 使 \(P^{n_0}\) 全正(先试 P 本身)⟹ 遍历;解 π=πP + Σπ=1(丢一个方程)。
  3. \(\sum p_{ii}(n)=\infty\iff\) 常返;正常返 \(\mu_i<\infty\)、零常返 \(\mu_i=\infty\);互通 ⟹ 同类标签。
  4. \(E=N+C_1+\cdots+C_k\);有限链:N 非闭、无零常返、必有正常返、分解有限项。
  5. \(d=\gcd\{n:p_{ii}(n)>0\}\);自环 ⟹ d=1 非周期;不可约+非周期+有限 ⟹ 遍历,π 唯一。

🎯 考场题型信号词 → 破题套路速查表 期末冲刺必背 · 信号词秒配定理与防扣分清单

考场上读题 10 秒内锁定“题干信号词”,直接调用中间列的定理模板作答,并在交卷前对照右列逐条排查高频扣分点。

🔍 题干信号词 / 设问特征 ⚡ 必用定理 / 核心递推式 / 标准破题套路 🚨 老师批改高频扣分点
求 \(n\) 步转移概率 \(p_{ij}^{(n)}\) 或给定初始分布求第 \(n\) 步绝对分布 \(p(n)\) C-K 方程矩阵形式 \(P(n)=P^n\);绝对分布行向量公式 \(p(n)=p(0)P^n\);联合概率按链式乘法 \(p_{i_0} p_{i_0 i_1} p_{i_1 i_2}\dots\) 展开 ⚠ 避坑:把初始分布写成列向量右乘 \(P\)(概率论/排队论中统一用行向量左乘 \(p(0)P\))
对状态空间进行分类(周期 \(d(i)\)、常返/非常返、正常返/零常返)并分解闭集 先画有向状态转移图找强连通分量(互通等价类);有限闭集内必无非常返态且全为正常返;非闭集若有外逃箭头则必为非常返(瞬过态) ⚠ 避坑:把“不可约”与“非周期”混为一谈;或误以为有限链一定遍历(忘了看是否不可约、是否周期 \(d>1\) 如二部图交替链)
求平稳分布 \(\pi=(\pi_0,\pi_1,\dots)\) 或长期稳态概率 联立线性方程组 \(\begin{cases} \pi P = \pi \\ \sum_{j\in S} \pi_j = 1,\; \pi_j\ge 0 \end{cases}\);算完后利用 \(\mu_j = 1/\pi_j\) 可顺带写出正常返态的平均返回时间 ⚠ 避坑:按行展开而不是按列展开 \(\pi_j = \sum_i \pi_i p_{ij}\)(导致系数矩阵漏转置全错!);忘记代回 \(\sum \pi_j=1\) 归一化
判断是否存在遍历极限分布 \(\lim_{n\to\infty} p_{ij}^{(n)}=\pi_j\) 遍历定理三要素缺一不可:不可约 + 非周期(\(d=1\))+ 正常返(有限不可约非周期链自动满足正常返) ⚠ 避坑:只解出平稳分布 \(\pi P=\pi\) 就宣称 \(\lim p_{ij}^{(n)}=\pi_j\)(周期为 2 的双态链 \(\begin{pmatrix}0&1\\1&0\end{pmatrix}\) 有平稳分布 \((1/2,1/2)\) 但极限不存在!)
首达概率 \(f_{ij}^{(n)}\) 与转移概率 \(p_{ij}^{(n)}\) 的递推计算 首达分解公式:\(p_{ij}^{(n)} = \sum_{m=1}^n f_{ij}^{(m)} p_{jj}^{(n-m)}\)(约定 \(p_{jj}^{(0)}=1\));常返判据 \(f_{ii}=\sum_{n=1}^\infty f_{ii}^{(n)}=1 \iff \sum_{n=1}^\infty p_{ii}^{(n)}=\infty\) ⚠ 避坑:算 \(f_{ij}^{(n)}\) 时未剔除中途提前经过状态 \(j\) 的路径