⚠ 当前无法加载公式渲染库(KaTeX 走 CDN),公式可能显示为原始代码——联网后刷新即可。
随机过程与排队论 · 课程笔记 · 模块 2(原第 3–4 讲)

随机过程与泊松过程篇

合并原第 3–4 讲过程定义 → 有限维分布 → 重要过程 → 泊松 → 马氏性
本科遗忘急救站 · 指数分布的无记忆性与一阶线性微分方程

0 · 泊松过程推导的两大数学支点:无记忆性与积分因子法

  • 指数分布是唯一具有无记忆性的连续分布:若服务时间或到达间隔 \(T\sim\operatorname{Exp}(\lambda)\),则 \(P\{T > s+t \mid T > s\} = \frac{e^{-\lambda(s+t)}}{e^{-\lambda s}} = e^{-\lambda t} = P\{T > t\}\)。这意味着“已经等了 \(s\) 分钟还没来,接下来还要等多久”的分布与刚来时一模一样!
  • 一阶常微分方程积分因子法:解 \(P'_n(t) + \lambda P_n(t) = \lambda P_{n-1}(t)\) 时,两边同乘积分因子 \(e^{\lambda t}\),左边瞬间合并为乘积导数 \(\bigl[e^{\lambda t}P_n(t)\bigr]' = \lambda e^{\lambda t}P_{n-1}(t)\),两边从 \(0\) 到 \(t\) 积分即可递推求解!

自学导读 · 泊松过程和等待时间

① 遗忘知识补足

齐次泊松过程 N(t)~Pois(λt),独立的是不交叠区间中的增量,而非 N(t) 与 N(t+s);首次到达等待时间服从 Exp(λ)。

② 推导或例题

λ=2 人/小时,半小时内恰好到 1 人的概率 e^(−1);1 小时内至少 1 人的概率 1−e^(−2);首次等待超过半小时的概率 e^(−1)。

💡 破题关键与第一步提示(遮答案自测用 · ③ 考前自测(展开))

破题切入点:写出“独立增量”的正确表达,解释为何两个相邻累计计数不是独立的。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(③ 考前自测(展开))

写出“独立增量”的正确表达,解释为何两个相邻累计计数不是独立的。

补充训练不替代教师本学期课件与考核通知。

课程自学演算 · 答题步骤

泊松过程的典型条件分布大题

强度 \(\lambda>0\) 的齐次泊松过程 \(N(t)\),已知在 \([0,t]\) 内恰好发生 \(n\) 次到达。问在前 \(s\) 时间内的到达次数,其中 \(0\le s\le t\)。

  1. 写出不交叠区间增量:\(N(s)\sim\mathrm{Pois}(\lambda s)\),\(N(t)-N(s)\sim\mathrm{Pois}(\lambda(t-s))\),二者独立。
  2. 用条件概率,对 \(0\le k\le n\):\(P(N(s)=k\mid N(t)=n)=\dfrac{P(N(s)=k)P(N(t)-N(s)=n-k)}{P(N(t)=n)}\)。
  3. 代入泊松概率质量函数并约分,可得 \(\binom nk (s/t)^k(1-s/t)^{n-k}\)。
  4. 因此 \(N(s)\mid N(t)=n\sim\mathrm{Binomial}(n,s/t)\),其条件期望为 \(ns/t\)。
💡 破题关键与第一步提示(遮答案自测用 · 自测:已知 2 小时来了 6 人,前 30 分钟恰好来 2 人的条件概率)

破题切入点:\(s/t=1/4\),故答案 \(\binom62(1/4)^2(3/4)^4\)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(自测:已知 2 小时来了 6 人,前 30 分钟恰好来 2 人的条件概率)

\(s/t=1/4\),故答案 \(\binom62(1/4)^2(3/4)^4\)。注意条件概率中强度 \(\lambda\) 被约掉了。

修订版 · 重点核对

先看:本模块易错点与补充

泊松过程条件
  • 泊松过程是独立平稳增量且单位时间到达率为 λ 的计数过程;非齐次泊松过程具有独立增量但一般没有平稳增量。
  • 泊松过程到达间隔独立同分布 Exp(λ),更新过程则只要求间隔独立同分布,不一定为指数。
  • 泊松过程定义中的小 o 写法需要明确 \(h\downarrow0\),不能省略 \(N(0)=0\) 的条件。
原第 3 讲 · 课件/第3讲.pptx

第 3 讲 · 随机过程的基本概念与几种重要过程

有限维分布、数字特征函数、独立/独立增量/正态/维纳过程

0 · 本讲导读

课程正式进入正题。前两讲的“一个/一组随机变量”,今天升级成“随时间演化的一族随机变量”\(\{X(t),t\in T\}\)——这就是随机过程。本讲结构非常清晰:先学怎么“描述”一个过程(定义 → 分布 → 数字特征),再认识四种重要过程(独立、独立增量、正态、维纳),为第 4 讲的主角“泊松过程”铺路。

大白话 · 整讲一句话 随机过程 = “会随时间变化的随机量”。它有两种看法:固定时刻看,是一个随机变量(横切一刀);固定一次试验看,是一条随时间变化的曲线(样本函数)。描述它靠“任意挑几个时刻的联合分布”(有限维分布),概括它靠“均值函数 + 协方差函数”。排队论里“t 时刻队长”\(N(t)\) 就是一个随机过程。

先修检查:第 1 讲的分布函数/常见分布、第 2 讲的 \(E\)、\(D\)、\(\operatorname{cov}\)、特征函数、二维正态——忘了就回去翻,本讲全用得上。

本讲考试重点
  1. 数字特征大题——给一个具体过程(如 \(X_0+Vt\)、随机相位正弦波),求 \(m(t),D(t),R(s,t),C(s,t)\)(第 4 节两道样板题的原型换皮);
  2. 平稳独立增量三性质——\(m=at,\ D=\sigma^2t,\ C=\sigma^2\min(s,t)\):简答"证明 m(t)=at"或用结论秒算泊松/维纳的 C;
  3. 判断题连锁——独立过程/独立增量/正态/维纳 各是什么、互相推出关系(维纳:平稳独立增量+正态+马氏);
  4. 样本函数与状态空间——给 \(X(t)\) 表达式写样本函数(第 1 节例 2 型)。

1 · 随机过程的引入与定义课件 p.6–17

先修自查(本讲要用的旧知识) ①正态分布:独立正态的线性组合仍正态;若 \(X\sim N(\mu_1,\sigma_1^2),Y\sim N(\mu_2,\sigma_2^2)\) 独立,则 \(aX+bY\sim N(a\mu_1+b\mu_2,\ a^2\sigma_1^2+b^2\sigma_2^2)\)——第 4、7、8 节全靠它。②期望/协方差的运算:期望线性、独立时 \(E[XY]=E[X]E[Y]\)、\(D(X)=E[X^2]-E^2(X)\)、\(\operatorname{cov}=E[XY]-E[X]E[Y]\)。③特征函数:独立和 ⟹ 特征函数相乘(第 6 节证明有限维分布确定性时用)。④指数分布与无记忆性(第 1 讲★)。任何一条卡住,先回模块 1 补课。
缺基础?求导、积分、级数、矩阵乘法、复数的手生处,直接翻上级目录的 《数学基础工具箱》(每条约三分钟,配例题与易错点;考前还有"十分钟急救包")。

1.1 四个引例(体会“一族随机变量”)

例子过程状态空间(取值范围)
生物群体繁殖\(X(n)\)=第 n 代个体数\(\{0,1,2,\dots\}\)
电话呼唤\(X(t)\)=\([0,t)\) 内收到的呼唤次数\(\{0,1,2,\dots\}\)
布朗运动\(X(t)\)=t 时刻微粒位置横坐标\(\mathbb R\)
热噪声\(X(t)\)=元器件端电压\(\mathbb R\)

共同点:对固定的 \(t\)(或 \(n\)),\(X(t)\) 是随机变量;让 \(t\) 变动,就得到一族随机变量。随机过程论就是研究“随机现象随时间演变的统计规律”。(课件备注里老师举了冰川运动的例子:肉眼看不见的单步缓慢,连续观察就能看到演变——过程观念的直观。)

1.2 严格定义与三个关键词

定 义 · 随机过程 设 \((\Omega,\mathcal F,P)\) 是概率空间,\(T\subset\mathbb R\) 是参数集。\(X(t,\omega)\) 是 \(T\times\Omega\) 上的二元函数,若对每一个 \(t\in T\),\(X(t,\omega)\) 都是 \((\Omega,\mathcal F,P)\) 上的随机变量,则称随机变量族 \(\{X(t,\omega),t\in T\}\) 为定义在 \((\Omega,\mathcal F,P)\) 上的随机过程,简记 \(\{X(t),t\in T\}\)。\(t\) 称为参数,\(T\) 称为参数集。
大白话 · 二元函数的两种“切片”
固定什么得到什么称呼
固定 \(t=t_0\),让 \(\omega\) 变随机变量 \(X(t_0)\)过程的“横截面”
固定 \(\omega=\omega_0\),让 \(t\) 变普通函数 \(x(t,\omega_0)\)样本函数(一条轨道)
一次具体试验 = 掷骰子选出一个 \(\omega\) = 抽中一条轨道。状态:\(X(t)=x\) 称过程在时刻 t 处于状态 x;全体状态构成状态空间 \(E=\{x:X(t)=x,\ t\in T\}\)。
例 1 · 随机相位正弦波
课件 p.12 \[X(t)=a\cos(bt+\Theta),\qquad \Theta\sim U(0,2\pi),\] \(a,b\) 为常数。每抽一个相位 \(\Theta\),得到一条“初相位随机”的正弦波——样本函数是无穷多条平移的正弦曲线。
例 2 · 抛一次硬币定义的过程
课件 p.13 抛一次均匀硬币: \[X(t)=\begin{cases}\cos\pi t, & \text{出现正面 }(\omega_1),\\[2pt] 2t, & \text{出现反面 }(\omega_2),\end{cases}\] 样本函数只有两条:\(x(\omega_1,t)=\cos\pi t\) 与 \(x(\omega_2,t)=2t\),各以概率 1/2 出现。系统像“输入随机、二选一子系统”。
例 3 · 独立重复抛硬币
课件 p.14–16 独立重复抛均匀硬币,定义 \(X(n)=+1\)(第 n 次正面)/ \(-1\)(反面)。每个固定的 \(n\),\(X(n)\) 分布为 \(P\{X(n)=1\}=P\{X(n)=-1\}=\frac12\);样本空间是无穷序列的集合(无穷积集),样本函数有无穷条(每条是 ±1 的序列)。此即“伯努利随机序列”的雏形(第 5 节正式定义)。

1.3 随机过程的分类课件 p.17

状态 \ \ 参数参数集 T 离散参数集 T 连续
状态空间 E离散(离散参数)链(连续参数)链
连续随机序列随机过程

按概率结构又可分为:独立过程、独立增量过程、正态过程、马尔可夫过程、泊松过程、维纳过程、平稳过程……(本讲+后两讲逐一登场)。例:电话呼唤次数 \(\{N(t)\}\) 是“连续参数、离散状态”的链;热噪声是连续参数连续状态过程。

2 · 随机过程的分布(有限维分布)课件 p.18–29

单个随机变量用 \(F(x)\) 描述;“一族”随机变量怎么描述?答案:把第 2 讲的联合分布按“任意挑时刻”系统地用一遍。

定 义 · 一维 / 二维 / n 维分布 对 \(\{X(t),t\in T\}\):
  • 一维分布函数:\(F(t;x)=P\{X(t)<x\},\ t\in T,\ x\in\mathbb R\);若有密度则记 \(f(t;x)\)。
  • 二维分布函数:\(F(s,t;x,y)=P\{X(s)<x,\ X(t)<y\}\);密度类似。
  • n 维分布函数:\(F(t_1,\dots,t_n;x_1,\dots,x_n)=P\{X(t_1)<x_1,\dots,X(t_n)<x_n\}\)。
  • 全体有限维分布(函数/密度/特征函数)合称有限维分布族,它完整刻画一个随机过程。

两个过程的联合与独立课件 p.23–25:\(\{X(t)\}\) 与 \(\{Y(t)\}\) 的 n+m 维联合分布定义为 \((X(s_1),\dots,X(s_n),Y(t_1),\dots,Y(t_m))\) 的联合分布;若任意 n+m 维联合分布都能拆成 X 的 n 维 × Y 的 m 维,称两过程相互独立。

n 维特征函数课件 p.26: \[\varphi(t_1,\dots,t_n;u_1,\dots,u_n)=E\Big[e^{i\sum_{k=1}^{n}u_kX(t_k)}\Big],\] 全体合称有限维特征函数族。

例 4 · 求掷硬币过程的一、二维分布(手算样板)
课件 p.27–29 利用掷硬币试验定义过程 \(\{X(t)\}\)(过程定义式见课件 p.27),使 \(X(0.5)\) 取 0 或 1、\(X(1)\) 取 \(-1\) 或 2,各以概率 0.5,且两时刻由两次独立试验决定。求 \(F(0.5;x)\)、\(F(1;x)\)、\(F(0.5,1;x,y)\)。
💡 破题关键与第一步提示(遮答案自测用 · 解答)

破题切入点:一维 :\(X(0.5)\) 的分布律为 \(\begin{array}{c|cc}X(0. \cdots\)(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答)

一维:\(X(0.5)\) 的分布律为 \(\begin{array}{c|cc}X(0.5)&0&1\\\hline P&1/2&1/2\end{array}\),故(记住课程 \(P\{X<x\}\) 约定!) \[F(0.5;x)=\begin{cases}0,&x\le0\\ \tfrac12,&0<x\le1\\ 1,&x>1\end{cases}\] 同理 \(X(1)\) 取 \(-1,2\) 各半: \[F(1;x)=\begin{cases}0,&x\le-1\\ \tfrac12,&-1<x\le2\\ 1,&x>2\end{cases}\]

二维:两时刻独立,联合分布律 4 格各 \(\frac14\),故 \[F(0.5,1;x,y)=P\{X(0.5)<x\}P\{X(1)<y\}=\begin{cases}0,&x\le0\ \text{或}\ y\le-1\\ \tfrac14,&0<x\le1,\ -1<y\le2\\ \tfrac12,&\text{恰一个变量越过上跳点}\\ 1,&x>1,\ y>2\end{cases}\]

方法论:离散状态过程求有限维分布 = 列联合分布律表格 → 按事件 \(\{X(t_i)<x_i\}\) 数格子。连续情形则积密度。

3 · 随机过程的数字特征课件 p.30–33

有限维分布信息太庞大,日常操作靠“数字特征函数”——把第 2 讲的期望/方差/协方差按时刻展开:

定 义(四大函数)
名称定义大白话
均值函数 \(m(t)\)\(m(t)=E[X(t)]\)每个时刻的“平均轨道”(重心线)
方差函数 \(D(t)\)\(D(t)=E[X(t)-m(t)]^2=E[X^2(t)]-m^2(t)\)每个时刻围绕均值的散布;\(\sqrt{D(t)}\) 为均方差函数
(自)相关函数 \(R(s,t)\)\(R(s,t)=E[X(s)X(t)]\)两个时刻取值的“原始关联”
(自)协方差函数 \(C(s,t)\)\(C(s,t)=\operatorname{cov}(X(s),X(t))\)去掉均值后的关联
恒等关系:\(C(s,t)=R(s,t)-m(s)m(t)\);\(C(t,t)=D(t)\)。相关系数 \(\rho(s,t)=C(s,t)/\sqrt{D(s)D(t)}\)。
定 义 · 互特征(两过程之间) 互协方差函数 \(C_{XY}(s,t)=E[X(s)-m_X(s)][Y(t)-m_Y(t)]\);互相关函数 \(R_{XY}(s,t)=E[X(s)Y(t)]\);且 \(C_{XY}=R_{XY}-m_Xm_Y\)。 若 \(C_{XY}(s,t)\equiv0\)(即 \(E[X(s)Y(t)]=E[X(s)]E[Y(t)]\)),称两过程互不相关。独立 ⟹ 不相关;不相关 ⇏ 独立(与随机变量时一致)。
易错点 ① \(m(t)\) 是 \(t\) 的函数,不是数——每次“冻结 t”算一次期望。② \(R,C\) 是二元函数,别只写 \(R(t)\)。③ “相关函数”名字里没有“除以方差”——归一化了的那个叫相关系数。这些函数是随机过程的“身份证”,考试大题第一问几乎都是“求 m(t)、D(t)、C(s,t)、R(s,t)”。
大题套路 · 求 \(m(t),D(t),R(s,t),C(s,t)\) 的固定流程 考试大题"给个过程求数字特征"有标准流水线:
  1. 展开表达式,按时刻代入:如 \(X(t)=X_0+Vt\) 先写 \(m(t)=E[X_0]+tE[V]\);
  2. 算 \(m(t)\):逐项取期望,独立项拆开(交叉项 \(E[X_0V]=E[X_0]E[V]\));
  3. 算 \(E[X^2(t)]\):完全平方展开(\((X_0+Vt)^2=X_0^2+2tX_0V+V^2t^2\)),独立拆开,再 \(D(t)=E[X^2(t)]-m^2(t)\);
  4. 算 \(R(s,t)=E[X(s)X(t)]\):乘开成四项,独立拆;
  5. \(C(s,t)=R(s,t)-m(s)m(t)\)(m≡0 时 C=R 直接抄);最后 \(D(t)=C(t,t)\) 自查。
顺手自查两条硬指标:\(C(s,t)\) 必须对称、\(C(t,t)=D(t)\ge0\)——算出来不满足就是哪步错了。
易错点集中营 ①把 \(R(s,t)\) 写成 \(R(t)\)——它是二元函数;②忘记 \(C(s,t)=R(s,t)-m(s)m(t)\) 这一步,把 R 直接当 C 交卷;③独立正态线性组合的方差忘乘系数平方(\(D(2V)=4D(V)\));④"相关函数"没除以标准差就想让它 ≤1(≤1 的是相关系数 \(\rho(s,t)\))。

4 · 例题两连:\(X_0+Vt\) 与随机相位正弦波课件 p.34–38

例 5 · \(X(t)=X_0+Vt\)(全功能样板题,务必吃透)
课件 p.34–36 \(X_0,V\) 独立、同为 \(N(0,1)\)。求 \(\{X(t),t\ge0\}\) 的数字特征和一、二维密度。
💡 破题关键与第一步提示(遮答案自测用 · 解答)

破题切入点:均值 :\(m(t)=E[X_0]+tE[V]=0\)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答)

均值:\(m(t)=E[X_0]+tE[V]=0\)。

方差:\(E[X^2(t)]=E[X_0^2]+2tE[X_0V]+t^2E[V^2]=1+t^2\)(独立⟹交叉项为 \(0\cdot0=0\)),故 \(D(t)=1+t^2-0^2=1+t^2\)。

一维密度:固定 \(t\),\(X(t)\) 是独立正态的线性组合 ⟹ \(X(t)\sim N(0,1+t^2)\), \[f(t;x)=\frac{1}{\sqrt{2\pi(1+t^2)}}e^{-\frac{x^2}{2(1+t^2)}}.\]

协方差/相关函数:\(m\equiv0\) 故 \(C=R\), \[C(s,t)=R(s,t)=E[(X_0+Vs)(X_0+Vt)]=E[X_0^2]+st\,E[V^2]+(s+t)E[X_0V]=1+st.\]

二维密度:\((X(s),X(t))\) 是 \((X_0,V)\) 的线性变换 ⟹ 二维正态 \(N(\mathbf 0,C)\),协方差矩阵 \[C=\begin{pmatrix}C(s,s)&C(s,t)\\C(t,s)&C(t,t)\end{pmatrix}=\begin{pmatrix}1+s^2&1+st\\1+st&1+t^2\end{pmatrix},\] \[f(s,t;x,y)=\frac{1}{2\pi|C|^{1/2}}\exp\Big\{-\frac12(x,y)C^{-1}\binom{x}{y}\Big\},\qquad |C|=(1+s^2)(1+t^2)-(1+st)^2=(t-s)^2.\]

做题心得:“独立正态 + 线性表达”型的题,全靠 (i) 独立拆期望 (ii) 正态线性变换仍正态 (iii) 二维正态只需求均值向量与协方差阵。本题第 7 节还要复用来证明它是正态过程。

例 6 · 随机相位正弦波
课件 p.37–38 \(X(t)=a\cos(bt+\Theta)\),\(\Theta\sim U(0,2\pi)\)。求 \(m(t),R(s,t),C(s,t),D(t)\)。
💡 破题关键与第一步提示(遮答案自测用 · 解答(周期函数的“整周期平均”技巧))

破题切入点:\(\Theta\) 密度 \(\frac1{2\pi}\ (0<\theta<2\pi)\)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答(周期函数的“整周期平均”技巧))

\(\Theta\) 密度 \(\frac1{2\pi}\ (0<\theta<2\pi)\)。

均值:\(m(t)=\dfrac{a}{2\pi}\displaystyle\int_0^{2\pi}\cos(bt+\theta)\,\mathrm d\theta=0\)(整周期积分为 0)。

相关函数:积化和差 \(\cos A\cos B=\tfrac12[\cos(A-B)+\cos(A+B)]\): \[R(s,t)=\frac{a^2}{2\pi}\int_0^{2\pi}\cos(bs+\theta)\cos(bt+\theta)\,\mathrm d\theta=\frac{a^2}{2}\cos\big(b(t-s)\big)+\underbrace{\frac{a^2}{2\pi}\cdot\frac12\int_0^{2\pi}\cos\big(b(s+t)+2\theta\big)\mathrm d\theta}_{=0}\] \[R(s,t)=\frac{a^2}{2}\cos\big(b(t-s)\big).\]

协方差:\(m=0\Rightarrow C(s,t)=R(s,t)\);方差:\(D(t)=C(t,t)=\dfrac{a^2}{2}\)。

亮点:相关函数只依赖时间差 \(t-s\)(这是“宽平稳”的影子,复习资料电子笔记第 4 章会展开)。

① 随机振幅 X(t)=A cos ωt (EA=0) → ❌ 非宽平稳 所有样本在 cos ωt=0 处恒过零点,D[X(t)]=σ²cos²ωt 随 t 变 ② 随机相位 X(t)=a cos(ωt+Θ), Θ~U(0,2π) → ✅ 宽平稳 波形水平均匀平移,m(t)=0,R(τ)=(a²/2)cos ωτ 仅依赖时间差 ③ 正交振幅 U cos ωt + V sin ωt → ✅ 宽平稳 (+正态则严平稳) EU=EV=0, EU²=EV²=σ², EUV=0 ⇒ R(τ)=σ²cos ωτ(消除 t₁+t₂ 项) ④ 随机幅相 A cos(ωt+Θ) (A⊥Θ, Θ~U(0,2π)) → ✅ 宽平稳 不同样本振幅各异且相位均匀分布,R(τ)=(E[A²]/2)cos ωτ
图:考场高频四种正弦波样本轨迹对比——唯有“纯随机振幅 A cos ωt”因确定性零点锁相而非宽平稳

5 · 独立过程与伯努利序列课件 p.40–41

定 义 · 独立过程 若对任意 \(n\) 及任意 \(t_1,\dots,t_n\in T\),随机变量 \(X(t_1),\dots,X(t_n)\) 相互独立,称 \(\{X(t),t\in T\}\) 为独立过程(离散参数时称独立随机序列)。此时 n 维分布由一维分布连乘确定——描述成本最低的过程。
例 1 · 伯努利随机序列
课件 p.41 \(X(n),\ n=1,2,\dots\) 独立同分布,\(P\{X(n)=1\}=p,\ P\{X(n)=0\}=q\)。求 \(E,D,R,C\)。
💡 破题关键与第一步提示(遮答案自测用 · 解答)

破题切入点:独立性把一切化为一元计算:\(E[X(n)]=p,\ D[X(n)]=pq\);(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答)

独立性把一切化为一元计算:\(E[X(n)]=p,\ D[X(n)]=pq\); \[R(m,n)=E[X(m)X(n)]=\begin{cases}E[X(n)^2]=p, &m=n,\\ E[X(m)]E[X(n)]=p^2, &m\ne n;\end{cases}\qquad C(m,n)=\begin{cases}pq,&m=n,\\0,&m\ne n.\end{cases}\]

不同时刻协方差为 0:独立序列“没有记忆”。(对比第 6 节:独立增量过程远比独立过程常见、也更有用。)

6 · 独立增量过程与平稳独立增量过程课件 p.42–53

定 义 \(\{X(t),t\in T\},\ T=[0,+\infty)\)。若对任意 \(n\ge2\) 及 \(t_1<t_2<\dots<t_n\),增量 \[X(t_2)-X(t_1),\ X(t_3)-X(t_2),\ \dots,\ X(t_n)-X(t_{n-1})\] 相互独立,称 \(\{X(t)\}\) 为独立增量过程。 若进一步对任意 \(h>0\)(\(s+h,t+h\in T\)),增量 \(X(t+h)-X(s+h)\) 与 \(X(t)-X(s)\) 同分布,称平稳独立增量过程——增量分布只依赖区间长度,不依赖起点。
大白话 · 本课程最重要的结构之一 “量本身不独立,但每段的涨落独立”——像账户余额:余额 \(X(t)\) 显然前后相关,但“每一笔的净变化”互不影响。再加平稳性,即“任意单位时间的涨落统计规律相同”。泊松过程、维纳过程都是平稳独立增量过程;马氏性也由独立增量直接推出(第 4 讲)。这四个概念是一张网。
例 2 / 例 3 · 由独立序列构造独立增量
课件 p.44–46 设 \(X(n),n\ge1\) 独立,令 \(Y(n)=X(1)+\cdots+X(n)\),则 \(\{Y(n)\}\) 是独立增量过程;若 \(X(n)\) 还是同分布,则 \(Y(n)\) 平稳独立增量。特别地,\(X(n)\) iid 伯努利时,\(Y(n)\sim B(n,p)\),称二项计数过程(随机游动):\(E[Y(n)]=np,\ D[Y(n)]=npq\)(课件 p.45 该处印为 pq,系笔误,二项分布方差应为 \(npq\))。
定 理 · 平稳独立增量过程三性质 ★(推导题高频)课件 p.47–50 设 \(\{X(t),t\ge0\}\) 平稳独立增量,\(X(0)=0\),则:
  1. 均值函数 \(m(t)=at\)(\(a=m(1)\) 常数);
  2. 方差函数 \(D(t)=\sigma^2 t\)(\(\sigma^2=D(1)>0\));
  3. 协方差函数 \(C(s,t)=\sigma^2\min(s,t)\)。
(均值、方差都随时间线性增长;协方差只看较早的时刻。)
💡 破题关键与第一步提示(遮答案自测用 · 证明(三步,都值得背))

破题切入点:① 均值 :由 \(X(t+s)=[X(t+s)-X(s)]+[X(s)-X(0)]\) 且两增量独立、分别与 \(X(t)-X(0),X(s)-X(0)\) 同分布(平稳性): \[m(t(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(证明(三步,都值得背))

① 均值:由 \(X(t+s)=[X(t+s)-X(s)]+[X(s)-X(0)]\) 且两增量独立、分别与 \(X(t)-X(0),X(s)-X(0)\) 同分布(平稳性): \[m(t+s)=E[X(t+s)]=E[X(t)]+E[X(s)]=m(t)+m(s).\] 函数方程 \(f(x+y)=f(x)+f(y)\) 的连续解是线性函数 ⟹ \(m(t)=at\)。

② 方差:同样拆分,且两增量独立 ⟹ 方差相加: \[D(t+s)=D[X(t+s)-X(s)]+D[X(s)-X(0)]=D(t)+D(s)\ \Rightarrow\ D(t)=\sigma^2t.\]

③ 协方差(设 \(t>s\)):写 \(X(t)=[X(t)-X(s)]+X(s)\), \[C(s,t)=E\big[X(t)X(s)\big]-m(s)m(t)=E[X(t)-X(s)]\,E[X(s)]+E[X^2(s)]-m(s)m(t)\] (用 \(X(t)-X(s)\perp X(s)\)!) \[=m(t-s)m(s)+\big(D(s)+m^2(s)\big)-m(s)m(t)=a(t-s)as+\sigma^2s+a^2s^2-a^2st=\sigma^2s.\] 一般地 \(C(s,t)=\sigma^2\min(s,t)\)。∎

有限维分布的确定课件 p.51–53:独立增量过程的有限维分布由“一维分布 + 增量分布”决定(特征函数分解,课件 p.51–52 用特征函数乘积证明);若 \(X(0)=0\) 的平稳独立增量,则只需一维分布即可确定一切——这正是维纳/泊松两过程定义如此简洁的原因。

这块怎么考(两种题型)
  1. 推导题:给条件"平稳独立增量、\(X(0)=0\)",证明 \(m(t)=at\)(或 D 或 C)。答题主线三句话:增量拆分 \(X(t+s)=[X(t+s)-X(s)]+[X(s)-X(0)]\) → 独立⟹期望/方差可加、平稳⟹同分布 → 函数方程 \(f(t+s)=f(t)+f(s)\) 的连续解是线性。C 的证明还多一步"插入 \(\pm X(s)\)"并利用 \(X(t)-X(s)\perp X(s)\)。上面的完整证明就是标准答案模板;
  2. 应用/判断题:给新过程判断是否独立增量/平稳独立增量。判断口诀:"求和型过程(\(Y(n)=\sum X(i)\))必是独立增量;\(X(i)\) 还同分布则再平稳"。泊松、维纳、二项计数三个都走这条路。

7 · 正态过程(高斯过程)课件 p.54–66

定 义 若对任意 \(n\) 及 \(t_1,\dots,t_n\in T\),\((X(t_1),\dots,X(t_n))\) 的联合分布是 n 维正态分布,称 \(\{X(t)\}\) 为正态过程。此时:
  • 一维:\(X(t)\sim N\big(m(t),D(t)\big)\);
  • 二维:均值向量 \((m(s),m(t))^T\),协方差阵 \(\begin{pmatrix}D(s)&C(s,t)\\C(s,t)&D(t)\end{pmatrix}\);
  • n 维:密度由均值向量 \(\boldsymbol m\) 与协方差矩阵 \(C=(C(t_i,t_j))\) 完全决定: \[f(\boldsymbol x)=\frac{1}{(2\pi)^{n/2}|C|^{1/2}}\exp\Big\{-\frac12(\boldsymbol x-\boldsymbol m)^TC^{-1}(\boldsymbol x-\boldsymbol m)\Big\},\] n 维特征函数 \(\varphi(\boldsymbol u)=\exp\{i\boldsymbol u^T\boldsymbol m-\tfrac12\boldsymbol u^TC\boldsymbol u\}\)。
大白话 · 为什么正态过程“好” ① 只要知道 \(m(t)\) 和 \(C(s,t)\) 两个函数,全部有限维分布就定了(对比一般过程需要整个有限维分布族)——这是“身份证缩成两张卡”。② 正态对线性运算封闭:线性组合、线性变换后仍正态。③ 判定小技巧:若过程的每个有限维向量都能写成一组独立正态变量的线性变换,则它是正态过程。
例 · \(X(t)=X_0+Vt\) 是正态过程
课件 p.61–66
💡 破题关键与第一步提示(遮答案自测用 · 证明)

破题切入点:对任意 \(t_1,\dots,t_n\),向量 \((X(t_1),\dots,X(t_n))^T=A\,(X_0,V)^T\),其中 \[A=\begin{pmatrix}1&t(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(证明)

对任意 \(t_1,\dots,t_n\),向量 \((X(t_1),\dots,X(t_n))^T=A\,(X_0,V)^T\),其中 \[A=\begin{pmatrix}1&t_1\\1&t_2\\\vdots&\vdots\\1&t_n\end{pmatrix}.\] \((X_0,V)\) 是二维正态(独立正态),n 维正态经线性变换仍是 n 维正态 ⟹ \(\{X(t)\}\) 是正态过程。∎

随后即可“批量”写出:一维 \(X(t)\sim N(0,1+t^2)\)、二维 \((X(s),X(t))\sim N(\mathbf 0,C)\)、n 维 \(N(\mathbf 0,C)\),均值向量全 0,协方差阵 \(C=(1+t_it_j)_{n\times n}\)(数字特征在第 4 节例 5 已全部算好——正态过程把“求分布”降维成“求 m 和 C”)。

8 · 维纳过程(布朗运动)课件 p.67–75

历史:1827 年植物学家 Brown 观察到悬浮微粒的不规则运动;1918 年 Wiener 给出精确数学模型,故称维纳过程/布朗运动。它是应用概率最常用的过程之一(股价模型、通信、生物、管理)。

定 义 · 维纳过程 若 \(\{W(t),t\ge0\}\) 满足:
  1. \(W(0)=0\);
  2. \(E[W(t)]=0\)(零均值);
  3. 具有平稳独立增量;
  4. 对 \(t>0\),\(W(t)\sim N(0,\sigma^2t)\)(\(\sigma>0\))。
则称为参数 \(\sigma^2\) 的维纳过程。\(\sigma^2=1\) 时称标准维纳过程。
数 字 特 征 与 分 布
  • 一维密度:\(f(t;x)=\dfrac{1}{\sqrt{2\pi\sigma^2t}}e^{-\frac{x^2}{2\sigma^2t}}\);一维特征函数 \(e^{-\frac12\sigma^2tu^2}\);\(m(t)=0,\ D(t)=\sigma^2t\)。
  • 增量:\(W(t)-W(s)\sim N\big(0,\sigma^2(t-s)\big)\ (t>s)\)。
  • 协方差/相关:\(C(s,t)=R(s,t)=\sigma^2\min(s,t)\)(正是第 6 节定理的结论,\(\sigma^2=D(1)\))。
  • 二维:\((W(s),W(t))\sim N(\mathbf 0,C)\),协方差阵(设 \(s<t\))为 \(C=\sigma^2\begin{pmatrix}s&s\\s&t\end{pmatrix}\),密度按二维正态公式写出。
  • n 维:均值向量 \(\mathbf 0\),\(C=\big(\sigma^2\min(t_i,t_j)\big)_{n\times n}\),密度与特征函数由第 7 节公式给出。
三 大 性 质(含证明思路)课件 p.73–75
  1. 维纳过程是平稳独立增量过程(定义直接给的);
  2. 维纳过程是正态过程;
  3. 维纳过程是马尔可夫过程(第 4 讲证一般命题:独立增量 ⟹ 马氏)。
💡 破题关键与第一步提示(遮答案自测用 · 性质 2 的证明(“独立正态增量叠加”标准手法))

破题切入点:取 \(0<t_1<\dots<t_n\),令 \(X_k=W(t_k)-W(t_{k-1})\ (t_0=0)\)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(性质 2 的证明(“独立正态增量叠加”标准手法))

取 \(0<t_1<\dots<t_n\),令 \(X_k=W(t_k)-W(t_{k-1})\ (t_0=0)\)。由独立增量,\(X_1,\dots,X_n\) 相互独立,且 \(X_k\sim N(0,\sigma^2(t_k-t_{k-1}))\)。而 \[(W(t_1),\dots,W(t_n))^T=A(X_1,\dots,X_n)^T,\quad A=\begin{pmatrix}1&&&0\\1&1&&\\1&1&1&\\\vdots&&&\ddots\end{pmatrix}\ (\text{下三角}),\] 即 \(W(t_k)=X_1+\cdots+X_k\)。独立正态的线性变换仍正态 ⟹ 任意有限维联合正态 ⟹ 正态过程。∎(同时可算出协方差阵为 \(\sigma^2(\min(t_i,t_j))\)。)

大白话 · 维纳过程像什么 “每一步的晃动都是独立的正态抖动,抖动幅度 ∝ \(\sqrt{t}\)”——微粒轨迹连续但处处“拐弯”。\(D(t)=\sigma^2t\) 说明偏离起点越来越远(按 \(\sqrt t\) 速度扩散)。它是连续参数、连续状态过程的代表;与它对照,下一讲的泊松过程是连续参数、离散状态(计数)的代表——两者并称“随机过程的双璧”,都靠平稳独立增量+一个一维分布定义。
维纳过程考点清单
  1. 定义四条要能默写(\(W(0)=0\);零均值;平稳独立增量;\(W(t)\sim N(0,\sigma^2t)\))——填空题;
  2. 三大性质(平稳独立增量、正态、马氏)及"正态"的证明(下三角矩阵线性变换手法)——简答题;
  3. 数字特征:\(m=0,\ D=\sigma^2t,\ C=R=\sigma^2\min(s,t)\)、增量 \(W(t)-W(s)\sim N(0,\sigma^2(t-s))\)——计算题基础件;
  4. 判断题陷阱:\(W(t)\) 的方差随 t 增大("越来越离散");\(C(s,t)\) 只由较小时刻决定("过去共同经历决定关联");维纳是马氏过程但增量才独立,\(W(t)\) 本身高度相关。

9 · 本讲公式速查(一页纸素材)

四大函数\(m(t)=E[X(t)]\);\(D(t)=E[X^2(t)]-m^2(t)\);\(R=E[X(s)X(t)]\);\(C=R-m(s)m(t)\),\(C(t,t)=D(t)\)
随机相位正弦波\(m=0,\ R=\frac{a^2}{2}\cos b(t-s)\)
伯努利序列\(m=p,\ D=pq,\ R=p\ (m{=}n)/p^2\ (m{\ne}n),\ C=pq/0\)
平稳独立增量三性质\(X(0)=0:\ m(t)=at,\ D(t)=\sigma^2t,\ C(s,t)=\sigma^2\min(s,t)\)
正态过程 n 维\(f=\frac{1}{(2\pi)^{n/2}|C|^{1/2}}e^{-\frac12(\boldsymbol x-\boldsymbol m)^TC^{-1}(\boldsymbol x-\boldsymbol m)}\);\(\varphi=e^{i\boldsymbol u^T\boldsymbol m-\frac12\boldsymbol u^TC\boldsymbol u}\)
维纳过程定义四条;\(W(t)\sim N(0,\sigma^2t)\);增量 \(\sim N(0,\sigma^2\Delta t)\);\(C=R=\sigma^2\min(s,t)\);平稳独立增量、正态、马氏
t W(t) t₁ (方差 σ²t₁) t₂ (方差 σ²t₂ 扩散变宽) W(0)=0 (a.s.) +σ√t -σ√t +2σ√t
图:维纳过程(布朗运动)分形样本轨迹(处处连续处处不可导)与 ±σ√t 抛物标准差包络锥(方差 D[W(t)]=σ²t 随时间线性扩散)

10 · 习题二(本讲布置,教材 P66–69:1、9、15、19)课件 p.78

题 1
\(X(t)=X_0+Vt\),\(X_0,V\) 独立同 \(N(0,1)\)。求一维概率密度。
💡 破题关键与第一步提示(遮答案自测用 · 提示与答案)

破题切入点:固定 \(t\):\(X(t)\sim N(0,1+t^2)\),\(f(t;x)=\dfrac{1}{\sqrt{2\pi(1+t^2)}}e^{-x^2/2(1+t^2)}\)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(提示与答案)
固定 \(t\):\(X(t)\sim N(0,1+t^2)\),\(f(t;x)=\dfrac{1}{\sqrt{2\pi(1+t^2)}}e^{-x^2/2(1+t^2)}\)。(即正文例 5 第 3 步。)
题 9
\(X(t)=A\cos(\omega t+\Theta)\),\(A\) 服从瑞利分布 \(f(a)=\frac{a}{\sigma^2}e^{-a^2/2\sigma^2}\ (a>0)\),\(\Theta\sim U(0,2\pi)\) 与 \(A\) 独立,\(\omega\) 常数。问 \(X(t)\) 是否(宽)平稳过程?
💡 破题关键与第一步提示(遮答案自测用 · 提示与答案)

破题切入点:仿例 6:\(m(t)=0\);\(R(s,t)=E[A^2]\cdot\frac12\cos\omega(t-s)\)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(提示与答案)

仿例 6:\(m(t)=0\);\(R(s,t)=E[A^2]\cdot\frac12\cos\omega(t-s)\)。瑞利分布 \(E[A^2]=2\sigma^2\),故 \[R(s,t)=\sigma^2\cos\omega(t-s)\quad\text{只依赖 } t-s,\ D(t)=\sigma^2.\] 均值是常数、相关函数只依赖时间差 ⟹ 是宽平稳过程。(这正是通信里“窄带高斯噪声”的标准模型。)

题 15
某女生到达食堂时刻 \(X\sim U(12{:}00,13{:}00)\)。定义 \(Y(t)=1\,(X\le t);\ 0\,(X>t)\)。求 \(m(t)\)、\(R(s,t)\)。
💡 破题关键与第一步提示(遮答案自测用 · 提示与答案)

破题切入点:以 12:00 为 \(t=0\)、13:00 为 \(t=1\)(小时)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(提示与答案)

以 12:00 为 \(t=0\)、13:00 为 \(t=1\)(小时)。\(m(t)=E[Y(t)]=P\{X\le t\}\): \[m(t)=\begin{cases}0,&t\le0\\t,&0<t<1\\1,&t\ge1\end{cases}\] \(R(s,t)=E[Y(s)Y(t)]=P\{X\le s,\,X\le t\}=P\{X\le\min(s,t)\}=m(\min(s,t))\)(在 \([0,1]\) 内即 \(\min(s,t)\),边界按上式取 0/1)。

题 19
自行车流是强度 \(\lambda\) 的泊松过程,每位骑车人是女性的概率为 \(p\)(独立)。\(X(t)\)=\((0,t]\) 内女性骑车人数。问 \(X(t)\) 构成何种过程?
💡 破题关键与第一步提示(遮答案自测用 · 提示与答案)

破题切入点:泊松流的“稀疏化(分解)”:每个人独立以概率 \(p\) 标为女性,则 \[P\{X(t)=k\}=\sum_{n\ge k}\underbrace{e^{-\lambda t}\frac{(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(提示与答案)

泊松流的“稀疏化(分解)”:每个人独立以概率 \(p\) 标为女性,则 \[P\{X(t)=k\}=\sum_{n\ge k}\underbrace{e^{-\lambda t}\frac{(\lambda t)^n}{n!}}_{n\text{ 人到达}}\binom nk p^k(1-p)^{n-k}=\frac{(\lambda pt)^k}{k!}e^{-\lambda pt},\] 且 \(X(t)\) 本身是强度 \(\lambda p\) 的泊松过程;\(m(t)=E[X(t)]=\lambda pt\)。(正式的定义与推导在下一讲,本题是绝佳预热:泊松稀释后还是泊松。)

11 · 资料对照与下一步

文件夹资料对照

资料用法
复习资料/电子笔记/2正态,维纳,泊松.pdf本讲第 7、8 节的手写推导对照(维纳过程部分尤其详细)
复习资料/电子笔记/3均方微积分.pdf后续课程若讲“均方意义下的微积分”时使用
复习资料/铅笔稍乱版笔记/分章节总结1.JPG随机过程定义/数字特征一页框架图
作业/2018年秋-随机过程-课后习题解答(拾光客栈分享).ppt习题二对应题号有完整解答

下一讲预告课件 p.77

泊松过程(两个定义及等价性、概率分布、数字特征、点间距/等待时间两大性质、非齐次与复合泊松、更新过程)+ 马尔可夫过程概念(马氏性、离散参数马氏链、转移矩阵、随机游动四型)。习题二的题 19 正是下一讲的开胃菜。

自 测
  1. “固定 t 是随机变量、固定 ω 是样本函数”——把这句话对电话呼唤过程说一遍。
  2. 写出一维/二维/n维分布函数的定义式。有限维分布族为什么能“完整刻画”过程?
  3. 平稳独立增量 + X(0)=0 ⟹ m、D、C 各是什么?证明的关键两步是什么?
  4. 维纳过程定义四条 + 三大性质?它的 C(s,t) 是什么?
💡 破题关键与第一步提示(遮答案自测用 · 答案要点)

破题切入点:固定 t:\(N(t)\) 是“到 t 为止呼唤次数”这个随机变量;(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(答案要点)
  1. 固定 t:\(N(t)\) 是“到 t 为止呼唤次数”这个随机变量;固定一次“命运”ω:得到一条每次 +1 跳变的阶梯计数曲线。
  2. 见第 2 节定义式;因为过程的任何概率问题最终都归结为某些时刻的联合行为。
  3. \(m=at,\ D=\sigma^2t,\ C=\sigma^2\min(s,t)\);关键:增量拆分 + “独立⟹方差/交叉期望可加”,再用函数方程 f(x+y)=f(x)+f(y) ⟹ 线性。
  4. W(0)=0、零均值、平稳独立增量、\(N(0,\sigma^2t)\);平稳独立增量、正态、马氏;\(C=\sigma^2\min(s,t)\)。
原第 4 讲 · 课件/第4 讲.pptx

第 4 讲 · 泊松过程 与 马尔可夫过程(一)

泊松两定义、点间距/等待时间、非齐次/复合泊松、马氏性、转移矩阵

0 · 本讲导读

本讲是全课程的“心脏”。两个主角:泊松过程——描述“顾客随机到达”的数学模型,排队论的输入端;马尔可夫过程(一)——给出“无记忆”这一核心性质,排队论的骨架(生灭过程、M/M/1 全靠它)。课件明确说:泊松过程“在运筹学和排队论中的作用更为显著”。

大白话 · 整讲一句话 泊松过程 = “按固定平均速率 λ、彼此互不干扰地随机发生的事件流”。三个关键词:计数(N(t) 数到 t 为止发生几次)、独立增量(不重叠时间段的发生次数互不影响)、平稳增量(同样长度的时间段,次数同分布:Poisson(λ·长度))。它的两大“隐藏身份”:相邻两次事件的间隔是独立指数变量;第 k 次事件的等待时间是 k 阶爱尔朗。这两个身份就是排队论的立论基础。

为什么排队论在乎它:M/M/1 里的第一个 M 就是“到达是泊松过程”,第二个 M 是“服务时间是指数分布”(即点间距)。第 5 讲之后学的所有排队公式,追根溯源都到本讲。

本讲考试重点(排队论的地基,重中之重)
  1. 泊松过程数字特征与计算:\(P\{N(t)=k\}\)、\(m=D=\lambda t\)、\(C=\lambda\min(s,t)\)、\(R=\lambda\min(s,t)+\lambda^2st\);三类计算:直接套公式、增量拆分乘积、条件概率约去过去(课堂练习三小问是标准题型);
  2. 两定义及等价性证明——微分方程法是本讲最可能考的证明题(也是第 6 讲柯氏方程、生灭过程的前置技能);
  3. 点间距独立同指数、等待时间爱尔朗 ★★——"第 k 个到达时刻的期望"(k/λ)、"间隔超过 t 的概率"(\(e^{-\lambda t}\))这类小题每年都有;
  4. 谁马氏谁不马氏——判断题+简答(独立增量 ⟹ 马氏 的证明要会);
  5. 非齐次(积分出 m 再套泊松)、复合泊松(\(m_X=\lambda tE[Y],\ D_X=\lambda tE[Y^2]\))各一道小计算。

1 · 泊松过程:两个定义及等价性课件 p.5–11

1.1 先认识“计数过程”与典型实例

若 \(N(t)\) 表示 \([0,t)\) 内某事件发生的次数(取非负整数、随 t 不减),\(\{N(t),t\ge0\}\) 称为计数过程。典型实例(课件 p.5):到达超市的顾客数、电话交换台呼唤数、故障机器数、计数器接收粒子数、通信误码数……

定 义 1(增量定义法) 取非负整数值的计数过程 \(\{N(t),t\ge0\}\) 满足:
  1. \(N(0)=0\);
  2. 具有独立增量;
  3. 对任意 \(0\le s<t\),\(N(t)-N(s)\sim P\big(\lambda(t-s)\big)\),即 \[P\{N(t)-N(s)=k\}=\frac{[\lambda(t-s)]^k}{k!}e^{-\lambda(t-s)},\quad k=0,1,2,\dots\]
则称 \(\{N(t)\}\) 为参数(平均率、强度)为 \(\lambda\) 的(齐次)泊松过程。
定 义 2(微元定义法) 取非负整数值的计数过程 \(\{N(t),t\ge0\}\) 满足:
  1. \(N(0)=0\);
  2. 具有平稳独立增量;
  3. \(P\{N(h)=1\}=\lambda h+o(h)\);
  4. \(P\{N(h)\ge2\}=o(h)\)。
同样称为强度 \(\lambda\) 的(齐次)泊松过程。
大白话 · 两个定义各自好在哪 定义 1 直接告诉你分布,算题方便(拿到手就能查表);定义 2 只要求“一小段时间内:来一个的概率 ≈ λh、来两个及以上的概率可忽略、各时段独立”,验证建模方便——“这是不是泊松过程”现实里几乎都靠它判断。小 o(h) 记号:\(o(h)\) 是比 h 更高阶的无穷小,\(h\to0\) 时可忽略。实际建模口诀:大量独立个体、各自小概率触发 → 合力是泊松流。
定 理 · 两定义等价课件 p.8–11 定义 1 ⇔ 定义 2。
💡 破题关键与第一步提示(遮答案自测用 · 证明(微分方程法——排队论反复出现的手法,值得吃透))

破题切入点:1 ⟹ 2 :条件 1) 相同;条件 2)(独立增量)即 b)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(证明(微分方程法——排队论反复出现的手法,值得吃透))

1 ⟹ 2:条件 1) 相同;条件 2)(独立增量)即 b)。再算 \[P\{N(h)=1\}=P\{N(h)-N(0)=1\}=\lambda h\,e^{-\lambda h}=\lambda h\,[1-\lambda h+o(h)]=\lambda h+o(h),\] \[P\{N(h)\ge2\}=1-P\{N(h)=0\}-P\{N(h)=1\}=o(h).\]

2 ⟹ 1:只需证 \(N(t)\sim P(\lambda t)\)。记 \(p_k(t)=P\{N(t)=k\}\),用归纳法。

k=0:由独立增量与平稳性, \[p_0(t+h)=P\{N(t)=0\}P\{N(t+h)-N(t)=0\}=p_0(t)\,[1-\lambda h+o(h)],\] 整理得 \(\dfrac{p_0(t+h)-p_0(t)}{h}=-\lambda p_0(t)+\dfrac{o(h)}{h}\),令 \(h\to0\):\(p_0'(t)=-\lambda p_0(t)\),初条件 \(p_0(0)=1\),解得 \(p_0(t)=e^{-\lambda t}\)。

k≥1:“到 t+h 时刻恰有 k 个” = “到 t 有 k 个且最后 h 内没来” 或 “到 t 有 k−1 个且最后 h 内来一个”(来 ≥2 个是 o(h)): \[p_k(t+h)=p_k(t)[1-\lambda h+o(h)]+p_{k-1}(t)[\lambda h+o(h)]+o(h).\] 同样取极限得微分方程 \(p_k'(t)=-\lambda p_k(t)+\lambda p_{k-1}(t)\)。

k=1:\(p_1'(t)=-\lambda p_1+\lambda e^{-\lambda t}\),\(p_1(0)=0\),解得 \(p_1(t)=\lambda te^{-\lambda t}\)。假设 \(p_{k-1}(t)=\frac{(\lambda t)^{k-1}}{(k-1)!}e^{-\lambda t}\),解一阶线性方程(乘 \(e^{\lambda t}\) 后积分)得 \(p_k(t)=\frac{(\lambda t)^k}{k!}e^{-\lambda t}\)。归纳完成。

最后由平稳独立增量,对 \(0\le s<t\):\(N(t)-N(s)\sim P(\lambda(t-s))\)。∎

这个“列微元概率 → 建微分方程 → 解方程”的三板斧,就是后面生灭过程、M/M/1 平衡方程的原型,现在务必看熟。

2 · 泊松过程的分布与数字特征课件 p.12–14

全 部 结 论(一页纸必抄)
对象结论
一维分布\(N(t)\sim P(\lambda t)\):\(P\{N(t)=k\}=\dfrac{(\lambda t)^k}{k!}e^{-\lambda t}\)
均值 / 方差函数\(m(t)=E[N(t)]=\lambda t\);\(D(t)=D[N(t)]=\lambda t\)
一维特征函数\(\varphi(t;u)=e^{\lambda t(e^{iu}-1)}\)(第 2 讲泊松特征函数把 λ 换成 λt)
二维分布对 \(t>s\):\(P\{N(s)=j,\,N(t)=k\}=P\{N(s)=j\}P\{N(t-s)=k-j\}\)(先固定前段,再独立地数后段),即 \(\dfrac{(\lambda s)^j}{j!}e^{-\lambda s}\cdot\dfrac{[\lambda(t-s)]^{k-j}}{(k-j)!}e^{-\lambda(t-s)}\),要求 \(k\ge j\);否则为 0
协方差函数\(C(s,t)=\lambda\min(s,t)\)
相关函数\(R(s,t)=\lambda\min(s,t)+\lambda^2st\)
💡 破题关键与第一步提示(遮答案自测用 · 证明:R(s,t) 与 C(s,t)(第 3 讲同款拆分手法))

破题切入点:设 \(s<t\),把 \(N(t)\) 拆成 \(N(t)=N(s)+[N(t)-N(s)]\),两部分独立: \[R(s,t)=E\{N(s)[N(t)-N(s)]\}+E[N^2(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(证明:R(s,t) 与 C(s,t)(第 3 讲同款拆分手法))

设 \(s<t\),把 \(N(t)\) 拆成 \(N(t)=N(s)+[N(t)-N(s)]\),两部分独立: \[R(s,t)=E\{N(s)[N(t)-N(s)]\}+E[N^2(s)]=E[N(s)]\,E[N(t)-N(s)]+E[N^2(s)].\] 代入 \(E[N(s)]=\lambda s\),\(E[N(t)-N(s)]=\lambda(t-s)\),\(E[N^2(s)]=D(s)+m^2(s)=\lambda s+\lambda^2s^2\): \[R(s,t)=\lambda s\cdot\lambda(t-s)+\lambda s+\lambda^2s^2=\lambda s+\lambda^2st.\] \[C(s,t)=R(s,t)-m(s)m(t)=\lambda s+\lambda^2st-\lambda s\cdot\lambda t=\lambda s.\] 一般写法:\(C(s,t)=\lambda\min(s,t),\ R(s,t)=\lambda\min(s,t)+\lambda^2st\)。∎

这正是第 3 讲“平稳独立增量 ⟹ \(C=\sigma^2\min(s,t)\)”定理的实例:这里 \(a=\sigma^2=\lambda\)。

课堂练习(课件 p.61–62,含答案)
\(\{N(t)\}\) 是 \(\lambda=2\) 的泊松过程,求:① \(E[N(2)N(3)]\);② \(P\{N(2)=1,\ N(3)=2\}\);③ \(P\{N(3)=2\mid N(2)=1\}\)。
💡 破题关键与第一步提示(遮答案自测用 · 解答)

破题切入点:① 用相关函数:\(E[N(2)N(3)]=R(2,3)=\lambda\min(2,3)+\lambda^2\cdot2\cdot3=2\times2+4\times6=28\)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答)

① 用相关函数:\(E[N(2)N(3)]=R(2,3)=\lambda\min(2,3)+\lambda^2\cdot2\cdot3=2\times2+4\times6=28\)。

② 拆增量:\(=P\{N(2)=1\}\,P\{N(3)-N(2)=1\}=(e^{-4}\cdot4)\times(e^{-2}\cdot2)=8e^{-6}\approx0.0199\)。

③ 独立增量 + 平稳性:\(=P\{N(3)-N(2)=1\mid N(2)-N(0)=1\}=P\{N(1)=1\}=2e^{-2}\approx0.2707\)。

这三小问把本讲三个最常用套路各练一遍:R 函数公式、增量拆分乘积、条件概率约去“过去”。

3 · 两大性质:点间距与等待时间 ★★课件 p.15–21

记号:\(\tau_k\)=第 k 次事件发生的时刻(等待时间);\(T_k=\tau_k-\tau_{k-1}\)=第 k−1 次到第 k 次的点间间距(\(\tau_0=0\)),\(\tau_k=T_1+\cdots+T_k\)。

性 质 2 · 点间距独立同指数 ★ \(\{T_n,n=1,2,\dots\}\) 相互独立、同服从参数 \(\lambda\) 的(负)指数分布。
💡 破题关键与第一步提示(遮答案自测用 · 证明(用“无事件概率”刻画间隔,手法经典))

破题切入点:\(T_1\) 的分布函数:\(P\{T_1>t\}=P\{\)在 \([0,t]\) 内无事件\(\}=P\{N(t)=0\}=e^{-\lambda t}\),故 \(T_1\si \cdots\)(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(证明(用“无事件概率”刻画间隔,手法经典))

\(T_1\) 的分布函数:\(P\{T_1>t\}=P\{\)在 \([0,t]\) 内无事件\(\}=P\{N(t)=0\}=e^{-\lambda t}\),故 \(T_1\sim E(\lambda)\),密度 \(\lambda e^{-\lambda t}\)。

\(T_2\):在 \(T_1=s_1\) 条件下, \[P\{T_2>t\mid T_1=s_1\}=P\{N(s_1+t)-N(s_1)=0\mid N(s_1)-N(0)=1\}\overset{\text{独立增量}}{=}P\{N(t)=0\}=e^{-\lambda t}.\] 即 \(T_2\) 与 \(T_1\) 独立且同分布。用数学归纳法推广到一切 \(T_n\)。∎

无记忆性的现身:“上一事件已过去多久”完全不影响“还要等多久”——指数分布的无记忆性(第 1 讲 ★ 分布)在这里变成了过程的性质。

性 质 3 · 等待时间服从爱尔朗 ★ \(\tau_n=T_1+\cdots+T_n\sim\Gamma(n,\lambda)\),即 n 阶爱尔朗分布 \(E_n\),密度 \[f_{\tau_n}(t)=\frac{\lambda(\lambda t)^{n-1}}{(n-1)!}e^{-\lambda t},\quad t>0.\]
💡 破题关键与第一步提示(遮答案自测用 · 证明(事件等价法——比特征函数更初等的证法))

破题切入点:关键等价: “第 n 次事件发生在 t 之前” ⟺ “到 t 为止至少发生了 n 次” ,即 \(\{\tau_n\le t\}=\{N(t)\ge n\}\)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(证明(事件等价法——比特征函数更初等的证法))

关键等价:“第 n 次事件发生在 t 之前” ⟺ “到 t 为止至少发生了 n 次”,即 \(\{\tau_n\le t\}=\{N(t)\ge n\}\)。于是 \[F_{\tau_n}(t)=P\{\tau_n\le t\}=P\{N(t)\ge n\}=\sum_{k=n}^{\infty}\frac{(\lambda t)^k}{k!}e^{-\lambda t},\quad t\ge0.\] 求导(逐项求导后望远镜相消): \[f_{\tau_n}(t)=\lambda\sum_{k=n}^{\infty}\frac{(\lambda t)^{k-1}}{(k-1)!}e^{-\lambda t}-\lambda\sum_{k=n}^{\infty}\frac{(\lambda t)^k}{k!}e^{-\lambda t}=\frac{\lambda(\lambda t)^{n-1}}{(n-1)!}e^{-\lambda t}.\] 即 \(\tau_n\sim E_n\)。(另一种证法:第 2 讲例 11 特征函数三步曲——独立指数和 ⟹ 特征函数相乘 ⟹ \((\frac{\lambda}{\lambda-iu})^n\)。两条路都要会。)∎

例 · 移民问题(课件 p.21 原例)
每天以速率 \(\lambda=1\)(人/天)的泊松过程移民进入某地。(a) 第 10 个移民到达时刻的期望?(b) 第 10 与第 11 个移民到达间隔超过 2 天的概率?
💡 破题关键与第一步提示(遮答案自测用 · 解答)

破题切入点:(a) \(\tau_{10}\sim E_{10}\),\(E(\tau_{10})=\dfrac{10}{\lambda}=10\)(天)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答)

(a) \(\tau_{10}\sim E_{10}\),\(E(\tau_{10})=\dfrac{10}{\lambda}=10\)(天)。

(b) 间隔 \(T_{11}\sim E(\lambda)\):\(P\{T_{11}>2\}=e^{-\lambda\cdot2}=e^{-2}\approx0.135\)。

口诀:问“第 k 个到达”用爱尔朗(期望 k/λ),问“间隔”用指数(P{T>t}=e^{−λt})。

排队论视角 · 两大性质如何长成 M/M/1 把这两条性质放到服务系统里,M/M/1 的名字就解开了:第一个 M——顾客到达是泊松过程;第二个 M——每个顾客的服务时长 ~ Exp(μ)(这正是"点间距"的分布族);M 之后再写服务台个数(M/M/1 即 1 个服务台)。为什么敢设服务时长是指数?因为指数的无记忆性使"正在服务的顾客剩余时长"仍 ~ Exp(μ),与服务了多久无关——于是任意时刻的系统状态只需"还剩几个人",不需要"已经服务了多久",过程才有马氏性,后续的生灭过程微分方程才写得出来。第 3 节这两个性质 = 排队论全部假设的来源,第 7 讲会原封不动地用到。

4 · 非齐次泊松过程课件 p.22–29

定 义 计数过程 \(\{N(t),t\ge0\}\) 满足:
  1. \(N(0)=0\);
  2. 独立增量;
  3. \(P\{N(t+\Delta t)-N(t)=1\}=\lambda(t)\Delta t+o(\Delta t)\);
  4. \(P\{N(t+\Delta t)-N(t)\ge2\}=o(\Delta t)\)。
则称 \(\{N(t)\}\) 为强度函数为 \(\lambda(t)\) 的非齐次(非时齐)泊松过程。当 \(\lambda(t)\equiv\lambda\) 时即齐次泊松过程。
大白话 把“固定速率”放宽成“随时刻变化的速率 λ(t)”——早高峰来人多、深夜来人少,就用它。注意增量只独立、不再平稳(不同起点同样长的区间分布不同)。累计强度记 \[m(a,b)=\int_a^b\lambda(s)\,\mathrm ds,\] 它就是 \([a,b)\) 内平均到达个数。
定 理课件 p.23–27 \([t_0,t_0+t)\) 内事件出现 k 次的概率服从“参数为 m 的泊松分布”: \[P\{N(t_0+t)-N(t_0)=k\}=\frac{m^k}{k!}e^{-m},\qquad m=\int_{t_0}^{t_0+t}\lambda(s)\,\mathrm ds.\] (证明即第 1 节微分方程法的“变速版”:\(P_k'(t,t_0)=-\lambda(t_0+t)P_k+\lambda(t_0+t)P_{k-1}\),归纳求解。)
例 · 小商店顾客流(分段线性强度)
课件 p.28–29 商店 8:00 营业:8–11 点到达率从 5 人/时线性升到 20 人/时;11–13 点保持 20;13–17 点从 20 线性降到 12。各不相交时段到达数独立。求 8:30–9:30 无顾客到达的概率与该时段到达数的均值。
💡 破题关键与第一步提示(遮答案自测用 · 解答)

破题切入点:以 8:00 为 t=0(小时):8–11 点 \(\lambda(t)=5+5t\)(验证:λ(0)=5,λ(3)=20 ✓);(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答)

以 8:00 为 t=0(小时):8–11 点 \(\lambda(t)=5+5t\)(验证:λ(0)=5,λ(3)=20 ✓);11–13 点 \(\lambda(t)=20\);13–17 点 \(\lambda(t)=20-2(t-5)\)(λ(5)=20, λ(9)=12 ✓)。8:30→t=0.5,9:30→t=1.5。

累计强度: \[m=\int_{0.5}^{1.5}(5+5t)\,\mathrm dt=\Big[5t+\tfrac52t^2\Big]_{0.5}^{1.5}=(7.5+5.625)-(2.5+0.625)=10.\]

无顾客概率:\(P\{N(1.5)-N(0.5)=0\}=e^{-10}\approx4.5\times10^{-5}\);均值 \(=m=10\) 人。

解题模板:分段写 λ(t) → 积分出 m → 套泊松公式。“线性变化”就是把 λ(t) 设成一次函数并核对两端点。

t 0 W₁ W₂ Wₙ₋₁ Wₙ T₁ ~ Exp(λ) T₂ ~ Exp(λ) · · · Tₙ ~ Exp(λ) (i.i.d.) 第 n 次到达等待时间 Wₙ = T₁ + T₂ + … + Tₙ ~ Γ(n, λ),核心等价事件:{Wₙ ≤ t} ⟺ {X(t) ≥ n} 无记忆性:无论上一顾客何时到达,从任意固定时刻 t₀ 起算的剩余等待时间仍服从 Exp(λ)
图:齐次泊松过程点间距 Tₖ(独立同指数分布)与等待时间 Wₙ(Erlang/Gamma 分布)对偶关系轴

5 · 复合泊松过程课件 p.30–32

定 义 \(\{N(t),t\ge0\}\) 是强度 \(\lambda\) 的泊松过程;\(\{Y_n,n\ge1\}\) 独立同分布、且与 \(\{N(t)\}\) 独立。令 \[X(t)=\sum_{i=1}^{N(t)}Y_i,\] 称 \(\{X(t),t\ge0\}\) 为复合泊松过程。
大白话 “随机次数的随机收益”:事件何时发生由泊松管,每次发生“附带多大值”由 \(Y_i\) 管。保险索赔总额(索赔时刻泊松 + 索赔额随机)、计算机故障总维修费(故障次数泊松 + 每次费用随机,课件 p.31 原例)都是它。
数 字 特 征 设 Y 的特征函数 \(\varphi_Y(u)\): \[\varphi_X(t;u)=\exp\big\{\lambda t(\varphi_Y(u)-1)\big\};\qquad m_X(t)=E[X(t)]=\lambda t\,E[Y];\qquad D_X(t)=\lambda t\,E[Y^2].\]
💡 破题关键与第一步提示(遮答案自测用 · 推导(全期望公式的又一次胜利))

破题切入点:均值 :在 \(N(t)=n\) 条件下 \(E[X(t)\mid N(t)=n]=nE[Y]\),故 \[E[X(t)]=E\big[E(X(t)\mid N(t))\big]=E\big(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(推导(全期望公式的又一次胜利))

均值:在 \(N(t)=n\) 条件下 \(E[X(t)\mid N(t)=n]=nE[Y]\),故 \[E[X(t)]=E\big[E(X(t)\mid N(t))\big]=E\big[N(t)E[Y]\big]=\lambda t\,E[Y].\]

方差:用条件方差公式(或 \(E[X^2]=E[N\,\mathrm{Var}(Y)+N^2E^2(Y)]\)): \[D[X(t)\mid N(t)=n]=n\,\mathrm{Var}(Y)\ \Rightarrow\ D[X(t)]=E[N(t)]\mathrm{Var}(Y)+\mathrm{Var}(N(t))E^2[Y]=\lambda t\,\mathrm{Var}(Y)+\lambda tE^2[Y]=\lambda t\,E[Y^2].\]

特征函数:在 \(N(t)=n\) 条件下是 n 个独立 \(Y_i\) 之和 ⟹ \(\varphi_Y(u)^n\);对 N(t)(泊松)取期望: \[\varphi_X(t;u)=\sum_n \varphi_Y(u)^n\frac{(\lambda t)^n}{n!}e^{-\lambda t}=e^{\lambda t(\varphi_Y(u)-1)}.\]

6 · 更新计数过程课件 p.33–35

定 义 计数过程 \(\{N(t),t\ge0\}\),若点间间距 \(T_1,T_2,\dots\) 相互独立同分布(分布任意,不必指数),则称 \(\{N(t)\}\) 为更新计数过程(更新过程),间距称更新间距。例:电话台呼唤流(呼唤到达时刻 \(\tau_1,\tau_2,\dots\),间距独立同分布)。
大白话 · 与泊松的关系 泊松过程 = 更新过程的特例(间距恰好指数)。更新过程把“指数”放开,更普适但公式更难。记 \(T_k\) 的分布函数 \(F_T(t)\)、特征函数 \(\varphi_T(u)\),到达时刻 \(\tau_k=T_1+\cdots+T_k\): \[F_{\tau_k}(t)=F_T^{*k}(t)\ (\text{k 重卷积}),\qquad \varphi_{\tau_k}(u)=[\varphi_T(u)]^k.\] 又因事件 \(\{\tau_k<t\}\iff\{N(t)\ge k\}\),故 \(F_{N(t)}(k)=P\{N(t)<k\}=1-F_{\tau_k}(t)\)——“数到 t 为止次数 < k” ⟺ “第 k 次还没来”。均值函数 \(m_N(t)=E[N(t)]=\sum_{k\ge1}P\{N(t)\ge k\}=\sum_{k\ge1}F_{\tau_k}(t)\)(更新函数)。

7 · 马尔可夫过程:马氏性与分类课件 p.36–40

大白话 · 先懂“无后效” “知道现在,将来与过去无关”。如公告牌只显示当前排队人数:预测 5 分钟后的队伍,只需要现在的队伍长度,不需要它历史上怎么变来的。这条“无记忆/无后效”性质叫马氏性,具有它的过程叫马尔可夫过程。它把“整段历史”压缩成“当前状态”,使建模和计算成为可能——排队论、强化学习、隐马尔可夫模型全建立在其上。
定 义 · 马尔可夫过程 \(\{X(t),t\in T\}\) 若对任意 \(t_1<t_2<\cdots<t_n\in T\) 有 \[P\{X(t_n)<x_n\mid X(t_1)=x_1,\dots,X(t_{n-1})=x_{n-1}\}=P\{X(t_n)<x_n\mid X(t_{n-1})=x_{n-1}\}\tag{4.1}\] 则称其为马尔可夫过程,(4.1) 称马尔可夫性(无后效性、无记忆性)。等价写法(分布函数 / 密度形式): \[F(x_n;t_n\mid x_1,\dots,x_{n-1};t_1,\dots,t_{n-1})=F(x_n;t_n\mid x_{n-1};t_{n-1}),\] \[f(x_n;t_n\mid x_1,\dots,x_{n-1};t_1,\dots,t_{n-1})=f(x_n;t_n\mid x_{n-1};t_{n-1}).\]
转移概率 · 齐次 · 状态空间 \(p(s,t;x,y)=P\{X(s+t)<y\mid X(s)=x\}\) 称转移概率(从 s 时刻状态 x 出发,经时间 t 后落入 (−∞, y) 的概率)。若它与起始时刻 s 无关,称齐次(时)马氏过程。\(X(t)\) 的取值 x 称状态,\(E=\{x:X(t)=x,t\in T\}\) 为状态空间。

马尔可夫过程四分类课件 p.40

状态 \ 参数参数 T 离散参数 T 连续
状态空间 E离散离散参数马氏链(本课程主角)连续参数马氏链(排队论用,第 6 讲起)
连续离散参数马氏序列连续参数马氏过程

8 · 谁是马氏过程?(判断题的“证明库”)课件 p.41–46

过程是否马氏理由
独立过程 \(\{X(t)\}\)✅ 是\(X(t_n)\) 与全部历史独立,当然也与“去掉更早历史”独立,(4.1) 成立
贝努利随机序列✅ 是独立序列的特例(离散参数马氏链)
独立增量过程(\(X(0)=0\))✅ 是关键变形:\(X(t_n)-X(t_{n-1})<x_n-x_{n-1}\) 与更早增量独立;见下方证明
二项计数过程(随机游动)✅ 是它是平稳独立增量过程
泊松过程✅ 是它是平稳独立增量过程
维纳过程✅ 是同上(第 3 讲已列其三大性质)
💡 破题关键与第一步提示(遮答案自测用 · 证明:独立增量 ⟹ 马氏(最值得背的一个))

破题切入点:设 \(t_1<\cdots<t_n\),\(X(0)=0\)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(证明:独立增量 ⟹ 马氏(最值得背的一个))

设 \(t_1<\cdots<t_n\),\(X(0)=0\)。把条件里的历史改写成增量: \[X(t_1)=X(t_1)-X(t_0),\ X(t_2)=X(t_2)-X(t_1),\ \dots,\ X(t_{n-1})=X(t_{n-1})-X(t_{n-2})\ (t_0=0),\] 而 \(X(t_n)<x_n\iff X(t_n)-X(t_{n-1})<x_n-x_{n-1}\)。于是左边 \[=P\{X(t_n)-X(t_{n-1})<x_n-x_{n-1}\mid X(t_1)-X(t_0)=x_1,\dots,X(t_{n-1})-X(t_{n-2})=x_{n-1}-x_{n-2}\}\] \[\overset{\text{增量独立}}{=}P\{X(t_n)-X(t_{n-1})<x_n-x_{n-1}\} =P\{X(t_n)<x_n\mid X(t_{n-1})=x_{n-1}\}. \qquad\blacksquare\]

直觉:“未来 = 现在 + 将来增量”,而将来增量与过去一切增量独立——马氏性就是独立增量的“加工品”。判断题里只要看到“独立增量”,立刻连锁反应:独立增量 ⟹ 马氏;泊松/维纳/二项计数都是 ⟹ 都是马氏。

9 · 离散参数马氏链:转移概率与转移矩阵课件 p.47–50

定 义 · 离散参数马氏链 状态空间与参数集都离散的马氏过程。设 \(\{X(n),n=0,1,2,\dots\}\),\(E=\{0,1,2,\dots\}\),若对任意 \(k\ge0\)、\(n_1<\cdots<n_j<m\) 及各状态有 \[P\{X(m+k)=i_{m+k}\mid X(n_1)=i_{n_1},\dots,X(n_j)=i_{n_j},X(m)=i_m\}=P\{X(m+k)=i_{m+k}\mid X(m)=i_m\},\] 则称 \(\{X(n)\}\) 为离散参数马尔可夫链,简称马氏链。
定 义 · k 步转移概率与转移矩阵 \[p_{ij}(m,k)=P\{X(m+k)=j\mid X(m)=i\}\] 为 m 时刻的 k 步转移概率(“现在在 i,k 步后到 j”)。k=1 时 \(p_{ij}(m,1)\) 简称(一步)转移概率。矩阵 \[P(m,k)=\big(p_{ij}(m,k)\big)_{i,j\in E}\] 为 k 步转移矩阵。性质:\(0\le p_{ij}(m,k)\le1\);每行和为 1(\(\sum_jp_{ij}=1\),行随机矩阵)。
定 义 · 齐次马氏链 若转移概率与起始时刻 m 无关:\(p_{ij}(m,k)=p_{ij}(k)\),称齐次马氏链。此时记 \(P(m,1)=P=(p_{ij})\) 为(一步)转移矩阵,\(P(k)=(p_{ij}(k))\)。注意:“齐次” ≠ “马氏”——齐次是转移规律不随时间变。
例 · 贝努里序列的转移矩阵
课件 p.51 独立同分布序列是齐次马氏链,且转移矩阵每行都相同=单点分布: \[P=\begin{pmatrix}q&p\\q&p\end{pmatrix}\quad(\text{贝努里 } P\{X=1\}=p).\] 一般地,独立同分布离散序列的转移矩阵各行都等于其分布律行向量。
从 0 看懂转移矩阵 矩阵第 \(i\) 行 = "现在在状态 \(i\) 的质点,下一步去各个状态的概率清单",所以每行和必为 1(总要去某个地方)——行和不是 1 的"转移矩阵"必是算错了。读矩阵先读对角线(自环=停留概率,吸收壁对角线是 1),再读两侧邻位(游动类问题只有 \(\pm1\) 邻位非零)。状态转移图画法:每个状态画个圈,从 i 到 j 画箭头标 \(p_{ij}\)(自环画回自己的圈)。考试写矩阵前先画图检查:行数=状态数、每行和=1、与图逐条对得上。另注意 \(p_{ij}\) 的下标方向:从行到列(\(p_{12}\) 是"从 1 到 2"),写反方向是本章最常见的低级失误。

10 · 随机游动的四种边界课件 p.52–56

质点在整数点上游走:\(p_{i,i+1}=p\)(右移)、\(p_{i,i-1}=q\)(左移),将来只依赖当前位置 ⟹ 齐次马氏链。统计特征完全由“边界怎么处理”决定,四种经典边界(后两种以 \(E=\{1,2,3,4,5\}\) 为例):

类型边界规则转移矩阵要点
① 自由(无限制)\(E=\{\dots,-1,0,1,\dots\}\),无边界双无限矩阵,每行 \((\dots,q,0,p,\dots)\)
② 两个吸收壁\(p_{11}=p_{55}=1\):到 1/5 永远留下第 1、5 行只有对角元 1;“赌徒破产”模型
③ 两个反射壁\(p_{12}=1,\ p_{54}=1\):到边界必被弹回边界行 1 元素:贴墙方向概率 1
④ 两个弹性壁\(p_{11}=q,\ p_{12}=p\);\(p_{55}=p,\ p_{54}=q\):边界上“多半被弹回,小概率停留”(自环)介于②③之间,边界带自环概率
大白话 · 一张图记四种壁 吸收壁=“粘住”(自环概率 1);反射壁=“必弹”(邻居概率 1);弹性壁=“粘一点、弹居多”(自环 + 弹回按 p、q 分)。画状态转移图(结点=状态,带权有向边=转移概率)比写矩阵直观,考试先用图理清再翻译成矩阵。第 5 讲将用“吸收壁随机游动”做状态分类的第一个例题。
① 自由边界 (-∞, +∞) ⋯ i-1 i i+1 ⋯ p q p q 无边界限制:p_{i,i+1}=p, p_{i,i-1}=q ② 吸收壁 (p₀₀ = 1) 0 1 (只进不出) 1 2 q p 赌徒破产模型:到达 0 态即永久吸收 p₀₀=1 ③ 反射壁 (p₀₁ = 1) 0 1 2 p₀₁ = 1 (全反弹) q 触壁立即反弹回状态 1(或 p₀₀=q, p₀₁=p 半反射) ④ 弹性壁 (含吸收+反射) 0 θq 留驻/吸收 1 p+(1-θ)q q 写转移矩阵 P 时必查:每一行元素之和恒等于 1
图:一维随机游动的四种经典边界条件(自由 / 吸收壁 / 反射壁 / 弹性壁)状态转移对照

11 · 本讲公式速查(一页纸素材)

泊松定义 2\(P\{N(h)=1\}=\lambda h+o(h),\ P\{N(h)\ge2\}=o(h)\),平稳独立增量,\(N(0)=0\)
一维分布\(P\{N(t)=k\}=\frac{(\lambda t)^k}{k!}e^{-\lambda t}\);\(m(t)=D(t)=\lambda t\)
二维分布\(P\{N(s)=j,N(t)=k\}=P\{N(s)=j\}P\{N(t-s)=k-j\}\ (t>s,k\ge j)\)
C 与 R\(C(s,t)=\lambda\min(s,t)\);\(R(s,t)=\lambda\min(s,t)+\lambda^2st\)
点间距\(T_n\) iid ~ Exp(λ);\(P\{T_n>t\}=e^{-\lambda t}\)
等待时间\(\tau_n\sim E_n=\Gamma(n,\lambda)\);\(E[\tau_n]=n/\lambda\);\(\{\tau_n\le t\}\iff\{N(t)\ge n\}\)
非齐次\(P\{N(b)-N(a)=k\}=\frac{m^k}{k!}e^{-m}\),\(m=\int_a^b\lambda(s)ds\)
复合泊松\(E[X(t)]=\lambda tE[Y]\);\(D[X(t)]=\lambda tE[Y^2]\);\(\varphi=e^{\lambda t(\varphi_Y(u)-1)}\)
更新过程间距 iid 任意分布;\(F_{\tau_k}=F_T^{*k}\);\(P\{N(t)<k\}=1-F_{\tau_k}(t)\)
马氏链\(p_{ij}(m,k)=P\{X(m+k)=j|X(m)=i\}\);行和 1;齐次 ⟺ 与 m 无关

12 · 习题三与课堂练习课件 p.59–62

习题三 题 12(P98)
寻呼台在 \([0,t)\) 内收到的呼唤次数 \(\{N(t),t\ge0\}\) 是泊松过程,每分钟平均收到 2 次呼唤(λ=2/分)。(1) 求 2 分钟内收到 3 次呼唤的概率;(2) 已知 \([0,3)\) 内收到 5 次呼唤,求 \([0,2)\) 内收到 3 次呼唤的概率。
💡 破题关键与第一步提示(遮答案自测用 · 解答)

破题切入点:(1) \(P\{N(2)=3\}=\dfrac{4^3}{3! \cdots\)(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答)

(1) \(P\{N(2)=3\}=\dfrac{4^3}{3!}e^{-4}=\dfrac{32}{3}e^{-4}\approx0.195\)。

(2) 条件概率 + 增量独立: \[P\{N(2)=3\mid N(3)=5\}=\frac{P\{N(2)=3\}P\{N(3)-N(2)=2\}}{P\{N(3)=5\}}=\frac{\frac{4^3}{3!}e^{-4}\cdot\frac{2^2}{2!}e^{-2}}{\frac{6^5}{5!}e^{-6}}=\frac{64}{3}\cdot\frac{120}{7776}\approx0.329.\] (分子分母的 \(e^{-6}\) 恰好约掉——泊松条件概率常如此。)

习题三 题 15(P98)
\(\{N_1(t)\},\{N_2(t)\}\) 分别是参数 \(\lambda_1,\lambda_2\) 的泊松过程且相互独立。设 \(X(t)=N_1(t)+N_2(t)\),\(Y(t)=N_1(t)-N_2(t)\)。(1) 证明 \(\{X(t)\}\) 是参数 \(\lambda_1+\lambda_2\) 的泊松过程;(2) 证明 \(\{Y(t)\}\) 不是泊松过程。
💡 破题关键与第一步提示(遮答案自测用 · 解答)

破题切入点:(1) 验证定义 2:\(X(0)=0\);(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(解答)

(1) 验证定义 2:\(X(0)=0\);独立增量(两组独立过程的增量合在一起仍独立);用微元: \[P\{X(h)=1\}=P\{N_1(h)=1,N_2(h)=0\}+P\{N_1(h)=0,N_2(h)=1\}=(\lambda_1h)(1)+(\lambda_2h)(1)+o(h)=(\lambda_1+\lambda_2)h+o(h),\] \[P\{X(h)\ge2\}=o(h).\] 故 \(X(t)\) 是强度 \(\lambda_1+\lambda_2\) 的泊松过程。(也可以走定义 1:独立泊松变量之和仍是泊松,参数相加。)

(2) \(Y(t)=N_1(t)-N_2(t)\) 可取负值(如 \(N_1(t)=0,N_2(t)=1\) 时 \(Y(t)=-1\),概率 \(e^{-(\lambda_1+\lambda_2)t}\lambda_2t>0\)),不满足“取非负整数值的计数过程”这一前提,故不是泊松过程。(它其实是“Skellam 分布”的差分过程。)

习题三 题 19(P98)
\(N(t)\) 为某发射源在 \([0,t)\) 内发射的粒子数,是平均率 \(\lambda\) 的泊松过程。每个发射的粒子以概率 \(p\) 可能被记录,且一粒子的记录独立于其他粒子及 \(N(t)\)。\(M(t)\)=\([0,t)\) 内被记录的粒子数。证明 \(\{M(t)\}\) 是平均率 \(\lambda p\) 的泊松过程。
💡 破题关键与第一步提示(遮答案自测用 · 证明(稀疏化 / 稀薄化))

破题切入点:验证定义 2:① \(M(0)=0\)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(证明(稀疏化 / 稀薄化))

验证定义 2:① \(M(0)=0\)。② 独立增量:不相交时段的记录数只依赖各自时段发射的粒子(互不相交的粒子集)与各自独立的记录,故独立。③ 微元: \[P\{M(h)=1\}=P\{N(h)=1\}\cdot p+P\{N(h)\ge2,\text{恰记录1}\}\le(\lambda h+o(h))\,p+o(h)=\lambda ph+o(h),\] (更精确地:\(P\{M(h)=1\}=\lambda h\,p+o(h)\);)④ \(P\{M(h)\ge2\}=o(h)\)(两个以上记录需要两个以上发射或小概率事件,均为 \(o(h)\))。 故 \(M(t)\) 是强度 \(\lambda p\) 的泊松过程。∎ (结论可记:泊松流按概率 p 稀释后仍是泊松流,速率乘 p——这正是第 3 讲习题二题 19 的正式版。)

习题四 题 4(P152,提前布置)
设 \(\{X(n),n\ge0\}\) 是马氏链,证明 \(P\{X(1)=x_1\mid X(2)=x_2,\dots,X(n)=x_n\}=P\{X(1)=x_1\mid X(2)=x_2\}\),即马氏链的逆序也构成马氏链。
💡 破题关键与第一步提示(遮答案自测用 · 证明)

破题切入点:记 \(A=\{X(2)=x_2,\dots,X(n)=x_n\}\)。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(证明)

记 \(A=\{X(2)=x_2,\dots,X(n)=x_n\}\)。由条件概率定义与链式分解(时齐性不需要,马氏性按正向用): \[P\{X(1)=x_1\mid A\}=\frac{P\{X(1)=x_1,\,X(2)=x_2,\dots,X(n)=x_n\}}{P\{A\}} =\frac{P\{X(1)=x_1\}p_{x_1x_2}\,p_{x_2x_3}\cdots p_{x_{n-1}x_n}}{P\{X(2)=x_2\}\,p_{x_2x_3}\cdots p_{x_{n-1}x_n}}\] (正向联合分布用乘法公式 + 马氏性逐步分解)。约去公共因子 \(p_{x_2x_3}\cdots p_{x_{n-1}x_n}\): \[=\frac{P\{X(1)=x_1\}\,p_{x_1x_2}}{P\{X(2)=x_2\}}=P\{X(1)=x_1\mid X(2)=x_2\}.\qquad\blacksquare\]

直觉:给定“现在 (X(2))”,“未来 (X(3..n)) 不携带关于”过去 (X(1))“的额外信息。

13 · 资料对照与下一步

文件夹资料对照

资料用法
复习资料/电子笔记/2正态,维纳,泊松.pdf泊松过程的点间距/等待时间手写推导,与本讲第 3 节对照
作业/2018年秋-随机过程-课后习题解答(拾光客栈分享).ppt习题三(P98)12/15/19 的完整解答对照
历年试题/(2012–2019 各卷)泊松过程几乎每年一题(求概率 / 求条件概率 / 证明稀疏化),本讲 + 课堂练习三套路全覆盖

下一讲预告课件 p.58

马尔可夫过程(二):齐次马氏链的性质(C-K 方程、P(n)=Pⁿ、初始/绝对/极限分布、遍历性、平稳分布)+ 状态分类(首达、互通、常返/非常返、正常返/零常返、状态空间分解、不可约、周期性)。第 5 讲是本课程随机过程部分的收官,也是历年计算大题(求平稳分布、判断状态性质)的出题区。

自 测
  1. 泊松两个定义各是什么?”判断某现象是否泊松流“该用哪个?
  2. 泊松过程的 m(t)、D(t)、C(s,t)、R(s,t)?点间距、等待时间分布及期望?
  3. 非齐次泊松里 [a,b) 恰来 k 个的概率公式?
  4. 复合泊松的均值方差公式?全期望公式在哪一步用上?
  5. 马氏性的定义?”独立增量 ⟹ 马氏“的证明关键一步?四种随机游动边界各自规则?
💡 破题关键与第一步提示(遮答案自测用 · 答案要点)

破题切入点:见第 1 节两定义框;验证建模用定义 2,计算用定义 1。(👉 先合上下方完整推导,自己动手算完关键步再核对踩分点!)

📝 完整规范推导与评分踩分点(答案要点)
  1. 见第 1 节两定义框;验证建模用定义 2,计算用定义 1。
  2. λt、λt、λmin(s,t)、λmin(s,t)+λ²st;T∼Exp(λ) 期望 1/λ;τₙ∼Eₙ 期望 n/λ。
  3. \(\frac{m^k}{k!}e^{-m}\),\(m=\int_a^b\lambda(s)ds\)。
  4. λtE[Y]、λtE[Y²];”在 N(t)=n 条件下求,再对 N 取期望“。
  5. 见第 7 节定义;”把历史改写成增量、未来增量与过去独立“;吸收/反射/弹性/自由见第 10 节表。

🎯 考场题型信号词 → 破题套路速查表 期末冲刺必背 · 信号词秒配定理与防扣分清单

考场上读题 10 秒内锁定“题干信号词”,直接调用中间列的定理模板作答,并在交卷前对照右列逐条排查高频扣分点。

🔍 题干信号词 / 设问特征 ⚡ 必用定理 / 核心递推式 / 标准破题套路 🚨 老师批改高频扣分点
由微元到达率定义证明泊松过程一维分布 \(P_n(t)=\frac{(\lambda t)^n}{n!}e^{-\lambda t}\) 列微分差分方程:\(P_n(t+\Delta t)=P_n(t)(1-\lambda\Delta t)+P_{n-1}(t)\lambda\Delta t+o(\Delta t)\),移项取极限结合 \(P_0(0)=1\) 递推求解 ⚠ 避坑:漏讨论 \(n=0\) 的边界方程 \(P_0'(t)=-\lambda P_0(t)\);或漏写小量 \(o(\Delta t)\)
泊松过程多时刻条件概率如 \(P\{X(t_2)=k \mid X(t_1)=m\}\) 或逆向条件分布 正向用独立平稳增量性拆 \(X(t_2)-X(t_1)\sim P(\lambda(t_2-t_1))\);逆向(已知大时刻总数 \(X(t)=n\) 求小时刻 \(X(s)\))必服从二项分布 \(B(n, s/t)\) ⚠ 避坑:逆向条件概率误用独立增量直接算(\(s
第 \(n\) 次到达等待时间 \(W_n\) 与点间距 \(T_k\) 的密度、期望及数字特征 点间距 \(T_k\) 独立同分布于 \(\text{Exp}(\lambda)\);等待时间 \(W_n=\sum_{k=1}^n T_k \sim \Gamma(n,\lambda)\),密度 \(f_{W_n}(t)=\frac{\lambda(\lambda t)^{n-1}}{(n-1)!}e^{-\lambda t}\,(t>0)\);关键等价事件 \(\{W_n\le t\}=\{X(t)\ge n\}\) ⚠ 避坑:Gamma 密度阶乘写成 \(n!\) 而非 \((n-1)!\);混淆到达时间间隔指数分布均值 \(1/\lambda\) 与单位时间到达率 \(\lambda\)
复合泊松过程 \(Y(t)=\sum_{k=1}^{N(t)} Z_k\) 求均值、方差或特征函数 公式秒杀:\(E[Y(t)]=\lambda t E[Z_1]\),\(D[Y(t)]=\lambda t E[Z_1^2]\)(注意是二阶原点矩!),\(\varphi_{Y(t)}(u)=\exp\{\lambda t[\varphi_Z(u)-1]\}\) ⚠ 避坑:方差公式误写为 \(\lambda t D(Z_1)\)(漏了 \((EZ_1)^2\),必须用二阶原点矩 \(E[Z_1^2]=D(Z_1)+(EZ_1)^2\))
写出随机游动在自由 / 吸收 / 反射 / 弹性边界下的状态转移概率矩阵 \(P\) 先标定状态空间 \(S=\{0,1,\dots,a\}\),内部行均为 \(p_{i,i+1}=p,\,p_{i,i-1}=q\);重点核对首行(0 边界)与末行(\(a\) 边界):吸收壁为 \(p_{00}=1\),反射壁为 \(p_{01}=1\)(或含留驻),弹性壁兼具反射与停留 ⚠ 避坑:矩阵某一行元素之和不等于 1(写完转移矩阵第一件事就是按行求和验算是否恒为 1!)