0 · 本模块本科概率论核心衔接：从集合 \(\sigma\)-代数到随机变量函数分布
- 为什么研究生概率要讲 \(\sigma\)-代数 \(\mathcal{F}\)？在连续区间（如 \([0,1]\)）上无法给每一个奇异子集都定义满足可列可加性的概率（Vitali 不可测集）。把“对补集封闭、对可列并封闭”的合法事件家族收集起来就是 \(\sigma\)-代数 \(\mathcal{F}\)，实轴上由区间生成的最小 \(\sigma\)-代数就是 Borel 代数 \(\mathcal{B}\)。
- 本课程分布函数铁律（右连续）：\(F(x) = P\{X \le x\}\)，满足右连续 \(F(x+0)=F(x)\)，且区间概率 \(P\{a < X \le b\} = F(b) - F(a)\)，单点概率 \(P\{X=x\} = F(x) - F(x-0)\)。
- 求 \(Y=g(X)\) 密度的万能四步（分布函数法）：① 先定 \(Y\) 的取值范围；② 写 \(F_Y(y) = P\{g(X) \le y\}\)；③ 解不等式化为 \(X\) 的概率积分；④ 对 \(y\) 求导得 \(f_Y(y) = F'_Y(y)\)。
自学导航 · 概率空间：零基础重新接上
① 前置知识与记号
先回忆集合的并交补、事件与样本点、条件概率。按这门课程的记号 F(x)=P(X≤x)，因此分布函数右连续。P(A|B)=P(A∩B)/P(B) 的初等定义要求 P(B)>0。
② 完整例题
盒中 2 个红球 1 个蓝球，放回抽取两次：两次都红的概率是 4/9；至少有一次蓝的概率是 1−4/9=5/9。区分独立抽样与互斥事件。
💡 破题关键与第一步提示（遮答案自测用 · ③ 考前自测（展开题目））
破题切入点：举例解释为什么两个正概率互斥事件一般不独立。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（③ 考前自测（展开题目））
举例解释为什么两个正概率互斥事件一般不独立。
本栏是补充学习材料，考试范围以本学期教师正式通知为准。
从随机变量到函数分布：最小值的分布
设 \(X,Y\) 相互独立且均服从参数为 \(\lambda>0\) 的指数分布，令 \(Z=\min(X,Y)\)。求 \(Z\) 的分布。
- 先找事件：\(Z>z\) 当且仅当 \(X>z\) 且 \(Y>z\)。
- 对 \(z\ge0\)，由独立性 \(\Pr(Z>z)=e^{-\lambda z}e^{-\lambda z}=e^{-2\lambda z}\)。
- 故 \(F_Z(z)=0\)（\(z<0\)），\(F_Z(z)=1-e^{-2\lambda z}\)（\(z\ge0\)），密度 \(f_Z(z)=2\lambda e^{-2\lambda z}\)（\(z\ge0\)）。
- 检查：\(F_Z\) 非减、右连续，边界为 0 和 1；故 \(Z\sim\mathrm{Exp}(2\lambda)\)。
💡 破题关键与第一步提示（遮答案自测用 · 自测：把 min 改成 max）
破题切入点：对 \(z\ge0\)，\(F_{\max(X,Y)}(z)=\Pr(X\le z,Y\le z)=(1-e^{-\lambda z})^2\)。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（自测：把 min 改成 max）
对 \(z\ge0\)，\(F_{\max(X,Y)}(z)=\Pr(X\le z,Y\le z)=(1-e^{-\lambda z})^2\)。不能直接照抄 min 的结论。
先看：本模块易错点与补充
概念边界- 分布函数右连续；\(P(X=x)\) 对连续型密度为零，但对离散/混合分布可不为零。
- 有限维分布一致性、σ-代数和概率空间的作用不同，不要把 “任意集合都可测”当成一般结论。
- 忘了数学定义先查 数学基础工具箱。
课件 00-绪论-课程介绍.pdf
00 · 绪论与课程导学
1 · 课程信息与考核
| 项目 | 内容 |
|---|---|
| 上课时间 | 周一、周三下午 16:20–17:55（7–8 节），沙河校区二楼 306 |
| 教材 | 徐全智等主编《随机过程及应用》，高等教育出版社（2013） |
| 参考书 | S.M.Ross《应用随机过程》；陆大金《随机过程及其应用》；方兆本·缪柏其《随机过程》；Leon-Garcia《Probability, Statistics and Random Processes for Electrical Engineering》；randomservices.org/random |
| 成绩构成 | 平时 50%（考勤+课堂表现 10% + 作业 30% + 小论文 10%）+ 期末 50% |
| 考试方式 | 一页纸（盖数学学院章）+ 闭卷（课件 p.5 原文；README 记载近年为开卷，以老师当年通知为准——无论开卷闭卷，“做好那张一页纸”都是复习主线） |
- 分布函数 \(F(x)=P\{X\le x\}\)，右连续（隔壁课程用 \(P\{X<x\}\)，左连续）；区间概率用 \(P\{a<X\le b\}=F(b)-F(a)\)。
- 虚数单位记作 \(j\)（工程习惯），特征函数记 \(\varphi(t)=E[e^{jtX}]\)；矩公式 \(E(X^k)=j^{-k}\varphi^{(k)}(0)\)。
- 正态分布记 \(N(a,\sigma^2)\)，\(\sigma\) 是标准差（两种写法下方差都是 \(\sigma^2\)）。
- 期望按 R-S 积分定义：\(E(X)=\displaystyle\int x\,\mathrm dF(x)\)——离散、连续一个公式通吃（第 6 份笔记专讲）。
2 · 随机过程发展小史
Stochastic 源自希腊语 στόχος（靶子/猜测）——“瞄准着猜”，天生带概率味。发展主线三幕：
| 年份 | 人物 | 贡献 | 意义 |
|---|---|---|---|
| 1827 | 布朗 | 观察花粉微粒不规则运动 | 物理起源 |
| 1900 | 巴谢利耶（Bachelier） | 博士论文《投机理论》用布朗运动建模股价 | 金融数学起点（被低估半个世纪） |
| 1905 | 爱因斯坦 | 分子运动论量化布朗运动 | 物理现实基础 |
| 1906 | 马尔可夫 | 提出马尔可夫链 | 第一个严格定义的随机过程模型（“无记忆”） |
| 1923 | 维纳 | 布朗运动的严格数学定义 | 维纳过程/随机积分基础 |
| 1931/1933 | 柯尔莫哥洛夫 | 马氏过程理论基础 /《概率论基础》公理化 | 整个学科的逻辑起点（本课程第 13 份笔记会讲他的存在定理） |
| 1951 | 伊藤清 | 随机微分方程（Itô calculus） | 金融资产定价的数学利器 |
| 1953 | 杜布（Doob） | 《随机过程论》、鞅论 | 理论体系集大成 |
3 · 概率论 vs 随机过程：一张照片 vs 一段录像
| 对比项 | 随机变量 | 随机过程 |
|---|---|---|
| 参数 | 无时间参数 | 时间参数 \(t\)（或离散 \(n\)） |
| 一次观测 | 单个数值 | 整条轨迹 |
| 概率描述 | 一个分布 \(F_X(x)\) | 有限维分布族 \(F_{t_1,\dots,t_n}(x_1,\dots,x_n)\) |
| 典型例子 | 掷骰子、身高 | 股价、气象数据、语音信号 |
| AI 对照 | 分类/回归的标签 | 时间序列、强化学习、文本生成 |
课件用 AI 场景类比：图像分类标签是静态随机变量；股价预测 \(S_t\)（历史序列 → 未来分布）、强化学习 MDP（\(S_{t+1}\sim P(\cdot|S_t,A_t)\)）、LLM 逐词生成（固定 \(t\)，下一个词是随机变量；整段生成是离散时间随机过程，一次生成=一条样本路径）——“下一词预测”本质是条件概率链，第 2 份笔记的条件概率正是它的地基。
4 · 研究方法案例：细菌繁殖（Yule 纯生过程）
同一现象的两种建模，对比出“随机过程到底多算了什么”——这是绪论最有实质内容的例子，也预演了后面生灭过程的推导手法。
1）确定性建模（ODE）
\[\frac{x(t+\Delta t)-x(t)}{\Delta t}=\lambda x(t)\ \xrightarrow{\Delta t\to0}\ \frac{\mathrm dx}{\mathrm dt}=\lambda x\ \Rightarrow\ x(t)=x_0e^{\lambda t}.\]2）随机性建模（主方程）
设 \(X(t)\) 为随机变量：在 \(X(t)=x\) 条件下， \[P\{X(t+\Delta t)=x+1\mid X(t)=x\}=\lambda x\,\Delta t+o(\Delta t),\qquad P\{\text{增}\ge2\}=o(\Delta t).\] 由全概率公式（按 \(t\) 时刻的数量分情况）列出差分方程，令 \(\Delta t\to0\) 得微分方程并求解（初始 \(P\{X(0)=x_0\}=1\)），得 \[P\{X(t)=x\}=\binom{x-1}{x_0-1}\,e^{-\lambda x_0 t}\,\big(1-e^{-\lambda t}\big)^{x-x_0},\qquad x=x_0,x_0+1,\dots\] （负二项分布型，即 Yule 分布。）💡 破题关键与第一步提示（遮答案自测用 · 推导主线（自己推一遍，后面生灭过程同款手法））
破题切入点：记 \(p_x(t)=P\{X(t)=x\}\)。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（推导主线（自己推一遍，后面生灭过程同款手法））
记 \(p_x(t)=P\{X(t)=x\}\)。“t+Δt 时刻有 x 个” = “t 时刻已有 x 个且这 Δt 没生” 或 “t 时刻 x−1 个且生了 1 个”（生 ≥2 个是 o(Δt)）： \[p_x(t+\Delta t)=p_x(t)(1-\lambda x\,\Delta t)+p_{x-1}(t)\,\lambda(x-1)\Delta t+o(\Delta t).\] 令 \(\Delta t\to0\)：\(p_x'(t)=-\lambda x\,p_x(t)+\lambda(x-1)p_{x-1}(t)\)。由 \(p_{x_0}(0)=1\) 逐级解出（归纳法可证）上式。对比：确定性给一条曲线，随机给每个时刻的整张分布表；\(E[X(t)]=x_0e^{\lambda t}\)——期望恰好回到确定性曲线！
| 维度 | 确定性模型 | 随机性模型 |
|---|---|---|
| 输出 | 单个确定值 \(x(t)=x_0e^{\lambda t}\) | 概率分布 \(P\{X(t)=x\}\) |
| 数学工具 | 常微分方程 ODE | 主方程（Master Equation） |
| 不确定性 | 无 | 有（方差、置信区间） |
| AI 对照 | 确定性神经网络 / greedy 解码 | 贝叶斯网络 / MC-Dropout / temperature 采样 |
LLM 类比（课件 p.38）：temperature=0 时 GPT 退化为确定性过程（greedy），调高 temperature 则从分布采样——同一段“生成过程”，确定性/随机性一念之间。
5 · 应用版图与 AI 结合
| 领域 | 核心任务 | 经典模型 | 与 AI/ML 的结合 |
|---|---|---|---|
| 金融工程 | 资产定价、风险管理 | 几何布朗运动 → Black-Scholes | 深度强化学习学交易策略 |
| 通信与信号 | 信号检测、信道估计 | 马尔可夫链、高斯过程；维纳/卡尔曼滤波 | RNN 替代卡尔曼滤波做状态跟踪 |
| 排队论与运筹 | 系统优化、资源调度 | 生灭过程、M/M/1（机场安检、呼叫中心） | 强化学习自适应调度 |
| 生物与医学 | 种群演化、疾病传播 | Yule 纯生过程、传染病 SIR | LSTM 拟合 SEIR 参数 |
6 · 全课程地图与本笔记用法
按课件各讲首页的章节结构，本课程路线：
| 课件编号 | 主题 | 教材章节 | 笔记 |
|---|---|---|---|
| 00 | 绪论 | — | 本篇 |
| 01–02 | 概率空间（σ-代数、公理、条件概率、三门问题） | 第一章 | 笔记 01、02 |
| 03–05 | 随机变量、多维、条件分布、独立性、函数的分布 | 第一章 | 笔记 03–05 |
| 06 | R-S 积分（全课程的分析地基） | 第六章 | 笔记 06 |
| 07–09 | 数字特征（R-S 期望、条件期望、Wald 等式） | 第六章 | 笔记 07–09 |
| 10–11 | 特征函数（Fourier–Stieltjes、反演、独立和） | 第六章 | 笔记 10–11 |
| 12–14 | 第一章 随机过程的基本概念（定义、有限维分布、柯氏存在定理、数字特征） | 第一章 | 笔记 12–14 |
| 后续 | 泊松过程、更新过程、平稳过程、均方微积分、谱分析、马氏链（课堂练习 CH2–CH6 已透露） | 第二~七章 | 待课件更新后追加 |
配套资料（本文件夹）：复习资料/考试范围.pdf（9 条考点）、分章复习重点与应试提示.docx（必考/不考标注）、课堂练习/（题型与期末大题同源）、教材与习题解答/（对作业答案）。
课件 01-概率空间-1.pdf
01 · 概率空间（一）
0 · 本讲导读
本讲回答绪论留下的两个问题（课件 p.3）：① 样本空间 Ω 的结构是什么？② Ω 的每一个子集都能确定概率吗？第二个问题的答案是“不能”——这正是 σ-代数 \(\mathcal F\) 存在的理由，也是本讲最值得吃透的内容（维塔利集反例）。
与《随机过程与排队论》第 1 讲重叠的是骨架；本课程新增的肉是：乘积样本空间（随机过程的样本空间就是无穷乘积空间！）、“对任意子集不封闭”的完整论证（隔壁课程一笔带过，这里讲透）。
- 记号约定（送分但要命）：本课程 \(F(x)=P\{X\le x\}\)右连续、区间概率 \(P\{a<X\le b\}=F(b)-F(a)\)——与《随机过程与排队论》课正好相反，考试做哪门课的题用哪门约定，两门课一起复习的同学务必分开记；
- 全概率与贝叶斯——大题主力（本模块第 3 讲的三门问题、幸运签是经典皮肤）；
- 条件分布（±Δx 双侧极限定义）与独立性三件套——小题 + 一道条件密度计算（第 4 讲射手例是样板）；
- 函数的分布——必考一大题：分布函数法 / 单调公式法 / 雅可比法（第 5 讲三板斧，直接对接随机过程求密度）。
缺基础？求导、积分、级数、矩阵乘法、复数的手生处，直接翻上级目录的 《数学基础工具箱》（每条约三分钟，配例题与易错点；考前还有"十分钟急救包"）。
1 · 样本空间与乘积样本空间
积集：\(A\times B=\{(a,b):a\in A,\ b\in B\}\)。
乘积样本空间：n 个试验 \(E_i\) 的样本空间分别为 \(\Omega_i\)，则合并试验 \(E=E_1\times\cdots\times E_n\) 的样本空间为 \[\Omega_1\times\Omega_2\times\cdots\times\Omega_n=\{(\omega_1,\dots,\omega_n):\omega_i\in\Omega_i\}.\]
2 · σ-代数：定义与性质
- 包含全集：\(\Omega\in\mathcal F\)；
- 对补集（逆运算）封闭：\(A\in\mathcal F\Rightarrow\bar A\in\mathcal F\)；
- 对可数（可列）并封闭：\(A_i\in\mathcal F\ (i=1,2,\dots)\Rightarrow\bigcup_{i=1}^\infty A_i\in\mathcal F\)。
免费推出的性质（课件 p.14–17）：
- \(\Phi\in\mathcal F\)（因 \(\Phi=\bar\Omega\)）；
- 对可列交封闭：\(\bigcap_i A_i=\overline{\bigcup_i\bar A_i}\)（德摩根）；
- 对有限并、有限交封闭（可列的特例）；
- 对差运算封闭：\(A,B\in\mathcal F\Rightarrow A-B=A\cap\bar B\in\mathcal F\)。
| 操作 | 是否封闭 | 原因（信息视角） |
|---|---|---|
| 补集 | ✅ | 能问“A 发生吗”，就必须能问“A 不发生吗” |
| 可数并 | ✅ | 每天“是否下雨”可测 ⟹ “这个月至少下过一次雨”可测 |
| 可数交 / 差 | ✅ | 由德摩根律 / 补与交组合导出 |
| 任意子集 | ❌ | 无法问“降水量恰好是 π 毫米吗”——太精细，概率测度无法定义；但可以问“落在 [3,4] 毫米吗”（区间是博雷尔集） |
3 · 三种特殊的 σ-代数
| 类型 | 集族 | 说明 |
|---|---|---|
| 最小 σ-代数 | \(\{\Phi,\Omega\}\) | 只认识“必然”与“不可能”——零信息 |
| 最大 σ-代数 | \(2^\Omega\)（Ω 的全体子集） | 全知——有限/离散样本空间通常取它 |
| 由 A 产生的 σ-代数 \(\sigma(A)\) | \(\{\Phi,\ A,\ \bar A,\ \Omega\}\) | 由事件 A 生成的最简单 σ-代数——“只知道 A 发没发生”的信息水平 |
4 · 为什么不对“任意子集”封闭：维塔利集
课件给的三个现代对照（了解即可，帮助建立直觉）：
| 场景 | 空间 | σ-代数怎么取 | “不可测”的子集 |
|---|---|---|---|
| 猫狗分类 | 特征空间 \(\mathcal X\)（体重×耳朵长度） | 由决策边界（半平面）生成 | 分类边界曲线本身——无法赋予合理概率 |
| VAE 潜空间 | \(\mathcal Z\subset\mathbb R^d\)，配高斯先验 | 博雷尔 σ-代数（开闭集的可数运算闭包） | “所有坐标都是无理数”的点集——采样时永远不会讨论它 |
| LLM 词汇表 | 有限离散 \(\mathcal V\) | \(2^{\mathcal V}\)（有限集全子集，无病态） | 若嵌入连续向量空间，“向量恰等于某特定值”不可测；我们关心区域（语义相近的一组词）的概率 |
5 · 柯尔莫哥洛夫公理与概率空间
- 非负性：\(0\le P(A)\le1,\ \forall A\in\mathcal F\)；
- 规范性：\(P(\Omega)=1\)；
- 完全可加性：对两两互不相容的 \(A_iA_j=\Phi\ (i\ne j)\)，\(P\Big(\bigcup_{i=1}^\infty A_i\Big)=\sum_{i=1}^\infty P(A_i)\)。
💡 破题关键与第一步提示（遮答案自测用 · 证明（三条公理逐条过））
破题切入点：非负、规范性 ：每项非负；\(P(\Omega)=\sum_{k=0}^\infty\frac{\lambda^k}{k! \cdots\)（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（证明（三条公理逐条过））
非负、规范性：每项非负；\(P(\Omega)=\sum_{k=0}^\infty\frac{\lambda^k}{k!}e^{-\lambda}=e^{-\lambda}e^{\lambda}=1\)；对任意 \(A\)，\(0\le P(A)\le P(\Omega)=1\)。
完全可加性：设 \(A_i\) 两两不相交，\(\bigcup_i A_i=A\)。正项级数可换序（重排定理）： \[P(A)=\sum_{k\in A}p_k=\sum_i\sum_{k\in A_i}p_k=\sum_i P(A_i),\qquad p_k=\tfrac{\lambda^k}{k!}e^{-\lambda}.\] ∎ 这就是“泊松分布给出一个合法的概率空间”——第 4 份笔记起它会反复登场。
6 · 自测与下一步
- σ-代数三条定义？由它免费推出哪四条封闭性？哪类操作不封闭，为什么？
- 最小 / 最大 / 由 A 产生的 σ-代数分别是什么？“试验目的不同，σ-代数不同”举一例。
- 维塔利集为什么“没有长度”？若强行给它指派概率会发生什么？
- 验证“泊松权重”构成概率测度的三步是什么？
💡 破题关键与第一步提示（遮答案自测用 · 答案要点）
破题切入点：含 Ω、补封闭、可数并封闭；推出 ∅、可数交、有限并交、差封闭；（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（答案要点）
- 含 Ω、补封闭、可数并封闭；推出 ∅、可数交、有限并交、差封闭；任意子集不封闭（病态集合无法定义满足可数可加性的概率）。
- \(\{\Phi,\Omega\}\) / \(2^\Omega\) / \(\{\Phi,A,\bar A,\Omega\}\)；如元件按编号看是 \(2^\Omega\)、按正品次品看是 4 元 σ-代数。
- 若长 0，可数平移拼出正长度集仍应为 0，矛盾；若长 \(p>0\)，可数平移应长无穷，矛盾；强行指派破坏可数可加性。
- 非负 → 规范性（指数级数求和 =1）→ 正项级数换序得完全可加性。
下一份：概率的连续性（递推列极限）、条件概率空间 \(P_B=P(\cdot|B)\)、全概率与贝叶斯，以及本课程的招牌案例——三门问题与其“无知主持人”变种（Monty Fall：换不换真的变成 50/50！）。
课件 02-概率空间-2.pdf
02 · 概率空间（二）
0 · 本讲导读
上一讲搭好概率空间 \((\Omega,\mathcal F,P)\)；本讲把 P 的“使用手册”配齐：由三条公理推出全部常用性质（含较难的概率连续性），然后进入条件概率——课件反复强调它是本课程乃至 AI 的地基（“GPT 的生成本质就是不断计算条件概率”）。
1 · 概率的性质与连续性
- \(P(\Phi)=0\)；
- 有限可加性：\(A_iA_j=\Phi\ (i\ne j)\Rightarrow P\big(\bigcup_{i=1}^nA_i\big)=\sum_{i=1}^nP(A_i)\)；
- 推论 1（对立）：\(P(\bar A)=1-P(A)\)；
- 推论 2（单调性）：\(A\subset B\Rightarrow P(A-B)=P(A)-P(B)\)（教材记法 \(P(A-B)\) 即 \(P(A\setminus B)\)），且 \(P(A)\le P(B)\)；
- 次可加性：\(P\big(\bigcup_{i=1}^nA_i\big)\le\sum_{i=1}^nP(A_i)\)；
- 多除少补原理：\(P\big(\bigcup A_i\big)=\sum P(A_i)-\sum P(A_iA_j)+\cdots+(-1)^{n-1}P(A_1\cdots A_n)\)。
(2) 递减情形：若 \(A_1\supset A_2\supset\cdots\) 且 \(\bigcap_{n=1}^\infty A_n=A\)，则 \(\lim_{n\to\infty}P(A_n)=P(A)\)。
💡 破题关键与第一步提示（遮答案自测用 · 证明（递增情形，经典的“ disjoint 拆分 + 完全可加性”））
破题切入点：令 \(B_1=A_1,\ B_n=A_n-A_{n-1}\ (n\ge2)\)，则 \(B_i\) 两两互斥且 \(\bigcup_{k=1}^nB_k=A_n\)，\(\bigcup_{ \cdots\)（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（证明（递增情形，经典的“ disjoint 拆分 + 完全可加性”））
令 \(B_1=A_1,\ B_n=A_n-A_{n-1}\ (n\ge2)\)，则 \(B_i\) 两两互斥且 \(\bigcup_{k=1}^nB_k=A_n\)，\(\bigcup_{k=1}^\infty B_k=A\)。由完全可加性： \[P(A)=\sum_{k=1}^\infty P(B_k)=\lim_{n\to\infty}\sum_{k=1}^nP(B_k)=\lim_{n\to\infty}P(A_n).\] （“收敛级数的余项极限为 0”。）递减情形对 \(\bar A_n\) 用递增结论即得。∎
应用预演（课件 p.23）：把它用到分布函数上，立得 \(F(x+0)=F(x)\)（右连续）——第 3 份笔记的定理 1.1.1 性质 3 就靠它。
2 · 条件概率与条件概率空间
进一步：在条件概率空间里再做条件化，“条件可以传递”——\(P_{AB}(C)=P_A(C\mid B)\) 型公式成立（课件 p.32 定理）。
💡 破题关键与第一步提示（遮答案自测用 · 解答）
破题切入点：\[P(A_3\mid A_1A_2)=\frac{P(A_1A_2A_3)}{P(A_1A_2)}=\frac{\frac3{10}\cdot\frac29\cdot\frac18}{\f（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（解答）
3 · 全概率公式与贝叶斯公式
三种常考皮肤：两厂产品合格率型（先验=产量占比）、取笔/摸球两阶段型（先验=组合数）、疾病检测型（先验=患病率，答案小到反直觉——本课程三门问题的"主持人知情"本质同源）。
易错：把 \(P(AB)\) 当 \(P(A\mid B)\)；完备组漏掉某种情况（检查 \(\sum P(B_i)=1\)）。
4 · 三门问题：知情的主持人值 1/3 概率
💡 破题关键与第一步提示（遮答案自测用 · 解答）
破题切入点：\(P(\text{坚持获胜})=P(\text{初次选中车})=\frac13\)；（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（解答）
\(P(\text{坚持获胜})=P(\text{初次选中车})=\frac13\)；\(P(\text{换门获胜})=\frac23\)（初次选错的概率 \(\frac23\)，此时主持人被迫开掉唯一的羊，剩下那扇必是车）。换！
直觉误区：“只剩两扇门各占 1/2”错在忽略了主持人行为携带信息：他的开门规则只改变“未选那扇门”的后验概率（1/3 → 2/3），不改变你最初那扇（1/3 不动）。
💡 破题关键与第一步提示（遮答案自测用 · 解答（答案反转！））
破题切入点：设 A=初次选中车。主持人随机开门且开出羊： \[P(\text{主持人开羊})=P(A)\cdot1+P(\bar A)\cdot\tfrac12=\tfrac13+\tfrac13=\t（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（解答（答案反转！））
设 A=初次选中车。主持人随机开门且开出羊： \[P(\text{主持人开羊})=P(A)\cdot1+P(\bar A)\cdot\tfrac12=\tfrac13+\tfrac13=\tfrac23,\] \[P(A\mid\text{开羊})=\frac{P(A)P(\text{开羊}\mid A)}{P(\text{开羊})}=\frac{\tfrac13\cdot1}{\tfrac23}=\tfrac12.\] 此时坚持与换门各 1/2——换不换一样。
对比启示：同样是“主持人开出一只羊”这个结果，因生成机制不同（知情排除 vs 随机碰巧），后验完全不同。换不换门，取决于主持人知道什么——概率论是信息学。
5 · 自测与下一步
- 写出概率的 6 条性质；“多除少补”对两个事件展开是什么？
- 叙述概率连续性定理（递增/递减两种），证明的关键一步是什么？
- 为什么 \(P_B\) 是概率？这对解题有什么用？
- Monty Hall 与 Monty Fall 的本质区别在哪一步？各自换门获胜概率？
💡 破题关键与第一步提示（遮答案自测用 · 答案要点）
破题切入点：见第 1 节框；两事件：\(P(A\cup B)=P(A)+P(B)-P(AB)\)。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（答案要点）
- 见第 1 节框；两事件：\(P(A\cup B)=P(A)+P(B)-P(AB)\)。
- 单调列极限概率 = 极限事件概率；关键：拆成互斥增量 \(B_n=A_n-A_{n-1}\) 后用完全可加性。
- 验证三公理（尤其 \(P_B(\Omega)=1\)）；因此加法、连续性、贝叶斯等在条件世界里照用。
- 开门机制是否依赖车位置（信息是否对等）；2/3 vs 1/2。
下一份：随机变量——为什么“贴数字的规则”必须附加可测性条件（维塔利函数反例）、贝特朗悖论、“≤”版分布函数 \(F(x)=P\{X\le x\}\) 及其右连续性（本课程记号）、二维随机变量与联合分布。
课件 03-随机变量-1.pdf
03 · 随机变量（一）
0 · 本讲导读（⚠ 记号约定）
本讲核心问题：什么样的“贴数字规则”才有资格叫随机变量？答案是“映射 + 可测性”，而可测性不是学究式的废话——维塔利函数与贝特朗悖论会告诉我们，少了它概率论直接崩盘。
1 · 随机变量的定义：两条缺一不可
- 映射性：对每一样本点 \(\omega\)，都有唯一实数 \(X(\omega)\) 与之对应；
- 可测性：对任意实数 \(x\)，集合 \(\{\omega:X(\omega)\le x\}\in\mathcal F\)（是可测事件，有确定的概率），
工程视角（课件 p.14）：现实中的量（AI 推理耗时、置信度分数、token 编号）全部满足可测性；可测条件是“理论地基”，专门排除理论上的不可测病态集合。工科只需记住：不是任何从样本空间到实数的函数都是随机变量，必须附加可测条件。
2 · 反例与悖论：可测性不是废话
| “随机”的定义 | 答案 |
|---|---|
| 随机端点法（端点沿圆周均匀） | \(1/3\) |
| 随机半径点法（中点沿直径均匀） | \(1/2\) |
| 随机中点法（中点在圆面内均匀） | \(1/4\) |
可测 vs 不可测的直观图（课件 p.4）：合格的随机变量——“≤ x”的区域边界清晰、面积可量；不合格的——区域碎成“康托尔尘”般的噪点，圈不起来也算不出面积。
3 · 分布函数（本课程用 ≤）
- \(F(x)\) 单调不减；
- \(\lim_{x\to-\infty}F(x)=0,\ \lim_{x\to+\infty}F(x)=1,\ 0\le F(x)\le1\)；
- \(F(x)\) 右连续：\(F(x+0)=F(x)\)；
- 对 \(a<b\)：\(P\{a<X\le b\}=F(b)-F(a)\)。
💡 破题关键与第一步提示（遮答案自测用 · 性质 3 的证明（上一讲“概率连续性”的首次应用））
破题切入点：单调性保证极限存在，只需证 \(F(x)=\lim_n F(x+\tfrac1n)\)。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（性质 3 的证明（上一讲“概率连续性”的首次应用））
单调性保证极限存在，只需证 \(F(x)=\lim_n F(x+\tfrac1n)\)。事件列 \(\{X\le x+\tfrac1n\}\) 单调下降趋于 \(\bigcap_n\{X\le x+\tfrac1n\}=\{X\le x\}\)，由上一讲概率的连续性（递减情形）即得。∎ （几何直观：台阶 \([x, x+\tfrac1n]\) 从右边挤向 \(x\)。）
| 本课程 \(F=P\{X\le x\}\) | 排队论课程 \(F=P\{X<x\}\) | |
|---|---|---|
| 连续性 | 右连续 | 左连续 |
| 区间公式 | \(P\{a<X\le b\}=F(b)-F(a)\) | \(P\{a\le X<b\}=F(b)-F(a)\) |
| 离散型跳跃点 \(x_k\) | \(F(x_k)\) 取上台阶（含 \(p_k\)） | \(F(x_k)\) 取下台阶（不含 \(p_k\)） |
4 · 二维与 n 维随机变量
注：由联合分布可确定各子向量的（边缘）分布，反之不行。
为什么 \((X,Y)\) 自动可测（课件 p.23 的问答）：\(\{X\le x,\ Y\le y\}=\{X\le x\}\cap\{Y\le y\}\)，两个集合各自属于 \(\mathcal F\)，而 σ-代数对交封闭——所以 \(\in\mathcal F\)。σ-代数再次默默兜底。
AI 对照（课件 p.28–33，速览）：二维正态曲面（身高×体重，\(\rho\) 控制等高线圆↔扁，下一讲详讲条件分布时用）；GMM 聚类 = 多个二维高斯叠加；V AE 二维隐空间 = 二维连续随机变量；GPT 的（上文 token, 下一 token）= 高维离散联合分布，条件分布 \(P(Y|X)=P(X,Y)/P(X)\) 即 next-token 预测；MDN 输出二维联合分布表达预测不确定性。
5 · 自测与下一步
- 随机变量定义的两条各防什么？用 σ-代数封闭性说明 \(\{X=x\}\)、\(\{X>x\}\) 都可测。
- 维塔利函数为什么不是随机变量？贝特朗悖论的根源是什么？
- 本课程 \(F(x)\) 的定义与连续性方向？\(P\{a<X\le b\}= ?\) 跳跃点取上台阶还是下台阶？
- 联合分布函数的“相容性”不等式说什么？它排除什么样的伪造分布？
💡 破题关键与第一步提示（遮答案自测用 · 答案要点）
破题切入点：条件 1 管映射存在唯一；条件 2 管“\(\{X\le x\}\in\mathcal F\)”（有概率）。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（答案要点）
- 条件 1 管映射存在唯一；条件 2 管“\(\{X\le x\}\in\mathcal F\)”（有概率）。\(\{X=x\}=\bigcap_n\{X\le x+\tfrac1n\}\setminus\{X\le x\}\)（可数交、差封闭），\(\{X>x\}=\overline{\{X\le x\}}\)。
- \(\{X\le0.5\}=V\) 不可测；“随机”的样本空间与测度未事先指定。
- \(P\{X\le x\}\)、右连续；\(F(b)-F(a)\)；上台阶（含 \(p_k\)）。
- 矩形上概率非负；例如 \(F=0\) 但边缘非零、或单调性 OK 但矩形概率为负的“假分布”被排除。
下一份：条件分布（一般型 ±Δx 极限定义）、条件分布律/条件密度、独立性三组等价条件与“独立随机变量的函数仍独立”，以及射手例题与三角形区域条件密度例题。
课件 04-随机变量-2.pdf
04 · 随机变量（二）
0 · 本讲导读
联合分布是“关系档案”，条件分布是“信息更新后的档案”，独立性是“档案可拆乘”。本讲的条件分布采用±Δx 双侧极限定义——比初等概率论的单侧版本更一般（对连续型、混合型都适用），这是本课程的一个讲究之处。
1 · 条件分布：一般定义
2 · 离散型条件分布律 / 连续型条件密度
3 · 例题两道
💡 破题关键与第一步提示（遮答案自测用 · 解答）
破题切入点：联合 ：第 i 次首次命中（前 i−1 次全失败、第 i 次中），第 j 次第二次命中（i+1,…,j−1 共 j−i−1 次失败、第 j 次中）： \[P\{X=i,\ Y=j\}=p^2（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（解答）
联合：第 i 次首次命中（前 i−1 次全失败、第 i 次中），第 j 次第二次命中（i+1,…,j−1 共 j−i−1 次失败、第 j 次中）： \[P\{X=i,\ Y=j\}=p^2(1-p)^{j-2},\qquad 1\le i<j,\quad j=2,3,\dots\]
边缘：\(P\{Y=j\}=\sum_{i=1}^{j-1}p^2q^{j-2}=(j-1)p^2q^{j-2}\)（\(q=1-p\)）——第 j 次是第二次命中 ⟹ 前 j−1 次里恰中 1 次。
条件分布律：给定 \(Y=j\)（已知第 j 次第二次命中），第一次命中发生位置均匀散在前 j−1 次中： \[P\{X=i\mid Y=j\}=\frac{p^2q^{j-2}}{(j-1)p^2q^{j-2}}=\frac{1}{j-1},\qquad i=1,2,\dots,j-1.\] 即 \(\{X|Y=j\}\sim U\{1,\dots,j-1\}\)——离散均匀，非常漂亮。
💡 破题关键与第一步提示（遮答案自测用 · 解答（先画区域，再切条））
破题切入点：\(f(x,y)=1\)（D 面积为 1）。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（解答（先画区域，再切条））
\(f(x,y)=1\)（D 面积为 1）。
边缘（竖切）：\(f_X(x)=\displaystyle\int_0^{1-x}1\,\mathrm dy=1-x,\ 0\le x\le1\)；对称地 \(f_Y(y)=1-y\)。
条件密度： \[f_{Y|X}(y\mid x)=\frac{f(x,y)}{f_X(x)}=\frac{1}{1-x},\quad 0\le y\le1-x;\qquad f_{X|Y}(x\mid y)=\frac{1}{1-y},\quad 0\le x\le1-y.\] 即“固定 x，y 在剩余长度 \(1-x\) 上均匀”。做题模板：画区域 → 定积分限求边缘 → 联合÷边缘=条件。课件原例（区域含直线 \(y=2-x\)）步骤完全相同。
4 · 随机向量的独立性
- 分布函数：\(F(x,y)=F_X(x)F_Y(y)\ \forall(x,y)\)；
- 离散型：\(P\{X=x_i,\ Y=y_j\}=P\{X=x_i\}P\{Y=y_j\}\ \forall i,j\)；等价地 \(P\{X=x_i|Y=y_j\}=P\{X=x_i\}\)；
- 连续型：\(f(x,y)=f_X(x)f_Y(y)\) 在平面上“除去面积为 0 的集合外”成立；等价地 \(f_{Y|X}=f_Y\)。
定理 1.2.2：\(X_1,\dots,X_n\) 相互独立 ⟹ 其中任意 k（2≤k≤n）个也相互独立。
定理 1.2.3：把 n₁+…+n_k 维独立随机向量分 k 组，各组分别取连续函数得 \(Y_i=\varphi_i(\text{第}i\text{组})\)，则 \(Y_1,\dots,Y_k\) 仍相互独立——独立的随机变量的（组内）函数仍独立。这回答了上一讲留下的问题（函数是否仍是随机变量：在连续函数下是；详见下一份笔记）。
5 · 自测与下一步
- 写出条件分布函数的 ±Δx 定义；为什么连续型不能直接写 \(P\{Y\le y|X=x\}=P\{Y\le y,X=x\}/P\{X=x\}\)？
- 条件密度的归一性怎么验证？条件密度什么时候退化为边缘密度？
- 离散型独立的等价条件（两条）？连续型的两条？
- 定理 1.2.3 的结论一句话？
💡 破题关键与第一步提示（遮答案自测用 · 答案要点）
破题切入点：见第 1 节；因 \(P\{X=x\}=0\)，分母为零，必须用小竖条极限夹出来。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（答案要点）
- 见第 1 节；因 \(P\{X=x\}=0\)，分母为零，必须用小竖条极限夹出来。
- \(\int f_{Y|X}(y|x)\mathrm dy=\frac1{f_X(x)}\int f(x,y)\mathrm dy=1\)；独立时。
- \(p_{ij}=p_{i\cdot}p_{\cdot j}\)、条件分布律=边缘分布律；\(f=f_Xf_Y\)、条件密度=边缘密度。
- 独立随机向量分组后，各组的连续函数之间仍独立。
下一份：随机变量的函数——分布函数法（离散求和 / 连续积分）、单调公式法与分段扩展、极值/和/商三大特殊分布、雅可比变换定理（含证明）与卷积公式的推导。
课件 05-随机变量的函数.pdf
05 · 随机变量的函数
0 · 本讲导读：两个问题
上一讲结尾留了两个问题：① 随机变量的（连续）函数还是同一概率空间上的随机变量吗？② 如何确定它的分布？本讲全部篇幅回答它们。这一讲的“单调公式法 + 雅可比法”是随机过程求一维/二维密度的主力工具（第 13 份笔记的随机正弦波例题直接调用）。
1 · 函数还是随机变量吗？
2 · 求分布的第一板斧：分布函数法
3 · 第二板斧：单调函数公式法
扩展（分段单调）：若 \(g\) 在互不重叠的区间 \(I_1,I_2,\dots\) 上逐段严格单调，反函数 \(h_i\)、导数连续，则各分支贡献相加： \[f_Y(y)=\sum_i f_X\big(h_i(y)\big)\,\big|h_i'(y)\big|.\]
4 · 三种特殊函数的分布
- 极值分布 \(M=\max(X,Y)\)，\(N=\min(X,Y)\)： \[F_M(z)=F_X(z)F_Y(z);\qquad P\{N>z\}=P\{X>z\}\,P\{Y>z\}\ \Rightarrow\ F_N(z)=1-[1-F_X(z)][1-F_Y(z)].\] （“最大值都 ≤ z”= 两者都 ≤ z；“最小值还 > z”= 两者都 > z。）
- 和的分布（卷积）：\(Z=X+Y\) 时 \[f_Z(z)=\int_{-\infty}^{+\infty}f_X(x)\,f_Y(z-x)\,\mathrm dx=\int_{-\infty}^{+\infty}f_Y(y)\,f_X(z-y)\,\mathrm dy.\]
- 商的分布：\(Z=X/Y\)（\(Y\ne0\)）时 \(f_Z(z)=\int_{-\infty}^{+\infty}|y|\,f_X(zy)\,f_Y(y)\,\mathrm dy\)。
5 · 二元变换：雅可比法与卷积
💡 破题关键与第一步提示（遮答案自测用 · 证明思路（课件给出））
破题切入点：先写 \(F_{Y_1Y_2}=\iint_{D}f\,\mathrm dx_1\mathrm dx_2\)，做积分换元 \(x_i=x_i(u_1,u_2)\)（雅可比换元，\(\math \cdots\)（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（证明思路（课件给出））
- 分布函数法（万能保底）：\(F_Y(y)=P\{g(X)\le y\}\) → 解出 \(X\) 的范围 → 积分 → 求导。任何 g 都能做，先写它保底不丢分；
- 单调公式法（加速）：g 严格单调时 \(f_Y(y)=f_X(h(y))\,|h'(y)|\)，别忘乘 \(|h'|\) 与标注 y 的有效范围（漏范围扣一半分）；
- 雅可比法（二元必用）：四步——反解 → 求 \(J=\partial(x,y)/\partial(u,v)\) → 代入乘 \(|J|\) → 翻译定义域（最容易丢分！把 x,y 区域逐条换成 u,v 不等式，画出新区域）；
- 卷积 \(f_Z(z)=\int f_X(x)f_Y(z-x)\,\mathrm dx\)：独立和专用，注意被积函数非零的 z 范围。
6 · 自测与下一步
- 分布函数法的核心动作是什么（一句话）？离散型对应什么操作？
- 单调公式法最容易漏的两样东西？\(Y=X^2\)（\(X\sim N(0,1)\)）的密度你还能默写吗？
- M、N 的分布函数公式？卷积公式的两种等价写法？
- 雅可比法的四步流程？“补辅助变量”技巧怎么用？
💡 破题关键与第一步提示（遮答案自测用 · 答案要点）
破题切入点：把“函数 ≤ y”翻译成原变量的区域再积分（离散则数格子求和）。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（答案要点）
- 把“函数 ≤ y”翻译成原变量的区域再积分（离散则数格子求和）。
- \(|h'(y)|\) 与值域限制；\(f_Y(y)=\frac{1}{\sqrt{2\pi y}}e^{-y/2},\ y>0\)。
- \(F_M=F_XF_Y\)，\(F_N=1-(1-F_X)(1-F_Y)\)；\(f_Z=\int f_X(x)f_Y(z-x)\mathrm dx=\int f_Y(y)f_X(z-y)\mathrm dy\)。
- 反解 → 求 J → 代入乘 |J| → 翻译定义域；补辅助变量使变换可逆，再积分掉它。
下一份：全课程的分析地基——R-S 积分。它把“对分布求和/积分”统一成 \(\int f\,\mathrm dF\)：离散型自动退化为求和、连续型退化为普通积分，期望 \(E(X)=\int x\,\mathrm dF(x)\) 从此一个公式通吃。