0 · 看到 \(\int g(x)\,\mathrm{d}F(x)\) 别慌：它只是离散求和与连续积分的“二合一简写”
- R-S 积分三大翻译规则：
① 若 \(X\) 是连续型（有密度 \(f(x)=F'(x)\)），直接把 \(\mathrm{d}F(x)\) 替换为 \(f(x)\,\mathrm{d}x\)；
② 若 \(X\) 是离散型（在 \(x_k\) 处有跳跃概率 \(p_k\)），直接把 \(\int g(x)\,\mathrm{d}F(x)\) 替换为级数 \(\sum_k g(x_k)p_k\)；
③ 若 \(X\) 是混合型（\(F = \alpha F_d + (1-\alpha)F_c\)），拆成离散部分求和 + 连续部分积分！ - 全期望公式 \(E[Y] = E\bigl[E[Y\mid X]\bigr]\) 的两步用法：固定 \(X=x\) 时先把 \(x\) 当成已知常数算出条件均值函数 \(h(x) = E[Y\mid X=x]\)；再把 \(x\) 换回随机变量 \(X\)，对 \(h(X)\) 求一次期望！
自学导航 · 期望与条件期望：按步骤推导
① 前置知识与记号
E[g(X)]=∫g(x)dF(x) 是概率分布下的积分；离散型变为求和，有密度的连续型变为积分。E(Y|X) 通常是 X 的函数，不是一个固定实数。
② 完整例题
令 X~Bernoulli(p)，则 E(X)=p，E(X²)=p，Var(X)=p(1−p)。若 Y=X+2，则 E(Y|X)=X+2，E[E(Y|X)]=p+2。每一步对应期望线性或全期望律。
💡 破题关键与第一步提示（遮答案自测用 · ③ 考前自测（展开题目））
破题切入点：为什么条件期望是均方误差下最优的 X 可测预测？（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（③ 考前自测（展开题目））
为什么条件期望是均方误差下最优的 X 可测预测？试写出误差平方分解。
本栏是补充学习材料，考试范围以本学期教师正式通知为准。
条件期望与全方差：一题串起关键公式
先以概率各 \(1/2\) 选环境 \(H\in\{0,1\}\)。若 \(H=0\)，\(X\sim\mathrm{Poisson}(1)\)；若 \(H=1\)，\(X\sim\mathrm{Poisson}(3)\)。求 \(E[X]\) 与 \(\operatorname{Var}(X)\)。
- \(E[X\mid H]=1+2H\)，故 \(E[X]=E[E[X\mid H]]=(1+3)/2=2\)。
- 泊松分布的条件方差为其参数：\(\operatorname{Var}(X\mid H)=1+2H\)，所以 \(E[\operatorname{Var}(X\mid H)]=2\)。
- \(\operatorname{Var}(E[X\mid H])=\operatorname{Var}(1+2H)=4(1/2)(1/2)=1\)。
- 全方差公式：\(\operatorname{Var}(X)=E[\operatorname{Var}(X\mid H)]+\operatorname{Var}(E[X\mid H])=3\)。
💡 破题关键与第一步提示（遮答案自测用 · 自测：为什么不能只把两个泊松方差取平均得到答案 2？）
破题切入点：混合分布还包含环境选择导致的均值波动，第二项 \(\operatorname{Var}(E[X\mid H])=1\) 不能丢。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（自测：为什么不能只把两个泊松方差取平均得到答案 2？）
混合分布还包含环境选择导致的均值波动，第二项 \(\operatorname{Var}(E[X\mid H])=1\) 不能丢。计算条件期望、条件方差须分清它们是给定 \(H\) 后的随机函数。
修订版 · 重点核对
先看：本模块易错点与补充
严谨性补充- 统一写期望 \(E[g(X)]=\int g\,dF\) 时，若函数仅要求可测，使用Lebesgue–Stieltjes 积分的解释更普适；经典 R-S 积分需要存在条件。
- 条件期望的线性与塔性质都依赖适当可积性；Wald 等式需注意停止时刻、独立同分布及可积条件。
课件 06-R-S积分简介.pdf
06 · Riemann–Stieltjes（R-S）积分简介
0 · 为什么要学 R-S 积分
大白话 · 一句话讲透动机
随机变量有离散、连续、混合等各种类型，若每类单独背一套“期望=求和 / 期望=积分”的公式，理论没法统一推进。R-S 积分用一个符号 \(\displaystyle\int f(x)\,\mathrm dF(x)\) 通吃所有类型：\(F\) 是阶梯函数时自动变成求和，\(F\) 光滑时自动变成普通积分。后续的期望、条件期望、特征函数，全部用 R-S 积分书写——它是本课程的“普通话”。
本模块考试重点（考试范围第 1 条的主战场）
- 数字特征计算（考试范围第 1 条）：给定分布求 \(E(X)\)、\(D(X)\)——统一用 R-S 定义 \(\int x\,\mathrm dF\) 落到具体型（离散求和/连续积分），本模块"最大回报"节给出全部对应；
- 重要公式 \(E[g(X)]=\int g\,\mathrm dF\) ★——求 \(E(X^2)\) 不必求 \(X^2\) 的分布，考试反复用；
- 条件期望五性质 + 全期望公式 ★★——本课程与初等概率论的分水岭，大题高频（第 08/09 两份笔记互补，证明以 09 为准）；
- Wald 等式与最优预测（MSE）——各一道小题的体量（商场消费例、大模型 Token 例是标准皮肤）。
缺基础？求导、积分、级数、矩阵乘法、复数的手生处，直接翻上级目录的 《数学基础工具箱》（每条约三分钟，配例题与易错点；考前还有"十分钟急救包"）。
1 · R 积分 vs R-S 积分
| 特性 | R 积分（黎曼） | R-S 积分（黎曼–斯蒂尔杰斯） |
|---|---|---|
| 积分微元 | \(\mathrm dx\)（长度：对几何长度累积） | \(\mathrm dg(x)\)（权重增量：g 在小区间上的增量，衡量该段的权重） |
| 物理意义 | 面积、功、总变化量 | 质量、概率、总加权量 |
| 处理对象 | 连续分布 | 离散 + 连续混合（如有集中质量的梁） |
| 典型案例 | 均匀密度板的面积、变力做功 | \(\int x\,\mathrm dF(x)\)＝对分布 F 的期望；梁的总质量 |
| 关系 | R 积分是 R-S 积分的特例（取 \(g(x)=x\)，\(\mathrm dg=\mathrm dx\)）；R-S 积分又是测度论积分的前身 | |
两个直观案例（课件 p.3）
① 非均匀梁：累积质量分布 \(\alpha(x)\)，总质量 \(M=\int f\,\mathrm d\alpha\)——\(\mathrm d\alpha\) 是“该段实际的质量”；② 点质量的统一：若 \(\alpha\) 是阶跃函数（某点有集中质量），\(\mathrm d\alpha\) 在该点产生一个“冲激”，R-S 积分自动退化为对点质量求和——连续与离散系统被同一个积分公式统一。
2 · R-S 积分的定义与性质
定义 1.1 · 一元 R-S 积分
\(f(x),g(x)\) 定义在 \([a,b]\) 上。做剖分 \(a=x_0<x_1<\cdots<x_n=b\)，任取介点 \(\xi_k\in[x_k,x_{k+1}]\)，做和式
\[\sigma=\sum_{k=0}^{n-1}f(\xi_k)\big[g(x_{k+1})-g(x_k)\big],\qquad \lambda=\max_{0\le k\le n-1}(x_{k+1}-x_k).\]
若存在实数 I，使 \(\forall\varepsilon>0\ \exists\delta>0\)：只要 \(\lambda<\delta\)，对任意分点与任意介点取法都有 \(|\sigma-I|<\varepsilon\)，则称 I 为 f 关于 g 在 \([a,b]\) 上的 R-S 积分，记作
\[\int_a^b f(x)\,\mathrm dg(x).\]
（取 \(g(x)=x\) 即黎曼积分 \(\int_a^b f\,\mathrm dx\)。）
性 质（设各式右端存在，则左端存在且相等）
- 对 f 线性：\(\int(\alpha f_1+\beta f_2)\,\mathrm dg=\alpha\int f_1\mathrm dg+\beta\int f_2\mathrm dg\)；
- 对 g 线性：\(\int f\,\mathrm d(\alpha g_1+\beta g_2)=\alpha\int f\,\mathrm dg_1+\beta\int f\,\mathrm dg_2\)；
- \(\int_a^b f\,\mathrm d(\alpha g+\beta c)=\alpha\int_a^b f\,\mathrm dg\)（常数 c 的微元为 0）；
- 区间可加：\(a<c<b\) 时 \(\int_a^b=\int_a^c+\int_c^b\)；
- 分部积分（对称性）：\(\int_a^b f\,\mathrm dg\) 与 \(\int_a^b g\,\mathrm df\) 中一个存在，则另一个也存在，且 \[\int_a^b f\,\mathrm dg+\int_a^b g\,\mathrm df=f(b)g(b)-f(a)g(a).\]
3 · 广义 R-S 积分与三大定理
定义 1.2 · 广义 R-S 积分
f、g 在任意闭区间 \([a,b]\) 上有定义且 \(\int_a^b f\,\mathrm dg\) 存在。若极限
\[\int_{-\infty}^{+\infty}f(x)\,\mathrm dg(x):=\lim_{\substack{a\to-\infty\\ b\to+\infty}}\int_a^b f(x)\,\mathrm dg(x)\]
存在，称为 f 关于 g 在 \((-\infty,+\infty)\) 上的广义 R-S 积分。有限区间的性质 1)–5) 全部平移过来（如分部积分 \(\int f\,\mathrm dg=[fg]_{-\infty}^{+\infty}-\int g\,\mathrm df\)）。
定理 1.1 · 存在定理
若 \(f(x)\) 在 \(\mathbb R\) 上连续且有界，\(g(x)\) 在 \(\mathbb R\) 上单调有界，则 \(\int_{-\infty}^{+\infty}f\,\mathrm dg\) 存在。
条件 (A)：\(f\) 在 \(\mathbb R\) 上连续，且 \(\int f\,\mathrm dg\) 存在。
条件 (A)：\(f\) 在 \(\mathbb R\) 上连续，且 \(\int f\,\mathrm dg\) 存在。
定理 1.2 · g 可导时化为普通积分 ★
若 f 满足条件 (A)，\(g'(x)\) 处处存在且在任意有限区间 \([a,b]\) 上黎曼可积，则
\[\int_{-\infty}^{+\infty}f(x)\,\mathrm dg(x)=\int_{-\infty}^{+\infty}f(x)\,g'(x)\,\mathrm dx.\]
用途：连续型分布函数 F 绝对连续、\(\mathrm dF=F'\,\mathrm dx\)，于是 \(\int f\,\mathrm dF=\int f(x)F'(x)\mathrm dx\)。
定理 1.3 · g 为阶梯函数时化为求和 ★★
若 f 满足条件 (A)，存在实数列 \(\{C_k,k=0,\pm1,\dots\}\)（\(C_k<C_{k+1}\)，\(C_k\to\pm\infty\)）使 g 在每个 \([C_k,C_{k+1})\) 上取常数值，则
\[\int_{-\infty}^{+\infty}f(x)\,\mathrm dg(x)=\sum_{k}\big[g(C_k+0)-g(C_k-0)\big]\,f(C_k).\]
用途：离散型分布函数是阶梯函数，跳跃高度 = \(p_k\)，于是 \(\int f\,\mathrm dF=\sum_k p_k f(x_k)\)。
两大定理 = “翻译器”
定理 1.2 把 R-S 积分翻译成普通积分（连续世界）；定理 1.3 把它翻译成求和（离散世界）。由此，后面所有带 \(\int\cdots\mathrm dF\) 的公式，都可以按分布类型落地成你熟悉的样子——这就是“统一语言 + 自动翻译”的设计。
4 · 落地：连续型与离散型（本讲最大回报）
统 一 的 期 望
设 X 的分布函数为 F，则数学期望定义为（下一讲正式给出）\(E(X)=\displaystyle\int_{-\infty}^{+\infty}x\,\mathrm dF(x)\)。按两大定理翻译：
两种初等概率论里的“期望定义”，原来是同一个 R-S 积分的两种译文。一般函数同理：\(E[g(X)]=\int g\,\mathrm dF\)（下一讲定理 2.1）。
| 类型 | \(\int f\,\mathrm dF\) 变成 | 取 \(f(x)=x\) 得 |
|---|---|---|
| 连续型 | \(\displaystyle\int_{-\infty}^{+\infty}f(x)F'(x)\,\mathrm dx\)（记 \(F'=f_F\) 即密度） | \(E(X)=\int x\,f_F(x)\,\mathrm dx\) ✓ |
| 离散型（分布律 \(p_k=P\{X=x_k\}\)） | \(\displaystyle\sum_{k}p_k\,f(x_k)\) | \(E(X)=\sum_k x_kp_k\) ✓ |
课件提醒
“关于广义 R-S 积分号下取极限的两个定理请参见教材 P229”——极限与积分交换次序的条件（本讲第 5 节的控制收敛定理是其中之一），理论证明时会用到。
5 · 许瓦兹不等式与控制收敛
R-S 版 · 施瓦茨不等式
设 \(g(x)\) 单增，\(f_1,f_2\) 平方可积（\(\int f_i^2\,\mathrm dg<\infty,\ i=1,2\)），则
\[\int_{-\infty}^{+\infty}f_1(x)f_2(x)\,\mathrm dg(x)\ \le\ \Big(\int f_1^2\,\mathrm dg\Big)^{1/2}\Big(\int f_2^2\,\mathrm dg\Big)^{1/2}.\]
应用：取 \(g=F\)（分布函数）、\(f_1=x-EX\)、\(f_2\equiv1\)，得 \(E^2(X)\le E(X^2)\)——下一讲柯西–许瓦兹不等式（\(D(X)\ge0\)）的证明地基。
定理 0.1.3 · 控制收敛定理（R-S 版）
若 \(\int f\,\mathrm dg\) 存在，函数列 \(f_n\to f\)（逐点），且 \(|f_n(x)|\le h(x)\)、\(\int h\,\mathrm dg<+\infty\)（可积控制函数），则
\[\lim_{n\to\infty}\int_{-\infty}^{+\infty}f_n(x)\,\mathrm dg(x)=\int_{-\infty}^{+\infty}f(x)\,\mathrm dg(x).\]
（特征函数的“一致连续”证明、第 10 份笔记会引用它。）
6 · 二元 R-S 积分（略讲）
对矩形上的分割与介点取和式 \(\sum\sum f(\xi_i^*,\eta_j^*)\,\Delta F\) 取极限，得 \(\iint f(x,y)\,\mathrm dF(x,y)\)；整个平面上的定义同广义化。它将是二维期望 \(E[g(X,Y)]=\iint g\,\mathrm dF\) 的载体。教材讲义定理 1.6 给出“化累次积分”的充分条件。
7 · 自测与下一步
自 测
- R 积分与 R-S 积分的微元差别？“R 积分是 R-S 的特例”取什么 g？
- 写出 R-S 积分定义中和式 σ 与“任意介点取法”条件的含义。
- 定理 1.2 / 1.3 各把 R-S 积分翻译成什么？各自条件里 g 扮演什么角色？
- 用定理 1.3 说明“离散型期望 = 加权求和”。
- R-S 版施瓦兹不等式怎么推出 \(E^2(X)\le E(X^2)\)？
💡 破题关键与第一步提示（遮答案自测用 · 答案要点）
破题切入点：\(\mathrm dx\) 长度 vs \(\mathrm dg\) 权重增量；（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（答案要点）
- \(\mathrm dx\) 长度 vs \(\mathrm dg\) 权重增量；取 \(g(x)=x\)。
- \(\sigma=\sum f(\xi_k)\Delta g_k\)；任意介点取法都收敛到同一 I 才算可积。
- 1.2：g′ 黎曼可积 ⟹ \(\int f\,\mathrm dg=\int fg'\mathrm dx\)；1.3：g 阶梯 ⟹ \(\sum\Delta g_k f(C_k)\)。g 分别是“密度母体”和“阶梯质量”。
- \(\Delta g_k=p_k\)，\(C_k=x_k\)，得 \(\sum p_kf(x_k)\)。
- 取 \(g=F\)、\(f_1=x-EX\)、\(f_2\equiv1\)：\((EX-EX)^2\le E(X-EX)^2\cdot1\) 变形即得（配合 \(D=E(X-EX)^2\)）。
下一份：用 R-S 语言重写数字特征——期望 \(E(X)=\int x\,\mathrm dF\)、“重要公式” \(E[g(X)]=\int g\,\mathrm dF\)、柯西–许瓦兹不等式（等号条件 \(P\{Y=aX\}=1\)）、条件期望的 R-S 定义。
课件 07-数字特征-1.pdf
07 · 数字特征（一）
0 · 本讲导读
这份课件只有 7 页，是数字特征单元的“开门页”：把上一讲的 R-S 积分变成期望/方差的统一定义，并给出全课程使用频率最高的“重要公式”。深度展开（条件期望性质、Wald 等式、各例题）在笔记 08、09。
大白话
初等概率论里期望有两套定义（离散求和 / 连续积分）；本课程用 R-S 积分 \(\int x\,\mathrm dF\) 一句话写完，离散、连续自动各归各位（靠 R-S 的两大翻译定理）。此后所有推导不再区分类型。
1 · 期望与方差的统一定义
定义 2.1 / 2.2
\(X\) 的分布函数为 \(F(x)\)。若 \(\displaystyle\int_{-\infty}^{+\infty}|x|\,\mathrm dF(x)<+\infty\)，称
\[E(X)=\hat E(X)=\int_{-\infty}^{+\infty}x\,\mathrm dF(x)\]
为 X 的数学期望。若 \(\displaystyle\int_{-\infty}^{+\infty}(x-\hat E X)^2\,\mathrm dF(x)\) 存在，称
\[D(X)=\int_{-\infty}^{+\infty}\big(x-\hat EX\big)^2\,\mathrm dF(x)\]
为 X 的方差。
翻译：连续型 \(\to E(X)=\int x f(x)\mathrm dx\)；离散型 \(\to E(X)=\sum_k x_kP\{X=x_k\}\)（R-S 定理 1.2 / 1.3）。
翻译：连续型 \(\to E(X)=\int x f(x)\mathrm dx\)；离散型 \(\to E(X)=\sum_k x_kP\{X=x_k\}\)（R-S 定理 1.2 / 1.3）。
2 · “重要公式”：函数的期望
定理 2.1 · 一元（重要公式）★
设 \(F(x)\) 是 X 的分布函数，\(g\) 在 \(\mathbb R\) 上连续，若 \(\int|g(x)|\,\mathrm dF(x)<+\infty\)，则 \(Z=g(X)\) 的数学期望存在，且
\[E(Z)=E[g(X)]=\int_{-\infty}^{+\infty}g(x)\,\mathrm dF(x).\]
免变换：求 \(g(X)\) 的期望不必先求 \(g(X)\) 的分布！翻译：连续型 \(=\int g(x)f(x)\mathrm dx\)；离散型 \(=\sum_k g(x_k)p_k\)。
定理 2.2 · 二元
\(g(x,y)\) 在平面上连续，若 \(\iint|g|\,\mathrm dF<+\infty\)，则
\[E[g(X,Y)]=\iint_{\mathbb R^2}g(x,y)\,\mathrm dF(x,y)\]
（二元 R-S 积分；连续型即 \(\iint g f\,\mathrm dx\mathrm dy\)）。例如 \(E(XY)\)、\(E[X-E(X)][Y-E(Y)]\) 都直接对联合分布算。
3 · 柯西–许瓦兹不等式
定理 2.3 · 柯西–许瓦兹不等式
若 X、Y 的有关数字特征存在，则
\[\boxed{\;E^2(XY)\ \le\ E(X^2)\cdot E(Y^2)\;}\]
等号成立 ⟺ 存在常数 a 使 \(P\{Y=aX\}=1\)（线性相关到“几乎一条直线”）。
应用 · 证明 \(E(X)\)、\(D(X)\) 存在性
若 \(\int x^2\,\mathrm dF<+\infty\)（二阶矩有限），取 \(f_1=x,\ f_2\equiv1\) 于 R-S 施瓦兹不等式：
\[E^2(X)\le E(X^2)\cdot1<+\infty,\qquad 0\le D(X)=\int(x-EX)^2\,\mathrm dF=E(X^2)-E^2(X)<+\infty.\]
即二阶矩存在 ⟹ 期望方差都存在。这也是随机过程里“二阶矩过程”（\(E|X(t)|^2<\infty\)，第 12 份笔记的二阶矩空间 \(H\)）处处良定的根源。4 · 条件数学期望的定义
定义 2.3
设 \((X,Y)\) 的条件分布函数 \(F_{Y|X}(y|x)\) 存在，若 \(\int|y|\,\mathrm dF_{Y|X}(y|x)<+\infty\)，称
\[E(Y\mid X=x)=\int_{-\infty}^{+\infty}y\,\mathrm dF_{Y|X}(y|x)\]
为在 \(X=x\) 条件下 Y 的条件数学期望。连续型：\(E(Y|X=x)=\int y\,f_{Y|X}(y|x)\,\mathrm dy=\dfrac{\int y f(x,y)\mathrm dy}{f_X(x)}\)。
直观意义（课件原话）
条件期望是“已知 \(X=x\) 时对 Y 的平均 / 最佳预测 / 最佳单点估计”。数学角度：对条件分布求期望（R-S 积分）；几何角度：散点图中固定 x 后所有 y 的“重心”；机器学习角度：回归函数的理论最优解——展开见笔记 08、09。
5 · 自测与下一步
自 测
- 写出 E(X)、D(X) 的 R-S 定义，并翻译成离散/连续形式。
- “重要公式”说什么？它省掉了哪一步？
- 柯西–许瓦兹不等式与等号条件？由它如何推出“二阶矩 ⟹ 期望方差存在”？
- 条件期望的 R-S 定义与三种直观？
💡 破题关键与第一步提示（遮答案自测用 · 答案要点）
破题切入点：\(\int x\,\mathrm dF\)、\(\int(x-EX)^2\mathrm dF\)；（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（答案要点）
- \(\int x\,\mathrm dF\)、\(\int(x-EX)^2\mathrm dF\)；离散 \(\sum x_kp_k\)、连续 \(\int xf\mathrm dx\)。
- \(E[g(X)]=\int g\,\mathrm dF\)；省掉“先求 g(X) 的分布”。
- 见第 3 节框；取 \(f_1=x-EX\? \approx x,\ f_2=1\)。
- \(\int y\,\mathrm dF_{Y|X}\)；平均/重心/回归最优解。
下一份：条件期望的完整理论——\(\mu(x)=E(Y|X=x)\) 是函数而 \(\mu(X)=E(Y|X)\) 是随机变量、条件方差、五条性质（含提因子与平滑公式）、最优预测器定理、Wald 等式与 AI 例题。
课件 08-数字特征-2.pdf
08 · 数字特征（二）
0 · 本讲导读
条件期望是初等概率论与研究生随机过程的“分水岭”概念，也是考试高频点（考试范围.pdf 第 1 条就是数字特征计算）。本讲建立它的完整操作体系；第 09 份笔记（第 4 次课新版）给出更完整的证明与回归视角，两份互补。
大白话 · 整讲一句话
\(E(Y|X=x)\)：知道 \(X=x\) 后 Y 的“平均”——是关于 x 的函数；把它里的 x 换成随机变量 X，得到 \(E(Y|X)\)——一个随机变量。对它再取期望，就把“分层加权平均”压回总体平均（全期望公式）。它还是均方误差意义下的最优预测器，并顺手产出 Wald 等式（随机个数求和的期望）。
1 · μ(x) 是函数，μ(X) 是随机变量
记 号 区 分 ★（考试易错）
\[\mu(x)=E(Y\mid X=x)\ \text{——实值函数（x 的确定性函数，“回归曲线”）};\qquad
\mu(X)=E(Y\mid X)\ \text{——随机变量（把 } \mu \text{ 作用在 } X \text{ 上）}.\]
同理 \(E[g(Y)\mid X=x]=\int g(y)\,\mathrm dF_{Y|X}(y|x)\)（定理 6.2.1 / 6.2.4，把“重要公式”搬到条件分布上）。
三层直观（课件 p.1）
① 数学：对条件分布 \(F_{Y|X}\) 求 R-S 积分；② 几何：散点图固定 x 后 y 值的“重心”，重心连线就是回归曲线；③ 机器学习：\(E(Y|X)\) 是回归任务的理论最优解——线性回归拟合的就是它的线性近似。
2 · 条件方差
定义 2.4
\[D(X\mid Y=y)=E\big[\big(X-E(X|Y=y)\big)^2\,\big|\,Y=y\big]=\int\big(x-E(X|Y=y)\big)^2\,\mathrm dF_{X|Y}(x|y)\]
——“Y=y 条件下，X 相对条件期望的偏离程度”。与方差同款计算公式：\(D(X|Y=y)=E(X^2|Y=y)-E^2(X|Y=y)\)。
3 · 条件期望五条性质
定理 6.2.5（性质）
设各数学期望存在，g、h 为连续函数：
- 常数：\(E(C|Y)=C\)；
- 线性：\(E[aX+bY|Z]=aE(X|Z)+bE(Y|Z)\)；
- 独立退化：X 与 Y 独立 \(\Rightarrow E(Y|X)=E(Y)\)（知道 X 不提供 Y 的信息）；
- 提因子：\(E[g(X)h(Y)\mid X]=g(X)\,E[h(Y)\mid X]\)；特别地 \(E[h(Y)|Y]=h(Y)\)（“已知的量条件期望是它自己”）；
- 平滑公式（塔性质）：\(E\big\{E[g(X,Y)\mid Y]\big\}=E[g(X,Y)]\)。
大白话 · 性质 4 是“看见确定的就提出来”
给定 X 的条件下，g(X) 已经是确定数——像常数一样提出期望号。例：\(E[XY|X]=X\,E(Y|X)\)（身高已知时求“身高×体重”的期望，身高就当常数 x 用）。性质 4 的两条正是性质 5 成立的“基石运算”。
💡 破题关键与第一步提示（遮答案自测用 · 性质 5 的证明梗概（课件 p.30，值得看一遍））
破题切入点：记 \(S(Y)=E[g(X,Y)|Y]\)。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（性质 5 的证明梗概（课件 p.30，值得看一遍））
记 \(S(Y)=E[g(X,Y)|Y]\)。两边对 Y 取期望：
\[E[S(Y)]=\int E[g(X,Y)|y]\,\mathrm dF_Y(y)=\iint g(x,y)\,\mathrm dF_{X|Y}(x|y)\,\mathrm dF_Y(y)=\iint g(x,y)\,\mathrm dF(x,y)=E[g(X,Y)],\]
中间一步用了条件分布的分解 \(F(x,y)=\int F_{X|Y}(x|u)\,\mathrm dF_Y(u)\)（联合 = 条件×边缘）。∎
课件附注：\(E[Z|\varnothing]\)（无条件）即“条件是最小 σ-代数”，退化为 \(E(Z)\)。
条件期望五性质怎么考
五条里考试最爱出三条：① 提因子 \(E(aY+b\mid X)=aE(Y\mid X)+b\)；④ 看见确定的就提出来 \(E[g(X)Y\mid X]=g(X)E(Y\mid X)\)（判断题高频：能否提出来取决于"是否只依赖条件变量"）；⑤ 全期望 \(E(E(Y\mid X))=E(Y)\)。计算题主干：先算层内（固定 \(X=x\) 当普通期望算），再对条件变量取期望收尾——"随机个数"型题目（商场消费、Wald）全走这条路。记号区分 ★：\(E(Y\mid X=x)\) 是数，\(E(Y\mid X)\) 是随机变量——答题写错层次直接扣分。
4 · 全期望公式与全概率公式
全数学期望公式 ★★
\[E(X)=E\big[E(X|Y)\big];\qquad E[g(X)]=E\big\{E[g(X)|Y]\big\}.\]
离散型（常用）：\(E(X)=\sum_k P\{Y=y_k\}\,E(X|Y=y_k)\)；
连续型：\(E(X)=\displaystyle\int_{-\infty}^{+\infty}E(X|Y=y)\,\mathrm dF_Y(y)\)。
全概率公式 = 全期望的特例
取示性函数 \(I_A\)（A 发生为 1 否则 0，两点分布）：
\[P(A)=E(I_A)=E\big[E(I_A|Y)\big],\qquad E(I_A|Y=y)=P(A|Y=y).\]
离散：\(P(A)=\sum_k P(A|Y=y_k)P\{Y=y_k\}\)；连续：\(P(A)=\int P(A|Y=y)\,\mathrm dF_Y(y)\)。
——初等概率论的“全概率公式”被统一成对示性函数求全期望。思想一句话：算 X 的期望可分两步走，先条件化加权、再对条件求和/积分。
5 · 最优预测器（MSE 准则）
条 件 期 望 是 最 优 预 测 器 ★
无条件版本：在所有只依赖 Y 的预测函数 g(Y) 中，
\[E\big[X-E(X|Y)\big]^2\ \le\ E\big[X-g(Y)\big]^2;\]
条件版本（更强，逐点）：\(E\big[[X-E(X|Y)]^2\,\big|\,Y\big]\le E\big[[X-g(Y)]^2\,\big|\,Y\big]\)。
联系：对条件版本再用平滑公式即得无条件版本——条件版本推出无条件版本，后者是前者的“平均化”。
| 对比 | 无条件版本 | 条件版本 |
|---|---|---|
| 形式 | \(E[X-E(X|Y)]^2\le E[X-g(Y)]^2\) | \(E[[X-E(X|Y)]^2|Y]\le E[[X-g(Y)]^2|Y]\) |
| 强度 | 较弱（平均后结论） | 较强（对每个 Y 逐点成立） |
| 应用 | 回归、预测 | 条件方差、异方差分析 |
同类事实（方差的最小性，课件 p.36–37）：\(f(x)=E(X-x)^2\) 在 \(x=E(X)\) 处取最小（令 \(f'=0\) 即 \(x=EX\)，\(f''=2>0\)）——“均值是均方意义下最接近 X 的常数”，这正是 \(D(X)\) 定义的合理性。
6 · Wald 等式与 AI 例题
Wald 等式（Wald's Equation）
\[E\Big[\sum_{i=1}^{N}X_i\Big]=E(N)\cdot E(X_1),\]
核心条件：N 与 \(X_i\) 独立（或 N 是停时）。证明工具：全期望公式（塔性质）。含义：总和的期望 = 随机个数的期望 × 单次的期望。
例 · 大模型 Token 生成（课件原题）
生成回答的 Token 总数 N ~ Poisson(λ)；单个 Token 预测损失 \(X_i\) 独立同 Exp(μ)，且与 N 独立。求总预测损失 \(L=\sum_{i=1}^NX_i\) 的期望。
💡 破题关键与第一步提示（遮答案自测用 · 解答）
破题切入点：\(E(N)=\lambda\)（泊松），\(E(X)=1/\mu\)（指数），由 Wald 等式 \[E(L)=E(N)E(X)=\frac{\lambda}{\mu}.（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（解答）
\(E(N)=\lambda\)（泊松），\(E(X)=1/\mu\)（指数），由 Wald 等式
\[E(L)=E(N)E(X)=\frac{\lambda}{\mu}.\]
（LLM 总对数概率版本同款：\(E\big[\sum_{i=1}^N\log P(w_i)\big]=E(N)\cdot E[\log P(w)]\)，直接关联困惑度计算。）另配课件例：1 小时内图像推理请求数 N ~ Poisson(λ)、单次耗时 \(X_i\) ~ Exp(μ)，总耗时期望同为 \(\lambda/\mu\)——服务器容量规划的核心依据。
| 领域 | 随机数量 N | 单次贡献 Xi | 总和的期望 |
|---|---|---|---|
| 深度学习 | 一个 epoch 的 batch 数 | 单 batch 损失 | \(E[N]\cdot E[L]\) |
| 大语言模型 | 生成词元数 | 单 token 对数概率 | \(E[N]\cdot E[\log P]\) |
| 强化学习 | episode 步数 | 单步奖励 | \(E[N]\cdot E[R]\) |
| 集成学习 | 子采样样本数 | 单样本误差 | \(E[N]\cdot E[E_i]\) |
7 · 例题两道 + 汇总表
例 1 · \(X\sim U[0,a],\ Y|X=x\sim U[x,a]\)
求 ① \(E(Y|X=x)\)；② \(E(Y)\)。
💡 破题关键与第一步提示（遮答案自测用 · 解答）
破题切入点：① 给定 \(X=x\)，Y 在 \([x,a]\) 上均匀，均值在中点： \[f_{Y|X}(y|x)=\frac1{a-x}\ (x<y<a),\qquad E(Y|X=x)（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（解答）
① 给定 \(X=x\)，Y 在 \([x,a]\) 上均匀，均值在中点：
\[f_{Y|X}(y|x)=\frac1{a-x}\ (x<y<a),\qquad E(Y|X=x)=\int_x^a\frac{y}{a-x}\,\mathrm dy=\frac{a+x}{2}.\]
② 全期望公式（连续型）：
\[E(Y)=E\big[E(Y|X)\big]=E\Big[\frac{a+X}{2}\Big]=\frac{a}{2}+\frac{E(X)}{2}=\frac{a}{2}+\frac{a}{4}=\frac{3a}{4}.\]
（也可用 \(\int E(Y|X=x)\,\mathrm dF_X(x)\) 直接积分，结果相同。）
例 2 · 几何分布的期望（条件期望递推法 ★）
连抛正面概率 p 的硬币直到首次正面，求抛掷次数 N 的期望。
💡 破题关键与第一步提示（遮答案自测用 · 解法一（全期望递推——课件主推））
破题切入点：令 \(Y=\) 第一次结果（正面 1 / 反面 0）。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（解法一（全期望递推——课件主推））
令 \(Y=\) 第一次结果（正面 1 / 反面 0）。若 \(Y=1\)：\(E(N|Y=1)=1\)；若 \(Y=0\)：白抛一次后“重新开始”，由独立性 \(E(N|Y=0)=1+E(N)\)。于是
\[E(N)=E[E(N|Y)]=p\cdot1+(1-p)\big(1+E(N)\big)\ \Rightarrow\ p\,E(N)=1\ \Rightarrow\ E(N)=\frac1p.\]
💡 破题关键与第一步提示（遮答案自测用 · 解法二（级数法——对照））
破题切入点：\(P\{X=k\}=q^{k-1}p\)，\(E(X)=p\sum_k kq^{k-1}=p\cdot\frac{1}{(1-q)^2}=\frac1p\)（幂级数 \(\sum kr^{ \cdots\)（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（解法二（级数法——对照））
\(P\{X=k\}=q^{k-1}p\)，\(E(X)=p\sum_k kq^{k-1}=p\cdot\frac{1}{(1-q)^2}=\frac1p\)（幂级数 \(\sum kr^{k-1}=\frac1{(1-r)^2}\)）。若几何分布定义为“首次成功前失败的次数” Y=X−1，则 \(E(Y)=\frac1p-1=\frac{q}{p}\)。直观：命中率 10% ⟹ 平均 10 次一中。∎
递推法是马尔可夫/排队分析的原型手法：“失败后局面复原 +1 步”。
| AI 场景 | 条件期望形式 | 作用 |
|---|---|---|
| 线性回归 | \(E(Y|X)=w^TX+b\) | 建模条件期望 |
| 决策树 | \(E(Y|X\in\text{叶节点})\) | 叶节点预测值 |
| 分类 | \(P(Y=k|X)=E[\mathbb 1_{Y=k}|X]\) | 条件概率估计 |
| 扩散模型 | \(E(X_{t-1}|X_t)\) | 去噪预测 |
| LLM | \(E[\mathbb 1_{w_t=v}|w_{<t}]\) | 下一个词预测 |
| 强化学习 | \(V(s),\ Q(s,a)\) | 价值估计 |
8 · 自测与下一步
自 测
- \(E(Y|X=x)\) 与 \(E(Y|X)\) 谁是函数谁是随机变量？各怎么算？
- 写出条件期望五条性质，特别是提因子与平滑公式。
- 离散/连续全期望公式？示性函数怎么把全概率公式变成全期望特例？
- 最优预测器两个版本，谁强谁弱、怎么互推？
- Wald 等式条件与结论？用它口算“泊松个数 × 指数损耗”的总期望。
💡 破题关键与第一步提示（遮答案自测用 · 答案要点）
破题切入点：\(\mu(x)=E(Y|X=x)\) 实值函数；（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（答案要点）
- \(\mu(x)=E(Y|X=x)\) 实值函数；\(\mu(X)=E(Y|X)\) 随机变量；前者对 \(F_{Y|X}\) 积分、后者把 μ 作用到 X 上。
- 见第 3 节框。
- \(\sum_kP\{Y=y_k\}E(X|Y=y_k)\)；\(\int E(X|Y=y)\mathrm dF_Y\)；\(P(A)=E[E(I_A|Y)]\)。
- 条件版逐点、更强；取期望得无条件版。
- N 与 Xi 独立；\(E[\sum_1^NX_i]=E(N)E(X_1)\)；λ/μ。
下一份：第 4 次课“新版”（09 号课件）——同一主题的加强版：回归视角下的二维正态条件期望 \(E(Y|X=x)=\rho x\)、更多例题（\(E(Y|X)=X+1\)、\(Z=E(X|Y)\) 的分布）、五条性质的完整证明、最优预测的配方分解证明。
课件 09-数字特征-3-第4次课新版(9.14).pdf
09 · 数字特征（三·新版）
0 · 这份“新版”与 08 的关系
09 号课件是第 4 次课实际使用的合并加强版：开头复习单调公式法与 R-S 三定理（对应笔记 05、06），中段重讲条件期望理论（与笔记 08 重叠，此处给完整证明），并新增回归视角、三个例题与配方分解证明。重叠部分两份笔记均可作答题依据；证明细节以本份为准。
1 · 回归视角：条件期望作为“最佳预测”
大白话 · 回归分析的本质
“给定身高 X=170 的人，平均体重多少？”——同身高的人体重各异，无法给绝对值，但 MSE 准则下最优预测值正是 \(E(Y|X=170)\)。把每个 x 对应的 \(E(Y|X=x)\) 连成线，就是回归曲线；线性模型 \(Y=\beta_0+\beta_1X+\varepsilon\) 的回归直线，就是在线性逼近这条曲线。条件期望 = 回归函数的理论最优解（课件 p.7 原话）。
不同场景下的条件期望（课件 p.21 汇总）
经典概率（身高→平均体重）、线性回归（特征→房价）、视觉（图像→目标框坐标）、二分类（图像→\(P(\text{正类}|X)=E[\mathbb 1_{\text{正类}}|X]\)）、强化学习（状态→未来累计回报 \(V(s)\)）、贝叶斯推断（数据→参数后验均值）。核心一句话：对另一个随机变量的最佳预测。
2 · 例题三连
例 1 · 二维正态：\(E(Y|X=x)=\rho x\) ★
\((X,Y)\sim N(0,1;\,0,1;\,\rho)\)。求 \(E(Y|X=x)\) 与 \(E(Y|X)\)。
💡 破题关键与第一步提示（遮答案自测用 · 解答）
破题切入点：由条件密度（配方可得）： \[f_{Y|X}(y|x)=\frac{1}{\sqrt{2\pi(1-\rho^2)}}\exp\Big\{-\frac{(y-\rho x)^2}{2(1-\（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（解答）
由条件密度（配方可得）：
\[f_{Y|X}(y|x)=\frac{1}{\sqrt{2\pi(1-\rho^2)}}\exp\Big\{-\frac{(y-\rho x)^2}{2(1-\rho^2)}\Big\},\]
即 \(Y|X=x\sim N\big(\rho x,\ 1-\rho^2\big)\)。于是
\[E(Y|X=x)=\rho x,\qquad E(Y|X)=\rho X\ (\text{随机变量！}).\]
解读：\(\rho x\) 是“X=x 条件下 Y 取值最集中的点”；不同 x 的条件期望连成回归直线 \(y=\rho x\)。相关越强（|ρ|→1），直线越“陡”，预测越准；\(\rho=0\)（独立）时条件期望退化为 0=E(Y)。∎
例 2 · 指数型联合密度：\(E(Y|X)=X+1\)
\(f(x,y)=e^{-y}\ (y>x\ge0)\)，其它为 0。求 \(E(Y|X=x)\)、\(E(Y|X)\)。
💡 破题关键与第一步提示（遮答案自测用 · 解答）
破题切入点：边缘 ：\(f_X(x)=\int_x^{+\infty}e^{-y}\mathrm dy=e^{-x}\ (x\ge0)\)。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（解答）
边缘：\(f_X(x)=\int_x^{+\infty}e^{-y}\mathrm dy=e^{-x}\ (x\ge0)\)。
条件密度：\(f_{Y|X}(y|x)=\dfrac{e^{-y}}{e^{-x}}=e^{-(y-x)},\ y>x\)（平移指数）。
\[E(Y|X=x)=\int_x^{+\infty}y\,e^{-(y-x)}\,\mathrm dy=x+1\quad(\text{令 } u=y-x,\ E[\text{Exp}(1)]+x).\]
\[E(Y|X)=X+1.\]
验证平滑性：\(E(Y)=E(E(Y|X))=E(X)+1=1+1=2\)，与直接积分 \(\iint y f\) 一致 ✓。注意 \(E(Y|X)\) 是 X 的函数即随机变量——再次印证“μ(X) 不是数”。∎
例 3 · 均匀三角形：\(E(X|Y)\) 及其分布函数 ★（课件 Ex.3）
\((X,Y)\) 在 \(D=\{(x,y):0\le y\le x\le1\}\) 上均匀分布。求 \(E(X|Y=y)\)、\(E(X|Y)\)，以及 \(Z=E(X|Y)\) 的分布函数。
💡 破题关键与第一步提示（遮答案自测用 · 解答）
破题切入点：边缘 ：\(f(x,y)=2\)；\(f_Y(y)=\int_y^1 2\,\mathrm dx=2(1-y),\ 0\le y\le1\)。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（解答）
边缘：\(f(x,y)=2\)；\(f_Y(y)=\int_y^1 2\,\mathrm dx=2(1-y),\ 0\le y\le1\)。
条件分布：\(f_{X|Y}(x|y)=\dfrac{2}{2(1-y)}=\dfrac{1}{1-y},\ y\le x\le1\)，即 \(X|Y=y\sim U(y,1)\)。
\[E(X|Y=y)=\frac{1+y}{2},\qquad E(X|Y)=\frac{1+Y}{2}:=Z.\]
Z 的分布函数（\(Z\in[1/2,1]\)）：
\[F_Z(z)=P\Big\{\frac{1+Y}{2}\le z\Big\}=P\{Y\le 2z-1\}=F_Y(2z-1)=\begin{cases}0,&z<\dfrac12,\\[4pt] 2(2z-1)-(2z-1)^2=-4z^2+8z-3,&\dfrac12\le z<1,\\[4pt] 1,&z\ge1.\end{cases}\]
方法论亮点：条件期望本身是随机变量，可以继续求它的分布——“随机变量的函数”全套工具（笔记 05）直接接力。∎
3 · 二维正态曲面的几何：ρ 控制圆钟与山脊
| 情形 | 数学层面 | 几何直觉 |
|---|---|---|
| \(\rho=0\) | 交叉项消失，密度退化为 \(e^{-(x^2+y^2)/2}\) 型 | 等高线是正圆：完美对称的“圆钟”（独立，均匀向四周扩散） |
| \(\rho\to\pm1\) | 交叉项 \(2\rho xy\) 主导，\(Y\approx\pm X\) | 等高线拉成狭长椭圆：“山脊”紧贴对角线（高度线性绑定） |
ML 启示（课件 p.15）
两个特征高度相关（ρ≈1）⟹ 数据躺在“山脊”上，有效信息只有一个维度 ⟹ PCA 降维的本质就是把这条山脊旋转到坐标轴上、剔除冗余。ρ 是控制数据“均匀散开 vs 抱团成线”的开关。
4 · 性质定理的完整证明
定理 6.2.5（重述）
①\(E(C|Y)=C\)；② 线性；③ X 与 Y 独立 \(\Rightarrow E(Y|X)=E(Y)\)；④ \(E[g(X)h(Y)|X]=g(X)E[h(Y)|X]\)，特别 \(E[h(Y)|Y]=h(Y)\)；⑤ 平滑公式 \(E\{E[g(X,Y)|Y]\}=E[g(X,Y)]\)。
💡 破题关键与第一步提示（遮答案自测用 · 证明（课件给出关键三条））
破题切入点：① 对每个 y：\(E(C|Y=y)=\int C\,\mathrm dF_{Y|X?}=\int C\,\mathrm dF_{X|Y=y}=C\)。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（证明（课件给出关键三条））
① 对每个 y：\(E(C|Y=y)=\int C\,\mathrm dF_{Y|X?}=\int C\,\mathrm dF_{X|Y=y}=C\)。
③ 独立 ⟹ \(F_{Y|X}(y|x)=F_Y(y)\ \forall x,y\)，故 \(E(Y|X=x)=\int y\,\mathrm dF_Y(y)=E(Y)\)。
④ 提因子：在给定 X 的条件下，g(X) 已是确定数，可像常数一样提出：\(E[g(X)h(Y)|X]=g(X)E[h(Y)|X]\)。特别取 g≡1 的对偶式得 \(E[h(Y)|Y]=h(Y)\)（“已知的量不再随机”，条件 σ-代数最大）。
⑤ 平滑性：记 \(S(y)=E[g(X,Y)|Y=y]\)，则 \[E[S(Y)]=\int S(y)\,\mathrm dF_Y(y)=\iint g(x,y)\,\mathrm dF_{X|Y}(x|y)\,\mathrm dF_Y(y)=\iint g(x,y)\,\mathrm dF(x,y)=E[g(X,Y)].\ ∎\]
（性质 2 线性由积分线性自证。）
使用口诀（考试）
“看见已知条件里的确定量 → 提出（性质④）；条件期望套条件期望 → 内层先算、外层求平均（性质⑤）；独立 → 条件期望=无条件期望（性质③）。”三句覆盖绝大多数计算题。
5 · 全概率公式 = 示性函数的全期望
统一视角
取示性函数 \(I_A\)（A 发生 1 否则 0，即两点分布）。则 \(P(A)=E(I_A)\)，且 \(E(I_A|Y=y)=P(A|Y=y)\)。代入全期望公式：
\[P(A)=\begin{cases}\displaystyle\sum_k P(A|Y=y_k)\,P\{Y=y_k\} & (Y\text{ 离散})\\[6pt]\displaystyle\int_{-\infty}^{+\infty}P(A|Y=y)\,\mathrm dF_Y(y) & (Y\text{ 一般/连续})\end{cases}\]
——初等概率论的全概率公式是全期望公式的特例；配套地，\(P(A_i|B)\) 型贝叶斯也可同法改写。条件分布函数亦可用它表达：\(F_{X|Y}(x|y)=\dfrac{\int_{-\infty}^x f(u,y)\mathrm du}{f_Y(y)}\) 型（连续型，课件 p.33）。
6 · 最优预测器的配方分解证明
定理（MSE 最优预测）
对任意预测函数 g(Y)：
\[E\big[X-g(Y)\big]^2=E\big[X-E(X|Y)\big]^2+E\big[E(X|Y)-g(Y)\big]^2\ \ge\ E\big[X-E(X|Y)\big]^2,\]
等号 ⟺ \(g(Y)\equiv E(X|Y)\)。
💡 破题关键与第一步提示（遮答案自测用 · 证明（正交分解——机器学习“偏差-方差”分解的亲戚））
破题切入点：拆 \(X-g(Y)=[X-E(X|Y)]+[E(X|Y)-g(Y)]\)，平方展开后 交叉项为零 ： \[E\big\{[X-E(X|Y)]\,[E(X|Y)-g(Y)]\big\}=E\（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（证明（正交分解——机器学习“偏差-方差”分解的亲戚））
拆 \(X-g(Y)=[X-E(X|Y)]+[E(X|Y)-g(Y)]\)，平方展开后交叉项为零：
\[E\big\{[X-E(X|Y)]\,[E(X|Y)-g(Y)]\big\}=E\big\{E[[X-E(X|Y)][E(X|Y)-g(Y)]\,\big|\,Y]\big\}\]
\[\overset{\text{提因子④}}{=}E\big\{[E(X|Y)-g(Y)]\cdot\underbrace{E[X-E(X|Y)|Y]}_{=0}\big\}=0\]
（内层：给定 Y 时 \(E(X|Y)-g(Y)\) 确定，提出；而 \(E[X-E(X|Y)|Y]=E(X|Y)-E(X|Y)=0\)）。于是两项平方和，第二项 ≥0，最小当 \(g(Y)=E(X|Y)\)。∎
（条件版本逐点同理，把外层期望换成条件期望即可——课件 p.38 用 \(h(t,y)\) 配方给出同一结论。）
大白话
“最优预测 = 条件期望”不是经验法则，是平方误差几何：条件期望是 X 在“Y 的函数世界”里的投影，误差与投影正交。方差的最小性（\(D(X)=\min_t E(X-t)^2\)，最小点 \(t=EX\)）是它只对常函数的特例（课件 p.37：\(f'(t)=0\Rightarrow t=EX,\ f''=2>0\)）。
7 · 商场消费例与 Wald 等式
例 · 商场总消费额（课件原题，复合随机变量）
一段时间内到达顾客数 N ~ Poisson(λ)，每位顾客消费 \(X_i\) 独立同 \(U[a,b]\)，与 N 独立。求总消费 \(S=\sum_{i=1}^NX_i\) 的期望。
💡 破题关键与第一步提示（遮答案自测用 · 解答）
破题切入点：\[E(S)=E[E(S|N)]=E[N\cdot E(X)]=E(N)E(X)=\lambda\cdot\frac{a+b}{2}.（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（解答）
\[E(S)=E[E(S|N)]=E[N\cdot E(X)]=E(N)E(X)=\lambda\cdot\frac{a+b}{2}.\]
（逐项展开版：\(E(S)=\sum_n P\{N=n\}\sum_{i=1}^nE(X_i)=E(X)\sum_n nP\{N=n\}=\lambda E(X)\)。）这就是 Wald 等式 \(E[\sum_{i=1}^NX_i]=E(N)E(X_1)\) 的直接应用——LLM Token 损失（λ/μ）、AI 推理总耗时（λ/μ）等课件例全部同款。∎
8 · 自测与下一步
自 测
- 二维正态 \(N(0,1;0,1;\rho)\) 的 \(E(Y|X=x)\)？回归曲线是什么形状？
- 例 2 中为什么 \(E(Y|X)\) 是随机变量？它与 \(E(Y)\) 差在哪？
- 复述平滑公式的证明主线（条件分解 → 换序）。
- 最优预测的分解式里，交叉项为什么为零？用到哪两条性质？
- 全概率公式怎么变成全期望的特例？
💡 破题关键与第一步提示（遮答案自测用 · 答案要点）
破题切入点：\(\rho x\)；回归曲线是过原点斜率 ρ 的直线。（👉 先合上下方完整推导，自己动手算完关键步再核对踩分点！）
📝 完整规范推导与评分踩分点（答案要点）
- \(\rho x\)；回归曲线是过原点斜率 ρ 的直线。
- 它是 X 的函数；\(E(Y|X)\) 随实现而变，\(E(Y)\) 是常数；二者关系 \(E(Y)=E[E(Y|X)]\)。
- \(S(y)=E[g(X,Y)|Y=y]\)，对 y 积分 = 条件×边缘分解回联合 = \(E[g(X,Y)]\)。
- 内层条件期望为零 + 提因子性质（④与⑤）。
- 示性函数 \(I_A\)：\(P(A)=E(I_A)=E[E(I_A|Y)]\)。
下一份：特征函数（一）——分布的“傅里叶透镜”：定义 \(\varphi(u)=\int e^{jux}\mathrm dF\)、常见分布七连算（含正态的复平移技巧）、四条基本性质与Bochner–Khinchin 定理、矩公式。