大数定律：频率的稳定性
本文基于模型知识整理（生成时未联网核对），强弱大数定律的区分建议对照 Durrett《Probability: Theory and Examples》复核。
一句话定义
大数定律（LLN）：独立同分布、期望存在时，样本均值 $\bar X_n$ 随 n 增大收敛到真期望 μ——弱形式说"对任意精度，n 足够大时 $\bar X_n$ 落在 μ±ε 内的概率趋近 1"；强形式说"$\bar X_n$ 几乎必然收敛到 μ"。长期频率稳定于概率由此定理化。
为什么重要
它是"频率解释概率"的合法性来源（kp-001 的频率派根基）、蒙特卡洛方法（kp-026）的收敛保证、赌场/保险"长期必赚"的数学脊梁。同时它与"赌徒谬误"（kp-029）构成最佳对照——LLN 说长期比例稳定，从不说短期欠账会被补偿。
前置知识
kp-007（期望方差）、kp-016（切比雪夫不等式是弱 LLN 的证明工具）。
核心概念
- 弱大数定律（WLLN）：$\bar X_n\xrightarrow{P}\mu$——对任意 ε>0，$P(|\bar X_n-\mu|>\varepsilon)\to0$（概率收敛）。
- 强大数定律（SLLN）：$\bar X_n\xrightarrow{a.s.}\mu$——几乎必然收敛（单条无限序列的轨迹最终贴住 μ）；强蕴含弱。
- 成立条件：i.i.d. + 期望存在即可（Kolmogorov SLLN 甚至不要求方差存在——只要 E|X|<∞）；方差有限是早期证明（切比雪夫路线）的额外要求。
- 直观边界：LLN 说的是样本均值（除以 n 的平均）收敛，不是部分和 $S_n$ 发散到无穷——平均稳定与总额发散并存（调和级数的教训 kp-018 姊妹）。
- практика含义：估计的黄金标准——想让估计误差 ≤ε 以概率 ≥1−δ，需要 $n\ge\frac{\text{Var}}{\delta\varepsilon^2}$（切比雪夫版样本量公式，kp-016 的应用形态）。
原理与机制
切比雪夫证明（弱形式三行）：$\text{Var}(\bar X_n)=\sigma^2/n\to0$；切比雪夫（kp-016）给出 $P(|\bar X_n-\mu|>\varepsilon)\le\frac{\sigma^2}{n\varepsilon^2}\to0$。方差除以 n——平均化把波动按 n 压扁，这就是"越多越稳"的全部数学。
强弱之别为什么重要：弱形式只说"每个固定时刻 n 的分布收紧"；强形式说"整条轨迹最终贴住"——蒙特卡洛误差估计、遍历性（马尔可夫链 kp-025）需要强形式；初等应用弱形式够用。"概率 1 收敛"（a.s.）是比"依概率收敛"更强的拓扑。
为什么赌徒谬误不是 LLN 的推论：LLN 是"长程平均的引力"，不携带"记忆补偿"机制——硬币没有义务在前 100 次正面偏多后用反面"还债"；真正发生的只是大 n 时偏多被稀释（比例趋 50%），绝对差甚至可以持续增长（kp-029 的反直觉详解）。
图示
WLLN: X̄ₙ →(概率收敛)→ μ P(|X̄ₙ−μ|>ε)→0
SLLN: X̄ₙ →(几乎必然)→ μ (轨迹最终贴住)
证明核: Var(X̄ₙ)=σ²/n → 切比雪夫 → 压到 0
含义: 频率→概率 (kp-001 频率派的地基)
边界: 平均收敛 ≠ 总额收敛 ; ≠ 短期补偿 (赌徒谬误 kp-029)直观类比
LLN 像"搜索引擎的用户画像"：单次点击噪声巨大，千万次点击的均值画像却精准稳定——不是系统记得纠正谁，而是海量样本把噪声平均掉。赌徒谬误则像"连开十次红后觉得黑该来了"——轮盘没有账本，平均的稳定靠稀释而非补偿。
实例或案例
- 蒙特卡洛积分：采样 n 点的均值估计积分，误差 O(1/√n)——kp-026 的 LLN 承诺。
- 保险定价：单张保单赔付随机，数百万保单的总赔付率收敛到精算期望——大数定律的商业原型。
- 民意调查：样本量 1000 的比例估计 ±3%——n 与 ε 的换算即 LLN 的日常形态（配合 CLT 定精度 kp-015）。
常见误区
- 误区一："大数定律=坏运气会被抵消"。无记忆系统没有抵偿机制；"长期稳定"靠的是新样本稀释旧偏差。
- 误区二："n 大时部分和接近 nμ"。部分和 |S_n−nμ| 甚至可以随 n 增长（√n 量级波动）；收敛的是均值不是和。
- 误区三："LLN 对任何分布都成立"。期望必须存在——柯西分布（kp-030）没有均值，LLN 前提崩塌（样本均值不收敛，统计噩梦原型）。
与其他知识点的关系
自测题
- 弱与强大数定律的收敛概念差别？
答：弱=依概率收敛（固定 n 的分布收紧）；强=几乎必然收敛（单条轨迹最终贴住）；强⇒弱。
- 为什么 LLN 不能用来论证"连输后该赢了"？
答：LLN 只保证长程平均收敛，不含记忆补偿；独立试验的未来分布与过去无关（kp-029 赌徒谬误）。
- 柯西样本均值为什么不收敛？
答：柯西无期望（kp-030），LLN 前提破坏；且柯西的样本均值仍服从柯西（稳定分布）——n 再大也不稳定。
延伸阅读
- Blitzstein & Hwang 第 10 章（不等式与 LLN）。
- Durrett《Probability: Theory and Examples》第 2 章（强弱 LLN 的严格版）。
- 《统计学习基础》第 2 章（样本量与误差的实践换算）。