概率论的历史脉络与两大流派
本文基于模型知识整理(生成时未联网核对),年代与人物贡献建议对照 Hacking《The Emergence of Probability》复核。
一句话定义
概率论始于 1654 年帕斯卡与费马通信解决"赌金分配问题"——从赌桌问题长出的学科在 18 世纪被拉普拉斯推上"决定论宇宙的算术"的巅峰;19 世纪频率派兴起、20 世纪 Kolmogorov 公理化(1933)为它奠定现代地基;与此同时贝叶斯 1763 年的遗作开启另一条河——频率派 vs 贝叶斯的流派之争贯穿三个世纪,当代数据科学正是两派的合流现场。
为什么重要
流派之争不是学术八卦:你今天用的每个工具(置信区间 kp-020 vs 可信区间、p 值 kp-021 vs 后验概率、MLE kp-018 vs MAP)都带着流派的哲学基因。理解"两派分别回答什么问题、各自放弃什么",才能在实战中不教条地选工具——也才能读懂 kp-031 中关于统计实践的争论本质。
前置知识
kp-001/004(公理化与贝叶斯的正文内容)。
核心概念(时间线速览)
- 1654 · 赌金分配:德梅雷骑士的赌局问题(5:3 领先中断怎么分)寄给帕斯卡;帕斯卡-费马通信建立期望与递归解法——概率论纪元元年(kp-029 的赌金案例是学科"出生证明")。
- 17–18 世纪:惠更斯《论赌博中的计算》(第一本教材);雅各布·伯努利《猜度术》(1713,大数定律 kp-014 的第一声);棣莫弗(正态曲线 1733,kp-009);贝叶斯遗作 1763(逆向概率——kp-004 的诞生,由朋友普莱斯整理发表);拉普拉斯《概率的分析理论》(1812,集大成+先验均匀原则——贝叶斯派的古典巨人);"概率=社会的确定性等级"(孔多塞)。
- 19 世纪:频率派崛起(维恩/费歇尔的频率立场;统计物理的玻尔兹曼/麦克斯韦把概率引入物理);误差理论与最小二乘(高斯/勒让德,kp-030 姊妹篇)。
- 20 世纪上半叶:Kolmogorov 公理化 1933(测度论地基,kp-002 的三公理——频率/主观两派被统一在同一数学屋檐下);费歇尔(似然、方差分析、检验的框架)与奈曼-皮尔逊(假设检验的 α/β/功效框架,kp-021 的正式化)——频率派内部又分两系(费歇尔 vs N-P,今天教科书混着教)。
- 贝叶斯的百年低谷与复兴:20 世纪上半叶先验被斥"主观不科学"(频率派全胜期);二战密码破译(图灵/杰弗里斯)与 1950s 起杰弗里斯、萨维奇《The Foundations of Statistics》(1954,主观概率公理化)、Lindley 推动复兴;计算时代(MCMC kp-025/027)扫清计算瓶颈——贝叶斯方法在 1990s 后全面回归,机器学习时代成为主流工具之一。
原理与机制(流派对照)
频率派:概率=长期频率;参数是固定未知的常量;推断只谈"数据的性质"(置信区间 kp-020、p 值 kp-021 的语义皆由此);强项:可重复性语义清晰、无需先验;弱项:单次事件的概率语义尴尬、无法直接用先验知识。
贝叶斯派:概率=信念度;参数本身有分布;推断=后验更新(kp-022);强项:语义直白、小样本/层次/序贯天然友好;弱项:先验的选择与主观性、计算成本(MCMC kp-027)。
Kolmogorov 公理化的调停:三公理只规定数学结构,不规定"概率的意义解释"——频率与信念是同一数学的两种应用解释。当代实践主义(如 Efron):工具按场景选用,流派标签让位于问题适配。
"数学相同、解释不同"的工程后果:贝叶斯可信区间与频率置信区间数字常接近(大样本时 kp-020),但"能否说参数在区间内的概率"的语义差别会实际影响沟通(向非统计决策者报告时)——流派之争最终落地为"怎么跟老板说话"。
图示
1654 帕斯卡-费马(赌金) → 惠更斯 → 伯努利(LLN) → 棣莫弗(正态)
→ 贝叶斯1763(遗作) → 拉普拉斯(先验统一)
→ 19世纪频率派兴起 → Kolmogorov公理化(1933, 数学统一)
→ 费歇尔 vs 奈曼-皮尔逊(频率派内部分裂)
→ 贝叶斯复兴(Savage 1954 → MCMC 1990s → ML 时代)
现代: 工具按问题适配, 流派标签淡化 (Efron 两派合流论)
直观类比
概率论的历史像"一栋房子两次装修":Kolmogorov 打好结构地基(公理),频率派与贝叶斯派是先后入住的两批住户——各按自己的生活方式布置(解释与工具),但承重墙(公理)对两家都成立。
实例或案例
- 图灵与贝叶斯的密码战:Blum 等披露的 Banburismus 用贝叶斯权重(ban 分数=log似然比)攻击 Enigma——贝叶斯方法在"不能说话的领域"先证明了自己。
- 图灵奖与政治:Kolmogorov 的公理化在苏联"概率必须可频率解释"的压力下仍写成纯公理化——学科自律的历史注脚。
- 当代合流案例:MCMC 让贝叶斯可算;频率派的 bootstrap(Efron)也是"用计算替代解析"——计算时代两派共同转向。
常见误区
- 误区一:"贝叶斯定理发明前没有条件概率"。条件概率运算早于贝叶斯(帕斯卡已有);贝叶斯贡献的是"逆向推断"的系统化。
- 误区二:"频率派=守旧/贝叶斯=现代"。频率派的 N-P 框架(1933)比贝叶斯复兴(1954+)晚于贝叶斯诞生却早于其复兴——两条河交错流淌,无先后优劣。
- 误区三:"选派是站队"。现代最佳实践按问题属性选工具(kp-031 的实用主义)——理解两派比效忠两派有用。
与其他知识点的关系
自测题
- 概率论的"出生证明"是什么事件?核心贡献?
答:1654 帕斯卡-费马通信;建立期望概念与赌金分配的递归解法。
- Kolmogorov 公理化的"调停"作用?
答:公理只定数学结构不定解释——频率与信念两派共用同一数学地基(kp-002)。
- 贝叶斯复兴的关键转折是什么?
答:主观概率公理化(Savage)+ 计算突破(MCMC kp-025/027)——理论合法性与可算性同时到位。
延伸阅读
- Ian Hacking. *The Emergence of Probability*. Cambridge, 1975.(17 世纪起源的哲学史)
- Sharon Bertsch McGrayne. *The Theory That Would Not Die*. Yale, 2011.(贝叶斯复兴的通俗史,含图灵密码战)
- Efron & Hastie. *Computer Age Statistical Inference*. Cambridge, 2016.(两派合流的当代综述,免费电子版)