随机变量与分布函数:给随机性编码
本文基于模型知识整理(生成时未联网核对),定义与关系建议对照 Blitzstein & Hwang 第 3–4 章复核。
一句话定义
随机变量 X 是"从样本空间到实数的函数"——把随机结果翻译成数字;它的完整身份证是分布:离散型用概率质量函数 PMF($p_k=P(X=k)$),连续型用概率密度 PDF($f$,面积=概率),两者统一的账本是累积分布函数 CDF $F(x)=P(X\le x)$。
为什么重要
"随机变量"这一跳让概率从事件运算升级为函数运算:期望、方差、矩、生成函数全部围绕 X 展开;机器学习的模型输出(分类概率/回归值)、贝叶斯的后验、强化学习的回报都是随机变量。CDF 则是唯一对离散/连续/混合通吃的统一描述,也是比较与采样(逆变换法 kp-027)的接口。
前置知识
kp-001/002(事件与概率)、kp-003(条件化)。
核心概念
- 随机变量:$X:\Omega\to\mathbb{R}$ 的可测函数(初等层面:给每个结果赋个数值)。例:掷骰子 X=点数;抽 n 人 X=生日相同对数。
- 离散型与 PMF:取值可数,$p_k=P(X=k)$,$\sum p_k=1$。
- 连续型与 PDF:$f(x)\ge0$,$\int f=1$,$P(a\le X\le b)=\int_a^bf$;单点概率为零($P(X=x)=0$),密度值本身不是概率(可 >1)。
- CDF:$F(x)=P(X\le x)$,单调不减、右连续、$F(-\infty)=0$、$F(\infty)=1$;离散时为阶梯函数、连续时 $F'(x)=f(x)$。
- 三种描述的关系:PMF/PDF 是"局部密度账",CDF 是"累计账";$P(a<X\le b)=F(b)-F(a)$。
- 混合分布:离散+连续混合(如"0 或正数"的支出数据,0 处有质量堆积)——现实数据常见,CDF 视角无压力。
原理与机制
为什么要"编码成数字":Ω 可能是抽象的(一段语音、一次体检),数字编码让"大小、平均、方差"这些运算有了落点——随机变量是概率与微积分/线代(kp-007 等)的接口适配器。
为什么连续点概率为零:$P(X=x)=\int_x^xf=0$——概率只属于区间。推论:$P(X\le x)=P(X<x)$(连续型);"恰好等于均值"的概率为零不是不可能(kp-001 误区回顾)。
PDF 高度可以超过 1:密度是"单位长度的概率浓度"(kp-030 概率版详解)——U(0,0.5) 的密度恒为 2;直方图纵轴随组距变化,组距缩小高度可任意增大而面积(概率)不变。
CDF 的工程身份:① 比较分布(KS 检验比较 CDF);② 采样接口(逆变换法:$F^{-1}(U)$ 生成目标分布,kp-027);③ 统一混合/离散/连续的描述语言。
图示
离散: PMF pₖ=P(X=k), Σpₖ=1
连续: PDF f(x), ∫f=1, P(a≤X≤b)=∫ₐᵇf (点概率=0)
统一: CDF F(x)=P(X≤x): 单调↑, 右连续, F(−∞)=0, F(∞)=1
关系: P(a<X≤b)=F(b)−F(a) ; 连续时 F′=f
混合: 阶梯+光滑 (CDF 一张图全包)
直观类比
PMF 像"骰子每面的砝码清单";PDF 像"沙堆的高度曲线"——每一点的"高度"不是重量(概率),横坐标上两刀之间的沙重才是;CDF 像"累积进度条":从左往右单调爬升,爬升速度对应密度、最终到 1。
实例或案例
- 抛 10 次硬币正面数 X:PMF $p_k=\binom{10}{k}2^{-10}$——离散家族(kp-008 二项)。
- 等公交车时间 X:PDF $f(t)=\lambda e^{-\lambda t}$——连续家族(kp-009 指数)。
- CDF 采样体验:
np.random.random()生成 U(0,1),套 $\sqrt u$ 得到"偏向小值"的分布——CDF 逆变换的随手演示(kp-027)。
常见误区
- 误区一:"f(x) 是概率"。是密度(浓度);概率=区间上的面积;f(0.5)=0.3 不代表"取 0.5 的概率 30%"。
- 误区二:"CDF 可以下降"。C 是累积,只能不减;"下降"说明画的不是 CDF(或数据分组有错)。
- 误区三:"离散与连续的公式混用"。Σ 与 ∫、点质量与点零概率——混用是初学最高频错误;先判型再套公式。
与其他知识点的关系
自测题
- X~U(0,2):求 PDF、CDF 与 P(0.5<X<1.5)。
答:f=1/2(0<x<2);F=x/2;P=(1.5−0.5)/2=1/2。
- CDF 为 $F(x)=1-e^{-x}$(x≥0):这是什么分布?PDF?
答:指数分布(率 1);f=e^{−x}。
- 为什么"连续型 P(X=x)=0 但事件可能发生"?
答:概率是区间面积的测度,单点测度为零≠空集(kp-001 误区)——零概率事件在连续空间每天发生。
延伸阅读
- Blitzstein & Hwang 第 3–5 章(随机变量与连续分布)。
- Wasserman《All of Statistics》第 2 章。
- Seeing Theory(布朗大学交互式概率可视化网站——CDF/PDF 交互演示)。