随机变量的定义

定义随机变量

给定概率空间 $(\Omega,\mathcal F,P)$ ，实随机变量是函数 $X:\Omega\to\mathbb R$ ，并且对每个实数 $x$ ，事件 $\{\omega:X(\omega)\le x\}$ 都属于 $\mathcal F$ 。这个可测性条件保证下面的概率有定义。

概率函数

若存在可数集合 $S$ 使 $P(X\in S)=1$ ，则称 $X$ 为离散随机变量。概率质量函数为 $p_X(x)=P(X=x)$ 。事件 $\{X=x\}$ 两两不交，由可数可加性立即得到

p_X(x)\ge0,\qquad \sum_{x\in S}p_X(x)=1.

若存在非负可积函数 $f_X$ ，使每个 Borel 集 $B$ 都满足

P(X\in B)=\int_B f_X(t)\,dt,

则称分布绝对连续， $f_X$ 是概率密度。取 $B=\mathbb R$ 得到密度总积分为一；取单点集则得到 $P(X=x)=0$ 。修改密度在单点的值不改变概率。

有无穷多个可能取值并不意味着存在密度。混合分布同时含有原子和连续部分；此外还有奇异连续分布。因此，PMF 与 PDF 不能涵盖所有分布。下面例子中的“连续”均指绝对连续。

累积分布函数（CDF）

每个实随机变量都有 CDF：

F_X(x)=P(X\le x).

离散情形将 $t\le x$ 处的概率质量相加；存在密度时，对密度在 $(-\infty,x]$ 上积分。

定理CDF 的基本性质

$F_X$ 单调不减且右连续，在 $-\infty$ 和 $+\infty$ 处的极限分别为零和一。此外，

P(a<X\le b)=F_X(b)-F_X(a).

P(X=x)=F_X(x)-F_X(x-).

证明

先由可数可加性证明概率的连续性。若 $A_n\uparrow A$ ，将 $A$ 分解为 $A_1$ 及两两不交的增量 $A_n\setminus A_{n-1}$ 。相应级数的部分和就是 $P(A_n)$ ，所以 $P(A_n)\to P(A)$ 。对补集应用这一结论，就得到递减事件列的版本。

事件 $\{X\le x\}$ 随 $x$ 增大而扩大，故 CDF 单调不减。事件 $\{X\le x+1/n\}$ 递减到 $\{X\le x\}$ ，证明右连续；结合单调性即可覆盖任意从右侧趋近的序列。由于 $X$ 取有限实数值， $\{X\le n\}$ 递增到 $\Omega$ ，而 $\{X\le -n\}$ 递减到空集，从而得到无穷远处的两个极限。嵌套事件的概率相减，得到区间公式。最后， $\{X\le x-1/n\}$ 递增到 $\{X<x\}$ ，其概率极限为 $F_X(x-)$ ；从 $F_X(x)$ 中减去这一项，就得到单点概率。

随机变量的积分见期望与方差。

一些例子

以下是不同情境下随机变量的例子：离散型、连续型和混合型。

离散随机变量

例掷骰子

考虑掷一个公平的六面骰子的简单例子。样本空间 $\Omega$ 由结果 $\{1, 2, 3, 4, 5, 6\}$ 组成。我们可以定义一个随机变量 $X$ ，将每个结果映射到其值。例如，如果我们掷骰子得到3，那么 $X(\omega) = 3$ 。这个随机变量的概率分布是均匀的，意味着每个结果都有相等的概率 $\frac{1}{6}$ 。

PMF： $p_X(x) = \frac{1}{6}$ ，对于 $x \in \{1, 2, 3, 4, 5, 6\}$

离散 PMF 与阶梯 CDF。公平骰子的六个点具有相同概率质量，逐项累加后得到阶梯状的累积分布函数。

公平骰子的六个点具有相同概率质量，逐项累加后得到阶梯状的累积分布函数。

连续随机变量

例降雨量测量

正态变量 $W\sim N(100,30^2)$ 可能取负值。为了描述非负降雨量，令 $Y$ 服从 $W$ 在条件 $W\ge0$ 下的分布。记标准正态密度和 CDF 为 $\phi$ 、 $\Phi$ 。由条件概率，

f_Y(y)=\begin{cases}\dfrac{\phi((y-100)/30)}{30\Phi(10/3)},&y\ge0,\\0,&y<0.\end{cases}

分母来自正态分布的对称性： $P(W\ge0)=1-\Phi(-10/3)=\Phi(10/3)$ 。积分得到

F_Y(y)=\begin{cases}0,&y<0,\\ \dfrac{\Phi((y-100)/30)-\Phi(-10/3)}{\Phi(10/3)},&y\ge0. \end{cases}

两端极限分别为零和一，验证了归一化。例如，

P(70\le Y\le130)=\frac{\Phi(1)-\Phi(-1)}{\Phi(10/3)}\approx0.6830,

P(40\le Y\le160)=\frac{\Phi(2)-\Phi(-2)}{\Phi(10/3)}\approx0.9549.

参数 $100$ 和 $30$ 描述截断前的正态变量，并不恰好等于 $Y$ 的均值与标准差。

密度、面积与累积概率。下面另用均匀分布作例子：区间概率是密度下的面积，累积分布函数则记录已累积的面积。

下面另用均匀分布作例子：区间概率是密度下的面积，累积分布函数则记录已累积的面积。

混合随机变量

例顾客等待时间

顾客有 $0.3$ 的概率立即获得服务；否则等待时间 $Z$ 服从参数 $\lambda>0$ 的指数分布。对 $x\ge0$ ，按是否立即获得服务分情况可得

F_Z(x)=0.3+0.7(1-e^{-\lambda x})=1-0.7e^{-\lambda x}.

对 $x<0$ ， $F_Z(x)=0$ 。零点的跳跃量为 $0.3$ ，所以 $P(Z=0)=0.3$ 。在 $(0,\infty)$ 上，连续部分的密度为 $0.7\lambda e^{-\lambda x}$ ，总质量为 $0.7$ 。只积分这个密度会漏掉零点的原子；完整分布为

P(Z\in B)=0.3\mathbf1_{\{0\in B\}}+0.7\int_{B\cap(0,\infty)}\lambda e^{-\lambda x}\,dx.

比较：离散分布与绝对连续分布

特征	离散分布	绝对连续分布
定义条件	某个可数集合具有概率一	概率可写为密度的积分
单点概率	原子可以具有正概率	每个单点的概率均为零
CDF	将不大于 $x$ 的概率质量相加	将密度积分到 $x$
可积时的期望	数值乘以概率质量后求和	数值乘以密度后积分

联合随机变量

定义联合随机变量

同一概率空间上的 $X,Y$ 构成随机向量 $(X,Y)$ 。联合分布为 $\mathbb R^2$ 的每个 Borel 子集赋予概率。

离散情形下， $p_{X,Y}(x,y)=P(X=x,Y=y)$ 。单点事件两两不交，因此总质量为一，且边缘分布满足

p_X(x)=\sum_y p_{X,Y}(x,y),\qquad p_Y(y)=\sum_x p_{X,Y}(x,y).

若联合分布存在密度 $f_{X,Y}$ ，在集合上积分就得到该集合的概率。积分消去一个坐标可得

f_X(x)=\int_{\mathbb R}f_{X,Y}(x,y)\,dy,\qquad f_Y(y)=\int_{\mathbb R}f_{X,Y}(x,y)\,dx.

证明只需将对应表达式在 Borel 集 $A$ 上积分，再用非负函数的 Tonelli 定理，将结果识别为 $A\times\mathbb R$ 或 $\mathbb R\times A$ 的概率。Tonelli 定理是这里使用但尚未证明的测度论前提。两个变量各自有密度，不代表联合密度存在：若 $X$ 均匀分布且 $Y=X$ ，联合概率全部集中在对角线上，但对角线的平面面积为零，与任何联合密度公式矛盾。

独立性定义为：对任意 Borel 集 $A,B$ ，都有 $P(X\in A,Y\in B)=P(X\in A)P(Y\in B)$ 。离散情形等价于 $p_{X,Y}(x,y)=p_X(x)p_Y(y)$ ：取单点得到必要性，在 $A\times B$ 上求和得到充分性。存在联合密度时，几乎处处成立的分解 $f_{X,Y}=f_Xf_Y$ 由累次积分推出独立性。反方向依赖“矩形集上的概率唯一确定概率测度”及“密度几乎处处唯一”这两项测度论结果；本文尚未证明这两项前提。

例两个骰子

考虑掷两个公平的六面骰子。设 $X$ 为第一个骰子的结果， $Y$ 为第二个骰子的结果。

联合PMF： $p_{X,Y}(x,y) = \frac{1}{36}$ ，对于 $x,y \in \{1, 2, 3, 4, 5, 6\}$

边缘PMF：

$p_X(x) = \sum_{y=1}^{6} p_{X,Y}(x,y) = \frac{1}{6}$
$p_Y(y) = \sum_{x=1}^{6} p_{X,Y}(x,y) = \frac{1}{6}$

由于 $p_{X,Y}(x,y) = p_X(x) \cdot p_Y(y)$ ，骰子掷出结果是独立的。

例身高和体重

考虑成年人的身高 $H$ 和体重 $W$ 之间的关系。这些通常不是独立的。

联合PDF $f_{H,W}(h,w)$ 描述了身高和体重在人群中的联合分布。

边缘密度 $f_H(h) = \int_{0}^{\infty} f_{H,W}(h,w) dw$ 给出了不考虑体重时的身高分布
边缘密度 $f_W(w) = \int_{0}^{\infty} f_{H,W}(h,w) dh$ 给出了不考虑身高时的体重分布

由于身高和体重是相关的， $f_{H,W}(h,w) \neq f_H(h) \cdot f_W(w)$ 。

练习

练习子集基数与最小元素

在集合 $\{1,2,3,4,5,6,7,8\}$ 的全部 256 个子集中等可能随机抽取一个。设 $X$ 为该子集的元素个数。若子集为空则定义 $Y=1$ ，否则定义 $Y$ 为子集中的最小元素。

事件 “ $X=1$ ” 与 “ $Y=3$ ” 是否相互独立？
随机变量 $X$ 与 $Y$ 是否相互独立？
计算条件概率 $\Pr(X \leq 2 \mid Y \leq 5)$ 。

解

由于 $2^8 = 256$ 个子集被等可能抽取，每个子集的抽取概率均为 $\frac{1}{256}$ 。

事件 $X=1$ 与 $Y=3$ 的独立性：需检验是否满足 $\Pr(X=1 \land Y=3) = \Pr(X=1)\Pr(Y=3)$ 。
- 含有 1 个元素的子集共有 $\binom{8}{1} = 8$ 个，故 $\Pr(X=1) = \frac{8}{256} = \frac{1}{32}$ 。
- 最小元素为 3 的子集必须包含 3 且其余元素来自 $\{4,5,6,7,8\}$ ，共有 $2^5 = 32$ 个，故 $\Pr(Y=3) = \frac{32}{256} = \frac{1}{8}$ 。
- 事件 “ $X=1$ 且 $Y=3$ ” 唯一确定子集 $\{3\}$ ，因此 $\Pr(X=1 \land Y=3) = \frac{1}{256}$ 。由于 $\Pr(X=1)\Pr(Y=3) = \frac{1}{32} \cdot \frac{1}{8} = \frac{1}{256} = \Pr(X=1 \land Y=3)$ ，两事件相互独立。
随机变量 $X$ 与 $Y$ 的独立性：考查 $X=8$ 与 $Y=8$ ：
- $\Pr(X=8) = \frac{1}{256}$ （对应全集 $\{1,2,3,4,5,6,7,8\}$ ）。
- $\Pr(Y=8) = \frac{1}{256}$ （对应单元素集 $\{8\}$ ）。
- 但子集不可能同时拥有 8 个元素且最小元素为 8，故 $\Pr(X=8 \land Y=8) = 0 \neq \Pr(X=8)\Pr(Y=8)$ 。因此随机变量 $X$ 与 $Y$ 不独立。
条件概率 $\Pr(X \leq 2 \mid Y \leq 5)$ ：
- 最小元素 $\geq 6$ 的非空子集来自 $\{6,7,8\}$ ，共有 $2^3 - 1 = 7$ 个： $\{6\}, \{7\}, \{8\}, \{6,7\}, \{6,8\}, \{7,8\}, \{6,7,8\}$ 。因此 $\Pr(Y \leq 5) = 1 - \frac{7}{256} = \frac{249}{256}$ 。
- 元素个数 $\leq 2$ 的子集总数为 $\binom{8}{0} + \binom{8}{1} + \binom{8}{2} = 1 + 8 + 28 = 37$ 个。在这 37 个子集中，属于 $Y \geq 6$ 的有且仅有来自 $\{6,7,8\}$ 的 6 个非空子集： $\{6\}, \{7\}, \{8\}, \{6,7\}, \{6,8\}, \{7,8\}$ 。因此同时满足 $X \leq 2$ 与 $Y \leq 5$ 的子集共有 $37 - 6 = 31$ 个。

\Pr(X \leq 2 \mid Y \leq 5) = \frac{\Pr(X \leq 2 \land Y \leq 5)}{\Pr(Y \leq 5)} = \frac{31/256}{249/256} = \frac{31}{249}.

注

计算第 3 问时容易误用乘法原理 $\binom{5}{1} \times \binom{7}{1} = 35$ 计数 $X=2$ 且 $Y \le 5$ 的子集。这会导致重复计数：例如 $\{1, 2\}$ 中的两个元素都小于等于 5，在先选 1 后选 2 与先选 2 后选 1 时被计算了两次。

练习两个骰子的点数乘积分布

独立掷两个公平的六面骰子。设随机变量 $X$ 为两次点数的乘积。求 $X$ 在所有可能取值上的概率质量函数 $P(X=i)$ 。

解

共有 $6 \times 6 = 36$ 种等可能的出目结果 $(a, b)$ （其中 $1 \leq a, b \leq 6$ ）。统计乘积 $i = a \cdot b$ 的分解数：

\begin{aligned} P(X = 1) &= \frac{1}{36} & P(X = 6) &= \frac{4}{36} & P(X = 15) &= \frac{2}{36} & P(X = 25) &= \frac{1}{36} \\ P(X = 2) &= \frac{2}{36} & P(X = 8) &= \frac{2}{36} & P(X = 16) &= \frac{1}{36} & P(X = 30) &= \frac{2}{36} \\ P(X = 3) &= \frac{2}{36} & P(X = 9) &= \frac{1}{36} & P(X = 18) &= \frac{2}{36} & P(X = 36) &= \frac{1}{36} \\ P(X = 4) &= \frac{3}{36} & P(X = 10) &= \frac{2}{36} & P(X = 20) &= \frac{2}{36} & P(X = \text{其他}) &= 0 \\ P(X = 5) &= \frac{2}{36} & P(X = 12) &= \frac{4}{36} & P(X = 24) &= \frac{2}{36} & & \end{aligned}

练习群体的最高排名分布

5 名男士和 5 名女士参加考试并按成绩排名，无同分，所有 $10!$ 种排名等可能。设随机变量 $X$ 为女士获得的最高名次（例如女士取得第一名则 $X=1$ ）。求 $X$ 的概率质量函数。

解

女士的最高名次只能在 1 到 6 之间（若前 5 名全为男士，则第一位女士排第 6 名）。

若 $X = i$ （ $1 \leq i \leq 6$ ），则前 $i-1$ 名必须全由男士占据，第 $i$ 名为女士，其余 4 名女士分布在后方的 $10 - i$ 个位置中。

在 10 个排名位置中选定 5 个位置给女士，总组合数为 $\binom{10}{5}$ ；当最高名次固定在第 $i$ 位时，剩余 4 名女士只需在第 $i$ 名之后的 $10 - i$ 个名次中选择，因此：

P(X = i) = \frac{\binom{10 - i}{4}}{\binom{10}{5}}, \quad i \in \{1, 2, 3, 4, 5, 6\}

具体概率计算：

$P(X = 1) = \frac{\binom{9}{4}}{\binom{10}{5}} = \frac{126}{252} = \frac{1}{2}$
$P(X = 2) = \frac{\binom{8}{4}}{252} = \frac{70}{252} = \frac{5}{18}$
$P(X = 3) = \frac{\binom{7}{4}}{252} = \frac{35}{252} = \frac{5}{36}$
$P(X = 4) = \frac{\binom{6}{4}}{252} = \frac{15}{252} = \frac{5}{84}$
$P(X = 5) = \frac{\binom{5}{4}}{252} = \frac{5}{252}$
$P(X = 6) = \frac{\binom{4}{4}}{252} = \frac{1}{252}$