矩生成函数

Definition矩生成函数

随机变量 $X$ 的矩生成函数（moment generating function, MGF）定义为

$M_X(t) = \mathbb{E}[e^{tX}]$

它把随机变量的各阶矩编码到同一个函数里。

对于离散型随机变量：

$M_X(t) = \sum_x e^{tx} p_X(x)$

对于连续型随机变量：

$M_X(t) = \int_{-\infty}^{\infty} e^{tx} f_X(x)\,dx$

基本性质

生成矩

如果 $M_X(t)$ 在 $t=0$ 附近存在并可微，那么 $X$ 的 $n$ 阶矩可以通过对 MGF 求 $n$ 阶导数得到：

$\mathbb{E}[X^n] = M_X^{(n)}(0)$

常用规则

1. 唯一性：如果两个随机变量的 MGF 相同，并且 MGF 在 $0$ 的邻域内存在，那么它们有相同的分布。
2. 线性变换：若 $Y = aX + b$，则 $M_Y(t) = e^{bt}M_X(at)$。
3. 独立和：如果 $X$ 与 $Y$ 独立，则 $M_{X+Y}(t) = M_X(t)M_Y(t)$。

常见分布的 MGF

分布	MGF	定义域
Bernoulli$(p)$	$1-p+pe^t$	所有 $t$
Binomial$(n,p)$	$(1-p+pe^t)^n$	所有 $t$
Poisson$(\lambda)$	$e^{\lambda(e^t-1)}$	所有 $t$
Normal$(\mu,\sigma^2)$	$e^{\mu t+\frac{1}{2}\sigma^2t^2}$	所有 $t$
Exponential$(\lambda)$	$\frac{\lambda}{\lambda-t}$	$t < \lambda$
Uniform$(a,b)$	$\frac{e^{tb}-e^{ta}}{t(b-a)}$	$t \neq 0$

用途

1. 计算矩：快速得到期望、方差以及更高阶矩。
2. 刻画分布：在存在条件满足时，MGF 可以唯一确定分布。
3. 处理独立和：独立随机变量之和的 MGF 是各自 MGF 的乘积。
4. 证明极限定理：很多分布收敛证明会借助 MGF 或相关的特征函数。

更多关于期望和方差的内容见期望和方差。