极限定理描述样本量趋于无穷大时统计量的行为,是统计推断的理论基础。
设 $X_1,X_2,\dots$ 为独立同分布,$\mu=\mathbb{E}[X_i]$。
样本均值 $\bar{X}n=\frac{1}{n}\sum{i=1}^{n}X_i$
则
$$ \bar{X}_n\xrightarrow{\text{a.s.}}\mu\quad(n\to\infty) $$
即样本均值几乎必然收敛到真均值。
• LLN:抛 10000 次硬币,正面频率 几乎必然 接近 0.5
在 LLN 条件下,再设 $\sigma^{2}=\mathrm{Var}(X_i)$ 有限,则
$$ \sqrt{n}\,\frac{\bar{X}_n-\mu}{\sigma}\xrightarrow{d}\mathcal N(0,1) $$
意味着标准化误差渐近服从正态,奠定了置信区间和假设检验的基础。
• CLT:抛 n 次,正面次数的标准化误差分布越来越像钟形曲线
这些工具帮助把 CLT 推广到更复杂的统计量(比率、对数、非线性函数等)。