辛钦大数定律的证明

令 \(S_n / n\) 和 \(\xi_i\) 的特征函数分别为 \(f_n(t), f(t)\)。那么，

\[ \begin{aligned} f_n(t) &= \mathrm E e^{itS_n / n} \\ &= \prod_{k=1}^n\mathrm E e^{it\xi_k / n} \\ &= \prod_{k=1}^n\mathrm E e^{i(t / n)\xi_k} \\ &= \prod_{k=1}^n f(t/n)\\ &= (f(t/n))^n \end{aligned} \]

利用泰勒展开：

\[ \begin {align} t \to 0: f(t) &\to f(0) + (t-0)f'(t) + o(t)\\ &= \int_{-\infty}^{\infty} e^{i0x}p(x)\mathrm dx + t * \lim_{\Delta t \to 0}\frac {\int_{-\infty}^{\infty} e^{i\Delta tx}p(x)\mathrm dx - \int_{-\infty}^{\infty} e^{i0x}p(x)\mathrm dx} {\Delta t} + o(t) \\ &= \int_{-\infty}^{\infty} e^{i0x} p(x)\mathrm dx + t * \lim_{\Delta t \to 0}\frac {\int_{-\infty}^{\infty} (e^{i\Delta tx} - 1)p(x)\mathrm dx} {\Delta t} + o(t) \\ &= \int_{-\infty}^{\infty} p(x)\mathrm dx + t * \lim_{\Delta t \to 0}\frac {\int_{-\infty}^{\infty} i\Delta t(xp(x))\mathrm dx} {\Delta t} + o(t) \\ &= 1 + it\mu+o(t) \end {align} \]

同样地，固定 \(t\)，令 \(n \to \infty\)，则 \(t/n \to 0\)：

\[ n \to \infty: f(t/n) \to 1 + it\mu/n+o(1/n) \]

从而：

\[ \lim_{n \to \infty}f_n(t) = \lim_{n \to \infty} (1 + it\mu/n+o(1/n))^n = e^{it\mu+o(1)} = e^{it\mu} \]

不难发现，\(e^{it\mu}\)就是在 \(\mu\) 处的单点分布。

---

逆极限定理： 如果 1. 一个特征函数列 \(f_n(t)\) 收敛于某一函数 \(f(t)\) 2. 且 \(f(t)\) 在 \(t=0\) 连续

那么

1. 相应的概率分布 \(\xi_n\) 依分布收敛某一分布 \(\xi\)（即 \(\xi_n \xrightarrow{d} \xi\)）
2. 而且 \(f(t)\) 是 \(\xi\) 的特征函数。

---

显然，\(e^{it\mu}\) 在 \(t=0\) 处连续。因此：\(S_n / n \xrightarrow[]{d} \xi\)，且 \(e^{it\mu}\) 就是 \(\xi\) 的特征函数。

• 从而，\(\xi = \mu\)

再通过 \(\forall c \in \mathbb R: \xi_n \xrightarrow[]{d} c \implies \xi_n \xrightarrow[]{P} c\)

可知：\(S_n/n \xrightarrow{P} \mu\)。\(\blacksquare\)