中心极限定理[编辑]

维基百科，自由的百科全书

跳到导航跳到搜索

本图描绘了多次抛掷硬币实验中出现正面的平均比率，每次实验均抛掷了大量硬币。

中心极限定理是概率论中的一组定理。中心极限定理说明，在适当的条件下，大量相互独立随机变量的均值经适当标准化后依分布收敛于正态分布。这组定理是数理统计学和误差分析的理论基础，指出了大量随机变量之和近似服从正态分布的条件。

目录

• 1历史

• 2棣莫佛－拉普拉斯定理

• 2.1内容

• 2.2在高尔顿板问题上的应用

• 3林德伯格－列维定理

• 3.1内容

• 3.2证明

• 4林德伯格-费勒定理

• 4.1内容

• 4.2证明

• 5参阅

• 6参考文献

• 7外部链接

历史[编辑]

Tijms (2004, p.169) 写到：

棣莫佛－拉普拉斯定理[编辑]

用正态分布逼近二项分布

棣莫佛－拉普拉斯（de Moivre - Laplace）定理是中央极限定理的最初版本，讨论了服从二项分布的随机变量序列。它指出，参数为n, p的二项分布以np为均值、np(1-p)为方差的正态分布为极限。

内容[编辑]

若 ${\displaystyle X\sim B(n,p)}$ 是 ${\displaystyle n}$ 次伯努利实验中事件 A 出现的次数，每次试验成功的概率为 ${\displaystyle p}$，且 ${\displaystyle q=1-p}$，则对任意有限区间 ${\displaystyle [a,b]}$：

令${\displaystyle x_{k}\equiv {\frac {k-np}{\sqrt {npq}}}}$，当${\displaystyle n\to {\infty }}$时

(i) ${\displaystyle P(X=k)\to {\frac {1}{\sqrt {npq}}}\cdot {\frac {1}{\sqrt {2\pi }}}e^{-{\frac {1}{2}}x_{\mu _{n}}^{2}}}$

(ii) ${\displaystyle P(a\leq {\frac {X-np}{\sqrt {npq}}}\leq {b})\to \int _{a}^{b}\varphi (x)dx}$，其中${\displaystyle \varphi (x)={\frac {1}{\sqrt {2\pi }}}e^{-{\frac {x^{2}}{2}}}(-\infty <x<\infty ).}$

在高尔顿板问题上的应用[编辑]

高尔顿绘制的高尔顿板模型，其中的小球显出钟形曲线。

棣莫弗－拉普拉斯定理指出二项分布的极限为正态分布。高尔顿板可以看作是伯努利试验的实验模型。如果我们把小球碰到钉子看作一次实验，而把从右边落下算是成功，从左边落下看作失败，就有了一次${\displaystyle p={\frac {1}{2}}}$的伯努利试验。小球从顶端到底层共需要经过n排钉子，这就相当于一个n次伯努利试验。小球的高度曲线也就可以看作二项分布随机变量的概率密度函数。因此，中央极限定理解释了高密顿板小球累积高度曲线为什么是正态分布独有的钟形曲线。

林德伯格－列维定理[编辑]

中央极限定理的动态展示，独立同分布随机变量之和趋近正态分布。

林德伯格－列维（Lindeberg-Levy）定理，是棣莫佛－拉普拉斯定理的扩展，讨论独立同分布随机变量序列的中央极限定理。它表明，独立同分布、且数学期望和方差有限的随机变量序列的标准化和以标准正态分布为极限：

内容[编辑]

设随机变量${\displaystyle X_{1},X_{2},\cdots ,X_{n}}$独立同分布， 且具有有限的数学期望和方差${\displaystyle E(X_{i})=\mu }$，${\displaystyle D(X_{i})=\sigma ^{2}\neq 0(i=1,2,\cdots ,n)}$。记

${\displaystyle {\bar {X}}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}}$，${\displaystyle \zeta _{n}={\frac {{\bar {X}}-\mu }{\sigma /{\sqrt {n}}}}}$，则 ${\displaystyle \lim _{n\rightarrow \infty }P\left(\zeta _{n}\leq z\right)=\Phi \left(z\right)}$

其中${\displaystyle \Phi (z)}$是标准正态分布的分布函数。

证明[编辑]

记${\displaystyle X_{k}-\mu }$的特征函数为${\displaystyle \varphi (t)}$，根据傅里叶变换，样本空间中的褶积在特征函数空间变为乘积，因此${\displaystyle \zeta _{n}}$的特征函数为${\displaystyle {\left[\varphi {\left({\frac {t}{\sigma {\sqrt {n}}}}\right)}\right]}^{n}}$.由于${\displaystyle E(X_{k})=\mu ,D(X_{k})=\sigma ^{2}}$故${\displaystyle \varphi '(0)=0,\varphi ''(0)=-\sigma ^{2}.}$因此

${\displaystyle \varphi (t)=1-{\frac {1}{2}}\sigma ^{2}t^{2}+o(t^{2})}$

所以

${\displaystyle {\left[\varphi {\left({\frac {t}{\sigma {\sqrt {n}}}}\right)}\right]}^{n}=\left[1-{\frac {1}{2n}}t^{2}+o\left({\frac {t^{2}}{n}}\right)\right]^{n}\to {e^{-t^{2}/2}}}$

由于${\displaystyle e^{-t^{2}/2}}$是连续函数，它对应的分布函数为${\displaystyle \Phi (Z)}$，因此由逆极限定理知

${\displaystyle \lim _{n\rightarrow \infty }P\left(\zeta _{n}\leq z\right)\to \Phi \left(z\right)}$

定理证毕。

林德伯格-费勒定理[编辑]

林德伯格－费勒定理，是中央极限定理的高级形式，是对林德伯格－列维定理的扩展，讨论独立，但不同分布的情况下的随机变量和。它表明，满足一定条件时，独立，但不同分布的随机变量序列的标准化和依然以标准正态分布为极限：

内容[编辑]

记随机变量序列${\displaystyle X_{i}}$（${\displaystyle X_{i}}$独立但不一定同分布，${\displaystyle E[X_{i}]=0}$且有有限方差）部分和为

${\displaystyle S_{n}=\sum _{i=1}^{n}X_{i}}$

记

${\displaystyle s_{i}^{2}={\rm {Var}}(X_{i})}$

${\displaystyle \sigma _{n}^{2}=\sum _{i=1}^{n}s_{i}^{2}={\rm {Var}}(S_{n})}$.

如果对每个${\displaystyle \epsilon >0}$，序列满足

${\displaystyle \lim _{n\rightarrow \infty }{1 \over \sigma _{n}^{2}}\sum _{i=1}^{n}E[X_{i}^{2};\{|X_{i}|>\epsilon \sigma _{n}\}]=0}$

则称它满足林德伯格（Lindeberg）条件。

满足此条件的序列趋向于正态分布，即

${\displaystyle S_{n}/\sigma _{n}{\stackrel {d}{\rightarrow }}N(0,1)}$

同时，该条件也是期望为零、方差有限的独立变量之和趋于正态分布的必要条件。

与之相关的是李雅普诺夫（Lyapunov）条件：

${\displaystyle E[|X_{i}|^{3}]<\infty ,\,\lim _{n\rightarrow \infty }{1 \over \sigma _{n}^{3}}\sum _{i=1}^{n}E[|X_{i}|^{3}]=0}$

满足李雅普诺夫条件的序列，必满足林德伯格条件。

证明[编辑]

在此只对较强的李雅普诺夫条件给出证明。

以下证明对每一实数${\displaystyle t}$，特征函数满足${\displaystyle \varphi _{S_{n}/\sigma _{n}}(t)\rightarrow e^{-t^{2}/2}}$。

${\displaystyle \left|\varphi _{S_{n}/\sigma _{n}}(t)-e^{-t^{2}/2}\right|=\left|\prod _{k=1}^{n}\varphi _{X_{k}}(t/\sigma _{n})-\prod _{k=1}^{n}e^{-t^{2}s_{k}^{2}/2\sigma _{n}^{2}}\right|\leq \sum _{k=1}^{n}\left|\varphi _{X_{k}}(t/\sigma _{n})-e^{-t^{2}s_{k}^{2}/2\sigma _{n}^{2}}\right|}$

泰勒展开，上式可近似为

${\displaystyle \sum _{k=1}^{n}\left|{\frac {i^{3}t^{3}E[X_{k}^{3}]}{6\sigma _{n}^{3}}}+{\frac {t^{4}s_{k}^{4}}{8\sigma _{n}^{4}}}\right|\leq {|t|^{3} \over 6\sigma _{n}^{3}}\sum _{k=1}^{n}E[|X_{k}|^{3}]+{\frac {t^{4}}{8\sigma _{n}^{4}}}\sum _{k=1}^{n}s_{k}^{4}\leq {|t|^{3} \over 6\sigma _{n}^{3}}\sum _{k=1}^{n}E[|X_{k}|^{3}]+{\frac {t^{4}}{8}}\max _{1\leq k\leq n}{s_{k}^{2} \over \sigma _{n}^{2}}}$

由李雅普诺夫条件，当${\displaystyle n\rightarrow \infty }$时，第一项收敛于零。

令${\displaystyle k_{n}={\rm {arg}}\max _{1\leq k\leq n}s_{k}^{2}/\sigma _{n}^{2}}$，则由李雅普诺夫不等式，

${\displaystyle (s_{k_{n}}/\sigma _{n})^{3/2}\leq E[|X_{k_{n}}/\sigma _{n}|^{3}]\leq {\frac {1}{\sigma _{n}^{3}}}\sum _{k=1}^{n}E[|X_{k}|^{3}]}$

因此第二项也收敛于零。

证毕。