强大数定律与弱大数定律的区别

强大数定律与弱大数定律的区别

让我们先来了解一下弱大数定律。这个定律相对容易理解：

弱大数定律的标准形式如下：
[\forall \epsilon>0,\underset{n\rightarrow\infty}{\lim}P(|\bar{X}_n-\mu|<\epsilon)=1 ]

这里需要注意的是，极限符号是包含概率的。按照数列极限的定义，我们可以将其展开为：
[\forall \epsilon>0,\forall\phi>0,\exists N,\forall n>N,1-P(|\bar{X}_n-\mu|<\epsilon)<\phi ]

假设我们已知随机变量(X)的分布，在确定了样本量(n)的情况下，可以准确计算出样本均值(\bar{X}_n)与总体均值(\mu)之差的分布。也就是说，(P(|\bar{X}_n-\mu|<\epsilon))实际上是一个确定的数列（而不是随机变量）。不妨设(P(|\bar{X}_n-\mu|<\epsilon)=1-\frac{1}{n})，显然满足弱大数定律。但是，当我们固定了一个(n)之后，进行多次实验（每次实验包含(n)个独立的随机变量(X)）时，样本均值是有可能偏离(\mu)的。下图展示了这种情况：

接下来，我们来看强大数定律的数学形式：
[P(\underset{n\rightarrow\infty}{\lim}\bar{X}_n-\mu=0)=1 ]

用极限的定义展开，(\underset{n\rightarrow\infty}{\lim}\bar{X}_n-\mu=0\iff\forall\epsilon>0,\exists N,\forall n>N,|\bar{X}_n-\mu|<\epsilon)。

需要注意的是，后者其实是一个事件，即给定了一个偏离量(\epsilon)，就可以找到一个(N)，使得当试验次数大于(N)时，样本均值与总体均值的距离不会超过这个偏移量。强大数定律告诉我们，这个事件是必然事件。下图展示了强大数定律的情况：