人工智能之大数定理和中心极限定理

大数定律

大数定律：是一种描述当试验次数很大时所呈现的概率性致的定律，由概率统计定义“频率收敛于概率”引申而来。换而言之，就是n个独立分布的随机变量其观察值的均值依概率收敛于这些随机变量所属分布的理论均值，也就是总体均值。 例如：假设每次从1、2、3当中随机选取一个数字，随着抽样次数的增加，样本均值越来越趋近于总体期望（（1+2+3）/3=2）。

依概率收敛：设{

X

n

X_n

Xn​}为一随机变量序列，X为一随机变量，如果对任意的

λ

lambda

λ>0有P(|

X

n

X_n

Xn​-X|>=

λ

lambda

λ

→

rightarrow

→ 0(n

→

∞

rightarrowinfty

→∞)，则称序列{

X

n

X_n

Xn​}依概率收敛于X。

中心极限定理

中心极限定理： 指出大量的独立随机变量均值分布具有近似于正态的分布。 设从均值为μ、方差为

σ

2

sigma^2

σ2的任意一个总体中抽取样本量为n的样本，当n充分大时，样本均值A的抽样分布近似服从μ、方差为

σ

2

n

frac{sigma^2}{n}

nσ2​的正态分布。