大数定律

大数定律

@(概率论)

1.切比雪夫不等式

在http://www.voidcn.com/article/p-mbmacvul-vt.html中特别说明过如何用两次放缩证明。

一般情况下，会用比会证更重要，如果会证，一些变形的切比雪夫相关的不等式就很容易引申过去证明了。

Anyway，定形很重要。

P(|X?EX|≥?)≤DX?2,任意?>0

2.依概率收敛的含义

首先，对象是 X1,X2,...,Xn 随机变量序列。对任意的 ?>0 ,有：

limn→+∞P(|X?A|<?)=1

A是常数。

上面的式子就是说，当n足够大时， Xn 的取值无限接近于A的概率是1，就是有百分之百的把握。只不过这里用的是数学语言。

3.切比雪夫大数定律

X1,X2,...,Xn 是两两不相关的随机变量序列，存在常数C，使得 D(Xi)≤C(i=1,2,...) 则对任意的 ?>0 ，有：
limn→+∞P(|1n∑ni=1Xi?1n∑ni=1E(Xi)|<?)=1

简单叙述就是，两两不相关的序列，变动范围有限，那么变量序列的平均值要趋向于各个子序列的期望的平均值。

4.伯努利大数定律

设随机变量 Xn～B(n,p),n=1,2,... ，则对于任意的 ?>0 ,有：
limn→+∞P(|Xnn?p|<?)=1

EXn=np ,即 Xn→np 的概率越来越接近于1.

5.辛欣大数定律

随机变量 X1,X2,...,Xn,... 独立同分布，具有数学期望 EXi=μ,i=1,2,... ,则对任意的 ?>0 有：
limn→+∞P(|1n∑ni=1Xi?u|<?)=1

不像伯努利大数定律是一个特殊的分布，所以单个元素将趋向均值。这里是独立同分布的任意序列，则整体均值趋向于数学期望。

下面直接近似于特殊分布：正态分布。

6.棣莫弗-拉普拉斯中心极限定理

设随机变量 Xn～B(n,p),n=1,2,... ,则对任意的实数x，有：
limn→+∞P(Xn?npnp(1?p)√≤x)=Φ(x),Φ(x) 是标准正态分布
这个和伯努利大数定律类似： EXn=np,DXn=np(1?p) ,”标准化”后，近似等于正态分布。
值得注意的是，n足够大，比如100时就可以使用这个定理近似解题了。

7.列维-林德伯格中心极限定理

设随机变量 X1,X2,...Xn,... 独立同分布，具有数学期望与方差， EXn=u,DXn=σ2,n=1,2,3,... 则对于任意的实数x，有：

limn→+∞P(∑ni=1Xi?nμn√σ≤x)=Φ(x),Φ(x) 是标准正态分布

这里也因为不是特殊分布，所以关注的是整体的特点。记得
X???μσn√～Φ(x)

则：