概率论复习（1，2）

2016-04-23

一篇用于自我复习，管理概率论知识点的文章

不间断更新

Created By 高松 16/4/18

Copyright © Yisa . All rights reserved.

Notes Saved: https://github.com/Yisaer/Notes

##复习提纲

第一章：
- 随机事件概率
- 古典概型
- 条件概率
- 事件独立性
第二章：
- 离散型随机变量及其概率分布
- 随机变量分布函数
- 连续型随机变量及其概率密度
- 随机变量的分布

###第一章：随机事件及其概率

####事件的关系与运算：
A⊂B 事件A是事件B的子事件
A=B 事件A与事件B相当
A∪B 含义：A,B中至少有一个发生
A∩B 事件A与事件B的交，记作AB，含义为事件A,B当且仅当同时发生
A-B 事件A与事件B的差，当且仅当事件A发生，且事件B不发生
A∩B = ∅ 则称事件A与事件B是互不相容的，或称是互斥的，含义：事件A与事件B不能同时发生
若A∪B = S 且 A∩B = ∅ 则称事件A与事件B互为对立事件。
注：两个互为对立的事件一定是互斥事件，反之，互斥事件不一定是对立事件，
互斥的概念适用于多个事件，但是对立概念只适用于两个事件。
易见：
1）A（A逆） = ∅
2）A ∪ （A逆） = S
3）A逆 = S - A
4）若 A⊂B 则A∪B = A∪（B-A）=（A-B）∪B

完备事件组： 1）Ai ∩ Aj=∅ 2）∪i Ai = S 则称A1....Ai...是一个完备事件组

####事件的运算规律
交换律： A∪B = B∪A ，A∩B = B∩A
结合律：（A∪B）∪C = A∪(B∪C）
(A∩B)∩C = A∩（B∩C）
分配律：（A∪B）∩C = （A∩C）∪（B∩C）
（A∩B）∪C = （A∪C）∩（B∪C）
自反律： ((A的逆)逆)=A
对偶律：（A∪B）的逆 = A逆 ∩ B逆

（A∩B）的逆 = A逆 ∪ B逆

####概率的性质
性质1：P（∅）=0
性质2：有限可加性，设A1，A2，… An是两两不相容事件
则有： P（A1 ∪ A2 ∪…. An） = P(A1)+P(A2)…P(An)
性质3： P（A的逆）=1-P（A）
性质4 P（A-B）=P（A）- P（AB）
1)特别地若B⊂A 则P(A-B) = P(A)-P(B)
2)P(A)>= P(B)
性质5：对于任一事件，P（A）<=1
性质6：对任意两个事件A，B，有
P（A∪B）=P（A）+P(B)-P(AB)
对任意三个事件A,B,C
P（A∪B∪C）=P（A）+P（B）+P（C）-P（AB）-P（BC）-P（AC）+P（ABC）

####古典概型

古典概型：1）只有有限个可能的结果  2）每个结果的发生的可能性相等
事件（A）发生的概率：
    P（A）=P（U j=1->k Aij）
    = ∑j=1->k P(Aij)=k/n=A包含的事件数/S中的基本事件数字
排列组合：
    加法原理：
        完成一件事有m种方式，第i种方式有ni种方法，则完成该件事情的方法总数为：
        n1+n2+....nm
    乘法原理：
        完成一件事情有m个步骤，其中第i步有ni种方法，必须通过m个步骤的每一步
        才能完成该事件，则完成该事件的方法总数为：
        n1*n2*n3*n4....*nm

####条件概率
定义1：设A，B是两个事件，且P（A）>0
则称P（B|A）=P（AB）/P（A）
表示为在事件A发生的条件下，事件B的发生概率

乘法公式：
    P(AB)=P(A)P(B|A) （P（A）>0）
    由对称性可得，P（AB）=P（B）P（A|B） (P（B）>0)
全概率公式：
    全概率公式是讲一个复杂事件的概率问题，转换为在不同情况下发生的简单事件
    的概率的求和问题
    设A1，A2，...An...是一个完备事件组，且P（Ai）>=0 i=1,2,...
    则对任意事件B，有
    P(B)=P(A1)P(B|A1)+...P(B)P(B|An)...
    =∑P(Ai)(B|Ai)


贝叶斯公式：
    贝叶斯公式在一个事件已经发生，考察引发改时间发生的各种原因或情况的可能性大小
    设A1,A2....An...是一个完备事件组，
    P（Bi|A）= P（AiB）/P(B)
    =P(Ai)P(B|Ai) / ∑ P(Aj)(B|Aj) i=1,2,...

####事件独立性
两个事件的独立性：
若事件A，B满足：P(AB)=P(A)P(B)
则称A,B相互独立
定理1：
若A,B相互独立，且P（B）>0,则P（A|B）=P（A）反之亦然
定理2：
若A,B相互独立，则A与B的逆，A的逆与B，A的逆与B的逆相互独立

伯努利概型：
    设随机试验只有两种可能的结果，A发生或者A不发生，则称这样的试验为伯努利实验
    将伯努利试验在相同条件下试验n次，称这一串重复的独立试验为伯努利概型
伯努利定理：
    在一次试验中，事件A发生的概率为p，则在n重伯努利试验中，事件A发生k此的概率为
    C(n,k)*p^k *(1-p)^(n-k)

###第二章：随机变量及其分布

####离散型随机变量：
X是一个随机变量，如果它全部可能的取值只有有限个或可数无穷个，则称X是
一个离散型随机变量
P{X=xi} = pi ,i =1,2,3…
称为X的概率分布或分布律，也称概率函数↑

常用离散分布：
    1.两点分布：
        若一个随机变量X只有两个可能取值，且其分布为
        P{X=xi} = p , P{X=x2} = 1- p
        则称X服从x1,x2处参数为p的两点分布。
        特别的，当x1=1,x2=0处参数为p的两点分布，则称X服从参数为p的0-1分布

    2.二项分布：
        P{X=k} = C(n,k)*p^k *(1-p)^(n-k)
        若一个随机变量X的概率分布由↑给出，则称X服从参数为n,p的二项分布
        记作：X~b(n,p) 或者B(n,p)

    3.泊松分布：
        若一个随机变量X的概率分布为
        P{X=k} = e^-λ *（λ^k） / k!
        则称X服从参数为λ的泊松分布，记为X~P（λ）
        泊松定理：
            对于二项分布b(n,p) 当n>=100,np<=10时，
            令λ = n*p
            C(n,k)*p^k *(1-p)^(n-k) ≈ e^-λ *（λ^k） / k!

####随机变量分布函数
设F(X)=P{X<=x} (-∞<x<+∞)
为X的分布函数
性质：
1）单调非减
2）F（-∞） = 0，F(+∞)= 1
3) 右连续性

离散型随机变量的分布函数：
    F(x) = P{X<=x} = ∑ xi<=x P{X=xi} = ∑ xi<=x Pi
    若一个随机变量的分布函数为阶梯形函数，则X一定是一个离散型随机变量，反之亦然。

连续型随机变量及其概率密度
    定义： 如果对随机变量X的分布函数F(x) 存在非负可积函数f(x),使得对任意实数x
    有： F(x) = P {X<=x} = ∫-∞->x f(t)dt
    则称X为连续型随机变量，f(x)为X的概率密度函数，简称为概率密度或密度函数
    密度函数性质：
        1）f(x)>= 0 
        2) ∫-∞->+∞ f(x)dx = 1
    反之，若一个函数满足上述性质，则该函数一定可以作为某连续型随机变量的密度函数

####连续型随机变量分布函数性质：
1）对一个连续型随机变量X，若已知其密度函数f(x),则根据定义可求得F(x),
同时还可求得X的值落在任意区间(a,b]上的概率
2）连续型随机变量X取任一指定值a的概率为0，因为
P{X=a} = lin△x->0+ P{a-△x0+ ∫ a-△x -> a f(x)dx
= 0
注：连续型随机变量X取任意值a的概率为0，说明概率为0的时间不一定是不可能事件
3）若f(x)在点x处连续，则
F‘(x) = f(x)

常用连续型分布：

    1.均匀分布：
        若连续型随机变量X的密度函数为
                f(x)= 1/(b-a) a<x<b
                       0,     其他
       则称X在区间(a,b)上服从均匀分布，即为X~U（a,b）
                      0,           x <  a
      F(x) = (x-a)/(b-a)    a<= x <  b
                   1            x >= b

   2.指数分布：
       若连续型随机变量X的密度函数为
       f(x) = λe^(-λ x) x>0  ， λ>0
               0,        其他
       则称X服从参数为λ 的指数分布，记为X~e(λ )
       F(x) = 1-e^(-λ x) ,x>0
                0 ,       其他

       注： 指数分布无记忆性： P{X>s+t|X>s} = P{X>t}

3.正态分布：

定理1：设X~(μ,σ),则Y = X-μ/σ ~N（0，1）

####随机变量函数的分布
定义1：如果存在一个函数g(x),使得随机变量X，Y满足
Y=g(X)
则称随机变量Y是随机变量X的函数
因此，随机变量Y与X的函数关系的确定，为我们从X的分布出发导出Y的分布提供了可能
P{Y<=x} = P{X²<=x} = p{-√x <= x <= √X}
P{Y=x} = P{X² =x} = P{X=-√x} +P{X = √x}

离散型随机变量函数的分布
    P{X=xi} = pi, i=1,2,3...
    X的函数的Y=g(X)显然还是离散型随机变量
    由X得概率分布出发导出Y的概率分布，一般方法是：根据自变量X的可能取值确定
    因变量Y的所有可能取值，然后对Y的每一个可能取值yi确定相应的：
        Ci = { xj | g(xj) = yi} ,
        {Y=yi} = {g(X)=yi} = {X∈Ci},
    于是 P{Y=yi} = P{X∈Ci} = ∑ xj∈Ci P{ X = xj }

连续型随机变量函数的分布
    Fy(Y) = P{Y<=y} = P{ g(X)<=y} = P{ X∈ Cy}
    其中        Cy  = { x|g(x)<=y}
    而P {X∈Cy} 常常可由X的分布函数F(X) 来表达或用其密度函数fx(x)的积分表达
        FY(y)= ∫Cy  f(x)dx
    定理1：
        设随机变量X具有概率密度f(x),x∈（-∞,+∞）又设g(x)处处可导，且g'(x)>0或者g'(x)<0 则Y=g(X)是一个连续型随机变量，其密度函数为
            fy(y) = fx[h(y)]|h'(y)| , a<y<b
                            0           其他
      其中x = h(y) 是y = g(x)的反函数
      a = min(g(-∞)，g(+∞)) b= max(g(-∞),g(+∞))