概率论基础：事件与概率

概率论基础：事件与概率

引用

CSDN

1.

https://m.blog.csdn.net/l15202833159/article/details/142827057

一、事件

1、概率

1.1基本事件
基本事件是指试验中不可再分的最简单的事件。每个基本事件代表一个单一的可能结果。（e.g. 抛一枚硬币：基本事件是“正面”和“反面”。）

1.2复合事件
复合事件是由多个基本事件组合而成的事件，代表多个可能结果的集合。（e.g.抛两枚硬币：复合事件可以是“至少一个正面”，这个事件包含“正面-正面”、“正面-反面”和“反面-正面”三个基本事件）

1.3必然事件
必然事件是指在试验中一定会发生的事件。必然事件的概率为1。在样本空间中，必然事件包括了样本空间中的所有样本点。

1.4不可能事件
不可能事件是指在试验中绝对不会发生的事件。不可能事件的概率为0。通常用∅表示。

1.5样本空间
样本空间是指试验中所有可能结果的集合。通常用大写字母 Ω 表示。

1.6样本点
样本点是指样本空间中的每一个元素，即每一个可能的结果。样本点通常用小写字母ω表示。

2、事件间的关系

2.1包含关系
包含关系是指一个事件是另一个事件的子集。如果事件 A 包含在事件 B 中，那么 A 发生时，B 必然发生，即：A⊆B

2.2并集
并事件是指两个或多个事件中至少有一个事件发生的情况。
事件 A 和事件 B 的并事件记作 A∪B或A+B，表示 A 或 B 发生。

2.3交集
交事件是指两个或多个事件同时发生的情况。
事件A 和事件 B 的交事件记作 A∩B或AB，表示 A 和 B 同时发生。

2.4差集
如果事件 A 发生而事件 B 不发生，则表示这些事件的差集发生了，即将事件A中的A和B的公共部分去掉。
事件 A 和 B 的差集表示为 A−B

2.5互斥事件
互斥事件是指两个事件不能同时发生。
如果事件A 和事件 B 是互斥事件，那么 A 和 B 的交集为空集，即：AB=∅

2.6对立事件
对立事件是指两个事件互为对立，即一个事件发生时，另一个事件必然不发生。
如果事件 A 和事件 B 是对立事件，那么 A 和 B 的并集是样本空间，且 A 和 B 的交集为空集，即：A+B=Ω且AB=∅
通常，事件 A 的对立事件记作 A' 或 A^c

互斥和对立事件的区别：
1.两个事件对立，则一定是互斥事件
2.互斥事件适用于多个事件，对立适用于两个事件
3.互斥事件，A和B不能同时发生，也可以都不发生；对立事件有且只有一个发生。

2.7完备事件组
完备事件组是一组事件，它们满足以下两个条件：

1. 互斥性：完备事件组中的任意两个事件不能同时发生。也就是说，这些事件两两互斥。
2. 完备性：完备事件组中的事件涵盖了样本空间中所有可能的结果，并且至少有一个事件必然发生。换句话说，这些事件的并集是整个样本空间，且它们的并集是必然事件。

3、运算律

3.1交换律
交换律是指事件的并集和交集运算满足交换性，即运算的顺序不影响结果。

• A∪B=B∪A
• A ∩B=B ∩A

3.2结合律
结合律是指事件的并集和交集运算满足结合性，即多个事件的运算顺序不影响结果。

• (A∪B)∪C=A∪(B∪C)
• (A∩B)∩C=A∩(B∩C)

3.3分配律
分配律是指事件的并集和交集运算满足分配性，即一个运算对另一个运算的分配关系。

• A∪(B∩C)=(A∪B)∩(A∪C)
• A∩(B∪C)=(A∩B)∪(A∩C)

3.4对偶律
对偶律是指事件的补集运算的对偶关系，即并集的补集和交集的补集之间的关系。

• 第一对偶律：(A∪B)' = A' ∩ B'
• 第二对偶律：(A∩B)' = A' ∪ B'

二、概率

1、定义

对于一个事件 A，其概率 P(A) 定义为：
P(A) = (事件A包含的基本事件数) / (样本空间的基本事件总数)

2、古典模型

古典概率模型，也称为古典模型或等可能模型，是一种概率论中用于计算随机事件发生概率的方法。 基于以下假设：

1. 有限性：样本空间是有限的，即所有可能的结果可以被列举出来。
2. 等可能性：样本空间中的每个基本事件（样本点）出现的可能性是相等的。

在古典模型中，一个事件的概率可以通过以下公式计算：
P(A) = (事件A包含的基本事件数) / (样本空间的基本事件总数)

3、排列（不重复排列）

给定一个包含 n 个元素的集合，从中选择 r 个不同元素（r≤n）进行排列。
排列通常用 P(n,r)表示，读作“n 个中取 r个的排列数”。
其计算公式为：

4、组合

给定一个包含 n 个元素的集合，从中选择 r 个不同元素（r≤n）进行组合，意味着这 r 个元素的顺序并不重要。
组合通常用 C(n,r) 或者 (n choose r) 表示，读作“n 选 r”或“二项式系数”。
其计算公式为：
C(n,r) = P(n,r) / r! = n! / [r!(n-r)!]

其性质：

对称性：C(n,r)=C(n,n−r)

边界条件：C(n,0)=C(n,n)=1

当 r>n 时，C(n,r)=0

5、几何模型

几何概型是概率论中的一个基本概念，它用于处理那些结果可以被表示为几何区域（如线段、平面区域、立体区域等）的随机试验的概率问题。
其基本思想是将概率问题转化为几何区域上的面积、体积或长度等几何量的比值。

其计算公式：
如果事件 A 对应的几何区域的度量为 m(A)，样本空间 Ω 的度量为 m(Ω)，则 A 的概率 P(A)为：
P(A) = m(A) / m(Ω)

6、频率

频率是一个经验概念，它通过实际观察或实验来确定。频率是某个事件在一系列重复实验中发生的次数与总实验次数之比。
频率的值可以是任何非负实数，包括0（事件一次也没发生）和任意正数（事件多次发生）。

概率与频率的关系

大数定律：随着实验次数的增加，事件发生的频率趋近于其概率。

长期稳定性：在大量重复实验中，频率的稳定性可以作为概率的一个估计。

经验估计：在没有理论模型的情况下，可以通过频率来估计概率。

7、基本性质（公理化）

• 非负性：对于任意事件 A，有 P(A)≥0。
• 规范性：必然事件的概率为1，即 P(Ω)=1。
• 可加性：对于事件 A 和 B，有 P(A+B)=P(A)+P(B)。

性质1：P(∅)=0
性质2：P(A') = 1 - P(A)
性质3：如果 A 和 B 是互斥事件，则 P(A+B) = P(A) + P(B)
性质4：P(A+B)=P(A)+P(B)-P(AB)
性质4是可加性的一般性描述，如果A和B互斥那么AB为空集，则P(AB)=0。
性质4在多个事件中的运用：P(A+B+C)=P(A)+P(B)+P(C)-P(AB)-P(AC)-P(BC)+P(ABC)

8、条件概率

条件概率用于描述在已知某一事件发生的情况下，另一事件发生的概率。
条件概率通常表示为 P(A∣B)，读作“在事件 B 发生的条件下，事件 A 发生的概率”。

说明：
P(A)：无条件概率，样本空间为Ω
P(A|B)：条件概率，样本空间不再是Ω，而是B或者B'

所以条件概率定义公式中P(B)为B事件发生的总事件数概率，P(A∩B)是在B发生的条件下A发生的事件概率，即A和B共同发生的事件概率。

基本性质

非负性：对于任意事件 A和B，有 P(A|B)≥0。

规范性： P(Ω|B)=1。

可加性：对于互斥事件 A1, A2, ..., An，有 P(A1∪A2∪...∪An|B) = P(A1|B) + P(A2|B) + ... + P(An|B)

乘法公式
条件概率的乘法公式是：
P(AB) = P(A|B) * P(B)
这个公式说明了事件 A 和事件 B 同时发生的概率等于事件 B 发生的概率乘以在 B 发生的条件下 A 发生的概率。

更多事件下：如果有A、B、C事件
P(ABC) = P(A|BC) * P(B|C) * P(C)

9、全概率公式

假设事件 A1,A2,...,An 是样本空间 Ω 的一个完备事件组，即这些事件两两互斥，并且它们的并集是整个样本空间。如果想计算事件 B 的概率，可以使用全概率公式：
P(B) = P(A1)P(B|A1) + P(A2)P(B|A2) + ... + P(An)P(B|An)

计算某一事件的总概率，通过将其分解为多个互斥事件的条件概率之和。

10、贝叶斯公式

贝叶斯公式描述了在已知其他条件概率的情况下，一个条件概率的计算方法。
贝叶斯公式是逆概率理论的核心，它允许我们根据已知的某些概率来更新我们对另一个概率的信念。

如果事件 B1,B2,...,Bn是样本空间 Ω 的一个完备事件组，即这些事件两两互斥且它们的并集是整个样本空间，那么对于任意事件 A，贝叶斯公式可以表示为：
P(Bi|A) = [P(A|Bi) * P(Bi)] / P(A)

其中：

P(Bi∣A) 是在事件 A 发生的条件下事件 Bi发生的条件概率(后验概率)。

P(A∣Bi)是在事件 Bi发生的条件下事件 A 发生的条件概率(似然度)。

P(Bi)是事件 Bi发生的边缘概率(先验概率)。

P(A)是事件 A 发生的边缘概率(先验概率)，可以通过全概率公式计算得出：
P(A) = P(A|B1)P(B1) + P(A|B2)P(B2) + ... + P(A|Bn)P(Bn)

说明：事件A理解为结果，在已知事件A的条件下，事件Bi发生的概率即为贝叶斯公式。

11、事件独立性

如果两个事件是独立的，那么一个事件的发生不会影响另一个事件发生的概率。

条件概率与独立性
如果事件 A 和事件 B 是独立的，那么事件 A 在事件 B 发生的条件下的条件概率 P(A∣B)等于事件 A 的先验概率 P(A)： P(A∣B)=P(A)
同样地，事件 B 在事件 A 发生的条件下的条件概率 P(B∣A)等于事件 B 的先验概率 P(B)：P(B∣A)=P(B)
故由条件概率公式可知：P(AB) = P(A) * P(B)

定义
设 A 和 B 是两个事件。如果满足以下条件，则称事件 A 和事件 B 是独立的：
P(AB)=P(A)⋅P(B)

其中：

P(AB)是事件 A 和事件 B 同时发生的概率（联合概率）。

P(A)是事件 A 发生的概率。

P(B) 是事件 B 发生的概率。

独立性的性质

1. 对称性：如果 A 和 B 独立，那么 B 和 A 也独立。
2. 传递性：如果 A 与 B 独立，且 B 与 C 独立，那么 A 与 C 独立（仅当这些事件的联合概率分布是乘性的）。
3. 零概率事件：任何事件与零概率事件(P(A)=0)总是独立的。
4. 对立事件：如果 A 与 B 独立，那么 A 与其对立事件 A' 也独立。

定理
1.P(A)>0，P(B)>0，A、B独立的充分必要条件是P(AB)=P(A)⋅P(B)
2.P(A)>0，P(B)>0，互不相容和独立不会同时出现。

12、伯努利模型

伯努利模型是一种基础的概率模型，它描述了一个随机试验只有两种可能结果的情况：成功或失败。 这些结果用事件S和事件F来表示，其中S表示成功，F表示失败。
伯努利模型的关键特点是每次试验的结果是相互独立的，即前一次试验的结果不会影响后一次试验的结果，每次试验中成功的概率为p，失败的概率为1-p，并且这些概率对于每次试验都保持不变。

前置概念

1. 伯努利试验：

• 伯努利试验是一种特殊类型的随机试验，其结果只有两种可能：成功或失败。
• 伯努利试验的结果是二元的，通常用1表示成功，用0表示失败。

2. n重伯努利试验：

• n重伯努利试验是指伯努利试验重复进行n次，每次试验都是独立的。
• 在n重伯努利试验中，每次试验的成功概率相同，通常用p表示，失败概率为1-p。

定义
设试验成功的概率为 p(0<p<1)，失败的概率为 1−p，如果在n重伯努利实验中，成功k次的概率参数为 p 的伯努利分布。
伯努利分布的概率质量函数（PMF）为：
P(X=k) = C(n,k) * p^k * (1-p)^(n-k)

其中，k 是成功的次数，C(n,k) 是组合数，表示从n次试验中选择k次成功的不同方式。

上述公式也叫做二项概率公式，该公式可以用于二项式的展开公式：
(a+b)^n = C(n,0)a^n + C(n,1)a^(n-1)b + ... + C(n,n)b^n