跳到正文
MathCheng数学讲义

概率与统计

条件概率与独立性

用条件缩小样本范围,按来源计算总概率,再用观测结果更新来源概率。

知识点

  • P(B\mid A) 表示在 A 发生的条件下 B 发生的概率,要求 P(A)>0。此时样本范围缩小到 A。
  • P(A\cap B) 表示 A,B 同时发生。独立表示一个事件发生所提供的信息不会改变另一个事件的概率。两个事件若互斥且概率都为正,则 P(A\cap B)=0<P(A)P(B),所以它们不独立。
  • 将样本空间划分成若干互斥且覆盖全部结果的事件,可按这些事件分别计算目标事件的概率。已知目标事件发生后,可用贝叶斯公式计算其来自各类的条件概率。

公式速查

  • 若 P(A)>0,则
P(B\mid A)=\frac{P(A\cap B)}{P(A)}.
  • 乘法公式为 P(A\cap B)=P(A)P(B\mid A)。A,B 独立当且仅当 P(A\cap B)=P(A)P(B)。在 P(A)>0 时,也可检验 P(B\mid A)=P(B)。
  • 设 A_1,\ldots,A_m 两两互斥且并集为样本空间,各 P(A_i)>0。全概率公式为
P(B)=\sum_{i=1}^m P(A_i)P(B\mid A_i).
  • 在上述条件下,若还满足 P(B)>0,对任意 j=1,\ldots,m,贝叶斯公式为
P(A_j\mid B)=\frac{P(A_j)P(B\mid A_j)}{\sum_{i=1}^m P(A_i)P(B\mid A_i)}.

基础公式推导

在有限等可能模型中,样本空间 \Omega 有 |\Omega| 个结果。已知 A 发生后,总结果数变为 |A|,其中符合 B 的结果数为 |A\cap B|。以符合条件的结果数除以新的总结果数,再将分子、分母各除以 |\Omega|,得到

\begin{aligned} P(B\mid A)&=\frac{|A\cap B|/|\Omega|}{|A|/|\Omega|}\\ &=\frac{P(A\cap B)}{P(A)}. \end{aligned}

一般概率模型也用这个概率之比定义条件概率。两边同乘 P(A) 得到乘法公式。

进阶公式推导

由全概率求来源的条件概率。 由于 A_1,\ldots,A_m 构成一个划分,B 发生的每个结果恰好属于某个 B\cap A_i。这些交事件两两互斥,将其概率相加并使用乘法公式,得到

\begin{aligned} P(B)&=\sum_{i=1}^m P(A_i\cap B)\\ &=\sum_{i=1}^m P(A_i)P(B\mid A_i). \end{aligned}

现在将 B 作为已知条件。B 中来自第 j 类的部分是 A_j\cap B,其概率为 P(A_j)P(B\mid A_j)。将这一项除以上式给出的总概率 P(B),得到贝叶斯公式。

典型例题

例 1 · 不放回抽球

袋中有 5 个红球、3 个蓝球,先后不放回各随机抽一个。已知第一个是蓝球,求第二个是红球的概率,并判断这两个事件是否独立。

解析与答案

已知第一个是蓝球后,袋中剩下 5 个红球和 2 个蓝球,所以第二个是红球的条件概率为 \frac57。

无条件时,每个球出现在第二个位置的概率相同,第二个为红球的概率为 \frac58。条件概率与无条件概率不等,所以「第一个为蓝球」与「第二个为红球」不独立。

例 2 · 已知至少答对一道

两道题是否答对相互独立,答对的概率分别为 \frac34 和 \frac23。已知至少答对一道,求两道都答对的概率。

解析与答案

由独立性,两道都答对的概率为 \frac34\cdot\frac23=\frac12,两道都答错的概率为 \frac14\cdot\frac13=\frac1{12}。所以至少答对一道的概率为 1-\frac1{12}=\frac{11}{12}。

「两道都答对」蕴含「至少答对一道」,两者的交事件就是「两道都答对」。条件概率为 \frac{1/2}{11/12}=\frac6{11}。