概率论的基本概念
随机试验
- 可以在相同条件下重复地进行；
- 每次试验的可能结果不止一个，并且能事先明确试验的所有可能结果；
- 进行一次试验前不能确定哪一个结果会出现。
样本空间、随机事件
随机试验 \(E\) 的所有可能结果组成的集合称为 \(E\) 的样本空间，记为 \(S\)。样本空间中的元素，即 \(E\) 的每一个结果，称为样本点。
称试验 \(E\) 的样本空间 \(S\) 的子集为 \(E\) 的随机事件，简称为事件。在每次试验中，并且仅当这个子集中的一个样本点出现时，称这一事件发生。特别的由一个样本点组成的单点集称为基本事件。
等可能事件（古典概型）
- 试验中的样本空间只包含有限个元素；
- 试验中的每个基本事件发生的可能性相同。
条件概率
条件概率定义 设 \(A\)，\(B\) 是两个事件，且 \(P(A) > 0\)，称
\[ P(B | A) = \frac{P(AB)}{P(A)} \]
为在事件 \(A\) 发生的条件下事件 \(B\) 发生的条件概率。
乘法定理定义 设 \(P(A) > 0\)，则有
\[ P(AB) = P(B | A) P (A) \]
上式称为乘法公式。
可以将乘法公式推广到多项。设 \(A_1\)，\(A_2\)，\(\cdots\)，\(A_n\) 为 \(n\) 个事件，且 \(P(A_1 A_2 \cdots A_{n - 1}) > 0\)，则有
\[ P(A_1 A_2 \cdots A_n) = P(A_n | A_1 A_2 \cdots A_{n - 1}) \cdots P(A_2 | A_1) P(A_1) \]
全概率公式与贝叶斯公式
划分定义 设 \(S\) 为试验 \(E\) 的样本空间，\(B_1\)，\(B_2\)，\(\cdots\)，\(B_n\) 为 \(E\) 的一组事件，若
- \(B_i B_j = \phi\)，\(i \neq j\)，\(j = 1, 2, \cdots, n\)；
- \(B_1 \cup B_2 \cup \cdots B_n = S\)。
全概率公式
设试验 \(E\) 的样本空间为 \(S\)，\(A\) 为 \(E\) 的事件，\(B_1\)，\(B_2\)，\(\cdots\)，\(B_n\) 为 \(S\) 的一个划分，且 \(P(B_i) > 0(i = 1, 2, \cdots, n)\)，则
\[ P(A) = P(A | B_1) P(B_1) + P(A | B_2) P(B_2) + \cdots + P(A | B_n) P(B_n) \]
贝叶斯公式
设试验 \(E\) 的样本空间为 \(S\)，\(A\) 为 \(E\) 的事件，\(B_1\)，\(B_2\)，\(\cdots\)，\(B_n\) 为 \(S\) 的一个划分，且 \(P(A) > 0\)，\(P(B_i) > 0(i = 1, 2, \cdots, n)\)，则
\[ P(B_i | A) = \frac{P(A | B_i) P(B_i)}{\sum\limits_{j = 1}^{n} P(A | B_j) P(B_j)}, \quad i = 1, 2, \cdots, n \]
独立性
独立定义 设 \(A\)，\(B\) 是两事件，如果满足等式
\[ P(AB) = P(A) P(B) \]
则称事件 \(A\)，\(B\) 相互独立，简称 \(A\)，\(B\) 独立。
- 设 \(A\)，\(B\) 是两事件，且 \(P(A) > 0\)。若 \(A\)，\(B\) 相互独立，则 \(P(B | A) = P(B)\)，反之亦然。
- 若事件 \(A\) 和 \(B\) 相互独立，则 \(A\) 与 \(\bar{B}\)，\(\bar{A}\) 和 \(B\)，\(\bar{A}\) 和 \(\bar{B}\) 各对事件也相互独立。
相互独立的定义 设 \(A\)，\(B\)，\(C\) 是三个事件，如果满足等式
\[ \begin{cases} &P(AB) = P(A) P(B) \\ &P(BC) = P(B) P(C) \\ &P(AC) = P(A) P(C) \\ &P(ABC) = P(A) P(B) P(C) \end{cases} \]
则称事件 \(A\)，\(B\)，\(C\) 相互独立
扩展到 \(n\) 个事件，一般地，设 \(A_1\)，\(A_2\)，\(\cdots\)，\(A_n\) 是 \(n(n \geq 2)\) 个事件，如果对于其中任意 \(2\) 个，任意 \(3\) 个，\(\cdots\)，任意 \(n\) 个事件的积事件的概率，都等于个事件概率之积，则称事件 \(A_1\)，\(A_2\)，\(\cdots\)，\(A_n\) 相互独立。
此外，相互独立又有如下性质
- 若事件 \(A_1\)，\(A_2\)，\(\cdots\)，\(A_n\) 相互独立，则其中任意 \(k\) 个事件也是相互独立的；
- 若 \(n\) 个事件 \(A_1\)，\(A_2\)，\(\cdots\)，\(A_n\) 相互独立，则将 \(A_1\)，\(A_2\)，\(\cdots\)，\(A_n\) 中任意多个事件换成它们各自的对立事件，所得的 \(n\) 个事件仍然相互独立。