概率论 Cheat Sheet 9：随机变量和的期望、分布函数的性质
Contents
1. 随机变量和的期望
期望的一个重要性质是一组随机变量的和的期望等于这组随机变量各自期望的和。
给定一个随机变量 $X$，则当 $s \in S$（即 $s$ 表示一次试验结果）时，$X(s)$ 表示此事随机变量 $X$ 的取值。现在，如果给定随机变量 $X$ 和 $Y$，那么它们的和任然是随机变量，即 $Z = X + Y$ 是随机变量。并且，$Z(s) = X(s) + Y(s)$ 成立。
令 $p(s) = P(\{s\})$ 表示 $s$ 作为随机试验的结果的概率，由于可以将任意的事件 $A$ 写为有限个或可数无限个互不相容的事件 $\{s\}$ 的和，$s \in A$，根据概率公理可得
\begin{equation}
P(A) = \sum_{s \in A} p(s)
\end{equation}
当 $A = S$ 时，上式等价于
\begin{equation}
1 = \sum_{s \in A} p(s)
\end{equation}
现在，给定随机变量 $X$，考虑它的期望 $E[X]$。由于 $X(s)$ 表示当 $s$ 作为试验结果时 $X$ 的取值，直观上 $E[X]$ 表示随机变量 $X$ 的可能取值的加权平均，其中 $X$ 的每个可能取值的权重为其渠道的试验结果的概率，即 $E[X]$ 应该等于 $X(s)$（$s \in S$）的加权平均，其中 $X(s)$ 的权重为 $s$ 作为试验结果的概率。
命题
\begin{equation}
E[X] = \sum_{s \in S} X(s)p(s)
\end{equation}
假设随机变量 $X$ 的不同取值为 $x_i$（$i \geq 1$）。对于每一个 $i$，令 $S_i$ 表示 $X$ 等于 $x_i$ 时的事件，即 $S_i = \{s: X(s) = x_i\}$，那么
\begin{align}
E[X] &= \sum_i x_i P\{X = x_i\} = \sum_i x_i P(S_i) = \sum_i x_i \sum_{s \in S_i} p(s) \\
&= \sum_i \sum_{s \in S_i} x_i p(s) = \sum_i \sum_{s \in S_i} X(s)p(s) \\
&= \sum_{s \in S} X(s)p(s) \qquad S_1, S_2, \cdots \; 是组成 \; S \; 的不相容事件
\end{align}
2. 分布函数的性质
对于 $X$ 的分布函数 $F$，$F(b)$ 表示随机变量取值小于等于 $b$ 的概率。分布函数的性质有
- $F$ 是一个非降函数，即如果 $a < b$，那么 $F(a) \leq F(b)$。
- $\lim\limits_{b \rightarrow \infty} F(b) = 1$
- $\lim\limits_{b \rightarrow -\infty} F(b) = 0$
- $F$ 是右连续的，即对于任意 $b$ 和一个单调递减收敛于 $b$ 的序列 $b_n$（$n \geq 1$），有 $\lim\limits_{n \rightarrow \infty} F(b_n) = F(b)$。