数理统计 Cheat Sheet 6:点估计
估计和假设检验是统计推断所研究的两大基本问题,其中对总体参数的估计主要分为点估计和区间估计。 点估计问题指的是当总体 $X$ 的分布函数的形式已知,而它的一个或多个参数未知,借助于总体 $X$ 的一个样本来估计总体未知参数的值的问题。 点估计问题的一般提法为:设总体 $X$ 的分布函数 $F(x;\theta)$ 的形式为已知,$\theta$ 为待估计参数,$X_1, X_2, \c…
Read more
learn, build, evaluate
估计和假设检验是统计推断所研究的两大基本问题,其中对总体参数的估计主要分为点估计和区间估计。 点估计问题指的是当总体 $X$ 的分布函数的形式已知,而它的一个或多个参数未知,借助于总体 $X$ 的一个样本来估计总体未知参数的值的问题。 点估计问题的一般提法为:设总体 $X$ 的分布函数 $F(x;\theta)$ 的形式为已知,$\theta$ 为待估计参数,$X_1, X_2, \c…
Read more
对于任意分布的总体 $X$,设其均值和方差均存在,分别为 $\mu$ 和 $\sigma^2$;$X_1, X_2, \cdots, X_n$ 是来自 $X$ 的一个样本,$\overline{X}$ 和 $S^2$ 分别为样本均值和样本方差,则有 \begin{equation} E(\overline{X}) = \mu, \quad D(\overline{X}) = \sigma^2 …
Read more
统计量的分布称为抽样分布。在使用统计量进行统计推断时,常需要知道它的分布。当总体分布函数已知时,抽样分布是确定的,但要求出统计量的精确分布一般来说是困难的。以下给三个常用统计量的分布。 1. $\chi^2$ 分布 设 $X_1, X_2, \cdots, X_n$ 是来自总体 $N(0, 1)$ 的样本,则称统计量 \begin{equation} \chi^2 = X_1^2 + X_…
Read more
1. 随机样本 定义 设 $X$ 是具有分布函数 $F$ 的随机变量,若 $X_1, X_2, \cdots, X_n$ 是具有同一分布函数 $F$ 的、相互独立的随机变量,则称 $X_1, X_2, \cdots, X_n$ 为从分布函数 $F$(或总体 $F$、或总体 $X$)得到的容量为 $n$ 的简单随机样本,简称样本。它们的观察值 $x_1, x_2, \cdots, x_n$ 称为…
Read more
在现实中,有些事件的发生会受到大量相互独立的随机因素的影响,而其中每一个因素对事件的影响又是微弱的,此类事件往往近似服从正态分布。 1. 独立同分布的中心极限定理 定理一(独立同分布的中心极限定理)设随机变量 $X_1, X_2, \cdots, X_n, \cdots$ 相互独立,服从同一分布,且具有数学期望和方差 $E(X_k) = \mu, \; D(X_k) = \sigma^2 …
Read more
1. 辛钦大数定理 大量实验证实,随机事件 $A$ 的频率 $f_n(A)$ 随重复试验的次数 $n$ 的增大而稳定在一个常数附近,频率的稳定性是概率定义的客观基础,也符合直观上的认识。大数定律从理论上说明了频率的稳定性。 弱大数定理(辛钦大数定理)设 $X_1, X_2, \cdots$ 是相互独立、服从同一分布的随机变量序列,且具有数学期望 $E(X_k) = \mu$($k = 1,…
Read more
1. 中心极限定理 中心极限定理 设 $X_1, X_2, \cdots$ 为独立同分布的随机变量序列,其公共分布的均值为 $\mu$,方差为 $\sigma^2$。则随机变量 \begin{equation} \frac{X_1 + \cdots + X_n – n\mu}{\sigma \sqrt{n}} \tag{1} \end{equation} 的分布当 $n \righ…
Read more
在概率论中,极限定理是最重要的理论结果。极限定理中,最核心的是大数定律和中心极限定理。通常,大数定律是考虑随机变量序列的平均值(在某种条件下)收敛到某期望值。相比之下,中心极限定理证明大量随机变量之和的分布在某种条件下逼近正态分布。 马尔可夫不等式 设 $X$ 为取非负值得随机变量,则对于任何常数 $a > 0$,有 \begin{equation} P\{X \geq a\…
Read more
1. 多元正态分布 设 $Z_1, \cdots, Z_n$ 为 $n$ 个相互独立的标准正态随机变量,若 $X_1, \cdots, X_m$ 可以表示如下 \begin{align} X_1 &= a_{11}Z_1 + \cdots + a_{1n}Z_n + \mu_1 \\ X_2 &= a_{21}Z_1 + \cdots + a_{2n}Z_n +…
Read more
1. 矩母函数 随机变量 $X$ 的矩母函数 $M(t)$ 定义为 \begin{equation} M(t) = E[e^{tX}] = \begin{cases} \sum_x e^{tx} p(x) & 若 \; X \; 离散,分布列为 \; p(x) \\ \int_{-\infty}^{\infty} e^{tx} f(x) \mathrm{d}x &…
Read more