为了对序列的自相关系数进行推断，Box 和 Pierce 提出了 Portmanteau 统计量 \begin{equation} Q^*(m) = T \sum_{i=1}^m r_i^2 \tag{1} \end{equation} 其中 $T$ 为序列长度，$r_i$ 为样本自相关系数。在某些情况下，$Q^*(m)$ 趋近于自由度为 $m$ 的 $\chi^2$ 分布，即 \begin{…
Read more

　　使用 ACF 和 PACF 图像可以在一定程度上帮助我们确定数据所符合的模型及其阶数，但面对实际的数据时，往往会发现多个模型都能较好地拟合数据。 　　假设有一个时间序列 ts.data 如图 1 所示，计算其 ACF 和 PACF 图像如图 2、图 3 所示。 可见 ACF 图像呈现连续衰减，PACF 图像在滞后为 $2$ 处截断，这看上去像是一个 $\mathrm{AR}(2)$ 过程，但比…
Read more

1. $\mathrm{AR}(2)$ 　　考虑 $\mathrm{AR}(2)$ 过程 \begin{equation} X_t = \phi_1 X_{t-1} + \phi_2 X_{t-2} + e_t \tag{1} \end{equation} 其中 $e_t \sim N(0, \sigma_e^2)$，$e_t$ 独立于 $X_{t-1}, X_{t-2}, \cdots$，并假设…
Read more

1. Yule-Walker 方程的矩阵形式 　　对于 $p$ 阶自回归过程 $AR(p)$ \begin{equation} X_t = \phi_1 X_{t-1} + \phi_2 X_{t-2} + \cdots + \phi_p X_{t-p} + e_t \tag{1} \end{equation} 其中 $e_t \sim N(0, \sigma_e^2)$，$e_t$ 独立于 $X…
Read more

1. 问题 　　在 $\mathrm{AR}(p)$ 过程中，每个时刻的值都与历史时刻相关，导致其自相关函数呈现逐渐衰减，而不会像 $\mathrm{MA}(q)$ 那样出现截断。我们希望能够单独分析两个时刻随机变量之间的相关性，而不受其他时刻的影响，这样就可以方便地确定 $\mathrm{AR}(p)$ 过程的阶数。 2. 偏自相关的一般例子 　　看一个更一般的例子。R 中 isdals 包的 …
Read more

1. 例子 　　假设有 $\mathrm{MA}(2)$ 过程 \begin{equation} X_t = \frac{1}{3} X_{t-1} + \frac{1}{2} X_{t-2} + e_t \tag{1} \end{equation} 其中 $e_t$ 为独立于 $X_{t-k}$（$k=1,2,\cdots$）的均值为 $0$、方差为 $\sigma_e^2$ 的白噪声。其特征多…
Read more

1. 定义 　　在前文中给出的 $MA(q)$ 过程的定义使用了递归的形式，例如 $X_t = \phi X_{t-1} + e_t$，使用 $\{X_t\}$ 在 $t-1$ 时刻的值 $X_{t}$来定义 $X_t$。更一般地，形如 \begin{equation} y_n = a_1 y_{n-1} + a_2 y_{n-2} + \cdots + a_n y_{n-k} +…
Read more

1. 将 $\mathrm{AR}(p)$ 表示为 $\mathrm{MA}(\infty)$ 　　在前文中提到，当 $\mathrm{AR}(p)$ 过程平稳时，$\mathrm{AR}(p)$ 可以表示为 $\mathrm{MA}(\infty)$ 的形式。对于 $\mathrm{AR}(p)$ 过程 \begin{equation} X_t = \phi_1 X_{t-1} + \phi_2…
Read more

　　对于随机过程 $\{X_n\}$ 和随机变量 $X$，当 $n \rightarrow \infty$ 时，若 \begin{equation} E[(X_n – X)^2] \rightarrow 0 \tag{1} \end{equation} 则称 $X_n$ 均方收敛于 $X$。 　　前文中将 $\mathrm{MA}(1)$ 过程 $X_t = e_t +…
Read more