时间序列分析：通过 AR(∞) 分析 MA(q)

Author: nex3z 2019-07-20

1. 将 $\mathrm{AR}(p)$ 表示为 $\mathrm{MA}(\infty)$

　　在前文中提到，当 $\mathrm{AR}(p)$ 过程平稳时，$\mathrm{AR}(p)$ 可以表示为 $\mathrm{MA}(\infty)$ 的形式。对于 $\mathrm{AR}(p)$ 过程

$$\begin{equation} X_t = \phi_1 X_{t-1} + \phi_2 X_{t-2} + \cdots + \phi_p X_{t-p} + e_t \tag{1} \end{equation}$$

即

$$\begin{equation} \phi(B) X_t = e_t \tag{2} \end{equation}$$

其中

$$\begin{equation} \phi(B) = 1 – \phi_1 B – \phi_2 B^2 – \cdots – \phi_p B^p \tag{3} \end{equation}$$

于是可以 $\mathrm{AR}(p)$ 表示为 $\mathrm{MA}(\infty)$ 的形式

$$\begin{equation} X_t = \phi(B)^{-1} e_t = \frac{1}{1 – (\phi_1 B + \phi_2 B^2 + \cdots + \phi_p B^p)} e_t = (1 + \theta_1 B + \theta_2 B^2 + \cdots) e_t \tag{4} \end{equation}$$

2. 确定 $\mathrm{MA}(\infty)$ 的参数

　　接下来需要确定式 $(4)$ 中 $\mathrm{MA}(\infty)$ 的参数 $\{\theta_k\}$。以 $\mathrm{AR}(1)$ 过程

$$\begin{equation} X_t = \phi X_{t-1} + e_t \tag{5} \end{equation}$$

为例，可以通过直接计算式 $(4)$ 得到 $\{\theta_k\}$，此时 $\phi(B) = 1 – \phi B$，带入式 $(4)$，得

$$\begin{align} X_t &= \phi(B)^{-1} e_t = \frac{1}{1 – \phi B} e_t = (1 + \phi B + \phi^2 B^2 + \cdots) e_t \\ &= e_t + \phi e_{t-1} + \phi^2 e_{t-2} + \cdots \tag{6} \end{align}$$

于是可知 $\theta_k = \phi^k$。

　　确定 $\{\theta_k\}$ 的一种方法是使用式 $(5)$ 给出的递归定义，不断地替换等号右边的 $X_i$，即

$$\begin{equation} X_t = e_t + \phi X_{t-1} = e_t + \phi(\phi X_{t-2} + e_(t-1)) = e_t + \phi e_{t-1} + \phi^2 X_{t-2} \end{equation}$$

类似地

$$\begin{equation} X_t = e_t + \phi e_{t-1} + \phi^2 X_{t-2} = e_t + \phi e_{t-1} + \phi^2(\phi X_{t-3} + e_t) = e_t + \phi e_{t-1} + \phi^2 e_{t-2} + \phi^3 X(t-3) \end{equation}$$

以此类推，得到

$$\begin{equation} X_t = e_t + \phi e_{t-1} + \phi^2 e_{t-2} + \phi^2 e_{t-3} + \cdots \tag{7} \end{equation}$$

也可以得到 $\theta_k = \phi^k$。

3. $\mathrm{AR}(p)$ 的均值和方差

　　将式 $(1)$ 所示的 $\mathrm{AR}(p)$ 表示为式 $(4)$ 所示的 $\mathrm{MA}(\infty)$ 后，可以方便地计算过程的均值和方差

$$\begin{equation} E(X_t) = E[(1 + \theta_1 B + \theta_2 B^2 + \cdots)e_t] = E(e_t) + \theta_1 E(e_{t-1}) + \theta_2 E(e_{t-2}) + \cdots = 0 \tag{8} \end{equation}$$

$$\begin{align} \gamma_0 &= \mathrm{Var}(X_t) = \mathrm{Var}[(1 + \theta_1 B + \theta_2 B^2 + \cdots)e_t] \\ &= \mathrm{Var}(e_t) + \theta_1^2\mathrm{Var}(e_{t-1}) + \theta_2^2\mathrm{Var}(e_{t-2}) + \cdots \\ &= \sigma_e^2 \sum_{i=0}^\infty \theta_i^2 \tag{9} \end{align}$$

由式 $(9)$ 可知，为了使过程具有有限方差，要求 $\sum\limits_{i=0}^\infty \theta_i^2$ 收敛，这也是 $\mathrm{AR}(p)$ 平稳的必要条件。

4. $\mathrm{AR}(p)$ 的自相关

　　已知 $\mathrm{MA}(q)$ 的协方差函数为

$$\begin{equation} \gamma_k = \sigma_e^2 \sum_{i=0}^{q-k} \theta_i \theta_{i+k} \tag{9} \end{equation}$$

则如果将 $\mathrm{AR}(p)$ 看成是 $\mathrm{AR}(\infty)$，可以得到类似形式协方差函数为

$$\begin{equation} \gamma_k = \sigma_e^2 \sum_{i=0}^{\infty} \theta_i \theta_{i+k} \tag{10} \end{equation}$$

进而可以得到自相关函数

$$\begin{equation} \rho_k = \frac{\gamma_k}{\gamma_0} = \frac{\sigma_e^2 \sum\limits_{i=0}^{\infty} \theta_i \theta_{i+k}}{\sigma_e^2 \sum\limits_{i=0}^{\infty} \theta_i^2} = \frac{\sum\limits_{i=0}^{\infty} \theta_i \theta_{i+k}}{\sum\limits_{i=0}^{\infty} \theta_i^2} \tag{11} \end{equation}$$

　　回到式 $(5)$ 所示 $\mathrm{AR}(1)$ 的例子，此时 $\theta_k = \phi^k$，则由式 $(10)$ 可得协方差函数为

$$\begin{equation} \gamma_k = \sigma_e^2 \sum_{i=0}^{\infty} \phi^k \phi^{i+k} = \sigma_e^2 \phi^k \sum_{i=0}^\infty (\phi^2)^i = \sigma_e^2 \phi^k \frac{1}{1 – \phi^2} \tag{12} \end{equation}$$

$$\begin{equation} \rho_k = \frac{\gamma_k}{\gamma_0} = \frac{\sigma_e^2 \phi^k \frac{1}{1 – \phi^2}}{\sigma_e^2 \frac{1}{1 – \phi^2}} = \phi_k \tag{13} \end{equation}$$

这也与与前文 中直接推导得到的结果已知。