时间序列分析：可逆性

Author: nex3z 2019-07-17

1. $\mathrm{MA}$ 过程不唯一的问题

　　对于前文所述的 $\mathrm{MA}(1)$ 过程 $X_t = e_t + \theta e_{t-1}$，其自相关函数为

$$\begin{equation} \rho_k = \begin{cases} 1 & k = 0 \\ \frac{\theta}{1 + \theta^2} & k = 1 \\ 0 & k \geq 2 \end{cases} \end{equation}$$

可见当使用 $1 / \theta$ 代替 $\theta$ 时，自相关函数不变。这说明，给定 $\mathrm{MA}$ 的自相关函数，并不能唯一地确定 $\mathrm{MA}$ 过程。

　　当我们在某个过程的自相关图像上看到自相关值在某个滞后之后出现截断时，通常会考虑使用滑动平均进行建模。但需要注意，给定自相关函数所对应的的滑动平均模型不是唯一的。在试图根据观测的时间序列推导参数前，需要先解决 $\mathrm{MA}$ 过程不唯一的问题。

2. $\mathrm{MA}(1)$ 的可逆性

2.1. 将 $\mathrm{MA}(1)$ 表示为 $\mathrm{AR}(\infty)$

　　如前文所述，自回归过程总是可以表示为一般线性过程，故可以将 $\mathrm{AR}$ 过程看作是一个无穷阶的 $\mathrm{MA}$ 过程。

　　反之，如果想要将 $\mathrm{MA}$ 过程表示为 $\mathrm{AR}$ 过程，考虑 $\mathrm{MA}(1)$ 过程

$$\begin{equation} X_t = e_t + \theta e_{t-1} \tag{1} \end{equation}$$

将式 $(1)$ 改写为

$$\begin{equation} e_t = X_t – \theta e_{t-1} \tag{2} \end{equation}$$

在式 $(2)$ 中令 $t = t – 1$，得到 $e_{t-1} = X_{t-1} – \theta e_{t-2}$，再带入式 $(2)$，得

$$\begin{equation} e_t = X_t – \theta (X_{t-1} – \theta e_{t-2}) = X_t – \theta X_{t-1} + \theta^2 e_{t-2} \end{equation}$$

如果 $|\theta| < 1$，就可以无限重复以上过程，得到

$$\begin{equation} e_t = X_t – \theta_1 X_{t-1} + \theta^2 X_{t-2} – \theta^3 X_{t-3} + \cdots \tag{3} \end{equation}$$

也就是

$$\begin{equation} X_t = e_t + \theta_1 X_{t-1} – \theta^2 X_{t-2} + \theta^3 X_{t-3} – \cdots \tag{4} \end{equation}$$

此时就将 $\mathrm{MA}(1)$ 过程表示成了一个无穷阶的 $\mathrm{AR}$ 过程，即 $\mathrm{AR}(\infty)$。当且仅当 $|\theta| < 1$，称 $\mathrm{MA}(1)$ 可逆。

2.2. 使用延迟算子

　　使用延迟算子重复 2.1 中所描述的过程，此时 $\{X_t\}$ 表示成

$$\begin{equation} X_t = \theta(B) e_t \tag{5} \end{equation}$$

其中

$$\begin{equation} \theta(B) = 1 + \theta B \tag{6} \end{equation}$$

　　为了使用 $X_t$ 表示 $e_t$，对 $\theta(B)$ 取逆得到 $\theta(B)^{-1}$，由式 $(5)$，有

$$\begin{equation} \theta(B)^{-1} X_t = e_t \tag{7} \end{equation}$$

将 $\theta B$ 看成是一个复数而非延迟算子，则可将多项式的逆 $\theta(B)^{-1}$ 看成 $\theta B$ 的一个有理函数，进而可将 $\theta(B)^{-1}$ 展开为级数的形式

$$\begin{equation} \theta(B)^{-1} = \frac{1}{1 + \theta B} = 1 – \theta B + \theta^2 B^2 – \theta^3 B^3 + \cdots \tag{8} \end{equation}$$

此时式 $(7)$ 的等号左边变为

$$\begin{equation} \theta(B)^{-1} X_t = 1 – \theta X_{t-1} + \theta^2 X_{t-2} – \theta^3 X_{t-3} + \cdots \tag{9} \end{equation}$$

　　将式 $(9)$ 带入式 $(7)$，可以得到与式 $(3)$ 相同的结果

$$\begin{equation} e_t = \theta(B)^{-1} X_t = 1 – \theta X_{t-1} + \theta^2 X_{t-2} – \theta^3 X_{t-3} + \cdots = \sum_{k=0}^\infty (-\theta)^k X_{t-k} \tag{10} \end{equation}$$

为了让等号右边的级数收敛，须要求 $|\theta| < 1$。注意式 $(10)$ 中的 $X_{t-k}$ 是一个随机变量，这里的收敛指的是均方收敛。

　　对于 $\mathrm{MA}$ 过程，通过舍弃不是可逆的过程，仅保留可逆的过程，就可以由自相关函数唯一地确定一个 $\mathrm{MA}$ 过程。

3. $\mathrm{MA}(q)$ 的可逆性

　　如前文所述，对于一般的 $\mathrm{MA}(q)$（或 $\mathrm{ARMA}(p, q)$），$\mathrm{MA}$ 的特征多项式为

$$\begin{equation} \theta(B) = 1 + \theta_1 B + \theta_2 B^2 + \cdots + \theta_q B^q \end{equation}$$

相应的特征方程为 $\theta(B) = 0$，即

$$\begin{equation} 1 + \theta_1 B + \theta_2 B^2 + \cdots + \theta_q B^q = 0 \end{equation}$$

　　可以证明 $\mathrm{MA}(q)$ 过程是可逆的，即有系数 $\pi_i$ 使得

$$\begin{equation} X_t = \pi_1 X_{t-1} + \pi_2 X_{t-2} + \cdots + e_t \end{equation}$$

当且仅当 $\mathrm{MA}$ 的特征方程根的模大于 $1$。

　　此外还可以证明，在给定自相关函数的情况下，只有唯一的一组参数可以得到可逆的 $\mathrm{MA}$ 过程。例如 $X_t = e_t + 2e_{t-1}$ 和 $X_t = e_t + \frac{1}{2} e_{t-1}$ 具有相同的自相关函数，但只有后者是可逆的（特征根为 $-2$）。

　　对于 $\mathrm{ARMA}(p, q)$，一般同时要求满足平稳性和可逆性。

4. 一般定义

　　更一般地，如果 $\{X_t\}$ 是一个随机过程，$\{e_t\}$ 是随机扰动或白噪声，如果能将 $\{e_t\}$ 表示为无穷级数的形式（即$\mathrm{AR}(\infty)$）

$$\begin{equation} e_t = \sum_{k=0}^\infty \pi_k X_{t-k} \tag{11} \end{equation}$$

其中 $\sum\limits_{k=0}^\infty |\pi_k|$ 收敛，则称 $\{X_t\}$ 是可逆的。

　　回到开头的例子，对于 $\theta = 2$ 和 $\theta = 1/2$ 时，$\mathrm{MA}(1)$ 具有相同的自相关函数，但 $\theta = 2$ 时

$$\begin{equation} \sum\limits_{k=0}^\infty |\pi_k| = \sum\limits_{k=0}^\infty 2^k \end{equation}$$

不收敛，故模型不可逆；而 $\theta = 1/2$ 时，

$$\begin{equation} \sum\limits_{k=0}^\infty |\pi_k| = \sum\limits_{k=0}^\infty \frac{1}{2^k} \end{equation}$$

收敛，故模型可逆。此时舍弃不收敛的模型，只保留 $\theta = 1/2$ 的模型。