时间序列分析：通过 AR(∞) 分析 MA(q)
Contents
1. 将 $\mathrm{AR}(p)$ 表示为 $\mathrm{MA}(\infty)$
在前文中提到，当 $\mathrm{AR}(p)$ 过程平稳时，$\mathrm{AR}(p)$ 可以表示为 $\mathrm{MA}(\infty)$ 的形式。对于 $\mathrm{AR}(p)$ 过程
\begin{equation}
X_t = \phi_1 X_{t-1} + \phi_2 X_{t-2} + \cdots + \phi_p X_{t-p} + e_t \tag{1}
\end{equation}
即
\begin{equation}
\phi(B) X_t = e_t \tag{2}
\end{equation}
其中
\begin{equation}
\phi(B) = 1 – \phi_1 B – \phi_2 B^2 – \cdots – \phi_p B^p \tag{3}
\end{equation}
于是可以 $\mathrm{AR}(p)$ 表示为 $\mathrm{MA}(\infty)$ 的形式
\begin{equation}
X_t = \phi(B)^{-1} e_t = \frac{1}{1 – (\phi_1 B + \phi_2 B^2 + \cdots + \phi_p B^p)} e_t = (1 + \theta_1 B + \theta_2 B^2 + \cdots) e_t \tag{4}
\end{equation}
2. 确定 $\mathrm{MA}(\infty)$ 的参数
接下来需要确定式 $(4)$ 中 $\mathrm{MA}(\infty)$ 的参数 $\{\theta_k\}$。以 $\mathrm{AR}(1)$ 过程
\begin{equation}
X_t = \phi X_{t-1} + e_t \tag{5}
\end{equation}
为例，可以通过直接计算式 $(4)$ 得到 $\{\theta_k\}$，此时 $\phi(B) = 1 – \phi B$，带入式 $(4)$，得
\begin{align}
X_t &= \phi(B)^{-1} e_t = \frac{1}{1 – \phi B} e_t = (1 + \phi B + \phi^2 B^2 + \cdots) e_t \\
&= e_t + \phi e_{t-1} + \phi^2 e_{t-2} + \cdots \tag{6}
\end{align}
于是可知 $\theta_k = \phi^k$。
确定 $\{\theta_k\}$ 的一种方法是使用式 $(5)$ 给出的递归定义，不断地替换等号右边的 $X_i$，即
\begin{equation}
X_t = e_t + \phi X_{t-1} = e_t + \phi(\phi X_{t-2} + e_(t-1)) = e_t + \phi e_{t-1} + \phi^2 X_{t-2}
\end{equation}
类似地
\begin{equation}
X_t = e_t + \phi e_{t-1} + \phi^2 X_{t-2} = e_t + \phi e_{t-1} + \phi^2(\phi X_{t-3} + e_t) = e_t + \phi e_{t-1} + \phi^2 e_{t-2} + \phi^3 X(t-3)
\end{equation}
以此类推，得到
\begin{equation}
X_t = e_t + \phi e_{t-1} + \phi^2 e_{t-2} + \phi^2 e_{t-3} + \cdots \tag{7}
\end{equation}
也可以得到 $\theta_k = \phi^k$。
3. $\mathrm{AR}(p)$ 的均值和方差
将式 $(1)$ 所示的 $\mathrm{AR}(p)$ 表示为式 $(4)$ 所示的 $\mathrm{MA}(\infty)$ 后，可以方便地计算过程的均值和方差
\begin{equation}
E(X_t) = E[(1 + \theta_1 B + \theta_2 B^2 + \cdots)e_t] = E(e_t) + \theta_1 E(e_{t-1}) + \theta_2 E(e_{t-2}) + \cdots = 0 \tag{8}
\end{equation}
\begin{align}
\gamma_0 &= \mathrm{Var}(X_t) = \mathrm{Var}[(1 + \theta_1 B + \theta_2 B^2 + \cdots)e_t] \\
&= \mathrm{Var}(e_t) + \theta_1^2\mathrm{Var}(e_{t-1}) + \theta_2^2\mathrm{Var}(e_{t-2}) + \cdots \\
&= \sigma_e^2 \sum_{i=0}^\infty \theta_i^2 \tag{9}
\end{align}
由式 $(9)$ 可知，为了使过程具有有限方差，要求 $\sum\limits_{i=0}^\infty \theta_i^2$ 收敛，这也是 $\mathrm{AR}(p)$ 平稳的必要条件。
4. $\mathrm{AR}(p)$ 的自相关
已知 $\mathrm{MA}(q)$ 的协方差函数为
\begin{equation}
\gamma_k = \sigma_e^2 \sum_{i=0}^{q-k} \theta_i \theta_{i+k} \tag{9}
\end{equation}
则如果将 $\mathrm{AR}(p)$ 看成是 $\mathrm{AR}(\infty)$，可以得到类似形式协方差函数为
\begin{equation}
\gamma_k = \sigma_e^2 \sum_{i=0}^{\infty} \theta_i \theta_{i+k} \tag{10}
\end{equation}
进而可以得到自相关函数
\begin{equation}
\rho_k = \frac{\gamma_k}{\gamma_0} = \frac{\sigma_e^2 \sum\limits_{i=0}^{\infty} \theta_i \theta_{i+k}}{\sigma_e^2 \sum\limits_{i=0}^{\infty} \theta_i^2} = \frac{\sum\limits_{i=0}^{\infty} \theta_i \theta_{i+k}}{\sum\limits_{i=0}^{\infty} \theta_i^2} \tag{11}
\end{equation}
回到式 $(5)$ 所示 $\mathrm{AR}(1)$ 的例子，此时 $\theta_k = \phi^k$，则由式 $(10)$ 可得协方差函数为
\begin{equation}
\gamma_k = \sigma_e^2 \sum_{i=0}^{\infty} \phi^k \phi^{i+k} = \sigma_e^2 \phi^k \sum_{i=0}^\infty (\phi^2)^i = \sigma_e^2 \phi^k \frac{1}{1 – \phi^2} \tag{12}
\end{equation}
\begin{equation}
\rho_k = \frac{\gamma_k}{\gamma_0} = \frac{\sigma_e^2 \phi^k \frac{1}{1 – \phi^2}}{\sigma_e^2 \frac{1}{1 – \phi^2}} = \phi_k \tag{13}
\end{equation}
这也与与前文 中直接推导得到的结果已知。