时间序列分析:Yule-Walker 方程举例
1. 例子 假设有 $\mathrm{MA}(2)$ 过程 \begin{equation} X_t = \frac{1}{3} X_{t-1} + \frac{1}{2} X_{t-2} + e_t \tag{1} \end{equation} 其中 $e_t$ 为独立于 $X_{t-k}$($k=1,2,\cdots$)的均值为 $0$、方差为 $\sigma_e^2$ 的白噪声。其特征多…
Read more
learn, build, evaluate
1. 例子 假设有 $\mathrm{MA}(2)$ 过程 \begin{equation} X_t = \frac{1}{3} X_{t-1} + \frac{1}{2} X_{t-2} + e_t \tag{1} \end{equation} 其中 $e_t$ 为独立于 $X_{t-k}$($k=1,2,\cdots$)的均值为 $0$、方差为 $\sigma_e^2$ 的白噪声。其特征多…
Read more
1. 定义 在前文中给出的 $MA(q)$ 过程的定义使用了递归的形式,例如 $X_t = \phi X_{t-1} + e_t$,使用 $\{X_t\}$ 在 $t-1$ 时刻的值 $X_{t}$来定义 $X_t$。更一般地,形如 \begin{equation} y_n = a_1 y_{n-1} + a_2 y_{n-2} + \cdots + a_n y_{n-k} +…
Read more
1. 将 $\mathrm{AR}(p)$ 表示为 $\mathrm{MA}(\infty)$ 在前文中提到,当 $\mathrm{AR}(p)$ 过程平稳时,$\mathrm{AR}(p)$ 可以表示为 $\mathrm{MA}(\infty)$ 的形式。对于 $\mathrm{AR}(p)$ 过程 \begin{equation} X_t = \phi_1 X_{t-1} + \phi_2…
Read more
对于随机过程 $\{X_n\}$ 和随机变量 $X$,当 $n \rightarrow \infty$ 时,若 \begin{equation} E[(X_n – X)^2] \rightarrow 0 \tag{1} \end{equation} 则称 $X_n$ 均方收敛于 $X$。 前文中将 $\mathrm{MA}(1)$ 过程 $X_t = e_t +…
Read more
1. $\mathrm{MA}(q)$ 的可逆性 前文讨论了可逆性的一般形式。特殊地,对于 $\mathrm{MA}(q)$ 过程 \begin{equation} X_t = e_t + \theta_1 e_{t-1} + \theta_2 e_{t-2} + \cdots + \theta_q e_{t-q} \tag{1} \end{equation} 即 \begin{equatio…
Read more
1. 数列 数列是一列有序的数,可以包含有限项或无限项(无穷数列)。例如 $1, 2, 3, \cdots$ 就是一个无穷数列。通常使用角标表示数列中的某一项,例如 $a_1$ 表示第一项,$a_2$ 表示第二项,等等。 对于无穷数列,我们通常会关心当项数不断增加时数列的值具有的特征,即 $\lim\limits_{n \rightarrow \infty} a_n$ 是否存在,以及存在时…
Read more
1. 为什么需要平稳性 时间序列随机过程的一个实现,对随机过程的分析,往往涉及研究随机过程中各个随机变量的联合概率分布。当随机变量数量较少时,研究联合概率分布可能还相对简单;而对于时间序列,往往需要研究很长一段时间的历史数据,其中每一个数据点都是一个随机变量,要研究这些随机变量的联合分布就非常困难了。 另一方面,对于时间序列,通常只能观察一次。例如记录每天的平均气温,每天只能观测到一个数值…
Read more
1. 定义 如果序列 $\{X_t\}$ 不是平稳的,但它的 $d$ 次差分 \begin{equation} W_t = \nabla^d X_t = (1 – B)^d X_t \tag{1} \end{equation} 是一个平稳的 $\mathrm{ARMA}(p, q)$ 过程 \begin{equation} W_t = \phi_1 W_{t-1} …
Read more
1. 定义 如果序列 $\{X_t\}$ 中有一部分是自回归,另一部分是滑动平均,可以得到 \begin{equation} X_t = \phi_1 X_{t-1} + \phi_2 X_{t-2} + \cdots + \phi_p X_{t-p} + e_t + \theta_1 e_{t-1} + \theta_2 e_{t-2} + \cdots + \theta_q…
Read more
1. 定义 $p$ 阶自回归过程 $AR(p)$ \begin{equation} X_t = \phi_1 X_{t-1} + \phi_2 X_{t-2} + \cdots + \phi_p X_{t-p} + e_t \tag{1} \end{equation} 也可以写为 \begin{equation} X_t – \phi_1 X_{t-1} – \phi_…
Read more