时间序列分析:Yule-Walker 方程的矩阵形式
1. Yule-Walker 方程的矩阵形式 对于 $p$ 阶自回归过程 $AR(p)$ \begin{equation} X_t = \phi_1 X_{t-1} + \phi_2 X_{t-2} + \cdots + \phi_p X_{t-p} + e_t \tag{1} \end{equation} 其中 $e_t \sim N(0, \sigma_e^2)$,$e_t$ 独立于 $X…
Read more
learn, build, evaluate
1. Yule-Walker 方程的矩阵形式 对于 $p$ 阶自回归过程 $AR(p)$ \begin{equation} X_t = \phi_1 X_{t-1} + \phi_2 X_{t-2} + \cdots + \phi_p X_{t-p} + e_t \tag{1} \end{equation} 其中 $e_t \sim N(0, \sigma_e^2)$,$e_t$ 独立于 $X…
Read more
1. 问题 在 $\mathrm{AR}(p)$ 过程中,每个时刻的值都与历史时刻相关,导致其自相关函数呈现逐渐衰减,而不会像 $\mathrm{MA}(q)$ 那样出现截断。我们希望能够单独分析两个时刻随机变量之间的相关性,而不受其他时刻的影响,这样就可以方便地确定 $\mathrm{AR}(p)$ 过程的阶数。 2. 偏自相关的一般例子 看一个更一般的例子。R 中 isdals 包的 …
Read more
1. 例子 假设有 $\mathrm{MA}(2)$ 过程 \begin{equation} X_t = \frac{1}{3} X_{t-1} + \frac{1}{2} X_{t-2} + e_t \tag{1} \end{equation} 其中 $e_t$ 为独立于 $X_{t-k}$($k=1,2,\cdots$)的均值为 $0$、方差为 $\sigma_e^2$ 的白噪声。其特征多…
Read more
1. 定义 在前文中给出的 $MA(q)$ 过程的定义使用了递归的形式,例如 $X_t = \phi X_{t-1} + e_t$,使用 $\{X_t\}$ 在 $t-1$ 时刻的值 $X_{t}$来定义 $X_t$。更一般地,形如 \begin{equation} y_n = a_1 y_{n-1} + a_2 y_{n-2} + \cdots + a_n y_{n-k} +…
Read more
1. 将 $\mathrm{AR}(p)$ 表示为 $\mathrm{MA}(\infty)$ 在前文中提到,当 $\mathrm{AR}(p)$ 过程平稳时,$\mathrm{AR}(p)$ 可以表示为 $\mathrm{MA}(\infty)$ 的形式。对于 $\mathrm{AR}(p)$ 过程 \begin{equation} X_t = \phi_1 X_{t-1} + \phi_2…
Read more
对于随机过程 $\{X_n\}$ 和随机变量 $X$,当 $n \rightarrow \infty$ 时,若 \begin{equation} E[(X_n – X)^2] \rightarrow 0 \tag{1} \end{equation} 则称 $X_n$ 均方收敛于 $X$。 前文中将 $\mathrm{MA}(1)$ 过程 $X_t = e_t +…
Read more
1. $\mathrm{MA}(q)$ 的可逆性 前文讨论了可逆性的一般形式。特殊地,对于 $\mathrm{MA}(q)$ 过程 \begin{equation} X_t = e_t + \theta_1 e_{t-1} + \theta_2 e_{t-2} + \cdots + \theta_q e_{t-q} \tag{1} \end{equation} 即 \begin{equatio…
Read more
1. $\mathrm{MA}$ 过程不唯一的问题 对于前文所述的 $\mathrm{MA}(1)$ 过程 $X_t = e_t + \theta e_{t-1}$,其自相关函数为 \begin{equation} \rho_k = \begin{cases} 1 & k = 0 \\ \frac{\theta}{1 + \theta^2} & k = 1 &#…
Read more
1. 数列 数列是一列有序的数,可以包含有限项或无限项(无穷数列)。例如 $1, 2, 3, \cdots$ 就是一个无穷数列。通常使用角标表示数列中的某一项,例如 $a_1$ 表示第一项,$a_2$ 表示第二项,等等。 对于无穷数列,我们通常会关心当项数不断增加时数列的值具有的特征,即 $\lim\limits_{n \rightarrow \infty} a_n$ 是否存在,以及存在时…
Read more
1. 为什么需要平稳性 时间序列随机过程的一个实现,对随机过程的分析,往往涉及研究随机过程中各个随机变量的联合概率分布。当随机变量数量较少时,研究联合概率分布可能还相对简单;而对于时间序列,往往需要研究很长一段时间的历史数据,其中每一个数据点都是一个随机变量,要研究这些随机变量的联合分布就非常困难了。 另一方面,对于时间序列,通常只能观察一次。例如记录每天的平均气温,每天只能观测到一个数值…
Read more