[DL Note] 线性代数:特征分解
1. 特征向量 $\boldsymbol A$ 为 $n \times n$ 矩阵,$\boldsymbol x$ 为非零向量,若存在数 $\lambda$ 使 $\boldsymbol A \boldsymbol x = \lambda \boldsymbol x$ 有非平凡解 $\boldsymbol x$,则称 $\lambda$ 为 $\boldsymbol A$ 的特征值(eigen…
Read more
learn, build, evaluate
1. 特征向量 $\boldsymbol A$ 为 $n \times n$ 矩阵,$\boldsymbol x$ 为非零向量,若存在数 $\lambda$ 使 $\boldsymbol A \boldsymbol x = \lambda \boldsymbol x$ 有非平凡解 $\boldsymbol x$,则称 $\lambda$ 为 $\boldsymbol A$ 的特征值(eigen…
Read more
1. 对角矩阵 对角矩阵(diagonal matrix)是非对角线元素全是 $0$ 的方阵,例如 $n \times n$ 单位矩阵 $I_n$。使用 $\mathrm{diag}(\boldsymbol v)$ 表示对角元素为 $\boldsymbol v$ 的对角矩阵。 对角矩阵的乘法运算非常简单,$\mathrm{diag}(\boldsymbol v)\boldsymbol x$…
Read more
1. 向量的范数 1.1. $L^2$ 范数 向量 $\boldsymbol v$ 的长度(或称为$L^2$ 范数、欧几里得范数)是非负数 $\lVert \boldsymbol v \rVert_2$,定义为 \begin{equation} \lVert \boldsymbol v \rVert_2 = \sqrt{\boldsymbol v \cdot \boldsymbol v} = …
Read more
1. 线性相关 对于 $\mathbb{R}^n$ 中一组向量 $\{\boldsymbol v_1, \cdots, \boldsymbol v_p\}$,若向量方程 \begin{equation} x_1 \boldsymbol v_1 + x_2 \boldsymbol v_2 + \cdots + x_p \boldsymbol v_p = \boldsymbol 0…
Read more
1. 单位矩阵 单位矩阵沿主对角线的元素都是 $1$,其余位置的元素都为 $0$,例如 \begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix} 2. 逆矩阵 对于一个 $n \times n$ 的矩阵 $\boldsymbol A$,若…
Read more
1. 矩阵的和 若 $\boldsymbol A$ 和 $\boldsymbol B$ 都是 $m \times n$ 矩阵,则和 $\boldsymbol A + \boldsymbol B$ 也是 $m \times n$ 矩阵,它的各列是 $\boldsymbol A$ 与 $\boldsymbol B$ 各列之和。仅当 $\boldsymbol A$ 与 $\boldsymbol B$…
Read more
双重指数平滑引入了趋势,但还不能处理序列中存在的季节性。为了体现序列中的趋势,对 $x_{n+1}$ 的预测 $\hat x_{n+1}$ 应由局部水平 $L_n$、趋势 $T_n$ 以及季节项 $S_{n+1-m}$ 组成,其中 $m$ 为季节周期。 \begin{equation} \hat x_{n+1} = L_n + T_n + S_{n+1-m} \tag{1} \end{equa…
Read more
1. 定义 在前文提到的简单指数平滑具有如下的形式 \begin{equation} \hat x_{n+1} = \alpha x_n + (1-\alpha) \hat x_n \tag{1} \end{equation} 其中 $\hat x_n$ 是对序列在 $n$ 时刻的预测。 式 $(1)$ 所示的预测只是对历史数据进行平滑,并对未来进行预测,并没有考虑时间序列中可能存在的趋势…
Read more
1. 朴素方法 使用 $X_{n+h}^{n}$ 表示使用时刻为 $n$ 的数据对 $n+h$ 时刻进行预测的预测值,则一种非常朴素的预测方法是直接使用 $n$ 时刻的值 $x_n$ 作为 $n + 1$ 时刻的预测值,即 \begin{equation} x_{n+1}^n = x_n \end{equation} 考虑季节性因素,对于周期为 $S$ 的序列,可以使用上一个周期的值进行预测,…
Read more
1. SARMA 过程 前文描述的 $\mathrm{ARIMA}(p, d, q)$模型具有如下的形式 \begin{equation} \phi(B) \nabla^d X_t = \theta(B)e_t \end{equation} 即 \begin{equation} \phi(B)(1 – B)^d X_t = \theta(B)e_t \tag{1} \end{equ…
Read more