1. 加权最小二乘法 　　 　　设向量 $\boldsymbol y$ 的 $n$ 次观测值为 $y_1, \cdots, y_n$，且假设我们希望用属于 $\mathbb{R}^n$ 的特定子空间的一个向量 $\hat{\boldsymbol y}$ 逼近 $\boldsymbol y$。记 $\hat{\boldsymbol y}$ 的元素为 $\hat y_1, \cdots, \hat y…
Read more

　　定义　向量空间 $V$ 上的內积是一个函数，对每一对属于 $V$ 的向量 $\boldsymbol u$ 和 $\boldsymbol v$，存在一个实数 $\langle\boldsymbol u, \boldsymbol v\rangle$，满足下面公理，其中 $\boldsymbol u, \boldsymbol v, \boldsymbol w$ 属于 $V$，$c$ 为任意数： 1….
Read more

　　将 $A \boldsymbol x = \boldsymbol b$ 写成 $X \boldsymbol \beta = \boldsymbol y$，其中 $X$ 称为设计矩阵，$\boldsymbol \beta$ 为参数向量，$\boldsymbol y$ 为观测向量。 1. 最小二乘直线 　　变量 $x$ 和变量 $y$ 之间最简单的关系是线性方程 $y = \beta_0 + \b…
Read more

　　当方程组 $A \boldsymbol x = \boldsymbol b$ 的解不存在，但又需要求解时，最好的方法是寻找一个使 $A \boldsymbol x$ 尽可能接近 $\boldsymbol b$ 的 $\boldsymbol x$。 　　考虑 $A \boldsymbol x$ 作为 $\boldsymbol b$ 的一个近似。$\boldsymbol b$ 和 $A \bold…
Read more

　　格拉姆-施密特方法是为 $\mathbb{R}^n$ 中任意非零子空间构造正交基或标准正交基的简单算法。 　　定理 11（格拉姆-施密特方法）对 $\mathbb{R}^n$ 的子空间 $W$ 的一个基 $\{\boldsymbol x_1, \cdots, \boldsymbol x_p\}$，定义 \begin{align} \boldsymbol v_1 &= \…
Read more

　　$\mathbb{R}^2$ 中点在通过原点的直线上的正交投影和 $\mathbb{R}^n$ 的情形非常类似。对给定向量 $\boldsymbol y$ 和 $\mathbb{R}^n$ 中子空间 $W$，存在属于 $W$ 的向量 $\hat{\boldsymbol y}$ 满足：（1）$W$ 中有唯一向量 $\hat{\boldsymbol y}$，使得 $\boldsymbol y &#…
Read more

　　对于 $\mathbb{R}^n$ 中的向量集合 $\boldsymbol u_1, \cdot, \boldsymbol u_p$，如果集合中任意两个不同的向量都正交，即当 $i \neq j$ 时，$\boldsymbol u_i \cdot \boldsymbol u_j = 0$，则称该向量集合为正交集。 　　定理 4　如果 $S = \{\boldsymbol u_1, \c…
Read more

1. 內积 　　如果 $\boldsymbol u$ 和 $\boldsymbol v$ 是 $\mathbb{R}^n$ 中的向量，则可以将 $\boldsymbol u$ 和 $\boldsymbol v$ 作为 $n \times 1$ 矩阵。转置 $\boldsymbol u$ 是 $1 \times n$ 矩阵，且矩阵乘积 $\boldsymbol u^\mathsf{T} \bolds…
Read more

1. 幂算法 　　幂算法适用于 $n \times n$ 矩阵 $A$ 由严格占优特征值（亦称主特征值）$\lambda_1$ 的情况。$\lambda_1$ 为主特征值的意思是 $\lambda_1$ 的绝对值比其他特征值的绝对值都大。此时，幂算法产生一个近似 $\lambda_1$ 的数列和一个近似对应主特征向量的向量序列。 　　为简单起见，假设 $A$ 可对角化，特征向量 $\boldsym…
Read more

　　在很多应用问题中，有些量随时间连续变化，它们与下面的微分方程组有关： \begin{equation} x^\prime_1 = a_{11}x_1 + \cdots + a_{1n}x_n \\ x^\prime_2 = a_{21}x_2 + \cdots + a_{2n}x_n \\ \vdots \\ x^\prime_n = a_{n1…
Read more