线性代数 Cheat Sheet 6-7:內积空间
定义 向量空间 $V$ 上的內积是一个函数,对每一对属于 $V$ 的向量 $\boldsymbol u$ 和 $\boldsymbol v$,存在一个实数 $\langle\boldsymbol u, \boldsymbol v\rangle$,满足下面公理,其中 $\boldsymbol u, \boldsymbol v, \boldsymbol w$ 属于 $V$,$c$ 为任意数: 1….
Read more
learn, build, evaluate
定义 向量空间 $V$ 上的內积是一个函数,对每一对属于 $V$ 的向量 $\boldsymbol u$ 和 $\boldsymbol v$,存在一个实数 $\langle\boldsymbol u, \boldsymbol v\rangle$,满足下面公理,其中 $\boldsymbol u, \boldsymbol v, \boldsymbol w$ 属于 $V$,$c$ 为任意数: 1….
Read more
将 $A \boldsymbol x = \boldsymbol b$ 写成 $X \boldsymbol \beta = \boldsymbol y$,其中 $X$ 称为设计矩阵,$\boldsymbol \beta$ 为参数向量,$\boldsymbol y$ 为观测向量。 1. 最小二乘直线 变量 $x$ 和变量 $y$ 之间最简单的关系是线性方程 $y = \beta_0 + \b…
Read more
当方程组 $A \boldsymbol x = \boldsymbol b$ 的解不存在,但又需要求解时,最好的方法是寻找一个使 $A \boldsymbol x$ 尽可能接近 $\boldsymbol b$ 的 $\boldsymbol x$。 考虑 $A \boldsymbol x$ 作为 $\boldsymbol b$ 的一个近似。$\boldsymbol b$ 和 $A \bold…
Read more
格拉姆-施密特方法是为 $\mathbb{R}^n$ 中任意非零子空间构造正交基或标准正交基的简单算法。 定理 11(格拉姆-施密特方法)对 $\mathbb{R}^n$ 的子空间 $W$ 的一个基 $\{\boldsymbol x_1, \cdots, \boldsymbol x_p\}$,定义 \begin{align} \boldsymbol v_1 &= \…
Read more
$\mathbb{R}^2$ 中点在通过原点的直线上的正交投影和 $\mathbb{R}^n$ 的情形非常类似。对给定向量 $\boldsymbol y$ 和 $\mathbb{R}^n$ 中子空间 $W$,存在属于 $W$ 的向量 $\hat{\boldsymbol y}$ 满足:(1)$W$ 中有唯一向量 $\hat{\boldsymbol y}$,使得 $\boldsymbol y &#…
Read more
对于 $\mathbb{R}^n$ 中的向量集合 $\boldsymbol u_1, \cdot, \boldsymbol u_p$,如果集合中任意两个不同的向量都正交,即当 $i \neq j$ 时,$\boldsymbol u_i \cdot \boldsymbol u_j = 0$,则称该向量集合为正交集。 定理 4 如果 $S = \{\boldsymbol u_1, \c…
Read more
1. 內积 如果 $\boldsymbol u$ 和 $\boldsymbol v$ 是 $\mathbb{R}^n$ 中的向量,则可以将 $\boldsymbol u$ 和 $\boldsymbol v$ 作为 $n \times 1$ 矩阵。转置 $\boldsymbol u$ 是 $1 \times n$ 矩阵,且矩阵乘积 $\boldsymbol u^\mathsf{T} \bolds…
Read more
1. 幂算法 幂算法适用于 $n \times n$ 矩阵 $A$ 由严格占优特征值(亦称主特征值)$\lambda_1$ 的情况。$\lambda_1$ 为主特征值的意思是 $\lambda_1$ 的绝对值比其他特征值的绝对值都大。此时,幂算法产生一个近似 $\lambda_1$ 的数列和一个近似对应主特征向量的向量序列。 为简单起见,假设 $A$ 可对角化,特征向量 $\boldsym…
Read more
在很多应用问题中,有些量随时间连续变化,它们与下面的微分方程组有关: \begin{equation} x^\prime_1 = a_{11}x_1 + \cdots + a_{1n}x_n \\ x^\prime_2 = a_{21}x_2 + \cdots + a_{2n}x_n \\ \vdots \\ x^\prime_n = a_{n1…
Read more
对于由差分方程 $\boldsymbol x_{k+1} = A \boldsymbol x$ 描述的动力系统,$A$ 的特征值和特征向量提供了该动力系统长期行为(如控制系统中的稳态响应)的线索。 假设 $A$ 可对角化,由 $n$ 个线性无关的特征向量 $\boldsymbol v_1, \cdots, \boldsymbol v_n$ 和对应的特征值 $\lambda_1, \cdot…
Read more