线性代数 Cheat Sheet 6-2:正交集
对于 Rn 中的向量集合 u1,⋅,up,如果集合中任意两个不同的向量都正交,即当 i≠j 时,ui⋅uj=0,则称该向量集合为正交集。
定理 4 如果 S={u1,⋅,up} 是 Rn 中非零向量构成的正交集,那么 S 是线性无关集,因此构成 S 所生成的子空间的一组基。
定义 Rn 中子空间 W 的一个正交基是 W 的一个基,也是正交基。
定理 5 假设 {u1,⋯,up} 是 Rn 中子空间 W 的正交基,对 W 中的每个向量 y,线性组合 y=c1u1+⋯+cpup 中的权可以由 cj=y⋅ujuj⋅uj(j=1,⋯,p) 计算
对于上面定理中的 y,有
y⋅u1=(c1u1+⋯+cpup)⋅u1=c1(u1⋅u1)
故有
c1=y⋅u1u1⋅u1
正交基比其他基更优越,线性组合中的权更易计算。如果基不是正交的,则必须解线性方程组才能得到权值。
Contents [show]
1. 正交投影
对 Rn 中给出的非零向量 u,考虑 Rn 中一个向量 y 分解为两个向量之和的问题,一个向量是 u 的倍数,另一个向量与 u 正交。我们期望写成
y=ˆy+z
其中 ˆy=αu,α 是一个数,z 是一个垂直于 u 的向量。对给定数 α,记 z=y–ˆy,则方程 (1) 可以满足。那么 y–ˆy 和 u 正交的充分必要条件是
0=(y–αu)⋅u=y⋅u–α(u⋅u)
也就是满足方程 (1) 且 z 与 u 正交的充分必要条件是 α=y⋅uu⋅u 和 ˆy=y⋅uu⋅u⋅u。向量 ˆy 称为 y 在 u 上的正交投影,向量 z 称为 y 与 u 的正交的分量。
如果 c 是非零数,且在 ˆy 的定义中用 cu 代替 u,那么 y 在 cu 上的正交投影和 y 在 u 上的正交投影完全一致,因此这个投影可由 u 向量生成的子空间 L(经过 u 和原点的直线)所确定,有时用 ProjLy 来表示 ˆy,并称之为 y 在 u 上的正交投影,即
ˆy=ProjLy=y⋅uu⋅u⋅u
2. 单位正交集
如果集合 {u1,⋅,up} 是由单位向量构成的正交集,这个集合是一个单位正交集。如果 W 是一个由单位正交集合生成的子空间,那么 {u1,⋅,up} 是 W 的单位正交基,这是因为这类集合自然线性无关。
最简单的单位正交集合是 Rn 中的标准基 {e1,⋅,en},集合 {e1,⋅,en} 的任一非空子集也是单位正交的。
当一个正交集中的向量被“单位化”而具有单位长度后,这些新向量仍然保持正交性,因此新的集合成为单位正交集。
定理 6 一个 m×n 矩阵 U 具有单位正交列向量的充分必要条件是 UTU=I。
定理 7 假设 U 是一个具有单位正交列的 m×n 矩阵,且 x 和 y 是 Rn 中的向量,那么
a. ‖Ux‖=‖x‖
b. (Ux)⋅(Uy)=x⋅y
c. (Ux)⋅(Uy)=0 的充分必要条件是 x⋅y=0
定理 7 表明,线性映射 x↦Ux 保持长度和正交性。对于一个可逆的方阵 U,如果满足 UTU=I,则 U 称为正交矩阵,由定理 6,这样的矩阵具有单位正交列。任何具有单位正交列的方阵都是正交矩阵,这类矩阵同样具有单位正交行。