线性代数 Cheat Sheet 6-7:內积空间
定义 向量空间 V 上的內积是一个函数,对每一对属于 V 的向量 u 和 v,存在一个实数 ⟨u,v⟩,满足下面公理,其中 u,v,w 属于 V,c 为任意数:
1. ⟨u,v⟩=⟨v,u⟩
2. ⟨u+v,w⟩=⟨u,w⟩+⟨v,w⟩
3. ⟨cu,v⟩=c⟨u,v⟩
4. ⟨u,u⟩≥0 且 ⟨u,u⟩=0 的充分必要条件是 u=0
一个赋予上面內积的向量空间称为內积空间。
具有标准內积的向量空间 Rn 是一个內积空间。
Contents [show]
1. 长度、距离和正交性
设 V 是一个內积空间,其內积记作 ⟨u,v⟩。像 Rn 中一样,我们定义一个向量 v 的长度或范数为数
‖v‖=√⟨v,v⟩
即 ‖v‖2=⟨v,v⟩(这个定义有意义,因为 ⟨v,v⟩≥0,但这个定义并不是说 ⟨v,v⟩ 是一个“平方之和”,因为 v 不必是 Rn 中元素)。
一个单位向量是长度为 1 的向量,向量 u 和 v 之间的距离是 ‖u–v‖。如果 ⟨u,v⟩=0 成立,则向量 u 和向量 v 正交。
2. 格拉姆-施密特方法
內积空间中有限维子空间的正交基的存在性可由格拉姆-施密特方法确定,像 Rn 空间一样,应用中经常出现的一些正交基问题可用这个方法构造。
一个向量在一个具有正交基的子空间 W 上的正交投影可像平常一样构造。投影不依赖于正交基的选取,并且它们有正交分解定理和最佳逼近定理中所描述的性质。
3. 內积空间的最佳逼近
应用数学中最常见的问题设计元素是函数的向量空间,主要是在 V 的特定子空间 W 中选取函数 g 来逼近 V 中的函数 f。对 f 的“逼近”成都依赖于 ‖f–g‖ 定义的方式,仅考虑 f 和 g 的距离用內积定义确定的情形,此时,f 由 W 中函数的最佳逼近是指 f 在子空间 W 上的正交投影。
4. 两个不等式
给定內积空间 V 中的向量 v 和有限维子空间 W,将勾股定理应用到 v 关于 W 的正交分解中,可以得到
‖v‖2=‖ProjWv‖2+‖v–ProjWv‖2
特别地,这表明 v 到 W 上投影的范数不超过 v 自身的范数。
定理 16(柯西-施瓦茨不等式)对 V 中任意向量 u 和 v,有
|⟨u,v⟩|≤‖u‖‖v‖
定理 17(三角不等式)对属于 V 中的所有向量 u,v,有
‖u+v‖≤‖u‖+‖v‖