线性代数 Cheat Sheet 2-2：矩阵的逆
对于一个 $n \times n$ 的矩阵 $A$，若存在一个 $n \times n$ 的矩阵 $C$，使
\begin{equation}
CA = I \; 且 \; AC = I
\end{equation}
其中 $I = I_n$ 是 $n \times n$ 单位矩阵，则称 $C$ 是 $A$ 的逆。
若 $A$ 可逆，则它的逆是唯一的，记为 $A^{-1}$，于是
\begin{equation}
A^{-1}A = I \; 且 \; AA^{-1} = I
\end{equation}
假设 $B$ 是 $A$ 的另外一个逆，那么将有 $B = BI = B(AC) = (BA)C = IC = C$。
不可逆矩阵称为奇异矩阵，可逆矩阵称为非奇异矩阵。
定理 4 设 $A = \begin{bmatrix} a & b \\ c & d \end{bmatrix}$，若 $ad – bc \neq 0$，则 $A$ 可逆且
\begin{equation}
A^{-1} = \frac{1}{ad – bc} \begin{bmatrix} d & -b \\ -c & a\end{bmatrix}
\end{equation}
若 $ad – bc = 0$，则 $A$ 不可逆。
数 $ad – bc$ 称为 $A$ 的行列式，记为
\begin{equation}
\det A = ad – bc
\end{equation}
定理 4 说明，$2 \times 2$ 的矩阵 $A$ 可逆，当且仅当 $\det A \neq 0$。
定理 5 若 $A$ 是可逆 $n \times n$ 矩阵，则对$\mathbb{R}^n$ 中的每一个 $\boldsymbol b$，方程 $A \boldsymbol x = \boldsymbol b$ 有唯一解 $\boldsymbol x = A^{-1} \boldsymbol b$。
定理 6
a. 若 $A$ 是可逆矩阵，则 $A^{-1}$ 也可逆而且 $(A^{-1})^{-1} = A$。
b. 若 $A$ 和 $B$ 都是 $n \times n$ 可逆矩阵，则 $AB$ 也可逆，且其逆是 $A$ 和 $B$ 的逆矩阵按相反顺序的乘积，即 $(AB)^{-1} = B^{-1}A^{-1}$。
c. 若 $A$ 可逆，则 $A^\mathsf{T}$ 也可逆，且其逆是 $A^{-1}$ 的转置，即 $(A^\mathsf{T})^{-1} = (A^{-1})^\mathsf{T}$。
对于定理 6b，由矩阵乘法的结合律，有 $(AB)(B^{-1}A^{-1}) = A(BB^{-1})A^{-1} = AIA^{-1} = AA^{-1} = I$，类似地，可以证明 $(B^{-1}A^{-1})(AB = I)$。故$B^{-1}A^{-1}$ 是 $AB$ 的逆。
对于定理 6c，由定理 3d，有 $(A^{-1})^\mathsf{T} A^\mathsf{T} = (AA^{-1})^\mathsf{T} = I^\mathsf{T} = I$，及 $A^\mathsf{T} (A^{-1})^\mathsf{T} = I^\mathsf{T} = I$，故 $A^\mathsf{T}$ 可逆，且其逆是 $(A^{-1})^\mathsf{T}$。
定理 6b 可推广为：若干个 $n \times n$ 可逆矩阵的积也是可逆的，其逆等于这些矩阵的逆按相反顺序的乘积。
1. 初等矩阵
把单位矩阵进行一次初等行变换，就得到初等矩阵。
若对 $m \times n$ 矩阵 $A$ 进行某种初等行变换，所得矩阵可写成 $EA$，其中 $E$ 是 $m \times m$ 矩阵，是由 $I_m$ 进行同一行变换所得。
每个初等矩阵 $E$ 是可逆的，$E$ 的逆是一个同类型的初等矩阵，它把 $E$ 变回 $I$。
因为行变换是可逆的，故初等矩阵也是可逆的。若 $E$ 是由 $I$ 进行行变换所得，则一定有同一类型的另一行变换把 $E$ 变回 $I$，即有初等矩阵 $F$ 使得 $FE = I$，因为 $E$ 和 $F$ 对应于互逆的变换，所以也有 $EF = I$。
定理 7 $n \times n$ 矩阵 $A$ 是可逆的，当且仅当 $A$ 行等价于 $I_n$，这时，把 $A$ 化简为 $I_n$ 的一系列初等行变换同时把 $I_n$ 变成 $A^{-1}$。
2. 求 $A^{-1}$ 的算法
把增广矩阵 $\begin{bmatrix} A & I \end{bmatrix}$ 进行行化简，若 $A$ 行等价于 $I$，则 $\begin{bmatrix} A & I \end{bmatrix}$ 行等价于 $\begin{bmatrix} I & A^{-1} \end{bmatrix}$，否则 $A$ 没有逆。
3. 逆矩阵的另一个观点
用 $\boldsymbol e_1, \cdots, \boldsymbol e_n$ 表示 $I_n$ 的各列，则把 $\begin{bmatrix} A & I \end{bmatrix}$ 行化简为 $\begin{bmatrix} I & A \end{bmatrix}$ 的过程可看作解 $n$ 个方程组
\begin{equation}
A \boldsymbol x = \boldsymbol e_1, \; A \boldsymbol x = \boldsymbol e_2, \cdots, A \boldsymbol x = \boldsymbol e_n \tag{1}
\end{equation}
将这些方程组的“增广列”依次放在 $A$ 的右边，构成矩阵
\begin{equation}
\begin{bmatrix} A & \boldsymbol e_1 & \boldsymbol e_2 & \cdots & \boldsymbol e_n \end{bmatrix} = \begin{bmatrix} A & I\end{bmatrix}
\end{equation}
由 $AA^{-1} = I$ 和矩阵乘法的定义，可知 $A^{-1}$ 的各列正式方程组 $(1)$ 的解。如果只需求 $A^{-1}$ 的少数几列，则解方程组 $(1)$ 更快。