[DL Note] 线性代数：单位矩阵和逆矩阵
1. 单位矩阵
单位矩阵沿主对角线的元素都是 $1$，其余位置的元素都为 $0$，例如
\begin{bmatrix}
1 & 0 & 0 \\
0 & 1 & 0 \\
0 & 0 & 1
\end{bmatrix}
2. 逆矩阵
对于一个 $n \times n$ 的矩阵 $\boldsymbol A$，若存在一个 $n \times n$ 的矩阵 $\boldsymbol C$，使
\begin{equation}
\boldsymbol C \boldsymbol A = \boldsymbol I \; 且 \; \boldsymbol A \boldsymbol C = \boldsymbol I
\end{equation}
其中 $\boldsymbol I = \boldsymbol I_n$ 是 $n \times n$ 单位矩阵，则称 $\boldsymbol C$ 是 $\boldsymbol A$ 的逆。
假设 $\boldsymbol B$ 是 $\boldsymbol A$ 的另外一个逆，那么将有 $\boldsymbol B = \boldsymbol B\boldsymbol I = \boldsymbol B(\boldsymbol A \boldsymbol C) = (\boldsymbol B \boldsymbol A) \boldsymbol C = \boldsymbol I \boldsymbol C = \boldsymbol C$。可见若 $\boldsymbol A$ 可逆，则它的逆是唯一的，记为 $\boldsymbol A^{-1}$，于是
\begin{equation}
\boldsymbol A^{-1}\boldsymbol A = \boldsymbol I \; 且 \; \boldsymbol A\boldsymbol A^{-1} = \boldsymbol I \tag{1}
\end{equation}
并不是所有的矩阵可逆，不可逆矩阵称为奇异矩阵，可逆矩阵称为非奇异矩阵。
若 $\boldsymbol A$ 是可逆 $n \times n$ 矩阵，则对$\mathbb{R}^n$ 中的每一个 $\boldsymbol b$，对于方程 $\boldsymbol A \boldsymbol x = \boldsymbol b$，有
\begin{equation}
\boldsymbol A^{-1} \boldsymbol A \boldsymbol x = \boldsymbol A^{-1} \boldsymbol b \Rightarrow \boldsymbol x = \boldsymbol A^{-1} \boldsymbol b \tag{2}
\end{equation}
即方程有唯一解 $\boldsymbol x = \boldsymbol A^{-1} \boldsymbol b$。
$n \times n$ 矩阵 $\boldsymbol A$ 是可逆的，当且仅当 $\boldsymbol A$ 行等价于 $\boldsymbol I_n$，这时，把 $\boldsymbol A$ 化简为 $\boldsymbol I_n$ 的一系列初等行变换同时把 $\boldsymbol I_n$ 变成 $\boldsymbol A^{-1}$。
对于 $2 \times 2$ 矩阵，设 $\boldsymbol A = \begin{bmatrix} a & b \\ c & d \end{bmatrix}$，若 $ad – bc \neq 0$，则 $\boldsymbol A$ 可逆且
\begin{equation}
\boldsymbol A^{-1} = \frac{1}{ad – bc} \begin{bmatrix} d & -b \\ -c & a\end{bmatrix} \tag{3}
\end{equation}
若 $ad – bc = 0$，则 $\boldsymbol A$ 不可逆。其中，数 $ad – bc$ 称为 $A$ 的行列式，记为
\begin{equation}
\det A = ad – bc \tag{4}
\end{equation}
定理 4 说明，$2 \times 2$ 的矩阵 $A$ 可逆，当且仅当 $\det A \neq 0$。
更一般地，对于 $n \times n$ 矩阵 $\boldsymbol A$，把增广矩阵 $\begin{bmatrix} \boldsymbol A & \boldsymbol I \end{bmatrix}$ 进行行化简，若 $\boldsymbol A$ 行等价于 $\boldsymbol I$，则 $\begin{bmatrix} \boldsymbol A & \boldsymbol I \end{bmatrix}$ 行等价于 $\begin{bmatrix} \boldsymbol I & \boldsymbol A^{-1} \end{bmatrix}$，否则 $\boldsymbol A$ 没有逆。