本笔记对应 MIT 18.06 第 1–4 讲：方程组的几何解释、矩阵消元、乘法和逆矩阵、$A$ 的 LU 分解。
▸课程整体脉络（01 奠基）
MIT 18.06 的结构是：01 矩阵基础 → 解方程、消元、逆、LU，建立「矩阵运算」的语言；02 向量空间 → 从列空间、零空间理解 $Ax=b$ 何时有解、解的结构；03 正交与投影 → 当无解时用投影求「最优近似」（最小二乘）；04 行列式与特征值 → 为对角化、差分/微分方程做准备；05 对称与 SVD → 特殊矩阵的分解、应用的基石；06 线性变换与逆 → 统一视角与伪逆。本篇是起点，列图像、消元、逆矩阵贯穿后续。
一、方程组的几何解释
知识概要
本节从解方程出发引入线性代数，核心是理解行图像与列图像两种几何视角，以及矩阵乘法的本质。线性代数的应用之一就是求解复杂方程。
方程组的几何解释基础
二维行图像
行图像：从系数矩阵中一次取一行构成方程，在坐标系中画线（二维）或平面（三维），与初等数学中的作图解方程一致。
▸例1：二维行图像
求解方程组
$$
\begin{cases} 2x - y = 0 \\ -x + 2y = 3 \end{cases}
$$
步骤1：写成矩阵形式 $Ax = b$
$$
\begin{bmatrix} 2 & -1 \\ -1 & 2 \end{bmatrix} \begin{bmatrix} x \\ y \end{bmatrix} = \begin{bmatrix} 0 \\ 3 \end{bmatrix}
$$
其中：
- 系数矩阵 $A$：按行提取方程系数
- 未知向量 $x$：按列构成的未知数向量
- 右端向量 $b$：方程右侧常数
步骤2：在坐标系中画两条直线
- $2x - y = 0$ 是一条过原点的直线
- $-x + 2y = 3$ 是另一条直线
步骤3：两直线交点即为解：$x = 1$，$y = 2$。
二维列图像
列图像：将方程按列提取，把 $Ax$ 看成 $A$ 各列的线性组合。
▸例1（列图像解法）
原方程改写为：
$$
x \begin{bmatrix} 2 \\ -1 \end{bmatrix} + y \begin{bmatrix} -1 \\ 2 \end{bmatrix} = \begin{bmatrix} 0 \\ 3 \end{bmatrix}
$$
问题变为：找系数 $x, y$，使 $x$ 倍的 $(2,-1)$ 加 $y$ 倍的 $(-1,2)$ 等于 $(0,3)$。
在坐标平面中：$(2,-1)$ 与 $(-1,2)$ 为两个向量，取 $x = 1$，$y = 2$，则 $1 \cdot (2,-1) + 2 \cdot (-1,2) = (0,3)$，得到解。
▸列图像的进一步理解
对 $x \begin{bmatrix} 2 \\ -1 \end{bmatrix} + y \begin{bmatrix} -1 \\ 2 \end{bmatrix} = \begin{bmatrix} 0 \\ 3 \end{bmatrix}$，若 $x,y$ 任意取值，得到的向量会填满整个平面。这暗示了两个不共线向量的线性组合可以张成整个二维空间。
方程组的几何解释推广
高维行图像
将方程推广到三维：
$$
\begin{cases} 2x - y = 0 \\ -x + 2y - z = -1 \\ -3y + 4z = 4 \end{cases}
$$
矩阵形式：
$$
A = \begin{bmatrix} 2 & -1 & 0 \\ -1 & 2 & -1 \\ 0 & -3 & 4 \end{bmatrix}, \quad b = \begin{bmatrix} 0 \\ -1 \\ 4 \end{bmatrix}, \quad \begin{bmatrix} 2 & -1 & 0 \\ -1 & 2 & -1 \\ 0 & -3 & 4 \end{bmatrix} \begin{bmatrix} x \\ y \\ z \end{bmatrix} = \begin{bmatrix} 0 \\ -1 \\ 4 \end{bmatrix}
$$
行图像：三个平面相交于一点。求解思路是先联立两个平面得一直线，再求该直线与第三个平面的交点。维数再高时，行图像难以直观，实用性下降。
高维列图像
同一方程组用列图像表示为：
$$
x \begin{bmatrix} 2 \\ -1 \\ 0 \end{bmatrix} + y \begin{bmatrix} -1 \\ 2 \\ -3 \end{bmatrix} + z \begin{bmatrix} 0 \\ -1 \\ 4 \end{bmatrix} = \begin{bmatrix} 0 \\ -1 \\ 4 \end{bmatrix}
$$
▸列图像的核心思路
左侧是列向量的线性组合，右侧是目标向量。问题转化为寻找合适的线性组合，不依赖画图，且思路统一。
本题可直接看出 $x = 0$，$y = 0$，$z = 1$ 即为解，在行图像中并不显然。
▸为何更推荐列图像
- 系统性：统一为「求线性组合」，不需逐个画平面再找交点。
- 换 $b$ 更简便：若将 $b$ 改为 $\begin{bmatrix} 1 \\ 1 \\ -3 \end{bmatrix}$，列图像只需重新求一组系数；行图像则要重画三个平面。
对任意 $b$ 是否总有解？
对 $3 \times 3$ 的 $A$，其列的线性组合是否能覆盖整个 $\mathbb{R}^3$？
- 若三列线性无关，则可以覆盖，此时对任意 $b$ 都有解。
- 若三列共面，则组合只能填满一个平面，无法覆盖整个空间。例如：
$$
\begin{bmatrix} 2 \\ -1 \\ 0 \end{bmatrix}, \begin{bmatrix} -1 \\ 2 \\ -3 \end{bmatrix}, \begin{bmatrix} 1 \\ 1 \\ -3 \end{bmatrix}, \quad \text{其中 } \begin{bmatrix} 1 \\ 1 \\ -3 \end{bmatrix} = \begin{bmatrix} 2 \\ -1 \\ 0 \end{bmatrix} + \begin{bmatrix} -1 \\ 2 \\ -3 \end{bmatrix}
$$
此时 $Ax = b$ 对任意 $b$ 不一定有解。
矩阵乘法
已知 $A$ 和向量 $x$，如何求 $Ax$？
▸例：$Ax$ 的两种求法
设 $A = \begin{bmatrix} 2 & 5 \\ 1 & 3 \end{bmatrix}$，$x = \begin{bmatrix} 1 \\ 2 \end{bmatrix}$。
方法1（列组合）：把 $A$ 看成列向量的组合
$$
Ax = 1 \begin{bmatrix} 2 \\ 1 \end{bmatrix} + 2 \begin{bmatrix} 5 \\ 3 \end{bmatrix} = \begin{bmatrix} 2 \\ 1 \end{bmatrix} + \begin{bmatrix} 10 \\ 6 \end{bmatrix} = \begin{bmatrix} 12 \\ 7 \end{bmatrix}
$$
即用 $x$ 的各分量对 $A$ 的列做线性组合。
方法2（行点积）：把 $A$ 看成行向量的组合，结果的第 $i$ 行 = $A$ 的第 $i$ 行与 $x$ 的点积
$$
\begin{bmatrix} (2,5) \cdot (1,2) \\ (1,3) \cdot (1,2) \end{bmatrix} = \begin{bmatrix} 2 \times 1 + 5 \times 2 \\ 1 \times 1 + 3 \times 2 \end{bmatrix} = \begin{bmatrix} 12 \\ 7 \end{bmatrix}
$$
二、矩阵消元
知识概要
本节介绍消元法（系统化求解方程的方法）、增广矩阵、消元矩阵，以及逆矩阵的初步概念。消元法是解 $Ax = b$ 的基础工具。
消元法求解方程
消元法介绍
对可逆的系数矩阵 $A$，可用消元法求解 $Ax = b$。消元与初等数学中的「加减消元」本质相同，只是把系数单独写成矩阵运算。
▸例1：消元求解
求解
$$
\begin{cases} x + 2y + z = 2 \\ 3x + 8y + z = 12 \\ 4y + z = 2 \end{cases}
$$
矩阵形式：
$$
\begin{bmatrix} 1 & 2 & 1 \\ 3 & 8 & 1 \\ 0 & 4 & 1 \end{bmatrix} \begin{bmatrix} x \\ y \\ z \end{bmatrix} = \begin{bmatrix} 2 \\ 12 \\ 2 \end{bmatrix}
$$
消元对象：系数矩阵 $A$。左上角的 $1$ 称为主元，通过「某行乘倍数加到另一行」将主元下方的元素消为 0。
第一步：第一列消元，目标是把 $(2,1)$ 和 $(3,1)$ 位置变为 0
$$
\begin{bmatrix} 1 & 2 & 1 \\ 3 & 8 & 1 \\ 0 & 4 & 1 \end{bmatrix} \xrightarrow{\text{第1行}\times(-3)\text{加到第2行}} \begin{bmatrix} \mathbf{1} & 2 & 1 \\ 0 & 2 & -2 \\ 0 & 4 & 1 \end{bmatrix}
$$
第二步：对右下角 $2 \times 2$ 子块，以 2 为主元，消去 $(3,2)$ 位置
$$
\begin{bmatrix} \mathbf{1} & 2 & 1 \\ 0 & \mathbf{2} & -2 \\ 0 & 4 & 1 \end{bmatrix} \xrightarrow{\text{第2行}\times(-2)\text{加到第3行}} \begin{bmatrix} \mathbf{1} & 2 & 1 \\ 0 & \mathbf{2} & -2 \\ 0 & 0 & \mathbf{5} \end{bmatrix} = U
$$
得到上三角矩阵 $U$，三个主元为 1, 2, 5，消元结束。
▸主元为 0 时的处理
若主元位置为 0，需要换行：看下面各行该列是否有非零元，若有则交换两行，把非零元换到主元位置。若该列下方全为 0，则矩阵不可逆，消元无法得到唯一解。
示例：
- $\begin{bmatrix} \mathbf{0} & 2 & 1 \\ 0 & 2 & -2 \\ 0 & 0 & 5 \end{bmatrix}$：需换行
- $\begin{bmatrix} 1 & 2 & 1 \\ 0 & \mathbf{0} & -2 \\ 0 & 0 & 5 \end{bmatrix}$：第二列需换行
- $\begin{bmatrix} 1 & 2 & 1 \\ 0 & 2 & -2 \\ 0 & 0 & \mathbf{0} \end{bmatrix}$：第三列无主元，矩阵不可逆
回带求解
将 $A$ 与 $b$ 拼成增广矩阵 $[A \mid b]$，对增广矩阵做与 $A$ 相同的行变换，$b$ 会同步变化。
▸例1（续）：增广矩阵与回带
增广矩阵：
$$
\begin{bmatrix} 1 & 2 & 1 & 2 \\ 3 & 8 & 1 & 12 \\ 0 & 4 & 1 & 2 \end{bmatrix}
$$
消元后：
$$
\begin{bmatrix} 1 & 2 & 1 & 2 \\ 0 & 2 & -2 & 6 \\ 0 & 0 & 5 & -10 \end{bmatrix}
$$
对应方程组：
$$
\begin{cases} x + 2y + z = 2 \\ 2y - 2z = 6 \\ 5z = -10 \end{cases}
$$
从下往上回代：$z = -2$，$2y - 2(-2) = 6 \Rightarrow y = 1$，$x + 2(1) + (-2) = 2 \Rightarrow x = 2$。
消元矩阵
行向量与矩阵的乘法
- 列向量左乘矩阵：$A \mathbf{x}$ = $A$ 各列的线性组合。例如 $3 \times 3$ 矩阵乘列向量 $[3, 4, 5]^T$，结果为 $3 \cdot (\text{第1列}) + 4 \cdot (\text{第2列}) + 5 \cdot (\text{第3列})$。
- 行向量右乘矩阵：$\mathbf{y}^T A$ = $A$ 各行的线性组合。例如行向量 $[1, 2, 7]$ 右乘 $3 \times 3$ 矩阵，结果为 $1 \cdot (\text{第1行}) + 2 \cdot (\text{第2行}) + 7 \cdot (\text{第3行})$。
▸为什么行向量要左乘？
行向量是 $1 \times 3$，矩阵是 $3 \times 3$，左乘时：$(1 \times 3) \cdot (3 \times 3) = 1 \times 3$，维数匹配。若放在右边 $(3 \times 3) \cdot (1 \times 3)$，中间的 3 与 1 不匹配，无法相乘。
单位阵 $I$ 的三行 $[1,0,0]$、$[0,1,0]$、$[0,0,1]$ 分别左乘矩阵 $A$ 时，会取出 $A$ 的第 1、2、3 行。因此修改单位阵的某一行，再左乘 $A$，就能对 $A$ 的对应行做线性组合。
消元矩阵的构造
消元矩阵：把消元中的行变换写成矩阵乘法。从单位阵 $I$ 出发，按消元步骤修改 $I$ 的对应行。
▸例1 的消元矩阵
第一步：第 1 行 $\times (-3)$ 加到第 2 行。对单位阵 $I$ 做同样的行操作：
$$
\begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix} \to \begin{bmatrix} 1 & 0 & 0 \\ -3 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix} = E_{21}
$$
验证：$E_{21} A$ 的第二行 = 原第二行 + $(-3) \times$ 原第一行，正好把 $(2,1)$ 消为 0。
逐步理解：设 $A$ 的三行为 $\mathbf{r}_1, \mathbf{r}2, \mathbf{r}3$。$E{21}$ 的第 2 行为 $[-3, 1, 0]$，故 $(E{21} A)$ 的第 2 行 = $[-3, 1, 0] \cdot A$ = $-3 \mathbf{r}_1 + 1 \mathbf{r}_2 + 0 \mathbf{r}_3$ = $\mathbf{r}_2 - 3\mathbf{r}1$，正是消元所需。$E{21}$ 的第 1、3 行与 $I$ 相同，故第 1、3 行保持不变。
第二步：第 2 行 $\times (-2)$ 加到第 3 行：
$$
E_{32} = \begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & -2 & 1 \end{bmatrix}
$$
整体：$E_{32} E_{21} A = U$，记 $E = E_{32} E_{21}$，则 $EA = U$。
▸消元矩阵的构造法则
从单位阵 $I$ 入手，按 $A$ 的每次消元步骤对 $I$ 做同样的行变换，得到 $E_{21}, E_{32}, \ldots$，再相乘得到总的消元矩阵 $E$。
行交换矩阵与逆矩阵
行交换：左乘置换矩阵可交换行，例如
$$
\begin{bmatrix} 0 & 1 \\ 1 & 0 \end{bmatrix} \begin{bmatrix} a & b \\ c & d \end{bmatrix} = \begin{bmatrix} c & d \\ a & b \end{bmatrix}
$$
列交换：右乘置换矩阵可交换列。即：左乘对应行变换，右乘对应列变换。
逆矩阵：消元矩阵对应「加」的操作，其逆为「减」回去的操作。从 $EA = U$ 出发，要把 $U$ 变回 $A$，需左乘 $E^{-1}$：$A = E^{-1} U$。因此 $E^{-1}$ 就是「撤销」这次消元的矩阵。
▸逆矩阵
$E_{21}$ 表示「第 1 行 $\times (-3)$ 加到第 2 行」，其逆为「第 1 行 $\times 3$ 加到第 2 行」：
$$
E_{21}^{-1} = \begin{bmatrix} 1 & 0 & 0 \\ 3 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix}, \quad E_{21}^{-1} E_{21} = I
$$
三、乘法和逆矩阵
知识概要
介绍矩阵与矩阵的乘法、逆矩阵存在的条件，以及用高斯-若尔当法求逆矩阵。
矩阵乘法
元素公式
设 $C = AB$，则 $C$ 的 $(i,j)$ 元为 $A$ 的第 $i$ 行与 $B$ 的第 $j$ 列的内积：
$$
C_{ij} = \sum_{k=1}^{n} a_{ik} b_{kj} = a_{i1} b_{1j} + a_{i2} b_{2j} + \cdots + a_{in} b_{nj}
$$
▸元素 $C_{ij}$ 的直观
$C_{34}$ 就是 $A$ 的第 3 行与 $B$ 的第 4 列逐元素相乘再相加。可理解为：$A$ 的第 3 行「点乘」$B$ 的第 4 列。
规格：$A_{m \times n} \cdot B_{n \times p} = C_{m \times p}$，即 $A$ 的列数必须等于 $B$ 的行数。
列组合与行组合
- 列组合：$AB$ 的每一列是 $A$ 各列的线性组合，组合系数来自 $B$ 的对应列。
- 行组合：$AB$ 的每一行是 $B$ 各行的线性组合，组合系数来自 $A$ 的对应行。
列乘以行
除「行×列」外，还可按「列×行」理解：$AB$ 可写成若干形如（$A$ 的列）$\times$（$B$ 的行）的矩阵之和。
▸列乘行
计算 $\begin{bmatrix} 2 & 7 \\ 3 & 8 \\ 4 & 9 \end{bmatrix} \begin{bmatrix} 1 & 6 \\ 0 & 0 \end{bmatrix}$。
列乘行：
$$
\begin{bmatrix} 2 \\ 3 \\ 4 \end{bmatrix} \begin{bmatrix} 1 & 6 \end{bmatrix} + \begin{bmatrix} 7 \\ 8 \\ 9 \end{bmatrix} \begin{bmatrix} 0 & 0 \end{bmatrix} = \begin{bmatrix} 2 & 12 \\ 3 & 18 \\ 4 & 24 \end{bmatrix} + \mathbf{0} = \begin{bmatrix} 2 & 12 \\ 3 & 18 \\ 4 & 24 \end{bmatrix}
$$
每一项「列×行」得到秩 1 矩阵；该矩阵的列空间是一条过原点的直线（各列都是该列向量的倍数），行空间也是一条直线（各行都是该行向量的倍数）。
分块乘法
将 $A,B$ 分块后，块之间按矩阵乘法规则运算，只要块维数匹配。例如：
$$
\begin{bmatrix} A_1 & A_2 \\ A_3 & A_4 \end{bmatrix} \begin{bmatrix} B_1 & B_2 \\ B_3 & B_4 \end{bmatrix} = \begin{bmatrix} C_1 & C_2 \\ C_3 & C_4 \end{bmatrix}, \quad C_1 = A_1 B_1 + A_2 B_3
$$
▸分块乘法的推导
$C_1$ 是结果左上角块，由 $A$ 的第 1 行块 $[A_1 ;; A_2]$ 与 $B$ 的第 1 列块 $\begin{bmatrix} B_1 \\ B_3 \end{bmatrix}$ 相乘得到：$C_1 = A_1 B_1 + A_2 B_3$。与普通矩阵乘法「行×列」一致，只是把标量换成了块。
逆矩阵
定义与存在条件
若方阵 $A$ 可逆，则存在 $A^{-1}$ 使得 $AA^{-1} = A^{-1}A = I$。
非方阵没有通常意义上的「一个」逆矩阵：$m \times n$ 矩阵 $A$，若 $m \neq n$，则 $A^{-1} A = I_n$ 要求 $A^{-1}$ 为 $n \times m$，而 $A A^{-1} = I_m$ 要求 $A^{-1}$ 为 $m \times n$，二者维数冲突，无法同时满足。
▸不可逆的判定
若存在非零向量 $\mathbf{x}$ 使 $A\mathbf{x} = \mathbf{0}$，则 $A$ 不可逆。
证明：若 $A^{-1}$ 存在，在 $A\mathbf{x} = \mathbf{0}$ 两边左乘 $A^{-1}$ 得 $A^{-1}A\mathbf{x} = \mathbf{0}$，即 $I\mathbf{x} = \mathbf{0}$，故 $\mathbf{x} = \mathbf{0}$，与 $\mathbf{x} \neq \mathbf{0}$ 矛盾。
▸不可逆矩阵
$A = \begin{bmatrix} 1 & 3 \\ 2 & 6 \end{bmatrix}$，两列成比例，取 $\mathbf{x} = \begin{bmatrix} 3 \\ -1 \end{bmatrix}$，则 $A\mathbf{x} = \mathbf{0}$，故 $A$ 不可逆。
直观：列向量线性相关时，其中一列对线性组合「没有贡献」（可被其它列表示），相当于丢掉了一维信息，无法从 $A\mathbf{x}$ 反推 $\mathbf{x}$。
高斯-若尔当法求逆
将 $[A \mid I]$ 通过行变换化为 $[I \mid A^{-1}]$，右侧即为 $A^{-1}$。
▸求逆矩阵
求 $\begin{bmatrix} 1 & 3 \\ 2 & 7 \end{bmatrix}^{-1}$。
第一步：$R_2 - 2R_1$，消去 (2,1) 元：
$$
\begin{bmatrix} 1 & 3 & 1 & 0 \\ 2 & 7 & 0 & 1 \end{bmatrix} \xrightarrow{R_2 - 2R_1} \begin{bmatrix} 1 & 3 & 1 & 0 \\ 0 & 1 & -2 & 1 \end{bmatrix}
$$
第二步：$R_1 - 3R_2$，消去 (1,2) 元：
$$
\begin{bmatrix} 1 & 3 & 1 & 0 \\ 0 & 1 & -2 & 1 \end{bmatrix} \xrightarrow{R_1 - 3R_2} \begin{bmatrix} 1 & 0 & 7 & -3 \\ 0 & 1 & -2 & 1 \end{bmatrix}
$$
左半已化为 $I$，右半即为 $A^{-1} = \begin{bmatrix} 7 & -3 \\ -2 & 1 \end{bmatrix}$。
▸高斯-若尔当法的原理
对 $A$ 消元相当于左乘一系列消元矩阵 $E$，使 $EA = I$，则 $E = A^{-1}$。增广矩阵右侧的 $I$ 经历同样的行变换后变为 $EI = A^{-1}$，因此右侧即为 $A^{-1}$。
四、$A$ 的 LU 分解
知识概要
补充逆矩阵与转置的性质，介绍 $A = LU$ 分解、消元运算量估计，以及置换矩阵。
逆矩阵性质补充
$(AB)^{-1} = B^{-1} A^{-1}$：
▸逐步推导
要找 $X$ 使 $(AB)X = I$。设 $ABX = I$，左乘 $A^{-1}$ 得 $BX = A^{-1}$，再左乘 $B^{-1}$ 得 $X = B^{-1} A^{-1}$。验证：$(AB)(B^{-1}A^{-1}) = A(BB^{-1})A^{-1} = AIA^{-1} = AA^{-1} = I$。
转置矩阵 $A^T$：将 $A$ 的各行换成对应列，相当于沿主对角线翻折，整个乘法运算的「图形」沿对角线镜像。例如 $4 \times 2$ 的 $A$ 转置后为 $2 \times 4$；$A = \begin{bmatrix} 1 & 2 \\ 3 & 4 \end{bmatrix}$ 则 $A^T = \begin{bmatrix} 1 & 3 \\ 2 & 4 \end{bmatrix}$。
$(A^T)^{-1} = (A^{-1})^T$：
▸逐步推导
- 由 $AA^{-1} = I$ 两边转置：$(AA^{-1})^T = I^T = I$。
- 由 $(AB)^T = B^T A^T$（顺序反过来），得 $(AA^{-1})^T = (A^{-1})^T A^T$。
- 故 $(A^{-1})^T A^T = I$，说明 $(A^{-1})^T$ 是 $A^T$ 的逆，即 $(A^T)^{-1} = (A^{-1})^T$。
$A$ 的 LU 分解
消元过程可写为 $E_{32} E_{21} A = U$。令 $L = (E_{32} E_{21})^{-1} = E_{21}^{-1} E_{32}^{-1}$，则 $A = LU$，其中 $L$ 为下三角，$U$ 为上三角。
▸LU 分解例题
已知 $E_{32} E_{31} E_{21} A = U$，其中
$$
E_{32} = \begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & -5 & 1 \end{bmatrix}, \quad E_{21} = \begin{bmatrix} 1 & 0 & 0 \\ -2 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix}, \quad E_{31} = I
$$
求 $A = LU$ 中的 $L$。
解：$A = E_{21}^{-1} E_{31}^{-1} E_{32}^{-1} U$（顺序与消元相反）。$E_{31} = I$，故 $E_{31}^{-1} = I$。
$$
E_{21}^{-1} = \begin{bmatrix} 1 & 0 & 0 \\ 2 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix}, \quad E_{32}^{-1} = \begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 5 & 1 \end{bmatrix}
$$
因此
$$
L = E_{21}^{-1} E_{32}^{-1} = \begin{bmatrix} 1 & 0 & 0 \\ 2 & 1 & 0 \\ 0 & 5 & 1 \end{bmatrix}
$$
▸$L$ 的简便求法
从 $U$ 倒推：消元时「第 $j$ 行减去 $l_{ij}$ 倍第 $i$ 行」对应 $E_{ji}$，其逆 $E_{ji}^{-1}$ 在 $(j,i)$ 位置为 $l_{ij}$。$L$ 就是把所有 $E_{ji}^{-1}$ 的乘积累加：$E_{21}^{-1}$ 在 $(2,1)$ 填 2，$E_{32}^{-1}$ 在 $(3,2)$ 填 5。不必显式乘出 $E$，按消元步骤直接写出 $L$ 即可。
消元运算量
对 $n \times n$ 矩阵（无零元素），消第一列约 $n^2$ 次乘除（每行约 $n$ 次，共 $n-1$ 行），消第二列约 $(n-1)^2$ 次，…，总计约 $\sum_{k=1}^{n} k^2$。以 $n=100$ 为例：$100^2 + 99^2 + \cdots + 1^2$。用积分估计 $\sum_{k=1}^{n} k^2 \approx \int_0^n x^2 dx = \frac{n^3}{3}$，即约为 $O(n^3)$。
置换矩阵
置换矩阵 $P$：由单位阵 $I$ 经行重排得到，左乘 $P$ 实现行交换。$n$ 阶置换矩阵共有 $n!$ 个（第 1 行有 $n$ 种选法，第 2 行有 $n-1$ 种，…，乘法原理得 $n!$）。任意两个置换矩阵相乘仍为置换矩阵。
▸3 阶置换矩阵
所有 $3 \times 3$ 置换矩阵共 6 个，例如：
$$
\begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix}, \begin{bmatrix} 0 & 1 & 0 \\ 1 & 0 & 0 \\ 0 & 0 & 1 \end{bmatrix}, \begin{bmatrix} 0 & 0 & 1 \\ 0 & 1 & 0 \\ 1 & 0 & 0 \end{bmatrix}, \ldots
$$
对称矩阵：满足 $A^T = A$。对任意 $A$，$A^T A$ 与 $AA^T$ 均为对称矩阵。
学习感悟（来自原笔记）
- 第一讲：从解方程引入行图像与列图像，从列空间角度把求方程解转化为求列向量的线性组合，更加系统。矩阵乘法的理解是重点。
- 第二讲：消元法是解方程的通法，消元矩阵从矩阵乘法角度刻画消元，要熟练掌握。
- 第三讲：多从向量、空间、线性组合理解矩阵运算，少依赖繁琐证明。
- 第四讲：$LU$ 分解的优点是可直接写出 $L$，不必显式计算 $E$；置换矩阵与对称矩阵为后续内容打基础。