本笔记涵盖第 5–10 讲:转置与向量空间、列空间与零空间、$Ax=0$ 与 $Ax=b$ 的求解、线性相关性、基与维数、四个基本子空间。

与 01 的衔接:为什么要学向量空间?

01 已会消元求具体解,但没回答:$Ax=b$ 什么时候有解?解有多少个? 把 $Ax$ 理解为列的线性组合后,有解 $\Leftrightarrow$ $b \in C(A)$。$Ax=0$ 的解构成零空间 $N(A)$,决定了解的「自由度」。四个子空间(列、零、行、左零)是理解矩阵的骨架,后续投影、SVD 都依赖它们。



一、转置、置换与向量空间 $\mathbb{R}^n$

向量空间的定义

向量空间:对线性运算(加法、数乘)封闭的向量集合。即对其中任意向量 $\mathbf{v}, \mathbf{w}$:

  • $\mathbf{v} + \mathbf{w}$ 仍在空间中
  • $c\mathbf{v}$($c$ 为实数)仍在空间中
零向量的必要性

任一向量空间必须包含零向量。因为 $0 \cdot \mathbf{v} = \mathbf{0}$,且 $\mathbf{v} + (-\mathbf{v}) = \mathbf{0}$,故零向量必在空间中。


子空间

子空间:向量空间 $V$ 的子集 $S$,且 $S$ 本身对线性运算封闭。

子空间必过原点

子空间必须包含零向量,故在几何上必过原点。例如 $\mathbb{R}^2$ 中过原点的直线是子空间,不过原点的直线不是。


$\mathbb{R}^3$ 的子空间只有三类:

  1. 过原点的平面
  2. 过原点的直线
  3. 仅含零向量的空间 $Z$

列空间

列空间 $C(A)$:矩阵 $A$ 各列向量及其所有线性组合构成的子空间。

设 $A = \begin{bmatrix} 1 & 3 \\ 2 & 3 \\ 4 & 1 \end{bmatrix}$,列空间由 $\begin{bmatrix} 1 \\ 2 \\ 4 \end{bmatrix}$ 与 $\begin{bmatrix} 3 \\ 3 \\ 1 \end{bmatrix}$ 张成,是 $\mathbb{R}^3$ 中过原点的一个平面。


二、列空间与零空间

子空间的交与并

  • $P \cup L$:两个子空间的并集一般不是子空间(对加法可能不封闭)
  • $P \cap L$:两个子空间的交集一定是子空间

列空间与 $Ax = b$ 的可解性

$Ax = b$ 有解的条件

$Ax = b$ 有解 当且仅当 $b$ 属于 $A$ 的列空间 $C(A)$,即 $b$ 可写成 $A$ 各列的线性组合。


主列:消元后主元所在的列;去掉非主列不改变列空间。

零空间

零空间 $N(A)$:满足 $Ax = \mathbf{0}$ 的所有 $x$ 构成的子空间。

  • 列空间 $C(A)$ 是 $\mathbb{R}^m$ 的子空间($A$ 为 $m \times n$)
  • 零空间 $N(A)$ 是 $\mathbb{R}^n$ 的子空间
$Ax = b$($b \neq 0$)的解集不是子空间

若 $b \neq 0$,则 $x = \mathbf{0}$ 不是解,解集中无零向量,故不是向量空间。解集在几何上是「不过原点的平面或仿射子空间」。



三、求解 $Ax = 0$(主变量、特解)

主变量与自由变量

消元得到上三角 $U$ 后:

  • 主列:主元所在的列,对应主变量
  • 自由列:无主元的列,对应自由变量,可任意赋值

秩 $r$:主元个数。

求零空间的算法

  1. 将 $A$ 消元得 $U$
  2. 确定主变量与自由变量(共 $n - r$ 个自由变量)
  3. 依次将自由变量赋为 $\begin{bmatrix} 1 \\ 0 \\ \vdots \end{bmatrix}$,$\begin{bmatrix} 0 \\ 1 \\ \vdots \end{bmatrix}$,…,回代求特解
  4. 零空间 = 所有特解的线性组合
例:求零空间

$A = \begin{bmatrix} 1 & 2 & 2 & 2 \\ 2 & 4 & 6 & 8 \\ 3 & 6 & 8 & 10 \end{bmatrix}$

消元得 $U = \begin{bmatrix} 1 & 2 & 2 & 2 \\ 0 & 0 & 2 & 4 \\ 0 & 0 & 0 & 0 \end{bmatrix}$,秩 $r = 2$,自由变量 $x_2, x_4$。

赋 $(x_2, x_4) = (1, 0)$ 得特解 $\begin{bmatrix} -2 \\ 1 \\ 0 \\ 0 \end{bmatrix}$;赋 $(x_2, x_4) = (0, 1)$ 得特解 $\begin{bmatrix} 2 \\ 0 \\ -2 \\ 1 \end{bmatrix}$。

零空间:$x = c_1 \begin{bmatrix} -2 \\ 1 \\ 0 \\ 0 \end{bmatrix} + c_2 \begin{bmatrix} 2 \\ 0 \\ -2 \\ 1 \end{bmatrix}$。


简化行阶梯形式 $R$

将 $U$ 继续化简:主元化为 1,主元列除主元外为 0,得到 $R$:
$$
R = \begin{bmatrix} I & F \\ 0 & 0 \end{bmatrix}
$$

零空间矩阵 $N$:各列为特解。由 $RN = 0$ 可得:
$$
N = \begin{bmatrix} -F \\ I \end{bmatrix}
$$


四、$Ax = b$ 的可解性与解的结构

可解条件

$Ax = b$ 有解 当且仅当 $b$ 满足消元后零行对应的约束。

零行约束的来源

若 $A$ 的某些行是其他行的线性组合,消元后会出现零行。对 $[A \mid b]$ 做相同行变换后,该行变为 $0 = b’$ 的形式,故 $b’$ 必须为 0。


通解的结构

$$
\text{通解} = \text{特解} + \text{零空间的任意向量}
$$

求特解时,可将自由变量全赋为 0(与 $Ax = 0$ 不同,因 $b \neq 0$),再回代求主变量。

秩与解的结构

情况 秩的条件 自由变量 解的情况
列满秩 $r = n < m$ 0 有解则唯一,或无解
行满秩 $r = m < n$ $n - r$ 有解则无穷多
满秩方阵 $r = m = n$ 0 有解则唯一
不满秩 $r < m, r < n$ $n - r$ 无解或无穷多解

五、线性相关性、基、维数

线性无关与线性相关

设向量组 $\mathbf{v}_1, \ldots, \mathbf{v}_n$:

  • 线性无关:只有 $c_1 = \cdots = c_n = 0$ 时,$c_1 \mathbf{v}_1 + \cdots + c_n \mathbf{v}_n = \mathbf{0}$
  • 线性相关:存在不全为零的 $c_i$ 使得上述组合为零
与零空间的关系

$A$ 的列向量线性无关 $\Leftrightarrow$ $N(A) = {\mathbf{0}}$。线性相关 $\Leftrightarrow$ 存在非零 $x$ 使 $Ax = 0$。


生成空间

向量组 $\mathbf{v}_1, \ldots, \mathbf{v}_n$ 生成一个空间,指该空间由它们的所有线性组合构成。

:满足以下两点的向量组:

  1. 线性无关
  2. 生成整个空间

$\mathbb{R}^n$ 的基必含 $n$ 个向量;$n$ 个 $n$ 维向量构成基 $\Leftrightarrow$ 以它们为列的 $n \times n$ 矩阵可逆。

维数

维数:基中向量的个数。同一空间的不同基,向量个数相同。

  • $\dim C(A) = r$(秩)
  • $\dim N(A) = n - r$
例:求列空间的基与维数

$A = \begin{bmatrix} 1 & 2 & 3 & 1 \\ 1 & 1 & 2 & 1 \\ 1 & 2 & 3 & 1 \end{bmatrix}$

第 3 列 = 第 1 列 + 第 2 列,第 4 列 = 第 1 列,故前两列线性无关,可作为列空间的基,$\dim C(A) = 2$。零空间维数 = $4 - 2 = 2$。



六、四个基本子空间

四个子空间概览

为什么是「四个」子空间?

$A$ 把 $\mathbb{R}^n$ 映到 $\mathbb{R}^m$。列空间 $C(A)$ 与左零空间 $N(A^T)$ 在 $\mathbb{R}^m$ 中,行空间 $C(A^T)$ 与零空间 $N(A)$ 在 $\mathbb{R}^n$ 中。行与零、列与左零互为正交补,各占一半维数,故 $\dim C(A) + \dim N(A^T) = m$,$\dim C(A^T) + \dim N(A) = n$。


对 $m \times n$ 矩阵 $A$:

子空间 记号 所属空间 维数
列空间 $C(A)$ $\mathbb{R}^m$ $r$
零空间 $N(A)$ $\mathbb{R}^n$ $n - r$
行空间 $C(A^T)$ $\mathbb{R}^n$ $r$
左零空间 $N(A^T)$ $\mathbb{R}^m$ $m - r$

行空间

行空间 $C(A^T)$:$A$ 各行线性组合构成的子空间,也可看作 $A^T$ 的列空间。

行化简为 $R$ 后,$R$ 的非零行构成行空间的一组基。行变换不改变行空间

左零空间

左零空间 $N(A^T)$:满足 $A^T \mathbf{y} = \mathbf{0}$ 的 $\mathbf{y}$,等价于 $\mathbf{y}^T A = \mathbf{0}$($\mathbf{y}^T$ 左乘 $A$ 得零,故称「左」零空间)。

求左零空间的一组基

对 $[A \mid I]$ 做行变换得 $[R \mid E]$。$R$ 的零行对应的 $E$ 中的行,即为把 $A$ 的行线性组合得零的系数,即左零空间的基。


矩阵空间

所有 $3 \times 3$ 矩阵在加法和数乘下构成线性空间。其子空间包括:上三角矩阵、对称矩阵、对角矩阵等。