Question

一组向量{ x ₁ ，x ₂ ，...x_n }的 值域 是{ x ₁ ，x ₂ ，...x_n }线性组合的所有向量的集合。即

可以看出如{ x ₁ ，...，x_n }是一组 n 个线性无关的向量，其中 x_i ∈ R ⁿ ，则({ x ₁ ，...x_n }) 的值域= R ⁿ 。换句话说，任何向量 v ∈ R ⁿ 可以写成 x ₁ 至 x_n 的线性组合。向量 y ∈ R ^m 在值域 { x ₁ ，...，x_n }上的 投影 (假定 x_i ∈ R ^m ) 是向量 v ∈ span({ x ₁ ，...x_n })，则通过比较其欧式范数， v 与 y 无限接近。这个投影记作 Proj（Y；{ x1，…，n}）,可以定义它为，

A ∈ R ^{m × n} 的值域（有时也被称为列空间），表示为 R( A )，就是 A 的值域。换言之，

R( A ) = { v ∈ R ^m : v = Ax，x ∈ R ⁿ } .

我们假设 A 满秩且 n < m ，向量 y ∈ R^m 在 A 值域上面的投影可以表示为

这最后一个方程应该看起来非常熟悉，因为它几乎是我们在课上用于参数的最小二乘估计公式（并且我们可以快速再次推导出来）几乎相同的。看一下投影的定义，你会发现这其实与我们在解决最小二乘法问题时进行最小化的目的是相同的（除了范数是一个平方，这并不影响求得最优的点），所以这些问题是有自然联系的。当 A 仅含有 1 个单独的列 a ∈ R ^m ，则出现了向量在一条直线上投影的特殊情况。

矩阵 A ∈ R ^{m × n} 的 零空间 ，记为 N( A )，是被 A 乘后，得到的所有等于 0 的向量一个集合，即，

N( A ) = { x ∈ R ⁿ : Ax = 0} .

注意，向量 R( A ) 的大小为 m，而 N( A ) 的大小为 n，所以 R( A^T ) 和 N( A ) 的向量都在 R ⁿ 中。事实上，我们可以讨论更多。

换句话说，R( A^T ) 和 N( A ) 是不相交的子集，一同跨越了 R ⁿ 整个空间。这种类型的集合称为正交互补，写作 R( A^T ) = N( A )^⊥.