5分钟理解线性代数v2

5分钟理解线性代数：核心概念与几何直觉

把线性代数的概念套入正式的数学公式和一个二元一次方程的例子中，可以让我们看清它们在实际计算中是如何运转的。

1. 向量的互动：内积与外积

示例向量：
$a=[a_1,a_2{]}^T$, $b=[b_1,b_2{]}^T$

• 内积 (点乘)：
  • 公式：$a\cdot b=|a||b|\cos \theta =a_1{b}_1+a_2{b}_2$
  • 直观理解：计算结果是一个标量，代表 $a$ 在 $b$ 上的投影长度与 $b$ 长度的乘积，用于衡量向量间的“平行程度”。
• 外积 (叉乘)：
  • 公式：三维空间中外积的大小为 $|a\times b|=|a||b|\sin \theta$（在二维平面中表现为 $a_1{b}_2-a_2{b}_1$ 的有向面积标量）。
  • 直观理解：衡量向量间的“垂直程度”，大小是张成的平行四边形面积，方向是垂直于这两个向量的法线。
  • 进阶联系：在引入李群与李代数的数学推导时，帽号操作符 $(\cdot {)}^{\wedge }$ 会将三维向量映射为一个 $3\times 3$ 的反对称矩阵。此时，两个向量的外积可以直接用矩阵乘法来表示，即 $a^{\wedge }b=a\times b$。

2. 空间的动作：矩阵与行列式

• 矩阵：它不是一堆死板的数字，而是一个**“空间揉捏器”**。矩阵乘法就是一个动作，负责把整个空间进行拉伸、旋转或者倾斜。
• 行列式：是这个揉捏动作的**“缩放比例”**。如果空间里有一个体积为 1 的方块，被矩阵揉捏后体积变成了 5，那么该矩阵的行列式就是 5。

3. 找回原点：方程与可逆

我们用方程组 $Ax=b$ 来直观演示行列式 $\det (A)$ 是如何决定方程有没有解的：

$$\left[\begin{array}{cc}2& 1\\ 1& 1\end{array}\right]\left[\begin{array}{c}x\\ y\end{array}\right]=\left[\begin{array}{c}3\\ 2\end{array}\right]$$

既然矩阵 $A$ 是揉捏空间的动作，$Ax=b$ 就是在问：空间变形后跑到 $b$ 位置的点，一开始在哪？

• 空间未被压扁 ($\det (A)\ne 0$)：
  • 矩阵 $A$ 的行列式 $\det (A)=2\times 1-1\times 1=1$。
  • 这意味着二维平面经过变换后，面积比例仍然是 1（没有变成 0）。因为空间没有塌陷，我们可以完美“倒带”（矩阵可逆），算出的唯一原点是 $x=1,y=1$。
• 空间降维打击 ($\det (A)=0$)：
  • 假设矩阵变成 $A=\left[\begin{array}{cc}2& 1\\ 4& 2\end{array}\right]$，那么 $\det (A)=2\times 2-1\times 4=0$。
  • 这意味着变换动作把整个二维平面硬生生压成了一根一维的线。当目标点 $b$ 掉在这根线上，会有无数个原本的点挤在一起（无数解）；如果 $b$ 落在排线之外（比如本例），那你根本找不到原点（无解）。

核心等价推导链：
只要变形时空间没有被压扁，就能将动作完美“倒带”。在数学上，这等同于以下所有条件同时成立：
$$\begin{array}{rl}& \text{空间没有塌缩降维}\\ ⟺& \det (A)\ne 0\\ ⟺& \mathrm{rank}(A)=N\text{ (满秩)}\\ ⟺& \text{列向量线性无关}\\ ⟺& A\text{ 是可逆矩阵}\\ ⟺& Ax=b\text{ 对任意 }b\text{ 都有唯一解}\\ ⟺& Ax=0\text{ 只有唯一零解}\end{array}$$

4. 寻找骨架：特征值与特征向量

• 定义公式：$Ax=\lambda x$
• 直观翻译：矩阵 $A$ 对绝大多数向量的作用都是“既改变方向又改变长度”。但对于特殊的特征向量 $x$，矩阵 $A$ 的作用退化成了单纯的缩放，方向完全不变。而这个发生缩放的倍数，就是特征值 $\lambda$。

5. 摆正大碗：二次型与标准化

• 含有交叉项（歪斜的碗）：二次型通常写成矩阵形式 $f(x,y)=x^{T}Ax$。如果方程是 $x^2+4xy+y^2$，其中的 $4xy$ 交叉项说明这个几何曲面在坐标系里是“歪着放”的，很难直接看出极值（碗底或马鞍点）。
• 标准化（端正的碗）：通过求特征值（对角化），我们相当于转动了观察的坐标系。新的方程会变成 $f(u,v)={\lambda }_1{u}^2+{\lambda }_2{v}^2$。交叉项彻底消失了，此时通过正负号一眼就能看清它是“碗”还是“马鞍”。