MIT线性代数全笔记
本文用于记录 MIT 18.06 课程关于线性代数的笔记.
对线性方程组解的几何理解
行空间:
在 $n$ 维空间内将线性方程组横向比较, 可以将每个方程看作一个 $n-1$ 维空间. 将他们在 $n$ 维空间内作图并求交，就可以得到解空间.
列空间:
例:
将列向量 $(2,-1),(-1,2)$ 画到 $2$ 维平面上, 求出 $x,y$ 的值使得等式成立. 所有满足条件的 $x,y$ 即解向量.
矩阵消元
使用高斯消元法将矩阵消为 $U$ 矩阵. 再一步步回代.
变换矩阵：
对单位矩阵做初等变换, 再右乘以 $A$, 效果等同于直接对 $A$ 做相同变换.
如果变换矩阵左乘以源矩阵会发生什么?
会从行变换变为列变换.
清楚初等变换的概念是分行和列的.
消元变换时对一个单位矩阵作同样变换, 就可以得到一个消元的变换阵.
矩阵乘法和逆
分块矩阵：
只要矩阵分块形式是一致的 (分块后各个部分的分别相乘都合法), 就可以分块相乘.
逆矩阵：
增广矩阵求法：原矩阵左/右接一个单位矩阵，对增广矩阵变换，使原矩阵部分变为单位矩阵，则之前拼接的单位矩阵就会变换为逆矩阵.
LU 分解
因为
故求出 $L,U$ 其中一个后, 另一个可以用逆矩阵的方式求出, 因为
$EA=U\to ELU=E\to L=E^{-1}$
转置，置换，向量空间
一些基本性质
- $(AB)^{-1}=B^{-1}A^{-1}$
- $(AB)^T=B^TA^T$
- $(A^T)^{-1}=(A^{-1})^T$
转置 (transpose) 矩阵是正交矩阵. 因为 $A^TA=I$. 感性上很好理解.
置换 (permutation) 矩阵, 顾名思义就是只进行行\列互换的初等变换矩阵.
向量空间的概念类似于群.
定义：一个向量空间是由一些向量构成的非空集合。该集合上定义了加和数乘运算。满足运算封闭性。
和群（特别地，向量空间是一类阿贝尔群）类似, 向量空间具有以下性质:
- 运算封闭. 向量空间对 $+$, 数乘 两个运算封闭. (不包括叉乘！)
- 满足交换律. 对数乘满足结合律和分配律.
- 存在逆元. 在向量空间中为相反向量.
- $\forall \vec x,1·{\vec x}=\vec x$
子空间的概念类似于子群.
列空间和零空间*
列空间即由向量空间某些列构成的空间. 任何列空间一定是整个向量空间的子空间.
零空间
零空间并不是指 $(0,…,0)$ 这个向量,
而是指 $A\vec x=\vec 0$ 的所有解构成的解空间.
主变量和特解
先将一个矩阵进行消元，消元后主元的个数为该矩阵的秩。
在这个 $U$ 矩阵中，有主元的列称为主列，其余列为自由列。自由列的变量定值后可以解得矩阵的一个特解。
假设矩阵有 $n$ 个自由列，那么取 $n$ 个不线性相关的特解就可以表达出原方程组的通解。
简化行阶梯形式
$U$ 在进行列变换（列交换）后可以变为行阶梯形式 $R=\begin{bmatrix}I& F\\0 & 0\end{bmatrix}$.
把主变量放在左边的列，自由变量放在右边的列。
然后就可以解出零空间。
$Rx=0\rarr N=\begin{bmatrix}-F\\I\end{bmatrix}$.
$Ax=b$ 的可解性与解的结构
线性相关性、基、维数
线性相关
向量组存在结果为零向量的组合则称线性相关（除开所有向量都数乘 0 的情况）
张成
指向量组的所有线性组合的结果生成的空间。
基
向量基有以下特点：
- 线性无关
- 能够生成整个空间
根据第二个特点，可以知道向量基是和向量空间对应的概念。+
维数
基向量的个数，就是这个向量空间的维数。
而基向量组按列组成的矩阵，它的秩就等于这个向量空间的维数。也就是说矩阵的列空间维数=矩阵的秩。注意是数量上相等，这两个概念是不同的。
而矩阵的零空间的维数，等于矩阵自由变量的个数。因此 $free_variables=n-rank$.
