工程矩阵

工程矩阵的定义

分块矩阵

分块矩阵的乘法可以表示为：

$AB=\left(\begin{array}{cc}{A}_{11}& A_{12}\\ A_{21}& A_{22}\end{array}\right)\left(\begin{array}{cc}{B}_{11}& B_{12}\\ B_{21}& B_{22}\end{array}\right)$

对于分块矩阵，有性质：${\left(\begin{array}{c}A\\ B\end{array}\right)}^{\ast }=(A^{\ast },B^{\ast })$

矩阵方程组

设方程组 $Ax=b$, $A=(a_{ij}{)}_{m\times n}$, $b=(b_i{)}_{m\times 1}$，则有：

1. 有解 $\iff r(A)=r(A,b)$
2. 若 $r(A)=r(A,b)=r<n$，则有解且有 $n-r$ 个自由未知量
3. 若 $r(A)=r(A,b)=r=n$，则有唯一解

齐次线性方程组的基础解系

对齐次线性方程组 $Ax=0,A=(a_{ij}{)}_{m\times n}$，则有：

1. 非零解 $\iff r(A)<n$
2. 若 $r(A)=r<n$，则其基础解系中含有 $n-r$ 个解向量
3. 若 $r(A)=r<n$，则其任意 $n-r$ 个线性无关的解向量就是其基础解系

高斯消元法：

1. 用初等行变换将 $A$ 逐步化成阶梯形矩阵
2. 确定自由未知量
3. 用回代法找出通解

极大无关组

设向量组 ${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_m$ 的所有极大线性无关组 ${\alpha }_{i_1},{\alpha }_{i_2},\cdots ,{\alpha }_{i_r}$ 满足：

1. ${\alpha }_{i_1},{\alpha }_{i_2},\cdots$ 线性无关
2. ${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_m$ 中每个向量都可由 ${\alpha }_{i_1},{\alpha }_{i_2},\cdots ,{\alpha }_{i_r}$ 线性表示

则称 ${\alpha }_{i_1},{\alpha }_{i_2},\cdots ,{\alpha }_{i_r}$ 是 ${\alpha }_1,\cdots ,{\alpha }_m$ 的一个极大无关组。

定理：

1. 若向量组的秩为 $r$，则该向量组中任意 $r$ 个线性无关的向量组是其极大无关组
2. 如果一向量组的极大无关组中含 $r$ 个向量，则称该向量组的秩为 $r$

矩阵的等价标准形

$s\times n$ 矩阵 $A$ 的秩等于 $r$ $\Rightarrow$ 存在可逆矩阵 $P_{s\times s},Q_{n\times n}$ 使得 $A=P\left(\begin{array}{cc}{I}_r& 0\\ 0& 0\end{array}\right)Q$

消去分解

$s\times n$ 矩阵 $A$ 的秩为 $r$，存在 $s\times r$ 矩阵 $B$ 和 $r\times n$ 矩阵 $C$ 使得 $A=BC$，即矩阵的消去分解。

定理：

1. $r(A+B)\le r(A)+r(B)$
2. $r(AB)\le r(A),r(B)$
3. $r(A)+r(B)\le r\left(\left(\begin{array}{c}{A}_{kk},B_{kk}\end{array}\right)\right)+n$

线性空间和线性变换

线性空间的定义和性质

线性空间的定义 线性空间满足下述三个要求建立的八条公理：

1. 一个数域 $K$，一个非空集合 $V$（V 中的元素称为向量）
2. 两个运算：
   • 加法：$\forall x,y\in V$, 记作：$x+y\in V$
   • 数乘运算：$\forall a\in K,x\in V$, 记作：$ax\in V$
3. 这两个运算满足如下八条公理：
   • 加法交换律：$\forall \alpha ,\beta \in V,\alpha +\beta =\beta +\alpha$
   • 加法结合律：$\forall \alpha ,\beta ,\gamma \in V,(\alpha +\beta )+\gamma =\alpha +(\beta +\gamma )$
   • 零元存在性：存在 $0\in V$, 使得 $\forall \alpha \in V$, 有 $\alpha +0=\alpha$
   • 负元存在性：$\forall \alpha \in V$, 存在 $\beta \in V$, 使得 $\alpha +\beta =0$
   • 数乘结合律：$\forall \lambda \in K,\alpha \in V,\lambda \alpha \in V$
   • 乘法结合律：$\forall k_1,k_2\in K,\forall \alpha \in V$, 有 $k_1(k_2\alpha )=(k_1{k}_2)\alpha$
   • 分配律一：$\forall k\in F,\forall \alpha ,\beta \in V$, 有 $k(\alpha +\beta )=k\alpha +k\beta$
   • 分配律二：$\forall k_1,k_2\in F,\forall \alpha \in V$, 有 $(k_1+k_2)\alpha =k_1\alpha +k_2\alpha$

线性空间的性质 设 V 是数域 F 上的线性空间，$\forall \alpha ,\beta ,\gamma \in V,k\in K$，则：

1. V 中的零元是唯一的，通常记为 0
2. 任何一个向量的负向量是唯一的，通常记为 $-a$
3. 加法满足消去律：若 $\alpha +\gamma =\beta +\gamma$，则 $\alpha =\beta$
4. 若 $\alpha +\beta =0$ 且 $\alpha =-\beta$，则 $\beta =-\alpha$
5. $k\cdot 0=0$, $0\cdot \alpha =0$
6. $(-k)\alpha =-k\alpha$, 特别地, $(-1)\alpha =-\alpha$

线性相关与线性无关

定义 设 ${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_n\in V$，若有不全为 0 的数 $k_1,k_2,\cdots ,k_n$ 使得 $k_1{\alpha }_1+k_2{\alpha }_2+\cdots +k_n{\alpha }_n=0$，则向量组 ${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_n$ 线性相关。否则，称线性无关。

性质

1. 若 $n\ge 2$，则 ${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_n$ 线性相关当且仅当存在向量 ${\alpha }_i$ 使得它可由其余向量线性表示
2. 向量 ${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_n$ 能否无关，但 ${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_n,{\alpha }_{n+1}$ 线性相关，则可知 ${\alpha }_{n+1}$ 可由前面线性表示，而且，线性表示的方式是唯一的

推论

1. 若 ${\beta }_1,{\beta }_2,\cdots ,{\beta }_n$ 线性相关，${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_n$ 线性无关，则 ${\beta }_1,\cdots ,{\beta }_n$ 不能都由 ${\alpha }_1,\cdots ,{\alpha }_n$ 线性表示
2. 若 ${\beta }_1,{\beta }_2,\cdots ,{\beta }_n$ 线性无关，${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_n$ 线性相关，则 ${\alpha }_i\ne {\beta }_i$

基和维数

基的定义 若 ${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_n\in V$ 满足：

1. 向量组 ${\alpha }_1,\cdots ,{\alpha }_n$ 线性无关
2. $\forall \beta \in V$，均可由 ${\alpha }_1,\cdots ,{\alpha }_n$ 线性表示 则称 ${\alpha }_1,\cdots ,{\alpha }_n$ 是 V 的一组基

基的性质

1. 线性空间的基不一定存在，仅当一个空间由有限向量系生成，基相当于可以简明生成的最简集
2. 注意：有限维线性空间 $V$ 中任意线性无关向量组均可扩展成基

维数

• 若 V 的某一组基中含 n 个向量，则 V 的任一组基中都含 n 个向量
• 称 V 是 n 维空间，记为 $\dim V=n$
• 规定零空间的维数为 0

维数的性质

1. 若 $\dim V=n$，则 V 中任意 $n+1$ 个向量线性相关
2. 定理：若 $\dim V=n$，则 V 中任意 $n$ 个线性无关向量均构成 V 的一组基

坐标和形式记导

坐标的定义 设 ${\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_n$ 是 V 的一组基，$\beta \in V$，且 $\beta =x_1{\alpha }_1+x_2{\alpha }_2+\cdots +x_n{\alpha }_n$，则称 $(x_1,x_2,\cdots ,x_n)$ 是 $\beta$ 在基 ${\alpha }_1,\cdots ,{\alpha }_n$ 下的坐标。

坐标的性质 假设 ${\eta }_i\in V$ 是基 ${\alpha }_1,\cdots ,{\alpha }_n$ 下的坐标分析对应关系，及 $X_i$, $i=1,2,\cdots ,n$，则：

1. $n=0\Rightarrow X=0$
2. 若 ${\eta }_1=x_1{\alpha }_1+\cdots +x_n{\alpha }_n$, 则 $X=(x_1,x_2,\cdots ,x_n{)}^T$
3. ${\eta }_1,\cdots ,{\eta }_n$ 线性相关 $\iff X_1,\cdots ,X_n$ 线性相关

形式记导

• $X=\left(\begin{array}{c}{x}_1\\ x_2\\ x_3\end{array}\right)$ 是在基 ${\alpha }_1,{\alpha }_2,{\alpha }_3$ 下的坐标
• 则可形式记成 $\beta =({\alpha }_1,{\alpha }_2,{\alpha }_3)X$

形式记导的性质

1. 若 ${\beta }_i=({\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_n)A$，${\beta }_1,{\beta }_2,\cdots ,{\beta }_n$ 线性无关 $\iff A$ 是可逆矩阵
2. 若有 $({\beta }_1,{\beta }_2,\cdots ,{\beta }_n)=({\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_n)A$ $({\eta }_1,{\eta }_2,\cdots ,{\eta }_n)=({\beta }_1,{\beta }_2,\cdots ,{\beta }_n)B$ 则有 $({\eta }_1,{\eta }_2,\cdots ,{\eta }_n)=({\alpha }_1,{\alpha }_2,\cdots ,{\alpha }_n)(AB)$

过渡矩阵

定义 设 ${\alpha }_1,\cdots ,{\alpha }_n$ 和 ${\beta }_1,\cdots ,{\beta }_n$ 都是 $V$ 的基，且 $({\beta }_1,\cdots ,{\beta }_n)=({\alpha }_1,\cdots ,{\alpha }_n)A$，则称从基 ${\alpha }_1,\cdots ,{\alpha }_n$ 到基 ${\beta }_1,\cdots ,{\beta }_n$ 的矩阵 $A$ 为过渡矩阵。

性质

1. 过渡矩阵一定是可逆的
2. 由 ${\beta }_1,\cdots ,{\beta }_n$ 到 ${\alpha }_1,\cdots ,{\alpha }_n$ 的过渡矩阵是 $A^{-1}$
3. 若 ${\beta }_1,\cdots ,{\beta }_n$ 到 ${\gamma }_1,\cdots ,{\gamma }_n$ 的过渡矩阵是 $B$，那么 ${\alpha }_1,\cdots ,{\alpha }_n$ 到 ${\gamma }_1,\cdots ,{\gamma }_n$ 的过渡矩阵是 $AB$

变换公式 设 $X$ 为 $\eta$ 在基 ${\alpha }_1,\cdots ,{\alpha }_n$ 下的坐标，$Y$ 在基 ${\beta }_1,\cdots ,{\beta }_n$ 下的坐标，若 $({\beta }_1,\cdots ,{\beta }_n)=({\alpha }_1,\cdots ,{\alpha }_n)P$，则 $Y=PX$

子空间

定义 设 $V$ 是域 $F$ 上的线性空间，$W$ 是 $V$ 的非空子集。若 $W$ 关于 $V$ 的运算也构成 $F$ 上的线性空间，则称 $W$ 为 $V$ 的子空间，记为 $W\le V$。

性质

• 子空间与 $V$ 的运算规则相同
• 定理：设 $W\subseteq V$ 非空，则 $W$ 是 $V$ 的子空间 $\iff$ $W$ 关于线性运算封闭

解空间

定义 设 $A\in F^{m\times n}$，$V=\{\eta \in F^n\mid A\eta =0\}$ 称为齐次方程组 $A\eta =0$ 的解空间。

性质

• 基础解系是一组基，维数为$n-r$
• 解集是一个子空间

生成的子空间

定义 设 $V$ 是 $F$ 上的线性空间，${\alpha }_1,\cdots ,{\alpha }_n\in V$，集合 $W=\{\sum k_i{\alpha }_i\mid k_i\in F\}$ 称为 ${\alpha }_1,\cdots ,{\alpha }_n$ 生成的子空间，记为 $W=L({\alpha }_1,\cdots ,{\alpha }_n)$。

性质

1. $W=L({\alpha }_1,\cdots ,{\alpha }_n)$ 是 $V$ 的子空间
2. $L({\alpha }_1,\cdots ,{\alpha }_n)$ 的基是 ${\alpha }_1,\cdots ,{\alpha }_n$ 的极大无关组，即 $\dim L({\alpha }_1,\cdots ,{\alpha }_n)=r({\alpha }_1,\cdots ,{\alpha }_n)$
3. $L({\alpha }_1,\cdots ,{\alpha }_n)=L({\beta }_1,\cdots ,{\beta }_n)\iff$ ${\alpha }_1,\cdots ,{\alpha }_n$与${\beta }_1,\cdots ,{\beta }_n$等价

子空间的运算

子空间的交

• 定义：$V_1\cap V_2=\{\eta \in V\mid \eta \in V_1,\eta \in V_2\}$
• 性质：$V_1\cap V_2$ 仍为 $V$ 的子空间

子空间的和

• 定义：$V_1+V_2=\{\eta \in V\mid \exists {\eta }_1\in V_1,{\eta }_2\in V_2,\eta ={\eta }_1+{\eta }_2\}$
• 性质：
  1. $V_1+V_2$ 是 $V$ 的子空间
  2. 定理：若 $V_1=L({\alpha }_1,\cdots ,{\alpha }_s)$，$V_2=L({\beta }_1,\cdots ,{\beta }_t)$，则 $V_1+V_2=L({\alpha }_1,\cdots ,{\alpha }_s,{\beta }_1,\cdots ,{\beta }_t)$
  3. 维数公式：$\dim (V_1+V_2)=\dim V_1+\dim V_2-\dim (V_1\cap V_2)$

直和

定义 设 $V_1,V_2\le V$，若 $\forall \eta \in V_1+V_2$，存在唯一的 ${\eta }_1\in V_1,{\eta }_2\in V_2$，使得 $\eta ={\eta }_1+{\eta }_2$，则称 $V_1+V_2$ 是 $V$ 的直和，记为 $V_1\oplus V_2$。

定理 若 $V_1,V_2\le V$，则下述条件等价：

1. $V_1+V_2$ 直和
2. $0$的表示方式唯一
3. $V_1\cap V_2=\{0\}$
4. $\dim (V_1+V_2)=\dim V_1+\dim V_2$
5. $V_1,V_2$ 的基合在一起就是 $V_1+V_2$ 的基

多个空间的直和

定义 设 $V_1,V_2,\cdots ,V_s\le V$，若 $\forall \eta \in V_1+V_2+\cdots +V_s$，存在唯一的 ${\eta }_i\in V_i$，使得 $\eta ={\sum }_{i=1}^s{\eta }_i$，则称 $V_1\oplus V_2\oplus \cdots \oplus V_s$ 是 $V$ 的直和。

定理 若 $V_1,V_2,\cdots ,V_s\le V$，则下述条件等价：

1. $V_1+V_2+\cdots +V_s$ 直和
2. $0$的表示方式唯一
3. $V_i\cap ({\sum }_{j\ne i}{V}_j)=\{0\}$
4. $\dim ({\sum }_{i=1}^s{V}_i)={\sum }_{i=1}^s\dim V_i$
5. $V_1,V_2,\cdots ,V_s$ 的基合在一起就是 $V_1+\cdots +V_s$ 的基

映射相关概念

映射、象、值域

• 设 $f:A\to B$ ,$A,B$是两个集合，$f$ 是一个映射，$a\in A$，$f(a)$ 是 $B$ 中的元素
• $f$ 的值域记为 $f(A)=\{f(a)\mid a\in A\}$
• 若 $f(x)=y$，则$y$是$x$的象，则$x$是$y$的原象
• $B$在映射下的全体象记为 $f(A)$，称为$f$的值域

恒等变换

• 集合 $S$ 到自身的映射 $I:S\to S;x\mapsto x$ 称为 $S$ 上的恒等变换

单射、满射、双射

• 设映射 $f:S\to T$
• 若 $f(S)=T$，则称 $f$ 是满射
• 若由 $f(a)=f(b)$ 必能推得 $a=b$，则称 $f$ 是单射
• 若 $f$ 既是满射又是单射，则称 $f$ 是双射
• 定理：$f:S\to T$ 是双射 $\iff f$ 是可逆映射

线性映射

定义 设 $V,U$ 是数域 $F$ 上的线性空间，若映射 $f:V\to U$ 满足条件：

1. $\forall v\in V,k\in F,f(kv)=kf(v)$
2. $\forall x,y\in V,f(x+y)=f(x)+f(y)$ 则称 $f$ 是从 $V$ 到 $U$ 的线性映射。

性质

1. $f(0)=0$
2. 若 ${\alpha }_1,\dots ,{\alpha }_n\in V,k_1,\dots ,k_n\in F$，则 $f({\sum }_{i=1}^n{k}_i{\alpha }_i)={\sum }_{i=1}^n{k}_{i}f({\alpha }_i)$
3. 若 ${\alpha }_1,\dots ,{\alpha }_n\in V$ 线性相关，则 $f({\alpha }_1),\dots ,f({\alpha }_n)\in U$ 线性相关

线性变换的运算 设 $f,f^{\prime }\in \text{Hom}(V,U),g\in \text{Hom}(U,W),k\in F$，定义 $kf,f+f^{\prime },gf$ 如下：

1. $kf:V\to U$, $(kf)(x)=kf(x)$
2. $f+f^{\prime }:V\to U$, $(f+f^{\prime })(x)=f(x)+f^{\prime }(x)$
3. $gf:V\to W$, $(gf)(x)=g(f(x))$ 则 $kf,f+f^{\prime },gf$ 都是线性映射

值域和核空间

值域

• 若 $V=L({\alpha }_1,\dots ,{\alpha }_s)$，则 $f$ 的值域为 $R(f)=\{f(v)\mid v\in V\}=L(f({\alpha }_1),\dots ,f({\alpha }_s))$
• 定理：设 $f\in \text{Hom}(V,U)$，则 $f$ 是满射 $\iff R(f)=U$
• 定理：若 $f\in \text{Hom}(V,U)$，在基 $V:{\alpha }_1,\dots ,{\alpha }_n$; $U:{\beta }_1,\dots ,{\beta }_s$ 下的矩阵是 $A$，即$(f({\alpha }_1),f({\alpha }_2),\cdots ,f({\alpha }_n))=({\beta }_1,{\beta }_2,\cdots ,{\beta }_s)A$，由于 $R(f)=L(f({\alpha }_1),\dots ,f({\alpha }_n))$ $f({\alpha }_1),\dots ,f({\alpha }_n)$ 的极大无关组是 $R(f)$ 的基，且 $\dim R(f)=r(A)$

核空间

• 定义：$K(f)=\{v\in V\mid f(v)=0\}$ 是 $V$ 的子空间，称为 $f$ 的核空间
• 定理：设 $f\in \text{Hom}(V,U)$，则 $f$ 是单射 $\iff K(f)=\{0\}$
• 定理：若 $f\in \text{Hom}(V,U)$ 在基 $V:{\alpha }_1,\dots ,{\alpha }_n$; $U:{\beta }_1,\dots ,{\beta }_s$ 下的矩阵是 $A$，$\eta \in V$ 在 ${\alpha }_1,\dots ,{\alpha }_n$ 下的坐标是 $X$，则 $f(\eta )$ 在 ${\beta }_1,\dots ,{\beta }_s$ 下的坐标是 $AX$。因此，$\eta \in K(f)\iff AX=0$
• 维数定理：设 $\dim V<\infty ,f\in \text{Hom}(V,U)$，则 $\dim R(f)+\dim K(f)=\dim V$
• 推论：设 $\dim V<\infty ,f\in \text{Hom}(V,V)$，则 $f$ 可逆 $\iff f$ 是单射 $\iff f$ 是满射

基下的矩阵

定义 设 $f\in \text{Hom}(V,U)$，选定基 $V:{\alpha }_1,\dots ,{\alpha }_n$; $U:{\beta }_1,\dots ,{\beta }_s$。若 $(f({\alpha }_1),f({\alpha }_2),\dots ,f({\alpha }_n))=({\beta }_1,{\beta }_2,\dots ,{\beta }_s)A$，则称 $A$ 是 $f$ 在选定基下的矩阵。 特别如果 $U=V$，且 ${\alpha }_i={\beta }_i$，则称 $A$ 是线性变换 $f$ 在所选基下的矩阵。

定理

1. 若 $f\in \text{Hom}(V,U)$ 在基 $V:{\alpha }_1,\dots ,{\alpha }_n$; $U:{\beta }_1,\dots ,{\beta }_s$ 下的矩阵是 $A$，$\eta \in V$ 在 ${\alpha }_1,\dots ,{\alpha }_n$ 下的坐标是 $X$，则 $f(\eta )$ 在 ${\beta }_1,\dots ,{\beta }_s$ 下的坐标是 $AX$
2. 设 $f\in \text{Hom}(V,U)$ 在基 $V:{\alpha }_1,\dots ,{\alpha }_n$; $U:{\beta }_1,\dots ,{\beta }_s$ 下的矩阵是 $A$；在基 $V:{\alpha }_1^{\prime },\dots ,{\alpha }_n^{\prime }$; $U:{\beta }_1^{\prime },\dots ,{\beta }_m^{\prime }$ 下的矩阵是 $B$。若从基 $\alpha$ 到基 ${\alpha }^{\prime }$ 的过渡矩阵是 $P$，从基 $\beta$ 到基 ${\beta }^{\prime }$ 的过渡矩阵是 $Q$，则 $B=Q^{-1}AP$
3. 设 $f\in \text{Hom}(V,V)$ 在基 ${\alpha }_1,\dots ,{\alpha }_n$ 下的矩阵是 $A$；在基 ${\alpha }_1^{\prime },\dots ,{\alpha }_n^{\prime }$ 下的矩阵是 $B$。若从基 $\alpha$ 到基 ${\alpha }^{\prime }$ 的过渡矩阵是 $P$，则 $B=P^{-1}AP$
4. 设 $f,g\in \text{Hom}(V,V)$ 在 $V$ 的基 ${\alpha }_1,\dots ,{\alpha }_n$ 下的矩阵分别是 $A,B$，设 $k\in F$，则在该基下：
   • $kf$ 的矩阵是 $kA$
   • $f+g$ 的矩阵是 $A+B$
   • $fg$ 的矩阵是 $AB$
   • $f$ 可逆 $\iff A$ 可逆，$f^{-1}$ 的矩阵是 $A^{-1}$

不变子空间

定义 设 $f\in \text{Hom}(V,V),W\subseteq V$, 若 $\forall \eta \in W$, 有 $f(\eta )\in W$, 则称 $W$ 是 $f$ 的不变子空间。

性质

1. 设 $f\in \text{Hom}(V,V)$, 则 $R(f),K(f)$ 均是 $f$ 的不变子空间
2. $W$ 是关于 $f$ 的不变子空间, 则 $f{\Vert }_W$ 可以看成是 $W$ 上的线性变换
3. 如果 $V=V_1\oplus V_2$, 其中, $V_1,V_2$ 都是关于 $f$ 的不变子空间, 则取 $V_1$ 的基 ${\alpha }_1,\dots ,{\alpha }_s$, 取 $V_2$ 的基 ${\alpha }_{s+1},\dots ,{\alpha }_n$, 则 ${\alpha }_1,\dots ,{\alpha }_s,{\alpha }_{s+1},\dots ,{\alpha }_n$ 是 $V$ 的基, 这组基下, $f$ 的矩阵为 $\left(\begin{array}{cc}A& O\\ O& B\end{array}\right)$
4. 定理：线性变换在不同的基下的矩阵是相似的

同构

定义

• 设 $U,V$ 都是数域 $F$ 上的线性空间。如果 $f\in \text{Hom}(V,U)$ 是双射, 则称 $f$ 是线性空间 $U,V$ 之间的同构映射。
• 如果 $U,V$ 之间存在同构映射, 则称 $U,V$ 是同构的。记为 $V\cong U$。

定理

1. 设 $f:V\to U$ 是线性空间 $U,V$ 之间的同构, ${\alpha }_1,{\alpha }_2,\dots ,{\alpha }_s\in V$, 则 ${\alpha }_1,{\alpha }_2,\dots ,{\alpha }_s$ 线性相关当且仅当 $f({\alpha }_1),f({\alpha }_2),\dots ,f({\alpha }_s)\in U$ 线性相关。
2. 设 $U,V$ 都是数域 $F$ 上的线性空间, 则 $V\cong U$ 当且仅当 $\dim V=\dim U$。

内积空间和等距变换

内积的定义与性质

内积的定义

设 $V$ 是数域 $F$ 上的线性空间，在 $V$ 上定义了一个二元函数 $⟨\alpha ,\beta ⟩$，若满足：

1. 共轭对称性：$⟨\alpha ,\beta ⟩=\overline{⟨\beta ,\alpha ⟩}$
2. 可加性：$\forall \alpha ,\beta ,\gamma \in V$, $⟨\alpha +\beta ,\gamma ⟩=⟨\alpha ,\gamma ⟩+⟨\beta ,\gamma ⟩$
3. 齐次性：$\forall \alpha ,\beta \in V,k\in F$, $⟨k\alpha ,\beta ⟩=k⟨\alpha ,\beta ⟩$
4. 正定性：$\forall \alpha \in V,⟨\alpha ,\alpha ⟩\ge 0$; 且等号成立当且仅当 $\alpha =0$

则称 $⟨\alpha ,\beta ⟩$ 是 $\alpha ,\beta$ 的内积。

内积的性质

1. $⟨\alpha ,\beta +\gamma ⟩=⟨\alpha ,\beta ⟩+⟨\alpha ,\gamma ⟩$
2. $⟨\alpha ,k\beta ⟩=\overline{k}⟨\alpha ,\beta ⟩$
3. $⟨{\sum }_{i=1}^s{k}_i{\alpha }_i,{\sum }_{j=1}^t{l}_j{\beta }_j⟩={\sum }_{i=1}^s{\sum }_{j=1}^t{k}_i\overline{l_j}⟨{\alpha }_i,{\beta }_j⟩$
4. 对任意 $\alpha \in V,⟨\alpha ,0⟩=⟨0,\alpha ⟩=0$

标准内积

• 实数域：$⟨\alpha ,\beta ⟩={\beta }^T\alpha ={\sum }_{i=1}^n{a}_i{b}_i$
• 复数域：$⟨\alpha ,\beta ⟩={\beta }^H\alpha ={\sum }_{i=1}^n{a}_i\overline{b_i}$

内积空间

定义

• 定义了内积的线性空间称为内积空间
• 当 $F=\mathbb{R}$ 时，称 $V$ 是欧几里德空间（欧氏空间）
• 当 $F=\mathbb{C}$ 时，称 $V$ 是酉空间

度量矩阵

设 ${ϵ}_1,{ϵ}_2,\dots ,{ϵ}_n$ 是 $V$ 的基，$\alpha ,\beta \in V$ 的坐标是 $X=(x_1,x_2,\dots ,x_n{)}^T,Y=(y_1,y_2,\dots ,y_n{)}^T$

则 $⟨\alpha ,\beta ⟩={\sum }_{i=1}^n{\sum }_{j=1}^n{x}_i\overline{y_j}⟨{ϵ}_i,{ϵ}_j⟩=X^{T}AY$

其中，$A=((⟨{ϵ}_i,{ϵ}_j⟩){)}_{n\times n}$，称 $A$ 是 $V$ 在基 ${ϵ}_1,{ϵ}_2,\dots ,{ϵ}_n$ 下的度量矩阵。

性质：

• 若 $F=\mathbb{R}$，则度量矩阵是实对称矩阵：$A=A^T$
• 若 $F=\mathbb{C}$，则度量矩阵是 Hermite 矩阵：$A=A^H$

长度与距离

长度

设 $\alpha \in V$，$\alpha$ 的模（长度）定义为 $\parallel \alpha \parallel =\sqrt{⟨\alpha ,\alpha ⟩}$ 若 $\parallel \alpha \parallel =1$，则称 $\alpha$ 是单位向量。

性质：

1. $\forall \alpha \in V,\parallel \alpha \parallel \ge 0$, 且 $\parallel \alpha \parallel =0\iff \alpha =0$
2. $\parallel k\alpha \parallel =|k|\parallel \alpha \parallel$

重要定理：

1. Cauchy-Schwarz不等式：$\forall \alpha ,\beta \in V,|⟨\alpha ,\beta ⟩|\le \parallel \alpha \parallel \parallel \beta \parallel$
2. 三角不等式：$\forall \alpha ,\beta \in V,\parallel \alpha +\beta \parallel \le \parallel \alpha \parallel +\parallel \beta \parallel$

距离

向量 $\alpha ,\beta$ 间的距离定义为 $d⟨\alpha ,\beta ⟩=\parallel \alpha -\beta \parallel$

三角不等式：$\forall \alpha ,\beta ,\gamma \in V,d(\alpha ,\gamma )\le d(\alpha ,\beta )+d(\beta ,\gamma )$

正交性

定义

• 若向量 $\alpha ,\beta$ 的内积为零，则称 $\alpha ,\beta$ 是正交的，记作 $\alpha \perp \beta$
• 由两两正交的非零向量组成的向量组称为正交向量组
• 由两两正交的单位向量组成的向量组称为标准正交向量组
• 由正交向量组组成的基称为正交基
• 由标准正交向量组组成的基称为标准正交基

重要定理

1. 勾股定理：若 $\alpha \perp \beta$, 则 $\parallel \alpha +\beta {\parallel }^2=\parallel \alpha {\parallel }^2+\parallel \beta {\parallel }^2$
2. 基扩充定理：假设 $W$ 是 $V$ 的子空间，${\alpha }_1,{\alpha }_2,\dots ,{\alpha }_s$ 是 $W$ 的标准正交基，则存在 ${\alpha }_{s+1},{\alpha }_{s+2},\dots ,{\alpha }_n$，使得 ${\alpha }_1,{\alpha }_2,\dots ,{\alpha }_s,{\alpha }_{s+1},{\alpha }_{s+2},\dots ,{\alpha }_n$ 是 $V$ 的标准正交基

Schmidt正交化

若 ${\alpha }_1,{\alpha }_2,\dots ,{\alpha }_s\in V$ 是线性无关的，可以通过以下步骤正交化：

1. ${\beta }_1={\alpha }_1$
2. ${\beta }_k={\alpha }_k-{\sum }_{j=1}^{k-1}\frac{⟨{\alpha }_k,{\beta }_j⟩}{⟨{\beta }_j,{\beta }_j⟩}{\beta }_j$ for $k=2,\dots ,s$
3. 单位化：${\gamma }_i=\frac{1}{\parallel {\beta }_i\parallel }{\beta }_i,i=1,2,\dots ,s$

酉矩阵

定义

若 $A^{H}A=I$，则 $n$ 阶方阵 $A$ 称为酉矩阵 （酉矩阵本质上是正交矩阵在复数域的推广）

性质

1. A是酉矩阵 $\iff$ $A^{H}A=I$ $\iff$ $A^{-1}=A^H$ $\iff$ $A$ 的行（列）向量组是 ${\mathbb{C}}^n$ 的标准正交基
2. 若 $A,B$ 是同阶酉矩阵，则 $A^{-1},AB$ 都是酉矩阵
3. 设 $A$ 是上（下）三角矩阵，若 $A$ 是酉矩阵，则 $A$ 是对角阵，且其主对角元的模均等于1

重要定理

设 ${\alpha }_1,{\alpha }_2,\dots ,{\alpha }_n$ 是 $V$ 的标准正交基，$({\gamma }_1,{\gamma }_2,\dots ,{\gamma }_n)=({\alpha }_1,{\alpha }_2,\dots ,{\alpha }_n)U$，则 ${\gamma }_1,{\gamma }_2,\dots ,{\gamma }_n$ 是标准正交基 $\iff U$ 是酉矩阵

正交补空间

定义

• 若 $W_1,W_2\le V$，对 $\forall {\alpha }_1\in W_1,{\alpha }_2\in W_2$, ${\alpha }_1\perp {\alpha }_2$，称 $W_1\perp W_2$
• 设 $W\le V$，记 $W^{\perp }=\{\alpha \in V\mid \alpha \perp W\}$， $W^{\perp }$ 是 $V$ 的子空间，称为 $W$ 在 $V$ 中的正交补空间

重要定理

1. 设 $W=L({\alpha }_1,{\alpha }_2,\dots ,{\alpha }_s)$，$\eta \in V$，则 $\eta \perp W\iff \eta \perp {\alpha }_j$, $\forall j$
2. 设 $V$ 是内积空间， $W$ 是 $V$ 的有限维子空间，则 $V=W\oplus W^{\perp }$
3. 若 $V=W\oplus U$，且 $W\perp U$，则 $U=W^{\perp }$
4. 设 $A\in {\mathbb{C}}^{s\times n}$，定义线性映射 $f:{\mathbb{C}}^n\to {\mathbb{C}}^s$ 满足 $f(x)=Ax$, $\forall x\in {\mathbb{C}}^n$， $f$ 的值域和核空间分别为 $R(A),K(A)$。可得 $R(A{)}^{\perp }=K(A^H)$, $K(A{)}^{\perp }=R(A^H)$

正投影

定义

已知 $W\le V,\alpha \in V$，若 $\eta \in W$ 满足 $d(\alpha ,\eta )={\min }_{\xi \in W}d(\alpha ,\xi )$，则称 $\eta$ 为 $\alpha$ 在 $W$ 中的正投影

重要定理

1. $\eta \in W$ 是 $\alpha$ 在 $W$ 中的正投影当且仅当 $\eta -\alpha \perp W$
2. 若 $\alpha$ 在 $W$ 中的正投影存在，则正投影必定是唯一的
3. 设 $W$ 是内积空间 $V$ 的有限维子空间，则 $V$ 中任意向量在 $W$ 中的正投影一定存在

等距变换

定义

$V$ 是内积空间，$f\in \text{Hom}(V,V)$，若 $⟨f(\alpha ),f(\beta )⟩=⟨\alpha ,\beta ⟩$, $\forall \alpha ,\beta \in V$，称 $f$ 是等距变换

性质

• 若 $F=\mathbb{R}$，称 $f$ 是正交变换
• 若 $F=\mathbb{C}$，称 $f$ 是酉变换

重要定理

设 $V$ 是内积空间，$f\in \text{Hom}(V,V)$，下述条件等价：

1. $f$ 保持长度不变 $\parallel f(\alpha )\parallel =\parallel \alpha \parallel$
2. $f$ 保持内积不变 $⟨f(\alpha ),f(\beta )⟩=⟨\alpha ,\beta ⟩$
3. $f$ 将标准正交基变为标准正交基
4. $f$ 在标准正交基下的矩阵是酉矩阵

欧氏空间中的镜像变换

定义

设 $V$ 是一个欧氏空间，$\omega \in V$ 是一个单位向量，映射 $f:V\to V$, $\alpha \mapsto \alpha -2⟨\alpha ,\omega ⟩\omega$，则 $f$ 是 $V$ 上的等距变换（镜像变换）

性质

$\alpha \to \beta$ 正交变换（镜像变换）的单位向量 $\omega =\frac{1}{\parallel \alpha -{\beta }_0\parallel }(\alpha -{\beta }_0)=\frac{1}{\parallel \alpha -\frac{\parallel \alpha \parallel }{\parallel \beta \parallel }\beta \parallel }(\alpha -\frac{\parallel \alpha \parallel }{\parallel \beta \parallel }\beta )$

Hermite

Hermite矩阵

定义

设 $A\in {\mathbb{C}}^{n\times n}$，若有 $A^H=A$，称为 Hermite 矩阵，简称为H矩阵 若 $\forall j,i$，有 $a_{ij}=\overline{a_{ji}}$，特别地，若 $\forall i$, 有$a_{ii}\in \mathbb{R}$ 设 $A\in {\mathbb{C}}^{n\times n}$，若有 $A^H=-A$，称为H矩阵

性质

实对称矩阵：

1. 实对称矩阵的特征值都为实数
2. 实对称矩阵的属于不同特征值的特征向量相互正交
3. 存在正交矩阵 $Q$，使得 $Q^{T}AQ$ 为对角阵

Hermite矩阵：

1. 所有特征值均为实数
2. 不同特征值的特征向量相互正交
3. 存在酉矩阵 $U$，使得 $U^{H}AU$ 为对角阵

Hermite二次型

定义

$f(X)=X^{H}AX={\sum }_{i=1}^n{\sum }_{j=1}^n{a}_{ij}\overline{x_i}{x}_j$ 为 Hermite 二次型

性质

1. 若 $A,B$都是H阵,且对$\forall X\in {\mathbb{C}}^n,X^{H}AX=X^{H}BX$,则$A=B$
2. 设$f(X)=X^{H}AX,g(Y)=Y^{H}BY$,C是可逆矩阵,若在$X=CY$下,$f(X)=g(Y)$,则$B=C^{H}AC$

共轭合同

定义

设 $A,B$ 是矩阵，若有可逆矩阵 $C$，使得 $B=C^{H}AC$，则称 $A$ 与 $B$ 是共轭合同的

性质

1. 反身性：$A$ 与 $A$ 共轭合同
2. 对称性：若 $A$ 与 $B$ 共轭合同，则 $B$ 与 $A$ 共轭合同
3. 传递性：若 $A$ 与 $B$，$B$ 与 $C$ 共轭合同，则 $A$ 与 $C$ 共轭合同

正规阵

定义

设 $A\in {\mathbb{C}}^{n\times n}$，若有 $A^{H}A=A{A}^H$，则称 $A$ 是正规阵

重要定理

1. 若 $A$ 是上三角的，又是正规阵，则 $A$ 是对角阵
2. Hermite矩阵酉矩阵都是正规阵
3. $A\in {\mathbb{C}}^{n\times n}$ 是 Hermite 矩阵 $\iff$ $A$ 酉相似于对角阵
4. $A\in {\mathbb{C}}^{n\times n}$ 是正规阵 $\iff$ $A$ 有 $n$ 个两两正交的单位特征向量

Shur引理：对于任意矩阵 $A$，存在酉矩阵 $U$，使得 $U^{H}AU$ 是上三角阵

Hermite二次型的标准形

定义

假设 Hermite 二次型 $f(X)$ 有可逆线性变换 $X=CY$ 变成只含平方项的形式，则 $g(Y)=f(X)=Y^{H}DY$ 的标准型 $g(Y)=d_1\mid y_1{\mid }^2+d_2\mid y_2{\mid }^2+\cdots +d_n\mid y_n{\mid }^2$，其中 $d_i$ 为实数，且 $d_1\ge d_2\ge \cdots \ge d_n$

惯性定理

定义

若$f(X)$在可逆线性变换$X=CY$和$X=DZ$的标准形分别为 Hermite 二次型标准型中的正项数 $p$ 和负项数 $q$ 称为其正惯性指数，负项个数称为其负惯性指数

定理

1. 若 $n\times n$ Hermite 矩阵 $A,B$ 共轭合同，则 $A,B$ 有相同的正、负惟一性指数
2. 若 $A_1=\left(\begin{array}{ccc}{a}_1& & \\ & \ddots & \\ & & a_p\end{array}\right)$，$A_2=\left(\begin{array}{ccc}{b}_1& & \\ & \ddots & \\ & & b_q\end{array}\right)$，其都合同，则 $a_1,...,a_p,b_1,...,b_q$ 均正、负项数相同

规范形

定义

如 $n\times n$ Hermite 矩阵 $A$ 的正、负惟一性指数分别是 $p,q$，则 $A$ 共轭合同于 $\left(\begin{array}{ccc}{I}_p& 0& 0\\ 0& -I_q& 0\\ 0& 0& 0\end{array}\right)$ 称此矩阵为 $A$ 的规范形

性质

$r(A)=p+q$

正定性和半正定性

定义

1. 若对任意非零向量 $X\in {\mathbb{C}}^n$，都有 $X^{H}AX>0$，则称 $A$ 为正定矩阵
2. 若对任意非零向量 $X\in {\mathbb{C}}^n$，都有 $X^{H}AX\ge 0$，则称 $A$ 为半正定矩阵

正定矩阵的充分必要条件

1. $A$ 的所有特征值都大于零
2. $A$ 的所有顺序主子式都大于零
3. $A$ 的正惯性指数等于 $n$
4. 存在可逆矩阵 $P$，使得 $A=P^{H}P$
5. $A$ 与单位阵 $I$ 共轭合同

半正定矩阵的充分必要条件

1. $A$ 的所有特征值都非负
2. $A$ 的所有主子式都非负
3. $A$ 的负惯性指数为 0
4. 存在矩阵 $P$，使得 $A=P^{H}P$

重要定理

1. 若 $A$ 为正定矩阵，则 $A$ 必为 Hermite 矩阵
2. 若 $A$ 为正定矩阵，则 $A^{-1}$ 也是正定矩阵
3. 若 $A,B$ 都是正定矩阵，则 $A+B$ 也是正定矩阵

$\lambda$矩阵和 Jordan 分块

多项式

定义：$n$ 是非负整数，$\mathbb{F}$ 是一个数域，$a_0,a_1,...,a_n\in \mathbb{F}$

$$f(\lambda )=a_n{\lambda }^n+a_{n-1}{\lambda }^{n-1}+\cdot \cdot \cdot a_1\lambda +a_0$$

称为数域上关于 $\lambda$ 的一元多项式

如果 $a_n\ne 0$，则称 $a_n{\lambda }^n$ 为 $f(\lambda )$ 的首项，$n$ 称为多项式的次数，记为 $\partial (f(\lambda ))$，于是 $\partial (f(\lambda ))=n$

如果 $a_0=a_1=・・・=a_n=0$，称该多项式为零多项式，规定 $\partial (f(\lambda ))=-\infty$

如果 $a_0\ne 0,a_1=・・・=a_n=0$，称该多项式为零次多项式，$\partial (f(\lambda ))=0$，即该多项式为非零常数

多项式的带余除法

定义：$f(\lambda ),g(\lambda )\in \mathbb{F}[\lambda ]$，如果 $g(\lambda )\ne 0$，则存在 $q(\lambda ),r(\lambda )\in \mathbb{F}[\lambda ]$，使得

$$f(\lambda )=g(\lambda )q(\lambda )+r(\lambda )$$

其中，要么 $r(\lambda )=0$，要么 $r(\lambda )\ne 0$ 且 $\partial (r(\lambda ))<\partial (g(\lambda ))$

$q(\lambda )$ 称为 $g(\lambda )$ 除 $f(\lambda )$ 的商，$r(\lambda )$ 称为余式

如果 $r(\lambda )=0$，则称 $g(\lambda )$ 整除 $f(\lambda )$，记为 $g(\lambda )|f(\lambda )$

多项式的公因式，公倍式

• $f(\lambda ),g(\lambda ),d(\lambda )\in \mathbb{F}[\lambda ]$，如果 $d(\lambda )|f(\lambda )$ 且 $d(\lambda )|g(\lambda )$，则称 $d(\lambda )$ 为 $f(\lambda ),g(\lambda )$ 的公因式
• $f(\lambda ),g(\lambda ),d(\lambda )\in \mathbb{F}[\lambda ]$，如果 $f(\lambda )|d(\lambda )$ 且 $g(\lambda )|d(\lambda )$，则称 $d(\lambda )$ 为 $f(\lambda ),g(\lambda )$ 的公倍式
• 最大公因式 GCD：次数最大的公因式
• 最小公倍式 LCM：次数最小的公倍式

如果 $GCD(f(\lambda ),g(\lambda ))=1$，$f(\lambda )$ 和 $g(\lambda )$ 称为互质

质因式分解

$$f(\lambda )=(q_1(\lambda ){)}^{r_1}(q_2(\lambda ){)}^{r_2}\cdot \cdot \cdot (q_s(\lambda ){)}^{r_s}$$

其中 $q_i(\lambda )$ 为不可约多项式，即 $q_i(\lambda )$ 不能表示成两个次数比 $q_i(\lambda )$ 低的多项式的乘积

类比实数域中的，任何一个合数都可以分解为几个质数的乘积

一个多项式是否可约，关键要看数域 $\mathbb{F}$，例如

$$\begin{gathered} \mathbb{F}=\mathbb{R},{\lambda }^2+1,不可约 \\ \mathbb{F}=\mathbb{C},{\lambda }^2+1=(\lambda +i)(\lambda -i),可约 \end{gathered}$$

常见数域的不可约多项式

$\mathbb{R}[\lambda ]$ 上不可约多项式只有两种

$$\begin{array}{rl}& a\lambda +b(a,b\in \mathbb{R}\&a\ne 0)\\ & a{\lambda }^2+b\lambda +c(a,b,c\in \mathbb{R}\&a\ne 0\&b^2-4ac<0)\end{array}$$

$\mathbb{C}[\lambda ]$ 上不可约多项式只有一种

$$a\lambda +b(a,b\in \mathbb{C}\&a\ne 0)$$

---

$\lambda$ 矩阵

以多项式为元素的矩阵称为多项式矩阵，简称为 $\lambda$ 矩阵。记号 ${\mathbb{F}}^{m\times n}[\lambda ]$ 表示所有 $m$ 行 $n$ 列的 $\lambda$ 矩阵的集合，矩阵的元素是系数在 $\mathbb{F}$ 中的 $\lambda$ 的多项式。也就是说，$A(\lambda )\in {\mathbb{F}}^{m\times n}[\lambda ]$ 表示 $A(\lambda )=[a_{ij}(\lambda ){]}_{m\times n}$，其中，$a_{ij}(\lambda )\in \mathbb{F}[\lambda ]$

方阵 $A$ 的特征矩阵 $\lambda I-A$ 也是 $\lambda$ 矩阵，例如

$$\begin{gathered} A=(a_{ij}{)}_{n\times m} \\ \lambda I-A=\left[\begin{array}{cccc}\lambda -a_{11}& -a_{12}& \cdots & -a_{1n}\\ -a_{21}& \lambda -a_{22}& \cdots & -a_{2n}\\ ⋮& & & \\ -a_{n1}& -a_{n2}& \cdots & \lambda -a_{nn}\end{array}\right] \end{gathered}$$

数字矩阵是 $\lambda$ 矩阵的特例（由零多项式或零次多项式为元素构成的矩阵）

以多项式为元素的矩阵和以矩阵为系数的多项式

如

$$A(\lambda )=\left[\begin{array}{cc}{\lambda }^2+\lambda +1& \lambda -1\\ 2\lambda & 1\end{array}\right]$$

可以写成

$$A(\lambda )=\left[\begin{array}{cc}1& 0\\ 0& 0\end{array}\right]{\lambda }^2+\left[\begin{array}{cc}1& 1\\ 2& 0\end{array}\right]\lambda +\left[\begin{array}{cc}1& -1\\ 0& 1\end{array}\right]$$

多项式矩阵和通常矩阵的主要区别在于：其元素所在的运算系统 —— 多项式环 $\mathbb{F}[x]$—— 不是一个域，所以通常矩阵的性质中，涉及到除法的，对于多项式矩阵不再成立

$\lambda$ 矩阵的秩

$\lambda$ 矩阵的秩，也用 rank 表示，是指其值为非零多项式的子行列式的最大阶数。换言之，多项式矩阵的秩为 $r$ 是指：存在 $r$ 阶子行列式，其值为非零多项式；且所有阶数 $\ge r+1$ 的子行列式的值均为零多项式。零矩阵的秩为 0

可逆的 $\lambda$ 矩阵

一个 $n$ 阶 $\lambda$ 矩阵是可逆的，若存在多项式矩阵 $V(\lambda )\in {\mathbb{F}}^{n\times n}[\lambda ]$ 使得

$$U(\lambda )V(\lambda )=V(\lambda )U(\lambda )=I_n$$

这里 $I_n$ 是 $n$ 阶单位阵，其中称为 $U(\lambda )$ 的逆矩阵，记为 $U^{-1}(\lambda )$

**定理：**一个 $n$ 阶 $\lambda$ 矩阵 $U(\lambda )$ 可逆的充要条件是 $\det U(\lambda )$ 是一个非零常数

注：$n$ 阶 $\lambda$ 矩阵 $U(\lambda )$ 的秩为 $n$，不等价于 $U(\lambda )$ 可逆，这是与数字矩阵不相同之处，例如 $U(\lambda )=\left[\begin{array}{cc}\lambda & 1\\ 1& \lambda \end{array}\right]$ 的秩为 2，但是它不可逆

---

Jordan 块

定义形如 $J({\lambda }_i){\left[\begin{array}{cccc}{\lambda }_i& 1& & \\ & {\lambda }_i& \ddots & \\ & & \ddots & 1\\ & & & {\lambda }_i\end{array}\right]}_{k\times k}$ 的矩阵称为 Jordan 块。Jordan 块是一个上三角矩阵，其主对角线上的元素均相等；主对角线上面一条斜线的元素均为 1；其余元素均为 0

特殊地，当 $k=1$ 时，一阶 Jordan 块是 $[{\lambda }_i]$

Jordan 形矩阵

形如 $J=\left[\begin{array}{cccc}J({\lambda }_1)& & & \\ & J({\lambda }_2)& & \\ & & \ddots & \\ & & & J({\lambda }_s)\end{array}\right]$（其中 $J({\lambda }_i)$ 均为 Jordan 块）的矩阵称为 Jordan 形矩阵。Jordan 形矩阵是一个分块对角阵，其中每一个小分块都是 Jordan 块

Jordan 标准形

若矩阵 $A$ 与 Jordan 形矩阵 $J$ 相似，则称 $J$ 是 $A$ 的 Jordan 标准形

---

例 1

判断下列矩阵是否为 Jordan 形矩阵

$$\begin{gathered} \left[\begin{array}{ccc}1& 0& 0\\ 0& 2& 0\\ 0& 0& 2\end{array}\right],\left[\begin{array}{ccc}1& 1& 0\\ 0& 2& 1\\ 0& 0& 2\end{array}\right],\left[\begin{array}{ccc}1& 1& 0\\ 0& 2& 0\\ 0& 0& 2\end{array}\right],\left[\begin{array}{ccc}1& 0& 0\\ 0& 2& 1\\ 0& 0& 2\end{array}\right] \\ \left[\begin{array}{ccc}2& 1& 0\\ 0& 0& 1\\ 0& 0& 0\end{array}\right],\left[\begin{array}{ccc}2& 0& 0\\ 0& 0& 1\\ 0& 0& 0\end{array}\right],\left[\begin{array}{cccc}1& 0& 0& 0\\ 0& 2& 1& 0\\ 0& 0& 2& 0\\ 0& 0& 0& 1\end{array}\right] \end{gathered}$$

**解：**对于正确的 Jordan 形矩阵，用黑线给出了分块形式；对于错误的 Jordan 形矩阵，指出了需要修改的元素

---

Jordan 标准形的存在性、唯一性

对矩阵 $A$ 的 Jordan 标准形中每个分块改变排列顺序，得到的依然是 Jordan 标准形

若 $J=\left[\begin{array}{cccc}{J}_1& & & \\ & J_2& & \\ & & \ddots & \\ & & & J_s\end{array}\right]$ 是矩阵 $A$ 的 Jordan 标准形，而 $K=\left[\begin{array}{cccc}{J}_{i_1}& & & \\ & J_{i_2}& & \\ & & \ddots & \\ & & & J_{i_s}\end{array}\right]$，其中 $J_{i_1},J_{i_2},...,J_{i_s}$ 是 $J_1,J_2,...,J_s$ 的一个排列，则 $K$ 也是 $A$ 的 Jordan 标准形

那么所谓的 Jordan 标准形的唯一性是如何定义的呢？除了相差 Jordan 块的次序外，矩阵的 Jordan 标准形是存在的、唯一的

性质

1. 若 $A$ 与 $J$ 相似，${\lambda }_0$ 是数，则对一切正整数 $k$，$\mathrm{rank}((A-{\lambda }_{0}E{)}^k)=\mathrm{rank}((J-{\lambda }_{0}E{)}^k)$
2. 若 $n\times n$ 矩阵 $N=\left[\begin{array}{cccc}0& 1& & \\ & 0& \ddots & \\ & & \ddots & 1\\ & & & 1\end{array}\right]$，则 $\mathrm{rank}(N^{k-1})-\mathrm{rank}(N^k)=\{\begin{array}{l}1,若k\le n\\ 0,若k>n\end{array}$
3. 若 $J$ 是 Jordan 矩阵，则 $\mathrm{rank}((J-{\lambda }_{0}E{)}^{k-1})-\mathrm{rank}((J-{\lambda }_{0}E{)}^l)$ 等于 $J$ 中阶数 $\ge k$ 的，以 ${\lambda }_0$ 为主对角元的 Jordan 块的块数

定理

设 ${\lambda }_0$ 是矩阵 $A$ 的特征值，则 $A$ 的 Jordan 标准形中以 ${\lambda }_0$ 为主对角元的 $k$ 阶 Jordan 块的块数为

$$\mathrm{rank}(B^{k-1})-2\cdot \mathrm{rank}(B^k)+\mathrm{rank}(B^{k+1})$$

其中，$B=A-{\lambda }_{0}E$

根据这个定理，我们只要针对矩阵 $A$ 的每一个特征值 ${\lambda }_0$，依次求解相应于这个特征值的每一阶 Jordan 块的块数，就可以把矩阵 $A$ 的 Jordan 标准形完全求解出来。但实际上，这一工作需要大量的计算，在实际中不会采用。我们只需要明确，根据一个矩阵 $A$ 的特征值、$A-{\lambda }_{0}E$、阶数 $k$ 等信息就能够完全确定矩阵 $A$ 对应的 Jordan 标准形

---

Jordan 标准形的求法

• 求矩阵 $A$ 的特征多项式 $|\lambda E-A|=(\lambda -{\lambda }_1{)}^{k_1}(\lambda -{\lambda }_2{)}^{k_2}...(\lambda -{\lambda }_s{)}^{k_s}$，其中 $k_i$ 是特征值 ${\lambda }_i$ 的代数重数，决定了对角线上特征值 ${\lambda }_i$ 的个数；

• 对 ${\lambda }_i$，由 $(A-{\lambda }_{i}E)X=0$，求 $A$ 的线性无关的特征向量 ${\alpha }_1,{\alpha }_2,...,{\alpha }_{t_i}$，其中 $t_i$ 是特征值 ${\lambda }_i$ 的几何重数，决定了 Jordan 块的个数；

  • 如果 $k_i=t_i$，即代数重数等于几何重数，说明 ${\lambda }_i$ 对应的 Jordan 块是对角阵；
  • 如果 $t_i<k_i$，就选择合适的特征向量 ${\alpha }_j$，利用方程 $(A-{\lambda }_{i}E)={\alpha }_j$ 求 Jordan 链，确定每一个小 Jordan 块的阶数。

• 将所有特征值 ${\lambda }_i$ 对应的 Jordan 块组合起来，形成 Jordan 矩阵 $J_A$

• 最小多项式决定了关于 Jordan 块的最大尺寸。

Gram 矩阵

欧氏空间

$V$ 是 $\mathbb{R}$ 上的线性空间，定义映射

$$\sigma :V\times V\to \mathbb{R}$$

对于 $\alpha ,\beta \in V$，将 $\sigma (\alpha ,\beta )$ 记为 $⟨\alpha ,\beta ⟩$，若 $\sigma$ 满足：

1. 对称性：$⟨\alpha .\beta ⟩=⟨\beta ,\alpha ⟩$
2. （右）齐次性：$⟨\alpha ,k\beta ⟩=k⟨\alpha ,\beta ⟩$
3. （右）可加性：$⟨\alpha ,\beta +\gamma ⟩=⟨\alpha ,\beta ⟩+⟨\alpha ,\gamma ⟩$
4. 非负性：$⟨\alpha ,\alpha ⟩\ge 0$，且 $⟨\alpha ,\alpha ⟩=0\iff \alpha =0$

则称 $\sigma$ 为 $V$ 上的（实）内积，当 $V$ 是有限维时，称其为欧氏空间（${\mathbb{R}}^n$ 为标准欧氏空间）

实际上 $\alpha$ 是一个向量，$\beta$ 是一个向量，$⟨\alpha ,\beta ⟩$ 表示向量 $\alpha$ 与向量 $\beta$ 的内积，结果是一个实数

实内积的性质

1. （左）齐次性：$⟨k\alpha ,\beta ⟩=k⟨\alpha ,\beta ⟩$
2. （左）可加性：$⟨\alpha +\beta ,\gamma ⟩=⟨\alpha ,\gamma ⟩+⟨\beta ,\gamma ⟩$
3. $⟨k_1{\alpha }_1+\cdot \cdot \cdot +k_s{\alpha }_s,\beta ⟩=k_1⟨{\alpha }_1,\beta ⟩+\cdot \cdot \cdot k_s⟨{\alpha }_s,\beta ⟩$
4. $⟨\alpha ,k_1{\beta }_1+\cdot \cdot \cdot +k_s{\beta }_s⟩=k_1⟨\alpha ,{\beta }_1⟩+\cdot \cdot \cdot k_s⟨\alpha ,{\beta }_s⟩$

---

复内积

$V$ 是 $\mathbb{C}$ 上的线性空间，定义映射

$$\sigma :V\times V\to \mathbb{C}$$

对于 $\alpha ,\beta \in V$，将 $\sigma (\alpha ,\beta )$ 记为 $⟨\alpha ,\beta ⟩$，若 $\sigma$ 满足：

1. 共轭对称性：$⟨\alpha .\beta ⟩=\overline{⟨\beta ,\alpha ⟩}$
2. （右）齐次性：$⟨\alpha ,k\beta ⟩=k⟨\alpha ,\beta ⟩$
3. （右）可加性：$⟨\alpha ,\beta +\gamma ⟩=⟨\alpha ,\beta ⟩+⟨\alpha ,\gamma ⟩$
4. 非负性：$⟨\alpha ,\alpha ⟩\ge 0$，且 $⟨\alpha ,\alpha ⟩=0\iff \alpha =0$

则称 $\sigma$ 为 $V$ 上的（复）内积，当 $V$ 是有限维时，称其为酉空间（${\mathbb{R}}^n$ 为标准欧氏空间）

复内积的性质

1. （左）齐次性：$⟨k\alpha ,\beta ⟩=\bar{k}⟨\alpha ,\beta ⟩$
2. （左）可加性：$⟨\alpha +\beta ,\gamma ⟩=⟨\alpha ,\gamma ⟩+⟨\beta ,\gamma ⟩$
3. $⟨k_1{\alpha }_1+\cdot \cdot \cdot +k_s{\alpha }_s,\beta ⟩=\overline{k_1}⟨{\alpha }_1,\beta ⟩+\cdot \cdot \cdot \overline{k_s}⟨{\alpha }_s,\beta ⟩$
4. $⟨\alpha ,k_1{\beta }_1+\cdot \cdot \cdot +k_s{\beta }_s⟩=k_1⟨\alpha ,{\beta }_1⟩+\cdot \cdot \cdot k_s⟨\alpha ,{\beta }_s⟩$

---

线性组合的内积的矩阵表示

${\alpha }_1,...,{\alpha }_s;{\beta }_1,...,{\beta }_t$ 是 $\mathbb{C}$ 上的内积空间 $V$ 中的两个向量组，则

$$\begin{array}{r}⟨k_1{\alpha }_1+\cdot \cdot \cdot +k_s{\alpha }_s,l_1{\beta }_1+\cdot \cdot \cdot +l_t{\beta }_t⟩\\ =(\overline{k_1},...,\overline{k_s})\left[\begin{array}{ccc}⟨{\alpha }_1,{\beta }_1⟩& \cdots & ⟨{\alpha }_1,{\beta }_t⟩\\ ⋮& \ddots & ⋮\\ ⟨{\alpha }_s,{\beta }_1⟩& \cdots & ⟨{\alpha }_s,{\beta }_t⟩\end{array}\right]\left[\begin{array}{c}{l}_1\\ ⋮\\ l_t\end{array}\right]\end{array}$$

---

Gram 矩阵

${\alpha }_1,...,{\alpha }_s;{\beta }_1,...,{\beta }_t$ 是 $\mathbb{C}$ 上的内积空间 $V$ 中的两个向量组，则

$$\left[\begin{array}{ccc}⟨{\alpha }_1,{\beta }_1⟩& \cdots & ⟨{\alpha }_1,{\beta }_t⟩\\ ⋮& \ddots & ⋮\\ ⟨{\alpha }_s,{\beta }_1⟩& \cdots & ⟨{\alpha }_s,{\beta }_t⟩\end{array}\right]$$

称为 ${\alpha }_1,...,{\alpha }_s;{\beta }_1,...,{\beta }_t$ 的协 Gram 矩阵，记为 $G({\alpha }_1,...,{\alpha }_s;{\beta }_1,...,{\beta }_t)$

${\alpha }_1,...,{\alpha }_s$ 是 $\mathbb{C}$ 上的内积空间 $V$ 中的一个向量组，则

$$\left[\begin{array}{ccc}⟨{\alpha }_1,{\beta }_1⟩& \cdots & ⟨{\alpha }_1,{\beta }_t⟩\\ ⋮& \ddots & ⋮\\ ⟨{\alpha }_s,{\beta }_1⟩& \cdots & ⟨{\alpha }_s,{\beta }_t⟩\end{array}\right]$$

称为 ${\alpha }_1,...,{\alpha }_s$ 的 Gram 矩阵，记为 $G({\alpha }_1,...,{\alpha }_s)$

${\alpha }_1,...,{\alpha }_s$ 是 ${\mathbb{C}}^n$ 中的一个向量组，记 $A=({\alpha }_1,...,{\alpha }_s)$，则

$$G({\alpha }_1,...,{\alpha }_s)=A^{H}A$$

其中，$A^H=(\bar{A}{)}^T=\overline{(A^T)}$

${\alpha }_1,...,{\alpha }_s$ 是 ${\mathbb{R}}^n$ 中的一个向量组，记 $A=({\alpha }_1,...,{\alpha }_s)$，则

$$G({\alpha }_1,...,{\alpha }_s)=A^{T}A$$

${\alpha }_1,...,{\alpha }_s;{\beta }_1,...,{\beta }_t$ 是 $\mathbb{C}$ 上的内积空间 $V$ 中的两个向量组，如果 ${\alpha }_1,...,{\alpha }_s$ 可由 ${\beta }_1,...,{\beta }_t$ 线性表出，且

$$({\alpha }_1,...,{\alpha }_s)=({\beta }_1,...,{\beta }_t)A$$

则

$$G({\alpha }_1,...,{\alpha }_s)=A^{H}G({\beta }_1,...,{\beta }_t)A$$

Gram 矩阵的性质

1. $\mathrm{rank}(G)=\mathrm{rank}({\alpha }_1,...,{\alpha }_s)$
2. Hermite 性：$G^H=G$
3. 非负性：$\forall x\in {\mathbb{C}}^s$，复二次型 $x^{H}Gx\ge 0$，并且 $G$ 正定 $\iff {\alpha }_1,...,{\alpha }_s$ 线性无关

矩阵分解

矩阵的满秩分解

设 $A\in {\mathbb{C}}_r^{m\times n}$，则存在 $B\in {\mathbb{C}}_r^{m\times r},C\in {\mathbb{C}}_r^{r\times n}$，满足

$$A=BC$$

${\mathbb{C}}_r$ 表示矩阵的秩为 $r$

实际上上述定理用文字描述就是，一个亏秩的矩阵可以分解成一个列满秩与行满秩矩阵的乘积

**证明：**因为 $\mathrm{rank}(A)=r$，所以一定可以找到与 $A$ 相似的一个矩阵

$$A\simeq \left[\begin{array}{cc}{E}_r& 0_{r\times (n-r)}\\ 0_{(m-r)\times r}& 0_{(m-r)\times (n-r)}\end{array}\right]=\left[\begin{array}{c}{E}_r\\ 0_{(m-r)\times r}\end{array}\right]\left[\begin{array}{cc}{E}_r& 0_{r\times (n-r)}\end{array}\right]$$

因此存在两个可逆矩阵 $P,Q$，使 $PAQ=\left[\begin{array}{cc}{E}_r& 0\\ 0& 0\end{array}\right]$，则

$$\begin{array}{rl}A& =P^{-1}\left[\begin{array}{c}{E}_r\\ 0\end{array}\right]\left[\begin{array}{cc}{E}_r& 0\end{array}\right]Q^{-1}\\ & \triangleq BC\end{array}$$

因为 $P^{-1}$ 是可逆矩阵，$\left[\begin{array}{c}{E}_r\\ 0\end{array}\right]$ 是一个列满秩矩阵，所以 $B=P^{-1}\left[\begin{array}{c}{E}_r\\ 0\end{array}\right]$ 仍是一个列满秩矩阵；同理，$C=\left[\begin{array}{cc}{E}_r& 0\end{array}\right]Q^{-1}$ 是一个行满秩矩阵

矩阵满秩分解的计算

如何在给定矩阵 $A$ 的情况下，求出矩阵 $B,C$ 呢？

设

$$\begin{gathered} A=[{\alpha }_1,{\alpha }_2,...,{\alpha }_n] \\ B=[{\beta }_1,{\beta }_2,...,{\beta }_r],其中{\beta }_1,...,{\beta }_r线性无关 \end{gathered}$$

所以

$$\begin{array}{rl}& A=BC\\ & \Rightarrow [{\alpha }_1,{\alpha }_2,...,{\alpha }_n]=[{\beta }_1,...,{\beta }_r]\left[\begin{array}{ccc}{c}_{11}& \cdots & c_{1n}\\ ⋮& \ddots & ⋮\\ c_{r1}& \cdots & c_{rn}\end{array}\right]\end{array}$$

实际上我们可以取 ${\beta }_1,...,{\beta }_r$ 为 ${\alpha }_1,...,{\alpha }_n$ 的一个极大线性无关组，因此 $B$ 就是矩阵 $A$ 列向量组的一个极大线性无关组，$C$ 就是用该线性无关组去表示 $A$ 时的系数

---

例 1

求矩阵 $A=\left[\begin{array}{ccccc}1& 4& -1& 5& 6\\ 2& 0& 0& 0& -14\\ -1& 2& -4& 0& 1\\ 2& 6& -5& 5& -7\end{array}\right]$ 的满秩分解

**解：**对矩阵 $A$ 只作初等行变换

$$A=\left[\begin{array}{ccccc}1& 4& -1& 5& 6\\ 2& 0& 0& 0& -14\\ -1& 2& -4& 0& 1\\ 2& 6& -5& 5& -7\end{array}\right]\to \cdot \cdot \cdot \to \left[\begin{array}{ccccc}1& 0& 0& 0& -7\\ 0& 1& 0& \frac{10}{7}& \frac{29}{7}\\ 0& 0& 1& \frac{5}{7}& \frac{25}{7}\\ 0& 0& 0& 0& 0\end{array}\right]$$

$A$ 的秩为 3，且前三个列向量线性无关，故

$$B=\left[\begin{array}{ccc}1& 4& -1\\ 2& 0& 0\\ -1& 2& -4\\ 2& 6& -5\end{array}\right]，C=\left[\begin{array}{ccccc}1& 0& 0& 0& -7\\ 0& 1& 0& \frac{10}{7}& \frac{29}{7}\\ 0& 0& 1& \frac{5}{7}& \frac{25}{7}\end{array}\right]$$

---

例 2

求矩阵 $A=\left[\begin{array}{ccccc}2& 1& -2& 3& 1\\ 2& 5& -1& 4& 1\\ 1& 3& -1& 2& 1\end{array}\right]$ 的满秩分解

**解：**对矩阵 $A$ 只作初等行变换

$$A=\left[\begin{array}{ccccc}2& 1& -2& 3& 1\\ 2& 5& -1& 4& 1\\ 1& 3& -1& 2& 1\end{array}\right]\to \cdot \cdot \cdot \to \left[\begin{array}{ccccc}1& 0& 0& \frac{8}{5}& -\frac{2}{5}\\ 0& 1& 0& \frac{1}{5}& \frac{1}{5}\\ 0& 0& 1& \frac{1}{5}& -\frac{4}{5}\end{array}\right]$$

$A$ 的秩为 3，且前三个列向量线性无关，故

$$B=\left[\begin{array}{ccc}2& 1& -2\\ 2& 5& -1\\ 1& 3& -1\end{array}\right],C=\left[\begin{array}{ccccc}1& 0& 0& \frac{8}{5}& -\frac{2}{5}\\ 0& 1& 0& \frac{1}{5}& \frac{1}{5}\\ 0& 0& 1& \frac{1}{5}& -\frac{4}{5}\end{array}\right]$$

---

QR 分解的应用

请用 $QR$ 分解的方法解方程组 $Ax=b$，实际上 $A$ 可逆的情况下，$x=A^{-1}b$，但是由于直接求 $A^{-1}$ 过于复杂或者当 $A$ 不可逆时，我们可以利用 QR 分解，将其转换为求 $QRx=b$，于是就是求

$$\{\begin{array}{l}Qy=b\\ Rx=y\end{array}$$

因为 $Q$ 是酉矩阵，所以 $Q^{-1}=Q^H$，因此 $y=Q^{H}b$

由于 $R$ 是正线上三角矩阵，不妨设 $R=\left[\begin{array}{cccc}{r}_{11}& \cdots & & \\ & r_{22}& \cdots & \\ & & \ddots & \\ & & & r_{nn}\end{array}\right]$，则有

$$\begin{gathered} \left[\begin{array}{cccc}{r}_{11}& \cdots & & \\ & r_{22}& \cdots & \\ & & \ddots & \\ & & & r_{nn}\end{array}\right]\left[\begin{array}{c}{x}_1\\ ⋮\\ x_n\end{array}\right]=\left[\begin{array}{c}{y}_1\\ ⋮\\ y_n\end{array}\right] \\ \Rightarrow \{\begin{array}{l}{x}_n=\frac{y_n}{r_{nn}}\\ x_{n-1}=\frac{y_{n-1}-r_{nn}{x}_n}{r_{n-1,n-1}}\\ ⋮\end{array} \end{gathered}$$

---

例 3

用 $QR$ 分解的方法解方程组 $Ax=b$，其中 $A=\left[\begin{array}{ccc}-3& 1& 2\\ 1& 1& 1\\ 1& -1& 0\\ 1& -1& 1\end{array}\right],b=\left[\begin{array}{c}1\\ 0\\ -2\\ 1\end{array}\right]$

**解：**将 $A=({\alpha }_1,{\alpha }_2,{\alpha }_3)$ 的列向量 ${\alpha }_1,{\alpha }_2,{\alpha }_3$ 用 Schmidt 方法标准正交化得

$$\begin{array}{rl}{v}_1& =(-\frac{3}{\sqrt{12}},\frac{1}{\sqrt{12}},\frac{1}{\sqrt{12}},\frac{1}{\sqrt{12}}{)}^T\\ v_2& =(0,\frac{2}{\sqrt{6}},-\frac{1}{\sqrt{6}},-\frac{1}{\sqrt{6}}{)}^T\\ v_3& =(0,0,-\frac{1}{\sqrt{2}},\frac{1}{\sqrt{2}}{)}^T\end{array}$$

令 $Q=(v_1,v_2,v_3)$，则

$$\begin{array}{rl}& R=Q^{H}A=\left[\begin{array}{ccc}2\sqrt{3}& -\frac{2}{3}& \frac{4}{\sqrt{3}}\\ 0& \frac{4}{\sqrt{6}}& \frac{1}{\sqrt{6}}\\ 0& 0& \frac{1}{\sqrt{2}}\end{array}\right]\\ & R^{-1}=\left[\begin{array}{ccc}\frac{\sqrt{3}}{6}& \frac{\sqrt{6}}{12}& -\frac{3\sqrt{2}}{4}\\ 0& \frac{\sqrt{6}}{4}& -\frac{\sqrt{2}}{4}\\ 0& 0& \sqrt{2}\end{array}\right]\end{array}$$

所以

$$x=R^{-1}{Q}^{H}b=\left[\begin{array}{cccc}-\frac{1}{4}& \frac{1}{4}& \frac{3}{4}& -\frac{3}{4}\\ 0& \frac{1}{2}& 0& -\frac{1}{2}\\ 0& 0& -1& 1\end{array}\right]\left[\begin{array}{c}1\\ 0\\ -2\\ 1\end{array}\right]=\left[\begin{array}{c}-\frac{5}{2}\\ -\frac{1}{2}\\ 3\end{array}\right]$$

---

矩阵的 LU 分解

LU 分解（LU Decomposition）是矩阵分解的一种，可以将一个矩阵分解为一个单位下三角矩阵和一个上三角矩阵的乘积，以四阶矩阵为例

$$L=\left[\begin{array}{cccc}1& 0& 0& 0\\ \ast & 1& 0& 0\\ \ast & \ast & 1& 0\\ \ast & \ast & \ast & 1\end{array}\right],U=\left[\begin{array}{cccc}\ast & \ast & \ast & \ast \\ 0& \ast & \ast & \ast \\ 0& 0& \ast & \ast \\ 0& 0& 0& \ast \end{array}\right]$$

LU 矩阵是否一定存在？答案是否，具体看下面的例子

设 $\left[\begin{array}{cc}0& 1\\ 1& 0\end{array}\right]=\left[\begin{array}{cc}a& 0\\ b& c\end{array}\right]\left[\begin{array}{cc}l& m\\ 0& n\end{array}\right]$，则应该满足如下 4 个式子

$$\{\begin{array}{l}al=0\\ am=1\\ bl=1\\ bm+cn=0\end{array}$$

由 $al=0$ 得 $a=0$ 或 $l=0$，但实际上这两种情况带入上面的式子都会推出矛盾，因此不是所有情况 LU 分解都存在

**LU 分解定理：**设 $A\in {\mathbb{C}}_n^{n\times n}$，$A$ 有唯一的 LU 分解 $\iff A$ 的各阶顺序主子式 $\Delta k\ne 0,k=1,\mathrm{2...},n$

$k$ 阶顺序主子式指的是矩阵左上角 $k\times k$ 个元素组成的行列式

将矩阵 $A$ 分解为 $L$ 和 $U$ 之后，解方程组 $Ax=b$ 就变得简单了，因为 $A=LU$，所以 $(LU)x=b\Rightarrow L(Ux)=b\Rightarrow \{\begin{array}{l}Ly=b\\ Ux=y\end{array}$

所以 $x=U^{-1}y=U^{-1}{L}^{-1}b$

LU 矩阵的求法

实际上 LU 矩阵有非常多的求法，这里我举一种比较简单的待定系数法

设 $A=\left[\begin{array}{ccc}2& 3& 4\\ 1& 1& 9\\ 1& 2& -6\end{array}\right]$，求矩阵 $A$ 的 LU 分解矩阵 $L$ 和 $U$

**解：**令

$$L=\left[\begin{array}{ccc}1& 0& 0\\ l_1& 1& 0\\ l_2& l_3& 1\end{array}\right],U=\left[\begin{array}{ccc}{u}_1& u_2& u_3\\ 0& u_4& u_5\\ 0& 0& u_6\end{array}\right]$$

由于 $A=LU$，所以有

$$\{\begin{array}{l}{u}_1=2\\ u_2=3\\ u_3=4\\ l_1{u}_1=1\\ l_1{u}_2+u_4=1\\ l_1{u}_3+u_5=9\\ l_2{u}_1=1\\ l_2{u}_2+l_3{u}_4=2\\ l_2{u}_3+l_3{u}_5+u_6=-6\end{array}$$

上面的方程组非常容易解，最后求出

$$L=\left[\begin{array}{ccc}1& 0& 0\\ \frac{1}{2}& 1& 0\\ \frac{1}{2}& -1& 1\end{array}\right],U=\left[\begin{array}{ccc}2& 3& 4\\ 0& -\frac{1}{2}& 7\\ 0& 0& -1\end{array}\right]$$

---

矩阵的 SVD 分解

**SVD 分解定理：**设 $A\in {\mathbb{C}}_r^{m\times n}$，则

1. 对 $\mathrm{rank}(A)=r$ 的矩阵 $A$，矩阵 $A^{H}A$ 的非零特征值有 ${\lambda }_1⩾{\lambda }_2⩾・・・⩾{\lambda }_r>0$，则称正数 ${\sigma }_i=\sqrt{{\lambda }_i}$ 为矩阵 $A$ 的奇异值
2. 存在酉矩阵 $U,V$ 使 $U^{-1}AV=\Sigma ={\left[\begin{array}{cccc}{\sigma }_1& & & \\ & \ddots & & \\ & & {\sigma }_n& 0\\ 0& & & 0\end{array}\right]}_{m\times n}$，其中 ${\sigma }_1\ge {\sigma }_2\ge ・・・\ge {\sigma }_r>0$

SVD 分解的求法

1. 由特征多项式 $|\lambda E-A^{H}A|=0$ 求得特征值 ${\lambda }_1⩾{\lambda }_2⩾..⩾{\lambda }_n$（务必按照从大到小排列），以及每个特征值对应的特征向量 $({\alpha }_1,{\alpha }_2,...,{\alpha }_n)$

• 对特征向量进行施密特正交化和单位化，得到单位正交向量组 $V=(v_1,v_2,..,v_n)$
• 对于非零特征值 ${\lambda }_1,...,{\lambda }_r$ 对应奇异值 ${\sigma }_1,...,{\sigma }_r$，于是有 $u_i=\frac{1}{{\sigma }_i}A{v}_i$，这样得到了 $r$ 个列向量，剩余的 $u_{r+1},...,u_n$ 通过方程 $u_i^{T}x=0$ 求得（$u_i$ 必须是标准正交的）
• 于是得到 $A=U\Sigma V^H$

实际上 $A^{H}A$ 是一个半正定矩阵，其特征值一定非负

---

例 4

已知 $A=\left[\begin{array}{cc}1& 2\\ 0& 0\\ 0& 0\end{array}\right]$，求 $A$ 的奇异值

**解：**因为 $A^{H}A=\left[\begin{array}{ccc}5& 0& 0\\ 0& 0& 0\\ 0& 0& 0\end{array}\right]$，$A^{H}A$ 的特征值为 $5,0,0$，故 $A$ 的奇异值为 $\sqrt{5}$

---

例 5

已知 $A=\left[\begin{array}{cc}1& 1\\ 0& 0\\ 1& 1\end{array}\right]$，求 $A$ 的 SVD 分解矩阵 $U$ 和 $V$

解：$A^{H}A=\left[\begin{array}{cc}2& 2\\ 2& 2\end{array}\right]$，求得 $A^{H}A$ 的特征值为 ${\lambda }_1=4,{\lambda }_2=0$，且对应的特征向量分别为 ${\alpha }_1={\left[\begin{array}{c}1,1\end{array}\right]}^T,{\alpha }_2=[-1,1{]}^T$，将其单位正交化后得

$$\begin{array}{rl}{v}_1& ={\left[\begin{array}{c}\frac{1}{\sqrt{2}},\frac{1}{\sqrt{2}}\end{array}\right]}^T\\ v_2& ={\left[\begin{array}{c}-\frac{1}{\sqrt{2}},\frac{1}{\sqrt{2}}\end{array}\right]}^T\end{array}$$

于是有

$$V=\left[\begin{array}{cc}\frac{1}{\sqrt{2}}& -\frac{1}{\sqrt{2}}\\ \frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}\end{array}\right]$$

因为 $u_1=\frac{1}{2}A{v}_1=\left[\begin{array}{c}\frac{1}{\sqrt{2}}\\ 0\\ \frac{1}{\sqrt{2}}\end{array}\right]$，解方程组 $u_1^{T}x=0$ 得

$$\begin{array}{rl}{x}_1& =u_2=\left[\begin{array}{c}\frac{1}{\sqrt{2}}\\ 0\\ -\frac{1}{\sqrt{2}}\end{array}\right]\\ x_2& =u_3=\left[\begin{array}{c}0\\ 1\\ 0\end{array}\right]\end{array}$$

故

$$U=\left[\begin{array}{ccc}\frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}& 0\\ 0& 0& 1\\ \frac{1}{\sqrt{2}}& -\frac{1}{\sqrt{2}}& 0\end{array}\right]$$

验算可得 $U^{-1}AV=\Sigma$

---

例 6

求 $A=\left[\begin{array}{ccc}1& 1& 1\\ 1& 1& 1\end{array}\right]$ 的奇异值分解

解：$A^{H}A=\left[\begin{array}{ccc}2& 2& 2\\ 2& 2& 2\\ 2& 2& 2\end{array}\right]$，求得 $A^{H}A$ 的特征值为 ${\lambda }_1=6,{\lambda }_2={\lambda }_3=0$，且对应的特征向量分别为 ${\alpha }_1={\left[\begin{array}{c}1,1,1\end{array}\right]}^T,{\alpha }_2=[1,0,-1{]}^T,{\alpha }_3=[0,1,-1{]}^T$，将其单位正交化后得

$$\begin{array}{rl}{v}_1& ={\left[\begin{array}{c}\frac{1}{\sqrt{3}},\frac{1}{\sqrt{3}},\frac{1}{\sqrt{3}}\end{array}\right]}^T\\ v_2& ={\left[\begin{array}{c}\frac{1}{\sqrt{2}},0,-\frac{1}{\sqrt{2}}\end{array}\right]}^T\\ v_3& ={\left[\begin{array}{c}-\frac{1}{\sqrt{6}},\frac{\sqrt{6}}{3},-\frac{1}{\sqrt{6}}\end{array}\right]}^T\end{array}$$

于是有

$$V=\left[\begin{array}{ccc}\frac{1}{\sqrt{3}}& \frac{1}{\sqrt{2}}& -\frac{1}{\sqrt{6}}\\ \frac{1}{\sqrt{3}}& 0& \frac{\sqrt{6}}{3}\\ \frac{1}{\sqrt{3}}& -\frac{1}{\sqrt{2}}& -\frac{1}{\sqrt{6}}\end{array}\right]$$

因为 $u_1=\frac{1}{\sqrt{6}}A{v}_1=\left[\begin{array}{c}\frac{1}{\sqrt{2}}\\ \frac{1}{\sqrt{2}}\end{array}\right]$，解方程组 $u_1^{T}x=0$ 得

$$\begin{array}{rl}{x}_1& =u_2=\left[\begin{array}{c}\frac{1}{\sqrt{2}}\\ -\frac{1}{\sqrt{2}}\end{array}\right]\end{array}$$

故

$$U=\left[\begin{array}{cc}\frac{1}{\sqrt{2}}& \frac{1}{\sqrt{2}}\\ \frac{1}{\sqrt{2}}& -\frac{1}{\sqrt{2}}\end{array}\right]$$

验算可得 $U^{-1}AV=\Sigma$