Skip to main content

For HDJ

向量和矩阵基础

注意

DJ 的行数是 mm,列数是 nn

1×n1 \times n 行向量,m×1m \times 1 列向量

实数:有理数和无理数的统称。实矩阵:矩阵 AA 中每一个元素都是实数。

复数:拥有实部和虚部 a+bia + bi复矩阵:矩阵 AA 中每一个元素都是复数。

向量的运算

向量之间的基本代数运算有两种:加法和数乘,统称为向量的线性运算。L2-[23-24]

矩阵的运算

矩阵的加法

两个相同 m×nm \times n 的矩阵相同位置上的元素相加,C=(cij)m×n=(aij+bij)m×nC = (c_{ij})_{m \times n} = (a_{ij} + b_{ij})_{m \times n}L2-[25]

矩阵加法满足,交换律、结合律。L2-[26]

零矩阵 OO

元素全为零的矩阵,Om×nO_{m \times n}

矩阵相乘

A=(aij)m×rA = (a_{ij})_{m \times r}B=(bij)r×nB = (b_{ij})_{r \times n}C=ABC = ABL2-[28]

矩阵相乘满足,结合律、左分配律、右分配律。不满足交换律。L2-[27]

单位矩阵

主对角线上的元素全是 11, 其余元素全是 00nn 阶方阵。记为 IIInI_nL2-[29]

矩阵和向量相乘

Ax=bAx = b L2-[30]

矩阵和标量相乘

矩阵中的每一个元素都乘以标量值,λA=(λaij)m×n\lambda A = (\lambda a_{ij})_{m \times n} L2-[31]

矩阵分块

将大矩阵分为几个小矩阵,也满足矩阵的运算规律。L2-[34-35]

初等变换

  1. 一个非零的数,乘矩阵的某一行(列)
  2. 把矩阵的某一行(列)的 cc 倍加到另一行(列)
  3. 交换两行(列)的位置

行变换相当于左乘初等矩阵,列变换相当于右乘初等矩阵。L2-[37]

可逆矩阵

AA1=IAA^{-1} = I,则 AA 可逆。称为“可逆”、“正规”、“非奇异”的。

“奇异” = “不可逆”

如果它可逆,我们就能通过初等行变换求出它的可逆矩阵。L2-[39]

转置矩阵

行和列互换,AT=(aji)n×mA^T = (a_{ji})_{n \times m}

逆和转置的性质

  • AA1=A1A=IAA^{-1} = A^{-1}A = I
  • (A+B)1A1+B1(A+B)^{-1} \neq A^{-1} + B^{-1}
  • (A+B)T=AT+BT(A+B)^T = A^T + B^T
  • (AB)1=B1A1(AB)^{-1} = B^{-1}A^{-1}
  • (AB)T=BTAT(AB)^T = B^TA^T
  • (A1)T=(AT)1(A^{-1})^T = (A^T)^{-1}

利用初等行变换求解线性方程组

先画出增广矩阵,将系数矩阵化成单位阵,此时右边一列即为方程组的解。L2-[44]

利用系数矩阵的逆矩阵求解线性方程组

A1Ax=A1bA^{-1}Ax=A^{-1}b,那么 Ix=A1bIx = A^{-1}b,即 x=A1bx = A^{-1}bL2-[45]

向量空间

又称为“线性空间”。在这个空间上,向量以及向量的运算,共同构造出的空间。(但实际上,数或矩阵的空间也叫向量空间)L3-[4]

V\mathbb{V}nn 维向量的非空集合,K\mathbb{K} 是数域。

  • V\mathbb{V} 上定义了加法
  • K\mathbb{K} 与集合 V\mathbb{V} 定义了数乘
  • a,bV\forall a, b \in \mathbb{V},都有任意的 kKk \in \mathbb{K},满足 a+b,kaVa + b, ka \in \mathbb{V}。(加法和数乘运算封闭)

满足上面三条,称 V\mathbb{V} 为数域 K\mathbb{K} 上的 nn 维向量空间或线性空间。L3-[6]

所以有例1和例2的向量空间、矩阵空间。L3-[7-8]。例3复数域的向量空间、例4一元多项式的向量空间。L3-[8-10]

向量子空间

X\mathbb{X}K\mathbb{K} 上的 nn 维线性空间,Y\mathbb{Y}X\mathbb{X} 的子集。如果满足:(加法和数乘运算封闭)

  • x,yYx, y \in \mathbb{Y}, 则 x+yYx + y \in \mathbb{Y}
  • aKa \in \mathbb{K}xYx \in \mathbb{Y},则 axYax \in \mathbb{Y}

则称 Y\mathbb{Y}X\mathbb{X} 的线性子空间,简称子空间。L3-[12]

非空的线性空间一定会有的子空间:自身和 0{0}

零子空间

只含零向量的子集称为零子空间L3-[12]

平凡子空间

零子空间、线性空间本身统称为平凡子空间,其他子空间称为非平凡子空间L3-[12]

二维实数子空间 R2\mathbb{R}^2

R2\mathbb{R}^2 空间指二维空间。下图中,只有 DDR2\mathbb{R}^2 的子空间。L3-[13]

r2

子空间的证明

知乎:如何证明一个向量空间是另一个向量空间的子空间?

  1. 子集
  2. 加法零元
  3. 加法运算封闭
  4. 数乘运算封闭

线性方程组 Ax=bAx = b 的解空间

L3-[14]

子空间的交、和、直和

前提:Y1\mathbb{Y}_1Y2\mathbb{Y}_2 均为 X\mathbb{X} 的子空间。L3-[15-16]

若用 Y1Y2\mathbb{Y}_1 \cap \mathbb{Y}_2 表示集合的交集,则 Y1Y2\mathbb{Y}_1 \cap \mathbb{Y}_2 也是 X\mathbb{X} 的子空间。称为“交”

若用 Y1+Y2\mathbb{Y}_1 + \mathbb{Y}_2 表示 y1+y2(y1Y1,y2Y2)y_1 + y_2 (y_1 \in \mathbb{Y}_1, y_2 \in \mathbb{Y}_2) 组成的集合,则 Y1+Y2\mathbb{Y}_1 + \mathbb{Y}_2 也是 X\mathbb{X} 的子空间。称为“和”

直和

Y\mathbb{Y} 每个向量 xx 可唯一表示成 x=y1+y2(y1Y1,y2Y2)x = y_1 + y_2 (y_1 \in \mathbb{Y}_1, y_2 \in \mathbb{Y}_2)。则称 Y\mathbb{Y}Y1\mathbb{Y}_1Y2\mathbb{Y}_2“直和”。记为 Y=Y1+Y2\mathbb{Y} = \mathbb{Y}_1 + \mathbb{Y}_2Y=Y1Y2\mathbb{Y} = \mathbb{Y}_1 \oplus \mathbb{Y}_2

定理3和定理4,为直和的充要条件。L3-[16]

线性无关性

线性组合、组合系数、线性表出

  • 设向量 a1a_1, a2a_2, ..., asa_s 是数域上 K\mathbb{K} 上的 nn 维向量组。
  • 设一组数 k1k_1, k2k_2, ..., ksk_s 在数域上 K\mathbb{K}

那么表达式 k1a1+k2a2+...+ksask_1a_1 + k_2a_2 + ... + k_sa_s 称为向量组 a1a_1, a2a_2, ..., asa_s 的一个线性组合k1k_1, k2k_2, ..., ksk_s 称为组合系数

若向量 bb 是向量组 a1a_1, a2a_2, ..., asa_s 一个线性组合,即 b=k1a1+k2a2+...+ksasb = k_1a_1 + k_2a_2 + ... + k_sa_s,则称 bb 可以由向量组 a1a_1, a2a_2, ..., asa_s 线性表出L3-[19-20]

线性相关、线性无关

可以看 PPT 的 23 页 L3-[23]

解方程 k1a1+k2a2=0k_1a_1 + k_2a_2 = 0,当且仅当 k1=k2=0k_1 = k_2 = 0 时成立。L3-[32]

极大线性无关组

向量组的一部分组称为一个极大线性无关组, 如果这个部分组本身线性无关,但从原向量组的其余向量中任取一个添加进去后,所得的部分组都线性相关。L3-[21-23]

等价向量组

如果向量组 a1a_1, a2a_2, ..., asa_s 每一个向量都可以用 b1b_1, b2b_2, ..., btb_t 线性表出,则称 向量组 a1a_1, a2a_2, ..., asa_s 可以用 b1b_1, b2b_2, ..., btb_t 线性表出。

如果两个向量组可以线性表出,则称它们等价L3-[25]

生成集

a1a_1, a2a_2, ..., ara_rV\mathbb{V} 的一组向量,这组向量所有可能的线性组合所成的集合是 V\mathbb{V} 的一个子空间。该子空间称为由 a1a_1, a2a_2, ..., ara_r 张成的子空间,记作 L(a1L(a_1, a2a_2, ..., ar)a_r)span(a1span(a_1, a2a_2, ..., ar)a_r)。那么 {a1,a2,...,ar}\{a_1, a_2, ..., a_r\} 就叫做 V\mathbb{V} 的一个生成集L3-[27]

两个向量组张成相同子空间的充要条件是:两个向量组等价。

维数、基

如果向量空间 V\mathbb{V} 中由 nn线性无关的向量 a1a_1, a2a_2, ..., ana_n,且 V\mathbb{V} 中任一向量都可以用它们线性表出,则称 V\mathbb{V}K\mathbb{K} 上的 nn 维线性空间

那么,nn 称为 V\mathbb{V}维数。记作 dim(V)=ndim(\mathbb{V}) = n。而 a1a_1, a2a_2, ..., ana_n 就是 V\mathbb{V} 的一组

一些关于基、最小生成集、极大线性无关组的等价命题L3-[30]:令 V\mathbb{V} 是一向量空间,BV\mathbb{B} \subseteq \mathbb{V}B\mathbb{B} \neq \empty,下面命题等价:

  • B\mathbb{B}V\mathbb{V} 的一个基
  • B\mathbb{B} 是最小生成集
  • B\mathbb{B}V\mathbb{V} 中的极大线性无关组
  • V\mathbb{V} 中的每一个向量能被 B\mathbb{B} 线性表出

标准基

如果一组基中的每一个向量长度均为 11,我们称其为标准基L3-[31]

确定向量组是否是一组基

求解极大线性无关组,有多少个线性无关的向量就是几维向量空间。L3-[32-33]

子空间的扩张

L3-[34]

假设有 nn 维空间 X\mathbb{X},它有一个 mm 维子空间 Y=L(a1,a2,...,am)\mathbb{Y} = L(a_1, a_2, ..., a_m),这个向量组可以扩张为 a1,a2,...,am,am+1,...,ana_1, a_2, ..., a_m, a_{m+1}, ..., a_n,使得 X=L(a1,a2,...,am,am+1,...,an)\mathbb{X} = L(a_1, a_2, ..., a_m, a_{m+1}, ..., a_n)

L(a1,a2,...,am)L(am+1,...,an)=L(a1,a2,...,am,am+1,...,an)L(a_1, a_2, ..., a_m) \oplus L(a_{m+1}, ..., a_n)= L(a_1, a_2, ..., a_m, a_{m+1}, ..., a_n)

那么就有一些和、直和维数公式。

  • dim(Y1+Y2)=dimY1+dimY2dim(Y1Y2)dim(\mathbb{Y}_1 + \mathbb{Y}_2) = dim \mathbb{Y}_1 + dim\mathbb{Y}_2 - dim(\mathbb{Y}_1 \cap \mathbb{Y}_2)
  • dim(Y1Y2)=dimY1+Y2dim(\mathbb{Y}_1 \oplus \mathbb{Y}_2) = dim \mathbb{Y}_1 + \mathbb{Y}_2

有限维线性空间

如果向量空间 V\mathbb{V} 中任一向量都能被 nn 个线性无关的向量线性表出时,V\mathbb{V} 称为有限维线性空间。否则称为无限维线性空间L3-[35]

坐标

一个向量被一组基“线性表出”的系数。

nn 维向量空间 V\mathbb{V} 中,nn 个线性无关的向量 ϵ1,ϵ2,...,ϵn\epsilon_1, \epsilon_2, ..., \epsilon_n 称为 V\mathbb{V} 的一组基。设 aaV\mathbb{V} 中的任一向量,那么肯定 ϵ1,ϵ2,...,ϵn,a\epsilon_1, \epsilon_2, ..., \epsilon_n, a 线性相关。因此 aa 可以被基 ϵ1,ϵ2,...,ϵn\epsilon_1, \epsilon_2, ..., \epsilon_n 线性表出:

a=a1ϵ1+a2ϵ2+...+anϵna = a_1\epsilon_1 + a_2\epsilon_2 + ... + a_n\epsilon_n

这系数就成为 aa 在基 ϵ1,ϵ2,...,ϵn\epsilon_1, \epsilon_2, ..., \epsilon_n 下的坐标,记为 (a1,a2,...,an)(a_1, a_2, ..., a_n)L3-[36]

例15:有关泰勒展开的例子 L3-[37],例16:换基之后的坐标 L3-[39]

极大线性无关组中所含向量的个数称为这个这个向量组的,记作 rank{a1,a2,...,ar}rank\{a_1, a_2, ..., a_r\}

dimL(a1,a2,...,ar)=rank{a1,a2,...,ar}dim L(a_1, a_2, ..., a_r) = rank\{a_1, a_2, ..., a_r\} 维数和秩相等。

矩阵的秩有行向量的行秩,和列向量的列秩,它们都相等,都称为矩阵的秩,记作 rank(A)rank(A)

可以看例17。L3-[43]

仿射子空间

V\mathbb{V} 是一线性空间,x0Vx_0 \in \mathbb{V},且 UV\mathbb{U} \subseteq \mathbb{V} 是一线性子空间,则子集 L=x0+U:={x0+uuU}U\mathbb{L} = x_0 + \mathbb{U} := \{x_0 + u | u \in \mathbb{U}\} \subseteq \mathbb{U} 是一仿射子空间

我们定义线性子空间的维数是仿射子空间的维数。

U\mathbb{U} 有一基底 a1,a2,...,ama_1, a_2, ..., a_m,则 L\mathbb{L} 中的每一个元素 xx 均可写成 x0+k1a1+k2a2+...+kmamx_0 + k_1a_1 + k_2a_2 + ... + k_ma_mL3-[48]

超平面

R3\mathbb{R}^3n1n-1 维仿射子空间称为超平面。例如三维空间中一个平面就是它的超平面,四维空间中,一个超平面是三维空间。L3-[49]

Ax=b,b0Ax=b, b \neq 0 的解空间是一个仿射空间

L3-[50]

线性映射

集合的映射

L4-[5]

V\mathbb{V}W\mathbb{W} 是两个非空集合,如果存在一个映射 ff,使得对 V\mathbb{V} 中每个元素 vv,在 W\mathbb{W} 中有唯一确定的元素 ww 与之对应,则称 ff 为从 V\mathbb{V}W\mathbb{W} 的映射,记作:

f:VWf: \mathbb{V} \rightarrow \mathbb{W}
  • ww 称为元素 vv 在映射 ff 下的,并记作 f(v)f(v),即 w=f(v)w = f(v)
  • vv 称为元素 ww 在映射 ff 下的原像
  • 集合 V\mathbb{V} 称为映射 ff定义域,记作 DfD_f。即 Df=vD_f = v
  • V\mathbb{V}所有元素的像所组成的集合称为映射 ff值域,记作 RfR_ff(V)f(\mathbb{V})。即 Rf=f(V)={f(v)vV}R_f = f(\mathbb{V})=\{f(v) | v \in \mathbb{V}\}

单射、满射、双射

L4-[6]

V\mathbb{V}W\mathbb{W} 是任意两个集合,φ:VW\varphi: \mathbb{V} \rightarrow \mathbb{W} 是一个映射,如果

  • x,yV\forall x, y \in \mathbb{V},若 φ(x)=φ(y)\varphi(x) = \varphi(y),一定是 x=yx = y,则称 φ\varphi单射
  • φ(V)=W\varphi(\mathbb{V}) = \mathbb{W},则称 φ\varphi满射
  • 如果既是单射又是满射,则称 φ\varphi双射

线性映射

L4-[7]

V\mathbb{V}W\mathbb{W} 是数域 KK 上的两个有限维的向量空间,φ\varphiV\mathbb{V}W\mathbb{W} 的一个映射。

如果对任何向量 x,yVx, y \in \mathbb{V} 及任意的 α,βK\alpha, \beta \in \mathbb{K} 都满足下式,则称 φ\varphiV\mathbb{V}W\mathbb{W} 的一个线性映射

φ(αx+βy)=αφ(x)+βφ(y)\varphi (\alpha x+\beta y) = \alpha \varphi (x) + \beta \varphi (y)

一个满足线性映射的例子:L4-[10]

一个不满足线性映射的例子:L4-[9]

恒等映射

L4-[8]

若映射 σ:VV\sigma : \mathbb{V} \rightarrow \mathbb{V}σ(x)=x\sigma (x) = x,那么它就是一个恒等映射

  • σ(αx+βy)=αx+βy=ασ(x)+βσ(y)\sigma (\alpha x + \beta y) = \alpha x + \beta y = \alpha \sigma (x) + \beta \sigma (y)
  • 恒等映射也是线性映射。

向量空间之间的特殊映射

L4-[11]

V\mathbb{V}W\mathbb{W} 是数域 K\mathbb{K} 上的两个有限维的向量空间:

  • φ:VW\varphi : \mathbb{V} \rightarrow \mathbb{W}线性映射,则 V\mathbb{V}W\mathbb{W} 同态。φ\varphi 称为同态映射
  • φ:VW\varphi : \mathbb{V} \rightarrow \mathbb{W}线性映射且是双射,则 则 V\mathbb{V}W\mathbb{W} 同构。φ\varphi 称为同构映射
  • φ:VV\varphi : \mathbb{V} \rightarrow \mathbb{V}线性映射,则 V\mathbb{V} 自同态。φ\varphi 称为自同态映射
  • φ:VV\varphi : \mathbb{V} \rightarrow \mathbb{V}线性映射且是双射,则 V\mathbb{V} 自同构。φ\varphi 称为自同构映射

V\mathbb{V}W\mathbb{W} 同构,当且仅当 dim(X1)=dim(X2)dim(\mathbb{X}_1) = dim(\mathbb{X}_2) L4-[13]

逆映射

如果 φ:VW\varphi : \mathbb{V} \rightarrow \mathbb{W} 是一个双射,则可以定义它的逆映射,记作 φ1:WV\varphi^{-1} : \mathbb{W} \rightarrow \mathbb{V}L4-[14]

向量空间映射的运算

考虑向量空间 V\mathbb{V}W\mathbb{W}X\mathbb{X},则有:L4-[15]

  • 对于线性映射 φ:VW\varphi : \mathbb{V} \rightarrow \mathbb{W}ϕ:WX\phi : \mathbb{W} \rightarrow \mathbb{X},则 ϕ(φ)\phi (\varphi) 也是一个线性映射。
  • 如果 φ:VW\varphi : \mathbb{V} \rightarrow \mathbb{W} 是同构映射,则 φ1:WV\varphi^{-1} : \mathbb{W} \rightarrow \mathbb{V} 也是一个同构映射。
  • 如果 φ:VW\varphi : \mathbb{V} \rightarrow \mathbb{W}ϕ:VW\phi : \mathbb{V} \rightarrow \mathbb{W} 是线性映射,且 λR\lambda \in \mathbb{R},则 φ+ϕ\varphi + \phiλφ\lambda \varphi 也是线性映射。

线性映射的矩阵表示

考虑一个 nn 维向量空间 V\mathbb{V} 的基底 {b1,...,bn}\{b_1, ..., b_n\},并为基向量规定一个顺序。如果基底有序,则称其为有序基L4-[19]

使用不同的基表示同一坐标

例子:L4-[21]

变换矩阵

例子:L4-[24]

变换矩阵的求解

基变换

反正目前我看不懂:L4-[25-28]

矩阵等价

如果对于两个矩阵 A,BRm×nA, B \in \mathbb{R}^{m \times n},存在可逆矩阵 SRn×nS \in \mathbb{R}^{n \times n}TRm×mT \in \mathbb{R}^{m \times m} 使得 A=T1BSA = T^{-1}BS 成立,则称 A,BA, B 等价

矩阵相似

如果对于两个矩阵 A,BRn×nA, B \in \mathbb{R}^{n \times n},存在可逆矩阵 SRn×nS \in \mathbb{R}^{n \times n} 使得 A=S1BSA = S^{-1}BS 成立,则称 A,BA, B 相似

所以两个相似的矩阵必定等价,反之则不然。L4-[29]

复合线性映射的变换矩阵

反正目前我看不懂:L4-[32-34]

核与像

反正目前我看不懂:L4-[34-36]

列空间

反正目前我看不懂:L4-[37-39]

线性变换

反正目前我看不懂:L4-[41-47]

可以看看总结这段:y=Axy = AxAA 是线性变换的基矩阵,yy 是变换后的坐标。L4-[46]

相似变换

线性映射 TQ(A)=Q1AQT_Q(A) = Q^{-1}AQ,其中 QQ 是可逆矩阵,称其为矩阵的相似变换L4-[41]

仿射映射

反正目前我看不懂:L4-[49-50]

行列式

L5-[5-9]

  • nn 阶行列式实际上对应 nn 维空间中图形的有向体积。
  • 交换矩阵相邻两行(列)、交换矩阵两行(列)都改变行列式的符号。L5-[13]
  • 如果将行列式的某一行(列)kk 倍加到另一行(列),则行列式的值不变。

代数余子式

(1)i+j(-1)^{i+j}L5-[10-11]

克莱姆法则

L5-[12]

行列式的性质

L5-[17]

A,BRn×nA, B \in \mathbb{R}^{n \times n}

  • det(A)=det(AT)det(A) = det(A^T)
  • det(aA)=andet(A)det(aA) = a^n det(A)
  • det(AB)=det(BA)=det(A)det(B)det(AB) = det(BA) = det(A)det(B)
  • AA 是可逆矩阵当且仅当 det(A)0det(A) \neq 0
  • AA 是可逆矩阵,则 det(A1)=1det(A)det(A^{-1}) = \frac{1}{det(A)}

伴随矩阵

L5-[18]

AA^* 的第 ii 行第 jj 列元素是矩阵的第 jj 行第 ii 列元素的的代数余子式。(呃)

  • AA=AA=AIAA^* = A^*A = |A|I
  • 如果 AA 可逆,则 A=AA1A^* = |A|A^{-1}A1=1AAA^{-1} = \frac{1}{|A|}A^*

L5-[21]

方阵对角元素的和为,记作 Tr(A)=i=0naiiTr(A) = \sum_{i=0}^n a_{ii}

  • Tr(A+B)=Tr(A)+Tr(B)Tr(A+B) = Tr(A) + Tr(B)
  • Tr(αA)=αTr(A),αRTr(\alpha A) = \alpha Tr(A), \alpha \in \mathbb{R}
  • Tr(In)=nTr(I_n) = n
  • Tr(AB)=Tr(BA)Tr(AB) = Tr(BA)
  • 循环置换不变性:Tr(ABC)=Tr(CAB)=Tr(BCA)Tr(ABC) = Tr(CAB) = Tr(BCA)
  • 相似矩阵迹相等:Tr(Q1AQ)=Tr(QQ1A)=Tr(A)Tr(Q^{-1}AQ) = Tr(QQ^{-1}A) = Tr(A)(换顺序了)

二次型

L5-[24]

标准型

L5-[30]

https://blog.csdn.net/ccnt_2012/article/details/84784311

可用初等行变换将二次型化为标准型。

合同矩阵

CTAC=BC^TAC = BAA 合同于 BBL5-[26]

特征值和特征向量

L5-[38]

特征子空间、矩阵的特征系、矩阵的谱、矩阵谱半径

L5-[39]

很多性质

L5-[43]

L5-[45]

  • 矩阵 AA 的特征值的和为矩阵 AA 的迹
  • 矩阵 AA 的特征值的积为矩阵 AA 的行列式
  • 关于对角矩阵 L5-[47]

向量范数

11 范数或 l1l_1 范数或 Manhattan 范数

L6-[10]

绝对值之和

22 范数或 l2l_2 范数或 欧几里得范数

L6-[10]

平方和开方

\infty 范数或 ll_\infty 范数

L6-[11]

绝对值,最大值

基数函数或 l0l_0 范数

L6-[14]

非负数之和。

单位范数球

L6-[17]

对于 lpl_p 范数小于等于 11 的向量集合。

重要关系

L6-[20]

xx2x1nx2nx||x||_{\infty} \leq ||x||_2 \leq ||x||_1 \leq \sqrt{n}||x||_2 \leq n||x||_\infty

等价范数

L6-[21]

内积(点积)

L6-[23]

两个向量对应元素乘积直和。

L6-[24]

要满足:非负性、对称性、齐次性、线性性

定义了内聚的线性空间称为内积空间,内积是标准内积称为欧氏空间

内积不是点积的例子 L6-[25]

正定矩阵的内积表示

L6-[29]

内积导出的范数

L6-[31]

柯西施瓦兹不等式

<x,y>2x2y2<x, y>^2 \leq ||x||^2 ||y||^2

欧式距离

L6-[35]

度量

L6-[36]

度量空间、距离空间

L6-[37]

夹角

L6-[40]

正交、标准正交

L6-[41]

相似性度量

闵可夫斯基距离

L6-[47]

曼哈顿距离

L6-[49]

欧氏距离

L6-[48]

切比雪夫距离

L6-[51]

余弦相似度

L6-[55]

汉明距离

L6-[58]

矩阵内积与范数

矩阵向量化

L6-[60]

矩阵内积

L6-[61]

广义矩阵范数

L6-[62]

l1l_1 矩阵范数

L6-[63]

l2l_2 矩阵范数

L6-[65]

ll_\infty 矩阵范数、Frobenius 范数

L6-[64]

相容性条件

L6-[67]

算子范数

由向量范数诱导出的算子范数(矩阵范数和向量范数相容导出)

L6-[70]

1、2、无穷的的矩阵范数

L6-[72]
  • 1:列和范数
  • 2:谱范数
  • 3:行和范数

谱范数只需要计算 ATAA^TA 的最大特征值

2 范数、谱范数的性质

L6-[80]

四个基本子空间

L7-[5],本章约定 L7-[6]

获得四个基本子空间的定理1:L7-[9]

列空间

L7-[7]

行空间

L7-[7]

零空间

L7-[8]

左零空间

L7-[8]

四个基本子空间的基

我们接下来的目标是: 求四个基本子空间的基和维数。

L7-[13]

定理:L7-[13]L7-[16],证明:L7-[14]

四个子空间的正交关系

交集

L7-[18]

无交连

L7-[20]

正交(垂直)

L7-[20]

正交的两个子空间必定是无交连的。

无交连的子空间不一定是正交的。

向量正交分解

L7-[23]

线性代数基本定理

L7-[26]

正交投影

投影

L7-[30]

正交投影

投影到一维子空间的计算

L7-[36]

投影到 n 维子空间的计算

L7-[42]
  • λ\lambda 方程,BTBλ=BTxB^TB\lambda=B^Tx
  • 算投影点:BλB\lambda
  • 算投影矩阵:B(BTB)1BTB(B^TB)^{-1}B^T

仿射空间的正交投影

L7-[46]

标准正交基

L7-[49]

Gram-Schmidt 正交化

公式:L7-[53]

例题:L7-[54] (系数可以不管)

特殊矩阵

方阵

L9-[4]

对称矩阵

L9-[5]

AT=AA^T = A

(半)正定矩阵

L9-[5]

对角矩阵

L9-[6]

A=diag(a)=diag(a1,a2,...,an)A = diag(a) = diag(a_1, a_2, ..., a_n)

对角矩阵的幂、逆矩阵:L9-[7]

三角矩阵

L9-[8]

三角矩阵性质:L9-[9]

正交矩阵

L9-[10]

正交矩阵的逆,求转置矩阵就行

正交矩阵和范数有关的性质:L9-[11]

Dyads(并向量、单纯矩阵、秩 1 矩阵)

L9-[12]

分块矩阵

L9-[15]

分块三角矩阵

L9-[17]

分块三角矩阵的逆:L9-[18]

矩阵求逆引理、Woodbury 公式

分块三角矩阵的逆:L9-[20]

秩1扰动(Sherman-Morrison 公式)

L9-[21]

拉普拉斯矩阵

L9-[39]

正规化的拉普拉斯矩阵

L9-[40]

拉普拉斯矩阵的性质

L9-[47]

低秩矩阵

L9-[57]

矩阵分解 ⭐

分解的目标矩阵、方阵、对称矩阵、正半定矩阵、稀疏矩阵和低秩矩阵

LU 分解

L10-[5]

A=LUA = LULL 为 单位下三角,UU 为上三角

LU 分解例子:L10-[10]

所见即所得的 LU 分解例子:L10-[17]

选主元的 LU 分解

LU 分解例子:L10-[23]

QR 分解

基于 Gram-Schmidt 正交化的 QR 分解(感觉会这个差不多了)

看不懂的形式化说明:L11-[5]

例题:L11-[10]

基于 Householder 正交化的 QR 分解

看不懂的形式化说明:L11-[15]

例题:L11-[23]

基于 Givens 变换的 QR 分解

看不懂的形式化说明:L11-[35]

例题:L11-[39]

对称矩阵的谱分解

对称矩阵的谱分解(特征分解):可以把任意对称矩阵分解成三个矩阵的积,包括一个正交矩阵和一个实的对角矩阵。

例题:L12-[14]

正半定矩阵与 Cholesky 分解

正 (半) 定矩阵的 Cholesky 分解:可以把任意对称正定 (半) 矩阵分解成一个具有正的对角元的下三角矩阵和其转置的乘积。

看不懂的形式化说明:L12-[32]

例题:L12-[36](通过特征值判断是否,对称矩阵是否是,正 (半) 定矩阵,只有是了才能分解)

不带平方根的 cholesky 分解:

奇异值分解(SVD)

看不懂的形式化说明:L13-[8]

计算说明:L13-[24]

例题:L13-[27]

解线性方程组

基于矩阵分解的求法

L14-[25]

注意前代法和回代法。L14-[30]

例如 LU 分解,即 LUx=bLUx=b,那么先求 Ly=bLy = b,再求 Ux=bUx = b

最小二乘问题

问题定义:L15-[8]

正规化方法(Cholesky 分解法)求解最小二乘问题 L15-[22]

QR 分解法求 L15-[25]

奇异值分解法求 L15-[29]

特征值问题

圆盘定理

L16-[7]

例题:L16-[9]

估计谱半径的范围 L16-[12]

幂法

L16-[14]

反幂法

L16-[26]

向量与矩阵微分

实值函数

L17-[7]

矩阵值函数

L17-[20]