Skip to main content

FAST DJ

基础​

  • 正交矩阵的性质：所有列向量都是正交、AAT=ATA=IAA^T = A^TA = I

范数和内积​

  • 向量间的夹角
  • 向量 pp 范数的定义
  • 向量 l1l_1、l2l_2、l∞l_\infty 范数的计算
  • 矩阵 l1l_1、l2l_2（FF）、l∞l_\infty 范数的计算
  • 矩阵 11、22、∞\infty 范数的计算
  • 向量内积、距离、范数的性质
  • 判断是否是向量内积、距离、范数
  • 柯西不等式

向量空间​

解方程组​

列满秩的超定方程组求最小二乘解​

  • 齐次方程组的基础解系
  • 非齐次方程组的一般解

行满秩的欠定方程求最小二范数解​

基本子空间​

子空间上的投影的计算​

特征值的计算​

矩阵分解​

向量和矩阵微分​

  • 区分实值函数和向量值函数（矩阵值函数）
  • 实值函数的迹微分法
  • 行列式微分（实值函数微分）
  • 逆矩阵微分（实值函数微分）
  • 向量值函数（矩阵值函数）微分
  • Jacobian 矩阵

优化问题​

补充：拉格朗日乘子法

  1. 写出拉格朗日函数 L(x,λ,v)L(x, \lambda, v)
  2. 求 ∂L(x,λ,v)∂x=0\frac{\partial L(x, \lambda, v)}{\partial x} = 0，解出一个 xx。
  3. 求对偶函数 g(λ,v)g(\lambda, v)，将步骤 2 的 xx 带入 L(x,λ,v)L(x, \lambda, v) 可得。
  4. 求 ∂g(λ,v)∂v=0\frac{\partial g(\lambda, v)}{\partial v} = 0，解出一个 vv。
  5. 将 vv 带回 xx 的解，即可。

额外工具​