Determinants and Eigenvectors

秩与像空间（Image）

• 像（Image）：变换后所有可能的输出点集合

• 秩（Rank） = 像空间的维数：

  • 秩 = 2 → 像是整个平面

  • 秩 = 1 → 像是一条直线

  • 秩 = 0 → 像是一个点

非奇异矩阵 奇异矩阵（压成线段） 极端奇异（压成点）

basis

1. 特征向量的定义

对于矩阵 $A$ 和非零向量 $v$，如果存在标量 $\lambda$ 使：

$$Av=\lambda v$$

则：

• $v$ 是 特征向量 (eigenvector)
• $\lambda$ 是对应的 特征值 (eigenvalue)

几何意义：

• 变换后向量方向不变，只被拉伸/压缩或反向
• $\lambda$ 表示拉伸/压缩的倍数（$\lambda <0$ 还会翻转方向）

---

3. 特征基（Eigenbasis）与简化计算

• 如果矩阵 $A$ 的特征向量线性无关且张成整个空间，可以组成 特征基
• 在特征基下，$A$ Diagonalization，变为对角矩阵：

$$P^{-1}AP=\left[\begin{array}{cc}{\lambda }_1& 0\\ 0& {\lambda }_2\end{array}\right]$$

• 此时矩阵乘法简化为各方向上的标量乘法

在特征基视角里，矩阵 $A$ 只是各轴独立缩放 ${\lambda }_i$： 在原来的基底下，$A$ 是一个复杂的线性变换；但如果你换到 $A$ 的特征基去观察，这个变换就只剩下沿坐标轴的拉伸/压缩（无旋转、无剪切）。

1. $P$：换基到特征基

   • $P$ 的列向量是 $A$ 的特征向量

   • 乘 $P^{-1}$ 或 $P$ 就是坐标系变换

   • $P^{-1}$：把向量从原基底转换到特征基底的坐标

   • $P$：反过来，把特征基坐标转换回原基底坐标

2. $P^{-1}AP$

   • 先用 $P$ 把特征基的坐标系摆到原空间

   • $A$ 在原空间作用一次

   • 再用 $P^{-1}$ 把结果投回特征基坐标系

   • 这样得到的就是在特征基下的矩阵表示

3. $\Lambda$：纯拉伸变换

   • $\Lambda$ 是对角矩阵

   • 每个坐标轴对应一个特征向量方向

   • 对角线上的 ${\lambda }_i$ 表示沿这个方向的拉伸/压缩比例

   • 没有旋转、没有方向混合 → 每个方向单独伸缩

---

特征值与特征向量总结

1. 直观理解

• 若矩阵 $A$ 与某个“全平面等比例缩放矩阵” $\lambda I$ 在无穷多个点（如某条直线）上作用结果相同，则它们的差 $A-\lambda I$ 在这些点上作用结果为零。
• 这意味着 $(A-\lambda I)v=0$ 有无穷多解，即 $A-\lambda I$ 是奇异矩阵（行列式为 0）。
• 因此 特征值 $\lambda$** 可由：

$$\det (A-\lambda I)=0$$

求得。

---

2. 求特征值步骤

1. 写出 $A-\lambda I$。
2. 计算 $\det (A-\lambda I)$，得到特征多项式。
3. 解方程 $\det (A-\lambda I)=0$ 得到所有特征值。

例：

$$A=\left[\begin{array}{cc}2& 1\\ 0& 3\end{array}\right]\Rightarrow \det \left[\begin{array}{cc}2-\lambda & 1\\ 0& 3-\lambda \end{array}\right]=(2-\lambda )(3-\lambda )=0$$

→ 特征值 ${\lambda }_1=2$，${\lambda }_2=3$。

---

3. 求特征向量步骤

1. 对每个特征值 ${\lambda }_i$，解方程：

$$(A-{\lambda }_{i}I)v=0$$

2. 得到的 $v$ 为对应的特征向量（可取任意非零数倍）。

例：

• $\lambda =2$：解 $(A-2I)v=0$，得 $v=(1,0{)}^T$。

• $\lambda =3$：解 $(A-3I)v=0$，得 $v=(1,1{)}^T$。

• 仅对方阵定义特征值与特征向量（因为需要行列式）。

对数据的降维：PCA (Principal component analysis)

Discrete Dynamical Systems

1. 场景

• 目标：用离散动力系统（Discrete Dynamical System）建模状态变化（如天气）。
• 示例：
  • 晴天 → 明天晴/阴/雨的概率 = (0.8, 0.15, 0.05)
  • 阴天 → (0.45, 0.35, 0.2)
  • 雨天 → (0.3, 0.4, 0.3)

---

2. 马尔可夫矩阵

• 定义：方阵 $M$，每列：
  • 元素非负
  • 元素和 = 1
• 示例转移矩阵：

$$M=\left[\begin{array}{ccc}0.8& 0.45& 0.3\\ 0.15& 0.35& 0.4\\ 0.05& 0.2& 0.3\end{array}\right]$$

---

3. 状态向量

• 表示当前状态的概率分布：
  • 例如今天阴天：$X_0=\left[\begin{array}{c}0\\ 1\\ 0\end{array}\right]$
• 含义：某状态的概率为 1，其余为 0。

---

4. 状态演化

• 一步预测：

$$X_1=M\cdot X_0$$

• 两步预测：

$$X_2=M\cdot X_1=M^2\cdot X_0$$

• 一般形式：

$$X_n=M^n\cdot X_0$$

Markov Chain： $X_0,X_1,X_2,\dots$

---

5. 收敛与平衡态

• 多次迭代后，$X_n$ 收敛到稳定向量 $X^{\ast }$：

$$X^{\ast }=M\cdot X^{\ast }$$

• 这是 $M$ 的特征向量，对应特征值 $\lambda =1$。
• $X^{\ast }$ 称为平衡向量（Equilibrium Vector）：
  • 长期概率分布
  • 与初始状态 $X_0$ 无关（只要矩阵满足条件）

---

6. 关键性质

1. Markov 矩阵保证概率守恒（列和=1）。
2. 最大特征值 $\lambda =1$ 对应的特征向量给出长期稳定分布。
3. 其他特征值 $|\lambda |<1$ 决定收敛速度。

---

7. 应用

• 天气预测
• 网页跳转流量建模（PageRank）
• 用户行为分析
• 生物状态转移建模