对角化、A的幂

一、矩阵对角化及其条件

1.2 矩阵对角化

将方阵$A$的特征向量放入一个新的矩阵$S$，那么有：
$$\begin{array}{rl}AS& =A\left[\begin{array}{cccc}{c}_1& c_2& \cdots & c_n\end{array}\right]\\ & =\left[\begin{array}{ccc}{\lambda }_1{c}_1& \cdots & {\lambda }_n{c}_n\end{array}\right]\\ & =\left[\begin{array}{cccc}{c}_1& c_2& \cdots & c_n\end{array}\right]\left[\begin{array}{cccc}{\lambda }_1& 0& \cdots & 0\\ 0& {\lambda }_2& \cdots & 0\\ \cdots & \cdots & \cdots & \cdots \\ \cdots & \cdots & \cdots & {\lambda }_n\end{array}\right]=A\Lambda \end{array}\text{\hspace{1em}(1)}$$
也就是有：
$$AS=S\Lambda \text{\hspace{1em}(2)}$$
因为特征向量线性无关，所以：
$$S^{-1}AS=\Lambda \text{\hspace{1em}(3)}$$
下面是等价表达，也就是我们这节课矩阵对角化的重要公式：
$$A=S\Lambda S^{-1}\text{\hspace{1em}(4)}$$
这是另一种矩阵分解的方法：将一个矩阵分为特征值向量组成的矩阵和特征值构成的矩阵。这样的分解，使得我们求解矩阵的幂变得可行。
由（3）有以下结论：
$$\begin{gathered} Ax=\lambda x \\ {A}^{2}x=\lambda Ax={\lambda }^{2}x \\ \cdots \\ {A}^{n}x={\lambda }^{n}x\text{\hspace{1em}(5)} \end{gathered}$$
由（4）有：
$$\begin{gathered} A^2=S\Lambda S^{-1}S\Lambda S^{-1}=S{\Lambda }^2{S}^{-1} \\ {A}^k=S{\Lambda }^k{S}^{-1}\text{\hspace{1em}(6)} \end{gathered}$$
特征值的存在让我们计算矩阵的幂有了表达式，注意矩阵对角化条件是：存在$n$个独立的特征向量。

定理：假设$A$存在$n$个独立的特征向量，当$k\to \infty$，$A^k\to 0$的条件是：
$$\forall |{\lambda }_i|<1\text{\hspace{1em}(7)}$$
这样的矩阵$A$是稳定的。

既然有对角化有这么多好的性质，那么什么样的矩阵是可以进行对角化的？下面给出结论：

$A$一定存在$n$个独立的向量（或者说能够被对角化（diagnalizable）），如果满足以下条件：

• 所有$\lambda$都不相同（也就是没有重复的$\lambda$，课本有证明 ）

重复的特征值是否一定不能被对角化？答：看情况。下面是两钟情况。

例子1：单位矩阵$I=\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right]$，其特征值有三个，都是1，但是所有的向量都是其特征向量，任取3个即可。

例子2：对于一个三角矩阵$A=\left[\begin{array}{cc}2& 1\\ 0& 2\end{array}\right]$的特征值为2和2，再求其特征向量$A-2I=\left[\begin{array}{cc}0& 1\\ 0& 0\end{array}\right]$，这个矩阵的零空间是零向量，特征向量为$x_1=\left[\begin{array}{c}1\\ 0\end{array}\right]$，因为不能找到2个线性无关的向量，不可以进行对角化。

二、对角化的应用

如果$x_i$是$A$的一个特征向量，那么$k{x}_i$($k\ne 0$)也是其特征向量。

设向量$u_0$是矩阵$A$特征向量$x_i$的线性组合：
$$u_0=c_1{x}_1+c_2{x}_2+\cdots +c_n{x}_n\text{\hspace{1em}(8)}$$
矩阵形式：
$$u_0=Sc\text{\hspace{1em}(9)}$$
对于之后的每一个$u_k$都可以通过通项：
$$u_{k+1}=A{u}_k\text{\hspace{1em}(10)}$$
求出，具体的：

$$\begin{gathered} u_1=A{u}_0 \\ {u}_2=A^2{u}_0 \\ \cdots \\ {u}_k=A^k{u}_0\text{\hspace{1em}(10)} \end{gathered}$$

$$\begin{gathered} u_1=A{u}_0=c_1{\lambda }_1{x}_1+c_2{\lambda }_2{x}_2+\cdots +c_n{\lambda }_n{x}_n \\ {u}_{100}=A^{100}{u}_0=c_1{\lambda }_1^{100}{x}_1+c_2{\lambda }_2^{100}{x}_2+\cdots +c_n{\lambda }_n^{100}{x}_n\text{\hspace{1em}(11)} \end{gathered}$$
写成矩阵形式：
$$\begin{gathered} u_0=Sc \\ {u}_{100}=u_0{A}^{100}={\Lambda }^{100}Sc\text{\hspace{1em}(12)} \end{gathered}$$
这里将初始向量$u_0$展开成若干个特征向量的线性组合，从而推导出$u_{100}$的结果。

斐波那契数列（Fibonacci）例子：
$$0,1,1,2,3,5,8,13\cdots F_{100}$$
如何将第100个斐波那契数求出以及其增长速度如何？

答：增长速度、收敛性、稳定性是由特征值决定的，下面给出其递推公式：
$$F_{k+2}=F_{k+1}+F_k\text{\hspace{1em}(13)}$$
这个方程不仅和上一个值$F_k$有关，而且还与上上个的值$F_k$有关，是一个二阶差分方程。(13)还能添加一个条件：
$$\begin{gathered} F_{k+2}=F_{k+1}+F_k \\ {F}_{k+1}=F_{k+1}\text{\hspace{1em}(14)} \end{gathered}$$
写成矩阵形式：
$$\left[\begin{array}{c}{F}_{k+2}\\ F_{k+1}\end{array}\right]=\left[\begin{array}{cc}1& 1\\ 1& 0\end{array}\right]\left[\begin{array}{c}{F}_{k+1}\\ F_k\end{array}\right]$$
这里利用一个小技巧将二阶方程“降”为一阶方程：
$$\begin{gathered} u_k=\left[\begin{array}{c}{F}_{k+1}\\ F_k\end{array}\right] \\ {u}_{k+1}=\left[\begin{array}{c}{u}_{k+2}\\ u_{k+1}\end{array}\right]\text{\hspace{1em}(15)} \end{gathered}$$
代入（14）有：
$$u_{k+1}=\left[\begin{array}{cc}1& 1\\ 1& 0\end{array}\right]u_k\text{\hspace{1em}(16)}$$
由：$$|A-\lambda I|=-{\lambda }^2-\lambda +1=0$$可以求得特征值分别是：
$$\begin{gathered} {\lambda }_1=\frac{1+\sqrt{5}}{2}\approx 1.618 \\ {\lambda }_2=\frac{1-\sqrt{5}}{2}\approx 0.618\text{\hspace{1em}(17)} \end{gathered}$$
对应的特征向量为：
$$\left[\begin{array}{cc}1-\lambda & 1\\ 1& -\lambda \end{array}\right]x=0\text{\hspace{1em}(18)}$$
$x=\left[\begin{array}{c}\lambda \\ 1\end{array}\right]$是（18）的特征向量，这是因为：
$$Ax=\left[\begin{array}{c}-{\lambda }^2-\lambda +1\\ 0\end{array}\right]=\left[\begin{array}{c}0\\ 0\end{array}\right]\text{\hspace{1em}(19)}$$
这是因为$-{\lambda }^2-\lambda +1=0$恰好等于特征根方程。

$$x_1=\left[\begin{array}{c}1.618\\ 1\end{array}\right]x_2=\left[\begin{array}{c}0.618\\ 1\end{array}\right]\text{\hspace{1em}(20)}$$

为了利用之前的结论，我们需要将初值$u_0$用$A$矩阵的特征向量的线性组合表示，假设这个线性组合是$c_0$和$c_1$
$$u_0=c_1{x}_1+c_0{x}_2\text{\hspace{1em}(21)}$$
结果是什么并不重要。让我们回顾整个解题逻辑：

• 将二阶差分方程转换成一阶差分方程，目的是应用一阶差分方程幂特点
• 确定求得的特征值和特征向量可以用来表示$u_0$
• 若第二步存在，那么有$u_k=A^{100}{u}_0=c_1{\lambda }_1^{100}{x}_1+c_2{\lambda }_2^{100}{x}_2+\cdots +c_n{\lambda }_n^{100}{x}_n$

因为这里只是二阶矩阵，所以：
$$u_k=c_1{\lambda }_1^{100}{x}_1+c_2{\lambda }_2^{100}{x}_2\text{\hspace{1em}(22)}$$

对于这个例子：
$$u_{100}=c_1(0.618{)}^{100}+c_2(1.618{)}^{100}\text{\hspace{1em}(23)}$$
简单分析，随着阶数的增大，特征值小于1的（0.618）影响将会越来越小，所以取决定性因素的特征值是比较大的那个（1.618）。