※私は数学者ではありません。自分用のまとめとしてこれを書いています。楽しむ範囲でご覧いただければ幸いです。内容の正確性については専門家のサイトや動画、専門書等で必ず確認をお願いします。
* * *
前回、固有値分解について学びました。潜在的にはかなり高度な内容を含みますが、私たち文系がここちよく感じられるようにまとめたつもりです。今回は、固有値の和(トレース)と積(行列式)を通して固有値分解の理解を深めたいと思います。
固有値の和
今回も相関行列を例にします。
$$\begin{pmatrix} 1 & \rho \\ \rho & 1 \end{pmatrix}$$
前回みたように、相関行列の固有値は
$$\lambda_1=1+\rho, \qquad \lambda_2=1-\rho$$
これらの和は
$$\lambda_1+\lambda_2=(1+\rho)+(1-\rho)=2$$
この2という値は、固有値分解した元の行列の対角要素の和と等しいです。相関行列の左上の対角要素は1、右下の対角要素も1ですので、対角要素の和は確かに2です。
行列の対角要素の和をトレースといいます。固有値の和がトレースであるというのは、相関行列だけでなく、行列一般に成り立つ不思議な性質です。
* * *
前回の記事に次のような段落があります。
2つの固有値の和は、相関係数の値によらず、元の相関行列の対角要素の和である2に等しくなります。相関係数が0から1に近づくにしたがい、↘︎成分が↗︎成分に吸い取られるイメージです。相関係数が1のとき、↘︎成分は完全に↗︎成分に吸い取られます。
オレンジ色にした文節はトレースの性質を表しています。それぞれの固有値は非対角要素である $\rho$ に影響を受けますが、それらは相殺されトレースは2のままです。「行く川の流れは絶えずして、しかももとの水にあらず」といいますか、不易と流行が溶け合ったものが固有値です。
固有値の積
つづいて固有値の積についてみます。相関行列の固有値の積は
$$\lambda_1\lambda_2=(1+\rho)(1-\rho)=1-\rho^2$$
これが何か、にわかに判然としないかもしれません。しかし、相関行列で働きかけた後のベクトルの(伸縮)倍率が固有値であることを思い出してみましょう。すると、固有値の積($\lambda_1\lambda_2$)は、働きかけた後のベクトルから生成される平行四辺形の面積と、対応する固有値を掛けて伸び縮みさせたベクトルから生成される平行四辺形の面積との倍率であることに気づきます。
やさしく言い換えましょう。「1cm四方の正方形の面積は1です。この正方形を横に3倍、縦に2倍引き伸ばした長方形の面積は元の正方形の面積の何倍ですか?」答えは明らかに「$3\times 2=6$ だから6倍」ですよね。
同様に、「相関行列で変換した後のベクトルが生成する平行四辺形の面積が1であるとしましょう。この平行四辺形を横に $1+\rho$ 倍、縦に $1-\rho$ 倍引き伸ばした平行四辺形の面積は元の平行四辺形の面積の何倍でしょうか?」答えは明らかに「$(1+\rho)(1-\rho)$ だから$1-\rho^2$」です。同じことです。要するに、「固有値で2辺を伸び縮みさせた平行四辺形の面積は、元の平行四辺形の何倍ですか?」、固有値の積はこの問いの答えです。
実は、この問いの答えを求めるもう1つの式があります。それが行列式です。行列式は、行列の要素のたすき掛けの差です。相関行列の要素を用いて式を書くと
$$1\times 1-\rho\times\rho=1-\rho^2$$
確かに、計算結果は固有値の積と等しいです。
固有値がベクトルの伸縮倍率であることに気づけば、固有値の積が平行四辺形の面積の倍率であることもすぐにわかります。ここまでたどりつければ、固有値の積が行列式の計算結果と等しいのは当たり前に思えます。
* * *
相関係数は $-1$ から $+1$ の間の値をとります。さまざまな相関係数の値に対応する変換後のベクトルと、それらから生成される平行四辺形をアニメーションにしてみました。相関係数が $-1$ から $+1$ に向かうと平行四辺形の色は青、黄、オレンジに変わります。相関係数が0のとき平行四辺形は正方形となり、面積は最大値の1となります。相関係数の絶対値が0から1へ向かうにしたがい、平行四辺形は押しつぶされ、面積は0に向かって小さくなります。

固有値は、固有方程式といわれるものの解です。2×2行列 $A$ の2つの固有値を $\lambda_1, \lambda_2$ とおき、単位行列を $E$、すべての要素が0である零行列を $O$ とおくと、特性方程式は
$$(A-\lambda_1E)(A-\lambda_2E)=O$$
となります。これを展開すると
$$A^2-(\lambda_1+\lambda_2)A+\lambda_1\lambda_2E=O$$
固有値の和はトレース、固有値の積は行列式ですので、これらを代入すると
$$A^2-tr(A)A+det(A)E=O$$
これをケーリー=ハミルトンの定理といいます。これまで学んだことが1つの式にコンパクトに収まるのはすごいですね。詳細は、岩田利一『行列と行列式1』岩波講座 現代数学への入門, 岩波書店, pp.34-37を参照してください。
※固有値の和であるトレースと、固有値の積である行列式は、ヴィエトの公式という多項式の知見の応用だそうです。このブログの範囲をはるかに超えますので、名前だけ紹介しておきます。