※私は数学者ではありません。自分用のまとめとしてこれを書いています。楽しむ範囲でご覧いただければ幸いです。内容の正確性については専門家のサイトや動画、専門書等で必ず確認をお願いします。
* * *
前回、固有値の和（トレース）と積（行列式）についてみました。もう1つ、線形代数の基本をなす用語があります。それが逆行列です。今回は行列の働きかけをなかったことにする（行列の働きかけによって向きや長さが変わってしまったベクトルを元に戻す）ツールである逆行列について考えます。
逆行列の詳細は、岩田利一『行列と行列式1』岩波講座 現代数学への入門, 岩波書店, pp.13-18を参照してください。
なかったことにする
行列の働きかけをなかったことにする操作をいきなり考えるのは大変ですので、まずやさしい計算を例に、なかったことにする操作を考えましょう。2という数字に3倍という変換をほどこすことを模式化すると
2 $\rightarrow$ （3倍する） $\rightarrow$ ？
この働きかけの結果は6です。式にすると
$$2\times 3=6$$
この3倍という働きかけをなかったことにして、元の数字である2に戻せるでしょうか。この願望を、先ほどと逆向きの矢印で模式化にすると次のようになります。
？ $\leftarrow$ （3倍の逆をする） $\leftarrow$ 6
？が元の数字2であるためには、「3倍の逆」をどのように設定すべきでしょうか。算数が得意な小学生なら「3倍の逆数である $\frac{1}{3}$ を掛ける」と答えるでしょう。指数を知っている高校生であれば、もう少しおしゃれに「$3^{-1}$ 倍する」と答えるかもしれません。
？ $\leftarrow$（$3^{-1}$ 倍する） $\leftarrow$ 6
この逆向きの働きかけの結果、元の数字の2に戻ります。式にすると
$$6\times 3^{-1}=2$$
まとめると
$$2\times 3=6\qquad\rightarrow\qquad 6\times 3^{-1}=2$$
右式の $\times 3^{-1}$ は、左式の $\times 3$ をなかったことにする操作です。「なかったことにする」を式で表現すると
$$3\times 3^{-1}=1$$
計算結果の1は、いったん働きかけ（$\times 3$）、それをなかったことにすると（$\times 3^{-1}$）、元に戻ることを表しています。私たちが知りたいのはこれの行列バージョンです。
* * *
逆行列
ベクトルに働きかける相関行列
$$\begin{pmatrix} 1 & \rho \\ \rho & 1 \end{pmatrix}$$
を $C$ とおきます。そして、この行列の働きかけをなかったことにする行列を $C^{-1}$ とおき、逆行列と呼ぶことにします。前節終わりの式から類推すると、逆行列は次のように書けそうです。右辺の $E$ は単位行列です。単位行列 $E$ は元のベクトルや行列を全く変えないという働きかけをする単位元です。
$$C C^{-1}=E$$
さらに、行列 $C$ の働きかけにより、変換後のベクトルが生成する平行四辺形の面積が $det(C)$ 倍（$\lambda_1\lambda_2$倍）されることを思い出すと、この働きかけをなかったことにするためには $\frac{1}{det(C)}$ 倍すればよさそうです。つまり
$$C^{-1}=\frac{1}{det(C)}\tilde{C}$$
すると、私たちが知るべきは2×2行列 $\tilde{C}$ の要素 $a, b, c, d$ になります。
$$\tilde{C}=\begin{pmatrix} a & b \\ c & d \end{pmatrix}$$
まず、各行列の要素を明示し、$det(C)=1-\rho^2$ を代入します。
$$C \frac{1}{det(C)}\tilde{C}=E$$
$$\begin{pmatrix} 1 & \rho \\ \rho & 1 \end{pmatrix}\frac{1}{1-\rho^2}\begin{pmatrix} a & b \\ c & d \end{pmatrix}=\begin{pmatrix} 1 & 0 \\ 0 & 1 \end{pmatrix}$$
行列式を右辺に移行し、左辺の行列の積を計算します。
$$\begin{pmatrix} a+c\rho & b+d\rho \\ a\rho+c & b\rho+d \end{pmatrix}=\begin{pmatrix} 1-\rho^2 & 0 \\ 0 & 1-\rho^2 \end{pmatrix}$$
両辺の各要素を対応させると
$$a\rho+c=b+d\rho=0, \qquad a+c\rho=b\rho+d=1-\rho^2$$
左の式から得られる $b=-d\rho, c=-a\rho$ を右の式に代入すると
$$a+(-a\rho)\rho=(-d\rho)\rho+d=1-\rho^2$$
$$a(1-\rho^2)=d(1-\rho^2)=1-\rho^2$$
$$a=d=1$$
これらを $b=-d\rho, c=-a\rho$ に代入すると
$$b=c=-\rho$$
$a, b, c, d$ を所定の位置に代入すると $\tilde{C}$ が得られます。
$$\tilde{C}=\begin{pmatrix} 1 & -\rho \\ -\rho & 1 \end{pmatrix}$$
実は、$\tilde{C}$ は計算の煩雑さで悪名高い余因子行列です。逆行列は行列式と余因子行列の比です。
$$C^{-1}=\frac{1}{det(C)}\tilde{C}=\frac{1}{1-\rho^2}\begin{pmatrix} 1 & -\rho \\ -\rho & 1 \end{pmatrix}$$
一般に、行列 $A=\bigl(\begin{smallmatrix} a & b \\ c & d \end{smallmatrix}\bigr)$ の逆行列は
$$A^{-1}=\frac{1}{det(A)}\begin{pmatrix} d & -c \\ -b & a \end{pmatrix}$$
※砂田『行列と行列式1』pp.2-3に、行列式は連立1次方程式の解の分母であり、
余因子は解の分子であることが記されています。
※集合論の逆写像（全単射）についてはこちらを参照してください。
$C$ の逆行列 $C^{-1}$ が本当に相関行列の働きかけをなかったことにするのか、$CC^{-1}$ を計算して確認してみます。
$$CC^{-1}=\begin{pmatrix} 1 & \rho \\ \rho & 1 \end{pmatrix}\frac{1}{1-\rho^2}\begin{pmatrix} 1 & -\rho \\ -\rho & 1 \end{pmatrix}$$
係数である $1-\rho^2$ を前に出して
$$CC^{-1}=\frac{1}{1-\rho^2}\begin{pmatrix} 1 & \rho \\ \rho & 1 \end{pmatrix}\begin{pmatrix} 1 & -\rho \\ -\rho & 1 \end{pmatrix}$$
行列の積を計算すると
$$CC^{-1}=\frac{1}{1-\rho^2}\begin{pmatrix} 1-\rho^2 & 0 \\ 0 & 1-\rho^2 \end{pmatrix}$$
対角要素と係数の分母は同じです。(同じもの)÷(同じもの)=1ですので
$$CC^{-1}=\begin{pmatrix} 1 & 0 \\ 0 & 1 \end{pmatrix}=E$$
単位行列 $E$ は元のベクトルや行列を全く変えません。逆行列 $C^{-1}$ は相関行列 $C$ の働きかけをなかったことにすることが確かめられました。
固有値分解を利用した逆行列
逆行列は、相関行列を固有値分解したものからも得られます。相関行列を固有値分解したものは
$$C=\begin{pmatrix} 1 & \rho \\ \rho & 1 \end{pmatrix}=\frac{1}{\sqrt{2}}\begin{pmatrix} 1 & 1 \\ 1 & -1 \end{pmatrix}\begin{pmatrix} 1+\rho & 0 \\ 0 & 1-\rho \end{pmatrix}\frac{1}{\sqrt{2}}\begin{pmatrix} 1 & 1 \\ 1 & -1 \end{pmatrix}$$
相関行列の逆行列を固有値分解表記すると
$$C^{-1}=\frac{1}{\sqrt{2}}\begin{pmatrix} 1 & 1 \\ 1 & -1 \end{pmatrix}\begin{pmatrix} \frac{1}{1+\rho} & 0 \\ 0 & \frac{1}{1-\rho} \end{pmatrix}\frac{1}{\sqrt{2}}\begin{pmatrix} 1 & 1 \\ 1 & -1 \end{pmatrix}$$
逆行列は、真ん中にある行列の固有値を逆数にするだけで求まります。もしすでに固有値分解しているのであれば、逆行列の計算はとても楽になります。これが本当に逆行列なのか、計算して確かめてみましょう。
$$C^{-1}=\frac{1}{2}\begin{pmatrix} 1 & 1 \\ 1 & -1 \end{pmatrix}\begin{pmatrix} \frac{1}{1+\rho} & 0 \\ 0 & \frac{1}{1-\rho} \end{pmatrix}\begin{pmatrix} 1 & 1 \\ 1 & -1 \end{pmatrix}$$
$$C^{-1}=\frac{1}{2}\begin{pmatrix} \frac{1}{1+\rho} & \frac{1}{1-\rho} \\ \frac{1}{1+\rho} & -\frac{1}{1-\rho} \end{pmatrix}\begin{pmatrix} 1 & 1 \\ 1 & -1 \end{pmatrix}$$
$$C^{-1}=\frac{1}{2(1-\rho^2)}\begin{pmatrix} 2 & -2\rho \\ -2\rho & 2 \end{pmatrix}$$
$$C^{-1}=\frac{1}{1-\rho^2}\begin{pmatrix} 1 & -\rho \\ -\rho & 1 \end{pmatrix}$$
前節で得た逆行列と同じになりました。固有値分解からも逆行列が簡単に得られることが確かめられました。
* * *
どこから来たの？
逆行列を用いると、変換後のベクトルがどこからきたのか知ることができます。ここでも相関行列を例にとります。以前の記事でみたように、$x$ 軸の基底ベクトルに相関行列で働きかけると、行き先は $(1, \rho)$ になります。
$$\begin{pmatrix} 1 & \rho \\ \rho & 1 \end{pmatrix} \begin{pmatrix} 1 \\ 0\end{pmatrix}=\begin{pmatrix} 1 \\ \rho \end{pmatrix}$$
相関行列の逆行列を行き先のベクトル $(1, \rho)$ に掛けることで、元のベクトル $(1, 0)$ に戻せるでしょうか。まず、両辺に逆行列を掛けます。
$$C^{-1}\begin{pmatrix} 1 & \rho \\ \rho & 1 \end{pmatrix} \begin{pmatrix} 1 \\ 0\end{pmatrix}=C^{-1}\begin{pmatrix} 1 \\ \rho \end{pmatrix}$$
左辺だけ整理します。
$$C^{-1}C \begin{pmatrix} 1 \\ 0\end{pmatrix}=C^{-1}\begin{pmatrix} 1 \\ \rho \end{pmatrix}$$
$$E \begin{pmatrix} 1 \\ 0\end{pmatrix}=C^{-1}\begin{pmatrix} 1 \\ \rho \end{pmatrix}$$
$$\begin{pmatrix} 1 \\ 0\end{pmatrix}=C^{-1}\begin{pmatrix} 1 \\ \rho \end{pmatrix}$$
つづいて右辺を計算します。
$$\begin{pmatrix} 1 \\ 0\end{pmatrix}=\frac{1}{1-\rho^2}\begin{pmatrix} 1 & -\rho \\ -\rho & 1 \end{pmatrix}\begin{pmatrix} 1 \\ \rho \end{pmatrix}$$
$$\begin{pmatrix} 1 \\ 0\end{pmatrix}=\frac{1}{1-\rho^2}\begin{pmatrix} 1-\rho^2 \\ 0 \end{pmatrix}$$
$$\begin{pmatrix} 1 \\ 0\end{pmatrix}=\begin{pmatrix} 1 \\ 0 \end{pmatrix}$$
相関行列の働きかけにより $(1, \rho)$ に到着したベクトルは、$(1, 0)$ から来たことがわかりました。逆行列は、変換後のベクトルがどこから来たのか故郷を訪ねるツールです。
高校数学では、行列は扱われたり、扱われなくなったり、数奇な運命をたどっています。経緯についてはこちらをご覧ください。