※私は数学者ではありません。自分用のまとめとしてこれを書いています。楽しむ範囲でご覧いただければ幸いです。内容の正確性については専門家のサイトや動画、専門書等で必ず確認をお願いします。
* * *
前回、逆行列について学びました。2×2行列 $A$ の逆行列は
$A=\begin{pmatrix} a & b \\ c & d \end{pmatrix}$ のとき、 $A^{-1}=\frac{1}{det(A)}\begin{pmatrix} d & -c \\ -b & a \end{pmatrix} $
でした。この公式を相関行列
$$C=\begin{pmatrix} 1 & \rho \\ \rho & 1 \end{pmatrix}$$
に適用すると
$$C^{-1}=\frac{1}{1-\rho^2}\begin{pmatrix} 1 & -\rho \\ -\rho & 1 \end{pmatrix}$$
公式を用いず、固有値分解から逆行列を求めると
$$C^{-1}=\frac{1}{2}\begin{pmatrix} 1 & 1 \\ 1 & -1 \end{pmatrix}\begin{pmatrix} \frac{1}{1+\rho} & 0 \\ 0 & \frac{1}{1-\rho} \end{pmatrix}\begin{pmatrix} 1 & 1 \\ 1 & -1 \end{pmatrix}$$
となりました。今回は相関係数 $\rho$ が最大値である1をとるとき、行列による働きかけとそれをなかったことにする働きかけがどうなるか議論します。
相関係数が1のとき
相関係数が1であるとき、相関行列のすべての要素は1になります。
$$C=\begin{pmatrix} 1 & 1 \\ 1 & 1 \end{pmatrix}$$
これを $x$ 軸の標準基底に働きかけると
$$\begin{pmatrix} 1 & 1 \\ 1 & 1 \end{pmatrix}\begin{pmatrix} 1 \\ 0\end{pmatrix}=\begin{pmatrix} 1 \\ 1\end{pmatrix}$$
同様に、$y$ 軸の標準基底に働きかけると
$$\begin{pmatrix} 1 & 1 \\ 1 & 1 \end{pmatrix}\begin{pmatrix} 0 \\ 1\end{pmatrix}=\begin{pmatrix} 1 \\ 1\end{pmatrix}$$
働きかけの結果が同じになりました。$x$ 軸の標準基底は反時計回りに45°回転して $\sqrt{2}$ 倍だけ長くなり、終点の座標は $(1, 1)$ になりました。$y$ 軸の標準基底は時計回りに45°回転して $\sqrt{2}$ 倍だけ長くなり、終点の座標は $(1, 1)$ になりました。大変興味深いことに、$x$ 軸と $y$ 軸の標準基底に相関係数1の相関行列を働きかけると、まったく同じベクトルになります（図では、みやすさを重視してオレンジの矢印を少しずらして表示しています）。
* * *
逆行列の不在
変換後のベクトルが1つに重なるというのは何を意味するのでしょうか。下図の例でもう少し考えてみましょう。
緑の実線ベクトルの終点の座標は $(4, 1)$ です。このベクトルに相関係数1の相関行列を働きかけると緑の点線ベクトルになります。終点の座標は以下の計算から $(5, 5)$ になります。
$$\begin{pmatrix} 1 & 1 \\ 1 & 1 \end{pmatrix}\begin{pmatrix} 4 \\ 1\end{pmatrix}=\begin{pmatrix} 5 \\ 5\end{pmatrix}$$
同様に、オレンジの実線ベクトルの終点の座標は $(1, 4)$ です。このベクトルに相関係数1の相関行列を働きかけるとオレンジの点線ベクトルになります。終点の座標はこれも $(5, 5)$ になります。
$$\begin{pmatrix} 1 & 1 \\ 1 & 1 \end{pmatrix}\begin{pmatrix} 1 \\ 4\end{pmatrix}=\begin{pmatrix} 5 \\ 5\end{pmatrix}$$
緑とオレンジ、2つのベクトルが相関行列の働きかけによって全く同じベクトルになりました。前回、逆行列とは働きかけをなかったことにするツールであることを学びましたが、異なる場所から同じ場所に行きつくのであれば、それをなかったことにする操作は一意に定まらなくなってしまいます。
$\begin{pmatrix} 5 \\ 5\end{pmatrix}$ から戻るべきは $\begin{pmatrix} 4 \\ 1\end{pmatrix}$、それとも $\begin{pmatrix} 1 \\ 4\end{pmatrix}$ ？
誰にでも戻るべき故郷があるはずですが、どこに戻ればよいかわからなくなってしまうこともあるんですね…
故郷がみつからなくなる条件
相関行列の相関係数が1であるとき、戻るべき故郷がわからなくなってしまうことをみました。戻るべき故郷がわからなくなってしまう条件を数学的に表すと
$det(A)=0$ あるいは $\lambda_1\lambda_2=0$
確かに、相関係数が1のとき、相関行列 $C$ の行列式（固有値の積）は
$$det(C)=\lambda_1\lambda_2=1-\rho^2=1-1=0$$
となります。これはさらに逆行列が計算不能という条件にもなります。なぜかというと、逆行列の公式の係数の分母に $det(A)$ があるからです。
$A=\begin{pmatrix} a & b \\ c & d \end{pmatrix}$ のとき、 $A^{-1}=\frac{1}{det(A)}\begin{pmatrix} d & -c \\ -b & a \end{pmatrix} $
なぜ、逆行列が計算不能になるのでしょうか。相関係数が1であるときの相関行列を再度眺めてみましょう。
$$C=\begin{pmatrix} 1 & 1 \\ 1 & 1 \end{pmatrix}$$
よくみると、行列の1行目と2行目の要素が全く同じです。これは、2元1次の連立方程式で2つの式の係数が全く同じ（か係数がスカラー倍されている）場合に当たります。変数が2つあるのに式が事実上1本しかなければ、方程式を解くことができません。
連立方程式が解けなくなるとき、行列式の値は0、逆行列は計算不能になります。この現象を統計学などでは多重共線性（基底ベクトルが重なってしまったために、行列表記した連立方程式が解けなくなる状態）といいます。
戻るべき故郷がみつからなくなるのは寂しいですね…