2変量正規分布

統計検定2級

身長と体重、数学と理科の得点。2つの量を組にして散布図に打つと、中央が濃く外へ向かうほど薄い、楕円形の雲になることがよくあります。この形を数式で表したものが2変量正規分布です。

2変量正規分布から発生させた散布図を3つ並べた図。いずれも平均0・分散1で、点は400個。ρ=0では点が原点を中心に丸く広がり、ρ=0.6では右上がりの楕円形にまとまり、ρ=0.9ではさらに細い帯状になって直線に近づいている。横軸x・縦軸yはいずれも−3から3。 — 平均0・分散1の2変量正規分布。相関係数 ρ だけを変えた形の違い

この分布は2つの平均、2つの分散、相関係数の5数で決まります。平均が中心を決め、分散と相関をまとめた共分散行列全体が楕円の向きと形を決めます。図は両方の平均0・分散1に固定した例なので、 $\rho=0$ で円形になります。一般には $\rho=0$ でも分散が異なれば楕円形です。

扱いやすいのは、切り取っても正規分布のままである点です。 $Y$ を無視して $X$ だけを見た分布（周辺分布）は $N(\mu_1, \sigma_1^2)$ 、 $X$ の値を固定したもとでの $Y$ の分布（条件付き分布）もやはり正規分布になります。散布図でいえば、縦に1本切った断面がベル型になるということです。

2変量正規分布では、無相関であることと独立であることが一致します。一般の確率変数では「独立なら無相関、しかし逆は成り立たない」でした（2変数の共分散・相関）。2変量正規分布に限っては逆も言えるので、 $\rho = 0$ を確かめれば独立だと結論できます。ただし、この結論には正規分布の仮定が必要であり、ほかの分布へそのまま広げることはできません。

その断面の中心がどこに来るかも、5つのパラメータから決まります。

E(Y \mid X = x) = \mu_2 + \rho \frac{\sigma_2}{\sigma_1} (x - \mu_1)

E(Y \mid X = x)

：X が x であると分かったもとでの Y の平均、

\rho

：2つの相関係数

$x$ についての1次式、つまり直線です。2変量正規分布では、 $X$ の値を知ったときの $Y$ の見積もりが直線上に並びます。最小二乗法で標本から引く回帰直線は、この直線を推定していることになります。傾きに $\rho$ が掛かっているのも読みどころです。 $\rho = 0$ なら傾きは 0 で、 $X$ を知っても $Y$ の見積もりは $\mu_2$ のまま動きません。

独立な $X \sim N(0, \sigma_1^2)$ 、 $Y \sim N(0, \sigma_2^2)$ から、和 $U = X + Y$ と差 $V = X - Y$ を作ります。 $U$ と $V$ は同じ材料から作られているので、無関係とは限りません。実際どうなるか計算してみます。

分散は和と差の公式から、どちらも $V(U) = V(V) = \sigma_1^2 + \sigma_2^2$ 。共分散のほうは展開して $\mathrm{Cov}(U, V) = V(X) - V(Y) = \sigma_1^2 - \sigma_2^2$ となります。よって相関係数は次のようになります。

\rho(U, V) = \frac{\sigma_1^2 - \sigma_2^2}{\sigma_1^2 + \sigma_2^2}

たとえば $\sigma_1^2 = 3$ 、 $\sigma_2^2 = 1$ なら $\frac{3-1}{3+1} = 0.5$ 。和が大きいときは差も大きい、という関係が残っています。ばらつきの大きい $X$ が $U$ と $V$ の両方を同じ向きに引っ張るためです。

この相関が 0 になるのは $\sigma_1^2 = \sigma_2^2$ のときだけです。そして $U$ と $V$ は2変量正規分布に従うので、無相関はそのまま独立を意味します。2つの分散が等しいときにかぎり、和と差は独立になる。同じ2つの変数から作ったのに互いの情報を持たない、という一見不思議な結論が、 $\rho = 0$ の確認だけで導けました。

入門問題

全 3 問

問 1

2変量正規分布を決めるのに必要なパラメータの個数はいくつですか。

問 2

2変量正規分布に従う $X$ と $Y$ について、相関係数が 0 であると分かりました。正しい説明はどれですか。

問 3

2変量正規分布で $\mu_2 = 50$ 、 $\sigma_1 = 10$ 、 $\sigma_2 = 20$ 、 $\rho = 0.6$ のとき、 $X$ が平均より 10 だけ大きい値をとったと分かりました。そのもとでの $Y$ の平均はどれですか。

実践問題に挑戦 →