ひよこ統計

決定係数

統計検定2級

回帰直線を1本引いたあとに知りたくなるのは、その直線がデータをどれだけ言い当てているかです。最小二乗法 が最小にした残差平方和は小さいほどよいのですが、この値は y y の単位やデータの個数で大きさが変わるため、数値そのものを見ても当てはまりの良し悪しは判断できません。そこで、y y のばらつき全体のうち直線が説明できた分の割合を見ます。この割合が決定係数で、R2 R^2 と書きます。

変動の分解 で見た ST=SA+Se S_T = S_A + S_e のうち、決定係数は全平方和 ST S_T に占める回帰平方和 SA S_A の割合です。ST>0 S_T>0 のとき値は 0≤R2≤1 0 \le R^2 \le 1 に収まり、「y y のばらつきの何割をこの回帰直線で説明できたか」として読めます。1 に近いほど点は直線の近くに集まり、0 に近いほど、この直線による予測値は平均から動きません。R2=0 R^2=0 でも曲線的な関係が存在することはあります。すべての y y が同じなら ST=0 S_T=0 となり、この比による R2 R^2 は定義できません。

R2=SAST=1−SeST(ST>0)R^2 = \frac{S_A}{S_T} = 1 - \frac{S_e}{S_T} \qquad (S_T>0)
R2 R^2 :決定係数、ST S_T :全平方和(各 yi y_i と平均 yˉ \bar{y} との差の2乗和)、SA S_A :回帰平方和(予測値 y^i \hat{y}_i と平均 yˉ \bar{y} との差の2乗和)、Se S_e :残差平方和(各 yi y_i と予測値 y^i \hat{y}_i との差の2乗和)
R2=0 R^2 = 0 R2=0.6 R^2 = 0.6 R2=1 R^2 = 1
回帰平方和 SA S_A 0全平方和の 6 割全平方和と同じ
残差平方和 Se S_e 全平方和と同じ全平方和の 4 割0

この3つの列は、点と直線の関係そのものの違いでもあります。R2=0 R^2 = 0 では直線が水平になり、x x を知っても y y の予測は平均から動きません。R2=0.6 R^2 = 0.6 では点が直線のまわりに散らばり、R2=1 R^2 = 1 ではすべての点が直線上にちょうど並びます。

説明に使う変数(説明変数)が1つの回帰、すなわち単回帰では、この R2 R^2 は 相関係数 r r の2乗にちょうど一致します。したがって r=0.6 r = 0.6 でも r=−0.6 r = -0.6 でも決定係数は 0.36 0.36 で、当てはまりの程度は同じです。2乗した時点で符号が消えるので、決定係数だけを見ても関係が右上がりか右下がりかは分かりません。向きを知りたいときは相関係数か、回帰直線の傾き(回帰係数)に戻ります。

R2 R^2 は高ければ高いほど良い成果に見えるため、値を大きくする方向に引っ張られやすい指標です。曲がった関係に無理に直線を当てはめても、少数の外れ値に引っ張られても値は大きくなりますし、重回帰で説明変数を足していけば R2 R^2 は小さくなることがありません(そのため 自由度調整(修正)済み決定係数 と併せて読みます)。値が大きく出たからといって、予測が当たる確率がその割合だとか、x x が y y の原因だと読み取ってはいけません。

雨の日数と傘の忘れ物から決定係数を求める

5つの町について、ある月に雨が降った日数 x x (日)と、その月に交番へ届いた傘の忘れ物 y y (本)を並べました。5つの町は人口も広さも違うので、忘れ物の本数が雨の日数だけで決まるわけではありません。最小二乗法で当てはめた直線は y^=3+x \hat{y} = 3 + x で、各町の予測値は次のとおりです。

A町B町C町D町E町
雨が降った日数 x x (日)12345
傘の忘れ物 y y (本)628410
予測値 y^ \hat{y} (本)45678

忘れ物の平均は yˉ=6 \bar{y} = 6 本です。まず全平方和を求めます。各町の本数と平均との差を2乗して合計すると 0+16+4+4+16=40 0+16+4+4+16 = 40 となり、ST=40 S_T = 40 と決まります。

同じ要領で、予測値と平均との差から回帰平方和が 4+1+0+1+4=10 4+1+0+1+4 = 10 、本数と予測値との差から残差平方和が 4+9+4+9+4=30 4+9+4+9+4 = 30 と求まります。この2つを足すと 10+30=40 10+30 = 40 で、たしかに全平方和に一致しました。決定係数は R2=10÷40=0.25 R^2 = 10 \div 40 = 0.25 です。残差の側から 1−30÷40=0.25 1 - 30 \div 40 = 0.25 と計算しても、当然ながら同じ値になります。

相関係数の2乗と一致することも確かめます。日数と本数それぞれの偏差をかけて合計すると 0+4+0−2+8=10 0+4+0-2+8 = 10 なので、共分散は 10÷5=2 10 \div 5 = 2 です。x x の分散は 10÷5=2 10 \div 5 = 2 、y y の分散は 40÷5=8 40 \div 5 = 8 ですから、標準偏差の積は 2×8=4 \sqrt{2} \times \sqrt{8} = 4 となり、相関係数は r=2÷4=0.5 r = 2 \div 4 = 0.5 です。その2乗 0.52=0.25 0.5^2 = 0.25 は、先に求めた決定係数とぴったり重なります。

直線は引けたものの、説明できたのは本数のばらつき全体の4分の1でした。残る4分の3は、町の大きさの違いのように雨の日数では拾えない事情や、偶然によるものだと考えます。決定係数は、この「どこまで説明できたか」を1つの数値にした指標です。

入門問題

全 4 問
問 1

ある単回帰モデルの決定係数が 0.49 でした。この値の意味として最も適切なものはどれですか。

問 2

単回帰の全平方和が 40、残差平方和が 30 でした。決定係数の値として正しいものはどれですか。

問 3

ある単回帰で、2つの変数の相関係数が −0.6 -0.6 でした。この回帰の決定係数として正しいものはどれですか。

問 4

決定係数が 0.95 と大きくなった単回帰について、この結果から言えることとして最も適切なものはどれですか。