ひよこ統計

分散分析表

統計検定2級

ばらつきの大きさを、その出どころごとに並べた表が分散分析表です。列には平方和・自由度・平均平方・F F 値を置きます。行の名前は分析によって変わり、回帰分析では回帰・残差・合計の3行です。単回帰なら次の形になります。

要因平方和自由度平均平方F F 値
回帰SA S_A 1VA V_A F F
残差Se S_e n−2 n-2 Ve V_e
合計ST S_T n−1 n-1

平方和が ST=SA+Se S_T = S_A + S_e と2つに分かれることは 変動の分解 で扱います。自由度も同じように足し算で分かれ、データが n n 組なら合計 n−1 n-1 、回帰 1、残差 n−2 n-2 です。残差の n−2 n-2 は、傾きと切片の2つを推定したぶんを n n から引いた値でもあります。平方和も自由度も、縦に足すと合計の行になることが表の骨組みです。

説明変数が k k 個ある重回帰では、回帰の自由度が k k 、残差は n−k−1 n-k-1 です。単回帰は k=1 k=1 の場合で、上の表と一致します。

VA=SA1,Ve=Sen−2,F=VAVeV_A = \frac{S_A}{1}, \qquad V_e = \frac{S_e}{n-2}, \qquad F = \frac{V_A}{V_e}
SA S_A ・Se S_e :回帰で説明できた平方和と、残差の平方和、VA V_A ・Ve V_e :それぞれの平均平方(同じ行の平方和を自由度で割った量)、n n :データの組数、F F :2つの平均平方の比

平均平方は、その行の平方和を同じ行の自由度で割った量です。平方和は足し合わせた項目が多いほど大きくなるので、そのまま並べても公平な比較になりません。1自由度あたりの大きさに直してから比べる、という手順を踏みます。ここで早合点しやすいのが、平均平方も縦に足せば合計になるという読み方です。割り算をしたあとの量なので VA+Ve V_A + V_e は全体の平均平方にならず、合計の行では平均平方と F F 値の欄を空けたままにします。

F F 値は、回帰の平均平方が残差の平均平方の何倍かを示す量です。この値を F分布 の上側確率点と比べて回帰が意味を持つかを判断しますが、比をとって判断するという考え方そのものは F比、3つ以上の群へ広げた検定は 3群以上の平均値の差(分散分析) で扱います。

一元配置実験 では、回帰の行に相当する部分を水準間と呼びます。水準数を a a とすると、自由度は水準間 a−1 a-1 、残差 n−a n-a 、合計 n−1 n-1 です。

一元配置の分散分析表
要因平方和自由度平均平方F F 値
水準間SA S_A a−1 a-1 VA V_A F F
残差Se S_e n−a n-a Ve V_e
合計ST S_T n−1 n-1

試験では、いくつかの欄が空いた分散分析表を完成させる形がよく出ます。ここで確かめられているのは表の暗記ではなく、平方和と自由度が縦に足し算で分かれること・平均平方が横の割り算で出ること・F F 値がその比であること、この3つを使い分けられるかどうかです。埋める順序もそこから決まり、まず縦の足し算で平方和と自由度の空欄を補い、次に横の割り算で平均平方を出し、最後にその比として F F 値を求めます。残差自由度からデータ数 n n を戻す式は分析ごとに異なります。切片を含む単回帰なら 2、説明変数が p p 個の重回帰なら p+1 p+1 、水準数が a a の一元配置なら a a を残差自由度に足します。

5つの部屋のデータで分散分析表の空欄を埋める

ある建物で5つの部屋を調べ、窓に張った断熱材の枚数 x x と、外との温度差 y y を並べました。最小二乗法 で当てはめた回帰直線は y^=1+2x \hat{y} = 1 + 2x です。

部屋A部屋B部屋C部屋D部屋E
断熱材 x x (枚)01234
外との温度差 y y (℃)233710
予測値 y^ \hat{y} 13579
残差 y−y^ y - \hat{y} 10−201

温度差の平均は 25÷5=5 25 \div 5 = 5 ℃ です。全体の平方和は平均からのずれの2乗和で 9+4+4+4+25=46 9+4+4+4+25 = 46 、残差平方和は残差の2乗和で 1+0+4+0+1=6 1+0+4+0+1 = 6 。回帰の平方和は差をとって 46−6=40 46 - 6 = 40 と求まります。ここまでで平方和の列だけが埋まりました。残りの空欄を(ア)〜(オ)とします。

要因平方和自由度平均平方F F 値
回帰40(ア)(ウ)(オ)
残差63(エ)
合計46(イ)

データは 5 組なので、合計の自由度は 5−1=4 5 - 1 = 4 で(イ)が決まります。残差の自由度が 3 と与えられているため、縦の引き算で回帰の自由度は 4−3=1 4 - 3 = 1 、これが(ア)です。単回帰では回帰の自由度は必ず 1 になるので、ここは検算にも使えます。

次は横方向の割り算です。回帰の平均平方は 40÷1=40 40 \div 1 = 40 (ウ)、残差の平均平方は 6÷3=2 6 \div 3 = 2 (エ)。最後に F F 値は2つの平均平方の比で 40÷2=20 40 \div 2 = 20 (オ)となり、表が完成します。

要因平方和自由度平均平方F F 値
回帰4014020
残差632
合計464

最後の割り算でつまずきやすくなります。平方和のまま比をとって 40÷6 40 \div 6 を F F 値としてしまう答案が目立ちますが、比べるのは自由度で割ったあとの平均平方どうしです。もう一つは合計の行で、ここに平均平方として 46÷4=11.5 46 \div 4 = 11.5 を書き込んでも、回帰とも残差とも比べようのない量にしかなりません。合計の行には平方和と自由度までを書きます。

入門問題

全 4 問
問 1

単回帰の分散分析表で、残差の行の平均平方はどのように求めますか。

問 2

データが 12 組ある単回帰の分散分析表について、回帰・残差・合計の自由度の組み合わせはどれですか。

問 3

データが 7 組の単回帰で、回帰の平方和が 36、残差の平方和が 15 でした。分散分析表の F F 値はいくつですか。

問 4

分散分析表の合計の行について、正しく述べているものはどれですか。