回帰直線の傾きの推定と検定

最小二乗法 で直線を当てはめたら、傾きが $-0.15$ と出たとします。ところがこの数値は、手元にある何十組かのデータから計算したものにすぎず、別の期間や別の対象を調べればまた違う値になります。右下がりに見えたのが本当の関係なのか、たまたまその標本でそう出ただけなのかは、傾きの数値を眺めていても決まりません。そこで、標本から求めた傾きを手がかりに、母集団での傾きを検定と区間推定で扱います。この手続きが回帰直線の傾きの推定と検定です。

母集団での傾きを $\beta$、標本から求めた推定値を $\hat{b}$ と書き分けます。傾きが 0 なら $x$ がどれだけ変わっても予測値は動きませんから、帰無仮説 $H_0: \beta = 0$ は、$x$ と $y$ に直線的な関係がないという主張にあたります。ここから先の進め方は 母平均の検定 と変わりません。$\hat{b}$ が 0 からどれだけ離れているかを、その 標準誤差 何個ぶんかに直します。

次の有限標本のt推論では、$x$ を与えたときの $y$ の条件付き平均が直線で表され、各観測の誤差が互いに独立で、平均 0・共通の分散を持つ正規分布に従う古典的な単回帰モデルを仮定します。この条件から外れるときは、残差を診断し、データの依存や分散の違いに合う標準誤差を選ぶ必要があります。

切片と傾きの2つを推定したぶん、自由度は $n-2$ になります。また、分母の標準誤差そのものが標本から推定した量なので、従うのは 標準正規分布 ではなく t分布 です。その $\mathrm{SE}(\hat{b})$ は、残差の平均平方 $V_e$（分散分析表 の残差の行にある量）と $x$ の散らばりから決まり、残差が小さいほど、また $x$ の幅が広いほど小さくなります。同じ標準誤差を使えば区間推定もでき、95%なら $\hat{b} \pm t_{0.025}(n-2) \cdot \mathrm{SE}(\hat{b})$ が傾きの 信頼区間 です。検定と区間推定は次のように対応します。

1列目と2列目は、同じ判断を別の材料から述べたものです。区間の端は $\hat{b}$ から標準誤差の $t_{0.025}(n-2)$ 倍だけ離れた位置にあり、この幅が $\hat{b}$ と 0 の隔たりを上回ったときに区間が 0 をまたぎます。棄却できないことと区間が 0 を含むことが必ず一致するのは、そのためです。次の3点を取り違えやすくなります。

• 自由度は $n$ でも $n-1$ でもなく $n-2$。推定に使ったのが切片と傾きの2つだから、と数え直せば取り違えずにすみます
• 従う分布は標準正規分布ではなく、自由度 $n-2$ のt分布。分母の標準誤差も標本から推定した量だからです
• 傾きの数値が小さいことは、関係がないことを意味しません。判断の材料は $\hat{b}$ の大きさそのものではなく、標準誤差と比べた比です

説明変数が2つ以上ある場合は、同じ手続きを係数ごとに繰り返します（回帰係数の検定）。ここで扱ったのは説明変数が1つの単回帰、つまり傾き1本に絞った場合で、そのぶん検定と区間推定の対応まで踏み込みました。

コーヒーの生産量と価格を結ぶ傾きを検定し、区間で示す