重回帰の出力を渡されて、左端の Estimate から読む人はまずいません。多くの人はまず、右に並ぶ 値へ目を走らせます。係数が 0.39 と出ても、それだけで の説明に役立つとは即断できません。標本を取り替えれば係数の値も動くので、本当は 0 なのに標本の揺れでずれただけ、という説明もつくからです。右の列はこの点に答えます。係数1つずつ行うこの見極めを回帰係数の検定といいます。
母集団での 番目の係数（偏回帰係数）を 、標本から求めた推定値を と書き分けます。帰無仮説 は、他の説明変数を一定にした条件付き平均に、このモデルで表す 番目の変数の線形な寄与がないという主張です。非線形な関係や分散の変化まで含めて「無関係」とする仮説ではありません。 が 0 からどれだけ離れているかを 標準誤差 何個ぶんかに直して、起こりにくさを測ります。
次の有限標本のt検定とF検定では、条件付き平均が説明変数の線形な和で表され、誤差が互いに独立で、平均 0・共通の分散を持つ正規分布に従い、説明変数に完全な線形関係がないことを仮定します。条件から外れるときは残差を診断し、異分散や時系列・集団内の依存に応じてロバスト標準誤差やクラスタ対応の方法を選びます。
この が答えるのは係数1つずつの問いです。上の仮定のもとで、説明変数のどれか1つでも線形な寄与を持つかというモデル全体の問いには 分散分析表 の 値を使い、帰無仮説は「係数がすべて 0」になります。重回帰では回帰の自由度が説明変数の個数 なので、比べる相手は自由度 の F分布 です。問いが違うので、 と個々の で結論が食い違うことも起こります。
上の仮定を満たす古典的な重回帰では、自由度は です。切片を含めて 個の係数を推定したぶんだけ、データの組数から引きます。単回帰の場合（回帰直線の傾きの推定と検定）は にあたり、自由度 がこれと一致します。次の表は、47の県庁所在市の1か月の消費支出（万円）を定期収入と賞与で説明した出力です。
| Estimate | Std. Error | t value | Pr(>|t|) | |
|---|---|---|---|---|
| (Intercept)（切片） | 14.58851 | 2.49814 | 5.840 | 5.80e-07 |
| income（定期収入） | 0.39461 | 0.08944 | 4.412 | 6.54e-05 |
| bonus（賞与） | 0.47247 | 0.24370 | 1.939 | 0.059 |
Estimate が係数の推定値、Std. Error がその標準誤差、t value は左の2列の割り算、Pr(>|t|) は対応する両側の p値 です（6.54e-05 は ）。定期収入なら です。自由度44の上側2.5%点は約 2.02 ですから、定期収入だけが棄却できます。賞与は 1.939、 は 0.059 とわずかに 5% を上回りますが、関係がないと読んではいけません。棄却できなかった場合は判断の保留です。標本が小さいと、関係があっても届かないためです（検出力）。
重回帰モデル では、家賃が大きさと築年数でぴったり決まる作り物のデータを見ました。今度は実際に集めたデータの出力です。単位は畳から に変わり、残差も 0 にはなりません。賃貸マンションの家賃 （千円）を、部屋の大きさ（）と築年数（年）で説明した重回帰の、係数の部分を抜き出します。
| Estimate | Std. Error | t value | |
|---|---|---|---|
| 大きさ | 2.83278 | 0.09214 | 30.744 |
| 築年数 | −1.18052 | 0.12946 | −9.119 |
出力の下部には Residual standard error: 9.904 on 185 degrees of freedom と添えられていました。前半は残差の大きさで、予測が実際の家賃から標準的に 9.9 千円ほどずれるという見当を与えます。後半の 185 が残差の自由度です。説明変数は2個ですから 件のデータから推定されたことが、この1行だけで分かります。
t value の列は自分で確かめられます。大きさは 、築年数は 。自由度185のt分布では上側2.5%点が約 1.97 なので、どちらも桁違いに大きく、有意水準1%でも棄却されます。
自由度が数十以上あればt分布は 標準正規分布 とほぼ重なるため、 がおよそ 2 を超えているかどうかが、5%で棄却できるかどうかの目安になります。本文で見た賞与の 1.939 は、この目安の少し手前で止まっていたわけです。
推定値そのものも読んでおきます。築年数が同じ部屋どうしで比べると、大きさが 1 広い部屋の家賃は約 2.8 千円高いと予測されます。逆に大きさが同じ部屋どうしなら、築年数が1年古いごとに家賃は約 1.2 千円安い、という読み方になります。符号と大きさを語るのはこのように推定値のほうで、検定が答えるのは、その推定値を標本の揺れだけで説明しきれるかどうかです。
説明変数を3個もつ重回帰モデルを、20組のデータから推定しました。各回帰係数の検定に使う t 分布の自由度はどれですか。
残差の自由度が 40 の重回帰の出力に、説明変数 A の t value が 、説明変数 B の t value が 1.4 と並んでいました。自由度40のt分布の上側2.5%点を 2.02 として、有意水準5%・両側で各係数を検定した結果はどれですか。
有意水準 5% で回帰係数の検定を行ったところ、ある説明変数の p 値が 0.059 でした。この結果の読み方として最も適切なものはどれですか。
重回帰モデルについて、説明変数のどれか1つでも被説明変数の説明に役立っているかを調べたいとします。用いる検定として最も適切なものはどれですか。