2つの確率変数を足したら、平均と散らばりはどうなるでしょうか。各期待値が有限に存在するなら、和の期待値はそれぞれの期待値の和になります。独立性は必要ありません。
E(X+Y)=E(X)+E(Y) ところが分散はそうはいきません。2つの変数が連動していれば、片方が大きいときもう片方も大きくなり、和のぶれは単純な足し算より大きくなります。その連動ぶんを持ち込むのが 共分散 です。
V(X+Y)=V(X)+V(Y)+2Cov(X,Y),V(X−Y)=V(X)+V(Y)−2Cov(X,Y) Cov(X,Y):X と Y の共分散。連動のぐあいを表す X と Y が 独立 であれば共分散は 0 なので、この項は消えます。すると和でも差でも V(X)+V(Y) で、どちらも足し算になります。
ここで、差をとったのだから分散も引き算だ、と考えたくなりますが誤りです。−Y の分散は (−1)2V(Y)=V(Y) で、符号を変えても散らばりは変わりません。引き算をしたぶんだけ不確かさが減る、ということは起こらず、むしろ2つぶんの誤差が重なります。
背景にあるのは同時分布です。一般にXとYが独立とは、すべての実数x, yについて P(X≤x,Y≤y)=P(X≤x)P(Y≤y) と分解できることです。離散型では各点で P(X=x,Y=y)=P(X=x)P(Y=y)、連続型で同時密度がある場合は密度の積への分解で判定できます。
定数倍と定数の足し算については、次のように振る舞います。V(aX+b)=a2V(X)。平行移動 b は散らばりを変えず、a 倍に拡大すると分散は a2 倍になります。これを組み合わせれば、たいていの線形な組合せの分散は計算できます。
差をとっても誤差は重なる
ある家庭の電気料金は、去年ぶんも今年ぶんも平均・標準偏差がともに 5002 円の 正規分布 に従い、互いに独立だとします。2年ぶんの差が800円以上になる確率を求めてみます。
差 X−Y の期待値は 5002−5002=0。分散は独立なので足して (5002)2+(5002)2=500000+500000=1000000、標準偏差は 1000000=1000 円です。
1年ぶんの標準偏差が約707円だったのに対し、差の標準偏差は1000円まで広がりました。差をとると振れ幅が小さくなりそうに思えますが、実際には 2 倍に広がっています。あとは標準化して Z=1000800−0=0.8、表から P(Z≥0.8)=0.212 です。
連動していれば分散は変わる
今度は独立でない場合を見ます。V(X)=4、V(Y)=9 として、共分散が 0 のとき・正のとき・負のときで和の分散を並べます。
| Cov(X, Y) | V(X+Y) | V(X−Y) |
|---|
| 0(独立など) | 13 | 13 |
|---|
| +3 | 19 | 7 |
|---|
| −3 | 7 | 19 |
|---|
共分散が正、つまり一緒に大きくなる関係なら、4+9+2×3=19 と和のぶれは大きくなります。いっぽう差をとれば連動ぶんが相殺されて 4+9−2×3=7 まで縮みます。共分散が負なら、この大小がそっくり入れ替わります。
つまり「差をとると誤差が重なる」のは独立な場合の話で、連動している2つの差はむしろ安定します。同じ人を2回測った値の差が扱いやすいのはこのためです。