統計学 学習ノート

はじめに

t分布の表が教えるのは、効果がないときの分布だけ

「帰無仮説が間違っているとき、検定統計量はどんな分布に従うの？」

2級では、t分布、カイ二乗分布、F分布の表を引いて、検定や区間推定の問題を解きました。ところで、あの表が使えるのは、どんな場面だったでしょうか？ 実は、すべて「帰無仮説が正しい」と仮定した場面です。

例えば、新しい肥料に効果があるかを検定するとしましょう。効果がないときに統計量がどう動くかは、t分布の表で分かります。でも、本当に知りたいのは「効果が本当にあるとき、検定はどのくらいの確率で気づいてくれるのか」ですよね。この問いには、t分布の表は答えてくれません。

そこで登場するのが、今回の主役 非心分布 です。非心分布とは、t分布やカイ二乗分布やF分布の中心を、帰無仮説からのズレの分だけ動かした分布です。

前回の記事では、ガンマ分布やベータ分布などの連続型分布を学びました。今回の記事では、その道具を使って3つの分布の性質を導き直し、そのうえで非心分布を解説します。

カイ二乗分布：ガンマ分布の親戚として見直す

軸を回すと、偏差平方和は n-1 個の2乗和になる

はじめに、3つの分布の土台であるカイ二乗分布について解説します。

2級で学んだように、カイ二乗分布 は、互いに独立な標準正規分布の変数を2乗して足した量 $W = Z_1^2 + \dots + Z_k^2$ の分布で、$\chi^2(k)$ と書きました。実は、この分布はガンマ分布の親戚です。

まず $k = 1$ を考えます。$Y = Z^2$ の分布関数は $P(Y \le y) = P(-\sqrt{y} \le Z \le \sqrt{y})$ です。これを $y$ で微分すると、密度は次のようになります。

$$f(y) = \frac{1}{\sqrt{2\pi}}\, y^{-1/2} e^{-y/2} \qquad (y > 0)$$

これは、形状 $1/2$、尺度 $2$（レートで書くと $1/2$）のガンマ分布の密度そのものです。ガンマ分布のモーメント母関数を使うと、$Z^2$ のモーメント母関数は $(1-2t)^{-1/2}$ です。独立な変数の和のモーメント母関数は積になるので、$\chi^2(k)$ については次の結果が得られます。

$$M(t) = (1-2t)^{-k/2} \quad \left(t < \tfrac{1}{2}\right), \qquad f(x) = \frac{x^{k/2-1} e^{-x/2}}{2^{k/2}\,\Gamma(k/2)} \quad (x > 0)$$

つまり、$\chi^2(k)$ は形状 $k/2$、尺度 $2$ のガンマ分布です。ここから、次の性質がすぐに出ます。

【カイ二乗分布の性質】

1. 期待値と分散： $M'(0) = k$、$M''(0) = k(k+2)$ なので、$E[W] = k$、$V[W] = 2k$
2. 再生性： 独立な $\chi^2(a)$ と $\chi^2(b)$ の和は $\chi^2(a+b)$
3. 指数分布との関係： $\chi^2(2)$ は平均2の指数分布

3つ目を確かめてみましょう。$k = 2$ を密度に入れると $f(x) = \frac{1}{2} e^{-x/2}$ となり、平均2の指数分布です。したがって $P(W > 6) = e^{-3} \approx 0.0498$ で、表の $\chi^2_{0.05}(2) = 5.99$ とも合います。

次に、標本分散の話です。正規母集団 $N(\mu, \sigma^2)$ の標本について、不偏分散 $S^2$ は $(n-1)S^2/\sigma^2 \sim \chi^2(n-1)$ を満たすのでした。2級ではこれを認めて使いましたが、準1級では理由まで押さえます。さらに、もう1つ大切な事実があります。

$$\bar{X} \text{ と } S^2 \text{ は互いに独立である}$$

導出の要点は、座標の回転です。例えば、地図を回しても、地点どうしの距離は変わりませんよね。同じように、標本 $(X_1, \dots, X_n)$ を直交行列で回転して $Y_1, \dots, Y_n$ を作ります。このとき、1行目を $(1/\sqrt{n}, \dots, 1/\sqrt{n})$ に選びます。

【導出の3ステップ】

1. 1行目の選び方から $Y_1 = \sqrt{n}\,\bar{X}$ となる
2. 回転で長さは変わらないので、$\sum_i X_i^2 = \sum_i Y_i^2$ となり、$\sum_i (X_i - \bar{X})^2 = Y_2^2 + \dots + Y_n^2$ が成り立つ
3. 多変量正規分布の分散共分散行列 $\sigma^2 I$ は回転で変わらないので、$Y_1, \dots, Y_n$ は独立。$Y_2, \dots, Y_n$ は平均0、分散 $\sigma^2$ の正規分布に従う

$\bar{X}$ は $Y_1$ だけ、$S^2$ は $Y_2, \dots, Y_n$ だけで決まるので、この2つは独立です。さらに、$S^2$ は $n-1$ 個の変数の2乗和なので、自由度が $n-1$ になります。

例題：不偏分散の期待値と分散

$N(\mu, 4)$ から大きさ11の標本をとります。不偏分散 $S^2$ の期待値と分散を求めましょう。

【解き方】

1. $W = 10 S^2 / 4 \sim \chi^2(10)$ なので、$S^2 = 0.4\,W$
2. 期待値： $E[S^2] = 0.4 \times 10 = 4$
3. 分散： $V[S^2] = 0.4^2 \times 2 \times 10 = 3.2$

答えは期待値4、分散3.2です。一般には $V[S^2] = 2\sigma^4/(n-1)$ で、この式は点推定の記事でも使います。

試験のポイント：$\bar{X}$ と $S^2$ の独立性は、正規母集団に特有の性質です。t分布を作るときの「分子と分母が独立」は、ここから来ています。

以上が、カイ二乗分布についての解説です。

t分布とF分布：密度関数とモーメント

カイ二乗、t、F、ベータは親戚のようにつながっている

次に、t分布とF分布の性質を説明します。

t分布 は $T = Z / \sqrt{W/k}$ でした。ここで $Z \sim N(0, 1)$ と $W \sim \chi^2(k)$ は独立です。$W = w$ を固定すると、$T$ は分散 $k/w$ の正規分布に従います。つまり、t分布は「分散が毎回ぶれる正規分布」を混ぜ合わせたものです。物差しの長さが毎回変わるので、裾が厚くなるのでした。これを $w$ について積分すると、次の密度が得られます。

$$f(t) = \frac{\Gamma\!\left(\frac{k+1}{2}\right)}{\sqrt{k\pi}\,\Gamma\!\left(\frac{k}{2}\right)} \left(1 + \frac{t^2}{k}\right)^{-\frac{k+1}{2}}$$

$(1 + t^2/k)$ のべき乗が、裾の厚さの正体です。$|t|$ が大きいとき、密度は指数的ではなく、べき乗でしか減りません。そのため、モーメントは途中までしか存在しません。

【t分布のモーメント】

1. $k = 1$ のとき： コーシー分布で、期待値が存在しない
2. $k > 1$ のとき： $E[T] = 0$
3. $k > 2$ のとき： $V[T] = k/(k-2)$

例えば、自由度10のt分布の分散は $10/8 = 1.25$ で、標準正規分布の1より大きいです。$k \to \infty$ では $(1 + t^2/k)^{-(k+1)/2} \to e^{-t^2/2}$ となり、標準正規分布に近づきます。

F分布 は $F = (W_1/k_1)/(W_2/k_2)$ でした。期待値は、独立性を使うとすぐに求まります。$E[1/W_2] = 1/(k_2 - 2)$ なので、次のようになります。

$$E[F] = E\!\left[\frac{W_1}{k_1}\right] E\!\left[\frac{k_2}{W_2}\right] = \frac{k_2}{k_2 - 2} \quad (k_2 > 2)$$

期待値が第2自由度だけで決まるのが、おもしろいところです。分子の平均はいつも1で、分母のゆらぎだけが効くからです。なお、分散は次の式です。

$$V[F] = \frac{2 k_2^2 (k_1 + k_2 - 2)}{k_1 (k_2 - 2)^2 (k_2 - 4)} \quad (k_2 > 4)$$

最後に、分布どうしの関係をまとめておきましょう。親戚の家系図のようなものです。

【分布どうしの関係】

• $T \sim t(k)$ なら $T^2 \sim F(1, k)$
• $F \sim F(k_1, k_2)$ なら $1/F \sim F(k_2, k_1)$
• $F \sim F(k_1, k_2)$ なら $\dfrac{k_1 F}{k_1 F + k_2} \sim \text{Beta}\!\left(\dfrac{k_1}{2}, \dfrac{k_2}{2}\right)$
• $k_2 \to \infty$ のとき $k_1 F$ は $\chi^2(k_1)$ に近づく

ベータ分布との関係は、尺度の等しい独立なガンマ分布の変数について、$W_1/(W_1 + W_2)$ がベータ分布に従うことから来ています。

例えば、$t_{0.025}(15) = 2.131$ から、$F_{0.05}(1, 15) = 2.131^2 \approx 4.54$ が分かります。$T^2$ が $c$ を超えるのは $|T|$ が $\sqrt{c}$ を超えるときなので、t分布の両側5%点がF分布の上側5%点に対応するのです。片側の2.5%の点を使うところが、間違えやすい点です。

以上が、t分布とF分布についての説明です。

非心カイ二乗分布：的からズレた2乗和

狙いがズレると、距離の2乗の分布は右へ動く

続いて、非心分布の最初の1つを解説します。

ダーツを思い浮かべてください。狙いが的の中心に合っているとき、矢は中心の周りに散らばります。中心からの距離の2乗の分布が、カイ二乗分布です。では、狙いが中心からズレていたらどうでしょうか？ 距離の2乗は全体に大きくなります。これが非心カイ二乗分布です。

非心カイ二乗分布 は、平均が0でない正規分布の変数の2乗和の分布です。$Z_1, \dots, Z_k$ を独立な標準正規分布の変数として、次のように定義します。

$$W' = \sum_{i=1}^{k} (Z_i + \mu_i)^2 \ \sim\ \chi^2(k, \lambda), \qquad \lambda = \sum_{i=1}^{k} \mu_i^2$$

$k$ は自由度、$\lambda$ は 非心度（非心パラメータ）です。$\lambda$ は、狙いが的の中心からどれだけズレているかの2乗にあたります。$\lambda = 0$ なら、ふつうのカイ二乗分布に戻ります。

ここがポイントです。分布は $\mu_1, \dots, \mu_k$ の1つ1つではなく、$\lambda$ だけで決まります。さきほどの回転を使えば、ズレの向きを第1軸にそろえられるからです。的のどの方向にズレていても、距離が同じなら話は同じ、ということです。

期待値と分散を求めてみましょう。1つの項を $(Z + \mu)^2 = Z^2 + 2\mu Z + \mu^2$ と展開します。$E[Z^2] = 1$、$V[Z^2] = 2$、$V[2\mu Z] = 4\mu^2$ で、$Z^2$ と $Z$ の共分散は $E[Z^3] = 0$ です。したがって、期待値は $1 + \mu^2$、分散は $2 + 4\mu^2$ です。これを足し合わせると、次の式になります。

$$E[W'] = k + \lambda, \qquad V[W'] = 2k + 4\lambda$$

また、非心カイ二乗分布には、次の見方もあります。

$$J \sim \text{Po}(\lambda/2) \text{ のとき、} \quad W' \mid J = j \ \sim\ \chi^2(k + 2j)$$

要するに、ポアソン分布に従う数だけ自由度を上乗せしたカイ二乗分布の混合です。また、再生性も同じように成り立ちます。独立な $\chi^2(k_1, \lambda_1)$ と $\chi^2(k_2, \lambda_2)$ の和は $\chi^2(k_1 + k_2, \lambda_1 + \lambda_2)$ です。

補足（ここは読み飛ばしてOK）： 非心度の定義は本によって違い、$\sum_i \mu_i^2$ の半分を $\lambda$ と書く流儀もあります。試験では問題文の定義を確かめましょう。この記事では $\lambda = \sum_i \mu_i^2$ に統一します。

例題：非心カイ二乗分布の期待値と検出力

$X_1, X_2, X_3$ は独立で、分散はすべて1、平均は順に1, 1, 2 です。$W' = X_1^2 + X_2^2 + X_3^2$ の期待値と分散を求めましょう。

【解き方】

1. 自由度は3、非心度は $\lambda = 1 + 1 + 4 = 6$
2. 期待値： $3 + 6 = 9$
3. 分散： $2 \times 3 + 4 \times 6 = 30$

答えは期待値9、分散30です。平均がすべて0なら、期待値は3、分散は6でした。

このとき、$\chi^2_{0.05}(3) = 7.81$ を $W'$ が超える確率を計算すると、約0.518です。平均がすべて0なら0.05だった確率が、ズレによって半分以上まで上がるのです。これが、検定の検出力にあたります。

以上が、非心カイ二乗分布についての解説です。

非心t分布と非心F分布：検出力を計算する道具

棄却域は左の山で決め、検出力は右の山で計算する

最後に、残り2つの非心分布と、その使い道を見ていきましょう。

非心t分布 は、t分布の分子を $\delta$ だけズラした分布です。

$$T' = \frac{Z + \delta}{\sqrt{W/k}} \ \sim\ t(k, \delta)$$

なぜこの形が検定に出てくるのでしょうか？ 母平均が $\mu_0$ かどうかを調べる $t$ 統計量を、真の母平均 $\mu$ を使って書き直してみましょう。

$$T = \frac{\bar{X} - \mu_0}{S/\sqrt{n}} = \frac{\dfrac{\sqrt{n}(\bar{X} - \mu)}{\sigma} + \dfrac{\sqrt{n}(\mu - \mu_0)}{\sigma}}{S/\sigma}$$

分子の第1項は標準正規分布に従います。分母は $\sqrt{W/(n-1)}$ の形で、分子と独立です。したがって、$T$ は次の非心度をもつ、自由度 $n-1$ の非心t分布に従います。

$$\delta = \frac{\sqrt{n}\,(\mu - \mu_0)}{\sigma}$$

$\delta$ は「真のズレが標準誤差何個分か」を表します。$\mu = \mu_0$ なら $\delta = 0$ で、ふつうのt分布に戻ります。ただし、$\delta \ne 0$ のとき、分布は左右対称ではありません。分母の物差しのぶれが、ズレを拡大したり縮小したりするからです。その結果、$\delta > 0$ なら期待値は $\delta$ より少し大きくなります。

非心F分布 は、F分布の分子を非心カイ二乗分布に置き換えた分布です。

$$F' = \frac{W'/k_1}{W_2/k_2} \ \sim\ F(k_1, k_2, \lambda), \qquad E[F'] = \frac{k_2 (k_1 + \lambda)}{k_1 (k_2 - 2)}$$

ここで $W' \sim \chi^2(k_1, \lambda)$ と $W_2 \sim \chi^2(k_2)$ は独立です。$T' \sim t(k, \delta)$ なら $T'^2 \sim F(1, k, \delta^2)$ で、中心のときと同じ関係が成り立ちます。

使い道は、分散分析の検出力です。水準数 $a$、各水準 $r$ 回の1元配置では、$F$ 比は自由度 $(a-1,\ a(r-1))$ の非心F分布に従います。非心度は次のとおりです。

$$\lambda = \frac{r \sum_{i=1}^{a} (\mu_i - \bar{\mu})^2}{\sigma^2}$$

ここまでを、中心の分布と並べて整理しましょう。

検定	$H_0$ が正しいとき	$H_0$ が誤りのとき	非心度
母平均の $t$ 検定	$t(n-1)$	$t(n-1, \delta)$	$\sqrt{n}(\mu - \mu_0)/\sigma$
$\sigma$ 既知の $Z^2$（両側 $z$ 検定）	$\chi^2(1)$	$\chi^2(1, \lambda)$	$n(\mu - \mu_0)^2/\sigma^2$
1元配置の $F$ 検定	$F(a-1, a(r-1))$	$F(a-1, a(r-1), \lambda)$	$r\sum_i (\mu_i - \bar{\mu})^2/\sigma^2$

裁判に例えると、左の列は「被告が無罪のときの証拠の出方」で、右の列は「本当に有罪のときの証拠の出方」です。棄却域は左の列で決め、検出力は右の列で計算します。

例題：t検定の検出力

$H_0: \mu = \mu_0$ を、有意水準5%の両側 $t$ 検定で調べます。$n = 16$ で、真の母平均は $\mu_0$ より $0.5\sigma$ だけ大きいとします。検定統計量の分布と検出力を答えましょう。

【解き方】

1. 自由度は15、非心度は $\delta = \sqrt{16} \times 0.5 = 2$
2. 棄却域は $|T| > t_{0.025}(15) = 2.131$
3. 検出力は $P(|T'| > 2.131)$ で、$T' \sim t(15, 2)$ から計算すると約0.465

答えは約0.465です。$\sigma$ が既知の $z$ 検定なら約0.516なので、$\sigma$ を推定する分だけ検出力が下がることが分かります。非心分布の確率は手計算ではなく、ソフトウェアで求めるものです。試験では、非心度と自由度を正しく書けることが大切です。

せっかくなので、別の例も見てみましょう。3つの肥料の真の収量の平均が10, 12, 14、誤差の標準偏差が2で、各水準5回ずつの実験をします。このとき $\bar{\mu} = 12$ なので、$\lambda = 5 \times (4 + 0 + 4) \div 4 = 10$ です。自由度は $(2, 12)$ で、$F_{0.05}(2, 12) = 3.89$ を超える確率を計算すると、検出力は約0.70です。期待値は $12 \times 12 \div (2 \times 10) = 7.2$ で、差がないときの $12 \div 10 = 1.2$ から大きく右へ動いています。

試験のポイント：非心度は「真のズレを標準誤差で測った量」です。$n$ が増えると非心度が大きくなるので、検出力が上がります。

以上が、非心t分布と非心F分布についての解説です。

細かい密度の式を忘れてしまっても問題ありません。ここでは、「$H_0$ が誤りのとき、統計量は非心分布に従い、非心度が検出力を決める」という点だけ押さえておきましょう。

今回のまとめ

2枚の地図がそろって、検定の性能を計算できる

それでは、今回の内容を振り返ります。

今回は、t分布、カイ二乗分布、F分布を導き直し、その中心を動かした非心分布について紹介しました。ふつうの3つの分布は「帰無仮説が正しいときの地図」で、非心分布は「帰無仮説が誤りのときの地図」です。2枚の地図がそろって、初めて検定の性能を計算できます。

今回のポイントを振り返りましょう。

振り返り

• カイ二乗分布は形状 $k/2$、尺度2のガンマ分布で、期待値 $k$、分散 $2k$、再生性をもつ。
• 正規母集団では、回転の議論から $\bar{X}$ と $S^2$ が独立になり、自由度は $n-1$ になる。
• t分布の分散は $k/(k-2)$、F分布の期待値は $k_2/(k_2-2)$。$t(k)^2$ は $F(1, k)$ に従う。
• 非心カイ二乗分布は的からズレたダーツ。期待値は $k + \lambda$、分散は $2k + 4\lambda$。
• 非心t分布、非心F分布は、検定の検出力を計算する道具になる。

キーワードのおさらい

• カイ二乗分布: 独立な標準正規分布の変数の2乗和の分布。ガンマ分布の特別な場合
• t分布: 標準正規分布の変数を、$\sqrt{W/k}$ で割った量の分布
• F分布: 自由度で割った2つのカイ二乗分布の変数の比の分布
• 非心分布: 中心の分布の変数に平均のズレを加えて作る分布。非心カイ二乗、非心t、非心F がある
• 非心度: 帰無仮説からのズレの大きさを表す母数

さて、ここまでは標本全体から作った量の分布を見てきました。でも、データ全部を持ち歩かなくても、合計や最大値だけで足りることはないでしょうか？

次回は、データの情報を失わない要約である「十分統計量」と、並べ替えて見る「順序統計量」について紹介します。

それでは、次の記事へ進んでいきましょう。