統計学 学習ノート

はじめに

2級の手順の下に、それを支える分布の理屈がある

「$t$ 検定なら2級でやったのに、また同じことをするの？」

確かに、2級では母平均・母分散の検定を、手順どおりに計算できるようになりました。でも、次の質問にはどう答えますか？ なぜ $t$ 統計量は、分からないはずの $\sigma$ を使わずに計算できるのでしょうか？ $t$ 検定の検出力は、どう計算するのでしょうか？ 母相関係数が0.5かどうかは、どう検定するのでしょうか？

実は、2級の検定は「計算の手順」でした。準1級で問われるのは、その手順を支える「分布の理屈」です。理屈が分かると、見たことのない問題でも検定を組み立てられるようになります。

そこで登場するのが、今回の主役 正規分布に関する検定 です。母平均、母分散、2標本問題、母相関係数の4つを、導出と検出力まで含めて整理します。

前回の記事では、最強力検定とワルド型・スコア検定の作り方を学びました。今回の記事では、データが正規分布に従うときに、標本が小さくても使える正確な検定について解説します。

母平均の検定：σを消す仕組み

比をとると単位が消えるように、tではσが打ち消し合う

はじめに、母平均 の検定について解説します。

2級で学んだとおり、$X_1, \ldots, X_n$ が $N(\mu, \sigma^2)$ に従うとき、$H_0: \mu = \mu_0$ の検定統計量は、$\sigma^2$ が既知なら $z$、未知なら $t$ でした。前回の記事で見たように、$\sigma^2$ が既知なら、片側の $z$ 検定は一様最強力検定です。

問題は、$\sigma^2$ が未知のときです。$H_0$ は $\mu$ しか指定していません。$\sigma^2$ はどんな値でもよいので、帰無仮説は実は複合仮説です。このように、興味はないのに式に残ってしまうパラメータを 局外パラメータ と呼びます。

局外パラメータは、検定の邪魔者です。$\sigma$ の値が分からないと、棄却域の境目が決まらないからです。そこで、$\sigma$ が式から消える統計量を作ります。

標本分布の記事で学んだ3つの事実を組み合わせましょう。

【tを作る3つの部品】

1. $\sqrt{n}(\bar{X} - \mu_0) / \sigma$ は、$H_0$ のもとで $N(0, 1)$ に従う
2. $(n-1)S^2 / \sigma^2$ は、自由度 $n-1$ のカイ二乗分布に従う
3. $\bar{X}$ と $S^2$ は独立である

標準正規分布の確率変数を、「カイ二乗分布の確率変数を自由度で割った値」の平方根で割ると、t分布になります。ここでは、部品1を部品2で作った値で割ります。独立性は部品3が保証します。

$$T = \frac{\sqrt{n}(\bar{X} - \mu_0)/\sigma}{\sqrt{\dfrac{(n-1)S^2/\sigma^2}{n-1}}} = \frac{\bar{X} - \mu_0}{S/\sqrt{n}}$$

ここがポイントです。分子の $\sigma$ と分母の $\sigma$ が、きれいに打ち消し合います。2人の身長の比は、cmで測ってもインチで測っても同じですよね。$\sigma$ は物差しの単位のようなもので、比をとると結果に効かなくなるのです。こうして、$\sigma$ が未知でも分布が確定します。これが自由度 $n-1$ のt分布です。

例題：内容量の検定（導出を確かめる）

ジュース16本の内容量を測ると、平均204.8mL、標準偏差（不偏分散の平方根）8mLでした。母平均は200mLかを、有意水準5%で検定しましょう。$t_{0.025}(15) = 2.131$ です。

【解き方】

1. 仮説を立てる： $H_0: \mu = 200$、$H_1: \mu \neq 200$
2. 検定統計量を計算する： $t = (204.8 - 200) \div (8 \div 4) = 2.40$
3. 2.40 > 2.131 なので、$H_0$ を棄却する

答えは「有意水準5%で、母平均は200mLではないと言える」です。p値は0.030です。

t検定の検出力：非心t分布

では、$H_0$ が間違っているとき、$T$ はどんな分布に従うのでしょうか？ 分子の平均が0からずれるので、$T$ は普通のt分布になりません。

$\mu = \mu_1$ のとき、$T$ は自由度 $n-1$、非心度 $\delta$ の 非心t分布 に従います。

$$\delta = \frac{\sqrt{n}(\mu_1 - \mu_0)}{\sigma}$$

言葉で言うと、非心度は「本当の差が、標準誤差の何本分か」です。これが大きいほど、$T$ の分布は棄却域のほうへ押し出され、検出力が上がります。

具体的に見てみましょう。差の大きさが標準偏差の半分、つまり $(\mu_1 - \mu_0) / \sigma = 0.5$ のとき、$n = 16$ の片側5%検定の検出力を求めます。

【検出力の計算】

1. 棄却の境目： $t_{0.05}(15) = 1.753$
2. 非心度： $\delta = \sqrt{16} \times 0.5 = 2$
3. 検出力： 自由度15、非心度2の非心t分布で1.753を超える確率で、0.604

$\sigma$ が既知の $z$ 検定なら0.639になります。$\sigma$ を推定する分だけ、検出力が少し下がるのです。$n = 27$ まで増やすと、検出力は0.81に届きます。

試験のポイント：分散未知の検定の検出力は、対立仮説のもとの非心t分布で考えます。標本が大きければ、正規分布で近似してかまいません。

以上が、母平均の検定についての解説です。

母分散の検定：外れやすい検定

t検定は悪路も走れるが、分散の検定は舗装路だけ

次に、母分散に関する検定 について説明します。

$H_0: \sigma^2 = \sigma_0^2$ の検定には、2級で学んだ次の統計量を使います。

$$\chi^2 = \frac{(n-1)S^2}{\sigma_0^2}$$

$H_0$ のもとで、これは自由度 $n-1$ のカイ二乗分布に従います。平均 $\mu$ が未知でも問題ありません。$S^2$ は $\bar{X}$ からの偏差で作るので、$\mu$ が式に入らないからです。

この検定の検出力は、非心分布を使わずに計算できます。ここが母平均の検定との違いです。

$\sigma^2$ の本当の値が $\sigma_1^2$ なら、$(n-1)S^2 / \sigma_1^2$ が普通のカイ二乗分布に従います。したがって、棄却の境目を $\sigma_0^2 / \sigma_1^2$ 倍するだけです。物差しの目盛りを付け替えるだけ、というイメージです。

例題：ばらつきの検定と検出力

機械の部品の長さの分散は9以下が基準です。21個を調べると、不偏分散は14.4でした。分散が基準より大きいかを、有意水準5%で検定しましょう。また、本当の分散が18のときの検出力を求めましょう。$\chi^2_{0.05}(20) = 31.41$ です。

【解き方】

1. 仮説を立てる： $H_0: \sigma^2 = 9$、$H_1: \sigma^2 > 9$
2. 検定統計量を計算する： $\chi^2 = 20 \times 14.4 \div 9 = 32.0$
3. 32.0 > 31.41 なので、$H_0$ を棄却する
4. 検出力は、棄却の条件 $20S^2 / 9 > 31.41$ を書き直す： $20S^2 / 18 > 31.41 \div 2 = 15.71$
5. 自由度20のカイ二乗分布で15.71を超える確率は0.735

答えは「分散は基準より大きいと言える。分散が18のときの検出力は約0.73」です。

正規性への弱さ

ただし、母分散の検定には大きな弱点があります。母集団が正規分布でないと、有意水準が大きく狂います。 なぜでしょうか？

母平均の $t$ 検定は、正規分布から少し外れても、中心極限定理のおかげで大きく崩れません。一方、$S^2$ の分散は、大標本で次のようになります。

$$V(S^2) \approx \sigma^4\left(\frac{2}{n-1} + \frac{\kappa}{n}\right)$$

$\kappa$ は分布の尖度（正規分布を0とした値）です。正規分布なら $\kappa = 0$ で、カイ二乗分布の分散に一致します。裾の重い分布では $\kappa > 0$ なので、$S^2$ は検定の想定より大きく揺れます。$n$ を増やしても、このズレは消えません。

要するに、$t$ 検定は多少の悪路でも走れる車で、分散の検定は舗装路でしか走れない車です。

試験のポイント：平均の検定は正規性からのずれに比較的強く、分散の検定は弱いです。分散の検定や分散の比の検定を使うときは、正規性を確認します。

以上が、母分散の検定についての説明です。

2標本問題：等分散とウェルチの理屈

分散が違うとσが消えないので、ウェルチは近似で解く

続いて、2標本問題に関する検定 について解説します。

2級で学んだ計算の手順は、次の3つでした。

【2標本問題の検定】

• 分散の比の検定： $F = S_1^2 / S_2^2$ を自由度 $(m-1, n-1)$ のF分布と比べる
• 等分散の $t$ 検定： プールした分散を使い、自由度 $m+n-2$ のt分布と比べる
• ウェルチの検定： それぞれの不偏分散を使い、自由度を近似で求める

ここでは、理屈の部分を掘り下げます。

1. なぜウェルチの検定は近似なのか

$\sigma_1^2 \neq \sigma_2^2$ のとき、次の統計量を考えます。

$$T = \frac{\bar{X} - \bar{Y}}{\sqrt{S_1^2/m + S_2^2/n}}$$

分母の中身は、2つの独立なカイ二乗分布の確率変数の、重みの違う和 です。重みが $\sigma_1^2 / \sigma_2^2$ に依存するので、$\sigma$ が式から消えません。母平均の検定のような打ち消し合いが起きないのです。これは ベーレンス・フィッシャー問題 と呼ばれ、正確な解がありません。

そこで、分母の中身を「ちょうどよい自由度 $\nu$ のカイ二乗分布の定数倍」で近似します。平均と分散が一致するように $\nu$ を決めます。$V(S_1^2) = 2\sigma_1^4 / (m-1)$ を使うと、次の式が出てきます。

$$\nu = \frac{(s_1^2/m + s_2^2/n)^2}{\dfrac{(s_1^2/m)^2}{m-1} + \dfrac{(s_2^2/n)^2}{n-1}}$$

これが2級で使ったウェルチの自由度です。天下り式に見えた式の正体は、モーメントのつじつま合わせだったのです。

例題：2つの工場の比較

A工場の製品10個は、平均58、不偏分散36でした。B工場の製品16個は、平均53、不偏分散9でした。分散の比と平均の差を、有意水準5%で検定しましょう。$F_{0.025}(9, 15) = 3.12$、$t_{0.025}(11) = 2.201$ です。

【解き方】

1. 分散の比： $F = 36 \div 9 = 4.00$。3.12より大きいので、等分散とは言えない
2. 標準誤差： $\sqrt{36 \div 10 + 9 \div 16} = \sqrt{4.1625} = 2.04$
3. ウェルチの $t$： $t = (58 - 53) \div 2.04 = 2.45$
4. 自由度： $\nu = 4.1625^2 \div (3.6^2 \div 9 + 0.5625^2 \div 15) = 11.9$ なので、切り捨てて11とする
5. 2.45 > 2.201 なので、平均に差があると判断する

答えは「分散も平均も、等しいとは言えない」です。

なお、「まずF検定をして、結果しだいで $t$ 検定を切り替える」という2段階の手順は、全体の有意水準が名目どおりになりません。そのため、最初からウェルチの検定を使う立場も広まっています。

2. 対応のある場合の利点

同じ人の前後のように、対応のあるデータは差 $D_i = X_i - Y_i$ の1標本の $t$ 検定にします。なぜ、これが有利なのでしょうか？ 差の分散を見ると分かります。

$$V(D) = \sigma_1^2 + \sigma_2^2 - 2\rho\sigma_1\sigma_2$$

例えば、$\sigma_1 = \sigma_2 = 10$、前後の相関が $\rho = 0.8$ なら、$V(D) = 100 + 100 - 160 = 40$ です。独立な2群なら200なので、分散が5分の1になります。個人差という共通のノイズが、引き算で消えるからです。

ただし、自由度は $n-1$ に減ります。相関が弱いなら、検出力はかえって下がることもあります。

以上が、2標本問題についての解説です。

母相関係数の検定：フィッシャーのz変換

z変換で天井を外す。rに戻すと区間は0.7に非対称

最後に、母相関係数に関する検定 を見ていきましょう。

$(X, Y)$ が2変量正規分布に従うとき、標本相関係数 $r$ から母相関係数 $\rho$ を調べます。$H_0$ の値が0かどうかで、方法が分かれます。

1. ρ = 0 の検定

$H_0: \rho = 0$ には、次の統計量を使います。

$$t = \frac{r\sqrt{n-2}}{\sqrt{1-r^2}}$$

$H_0$ のもとで、$t$ は自由度 $n-2$ のt分布に従います。

この式は、単回帰の傾きの検定から導けます。傾きは $b = r\sqrt{S_{yy}/S_{xx}}$、残差変動は $S_e = (1-r^2)S_{yy}$ でした。これらを $t = b \sqrt{S_{xx}} / \sqrt{S_e/(n-2)}$ に代入すると、$S_{xx}$ と $S_{yy}$ が消えて上の式になります。つまり、「相関が0」と「傾きが0」は、同じことを調べています。

例えば、27人のデータで $r = 0.4$ なら、$t = 0.4 \times 5 \div \sqrt{0.84} = 2.18$ です。$t_{0.025}(25) = 2.060$ より大きいので、棄却します。

$n = 27$ では、$|r|$ が0.381を超えると有意になります。人数が多いと、弱い相関でも有意になる点に注意しましょう。有意であることと、相関が強いことは別の話です。

2. ρ = ρ₀ の検定

$\rho \neq 0$ のとき、$r$ の分布は歪み、分散も $\rho$ に左右されます。$\rho$ が1に近いと、$r$ は1の手前で押しつぶされるからです。天井の低い部屋で跳ぶと、上には跳べず下にだけ動けるようなものです。

そこで、天井を取り払う変換を使います。これが フィッシャーの $z$ 変換 です。

$$z = \frac{1}{2}\log\frac{1+r}{1-r}$$

$r$ が−1から1へ動くと、$z$ は $-\infty$ から $\infty$ まで動きます。そして、$n$ が大きいとき、次の近似が成り立ちます。

$$z \approx N\!\left(\frac{1}{2}\log\frac{1+\rho}{1-\rho},\ \frac{1}{n-3}\right)$$

分散に $\rho$ が入っていないのがポイントです。これはデルタ法の結果です。$V(r) \approx (1-\rho^2)^2 / n$ で、変換の微分は $1 / (1-\rho^2)$ なので、掛けると $\rho$ が消えて $1/n$ になります。分母を $n-3$ にするのは、近似をよくするための調整です。

例題：相関係数の検定と信頼区間

28人のデータで $r = 0.7$ でした。$H_0: \rho = 0.5$ を有意水準5%で検定し、$\rho$ の95%信頼区間を求めましょう。

【解き方】

1. 変換する： $r = 0.7$ は $z = 0.867$、$\rho_0 = 0.5$ は $\zeta_0 = 0.549$
2. 標準化する： $Z = (0.867 - 0.549) \times \sqrt{25} = 1.59$
3. $|Z| < 1.96$ なので、$H_0$ を棄却しない
4. $z$ の信頼区間を求める： $0.867 \pm 1.96 \div 5$ より、0.475〜1.259
5. $r$ の目盛りに戻す： $\tanh$ で変換して、0.44〜0.85

答えは「$\rho = 0.5$ は否定できず、95%信頼区間は0.44〜0.85」です。区間が0.7について左右非対称なのは、天井の近くにいるからです。

2つの母相関係数の比較も同じです。独立な標本で $z_1$、$z_2$ を求めて、次の $Z$ を標準正規分布と比べます。

$$Z = \frac{z_1 - z_2}{\sqrt{\dfrac{1}{n_1 - 3} + \dfrac{1}{n_2 - 3}}}$$

例えば、$n_1 = 53$ で $r_1 = 0.7$、$n_2 = 43$ で $r_2 = 0.5$ なら、$Z = (0.867 - 0.549) \div 0.212 = 1.50$ で、差があるとは言えません。

試験のポイント：$\rho = 0$ の検定は t分布、$\rho = \rho_0\ (\neq 0)$ の検定は $z$ 変換と正規分布です。分散は $1/(n-3)$ で、$1/n$ ではありません。

以上が、母相関係数の検定についての説明です。

細かい導出が分からなかったとしても問題ありません。ここでは、「局外パラメータを消す統計量を作る」「対立仮説のもとの分布から検出力を求める」という点だけ押さえておきましょう。

今回のまとめ

σを消す、ずれた分布で検出力、z変換で天井を外す

それでは、今回の内容を振り返ります。

今回は正規分布に関する検定を、導出と検出力まで含めて紹介しました。どの検定も、「邪魔な $\sigma$ を消す」「分布を確定させる」という同じ発想でできています。式を丸暗記するより、この発想を押さえるほうが、応用が利きます。

今回のポイントを振り返りましょう。

振り返り

• $t$ 統計量は、分子と分母の $\sigma$ が打ち消し合うので、局外パラメータがあっても分布が確定する。
• $t$ 検定の検出力は非心t分布で求める。非心度は「本当の差が標準誤差の何本分か」。
• 分散の検定の検出力は、境目を $\sigma_0^2 / \sigma_1^2$ 倍するだけ。ただし正規性からのずれに弱い。
• ウェルチの自由度は、モーメントを合わせる近似から出てくる。対応があるなら差をとる。
• $\rho = 0$ は t分布、$\rho = \rho_0$ はフィッシャーの $z$ 変換で検定する。

キーワードのおさらい

• 母平均、母分散に関する検定: $t$ 統計量とカイ二乗統計量を使う、正規母集団の検定
• 局外パラメータ: 興味の対象ではないが、分布に含まれるパラメータ
• 非心t分布: 対立仮説のもとで $t$ 統計量が従う分布
• 2標本問題に関する検定: 2つの母集団の平均や分散を比べる検定
• ベーレンス・フィッシャー問題: 分散の異なる2標本の平均の比較に、正確な解がないという問題
• 母相関係数に関する検定: $\rho = 0$ を t分布で、$\rho = \rho_0$ を $z$ 変換で調べる検定
• フィッシャーの $z$ 変換: $r$ の分布を正規分布に近づけ、分散を安定させる変換

さて、ここまでは正規分布という舗装路の話でした。でも、当たりの回数や1日の事故の件数は、正規分布には従いません。

次回は、二項分布やポアソン分布の検定と、どんな分布にも使える尤度比検定を扱う「一般の分布に関する検定法」について紹介します。

それでは、次の記事へ進んでいきましょう。