統計学 学習ノート

はじめに

平均2.5件の工場で7件。これはたまたまなのか

「先月の事故は7件。平均は2.5件なのに、これはたまたま？」

工場の安全担当の人が、こんなふうに頭を悩ませているとします。事故の件数は0, 1, 2, ……という整数で、正規分布の滑らかな山とは形が違います。2.5件を中心に、$t$ 検定をすればよいのでしょうか？

実は、件数や回数のデータには、それぞれの分布に合った検定があります。さらに、どんな分布でも機械的に検定を作れる、万能の道具もあります。

そこで登場するのが、今回の主役 尤度比検定 です。前々回の記事で「山頂と基準の高さの差を測る検定」として予告した、あの検定です。あわせて、二項分布・ポアソン分布の検定、パラメータを推定するときの 適合度検定、2×2の表で使う イエーツの補正 も整理します。

前回の記事では、正規分布に関する検定を学びました。今回の記事では、正規分布以外のデータを検定する方法について解説します。

二項分布、ポアソン分布など基本的な分布に関する検定

二項分布の確率をそのまま足すのが正確検定

はじめに、二項分布、ポアソン分布など基本的な分布に関する検定について解説します。

結論を一言で言うと、やり方は2つです。分布の確率をそのまま足す正確検定 と、正規分布で近似する方法 です。

1. 二項分布の検定

$X$ が二項分布 $B(n, p)$ に従うとき、$H_0: p = p_0$ を考えます。統計量 $X$ の分布が分かっているので、p値は確率を足し上げるだけで求まります。観測値が $x$ で、上側の片側検定なら次の式です。

$$\text{p値} = P(X \geq x) = \sum_{k=x}^{n} \binom{n}{k} p_0^{k}(1-p_0)^{n-k}$$

具体的に見てみましょう。当たりの確率が30%とされるくじを20回引くと、11回当たりました。確率は30%より高いのでしょうか？

【3つの計算の比較】

• 正確検定： $P(X \geq 11) = 0.0171$
• 正規近似： $z = (11 - 6) \div \sqrt{4.2} = 2.44$ より、p値は0.0073
• 連続修正つき： $z = (10.5 - 6) \div \sqrt{4.2} = 2.20$ より、p値は0.0141

正規近似はp値を半分以下に見積もっています。極限定理の記事で学んだ連続修正を入れると、正確な値にぐっと近づきます。階段の高さを、滑らかな坂で測るときの調整です。$n$ が小さいときは正確検定を使い、$n p_0$ と $n(1-p_0)$ がどちらも十分大きいときに正規近似を使います。

両側検定では、p値の決め方が2通りあります。片側のp値を2倍する方法と、「観測値以下の確率しか持たない $k$ の確率をすべて足す」方法です。分布が左右対称でないと、2つの値は一致しません。この例では、0.0343と0.0248です。

2. ポアソン分布の検定

冒頭の事故の例に戻りましょう。月の事故件数 $X$ が平均 $\lambda$ のポアソン分布に従うとして、$H_0: \lambda = 2.5$ を考えます。7件以上になる確率は、次のように求まります。

$$P(X \geq 7) = 1 - \sum_{k=0}^{6} \frac{e^{-2.5} \, 2.5^{k}}{k!} = 0.0142$$

有意水準5%の片側検定なら棄却です。「たまたま」で片付けるには珍しすぎる、という判断です。

データが複数あるときは、ポアソン分布の再生性が役に立ちます。独立なポアソン分布の和は、またポアソン分布です。例えば、1日平均4件とされるクレームが、30日で145件でした。合計は $H_0$ のもとでポアソン分布 $Po(120)$ に従います。平均が大きいので、正規近似を使います。

$$z = \frac{145 - 120}{\sqrt{120}} = 2.28$$

ポアソン分布では平均と分散が等しいので、分母は $\sqrt{120}$ です。1.96を超えるので、有意水準5%の両側検定で棄却します。

3. 2つのポアソン分布の比較

せっかくなので、2つの比較も見てみましょう。同じ期間に、A店で30件、B店で15件の苦情がありました。発生率に差はあるのでしょうか？

$X_1$、$X_2$ が独立に $Po(\lambda_1)$、$Po(\lambda_2)$ に従うとします。$V(X_1 - X_2) = \lambda_1 + \lambda_2$ を $x_1 + x_2$ で推定すると、次の統計量が作れます。

$$z = \frac{x_1 - x_2}{\sqrt{x_1 + x_2}} = \frac{15}{\sqrt{45}} = 2.24$$

1.96を超えるので、差があると判断します。

もっときれいな方法もあります。合計 $x_1 + x_2 = 45$ を固定すると、$H_0: \lambda_1 = \lambda_2$ のもとで、$X_1$ は二項分布 $B(45, 0.5)$ に従います。45件の苦情が、コイン投げで2店に振り分けられたと考えるのです。これで正確検定ができて、両側のp値は0.036です。

試験のポイント：ポアソン分布の検定は「平均 = 分散」を使います。分母に別の分散を推定して入れないように注意します。

以上が、基本的な分布に関する検定についての解説です。

尤度比検定：高さの差を測る

尤度比検定は、山頂と基準の高さの差を測る

次に、尤度比検定について説明します。

ネイマン・ピアソンの基本定理は、単純仮説どうしの比較でした。これを、複合仮説にそのまま広げたのが 尤度比検定 です。

考え方はとても素直です。$H_0$ の中で最もうまくデータを説明できたときと、制限なしで最もうまく説明できたときを比べます。$H_0$ を押しつけても説明力があまり落ちないなら、$H_0$ を残します。大きく落ちるなら、棄却します。

例えるなら、制服で大会に出られるかを試すようなものです。自由な服装のときの記録と、制服のときの記録を比べて、差が小さければ制服でも問題ないと判断します。

尤度比は次の式で定めます。

$$\Lambda(x) = \frac{\max_{\theta \in \Theta_0} L(\theta; x)}{\max_{\theta \in \Theta} L(\theta; x)}$$

$\Theta_0$ は $H_0$ の範囲、$\Theta$ はパラメータ全体の範囲です。分子の範囲のほうが狭いので、$0 \leq \Lambda \leq 1$ です。$\Lambda$ が小さいほど、$H_0$ に不利です。前々回の記事の $\Lambda$ とは、分子と分母の向きが逆になっている点に注意しましょう。

棄却の境目には、次の ウィルクスの定理 を使います。標本が大きいとき、$H_0$ のもとで次の近似が成り立ちます。

$$-2\log\Lambda(x) \approx \chi^2(r)$$

自由度 $r$ は、$H_0$ によって減った自由なパラメータの数です。つまり、$\Theta$ の次元から $\Theta_0$ の次元を引いた値です。

なぜカイ二乗分布なのでしょうか？ 山頂の近くでは、対数尤度の山は放物線で近似できます。すると、高さの差の2倍は $(\hat{\theta} - \theta_0)^2 I(\hat{\theta})$、つまりワルド型の統計量とほぼ同じになるからです。

例題：比率の尤度比検定

ある広告のクリック率は25%とされています。200人に見せると、70人がクリックしました。$H_0: p = 0.25$ を、尤度比検定で調べましょう。$\chi^2_{0.05}(1) = 3.84$ です。

【解き方】

1. 分母の最大値を求める： $\hat{p} = 70 \div 200 = 0.35$ を代入する
2. 分子の値を求める： $p = 0.25$ を代入する
3. 二項係数は約分で消えるので、対数の差だけが残る

$$-2\log\Lambda = 2\left\{x\log\frac{\hat{p}}{p_0} + (n-x)\log\frac{1-\hat{p}}{1-p_0}\right\}$$

4. 数値を入れる： $2\{70\log 1.4 + 130\log 0.8667\} = 9.90$
5. 9.90 > 3.84 なので、$H_0$ を棄却する

答えは「有意水準5%で、クリック率は25%ではないと言える」です。

3つの検定を並べる

前々回の記事の2つと合わせて、3つの検定がそろいました。

検定	測るもの	比率の例題の値
ワルド型検定	山頂と基準の距離	8.79
尤度比検定	山頂と基準の高さの差	9.90
スコア検定	基準の地点の傾き	10.67

$H_0$ のもとで、3つはどれも同じカイ二乗分布に近づきます。実務で迷ったら尤度比検定を選ぶことが多いです。パラメータの表し方に左右されず、モデルの比較に広く使えるからです。ただし、$H_0$ のモデルと全体のモデルの両方を推定する必要があります。

別の例：ポアソン分布と正規分布

前々回の記事の例で、20日間の平均が2.7件、$H_0: \lambda = 2$ の場合を考えましょう。ポアソン分布の尤度比は、次の形になります。

$$-2\log\Lambda = 2n\left\{\bar{x}\log\frac{\bar{x}}{\lambda_0} - (\bar{x} - \lambda_0)\right\}$$

数値を入れると4.41です。ワルド型の3.63では棄却せず、スコア検定の4.90では棄却でした。尤度比検定は4.41なので棄却で、2つの間の値です。

正規分布に使うと、面白いことが起きます。分散未知の $H_0: \mu = \mu_0$ の尤度比は、計算すると次の形に整理できます。

$$\Lambda = \left(1 + \frac{t^2}{n-1}\right)^{-n/2}$$

$\Lambda$ は $|t|$ の減少関数です。「$\Lambda$ が小さいとき棄却」は「$|t|$ が大きいとき棄却」と同じです。つまり、両側の $t$ 検定は尤度比検定です。この場合は近似ではなく、t分布で正確に境目が決まります。

試験のポイント：$-2\log\Lambda$ の自由度は、$H_0$ が固定したパラメータの数です。「分子と分母の最大値を求めて比をとる」手順を計算で問われます。

以上が、尤度比検定についての説明です。

適合度検定：パラメータを推定するとき

推定したパラメータの数だけ、自由度が減る

続いて、適合度検定 について解説します。

2級で学んだ適合度検定では、サイコロの確率のように、理論の確率が最初から決まっていました。自由度は「カテゴリの数 − 1」でした。

では、「このデータはポアソン分布に従うか」を調べたいときはどうでしょうか？ $\lambda$ の値は分かりません。データから推定するしかありません。

ここがポイントです。推定したパラメータの数だけ、自由度が減ります。 カテゴリが $k$ 個、推定したパラメータが $m$ 個なら、次のようになります。

$$\chi^2 = \sum_{i=1}^{k}\frac{(O_i - E_i)^2}{E_i} \approx \chi^2(k - 1 - m)$$

データに合わせて $\lambda$ を調整すると、理論の値はデータに近づきます。テストの答えを見ながら予想を立てるようなもので、ズレは自然と小さくなります。その分だけ、基準を厳しくする必要があるのです。

尤度比の考え方からは、次の統計量も作れます。これを G統計量 と呼びます。

$$G = 2\sum_{i=1}^{k} O_i \log\frac{O_i}{E_i}$$

$G$ も同じ自由度のカイ二乗分布に近づきます。カイ二乗統計量とGの関係は、スコア検定と尤度比検定の関係に当たります。

例題：ポアソン分布への適合度

ある窓口に1日に届く問い合わせの件数を、120日分まとめました。合計は156件で、1日平均は1.3件です。ポアソン分布に従うと言えるかを、有意水準5%で検定しましょう。$\chi^2_{0.05}(3) = 7.81$ です。

件数	0	1	2	3	4以上
観測度数	45	32	20	13	10
確率	0.273	0.354	0.230	0.100	0.043
期待度数	32.7	42.5	27.6	12.0	5.2

【解き方】

1. $\lambda$ を推定する： $\hat{\lambda} = 1.3$
2. ポアソン分布の確率を求める： 例えば、$P(X = 0) = e^{-1.3} = 0.273$。最後の階級は残りの確率
3. 120倍して期待度数を求める。どの階級も5以上である
4. $\chi^2$ を計算する： 4.62 + 2.60 + 2.11 + 0.09 + 4.51 = 13.9
5. 自由度を求める： 5 − 1 − 1 = 3
6. 13.9 > 7.81 なので、$H_0$ を棄却する

答えは「ポアソン分布に従うとは言えない」です。0件の日と4件以上の日が、どちらも期待より多いですね。これは、平均のわりにばらつきが大きいことを示しています。忙しい日と暇な日が混ざっていて、発生率が一定でないのかもしれません。

$G$ を計算すると12.9で、同じ結論になります。

試験のポイント：自由度は「カテゴリの数 − 1 − 推定したパラメータの数」です。ポアソン分布なら1個、正規分布なら平均と分散の2個を引きます。

以上が、適合度検定についての解説です。

イエーツの補正：2×2の表の調整

イエーツの補正で3.84の左右に結論が分かれる

最後に、イエーツの補正について見ていきましょう。

2級で学んだとおり、2×2の表の独立性の検定は、自由度1のカイ二乗分布を使います。度数の表を次のように書くと、$\chi^2$ には便利な公式があります。

	事象あり	事象なし	計
群1	$a$	$b$	$a+b$
群2	$c$	$d$	$c+d$
計	$a+c$	$b+d$	$n$

$$\chi^2 = \frac{n(ad - bc)^2}{(a+b)(c+d)(a+c)(b+d)}$$

ところが、度数は整数で、$\chi^2$ のとれる値はとびとびです。それを滑らかなカイ二乗分布で測ると、度数が少ないときにp値が小さめに出ます。つまり、有意になりやすくなります。

そこで、二項分布の連続修正と同じ調整をします。これが イエーツの補正 です。ズレの大きさを、$n/2$ だけ差し引きます。

$$\chi^2_{Y} = \frac{n\left(|ad - bc| - \dfrac{n}{2}\right)^2}{(a+b)(c+d)(a+c)(b+d)}$$

階段の角を少し削ってから坂と比べる、というイメージです。各セルで言えば、$|O_i - E_i|$ から0.5を引いてから計算するのと同じです。適合度検定でカテゴリが2つのときも、同じように補正できます。補正は自由度1のときだけに使い、それより大きな表には使いません。

例題：補正で結論が変わる

新しい指導法のクラス30人のうち16人が、これまでの指導法のクラス30人のうち8人が合格しました。指導法と合否の関連を、有意水準5%で調べましょう。

	合格	不合格	計
新しい指導法	16	14	30
これまでの指導法	8	22	30
計	24	36	60

【解き方】

1. $ad - bc$ を計算する： $16 \times 22 - 14 \times 8 = 240$
2. 分母を計算する： $30 \times 30 \times 24 \times 36 = 777600$
3. 補正なし： $\chi^2 = 60 \times 240^2 \div 777600 = 4.44$
4. 補正あり： $\chi^2_{Y} = 60 \times (240 - 30)^2 \div 777600 = 3.40$
5. 3.84と比べる： 補正なしは棄却、補正ありは棄却しない

同じ表なのに、結論が分かれました。p値は補正なしが0.035、補正ありが0.065です。

どちらを信じればよいのでしょうか？ 確率を直接計算するフィッシャーの正確検定で調べると、p値は0.064です。この例では、補正ありのほうが正確な値に近いのです。

ただし、イエーツの補正は保守的、つまり棄却しにくくなりすぎることも知られています。度数が少ないときは、補正に頼らず正確検定を使うのが確実です。正確検定の中身は、分割表の解析の記事で学びます。

試験のポイント：補正の式の $n/2$ の位置と、絶対値をとってから引くことを押さえます。補正すると $\chi^2$ の値は小さくなります。

以上が、イエーツの補正についての説明です。

細かい式が分からなかったとしても問題ありません。ここでは、「分布が分かれば確率を足せばよい」「分からなくても尤度比を使えばカイ二乗分布で判定できる」という点だけ押さえておきましょう。

今回のまとめ

確率を足す、高さの差を測る、階段の角を削る

それでは、今回の内容を振り返ります。

今回は正規分布以外の検定を紹介しました。件数や回数のデータは、その分布の確率をそのまま足せば検定できます。そして、尤度さえ書ければ、尤度比検定が大標本の検定を機械的に作ってくれます。

今回のポイントを振り返りましょう。

振り返り

• 二項分布・ポアソン分布の正確検定は、確率の足し上げ。大標本なら正規近似と連続修正を使う。
• 2つのポアソン分布の比較は、合計を固定すると二項分布の問題になる。
• 尤度比検定は「制服と自由な服装の記録の差」。$-2\log\Lambda$ は、$H_0$ が固定したパラメータの数を自由度とするカイ二乗分布に近づく。
• 適合度検定では、推定したパラメータの数だけ自由度が減る。
• イエーツの補正は、2×2の表の階段の角を削る調整。度数が少ないなら正確検定が確実。

キーワードのおさらい

• 二項分布、ポアソン分布など基本的な分布に関する検定: 分布の確率の足し上げや正規近似による検定
• 尤度比検定: $H_0$ のもとの最大尤度と全体の最大尤度の比で判定する検定
• ウィルクスの定理: $-2\log\Lambda$ がカイ二乗分布に近づくという定理
• 適合度検定: データが理論の分布に合うかを調べる検定
• G統計量: 尤度比から作る適合度の統計量
• イエーツの補正: 2×2の表の $\chi^2$ に行う連続修正

さて、ここまでの検定は、どれも「データの分布の形」を仮定していました。では、分布の形がまったく分からず、データも少ないときはどうすればよいのでしょうか？

次回は、値そのものではなく順位を使う「ノンパラメトリック法」について紹介します。

それでは、次の記事へ進んでいきましょう。