統計学 学習ノート

はじめに

公式どおりに作ると、支持率がマイナスになることがある

「95%信頼区間って書いてあるけど、本当に95%で当たるの？」

2級では、$\bar{x} \pm 1.96 \times$ 標準誤差のような公式で信頼区間を作りました。ところで、10人の調査で支持率が10%だったとき、同じように公式に入れるとどうなるでしょうか？ 区間の下の端が、マイナスになることがあります。支持率がマイナスというのは、さすがにおかしいですよね。

実は、区間に書かれた「95%」は、いつも保証されているわけではありません。公式の多くは近似で、条件によっては本当の的中率が60%台まで落ちることもあります。

そこで登場するのが、今回の主役 被覆確率 です。被覆確率とは、信頼区間が真の母数を実際に含む確率のことです。

前回の記事では、最尤推定量の漸近正規性を学びました。今回の記事では、信頼区間の構成（母平均、母分散、母比率、母分散の比、2標本問題）を、ピボットという1つの考え方で整理し、被覆確率と片側信頼限界について解説します。

信頼係数と被覆確率：輪投げの輪の性能

θ ごとの被覆確率の最も悪い値が、信頼係数になる

はじめに、信頼区間の性能の測り方について解説します。

2級で学んだ見方を思い出しましょう。信頼区間は、輪投げのようなものです。地面の杭が真の母数 $\theta$ で、動かないのは杭のほうです。投げるたびに位置が変わる輪が、データから作った区間 $[L(X), U(X)]$ です。

輪が杭に入る確率を $\theta$ の関数として書いたものが、被覆確率 です。

$$C(\theta) = P_\theta\big(L(X) \le \theta \le U(X)\big)$$

$\theta$ の値によって、入りやすさが変わることがあります。そこで、最も悪い場合の被覆確率を、その区間の 信頼係数 と定めます。

$$\text{信頼係数} = \inf_{\theta} C(\theta)$$

$\inf$ は下限を表します。つまり、「どんな $\theta$ でも、少なくともこの確率では含む」という保証の値が信頼係数です。お店の「最低保証」のようなものです。

では、そのような区間はどう作るのでしょうか？ 基本の道具が ピボット です。ピボットとは、データと $\theta$ の関数で、分布が $\theta$ によらない量 $Q(X, \theta)$ のことです。

【ピボットで区間を作る手順】

1. 分布が $\theta$ によらない量 $Q(X, \theta)$ を見つける
2. その分布の表から、$P(a \le Q \le b) = 1 - \alpha$ となる $a, b$ を読む
3. 不等式 $a \le Q(X, \theta) \le b$ を $\theta$ について解く

3つ目が、確率の話を $\theta$ の範囲の話に変える一番のポイントです。変換の前後で不等式は同じなので、作った区間の被覆確率は、どの $\theta$ でも正確に $1 - \alpha$ になります。

具体的に見てみましょう。今回使うピボットは、次のとおりです。

調べたいもの	ピボット	従う分布
母平均（$\sigma$ 未知）	$(\bar{X} - \mu)/(S/\sqrt{n})$	$t(n-1)$
母分散	$(n-1)S^2/\sigma^2$	$\chi^2(n-1)$
母分散の比	$(S_1^2/S_2^2)/(\sigma_1^2/\sigma_2^2)$	$F(n_1 - 1, n_2 - 1)$
指数分布の平均 $\theta$	$2\sum_i X_i/\theta$	$\chi^2(2n)$
$U(0, \theta)$ の $\theta$	$X_{(n)}/\theta$	分布関数 $u^n$

正規分布でなくても、ピボットさえ見つかれば区間は作れます。

例題：一様分布の信頼区間

$U(0, \theta)$ から大きさ5の標本をとると、最大値は8でした。$\theta$ の95%信頼区間を、最大値のピボットから作りましょう。

【解き方】

1. $Q = X_{(5)}/\theta$ は $0 < Q < 1$ で、$P(Q \le u) = u^5$
2. $P(Q \ge a) = 0.95$ となる $a$ は、$a^5 = 0.05$ より $a = 0.05^{1/5} \approx 0.549$
3. 不等式 $a \le X_{(5)}/\theta \le 1$ を解く： $X_{(5)} \le \theta \le X_{(5)}/a$
4. 代入する： $8 \le \theta \le 8 \div 0.549 \approx 14.6$

答えは [8, 14.6] です。$\theta$ が8より小さいことはないので、区間の左端は最大値そのものです。推定値の前後に同じ幅をとる、という形にならない点がおもしろいところです。

以上が、信頼係数と被覆確率についての解説です。

正規母集団の母平均と母分散

母分散の区間は右に長く、正規性に強く頼る吊り橋

次に、最も基本の2つの区間を説明します。

どちらも2級で計算しました。ここでは、ピボットの手順から式を出し直します。

$T = (\bar{X} - \mu)/(S/\sqrt{n})$ について $-t_{\alpha/2}(n-1) \le T \le t_{\alpha/2}(n-1)$ を $\mu$ について解くと、母平均 の $100(1-\alpha)$%信頼区間が得られます。

$$\bar{X} - t_{\alpha/2}(n-1)\frac{S}{\sqrt{n}} \ \le\ \mu \ \le\ \bar{X} + t_{\alpha/2}(n-1)\frac{S}{\sqrt{n}}$$

母分散 は、$(n-1)S^2/\sigma^2$ がカイ二乗分布の下側と上側の点の間に入る、という不等式を $\sigma^2$ について解きます。逆数をとるので、上下が入れ替わります。

$$\frac{(n-1)S^2}{\chi^2_{\alpha/2}(n-1)} \ \le\ \sigma^2 \ \le\ \frac{(n-1)S^2}{\chi^2_{1-\alpha/2}(n-1)}$$

例えば、$n = 16$、$\bar{x} = 52$、$s = 8$ なら、母平均の95%信頼区間は $52 \pm 2.131 \times 2$ で、[47.74, 56.26] です。

また、$n = 11$、$s^2 = 9$ なら、$\chi^2_{0.025}(10) = 20.48$、$\chi^2_{0.975}(10) = 3.25$ です。母分散の95%信頼区間は、$90 \div 20.48 \approx 4.39$ から $90 \div 3.25 \approx 27.7$ までです。$s^2 = 9$ に対して右に長い、左右非対称の区間になることに注意しましょう。

2つの区間には、性格の違いがあります。母平均の区間は中心極限定理に守られるので、母集団が正規分布から少しズレても、被覆確率はあまり崩れません。一方で、母分散の区間は正規性に強く頼っています。例えば、裾の厚い分布では、被覆確率が0.95を大きく下回ります。頑丈な橋と、条件のいい日にしか渡れない吊り橋の違いのようなものです。

試験のポイント：母分散の区間の下限には上側の点（大きい値）、上限には下側の点（小さい値）を使います。逆にしないよう注意しましょう。

以上が、正規母集団の区間についての説明です。

母比率：近似の区間と被覆確率

95%と書いた袋に、Wald型は64%しか入っていない

続いて、母比率の区間を解説します。ここで、冒頭の疑問に答えます。

2級で使った 母比率 の区間は、次の形でした。Wald型の区間と呼びます。

$$\hat{p} \pm z_{\alpha/2}\sqrt{\frac{\hat{p}(1-\hat{p})}{n}}$$

これは、$\hat{p}$ を漸近正規性で近似した区間です。$(\hat{p} - p)/\sqrt{\hat{p}(1-\hat{p})/n}$ を近似のピボットとして使っています。$n$ が小さいときや、$p$ が0や1に近いときは、近似が崩れます。

そこで、改良された区間が2つあります。

【母比率の3つの区間】

1. Wald型： 標準誤差に $\hat{p}$ を代入する。手軽だが、$n$ が小さいと被覆確率が低い
2. スコア型（Wilson）： 不等式 $|\hat{p} - p| \le z_{\alpha/2}\sqrt{p(1-p)/n}$ を $p$ の2次不等式として解く
3. 正確な区間（Clopper-Pearson）： 二項分布の確率を直接使う。ベータ分布の分位点で表せる

スコア型は、標準誤差に $\hat{p}$ を代入せず、$p$ のまま解くのがポイントです。Clopper-Pearson の区間は、$x$ 回成功のとき、$P(X \ge x \mid p_L) = \alpha/2$ となる $p_L$ と、$P(X \le x \mid p_U) = \alpha/2$ となる $p_U$ を下限と上限にします。

具体的に見てみましょう。$n = 20$ で成功が2回、$\hat{p} = 0.1$ のとき、3つの95%信頼区間は次のようになります。

区間	下限	上限
Wald型	−0.031	0.231
スコア型	0.028	0.301
Clopper-Pearson	0.012	0.317

Wald型の下限がマイナスになりました。冒頭の違和感の正体はこれです。

では、実際の的中率はどうでしょうか？ 二項分布で全部の場合を足し上げて、$n = 20$ の被覆確率を計算すると、次のようになります。

真の $p$	0.05	0.1	0.3	0.5
Wald型	0.639	0.876	0.947	0.959
スコア型	0.925	0.957	0.975	0.959
Clopper-Pearson	0.984	0.989	0.975	0.959

表の見方を説明します。「95%」と書いた区間の、本当の的中率です。Wald型は $p = 0.05$ で64%まで落ちています。「内容量95g」と書いた袋に、64gしか入っていないようなものです。一方で、Clopper-Pearson は必ず95%以上です。内容量を割らないように、多めに詰めた袋にあたります。そのぶん、区間は広くなります。

ここがポイントです。データが離散型なので、被覆確率をちょうど0.95にそろえることはできません。$p$ を動かすと、被覆確率はギザギザに上下します。

補足（ここは読み飛ばしてOK）： 目安として、$n\hat{p}$ と $n(1-\hat{p})$ がともに5以上あれば、正規近似はおおむね使えると言われます。試験の計算問題はWald型が基本です。

以上が、母比率の区間についての解説です。

2標本問題と母分散の比

比の区間は1を含み、差の区間は0を含まない

次に、2つの母集団を比べる区間について説明します。

2標本問題 では、差や比を知りたいことが多いです。2つのラーメン店の待ち時間の差や、2つの機械のばらつきの比を思い浮かべてください。

母分散が等しい2つの正規母集団なら、次の区間です。2級で学んだプールした分散 $S_p^2$ を使います。

$$(\bar{X}_1 - \bar{X}_2) \pm t_{\alpha/2}(n_1 + n_2 - 2)\, S_p\sqrt{\frac{1}{n_1} + \frac{1}{n_2}}, \qquad S_p^2 = \frac{(n_1 - 1)S_1^2 + (n_2 - 1)S_2^2}{n_1 + n_2 - 2}$$

等分散が仮定できないときは、Welch の方法を使います。標準誤差を $\sqrt{S_1^2/n_1 + S_2^2/n_2}$ とし、自由度を次の式で近似します。

$$\nu \approx \frac{(S_1^2/n_1 + S_2^2/n_2)^2}{\dfrac{(S_1^2/n_1)^2}{n_1 - 1} + \dfrac{(S_2^2/n_2)^2}{n_2 - 1}}$$

また、同じ人の前後のように対応のあるデータなら、差 $D_i$ を1標本とみなして、母平均の区間を使います。

母比率の差は、$(\hat{p}_1 - \hat{p}_2) \pm z_{\alpha/2}\sqrt{\hat{p}_1(1-\hat{p}_1)/n_1 + \hat{p}_2(1-\hat{p}_2)/n_2}$ です。例えば、200人ずつで $\hat{p}_1 = 0.6$、$\hat{p}_2 = 0.5$ なら、標準誤差は約0.0495です。95%信頼区間は [0.003, 0.197] で、0をわずかに含みません。

母分散の比 は、ピボット $(S_1^2/\sigma_1^2)/(S_2^2/\sigma_2^2) \sim F(n_1 - 1, n_2 - 1)$ から導きます。下側の点には $F_{1-\alpha/2}(a, b) = 1/F_{\alpha/2}(b, a)$ を使うので、次の形になります。

$$\frac{S_1^2/S_2^2}{F_{\alpha/2}(n_1 - 1,\ n_2 - 1)} \ \le\ \frac{\sigma_1^2}{\sigma_2^2} \ \le\ \frac{S_1^2}{S_2^2}\, F_{\alpha/2}(n_2 - 1,\ n_1 - 1)$$

上限で自由度が入れ替わる点が要注意です。

例題：平均の差と分散の比

2つの工場の製品から $n_1 = 10$、$n_2 = 12$ の標本をとると、$\bar{x}_1 = 75$、$s_1 = 4$、$\bar{x}_2 = 70$、$s_2 = 5$ でした。$\sigma_1^2/\sigma_2^2$ の95%信頼区間を求めて、等分散を仮定してよいかを見たうえで、平均の差の95%信頼区間を求めましょう。$F_{0.025}(9, 11) = 3.59$、$F_{0.025}(11, 9) = 3.91$、$t_{0.025}(20) = 2.086$ とします。

【解き方】

1. 分散の比は $s_1^2/s_2^2 = 16 \div 25 = 0.64$
2. 区間は $0.64 \div 3.59 \approx 0.18$ から $0.64 \times 3.91 \approx 2.50$ まで。1を含むので、等分散と矛盾しない
3. $s_p^2 = (9 \times 16 + 11 \times 25) \div 20 = 20.95$
4. 標準誤差は $\sqrt{20.95 \times (1/10 + 1/12)} \approx 1.96$
5. 区間は $5 \pm 2.086 \times 1.96$ で、約 [0.91, 9.09]

答えは、分散の比が [0.18, 2.50]、平均の差が [0.91, 9.09] です。なお、Welch の方法でも自由度は約20、標準誤差は約1.92で、結果はほとんど変わりません。

以上が、2標本問題と母分散の比についての説明です。

片側信頼限界：片方だけを保証する

保証書に書くのは下限だけ。α を片側に全部あてる

最後に、片側の区間を見ていきましょう。

ここまでの区間は、左右の両方に端がありました。でも、「電池の寿命は少なくとも何時間か」「不良率は高くても何%か」のように、片方の端だけが知りたいこともあります。製品の保証書に書くのは、下限だけですよね。

片側信頼限界 とは、$P_\theta(L(X) \le \theta) \ge 1 - \alpha$ を満たす $L$（下側信頼限界）、または $P_\theta(\theta \le U(X)) \ge 1 - \alpha$ を満たす $U$（上側信頼限界）のことです。作り方は同じですが、$\alpha/2$ ではなく $\alpha$ を片側に全部あてます。

例えば、さきほどの $n = 16$、$\bar{x} = 52$、$s = 8$ なら、95%下側信頼限界は $52 - t_{0.05}(15) \times 2 = 52 - 1.753 \times 2 \approx 48.49$ です。両側の下限47.74より、値が高くなっています。

例題：寿命の下側信頼限界

寿命が平均 $\theta$ の指数分布に従う部品を10個調べると、寿命の合計は12,000時間でした。$\theta$ の95%下側信頼限界を求めましょう。$\chi^2_{0.05}(20) = 31.41$ とします。

【解き方】

1. ピボットは $2\sum_i X_i/\theta \sim \chi^2(20)$
2. $P(2\sum_i X_i/\theta \le 31.41) = 0.95$
3. $\theta$ について解く： $\theta \ge 2\sum_i X_i/31.41$
4. 代入する： $24000 \div 31.41 \approx 764$

答えは約764時間です。「95%の信頼度で、平均寿命は764時間以上」と言えます。平均の推定値1,200時間より、ずいぶん控えめな値です。

せっかくなので、別の例も見てみましょう。60個調べて不良品が0個だったとき、不良率は0%と言ってよいでしょうか？ 上側信頼限界を求めます。不良率 $p$ で60個とも良品である確率 $(1-p)^{60}$ が0.05となる $p$ が上限で、$1 - 0.05^{1/60} \approx 0.049$ です。つまり、不良率は高くて約4.9%です。これは $3/n$ で近似できます。0個という結果は、0%の証明ではありません。

ところで、信頼区間と検定は表裏の関係にあります。$\theta_0$ が95%信頼区間に入ることと、$H_0: \theta = \theta_0$ が有意水準5%で棄却されないことは、同じ意味です。片側信頼限界は、片側検定と対応します。

試験のポイント：片側では $t_{0.05}$ や $z_{0.05}$ のように、$\alpha$ をそのまま使います。$t_{0.025}$ を使わないよう気をつけましょう。

以上が、片側信頼限界についての解説です。

細かい公式を忘れてしまっても問題ありません。ここでは、「ピボットを見つけて不等式を解く」「表示の信頼係数と実際の被覆確率は違うことがある」という点だけ押さえておきましょう。

今回のまとめ

ピボットで区間を作り、的中率まで確かめる

それでは、今回の内容を振り返ります。

今回は、信頼区間の作り方をピボットで整理し、被覆確率で性能を確かめることを紹介しました。公式に数字を入れれば、区間はいつでも出てきます。でも、その「95%」が本当に95%なのかを確かめる目を持つことが、準1級の大切なステップです。

今回のポイントを振り返りましょう。

振り返り

• 被覆確率は輪が杭に入る確率で、最も悪い場合の値が信頼係数になる。
• ピボットは分布が母数によらない量で、不等式を解くと信頼区間になる。
• 母比率のWald型は $n$ が小さいと被覆確率が大きく落ちる。スコア型や正確な区間で補う。
• 分散の比の上限では、F分布の自由度が入れ替わる。
• 片側信頼限界では $\alpha$ を片側に全部あてる。不良0個でも上限は約 $3/n$ ある。

キーワードのおさらい

• 信頼係数: どの母数の値でも保証される被覆確率の下限
• 被覆確率: 信頼区間が真の母数を含む確率
• ピボット: データと母数の関数で、分布が母数によらない量
• 信頼区間の構成: ピボットなどから、母平均・母分散・母比率・母分散の比・2標本問題の区間を導くこと
• 片側信頼限界: 母数の下側または上側の一方だけを保証する限界値

さて、区間の話の最後に、検定との表裏の関係が出てきました。では、検定の性能はどう測るのでしょうか？ 「有意差なし」と出たとき、本当に差はないと言えるのでしょうか？

次回は、検出力とサンプルサイズの決定、多重比較を中心に「検定の基礎」を紹介します。

それでは、次の記事へ進んでいきましょう。