統計学 学習ノート

はじめに

大鍋はひとさじで足りるが、小鍋の半分は味見ではない

「全校600人のうち300人に聞いたのに、誤差の式は400万人の都市を調べるときと同じでいいの？」

2級で学んだ標本平均の標準誤差は $\sigma/\sqrt{n}$ でした。この式には、母集団の大きさが出てきません。例えば、味噌汁の味見を思い出してください。鍋が大きくても小さくても、よくかき混ぜれば、ひとさじで味は分かります。多くの世論調査では、この考え方で十分です。

でも、600人の学校で300人に聞くのは、味見というより鍋の半分を飲み干すようなものです。もし600人全員に聞けば、誤差はゼロになるはずです。ところが、$\sigma/\sqrt{n}$ に $n = 600$ を入れても、ゼロにはなりません。

実は、2級の式は、母集団が無限に大きいか、同じ人を何度も選びうる抽出を前提にしていました。現実の調査は、人数の決まった集団から、同じ人を二度選ばずに抽出します。ここに、式の修正が必要になります。

そこで登場するのが、今回の主役 有限修正 です。有限修正とは、大きさの決まった母集団から非復元で抽出するときに、標本平均の分散にかかる補正のことです。

前回の記事では、実験の組み方を学びました。今回の記事では、有限母集団 からの単純無作為抽出を式で押さえ、層化抽出法の最適な配分、クラスター抽出法の効率、抽出確率で重みをつける推定まで、各種の標本抽出法を解説します。

有限母集団と有限修正：鍋の大きさが効くとき

有限修正があると、全員に聞いたときの誤差はゼロになる

はじめに、調査の土台である単純無作為抽出について解説します。

有限母集団 とは、要素の数 $N$ が決まっている母集団です。全校の生徒や、ある市の世帯がその例です。要素の値を $Y_1, \dots, Y_N$ とすると、確率分布を考えなくても、母平均と母分散が具体的な数として決まります。

$$\bar{Y} = \frac{1}{N}\sum_{i=1}^{N} Y_i, \qquad S^2 = \frac{1}{N - 1}\sum_{i=1}^{N} (Y_i - \bar{Y})^2$$

ここで注意です。標本調査の分野では、母分散の分母を $N - 1$ にした $S^2$ を使うことが多いです。式がきれいになるからです。分母を $N$ にしたものは $\sigma^2$ と書いて区別します。問題文の定義を必ず確かめましょう。

単純無作為抽出 は、$N$ 個から $n$ 個を選ぶ $\binom{N}{n}$ 通りの組が、すべて同じ確率で選ばれる非復元の抽出です。このとき、標本平均 $\bar{y}$ は $\bar{Y}$ の不偏推定量で、分散は次の式になります。

$$V[\bar{y}] = \left(1 - \frac{n}{N}\right)\frac{S^2}{n} = \frac{N - n}{N - 1} \cdot \frac{\sigma^2}{n}$$

$n/N$ は 抽出率 です。$(N - n)/(N - 1)$ を 有限修正項 と呼びます。言葉で言うと、「2級の分散 $\sigma^2/n$ に、まだ調べていない割合をかけたもの」です。$n = N$ なら分散は0で、全員に聞けば誤差はありません。一方で、$N$ が $n$ よりずっと大きければ有限修正項は1に近く、鍋の大きさは関係なくなります。目安として、抽出率が5%未満なら無視しても差し支えありません。

なぜこの形になるのでしょうか？ 要素 $i$ が選ばれたら1、選ばれなければ0となる変数 $Z_i$ を考えます。非復元の抽出では、誰かが選ばれると、他の人の枠が1つ減ります。そのため $Z_i$ たちは互いに独立ではありません。

【導出の要点】

1. 平均と分散： $E[Z_i] = n/N$、$V[Z_i] = (n/N)(1 - n/N)$
2. 共分散： $\sum_i Z_i = n$ は定数なので $V[\sum_i Z_i] = 0$。ここから $\text{Cov}(Z_i, Z_j) = -V[Z_i]/(N - 1)$
3. $\bar{y} = \frac{1}{n}\sum_i Z_i Y_i$ の分散を、この共分散を使って展開する

負の共分散が、分散を小さくする正体です。席の数が決まった椅子取りゲームのように、誰かが座ると他の人は座りにくくなります。これが「同じ人を二度聞かない」ことの効果です。

例題：全通りを数えて確かめる

$N = 5$ の母集団 2, 4, 6, 8, 10 から、$n = 2$ を非復元で単純無作為抽出します。標本平均の分散を求めましょう。

【解き方】

1. 母平均は6。偏差平方和は $16 + 4 + 0 + 4 + 16 = 40$ なので、$S^2 = 40/4 = 10$、$\sigma^2 = 40/5 = 8$
2. 公式： $V[\bar{y}] = (1 - 2/5) \times 10/2 = 3$
3. 別の形： $\dfrac{3}{4} \times \dfrac{8}{2} = 3$ で一致する
4. 全10通りの標本平均 3, 4, 5, 6, 5, 6, 7, 7, 8, 9 の分散を直接計算しても3

答えは3です。復元抽出なら $\sigma^2/n = 4$ で、有限修正の効果で4分の3に減っています。

実際の調査では $S^2$ が未知なので、標本の不偏分散 $s^2$ を代入します。$E[s^2] = S^2$ が成り立つからです。

せっかくなので、別の例も見てみましょう。2,000世帯の町から400世帯を選び、1か月の水道代を調べたら、$s = 50$（百円）でした。標準誤差は次のとおりです。

$$\sqrt{\left(1 - \frac{400}{2000}\right)\frac{50^2}{400}} = \sqrt{0.8 \times 6.25} \approx 2.24$$

修正なしの2.5より約1割小さくなります。町全体の 総計 $Y = N\bar{Y}$ は $N\bar{y}$ で推定し、標準誤差は $N$ 倍の約4,472です。

比率も同じ形です。$Y_i$ が0か1の場合で、$\hat{p}$ を標本比率とすると、次の式になります。

$$V[\hat{p}] = \frac{N - n}{N - 1} \cdot \frac{p(1 - p)}{n}$$

例えば、$N = 500$ の学校で200人に聞いて $\hat{p} = 0.4$ なら、95%の誤差の幅は約 $\pm 5.3$ ポイントです。修正なしの $\pm 6.8$ ポイントより狭くなります。

例題：有限修正つきの標本サイズ

比率の見当がつかない調査で、95%の誤差の幅を $\pm 5$ ポイントにしたいとします。$N = 2000$ のとき、必要な標本サイズを求めましょう。

【解き方】

1. 2級の式： $n_0 = 1.96^2 \times 0.25 / 0.05^2 \approx 384.2$
2. $\dfrac{N-n}{N-1} \cdot \dfrac{1}{n} = \dfrac{1}{n_0}$ を $n$ について解くと、次の式になる

$$n = \frac{n_0}{1 + (n_0 - 1)/N}$$

3. 代入する： $384.2 \div (1 + 383.2/2000) \approx 322.4$

答えは323人です。同じ計算で、$N = 500$ なら218人です。一方、$N$ が100万なら385人でほとんど変わりません。

試験のポイント：有限修正項は $(N - n)/(N - 1)$ で、抽出率が小さければ $1 - n/N$ とほぼ同じです。修正がかかるのは分散で、標準誤差にはその平方根がかかります。

以上が、有限母集団と有限修正についての解説です。

層化抽出法：配分で精度を上げる

ばらつきの大きい層に多く配るネイマン配分が、分散を最小にする

次に、層化抽出法を式で説明します。

2級で学んだように、層化抽出法 は、母集団を似たものどうしの層に分けて、層ごとに抽出する方法です。第 $h$ 層の大きさを $N_h$、割合を $W_h = N_h/N$、標本の大きさを $n_h$ とします。母平均の推定量は、層の平均の加重平均です。

$$\bar{y}_{\text{st}} = \sum_{h} W_h\, \bar{y}_h, \qquad V[\bar{y}_{\text{st}}] = \sum_{h} W_h^2 \left(1 - \frac{n_h}{N_h}\right)\frac{S_h^2}{n_h}$$

$S_h^2$ は層の中の分散です。層の間の差は分散に入りません。これが層化の強みです。

では、全体の $n$ を層にどう配分すればよいでしょうか？ 2つの方法があります。

【2つの配分法】

1. 比例配分： $n_h = n W_h$。層の大きさに比例させる
2. ネイマン配分： $n_h \propto W_h S_h$。大きさとばらつきの積に比例させる

ネイマン配分は、分散を最小にする 最適配分 です。$\sum_h n_h = n$ の制約のもとで、ラグランジュの未定乗数法かコーシー・シュワルツの不等式で導けます。

$$n_h = n \cdot \frac{W_h S_h}{\sum_k W_k S_k}$$

試験勉強に例えてみましょう。出題の割合が同じなら、もう完璧な科目より、点数がぶれる苦手科目に時間を回すほうが、全体の点は安定します。ばらつきの大きい層に標本を多く配るのは、これと同じです。

有限修正を無視すると、3つの方法の分散は次のように書けます。

方法	$\bar{y}$ の分散
単純無作為抽出	$\dfrac{1}{n}\Big\{\sum_h W_h S_h^2 + \sum_h W_h (\bar{Y}_h - \bar{Y})^2\Big\}$
比例配分	$\dfrac{1}{n} \sum_h W_h S_h^2$
ネイマン配分	$\dfrac{1}{n} \Big(\sum_h W_h S_h\Big)^2$

単純無作為抽出との差は、層の間の平方和です。層の平均が違うほど、層化の効果は大きくなります。比例配分とネイマン配分の差は、$S_h$ のばらつきの大きさで決まります。

例題：配分で分散を比べる

ある市の世帯は、層1（$W_1 = 0.6$、平均50、$S_1 = 10$）と層2（$W_2 = 0.4$、平均80、$S_2 = 30$）に分かれます。$n = 100$ のとき、3つの方法の分散と、ネイマン配分の $n_1, n_2$ を求めましょう。有限修正は無視します。

【解き方】

1. 層の中の分散の加重平均： $0.6 \times 100 + 0.4 \times 900 = 420$
2. 母平均は $0.6 \times 50 + 0.4 \times 80 = 62$。層の間の平方和は $0.6 \times 144 + 0.4 \times 324 = 216$
3. 単純無作為抽出： $(420 + 216)/100 = 6.36$
4. 比例配分： $420/100 = 4.2$
5. ネイマン配分： $\sum_h W_h S_h = 6 + 12 = 18$ なので、$18^2/100 = 3.24$
6. 配分： $n_1 = 100 \times 6/18 \approx 33$、$n_2 = 100 \times 12/18 \approx 67$

答えは順に6.36, 4.2, 3.24で、ネイマン配分は $n_1 \approx 33$、$n_2 \approx 67$ です。層1のほうが大きいのに、ばらつきの大きい層2へ標本を多く配っています。

試験のポイント：ネイマン配分は $W_h S_h$（または $N_h S_h$）に比例です。$S_h^2$ に比例させる誤りが多いので注意しましょう。

以上が、層化抽出法についての説明です。

クラスター抽出法と多段抽出法：手間と精度の取引

似た人の集まりでは、1,000人でも約513人分の精度になる

続いて、調査の手間を減らす方法について解説します。

全国の世帯から単純無作為抽出をすると、調査員は全国に散らばった世帯を訪ね歩くことになります。そこで、学校や地区のような クラスター（集落）を選び、その中をまとめて調べるのがクラスター抽出法でした。

ただし、同じ地区の世帯は似ています。味噌汁の例で言えば、鍋の同じ場所から何さじもすくっても、新しい情報はあまり増えません。この似ている度合いを表すのが 級内相関係数 $\rho$ です。大きさ $m$ のクラスターをまるごと調べるとき、分散は単純無作為抽出のおよそ次の倍数になります。

$$\text{deff} = 1 + (m - 1)\rho$$

deff は デザイン効果 です。単純無作為抽出と比べて、分散が何倍になるかを表します。標本の大きさを deff で割った値を 有効標本サイズ と呼びます。

例えば、1クラス20人の学級を50学級選んで、合計1,000人を調べたとします。$\rho = 0.05$ なら、$\text{deff} = 1 + 19 \times 0.05 = 1.95$ です。1,000人のデータでも、単純無作為抽出の約513人分の精度しかありません。級内相関がわずか0.05でも、分散はほぼ2倍になるのです。

層化抽出法とクラスター抽出法は、発想が逆です。層は中が均質で層どうしが異なるほどよく、クラスターは中が多様でクラスターどうしが似ているほどよいです。

多段抽出法 は、段階を分けて抽出する方法です。第1段で市区町村を選び、第2段でその中の世帯を選びます。クラスターの中を全部調べるより、人数を抑えて多くの地点へ分けられるので、deff を小さくできます。

ここで問題があります。第1段で地区を同じ確率で選び、第2段で20世帯ずつ選ぶと、大きい地区の世帯は選ばれにくくなります。そこで使うのが 確率比例抽出（PPS）です。第1段で、地区の大きさに比例した確率で選びます。

具体的に見てみましょう。全体が10万世帯で、第1段で10地区を選び、第2段で各20世帯を選びます。5,000世帯の地区に住む世帯の抽出確率と、1,000世帯の地区に住む世帯の抽出確率を比べます。

【確率比例抽出の計算】

• 5,000世帯の地区： $10 \times \dfrac{5000}{100000} \times \dfrac{20}{5000} = 0.5 \times 0.004 = 0.002$
• 1,000世帯の地区： $10 \times \dfrac{1000}{100000} \times \dfrac{20}{1000} = 0.1 \times 0.02 = 0.002$

地区の大きさが約分で消えて、どの世帯も同じ確率です。これを 自己加重 の標本と呼びます。

以上が、クラスター抽出法と多段抽出法についての解説です。

各種の標本抽出法：抽出確率で重みをつける

選ばれにくい人ほど、大きな重みで多くの人を代表する

最後に、各種の標本抽出法を整理して、共通の推定の考え方を見ていきましょう。

ここまでの方法に、系統抽出法 を加えて並べます。系統抽出法は、最初の1つを乱数で決め、その後は $k$ 番目おきに選ぶ方法です。手軽ですが、名簿の並びに周期があると危険です。例えば、毎週同じ曜日の売上だけを拾うと、週の周期が結果に丸ごと入ります。

抽出法	手順	長所	注意点
単純無作為	全員から等確率で非復元	式が単純	名簿が必要。費用が高い
系統	等間隔に選ぶ	手軽	周期があると偏る
層化	層ごとに抽出	精度が上がる	層の情報が必要
クラスター	集団をまるごと	費用が安い	級内相関で精度が下がる
多段	段階を分ける	全国調査に向く	分散の計算が複雑
確率比例	大きさに比例して選ぶ	自己加重にできる	大きさの情報が必要

では、抽出確率が人によって違うとき、どう推定すればよいでしょうか？ 答えは、確率の逆数で重みをつけることです。

要素 $i$ が標本に入る確率を 包含確率 $\pi_i$ とします。母集団の総計の推定量は次の形です。

$$\hat{Y}_{\text{HT}} = \sum_{i \in \text{標本}} \frac{y_i}{\pi_i}$$

これを ホービッツ・トンプソン推定量 と呼びます。$1/\pi_i$ は「この1人が母集団の何人を代表するか」という重みです。選挙の代議員のように、選ばれにくい人ほど多くの人の声を背負います。$Z_i$ を標本に入る指示変数とすると、$E[Z_i] = \pi_i$ なので、次のように不偏性がすぐに示せます。

$$E\Big[\sum_{i=1}^{N} Z_i \frac{Y_i}{\pi_i}\Big] = \sum_{i=1}^{N} Y_i$$

例えば、標本の3人の値が10, 20, 30で、包含確率が0.5, 0.25, 0.1だったとします。総計の推定値は $20 + 80 + 300 = 400$ です。単純無作為抽出なら $\pi_i = n/N$ で、$N\bar{y}$ に戻ります。

補足（ここは読み飛ばしてOK）： 母集団全体の補助変数の合計 $X$ が分かっているときは、比推定 $\hat{Y} = (\bar{y}/\bar{x})X$ が使えます。例えば、標本の今年の売上の平均が120、昨年の平均が100で、全店の昨年の合計が5,000なら、今年の合計を $1.2 \times 5000 = 6000$ と推定します。$y$ と $x$ が比例に近いほど、精度が上がります。

以上が、各種の標本抽出法についての解説です。

細かい式を忘れてしまっても問題ありません。ここでは、「非復元の分散には有限修正がかかる」「ばらつきの大きい層に多く配る」「似た者の集まりは精度を下げる」という点だけ押さえておきましょう。

今回のまとめ

層で精度を上げ、クラスターで費用を下げ、重みで補う

それでは、今回の内容を振り返ります。

今回は、有限母集団からの抽出と、各種の標本抽出法について紹介しました。調査の設計は、精度と費用の取引です。層で精度を上げ、クラスターで費用を下げ、抽出確率の違いは重みで補う。この3つの道具で、現実の調査は組み立てられています。

今回のポイントを振り返りましょう。

振り返り

• 有限母集団の単純無作為抽出では、$V[\bar{y}] = (1 - n/N)S^2/n$。全員に聞けば分散は0になる。
• 有限修正項は $(N-n)/(N-1)$。抽出率が小さければ1に近く、鍋の大きさは効かない。
• 層化の分散には層の間の差が入らない。ネイマン配分は $W_h S_h$ に比例させる。
• クラスター抽出法の分散は $1 + (m-1)\rho$ 倍。同じ場所から何さじすくっても情報は増えにくい。
• 抽出確率が違うときは、確率の逆数で重みをつけるホービッツ・トンプソン推定量を使う。

キーワードのおさらい

• 有限母集団: 要素の数 $N$ が決まっている母集団
• 有限修正: 非復元抽出で標本平均の分散にかかる補正。有限修正項は $(N-n)/(N-1)$
• 各種の標本抽出法: 単純無作為、系統、層化、クラスター、多段、確率比例など
• ネイマン配分: 分散を最小にする層への配分。$W_h S_h$ に比例
• デザイン効果: 単純無作為抽出に対する分散の倍率

さて、ここまでで、データの取り方は一通りそろいました。でも、集まったデータの変数が何十個もあると、全体像がつかめません。5教科の成績を1つの数で要約するには、どうすればよいのでしょうか？

次回は、多くの変数を少数の合成変数に要約する「主成分分析」について紹介します。

それでは、次の記事へ進んでいきましょう。