統計学 学習ノート

はじめに

家系図を見ると、ばらばらの分布の関係が一気に分かる

「分布の公式が多すぎる。これ、全部ばらばらに覚えるの？」

二項分布、ポアソン分布、幾何分布、超幾何分布。2級で学んだ分布に、準1級ではさらに母関数や性質が加わります。公式を別々に暗記しようとすると、試験の直前には頭の中でごちゃ混ぜになってしまいますよね。

例えば、親戚の集まりを思い浮かべてください。初対面の人が何十人もいると名前を覚えきれませんが、家系図を見せてもらうと、「この人はあの人の子どもで、その人のいとこか」と、一気に関係が分かります。

実は、離散型の分布もこれと同じです。多くの分布は、たった1人のご先祖様から枝分かれした親戚です。関係をたどれば、公式の多くは覚えなくても導けます。

そこで登場するのが、今回の主役である分布の家系図です。ご先祖様の ベルヌーイ分布 から、二項分布、幾何分布、負の二項分布と枝が伸び、さらにポアソン分布や多項分布へつながります。

前回の記事では、少数法則や正規近似といった極限の道具を学びました。今回の記事では、その道具と母関数を使って、主な離散型分布の性質と、分布どうしの関係について解説します。

離散一様分布とベルヌーイ分布：いちばん素朴な分布

サイコロの一様分布と、家系図の始まりのベルヌーイ分布

はじめに、最も素朴な2つの分布について解説します。

離散一様分布 は、$1, 2, \dots, N$ の値を同じ確率でとる分布です。

$$P(X = k) = \frac{1}{N} \quad (k = 1, \dots, N), \qquad E[X] = \frac{N + 1}{2}, \qquad V[X] = \frac{N^2 - 1}{12}$$

期待値は、$\sum k = N(N+1)/2$ を $N$ で割って求まります。分散は、$\sum k^2 = N(N+1)(2N+1)/6$ から $E[X^2]$ を求めて引きます。

サイコロなら $N = 6$ で、期待値3.5、分散 $35/12 \approx 2.92$ です。10面のサイコロなら、期待値5.5、分散8.25です。

ベルヌーイ分布 は、1回の試行の成否を表す分布です。成功なら1、失敗なら0をとります。

$$P(X = 1) = p, \quad P(X = 0) = 1 - p, \qquad E[X] = p, \qquad V[X] = p(1 - p)$$

これが家系図のご先祖様です。モーメント母関数は $1 - p + p e^t$、確率母関数は $1 - p + ps$ です。

地味に見えますが、ベルヌーイ分布には大きな使い道があります。ある事象が起きたら1、起きなければ0とする変数を、指示変数と呼びます。指示変数の期待値は事象の確率そのものです。「全体の個数」を指示変数の和に分ければ、期待値の計算が足し算だけで済みます。出席簿の○を1つずつ足すようなものです。

例えば、準1級の最初の記事で学んだプレゼント交換で、自分の品を受け取る人数の期待値はいくらでしょうか？ $n$ 人のそれぞれが確率 $1/n$ で自分の品を受け取るので、$n \times (1/n) = 1$ 人です。独立でなくても、期待値の和は成り立ちます。

以上が、離散一様分布とベルヌーイ分布についての解説です。

二項分布と超幾何分布：回数を決めて数える

戻さないと期待値は同じまま、分散だけが小さくなる

次に、回数を決めて成功を数える2つの分布について説明します。

二項分布 $B(n, p)$ は、独立なベルヌーイ分布 $n$ 個の和の分布です。

$$P(X = x) = \binom{n}{x} p^x (1 - p)^{n - x}, \qquad M(t) = (1 - p + p e^t)^n$$

和の分布なので、モーメント母関数はベルヌーイ分布の $n$ 乗です。期待値 $np$ と分散 $np(1-p)$ も、それぞれの和として出ます。また、$p$ が同じなら $B(m, p)$ と $B(n, p)$ の和は $B(m + n, p)$ で、再生性をもちます。

福引に例えましょう。引いた玉を箱に戻してかき混ぜるなら、毎回の確率は同じなので二項分布です。では、引いた玉を戻さないならどうなるでしょうか？

これが 超幾何分布 です。当たり $M$ 個を含む $N$ 個から $n$ 個を戻さずに取り出すとき、当たりの個数 $X$ は次の分布に従います。

$$P(X = x) = \frac{\binom{M}{x} \binom{N - M}{n - x}}{\binom{N}{n}}$$

$p = M/N$ とおくと、期待値と分散は次のようになります。

$$E[X] = np, \qquad V[X] = np(1 - p) \cdot \frac{N - n}{N - 1}$$

導出の要点は指示変数です。$i$ 番目に引いた玉が当たりなら1とする $I_i$ を使うと、$X = \sum I_i$ です。どの $I_i$ も確率は $p$ なので、期待値は $np$ で、二項分布と同じです。ただし、当たりが1つ出ると残りの当たりが減るので、$I_i$ どうしには負の相関があります。この分だけ分散が小さくなります。$(N - n)/(N - 1)$ を 有限修正 と呼びます。

具体的に見てみましょう。$N = 20$、$M = 8$、$n = 5$ なら、$p = 0.4$ です。

	超幾何分布	二項分布 $B(5, 0.4)$
期待値	2	2
分散	$1.2 \times 15/19 \approx 0.947$	1.2
$P(X = 2)$	$\frac{28 \times 220}{15504} \approx 0.397$	0.346

$N$ を大きくすると有限修正は1に近づき、超幾何分布は二項分布に近づきます。大きな箱から少し引くだけなら、戻しても戻さなくても、ほとんど差がないのです。

試験のポイント：超幾何分布の期待値は二項分布と同じで、分散だけ有限修正の分小さくなります。$n = N$ なら全部を取り出すので、分散は0です。

以上が、二項分布と超幾何分布についての説明です。

ポアソン分布：まれな出来事の数

和を知ると二項分布に戻り、ふるい分けてもポアソン分布

続いて、ポアソン分布について解説します。

ポアソン分布 $Po(\lambda)$ は、前回の少数法則で二項分布から生まれた、まれな出来事の回数の分布です。

$$P(X = x) = \frac{e^{-\lambda} \lambda^x}{x!}, \qquad M(t) = \exp(\lambda(e^t - 1)), \qquad E[X] = V[X] = \lambda$$

モーメント母関数の積から、独立なら $Po(\lambda_1)$ と $Po(\lambda_2)$ の和は $Po(\lambda_1 + \lambda_2)$ でした。ここでは、逆向きの2つの関係を押さえましょう。

1. 和を知ると二項分布に戻る

$X \sim Po(\lambda_1)$、$Y \sim Po(\lambda_2)$ が独立で、和 $X + Y = n$ が分かったとします。このとき、$X$ の条件つき分布は二項分布です。

$$P(X = x \mid X + Y = n) = \frac{P(X = x)\, P(Y = n - x)}{P(X + Y = n)} = \binom{n}{x} \left(\frac{\lambda_1}{\lambda_1 + \lambda_2}\right)^x \left(\frac{\lambda_2}{\lambda_1 + \lambda_2}\right)^{n - x}$$

言葉で言うと、「全部で $n$ 件起きたと分かれば、それぞれが $X$ の側で起きた確率は $\lambda_1 / (\lambda_1 + \lambda_2)$」ということです。

例えば、2つの窓口に来る客数が $Po(3)$ と $Po(2)$ に従い、合計4人が来たと分かったとします。1つ目の窓口に3人が来た確率は、$B(4, 0.6)$ より $4 \times 0.6^3 \times 0.4 = 0.3456$ です。

2. ふるい分けてもポアソン分布

来店者数が $Po(\lambda)$ に従い、各客が独立に確率 $p$ で商品を買うとします。買う客の数は $Po(\lambda p)$ に従います。例えば、来店者数が $Po(10)$ で購入確率が0.3なら、買う客の数は $Po(3)$ です。コーヒーのフィルターのように、ふるい分けても分布の型は変わりません。

以上が、ポアソン分布についての解説です。

幾何分布と負の二項分布：成功を待つ分布

何回はずれても、この先の見通しは最初と同じ

次に、成功を待つ分布について説明します。

ここで1つ、注意があります。幾何分布と負の二項分布には、2つの流儀があります。

【幾何分布の2つの流儀】

• 試行回数で数える： 初めて成功するまでの回数 $Y = 1, 2, \dots$。2級の記事はこちら
• 失敗回数で数える： 初めて成功するまでの失敗の回数 $X = 0, 1, \dots$

$Y = X + 1$ の関係があるので、期待値が1ずれるだけで、分散は同じです。準1級の問題では失敗回数で定義されることが多いので、この記事では失敗回数で書きます。

幾何分布 は次のとおりです。

$$P(X = x) = p(1 - p)^x, \qquad E[X] = \frac{1 - p}{p}, \qquad V[X] = \frac{1 - p}{p^2}$$

$x$ 回はずれてから当たる確率なので、この式になります。例えば、$p = 0.2$ のガチャでは、はずれの回数の期待値は4回、分散は20です。試行回数で数えれば期待値は5回で、分散は同じ20です。

幾何分布の最大の特徴は 無記憶性 です。$P(X \ge k) = (1 - p)^k$ なので、次の式が成り立ちます。

$$P(X \ge s + t \mid X \ge s) = \frac{(1 - p)^{s + t}}{(1 - p)^s} = P(X \ge t)$$

言葉で言うと、「何回はずれ続けても、この先の見通しは最初と同じ」ということです。「もう50回はずれたから、そろそろ当たるはず」と思いたくなりますが、ガチャに記憶はありません。無記憶性をもつ離散型分布は、幾何分布だけです。

負の二項分布 は、$r$ 回目の成功までの失敗の回数の分布です。独立な幾何分布 $r$ 個の和なので、期待値も分散も $r$ 倍になります。

$$P(X = x) = \binom{x + r - 1}{x} p^r (1 - p)^x, \qquad E[X] = \frac{r(1 - p)}{p}, \qquad V[X] = \frac{r(1 - p)}{p^2}$$

試行回数で数える流儀なら、期待値は $r$ を足した $r/p$ で、分散は同じです。係数の理由は次のとおりです。最後の1回は必ず成功なので、それより前の $x + r - 1$ 回のどこに $x$ 回の失敗を置くかを選びます。

具体的に見てみましょう。公平なコインで3回目の表が出るまでの裏の回数を $X$ とします。$r = 3$、$p = 0.5$ です。$P(X = 2) = \binom{4}{2} \times 0.5^3 \times 0.5^2 = 0.1875$ で、期待値は3、分散は6です。

分散を期待値で割ると $1/p$ で、1より大きくなります。つまり、負の二項分布の分散は平均より大きいです。ポアソン分布は分散と平均が等しいので、カウントデータの分散が平均より大きいとき（過分散）、負の二項分布がよく使われます。

補足（ここは読み飛ばしてOK）： $\lambda$ 自体が人によって異なり、ガンマ分布に従うとします。ポアソン分布を $\lambda$ について平均すると、負の二項分布になります。「人ごとのばらつき」が過分散の原因の1つです。

試験のポイント：幾何分布と負の二項分布は、問題文の定義（試行回数か失敗回数か）を最初に確認します。

以上が、幾何分布と負の二項分布についての説明です。

多項分布と分布どうしの関係

ベルヌーイ分布から枝分かれする、離散型分布の家系図

最後に、多項分布と、ここまでの家系図の全体を見ていきましょう。

二項分布の結果は2通りでした。多項分布 は、これを $k$ 通りに広げたものです。確率 $p_1, \dots, p_k$（合計1）の試行を独立に $n$ 回行うとき、各結果の回数 $(X_1, \dots, X_k)$ は次の分布に従います。

$$P(X_1 = x_1, \dots, X_k = x_k) = \frac{n!}{x_1! \cdots x_k!}\, p_1^{x_1} \cdots p_k^{x_k} \qquad (x_1 + \cdots + x_k = n)$$

血液型やアンケートの選択肢を数えるときが、この分布です。$X_i$ だけを見ると「$i$ か、それ以外か」の2通りなので、周辺分布は $B(n, p_i)$ です。期待値は $np_i$、分散は $np_i(1 - p_i)$ となります。

共分散は次のとおりです。

$$\mathrm{Cov}[X_i, X_j] = -n p_i p_j \qquad (i \ne j)$$

導出は簡単です。$X_i + X_j$ は $B(n, p_i + p_j)$ に従うので、$V[X_i + X_j] = V[X_i] + V[X_j] + 2\mathrm{Cov}[X_i, X_j]$ に代入して解くと出ます。負になるのは、合計が $n$ に固定されているからです。席が決まった椅子取りゲームと同じで、誰かが増えれば誰かが減ります。

例題：信号の色を数える

通学路の信号が、青0.5、黄0.2、赤0.3の確率で見えるとします。独立に5回見たとき、次を求めましょう。(1) 青3回、黄1回、赤1回の確率。(2) 青の回数の分散。(3) 青と黄の回数の共分散。

【解き方】

1. $\dfrac{5!}{3!\,1!\,1!} \times 0.5^3 \times 0.2 \times 0.3 = 20 \times 0.0075 = 0.15$
2. 青の回数の周辺分布は $B(5, 0.5)$ なので、分散は $5 \times 0.5 \times 0.5 = 1.25$
3. $-5 \times 0.5 \times 0.2 = -0.5$

答えは、(1) 0.15、(2) 1.25、(3) $-0.5$ です。

さて、ここまでの関係を家系図にまとめましょう。

元の分布	操作	生まれる分布
ベルヌーイ分布	$n$ 個の和	二項分布
ベルヌーイ分布	初めての成功まで待つ	幾何分布
幾何分布	$r$ 個の和	負の二項分布
超幾何分布	$N \to \infty$	二項分布
二項分布	$n \to \infty$、$np = \lambda$ を一定	ポアソン分布
二項分布	結果を $k$ 通りに広げる	多項分布
ポアソン分布の組	和を固定して条件をつける	二項分布

分布	期待値	分散	分散と平均の関係
二項分布	$np$	$np(1-p)$	分散 < 平均
ポアソン分布	$\lambda$	$\lambda$	分散 = 平均
負の二項分布	$r(1-p)/p$	$r(1-p)/p^2$	分散 > 平均

2つ目の表は、カウントデータに当てはめる分布を選ぶ手がかりにもなります。データの分散と平均を比べるだけで、候補が絞れるのです。

以上が、多項分布と分布どうしの関係についての説明です。

細かい公式を全部暗記できなくても問題ありません。ここでは、「ベルヌーイ分布から始まる家系図」と「何を固定して、何を数えているか」という点だけ押さえておきましょう。

今回のまとめ

和、極限、条件で、分布から分布へたどる

それでは、今回の内容を振り返ります。

今回は主な離散型分布の性質と、分布どうしの関係について紹介しました。どの分布も、ベルヌーイ試行のどこに注目して数えるかが違うだけです。公式を丸暗記するより、「和」「極限」「条件」でたどる家系図を頭に入れておくほうが、ずっと強い武器になります。

今回のポイントを振り返りましょう。

振り返り

• ベルヌーイ分布が家系図のご先祖様。和をとると二項分布になる。
• 超幾何分布は戻さない福引。期待値は二項分布と同じで、分散が有限修正の分だけ小さい。
• ポアソン分布の和は再び同じ型で、和を固定すると二項分布に戻る。
• 幾何分布はガチャの待ち回数で、無記憶性をもつ。和をとると負の二項分布になる。定義の流儀に注意する。
• 多項分布は二項分布の拡張で、回数どうしの共分散は負になる。

キーワードのおさらい

• 離散一様分布: $1, \dots, N$ を同じ確率でとる分布
• ベルヌーイ分布: 1回の試行の成否を0と1で表す分布
• 二項分布: 独立なベルヌーイ試行 $n$ 回の成功回数の分布
• 超幾何分布: 戻さない抽出での当たりの個数の分布
• ポアソン分布: まれな出来事の回数の分布。期待値と分散が等しい
• 幾何分布: 初めての成功までの回数の分布。無記憶性をもつ
• 負の二項分布: $r$ 回目の成功までの回数の分布
• 多項分布: 結果が $k$ 通りの試行を $n$ 回行ったときの、各結果の回数の分布

さて、今回は「数える」分布の家系図を作りました。「測る」分布、つまり連続型の分布にも、同じように家系図があります。待ち時間を足すと何が生まれ、比をとると何が生まれるのでしょうか？ 中には、平均が存在しない不思議な分布もいます。

次回は、主な「連続型分布」の性質と、分布どうしの関係について紹介します。

それでは、次の記事へ進んでいきましょう。