統計学 学習ノート

はじめに

「母関数って、平均を出すだけなら定義から計算すればよくない？」

準1級では、母関数を微分して平均と分散を求めました。でも、定義どおりに和や積分を計算しても、同じ答えが出ますよね。わざわざ遠回りする理由が、いまひとつ見えません。

例えば、本人確認を考えてみましょう。身長と体重が同じでも、本人とは言い切れません。しかし指紋が一致すれば、本人だと分かります。平均と分散は身長と体重のようなもので、分布の一部しか語りません。

実は、母関数の本当の力は、平均を出すことではありません。母関数は分布の指紋です。一致すれば分布が同じだと言えて、独立な和は指紋の掛け算になります。この性質のおかげで、和の分布を積分なしで導けるのです。

そこで登場するのが、今回の主役 確率母関数 と モーメント母関数 です。もう1人、寿命の分析で活躍する 危険率 も加わります。

前回の記事では、事象の確率を公理から導きました。今回の記事では、危険率と生存関数の関係、同時分布から条件付き分布を組み立てる手順、そして2つの母関数の定理とその証明について解説します。

生存関数と危険率：今この瞬間の危なさ

はじめに、分布を表す関数と、新しく加わる危険率について解説します。

準1級の復習です。離散型は確率関数 $p(x)$、連続型は確率密度関数 $f(x)$ で表します。どちらにも累積分布関数 $F(x) = P(X \le x)$ と生存関数 $S(x) = 1 - F(x)$ があり、連続型では $f(x) = F'(x) = -S'(x)$ です。

ここに加わるのが 危険率（hazard rate）です。ハザード関数とも呼びます。$X$ を機械の寿命とすると、時刻 $x$ まで動いた機械が、その直後に壊れる勢いを表します。

$$h(x) = \lim_{\Delta \to +0} \frac{P(x < X \le x + \Delta \mid X > x)}{\Delta} = \frac{f(x)}{S(x)}$$

右の等号は、定義から出ます。条件付き確率の分子は $F(x + \Delta) - F(x)$、分母は $S(x)$ なので、$\Delta$ で割って極限をとると $f(x)/S(x)$ です。

$f(x)$ と $h(x)$ の違いは、分母にあります。$f(x)$ は「生まれた全員」を基準にした濃さで、$h(x)$ は「今も生きている人」を基準にした濃さです。「80歳で亡くなる人の割合」と「80歳まで生きた人が1年以内に亡くなる割合」は、まったく別の数字ですよね。前者が $f$ で、後者が $h$ にあたります。

補足（ここは読み飛ばしてOK）： 検定の有意水準を「危険率」と呼ぶ本もありますが、それとは別の用語です。ここでの危険率は、生存時間の分析で使う量です。

$f = -S'$ なので、$h(x) = -\dfrac{d}{dx} \log S(x)$ と書けます。$X > 0$ なら $S(0) = 1$ なので、積分すると次の公式が得られます。

$$S(x) = \exp\left(-\int_0^x h(u)\, du\right)$$

つまり、危険率が分かれば、生存関数も確率密度関数も決まります。危険率もまた、同じ分布の別の見せ方なのです。

例えば、$h(x) = \lambda$（定数）なら $S(x) = e^{-\lambda x}$ で、指数分布です。どれだけ使っても壊れやすさが変わらない、年をとらない部品のモデルです。

もう1つ、$X \ge 0$ のとき $E[X] = \int_0^\infty S(x)\, dx$ が成り立ちます。証明は、$X = \int_0^\infty \mathbf{1}_{\{x < X\}}\, dx$ の両辺の期待値をとり、期待値と積分の順序を入れかえるだけです。前回の指示関数が、ここでも働きます。

例題：危険率から分布を求める

機械の寿命 $X$（年）の危険率が $h(x) = x$（$x > 0$）である。〔1〕$S(x)$ と $f(x)$ を求めよ。〔2〕$P(X > 2 \mid X > 1)$ を求めよ。〔3〕$E[X]$ を求めよ。

【解答】

〔1〕$\int_0^x u\, du = x^2/2$ より $S(x) = e^{-x^2/2}$ である。$f = hS$ より $f(x) = x e^{-x^2/2}$ である。

〔2〕$P(X > 2 \mid X > 1) = S(2)/S(1) = e^{-2 + 1/2} = e^{-3/2} \approx 0.223$ である。

〔3〕正規分布の確率密度関数の積分が1であることから、$E[X] = \int_0^\infty e^{-x^2/2}\, dx = \sqrt{\pi/2} \approx 1.253$ である。

新品が1年もつ確率は $S(1) \approx 0.607$ なので、1年使った機械のほうが、次の1年はずっと危ないと分かります。

以上が、生存関数と危険率についての解説です。

同時分布から条件付き分布を組み立てる

次に、2つの確率変数の扱い方について説明します。

同時分布 から片方を足し切ると 周辺分布 になり、同時を周辺で割ると 条件付き分布 になる、というのが準1級の内容でした。1級ではこれを逆向きにも使います。条件付き確率の定義の分母を払った、次の式です。

$$p(x, y) = p_X(x)\, p(y \mid x)$$

現実のモデルは、たいていこの形で作られます。まず $X$ の値が決まり、それに応じて $Y$ の値が決まるのです。二段階のくじのように、1段目の結果で2段目のくじ箱が変わるイメージです。

例えば、連続型で $0 < y < x$ の範囲に $f(x, y) = e^{-x}$ があるとします。積分の範囲に注意して足し切ると、$f_X(x) = \int_0^x e^{-x}\, dy = x e^{-x}$、$f_Y(y) = \int_y^\infty e^{-x}\, dx = e^{-y}$ です。割り算すると $f(y \mid x) = 1/x$、$f(x \mid y) = e^{-(x-y)}$ です。

読み方はこうです。$X = x$ のもとで、$Y$ は $(0, x)$ の一様分布に従います。$Y = y$ のもとでは、$X - y$ が指数分布に従います。同じ同時分布を、2通りの段階に分解できるのです。

例題：買った人の数の分布

1時間の来店者数 $X$ はポアソン分布 $Po(\lambda)$ に従い、各来店者は互いに独立に確率 $p$ で商品を買う。買った人数を $Y$、$q = 1 - p$ とする。〔1〕同時確率関数 $p(x, y)$ を求めよ。〔2〕$Y$ の周辺分布を求めよ。〔3〕$Y = y$ のもとでの $X$ の条件付き分布を求めよ。

【解答】

〔1〕$X = x$ のもとで $Y \sim B(x, p)$ だから、$0 \le y \le x$ で次のようになる。

$$p(x, y) = \frac{e^{-\lambda} \lambda^x}{x!} \cdot \frac{x!}{y!\,(x-y)!}\, p^y q^{x-y} = e^{-\lambda}\, \frac{(\lambda p)^y}{y!} \cdot \frac{(\lambda q)^{x-y}}{(x-y)!}$$

〔2〕$x$ を $y$ 以上で足す。$z = x - y$ とおくと $\sum_{z=0}^{\infty} (\lambda q)^z / z! = e^{\lambda q}$ だから、次を得る。

$$p_Y(y) = e^{-\lambda + \lambda q}\, \frac{(\lambda p)^y}{y!} = e^{-\lambda p}\, \frac{(\lambda p)^y}{y!}$$

すなわち $Y \sim Po(\lambda p)$ である。

〔3〕〔1〕を〔2〕で割ると、$p(x \mid y) = e^{-\lambda q} (\lambda q)^{x-y} / (x-y)!$ である。すなわち、$Y = y$ のもとで $X - y \sim Po(\lambda q)$ である。

〔3〕の分布は $y$ によりません。買わなかった人数は、買った人数を聞いても変わらないのです。例えば $\lambda = 6$、$p = 1/3$ なら $Y \sim Po(2)$ で、誰も買わない確率は $e^{-2} \approx 0.135$ です。

試験のポイント：周辺化の和や積分は、$f(x, y)$ が正になる範囲で行います。答案では、はじめに範囲を明記します。

以上が、同時分布から条件付き分布を組み立てる手順についての説明です。

確率母関数：ランダムな個数の和まで扱う

続いて、確率母関数について解説します。

確率母関数 は、0以上の整数をとる $X$ について $G(s) = E[s^X] = \sum_k p_k s^k$ と定めます。$s^k$ の位置に確率 $p_k$ を1つずつ吊るした、物干し竿のような関数です。

【確率母関数の3つの性質】

1. 確率が取り出せる： $p_k = G^{(k)}(0) / k!$
2. 階乗モーメントが出る： $G^{(r)}(1) = E[X(X-1)\cdots(X-r+1)]$
3. 独立な和は積になる： $G_{X+Y}(s) = G_X(s)\, G_Y(s)$

性質1はべき級数の係数の取り出しで、$G$ と分布が1対1であることも示しています。性質2は項別に $r$ 回微分して $s = 1$ とおくと出ます。性質3は、独立なら $E[s^X s^Y] = E[s^X] E[s^Y]$ となることから出ます。

性質2から、分散は $V[X] = G''(1) + G'(1) - G'(1)^2$ です。

1級で特に強力なのは、足す個数まで確率変数である場合です。$X_1, X_2, \dots$ が同じ分布に独立に従い、$N$ がそれらと独立なとき、$S = X_1 + \cdots + X_N$ の確率母関数は次のようになります。

$$G_S(s) = G_N(G_X(s))$$

証明の筋道はこうです。$N = n$ のもとでは性質3から $E[s^S \mid N = n] = G_X(s)^n$ です。これを $N$ について平均すると、$E[G_X(s)^N] = G_N(G_X(s))$ が得られます。

合成関数の微分をして $s = 1$ とおくと、次の公式が出ます。

$$E[S] = E[N]\, E[X], \qquad V[S] = E[N]\, V[X] + V[N]\, E[X]^2$$

分散の第1項は「1件ごとのばらつき」、第2項は「件数のばらつき」です。

先ほどの例題を、この道具で解き直してみましょう。$N \sim Po(\lambda)$ で $G_N(s) = e^{\lambda(s-1)}$、1人の購入の有無は $G_X(s) = q + ps$ です。代入すると $G_S(s) = e^{\lambda(q + ps - 1)} = e^{\lambda p (s-1)}$ で、これは $Po(\lambda p)$ の確率母関数です。さっきの和の計算が、1行で済みました。

例題：注文の総個数

1日の注文件数 $N$ が $Po(4)$ に従い、1件の注文の個数は確率 $1/2$ ずつで1個か2個である。件数と各注文の個数はすべて独立とする。総個数を $S$ とする。〔1〕$G_S(s)$ を求めよ。〔2〕$E[S]$ と $V[S]$ を $G_S$ の微分から求めよ。〔3〕$P(S = 1)$ を求めよ。

【解答】

〔1〕$G_X(s) = (s + s^2)/2$ だから、$G_S(s) = \exp(4(G_X(s) - 1)) = \exp(2s + 2s^2 - 4)$ である。

〔2〕$G_S'(s) = (2 + 4s) G_S(s)$、$G_S''(s) = \{(2 + 4s)^2 + 4\} G_S(s)$ で、$G_S(1) = 1$ より $G_S'(1) = 6$、$G_S''(1) = 40$ である。よって $E[S] = 6$、$V[S] = 40 + 6 - 36 = 10$ である。

〔3〕$P(S = 1) = G_S'(0) = 2 e^{-4} \approx 0.037$ である。

公式でも確かめましょう。$E[S] = 4 \times 1.5 = 6$、$V[S] = 4 \times 0.25 + 4 \times 1.5^2 = 10$ で、一致します。

以上が、確率母関数についての解説です。

モーメント母関数：定理の証明とその限界

最後に、モーメント母関数の定理を見ていきましょう。

モーメント母関数 は $M(t) = E[e^{tX}]$ で、$0$ を含む開区間で有限なときに使います。$X$ が0以上の整数なら $M(t) = G(e^t)$ です。

【モーメント母関数の定理】

1. モーメント： $M^{(r)}(0) = E[X^r]$
2. 1次変換と独立な和： $M_{aX+b}(t) = e^{bt} M_X(at)$、$M_{X+Y}(t) = M_X(t) M_Y(t)$
3. 一意性： $0$ の近くで $M$ が一致すれば、分布が一致する

1つずつ見ていきましょう。定理1は、$e^{tX}$ のテイラー展開の期待値を項別にとることで得られます。$0$ の近くで $M$ が有限なら、この入れかえが正当化されます。定理2は、定義に代入するだけです。定理3はラプラス変換の一意性によるもので、答案では証明せずに引用してかまいません。

対数をとった $K(t) = \log M(t)$ を キュムラント母関数 と呼びます。$K' = M'/M$、$K'' = (M''M - M'^2)/M^2$ に $M(0) = 1$ を入れると、次の式が得られます。

$$K'(0) = E[X], \qquad K''(0) = V[X]$$

積を和に変えるので、計算が楽になります。例えばポアソン分布では $K(t) = \lambda(e^t - 1)$ で、微分は何回しても $\lambda$ です。期待値も分散も $\lambda$ だと、すぐに分かります。

例題：指数分布の差

$X$、$Y$ は独立で、どちらも確率密度関数 $e^{-x}$（$x > 0$）に従う。$W = X - Y$ とする。〔1〕$M_W(t)$ を求めよ。〔2〕$W$ の確率密度関数が $\frac{1}{2} e^{-|w|}$ であることを示せ。〔3〕$E[W^2]$ と $E[W^4]$ を求めよ。

【解答】

〔1〕$M_X(t) = \int_0^\infty e^{-(1-t)x}\, dx = 1/(1-t)$（$t < 1$）である。定理2より、$|t| < 1$ で次を得る。

$$M_W(t) = M_X(t)\, M_Y(-t) = \frac{1}{(1-t)(1+t)} = \frac{1}{1 - t^2}$$

〔2〕$\frac{1}{2} e^{-|w|}$ のモーメント母関数を計算する。$w > 0$ と $w < 0$ に分けて積分すると、$\frac{1}{2}\left(\frac{1}{1-t} + \frac{1}{1+t}\right) = \frac{1}{1-t^2}$ で、〔1〕と一致する。定理3より、$W$ の確率密度関数はこれである。

〔3〕$1/(1-t^2) = 1 + t^2 + t^4 + \cdots$ である。$t^r$ の係数は $E[W^r]/r!$ だから、$E[W^2] = 2$、$E[W^4] = 24$ である。

畳み込みの積分を1回もせずに、分布が同定できました。これが「指紋」の使い方です。

ただし、モーメント母関数には弱点があります。存在しない分布があるのです。

【モーメント母関数が使えない例】

• コーシー分布： $t \ne 0$ で発散する。期待値も存在しない
• 対数正規分布： すべてのモーメントが有限なのに、$t > 0$ で発散する

そこで、虚数単位を使った 特性関数 $\varphi(t) = E[e^{itX}]$ が用意されています。$|e^{itX}| = 1$ なので、どんな分布にも必ず存在します。一意性も、独立な和が積になる性質も同じです。

試験のポイント：「分布を求めよ」と問われたら、母関数を計算して既知の分布と一致させ、一意性を明記して結論します。「一意性より」の一言を落とさないようにしましょう。

以上が、モーメント母関数についての解説です。

細かい部分が分からなかったとしても問題ありません。ここでは、「母関数は分布の指紋で、独立な和を掛け算に変える」という点だけ押さえておきましょう。

今回のまとめ

それでは、今回の内容を振り返ります。

今回は分布を表す関数のつながりと、2つの母関数の定理について紹介しました。確率関数も生存関数も危険率も母関数も、同じ分布の別の見せ方です。問題に応じて、いちばん計算の楽な見せ方に移ることが、1級の解き方です。

今回のポイントを振り返りましょう。

振り返り

• 危険率は「今も生きている人」を基準にした濃さで、$h = f/S$。積分すると生存関数に戻る。
• 同時分布は「周辺 × 条件付き」で組み立てられ、二段階のモデルはこの形で書ける。
• ランダムな個数の和の確率母関数は $G_N(G_X(s))$ で、合成関数になる。
• モーメント母関数は分布の指紋。独立な和を積に変え、一意性で分布を同定する。

キーワードのおさらい

• 確率関数: 離散型で各値をとる確率を表す関数
• 確率密度関数: 連続型で積分すると確率になる関数
• 累積分布関数: $F(x) = P(X \le x)$
• 生存関数: $S(x) = P(X > x) = 1 - F(x)$
• 危険率: $h(x) = f(x)/S(x)$。生き残った条件のもとで直後に起こる勢い
• 同時分布: 複数の確率変数をまとめて見た分布
• 周辺分布: 同時分布から他の変数を足し切った分布
• 条件付き分布: 片方の値を固定したときの分布。同時を周辺で割る
• 確率母関数: $G(s) = E[s^X]$。階乗モーメントと確率を取り出せる
• モーメント母関数（積率母関数）: $M(t) = E[e^{tX}]$。モーメントが微分で出て、分布を一意に定める

さて、母関数を使うとモーメントが楽に求まることが分かりました。では、求めたモーメントから、分布の形はどこまで読み取れるのでしょうか？

次回は、分布の特性値について紹介します。

それでは、次の記事へ進んでいきましょう。