統計学 学習ノート

統計検定の4級から1級まで、出題範囲の順に記事と練習問題で学ぶ

2級-14 推測統計の基礎

確率変数 — 期待値と分散

  • 離散型確率変数
  • 連続型確率変数
  • 確率変数の期待値・分散・標準偏差
  • 確率変数の和と差(同時分布
  • 和の期待値・分散)
  • 2変数の共分散・相関

はじめに

「このくじ、1回100円らしいけど、引いて得なの?」

お祭りのくじ引きで、こう悩んだことはありませんか? 大当たりなら500円、小当たりなら100円、外れれば0円。確率が分かっていても、それだけでは得か損かは分かりません。賞金と確率を合わせて、「平均していくら戻ってくるか」を考える必要があります。

前回の記事では、確率のルールを学びました。そこでは「当たる」「陽性になる」のように、結果を言葉で扱いました。今回は、結果に数を割り当てます。3級で学んだ確率変数の平均・分散を、2級では2つの変数の組み合わせにまで広げます。

実は、結果を数にすると、計算の世界が一気に広がります。平均も、散らばりも、相関も、これまでデータで学んだことがそのまま確率の世界に持ち込めるのです。

そこで登場するのが、今回の主役 確率変数 です。今回の記事では、離散型と連続型の確率変数、期待値・分散・標準偏差、同時分布と共分散・相関、そして確率変数の和と差について解説します。

確率変数:結果を数にする

はじめに、確率変数とは何かについて解説します。

確率変数(random variable) とは、試行の結果によって値が決まり、その値の出方が確率で定まる変数のことです。例えば、サイコロの目 XX は、振る前は1から6のどれか分かりません。でも、それぞれの値の確率は決まっています。

例えるなら、確率変数は中身の見えない福袋です。開けるまで中身の金額は分かりませんが、どんな金額がどの割合で入っているかは、表に書いてあります。

確率変数は大文字の XX、実際にとる値は小文字の xx で書きます。確率変数は、値のとり方で2種類に分かれます。1つずつ見ていきましょう。

1. 離散型確率変数

離散型確率変数 は、サイコロの目やガチャの回数のように、とびとびの値をとる確率変数です。それぞれの値の確率を、次の 確率関数 で表します。

P(X=xi)=pi,∑ipi=1P(X = x_i) = p_i, \qquad \sum_i p_i = 1

例えば、冒頭のくじの賞金 XX が次のようだとします。

賞金 xx(円)0100500
確率 pp0.50.30.2

確率を全部足すと1になります。この値と確率の組み合わせ全体を、確率分布 と言います。

2. 連続型確率変数

連続型確率変数 は、身長や待ち時間のように、連続した値をとる確率変数です。ここで注意が必要です。待ち時間がちょうど3.000…分になる確率は0です。そこで、連続型では「ある範囲に入る確率」を考えます。

連続型の分布は 確率密度関数 f(x)f(x) で表します。確率は、曲線の下の面積です。

P(a≤X≤b)=∫abf(x) dx,∫−∞∞f(x) dx=1P(a \le X \le b) = \int_a^b f(x) \, dx, \qquad \int_{-\infty}^{\infty} f(x) \, dx = 1

離散型が積み木の山だとすると、連続型はなめらかな砂の山です。ある範囲の砂の量が、その範囲の確率です。砂の総量は1で、1点の上に砂の量はありません。

例えば、10分おきに来るバスの待ち時間 XX が、0分から10分のどの値も同じように出るとします。f(x)=1/10f(x) = 1/10 の平らな分布です。2分から5分待つ確率は、長方形の面積なので、(5 − 2) × 1/10 = 0.3 です。

せっかくなので、別の例も見てみましょう。f(x)=2xf(x) = 2x(0≤x≤10 \le x \le 1)のとき、XX が0.5以下になる確率は次のとおりです。

P(X≤0.5)=∫00.52x dx=[x2]00.5=0.25P(X \le 0.5) = \int_0^{0.5} 2x \, dx = \Big[ x^2 \Big]_0^{0.5} = 0.25

このように「xx 以下になる確率」を表す関数 F(x)=P(X≤x)F(x) = P(X \le x) を、累積分布関数 と呼びます。

以上が、確率変数についての解説です。

確率変数の期待値・分散・標準偏差

次に、確率分布の中心と散らばりを表す指標について説明します。

期待値(expected value) は、確率変数の平均です。何度もくり返したときに平均していくらになるかを表し、E[X]E[X] または μ\mu と書きます。

E[X]=∑ixipi,E[X]=∫−∞∞xf(x) dxE[X] = \sum_i x_i p_i, \qquad E[X] = \int_{-\infty}^{\infty} x f(x) \, dx

左が離散型、右が連続型です。言葉で言うと、「値 × 確率」を全部足します。分布を板の上に置いたときに、シーソーがつり合う支点の位置が期待値です。

分散(variance) は、期待値からのズレの2乗の期待値です。V[X]V[X] または σ2\sigma^2 と書きます。標準偏差 は、その平方根です。

V[X]=E[(X−μ)2]=E[X2]−μ2,σ=V[X]V[X] = E\big[(X - \mu)^2\big] = E[X^2] - \mu^2, \qquad \sigma = \sqrt{V[X]}

2つ目の「2乗の期待値から、期待値の2乗を引く」という式が、計算では便利です。

例題:くじの期待値と標準偏差

冒頭のくじの賞金 XX の、期待値・分散・標準偏差を求めましょう。

【解き方】

  1. 期待値: E[X]=0×0.5+100×0.3+500×0.2=130E[X] = 0 \times 0.5 + 100 \times 0.3 + 500 \times 0.2 = 130
  2. 2乗の期待値: E[X2]=0+10000×0.3+250000×0.2=53000E[X^2] = 0 + 10000 \times 0.3 + 250000 \times 0.2 = 53000
  3. 分散: V[X]=53000−1302=36100V[X] = 53000 - 130^2 = 36100
  4. 標準偏差: σ=36100=190\sigma = \sqrt{36100} = 190

答えは、期待値130円、分散36,100、標準偏差190円です。1回100円なら、平均して30円得をするくじです。ただし、標準偏差が190円もあるので、1回ごとの結果は大きく揺れます。

連続型でも、手順は同じです。f(x)=2xf(x) = 2x(0≤x≤10 \le x \le 1)で計算してみましょう。

【連続型の計算】

  1. 期待値: E[X]=∫01x⋅2x dx=2/3E[X] = \int_0^1 x \cdot 2x \, dx = 2/3
  2. 2乗の期待値: E[X2]=∫01x2⋅2x dx=1/2E[X^2] = \int_0^1 x^2 \cdot 2x \, dx = 1/2
  3. 分散: V[X]=1/2−(2/3)2=1/18V[X] = 1/2 - (2/3)^2 = 1/18

さらに、確率変数を aX+baX + b に変換したときの公式も大切です。

E[aX+b]=aE[X]+b,V[aX+b]=a2V[X]E[aX + b] = aE[X] + b, \qquad V[aX + b] = a^2 V[X]

足した定数 bb は全体を平行移動するだけなので、散らばりは変わりません。また、aa 倍すると散らばりの幅が aa 倍になるので、分散は2乗の a2a^2 倍になります。標準偏差は ∣a∣|a| 倍です。

例えば、くじの賞金を2倍して10円足すと、期待値は 2 × 130 + 10 = 270 円、標準偏差は 2 × 190 = 380 円です。また、Z=(X−μ)/σZ = (X - \mu)/\sigma と変換すると、期待値0、分散1になります。これがデータで学んだ標準化の確率変数版です。

試験のポイント:V[aX+b]=a2V[X]V[aX + b] = a^2 V[X] です。定数 bb は消え、aa は2乗になります。

以上が、確率変数の期待値・分散・標準偏差についての説明です。

同時分布と2変数の共分散・相関

続いて、2つの確率変数をまとめて扱う方法について解説します。

身長と体重のように、2つの確率変数を同時に考えたい場面はよくあります。X=xX = x かつ Y=yY = y となる確率の全体を 同時分布 と呼びます。3級で学んだクロス集計表の、確率版だと考えてください。

例えば、朝ごはんを食べたら X=1X = 1、食べなければ X=0X = 0、小テストに合格したら Y=1Y = 1、不合格なら Y=0Y = 0 とします。

Y=0Y = 0Y=1Y = 1合計
X=0X = 00.30.20.5
X=1X = 10.10.40.5
合計0.40.61

表の見方を説明します。真ん中の4つの数が同時確率です。例えば、P(X=1,Y=1)=0.4P(X = 1, Y = 1) = 0.4 です。右端と下端の合計は、それぞれ XX だけ、YY だけの分布で、周辺分布 と言います。

すべての x,yx, y について P(X=x,Y=y)=P(X=x)P(Y=y)P(X = x, Y = y) = P(X = x) P(Y = y) が成り立つとき、XX と YY は 独立 です。この例では、P(X=1,Y=1)=0.4P(X = 1, Y = 1) = 0.4 で、0.5×0.6=0.30.5 \times 0.6 = 0.3 と異なるので、独立ではありません。

では、2変数の共分散・相関を定義しましょう。3級で学んだデータの共分散と同じ考え方です。

Cov[X,Y]=E[(X−μX)(Y−μY)]=E[XY]−E[X]E[Y]\mathrm{Cov}[X, Y] = E\big[(X - \mu_X)(Y - \mu_Y)\big] = E[XY] - E[X] E[Y] ρ=Cov[X,Y]σXσY\rho = \frac{\mathrm{Cov}[X, Y]}{\sigma_X \sigma_Y}

共分散は、2つの変数が一緒に動く向きを表します。それを −1 から1の範囲にそろえたものが、相関係数 ρ\rho(ロー)です。二人三脚に例えると、共分散は足並みのそろい方で、相関係数はそれを点数にしたものです。

例題:同時分布から共分散と相関係数を求める

表の XX と YY の共分散と相関係数を求めましょう。

【解き方】

  1. 期待値: E[X]=0.5E[X] = 0.5、E[Y]=0.6E[Y] = 0.6
  2. 積の期待値: XY=1XY = 1 となるのは X=1,Y=1X = 1, Y = 1 だけなので、E[XY]=0.4E[XY] = 0.4
  3. 共分散: 0.4−0.5×0.6=0.10.4 - 0.5 \times 0.6 = 0.1
  4. 分散: V[X]=0.5−0.52=0.25V[X] = 0.5 - 0.5^2 = 0.25、V[Y]=0.6−0.62=0.24V[Y] = 0.6 - 0.6^2 = 0.24
  5. 相関係数: ρ=0.1÷0.25×0.24≈0.41\rho = 0.1 \div \sqrt{0.25 \times 0.24} \approx 0.41

答えは、共分散0.1、相関係数約0.41です。正の相関があると読めます。

ここで大切な注意があります。独立なら共分散は0ですが、逆は成り立ちません。例えば、XX が −1, 0, 1 を確率 1/31/3 ずつとり、Y=X2Y = X^2 とします。E[XY]=E[X3]=0E[XY] = E[X^3] = 0、E[X]=0E[X] = 0 なので、共分散は0です。でも、YY は XX で完全に決まるので、独立ではありません。共分散が測れるのは、直線的な関係だけなのです。

試験のポイント:独立ならば無相関ですが、無相関でも独立とは限りません。

以上が、同時分布と共分散・相関についての解説です。

確率変数の和と差:散らばりは足し算になる

最後に、確率変数の和と差(同時分布、和の期待値・分散)を見ていきましょう。同時分布が分かれば、2つの変数を足した値や引いた値の性質も計算できます。

国語と数学の合計点のように、2つの確率変数を足した値を考えることがあります。期待値は、とても素直です。

E[X+Y]=E[X]+E[Y],E[X−Y]=E[X]−E[Y]E[X + Y] = E[X] + E[Y], \qquad E[X - Y] = E[X] - E[Y]

この式は、独立でなくても、いつでも成り立ちます。

一方で、分散には共分散の項がつきます。

V[X±Y]=V[X]+V[Y]±2 Cov[X,Y]V[X \pm Y] = V[X] + V[Y] \pm 2 \, \mathrm{Cov}[X, Y]

XX と YY が独立なら共分散が0なので、和も差も同じ式になります。

V[X+Y]=V[X−Y]=V[X]+V[Y]V[X + Y] = V[X - Y] = V[X] + V[Y]

ここがポイントです。差の分散も、足し算です。なぜでしょうか? 2人が別々に歩いて、距離の差を測るとします。どちらの歩幅が揺れても、差は揺れます。揺れは打ち消し合わず、積み重なるのです。

具体的に見てみましょう。国語の点数 XX が平均60点、標準偏差8点、数学の点数 YY が平均55点、標準偏差6点だとします。

【和と差の計算(独立のとき)】

  • 合計の期待値: 60 + 55 = 115
  • 差の期待値: 60 − 55 = 5
  • 和と差の分散: 82+62=1008^2 + 6^2 = 100
  • 和と差の標準偏差: 100=10\sqrt{100} = 10

標準偏差は8 + 6 = 14ではなく、10です。標準偏差を足すのではなく、分散を足すことに注意しましょう。

もし相関係数が0.5なら、どうなるでしょうか? 共分散は 0.5 × 8 × 6 = 24 です。合計の分散は 100 + 2 × 24 = 148 で、標準偏差は約12.2に増えます。差の分散は 100 − 48 = 52 で、標準偏差は約7.2に減ります。同じ向きに動く2つを足すと揺れが増え、引くと揺れが減るのです。

例題:同時分布から和と差の分散を求める

朝ごはんと小テストの表の X,YX, Y について、V[X+Y]V[X + Y] と V[X−Y]V[X - Y] を求めましょう。

【解き方】

  1. 分散と共分散: V[X]=0.25V[X] = 0.25、V[Y]=0.24V[Y] = 0.24、Cov[X,Y]=0.1\mathrm{Cov}[X, Y] = 0.1
  2. 和の分散: 0.25+0.24+2×0.1=0.690.25 + 0.24 + 2 \times 0.1 = 0.69
  3. 差の分散: 0.25+0.24−2×0.1=0.290.25 + 0.24 - 2 \times 0.1 = 0.29

答えは、V[X+Y]=0.69V[X + Y] = 0.69、V[X−Y]=0.29V[X - Y] = 0.29 です。

確かめてみましょう。X+YX + Y は0, 1, 2を確率0.3, 0.3, 0.4でとります。期待値は1.1で、2乗の期待値は1.9なので、分散は 1.9 − 1.21 = 0.69 と、公式に一致します。

和の公式は、3つ以上にも広がります。互いに独立で、同じ期待値 μ\mu、分散 σ2\sigma^2 を持つ X1,…,XnX_1, \ldots, X_n の平均 Xˉ\bar{X} については、次の式が成り立ちます。

E[Xˉ]=μ,V[Xˉ]=σ2nE[\bar{X}] = \mu, \qquad V[\bar{X}] = \frac{\sigma^2}{n}

例えば、サイコロの目の分散は 35/1235/12 なので、2個のサイコロの目の和の分散は 35/6≈5.8335/6 \approx 5.83 です。そして、nn 個の平均をとると、分散は 1/n1/n に小さくなります。これが、標本平均のぶれの正体です。

以上が、確率変数の和と差についての説明です。

細かい計算を忘れてしまっても問題ありません。ここでは、「期待値は素直に足し引き、分散は足し算に共分散を添える」という点だけ押さえておきましょう。

今回のまとめ

それでは、今回の内容を振り返ります。

今回は、結果を数として扱う確率変数と、その計算のルールについて紹介しました。データの平均・分散・相関で学んだことが、確率の世界で同じ形で働いています。特に分散の足し算は、この先の標本平均や検定の土台になります。

今回のポイントを振り返りましょう。

振り返り

  • 確率変数は中身の見えない福袋。離散型は積み木、連続型は砂の山で、確率は面積になる。
  • 期待値は分布のつり合う支点。分散は E[X2]−μ2E[X^2] - \mu^2 で計算できる。
  • V[aX+b]=a2V[X]V[aX + b] = a^2 V[X]。定数は消え、掛けた数は2乗になる。
  • 共分散は足並みのそろい方。独立なら無相関だが、逆は成り立たない。
  • 期待値はそのまま足し引き。独立なら、和でも差でも分散は足し算。

キーワードのおさらい

  • 離散型確率変数: とびとびの値をとる確率変数
  • 連続型確率変数: 連続した値をとり、確率密度関数で表す確率変数
  • 期待値: 値と確率の積の合計で、確率変数の平均
  • 分散: 期待値からのズレの2乗の期待値
  • 標準偏差: 分散の平方根
  • 同時分布: 2つの確率変数の値の組み合わせの確率
  • 共分散: 2つの確率変数が一緒に動く向きと大きさ
  • 相関係数: 共分散を2つの標準偏差で割った、−1 から1の値

さて、今回の分布は、くじのように自分で表を作ったものでした。でも、世の中には、コイン投げの回数や待ち時間など、何度も現れる決まった形の分布があります。

次回は、二項分布やポアソン分布、正規分布など、基礎的な「確率分布」の特徴について紹介します。

それでは、次の記事へ進んでいきましょう。

練習問題5問開いて挑戦する
問1. 確率変数 XX が0, 1, 2を確率0.2, 0.5, 0.3でとる。XX の分散として正しいものはどれか。
問2. E[X]=4E[X] = 4、V[X]=2V[X] = 2 のとき、Y=3X−2Y = 3X - 2 の期待値と分散の組として正しいものはどれか。
問3. 連続型確率変数 XX の確率密度関数が f(x)=x/2f(x) = x/2(0≤x≤20 \le x \le 2)のとき、P(X≤1)P(X \le 1) として正しいものはどれか。
問4. V[X]=25V[X] = 25、V[Y]=16V[Y] = 16、Cov[X,Y]=−6\mathrm{Cov}[X, Y] = -6 のとき、V[X−Y]V[X - Y] として正しいものはどれか。
問5. 確率変数 XX と YY の共分散が0であるとき、最も適切な説明はどれか。