統計学 学習ノート

はじめに

値を順位に置きかえると、飛び抜けた値も1つの順位になる

「データが6個しかない。正規分布に従うかなんて、確かめようがない……」

新しい栽培法の効果を調べるために、鉢を3つずつ育てたとします。$t$ 検定を使いたいのですが、$t$ 検定は母集団の正規性を前提にしています。データが6個では、その前提を確かめられません。しかも、1つだけ飛び抜けた値が混じると、平均も分散も大きく動いてしまいます。

実は、分布の形を一切仮定しなくても、検定は作れます。カギになるのは、「値そのものを使わず、順番だけを使う」という発想です。徒競走の着順なら、1位の人がどれだけ速くても「1位」は「1位」ですよね。順位にしてしまえば、もとの分布が何であっても、計算の土台は同じになります。

そこで登場するのが、今回の主役 ノンパラメトリック法 です。母集団の分布の形を特定のパラメータで決めつけない方法の総称です。

前回の記事では、二項分布やポアソン分布、尤度比検定を学びました。どれも分布の形が前提でした。今回の記事では、並べ替え検定、ウィルコクソン検定、符号付き順位検定、クラスカル・ウォリス検定、順位相関係数 について解説します。

並べ替え検定：ラベルをシャッフルする

ラベルの付け方を全部試して、自分で分布を作る

はじめに、すべての土台になる並べ替え検定について解説します。

結論を一言で言うと、データはそのままで、群のラベルだけをシャッフルして、差の分布を自分で作る 方法です。

$H_0$ が「2群の分布は同じ」なら、どのデータにどの群のラベルが付いていても、たまたまの結果にすぎません。トランプの札を配り直すようなものです。だから、ラベルの付け方を全部試せば、「$H_0$ のもとでの統計量の分布」が手に入ります。分布表はいりません。

具体的に見てみましょう。新しい栽培法の鉢Aと、これまでの栽培法の鉢Bの収穫量が、次のようでした。

• A： 7, 9, 12
• B： 3, 4, 8

統計量を、Aの合計にします。観測値は28です。6個の中から3個を選んでAと呼ぶ選び方は、全部で次の数だけあります。

$$\binom{6}{3} = 20$$

$H_0$ のもとでは、20通りがどれも等しく起こります。Aの合計が28以上になるのは、$\{7, 9, 12\}$ の28と、$\{8, 9, 12\}$ の29の2通りです。

$$\text{p値（片側）} = \frac{2}{20} = 0.10$$

有意水準5%では棄却できません。ここで注意しましょう。3個ずつの比較では、最も極端な結果でも片側のp値は $1 \div 20 = 0.05$ です。標本が小さいと、有意水準を達成できる余地そのものが小さいのです。

並べ替え検定の長所は、正規性を一切使わないことです。統計量も平均の差、中央値の差など、好きなものを選べます。

一方で、弱点もあります。データが増えると、組合せの数が爆発します。10個ずつなら $\binom{20}{10} = 184756$ 通りです。全部を調べる代わりに、ランダムに数千回シャッフルする近似もよく使われます。

試験のポイント：並べ替え検定のp値は「観測値以上に極端なラベルの付け方の数 ÷ すべての付け方の数」です。組合せの数を数えられるようにします。

以上が、並べ替え検定についての解説です。

ウィルコクソン検定：順位の和で比べる

まとめて順位を付け、Aの順位を足して比べる

次に、2群を比べるウィルコクソン検定について説明します。

並べ替え検定を、値ではなく順位に対して行うのが ウィルコクソン検定 です。正式にはウィルコクソンの順位和検定と呼びます。

順位にする利点は2つあります。外れ値に強いことと、$N$ 個の順位はいつも $1, 2, \ldots, N$ なので、統計量の分布が前もって計算できることです。データが何であっても、同じ分布表が使えるのです。

大きさ $m$ の群Aと大きさ $n$ の群Bを、まとめて小さい順に並べ、順位を付けます。Aの順位の合計を $W$ とします。$N = m + n$ として、$H_0$ のもとで $W$ の平均と分散は次のとおりです。

$$E(W) = \frac{m(N+1)}{2}, \qquad V(W) = \frac{mn(N+1)}{12}$$

平均の式はすぐ分かります。順位全体の平均は $(N+1)/2$ で、Aにはその $m$ 人がいるからです。標本が大きいときは、次の $Z$ を標準正規分布と比べます。

$$Z = \frac{W - E(W)}{\sqrt{V(W)}}$$

例題：順位和を求めて検定する

新しい製法Aの4個と、従来の製法Bの5個の強度は次のようでした。Aのほうが強いかを調べましょう。

• A： 23, 31, 35, 40
• B： 18, 20, 26, 28, 33

【解き方】

1. まとめて順位を付ける： 18, 20, 23, 26, 28, 31, 33, 35, 40 の順なので、Aの順位は 3, 6, 8, 9
2. 順位和を求める： $W = 3 + 6 + 8 + 9 = 26$
3. 平均と分散を求める： $E(W) = 4 \times 10 \div 2 = 20$、$V(W) = 4 \times 5 \times 10 \div 12 = 16.67$
4. 正確なp値を求める： $\binom{9}{4} = 126$ 通りのうち、$W \geq 26$ は12通りなので、$12 \div 126 = 0.095$

答えは「片側のp値は0.095で、有意水準5%では差があるとは言えない」です。

標本が大きいときの例も見ておきましょう。$m = 8$、$n = 10$、$W = 100$ なら、$E(W) = 76$、$V(W) = 126.67$ で、$Z = 24 \div 11.25 = 2.13$ です。1.96を超えるので、両側5%で棄却します。

マン・ホイットニーのU統計量

同じ検定を、別の見方で表したのが マン・ホイットニーのU検定 です。Aの値とBの値のペアを全部作り、Aが勝った数を $U$ と数えます。順位和との関係は、次の式です。

$$U = W - \frac{m(m+1)}{2}$$

例題では、$U = 26 - 10 = 16$ です。ペアは $4 \times 5 = 20$ 組なので、20回の対戦でAが16勝したことになります。リーグ戦の勝ち数を数えるイメージです。$U / (mn)$ は、「Aの値がBの値より大きい確率」の推定値でもあります。

同順位があるとき

同じ値があるときは、順位の平均を与えます。例えば、3位と4位の値が同じなら、どちらも3.5位です。このとき分散が少し小さくなるので、次の補正を使います。$t_j$ は同じ値のかたまりの大きさです。

$$V(W) = \frac{mn}{12}\left\{(N+1) - \frac{\sum_j (t_j^3 - t_j)}{N(N-1)}\right\}$$

効率はどれくらい落ちるのか

順位にすると情報を捨てるので、検出力が大きく落ちる気がしますよね。ところが、実はほとんど落ちません。

正規分布のデータで比べると、$t$ 検定に対する漸近相対効率は $3/\pi = 0.955$ です。つまり、$t$ 検定で95個のデータを使うのと、ウィルコクソン検定で100個のデータを使うのが同じ、という程度です。裾の重い分布では、ウィルコクソン検定のほうが有利になります。

試験のポイント：$E(W)$ と $V(W)$ の公式で $m$ と $n$ を取り違えないようにします。正規分布のもとでも効率の損失は5%ほどです。

以上が、ウィルコクソン検定についての説明です。

符号付き順位検定：対応のあるデータ

差の大きさの順位に符号を付けて足す

続いて、対応のあるデータの検定について解説します。

同じ人の薬を飲む前と後のように、対応のあるデータでは差 $D_i$ を見ます。$H_0$ は「差の分布が0を中心に左右対称」です。

最も単純なのは 符号検定 です。差が正なら勝ち、負なら負けとして、勝ちの数を数えます。$H_0$ のもとで勝ちの数は $B(n, 0.5)$ に従います。ただし、差の大きさの情報を全部捨てています。

そこで、大きさの順位も使うのが 符号付き順位検定 です。ウィルコクソンの符号付き順位検定とも呼びます。

【符号付き順位検定の手順】

1. 差 $D_i$ を求める。0のものは除く
2. 絶対値 $|D_i|$ を小さい順に並べ、順位を付ける
3. 差が正のものの順位の合計 $W^{+}$ を求める

$H_0$ のもとでは、各順位に $+$ と $-$ が確率2分の1ずつで付きます。したがって、平均と分散は次のとおりです。

$$E(W^{+}) = \frac{n(n+1)}{4}, \qquad V(W^{+}) = \frac{n(n+1)(2n+1)}{24}$$

順位 $k$ が $W^{+}$ に入るかどうかはコイン投げなので、平均は $k/2$、分散は $k^2/4$ です。これを $k = 1$ から $n$ まで足すと、上の式になります。

例題：前後の差を検定する

8人の睡眠時間（分）を、ある習慣を始める前後で比べました。後 − 前の差は次のとおりです。増えたと言えるでしょうか？

5, −2, 8, 3, −1, 6, 7, 4

【解き方】

1. 絶対値に順位を付ける： 絶対値は1から8まで1つずつあるので、順位は絶対値と同じになる
2. 負の差は −2 と −1 なので、$W^{-} = 2 + 1 = 3$
3. 順位の総和は36なので、$W^{+} = 36 - 3 = 33$
4. 符号の付き方は $2^8 = 256$ 通りで、$W^{+} \geq 33$ は5通り
5. p値は $5 \div 256 = 0.020$

答えは「片側のp値は0.020で、有意水準5%で増えたと言える」です。

同じデータで符号検定をすると、8人中6人が増えたので、$P(X \geq 6) = 0.145$ で有意になりません。負の差が小さいものばかりだった、という情報が効いているのです。

なお、標本が大きいときの例も見ておきましょう。$n = 20$ で $W^{+} = 150$ なら、$E = 105$、$V = 717.5$ で、$Z = 45 \div 26.8 = 1.68$ です。

以上が、符号付き順位検定についての解説です。

クラスカル・ウォリス検定：3群以上を比べる

3群以上は、順位についての分散分析で比べる

さらに、3群以上の比較を見ていきましょう。

クラスカル・ウォリス検定 は、1元配置の分散分析の順位版です。ウィルコクソン検定を3群以上に広げたものでもあります。

全部で $N$ 個のデータをまとめて順位を付け、第 $i$ 群（大きさ $n_i$）の順位和を $R_i$ とします。統計量は次の式です。

$$H = \frac{12}{N(N+1)}\sum_{i=1}^{k}\frac{R_i^2}{n_i} - 3(N+1)$$

$H_0$ のもとで、各群の大きさが十分なら、$H$ は自由度 $k-1$ のカイ二乗分布に近づきます。

一見、複雑です。でも、中身は群間変動です。各群の順位の平均と全体の順位の平均 $(N+1)/2$ のズレを2乗して足し、全体の順位の分散で割ったものを変形すると、この式になります。順位についての分散分析と考えてよいのです。

例題：3つの教材の比較

3つの教材で学んだ人の得点が、次のようでした。教材の間に差はあるかを、有意水準5%で検定しましょう。$\chi^2_{0.05}(2) = 5.99$ です。

• 教材A： 6, 8, 9, 12
• 教材B： 10, 13, 15, 16
• 教材C： 14, 17, 19, 20, 22

【解き方】

1. 13人全員に順位を付ける： Aは 1, 2, 3, 5、Bは 4, 6, 8, 9、Cは 7, 10, 11, 12, 13
2. 順位和を求める： $R_1 = 11$、$R_2 = 27$、$R_3 = 53$
3. 合計を確かめる： 11 + 27 + 53 = 91 = 13 × 14 ÷ 2
4. $H$ を計算する： $\dfrac{12}{13 \times 14}\left(\dfrac{11^2}{4} + \dfrac{27^2}{4} + \dfrac{53^2}{5}\right) - 3 \times 14 = 9.05$
5. 9.05 > 5.99 なので、$H_0$ を棄却する

答えは「有意水準5%で、教材の間に差があると言える」です。

順位和の合計が $N(N+1)/2$ と一致するかの確認は、計算ミスを防ぐのに役立ちます。棄却した後にどの群が違うかを調べるには、多重比較が必要な点も、分散分析と同じです。

以上が、クラスカル・ウォリス検定についての説明です。

順位相関係数：順位で関連を測る

線の交差が不一致対。順位の一致を−1から1で表す

最後に、順位相関係数を見ていきましょう。

相関係数は、外れ値に弱く、直線の関係しか測れないのでした。身長と体重のように量で測れるものはよいのですが、「審査員2人の順位づけ」のように、もともと順位しかないデータもあります。

順位相関係数 は、順位の一致の度合いを −1 から1の数で表します。代表は2つです。

1. スピアマンの順位相関係数

$x$ と $y$ をそれぞれ順位に直して、ピアソンの相関係数を計算したものです。同順位がなければ、次の簡単な式で求まります。$d_i$ は各個体の順位の差です。

$$r_s = 1 - \frac{6\sum_{i=1}^{n} d_i^2}{n(n^2 - 1)}$$

順位が完全に一致すれば、$d_i$ はすべて0で $r_s = 1$ です。完全に逆なら $r_s = -1$ です。

2. ケンドールの順位相関係数

2つの個体のペアを全部作り、$x$ と $y$ の大小が同じ向きのペアを 一致対、逆向きのペアを 不一致対 と呼びます。一致対の数 $C$ と不一致対の数 $D$ から、次の式で求めます。

$$\tau = \frac{C - D}{n(n-1)/2}$$

言葉で言うと、「意見が一致したペアの割合 − 割れたペアの割合」です。

例題：2人の審査員の順位

7つのラーメン店を、2人の審査員が順位づけしました。

店	ア	イ	ウ	エ	オ	カ	キ
審査員1	1	2	3	4	5	6	7
審査員2	2	1	4	3	7	5	6

【解き方】

1. 順位の差を求める： 差は −1, 1, −1, 1, −2, 1, 1
2. 2乗の合計を求める： 1 + 1 + 1 + 1 + 4 + 1 + 1 = 10
3. スピアマンの式に入れる： $r_s = 1 - 6 \times 10 \div (7 \times 48) = 0.821$
4. ペアを数える： 全21組のうち、逆向きは ア-イ、ウ-エ、オ-カ、オ-キ の4組なので、$C = 17$、$D = 4$
5. ケンドールの式に入れる： $\tau = (17 - 4) \div 21 = 0.619$

答えは $r_s = 0.82$、$\tau = 0.62$ です。同じデータでも、2つの値は違います。ケンドールの $\tau$ のほうが絶対値が小さくなることが多いので、定義の違いとして押さえましょう。

順位相関係数は、単調な関係ならどんな曲線でも1に近づきます。例えば、$y = x^3$ の完全な関係なら、ピアソンの相関係数は1未満ですが、順位相関係数は1です。

無相関の検定では、小さい標本は数表を使います。$n$ が大きいときは、$r_s\sqrt{n-1}$ や、$\tau$ を $\sqrt{2(2n+5) / \{9n(n-1)\}}$ で割った値を、標準正規分布と比べます。例えば、$n = 26$ で $r_s = 0.45$ なら、$0.45 \times 5 = 2.25$ で、両側5%で有意です。

試験のポイント：スピアマンの式の分母は $n(n^2 - 1)$ で、係数は6です。ケンドールの分母はペアの総数です。

以上が、順位相関係数についての解説です。

細かい式が分からなかったとしても問題ありません。ここでは、「順位にすれば分布の仮定がいらなくなり、効率もほとんど落ちない」という点だけ押さえておきましょう。

今回のまとめ

ラベルを混ぜる、順位を足す、順位の一致を測る

それでは、今回の内容を振り返ります。

今回は分布の形を仮定しない検定を紹介しました。値を順位に置きかえると、データの分布が何であっても、同じ土台で確率が計算できます。徒競走の着順で比べるという素朴な発想が、強力な道具になるのです。

今回のポイントを振り返りましょう。

振り返り

• 並べ替え検定は、ラベルをシャッフルして $H_0$ のもとの分布を自分で作る。
• ウィルコクソン検定は順位の和で2群を比べる。$E(W) = m(N+1)/2$、$V(W) = mn(N+1)/12$。
• 符号付き順位検定は、差の符号と大きさの順位を使う。符号検定より多くの情報を使う。
• クラスカル・ウォリス検定は、順位についての分散分析。$H$ は自由度 $k-1$ のカイ二乗分布に近づく。
• 順位相関係数は、順位の一致を測る。スピアマンは順位の差の2乗、ケンドールはペアの向きを見る。

キーワードのおさらい

• ノンパラメトリック法: 母集団の分布の形を特定しない統計手法の総称
• 並べ替え検定: ラベルの付け替えをすべて調べてp値を求める検定
• ウィルコクソン検定: 2群をまとめた順位の和で比べる検定
• 符号付き順位検定: 対応のある差の、符号と絶対値の順位を使う検定
• クラスカル・ウォリス検定: 3群以上を順位で比べる検定
• 順位相関係数: 順位の一致の度合いを −1 から1で表した値

さて、これで検定の話は一段落です。ここまでのデータは、1つ1つが独立でした。でも、今日の天気は昨日の天気に左右され、今月の売上は先月の売上に左右されますよね。

次回は、「次の状態は今の状態だけで決まる」と考える「マルコフ連鎖」について紹介します。

それでは、次の記事へ進んでいきましょう。