Top 5 This Week

関連記事

一様分布と乱数:シミュレーションの基礎

- 本サイト運営者のサービスの紹介 -
Dr.データサイエンス|医療統計解析の代行・相談

統計の授業や解析の練習では、乱数を10,000個発生させて平均を求めると0.5に近い値になる、という例がよく使われます。同じ手順を別のパソコンで実行して異なる値が出た時、その違いがコードの誤りなのか乱数の性質なのかを区別できなければ、シミュレーションの結果を報告することも検算することもできません。

こうした場面で必要になるのが、コンピュータが乱数をどのように作っているか、そして作った乱数から求めた確率や平均にどれだけの誤差が含まれるかという知識です。乱数の作り方は一様分布という単純な分布に集約され、正規分布や指数分布の乱数もそこから組み立てられます。

擬似乱数を生み出す決まった計算

コンピュータの中で作られる乱数は、サイコロのような物理的な偶然から得た値とは性質が異なり、前の状態から次の状態を決まった式で計算して得た数列です。この数列を擬似乱数と呼び、計算規則と初期値が決まれば、何番目にどの値が出るかは最初から確定しています。

この数列が統計で使えるのは、数列が十分に長い周期を持ち、統計的な検査では一様で独立な乱数と区別できない並び方をするためです。Rが既定で使う生成器はMatsumotoとNishimura(1998)が提案したメルセンヌ・ツイスタで、周期は$2^{19937}-1$という桁外れの長さを持ち、623次元まで均等に分布するよう設計されています。

この決まった計算という性質は欠点に見えますが、同じ初期値から同じ列を作り直せるため、シミュレーションの結果を第三者が検算できるという利点にもなります。物理的な偶然だけに頼る乱数では、論文に載せたシミュレーションを読者が同じ数値で再現する手段がありません。

シードによる乱数列の再現

擬似乱数の初期値をシード(種)と呼びます。シードを同じ値に設定してから乱数を作ると、同じ生成器と同じ版のRを使う限り、何度実行しても、どのパソコンで実行しても同じ列が出てきます。

実際、シードを42に設定して区間0から1の一様乱数を5個作る操作を2回繰り返すと、2回とも0.915、0.937、0.286、0.830、0.642という同じ列になりました。このコードと出力は後のRの節に掲載しており、読者の手元でも同じ5個の値が得られます。

逆に、シードを記録しないまま実行した結果は、同じ設定で計算し直しても一致しません。推定値が理論値から離れていた時に、それが乱数の偶然によるものかコードの誤りによるものかを切り分けるには、同じ乱数列でもう一度計算できることが前提になります。

なお、シードの値そのものに統計的な意味はなく、42でも2026でも生成される列の性質は同等です。結果が思わしくない時にシードを取り替えて都合のよい列を選ぶ操作は、推定値の偶然の揺れを読者から隠すことになるため不適切です。

区間0から1の一様分布が土台になる理由

区間[0,1]の一様分布は、0から1までのどの長さ0.1の区間にも同じ確率0.1で値が落ちる分布です。平均は1/2、分散は1/12で、生成器が作る整数の列を取り得る最大値で割ると、近似的にこの分布の乱数が得られます。

そのため、乱数生成器の役割は一様乱数を作るところで一旦終わり、正規分布や指数分布、二項分布の乱数は一様乱数を変換して作ります。例えば成功確率0.3の試行は、一様乱数が0.3未満なら成功とみなせば再現でき、これを10回繰り返して成功を数えれば、二項分布とは何か:成功回数の分布で扱った成功回数の乱数になります。

正規分布の乱数にも変換の手順があり、BoxとMuller(1958)は独立な2つの一様乱数から独立な2つの標準正規乱数を作る式を提案しました。変換後の乱数の質は元の一様乱数の質で決まるため、生成器の周期や均等性が議論されるのは、この土台の部分に当たります。

逆関数法による指数分布への変換

一様乱数から目的の分布の乱数を作る最も基本的な方法が逆関数法です。累積分布関数$F$が連続で狭義に増加する分布であれば、一様乱数$U$を$F$の逆関数に通すだけで、その分布に従う乱数が得られます。

$$X = F^{-1}(U) \tag{1}$$

この式(1)は、0から1の間の一様な値を確率とみなし、その確率に対応する分位点を返すと、返された値が分布$F$に従うことを表しています。ここで$U$は区間[0,1]の一様乱数、$F^{-1}$は累積分布関数の逆関数で、確率$u$を受け取って下側確率が$u$になる値を返します。

具体例として、率$\lambda$の指数分布では累積分布関数が$F(x)=1-e^{-\lambda x}$なので、$F(x)=U$を$x$について解くと次の式になります。

$$X = -\frac{\log(1-U)}{\lambda} \tag{2}$$

この式(2)は、一様乱数を1から引いて対数をとり、符号を反転させて率で割れば指数分布の乱数になることを表しています。率$\lambda=0.5$なら理論上の平均は$1/\lambda=2$で、待ち時間が平均2単位になる分布です。

指数分布そのものの性質や待ち時間としての読み方は指数分布とワイブル分布:待ち時間と寿命の分布で扱っており、ここでは一様乱数から作れるという点だけを使います。もっとも、逆関数法が素直に使えるのは累積分布関数の逆関数が式で書ける分布で、正規分布のように逆関数が閉じた式にならない分布では、数値計算による逆関数やBoxとMullerの変換が使われます。

モンテカルロ誤差と繰り返し回数

乱数を使って確率や期待値を近似的に求める方法をモンテカルロ法と呼び、MetropolisとUlam(1949)がこの名前で方法を論じています。標準正規分布で$Z>1.96$となる確率は理論上0.025ですが、正規乱数を$R$個作り、そのうち1.96を超えた割合を数えれば、この確率をシミュレーションで推定できます。

ただし、推定値は使った乱数の列によって揺れ、その揺れの大きさをモンテカルロ誤差と呼びます。真の確率を$p$とすると、1.96を超えたかどうかは成功確率$p$の試行の繰り返しになるので、推定値の標準誤差は$\sqrt{p(1-p)/R}$で、実際には$p$に推定値を代入して計算します。

この式に従うと、繰り返し回数を10倍にしても標準誤差は約3.16分の1にしか縮まず、半分にするには4倍の回数が必要です。そのため、繰り返し回数は計算時間の都合から決めるより、推定値に必要な精度を先に定め、その精度に届くモンテカルロ標準誤差から逆算する方が筋の通った決め方になります。

この構造は標本平均のばらつきと同じで、平均の標準誤差が標本サイズの平方根で縮む仕組みは中心極限定理:平均の分布が正規分布に近づく理由でも扱っています。逆に、根拠なく繰り返し回数を少なくしたシミュレーションでは、手法間の差に見えたものがモンテカルロ誤差の範囲に収まっていることがあり、その結果から手法の優劣を論じるのは不適切です。

論文や報告書での扱い

Morrisら(2019)は、統計手法をシミュレーションで評価する研究の計画と報告について指針をまとめ、乱数生成器の種類とシードを記録して報告することを求めています。同じ論文では、バイアスや被覆確率などの性能指標ごとにモンテカルロ標準誤差を計算して報告すること、繰り返し回数を必要な精度から決めることも求められています。

この指針に沿うと、推定値だけを載せた表では情報が足りず、繰り返し回数、その回数でのモンテカルロ標準誤差、使った生成器とシードが揃って初めて、読者は結果の精度を評価できます。また、シードが報告されていれば、読者は同じ数値を再計算して、表の値が公開されたコードから出たものかを確かめられます。

また、この指針はシミュレーション研究の計画を、目的、データ生成の仕組み、推定対象、方法、性能の指標の5つの要素(頭文字を取ってADEMP)で整理する枠組みを示しており、乱数の使い方はそのうちのデータ生成の仕組みに当たります。データ生成の仕組みを文章で書いておけば、使ったソフトや生成器が異なる環境でも、同じ設定のシミュレーションを組み直して結果を比べられます。

Rで乱数の再現と変換を確かめる

ここからは、ランダムに生成したデータセットで、これまでの内容を数値で確かめます。最初に区間0から1の一様乱数を10,000個作って平均と分散を理論値と並べ、続いて同じシードから5個の乱数を2回作り、列が一致するかを比べました。

set.seed(42)
u <- runif(10000)
RNGkind()[1]
round(c(mean = mean(u), var = var(u), mean_true = 1 / 2, var_true = 1 / 12), 5)
set.seed(42); first <- runif(5)
set.seed(42); second <- runif(5)
round(rbind(first, second), 4)
identical(first, second)
#> [1] "Mersenne-Twister"
#>      mean       var mean_true  var_true
#>   0.49894   0.08452   0.50000   0.08333
#>          [,1]   [,2]   [,3]   [,4]   [,5]
#> first  0.9148 0.9371 0.2861 0.8304 0.6417
#> second 0.9148 0.9371 0.2861 0.8304 0.6417
#> [1] TRUE

出力の1行目から、生成器がメルセンヌ・ツイスタであることが分かります。10,000個の平均は0.49894、分散は0.08452で、理論値の0.5と0.08333に近い値になっており、5個の乱数は1回目と2回目で小数第4位まで一致し、完全一致の判定もTRUEでした。

ここで読み違えやすいのは、分散が理論値より0.0012大きい点を生成器の偏りと解釈することです。10,000個の標本から計算した分散は、同じ生成器でもシードを変えれば上下に揺れる推定値なので、この差だけから一様分布との食い違いを結論付ける根拠にはなりません。

続いて、同じ10,000個の一様乱数を式(2)に通し、率0.5の指数分布の乱数に変換して、平均を理論値の2と並べました。

lambda <- 0.5
expo <- -log(1 - u) / lambda
round(c(mean = mean(expo), mean_true = 1 / lambda), 4)
#>      mean mean_true
#>    1.9999    2.0000 

この変換後の平均は2.000で、理論値の2とほぼ一致しました。新しい乱数を作らず同じ一様乱数を変形しただけなので、指数分布の乱数の質は元の一様乱数の質をそのまま受け継いでいます。

この2種類の乱数の形を比べるため、一様乱数と変換後の乱数のヒストグラムを左右に並べ、右側には率0.5の指数分布の理論密度を重ねました。

par(mfrow = c(1, 2))
hist(u, breaks = 20, col = "grey80", main = "Uniform(0, 1)", xlab = "u")
hist(expo, breaks = 40, freq = FALSE, col = "grey80", ylim = c(0, 0.5),
     main = "Exponential (rate = 0.5)", xlab = "x")
curve(dexp(x, rate = 0.5), add = TRUE, lwd = 2, col = "firebrick")
左は区間0から1の一様乱数10,000個のヒストグラムで棒の高さがほぼ平らに揃い、右は同じ乱数を率0.5の指数分布へ変換したヒストグラムで、0付近に集まり右へ裾を引く形が赤い理論密度曲線に沿っています。
図1 左は一様乱数10,000個のヒストグラム、右は同じ乱数を式(2)で率0.5の指数分布へ変換したヒストグラムです。右の棒の高さは赤い理論密度の曲線に沿っており、平らな分布から変換だけで指数分布の形が得られます。

図1の左側では、20個の区間にほぼ同じ高さの棒が並び、一様分布の平らな形が現れています。一方で右側では0の近くに値が集まり、右へ長く裾を引く形が理論密度の曲線に沿っているため、平らな分布を式(2)で変換するだけで、形の大きく異なる分布が得られることが確認できます。

最後に、標準正規分布で$Z>1.96$となる確率を、正規乱数1,000個、10,000個、100,000個の3通りで推定し、それぞれのモンテカルロ標準誤差を理論値と並べました。

set.seed(42)
reps <- c(1000, 10000, 100000)
p_hat <- sapply(reps, function(r) mean(rnorm(r) > 1.96))
mcse <- sqrt(p_hat * (1 - p_hat) / reps)
round(cbind(reps, p_hat, mcse, p_true = 1 - pnorm(1.96)), 4)
#>       reps  p_hat   mcse p_true
#> [1,] 1e+03 0.0210 0.0045  0.025
#> [2,] 1e+04 0.0251 0.0016  0.025
#> [3,] 1e+05 0.0246 0.0005  0.025

この表で、1,000回の推定値は0.021で理論値の0.025より小さく、標準誤差は0.0045でした。10,000回では推定値0.0251と標準誤差0.0016、100,000回では推定値0.0246と標準誤差0.0005になり、回数を10倍にするごとに標準誤差はおよそ3分の1に縮んでいます。

この表で読み違えやすいのは、10,000回の0.0251が100,000回の0.0246より理論値に近いことを根拠に、10,000回で十分と判断する読み方です。推定値がたまたま理論値に近いかどうかは1回分の乱数列の偶然で決まるため、精度の判断は標準誤差で行う必要があり、1,000回では標準誤差が0.0045もあって、小数第3位の値を議論できる精度に届いていません。

繰り返し回数を必要な精度から決める

前の節の式を逆に使うと、推定したい確率の見込みと許容できるモンテカルロ標準誤差から、必要な繰り返し回数を前もって計算できます。検定の第1種の過誤が名目どおり0.05かを確かめるシミュレーションで、標準誤差を0.002に抑えたい場合と、確率0.025を相対的に10%の標準誤差(0.0025)で推定したい場合の回数は、次の計算で求まります。

# 必要な繰り返し回数 R = p(1 - p) / SE^2
ceiling(0.05 * 0.95 / 0.002^2)
ceiling(0.025 * 0.975 / (0.1 * 0.025)^2)
#> [1] 11875
#> [1] 3900

この出力のとおり、第1種の過誤を小数第3位まで判断するには約12,000回が要り、確率0.025の推定では3,900回で相対的な精度10%に届きます。確率が小さくなるほど同じ相対的な精度に必要な回数は増えるので、まれな事象を扱うシミュレーションでは、計算時間より先に目標の標準誤差を決めておくと、回数の根拠を報告できます。

その上で、生成器の種類とシードを記録しておけば、同じ結果を誰でも再計算でき、推定値の揺れが乱数によるものか計算の誤りによるものかを区別できます。シードを記録しないまま結果だけを報告することや、計算時間を理由に根拠なく繰り返し回数を減らすことは、結果の再現と精度の評価を同時に失わせるため不適切です。

参考文献

  1. Matsumoto M, Nishimura T. Mersenne twister: a 623-dimensionally equidistributed uniform pseudo-random number generator. ACM Transactions on Modeling and Computer Simulation. 1998;8(1):3-30.
  2. Metropolis N, Ulam S. The Monte Carlo method. Journal of the American Statistical Association. 1949;44(247):335-341.
  3. Box GEP, Muller ME. A note on the generation of random normal deviates. Annals of Mathematical Statistics. 1958;29(2):610-611.
  4. Morris TP, White IR, Crowther MJ. Using simulation studies to evaluate statistical methods. Statistics in Medicine. 2019;38(11):2074-2102.

Popular Articles