ベータ確率変数の逆正規CDFはどの分布に従うのですか？

14

以下を定義するとします：

X \sim Beta (α, β)

$X\sim\mbox{Beta}(\alpha,\beta)$

Y \sim Φ^{- 1} (X)

$Y\sim \Phi^{-1}(X)$

ここで、は標準正規分布のCDFの逆数です。 $\Phi^{-1}$

私の質問は次のとおりです続く単純な分布はありますか、それともを近似できますか？ $Y$ $Y$ シミュレーション結果（以下に示す）に基づいて、およびが高い場合にが正規分布に収束するという強い疑念があるので、私は尋ねていますが、なぜ数学的にそうなるのかわかりません。（もちろん、場合、は均一で、は標準の法線になりますが、より高い値に当てはまるのはなぜですか？） $Y$ $\alpha$ $\beta$ $\alpha=1;\beta=1$ $X$ $Y$

これが法線に収束する場合、 $\alpha$ とに関して、その法線のパラメーターはどうなります $\beta$ か？（私は平均が可能だろうと期待しており $\Phi^{-1}(\frac{\alpha}{\alpha+\beta})$ それはモードの変換なので、標準偏差はわかりません）。

（別の言い方をすれば、これは「 $\Phi(\mbox{Norm}(\mu, \sigma))$ はベータ分布に収束し、 $\mu$ とある方向については $\sigma$ 」と尋ねることができますか？それが答えやすいかどうかわかりません）。

シミュレーション結果

ここで、結果が正常であると疑う理由を示します（数学でバックアップできないため）。シミュレーションは $Y$ 、qnormとでRで実行できますrnorm。たとえば、高いパラメーター $\alpha=3000$ および選択する場合 $\beta=7000$ ：

hist(qnorm(rbeta(5000, 3000, 7000)))

これは正常に見えqqnorm、Shapiro-Wilk検定（正規性は帰無仮説）も同様に示唆します。

qqnorm(qnorm(rbeta(5000, 3000, 7000)))

shapiro.test(qnorm(rbeta(5000, 3000, 7000)))
#> 
#>  Shapiro-Wilk normality test
#> 
#> data:  qnorm(rbeta(5000, 3000, 7000))
#> W = 0.99954, p-value = 0.2838

正常性をもう少し詳しく調べるために、から5,000の値をシミュレートするたびに2,000回のシミュレーション $Y$ を実行し、それからテストを実行して正常と比較します。（5Kの値を選択したのはshapiro.test、それが最大の処理能力であり、標準からの逸脱を検出する能力を最大化するためです）。

分布が本当に正規である場合、p値は均一であると予想されます（nullがtrueであるため）。それらは確かに均一に近く、分布が正規に非常に近いことを示唆しています。

hist(replicate(2000, shapiro.test(qnorm(rbeta(5000, 3000, 7000)))$p.value))

いくつかの実験では、とが高いほど、分布が正規に近くなることが示されています（たとえば、正規からかなり離れていますが、試してみてください。 $\alpha$ $\beta$ rbeta(5000, 3, 7)hist(replicate(2000, shapiro.test(qnorm(rbeta(5000, 30, 70)))$p.value))

r normal-distribution mathematical-statistics beta-distribution

— デビッド・ロビンソン
ソース

2

ここでは興味深いことは何も起こりません。

と

が大きくなるにつれて、それらが同じ比率のままである、または少なくとも

が

と

から離れていると仮定しましょう。その後、ベータ

分布は正規になり、任意の狭い範囲に集中します。

あなたが単にほぼ-通常の変数の線形変換を見ているそこ、微分され、本質的に直線的になります。この結果は、を行うにはそれ以外の何物でもありません

α

$\alpha$

β

$\beta$

α / (α + β)

$\alpha/(\alpha+\beta)$

0

$0$

1

$1$

(α, β)

$(\alpha,\beta)$

Φ^{- 1}

$\Phi^{-1}$

Φ^{- 1}

$\Phi^{-1}$ ベータ版の配布に関する情報は追加されません。

— whuber

1

@whuberそれは大きな

と

に対して理にかなっています（ベータに近い同等の正常よりもこれが正常に近いと思わせるシミュレーションがいくつかありましたが、再実行するとその時点で間違いがあったと思います）。

に関する考え。

？距離は通常とはかけ離れていますが、その基準はかなり近いです。

α

$\alpha$

β

$\beta$

α = 2

$\alpha=2$

β = 2

$\beta=2$

— デビッドロビンソン

1

@whuber Eg try hist(replicate(1000, shapiro.test(rbeta(5000, 2, 2))$p.value))、then hist(replicate(1000, shapiro.test(qnorm(rbeta(5000, 2, 2)))$p.value))。つまり、

の場合はベータが均一であるため正常であり、

と

が高い場合はベータがほぼ正常であるためです。正常か均一か？

α = β = 1

$\alpha=\beta=1$

α

$\alpha$

β

$\beta$

— デビッドロビンソン

5

それは間違いなくもっと面白いです！ベータは正常に非常に近くないが、ベータの小さなパラメータであっても、変換はほぼ正常であることは正しい。正規性からの偏差は、

以上の裾で明らかになりますが、分布の全体にわたって非常に小さくなっています。最終的に、これはベータテールのべき乗則の動作に追跡可能です。

Z = \pm 3

$Z=\pm 3$

— whuber

7

あらすじ

サンプル中央値の中央極限定理で説明されている構造の一部を再発見しました。これは、サンプルの中央値の分析を示しています。（分析は、必要な変更を加えて、中央値だけでなく任意の分位数に明らかに適用されます）。したがって、大きなベータパラメータ（大きなサンプルに対応）について、質問で説明されている変換の下で正規分布が発生することは驚くことではありません。興味深いのは、小さなベータパラメータでも分布がどれほど正規分布に近いかということです。 それは説明に値します。

以下に分析をスケッチします。この投稿を妥当な長さに保つために、多くの示唆に富む手振りが含まれます。重要なアイデアを指摘するだけです。したがって、ここで結果を要約します。

がに近い場合、すべてが対称です。これにより、変換された分布はすでに正規に見えます。 $\alpha$ $\beta$
フォームの関数もの小さな値について、最初の場所ではかなり正常に見える及び（いずれも超え設けそれらの比があまりなく、または近い）。 $\Phi^{\alpha-1}(x)\left(1-\Phi(x)\right)^{\beta-1}$ $\alpha$ $\beta$ $1$ $0$ $1$
変換された分布の見かけ上の正規性は、その密度が（2）の関数を掛けた正規密度で構成されるためです。
ようにとの増加、正規性からの逸脱は、ログ密度テイラー級数における残りの項で測定することができます。次数の項は、との乗に比例して減少します。これは、最終的に、十分に大きいとに対して、パワー以上のすべての項が比較的小さくなり、2次のみが残ることを意味します。これは、正規分布の対数密度です。 $\alpha$ $\beta$ $n$ $(n-2)/2$ $\alpha$ $\beta$ $\alpha$ $\beta$ $n=3$

全体として、これらの動作は、小さなとあっても、iid Normalサンプルの非極端な変位値がほぼ正常に見える理由をうまく説明しています。 $\alpha$ $\beta$

分析

一般化することが有用である可能性があるので、聞かせて可能任意の我々が考えているものの、分布関数。 $F$ $F=\Phi$

定義により、ベータ変数の密度関数は、 $g(y)$ $(\alpha,\beta)$

y^{α - 1} (1 - y)^{β - 1} d y .

$y^{\alpha-1}(1-y)^{\beta-1}dy.$

まかせ、確率積分は、の変換であり及び書き込みの誘導体のためにいること、それは即時でありに比例する密度を有しています $y=F(x)$ $x$ $f$ $F$ $x$

G (x; α, β) = F (x)^{α - 1} (1 - F (x))^{β - 1} f (x) d x .

$G(x;\alpha,\beta)=F(x)^{\alpha-1}(1-F(x))^{\beta-1}f(x)dx.$

これは強く単峰性の分布（ベータ）の単調変換であるため、がかなり奇妙でない限り、変換された分布も単峰性になります。それがどれほど標準に近いかを調べるために、その密度の対数を調べてみましょう。 $F$

\begin{matrix} (1) & \log G (x; α, β) = (α - 1) \log F (x) + (β - 1) \log (1 - F (x)) + \log f (x) + C \end{matrix}

$\log G(x;\alpha,\beta) = (\alpha-1)\log F(x) + (\beta-1)\log(1-F(x)) + \log f(x) + C\tag{1}$

ここで、は正規化の無関係な定数です。 $C$

テイラー級数のの成分を展開して、値（モードに近い）の周りに3を並べます。例えば、我々は拡大書き込むことができなどを $\log G(x;\alpha,\beta)$ $x_0$ $\log F$

\log F (x) = c_{0}^{F} + c_{1}^{F} (x - x_{0}) + c_{2}^{F} (x - x_{0})^{2} + c_{3}^{F} h^{3}

$\log F(x) = c^{F}_0 + c^{F}_1 (x-x_0) + c^{F}_2(x-x_0)^2 + c^{F}_3h^3$

いくつかのためのを持ちます。とも同様の表記を使用し。 $h$ $|h| \le |x-x_0|$ $\log(1-F)$ $\log f$

線形項

の線形項はそれにより $(1)$

g_{1} (α, β) = (α - 1) c_{1}^{F} + (β - 1) c_{1}^{1 - F} + c_{1}^{f} .

$g_1(\alpha,\beta) = (\alpha-1)c^{F}_1 + (\beta-1)c^{1-F}_1 + c^{f}_1.$

がモードのとき $x_0$ 、この式はゼロです。係数の連続関数であるので、そのノートとして、および変化する、モードあまりにも連続的に変化します。さらに、とが十分に大きくなると、項は比較的重要ではなくなります。我々は、制限を勉強することを目指す場合はとのための一定の割合で滞在 $G(\,;\alpha,\beta)$ $x_0$ $\alpha$ $\beta$ $x_0$ $\alpha$ $\beta$ $c^{f}_1$ $\alpha\to\infty$ $\beta\to\infty$ $\alpha:\beta$ $\gamma$ 、したがって、一度だけすべての基点を選択できます。 $x_0$

γ c_{1}^{F} + c_{1}^{1 - F} = 0.

$\gamma c^{F}_1 + c^{1-F}_1 = 0.$

良いケースは、、全体でで、がに関して対称である場合です。その場合には明らかである。 $\gamma=1$ $\alpha=\beta$ $F$ $0$ $x_0=F(0)=1/2$

（a）極限では、テイラー級数の一次項が消滅し、（b）今説明した特別な場合では、一次項が常にゼロになる方法を実現しました。

二次項

これらは合計です

g_{2} (α, β) = (α - 1) c_{2}^{F} + (β - 1) c_{2}^{1 - F} + c_{2}^{f} .

$g_2(\alpha,\beta) = (\alpha-1)c^{F}_2 + (\beta-1)c^{1-F}_2 + c^{f}_2.$

その二次的な用語である正規分布と比較、我々は推定してもよいおよその分散であり、。をその平方根で再スケーリングしてを標準化しましょう。詳細は本当に必要ありません。この再スケーリングが係数を乗算することを理解することで十分です。 $-(1/2)(x-x_0)^2/\sigma^2$ $-1/(2g_2(\alpha,\beta))$ $G$ $G$ $x$ によるテイラー展開における $(x-x_0)^n$ $(-1/(2g_2(\alpha,\beta)))^{n/2}.$

剰余項

ここにパンチラインがあります：テイラー展開の次数の項は、記法によれば、 $n$

g_{n} (α, β) = (α - 1) c_{n}^{F} + (β - 1) c_{n}^{1 - F} + c_{n}^{f} .

$g_n(\alpha,\beta) = (\alpha-1)c^{F}_n + (\beta-1)c^{1-F}_n + c^{f}_n.$

標準化後、

g_{n}^{'} (α, β) = \frac{g_{n} (α, β)}{(- 2 g_{2} (α, β))^{n / 2})} .

$g_n^\prime(\alpha,\beta) = \frac{g_n(\alpha,\beta)}{(-2g_2(\alpha,\beta))^{n/2})}.$

両方のは、とアフィン結合です。分母を乗することにより、正味の動作はおよびそれぞれで次数になります。これらのパラメーターが大きくなると、2番目以降のテイラー展開の各項が漸近的にゼロに減少します。 特に、3次剰余項は任意に小さくなります。 $g_i$ $\alpha$ $\beta$ $n/2$ $-(n-2)/2$ $\alpha$ $\beta$

ケース正常です $F$

この場合、は純粋に2次であるため、が標準Normalの場合、剰余項の消失は特に高速です。剰余項には何も寄与しません。したがって、の偏差正常からは、単にとの偏差に依存と正常。 $F$ $f(x)$ $G$ $F^{\alpha-1}(1-F)^{\beta-1}$

この偏差は、と小さい場合でもかなり小さくなります。例として、の場合を考えます。は対称であり、次数3の項は完全に消滅します。剰余は、の次数です。 $\alpha$ $\beta$ $\alpha=\beta$ $G$ $4$ $x-x_0=x$

以下は、小さな値で標準化された4次項がどのように変化するかを示すプロットです。 $\alpha \gt 1$

値から始まりのために（その後分布は明らかに正常であるため、ベータもので均一な分布に適用であり、標準正規分布を与えます）。急速に増加しますが、未満で終了します。これは実質的にゼロと見分けがつきません。その後、漸近的な相互減衰が始まり、がを超えて増加するにつれて、分布は常に正規に近づきます。 $0$ $\alpha=\beta=1$ $\Phi^{-1}$ $(1,1)$ $0.008$ $\alpha$ $2$

— ウーバー
ソース

2

収束

その仮定としましょうとどんな小さな取る。次に、。チェビシェフの不等式により、および。これは、が確率で収束することを意味します（~~分布ではなく~~ $\alpha = \beta$ $\alpha \to \infty$ $\varepsilon > 0$ $var(X) \to 0$ $\mathbb{P} [\vert X - 0.5 \vert > \varepsilon] \to 0$ $\mathbb{P} [\vert Y \vert > \varepsilon] \to 0$ $Y$ 実際には、分布が収束します-シングルトンへ）。

正確な分布

表すベータ分布の密度。変数密度は、は閉じた形がないので、これは（分析的に）取得できる最も遠いものだと思います。Wolfram Mathematicaで関数に入れて、より良い形が見つかるかどうかを確認できます。 $f_X$ $Y$

f_{Y} (y) = f_{X} (Φ (y)) ϕ (y) .

$f_Y (y) = f_X ( \Phi (y) ) \phi (y).$

Φ

$\Phi$ FullSimplify

ここにRの密度がありますので、ヒストグラムの代わりにプロットできます。

f_y <- function(x, alpha, beta) {
  dbeta(pnorm(x), alpha, beta) * dnorm(x)
}

変形

しかし、あなたは多分の分布に興味がある。（まだ仮定）これは

Z = Φ^{- 1} (\sqrt{α} X)

$Z = \Phi^{-1} (\sqrt{\alpha} X)$

α = β

$\alpha = \beta$

（それは）ゼロではないので、有用です。

v a r (\sqrt{α} X) \to 1 / 8

$var(\sqrt{\alpha} X) \to 1/8$

— ヤン・キスリンガー
ソース

1

$k \in \mathbb N$ $k \geq 2$ $X \sim \text{Beta}(k,k)$ $Y = \Phi^{-1}(X)$

$n=2k-1$ $n$ $U_1, \dotsc, U_n$ $U_{(1)} \leq \dotsc \leq U_{(n)}$

$U_{(k)} \sim \text{Beta}(k, n+1-k)$

U_{(k)} \sim Beta (k, k)

$U_{(k)} \sim \text{Beta}(k, k)$

$n$ $\text{Beta}(k,k)$

$Z_i = \Phi^{-1}(U_i)$ $Z_i$ $Z_i$ $Z_{(1)} \leq \dotsc \leq Z_{(n)}$ $\Phi^{-1}$

Φ^{- 1} (U_{(k)}) = Z_{(k)}

$\Phi^{-1}(U_{(k)}) = Z_{(k)}$

$Y$ $n$

$k$ $k$ $k=2$

$a \neq b$

— 空気
ソース

ベータ確率変数の逆正規CDFはどの分布に従うのですか？

シミュレーション結果

あらすじ

分析

線形項

二次項

剰余項

ケース正常ですFFF

収束

正確な分布

変形

ケース正常です $F$