二項分布とベータ分布の関係

私は統計学者というよりもプログラマーなので、この質問があまりにも素朴ではないことを願っています。

ランダムにプログラムの実行をサンプリングするときに発生します。プログラムの状態のN = 10のランダムな時間のサンプルを取得すると、たとえば、それらのサンプルのI = 3で関数Fooが実行されていることがわかります。Fooが実行されている時間Fの実際の割合について、それが何を教えてくれるのか興味があります。

私は平均F * Nで二項分布していることを理解しています。IとNが与えられると、Fはベータ分布に従うことも知っています。実際、私はこれらの2つのディストリビューション間の関係をプログラムで検証しました。

cdfBeta(I, N-I+1, F) + cdfBinomial(N, F, I-1) = 1

問題は、私が関係について直感的な感覚を持っていないことです。なぜそれが機能するのかを「描く」ことはできません。

編集：すべての答えは、特に@whuberのように挑戦的でした。これはまだ理解する必要がありますが、統計を整理することは非常に役に立ちました。それにもかかわらず、私はもっと基本的な質問をするべきだったことに気付きました：IとNを考えると、Fの分布は何ですか？誰もがベータ版だと指摘しましたが、それは私が知っていました。私はついにウィキペディア（以前の共役）からそれがあるように思えたBeta(I+1, N-I+1)。プログラムでそれを調べた後、それは正しい答えのように見えます。だから、私が間違っているかどうかを知りたいです。そして、上記の2つのcdfの関係、なぜ合計が1になるのか、そして私が本当に知りたいことと何か関係があるのか​​どうか、まだ混乱しています。

一様分布からの独立した描画の順序統計を考慮してください。順序統計にはベータ分布があるため、が超えない可能性はベータ積分で与えられます N + 1 X [ K ]$x_{[0]} \le x_{[1]} \le \cdots \le x_{[n]}$$n+1$$x_{[k]}$$p$

$$\Pr[x_{[k]} \le p] = \frac{1}{B(k+1, n-k+1)} \int_0^p{x^k(1-x)^{n-k}dx}.$$

（これはなぜですか？ここに、厳密ではないが記憶に残るデモンストレーションがありますがと間にある可能性は、一様な値のうち、がと、それらの少なくとも1つはとにあり、残りはと間にあります。無限小ので最初に順序を付けるには、1つの値（自体）と間にあるため、$x_{[k]}$$p$$p + dp$$n+1$$k$$0$$p$$p$$p + dp$$p + dp$$1$$dp$$x_{[k]}$$p$$p + dp$$n - k$値が超えています。すべての値は独立していて均一であるため、この確率は比例します。最初の順序では、これはに等しく、正確にベータ分布の被積分関数です。項は、この引数から多項係数として直接計算するか、または積分の正規化定数。）$p + dp$$p^k (dp) (1 - p - dp)^{n-k}$$dp$$p^k(1-p)^{n-k}dp$$\frac{1}{B(k+1, n-k+1)}$${n+1}\choose{k,1, n-k}$

定義により、イベントは、値が超えないことです。同様に、値の少なくともは超えません。この単純な（そして明白なことを願う）主張は、あなたが求める直感を提供します。同等のステートメントの確率は、二項分布によって与えられます。$x_{[k]} \le p$$k+1^\text{st}$$p$ $k+1$$p$

$$\Pr[\text{at least }k+1\text{ of the }x_i \le p] = \sum_{j=k+1}^{n+1}{{n+1}\choose{j}} p^j (1-p)^{n+1-j}.$$

要約すると、ベータ積分は、イベントの計算を一連の計算に分割します。範囲で少なくとも値を検出します通常、その確率は二項累積分布関数で計算され、相互に分解されます排他的な場合、正確に値が範囲内にある 1つの値が範囲内にあるすべての可能なため、、及び無限小の長さです。そのようなすべての「ウィンドウ」合計すると（つまり、積分して）、二項累積分布関数と同じ確率を与える必要があります。$k+1$$[0, p]$ $k$$[0, x]$$[x, x+dx]$$x$$0 \le x \lt p$$dx$$[x, x+dx]$

関数としてのBinomialのpdfを見てください： および関数としてのBetaのpdf ： おそらく見ることができますと適切な（整数の）選択が、これらは同じです。私が知る限り、この関係はこれですべてですが2項分布pdfに入る方法は、たまたまベータ分布と呼ばれています。$x$

$$f(x) = {n\choose{x}}p^{x}(1-p)^{n-x}$$ $p$ $$g(p)=\frac{\Gamma(a+b)}{\Gamma(a)\Gamma(b)}p^{a-1}(1-p)^{b-1}$$ $a$$b$$p$

前述のように、ベータ分布は試行確率パラメーター分布を表し、二項分布は結果パラメーター分布を表します。あなたの質問を書き直して、あなたが尋ねたのは、 つまり、観測値に1を加えたものが観測値の期待値より大きい可能性は、観測値の期待値と同じです観測値に1を加えた値は、観測値の期待値よりも大きくなります。$F$$I$

$$P(F \le \frac {i+1} n)+P(I \le fn-1)=1$$ $$P(Fn \le i+1)+P(I+1 \le fn)=1$$ $$P(Fn \le i+1)=P(fn<I+1)$$

これは問題の元の定式化を直観する助けにはならないかもしれませんが、少なくとも2つの分布が繰り返しのベルヌーイ試行の同じ基礎モデルを使用して異なるパラメーターの動作を記述する方法を確認するのに役立つかもしれません。

ベイジアン土地では、ベータ分布は二項分布のpパラメーターの共役共役です。

他の回答にコメントできないので、自分で回答を作成する必要があります。

事後= C *尤度*事前（Cは事後を1に統合する定数です）

尤度に二項分布を使用し、事前分布にベータ分布を使用するモデルを考えます。事後を生成する2つの積もベータ分布です。PriorとPosteriorは両方ともベータであるため、これらは共役分布です。事前（ベータ）は、尤度（二項）の共役事前と呼ばれます。たとえば、ベータにノーマルを掛けると、後部はベータではなくなります。要約すると、ベータと二項分布は、ベイジアン推論で頻繁に使用される2つの分布です。ベータは二項の共役事前分布ですが、2つの分布は他の分布のサブセットまたはスーパーセットではありません。

ベイジアン推論の重要な考え方は、パラメーターpを[0,1]の範囲のランダム変数として扱うことです。これは、パラメーターpを固定として扱う頻繁な推論アプローチに反します。ベータ分布のプロパティをよく見ると、その平均とモードは、パラメータpとは無関係のとによってのみ決定される$\alpha$$\beta$ことがわかります。これは、その柔軟性と相まって、ベータ版が通常、優先度として使用される理由です。

概要：ベータ版の配布は、ディストリビューションの配布であるとよく言われます！しかし、どういう意味ですか？

これは本質的にを修正し、を関数として考えることができることを意味します。何以下の計算は、と言うことの価値ことであるから増加へ際にチューニングからへ。各々における増加率正確であるその時。$n,k$$\mathbb P[Bin(n,p)\geqslant k]$$p$$\mathbb P[Bin(n,p)\geqslant k]$$0$$1$$p$$0$$1$$p$$\beta(k,n-k+1)$$p$

---

LET有する二項確率変数示すサンプルと成功の確率。基本代数を使用して$Bin(n,p)$$n$$p$

$$\frac d{dp}\mathbb P[Bin(n,p)=i]=n\Big(\mathbb P[Bin(n-1,p)=i-1]-\mathbb P[Bin(n-1,p)=i]\Big).$$

また、いくつかの優れた組み合わせの証明もあります。これは演習と考えてください。

だから、私たちは持っています：

$$\frac d{dp}\mathbb P[Bin(n,p)\geqslant k]=\frac d{dp}\sum_{i=k}^{n}\mathbb P[Bin(n,p)=i]=n\Big(\sum_{i=k}^{n}\mathbb P[Bin(n-1,p)=i-1]-\mathbb P[Bin(n-1,p)=i]\Big)$$ は伸縮式シリーズであり、次のように簡略化できます

$$\frac d{dp}\mathbb P[Bin(n,p)\geqslant k]=n\mathbb P[Bin(n-1,p)=k-1]=\frac{n!}{(k-1)!(n-k)!}p^{k-1}(1-p)^{n-k}=\beta(k,n-k+1).$$

---

備考でのプロットの外観のインタラクティブバージョンを確認するには、これを。ノートブックをダウンロードするか、バインダーリンクを使用するだけです。