確率の比率とPDFの比率

クラスタリングの問題を解決するためにベイズを使用しています。いくつかの計算を行った後、2つの確率の比率を取得する必要があります。

P (A) / P (B)

$P(A)/P(B)$

を取得できるようにします。これらの確率は、この回答で説明されているように、2つの異なる2D多変量KDEの統合によって得られます。 $P(H|D)$

P (A) = \iint_{x, y : \hat{f} (x, y) < \hat{f} (r_{a}, s_{a})} \hat{f} (x, y) d x d y

$P(A) = \iint_{x, y : \hat{f}(x, y) < \hat{f}(r_a, s_a)} \hat{f}(x,y)\,dx\,dy$

P (B) = \iint_{x, y : \hat{g} (x, y) < \hat{g} (r_{b}, s_{b})} \hat{g} (x, y) d x d y

$P(B) = \iint_{x, y : \hat{g}(x, y) < \hat{g}(r_b, s_b)} \hat{g}(x,y)\,dx\,dy$

ここで、 $\hat{f}(x, y)$ および $\hat{g}(x, y)$ はKDEであり、しきい値 $\hat{f}(r_a, s_a)$ および $\hat{g}(r_b, s_b)$ 。両方のKDEはガウスカーネルを使用します。私が作業しているものに似たKDEの代表的な画像をここで見ることができます：2Dでのカーネル密度推定量の統合。

python関数stats.gaussian_kdeを使用してKDEを計算するため、次の一般的な形式を想定しています。

K D E (x, y) = \frac{1}{n} \sum_{i = 1}^{n} - \frac{1}{2 h^{2}} e^{- \frac{(x - x_{i})^{2} + (y - y_{i})^{2}}{2 h^{2}}}

$KDE(x,y) = \frac{1}{n} \sum_{i=1}^{n} -\frac{1}{2h^2} e^{-\frac{(x-x_i)^2 + (y-y_i)^2}{2h^2}}$

ここnで、ポイントの配列の長さとh使用される帯域幅です。

上記の積分は、モンテカルロプロセスを適用して計算されますが、これは非常に計算コストがかかります。このようなケースでは、確率の比率をしきい値ポイントで評価されたPDF（KDE）の比率で置き換えて、同等の有効な結果を得ることができることをどこかで読みました（場所を忘れてしまった、申し訳ありません）。KDEs比の計算は、MCとの積分比の計算よりも桁違いに速いため、これに興味があります。

したがって、問題はこの式の妥当性に限定されます。

\frac{P (A)}{P (B)} = \frac{\hat{f} (r_{a}, s_{a})}{\hat{g} (r_{b}, s_{b})}

$\frac{P(A)}{P(B)} = \frac{\hat{f}(r_a, s_a)}{\hat{g}(r_b, s_b)}$

どのような状況下で、もしあれば、この関係が真実であると言えますか？

[誤字修正（編集）]

追加：

ここだ基本的に同じ質問が、よりに作られた数学的なフォーム。

— ガブリエル
ソース

適切なは、積分の平均値定理によって保証されることに注意してください。

r_{a, b}, s_{a, b}

$r_{a,b}, s_{a,b}$

— デイブ14年

Mills Ratioが関係していると思います。

— whuber

@whuberその比率は、私がP(X)計算を避けようとしているものの値を知っていることが明らかに必要です。そのパラメーターの関連性について少し詳しく教えてください。

— ガブリエル14年

KDEは正規分布の混合です。それらの1つを見てみましょう。

との定義は、それらの値が平面内の平行移動と再スケーリングの下で不変であることを示しているため、PDFした標準正規分布を考慮するだけで十分です。不平等 $P(A)$ $P(B)$ $f$

f (x, y) \leq f (r, s)

$f(x,y) \le f(r,s)$

に等しい

x^{2} + y^{2} \geq r^{2} + s^{2} .

$x^2 + y^2 \ge r^2 + s^2.$

極座標導入するとで積分を書き換えることができます $\rho, \theta$

P (r, s) = \frac{1}{2 π} \int_{0}^{2 π} \int_{\sqrt{r^{2} + s^{2}}}^{\infty} ρ \exp (- ρ^{2} / 2) d ρ d θ = \exp (- (r^{2} + s^{2}) / 2) = 2 π f (r, s) .

$P(r,s) = \frac{1}{2\pi}\int_0^{2\pi}\int_\sqrt{r^2+s^2}^\infty \rho \exp(-\rho^2/2) d\rho d\theta= \exp(-(r^2+s^2)/2) = 2\pi f(r,s).$

次に、混合を検討します。線形であるため、

\begin{aligned} P (r, s) & = \frac{1}{n} \sum_{i} 2 π f ((r - x_{i}) / h, (s - y_{i}) / h) \\ = 2 π h^{2} (\frac{1}{n} \sum_{i} \frac{1}{h^{2}} f ((r - x_{i}) / h, (s - y_{i}) / h)) \\ = 2 π h^{2} K D E (r, s) . \end{aligned}

$\eqalign{ P(r,s) &= \frac{1}{n}\sum_i 2\pi f((r-x_i)/h, (s-y_i)/h) \\ &= 2\pi h^2\left(\frac{1}{n}\sum_i \frac{1}{h^2} f((r-x_i)/h, (s-y_i)/h)\right) \\ &=2\pi h^2 KDE(r,s). }$

実際、とは比例しています。 比例定数はです。 $f$ $P$ $2\pi h^2$

このようなと比例関係が特別である $P$ $f$ ことは、単純な反例を考慮することで理解できます。ましょう測定セットに均一に分布有し単位面積のおよび測定セットに均一に分布有しから互いに素で及び面積有する。次に、PDFファイルとの混合物一定値を有するに、に、他の場所にゼロです。考慮すべき3つのケースがあります。 $f_1$ $A_1$ $f_2$ $A_2$ $A_1$ $\mu\gt 1$ $f=f_1/2 + f_2/2$ $1/2$ $A_1$ $1/(2\mu)$ $A_2$

$(r,s)\in A_1$ 。ここで、 1/2はその最大値に達し、そこからです。比率。 $f(r,s)=1/2$ $P(r,s)=1$ $f(r,s)/P(r,s) = 1/2$
$(r,s)\in A_2$ 。ここで、は厳密により小さいがより大きいです。したがって、積分領域はの補数であり、結果の積分は等しくなければなりません。比。 $f(r,s)$ $1/2$ $0$ $A_1$ $1/2$ $f(r,s)/P(r,s) = (1/(2\mu))/(1/2) = 1/\mu$
他の場所では、はゼロであり、積分はゼロです。 $f$ $P$

明らかに、比率は（定義されている場合）一定ではなく、と間で変化します。この分布は連続的ではありませんが、正規分布追加することで連続的に行うことができます。両方の固有値を小さくすることにより、分布はほとんど変化せず、定性的に同じ結果を生成します。比率値には、区間すべての数値が含まれます。 $1$ $1/\mu \ne 1$ $(0,\Sigma)$ $\Sigma$ $f/P$ $[1,1/\mu]$

この結果は、他の次元にも一般化されません。 この答えを開始した本質的に同じ計算は、が不完全なガンマ関数であり、明らかにと同じではないことを示しています。の積分は本質的に距離に関係し、それらが正規分布の場合、距離関数は分布指数分布持つことに注意することで、2つの次元が特別であることを理解できます。指数関数は、それ自体の導関数に比例するという点でユニークです。そのため、被積分関数と積分は比例しなければなりません。 $P$ $f$ $P$ $\chi^2(2)$ $f$ $P$

— ウーバー
ソース

これは信じられないほどの答えです。ありがとうございます。ここで書いたすべてを完全に処理するにはしばらく時間がかかりますが、計算を完全に信頼しています。つまり、問題を解決済みとしてマークしました。乾杯。

— ガブリエル14