おおよそのメトロポリスアルゴリズム-意味がありますか？

少し前に西安は、PDFのMCMCのcdfsに相当するものは何ですかと尋ねました？素朴な答えは、「近似」メトロポリスアルゴリズムをフォームで使用することです。

与えられた $X^{(t)} = x^{(t)}$
1.生成する $Y \sim q(y|x^{(t)})$
2.取る
$X^{(t + 1)} = {\begin{cases} Y & with probability & min (\frac{F (Y + ε) - F (Y - ε)}{F (x^{(t)} + ε) - F (x^{(t)} - ε)}, 1) \\ x^{(t)} & otherwise. \end{cases}$ $X^{(t+1)} = \begin{cases} Y & \text{ with probability } & \min\left( \frac{F(Y+\varepsilon) - F(Y-\varepsilon)}{F(x^{(t)}+\varepsilon) - F(x^{(t)}-\varepsilon)} , 1 \right)\\ x^{(t)} & \text{ otherwise.} \end{cases}$

ここで、はターゲットCDFで、は小さな定数です。これにより、CDFでMetropolisアルゴリズムを使用できるようになります。 $F$ $\varepsilon$

問題は、これが実際に悪い考えかもしれない理由があるのでしょうか？

— ティム
ソース

西安の質問に対する私の答えを見ましたか？私は同様のことを提案していると思います（実際にはCDFがあるため、Metropolisを使用する必要すらありません）。問題は私の回答の最後にリストされています（近似を評価するコストは、次元数で指数関数的です）。

— lacerbi

@lacerbiありがとう。私はCDFを持っているので、私はそれを必要としないことを知っています。それは単なる好奇心です。費用以外に何かありますか？

— ティム

@ティム：提案ありがとうございます。が多次元である場合の解決策として考えられるのは、ギブスサンプリングを実行し、導関数を一度に1つの方向にとることです。

X

$X$

ϵ

$\epsilon$

— 西安

西安@はい、これは簡単にギブス、MHなどにまで拡張することができ

— ティム

いいえ、これが悪い考えである理由はわかりません。CDFからサンプルを抽出するのは自然な（そして興味深い）拡張であるように思えます。

ただし、受け入れは

min (\frac{F (Y + ε) - F (Y)}{F (x^{(t)} + ε) - F (x^{(t)})}, 1)

$\min\left( \frac{F(Y+\varepsilon) - F(Y)}{F(x^{(t)}+\varepsilon) - F(x^{(t)})} , 1 \right)$

定義により

lim_{ε \to 0} \frac{F (x + ε) - F (x)}{ε} = P D F (x)

$\lim_{\varepsilon\rightarrow 0}\frac{F(x + \varepsilon) - F(x)}{\varepsilon} = PDF(x)$

それにもかかわらず、私がこれを見たのは初めてです。自明ではないCDFからサンプリングする強いケースがあるため、これは興味深い出版物になる可能性があります。

— ホルヘ・レイタオ
ソース

OPによって提案された許容基準は、な微分の中央差分式によって動機付けられます、たとえばmath.stackexchange.com/a/888280/104295を参照してください。（私はこれらの近似のどちらかがこの場合により良く機能すると信じる理由があるかどうか分かりません）。

lim_{ϵ \to 0} (F (x + ϵ) - F (x - ϵ)) / (2 ϵ)

$\lim_{\epsilon\rightarrow 0} (F(x+\epsilon) - F(x-\epsilon)) / (2\,\epsilon)$

— Juho Kokkala

@JuhoKokkala +/-アプローチも境界ケースを均等に扱います。

— Tim