プロポーザル配布-Metropolis Hastings MCMC

メトロポリス-ヘイスティングスマルコフチェーンモンテカルロでは、提案の分布はガウシアン（Wikipediaによると）を含めて何でもかまいません。

Q：Gaussian以外のものを使用する動機は何ですか？Gaussianは機能し、評価が簡単で、高速で、誰もが理解しています。なぜ他のことを検討するのですか？

Q：プロポーザル分布は何でもかまいませんが、均一分布を使用できますか？

sampling mcmc monte-carlo metropolis-hastings

— こんにちは世界
ソース

A1：確かに、主に使いやすさのため、ガウス分布はおそらく最もよく使用される提案分布です。ただし、次の理由により、他のプロポーザル分布を使用したい場合があります。

ヘビーテール：ガウス分布の裾は薄い。つまり、は間の値のみを提案する可能性があります。しかし、分布は裾が重いため、より離れた値を提案できます。これにより、結果のマルコフチェーンがより自由に状態空間を探索し、自己相関が減少する可能性があります。以下のプロットは、と比較した示しています。が0から離れた値を提案する可能性が高いことがわかります。 $N(x_{t-1}, \sigma^2)$ $(x_{t-1} - 3\sigma, x_{t-1} + 3\sigma)$ $t$ $N(0,1)$ $t_1$ $t$

制限付きスペース：ガウス分布はすべての実数で定義されます。サンプリング元の分布が、正またはでのみ定義されているとすると、ガウシアンはターゲット密度が0である値を提案する可能性があります。そのような値はすぐに拒否され、マルコフ連鎖現在のスポットから移動しません。これは本質的にマルコフ連鎖からのドローを無駄にしています。代わりに、ポジティブであればガンマ分布を、ではベータを使用できます。 $(0,1)$ $(0,1)$
複数モード：ターゲット分布がマルチモーダルである場合、ガウスの提案により、マルコフ連鎖が1つのモードの近くでスタックする可能性があります。これは、ガウスの尾が薄いためです。したがって、代わりに、人々は勾配ベースの提案、またはガウシアンの混合を提案として使用します。

あなたはこことここでもっと議論を見つけることができます。

A2：はい。均一分布のサポートが制限されている限り、均一分布を使用できます（サポートが制限されていない場合、均一分布はに統合されるため不適切です）。したがって、制服。 $\infty$ $(x_{t-1} - c, x_{t-1} + c)$

— Greenparker
ソース

A2の「スペースが制限されている」の意味を明確にできますか（ターゲットパラメーターが存在するスペースは、チェーンがどこにでも移動できる限り制限されている必要はなく、おそらく複数のステップが必要です）。また、1つのエンドポイントに、別のエンドポイントにはがあるというタイプミスはありますか？

x_{t - 1}

$x_{t-1}$

x_{t + 1}

$x_{t+1}$

— Juho Kokkala 16

@JuhoKokkala誤植を修正しました。指摘していただきありがとうございます。一様分布は、境界のある空間で定義する必要があります。そうしないと、1に統合されません（そして統合されます）。

\infty

$\infty$

— Greenparker

@Greenparker：「スペース」の意味をさらに明確にする必要があります。ターゲット分布のサポートは無制限である可能性がありますが、均一な提案のサポートは制限されていますが、対応する均一な提案は、空間全体で既約マルコフ連鎖を生成する可能性があります。

— 西安

1. sigmaは選択可能なパラメーターであるため、この引数は無効です。2.ランダムウォークMH（1が示すように）について議論している場合、これは境界でのみ問題になります。

— Hunaphu

@Hunaphuは提案の分散を変更しますが、尾の構造は変更しません。また、「これは境界でのみ問題になる」という意味を拡張できますか？

σ

$\sigma$

— Greenparker