Metropolis-Hastingsの代わりにGibbsサンプリングを使用するのはいつですか？

MCMCアルゴリズムにはさまざまな種類があります。

• メトロポリス・ヘイスティングス
• ギブス
• 重要性/拒否サンプリング（関連）。

Metropolis-Hastingsの代わりにGibbsサンプリングを使用するのはなぜですか？メトロポリス・ヘイスティングスよりもギブス・サンプリングの方が推論が扱いやすい場合があると思いますが、詳細については明確ではありません。

まず、[やや教育的に]次のことに注意してください。

MCMCアルゴリズムには、Metropolis-Hastings、Gibbs、重要度/拒否サンプリング（関連）など、いくつかの種類があります。

重要度と拒否のサンプリング方法は、MCMCアルゴリズムではありません。これらは、マルコフ連鎖に基づいていないためです。実際には、重要度サンプリングは、目標分布からサンプルを生成しない発言権を、だけ重要性重みは、ωに関連積分のモンテカルロ近似に使用される、と言うF。これらの重みを確率として使用してサンプルを生成しても、fの下で期待の公平な推定量を生成できたとしても、fからの適切なサンプルにはなりません。$f$$\omega$$f$$f$$f$

第二に、質問

なぜメトロポリス・ヘイスティングスの代わりにギブスのサンプリングに行くのでしょうか？メトロポリス・ヘイスティングスよりもギブス・サンプリングの方が推論が扱いやすい場合があると思う

Metropolis-Hastingsサンプラーは、ギブスサンプラーを含むほとんど何でもよいという点で、答えがありません。以前の同様の質問にかなり詳細な言葉で答えました。ただし、ここで冗長な点をいくつか追加します。

ギブスサンプリングが導入された主な理由は、正しいターゲットに収束する一連の低次元シミュレーションを生成することにより、次元の呪い（拒否と重要度サンプリングの両方に影響を与える）を破ることでした。ターゲットの次元は収束の速度に影響を与えますが。Metropolis-Hastingsサンプラーは、受け入れ/拒否ステップを介して間違った密度を補正することにより、提案（重要度や拒否サンプリングなど）に基づいてマルコフ連鎖（ギブスサンプリングなど）を作成するように設計されています。しかし重要な点は、それらが対立していないことです。つまり、複雑な低次元の条件付きターゲットに直面する場合、ギブスのサンプリングはメトロポリス・ヘイスティングスの手順を必要とする可能性がありますが、メトロポリス・ヘイスティングスの提案は（ギブス）完全条件の近似に基づいて構築される可能性があります。正式な定義では、ギブスサンプリングは、1つの許容確率を持つMetropolis-Hastingアルゴリズムの特殊なケースです。（ところで、私は推論私はそれを予約するだろうと、その引用符で統計的なものをサンプラーがある一方で、目的の数値デバイス。）

通常、ギブスサンプリング[一連の低次元条件付きシミュレーションの実行として理解されている]は、このような条件への分解が実装が容易で実行が速い設定で好まれます。このような分解がマルチモダリティを引き起こし、それゆえモード間を移動するのが難しい設定（混合モデルのような潜在変数モデルが頭に浮かぶ）で、メトロポリス・ヘイスティングアルゴリズムでよりグローバルな提案を使用すると、より高い効率が得られる場合があります。しかし、欠点は、Metropolis-Hastingアルゴリズムで提案分布を選択することです。