ハミルトニアンモンテカルロ対シーケンシャルモンテカルロ


23

これら2つのMCMCスキームのさまざまなアプリケーションドメインだけでなく、相対的なメリットと欠点についても把握しようとしています。

  • いつ、なぜ使用しますか?
  • 一方が失敗し、もう一方が失敗しない場合(例:HMCは適用可能だがSMCは適用不可、またはその逆)
  • 一つは、非常に単純に、許可された可能性(すなわち、一般的に、1である他と比較して1つの方法に有用性の尺度を入れて、より良いですか)?

現在、HMCに関するBetancourtの優れた論文を読んでいます。


3
SMCはMCMCの手法ではありません。つまり、SMCを使用するときに構築されるマルコフ連鎖はありません。
ジャラドニエミ

1
いつかsmc内でmcmcを使用します。また、mcmc内でsmcを使用することもあります。しかし、これを書いている時点では、hmcとsmcの使用を組み合わせた論文は知りません。
テイラー

1
私自身は、SMC(別名、粒子フィルタリング)とHMCの関係をよりよく理解したいと思います。質問ありがとう!I 2つのアプローチのmeldingのいくつかの種類を表すために一見思える本論文では、注意してください:arxiv.org/pdf/1504.05715v2.pdfを
デビッド・C.ノリス

回答:


23

ハミルトニアンモンテカルロは、「奇妙な」形状の連続的なターゲット分布でうまく機能します。基本的にどこに行くべきかを知るためにターゲット分布の勾配を使用するため、ターゲット分布は微分可能である必要があります。完璧な例は、バナナ型の関数です。

バナナ機能の標準的なメトロポリスヘイスティングスは次のとおりです。66%の受け入れ率と非常に低いカバレッジ。 バナナ機能付きのメトロポリスヘイスティングス

ここにHMCがあります:良好なカバレッジで99%の受け入れ。 バナナ機能付きのメトロポリスヘイスティングス

Pθ|y1Pθ|y1y2Pθ|y1y2yN

たとえば、このシーケンスはSMCの優れたターゲットです。 ここに画像の説明を入力してください

SMCの並列性により、分散/並列コンピューティングに特に適しています。

概要:

  • HMC:細長い奇妙なターゲットに適しています。非連続関数では機能しません。
  • SMC:マルチモーダルおよび非連続的なケースに適しています。高次元の奇妙な形状では、収束が遅くなるか、より多くの計算能力が使用される場合があります。

出典:ほとんどの画像は、2つの方法(ハミルトニアンシーケンシャルモンテカルロ)を組み合わせて書いた論文からのものです。この組み合わせは、非常に高い次元であっても、私たちが投げることができるほぼすべての分布をシミュレートできます。


1
素晴らしく明確です。+1。なぜこれ以上の賛成票がないのか分かりません!
アルボウイルス

2
興味のある方のための論文はこちらです:remidaviet.com/files/HSMC-paper.pdf
stackoverflax
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.