マルコフ性に影響を与えることなく、ランダムウォークMH MCMCの提案分布を変更できますか?


14

対称提案によるランダムウォークメトロポリスハシティング

qバツ|y=g|yバツ| は、許容確率

Paccept y={1fy/fバツ}

提案g(\ cdot)に依存しませんg

つまり、チェーンのマルコフ性に影響を与えることなく、チェーンの以前のパフォーマンスの関数としてgを変更できるということですか?

私が特に興味を持っているのは、受け入れ率の関数としての標準提案のスケーリングの調整です。

また、この種の問題に対して実際に使用されている適応アルゴリズムを誰かが指摘していただければ幸いです。

どうもありがとう。

[編集:robertsyとwokが提供するリファレンスから始めて、MH適応アルゴリズムに関する次のリファレンスを見つけました。

アンドリュー、クリストフ、エリックムーラン。2006.
適応MCMCアルゴリズムのエルゴード性について。応用確率の16、いいえ。3:1462-1505。http://www.jstor.org/stable/25442804

アンドリュー、クリストフ、ヨハネストムズ。
2008.適応MCMCのチュートリアル。統計とコンピューティング18、いいえ。4(12):343-373。doi:10.1007 / s11222-008-9110-y http://www.springerlink.com/content/979087678366r78v/

Atchadé、Y.、G。Fort、E。Moulines、およびP. Priouret。2009.
適応マルコフ連鎖モンテカルロ:理論と方法。プレプリント。

イブ・アチャデ 2010.
部分幾何カーネルを使用した一部の適応MCMCアルゴリズムの定理を制限します。ベルヌーイ16号 1(2月):116-154。doi:10.3150 / 09-BEJ199。 http://projecteuclid.org/DPubS?verb=Display&version=1.0&service=UI&handle=euclid.bj/1265984706&page=record

Cappé、O.、S。J Godsill、およびE. Moulines。2007.
既存の方法の概要と逐次モンテカルロ法の最近の進歩。IEEE 95の議事録、いいえ。5:899-924。

ジョルダーニ、パオロ。2010.
法線の混合物の高速推定による適応独立メトロポリス-ヘイスティング。Journal of Computational and Graphical Statistics 19、no。2(6):243-259。doi:10.1198 / jcgs.2009.07174。http://pubs.amstat.org/doi/abs/10.1198/jcgs.2009.07174

ラトゥツィンスキ、クシシュトフ、ガレスOロバーツ、ジェフリーSローゼンタール。2011.
適応ギブスサンプラーおよび関連MCMCメソッド。1101.5838(1月30日)。http://arxiv.org/abs/1101.5838

パサリカ、C。、およびA.ゲルマン。2009.
予想される2乗ジャンプ距離を使用したMetropolisアルゴリズムの適応スケーリング。Statistica Sinica。

ロバーツ、ガレス
O.2009。AdaptiveMCMCの例。Journal of Computational and Graphical Statistics 18、no。2(6):349-367。doi:10.1198 / jcgs.2009.06134。http://pubs.amstat.org/doi/abs/10.1198/jcgs.2009.06134

]


SOレコードから+100ボーナスがないのはなぜですか?

@mbq、おそらく私はあなたが:)ここでの回答のものに本当の男でなければならないので、CWの100は、大したことのように見える、よく...残念としてOS上で0だったとき、私はずっと前にこのアカウントを作成した理由
VitoshKa

すべての関連付けをクリアしてからアカウントを再度関連付けると、ボーナスを取得できます。
ウォック

回答:


7

Heikki Haarioらのこの論文は、必要な答えが得られます。新しい提案値は前の値だけでなく、チェーン全体にも依存するため、チェーンのマルコフ性は提案密度の適応の影響を受けます。しかし、細心の注意を払えば、シーケンスにはまだ良い特性があるようです。


良い参考のために、ロバートシーに感謝します。実際、プロセスはマルコフではありません。受け入れ確率が過去から独立していても、プロセスの移行カーネルは提案密度の関数であるため、チェーン全体に依存します。
VitoshKa

3

Tierney、Mira(1999)で説明されているように、遅延拒否を使用して受け入れ率を改善できます。これは、2番目の提案関数と2番目の許容確率に基づいており、マルコフ連鎖が同じ不変分布で可逆であることを保証します。「実際には動作するように見えるかもしれないが、実際には適応方法を構築するのは簡単です間違った配布からのサンプル」。


3

ユーザーwokとrobertsyによって提案されたアプローチは、私が知っているあなたが探しているものの最も一般的に引用された例をカバーしています。これらの答えを拡張するために、HaarioとMiraは2006年に、DRAM(遅延拒否適応メトロポリス)と呼ばれる2つのアプローチを組み合わせた論文を書きました。

Andrieuは、さまざまな適応MCMCアプローチ(pdf)を扱い、 Haario 2001を扱っていますが、近年提案されているさまざまな代替案についても説明しています。


1

これは私の出版物の少し恥知らずなプラグインですが、この作業arxiv)でまさにこれを行います。とりわけ、アクセプタンスを改善するために指数分布の分散を適応させることを提案します(論文のアルゴリズムのステップS3.2)。

私たちの場合、漸近的に適応は提案の分布を変更しません(論文ではとき)。したがって、漸近的には、プロセスは、Wang-Landauアルゴリズムと同じ精神でマルコフ的です。プロセスがエルゴード的であり、選択したターゲット分布からのチェーンサンプルを数値的に検証します(たとえば、図4の左下パネル)。f1

受け入れ率に関する情報は使用しませんが、関心のある量に関係なく受け入れを取得します(図4の右下のスピンシステムのエネルギーに相当)。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.