アダプティブMCMCは信頼できますか?


20

私は適応MCMCについて読んでいます(例えば、Markov Chain Monte Carloハンドブックの第4章、ed。Brooks et al。、2011、およびAndrieu&Thoms、2008を参照)。

np(n)limnp(n)=0

この結果は、(事後)直感的で、漸近的になります。適応の量はゼロになる傾向があるため、最終的にはエルゴード性を台無しにしません。私の懸念は、有限の時間で何が起こるかです。

  • 与えられた有限時間に適応がエルゴード性を台無しにしていないこと、そしてサンプラーが正しい分布からサンプリングしていることをどうやって知るのでしょうか?それが理にかなっている場合、早期適応がチェーンにバイアスをかけないようにするために、どの程度のバーンインを行う必要がありますか?

  • 現場の開業医は適応型MCMCを信頼していますか?私が試しビルドでの適応など、エルゴード性を尊重することが知られている他、より複雑な方法ですることを最近の多くの方法を見てきたので、私は求めています理由は、再生アンサンブルの方法(すなわち、移行を選択することが合法です他の並列チェーンの状態に依存する演算子)。または、Stanなどのバーンイン中にのみ適応が実行されますが、実行時ではありません。これらのすべての取り組みは、ロバーツとローゼンタールによる適応型MCMC(実装するのは信じられないほど簡単です)が信頼できると見なされないことを示唆しています。しかし、おそらく他の理由があります。

  • 適応メトロポリス・ヘイスティングスなどの特定の実装についてはどうですか(Haario et al。2001)?


参照資料


1
+1ですが、非適応MCMCでも有限時間の保証はありますか?
ジュホコッカラ16

2
@JuhoKokkala:おそらくそうではありませんが、適応型MCMCでは、可能性のある障害モードのレイヤーをさらに追加しているようです。少なくとも、実務家(私にとっても)がなぜそれを警戒するのかという私の理解です。
lacerbi 16

1
バーンイン中の適応は、適応に対処する最良の方法だと思います。明らかに、他の部分とは異なるチューニングを必要とする後部のいくつかの領域がある場合、問題が発生しますが、その場合、完全適応型MCMCを実行する場合は、とにかく消失状態のためあまり適応することはできません。 。
sega_sai

回答:


2

与えられた有限時間に適応がエルゴード性を台無しにしていないこと、そしてサンプラーが正しい分布からサンプリングしていることをどうやって知るのでしょうか?それが理にかなっている場合、早期適応がチェーンにバイアスをかけないようにするために、どの程度のバーンインを行うべきですか?

エルゴード性とバイアスは、マルコフ連鎖の漸近特性に関するものであり、マルコフ連鎖の動作と分布については何も伝えませんat a given finite time。適応性はこの問題とは関係ありません。MCMCアルゴリズムは、ターゲットから遠く離れたシミュレーションを生成する場合がありat a given finite timeます。


1
(+1)説明をありがとう。はい、MCMCアルゴリズムには保証がないことを理解していat a given finite timeます。ただし、実際には、ほとんどの場合、理論的な保証はありませんが、特定の有限時間にターゲット分布の良好/合理的な近似を提供するかのように使用します(数学的には少数のケースのみがわかっています)。おそらく、「ミキシング時間を台無しにして」と言うべきでしょうか?それは私が意図したことに近いです。言語の修正方法に関する提案がありましたら、教えてください。
lacerbi
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.