MCMCサンプリングからの事後推論のための有効なサンプルサイズ

特定のパラメーターについて推論するためにMCMCサンプルを取得する場合、対象とする必要のある有効なサンプルの最小数の良いガイドは何ですか？

また、モデルが多少複雑になると、このアドバイスは変わりますか？

私の推測では、おそらく

エラー。モデルによって異なります。

O (n^{- \frac{1}{2}})

$O(n^{-\frac{1}{2}})$

— 確率論的

あなたが尋ねている質問は、「収束診断」とは異なります。すべての収束診断を実行し（お気に入りを選択）、後からサンプリングを開始する準備ができたとしましょう。

有効なサンプルサイズ（ESS）に関して2つのオプションがあり、単変量ESSまたは多変量ESSを選択できます。単変量ESSは、各パラメーターの有効なサンプルサイズを個別に提供し、控えめな方法で、最小の推定値を選択します。このメソッドは、コンポーネント間のすべての相互相関を無視します。これはおそらくほとんどの人がしばらく使用しているものです

最近、ESSの多変量定義が導入されました。多変量ESSは、推定する数量の有効なサンプルサイズに対して1つの数値を返します。そして、プロセス内のすべての相互相関を考慮に入れてそうします。個人的には、多変量ESSがはるかに好きです。事後分布の平均のベクトルに興味があるとします。mESSは次のように定義されます $p$ ここに

mESS = n {（ \frac{| Λ |}{| Σ |} ）}^{1 / p} 。

$\text{mESS} = n \left(\dfrac{|\Lambda|}{|\Sigma|}\right)^{1/p}.$

は後部の共分散構造です（独立したサンプルがある場合はCLTの漸近共分散） $\Lambda$
は、マルコフ連鎖CLTの漸近共分散行列です（サンプルは相関しているため、は異なります）。 $\Sigma$ $\Lambda$
は推定される数量の数（またはこの場合、事後の次元）です。 $p$
決定要因です。 $|\cdot|$

サンプルの共分散行列を使用してを推定し、バッチ平均共分散行列を使用してを推定することにより、mESSを推定できます。これは、Rパッケージmcmcseの関数にコーディングされています。 $\Lambda$ $\Sigma$ multiESS

この最近の論文は、必要な有効なサンプルの数の理論的に有効な下限を提供します。シミュレーションの前に、決定する必要があります

：精度。は、事後誤差と比較して、モンテカルロに求める誤差の割合です。これは、従来の設定でサンプルサイズの計算を行う際のエラーマージンのアイデアに似ています。 $\epsilon$ $\epsilon$
：信頼区間を構築するためのレベル。 $\alpha$
：推定する数量の数。 $p$

これらの3つの数量で、必要な有効なサンプルの数がわかります。紙はストップシミュレーションに初めて尋ねる

mESS \geq \frac{2^{2 / p} π}{(p Γ (p / 2))^{2 / p}} \frac{χ_{1 - α, p}^{2}}{ϵ^{2}},

$\text{mESS} \geq \dfrac{2^{2/p} \pi}{(p \Gamma(p/2))^{2/p}} \dfrac{\chi^2_{1-\alpha, p}}{\epsilon^2},$

ここで、はガンマ関数です。この下限は、Rパッケージmcmcseを使用して計算できます。 $\Gamma(\cdot)$ minESS

したがって、事後のパラメータがであり、推定値の信頼度が必要であり、モンテカルロ誤差が事後の誤差の5％（）であるとします。 $p = 20$ $95\%$ $\epsilon = .05$

> minESS(p = 20, alpha = .05, eps = .05)
[1] 8716

これは、あらゆる問題に当てはまります（規則性の条件下）。この方法が問題から問題に適応する方法は、ゆっくりと混合するマルコフ連鎖は、mESSが小さくなるため、その下限に到達するのに時間がかかることです。したがってmultiESS、マルコフ連鎖がその限界に達したかどうかを使用して、数回チェックできます。そうでない場合は、さらにサンプルを取得します。

— グリーンパーカー
ソース

（+1）すばらしい答え。関数multiESSがMATLABなどの他の言語用にコーディングされているかどうか知っていますか？（または再実装するのは難しいでしょうか？）

— lacerbi

Σ

$\Sigma$

Σ

$\Sigma$

@lacerbi Matlabでコーディングできたことを嬉しく思います。可能であれば、このコメントが完成したら返信してください。使用できるようになります。ありがとう

— グリーンパーカー

multiESSの私のMATLAB実装はここから入手できます。動作するバージョンですが、さらにテストする必要があります（Rに詳しくない場合は、Rの実装と比較します）。

— lacerbi

収束はいくつかの事柄に依存します：パラメーターの数、モデル自体、サンプリングアルゴリズム、データ...

一般的な規則を避け、各特定の例で適切なバーンインおよび間引き回数を検出するために、いくつかの収束診断ツールを使用することをお勧めします。参照してくださいhttp://www.johnmyleswhite.com/notebook/2010/08/29/mcmc-diagnostics-in-r-with-the-coda-package/、http://users.stat.umn.edu/~geyer/mcmc/diag.html。

— モンテクリスト
ソース