MCMCサンプルからの限界尤度の計算

これは、定期的な質問（参照で、この記事、この記事とこの記事を）が、私は別のスピンを持っています。

一般的なMCMCサンプラーからのサンプルがたくさんあるとします。各サンプルについて、対数尤度および前の対数の値を知っています。役立つ場合は、データポイントごとの対数尤度の値も知っています（この情報は、WAICやPSIS-LOOなどの特定の方法で役立ちます）。$\theta$$\log f(\textbf{x} | \theta)$$\log f(\theta)$$\log f(x_i | \theta)$

私が持っているサンプルと、場合によっては他のいくつかの関数評価を使用して（ただし、アドホック MCMC を再実行せずに）限界尤度の（粗）推定値を取得したい。

まず、テーブルをクリアしましょう。私たちは皆、高調波推定器が史上最悪の推定器であることを知っています。次へ移りましょう。事前形式と事後条件を閉じた形式でギブスサンプリングを行う場合は、Chibの方法を使用できます。しかし、これらのケース以外で一般化する方法がわかりません。サンプリング手順を変更する必要がある方法もあります（後回しなど）が、ここでは興味がありません。

私が考えているアプローチは、基礎となる分布をパラメトリック（またはノンパラメトリック）形状で近似し、正規化定数を1次元最適化問題（つまり、誤差を最小にする間及びのサンプルで評価）。最も単純な場合、後部がほぼ多変量正規であると仮定すると、を多変量正規として近似し、ラプラス近似に似たものを得ることができます（いくつかの追加の関数評価を使用して、モード）。ただし、として使用できます$g(\theta)$$Z$$Z$$Z g(\theta)$$f(\textbf{x}|\theta) f(\theta)$$g(\theta)$$g(\theta)$多変量分布の変分混合など、より柔軟なファミリ。$t$

私は、このメソッドは場合にのみ機能することを認めるへの合理的な近似である、それはに非常に賢明だろう理由のいずれかの理由や訓話しますか？お勧めの読書はありますか？$Z g(\theta)$$f(\textbf{x}|\theta) f(\theta)$

完全なノンパラメトリックアプローチでは、ガウスプロセス（GP）などのノンパラメトリックファミリを使用して、（またはそのような他の非線形変換など）を近似し平方根として）、およびベイジアン求積法で潜在的なターゲットを暗黙的に統合します（こちらとこちらをご覧ください）。これは興味深い代替アプローチのように見えますが、精神的には類似しています（また、私の場合、GPは扱いにくいことに注意してください）。$\log f(\textbf{x}|\theta) + \log f(\theta)$

Chib and Jeliazkov（2001）による拡張は、残念ながらすぐにコストがかかるか、非常に変動しやすくなります。これがギブスのサンプリングケース以外ではあまり使用されない理由です。

正規化定数推定問題には多くの方法とアプローチがありますが（先週ウォリック大学で行った推定定数ワークショップでの非常に多様な講演で説明されているように、そこで利用できるスライド） MCMC出力を直接。$\mathfrak{Z}$

1. 既に述べたように、Newton and Raftery（1994）の調和平均推定量は、無限の分散を持つためにほとんど常に劣っています。ただし、代わりに調和平均恒等式で有限のサポートターゲットを使用することにより、無限分散の呪いを回避する方法があります 後部のHPD領域のインジケーターとしてを 選択します。これは、調和平均のテールを削除することにより、有限分散を保証します。（詳細に見られる私はダレンレイスと書いた紙とで正規化定数約章要するに、この方法は、MCMC出力をリサイクルジャンミシェル・マリンで書か。）

   $$\int \dfrac{\alpha(\theta)}{\pi(\theta)f(x|\theta)}\text{d}\pi(\theta|x)=\frac{1}{\mathfrak{Z}}$$ $\alpha$$\theta_1,\ldots,\theta_M$ターゲットの（20％など）最大値を識別し、それらの最大密度（HPD）シミュレーションを中心としたボールのユニオン上で均一なを作成すると半径、正規化定数の推定値を意味によって与えられます。 $\beta$$\pi(\theta)f(x|\theta)$$\alpha$$\theta^0_i$$\rho$$\mathfrak{Z}$ DθραM2βM2 $$\hat{\mathfrak{Z}}^{-1}=\underbrace{\frac{1}{\beta M^2}\sum_{m=1}^M}_{\text{double sum over}\\\beta M\text{ ball centres }\theta_i^0\\\text{and $M$ simulations } \theta_m} \underbrace{\mathbb{I}_{(0,\rho)}(\min_i||\theta_m-\theta^0_i||)\{\pi(\theta_m)f(x|\theta_m)\}^{-1}\big/\overbrace{\pi^{d/2}\rho^d\Gamma(d/2+1)^{-1}}^{\text{volume of ball with radius $\rho$}}}_{\dfrac{\beta M\alpha(\theta_m)}{\pi(\theta_m)f(x|\theta_m)}}$$ 場合の次元で（訂正がボールを交差するために適用）とあれば交差（で最高の一つの指標であることを意味しないようにボールの小さな十分ですボールはゼロとは異なります）。分母の説明は、これが$d$$\theta$$\rho$$\alpha M^2$$\beta M^2$用語： 中の各用語とに統合。 θMZ- $$\frac{1}{\beta M}\sum_{i=1}^{\beta M} \underbrace{\frac{1}{M}\sum_{m=1}^M {\cal U}(\theta_i^0,\rho)(\theta_m)}_{\text{same as with $\min$}} \times \frac{1}{\pi(\theta_m)f(x|\theta_m)}$$ $\theta_m$${\mathfrak{Z}}^{-1}$

2. 別のアプローチは、正規化定数をパラメーターに変換することです。これは統計的な異端のように聞こえますが、Guttmann andHyvärinen（2012）の論文は私にその反対を確信させました。詳細をあまり詳しく説明しなくても、観測された対数尤度 を結合対数尤度 は、強度関数をもつポアソン点プロセスの対数尤度です N Σ iが= 1、F （X I | θを）- N ログ∫ EXP F （$\mathfrak{Z}$N Σ iが= 1 [ F （X I | θ ）+ ν ] - N ∫ EXP [ F （Xは| θ ）+ ν ] d x exp

   $$\sum_{i=1}^n f(x_i|\theta) - n \log \int \exp f(x|\theta) \text{d}x$$ $$\sum_{i=1}^n[f(x_i|\theta)+\nu]-n\int\exp[f(x|\theta)+\nu]\text{d}x$$ $$\exp\{ f(x|\theta) + \nu +\log n\}$$ これは、元の尤度が上記の限界として現れないという点で、代替モデルです。モードのみが一致し、νの条件付きモードは正規化定数を提供します。実際には、上記のポアソンプロセスの尤度は利用できず、Guttmann andHyvärinen（2012）はロジスティック回帰による近似を提供します。あなたの質問とさらに良く結びつけるために、Geyerの推定はMLEであり、したがって最大化問題の解決策です。
3. 接続されたアプローチは、チャーリー・ガイアーのロジスティック回帰アプローチです。基本的な概念は、からのMCMCサンプルに既知のターゲットからの別のサンプル、たとえば、、での最良の推測を追加し、実行することです。データの背後にある分布のインデックスのロジスティック回帰（ 1、 0 ）。回帰変数は、両方の密度の値であり、正規化されているかどうかは関係ありません。これは、Gelman and Meng（1997）ブリッジサンプリングと直接リンクしているため、異なるターゲットからのサンプルもリサイクルされます。そして、MengのMLEのような後のバージョン。$\pi(\theta|x)$$\pi(\theta|x)$$g(\theta)$$\pi(\theta|x)$$g(\theta)$
4. 特定のMCMCサンプラーを強制的に実行させる別のアプローチは、Skillingのネストされたサンプリングです。I [その他]は方法の効率性に関するいくつかの予約を持っているが、それはのような利用可能なソフトウェアで、astrostatisticsと宇宙論ではかなり人気がありmultinest。
5. 最後の[常に可能とは限らない可能性のある]解決策は、帰無仮説が組み込まれている場合にベイズ因子のサベージディッキー表現を活用することです。ヌルがとして書き込む場合のパラメーターについて、およびがモデルのパラメーターの残りの[迷惑]部分である場合、、代替に対するのベイズ因子は、 ここで、は、特定の値での周辺事後密度を示します$H_0: \theta=\theta_0$$\xi$$\pi_1(\theta)\pi_2(\xi)$$H_0$ πθ（θ0|X）θθ0H0：θ $$\mathfrak{B}_{01}(x)=\dfrac{\pi^\theta(\theta_0|x)}{\pi_1(\theta_0)}$$ $\pi^\theta(\theta_0|x)$$\theta$$\theta_0$。null下の周辺密度の場合 は閉じた形式では、制約のないモデルの限界密度を導出できます ベイズ因子の。（このSavage-Dickey表現は、3つの異なる密度の特定のバージョンに依存しているため、限界後部を生成する計算上の課題については言及していませんが、危険に満ちています。）$H_0: \theta=\theta_0$ $$m_0(x)=\int_\Xi f(x|\theta_0,\xi)\pi_2(\xi)\text{d}\xi$$ $$m_a(x)=\int_{\Theta\times\Xi} f(x|\theta,\xi)\pi_1(\theta)\pi_2(\xi)\text{d}\theta\text{d}\xi$$

[これは、昨年12月のNIPSワークショップの正規化定数の推定について書いたスライドのセットです。]