MCMCとデータ拡張

私はMCMCデータ拡張に関する質問を検討してきました。質問の一般的な形式は次のとおりです。

プロセスで収集されたデータがを示唆しており、rateパラメーターの事前として示唆されているとします。データは標準的な形式（つまり、からまでの各値の出現数）で記録および表示されますが、収集されたデータは、（つまりおよびすべてのオカレンスは1つのカテゴリーにグループ化されます）。 $X_{i} \sim \text{Pois}(\lambda)$ $\lambda \sim \text{Exp}(\lambda_{0})$ $X_{i}$ $0$ $n$ $X_{i} \leq 1$ $X_{i} = 0$ $X_{i} = 1$

上記のデータ、可能性、事前情報を考慮して、質問では次のことが求められます。

後部形 $\lambda$ 、
である発生回数 $X_{i} = 0$ 。

私はこの質問にどのように答えるかは本当にわかりませんが、ギブスサンプリングがデータ拡張に使用できることを知っています。これをどのように行うことができるかについて誰かが何か情報を持っていますか？

編集：

私はそれが主に2番目の部分（である発生の数 $X_{i} = 0$ ）であることを確信できん。最初の部分（後方形式 $\lambda$ ）については、可能性と以前の提案が与えられたので、私は推論しました（ただし、修正してよかったのですが）。

与えられた：

π (λ | \vec{x}) \propto p (\vec{x} | λ) \times p (λ)

$\pi(\lambda|\vec{x}) \propto p(\vec{x}|\lambda) \times p(\lambda)$

したがって、上記のモデルの場合：

π (λ | \vec{x}) = \frac{λ^{\sum_{i = 1}^{n} x_{i}}}{\sum_{i = 1}^{n} x_{i}!} e^{- n λ} \times λ_{0} e^{- λ λ_{0}}

$\pi(\lambda|\vec{x}) = \frac{\lambda^{\sum_{i=1}^{n}x_{i}}}{\sum_{i=1}^{n}x_{i}!}e^{-n\lambda} \times \lambda_{0}e^{-\lambda \lambda_{0}}$

収量の簡素化：

π (λ | \vec{x}) = \frac{λ^{\sum_{i = 1}^{n} x_{i}}}{\sum_{i = 1}^{n} x_{i}!} e^{- λ (n + λ_{0})} λ_{0}

$\pi(\lambda|\vec{x}) = \frac{\lambda^{\sum_{i=1}^{n}x_{i}}}{\sum_{i=1}^{n}x_{i}!}e^{-\lambda(n+\lambda_{0})}\lambda_{0}$

これは次のように比例します（したがって、事後形式は次のように与えられます）。

π (λ | \vec{x}) \propto λ^{\sum_{i = 1}^{n} x_{i}} e^{- λ (n + λ_{0})} λ_{0}

$\pi(\lambda|\vec{x}) \propto \lambda^{\sum_{i=1}^{n}x_{i}}e^{-\lambda(n+\lambda_{0})}\lambda_{0}$

— user9171
ソース

あなたの答えは、0と1に等しい観測値が一緒にマージされるという事実を考慮していません。計算したのは、集約またはマージされたデータではなく、完全なポアソンデータの事後です、。 $(X_1,\ldots,X_n)$ $(X_1^*,\ldots,X^*_n)$

観測がまたは対応し、観測からに対応する場合の規則を採用すると、観測ベクトルの密度は（いくつかの代数と因数分解の後）ここで、はの回数は1です。上記の括弧の間の最後の項は、ポアソンドローで0または1になる確率です。 $X_i^*=1$ $X_i=1$ $X_i=0$ $X_i^*=k>1$ $X_i=k$ $(X_1^*,\ldots,X^*_n)$

π (λ | x_{1}^{*}, \dots, x_{n}^{*}) \propto λ^{\sum_{i = 1}^{n} x_{i}^{*} I (x_{i}^{*} > 1)} \exp {- λ (λ_{0} + n)} \times {1 + λ}^{n_{1}}

$\pi(\lambda|x_1^*,\ldots,x^*_n) \propto \lambda^{\sum_{i=1}^n x_i^*\mathbb{I}(x_i^*>1)} \exp\{-\lambda(\lambda_0+n)\} \times \{1+\lambda\}^{n_1}$

n_{1}

$n_1$

x_{i}^{*}

$x_i^*$

したがって、これはあなたの真/観察された事後です。そこから、Gibbsサンプラーを実装できます。

"行方不明の観察"は、所与の生成即ちシミュレート、および観察をで与えられる、 $\lambda$ $p(x_i|\lambda,x_i^*=1)$ $P (x_{i} = 0 | λ, x_{i}^{*} = 1) = 1 - P (x_{i} = 1 | λ, x_{i}^{*} = 1) = \frac{1}{1 + λ} .$ $\mathbb{P}(x_i=0|\lambda,x_i^*=1)=1-\mathbb{P}(x_i=1|\lambda,x_i^*=1)=\dfrac{1}{1+\lambda}\,.$
「完了したデータ」を指定して生成します。これは、すでに計算したになります。 $\lambda$ $λ | x_{1}, \dots, x_{n} \sim G (\sum_{i} x_{i} + 1, n + λ_{0})$ $\lambda|x_1,\ldots,x_n \sim \mathcal{G}(\sum_i x_i + 1,n+\lambda_0)$

（詳細が必要な場合は、George Casellaを含む私のMonte Carlo Statistical Methodsの本の例9.7、p.346でこの設定を正確にカバーしています。）

— 西安
ソース

（2）マルコフ連鎖は反復的であるため、任意のMCMCアルゴリズムは任意の値で開始できます。これは、マルコフ連鎖モンテカルロ法の背後にある中心的な考え方です。は事前のパラメーターであることに注意してください。これは事前に選択され、データが観察されると変更されません。

λ_{0}

$\lambda_0$

— 西安

（3）ギブスサンプラーのステップ2でガンマ分布からサンプリングする場合、ギブスサンプラーのステップ1で生成された完全なデータを条件とすることに注意してください。したがって、値も、のすべての値を「知っています」。との違いを理解してみてください。これは、データ拡張の原理の背後にある基本的な考え方です。

x_{i}

$x_i$

x_{i}^{*} = 1

$x_i^*=1$

x_{i}

$x_i$

x_{i}^{*}

$x_i^*$

— Xi'an

（1）部分は、グループ化された観測値に対応しています。

[{λ + 1} \exp (- λ)]^{n_{1}}

$[\{\lambda+1\}\exp(-\lambda)]^{n_1}$

— 西安

（2）これは条件付き確率です（自分で計算してみてください）：

P (x_{i} = 0 | λ, x_{i}^{*} = 1) = P (x_{i} = 0, x_{i}^{*} = 1 | λ) / P (x_{i}^{*} = 1 | λ) = P (x_{i} = 0 | λ) / P (x_{i}^{*} = 1 | λ)

$\mathbb{P}(x_i=0|\lambda,x^∗_i=1)=\mathbb{P}(x_i=0,x^∗_i=1|\lambda)/\mathbb{P}(x^∗_i=1|\lambda)=\mathbb{P}(x_i=0|\lambda)/\mathbb{P}(x^∗_i=1|\lambda)$

— 西安

（3）ギブスサンプリングは条件付きで機能します。したがって、ステップ2では、ステップ1でシミュレーションしたに条件を設定します（ステップ1では、ステップ2でシミュレーションしたを条件にします）。つまり、これらのは既知であり（次の反復で変更されますが）、合計も同様です。この基本的なポイントが不明な場合は、ギブスの紹介を必ず読む必要があります...

x_{i}

$x_i$

λ

$\lambda$ $x_i$

— 西安