ギブスサンプリングに関連する混乱

9

私はこの記事に出くわしましたが、ギブスのサンプリングではすべてのサンプルが受け入れられます。私は少し混乱しています。受け入れたすべてのサンプルが定常分布に収束する場合はどうしてでしょうか。

一般的なMetropolisアルゴリズムでは、min（1、p（x *）/ p（x））として受け入れます。ここで、x *はサンプルポイントです。x *が密度の高い位置を指し示しているため、ターゲットの分布に移動していると想定します。したがって、バーンイン期間の後でターゲットの分布に移動すると思います。

ただし、ギブスサンプリングではすべてを受け入れるため、別の場所に移動する可能性がありますが、定常/ターゲット分布に収束していると言えますか？

分布ます。我々はない計算Zに大都市アルゴリズム我々が使用する用語缶分布組み込むを加えた正規化定数Zは相殺し。だから大丈夫 $p(\theta) = c(\theta)/Z$ $c(\theta^{new})/c(\theta^{old})$ $c(\theta)$

しかし、ギブスサンプリングでは、分布をどこで使用してい $c(\theta)$

たとえば、論文http://books.nips.cc/papers/files/nips25/NIPS2012_0921.pdfで、

ですから、サンプリングする正確な条件付き分布はありません。条件付き分布に直接比例するものだけがあります

ここに画像の説明を入力してください

mcmc gibbs metropolis-hastings

— ユーザー34790
ソース

2

p (x *) / p (x)

$p(x*)/p(x)$

6

Metropolis-Hastingsアルゴリズムを使用する場合、許容率を計算する必要があります

α = min (1, \frac{p (x^{*})}{p (x)})

$\alpha=\min(1,\frac{p(x^*)}{p(x)})$

U \sim Uniform(0,1)

$U\sim\text{Uniform(0,1)}$

U < α

$U<\alpha$

$\alpha=1$ $U$ $\alpha$ $p(x)$ 。お役に立てば幸いです。

ここに画像の説明を入力してください

1

p (θ)

$p(\theta)$

変数x1、x2、x3のランダムな値から始めて、その定常分布が必要な分布に収束していると言えますか。その基準は何ですか？

— user34790 2013

p (θ) = c (θ) / Z

$p(\theta) = c(\theta)/Z$

p (θ)

$p(\theta)$

3

なぜ常に1であるかの証明を上に追加しました。ギブスサンプリングを使用するには、完全な条件が何であるかを知る必要があります。

1

受け入れ率がタイプミスとして1に等しいことの証明、つまり中央と3番目の部分の分母では、qの式にz_i素数が必要であるため、最終的にP（z_i素数| z_i素数）が得られます。

アレックス

— user60803
ソース