「重要なギブス」のサンプリング方法は機能しますか？

これはかなり珍しい、探索的な質問だと思いますので、ご容赦ください。

ギブスサンプリングに重要性サンプリングのアイデアを適用できるかどうか疑問に思っています。意味は次のとおりです。ギブスサンプリングでは、一度に1つの変数（または変数のブロック）の値を変更し、残りの変数が与えられた条件付き確率からサンプリングします。

ただし、正確な条件付き確率からサンプリングすることは不可能または簡単ではない場合があります。そのため、代わりに提案分布からサンプリングし、たとえばMetropolis-Hastings（MH）を使用します。$q$

ここまでは順調ですね。しかし、これは分岐したパスです：MHを使用する代わりに、重要度サンプリングで使用されたのと同じアイデアを使用するとどうなりますか？つまり、からサンプリングし、現在のサンプルの重要度重みを保持しますか？$q$$p/q$

より詳しく：となるように、変数と因数分解分布があるとます。各変数現在の値をサンプリングするために使用される提案確率を保持します。各ステップで、変数のサブセットを変更し、を更新します影響を受けると係数のみ）。サンプルとその重要度の重みを使用して、興味のある統計を計算します。$x_1,\dots,x_n$$\phi_1,\dots,\phi_m$$p \propto \prod_{i=1}^m \phi_i$$q_i$$x_i$$p(x)/q(x)$$p$$q$

このアルゴリズムは正しいでしょうか？そうでない場合、なぜそうではないかという明確な理由はありますか？重要なサンプリングと同じことをしているように見えますが、代わりに依存するサンプルを使用しているので、直感的にそれは私には理にかなっています。

私はこれをガウスランダムウォークモデルに実装し、重みがどんどん小さくなる（ただし、単調ではない）ので、最初のサンプルの重要性が高くなりすぎて統計が支配的になることに気付きました。各ステップで、更新された重みを明示的なブルートフォース計算と比較するため、実装にバグがないと確信しています。重みは、であり、と両方が有限数の密度の積であるため、無制限にゼロに下がらないことに注意してください。各サンプルは、まれにしかゼロにならない正規分布から取得されます。$p/q$$p$$q$

だから私はなぜ重みがそのように下がるのか、そしてこれがこの方法が実際に正しくない結果であるのかどうかを理解しようとしています。

---

次に、より正確なアルゴリズムの定義を示します。これは、変数ガウスランダムウォークに適用されます。コードは以下のとおりです。$X_1,\dots,X_n$

モデルは単にで、は固定されてい。$X_i \sim \mathcal N(X_{i-1}, \sigma^2), i = 1,\dots,n$$X_0$$0$

現在のサンプルの重みは。ここで、はガウス密度、は現在の値のサンプリング元の分布です。最初は、値を順方向にサンプリングするだけなので、で、初期の重みはです。$\frac{\prod_i p(x_i)}{\prod_i q(x_i)}$$p$$q$$q = p$$1$

次に、各ステップで、変更するを選択します。私は新しい値サンプルするためのから、この密度はのための新たな使用提案分布となるように。$j \in \{1,\dots,n\}$$x'_j$$X_j$$\mathcal N(X_{j-1},\sigma^2)$$X_j$

重みを更新するには、とに従って、古い値の密度とで除算します及び多重密度のによりと新しい値のに従っておよび。これにより、重みの分子が更新されます。$p(x_j | x_{j-1})$$p(x_{j+1} | x_j)$$x_j$$x_{j-1}$$x_{j+1}$$p(x'_j | x_{j-1})$$p(x_{j+1} | x'_j)$$x'_j$$x_{j-1}$$x_{j+1}$$p$

分母を更新するには、重みを古い提案乗算し（したがって、分母から削除）、それを除算します。$q$$q(x_j)$$q(x'_j)$

（私はを中心とする法線からをサンプリングするため、は常に等しいので、キャンセルして実装が行います実際には使用しません）。$x'_j$$x_{j-1}$$q(x'_j)$$p(x'_j | x_{j-1})$

前に述べたように、コードでは、念のため、この増分重み計算を実際の明示的な計算と比較しています。

---

参照用のコードを以下に示します。

println("Original sample: " + currentSample);
int flippedVariablesIndex = 1 + getRandom().nextInt(getVariables().size() - 1);
println("Flipping: " + flippedVariablesIndex);
double oldValue = getValue(currentSample, flippedVariablesIndex);
NormalDistribution normalFromBack = getNormalDistribution(getValue(currentSample, flippedVariablesIndex - 1));
double previousP = normalFromBack.density(oldValue);
double newValue = normalFromBack.sample();
currentSample.set(getVariable(flippedVariablesIndex), newValue);
double previousQ = fromVariableToQ.get(getVariable(flippedVariablesIndex));
fromVariableToQ.put(getVariable(flippedVariablesIndex), normalFromBack.density(newValue));
if (flippedVariablesIndex < length - 1) {
    NormalDistribution normal = getNormalDistribution(getValue(currentSample, flippedVariablesIndex + 1));
    double oldForwardPotential = normal.density(oldValue);
    double newForwardPotential = normal.density(newValue);
    // println("Removing old forward potential " + oldForwardPotential);
    currentSample.removePotential(new DoublePotential(oldForwardPotential));
    // println("Multiplying new forward potential " + newForwardPotential);
    currentSample.updatePotential(new DoublePotential(newForwardPotential));
}

// println("Removing old backward potential " + previousP);
currentSample.removePotential(new DoublePotential(previousP));
// println("Multiplying (removing from divisor) old q " + previousQ);
currentSample.updatePotential(new DoublePotential(previousQ));

println("Final sample: " + currentSample);
println();

// check by comparison to brute force calculation of weight:
double productOfPs = 1.0;
for (int i = 1; i != length; i++) {
    productOfPs *= getNormalDistribution(getValue(currentSample, i - 1)).density(getValue(currentSample, i));
}
double productOfQs = Util.fold(fromVariableToQ.values(), (p1, p2) -> p1*p2, 1.0);
double weight = productOfPs/productOfQs;
if (Math.abs(weight - currentSample.getPotential().doubleValue()) > 0.0000001) {
    println("Error in weight calculation");
    System.exit(0);
}

これは興味深いアイデアですが、いくつかの難しさがあります。

1. 標準の重要度サンプリングとは逆に、またはMetropolisedの重要度サンプリングでさえ、提案はターゲット分布と同じ空間では機能しませんが、より小さな次元の空間で機能するため、検証は不明確です[反復間で重みを維持することを強制するため、縮退に直面します]
2. 完全な条件に欠落している正規化定数は各反復で変化しますが、考慮されません[以下を参照]
3. 重みに制限はありません。反復に沿って、ギブスサンプラーのマルコフ検証と衝突する可能性がある同じインデックス更新の最後の発生を追跡しない限り、最終的に非常に大きな重みを持つシミュレーションが存在します。。適度な実験を実行し及びから反復ショー量の範囲をします。$j$$n=2$$T=10^3$7.656397e-073.699364e+04

詳細については、適切な正規化定数を含む2次元のターゲットをし、提案およびギブスサンプラーの重要性を実装します。。連続するシミュレーションの正しい重要度の重み（[任意の関数に対する正しい期待値、つまり不偏推定量を生成するという意味で]は、いずれかです ここで、とはの周辺です。または同等に $p(\cdot,\cdot)$$q_X(\cdot|y)$$q_Y(\cdot|x)$$(X,Y)$

$$\dfrac{p(x_t,y_{t-1})}{q_X(x_t|y_{t-1})m_Y(y_{t-1})}\qquad\text{or}\qquad\dfrac{p(x_{t-1},y_{t})}{q_Y(y_t|x_{t-1})m_X(x_{t-1})}$$ $m_X(\cdots)$$m_Y(\cdot)$$p(\cdot,\cdot)$ $$\dfrac{p_X(x_t|y_{t-1})}{q_X(x_t|y_{t-1})}\qquad\text{or}\qquad\dfrac{p_Y(y_{t}|x_{t-1})}{q_Y(y_t|x_{t-1})}$$ どちらの場合も、これにはターゲット下のとの[扱いにくい]限界密度が必要です。$X$$Y$$p(\cdot,\cdot)$

ここで何が起こるかを、並行して重要度を重み付けしたMetropolisアルゴリズムと比較することは価値があります。（たとえば、Schuster und Klebanov、2018を参照してください。）ターゲットが再びで、提案が場合、重要度の重み は正しい[不偏推定を生成する]ため、以前の重みを更新せず、各反復でゼロから開始します。$p(\cdot,\cdot)$$q(\cdot,\cdot|x,y)$

$$\dfrac{p(x',y')}{q(x',y'|x,y)}$$

（C.）ギブスの提案の元の重要性に対する修正は、ギブスの提案から、ベクトル全体の新しい値、たとえば 提案すること、重要度の重み は正しい[可能な正規化がないため現在は真に一定であり、以前のギブス反復から運ばれない定数]。$(x,y)$$q_X(x_t|y_{t-1})q_Y(y_t|x_{t})$

$$\dfrac{p(x_t,y_t)}{q_X(x_t|y_{t-1})q_Y(y_t|x_{t})}$$

最後の注意：コードで考慮されているランダムウォークターゲットの場合、カスケード接続により直接シミュレーションを実行できますシミュレートし、次に 与えてシミュレートします。$X_1$$X_2$$X_1$