Gibbs SamplerのRao-Blackwellization

私は現在、マルコフ連鎖モンテカルロ法で確率ボラティリティモデルを推定しています。これにより、ギブスとメトロポリスのサンプリング方法を実装しています。

ランダムなサンプルではなく、事後分布の平均を取ると仮定すると、これは一般にRao-Blackwellizationと呼ばれるものですか？

全体として、これは事後分布の平均に対する平均をパラメーター推定値として取得することになります。

— mscnvrsy
ソース

回答:

ランダムなサンプルではなく、事後分布の平均を取ると仮定すると、これは一般にRao-Blackwellizationと呼ばれるものですか？

私は確率論的ボラティリティモデルについてはあまり詳しくありませんが、ほとんどの設定で、後部から描画するためにギブスまたはMHアルゴリズムを選択する理由は、後部がわからないためです。多くの場合、事後平均を推定する必要があります。事後平均がわからないため、事後からサンプルを抽出し、サンプル平均を使用して推定します。したがって、事後分布から平均をどのように取ることができるかわかりません。

代わりに、Rao-Blackwellized推定量は完全な条件付きの平均の知識に依存します。それでもサンプリングは必要です。以下で詳しく説明します。

事後分布を2つの変数）で定義し、事後平均を推定したいとします。これで、ギブスサンプラーが利用可能であった場合、それを実行するか、MHアルゴリズムを実行して後方からサンプリングできます。 $\theta = (\mu, \phi$ $E[\theta \mid \text{data}]$

ギブスサンプラーを実行できる場合は、が閉じた形でわかり、この分布の平均がわかります。その意味をます。はとデータの関数であることに注意してください。 $f(\phi \mid \mu, data)$ $\phi^*$ $\phi^*$ $\mu$

これは、後部からを積分できることも意味するため、周辺後部は（これは完全にはわかっていませんが、定数まではわかっています）。ここで、が不変分布であるようなマルコフチェーンを実行し、この周辺事後からサンプルを取得します。質問は $\phi$ $\mu$ $f(\mu \mid data)$ $f(\mu \mid data)$

周辺事後からこれらのサンプルのみを使用して事後平均をどのように推定できますか？ $\phi$ $\mu$

これは、Rao-Blackwellizationを介して行われます。

\begin{aligned} E [ϕ ∣ d a t a] & = \int ϕ f (μ, ϕ ∣ d a t a) d μ d ϕ \\ = \int ϕ f (ϕ ∣ μ, d a t a) f (μ ∣ d a t a) d μ d ϕ \\ = \int ϕ^{*} f (μ ∣ d a t a) d μ . \end{aligned}

$\begin{align*} E[\phi \mid data]& = \int \phi \; f(\mu, \phi \mid data) d\mu \, d\phi\\ & = \int \phi \; f(\phi \mid \mu, data) f(\mu \mid data) d\mu \, d\phi\\ & = \int \phi^* f(\mu \mid data) d\mu. \end{align*}$

したがって、周辺事後からサンプルしたとします。次に、 $X_1, X_2, \dots X_N$ $\mu$

\hat{ϕ} = \frac{1}{N} \sum_{i = 1}^{N} ϕ^{*} (X_{i}),

$\hat{\phi} = \dfrac{1}{N} \sum_{i=1}^{N} \phi^*(X_i),$

のRao-Blackwellized推定量と呼ばれます。同じことは、関節辺縁部からシミュレーションすることによっても行うことができます。 $\phi$

例（完全にデモ用）。

サンプリングしたい後方未知結合があるとします。データはいくつかのであり、次の完全な条件式 $\theta = (\mu, \phi)$ $y$

μ ∣ ϕ, y \sim N (ϕ^{2} + 2 y, y^{2})

$\mu \mid \phi, y \sim N(\phi^2 + 2y, y^2)$

ϕ ∣ μ, y \sim G a m m a (2 μ + y, y + 1)

$\phi \mid \mu, y \sim Gamma(2\mu + y, y + 1)$

これらの条件を使用してギブスサンプラーを実行し、結合後部からサンプルを取得します。これらのサンプルをます。あなたはのサンプル平均を見つけることができます秒、それはのための事後平均のための通常のモンテカルロ推定量になり .. $f(\mu, \phi \mid y)$ $(\mu_1, \phi_1), (\mu_2, \phi_2), \dots, (\mu_N, \phi_N)$ $\phi$ $\phi$

または、ガンマ分布

E [ϕ | μ, y] = \frac{2 μ + y}{y + 1} = ϕ^{*} .

$E[\phi | \mu, y] = \dfrac{2 \mu + y}{y + 1} = \phi^*.$

ここではあなたに与えられたデータであり、したがって知られています。その場合、Rao Blackwellized推定量は $y$

\hat{ϕ} = \frac{1}{N} \sum_{i = 1}^{N} \frac{2 μ_{i} + y}{y + 1} .

$\hat{\phi} = \dfrac{1}{N} \sum_{i=1}^{N} \dfrac{2 \mu_i + y}{y + 1}.$

事後平均の推定量がサンプルを使用せず、サンプルのみを使用することに注意してください。いずれにしても、ご覧のとおり、マルコフ連鎖から取得したサンプルをまだ使用しています。これは確定的なプロセスではありません。 $\phi$ $\phi$ $\mu$

— Greenparker
ソース

したがって、パラメーターの事後分布がわかっていると仮定すると（私の知る限り、ギブスサンプリングを適用すると、偶然にも当てはまります）、ランダムサンプルではなく分布の平均を取ると、Rao-Blackwellized推定器になりますか？私はあなたの答えを正しく理解したと思います。本当にありがとうございました！

— mscnvrsy

不正解です。ギブスサンプリングでは、パラメーターの事後分布はわかりませんが、各パラメーターの完全な条件付き事後分布はわかります。2つの間に大きな違いがあります。上記では、事後はであり、これは不明です。ギブスサンプラーが機能するには、と両方を知っている必要があります。。また、2番目の理解も間違っています。周辺後部からサンプルを取得し、それらのサンプルを使用してサンプル平均を計算して、RB推定量を見つける必要があります。

f (μ, ϕ ∣ d a t a)

$f(\mu, \phi \mid data)$

f (μ ∣ ϕ, d a t a)

$f(\mu \mid \phi, data)$

f (ϕ ∣ μ, d a t a)

$f(\phi \mid \mu, data)$

μ

$\mu$

ϕ^{*}

$\phi^*$

— Greenparker

@mscnvrsy助けるための例を追加しました

— Greenparker '18

わあ、これを明確にしてくれてありがとう。したがって、完全な条件付き分布を知っていると仮定すると、条件付き分布の理論的平均を使用して、これらの理論的平均（Eφ| y、yなど）の平均を計算して、RB推定量を取得できますか？これにより、パラメーターの推定値の分散が最小限になりますか？

— mscnvrsy 2016

独立したサンプルを取得している場合、はい、推定量の分散を最小限に抑えますが、マルコフチェーンを扱っているため、RBは必ずしも分散を減少させないことが一般的に知られており、分散が増加する場合もあります。チャーリー・ガイヤーによるこの論文は、この点についていくつかの例を示しました。

— Greenparker

次に、ギブスサンプラーを使用して、辺縁後部からの（たとえば）サンプルの効率を向上させることができます。これをと呼びます。注したがって、限界密度いくつかの値での条件付き密度の期待値である所与時点で。 $\pi_2(\theta_2|y)$

\begin{array}{rcl} π_{2} (θ_{2} | y) & = & \int π (θ_{1}, θ_{2} | y) d θ_{1} \\ = & \int π_{2 | 1} (θ_{2} | θ_{1}, y) π_{1} (θ_{1} | y) d θ_{1} \\ = & E (π_{2 | 1} (θ_{2} | θ_{1}, y)) \end{array}

$\begin{eqnarray*} \pi_2(\theta_2|y)&=&\int \pi(\theta_1,\theta_2|y)d\theta_1\\ &=&\int \pi_{2|1}(\theta_2|\theta_1,y)\pi_1(\theta_1|y)d\theta_1\\ &=&E(\pi_{2|1}(\theta_2|\theta_1,y)) \end{eqnarray*}$

θ_{2}

$\theta_2$

θ_{2}

$\theta_2$

θ_{2}

$\theta_2$

θ_{1}

$\theta_1$

θ_{2}

$\theta_2$

これは、条件分解分散がある分散分解補題ために興味深いものです。。また、です。特に、ギブスサンプラーは実現ます。その結果、を推定した方がよいは、点にを使用する従来のカーネル密度推定よりも

V a r (X) = E [V a r (X | Y)] + V a r [E (X | Y)],

$Var(X)=E[Var(X|Y)]+Var[E(X|Y)],$

V a r (X | Y)

$Var(X|Y)$

E {(X - E (X | Y))^{2} | Y}

$E\left\{(X-E(X|Y))^2|Y\right\}$

V a r (E (X | Y)) = E [(E (X | Y) - E (X))^{2}]

$Var(E(X|Y))=E\left[(E(X|Y)-E(X))^2\right]$

V a r (X) \geq V a r [E (X | Y)] .

$Var(X)\geq Var[E(X|Y)].$

(θ_{1 i}, θ_{2 i})

$(\theta_{1i},\theta_{2i})$

π_{2} (θ_{2} | y)

$\pi_2(\theta_2|y)$

{\hat{π}}_{2} (θ_{2} | y) = \frac{1}{M} \sum_{i = 1}^{M} π_{2 | 1} (θ_{2} | θ_{1 i}, y)

$\hat{\pi}_2(\theta_2|y)=\frac{1}{M}\sum_{i=1}^M\pi_{2|1}(\theta_2|\theta_{1i},y)$

θ_{2 i}

$\theta_{2i}$

θ_{2}

$\theta_2$ -条件付き分布がわかっている場合（もちろん、そもそもギブスサンプリングを使用する理由です）。

例

とが、平均ゼロ、分散1、相関 2変量正規分布であると仮定します。つまり、明らかに、わずかに、ですが、これを知らないふりをしてみましょう。が与えられたの条件付き分布がことはよく知られています。 $X$ $Y$ $\rho$

π (x, y) \propto \exp {- \frac{1}{2 (1 - ρ^{2})} (x^{2} + y^{2} - 2 ρ x y)}

$\pi(x,y)\propto\exp\left\{-\frac{1}{2(1-\rho^2)}(x^2+y^2-2\rho x y)\right\}$

Y \sim N (0, 1)

$Y\sim N(0,1)$

Y

$Y$

X = x

$X=x$

N (ρ x, 1 - ρ^{2})

$N(\rho x,1-\rho^2)$

いくつかの所与の実現の密度の"ラオ-ブラックウェル"推定でその後でとして、カーネル密度の推定値とRBアプローチを比較してみましょう $M$ $(X,Y)$ $Y$ $y$

{\hat{π}}_{Y} (y) = \frac{1}{M} \sum_{i = 1}^{M} \frac{1}{\sqrt{1 - ρ^{2}} \sqrt{2 π}} \exp {- \frac{1}{2 (1 - ρ^{2})} (y - ρ x_{i})^{2}}

$\hat\pi_Y(y)=\frac{1}{M}\sum_{i=1}^M\frac{1}{\sqrt{1-\rho^2}\sqrt{2\pi}}\exp\left\{-\frac{1}{2(1-\rho^2)}(y-\rho x_i)^2\right\}$

library(mvtnorm)

rho <- 0.5
R <- 50
xy <- rmvnorm(n=R, mean=c(0,0), sigma= matrix(c(1,rho,rho,1), ncol=2))
x <- xy[,1]
y <- xy[,2]

kernel_density <- density(y, kernel = "gaussian")
plot(kernel_density,col = "blue",lty=2,main="Rao-Blackwell estimates from conditional normals",ylim=c(0,0.4))
legend(1.5,.37,c("Kernel","N(0,1)","Rao-Blackwell"),lty=c(2,1,3),col=c("blue","black","red"))
g <- seq(-3.5,3.5,length=100)
lines(g,dnorm(g),lty=1) # here's what we pretend not to know

density_RB <- rep(0,100)
for(i in 1:100) {density_RB[i] <- mean(dnorm(g[i], rho*x, sd = sqrt(1-rho^2)))}
lines(g,density_RB,col = "red",lty=3)

RBの見積もりは、条件付きの情報を利用するため、はるかに優れていることがわかります。

— クリストフ・ハンク
ソース