混合分布の逆CDFサンプリング

コンテキスト外のショートバージョン

ましょう $y$ CDFを有する確率変数である

F (\cdot) \equiv {\begin{cases} θ & y = 0 \\ θ + (1 - θ) \times {CDF}_{log-normal} (\cdot; μ, σ) & y > 0 \end{cases}

$F(\cdot) \equiv \cases{\theta & y = 0 \\ \theta + (1-\theta) \times \text{CDF}_{\text{log-normal}}(\cdot; \mu, \sigma) & y > 0}$

逆CDF法を使用して描画をシミュレートしたいとしましょう $y$ 。それは可能ですか？この関数は、厳密には逆を持ちません。次に、2つの正規分布の混合分布の逆変換サンプリングがあります。これは、ここで逆変換サンプリングを適用する既知の方法があることを示唆しています。

2ステップの方法は知っていますが、自分の状況に適用する方法がわかりません（以下を参照）。

背景付きロングバージョン

MCMC（具体的には、Stan）を使用して、ベクトル値応答 $y^i = \left( y_1 , \dots , y_K \right)^i$ に次のモデルを適合させました。

θ_{k}^{i} \equiv {logit}^{- 1} (α_{k} x^{i}), μ_{k}^{i} \equiv β_{k} x^{i} - \frac{σ_{k}^{2}}{2} F (\cdot) \equiv {\begin{cases} θ & y = 0 \\ θ + (1 - θ) \times {CDF}_{log-normal} (\cdot; μ, σ) & y > 0 \end{cases} u_{k} \equiv F (y_{k}), z_{k} \equiv Φ^{- 1} (u_{k}) z \sim N (0, R) \times \prod_{k} f (y_{k}) (α, β, σ, R) \sim priors

$\theta_k^i \equiv \operatorname{logit}^{-1}\left( \alpha_k x^i \right), \quad \mu_k^i \equiv \beta_k x^i - \frac{ \sigma^2_k }{ 2 } \\ F(\cdot) \equiv \cases{\theta & y = 0 \\ \theta + (1-\theta) \times \text{CDF}_{\text{log-normal}}(\cdot; \mu, \sigma) & y > 0} \\ u_k \equiv F(y_k), \quad z_k \equiv\Phi^{-1}{\left( u_k \right)} \\ z \sim \mathcal{N}(\mathbf{0}, R) \times \prod_k f(y_k) \\ \left( \alpha, \beta, \sigma, R \right) \sim \text{priors}$

ここで、観測値にインデックスを付け、は相関行列、は予測子/リグレッサ/特徴のベクトルです。 $i$ $N$ $R$ $x$

つまり、私のモデルは、応答の条件付き分布がゼロ膨張した対数正規限界をもつガウスコピュラであると想定される回帰モデルです。以前このモデルについて投稿したことがあります。Song、Li、およびYuan（2009年、gated）がそれを開発し、ベクターGLM、またはVGLMと呼んでいることがわかりました。以下は、私はそれを得ることができるように逐語的に近いとしてのそれらの仕様であるマイそれらに対応し、私のそれらに相当、および私のそれらに対応し。詳細は62ページ（PDFファイルの3ページ）にありますが、それ以外はここで書いたものと同じです。

f (y; μ, φ, Γ) = c {G_{1} (y_{1}), \dots, G_{m} (y_{m}) | Γ} \prod_{i = 1}^{m} g (y_{i}; μ_{i}, φ_{i}) c (u | Γ) = {| Γ |}^{- 1 / 2} \exp (\frac{1}{2} q^{T} (I_{m} - Γ^{- 1}) q) q = {(q_{1}, \dots, q_{m})}^{T}, q_{i} = Φ^{- 1} (u_{i})

$f(\mathbf{y}; \mathbf{\mu}, \mathbf{\varphi}, \Gamma) = c\{ G_1(y_1), \dots, G_m(y_m) | \Gamma \} \prod_{i=1}^m g(y_i; \mu_i, \varphi_i) \\ c(\mathbf{u} | \Gamma) = \left| \Gamma \right|^{-1/2}\exp\left( \frac{1}{2} \mathbf{q}^T \left( I_m - \Gamma^{-1} \right) \mathbf{q} \right) \\ \mathbf{q} = \left( q_1, \dots, q_m \right)^T, \quad q_i = \Phi^{-1}(u_i)$

F_{K}

$F_K$

G_{m}

$G_m$

z

$z$

q

$\mathbf{q}$

R

$R$

Γ

$\Gamma$

膨張がゼロの部分は、Liu and Chan（2010、ungated）の仕様にほぼ準拠しています。

次に、推定されたパラメーターからデータをシミュレートしたいと思いますが、その方法について少し混乱しています。まず、直接（Rコードで）シミュレートできると思いました。 $y$

for (i in 1:N) {
    for (k in 1:K) {
        Y_hat <- rbinom(1, 1, 1 - theta[i, k])
        if (Y_hat == 1)
            Y_hat <- rlnorm(1, mu[i, k], sigma[k])
    }
}

$R$

$z$ $y$ $F^{-1}$

— シャドウトーカー
ソース

y

$y$

y = 0

$y=0$

0

$0$

@whuber 2つのコンポーネントの逆CDFの使用方法について混乱しています。何を描画し、何を描画し、次に何を何に接続しますか？

— シャドウトーカー、2014

0

$0$

@whuber新しい答えは私にとってそれを明確にしました。あなたがた両方に感謝します。

— シャドウトーカー、2014

回答:

背景付きの長いバージョンへの答え：

長いバージョンに対するこの回答は、別の問題にいくらか対処しており、モデルと問題を定式化するのは難しいようですので、うまくいけば、ここでそれを言い換えることにしました。

$1\le i\le I$ $y^i=(y^i_1,\ldots,y^i_K)$ $x^i$

y_{k}^{i} = {\begin{cases} 0 & with probability {logit}^{- 1} (α_{k} x^{i}) \\ \log (σ_{k} z_{k}^{i} + β_{k} x^{i}) & with probability 1 - {logit}^{- 1} (α_{k} x^{i}) \end{cases}

$y_k^i = \begin{cases} 0 &\text{ with probability }\operatorname{logit}^{-1}\left( \alpha_k x^i \right)\\ \log(\sigma_k z_k^i + \beta_k x^i) &\text{ with probability }1-\operatorname{logit}^{-1}\left( \alpha_k x^i \right)\end{cases}$

z^{i} = (z_{1}^{i}, \dots, z_{K}^{i}) \sim N_{K} (0, R)

$z^i=(z^i_1,\ldots,z^i_K)\sim\mathcal{N}_K(0,R)$

$1\le i\le I$

$z^i=(z^i_1,\ldots,z^i_K)\sim\mathcal{N}_K(0,R)$
$u^i_1,\ldots,u^i_K \stackrel{\text{iid}}{\sim} \mathcal{U}(0,1)$
$y^i_k=\mathbb{I}\left\{u^i_k>\operatorname{logit}^{-1}\left( \alpha_k x^i \right)\right\}\, \log\{ \sigma_k z_k^i + \beta_k x^i\}$ $1\le k\le K$

$(\alpha,\beta,\mu,\sigma,R)$ $y^i_ k$

— 西安
ソース

F (y^{i} | x^{i})

$F(y^i | x^i)$

y

$y$

2番目の問題はどのように難しいのですか？私はすでにモデルを推定しました、そして私は事後ドローを持っています。ここでコメントが乱雑にならないように、必要に応じてチャットを続行できます。

— シャドウトーカー、2014

ああ、一般的に、ええ。幸い、私はスタンとNo-U-Turnのサンプラーで懸命に働いています。

— シャドウトーカー、2014

コンテキスト外の短いバージョンへの答え：

F^{-} (u) = inf {x \in R; F (x) \geq u}

$F^{-}(u) = \inf\left\{ x\in\mathbb{R};\ F(x)\ge u \right\}$

X \sim F is equivalent to X = F^{-} (U) when U \sim U (0, 1) .

$X \sim F \text{ is equivalent to } X=F^{-}(U)\text{ when } U\sim\mathcal{U}(0,1)\,.$

F (y)

$F(y)$

θ

$\theta$

y = 0

$y=0$

F^{-} (u) = 0

$F^{-}(u)=0$

u \leq θ

$u\le\theta$

U (0, 1)

$\mathcal{U}(0,1)$

θ

$\theta$ 、世代はです。そうでなければ、とき、あなたは連続部分、つまりあなたのケースでは対数正規から生成することになります。つまり、最初の均一描画から独立した2番目の均一ランダム生成を使用し、を設定して対数正規生成を取得します。

X

$X$

x = 0

$x=0$

u > θ

$u>\theta$

v

$v$

y = \exp (μ + σ Φ^{- 1} (v))

$y=\exp(\mu+\sigma\Phi^{-1}(v))$

これはほとんどあなたのRコードです

Y_hat <- rbinom(1, 1, theta[i, k]) if (Y_hat == 1) Y_hat <- rlnorm(1, mu[i, k], sigma[k])

やっています。確率ベルヌーイを生成し、それがに等しい場合は、対数正規に変換します。それは確率で1に等しいのであなたがすべきである代わりに、それはに等しいとき、対数正規シミュレーションにそれを回すゼロの代わりに修正Rコードで終わります： $\theta_k^i$ $1$ $\theta_k^i$

Y_hat <- rbinom(1, 1, theta[i, k])
    if (Y_hat == 0)
        Y_hat <- rlnorm(1, mu[i, k], sigma[k])

— 西安
ソース

まとめると、私のシミュレーション手順は次のようになります：1）描画し、2））を計算し、次に3）および場合、計算しそれ以外の場合は、。正しい？

z

$z$

u_{k} = Φ (z_{k})

$u_k = \Phi(z_k)$

y_{k} = 0

$y_k = 0$

u_{k} \leq θ

$u_k \leq \theta$

y_{k} = F_{log-normal}^{- 1} (u_{k})

$y_k = F^{-1}_\text{log-normal}(u_k)$

— シャドウトーカー、2014

いいえ、不正解です。最初のユニフォームを描画して、と対数正規の間を決定します。次に、対数正規を決定した場合は、2番目のユニフォームを描画します。私の回答の編集版をご覧ください。

0

$0$

— 西安

しかし、これはコンポーネントを無視します。したがって私の質問。私は明確な編集を行い、疑似コードの間違いにも対処しました。

z

$z$

— シャドウトーカー、2014

私の答えは、短いバージョンとあなたが提供したRコードです。それがロングバージョンに役立つことを願っていますが、ジョイントモデルの式はまだ正しくありません。ユニフォームを使用せずにモデルを定義する必要があります...

y

$y$

— Xi'an

そのモデルはどのように間違っていますか？私は、を、引用した論文で提供されている式（に対応する表記）にしました。それは無効ですか？

F_{1}, \dots, F_{K}

$F_1, \dots, F_K$

G_{1}, \dots, G_{m}

$G_1, \dots, G_m$

— シャドウトーカー、2014