完全な条件文は共同分布を決定できますか？

（ギブスサンプリングで使用される）すべての完全な条件式が共同分布を決定できると聞きました。しかし、その理由と方法がわかりません。それとも聞き間違えましたか？ありがとう！

distributions

— ティム
ソース

この一見単純そうな質問は見た目よりも深く、Hammersley-Cliffordの定理までずっと導いてくれます。完全な条件文から共同分布を回復できるという事実が、ギブスサンプラーを可能にします。マージナルが共同分布を決定しないことを思い出すと、これは驚くべき結果と見なされる場合があります。

結合密度、条件密度、限界密度のよく知られた定義を使用して正式に計算するとどうなるかを見てみましょう。以降我々はそして完全条件式から結合密度を正式に回復して

f_{X, Y} (x, y) = f_{X ∣ Y} (x ∣ y) f_{Y} (y) = f_{Y ∣ X} (y ∣ x) f_{X} (x),

$f_{X,Y}(x,y)=f_{X\mid Y}(x\mid y)\,f_Y(y)=f_{Y\mid X}(y\mid x)\,f_X(x) \, ,$

\int \frac{f_{Y ∣ X} (y ∣ x)}{f_{X ∣ Y} (x ∣ y)} d y = \int \frac{f_{Y} (y)}{f_{X} (x)} d y = \frac{1}{f_{X} (x)},

$\int \frac{f_{Y\mid X}(y\mid x)}{f_{X\mid Y}(x\mid y)}dy = \int \frac{f_Y(y)}{f_X(x)}dy = \frac{1}{f_X(x)} \, ,$

f_{X, Y} (x, y) = \frac{f_{Y ∣ X} (y ∣ x)}{\int f_{Y ∣ X} (y ∣ x) / f_{X ∣ Y} (x ∣ y) d y} . (*)

$f_{X,Y}(x,y) = \frac{f_{Y\mid X}(y\mid x)}{\int f_{Y\mid X}(y\mid x)/f_{X\mid Y}(x\mid y)\,dy} \, . \qquad (*)$

この正式な計算の問題は、関連するすべてのオブジェクトが存在することを想定していることです。

たとえば、その結果、となり、分母の積分が発散します。

X ∣ Y = y \sim Exp (y) and Y ∣ X = x \sim Exp (x) .

$X\mid Y=y\sim\text{Exp}(y) \qquad \text{and} \qquad Y\mid X=x\sim\text{Exp}(x) \, .$

f_{Y ∣ X} (y ∣ x) / f_{X ∣ Y} (x ∣ y) = x / y

$f_{Y\mid X}(y\mid x)/f_{X\mid Y}(x\mid y) = x /y$

(*)

$(*)$

を使用して完全条件から結合密度を回復できることを保証するには、このペーパーで説明する互換性条件が必要です。 $(*)$

「互換性のある条件付き分布」、バリーC.アーノルドとS.ジェームズプレス、アメリカ統計協会のジャーナル、Vol。84、No. 405（1989）、pp。152-156。

最後に、Robert and Casellaの本の Hammersley-Clifford定理に関する議論を読んでください。

— 禅
ソース

「不可欠な....が存在する」とはどういう意味ですか？ここには2つの異なる問題があるようです。（i）積分存在しますか？（ii）積分が存在する場合、その値はですか？または、とが存在するような条件付き密度があるときはいつでもでは、積分の値はますか？

\int \frac{f_{Y ∣ X} (y ∣ x)}{f_{X ∣ Y} (x ∣ y)} d y

$\int \frac{f_{Y\mid X}(y\mid x)}{f_{X\mid Y}(x\mid y)}dy$

\frac{1}{f_{X} (x)}

$\frac{1}{f_X(x)}$

X

$X$

Y

$Y$

\int \frac{f_{Y ∣ X} (y ∣ x)}{f_{X ∣ Y} (x ∣ y)} d y

$\int \frac{f_{Y\mid X}(y\mid x)}{f_{X\mid Y}(x\mid y)}dy$

\frac{1}{f_{X} (x)}

$\frac{1}{f_X(x)}$

— Dilip Sarwate 2014年

ありがとう、@ Zen！とは決定でき、とはも決定できます。（1）またはどちらがより多くの情報を提供しますか？（2）、または冗長性の少ない/重複する情報を提供するのはどれですか。（3）とのうち、一方がもう一方の情報をすでに提供していますか（これは、一方が他方につながることを意味するので、私は疑います）？私はそれがの情報間の「交差点」で推測との

f_{Y}

$f_Y$

f_{X | Y}

$f_{X|Y}$

f_{X, Y}

$f_{X,Y}$

f_{Y | X}

$f_{Y|X}$

f_{X | Y}

$f_{X|Y}$

f_{X, Y}

$f_{X,Y}$

f_{Y}

$f_Y$

f_{Y | X}

$f_{Y|X}$

f_{X | Y}

$f_{X|Y}$

f_{Y}

$f_Y$

f_{Y | X}

$f_{Y|X}$

f_{Y}

$f_Y$

f_{Y | X}

$f_{Y|X}$

f_{Y}

$f_Y$

f_{Y | X}

$f_{Y|X}$ と共に、決定。

f_{X | Y}

$f_{X|Y}$

f_{X, Y}

$f_{X,Y}$

— Tim

@Timさん、こんにちは。あなたについての不確実性を表すしながら、についてのあなたの不確実性を表すあなたは知っているの価値ことを考えると、。「どちらがより多くの情報を含んでいますか？」簡単な質問ではありません。場合と（アーノルドとプレスの意味で）互換性があり、それらは決定を通して。

f_{Y}

$f_Y$

Y

$Y$

f_{Y ∣ X}

$f_{Y\mid X}$

Y

$Y$

X

$X$

f_{X ∣ Y}

$f_{X\mid Y}$

f_{Y ∣ X}

$f_{Y\mid X}$

f_{X, Y}

$f_{X,Y}$

(*)

$(*)$

— Zen

私は現在、同じ問題に苦しんでいます。互換性のある条件付き分布の必要性に少し戸惑っています。Gibbsサンプリングの紹介（少なくとも私が読んだもの）では紹介されていないためです。または、互換性のある条件付き分布の必要性は、例えば（*）によって共同分布を正式に回復しようとする場合にのみ当てはまりますか。-> Gibbs Samplingによる共同分布を近似していませんか？

— sklingel

統計的問題に適用される通常のギブスサンプリング設定では、結合確率（事後）分布が存在することを前提としているため、この結合分布から導出される完全な条件式は互換性があります。このケース以外では、ギブスサンプリングは無意味です。

— 西安