確率変数の交換可能性が階層的ベイジアンモデルで不可欠なのはなぜですか？

確率変数の交換可能性が階層ベイズモデリングに不可欠なのはなぜですか？

交換可能性は階層モデルの本質的な機能ではありません（少なくとも観測レベルでは）。これは基本的に、標準的な文献からの「独立しており、同一に分布している」のベイズの類似物です。これは単に、現在の状況について知っていることを説明する方法です。つまり、「シャッフル」によって問題が変わることはありません。これについて私が考えたい1つの方法は、が与えられたがの値がれなかった場合を考えることです。その学習した場合の容疑者特定の値にあなたを導くでしょう他のものよりも、その順序は交換可能ではありません。それがについて何も教えてくれない場合$x_{j}=5$$j$$x_{j}=5$$j$$j$、シーケンスは交換可能です。exhcangeabilityは「実際」ではなく「情報内」であることに注意してください-それはあなたが知っていることに依存します。

観測変数に関して交換可能性は必須ではありませんが、交換可能性がないと基本的に観測を一緒にプールする正当な理由がないため、交換可能性の概念がないモデルに適合させることはおそらく非常に困難です。したがって、モデルのどこかに交換可能性がない場合、推論ははるかに弱くなると思います。たとえば、に対してを考えます。場合、この手段は完全に交換可能であるおよび。が条件として交換可能であれば、これは意味します$x_{i}\sim N(\mu_{i},\sigma_{i})$$i=1,\dots,N$$x_{i}$$\mu_{i}=\mu$$\sigma_{i}=\sigma$$x_{i}$$\mu_{i}$$\sigma_{i}=\sigma$。指定してが条件付きで交換可能な場合、これは意味します。ただし、これらの2つの「条件付きで交換可能な」ケースのいずれかで、問題に導入される余分なパラメータがあるため、最初のケースよりも推論の質が低下することに注意してください。交換可能性がない場合、基本的に無関係な問題があります。$x_{i}$$\sigma_{i}$$\mu_{i}=\mu$$N$$N$

基本的に交換可能性とは、部分的に交換可能な任意のとに対して、を推論できることを意味し$x_{i}\to \text{parameters}\to x_{j}$$i$$j$

「エッセンシャル」は曖昧すぎる。しかし、専門性を抑えて、シーケンスが交換可能である場合、は、観測されていないパラメーターと確率分布与えられた場合、条件付きで独立しています。つまり、です。は一変量または有限次元である必要はなく、さらに混合などとして表すことができます。X I Θ π P （X ）= ∫ P （X I | Θ ）D π （Θ ）$X=\{X_i\}$$X_i$$\Theta$$\pi$$p(X) = \int p(X_i|\Theta)d\pi(\Theta)$$\Theta$

交換可能性は、これらの条件付き独立関係により、他の方法ではほぼ確実に実現できなかったモデルに適合できるという意味で不可欠です。

そうではありません！私はここでは専門家ではありませんが、2セントを差し上げます。一般に、階層モデルがある場合、

$y|\Theta_{1} \sim \text{N}(X\Theta_{1},\sigma^2)$

$\Theta_{1}|\Theta_{2} \sim\text{N}(W\Theta_{2},\sigma^2)$

$\Theta_{2}$$\Theta_{1}$

最後に、重要なことですが、交換可能性は、De Finettiの表現定理の観点から考えたい場合にのみ重要です。事前分布は、モデルに適合させるのに役立つ正則化ツールであると考えるだけかもしれません。この場合、交換可能性の仮定は、モデルがデータに適合していることと同じです。言い換えれば、ベイジアン階層モデルをデータによりよく適合させる方法と考える場合、交換性はどのような意味でも不可欠ではありません。