なぜ共役事前分布の混合物が重要なのですか？

共役事前分布の混合について質問があります。ベイジアンを学習しているときに、共役事前分布の混合を数回学び、言いました。この定理がなぜそれほど重要であるのか、ベイジアン分析を行うときにどのようにそれを適用するのでしょうか。

具体的には、Diaconis and Ylivisaker 1985の定理の1つが次のように定理を示しています。

指数ファミリーからのサンプリングモデル与えられると、事前分布は共役事前分布の有限混合によって近似できます。$p(y|\theta)$

より具体的には、事前の与えられると、事後を導出できます：$p(\theta)=\int p(\theta|\omega)p(\omega)d\omega$

$p(\theta|Y)\propto\int p(Y|\theta)p(\theta|\omega)p(\omega)d\omega\propto\int \frac{p(Y|\theta)p(\theta|\omega)}{p(Y|\omega)}p(Y|\omega)p(\omega)d\omega\propto \int p(\theta|Y, \omega)p(Y|\omega)p(\omega)d\omega$

したがって、

$p(\theta|Y)=\frac{\int p(\theta|Y, \omega)p(Y|\omega)p(\omega)d\omega}{\int p(Y|\omega)p(\omega)d\omega}$

一般的な/任意の事前分布を使用して事後分布を直接計算することは困難な作業です。

一方、共役事前分布の混合物を使用して事後分布を計算することは、与えられた事前分布の混合物が対応する事後分布の同じ混合物になるため、比較的単純です。

[特定の事前分布が共役事前分布の有限混合によって非常によく近似される場合も多くあります。これにより、多くの状況で適用が非常に簡単で実用的なアプローチが可能になり、近似する事後分布が非常に近くなります。正確なものに。]

@Glen_bの答えを少し拡張するために、1つの含意は、非共役事前分布が使用される場合、非共役事前分布を共役事前分布の混合で最初に近似し、次に直接近似の後。

ただし、一般に、この方法を使用するのは非常に難しいようです。混合事前を非共役事前に任意に近づけることができるのは事実ですが、一般に、有限近似では何らかのエラーが発生します。以前の小さなエラーは、後部の大きなエラーに簡単に伝播する可能性があります。たとえば、事前分布が極端な尾を除いてよく近似されているが、データがパラメーター値が極端な尾部にあるという強力な証拠を提供する場合、事前分布の極端な尾部でのこれらのエラーは、後部。