ベイズ後部（ベルンシュタインフォンミーゼス）の漸近正規性はいつ失敗しますか？

（いつものように）指定された事後密度関数を考える

$$\pi(\theta) \prod_{i=1}^n f(x_i;\theta),$$ 前濃度と$\pi$と分布$f(\cdot;\theta)$の$n$観測値$x_1, \dots, x_n$、パラメータ値条件とします$\theta$。

特定の条件下では、事後分布は漸近的に正規です（結果はバーンスタインフォンミーゼスの定理として知られています。厳密な引数については、egvd Vaart、漸近統計、セクション10.2、またはYoung＆Smith、Essentials of Statistical Inference、セクション9.12を参照してください。 、非公式の議論のために。）

ベイジアン事後が漸近的に正常でない（うまくいけば基本的な）例はありますか？特に、次のような例があります。

1. $\pi$と$f$はに関して連続的に微分可能$\theta$ですか？
2. $\pi(\theta) > 0$すべてのπ （θ ）> $\theta$？

文献で指摘した1つの例は、が位置パラメータθをもつ独立したコーシー確率変数であるというものです。この場合、正の確率で、尤度関数の複数の極大が存在します（Young＆Smith、例8.3を参照）。おそらくこれはB-vMの定理に問題があるかもしれませんが、よくわかりません。$X_1, \dots, X_n$$\theta$

更新： BvMの十分な条件は次のとおりです（vd Vaart、セクション10.2に記載）。

• データは、固定パラメータで分布から得られる$\theta_0$

• 実験はで「`平方平均で微分可能である正則フィッシャー情報行列を持つI （θ 0$\theta_0$$I(\theta_0)$

• 以前は、周辺地域の絶対連続である$\theta_0$

• モデルは連続的で識別可能です

• $H_0 : \theta = \theta_0$ε > $H_1 : \|\theta -\theta_0\| \geq \varepsilon$$\varepsilon > 0$

1.コーシーの例は、バーンスタインフォンミーゼスの定理と矛盾しますか？

いいえ。共同分布に微分可能な二次モーメントがない場合、バーンスタインフォンミーゼスの定理は適用されません。そして明らかに、ジョイントiidコーシー確率変数には有限の2次モーメントさえありません。この条件は、Rau-Fisherメトリックによって定義されるリーマン多様体での制限されたエネルギーの仮定を必要としますが、これはコーシーによって満たされません。

2.ベイジアン事後が漸近的に正常でない（うまくいけば基本的な）例はありますか？特に、に関してが継続的に微分可能な例はあり ますか？ for all？θ π （θ ）> 0 $\pi,f$$\theta$$\pi(\theta)>0$$\theta$

はい。確かに、私たちは（有益ではない）不適切な先行て、事後も不適切にできます。たとえば、は簡単な例です。不適切な後部は正常ではありません。たとえば、[Rubio＆Steel]（14）は、サンプルサイズがどれほど大きくても、Jeffereysが以前に不適切な事後を引き起こす例を提供しました。 F α C $\pi\propto C_0$$f\propto C_1$

参照

[Rubio＆Steel] Rubio、Francisco J.、Mark FJ Steel。「ジェフリーズの事前分布を持つ2ピースのロケーションスケールモデルの推論。」ベイズ分析9.1（2014）：1-22。