なぜ弱いと考え分散に先立って？

バックグラウンド

最も一般的に使用される分散の弱い事前分布の1つは、パラメーターの逆ガンマです（Gelman 2006）。 $\alpha =0.001, \beta=0.001$

ただし、この分布の90％CIは約です。 $[3\times10^{19},\infty]$

library(pscl)
sapply(c(0.05, 0.95), function(x) qigamma(x, 0.001, 0.001))

[1] 3.362941e+19          Inf

このことから、は分散が非常に高くなる可能性が低く、分散が1未満になる非常に低い確率であると解釈します。 $IG(0.001, 0.001)$ $P(\sigma<1|\alpha=0.001, \beta=0.001)=0.006$

pigamma(1, 0.001, 0.001)
[1] 0.006312353

質問

私は何かを見逃していますか、これは実際に有益な事前ですか？

明確にするために更新しますが、この「情報」を検討していた理由は、分散が非常に強く、これまでに測定されたほとんどすべての分散のスケールをはるかに超えると主張しているためです。

フォローアップ分散推定値の多数のメタアナリシスでは、より合理的な前を提供するだろうか？

参照

Gelman2006。階層モデルの分散パラメーターの事前分布。ベイジアン分析1（3）：515–533

bayesian multilevel-analysis prior

— デビッド・ルバウアー
ソース

「真の」非有益な事前分布は分布ではありません。そのため、P（sigma <1）などの事前確率はありません。

— ステファンローラン

回答:

逆ガンマ分布を使用すると、次のようになります。

p (σ^{2} | α, β) \propto (σ^{2})^{- α - 1} \exp (- \frac{β}{σ^{2}})

$p(\sigma^2|\alpha,\beta) \propto (\sigma^2)^{-\alpha-1} \exp(-\frac{\beta}{\sigma^2})$

および場合、逆ガンマはジェフリーズ事前に近づくことが簡単にわかります。この分布は、ジェフリーズ事前分布への適切な近似であるため、「情報価値のない」と呼ばれます。 $\beta \rightarrow 0$ $\alpha \rightarrow 0$

p (σ^{2}) \propto \frac{1}{σ^{2}}

$p(\sigma^2) \propto \frac{1}{\sigma^2}$

これは、たとえば、スケールのパラメーターについては有益ではありません。18ページを参照してください。これは、スケールの変化下で不変のままであるのはこの事前分布のみであるためです（近似は不変ではないことに注意してください）。これは、の不定積分有するの範囲であれば、それは不適切であることを示しいずれか含ままたは。しかし、これらのケースは数学の問題にすぎず、現実の問題ではありません。分散の無限値を実際に観測しないでください。観測された分散がゼロの場合、完全なデータが得られます！。下限を、上限を設定できます $\log(\sigma^2)$ $\sigma^2$ $0$ $\infty$ $L>0$ であり、分布は適切です。 $U<\infty$

これは大きな情報よりも小さな変動を好むという点で「情報価値がない」ことは奇妙に思えるかもしれませんが、これは1つの尺度にすぎません。あなたが見ることができます不適切な均一な分布を持っています。したがって、この事前は、他のどのスケールよりも1つのスケールを優先しません。 $\log(\sigma^2)$

あなたの質問とは直接関係ありませんが、とではなく、ジェフリーズ事前分布の上限と下限とを選択することにより、「より良い」非有益な分布を提案します。通常の制限は、何の思考のビットをかなり容易に設定することができ実際に現実の世界で意味します。何らかの物理量のエラーである場合、は原子のサイズ、または実験で観察できる最小サイズより小さくすることはできません。さらに $L$ $U$ $\alpha$ $\beta$ $\sigma^2$ $L$ $U$ 地球よりも大きくすることはできませんでした（または、本当に保守的になりたい場合は太陽）。この方法は、あなたはあなたの不変の性質を維持し、その簡単に前からサンプルへ：テイク、およびなどの後、シミュレート値。 $q_{(b)} \sim \mathrm{Uniform}(\log(L),\log(U))$ $\sigma^{2}_{(b)}=\exp(q_{(b)})$

— 確率論
ソース

質問に答えるだけでなく、有益なアドバイスを提供するための+1。

— whuber

l o g (σ)

$log(\sigma)$

B e t a_{2} (1, 1)

$Beta_{2}(1,1)$

F_{1, 1}

$F_{1,1}$

B e t a_{2} (0, 0)

$Beta_{2}(0,0)$

— 確率

[0, \infty]

$[0,\infty]$

σ \sim e x p (U (l o g (L), l o g (U))

$\sigma\sim exp(U(log(L),log(U))$

σ \sim U (L, U)

$\sigma\sim U(L,U)$

— デビッドルバウアー

(0, \infty)

$(0, \infty)$

α = 1, β = 1 / 2

$\alpha=1, \beta=1/2$

フラットにかなり近いです。中央値は1.9 E298で、倍精度浮動小数点演算で表現できるほぼ最大の数値です。あなたが指摘するように、それが本当に大きくない任意の間隔に割り当てる確率は本当に小さいです。それより情報量が少なくなるのは難しいです！

— ウーバー
ソース

ご説明ありがとうございます。私は収束の問題に直面しており、私が扱う変数の多くが平均値<1000（つまり、1000 gを超える場合はkgで測定）であり、分散はほぼ同じオーダーであることに驚いた大きさ。そのため、その値や分割方法について十分な事前知識がない場合でも、この情報を組み込む事前情報がさらに必要であることを認識しています。

— デビッドルバウアー

モデルに応じて、あなたの後部には、この従来使用して不適切に非常に近いかもしれない

— JMS