情報のない事前分布と不適切な事前分布の違い


10

これら2種類の事前分布の違いは何でしょうか。

  • 有益ではない
  • 不適切

4
ここにいくつかのコンテキストを提供できると便利です。これらについてすでに何を理解していますか?特定の混乱点はありますか?
ガン-モニカの回復


@ティムありがとうございます。情報量少ない代わりに、情報量少ないものを探していました。
Bram

回答:


17

σdπΘ

Θdπ(θ)=+
Θ
Θdπ(θ)=1
  1. すべての適切なベイジアン手順ではない、適切なベイジアン手順の一連の制限。
  2. Waldのような(許容性)完全なクラス定理のような頻度主義の最適な手順。
  3. 頻度主義の最良の不変推定量(対応する正しいHaarメジャーの下でベイズ推定として表現できるため、通常は不適切です);
  4. 情報のない事前分布(たとえば、ジェフリーズ)などの尤度関数の形状から派生した事前分布。

Θ(θ|x)dπ(θ)<+
(θ|x)dπ(θ)Θ(θ|x)dπ(θ)

警告:ベイジアン推論の1つの分岐は、不適切な事前確率、つまり、鋭い仮説をテストする場合にはあまりうまく対応しません。実際、これらの仮説では、直交する2つの事前分布(ヌルの下と代替の下の2つ)の構築が必要です。これらの事前分布の1つが不適切な場合、正規化することはできず、結果のベイズ係数は不定です。

δL(d,θ)dπ

argmindΘL(d,θ)(θ|x)dπ(θ)
L(d,θ)dπ(θ)ϖ(θ)ϖ(θ)
L(d,θ)dπ(θ)=L(d,θ)ϖ(θ)×ϖ(θ)dπ(θ)

非有益な事前分布は、以下のような尤度関数に関連する特定の情報基準の観点から決定される、(適切または不適切な)事前分布のクラスです。

  1. ラプラスの不十分な理由は、以前はフラットでした。
  2. ジェフリーズ(1939)不変事前分布。
  3. 最大エントロピー(またはMaxEnt)事前分布(Jaynes、1957)。
  4. 事前説明の長さの最小値(Rissanen、1987;Grünwald、2005);
  5. 参考文献(Bernardo、1979、1781; Berger&Bernardo、1992; Bernardo&Sun、2012)
  6. 確率マッチング事前分布(Welsh&Peers、1963; Scricciolo、1999; Datta、2005)

いくつかのクラスはKass&Wasserman(1995)に記述されています。non-informativeという名前は、完全に非情報的である先行が存在しないという点で誤称です。このフォーラムでの私の議論を参照してください。またはラリー・ワッサーマンのダイアトリブ。(情報がない事前分布は、多くの場合不適切です。)


9

95%95%

情報のない事前は、多くの場合「不適切」です。分布にはよく知られた特性があります。その積分は1に等しいです。情報量のない事前分布は、その積分が無限大の場合は不適切であると言われます(したがって、そのような場合、分布ではないことは明らかです)。


3
私は、この「非情報的」の定義を超限定的であると考える前に!
西安

@ Xi'an OPの短さを考えると、この短い答えはかなり適切だと思います。
ステファン・ローラン

@ Xi'anそれはベルナルドの引用です(多かれ少なかれ)。私は^^同意ミー
ステファン・ローラン

1
@ Xi'an私はまだ家にいませんが、ここでは 例を示します。参照事後者は、参照事前関数を使用したベイズの定理を正式に使用することによって取得されます。ベナルドは、分布ではなく、前の関数を参照すると述べています。
ステファン・ローラン

2
もっと真剣に@ Xi'an、あなたはそれがバーナードの非情報事前分布に限定的であることを意味しますか?そうです、そしておそらく他のいくつか。このトピックでは、あなたが私よりも多くの知識を持っていることを知っています。しかし、私はベルナルド指向です(そして、前のマッチングです)。
ステファン・ローラン
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.