ベイズ因子の更新


9

ベイズ因子は、仮説のベイズ検定とベイジアンモデルの選択で、2つの周辺尤度の比によって定義されます:iidサンプルとそれぞれのサンプリング密度と、対応するおよび場合、2つのモデルを比較するためのベイズ係数は 私は現在検討していますが、その奇妙な文がベイズ因子上記(x1,,xn)f1(x|θ)f2(x|η)π1π2

B12(x1,,xn)=defm1(x1,,xn)m2(x1,,xn)=defi=1nf1(xi|θ)π1(dθ)i=1nf2(xi|η)π2(dη)
B12(x1,,xn)は、「個々のもの[ベイズ係数]を掛け合わせることによって形成されます」(p.118)。これは分解 が、による更新として、この分解には計算上の利点がないようですは、元の計算と同じ計算量を必要とします
B12(x1,,xn)=m1(x1,,xn)m2(x1,,xn)=m1(xn|x1,,xn1)m2(xn|x1,,xn1)×m1(xn1|xn2,,x1)m2(xn1|xn2,,x1)××m1(x1)m2(x1)
m1(xn|x1,,xn1)m2(xn|x1,,xn1)
m1(x1,,xn)m2(x1,,xn)
外の人工おもちゃの例。

質問:ベイズ係数をからに 更新する一般的で計算効率の高い方法はありますか辺縁全体および 再計算する必要はありませんか?B12(x1,,xn)B12(x1,,xn+1)m1(x1,,xn)m2(x1,,xn)

私の直感は、ベイズ係数一度に1つずつ新しい観測値に推定することに沿って進むパーティクルフィルター以外に、この質問に答える自然な方法はないということです。B12(x1,,xn)


1
観察結果がiidであるため、この表現が必ずしも逐次的な因数分解を意味することは、私には明らかではないようです。大学院で教授は、この製品はベイズ分析に漸近近似を使用できることを示唆していると述べましたが、奇妙なことに、これは皮肉ではありませんでした。おそらく本はそれをほのめかしているのでしょうか?
Cliff AB

@CliffAB:はい、可能性を個々の項の平均として書き換え、真の分布からカルバックライブラー距離に収束できます。しかし、本はすべてのオプションを開いておくのに十分に不明瞭であるにもかかわらず、私はこれが事実であるとは思いません。
西安

1
2番目に表示される方程式にタイプミスがあると思います。2行目の2番目の因子のである必要がありますか?m1(xn1|xn1,,x1)
jochen

回答:


4

おそらく、ベイズ係数の再帰方程式の目的は、データポイントのベイズ係数を既に計算していて、さらに1つのデータポイントでこれを更新できるようにする場合です。事後関数がわかっている限り、前のデータベクトルの周辺を再計算せずにこれを行うことが可能であるように見えます。この関数の形式を知っていると(そして質問のようにIIDデータを仮定すると)、予測密度は次のように書くことができます。nπn

m(xn+1|x1,...,xn)=Θf(xn+1|θ)πn(dθ|x1,...,xn).

したがって、次のようになります。

m(x1,...,xn+1)=m(x1,...,xn)Θf(xn+1|θ)πn(dθ|x1,...,xn).

ベイズ因子を介して2つのモデルクラスを比較すると、再帰方程式が得られます。

B12(x1,...,xn+1)=B12(x1,...,xn)Θ1f(xn+1|θ)π1,n(dθ|x1,...,xn)Θ2f(xn+1|θ)π2,n(dθ|x1,...,xn).

これにはまだパラメーターの範囲での統合が含まれるため、指定した初期式を介してベイズ係数を再計算するだけの計算上の利点はないように見えるという見解には同意します。それでも、前のデータベクトルの周辺を再計算する必要がないことがわかります。(代わりに、各モデルクラスの下で、以前のデータを条件とする新しいデータポイントの予測密度を計算します。)あなたと同じように、この積分式が簡単に単純化されない限り、これの計算上の利点は実際にはわかりません。いずれにせよ、ベイズ係数を更新するための別の式が得られると思います。


ありがとうございました。辺縁は厳密に厳密に再計算する必要がないことは事実ですが、計算量は同じです。
西安

私が考えることができる唯一の利点は、(密度の積ではなく)単一の密度のみで積分しているため、被積分関数の揮発性が低くなるため、この後者の式により、計算。でもそれはすべて大きなことかもしれません。n
ベン-モニカ
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.